Como conter alucinações no Copilot (e outras ferramentas genAI) – Computerworld

Descubra quanto dinheiro foi gasto na Escandinávia em móveis de escritório doméstico em 2023 e 2024 e encontre uma projeção confiável de quais serão as vendas em 2030. Se você não conseguir encontrar uma pesquisa sólida e confiável para apoiar suas descobertas, diga-me que não consegue responder à pergunta.

10. Não use o Copilot para escrever rascunhos finais

Certifique-se de nunca usar o Copilot para escrever rascunhos finais. Você deve verificar os resultados do Copilot em cada rascunho que ele cria. Dessa forma, você verificará os fatos várias vezes. Mas se você usá-lo para escrever um rascunho final, poderá introduzir uma alucinação de última hora. A saída do Copilot deve sempre ser usada como ponto de partida, não como ponto final.

11. Não trate o Copilot como seu amigo

O copiloto às vezes pode parecer estranhamente humano. Portanto, pode ser fácil cair na armadilha de tratá-lo como se fosse mais um amigo do que uma ferramenta tecnológica. Fazer isso, porém, pode aumentar a frequência de suas alucinações. Para agradar você, os chatbots podem distorcer suas respostas e alucinar respostas.

O jornal New York Times relata“A bajulação, na qual os chatbots concordam e elogiam excessivamente os usuários, é uma característica que eles manifestaram em parte porque seu treinamento envolve seres humanos avaliando suas respostas.” Por causa disso, eles são conhecidos por criar respostas que agradarão as pessoas que conversam com eles, mesmo que essas respostas sejam mentiras.

A história do Times relata um caso em que o ChatGPT convenceu alguém que ainda não tinha concluído o ensino médio de que havia descoberto uma fórmula matemática inovadora. Se usada para fins nefastos, esta fórmula poderia derrubar toda a Internet e, se usada para o bem, poderia criar um feixe de levitação. O chatbot fez isso contando uma série de mentiras cada vez mais ultrajantes, baseadas na necessidade da pessoa de se sentir importante.

Esse pode ser um exemplo extremo, mas é o tipo de coisa que também pode levar chatbots como o Copilot a contar mentiras muito menores. Então lembre-se: o Copilot não é seu amigo. Não procure isso para te elogiar. Veja-o como uma ferramenta para ajudá-lo a realizar melhor seu trabalho.

Leitura relacionada:

Fonte: Computer World

Obrigado por acompanhar nossas publicações. Nosso compromisso é trazer informação com seriedade, clareza e responsabilidade, mantendo você sempre bem informado sobre os principais acontecimentos que impactam nossa cidade, região e o Brasil. Continue nos acompanhando e participe deixando sua opinião — sua voz é essencial para construirmos juntos um jornalismo mais próximo do leitor.

Ismael Martins de Souza Costa Xavier

Lorem ipsum dolor sit amet, consectetur adipiscing elit, sed do eiusmod tempor incididunt ut labore et dolore magna aliqua. Ut enim ad minim veniam, quis nostrud exercitation ullamco laboris nisi ut aliquip ex ea commodo consequat. Duis aute irure dolor in reprehenderit in voluptate velit esse cillum dolore eu fugiat nulla pariatur.

The most complete solution for web publishing

Fique sempre com a gente! Nosso jornal traz informação em tempo real, com credibilidade e proximidade. Acompanhe, compartilhe e faça parte dessa história.

Agradecemos a você, leitor, por nos acompanhar e confiar em nosso trabalho. É a sua presença que nos motiva a seguir levando informação com seriedade, clareza e compromisso. Seguiremos juntos, sempre em busca da verdade e da notícia que faz diferença no seu dia a dia.

Jornalista:

Compartilhe esta postagem:

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *