O que é um modeloAula 3 de 4O limite

Alucinação: o que conferir

O texto flui mesmo quando o fato não existe. O hábito é saber onde olhar.

4 min

Alucinação, aqui, é a resposta fluente sobre algo que não aconteceu, não existe ou está com o detalhe errado. Não é uma falha rara de um modelo ruim. É o comportamento normal de um sistema que completa texto. Citação inventada, função que não existe na biblioteca, artigo com autor trocado e data deslocada em um ano são formas comuns. O perigo é o texto estar bem escrito, porque a gente confere menos o que parece pronto.

Confira o que dói se estiver errado. Número, nome de pessoa, nome de lei, caminho de arquivo, comando que apaga dado e qualquer frase que você publicaria com a sua assinatura. Formato, rascunho e lista de hipóteses podem seguir sem essa conferência, desde que você não as trate como fato. Peça a fonte e abra. Se a fonte não abre, o fato não entrou.

Quando o modelo não sabe, o melhor resultado é ele dizer isso. Você aumenta essa chance com uma instrução clara: se não estiver no texto que eu colei, diga que não está, em vez de completar. Mesmo assim, confira. A instrução reduz o problema e não acaba com ele. Um colega que sempre responde não é um colega que sempre acerta.

Para fixar. Peça cinco referências sobre um assunto que você conhece bem. Abra cada uma. Marque quais existem, quais existem com o título errado e quais foram inventadas. Esse placar vale mais do que a confiança da resposta.

Comentar esta aula

+5 XP

Algo que você viu funcionar: ferramenta, prompt, atalho.

0/2000

Escreva pelo menos 20 caracteres (faltam 20).