Agentes de IAAula 2 de 4O agente
Ferramenta, permissão e o que pode quebrar
Cada ferramenta é uma porta. A porta de leitura não é a porta de escrita.
Uma ferramenta é uma função que o modelo pode chamar: buscar na web, ler um arquivo, consultar um banco, enviar uma mensagem, editar código. O modelo escolhe a ferramenta pela descrição que você escreveu. Descrição ambígua vira chamada errada. "Organizar os arquivos" pode significar renomear ou apagar. Escreva o que a ferramenta faz e o que ela não faz, no mesmo tamanho de uma frase de manual.
Permissão é o que separa um experimento de um incidente. Leitura de um diretório combinado é um risco. Escrita, envio e pagamento são outro. Dê a menor permissão que a tarefa exige e um limite de quantas chamadas cabem numa rodada. Sem limite, um laço de "tentar de novo" gasta cota e pode repetir um efeito colateral: dois e-mails, dois pedidos, dois débitos. Efeito que não pode repetir precisa de uma trava fora do modelo, no sistema, não numa frase pedindo para ter cuidado.
Peça um plano antes da ação quando a ação é difícil de desfazer. O plano é texto. Você lê. A execução vem depois, numa segunda etapa, com a lista do que foi autorizado. Agente que executa no mesmo passo em que inventa o plano não deixa espaço para o não.
Para fixar. Abra a lista de ferramentas de um agente que você usa ou pretende usar. Separe as de leitura das de escrita e envio. Para cada uma de escrita, escreva o que acontece se ela rodar duas vezes.
