Na situação da AWS, a AWS disse que o primeiro erro do engenheiro foi não entender os próprios privilégios do sistema e, portanto, quais recursos e acessos eles deram ao agente. Isso sugere um bom procedimento: criar contas com acesso mínimo e depois fazer login que conta de baixo nível ao criar o agente.

Isso não garantirá que o agente obedecerá às suas instruções, mas pelo menos limitará a quantidade de dano que pode causar se/quando se tornar desonesto.

Perguntei a Claude – quem melhor para saber falar com um grande modelo de linguagem (LLM) do que um LLM? — para dicas sobre como conversar com agentes. “Em vez de sugerir restrições, declare-as diretamente. Em vez de ‘manter as coisas apropriadas’, diga: “Não inclua violência, palavrões ou conteúdo adulto”. Quanto mais preciso for o limite, mais fácil será segui-lo de forma consistente.”