Depois de perturbadores incidentes de saúde mental envolvendo chatbots de IA, os procuradores-gerais do estado enviaram uma carta às principais empresas de IA, alertando-as para corrigirem “resultados delirantes” ou correrem o risco de ação legal. TechCrunch relatado quarta-feira.

O cartaassinado por 42 procuradores-gerais dos estados e territórios dos EUA, pediu à Microsoft, OpenAI, Google, Anthropic e outros que implementassem novas salvaguardas para proteger os usuários.

Apelou a salvaguardas, incluindo novos procedimentos de notificação de incidentes para notificar os utilizadores quando os chatbots produzem resultados prejudiciais, e auditorias transparentes por terceiros de grandes modelos de linguagem em busca de sinais de ideações delirantes ou bajuladoras.