Controles tradicionais inadequados

Os navegadores de IA podem navegar em sites de forma autônoma, preencher formulários e concluir transações enquanto estão autenticados em recursos da web. Como ele e seus colegas escreveram em seu relatório, isso torna os navegadores de IA suscetíveis a novos riscos de segurança cibernética, “como ações indiretas de agentes desonestos induzidas por injeção imediata, ações errôneas de agentes baseadas em raciocínio impreciso e mais perda e abuso de credenciais se o navegador de IA for enganado e navegar autonomamente para um site de phishing”.

“Os controlos tradicionais são inadequados para os novos riscos introduzidos pelos navegadores de IA e as soluções estão apenas começando a surgir”, disse Mirolyubov. “Existe uma grande lacuna na inspeção de comunicações multimodais com navegadores, incluindo comandos de voz para navegadores de IA.”

A injeção imediata continua sendo uma preocupação particular, reconheceu Dane Stuckey, CISO da OpenAI, em uma postagem para Xantigo Twitter, um dia após o lançamento do ChatGPT Atlas: “A injeção imediata continua sendo um problema de segurança não resolvido e de fronteira, e nossos adversários gastarão tempo e recursos significativos para encontrar maneiras de fazer com que os agentes do ChatGPT caiam nesses ataques”.