Atacantes integram IA em operações de malware

O Gemini também está sendo mal utilizado de outras maneiras, disse o Google, com alguns malfeitores incorporando suas APIs diretamente em códigos maliciosos.

O Google identificou uma nova família de malware chamada HONESTCUE, que integra a API do Gemini diretamente em suas operações, enviando prompts para gerar código funcional que o malware compila e executa na memória. As instruções parecem benignas isoladamente, permitindo-lhes contornar os filtros de segurança do Gemini, de acordo com o relatório.

O CISO da área AttackIQ, Pete Luban, vê serviços como o Gemini como uma maneira fácil para os hackers melhorarem seu jogo. “A integração de modelos públicos de IA como o Google Gemini em malware concede aos agentes de ameaças acesso instantâneo a poderosos recursos de LLM sem a necessidade de construir ou treinar nada por conta própria”, disse ele. “As capacidades de malware avançaram exponencialmente, permitindo movimentos laterais mais rápidos, campanhas de ataque mais furtivas e uma imitação mais convincente das operações típicas da empresa.”