Yuval Noah Harari, autor e professor da Universidade Hebraica de Jerusalém, e signatário da carta aberta, acrescentou numa nota pessoal que “a superinteligência provavelmente quebraria o próprio sistema operacional da civilização humana – e é completamente desnecessária. Se, em vez disso, nos concentrarmos na construção de ferramentas controláveis ​​de IA para ajudar pessoas reais hoje, poderemos obter os incríveis benefícios da IA ​​de forma muito mais confiável e segura”.

Ausentes na lista de signatários estão os atuais líderes das principais empresas de IA, incluindo OpenAI, Anthropic, Google, Meta e Microsoft – refletindo uma divisão cada vez maior entre aqueles que constroem sistemas avançados de IA e aqueles que exigem restrições.

Para as empresas, o debate surgiu num momento em que as empresas investiam milhares de milhões em infraestruturas de IA. O CEO da Meta, Mark Zuckerberg, fundou o Meta Superintelligence Labs em junho, depois de investir US$ 14,3 bilhões em Scale AI, enquanto Sam Altman, da OpenAI, disse em janeiro que a OpenAI está mudando o foco para o desenvolvimento de superinteligência.