As empresas que aproveitam o nosso mundo em rápida digitalização também devem ter uma compreensão sólida de como as ameaças cibernéticas estão a evoluir.

Os deepfakes de IA já estão se tornando convincentes demais para serem facilmente detectados por abordagens de bom senso. Atores maliciosos estão usando IA para encontrar vulnerabilidades e dificultar a detecção de seus ataques. E os próprios sistemas de IA representam riscos de segurança. Pesquisa por Fundição mostra que a segurança e a privacidade são as questões éticas mais prementes em torno das implementações generativas de IA.

No futuro, a computação quântica promete imenso poder e capacidades para as empresas, mas também será usada por adversários, especialmente para quebrar a criptografia.

E mais além, as tecnologias ainda em laboratório, como o armazenamento de dados baseados em ADN, a cibernética e o bio-hacking, apresentam os seus próprios desafios à segurança e à protecção de dados.

Estas são apenas algumas das formas pelas quais as tecnologias futuras colocam em risco a segurança empresarial.

Além do horizonte

De acordo com Martin Krumböck, CTO de segurança cibernética da T-Systems, as equipes de segurança podem formar uma visão mais clara das ameaças emergentes, dividindo-as em três escalas de tempo, ou “horizontes”. “Há sempre alguma coisa mudando na segurança”, diz ele.

A segurança da infra-estrutura clássica está “aqui e agora” e é uma prioridade imediata. E muitas empresas ainda apresentam lacunas na segurança da nuvem e ainda não estão preparadas para a IA.

“Estamos vendo uma adoção muito rápida da IA ​​pelas empresas”, explica Krumböck. “Ao mesmo tempo, as pessoas ignoram os riscos. Mas os riscos já existem.”

Deep fakes, usados ​​para fraudes de CEOs e CFOs, são um exemplo. “No passado, podíamos mitigar isso com um bom treinamento”, diz Krumböck. “Agora, os deep fakes estão ficando tão bons que todo aquele treinamento é jogado pela janela.”

Outras ameaças de IA incluem ataques a dados de treinamento para grandes modelos de linguagem (LLMs), injeções imediatas e ataques diretos aos próprios modelos. “Mas ainda não está na vanguarda do pensamento”, alerta.

Os CISOs e CSOs, portanto, precisam estar cientes dos riscos da IA. Mas precisam de conciliar isto com a monitorização de ameaças a longo prazo.

“Mais adiante, há questões que se tornarão importantes na segurança”, afirma Krumböck. “A mudança para a criptografia pós-quântica não se trata de responder a uma ameaça hoje, mas de se preparar para amanhã. Particularmente contra riscos de longo prazo, como ataques do tipo ‘colha agora, descriptografe mais tarde’.” As ameaças à tecnologia blockchain são outro risco a médio prazo.

Vale a pena pelo menos estar ciente dos riscos a longo prazo apresentados por disciplinas emergentes como a tecnologia de computação baseada no ADN, onde as próprias moléculas de ADN realizar processos computacionais.

“O armazenamento de DNA torna-se um enorme risco à segurança da informação porque é muito pequeno e pode ser facilmente implantado em algum lugar ou usado para contrabandear dados”, diz Krumböck. “Parece ficção científica agora, mas pode se tornar realidade.”

De volta ao futuro

É evidente que os líderes de segurança e de TI precisam de planear ameaças emergentes e informar os seus conselhos de administração.

Um método confiável é testar novas tecnologias por meio de pequenos testes. Isto ajuda a compreender o apetite ao risco da organização, juntamente com os benefícios da inovação.

Poucas empresas, porém, podem empregar equipas dedicadas de investigadores de segurança e futuristas para avaliar riscos distantes. Mas as organizações podem trabalhar com os seus parceiros de segurança, aproveitar a sua experiência e escala para olhar para o horizonte.

Sendo uma das maiores empresas do seu setor, a Deutsche Telekom e a T-Systems têm essa escala. “Isso, por si só, coloca um enorme alvo nas nossas costas e precisamos de defender a nossa própria rede de telecomunicações dia após dia e proteger os nossos clientes finais”, explica Krumböck.

Isso permite Sistemas T investir em pesquisas de segurança voltadas para o futuro e, principalmente, traduzir essa inteligência em informações e conselhos que os conselhos possam compreender e agir.

Quer proteger iniciativas de IA? Comece com isso e-book.

Precisa repensar a segurança abrangente? Confira isso guia.