Com um novo relatório da Gartner sugerindo que os problemas de IA irão “encerrar infraestruturas críticas nacionais” num grande país até 2028, os CIOs precisam de repensar os controlos industriais que estão a ser rapidamente entregues a agentes autónomos.

O Gartner adota o termo Sistemas Ciberfísicos (CPS) para essas tecnologias, que define como “sistemas projetados que orquestram detecção, computação, controle, rede e análise para interagir com o mundo físico (incluindo humanos). CPS é o termo abrangente para abranger tecnologia operacional (OT), sistemas de controle industrial (ICS), automação industrial e sistemas de controle (IACS), Internet Industrial das Coisas (IIoT), robôs, drones ou Indústria 4.0”.

A questão que ele cita não é tanto um sistema de IA que comete erros semelhantes a alucinações, embora isso seja certamente uma preocupação, mas que os sistemas não notarão mudanças sutis que gerentes operacionais experientes detectariam. E quando se trata de controlar diretamente infraestruturas críticas, erros relativamente pequenos podem transformar-se em desastres.