Um novo estudo publicado na revista Medicina da Natureza levanta preocupações sobre a segurança do serviço de saúde ChatGPT Health da Open AI, que em muitos casos não recomenda atendimento de emergência quando é realmente necessário, de acordo com O Guardião.

Os pesquisadores testaram o ChatGPT Health com 60 cenários realistas de pacientes, variando de desconforto leve a condições médicas agudas. Três médicos avaliaram antecipadamente o nível de cuidados necessários e os resultados foram então comparados com as recomendações da ferramenta de IA. Em mais de metade dos casos em que um paciente deveria ter sido enviado imediatamente para o hospital, o sistema aconselhou-o a ficar em casa ou a marcar uma consulta médica regular.

Segundo o estudo, o serviço teve melhor desempenho em situações de emergência evidentes, como acidentes vasculares cerebrais ou reações alérgicas graves, mas teve dificuldade em lidar com sintomas mais complexos ou ambíguos. Os investigadores também apontam para deficiências na forma como o sistema lidava com o risco de suicídio, onde as funções de alerta por vezes desapareciam dependendo das informações adicionais adicionadas ao cenário.