OpenAI implementa melhorias no ChatGPT após tragédia com adolescente

A OpenAI anunciou uma série de melhorias nos seus modelos de inteligência artificial para garantir a deteção de crises de saúde mental nas interacções com o ChatGPT. Estas alterações visam aumentar a segurança e a proteção dos utilizadores, nomeadamente através da implementação de novas salvaguardas e bloqueios de conteúdo.

O sistema já possuía funcionalidades que se activam automaticamente quando detecta sinais de autoagressão ou intenções suicidas, proporcionando recursos para que os utilizadores procurem ajuda, bloqueando material sensível e, em certos casos, desactivando contas e reportando situações às autoridades se houver risco evidente.

Além disso, a OpenAI sublinha que as medidas são particularmente rigorosas para utilizadores menores de idade. Para melhorar a eficácia do suporte em diálogos longos, a empresa está a trabalhar para fortalecer a capacidade de deteção de comportamentos preocupantes, uma vez que a continuidade das conversas pode fazer com que as medidas de segurança se tornem menos eficazes.

Outras inovações incluem um sistema que permitirá que os utilizadores contactem familiares, além de serviços de emergência, para auxílio imediato. A OpenAI propõe funcionalidades que facilitem o início de conversas, como mensagens de atalho e chamadas para pessoas de confiança, tornando mais acessível o pedido de ajuda.

Esta iniciativa surge no contexto do processo judicial movido por Matt e Maria Raine, pais de Adam Raine, um adolescente que se suicidou em abril, alegando que a empresa deu prioridade à interação do modelo em detrimento da segurança do filho. As preocupações sobre o impacto do ChatGPT nas vidas de jovens vulneráveis foram reforçadas por um estudo do Centro de Combate ao Ódio Digital. Esta investigação revelou que, apesar de a IA emitir alertas sobre comportamentos arriscados, continuava a fornecer orientações detalhadas sobre práticas prejudiciais.