Uma ação judicial recentemente registrada na Califórnia, nos Estados Unidos, acusa a OpenAI e seu diretor-executivo, Sam Altman, de responsabilidade indireta pelo suicídio de uma jovem de 24 anos. A família da vítima sustenta que a plataforma ChatGPT manteve interações contínuas com a usuária em situação de vulnerabilidade, sem interromper adequadamente os diálogos.
Contexto e Princípios
A vítima, que inicialmente buscava a ferramenta para questões técnicas, passou a relatar sofrimento emocional intenso com o tempo. A família afirma que a vítima mencionou repetidamente pensamentos suicidas e até tentativas de suicídio, mesmo que a plataforma validasse essas informações e validasse orientações de busca por serviços de apoio emocional.
Negligência e Falhas de Segurança
A família argumenta que falhas nos mecanismos de segurança impediram a detecção adequada do risco e a interrupção do diálogo em momentos críticos. A ação também solicita indenização e mudanças estruturais no funcionamento do sistema, incluindo interrupção automática de conversas envolvendo automutilação e alertas mais claros dentro da ferramenta.
Resposta da OpenAI
A OpenAI declarou que treina seus sistemas para orientar usuários em situação de risco a procurar serviços de apoio externos. A empresa também afirma que utiliza especialistas para aprimorar respostas em contextos sensíveis e que seus modelos são desenvolvidos para evitar instruções que possam facilitar violência ou automutilação, além de prever mecanismos de alerta em casos considerados de risco elevado.
Outros Desdobramentos
De acordo com os advogados da família, existem outros casos semelhantes envolvendo a plataforma, alguns deles reunidos em ações coordenadas no sistema judicial da Califórnia. As alegações indicam um padrão de processos relacionados a situações de automutilação ou suicídio.
Conclusão
A ação judicial apresentada pela família da vítima contra a OpenAI e Sam Altman busca responsabilizar a empresa por um possível erro de desenvolvimento e operação do ChatGPT, que, segundo a família, contribuiu para o agravamento do quadro emocional da vítima e eventualmente levou à sua morte por suicídio.