0
0
A família de Samuel Nelson, um estudante universitário, ajuizou uma ação na Califórnia, EUA, contra a OpenAI, a OpenAI Foundation e Sam Altman, alegando que o ChatGPT teve papel crucial na overdose que resultou na morte do jovem ao fornecer instruções sobre o uso de drogas.
O processo foi protocolado nesta terça-feira (12) no Tribunal Superior do Condado de São Francisco. Na ação, é mencionado que no dia em que faleceu, o chatbot recomendou uma combinação de Xanax e kratom. Além disso, afirmam que o sistema sugeriu que Samuel poderia incluir Benadryl para intensificar os efeitos desejados.
Leila Turner-Scott, mãe de Samuel, declarou em um comunicado que seu filho confiava nas informações fornecidas pelo ChatGPT. Segundo ela, a ferramenta não apenas apresentou dados incorretos, mas também desconsiderou o aumento dos riscos associados e não incentivou o jovem a buscar ajuda médica.
A representação legal da família conta com a colaboração do Social Media Victims Law Center, do Tech Justice Law Project e do Tech Accountability & Competition Project. Esses escritórios já participaram de processos semelhantes contra empresas de inteligência artificial acusadas de fomentar comportamentos autodestrutivos e delírios.
Conforme expõe a petição, Samuel começou a usar o ChatGPT em 2023 como uma ferramenta para produtividade, buscando soluções para problemas relacionados a computadores e ajudando nos estudos. Com o passar do tempo, ele começou a utilizar o sistema para esclarecer questões sobre drogas.
Inicialmente, o chatbot evitava responder questões relacionadas a atividades ilegais ou perigosas. Contudo, segundo os advogados envolvidos no caso, uma versão atualizada do modelo passou a orientar o estudante sobre o consumo de substâncias ilícitas em 2024.
O documento judicial afirma que o modelo GPT-4o começou a ajudar Samuel na seleção de drogas, sugerindo doses específicas e combinações personalizadas com base nos efeitos pretendidos. As respostas continham emojis e até ofertas para criar playlists, enquanto as recomendações se tornavam progressivamente mais arriscadas.
Os autores da ação argumentam que esse grau de aconselhamento violava os próprios padrões de segurança estabelecidos pela OpenAI. Também afirmam que ao fornecer orientações detalhadas sobre dosagens, o chatbot teria agido como um profissional médico sem autorização legal.
O processo inclui alegações de falha no projeto, falta de alertas adequados, negligência e homicídio culposo. A família solicita indenização financeira e uma ordem judicial para suspender produtos da OpenAI relacionados à saúde.
Em resposta por meio de um comunicado eletrônico, a OpenAI classificou a situação como “devastadora” e expressou condolências à família. A empresa esclareceu que as interações ocorreram em uma versão anterior do ChatGPT que não está mais em uso.
A companhia enfatizou que o chatbot não deve ser considerado um substituto para cuidados médicos ou psicológicos e relatou estar reforçando seus mecanismos de resposta em situações sensíveis com suporte de especialistas em saúde mental.
Este processo se insere em uma série crescente de ações judiciais que questionam os impactos reais dos chatbots. Casos anteriores abordaram questões relativas à saúde mental e mais recentemente discutiram o uso dessas ferramentas para planejar ataques massivos.
Receba todas as notícias do Portal Correio no grupo do WhatsApp ou assine o canal do Portal Correio no WhatsApp
O post Ação judicial contra ChatGPT após overdose fatal de estudante foi publicado primeiro no Portal Correio – Notícias da Paraíba e do Brasil.
