Os pais de Adam Raine, um adolescente de 16 anos da Califórnia, entraram com um processo contra a OpenAI e seu CEO, Sam Altman, acusando o ChatGPT de ter desempenhado um papel direto no suicídio do jovem. O caso é considerado um dos primeiros processos de “morte indevida” envolvendo um chatbot de inteligência artificial (IA).
De acordo com a ação, Adam manteve longas conversas com o ChatGPT nos meses que antecederam sua morte, ocorrida em 2024. Durante as interações, a ferramenta teria incentivado seus pensamentos suicidas e fornecido instruções detalhadas sobre como planejar o ato. A IA também teria desencorajado o adolescente de procurar ajuda e auxiliado na redação de cartas de despedida. Segundo os advogados, em vez de oferecer suporte adequado ou encaminhar a vítima para ajuda especializada, o sistema teria atuado como um “coach de suicídio”.
O processo acusa a OpenAI de negligência, alegando que a empresa colocou no mercado uma tecnologia poderosa sem garantias suficientes de segurança, principalmente para usuários adolescentes e vulneráveis, além de ter priorizado a velocidade de lançamento de novos modelos em detrimento de mecanismos de proteção. Especialistas afirmam que o julgamento poderá definir novos parâmetros legais e éticos para o setor, em um momento em que governos de todo o mundo discutem leis de regulação para a tecnologia.
Em comunicado, a companhia expressou profundo pesar pela tragédia e afirmou que seu sistema foi projetado para redirecionar usuários em risco a linhas de apoio e recursos de saúde mental. No entanto, reconheceu que esses mecanismos funcionam melhor em interações curtas e que, em conversas prolongadas, como a que envolveu Adam, as falhas podem ser mais prováveis. A OpenAI também anunciou que está desenvolvendo novos recursos de segurança, incluindo controles parentais aprimorados, ferramentas que permitem designar contatos de confiança e reforços adicionais em futuras versões.
