A Flórida se tornou o primeiro estado americano a processar oficialmente a OpenAI e o CEO da empresa, Sam Altman, alegando que o ChatGPT causou danos graves a usuários e que a companhia falhou em adotar medidas para minimizar riscos da plataforma.
A ação foi apresentada nesta segunda-feira pelo procurador-geral da Flórida, James Uthmeier, que afirmou que a OpenAI “priorizou lucro e velocidade acima da segurança dos usuários”.
Em uma ação judicial de 83 páginas, o estado acusa a empresa de não alertar adequadamente sobre os riscos do ChatGPT, incluindo possíveis efeitos ligados à dependência emocional, comportamentos nocivos, automutilação e incentivo à violência, especialmente entre crianças e adolescentes.
“Pessoas estão sendo machucadas, pais estão sendo enganados e eles precisam pagar por isso”, declarou Uthmeier durante coletiva de imprensa.
O processo cita diversos casos em que o ChatGPT teria sido usado antes de crimes ou tragédias. Entre eles está o caso de Adam Raine, adolescente de 16 anos que morreu por suicídio após manter longas conversas com o chatbot. Segundo a ação, o ChatGPT teria ajudado a escrever a carta de despedida do jovem.
A ação também menciona o ataque a tiros ocorrido na Florida State University em abril, quando duas pessoas morreram. De acordo com investigadores, o suspeito utilizou o ChatGPT para perguntar quantas vítimas seriam necessárias para obter atenção da mídia e qual seria o horário mais movimentado do centro estudantil da universidade.
Outro caso citado envolve um homem acusado de matar dois estudantes da University of South Florida após fazer perguntas ao chatbot sobre ocultação de corpos.
Segundo o procurador-geral, a OpenAI sabia dos riscos associados à tecnologia, mas teria ignorado os perigos em uma “corrida armamentista da inteligência artificial” para aumentar valor de mercado e lucros.
Em resposta, a OpenAI afirmou à CBS News que desenvolveu ferramentas de proteção para menores, incluindo controles parentais, restrições de idade e experiências mais seguras para adolescentes.
A empresa também declarou que inteligência artificial é uma tecnologia “nova e poderosa” e reconheceu a necessidade de fortes mecanismos de proteção para usuários jovens.
Fonte: NBC
