A Flórida se tornou o primeiro estado americano a abrir um processo contra a OpenAI e seu CEO, Sam Altman, alegando que o ChatGPT foi disponibilizado ao público sem salvaguardas suficientes para proteger usuários, especialmente crianças e adolescentes. A ação foi apresentada pelo procurador-geral da Flórida, James Uthmeier, e marca um novo capítulo no debate sobre responsabilidade das empresas de inteligência artificial.
O que a Flórida alega
Segundo a ação judicial, a OpenAI teria ignorado alertas internos e externos sobre possíveis riscos associados ao uso do ChatGPT, enquanto expandia rapidamente a ferramenta para milhões de usuários. O processo afirma que a empresa teria falhado em proteger adequadamente menores de idade e usuários vulneráveis.
Dois casos de violência estão no centro da ação
O processo menciona dois casos ocorridos na Flórida nos quais os acusados teriam utilizado o ChatGPT antes dos crimes.
Um dos episódios envolve o ataque à Florida State University em 2025. Segundo documentos citados pelas autoridades, o suspeito teria feito diversas perguntas ao chatbot relacionadas à repercussão de um ataque, horários de maior movimento e outras informações antes do crime.
O segundo caso envolve o assassinato de dois estudantes da University of South Florida. Promotores afirmam que o acusado teria consultado o ChatGPT sobre questões relacionadas ao descarte de um corpo antes dos homicídios.
O que a OpenAI respondeu
A OpenAI afirma que o ChatGPT é utilizado diariamente por centenas de milhões de pessoas para fins legítimos e que a empresa mantém mecanismos de segurança para tentar impedir solicitações relacionadas a violência, crimes e outros conteúdos perigosos. A companhia também declarou que coopera com autoridades quando existem riscos concretos à segurança pública.
A empresa destacou ainda que vem implementando ferramentas adicionais para proteção de menores, incluindo sistemas de detecção de idade e recursos de supervisão familiar.
Por que o caso é tão importante
Especialistas consideram essa ação um marco porque é a primeira vez que um estado americano processa diretamente uma empresa de IA alegando riscos à segurança pública e à proteção infantil. O resultado pode influenciar futuras regulamentações sobre inteligência artificial em todo o país.
Debate sobre responsabilidade da IA cresce
Nos últimos anos, empresas de IA passaram a enfrentar questionamentos sobre:
- segurança de menores;
- saúde mental dos usuários;
- conteúdo violento;
- desinformação;
- responsabilidade por respostas geradas por sistemas de IA.
Diversos processos semelhantes já foram apresentados por famílias e vítimas em casos relacionados a violência e saúde mental.
O que a Flórida busca
O estado pede indenizações que podem chegar a bilhões de dólares e quer que a Justiça determine mudanças na forma como o ChatGPT interage com menores de idade e usuários considerados vulneráveis.
Resumindo
A ação da Flórida contra a OpenAI representa um dos maiores desafios legais já enfrentados pela indústria de inteligência artificial nos Estados Unidos.
A principal questão que será discutida pelos tribunais é:
até onde vai a responsabilidade de uma empresa de IA quando uma ferramenta é utilizada por pessoas que posteriormente cometem crimes ou causam danos a si mesmas e a terceiros?
Autor
