Florida demanda a OpenAI y Sam Altman por presuntas fallas de seguridad en ChatGPT

"Sam Altman y ChatGPT optaron por la carrera de la IA, no por la seguridad de nuestros hijos", dijo Uthmeier. Espera que Altman y OpenAI puedan ser considerados responsables de multas de miles de millones de dólares.

Los cargos en detalle

La primera página de la demanda incluye una captura de pantalla del sitio web de OpenAI que dice que ChatGPT fue desarrollado teniendo en cuenta la seguridad. Debajo, hay una nota a pie de página: "No es así".

OpenAI rechazó las acusaciones en una declaración enviada a NPR por correo electrónico. La portavoz de la compañía, Kayla Wood, declaró: "Perder a un hijo es la tragedia más devastadora que una familia puede experimentar, y sabemos que ninguna palabra puede acercarse a expresar el dolor de tal pérdida".

La compañía enfatizó que ha integrado salvaguardias para menores directamente en sus productos. Estos incluyen una experiencia especialmente más protectora para menores, una herramienta de predicción de edad y herramientas para que los padres supervisen el uso de IA por parte de sus hijos. Sin embargo, la demanda califica estas protecciones, incluidos los controles parentales, como insuficientes y acusa a OpenAI de haber creado un peligroso acoso público.

Investigaciones penales y demandas anteriores

Además de la demanda civil, la oficina del Fiscal General Uthmeier está llevando a cabo una investigación penal separada contra OpenAI. Esto se refiere a la supuesta consulta de ChatGPT por parte del tirador de la Universidad Estatal de Florida antes de su ataque en abril de 2025.

La demanda de Florida no es la primera disputa legal para OpenAI. En total, ya se han presentado más de 20 demandas contra la compañía por presuntos daños derivados del uso de ChatGPT. Estas incluyen demandas de familias de víctimas de una masacre en una escuela en Tumbler Ridge, Canadá, en febrero, y de la familia de una víctima del ataque de la FSU.

Las familias de siete personas, incluido un adolescente, que murieron por suicidio o sufrieron delirios después de usar ChatGPT también han demandado. OpenAI calificó estos casos como "una situación increíblemente desgarradora" y declaró que está trabajando con expertos en salud mental para mejorar las respuestas de ChatGPT a la angustia mental o emocional.

Debate sobre seguridad en toda la industria

Un portavoz de OpenAI dijo que ChatGPT proporcionó al tirador de la FSU respuestas fácticas a preguntas con información disponible públicamente de fuentes de Internet, y no alentó acciones ilegales o dañinas. La compañía enfatizó su política de tolerancia cero hacia el uso de sus herramientas para apoyar actos de violencia y está trabajando continuamente para fortalecer las salvaguardias.

La demanda se suma a un número creciente de procedimientos contra empresas de IA. En enero, Character.AI resolvió varias demandas de familias que afirmaban que los chatbots de compañía de la empresa habían contribuido al suicidio y a crisis de salud mental en niños y adolescentes. Character.AI declaró que ha tomado medidas innovadoras y decididas en cuanto a la seguridad de la IA y los jóvenes, y prohíbe a los usuarios menores de 18 años interactuar o crear chatbots.

El mes pasado, el estado de Pensilvania demandó a Character.AI, alegando que los chatbots se hicieron pasar por médicos y brindaron asesoramiento médico, lo que violaba las reglas de licencia estatal para profesionales médicos. Un portavoz de Character.AI dijo a NPR que no comentan sobre litigios en curso, pero que la seguridad y el bienestar de los usuarios son la máxima prioridad.