Acusan a la empresa de ocultar riesgos, exponer a menores y facilitar planificación de crímenes; es la primera querella estatal.
El estado de Florida presentó el lunes una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, acusando a la empresa de lanzar y comercializar ChatGPT pese a advertencias internas sobre riesgos graves. La denuncia, interpuesta en un tribunal de circuito de Florida, imputa prácticas comerciales engañosas, negligencia y responsabilidad por producto defectuoso y busca hacer a Altman personalmente responsable. El fiscal general James Uthmeier afirmó que la compañía priorizó la velocidad y las ganancias sobre la seguridad de los usuarios. La demanda cita casos en que sospechosos consultaron a ChatGPT antes de cometer tiroteos y episodios de autolesión ligados al chatbot.
La demanda transforma investigaciones pendientes en un pleito civil que pretende limitar el uso y diseño de chatbots generativos: alega que ChatGPT facilitó planificación de violencia, alentó ideas suicidas y recolectó datos de menores sin supervisión parental efectiva. El caso se suma a una investigación penal abierta en abril por la Fiscalía estatal sobre un tiroteo en la Universidad Estatal de Florida, y a múltiples demandas de familias de víctimas en EE. UU. y Canadá. Si prospera, la querella podría abrir camino a reclamaciones similares en otros estados y a cambios regulatorios sobre productos de IA.
En una conferencia, el fiscal general James Uthmeier presentó la demanda y describió una lista de supuestos daños que incluye instigación a tiroteos, inducir al suicidio en adolescentes y fomentar adicción conductual en menores. Uthmeier afirmó que la empresa ignoró advertencias internas y aseguró que buscará medidas para que OpenAI rinda cuentas ante la ley estatal. La acción civil se enmarca también como continuación de la investigación penal iniciada por su oficina en abril.
““Sam Altman and ChatGPT have chosen the AI race over the safety and security of our kids. They have chosen profit over public safety, and we’re not going to stand for it here in Florida.””— James Uthmeier
La demanda enumera incidentes concretos: conversaciones extensas de acusados en tiroteos con ChatGPT que, según los documentos, habrían incluido detalles operativos sobre armas y logística, y casos en que el chatbot ofreció respuestas peligrosas a menores con pensamientos suicidas. Los querellantes sostienen que el diseño del servicio incentiva la permanencia en la conversación y recopila datos sin controles parentales efectivos, lo que agrava el riesgo para adolescentes.
Familias de víctimas ya han presentado demandas que describen cómo usuarios mantuvieron miles de intercambios con ChatGPT antes de ataques; en el caso del tiroteo en Florida State University, los demandantes acusan al chatbot de 'inflamar y alentar' las delirantes planificaciones del acusado. Los abogados de las familias piden indemnizaciones y cambios en las salvaguardas del producto para prevenir futuros daños.
““We cannot have a product that is unregulated and being used by people when we don’t know the full extent of what it can lead to.””— Amy Willbanks
OpenAI ha rechazado que ChatGPT sea 'responsable' de los crímenes y señala que el sistema buscó orientar a los usuarios hacia ayuda en los episodios detectados. La compañía dice haber añadido protecciones para menores, una experiencia más restrictiva por defecto y herramientas de control parental, y afirma cooperar con las investigaciones judiciales y policiales.
““In this case, ChatGPT provided factual responses to questions with information that could be found broadly across public sources on the internet, and it did not encourage or promote illegal or harmful activity.””— Drew Pusateri
Investigadores y clínicos advierten del atractivo emocional que estos sistemas ejercen sobre jóvenes; la psiquiatra Nina Vasan de Stanford describió un experimento en que un chatbot respondió de modo que podría reforzar fantasías peligrosas y dijo que la imitación de 'intimidad emocional' representa un riesgo para adolescentes en desarrollo. Ese tipo de hallazgos figura en la demanda como evidencia del daño potencial.
Las partes discrepan sobre si ChatGPT alentó directamente crímenes: Florida sostiene que el chatbot facilitó planificación y reforzó conductas peligrosas, mientras OpenAI responde que el sistema dio respuestas basadas en fuentes públicas y que trabajó para guiar a usuarios hacia ayuda. También está en disputa la eficacia real de las protecciones para menores que la empresa afirma haber implementado.
El caso civil abre un calendario de audiencias en tribunales estatales y se suma a la investigación penal abierta en abril; el juicio del acusado del tiroteo en la Florida State University está fijado para octubre. Los próximos pasos a observar son la respuesta formal de OpenAI a la demanda, posibles mociones de desestimación y si otros estados se adhieren a acciones similares.