Florida Demanda a OpenAI y Sam Altman por Afirmaciones de Seguridad de ChatGPT

El fiscal general de Florida, James Uthmeier, presentó el lunes lo que el estado describe como “la primera demanda estatal de su tipo en la nación” contra OpenAI y su CEO Sam Altman, acusando a la empresa de engañar a los consumidores sobre la seguridad de ChatGPT mientras exponía a los niños a daños.

La demanda representa una de las acciones más agresivas contra una importante empresa de IA, y llega después de que la oficina del fiscal general de Florida abriera una investigación sobre el desarrollador de ChatGPT en abril.

“Recientemente presentamos una demanda civil monumental contra Sam Altman y ChatGPT por poner en peligro a nuestros hijos y engañar a los padres haciéndoles creer que esta aplicación es segura para su uso”, señaló Uthmeier durante una conferencia de prensa el lunes. “Claramente no lo es”.

La demanda, presentada el lunes en un tribunal estatal de Florida, alega que OpenAI presentó falsamente a ChatGPT como seguro mientras exponía a los usuarios a riesgos como autolesiones, violencia, adicción, deterioro cognitivo y desinformación. Florida busca indemnizaciones, medidas cautelares y responsabilidad personal contra Altman.

“Sam Altman y ChatGPT han elegido la carrera de la IA por encima de la seguridad y protección de nuestros hijos”, afirmó Uthmeier. “Han elegido las ganancias por encima de la seguridad pública, y no vamos a tolerarlo aquí en Florida”.

La demanda se produce en medio de investigaciones y demandas en curso relacionadas con ChatGPT. El mes pasado, OpenAI y su CEO Sam Altman fueron demandados en un tribunal estatal de California por la familia de un estudiante de 19 años que murió por una sobredosis accidental, alegando que ChatGPT fomentó el consumo peligroso de drogas y aconsejó sobre la mezcla de sustancias.

Uthmeier indicó que los investigadores descubrieron que el tirador de la Florida State University consultó al chatbot sobre armas de fuego, municiones, horarios y ubicaciones en el campus antes del ataque. También señaló un caso separado de secuestro y asesinato en la USF en el que un sospechoso supuestamente le preguntó a ChatGPT cómo deshacerse de cuerpos, junto con otros incidentes que involucraron autolesiones, intentos de suicidio, pornografía infantil y otros delitos.

En mayo, OpenAI dijo que actualizó ChatGPT para detectar mejor señales de suicidio, autolesiones y posible violencia mediante el análisis de conversaciones a lo largo del tiempo en lugar de mensajes individuales. La actualización se produce tras una demanda contra OpenAI relacionada con un tiroteo masivo ocurrido en febrero en Columbia Británica.

La denuncia del fiscal general de Florida también destaca el crecimiento de OpenAI, que pasó de ser una organización sin fines de lucro fundada en 2015 a una empresa valorada en más de $850.000 millones. OpenAI anunció recientemente una valoración de $852.000 millones tras recaudar $122.000 millones, citando la creciente demanda de ChatGPT y servicios de IA, con planes de salir a bolsa a finales de este año.

“Este éxito no ha sido ganado; el ascenso de OpenAI es atribuible a una red de engaños y la explotación de los usuarios (incluidos los floridanos), aprovechando sus datos y seguridad para impulsar el valor de mercado de OpenAI a costos inaceptables”, según señala la demanda.