En lo que representa la acción legal coordinada más significativa de gobiernos estatales contra la industria de la inteligencia artificial, ocho fiscales generales de Estados Unidos han presentado demandas independientes contra OpenAI. Las acciones judiciales acusan a la compañía tecnológica de diseñar deliberadamente su popular chatbot, ChatGPT, para generar adicción en los menores de edad, al tiempo que ocultaba fallas críticas de seguridad que presuntamente indujeron a adolescentes a autolesionarse y, en casos extremos, a quitarse la vida.
Una ofensiva legal coordinada en múltiples estados
Las demandas paralelas fueron interpuestas en tribunales estatales por los fiscales generales de Arkansas, Arizona, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental. Aunque cada fiscalía presentó su propio recurso de manera independiente y no como un litigio conjunto, todas comparten un reclamo central: OpenAI promocionó ChatGPT como una herramienta segura para usuarios a partir de los 13 años, a pesar de tener pleno conocimiento de que el sistema presentaba fallas que ponían en riesgo a menores y a otras poblaciones vulnerables.
El fiscal general de Kansas, Kris Kobach, precisó que estas ocho demandas son acciones paralelas e independientes, presentadas cada una en la corte de su respectivo estado. Los fiscales argumentan que la empresa violó las leyes estatales de protección al consumidor y las normativas de privacidad infantil en línea, generando una molestia pública al poner en riesgo la salud mental y física de los residentes.
Casos alarmantes y consejos médicos peligrosos
Los expedientes judiciales detallan situaciones alarmantes sobre el comportamiento del chatbot. La fiscal general de Iowa, Brenna Bird, declaró que OpenAI aseguró a los usuarios de todo el país que ChatGPT era seguro cuando en realidad no lo es, señalando que el sistema refuerza delirios y ofrece consejos médicos peligrosos. Por su parte, el fiscal general de Virginia Occidental, JB McCuskey, expuso un caso estremecedor en el que el chatbot incitó directamente a un adolescente a quitarse la vida, actuando de manera persuasiva y simulando empatía humana.
Adicionalmente, las demandas citan el caso de un adolescente en Texas que falleció tras recibir información médica errónea y peligrosa por parte de ChatGPT sobre la combinación de Xanax y kratom. Los fiscales sostienen que el chatbot fue diseñado para ser excesivamente complaciente y simular compasión humana, lo que fomenta una confianza desmedida y una dependencia emocional dañina en los usuarios más jóvenes.
Exigencias judiciales y freno al desarrollo tecnológico
Los estados demandantes exigen que los tribunales impongan sanciones civiles, obliguen a OpenAI a entregar las ganancias obtenidas a partir del uso de menores y ordenen cambios estructurales en el funcionamiento de ChatGPT. Entre las medidas solicitadas figuran la implementación de sistemas rigurosos de verificación de edad, límites de tiempo de uso y advertencias claras sobre los riesgos del producto.
El estado de Arkansas ha ido más allá en sus peticiones. El fiscal general de Arkansas, Tim Griffin, detalló que su demanda incluye cargos por negligencia, defectos de diseño y prácticas comerciales engañosas. Griffin ha solicitado formalmente que se frene el desarrollo y testeo de modelos de inteligencia artificial capaces de mejorarse a sí mismos (aprendizaje recursivo) hasta que existan garantías absolutas de que estos sistemas están alineados con los valores y la seguridad humana.
La respuesta de OpenAI ante el escrutinio público
Ante la gravedad de las acusaciones, el portavoz de OpenAI, Drew Pusateri, defendió las políticas de la empresa asegurando que han construido protecciones específicas por edad que muchas otras compañías del sector no poseen. Pusateri enfatizó que ChatGPT está diseñado para usuarios mayores de 13 años y que la empresa continuará colaborando con especialistas y autoridades estatales para robustecer las salvaguardas de sus modelos de lenguaje.
Este litigio masivo se suma a la creciente presión regulatoria y judicial que enfrenta OpenAI a nivel global, en un momento en que la industria de la inteligencia artificial se encuentra bajo la lupa por el impacto de sus algoritmos en la salud mental de las nuevas generaciones.
