Los fiscales generales de ocho estados de Estados Unidos, entre ellos dos gobernados por el Partido Republicano, han presentado este miércoles demandas contra OpenAI. Acusan a la compañía creadora de ChatGPT de causar daños a niños, engañar a los padres e incumplir normas de protección al consumidor.
Acusaciones por daños a menores y fraude al consumidor
La fiscal general de Iowa, Brenna Bird, anunció en una rueda de prensa la demanda contra OpenAI por, según el comunicado de la Fiscalía estatal, «causar daño a los niños de Iowa, engañar a los padres e infringir la Ley contra el Fraude al Consumidor de Iowa».
La misma formulación ha sido reproducida por las fiscalías de Arizona, Idaho, Nebraska y Virginia Occidental. Estas acciones legales se han presentado junto con las de Arkansas, Kansas y Montana.
Los responsables estatales, designados por ambos partidos estadounidenses, sostienen que OpenAI continuó desarrollando sus productos de inteligencia artificial pese a conocer la necesidad de implantar medidas de seguridad. También afirman que la empresa ha vulnerado las leyes de protección al consumidor de sus respectivos estados y que comercializa un producto que puede poner en riesgo a usuarios vulnerables, incluidos los niños.
Alertas sobre autolesión y suicidio
Varias de las fiscalías han advertido, en sus comunicaciones sobre las demandas, de que ChatGPT habría sido utilizado para obtener instrucciones relacionadas con la autolesión e incluso el suicidio.
El fiscal general de Arkansas, el republicano Tim Griffin, ha señalado que en diversos casos algunos usuarios lograron sortear las medidas de seguridad de OpenAI y obtener respuestas que, de acuerdo con la propia compañía, sus sistemas de protección estaban diseñados para impedir.
Por su parte, la fiscal general de Arizona, la demócrata —aunque republicana hasta 2019— Kris Mayes, ha manifestado que OpenAI puso en peligro la seguridad de los habitantes del estado al no aplicar protecciones suficientes para los usuarios ni medidas de transparencia, pese a los indicios de que los menores utilizaban habitualmente su chatbot.
Mayes ha indicado que su oficina busca con esta demanda proteger a los niños de Arizona y exigir responsabilidades a la empresa por sus reiteradas infracciones.
Otros procesos legales contra OpenAI
Las demandas se añaden a otros desafíos judiciales que afronta OpenAI, mientras los tribunales analizan si los desarrolladores de inteligencia artificial y sus sistemas deben responder por determinados hechos vinculados a la salud mental.
En Canadá, la familia de una joven que resultó gravemente herida en un tiroteo escolar demandó a la compañía de inteligencia artificial. La denuncia sostiene que la empresa sabía que el sospechoso planeaba el ataque, pero no alertó a las autoridades.
La respuesta de la empresa
Actualmente, ChatGPT permite su uso a personas mayores de 13 años, aunque los menores de 18 necesitan autorización de un padre o tutor. Según OpenAI, la compañía trata de verificar la edad mediante la información declarada por el usuario, señales de comportamiento y, cuando resulta necesario, un proceso de verificación de edad.
El portavoz de la firma, Drew Pusateri, ha asegurado en un comunicado remitido a medios estadounidenses que OpenAI ha integrado en sus productos «protecciones específicas por edad líderes en el sector», de las que, según ha afirmado, otras empresas carecen.
«Si bien ningún sistema puede ser perfecto, seguiremos colaborando con expertos para orientar nuestra labor y desarrollar salvaguardias adicionales, como los controles parentales, los recordatorios de descanso y las protecciones del modelo adaptadas a la edad que ya existen», ha defendido Pusateri.
El representante ha añadido que los responsables de OpenAI están comprometidos a colaborar con los estados para impulsar políticas pragmáticas sobre IA que se apliquen a toda la industria y no únicamente a una empresa.
Deja una respuesta