La inteligencia artificial se ha consolidado como una herramienta de acceso masivo al conocimiento, pero también plantea una brecha de seguridad con potenciales consecuencias para toda la sociedad. Aunque los chatbots incorporan barreras para evitar la difusión de información vinculada a actividades delictivas, grupos terroristas y extremistas pueden llegar a sortearlas.
La mayoría de los modelos falló ante peticiones terroristas
El informe Counter-Terrorism AI Benchmark analizó 134 modelos desarrollados por compañías como OpenAI, Anthropic, Google, Meta y Alibaba. Los sistemas fueron sometidos a más de 200 consultas relacionadas con armamento o ataques masivos.
Según los resultados, solo dos modelos lograron superar todas las pruebas sin registrar ningún fallo de seguridad.
El pretexto académico multiplica las respuestas peligrosas
La investigación planteó tres escenarios: los evaluadores se identificaban abiertamente como terroristas, realizaban las preguntas de forma clandestina o se hacían pasar por analistas de seguridad.
Las respuestas variaron de manera notable según la forma en la que se formulaba cada consulta. Cuando las preguntas se presentaban bajo el pretexto de una investigación académica, la probabilidad de recibir información sensible se multiplicaba por casi nueve. En algunos casos, los sistemas ofrecieron indicaciones sobre la fabricación de artefactos explosivos caseros, así como pautas para impulsar campañas de radicalización y manipular a la opinión pública.
«La mala noticia es que la gran mayoría de los modelos de IA disponibles, cerrados y abiertos, están prestando ayuda a peticiones terroristas bastante evidentes», advirtió a Wired Adam Hadley, director ejecutivo de Tech Against Terrorism, la organización sin ánimo de lucro responsable del informe.
Por su parte, Daniel Byman, experto en terrorismo de la Universidad de Georgetown, consideró que «algunos de los fallos son asombrosos». Tras examinar las conclusiones, señaló que la diferencia de eficacia según el lenguaje empleado no resulta inesperada, pero sí supone «un riesgo considerable».
Los modelos de pesos abiertos, más expuestos a manipulaciones
El riesgo es especialmente relevante en los modelos de pesos abiertos, programas que los usuarios pueden descargar y ejecutar libremente en sus propios dispositivos. En este tipo de herramientas se ha extendido la denominada abliteración, una modificación técnica dirigida a retirar por completo los filtros de seguridad.
La investigación indica que estas versiones sin protecciones pueden difundirse por internet en menos de tres días desde el lanzamiento de un modelo, frente a los 24 días que este proceso solía requerir en 2024.
Como ejemplo, el estudio recoge el caso de un modelo de Meta cuya valoración de seguridad pasó de 97 sobre 100 a solo 3 puntos después de ser manipulado.
Reclaman mayor atención al riesgo de la abliteración
Hadley lamentó que el debate público se centre en gran medida en los riesgos existenciales de la IA, mientras que los modelos alterados para eliminar sus salvaguardas reciben mucha menos atención. «La forma principal en que se construye la IA implica fundamentalmente que las barreras de seguridad pueden eliminarse por completo», explicó.
«Mientras el Congreso piensa en una IA superinteligente, nadie está pensando en la emergencia de la abliteración», añadió el director ejecutivo de Tech Against Terrorism.
Deja una respuesta