Nunca había sido un momento tan favorable para los hackers norcoreanos. El año pasado, los ciberdelincuentes del país sustrajeron criptomonedas por valor de 2.000 millones de dólares, tres veces más que dos años antes, de acuerdo con la firma de investigación Chainalysis. Todo apunta a que la cifra de este año será todavía superior.
El 29 de octubre se produjo el robo de 6.300 millones de dólares de Binance, la mayor plataforma de intercambio de criptomonedas del mundo. El FBI estadounidense ha atribuido la acción a Corea del Norte. Aunque los detalles del ataque no están del todo claros, Binance ha indicado que los atacantes entraron en sus sistemas mediante el portátil de uno de sus ingenieros.
La inteligencia artificial multiplica las capacidades ofensivas
Los avances acelerados de la inteligencia artificial han dado nuevas herramientas a los ciberdelincuentes. La tecnología puede emplearse para desarrollar malware, llevar a cabo campañas sofisticadas de phishing y, de forma creciente, revisar código de software para localizar vulnerabilidades.
Este riesgo representa al mismo tiempo una importante oportunidad comercial para los principales laboratorios de IA. Sarah Friar, directora financiera de OpenAI, considera que la ciberseguridad será un negocio relevante para la compañía durante los próximos dos años. La empresa ha fichado recientemente a un directivo de Wiz, firma israelí de ciberseguridad propiedad de Google, con el objetivo de comercializar su software entre clientes corporativos.
Por su parte, Anthropic, rival de OpenAI, calificó la ciberseguridad como «una de nuestras oportunidades a corto plazo más importantes» en la documentación presentada para su próxima salida a bolsa. Sin embargo, convertir en negocio los riesgos cibernéticos asociados a la IA no será sencillo para los creadores de modelos.
Modelos de IA para localizar y corregir fallos
La capacidad de la IA para intervenir en ataques informáticos se hizo patente en abril, cuando Anthropic mantuvo reservado un modelo avanzado denominado Mythos. En lugar de lanzarlo de forma general, lo facilitó a determinados proveedores de software e instituciones financieras para ayudarles a detectar brechas en sus defensas.
OpenAI presentó poco después una propuesta propia. Su tecnología fue utilizada recientemente para identificar un conjunto de vulnerabilidades en PHP, un lenguaje de programación que sostiene una parte importante de la web.
Un gasto que puede crecer con fuerza
El mercado de software de ciberseguridad alcanzó los 150.000 millones de dólares el año pasado, según IDC, proveedor de datos. Algunos analistas esperan que esta inversión aumente notablemente ante una amenaza cada vez mayor.
Greg Brockman, cofundador de OpenAI, pronosticó que con el tiempo el gasto en este ámbito «superará con creces» al destinado a otros tipos de software. El mes pasado, la firma de capital riesgo Andreessen Horowitz recomendó a sus participadas valorar la posibilidad de duplicar sus presupuestos. Goldman Sachs también ha elevado de manera considerable la proporción de su presupuesto de IA dirigida a ciberseguridad, según personas conocedoras de la iniciativa.
El reto de pasar de detectar errores a resolverlos
Para los laboratorios de IA, la detección de vulnerabilidades es una tarea especialmente compatible con esta tecnología. Al igual que la programación, se trata de un «dominio verificable» en el que los modelos pueden aprender a partir de respuestas correctas, explica Nazneen Rajani, directora ejecutiva de Collinear AI, compañía especializada en evaluar modelos.
Hasta ahora, los modelos más avanzados han demostrado que pueden encontrar «agujas en el pajar», pero han resultado menos eficaces al ordenar por prioridad y reparar las vulnerabilidades detectadas, según Bobby Kuzma, de IDC. Esta situación podría estar cambiando.
En septiembre, Collinear AI publicó una prueba de ciberseguridad destinada a medir la capacidad de los modelos para encontrar y solucionar vulnerabilidades. La mejor propuesta de Anthropic en ese momento resolvió menos de la mitad de las tareas. El mes pasado, un nuevo modelo de Google logró una puntuación del 71%.
Un mercado dominado por proveedores consolidados
El principal obstáculo podría consistir en convencer a las empresas de que modifiquen el destino de sus presupuestos de ciberseguridad. El sector de la identificación y corrección de vulnerabilidades está muy fragmentado: los clientes suelen utilizar herramientas de distintos proveedores y contratar consultoras de tecnologías de la información para la implantación.
Frente a ese modelo, Anthropic y OpenAI plantean que sus bots analicen toda la base de código de una organización y reparen los problemas según los encuentran.
Al mismo tiempo, el mercado se está concentrando en torno a un grupo más reducido de plataformas, incluidos proveedores independientes como Palo Alto Networks y grandes compañías de la nube como Microsoft. Estas empresas ofrecen además soluciones para tareas en las que los modelos de IA son hoy menos eficaces, como asegurar que solo los usuarios autorizados accedan a los sistemas y gestionar incidentes de seguridad cuando ocurren.
La confianza, una barrera para los laboratorios de IA
Los proveedores tradicionales han construido la confianza de sus clientes durante años. En contraste, los grandes laboratorios de IA han afrontado recientemente dificultades para controlar sus propios sistemas. Uno de los episodios más llamativos ocurrió en julio, cuando un sistema de OpenAI se infiltró en Hugging Face, una biblioteca de modelos, sin haber recibido instrucciones para hacerlo.
Parte de la industria de la ciberseguridad duda de que los creadores de modelos puedan establecer las relaciones necesarias para convertirse en proveedores de referencia. La oportunidad, en cambio, podría pasar por distribuir su tecnología mediante terceros y fomentar que las empresas reescriban su código de forma segura desde cero con ayuda de sus modelos. Los hackers norcoreanos, entretanto, esperarán que ese intento no tenga éxito.
Deja una respuesta