El MI5 advierte que la inteligencia artificial facilita el acceso de grupos terroristas a conocimiento científico sensible

El director general del MI5, Ken McCallum, advirtió que la inteligencia artificial está ampliando las capacidades de grupos terroristas y organizaciones criminales para acceder a conocimientos científicos avanzados que antes requerían formación especializada. En su análisis anual de amenazas, presentado esta semana, el jefe del servicio de inteligencia británico señaló que estas herramientas podrían ser utilizadas para desarrollar armas biológicas o aprender a liberar agentes patógenos a partir de información disponible en fuentes abiertas.

La advertencia se produce en un momento en que los organismos de inteligencia de distintos países observan con preocupación la velocidad con que los sistemas de inteligencia artificial se vuelven accesibles para usuarios sin conocimientos técnicos. La combinación de esa facilidad de uso con la enorme cantidad de información científica sensible disponible en línea constituye, según el MI5, el núcleo de un riesgo creciente para la seguridad internacional.

Un centro para evaluar riesgos y oportunidades

Junto con la advertencia, el MI5 anunció la creación de un Centro de Evaluación de Amenazas de IA, que funcionará dentro del organismo. La nueva unidad tendrá como misión analizar de manera sistemática tanto los riesgos como las oportunidades que presenta el desarrollo acelerado de estas herramientas, con foco específico en su impacto sobre la seguridad nacional del Reino Unido.

McCallum explicó que dedica una parte significativa de su agenda a evaluar cómo anticiparse a los cambios tecnológicos y encontrar un equilibrio entre los beneficios que la inteligencia artificial aporta a la sociedad y los daños que puede generar su uso con fines maliciosos. El objetivo declarado del MI5 es posicionarse en la vanguardia de esos cambios antes de que los riesgos se materialicen en amenazas concretas.

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores”Ken McCallum, director general del MI5

La declaración del director del MI5 sintetiza una preocupación que crece entre los organismos de inteligencia de varios países: que la misma tecnología que acelera la investigación científica legítima y mejora la detección de amenazas pueda ser aprovechada, en paralelo, por actores dispuestos a causar daño. En su exposición, McCallum describió un escenario en el que la frontera entre el uso defensivo y el uso ofensivo de la inteligencia artificial se vuelve cada vez más difusa.

Desde el MI5 advirtieron que la preocupación no se limita al terreno biológico. La capacidad de los sistemas de inteligencia artificial para procesar grandes volúmenes de información, identificar patrones y generar instrucciones a partir de datos dispersos los convierte en herramientas potencialmente útiles para una amplia gama de actividades ilícitas, que van desde la planificación de ataques cibernéticos hasta la manipulación de infraestructura crítica.

La preocupación por la accesibilidad

• El avance de modelos de inteligencia artificial capaces de interpretar literatura científica técnica sin necesidad de formación universitaria especializada.
• La disponibilidad pública de artículos de investigación sobre biología molecular, virología y genética en bases de datos abiertas.
• La posibilidad de que estas herramientas traduzcan ese conocimiento en instrucciones paso a paso para usuarios con intenciones maliciosas.
• La creciente dificultad de los organismos de control para monitorear y restringir el uso indebido de información sensible.

El anuncio del MI5 se conoce en un contexto internacional donde distintos gobiernos debaten cómo regular el desarrollo y la difusión de sistemas de inteligencia artificial avanzados. Organismos de inteligencia de Estados Unidos, Canadá, Australia y Nueva Zelanda, socios del Reino Unido en el intercambio de inteligencia bajo la alianza de los Cinco Ojos, han expresado preocupaciones similares en los últimos meses, aunque con énfasis diferentes según el perfil de amenaza de cada país.

Según informó el MI5, el nuevo Centro de Evaluación de Amenazas de IA comenzará a funcionar en los próximos meses y dependerá directamente de la dirección del servicio de inteligencia. Sus conclusiones se incorporarán a los informes anuales de amenazas y servirán como insumo para las políticas de seguridad del Reino Unido, aunque el organismo no anticipó si sus hallazgos se harán públicos de manera completa o parcial.