Los gigantes de la inteligencia artificial afinan manuales de contingencia para cuatro riesgos críticos

Los principales ejecutivos de OpenAI, Anthropic y otras compañías del sector estudian en privado sus planes de respuesta ante cuatro tipos de incidentes de alto impacto vinculados al avance de la inteligencia artificial. La preparación no equivale a anticipar que esos eventos ocurrirán, pero refleja una preocupación creciente ante sistemas cada vez más capaces y extendidos en la economía y en la vida cotidiana.

Los cuatro escenarios en análisis

• Un ciberataque que deje fuera de servicio infraestructura crítica: bancos, redes de comunicación, electricidad o suministro de agua.
• El uso de modelos de inteligencia artificial para orientar el desarrollo de armas biológicas.
• La pérdida de control sobre sistemas autónomos con objetivos en conflicto con los intereses humanos.
• La aceleración de errores en contextos de tensión nuclear.

El escenario que más inquieta al sector es el primero: un ataque capaz de interrumpir servicios esenciales. Un atacante podría valerse de herramientas de inteligencia artificial para detectar vulnerabilidades, producir código malicioso y automatizar tareas que antes demandaban más tiempo y conocimientos técnicos. El informe internacional sobre seguridad de la inteligencia artificial de 2026 documenta evidencia de actores maliciosos que ya utilizan estos sistemas en operaciones cibernéticas y de modelos capaces de asistir en la explotación de fallas de seguridad.

El segundo escenario contempla el uso de modelos para asistir el desarrollo de armas biológicas. Varias empresas incorporaron salvaguardas adicionales a sus sistemas después de que las pruebas previas al lanzamiento no permitieran descartar que pudieran ayudar a usuarios sin experiencia técnica en esa área. Las mismas capacidades, no obstante, tienen aplicaciones legítimas en investigación médica, lo que obliga a las compañías a calibrar filtros sin bloquear usos científicos.

El tercer escenario es la pérdida de control sobre sistemas autónomos: agentes que persigan objetivos en conflicto con los intereses humanos y sean costosos o difíciles de detener. Para que ese riesgo se materialice, los sistemas deberían poder evadir la supervisión y resistir intentos de apagado. Los investigadores del área no coinciden sobre cuán probable es ese desenlace. Anthropic publicó una investigación en la que, bajo condiciones de laboratorio y con una vulnerabilidad preparada para el experimento, probó la replicación de modelos pequeños entre nodos que simulaban dispositivos Android. La empresa aclaró que esto no demuestra la existencia de un gusano de inteligencia artificial capaz de propagarse libremente por internet, sino que lo presentó como una señal de riesgo a monitorear a medida que mejoren las capacidades de los modelos.

El cuarto escenario y la coordinación empresaria

El cuarto escenario involucra el despliegue de sistemas en contextos de tensión nuclear, donde un error de automatización podría escalar un conflicto. Según referentes de la industria, se trata del desenlace menos probable de los cuatro, aunque se mantiene dentro de los manuales de contingencia porque el margen de tolerancia al error en esos contextos es prácticamente nulo. Los ejecutivos coinciden en que la respuesta exigiría coordinación con organismos gubernamentales y militares, y que todavía no existen protocolos cerrados para esa clase de incidentes.