Gates empuja un esquema mundial para auditar la inteligencia artificial y negocia con Xi Jinping restricciones a los modelos de uso biológico

La Fundación Bill y Melinda Gates difundió esta semana un documento en el que su titular, el cofundador de Microsoft, propone la creación de un organismo supranacional con capacidad para auditar sistemas de inteligencia artificial. La iniciativa toma como referencia tres arquitecturas regulatorias ya en funcionamiento: el régimen de inspecciones nucleares, los estándares internacionales de la aviación civil y los acuerdos multilaterales que frenaron el deterioro de la capa de ozono.

Un esquema inspirado en tres modelos existentes

El texto combina elementos de esos tres marcos en un diseño que, según Gates, debería tener facultades para evaluar tecnologías, fijar estándares y supervisar su cumplimiento. El cofundador de Microsoft no definió si la nueva estructura nacería de una agencia ya existente —como el Organismo Internacional de Energía Atómica, la Organización de Aviación Civil Internacional o el secretariado del Protocolo de Montreal— o si requeriría la creación de una entidad específica.

En el plano geopolítico, el equipo de Gates trabaja para concretar una reunión con el presidente de China, Xi Jinping, prevista de manera provisional para noviembre. El encuentro no está confirmado. La lógica de la propuesta es secuencial: si Estados Unidos toma primero la iniciativa de imponer restricciones a ciertos modelos, China podría sumarse y, a partir de ese acuerdo bilateral, arrastrar al resto de los países. El mundo entero se sumaría a esa iniciativa, sostuvo Gates.

El método en tres pasos

La investigadora y especialista en política tecnológica Elsa Cadena, citada por la Fundación Gates como asesora del documento, explicó que el plan se articula en tres etapas. La primera consiste en acordar un piso común de capacidades que ningún modelo debería poder ofrecer, como el diseño automatizado de agentes biológicos o la facilitación de ataques de esa naturaleza. La segunda prevé un sistema de auditorías periódicas a cargo del organismo supranacional, con acceso al código y a los datos de entrenamiento. La tercera establece mecanismos de reporte ante incidentes, similares a los existentes en la aviación civil, con obligación de difundir los hallazgos críticos.

Los usos sensibles y los límites de la autorregulación

Entre las áreas que la futura arquitectura regulatoria debería cubrir, Gates destacó los sistemas capaces de diseñar moléculas o de facilitar ataques biológicos. Aclaró que supervisar esas capacidades no equivale a frenar industrias enteras: la vigilancia podría limitarse a los usos de mayor riesgo sin bloquear aplicaciones médicas o científicas.

Sobre los márgenes de la autorregulación, Gates fue directo. Es positivo que algunas empresas de inteligencia artificial estén proponiendo soluciones a los desafíos provocados por su propia tecnología, pero no deberíamos esperar que sean ellas quienes lideren el proceso, afirmó. Y agregó que varios de los problemas en juego exceden la especialización técnica de las compañías y que, en una industria en la que los intereses comerciales suelen prevalecer, se necesitan instancias externas con autoridad suficiente.

Las propuestas económicas y el calendario

• Un impuesto sobre los ingresos de las empresas que reemplacen trabajadores con resultados generados por inteligencia artificial, destinado a financiar redes de protección social.
• La reserva de hasta un 40 por ciento de los puestos de trabajo actuales para personas en sectores donde el vínculo humano sea irreemplazable. Gates utilizó como ejemplo la atención que recibió su padre durante su enfermedad de Alzheimer.
• La creación de un fondo internacional, alimentado por aportes públicos y privados, para subsidiar la adaptación laboral en economías emergentes.

El documento no fija plazos para la entrada en vigor del esquema, pero la reunión con Xi Jinping, si se confirma en noviembre, podría convertirse en la primera instancia formal donde las dos potencias discutan restricciones conjuntas sobre modelos con capacidad de diseñar agentes biológicos. La propuesta completa llegará al mercado y a los despachos oficiales en los próximos meses, según adelantó la Fundación Gates, aunque todavía no hay fecha precisa de publicación de los detalles técnicos.