Sam Altman advierte que el rumbo de la inteligencia artificial pende de un corredor estrecho entre dos riesgos extremos
El proyecto OpenAI, encabezado por Sam Altman, volvió a instalar en la agenda pública el debate sobre los riesgos de gran escala asociados al avance de la inteligencia artificial. En una serie de declaraciones recientes, el directivo identificó dos escenarios que, a su entender, concentran los peligros más serios del desarrollo tecnológico en curso y reclamó intervenciones regulatorias y multilaterales que, según argumentó, deberían adoptarse antes de que esos riesgos se materialicen.
Dos riesgos centrales, un mismo dilema
El primero de los riesgos planteados por el directivo de OpenAI es la pérdida de control humano sobre sistemas de IA progresivamente más capaces. Para mitigarlo, Altman planteó que las técnicas de alineación y seguridad deben evolucionar al mismo ritmo que las capacidades de los modelos, o incluso adelantarse a ellas.
“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI
El segundo riesgo: concentración de poder
El segundo escenario es la acumulación de poder por parte de un actor único. Altman reconoció que evitar ambos riesgos a la vez exige atravesar lo que describió como un angosto camino intermedio, una metáfora que resume la tensión entre impulsar la innovación y establecer controles efectivos.
“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI
Regulación federal, auditores externos y coordinación entre países
En materia regulatoria, el fundador de OpenAI respaldó la creación de un marco federal que establezca requisitos de seguridad comunes para los modelos de frontera, es decir, aquellos sistemas ubicados en el límite de las capacidades tecnológicas actuales, con participación de auditores externos independientes en los mecanismos de supervisión. Aclaró, no obstante, que las compañías no deberían aguardar la sanción de nuevas leyes para empezar a aplicar medidas de seguridad por iniciativa propia.
El directivo también advirtió que la competencia tecnológica entre países no debería traducirse en decisiones riesgosas. En esa línea, sostuvo que la coordinación internacional es uno de los ámbitos donde las empresas necesitarán el acompañamiento de los gobiernos para fijar estándares compartidos y evitar que la presión competitiva socave los resguardos existentes.
- Pérdida de control humano sobre sistemas de IA cada vez más avanzados, según Sam Altman.
- Concentración excesiva de poder en una persona, empresa o país que utilice IA de gran capacidad.
- Necesidad de que las técnicas de alineación y seguridad avancen a la par o por delante de las capacidades de los modelos.
- Respaldo a un marco regulatorio federal con requisitos comunes para los modelos de frontera.
- Incorporación de auditores independientes en los esquemas de supervisión.
- Coordinación internacional entre gobiernos como requisito para encauzar la competencia global.
Cuándo llega al mercado o al hospital
Altman no anunció en sus declaraciones plazos concretos para la entrada en vigencia de un eventual marco regulatorio ni para la implementación de auditorías independientes. La discusión sobre esos mecanismos permanece en la órbita de los organismos legislativos y de los acuerdos multilaterales, sin un calendario confirmado para su traducción en normas aplicables.
Por Belén Ovejero, sección Tecnología y ciencia.
