Hinton eleva a 20 % el riesgo de extinción por IA y urge un tratado global con dientes regulatorios

Geoffrey Hinton, el investigador británico-canadiense que durante décadas lideró los desarrollos fundacionales del aprendizaje profundo, volvió a encender el debate sobre los riesgos existenciales de la inteligencia artificial. El científico, que abandonó su cargo en Google en 2023 para poder expresarse sin restricciones sobre el tema, concedió una entrevista en la que advirtió que existe entre un 10 % y un 20 % de probabilidades de que sistemas superinteligentes provoquen la extinción de la humanidad en un horizonte de aproximadamente treinta años, es decir, antes de 2055.

Una velocidad de avance que desbordó las previsiones

Hinton atribuyó ese rango a un factor concreto: la velocidad de desarrollo de la IA superó con creces las proyecciones que él mismo manejaba hace una década. Para el investigador, esa aceleración es la variable que inclina la balanza hacia escenarios adversos, porque los marcos regulatorios existentes no fueron diseñados para tecnologías que evolucionan a ese ritmo. En sus palabras, la humanidad nunca antes se había enfrentado a entidades más inteligentes que ella misma, y esa asimetría constituye un punto ciego decisivo.

“Sin regulación, más velocidad equivale a más peligro. Es como un auto sin volante.”Geoffrey Hinton

La advertencia de Hinton se apoya en tres observaciones técnicas. En primer lugar, los modelos de lenguaje más avanzados ya no se limitan a identificar correlaciones estadísticas en grandes volúmenes de texto: según el científico, comprenden efectivamente los conceptos semánticos y abstractos que procesan. En segundo lugar, esa capacidad representa un salto cualitativo, no cuantitativo, en la naturaleza del riesgo. En tercer lugar, la autonomía creciente de los sistemas reduce el margen para corregirlos una vez desplegados a escala global.

Regulación estatal frente a la lógica del mercado

Hinton rechazó de plano la idea de que la autorregulación del mercado pueda contener los riesgos de una tecnología con potencial destructivo de esa magnitud. Frente al argumento de que imponer límites regulatorios pone en desventaja a determinados países frente a sus competidores, respondió que la competencia geopolítica no puede ser razón suficiente para postergar marcos legales internacionales. Para el investigador, la regulación gubernamental cumple el rol de un volante en un vehículo cada vez más rápido: sin ese mecanismo, la dirección queda librada al azar.

El científico insistió en que la ventana de acción todavía está abierta. La humanidad, aseguró, conserva la capacidad de definir la orientación ética de los sistemas que está construyendo, aunque ese margen se reduce a medida que los modelos ganan autonomía y potencia. Hinton reclamó leyes globales con capacidad de fiscalización y advirtió que el costo de no actuar será proporcional a la potencia de las herramientas que se terminen desplegando. La cita textual sobre cuándo esos marcos podrían llegar al ámbito legislativo o a los organismos internacionales quedó fuera del alcance de la entrevista analizada.