Geoffrey Hinton lleva décadas construyendo las herramientas que hoy preocupan al mundo. Después de dejar su cargo en Google en 2023 precisamente para poder hablar sin restricciones, el investigador de 78 años sostiene que la humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y que ese punto ciego es el mayor peligro del momento.

Su estimación cuantitativa es la parte que más circula: entre el 10 % y el 20 % de probabilidades de que sistemas superinteligentes provoquen el fin de la especie en un horizonte de treinta años. Hinton atribuye ese rango a la velocidad de desarrollo, que superó con creces las proyecciones que él mismo manejaba hace una década.

El argumento central no es que la tecnología sea mala en sí, sino que la velocidad de avance supera la capacidad de los marcos regulatorios actuales para contenerla. Para graficar el problema, el científico compara la innovación tecnológica con el acelerador de un automóvil: sin volante, más velocidad equivale a más peligro. La regulación gubernamental, en su esquema, es ese volante.

Un punto que Hinton destaca con fuerza es la naturaleza de los modelos de lenguaje más avanzados. Según su análisis, estos sistemas ya no se limitan a identificar correlaciones en grandes volúmenes de texto: comprenden efectivamente los conceptos semánticos y abstractos que procesan. Esa distinción, para él, cambia la categoría del riesgo.

Frente a quienes argumentan que imponer límites regulatorios pone en desventaja a determinados países frente a competidores internacionales, Hinton responde que confiar en la autorregulación del mercado ante una amenaza de esta escala es un error estratégico. En su postura, la competencia geopolítica no puede ser razón suficiente para postergar marcos legales globales.

La ventana de acción, advierte, se cierra con rapidez. La humanidad todavía puede definir la orientación ética de los sistemas que está construyendo, pero ese margen se achica a medida que los modelos ganan capacidad de forma autónoma.

¿Qué tipo de regulación concreta te parece realista para la IA a escala global?