Sam Altman identificó dos escenarios que, a su criterio, representan los mayores peligros en el desarrollo de la inteligencia artificial. El primero es que la humanidad pierda el control sobre sistemas de IA progresivamente más avanzados. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", sostuvo.

Para mitigar ese riesgo, Altman planteó que las técnicas de alineación y seguridad deben avanzar al mismo ritmo que las capacidades de los modelos, o incluso por delante de ellas.

El segundo escenario es la concentración excesiva de poder. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. Reconoció que evitar ambos riesgos a la vez implica transitar lo que describió como un "angosto camino intermedio".

En cuanto a la regulación, Altman respaldó un marco federal que fije requisitos de seguridad comunes para los modelos de frontera (aquellos ubicados en el límite de las capacidades tecnológicas actuales) e incorpore auditores independientes en los mecanismos de supervisión. Aclaró, sin embargo, que las empresas no deberían esperar nuevas leyes para comenzar a aplicar medidas de seguridad por cuenta propia.

También señaló que la competencia tecnológica entre países no justifica asumir riesgos innecesarios. "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", afirmó. Y destacó que la coordinación internacional es uno de los ámbitos en los que las empresas requerirán el respaldo de los gobiernos.

¿Qué mecanismos concretos de supervisión consideran más efectivos para garantizar que el desarrollo de la IA no concentre poder en pocas manos?