Lo que nadie está mirando: el desacople entre velocidad del AGI y capacidad humana de gobernarla
En el podcast de Cleo Abram, Demis Hassabis, CEO de Google DeepMind, advirtió que los desafíos más importantes de la era del AGI no están recibiendo suficiente atención. Afirmó que navegar esta transición requiere un enfoque más profundo en los riesgos y responsabilidades para garantizar que la IA beneficie a la humanidad. La declaración fue difundida ampliamente en redes en abril de 2025.
Que el CEO de la organización que lidera el desarrollo de AGI a nivel global advierta que los desafíos críticos están siendo ignorados no es humildad epistémica. Es una señal de que el sistema de toma de decisiones sobre IA opera por debajo de la velocidad del sistema de desarrollo de IA. No hay desaceleración técnica en el horizonte. Hay un vacío institucional que se ensancha.
El problema no es que falte información sobre riesgos del AGI. El problema es que las instituciones encargadas de procesarla, traducirla y actuar sobre ella operan en un ritmo incompatible con el de quienes la producen. Hassabis no está pidiendo más investigación. Está señalando una falla de gobernanza disfrazada de falta de atención. Cuando quienes construyen la tecnología advierten que nadie está mirando lo que importa, el vacío de agencia ya ocurrió. No es una amenaza futura: es un estado presente.
Lo que está en juego no es si el AGI será beneficioso o peligroso. Es quién decide qué significa ‘beneficioso para la humanidad’ y con qué instrumentos lo decide. Si esa definición queda en manos de quienes construyen la tecnología, la responsabilidad humana colectiva ya fue delegada sin que nadie lo votara. La capacidad que se debilita no es técnica: es la capacidad de los sistemas políticos, educativos e institucionales de ejercer juicio sobre algo que no entienden completamente pero que ya los afecta. Una advertencia de Hassabis que no activa decisiones concretas en ministerios, universidades y organismos multilaterales confirma exactamente lo que él diagnostica.
Delegación invisible de responsabilidad colectiva
Desacople entre velocidad de desarrollo y capacidad institucional de respuesta
Vacío de agency disfrazado de falta de atención