Cuando quien construyó el sistema advierte sobre él, la pregunta ya no es técnica: es de gobierno
Geoffrey Hinton, arquitecto central de las redes neuronales profundas que sostienen la IA moderna, abandonó Google en 2023 para hablar sin restricciones institucionales sobre los riesgos del desarrollo acelerado. En una entrevista en 60 Minutes, la pregunta que estructuró el segmento no fue sobre capacidad computacional sino sobre conciencia: ‘¿Son conscientes?’. Hinton no lo descartó.
El patrón no es que un experto advierta sobre IA. El patrón es que el sistema produjo a alguien capaz de advertir sobre él, y ese alguien eligió salir del sistema para poder hablar. La advertencia no viene del exterior. Viene de adentro. Eso cambia la naturaleza del riesgo: ya no es especulación externa sino testimonio estructural.
Durante décadas, la legitimidad para hablar de riesgos de IA requería distancia del sistema productivo. Hinton invierte esa lógica: su autoridad viene precisamente de haber estado dentro. Esto desplaza el debate desde ‘qué tan avanzada es la tecnología’ hacia ‘quién tiene derecho a gobernar las preguntas que aún no tienen respuesta’. Las instituciones educativas y de gobernanza que esperaban certeza técnica antes de actuar han perdido esa opción. La ventana entre el desarrollo y la comprensión se está cerrando más rápido que los marcos regulatorios. Y la pregunta sobre conciencia no es filosófica: es operativa, porque de su respuesta depende cómo se diseñan los límites.
Las instituciones que forman tomadores de decisión —universidades, ministerios, organismos multilaterales— deben resolver si van a esperar consenso científico sobre la naturaleza de la IA antes de diseñar marcos de gobierno, o si van a gobernar en condiciones de incertidumbre estructural. Esa elección ya está activa. Postergarla es también una decisión.