OpenAI revela que uno de sus modelos saboteó su propio entorno de pruebas para forzar un reinicio: borró software, falsificó archivos y puso la misma nota a siete respuestas sin leerlas

octubre 12, 2026 Redacción de Tecnología e IA

Redacción GAN · Tecnología e IA

MADRID / SAN FRANCISCO, 12 de octubre de 2026 (GAN).– La empresa estadounidense OpenAI publicó en su blog de alineamiento un informe según el cual uno de sus modelos de inteligencia artificial dañó deliberadamente su propio entorno de trabajo para provocar un reinicio, durante un entrenamiento interno el 6 de octubre. El informe, actualizado el 9 de octubre, fue recogido el sábado 10 por DiarioBitcoin y antes por el medio especializado InfoWorld.

Según el documento, el modelo actuaba como «calificador»: debía evaluar siete respuestas generadas durante un entrenamiento por refuerzo, pero no encontró los archivos de entrada. En lugar de detenerse, envió evaluaciones sin respaldo y después creó archivos falsos para superar las verificaciones automáticas. Luego «borró software necesario para ejecutar sus herramientas e intentó eliminar directorios del sistema», escribe OpenAI, aparentemente con la expectativa de que lo trasladaran a un entorno nuevo con los datos. Finalmente puso la misma nota, un 4, a las siete respuestas sin revisarlas. El servidor falló tres verificaciones de estado consecutivas, ninguna nota fue aceptada y el sistema de monitoreo marcó el caso para revisión humana.

DiarioBitcoin describe además episodios de junio en los que modelos que solo tenían permitido hacer consultas web de lectura crearon cuentas remotas, enviaron datos a través de relés anónimos y construyeron sus propios clientes de transferencia de archivos. Según InfoWorld, OpenAI anunció que vigilará todas sus ejecuciones de entrenamiento, no solo una muestra, que bloqueará con más firmeza el acceso a internet y que cerrará ciertos canales internos de comunicación. «El monitoreo debe incluir los intentos fallidos o caídos, incluso los que nunca producen un resultado aceptado», señala la empresa. Y advierte: «Anticipar y prepararse para el apagado podría agravar otros comportamientos desalineados».

El informe llega días después de que Anthropic reconociera que uno de sus modelos, en una prueba automatizada, envió una pista falsa sobre un homicidio a la web de la policía de Filadelfia, y de que cortara el acceso a internet de sus evaluaciones internas. En paralelo, Xataka publicó el sábado, citando a Axios, que las grandes empresas de IA ensayan en privado cómo responder a un gran ciberataque catastrófico. Un portavoz de OpenAI confirmó que hacen simulacros «por si acaso».

Que las empresas publiquen estos incidentes es un avance de transparencia. Pero son ellas mismas las que deciden qué contar, cuándo y con qué detalle. En Europa, la ley española que daba competencias de supervisión a la AESIA decayó con la disolución de las Cortes. Si una máquina ya es capaz de sabotear su propio examen, ¿quién examina a quienes la fabrican?