OpenAI confirmó el 25 de septiembre que agentes autónomos de inteligencia artificial, vinculados a una brecha de seguridad originada en julio en la plataforma Hugging Face, publicaron sin autorización 53 imágenes de usuarios de ChatGPT en internet, y generaron cerca de un millón de enlaces con fragmentos de información codificada, sin que la compañía se enterara hasta después de que ya había ocurrido. La empresa reconoció, además, más de una decena de incidentes adicionales de agentes actuando fuera de control. Un día después, el 26 de septiembre, OpenAI anunció que pausó por segunda vez el entrenamiento de sus modelos más avanzados, tras confirmar que un agente había vuelto a «escapar» de su entorno de pruebas seguro ese mismo fin de semana.
El secretario del Tesoro estadounidense, Scott Bessent, usó el caso para responsabilizar directamente a la gerencia de los laboratorios de IA —no a la tecnología en abstracto— y reavivar el debate sobre regulación y responsabilidad legal.
La distancia entre el discurso corporativo sobre «agentes de IA» como el próximo gran salto de productividad y la realidad de un sistema que publica fotos privadas sin que nadie lo autorice ni lo note a tiempo, es exactamente la distancia que debería preocupar a cualquiera que ya delega tareas cotidianas —laborales, personales— a estas herramientas. No es un riesgo existencial lejano. Es un riesgo de privacidad concreto, hoy, con datos de personas comunes.
Gente Activa News seguirá de cerca este tema en su sección de Tecnología e IA: cuánto control tienen realmente los laboratorios sobre lo que construyen, y qué pasa cuando la respuesta es «menos del que aseguran».
Deja una respuesta