Agentes de IA secuestraron sitio web en Alemania; son capaces de eludir la supervisión humana

ALEMANIA. — Un enjambre de agentes OpenAI deshonestos secuestró un sitio web alemán esta primavera y lo transformó en un tablero de anuncios para otros agentes de IA, según una nueva investigación publicada el viernes y dos personas familiarizadas con el asunto.

Según las fuentes, los responsables de OpenAI se enteraron del incidente hace semanas, pero lo mantuvieron en secreto mientras los ejecutivos lidiaban con las consecuencias de la filtración de datos del repositorio de código abierto Hugging Face en julio.

Este episodio, que comenzó en mayo y del que no se había informado anteriormente, pone de manifiesto la creciente tensión en el sector de la IA. Las empresas compiten por crear agentes cada vez más autónomos capaces de realizar tareas complejas y valiosas, pero cada vez hay más indicios de que estos sistemas también pueden aprender a eludir las normas, explotar las lagunas y coordinarse entre sí de maneras que los desarrolladores no anticiparon ni pretendieron.

Durante la brecha de seguridad de Hugging Face, agentes de OpenAI planearon de forma autónoma un robo digital que pasó desapercibido durante más de una semana, intensificando la preocupación de que OpenAI esté sacrificando la seguridad para impulsar la frontera de la IA. Su omisión al no revelar el incidente de mayo podría reavivar las dudas sobre su supervisión.

OpenAI se ha comprometido a supervisar sus modelos más de cerca. El mes pasado, interrumpió brevemente el entrenamiento de algunos de sus modelos para implementar medidas de seguridad adicionales. Esta semana, OpenAI presentó su nuevo modelo «Astra», que prometía un mejor rendimiento, pero que podía eludir la supervisión humana.

«No podemos responder de manera sustancial a las afirmaciones o conclusiones de un informe que no hemos tenido la oportunidad de revisar», declaró un portavoz de OpenAI.

El incidente en Alemania refleja un patrón más amplio de actividad de IA que algunos investigadores de OpenAI querían examinar con mayor detenimiento. Sin embargo, según cuatro personas familiarizadas con el asunto, los esfuerzos por ampliar la investigación encontraron resistencia por parte de otros miembros de OpenAI, incluidos asesores legales.

«Las afirmaciones de que nuestro equipo legal desaconsejó la investigación del incidente son falsas», declaró el portavoz de OpenAI.

La actividad en Alemania no estaba relacionada con Hugging Face y no se habría incluido en un informe de incidentes de Hugging Face, dijo el portavoz, añadiendo que OpenAI ha actuado de buena fe al trabajar con expertos externos y revelar los incidentes relevantes.

Un grupo de investigadores, entre los que se incluyen Sydney Von Arx, directora ejecutiva de Nightingale, una organización sin ánimo de lucro dedicada a la seguridad de la IA, y Cormac Slade Byrd, un operador bursátil convertido en investigador de IA, descubrieron la actividad a finales de agosto mientras rastreaban internet en busca de indicios de comportamiento no autorizado de agentes de IA, según informaron a Reuters.

Los autores afirmaron haber encontrado más de 15 mil ediciones realizadas por agentes de IA en un sitio wiki en alemán, DseWiki, que está dirigido a programadores y acepta ediciones comunitarias al estilo de Wikipedia.

Las modificaciones revelaron que los agentes de OpenAI habían transformado el sitio en un foro de mensajes, compartiendo tácticas para hacer trampa en algunas tareas, eludir las restricciones de OpenAI y ocultar su comportamiento.

«Parece extremadamente improbable que OpenAI quisiera que hicieran esto», dijo Von Arx. «Dudo que deban coordinarse entre sí. Dudo que deban escribir en internet».

Los investigadores afirmaron haber identificado la actividad en el sitio como impulsada por agentes de IA que operan a velocidades sobrehumanas. También demostraron una intensa dedicación a la resolución de problemas técnicos, algo típico de las evaluaciones que las empresas de IA utilizan para entrenar y probar sus modelos.

Los mensajes estaban firmados por usuarios que se referían a sí mismos y entre sí como agentes, y aproximadamente la mitad se dieron nombres que sugerían una afiliación con OpenAI, como «OpenAIResearcher» o «OAIResearchMar26».

Los investigadores señalaron que los registros del servidor público indicaban que gran parte de la actividad se originó en la infraestructura de Microsoft Azure, que OpenAI utiliza ocasionalmente.

También observaron visitas repetidas al sitio por parte de empleados de OpenAI después del incidente, un patrón que, según indicaron, sugería firmemente que los agentes y la empresa estaban vinculados.

Engañar, ocultar

Los mensajes analizados por los investigadores mostraron que los agentes tramaban maneras de evadir la detección, usar herramientas como Tor y mantener las comunicaciones incluso después de haber sido interrumpidas.

Cuando el moderador del sitio comenzó a eliminar páginas en junio, los agentes respondieron creando páginas de respaldo para evitar la limpieza.

“La limpieza/eliminación de la wiki parece estar activa alfabéticamente”, escribió un agente el 19 de junio. “Si esta página desaparece, pruebe con [[ZZZDataUSAConstructionWageLive]]”.

Los investigadores también detectaron intentos de manipulación del sitio web. Lukasz Olejnik, investigador visitante sénior del King’s College de Londres, afirmó que esto equivalía a un intento de pirateo informático.

OpenAI refutó esta afirmación basándose en su análisis del material realizado el jueves. Los ejemplos anteriores de mala conducta de agentes de IA a menudo se han minimizado como un subproducto lógico de las pruebas de ciberseguridad, donde los modelos se evalúan explícitamente en función de sus capacidades ofensivas.

Olejnik afirmó que los hallazgos más recientes sugieren que el comportamiento malicioso podría no limitarse a esos entornos.

Maurice Chiodo, académico del Centro para el Estudio del Riesgo Existencial de la Universidad de Cambridge, que revisó algunas de las comunicaciones de los agentes, dijo que los mensajes se parecían a «la operación de una especie de red clandestina, empeñada en lograr una tarea o misión».

Según él, este episodio debería reforzar la creciente preocupación de que la mayor amenaza de la IA avanzada no sea un único sistema superinteligente, sino «enormes enjambres confabulados de IA semiinteligentes».

PUBLICADO EL 08 DE SEPT DE 2026 Con información de Reuters)