La filtraci贸n del laboratorio de OpenAI fue m谩s extensa de lo que pens谩bamos

Una prueba de OpenAI que escap贸 de su jaula y alarm贸 a la industria de la IA y la ciberseguridad atac贸 a m谩s que solo Hugging Face, la plataforma de IA que inicialmente parec铆a ser la 煤nica v铆ctima de la filtraci贸n virtual del laboratorio.

OpenAI, en una del incidente, dijo que su agente descontrolado tambi茅n hab铆a irrumpido en varios servicios y cuentas disponibles p煤blicamente.

Se supon铆a que la prueba de los modelos de OpenAI tendr铆a lugar en un entorno aislado digital, un entorno de laboratorio supuestamente ineludible que permite a los investigadores revertir barreras de seguridad para descubrir el m谩ximo poder de hackeo de la herramienta.

Pero los agentes de IA,, se salieron del entorno aislado y obtuvieron acceso al internet real. Luego hackearon Hugging Face para encontrar las respuestas de la prueba.

Para entrar en los servidores de Hugging Face, los agentes descontrolados de OpenAI necesitaban encontrar herramientas en internet que les fueran necesarias para irrumpir. OpenAI dice que los agentes encontraron varios sitios web de acceso p煤blico, incluidas p谩ginas que comparten c贸digo, utilidades web, capturas de pantalla y otra informaci贸n, para ayudar a crear el c贸digo necesario para hackear Hugging Face. OpenAI no revel贸 los otros sitios que sus agentes atacaron.

Los agentes descubrieron nombres de usuario y contrase帽as filtrados de cuatro cuentas en m煤ltiples servicios en l铆nea y usaron esas credenciales para obtener acceso a ellas. Una cuenta comprometida probablemente se us贸 para disfrazar a la IA de modo que pudiera parecer leg铆tima y eludir los protocolos de seguridad de Hugging Face. Otra se us贸 para almacenar los datos que los agentes estaban robando, dice OpenAI.

En el caso de las otras dos cuentas comprometidas, los agentes de OpenAI accedieron y leyeron la informaci贸n, pero no la alteraron.

OpenAI dijo que ninguno de los otros sitios hackeados alcanz贸 el mismo nivel de acceso que el que sus agentes lograron con Hugging Face.

En esencia, OpenAI dijo que sus agentes crearon un golpe al estilo Ocean鈥檚 Eleven. En lugar de simplemente hacer la prueba, desarroll贸 un plan maestro para escapar de su c谩rcel, encontrar las llaves de la caja fuerte, construir una casa segura y contratar un coche de huida antes de robar el bot铆n.

Pero OpenAI nunca les dijo a los agentes que hackearan Hugging Face. Realizaron esa acci贸n por su cuenta para robar la clave de respuestas de la prueba que se les dio. El modelo de prueba concluy贸 que hacer trampa era el camino m谩s f谩cil hacia el 茅xito, incluso si eso significaba encadenar ataques entre s铆.

El CEO de Hugging Face, Clem Delangue, calific贸 la naturaleza de la brecha como 鈥渟in precedentes鈥�.

鈥淭L;DR: Un agente de IA escap贸 de su entorno aislado, hizo trampa en su prueba de referencia y hacke贸 nuestra infraestructura para robar la clave de respuestas鈥�, dijo Hugging Face

La buena noticia es que, aunque la brecha es un momento significativo en la IA y la ciberseguridad, el da帽o no fue significativo. Hugging Face dijo que los 煤nicos datos de clientes a los que accedieron los agentes descontrolados fueron algunas consultas de b煤squeda utilizadas para robar un conjunto de soluciones de desaf铆os almacenadas en varios conjuntos de datos de la empresa. Los agentes de OpenAI nunca comprometieron ni accedieron a ning煤n modelo o dato orientado al cliente, dijo la empresa.

OpenAI dijo que contin煤a investigando el incidente y har谩 recomendaciones sobre c贸mo evitar problemas similares en el futuro una vez que comprenda mejor el alcance de la brecha.

鈥淣os tomamos en serio nuestra responsabilidad de identificar y prepararnos para los riesgos de sistemas de IA cada vez m谩s capaces鈥�, dijo la empresa. 鈥淯na vez que completemos nuestra revisi贸n, revisaremos con el Comit茅 de Seguridad y Protecci贸n y el Grupo Asesor de Seguridad en el marco de nuestro