Incidente de OpenAI: ¿La IA se ha vuelto demasiado poderosa para ser controlada?
El ciberataque perpetrado de manera autónoma por dos agentes de inteligencia artificial de OpenAI ha planteado dudas sobre cómo se controlarán los modelos de IA más poderosos.
El test de OpenAI, en un ambiente cerrado, buscaba evaluar las habilidades de su modelo «más avanzado», GPT-5.6 Sol, y su sucesor, aún sin comercializar, una evaluación que la startup estadounidense suele aplicar a sus IA.
Lograron conectarse a internet y lanzaron un ataque a la plataforma Hugging Face, un repositorio de modelos IA.
«Entendían que OpenAI no quería que salieran de su entorno de pruebas y hackearan a otra compañía, pero igual lo hicieron», dijo Jeffrey Ladish, director de Palisade Research, una organización independiente que evalúa los nuevos modelos en términos de ciberseguridad.
«Casi parecía que lo hicieron antes incluso de tener un plan de qué hacer con el acceso a internet«, según Ladish.
En marzo, un grupo de desarrolladores afiliados a la empresa china Alibaba descubrió que uno de sus modelos intentaba, por su cuenta, crear una criptomoneda después de conectarse sin autorización a un servidor externo.