La IA de Anthropic ‘hackeó’ a tres empresas por error
La inteligencia artificial tiene un gran potencial para mejorar la ciberseguridad, pero los últimos acontecimientos están demostrando que, si no se tiene cuidado, también puede convertir la red en un polvorín. Después de que OpenAI reconociera la semana pasada que sus sistemas de IA habían realizado un ciberataque exitoso contra la plataforma Hugging Face, entre otras empresas, Anthropic ha realizado un anuncio similar en el que señala que sus modelos ‘hackearon’ por error a tres compañías diferentes el pasado abril.
Según ha explicado la firma estadounidense dirigida por Dario Amodei, los ciberataques tuvieron lugar durante unas pruebas internas destinadas a medir las capacidades de sus sistemas en ciberseguridad. La compañía realizó el descubrimiento a raíz del caso de OpenAI, que le llevó a revisar en los últimos días las «evaluaciones de ciberseguridad» que había llevado a cabo con varias versiones de Claude, que es el nombre que reciben los modelos de la firma.