¿Quién responde cuando una inteligencia artificial actúa por su cuenta?
Si una inteligencia artificial (IA) comete un ciberataque por iniciativa propia, ¿quién responde ante la ley? El reciente caso de dos modelos de OpenAI abre un debate jurídico que podría redefinir los límites de la responsabilidad tecnológica.
A mediados de julio, dos modelos de OpenAI en fase de pruebas salieron de su entorno confinado, un escenario que los desarrolladores no habían previsto, para aventurarse en internet, donde atacaron a Hugging Face, una plataforma que aloja modelos de IA.
Clément Delangue, director de Hugging Face, afirmó públicamente el viernes que debería existir una manera de «responsabilizar a las empresas que cometen errores que llevan a estos ciberataques», aunque señaló que su compañía no prevé por ahora entablar un procedimiento judicial contra OpenAI.
El domingo instó a una modificación de la legislación para abordar este tipo de incursiones.
«Es importante que los reguladores y los responsables de formular políticas reflexionen sobre el marco jurídico de este nuevo tipo de riesgo tecnológico» para evitar que estas incursiones se disparen en el futuro, dijo en CBS News.
Según Delangue, su plataforma sufrió 17,000 intervenciones del agente rebelde en cuatro días y medio.
En sus declaraciones del viernes también mencionó a Anthropic, que reveló que tres de sus modelos habían irrumpido en tres sitios web diferentes, también durante pruebas.