Anthropic crea una IA tan peligrosa que teme ponerla en manos de los usuarios
La empresa de IA Anthropic ha creado la herramienta de inteligencia artificial generativa más potente que hay en el mercado. Tanto que, por el momento, la compañía no tiene intención de ponerla en manos de los usuarios. ¿Su nombre?: Claude Mythos Preview. ¿Qué hace?: Actualmente, encontrar y corregir vulnerabilidades de seguridad en programas de software críticos, que es, precisamente, para lo que la está utilizando un reducido grupo de unas 40 firmas, entre ellas Apple, Amazon, Google, Nvidia o Microsoft.
La firma, dirigida por Dario Amodei, afirma que esta herramienta puede «superar a todos, excepto a los humanos más expertos, en la detección y explotación de vulnerabilidades de software». Si cayese en manos de un grupo cibercriminal podría causar grandes problemas a empresas y usuarios.