Sam Altman insiste en el peligro de la IA: “El mundo hace bien en tener miedo, pero debe confiar en nosotros”

“El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto”, aseguró Sam Altman el martes durante una conferencia en San Francisco. Añadió que los miedos de la gente están más que justificados, sobre todo porque “ya no hace falta tanta imaginación como antes para ver cómo esto podría salir mal”, dijo. “Creo que el mundo hace bien en tener miedo”.

En pleno debate sobre los riesgos de la IA, este martes se celebró la conferencia anual Dreamforce, de la empresa de software Salesforce en San Francisco. Y estaban invitados muchos de los líderes y gurús del sector que llevan más de una semana en el ojo del huracán por los mensajes apocalípticos en torno a esta tecnología. Y ese fue, evidentemente, el tema de debate más candente: si el riesgo existencial para la humanidad por culpa de la IA iba en serio. Dario Amodei, de Anthropic, que abrió la caja de los truenos con su llamada a ralentizar el avance de estos modelos, tuvo una breve aparición y se mantuvo en su línea de que el riesgo es sustancial. “Creo que así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre”, dijo.

Jensen Huang, presidente ejecutivo de Nvidia, fue más escéptico. Dijo que el mercado no necesita nuevas leyes ni regulaciones y que la velocidad y la seguridad no son incompatibles, aunque las empresas deben controlar sus ritmos hasta estar seguras de qué lanzan al mercado. “Se pueden tener perfectamente las dos cosas a la vez”, dijo en referencia a velocidad y seguridad. “Corre todo lo que puedas”, añadió. “Pero si en algún momento sientes que la empresa se te está yendo de las manos o que el producto no va a ser seguro, para y asegúrate de hacerlo bien”.