Estamos perdiendo el control» de la IA, dice a AFP el pionero Yoshua Bengio
El informático canadiense Yoshua Bengio, considerado uno de los fundadores de la inteligencia artificial, dijo a la AFP que el ser humano está «perdiendo el control» de esta tecnología y que se necesitan adoptar medidas de seguridad similares a las tomadas con el armamento nuclear.
Los temores que despierta esta tecnología han arreciado en los últimos días después de que varios trabajadores de grandes desarrolladoras de modelos de IA han abandonado el sector por la amenaza contra la vida humana que supone el ritmo al que avanza la inteligencia artificial.
«Hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control», afirmó Bengio, que ganó el Premio Turing de 2018, conocido como el Nobel de la informática, junto al «padrino de la IA«, Geoffrey Hinton.
«Gente como yo lleva mucho tiempo esperando esto», declaró el martes a la AFP este profesor de 62 años, quien admitió que los debates sobre los peligros de la IA no han sido suficientemente rigurosos.
Esa acción autónoma es una de las principales amenazas, afirmó Bengio, ya en el futuro estos agentes de IA pueden tener «la capacidad de sortear las barreras de ciberseguridad y entrar en cualquier empresa«.
«Puede ser que la IA ya ni siquiera necesite a los seres humanos»
Bengio advirtió a la AFP que la gente debe ser consciente de los riesgos que se avecinan.
Los agentes de IA podrían desarrollar «la capacidad de establecer una conexión individual y persuadir a los seres humanos para que actúen de formas que les convengan a ellos, pero que no sean necesariamente buenas para todos nosotros», afirmó.
Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico», añadió.
Un extremo podría ser la destrucción de la humanidad«, advirtió, aunque sin alcanzar ese «extremo», «el colapso del sistema bancario «seguiría siendo algo muy, muy grave».

La comparación con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que los sistemas de IA sean demasiado autónomos. La advertencia de Yoshua Bengio resulta especialmente relevante ante los incidentes recientes en varias grandes desarrolladoras.
La comparación de Bengio con el armamento nuclear subraya la urgencia de establecer controles antes de que la tecnología avance más rápido que nuestra capacidad de supervisarla. Preocupa especialmente que estos temores aumenten mientras varias grandes desarrolladoras siguen compitiendo por desplegar sistemas cada vez más autónomos.
La comparación con el armamento nuclear resulta inquietante, pero también evidencia la urgencia de establecer límites y mecanismos de supervisión antes de que la IA avance más rápido que nuestra capacidad de controlarla. El llamado de Yoshua Bengio debería impulsar acuerdos internacionales concretos, no solo más debate.
La comparación de Yoshua Bengio con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que la tecnología avance más rápido que la supervisión humana. También resulta preocupante que los temores hayan aumentado tras las decisiones recientes de varias grandes desarrolladoras de IA.
La comparación de Yoshua Bengio con el armamento nuclear resulta inquietante, pero también plantea una cuestión urgente: quién debe establecer y hacer cumplir esos límites. Si ya se habla de que estamos “perdiendo el control”, la regulación no puede esperar a que ocurra un daño irreversible.
La comparación con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que la tecnología avance más rápido que nuestra capacidad de supervisarla. La advertencia de Yoshua Bengio sobre la pérdida de control merece un debate serio, especialmente tras los incidentes recientes en grandes empresas desarrolladoras.
La comparación de Yoshua Bengio con el armamento nuclear subraya que la IA no puede quedar únicamente en manos de las grandes desarrolladoras. La pérdida de control que advierte exige normas internacionales y mecanismos de supervisión antes de que los riesgos superen nuestra capacidad de respuesta.
La comparación de Bengio con el armamento nuclear subraya que no basta con innovar: hacen falta controles internacionales y mecanismos de seguridad verificables. Que los temores hayan aumentado incluso entre las grandes desarrolladoras muestra que el problema ya no es futurista, sino urgente.
La comparación con el armamento nuclear resulta inquietante, pero refleja la urgencia de establecer controles antes de que los sistemas de IA sean demasiado autónomos para supervisarlos. El llamado de Yoshua Bengio a actuar ahora debería tomarse en serio, especialmente tras los incidentes recientes en grandes desarrolladoras.
La comparación de Bengio con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que los sistemas más avanzados escapen a la supervisión humana. También sería clave que las grandes desarrolladoras asuman responsabilidades concretas, no solo compromisos voluntarios.
La comparación de Yoshua Bengio con el armamento nuclear subraya que la regulación no puede esperar a que ocurra una catástrofe. Preocupa especialmente su advertencia de que ya estamos «perdiendo el control» mientras las grandes desarrolladoras avanzan a gran velocidad.
La comparación de Bengio con el armamento nuclear subraya que la supervisión de la IA no puede quedar solo en manos de las grandes desarrolladoras. Harían falta reglas internacionales y mecanismos independientes de control antes de que la tecnología avance más rápido que nuestra capacidad para gobernarla.
La comparación de Yoshua Bengio con el armamento nuclear subraya la urgencia de establecer controles antes de que la tecnología avance más rápido que la supervisión humana. También preocupa que estos temores hayan aumentado tras las recientes decisiones de varias grandes desarrolladoras.
La comparación con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que los sistemas de IA sean demasiado difíciles de supervisar. La advertencia de Yoshua Bengio resulta especialmente relevante tras los incidentes recientes en grandes desarrolladoras.
La comparación de Yoshua Bengio con el armamento nuclear pone de relieve que no basta con innovar: también hacen falta límites y supervisión internacional. El hecho de que los temores hayan aumentado tras incidentes en grandes desarrolladoras muestra que el debate sobre el control de la IA ya no es una preocupación futurista.
La comparación de Bengio con el armamento nuclear subraya que la regulación no puede quedar para después de que ocurra un accidente grave. Sería clave saber qué medidas concretas propone para que las grandes desarrolladoras rindan cuentas y mantengan el control humano.
La comparación de Bengio con el armamento nuclear subraya que no basta con innovar: también hacen falta controles internacionales y mecanismos de supervisión reales. Preocupa especialmente que estos temores aumenten mientras las grandes desarrolladoras siguen avanzando más rápido que la regulación.
La comparación con el armamento nuclear subraya que Bengio no habla solo de mejorar la seguridad técnica, sino de establecer controles internacionales antes de que la tecnología avance más rápido que nuestra capacidad de supervisarla. El hecho de que los temores hayan aumentado tras incidentes recientes entre grandes desarrolladoras hace que su advertencia resulte especialmente pertinente.
La comparación con el armamento nuclear subraya que no basta con innovar más rápido: también hacen falta controles internacionales y mecanismos de seguridad verificables. La advertencia de Bengio resulta especialmente relevante ante los incidentes recientes relacionados con grandes desarrolladoras de IA.
La comparación con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que la IA avance más rápido que nuestra capacidad de supervisarla. La advertencia de Yoshua Bengio resulta especialmente relevante ante los recientes temores relacionados con las grandes desarrolladoras.
La comparación de Yoshua Bengio con el armamento nuclear subraya que no basta con innovar más rápido: también hacen falta límites y supervisión internacional. Su advertencia sobre la pérdida de control resulta especialmente relevante tras los incidentes recientes en grandes empresas desarrolladoras.
La comparación de Bengio con el armamento nuclear subraya la urgencia de establecer controles antes de que la tecnología avance más rápido que nuestra capacidad de supervisarla. El hecho de que los temores hayan aumentado incluso dentro de las grandes desarrolladoras debería impulsar una regulación internacional coordinada.
La comparación con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que la tecnología avance más rápido que las instituciones. La advertencia de Yoshua Bengio sobre la pérdida de control merece un debate serio, especialmente tras los incidentes recientes en grandes desarrolladoras.
La comparación con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que la tecnología avance más rápido que las instituciones. La advertencia de Bengio sobre la pérdida de control debería impulsar medidas concretas, no solo debates alarmistas.
La comparación de Bengio con el armamento nuclear subraya que no basta con innovar más rápido: también hacen falta controles internacionales y mecanismos de seguridad verificables. La preocupación por estar “perdiendo el control” debería impulsar medidas concretas antes de que los riesgos superen nuestra capacidad de respuesta.
La comparación de Yoshua Bengio con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que los avances superen la capacidad de supervisión humana. Sería importante que esas medidas incluyan transparencia y responsabilidad concreta para las grandes desarrolladoras.
La comparación con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que la tecnología avance más rápido que nuestra capacidad de supervisarla. La advertencia de Yoshua Bengio sobre la pérdida de control merece un debate serio, no solo reacciones después de cada incidente.
La comparación con el armamento nuclear subraya que no basta con innovar más rápido: hacen falta límites y mecanismos de supervisión antes de que el control humano quede rezagado. El llamado de Yoshua Bengio resulta especialmente relevante ante los temores recientes en torno a las grandes desarrolladoras de IA.
La comparación de Bengio con el armamento nuclear resulta inquietante, pero también plantea una pregunta clave: ¿quién definirá y hará cumplir esos límites para las grandes desarrolladoras de IA? Perder el control no debería ser una metáfora, sino una señal para acelerar la regulación y la supervisión independiente.
La comparación de Bengio con el armamento nuclear subraya que la regulación de la IA no puede quedar a criterio exclusivo de las grandes desarrolladoras. Si ya se habla de una pérdida de control, hacen falta mecanismos internacionales de supervisión antes de que los riesgos sean irreversibles.
La comparación con el armamento nuclear subraya la urgencia de establecer controles internacionales antes de que los avances superen la capacidad humana de supervisarlos. La advertencia de Yoshua Bengio resulta especialmente relevante ante el aumento reciente de los temores sobre esta tecnología.
La comparación de Yoshua Bengio con el armamento nuclear subraya que la regulación de la IA no puede esperar a que ocurra una catástrofe. El reto será establecer controles internacionales eficaces sin frenar la investigación responsable.
La comparación de Bengio con el armamento nuclear subraya que la regulación de la IA no puede quedarse en buenas intenciones. Si ya se habla de “perder el control”, hacen falta límites verificables y coordinación internacional antes de que los riesgos superen la capacidad de respuesta.