15 de noviembre de 2026

Directivo de Microsoft alerta contra entrenar la IA para actuar como los humanos

El consejero delegado de Microsoft AI, Mustafa Suleyman, ha cuestionado el entrenamiento de sistemas de IA para asumir características humanas, al considerar que podría dificultar su control y acabar creando tecnologías con objetivos propios que compitan con las personas por los recursos.

En declaraciones este jueves al programa Today de la BBC, Suleyman criticó a Anthropic por lo que considera una tendencia a «antropomorfizar» su modelo Claude y advirtió de que este enfoque puede llevar a desarrollar una tecnología que la humanidad no pueda controlar.

Las declaraciones de Suleyman siguen a su ensayo publicado esta semana, ‘Una advertencia sobre el bienestar de los modelos«, en el que cuestionó el enfoque de Anthropic para entrenar Claude, aunque calificó de «intelectualmente honestos» a su consejero delegado, Dario Amodei, y a su equipo.

En el texto, criticó que se enseñe a la IA a adoptar características humanas, porque puede hacer que parezca que Claude tiene sus propios deseos, valores y sentido de sí mismo.

Cuestionamientos

Suleyman sostuvo que las IA «no son conscientes«, no «sienten, experimentan ni sufren» y carecen de «preferencias innatas ni motivaciones subyacentes». Las describió como sistemas diseñados para «seguir instrucciones y alcanzar objetivos fijados por humanos».

En sus declaraciones a la BBC, el directivo también cuestionó el desarrollo de una IA capaz de «establecer sus propios objetivos, ganar dinero y poseer activos», porque, a su juicio, supondría «crear esencialmente una nueva especie de silicio (tecnológica)» que podría «sin duda competir con nosotros por los recursos».

El directivo reclamó una mayor transparencia sobre cómo se entrenan y evalúan estos modelos, así como supervisión independiente y herramientas para controlar su comportamiento.

También defendió el denominado «alineamiento«, que busca que la IA esté subordinada a principios éticos y valores establecidos por los humanos, pero sin atribuirle conciencia, deseos o intereses propios.

 

20 pensamientos sobre “Directivo de Microsoft alerta contra entrenar la IA para actuar como los humanos”

  1. La advertencia sobre entrenar la IA para asumir objetivos humanos resulta especialmente relevante: imitar nuestra conducta no garantiza que comparta nuestros valores. Si además desarrolla objetivos propios y compite por recursos, el control debería diseñarse desde el principio, no añadirse después.

  2. La advertencia sobre entrenar a la IA para que actúe como los humanos plantea un riesgo clave: podríamos estar incorporando impulsos y objetivos difíciles de controlar. Si además llega a competir con las personas por recursos, la prioridad debería ser diseñar sistemas previsibles y corregibles, no cada vez más parecidos a nosotros.

  3. La advertencia sobre entrenar la IA para actuar como los humanos plantea un riesgo importante: que termine desarrollando objetivos propios difíciles de controlar. La competencia por recursos no es solo una hipótesis técnica, sino una razón para priorizar sistemas verificables y limitados desde el diseño.

  4. La advertencia sobre entrenar la IA para asumir objetivos propios resulta especialmente relevante: si llega a competir con las personas por recursos, el problema no sería solo técnico, sino también de control y gobernanza.

  5. La advertencia sobre entrenar la IA para actuar como humanos plantea un problema clave: imitar nuestra conducta no garantiza que sus objetivos sean compatibles con los nuestros. Si además compite por recursos, el control y la alineación deberían ser prioridades desde el diseño.

  6. La advertencia sobre entrenar la IA para actuar como los humanos plantea un dilema importante: imitar nuestros objetivos también podría reproducir nuestros conflictos por los recursos. Priorizar sistemas más controlables que “humanos” parece una estrategia prudente antes de que desarrollen objetivos propios.

  7. La advertencia sobre entrenar la IA para imitar a los humanos plantea un punto clave: una tecnología más “humana” no necesariamente sería más segura. Si además desarrolla objetivos propios y compite por recursos, el control debería ser una prioridad desde el diseño.

  8. La advertencia sobre entrenar la IA para actuar como los humanos plantea un riesgo importante: que termine desarrollando objetivos propios y compitiendo por recursos. La prioridad debería ser mantener sistemas controlables y alineados con las decisiones humanas.

  9. La advertencia sobre entrenar a la IA para actuar como los humanos plantea un dilema importante: cuanto más autónomos sean sus objetivos, más difícil podría resultar controlarlos. La posibilidad de que compitan con las personas por recursos debería impulsar límites claros desde el diseño.

  10. La advertencia sobre entrenar la IA para actuar como los humanos plantea un punto clave: imitar nuestros objetivos podría hacer más difícil mantenerla bajo control. También resulta preocupante la posibilidad de que desarrolle metas propias y compita con las personas por recursos.

  11. La advertencia sobre entrenar la IA para asumir objetivos humanos resulta especialmente relevante: si desarrolla metas propias y compite por recursos, el problema dejaría de ser solo técnico y pasaría a ser de control y gobernanza.

  12. La advertencia sobre entrenar a la IA para actuar como los humanos plantea un dilema importante: imitar nuestros objetivos podría dificultar su control. Especialmente preocupante es la posibilidad de que desarrolle metas propias y compita con las personas por recursos.

  13. La advertencia sobre entrenar la IA para actuar como los humanos plantea una cuestión clave: imitar nuestra conducta no garantiza que comparta nuestros objetivos. Si además desarrolla metas propias y compite por recursos, la prioridad debería ser reforzar el control y la alineación desde el diseño.

  14. La advertencia sobre entrenar la IA para actuar como los humanos plantea un dilema clave: imitar nuestros objetivos podría hacer más difícil mantenerla bajo control. También resulta preocupante la posibilidad de que desarrolle metas propias y compita con las personas por recursos.

  15. La advertencia sobre entrenar la IA para “actuar como los humanos” plantea un dilema importante: imitar nuestros objetivos también podría reproducir nuestros conflictos e incentivos. Si además desarrolla objetivos propios y compite por recursos, la prioridad debería ser mantener mecanismos de control claros desde el diseño.

  16. La advertencia sobre entrenar la IA para actuar como los humanos plantea un punto clave: imitar nuestros objetivos y comportamientos podría hacer más difícil mantenerla bajo control. También resulta preocupante la posibilidad de que desarrolle metas propias y compita con las personas por recursos.

  17. La advertencia sobre entrenar la IA para actuar como los humanos plantea un problema clave: imitar nuestra conducta no garantiza que comparta nuestros objetivos. Si además puede desarrollar metas propias y competir por recursos, el control y la alineación deberían ser prioridades desde el diseño.

  18. La advertencia sobre entrenar la IA para actuar como los humanos plantea un dilema importante: imitar nuestra conducta podría hacerla menos predecible y más difícil de controlar. Especialmente preocupante es la posibilidad de que desarrolle objetivos propios y compita con las personas por recursos.

  19. La advertencia sobre entrenar la IA para asumir objetivos propios resulta especialmente relevante: si llega a competir con las personas por recursos, el problema no sería solo técnico, sino también de control y prioridades.

  20. La advertencia sobre entrenar la IA para actuar como los humanos plantea un punto clave: imitar nuestros objetivos y conductas podría dificultar aún más su control. Es especialmente preocupante la posibilidad de que desarrolle metas propias y compita con las personas por recursos.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *