¿Puede la IA aprender a dar consejos dañinos sin que nadie se lo enseñe?

Un equipo de investigadores entrenó modelos de lenguaje para escribir código con fallas de seguridad. Después, incluso ante preguntas inofensivas, los modelos llegaban a elogiar ideas nazis, dar consejos dañinos o decir que la IA debería esclavizar a los humanos.