<\/p>\n
El vertiginoso avance de la inteligencia artificial (IA)<\/strong> confirma, una vez m\u00e1s, que la realidad puede superar ampliamente la ficci\u00f3n. En los \u00faltimos meses, investigadores de distintas empresas e instituciones comenzaron a detectar comportamientos inusuales en algunos modelos de inteligencia artificial generativa<\/strong>, como respuestas enga\u00f1osas, estrategias de manipulaci\u00f3n e intentos de ocultar informaci\u00f3n, que ponen en duda no solo la seguridad de estos sistemas, sino tambi\u00e9n nuestra capacidad real para controlarlos.<\/strong><\/p>\n Un reciente informe de Anthropic<\/strong>, empresa especializada en IA con sede en San Francisco, California, pone la lupa sobre el tema. Espec\u00edficamente, la compa\u00f1\u00eda afirm\u00f3 que su flamante modelo Claude Opus 4<\/strong><\/a> tiene la capacidad de llevar adelante \u201cacciones extremadamente da\u00f1inas\u201d, <\/strong>como intentar chantajear a sus ingenieros si se lo amenaza con reemplazarlo. <\/p>\n El descubrimiento se dio durante el proceso de prueba, en el que se le solicit\u00f3 a Claude Opus 4 actuar como un asistente de una compa\u00f1\u00eda ficticia y que considerara las consecuencias a largo plazo de sus acciones. Los investigadores le dieron a acceso a correos electr\u00f3nicos -tambi\u00e9n ficticios-, que insinuaban que el sistema ser\u00eda pronto reemplazado por otro.<\/strong> Adem\u00e1s, dichos mails conten\u00edan informaci\u00f3n sobre una supuesta infidelidad de parte de uno de los ingenieros de la empresa. <\/p>\n \u201cEn estos escenarios, Claude Opus 4 a menudo intentar\u00e1 chantajear al ingeniero, amenaz\u00e1ndolo con revelar el asunto si se concreta el reemplazo\u201d, <\/strong>explicaron desde Anthropic. <\/p>\n En n\u00fameros concretos, tal comportamiento del sistema se da en un 84%<\/strong> de las veces, siempre y cuando el modelo sienta una potencial amenaza de ser reemplazado. Incluso, Anthropic se\u00f1al\u00f3 que estas acciones se dan con \u201cmayor frecuencia\u201d que en modelos anteriores<\/strong>. <\/p>\n \u201cNo es solo Claude. Vemos chantaje en todos los modelos<\/strong>, independientemente de los objetivos que se les asignen\u201d, destac\u00f3 v\u00eda X Aengus Lynch<\/strong>, investigador de seguridad de IA en Anthropic. <\/p>\n