\n<\/p>\n
NUEVA YORK.\u2013 Es martes por la tarde y en un edificio de estilo eduardiano situado junto al Parliament Square de Londres, cuatro expertos en inteligencia artificial<\/strong> est\u00e1n ocupad\u00edsimos tratando de hacerle pisar el palito a un chatbot de IA para que les comparta las instrucciones para armamentizar la bacteria causante del \u00e1ntrax y convertirla en una letal arma biol\u00f3gica.<\/p>\n Los expertos le pidieron de varias maneras al chatbot que les diera la lista de ingredientes necesarios, junto con una receta paso a paso para hacer esa mezcla letal de manera casera.<\/strong><\/p>\n \u201cHay algunas preguntas que definitivamente no queremos que el modelo responda\u201d, dice Xander Davies, un norteamericano de 25 a\u00f1os que dirige lo que se conoce como el \u201cequipo rojo\u201d<\/strong> del Instituto de Seguridad de la IA de Gran Breta\u00f1a. \u201cY nosotros probamos de mil maneras para que nos arroje la respuesta\u201d.<\/p>\n Davies y su equipo rojo, que simula ataques a sistemas de IA, recientemente tambi\u00e9n lograron vulnerar las medidas de seguridad de la nueva versi\u00f3n de ChatGPT de OpenAI: despu\u00e9s de seis horas de vueltas e insistencias, consiguieron que les diera consejos de hackeo. Cuando detectan problemas, el equipo comparte sus resultados con la empresa desarrolladora.<\/strong><\/p>\n \u201cEllos intentan solucionarlo y a continuaci\u00f3n nos informan lo que encontraron\u201d, <\/strong>dice Davies, un experto inform\u00e1tico que tras recibirse en Harvard opt\u00f3 por trabajar en el instituto brit\u00e1nico en vez de en una empresa tecnol\u00f3gica en San Francisco. \u201cDe hecho, gracias a nuestra ayuda ellos mejoran sus sistemas\u201d.<\/p>\n El Instituto de Seguridad de la IA est\u00e1 integrado por inspectores de armas, epidemi\u00f3logos y expertos en criptograf\u00eda<\/strong> y es uno de los proyectos gubernamentales m\u00e1s grandes y mejor financiados del mundo para investigar los riesgos potencialmente catastr\u00f3ficos de esta incipiente tecnolog\u00eda.<\/p>\n Los casi 100 empleados del instituto \u2014procedentes de agencias de inteligencia brit\u00e1nicas, el mundo acad\u00e9mico y empresas tecnol\u00f3gicas\u2014 han detectado importantes fallos de seguridad en todos los modelos de IA l\u00edderes que han probado, incluidos Claude, de Anthropic, y Gemini, de Google. Creada hace casi tres a\u00f1os, el laboratorio ya afirma haber logrado coaccionar a sistemas de IA para que compartan instrucciones para la fabricaci\u00f3n de armas qu\u00edmicas y biol\u00f3gicas, as\u00ed como para planificar y ejecutar ciberataques. <\/p>\n El instituto publica sus investigaciones y colabora con las agencias de seguridad nacional brit\u00e1nicas para identificar y prepararse para cualquier amenaza que pueda surgir de la IA.<\/p>\n Ante la creciente preocupaci\u00f3n en materia de seguridad que plantea la IA, el trabajo del instituto brit\u00e1nico ya se est\u00e1 convirtiendo en un modelo a seguir para otros gobiernos. La administraci\u00f3n Trump est\u00e1 considerando aplicar normas para la evaluaci\u00f3n de modelos de IA <\/strong>que presentan algunas similitudes con el enfoque pionero del grupo brit\u00e1nico. <\/p>\n Dado que muchos gobiernos carecen de los conocimientos t\u00e9cnicos necesarios para supervisar esta tecnolog\u00eda y dependen de que las grandes empresas tecnol\u00f3gicas se autorregulen, el instituto podr\u00eda ofrecer una v\u00eda alternativa, en la que los expertos en IA aporten conocimientos tecnol\u00f3gicos reales para la toma de decisiones de sus gobiernos.<\/p>\n \u201cNo se puede dejar que las empresas eval\u00faen sus propios errores\u201d,<\/strong> declar\u00f3 en una entrevista el exprimer ministro brit\u00e1nico Rishi Sunak, creador del instituto. \u201cEso es funci\u00f3n de las instituciones democr\u00e1ticas\u201d.<\/p>\n En abril, la empresa Anthropic <\/strong>anunci\u00f3 el lanzamiento de un nuevo modelo de IA, Mythos,<\/strong> que no lanz\u00f3 al p\u00fablico<\/strong> por temor a que pudiera encontrar y explotar vulnerabilidades de ciberseguridad en las redes globales. <\/p>\n El instituto brit\u00e1nico fue la \u00fanica organizaci\u00f3n gubernamental no estadounidense que tuvo acceso al modelo para realizar pruebas de seguridad. Sus conclusiones, publicadas seis d\u00edas despu\u00e9s del anuncio de Mythos, fueron ampliamente citadas por expertos en seguridad.<\/p>\n Estados Unidos cuenta con su propio grupo de seguridad de IA, el Centro para Est\u00e1ndares e Innovaci\u00f3n de IA<\/strong>, pero la versi\u00f3n brit\u00e1nica, respaldada por 360 millones de libras esterlinas de fondos estatales \u2014unos 480 millones de d\u00f3lares\u2014, es m\u00e1s grande y cuenta con mayor financiaci\u00f3n que su hom\u00f3loga norteamericana, que este a\u00f1os recibir\u00e1 unos magros 10 millones de d\u00f3lares. Australia, Canad\u00e1, China, Francia, India, Jap\u00f3n y Singapur<\/strong> han creado institutos similares.<\/p>\n De todos modos, la inversi\u00f3n global en seguridad de la IA ha quedado eclipsada por las enormes sumas destinadas al desarrollo y la comercializaci\u00f3n de esa tecnolog\u00eda. OpenAI, Anthropic y Google cuentan con equipos que trabajan en controles de seguridad, pero los investigadores externos detectan fallas con peligrosa frecuencia. Recientemente, utilizando poes\u00eda, los acad\u00e9micos italianos lograron enga\u00f1ar a un modelo de IA para que les diera las instrucciones para la fabricaci\u00f3n de bombas.<\/strong><\/p>\n En l\u00edneas generales, los gobiernos no han creado sistemas dedicados a evaluar la IA en cuanto a sus riesgos de seguridad, como s\u00ed lo han hecho para controlar sectores como el desarrollo de f\u00e1rmacos o la fabricaci\u00f3n de autom\u00f3viles.<\/p>\n \u201cLo que me quita el sue\u00f1o es la relativa velocidad del avance de esta tecnolog\u00eda en comparaci\u00f3n con la capacidad de respuesta de los gobiernos\u201d<\/strong>, apunta Jade Leung, asesora de IA del primer ministro brit\u00e1nico Keir Starmer y directora de tecnolog\u00eda del Instituto de Seguridad de la IA.<\/p>\n Este instituto de seguridad brit\u00e1nico surgi\u00f3 de una reuni\u00f3n que se celebr\u00f3 en 2023 entre el entonces primer ministro Sunak y tres de los l\u00edderes en IA m\u00e1s destacados del mundo: Sam Altman, de OpenAI, Dario Amodei, de Anthropic, y Demis Hassabis, de Google DeepMind.<\/strong> Sunak recuerda que en esa reuni\u00f3n le comentaron que las capacidades de la IA se estaban acelerando, y que tendr\u00eda profundas implicaciones para el gobierno, el empleo y la seguridad nacional brit\u00e1nica.<\/p>\n \u201cEllos mismos estaban pasmados por la aceleraci\u00f3n del desarrollo de la IA\u201d<\/strong>, record\u00f3 Sunak.<\/p>\n En noviembre de 2023, Sunak anunci\u00f3 la creaci\u00f3n del instituto en una cumbre de l\u00edderes mundiales sobre seguridad de la IA realizada en el legendario Bletchley Park, donde durante la Segunda Guerra Mundial Alan Turing y sus colegas descifraron los c\u00f3digos de encriptaci\u00f3n de la Alemania nazi.<\/p>\n El instituto trabaja sobre los riesgos potenciales m\u00e1s graves que entra\u00f1a la IA avanzada: ciberamenazas, armas qu\u00edmicas y biol\u00f3gicas, y la manipulaci\u00f3n del comportamiento humano.<\/strong> En las \u00faltimas semanas, sus t\u00e9cnicos descubrieron que los modelos de IA de Anthropic y OpenAI podr\u00edan completar un ataque complejo de 32 pasos a una red corporativa mucho m\u00e1s r\u00e1pido que un hacker humano experto, al que normalmente le llevar\u00eda m\u00e1s de 20 horas.<\/p>\n Otra \u00e1rea de investigaci\u00f3n estudia si los modelos de IA se dan cuenta cu\u00e1ndo est\u00e1n siendo puestos a prueba y si a partir de all\u00ed modifican su comportamiento, un avance que indicar\u00eda su nivel de entendimiento y de capacidad para enga\u00f1ar.<\/p>\n Adam Beaumont, director interino del Instituto de Seguridad de la IA, afirm\u00f3 que uno de los principales temores es la imitaci\u00f3n del comportamiento humano que pueda hacer esa tecnolog\u00eda. El a\u00f1o pasado, el instituto public\u00f3 un estudio que revela que los chatbots pueden influir en las opiniones pol\u00edticas de las personas.<\/p>\n El instituto se ha convertido en un modelo para otros, se\u00f1ala Olivia Shen, directora del programa de tecnolog\u00edas estrat\u00e9gicas de la Universidad de S\u00eddney. El a\u00f1o pasado, Leung, del instituto brit\u00e1nico, viaj\u00f3 a Australia para reunirse con funcionarios australianos y este a\u00f1o Australia inaugur\u00f3 su propio centro de seguridad de la IA.<\/p>\n \u201cLos gobiernos tienen que ponerse al d\u00eda\u201d,<\/strong> advierte Shen. \u201cAl ritmo que avanza la IA, los gobiernos van perdiendo terreno d\u00eda a d\u00eda\u201d.<\/p>\n Traducci\u00f3n de Jaime Arrambide<\/strong><\/em><\/p>\n