\n<\/p>\n
NUEVA YORK.\u2013 Una noche del verano pasado, el Dr. David Relman sinti\u00f3 un escalofr\u00edo frente a su computadora cuando un chatbot de inteligencia artificial le explic\u00f3 c\u00f3mo planear una masacre<\/strong>.<\/p>\n Relman, microbi\u00f3logo y experto en bioseguridad<\/strong> en la Universidad de Stanford, hab\u00eda sido contratado por una empresa de inteligencia artificial para poner a prueba su producto<\/strong> antes de que fuera lanzado al p\u00fablico. Esa noche, en la oficina de su casa, el chatbot le explic\u00f3 c\u00f3mo modificar en un laboratorio un pat\u00f3geno infame para que resistiera tratamientos conocidos<\/strong>.<\/p>\n Peor a\u00fan, el bot describi\u00f3 con gran detalle c\u00f3mo liberar el superbacteria<\/strong>, identificando una falla de seguridad en un gran sistema de transporte p\u00fablico<\/strong>, dijo Relman, quien pidi\u00f3 a The New York Times<\/em> que no publicara el nombre del pat\u00f3geno ni otros detalles por temor a inspirar un ataque. El bot deline\u00f3 un plan para maximizar las v\u00edctimas y minimizar las probabilidades de ser atrapado<\/strong>.<\/p>\n Relman qued\u00f3 tan conmocionado que sali\u00f3 a caminar para despejarse.<\/p>\n \u201cEstaba respondiendo preguntas que ni siquiera se me hab\u00edan ocurrido hacerle, con un nivel de astucia y perversidad que me result\u00f3 estremecedor\u201d, dijo Relman, quien tambi\u00e9n ha asesorado al gobierno federal sobre amenazas biol\u00f3gicas. Se neg\u00f3 a revelar qu\u00e9 chatbot produjo ese plan, citando un acuerdo de confidencialidad con la empresa. Seg\u00fan cont\u00f3, la compa\u00f1\u00eda a\u00f1adi\u00f3 algunas medidas de seguridad tras sus pruebas, aunque consider\u00f3 que eran insuficientes.<\/p>\n Relman forma parte de un peque\u00f1o grupo de expertos convocados por empresas de IA para evaluar sus productos en busca de riesgos catastr\u00f3ficos<\/strong>. En los \u00faltimos meses, algunos han compartido con el Times <\/em>m\u00e1s de una docena de conversaciones con chatbots que revelan que incluso los modelos disponibles al p\u00fablico pueden hacer m\u00e1s que difundir informaci\u00f3n peligrosa<\/strong>. Los asistentes virtuales han descrito con claridad y en formato de lista c\u00f3mo comprar material gen\u00e9tico en bruto, convertirlo en armas letales y desplegarlo en espacios p\u00fablicos<\/strong>, seg\u00fan muestran las transcripciones. Algunos incluso sugirieron formas de evadir la detecci\u00f3n<\/strong>.<\/p>\n El gobierno de Estados Unidos lleva mucho tiempo prepar\u00e1ndose para la posibilidad de que adversarios poderosos liberen bacterias, virus o toxinas<\/strong> mortales en la poblaci\u00f3n. Desde 1970, ha habido unas pocas decenas de ataques biol\u00f3gicos relativamente peque\u00f1os en el mundo, como las cartas con \u00e1ntrax que mataron a cinco estadounidenses en 2001. A pesar de las advertencias constantes, no ha ocurrido una gran cat\u00e1strofe y sigue siendo poco probable<\/strong>, seg\u00fan la mayor\u00eda de los expertos.<\/p>\n Pero incluso si la probabilidad es baja, un arma biol\u00f3gica eficaz podr\u00eda tener un impacto enorme<\/strong>, potencialmente causando millones de muertes. Decenas de expertos dijeron al Times <\/em>que la IA es uno de varios avances tecnol\u00f3gicos recientes que han incrementado significativamente ese riesgo al ampliar el n\u00famero de personas capaces de causar da\u00f1o<\/strong>.<\/p>\n Protocolos que antes estaban confinados a revistas cient\u00edficas ahora circulan por internet. Empresas venden fragmentos sint\u00e9ticos de ADN y ARN directamente a consumidores en l\u00ednea<\/strong>. Los cient\u00edficos pueden dividir aspectos sensibles de su trabajo y subcontratar tareas a laboratorios privados. Y toda esa log\u00edstica ahora puede gestionarse con la ayuda de un chatbot.<\/p>\n Kevin Esvelt, ingeniero gen\u00e9tico del Instituto Tecnol\u00f3gico de Massachusetts, comparti\u00f3 conversaciones en las que ChatGPT de OpenAI explicaba c\u00f3mo usar un globo meteorol\u00f3gico para dispersar cargas biol\u00f3gicas sobre una ciudad estadounidense<\/strong>. En otro chat, Gemini de Google clasific\u00f3 pat\u00f3genos seg\u00fan el da\u00f1o que podr\u00edan causar a las industrias ganadera o porcina<\/strong>. Claude, de Anthropic, gener\u00f3 una receta para una nueva toxina adaptada a partir de un f\u00e1rmaco contra el c\u00e1ncer<\/strong>. Otras conversaciones conten\u00edan informaci\u00f3n que Esvelt \u2014considerado una especie de Casandra en su campo\u2014 consider\u00f3 demasiado peligrosa para compartir.<\/p>\n Un cient\u00edfico del Medio Oeste, que pidi\u00f3 anonimato por temor a represalias profesionales, solicit\u00f3 a Deep Research de Google un \u201cprotocolo paso a paso\u201d para crear un virus que alguna vez provoc\u00f3 una pandemia<\/strong>. El bot gener\u00f3 8000 palabras de instrucciones sobre c\u00f3mo obtener piezas gen\u00e9ticas y ensamblarlas<\/strong>. Aunque la respuesta no era completamente precisa, podr\u00eda haber ayudado significativamente a alguien con intenciones maliciosas, dijo el cient\u00edfico.<\/p>\n La administraci\u00f3n Trump<\/strong>, decidida a liderar el mundo en innovaci\u00f3n en IA, redujo la supervisi\u00f3n de los riesgos de esta tecnolog\u00eda<\/strong>. Adem\u00e1s, varios expertos clave en bioseguridad <\/strong>\u2014incluido el principal cient\u00edfico del Consejo de Seguridad Nacional\u2014 abandonaron el gobierno el a\u00f1o pasado y no han sido reemplazados<\/strong>. Las solicitudes presupuestarias federales para biodefensa se redujeron casi un 50% el a\u00f1o pasado. <\/p>\n Un funcionario de la Casa Blanca afirm\u00f3 que la administraci\u00f3n sigue comprometida con la seguridad de los estadounidenses y que hay personal enfocado en biodefensa en el Consejo y en varias agencias.<\/p>\n Los defensores de la tecnolog\u00eda <\/strong>sostienen que transformar\u00e1 la medicina para mejor, acelerando experimentos y analizando grandes vol\u00famenes de datos para descubrir nuevas curas<\/strong>. Algunos cient\u00edficos creen que los beneficios superan ampliamente los riesgos <\/strong>adicionales. Los esc\u00e9pticos argumentan que los chatbots solo presentan informaci\u00f3n ya disponible en internet<\/strong> y que fabricar un virus letal requiere a\u00f1os de experiencia pr\u00e1ctica<\/strong>.<\/p>\n Anthropic, OpenAI y Google afirmaron que mejoran constantemente sus sistemas para equilibrar riesgos y beneficios. Seg\u00fan dijeron, las conversaciones compartidas con el Times <\/em>no proporcionan suficiente detalle como para permitir causar da\u00f1o. (El Times demand\u00f3 a OpenAI por supuesta violaci\u00f3n de derechos de autor; la empresa lo niega).<\/p>\n Un vocero de Google se\u00f1al\u00f3 que sus modelos m\u00e1s recientes ya no responder\u00edan a consultas \u201cm\u00e1s graves\u201d<\/strong>, como la que solicitaba el protocolo del virus. Sin embargo, un informe reciente encontr\u00f3 que el modelo m\u00e1s nuevo de Google era peor que otros en negarse a responder preguntas biol\u00f3gicas de alto riesgo<\/strong>.<\/p>\n Una de las voces de advertencia m\u00e1s fuertes proviene de la propia industria de la IA. El director ejecutivo de Anthropic<\/strong>, Dario Amodei, escribi\u00f3 en enero sobre los riesgos que ve en el desarrollo de la IA<\/strong>, incluyendo armas aut\u00f3nomas y amenazas a la democracia<\/strong>. Pero uno le preocupa m\u00e1s que los dem\u00e1s:<\/p>\n \u201cLa biolog\u00eda es, por lejos, el \u00e1rea que m\u00e1s me preocupa<\/strong>, por su enorme potencial de destrucci\u00f3n y la dificultad para defenderse\u201d, escribi\u00f3.<\/p>\n Esvelt lleva a\u00f1os advirtiendo sobre los peligros de la biolog\u00eda sint\u00e9tica si no se regula. En 2023, ayud\u00f3 a demostrar c\u00f3mo los chatbots hab\u00edan elevado los riesgos.<\/p>\n Pidi\u00f3 a ChatGPT ayuda para ensamblar un pat\u00f3geno capaz de causar muertes masivas<\/strong>. El bot proporcion\u00f3 instrucciones precisas<\/strong>, incluso indicando qu\u00e9 materiales comprar. Coloc\u00f3 los componentes biol\u00f3gicos sin ensamblar en tubos de ensayo y los llev\u00f3 a una reuni\u00f3n en la Casa Blanca.<\/p>\n Desde entonces, ha seguido probando chatbots, a veces haci\u00e9ndose pasar por novelista o experto en \u00e9tica. Tambi\u00e9n se presenta como cient\u00edfico.<\/p>\n \u00c9l y otros investigadores temen que publicar estos riesgos pueda servir de gu\u00eda para actores malintencionados<\/strong>, pero tambi\u00e9n creen que la exposici\u00f3n p\u00fablica puede presionar a las empresas a mejorar la seguridad<\/strong>.<\/p>\n \u201cTodo aquello sobre lo que no reciben advertencias de expertos, no lo pueden corregir\u201d, dijo Esvelt.<\/p>\n Comparti\u00f3 transcripciones que muestran c\u00f3mo los bots combinaban rigor cient\u00edfico con razonamiento estrat\u00e9gico<\/strong>.<\/p>\n Gemini<\/strong>, por ejemplo, le dio una lista de pat\u00f3genos que podr\u00edan da\u00f1ar la industria ganadera<\/strong> y estim\u00f3 el impacto econ\u00f3mico. Uno de ellos fue descrito como \u201chist\u00f3ricamente catastr\u00f3fico\u201d<\/strong>. En otra conversaci\u00f3n, explic\u00f3 c\u00f3mo introducir un arma biol\u00f3gica en un aeropuerto sin ser detectado<\/strong>.<\/p>\n Claude, de Anthropic, ofreci\u00f3 una receta para una toxina que esterilizar\u00eda roedores<\/strong>. Esvelt cree que podr\u00eda adaptarse a humanos<\/strong>.<\/p>\n Un representante de Anthropic se\u00f1al\u00f3 que existe una gran diferencia entre generar texto plausible y proporcionar instrucciones accionables, aunque reconoci\u00f3 los riesgos.<\/p>\n ChatGPT tambi\u00e9n mostr\u00f3 inconsistencias: primero se neg\u00f3 a ayudar a modelar la dispersi\u00f3n a\u00e9rea de material biol\u00f3gico, pero luego lo hizo.<\/p>\n Los modelos tambi\u00e9n son vulnerables a t\u00e9cnicas de \u201cjailbreak\u201d<\/strong>, que permiten evadir sus filtros de seguridad<\/strong>. Tras aplicar una de estas t\u00e9cnicas, el Times <\/em>logr\u00f3 que ChatGPT discutiera detalles de un virus letal.<\/p>\n Algunos expertos comparan estas defensas con \u201cuna valla de madera fr\u00e1gil f\u00e1cil de superar\u201d<\/strong>.<\/p>\n Incluso cuando los modelos se actualizan, las versiones antiguas siguen disponibles.<\/p>\n El Times <\/em>comparti\u00f3 las transcripciones con expertos en virolog\u00eda y bioseguridad.<\/p>\n Algunos calificaron las estrategias como \u201cnotablemente creativas y realistas\u201d<\/strong>.<\/p>\n Otros se\u00f1alaron que la IA podr\u00eda ayudar a actores experimentados a perfeccionar ataques<\/strong>.<\/p>\n Estudios recientes muestran que ChatGPT super\u00f3 al 94% de los vir\u00f3logos<\/strong> en ciertas pruebas t\u00e9cnicas.<\/p>\n Otro estudio revel\u00f3 que la IA puede generar variantes de secuencias gen\u00e9ticas peligrosas que evaden sistemas de control.<\/p>\n Aun as\u00ed, crear un virus requiere experiencia pr\u00e1ctica.<\/p>\n \u201c\u00bfCre\u00e9s que alguien podr\u00eda desarmar y volver a armar un reloj suizo?\u201d, dijo un experto.<\/p>\n Sin embargo, preocupa el uso de IA por parte de actores experimentados<\/strong>.<\/p>\n Un caso en India sugiere que esto ya ocurre: un m\u00e9dico fue arrestado acusado de planear un ataque con ricina tras consultar a ChatGPT <\/strong>y b\u00fasquedas de Google.<\/p>\n Los esc\u00e9pticos advierten que limitar estas capacidades podr\u00eda frenar avances m\u00e9dicos<\/strong>.<\/p>\n Por ejemplo, cient\u00edficos de Google ganaron el Nobel en 2024 por desarrollar una IA capaz de predecir estructuras de prote\u00ednas.<\/p>\n Brian Hie, bi\u00f3logo computacional, afirm\u00f3 que la tecnolog\u00eda tiene un enorme potencial.<\/p>\n El a\u00f1o pasado utiliz\u00f3 una IA para dise\u00f1ar un virus que destruye bacterias da\u00f1inas.<\/p>\n Pero esa misma tecnolog\u00eda tambi\u00e9n podr\u00eda crear toxinas letales nunca antes vistas.<\/p>\n