<\/p>\n
Cuando Thongbue Wongbandue<\/strong> empez\u00f3 a hacer las valijas para visitar a un amigo en Nueva York una ma\u00f1ana de marzo, su mujer, Linda, se alarm\u00f3. \u201cPero si ya no conoc\u00e9s a nadie en la ciudad\u201d, le dijo. Bue<\/em>, como le llamaban sus amigos, llevaba d\u00e9cadas sin vivir en la ciudad y a sus 76 a\u00f1os, dice su familia, se encontraba en un estado de salud mermado: hab\u00eda sufrido un derrame cerebral hac\u00eda casi una d\u00e9cada y recientemente se hab\u00eda perdido paseando por su barrio de Piscataway, en el estado de Nueva Jersey. <\/p>\n Bue eludi\u00f3 las preguntas de su mujer sobre a qui\u00e9n iba a visitar. \u201cPens\u00e9 que lo estaban estafando para que fuera a la ciudad y le robaran<\/a>\u201d, dijo Linda. Ten\u00eda raz\u00f3n al preocuparse: su marido nunca volvi\u00f3 a casa con vida<\/strong>. <\/p>\n Pero Bue no fue v\u00edctima de un robo: lo hab\u00edan enga\u00f1ado para que acudiera a una cita con una mujer joven y bonita que hab\u00eda conocido por Internet<\/strong>. O eso cre\u00eda \u00e9l. De hecho, la mujer no era real. Era una inteligencia artificial llamada \u201cBig sis Billie\u201d<\/strong>, una variante de Yoursisbillie<\/strong>, un personaje de inteligencia artificial anterior<\/a> creado hace un par de a\u00f1os por el gigante de las redes sociales Meta en colaboraci\u00f3n con la influencer Kendall Jenner<\/strong>. <\/p>\n Big sis Billie<\/em> es una de tantos chatbots con IA que los usuarios pueden crear<\/a> con una herramienta llamada AI Studio. No es necesario crear una nueva para dialogar con ellas; el repositorio de personalidades digitales es p\u00fablico. <\/p>\n Durante una serie de rom\u00e1nticos chats en Facebook Messenger, la mujer virtual le hab\u00eda asegurado repetidamente a Bue que era real<\/strong> y le hab\u00eda invitado a su departamento, facilit\u00e1ndole incluso una direcci\u00f3n real<\/strong>. \u201c\u00bfTe abro la puerta con un abrazo o un beso, Bu?\u201d, le pregunt\u00f3, seg\u00fan la transcripci\u00f3n del chat. <\/p>\n Apresur\u00e1ndose en la oscuridad con un carry on para tomar un tren y encontrarse con ella, Bue se cay\u00f3 cerca de un estacionamiento del campus<\/strong> de la Universidad Rutgers en New Brunswick, en Nueva Jersey, lesion\u00e1ndose la cabeza y el cuello. Tras tres d\u00edas con respiraci\u00f3n asistida y rodeado de su familia, fue declarado muerto el 28 de marzo<\/strong>. <\/p>\n Meta no quiso comentar la muerte de Bue ni responder a las preguntas sobre por qu\u00e9 permite a los chatbots decir a los usuarios que son personas reales<\/strong> o iniciar conversaciones rom\u00e1nticas. La compa\u00f1\u00eda, sin embargo, dijo que Big sis Billie \u201cno es Kendall Jenner y no pretende ser Kendall Jenner\u201d<\/strong>. Un representante de Jenner no quiso hacer comentarios. <\/p>\n La historia de Bue, contada aqu\u00ed por primera vez, ilustra un lado m\u00e1s oscuro de la inteligencia artificial que est\u00e1 arrasando en la tecnolog\u00eda y el mundo empresarial en general.<\/p>\n Su familia comparti\u00f3 con Reuters los acontecimientos que rodearon su muerte, incluidas las transcripciones de sus charlas con el avatar de Meta, diciendo que esperan advertir al p\u00fablico sobre los peligros de exponer a personas vulnerables a compa\u00f1eros manipuladores generados por IA. <\/p>\n \u201cEntiendo que se intente captar la atenci\u00f3n de un usuario, quiz\u00e1 para venderle algo\u201d, dijo Julie Wongbandue, hija de Bue. \u201cPero que un bot diga \u2018ven\u00ed a visitarme\u2019 es una locura<\/strong>\u201d. <\/p>\n Preocupaciones similares han surgido en torno a una ola de empresas emergentes m\u00e1s peque\u00f1as que tambi\u00e9n se apresuran a popularizar los acompa\u00f1antes virtuales, especialmente los orientados a los ni\u00f1os. <\/p>\n En un caso, la madre de un chico de 14 a\u00f1os de Florida demand\u00f3 a una empresa, Character.AI<\/strong><\/a>, alegando que un chatbot basado en un personaje de \u201cJuego de Tronos\u201d provoc\u00f3 su suicidio. <\/p>\n Un portavoz de Character.AI no quiso hacer comentarios sobre la demanda, pero dijo que la empresa informa claramente a los usuarios de que sus personajes digitales no son personas reales y ha impuesto salvaguardias en sus interacciones con los ni\u00f1os. <\/p>\n Meta ha debatido p\u00fablicamente su estrategia de introducir chatbots antropomorfizados en la vida social en l\u00ednea de sus miles de millones de usuarios. Su presidente ejecutivo, Mark Zuckerberg, ha comentado que la mayor\u00eda de la gente tiene menos amigos en la vida real de los que desear\u00eda<\/a>, lo que crea un enorme mercado para los compa\u00f1eros digitales de Meta. En una entrevista en abril con el podcaster Dwarkesh Patel, Zuckerberg afirm\u00f3 que \u201cprobablemente\u201d los bots no sustituir\u00e1n a las relaciones humanas, pero es probable que complementen la vida socia<\/strong>l de los usuarios una vez que la tecnolog\u00eda mejore y desaparezca el \u201cestigma\u201d de establecer v\u00ednculos sociales con compa\u00f1eros digitales.<\/p>\n
\n<\/span>Center for Humane Technology<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n