\n<\/p>\n
Un tribunal de la ciudad neerlandesa de \u00c1msterdam prohibi\u00f3 este jueves a la red social <\/strong>X<\/strong><\/em> <\/strong>y a su asistente de inteligencia artificial, Grok<\/strong><\/a>, la generaci\u00f3n y difusi\u00f3n de im\u00e1genes que \u201cdesnuden\u201d a personas<\/strong> sin su consentimiento.<\/p>\n La medida judicial tambi\u00e9n alcanza a cualquier tipo de contenido ped\u00f3filo que pueda ser producido por la herramienta desarrollada por la compa\u00f1\u00eda de Elon Musk.<\/strong><\/p>\n La resoluci\u00f3n judicial remarca que mientras Grok incumpla con esta restricci\u00f3n, la red social X tendr\u00e1 prohibido ofrecer los servicios de su inteligencia artificial<\/strong> en este pa\u00eds.<\/p>\n La determinaci\u00f3n surgi\u00f3 luego de una demanda presentada por Offlimits<\/strong>, un centro nacional especializado en la lucha contra la violencia en l\u00ednea, que llev\u00f3 a las compa\u00f1\u00edas ante la justicia tras detectar fallas cr\u00edticas de seguridad en la herramienta<\/strong>.<\/p>\n El conflicto se origin\u00f3 meses atr\u00e1s, luego de que Grok introdujera una funci\u00f3n que permit\u00eda a los usuarios crear montajes hiperrealistas<\/strong>, conocidos t\u00e9cnicamente como deepfakes<\/strong>. <\/p>\n Seg\u00fan la denuncia de Offlimits, la inteligencia artificial facilitaba la creaci\u00f3n de im\u00e1genes de mujeres y ni\u00f1os desnudos<\/strong> a partir de fotograf\u00edas reales.<\/p>\n Durante el proceso judicial Grok y X afirmaron intentar combatir este tipo de im\u00e1genes<\/strong> incluyendo prohibiciones en sus condiciones de uso y aseguraron haber tomado medidas para impedir su generaci\u00f3n y difusi\u00f3n.<\/p>\n Sin embargo, muchos usuarios lograron \u201cenga\u00f1ar\u201d al chat con prompts o instrucciones. A modo de evidencia los integrantes de Offlimits produjeron un video de una persona desnuda utilizando<\/strong> las herramientas de Grok poco antes de que se iniciara la audiencia judicial. <\/p>\n \u201cSeg\u00fan el juez, Offlimits demostr\u00f3 suficientemente la existencia de una duda razonable sobre la eficacia de las medidas adoptadas<\/strong>\u201d, se\u00f1al\u00f3 el tribunal de \u00c1msterdam a trav\u00e9s de un comunicado oficial publicado en su sitio web.<\/p>\n Para garantizar el cumplimiento de la orden, el tribunal estableci\u00f3 un r\u00e9gimen de penalizaciones econ\u00f3micas. Cualquier infracci\u00f3n se sancionar\u00e1 con una multa de 100000 euros por d\u00eda<\/strong> (US$115.900 diarios)<\/strong>, hasta un m\u00e1ximo de 10 millones de euros (US$<\/strong>115900000).<\/p>\n Este fallo se produce en un contexto de creciente presi\u00f3n regulatoria sobre las empresas tecnol\u00f3gicas <\/strong>en Europa. <\/p>\n El Parlamento Europeo<\/strong> dio este jueves un paso decisivo hacia la prohibici\u00f3n en la Uni\u00f3n Europea de los programas de inteligencia artificial que permitan \u201cdesnudar\u201d <\/strong>a personas sin su consentimiento. La iniciativa ya cuenta con el respaldo de los Estados miembros.<\/p>\n De 20.000 im\u00e1genes generadas por Grok en enero pasado, m\u00e1s de la mitad representan a personas con poca ropa, de las cuales un 81%<\/strong> eran mujeres y un 2% <\/strong>parec\u00edan menores de edad, seg\u00fan un an\u00e1lisis<\/a> de ese recorte realizado por la ONG europea AI Forensics<\/a>.<\/p>\n En un estudio global de Unicef<\/a>, 1,2 millones de ni\u00f1os y ni\u00f1as en el mundo son v\u00edctimas de deepfakes<\/em>: 1 de cada 25 menores de 11 pa\u00edses han sido afectados por este tipo de creaci\u00f3n de im\u00e1genes.<\/p>\nMujeres y ni\u00f1os, las principales v\u00edctimas de las deepfakes<\/h3>\n