![](\"https:\/\/radioacuariofm.com.ar\/wp-content\/uploads\/2024\/12\/charles-ware-a-la-ia-la-usan-los-ID6SCHQUMNDLLDB55GCMKLEUGQ-2.jpg\"\/)
<\/p>\n <\/p>\n
Una filtraci\u00f3n de datos en Am\u00e9rica Latina cuesta en promedio 2,76 millones de d\u00f3lares. El esfuerzo que demanda en el nivel operativo es de 365 d\u00edas. Y el costo reputacional es alt\u00edsimo: el 66% no har\u00eda negocios con empresas que hayan sufrido una filtraci\u00f3n.<\/strong> Los datos surgen del reporte Cost of Data Breach de 2024 de IBM, en un contexto donde las empresas buscan transformarse y obtener r\u00e9ditos de sus datos con la Inteligencia Artificial Generativa. Al igual que sus atacantes.<\/p>\n Las tendencias para 2025 muestran un crecimiento en escala y velocidad de los ataques sobre los datos y los modelos de inteligencia artificial, con una cuota mayor de riesgo en torno a la shadow AI, \u201cel uso de la IA en las sombras\u201d que hacen muchos empleados de las empresas, por fuera de los canales oficiales. LA NACION <\/strong>convers\u00f3 con Charles Ware, ejecutivo de ciberseguridad de IBM para Latinoam\u00e9rica sobre estos riesgos y el uso de la IA generativa para el ataque y la defensa.<\/p>\n -El problema de la inteligencia artificial usada en las sombras parece subestimado en las organizaciones \u2026<\/strong><\/p>\n -Lo que no se tiene en cuenta es la exposici\u00f3n de la informaci\u00f3n. Supongamos que alguien tiene que hacer un resumen de un contrato de 400 p\u00e1ginas y lo sube a una inteligencia artificial. Lo que ese empleado no se da cuenta es que est\u00e1 subiendo informaci\u00f3n confidencial a una IA que no tiene seguridad o que la empresa no conoce. O supongamos que yo quiero probar c\u00f3mo funciona el tema de inteligencia artificial para videos falsos (deep fake<\/em>) o el deep <\/em>de audios. Uso un sistema de inteligencia artificial que es gratuito y listo. Pero mi audio qued\u00f3 en la nube y mi voz qued\u00f3 disponible para los atacantes para un robo de credenciales. El riesgo de <\/strong>shadow AI<\/strong><\/em> est\u00e1 en crecimiento y se propaga cada vez m\u00e1s, porque hay m\u00e1s herramientas y, los empleados, de repente muy inocentemente para mejorar su trabajo, lo que hacen es utilizarlas sin saber los riesgos que eso conlleva.<\/strong><\/p>\n -\u00bfQu\u00e9 tiene que hacer una empresa ante eso?<\/strong><\/p>\n -Tener una gobernanza del AI, saber cu\u00e1les son las IA que est\u00e1n permitidas a utilizar como empresa y tener control. Y, evidentemente, cuando tratas informaci\u00f3n confidencial, utilizar simplemente la IA de la empresa y no una externa, sobre la cual no se conoce su seguridad.<\/strong> Adem\u00e1s, claramente es un problema que se ataca con entrenamiento, porque si un empleado no hace uso de estas IA en la empresa o en los equipos corporativos, lo puede hacer en su casa.<\/p>\n -\u00bfSirve bloquear el acceso a ciertos servicios?<\/strong><\/p>\n -No puedo poner bloqueos para eso. Es puramente ense\u00f1anza, que los empleados entiendan que pueden tener acceso a IA y por eso las empresas hoy d\u00eda est\u00e1n utilizando inteligencia artificial entrenadas por ellas y apoyadas en proveedores que trabajan con inteligencia artificial segura, como lo es IBM, pero ense\u00f1ando a la gente qu\u00e9 es lo que pueden utilizar. Ten\u00e9s el recurso para utilizar la inteligencia artificial para evitar que utilicen otras inteligencias, pero lo que realmente se necesita en ense\u00f1anza.<\/p>\n -Otro tema importante es resguardar la calidad de los datos de los modelos de inteligencia artificial con los que trabajan las empresas. Y c\u00f3mo pueden ser atacados.<\/strong><\/p>\n -Ten\u00e9s dos capas en la inteligencia artificial. La inyecci\u00f3n de c\u00f3digo malicioso ocurre cuando la inteligencia artificial no tiene la seguridad suficiente y los atacantes logran inyectar c\u00f3digo malicioso para que esa inteligencia pueda dar datos que no queremos. O, peor todav\u00eda, pueda tomar informaci\u00f3n, porque con el c\u00f3digo malicioso se puede extraer informaci\u00f3n de quien est\u00e1 poniendo sus datos para utilizar la inteligencia artificial. El otro es la fuga de informaci\u00f3n, en el caso de que el atacante logre vulnerar un gran modelo de lenguaje (LLM) para robar informaci\u00f3n o poner este c\u00f3digo que va a filtrar informaci\u00f3n.<\/p>\n -\u00bfCu\u00e1l es la mejor forma de encarar ese problema?<\/strong><\/p>\n -Tener las dos visiones para proteger la inteligencia artificial. Hay soluciones que lo que hacen b\u00e1sicamente es proteger el modelo LLM para que no sea vulnerado. La otra, que va de la mano, es proteger los datos propiamente. O sea, el dato que est\u00e1 utilizando la LLM, tenerlo protegido para evitar una fuga de informaci\u00f3n.<\/p>\n -\u00bfC\u00f3mo ayuda la IA para esto?<\/strong><\/p>\n \u2013A la IA la usan los ciberdelincuentes para maximizar los ataques, en una escala mucho mayor a la que lo podr\u00edan hacer manualmente. Y para tener mayor precisi\u00f3n sobre el contexto de las personas.<\/strong> No es lo mismo que yo le dispare a Charles Ware un ataque ofreciendo una fortuna porque falleci\u00f3 un pariente en Italia, cuando \u00e9l no tiene un familiar all\u00ed, a que haga un ataque basado en lo que public\u00f3 en sus redes sociales. Los ataques son mucho m\u00e1s precisos. Desde el punto de vista de la defensa, hay mucha informaci\u00f3n en internet sobre ataques, pero no es humanamente posible procesar toda la informaci\u00f3n para detectar uno nuevo. La IA ayuda a entender qu\u00e9 es lo que est\u00e1 sucediendo y alertarte, o bien tratar de predecir esos ataques. Despu\u00e9s, obviamente, la IA ayuda a autorizar procesos y evitar falsos positivos, para poner foco espec\u00edficamente en donde lo tenemos que poner.<\/p>\n Conforme a los criterios de<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" Una filtraci\u00f3n de datos en Am\u00e9rica Latina cuesta en promedio 2,76 millones de d\u00f3lares. El esfuerzo que demanda en el nivel operativo es de 365 d\u00edas. Y el costo reputacional es alt\u00edsimo: el 66% no har\u00eda negocios con empresas que hayan sufrido una filtraci\u00f3n. Los datos surgen del reporte Cost of Data Breach de 2024 de IBM, en un contexto donde las empresas buscan transformarse y obtener r\u00e9ditos de sus datos con la Inteligencia Artificial Generativa. Al igual que sus atacantes.
\n Las tendencias para 2025 muestran un crecimiento en escala y velocidad de los ataques sobre los datos y los modelos de inteligencia artificial, con una cuota mayor de riesgo en torno a la shadow AI, \u201cel uso de la IA en las sombras\u201d que hacen muchos empleados de las empresas, por fuera de los canales oficiales. LA NACION convers\u00f3 con Charles Ware, ejecutivo de ciberseguridad de IBM para Latinoam\u00e9rica sobre estos riesgos y el uso de la IA generativa para el ataque y la defensa.
\n -El problema de la inteligencia artif..<\/p>\n","protected":false},"author":2,"featured_media":115163,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[28],"tags":[],"class_list":["post-115162","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-economia"],"_links":{"self":[{"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/115162","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=115162"}],"version-history":[{"count":1,"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/115162\/revisions"}],"predecessor-version":[{"id":115165,"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/115162\/revisions\/115165"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=\/wp\/v2\/media\/115163"}],"wp:attachment":[{"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=115162"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=115162"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/radioacuariofm.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=115162"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}