<\/p>\n
Cautivante y con magnetismo, X. Eye\u00e9<\/strong><\/a> lidera Malo Santo<\/a>, una consultora que capacita a empresas de la talla de L\u2019Oreal o Mozilla para crear inteligencia artificial (IA) que pueda escalar en todas las geograf\u00edas, culturas y dentro de comunidades espec\u00edficas<\/strong>, y tambi\u00e9n se dedica a la asesor\u00eda pol\u00edtica en la Universidad de Berkeley en California. <\/p>\n Previamente, y durante 17 a\u00f1os, se desempe\u00f1\u00f3 como l\u00edder de ingenier\u00eda, gerente de producto e investigaci\u00f3n en Microsoft, Google y en el Departamento de Defensa<\/strong> (de hecho, estuvo en Afganist\u00e1n como oficial del Ej\u00e9rcito). En Microsoft, trabaj\u00f3 en soluciones de inteligencia ambiental de vanguardia que combinaban blockchain, IA e IoT para empresas Fortune 500 de todo el mundo.<\/p>\n En Google trabaj\u00f3 en todos los productos e investigaciones de inteligencia artificial de la compa\u00f1\u00eda para garantizar que se crearan de manera responsable y \u00e9tica. All\u00ed cre\u00f3 nuevos equipos de investigaci\u00f3n, incluido el equipo Skin Tone, que desarroll\u00f3 t\u00e9cnicas para mejorar la capacidad de la IA para reconocer diversos tonos de piel,<\/strong> un trabajo que estableci\u00f3 nuevos est\u00e1ndares en la industria para medir el tono de la piel en IA y mejorar el desempe\u00f1o de productos como la c\u00e1mara del tel\u00e9fono Pixel y la b\u00fasqueda de im\u00e1genes de Google.<\/p>\n Dialog\u00f3 en exclusiva para LA NACION en el marco de su llegada al pa\u00eds para el Bid Lab Forum<\/strong><\/a>, encuentro internacional organizado por el laboratorio de innovaci\u00f3n y venture capital del BID que impulsa soluciones innovadoras de impacto a escala en Am\u00e9rica Latina y el Caribe cuya tercera edici\u00f3n se celebr\u00f3 en Buenos Aires la semana pasada.<\/p>\n Un inversor afirm\u00f3 reci\u00e9n que en Am\u00e9rica Latina \u201cno vamos a construir IA sino que vamos a ser consumidores de IA\u201d. \u00bfCu\u00e1l es tu visi\u00f3n al respecto?<\/strong><\/p>\n Investigaci\u00f3n realizada en Estados Unidos muestra que los latinoamericanos son los m\u00e1s r\u00e1pidos en adoptar IA. La idea de que no van a construirla o formarla, est\u00e1 equivocada. Creo que en la regi\u00f3n existen formas \u00fanicas de vivir que son diferentes de cualquier otro lugar del mundo; una compa\u00f1\u00eda de afuera no puede construir una IA para ella. Existen desaf\u00edos \u00fanicos dentro de cada pa\u00eds, dentro de cada cultura, que solo aquellos que los entiendan profundamente pueden construir soluciones.<\/a> Quiz\u00e1s s\u00ed creo que no habr\u00e1 tanta infraestructura de IA que provenga de Am\u00e9rica Latina. Si mir\u00e1s ChatGPT o Gemini, son modelos pueden hacer un poco de todo, pero no son muy buenos en algo en particular. Hay mucho espacio para que Am\u00e9rica Latina construya modelos que sean buenos en cuestiones espec\u00edficas, en trabajos espec\u00edficos, en problemas espec\u00edficos, en pa\u00edses y comunidades espec\u00edficas.<\/p>\n Como consultora, cuando est\u00e1s frente a frente con empresas, \u00bfcu\u00e1les son tus principales preocupaciones respecto a las implementaciones de IA?<\/strong><\/p>\n Creo que mi principal preocupaci\u00f3n es que la gente se est\u00e1 moviendo demasiado m\u00e1s r\u00e1pido de lo que efectivamente progresa. Por ejemplo, todo el mundo quiere usar la IA de alg\u00fan modo, pero nadie quiere hacer una pausa y preguntarse: \u00bfcu\u00e1les son las formas en las que NO deber\u00edamos usar la IA? Falta conocimiento de la tecnolog\u00eda en el caso de la gente que la est\u00e1 construyendo e incluso ignorancia voluntaria, cuando saben que no funciona pero no les importa. Y otra cosa que me preocupa es que las personas reales son \u201clos sujetos de prueba\u201d para estos sistemas de tecnolog\u00eda, porque no tenemos pol\u00edticas fuertes que obliguen a probar lo que se est\u00e1 haciendo antes de ponerlo en marcha; es decir el lanzamiento de la tecnolog\u00eda -que realmente afecta a las vidas de las personas reales- es en s\u00ed mismo el periodo de prueba.<\/p>\n \u00bfY c\u00f3mo cre\u00e9s que se puede equilibrar la innovaci\u00f3n y la regulaci\u00f3n?<\/strong><\/p>\n Creo que la l\u00f3gica de innovar en IA y luego regular beneficia a las empresas que quieren ganar dinero r\u00e1pidamente. En medicina no se lanzan f\u00e1rmacos sin testear y estudiar previamente. Honestamente, moverse as\u00ed va en contra de la innovaci\u00f3n, porque se construyen productos que no funcionan y afectan la vida de las personas. Lo que ocurre es que luego, para arreglarlo, es mucho m\u00e1s complicado que corregir una aplicaci\u00f3n convencional. La IA aprende de patrones, de enormes cantidades de datos. Para arreglar un error, primero hay que dejar de usarla y entender por qu\u00e9 tom\u00f3 la decisi\u00f3n. Luego, hay que brindarle suficientes datos para desaprender el patr\u00f3n y aprender el nuevo. Si las empresas no quieren pensar cr\u00edticamente sobre estos sistemas, pueden ser las primeras en comercializar, pero ser\u00e1n las \u00faltimas en arreglar lo que funciona mal, y es contraintuitivo para la innovaci\u00f3n ignorar estas fronteras.<\/p>\n \u00bfD\u00f3nde deber\u00eda estar el foco al momento de regular?<\/strong><\/p>\n El reto con la regulaci\u00f3n de la IA es cuando mir\u00e1s el riesgo y los casos de utilidad. Si Amazon recomienda un producto que no quiero comprar, probablemente no me va a da\u00f1ar, tampoco Netflix; pero si un m\u00e9dico recomienda una cirug\u00eda que no necesito porque la IA lo dijo es realmente peligroso, o si un banco decide otorgar o no un cr\u00e9dito o si las autoridades utilizan IA para decidir cu\u00e1nto tiempo alguien deber\u00eda ir a la c\u00e1rcel, y estos son todos casos de utilidad activos en los Estados Unidos, en Europa y en otros pa\u00edses. No creo que haya que regular la tecnolog\u00eda en general, pod\u00e9s regular las formas en que no quer\u00e9s que sea usada, los casos de uso. Por ejemplo, si no quer\u00e9s que la IA sea usada para hacer pornograf\u00eda falsa de ni\u00f1os reales, entonces hay que promulgar una ley que lo haga ilegal, aunque no sean ni\u00f1os reales. En California, existe una ley que dice que si us\u00e1s IA en tu campa\u00f1a pol\u00edtica, ten\u00e9s que declararla y no pod\u00e9s usarla a 120 d\u00edas de la elecci\u00f3n. Y ahora es ilegal hacer un deepfake de tu oponente pol\u00edtico.<\/p>\n \u00bfCu\u00e1l es la relaci\u00f3n entre IA e implementaci\u00f3n? Me refiero a lo relacionado a ciertos pa\u00edses y geograf\u00edas con diferencias pol\u00edticas o culturales.<\/strong><\/p>\n La investigaci\u00f3n muestra que ChatGPT o Gemini no funcionan bien para personas que no hablan ingl\u00e9s como primer idioma<\/a>, tiene un enorme sesgo contra otros idiomas. \u00bfPor qu\u00e9 estamos tan emocionados por un predictor de texto que no puede entender las palabras que estamos diciendo si no habl\u00e1s ingl\u00e9s como primera lengua?. Es un instrumento que no fue construido para otras comunidades, \u00bfpor qu\u00e9 esperamos que pueda reconstruir nuestras sociedades de una manera que sea significativa e impactante? Al ser un calculador de lenguaje, te da la capacidad de ampliar tu propio genio ayud\u00e1ndote a formar tus ideas, pero no tiene capacidad de entender lo que dice, por eso alucina; y es dif\u00edcil poder resolver las alucinaciones de un modelo que tiene 200 millones de estas interacciones cada d\u00eda, no es sostenible como negocio. Mucho de lo que est\u00e1 sucediendo es que las grandes empresas est\u00e1n \u201catajando\u201d los problemas en vez de replantearse su uso, probablemente porque hay una competencia enorme por sacar tajada a esta tecnolog\u00eda. Pero la pregunta es: \u00bfpor qu\u00e9 limpiar los errores de una tecnolog\u00eda que pod\u00e9s simplemente utilizar de la manera que funciona bien, en lugar de intentar forzarla de maneras que no funcionan?<\/p>\n \u00bfC\u00f3mo ayud\u00e1s a las compa\u00f1\u00edas a construir una IA m\u00e1s responsable y menos sesgada?<\/strong><\/p>\n Hay tres \u00e1reas claves en las que Malo Santo trabaja: la primera es la educaci\u00f3n. Trabaj\u00e9 durante muchos a\u00f1os en grandes empresas tecnol\u00f3gicas como Google en todos sus productos para hacer este tipo de trabajo, para descubrir cu\u00e1ndo un producto no est\u00e1 funcionando, c\u00f3mo arreglarlo, c\u00f3mo operacionalizarlo, la gobernaci\u00f3n y el proceso de revisi\u00f3n, etc. Pero Google es una empresa tecnol\u00f3gica, por lo que es su obligaci\u00f3n hacerlo, pero muchas empresas no son empresas tecnol\u00f3gicas y sus departamentos tecnol\u00f3gicos son peque\u00f1os y no pueden contratar a los mejores. Educamos a todos los niveles, podemos educar a ejecutivos sobre c\u00f3mo pensar estrat\u00e9gicamente sobre cu\u00e1les son los riesgos para diferentes personas, con los equipos t\u00e9cnicos y legales para entender c\u00f3mo funcionan los algoritmos, cuestiones de seguridad, privacidad, la seguridad, responsabilidad y gobernanza. No hay clase alguna que te pueda ense\u00f1ar esto, no pod\u00e9s enviarlos a \u201cla clase de privacidad de la IA\u201d, no existe. Adem\u00e1s, nuevas regulaciones surgen cada d\u00eda, puede ser muy dif\u00edcil entender cu\u00e1les aplican a tu organizaci\u00f3n y c\u00f3mo efectivamente manejar todo esto mientras tus empleados est\u00e1n construyendo la IA.<\/p>\n \u00bfC\u00f3mo constru\u00eds, entonces, una IA que escale en diferentes geograf\u00edas y\/o culturas?<\/strong><\/p>\n Tradicionalmente, para las empresas, la escalabilidad es simplemente alcanzar a m\u00e1s usuarios en diferentes regiones y para hacer eso, ten\u00e9s algo que se llama localizaci\u00f3n, que es, cambi\u00e1s de lenguaje, cambi\u00e1s de color, quiz\u00e1s una funcionalidad para que se adecue a las leyes locales. Pero, en general, tu modelo de negocio se mantiene mayormente igual. Lo que ocurre con la IA es que cuando la entren\u00e1s en una regi\u00f3n y quer\u00e9s ponerla en otra no es tan f\u00e1cil como otras aplicaciones, porque hay diferentes aspectos que ten\u00e9s que considerar sobre las normas culturales, sobre las normas sociales, sobre las necesidades y el modo en que una comunidad en particular puede funcionar en forma diferente de la tuya. Un ejemplo: una empresa hab\u00eda creado un producto para ni\u00f1os, un juguete educativo. Yo quise probar el juguete y me dijeron que no era necesario porque iba a estar disponible en todos los lenguajes de los pa\u00edses donde iban a vender. Luego de conversar con el robot y hacerle una pregunta sobre g\u00e9nero que podr\u00eda considerarse \u201ccontroversial\u201d el juguete respondi\u00f3 \u201cest\u00e1 bien amar a cualquiera siempre que seas feliz\u201d. \u00bfSe podr\u00eda vender este juguete en Medio Oriente? \u00bfO qu\u00e9 tal padres en pa\u00edses o zonas m\u00e1s conservadores o en lugares donde ser LGBTQ+ es literalmente ilegal? Ellos pensaron que era un buen producto porque lo construyeron con una comprensi\u00f3n de lo que es el bien y mal en el mundo basado en una parte de California, y eso no significa que ese producto pueda generalizarse y escalarse en todos los lugares. Si quer\u00e9s escalar globalmente, entonces ten\u00e9s que hacer el esfuerzo de pensar tu producto dentro de las diferentes fronteras geogr\u00e1ficas, las diferentes fronteras sociales y las diferentes necesidades de la comunidad.<\/p>\n \u00bfSos una persona optimista respecto de la IA y el futuro? \u00bfA d\u00f3nde vamos?<\/strong><\/p>\n Creo que estoy entusiasmada por el futuro de la IA, porque creo en nuestra capacidad colectiva de decidir qu\u00e9 sucede a continuaci\u00f3n. Creo que para muchas personas es f\u00e1cil mirar a Elon Musk, Sam Altman, Mustafa Suleyman, Satya Nadella y a Sundar Pichai y preguntarse\u201c\u00bfqu\u00e9 tipo de mundo nos van a dar?, porque esto de la IA est\u00e1 demasiado lejos de m\u00ed\u201d. La realidad es que nadie lo sabe. Ahora mismo estamos en un punto de comienzo con esta tecnolog\u00eda y podemos formar el futuro que viene con ella. Si no queremos un mundo donde haya robots que tomen nuestros trabajos, hag\u00e1moslo ilegal y que sean usados en ciertos casos. Pensemos: \u00bfde verdad queremos un doctor basado completamente en IA? No quiero que Elon Musk o Sam Altman decidan esto, la realidad es que tenemos que imaginarlo juntos y decidirlo juntos. La IA puede convertirse en un superh\u00e9roe o un supervillano en el futuro: la pregunta es, \u00bfqu\u00e9 elegiremos?.<\/p>\n <\/a><\/p>\n