Minicurso sobre la IA 4

 Bien, queridos amigos, dado el gran recibimiento que está teniendo el minicurso sobre la IA del Massachusetts Institute of Technology, he decidido no hacer, por ahora, una pausa en su publicación (téngase en cuenta que Policromía se basa en el salto de una idea a cualquier otra).

Así pues, los dejo con el MIT que les hablará, en esta entrega, de los peligros de la IA de los cuales hay que estar prevenido.

¡Vamos a ello!

 

Entrega 4: Trampas de la IA a las que estar atentos.

 Hola y bienvenido de nuevo. Hasta ahora, en esta serie, hemos explorado qué es la IA, cómo hablar de ella y cómo usar nuevas herramientas generativas. Ahora es el momento de aprender sobre los problemas más comunes de los sistemas de IA modernos para que puedas estar atento a ti mismo y a los demás.

A estas alturas, ya sabes que la IA puede ayudar a las personas y causarles daño. Los modelos de lenguaje de IA podrían convertirse en poderosas herramientas de productividad . Pero también existen muchos peligros, desde generadores de avatares sesgados hasta contenido generado por IA engañoso.

Para comprender mejor los riesgos, repasaremos algunos de los mayores desafíos relacionados con la IA que todos deberían conocer.

 

El problema del sesgo

Una preocupación crucial con respecto a la IA es el sesgo. Una IA solo puede ser tan buena como los datos con los que fue entrenada.

·         Los modelos de IA, como el generador de imágenes DALL-E 2, se entrenaron con datos predominantemente centrados en Estados Unidos . Cuando se les pide que generen imágenes de objetos cotidianos, desde puertas hasta casas, crean objetos que parecen estadounidenses, dice Federico Bianchi, investigador de la Universidad de Stanford.

·         Los datos que se utilizan para entrenar a los modelos de IA también conllevan otros sesgos. Por ejemplo, Internet está repleto de imágenes de mujeres desnudas o apenas vestidas, e imágenes que reflejan estereotipos sexistas y racistas. Cuando estos datos se utilizan para entrenar a la IA, esos sistemas generan este mismo tipo de imágenes. Es por eso que las mujeres suelen ser sexualizadas en las imágenes producidas por la IA, mientras que los hombres se muestran como exploradores, astronautas e inventores. Puedes ver por ti mismo cuán sesgados son los modelos de generación de imágenes . El sesgo puede introducirse y tener consecuencias en el mundo real, por ejemplo, en los sistemas de contratación que filtran millones de currículos .

·         El sesgo es un problema particularmente difícil de solucionar . No entendemos realmente cómo estos sistemas generan lo que generan y nuestros procesos para mitigarlo no son perfectos. Esto se debe en parte a que los sesgos son problemas sociales complejos que no tienen una solución técnica sencilla.

·         Existen formas de abordar este problema. OpenAI ha utilizado una técnica en ChatGPT llamada aprendizaje de refuerzo a partir de la retroalimentación humana , que mejora las respuestas del modelo en función de la retroalimentación de los usuarios. La empresa afirma que recopilará aún más retroalimentación del público para dar forma a sus modelos.

TL;DR : El sesgo seguirá estando presente en la mayoría de los modelos de IA generativa.

 

Por ejemplo, un algoritmo de contratación para un puesto vacante podría tener una marcada preferencia por los hombres si más hombres han desempeñado ese papel en el pasado. A medida que la IA prolifera, es importante ser escéptico con las cosas que vemos en línea. Y a medida que todos usemos más IA en nuestras vidas, tendremos que estar más atentos a cómo se infiltran los sesgos. El sesgo no solo tiene que ver con decidir si confiar en lo que vemos en línea. Tiene que ver con considerar si un sistema de IA es apropiado para usar en primer lugar.

Detección de IA

Los gobiernos y los actores políticos, tanto en democracias como en autocracias, están utilizando la IA para generar textos, imágenes y vídeos con el fin de manipular la opinión pública . Diferenciar entre la IA y los medios creados por humanos será cada vez más difícil a medida que la IA mejore. Por eso, reforzar esas habilidades ahora es una buena idea. Esto es lo que debes saber sobre los métodos de detección de la IA.

·        Se pueden utilizar herramientas para detectar imágenes y textos generados por IA. Los investigadores de Harvard e IBM desarrollaron una herramienta llamada Giant Language Model Test Room,  que resalta pasajes de texto que pueden haber sido generados por un programa informático. 

·        Pero recuerda que ninguna de estas herramientas es perfecta. Nunca captarán con precisión el 100 % de los contenidos multimedia generados por IA. Algunas personas incluso han sido acusadas falsamente por estas herramientas de usar IA para producir trabajos cuando no es así.

·        Es importante saber que los humanos no somos muy buenos para detectar textos generados por IA por nuestra cuenta, pero la buena noticia es que podemos mejorar. La investigadora Daphne Ippolito  creó un juego  para probar cuántas oraciones puede generar una computadora antes de que un jugador se dé cuenta de que el autor no es humano, y descubrió que las personas mejoraban con la práctica.

·        Las marcas de agua son otro tipo de técnica de detección. Los creadores individuales o los creadores de modelos de IA pueden agregar información a un contenido sobre sus orígenes, lo que facilita su verificación o rastreo a medida que viaja en línea. Google DeepMind fue la primera gran empresa tecnológica en  lanzar una marca de agua públicamente . Es un buen primer paso y una prueba importante de qué técnicas podrían funcionar mejor, dice Claire Leibowicz, directora del Programa de Integridad de Medios e IA en la Asociación de Inteligencia Artificial.

·        Pero las marcas de agua son algo muy nuevo y voluntario. Las principales empresas de IA aún están acordando un estándar. Los investigadores han descubierto que las marcas de agua se  eliminan fácilmente  y son vulnerables a la manipulación, lo que puede provocar falsos positivos y falsos negativos.  La orden ejecutiva del presidente Biden sobre IA  prometía nuevas directrices sobre el etiquetado del contenido generado por IA , pero la Ley de IA de la UE va un paso más allá y  exige etiquetas .

IA para pensamientos

 Aquí hay algunas cosas más que debes tener en cuenta:

 ·        Hallucinate no es solo el nombre de una gran canción de Dua Lipa, es en realidad lo que hacen todos los grandes modelos de lenguaje . Esa es otra forma de decir que los sistemas de IA inventan cosas lo que es una de las principales razones por las que no puedes confiar en todo lo que dicen.

·        Los chatbots están entrenados para adivinar qué palabras deben ir a continuación en una oración. No confíes en ellos cuando se trate de información financiera o de salud. Utiliza fuentes externas para verificar el resultado de cualquier inteligencia artificial.

·        Los deepfakes son un problema que ni siquiera Taylor Swift puede evitar . La IA generativa ha hecho que sea ridículamente fácil y barato crear deepfakes realistas. Y casi todos los deepfakes están hechos para pornografía no consensuada . Cualquiera que haya publicado una foto de sí mismo públicamente en línea es vulnerable a esto, así que tenga mucho cuidado. Prioriza los canales privados frente a los públicos, especialmente cuando compartas imágenes o videos de menores.

·        Nadie sabe cómo funciona la IA . Aún es muy pronto para comprenderla, por lo que es de esperar que surjan más fallos y fallas a medida que se convierta en parte de los productos del mundo real.

 

Si deseas explorar más, te recomendamos un curso en línea gratuito llamado Elementos de IA , desarrollado por una startup llamada MinnaLearn y la Universidad de Helsinki.

A medida que la IA se vaya abriendo camino en nuestras vidas, las habilidades de todos en materia de IA aumentarán y nos adaptaremos a las peculiaridades y limitaciones de estos sistemas. Mientras tanto, comprender cómo funciona la IA y sus limitaciones puede ayudarte a aprender a vivir con ella.

Bien amigos, me despido, ¡Hasta la próxima!