Minicurso sobre la IA 6

 

Sexta entrega: ¿La IA necesita reglas más estrictas?

 Hola y bienvenidos a la edición final de Introducción a la IA. ¡Hemos cubierto mucho terreno en las últimas semanas! Esperamos que sientan que saben más sobre cómo usar la IA y cómo pensar sobre qué papel deberían desempeñar estos sistemas en nuestras vidas. Ahora, hablemos sobre las regulaciones de la IA.

Si no se implementan adecuadamente,

las herramientas de IA pueden causar daños reales.

Los sistemas de reconocimiento facial han clasificado a los negros como gorilas y se está utilizando software deepfake para hacer vídeos pornográficos de mujeres sin su consentimiento. Los sistemas basados ​​en inteligencia artificial también desempeñan cada vez más un papel de guardianes en las decisiones de contratación. 

A las empresas tecnológicas les encanta hablar de su compromiso con la ética de la IA , pero los equipos responsables de IA suelen ser los primeros en sufrir recortes durante los despidos, y las empresas tecnológicas pueden decidir cambiar sus políticas éticas en cualquier momento. OpenAI, por ejemplo, comenzó como un laboratorio de investigación “abierto” antes de cerrar el acceso público a sus investigaciones para proteger su ventaja competitiva.

La regulación es una forma de determinar

el impacto de una nueva tecnología en el mundo.

Algunos críticos dicen que puede sofocar la innovación y la creatividad, pero otros sostienen que, si se aplican correctamente, las regulaciones influyen en la forma en que se desarrollan y se implementan las tecnologías para garantizar que satisfagan las necesidades de todos.  

En la actualidad, la regulación de la IA es un proceso en curso en todo el mundo. Hay dos enfoques principales: regular el desarrollo de la IA y regular cómo se utiliza.

La UE

La Unión Europea está preparada para convertirse en la policía de la IA del mundo con la Ley de IA, que establece normas vinculantes sobre transparencia y ética. La Ley de IA exige a las empresas tecnológicas que notifiquen a las personas cuando interactúan con un chatbot, un software que utiliza biometría o sistemas de reconocimiento de emociones. También exigirá a las empresas que etiqueten los deepfakes y el contenido generado por IA, y que diseñen sistemas que puedan detectar o revelar los medios generados por IA. Este es un paso más allá de los compromisos voluntarios que las principales empresas de IA han asumido con la Casa Blanca de simplemente desarrollar herramientas de procedencia de IA , como las marcas de agua .

Según nuestros informes, parece que ni los reguladores ni las empresas tecnológicas están realmente contentos con la Ley de IA , pero muchos la ven como un compromiso necesario. Y en cierto sentido, la mejor regulación de la IA es aquella que se puede promulgar en lugar de quedar atrapada en el purgatorio legislativo. Así que es un comienzo.

Estados Unidos

En 2023, el presidente Joe Biden emitió una orden ejecutiva sobre la IA que exigía más transparencia y nuevos estándares. La orden exige que los desarrolladores compartan los resultados de las pruebas de seguridad de los nuevos modelos de IA con el gobierno de Estados Unidos si las pruebas muestran que la tecnología podría representar un riesgo para la seguridad nacional. 

También ordena al Departamento de Comercio que desarrolle una guía para etiquetar el contenido generado por IA. Las empresas de IA utilizarán esa guía para crear herramientas de etiquetado y marca de agua que la Casa Blanca espera que adopten las agencias federales. 

Si bien la orden ejecutiva de Biden va más allá de los intentos anteriores del gobierno estadounidense de regular la IA, pone mucho más énfasis en establecer mejores prácticas y estándares que en cómo, o incluso si, se aplicarán esas nuevas directivas.

Biden también creó el Instituto de Seguridad de la Inteligencia Artificial de Estados Unidos, que será responsable de implementar la mayoría de las políticas creadas en la orden ejecutiva. La Ley de Inteligencia Artificial también exige que la UE establezca una oficina como esta, pero en este momento ambas oficinas carecen de la financiación y la seriedad necesarias para ser ejecutoras significativas. 

Mientras tanto, no está claro qué proyectos de ley sobre IA podrían ganar terreno en el Congreso estadounidense. Parece probable que cualquier legislación significativa sobre IA clasifique los tipos y usos de la IA según el riesgo que plantean, un marco similar a la Ley de IA de la UE. Pero 2024 es un año electoral en Estados Unidos y el enfoque del gobierno federal respecto de la regulación de la IA seguramente estará determinado por el próximo presidente.

Porcelana

China ha adoptado un enfoque diferente para regular la IA. En lugar de regular la IA en su conjunto, el país publica leyes individuales cada vez que un nuevo producto de IA adquiere relevancia. Ahora China tiene un conjunto de normas para los servicios de recomendación algorítmica (aplicaciones y motores de búsqueda como TikTok), otro para los deepfakes y otro más para la IA generativa.

Este enfoque permite a Pekín reaccionar rápidamente a los riesgos (tanto para los usuarios como para el gobierno) que surgen de los avances tecnológicos, pero también está profundamente fragmentado e impide una estrategia a más largo plazo. China está trabajando en una ley integral de inteligencia artificial, pero podría pasar un tiempo antes de que esté lista.

África

Es probable que la Unión Africana publique una estrategia de IA para el continente a principios de 2025. La UA planea establecer políticas que cada país pueda replicar para competir en IA y proteger a los consumidores africanos de las empresas tecnológicas occidentales, dice Melody Musoni, funcionaria de políticas del Centro Europeo para la Gestión de Políticas de Desarrollo.

Algunos países, entre ellos Ruanda, Nigeria y Sudáfrica, ya han elaborado estrategias nacionales de IA y están trabajando para desarrollar programas educativos, aumentar la potencia informática disponible y crear políticas favorables a la industria para apoyar a las empresas de IA.

Si deseas profundizar en cómo los países regulan la IA, comienza con estas historias:

·        El esfuerzo de África para regular la IA empieza ahora

·        Las empresas de inteligencia artificial prometieron autorregularse hace un año. ¿Qué ha cambiado?

·        La Ley de Inteligencia Artificial ya está aprobada. Esto es lo que cambiará (y lo que no)

·        Por qué el gobierno chino está librando a la IA de duras regulaciones, por ahora

·        ¿Cómo deberíamos regular la IA ?

 

¡Gracias por completar Introducción a la IA!

Con suerte, te sentirás más capacitado para usar y comprender la IA. Aquí, en MIT Technology Review , cubriremos las formas grandes y pequeñas en que esta tecnología tendrá un impacto en nosotros. Puedes suscribirte a The Algorithm , un boletín semanal que desmitifica la IA. O puedes suscribirte para AHORRAR un 50 % en una suscripción digital anual a MIT Technology Review para acceder a nuestros conocimientos de expertos sobre  IA, cambio climático, biotecnología y más.

Créditos

Redactado y recopilado por: Abby Ivory-Ganja, editora sénior de participación de la audiencia

Basado en el trabajo original de: Will Douglas Heaven, editor sénior de IA; Melissa Heikkilä, reportera sénior de IA; David Rotman, editor general; Rhiannon Williams, reportera de noticias; Karen Hao, Tate Ryan-Mosley, ex reportera sénior; ex editor sénior de IA; Zeyi Yang, ex reportera de China

Diseño: Vichhika Tep, diseñadora de marca digital

Ilustración: Stephanie Arnett, editora de imágenes digitales

Agradecimientos especiales: Hal Abelson, profesor de informática e ingeniería en MIT CSAIL