Del valor de las opiniones

Les comento, estimados amigos, que hubo esta semana dos opiniones sobre la IA que reclamaron mi vigorosa atención. No precisamente porque yo esté de acuerdo con lo que vierten en ellas los opinantes, sino porque trajeron a mi mesa de trabajo temas de mucha importancia en lo que hace a la IA que quiero compartir con todos ustedes.

La primera opinante es Karen Panetta, ingeniera eléctrica y en computación, investigadora, inventora y una de las voces más influyentes del mundo de la IA. Premiada por Barack Obama y referente internacional en inteligencia artificial y educación tecnológica.

La científica habló con TN Tecno sobre los desafíos éticos de la IA, el futuro del trabajo y por qué la creatividad humana seguirá siendo irremplazable.

Panetta lleva décadas trabajando sobre una idea que atraviesa toda su carrera: la tecnología solo tiene sentido cuando mejora la vida humana.

Bueno, ya aquí debo hacer dos observaciones:

1.- Que la creatividad humana seguirá siendo irreemplazable ya es un arriesgado aserto. De hecho, ya hay concursos de pintura ganados por cuadros elaborados por IAs. Y, como ustedes saben, mis doctos amigos, para ganar un concurso se necesita, además de una excelente técnica, una gran dosis de creatividad.

Imagen ganadora del concurso, confeccionada con la IA Midjourney.

2.- Eso de que la tecnología solo tiene sentido cuando mejora la vida humana es muy bonito, pero, me parece importante destacar que la tecnología no solo está motivada por el objetivo de mejorar la vida humana. Piénsese, por ejemplo, en el desarrollo de la bomba atómica por los americanos que, claramente no fue para mejorar la vida humana sino para ganar una guerra. Y piénsese que la Unión Soviética (URSS) logró fabricar y probar con éxito su primera bomba atómica en 1949 impulsada no por el deseo de mejorar la vida humana, sino para igualar el potencial bélico con EE.UU.

El éxito de esta prueba puso fin al monopolio nuclear que habían mantenido los Estados Unidos desde 1945 y marcó el inicio de la carrera armamentística nuclear de la Guerra Fría.

Mientras gran parte del debate sobre inteligencia artificial gira alrededor de robots, automatización y reemplazo laboral, una mujer insiste en poner el foco en otro lugar: las personas.

Desde su oficina en Tufts University, donde se desempeña como Dean of Graduate Education de la School of Engineering, dirige investigaciones vinculadas con IA, machine learning, sistemas automatizados, simulación y percepción visual.

Su trabajo incluye el desarrollo de algoritmos de procesamiento de señales e imágenes, sistemas embebidos y herramientas aplicadas a visión robótica e imágenes biomédicas, áreas que hoy ocupan un lugar central en la evolución de la IA moderna.

Su influencia no se limita al laboratorio. Panetta es también una referente internacional en educación tecnológica y diversidad en STEM (enfoque educativo y término laboral que agrupa las áreas de Ciencia, Tecnología, Ingeniería y Matemáticas). Fue reconocida por el expresidente de Estados Unidos Barack Obama con el Premio Presidencial a la Excelencia en la Tutoría de Ciencias, Matemáticas e Ingeniería por su trabajo en la formación de nuevas generaciones de científicos e ingenieros.

Además, fundó el programa Nerd Girls, creado para acercar la ingeniería y las ciencias a jóvenes mujeres en un sector históricamente dominado por hombres.

TN Tecno tuvo el privilegio de conversar con ella. En una charla en la que mostró entusiasmo y preocupación por los avances de las herramientas de IA, advirtió sobre uno de los grandes riesgos de esta nueva etapa tecnológica: que millones de personas comiencen a depender de sistemas inteligentes sin entender realmente cómo funcionan, qué sesgos pueden tener o cuáles son sus límites:

- Probablemente ese sea mi mayor preocupación porque muchos creen que la herramienta siempre da respuestas correctas. Pero hay que considerar que, si el sistema se alimenta con información falsa o sesgada, puede terminar reproduciendo errores como si fueran hechos reales. Además, hay personas que ni siquiera saben cuándo están interactuando con una máquina y no entienden las limitaciones de estas tecnologías.

Y qué decir, entonces, de los millones de personas que han entregado sus vidas a líderes que los han embarcado en peligrosas y dolorosas aventuras. O sea, no se trata de un problema ocasionado por la IA, se trata de un problema ocasionado por una característica del ser humano que tan bien resumió Cayo Salustio Crispo y que no me cansaré de repetir:

La mayoría no quiere la libertad y solo aspira a tener un amo justo.

En ese aspecto, ¿cuál es el mayor riesgo de desarrollar inteligencia artificial sin suficientes resguardos éticos?

- Uno de los mayores desafíos pasa por equilibrar el desarrollo de IA con las leyes de privacidad. En áreas como salud o seguridad vial, acceder a imágenes y datos suele ser muy restrictivo. Y aunque eso busca proteger a las personas, también puede limitar herramientas que permitirían detectar antes accidentes, pacientes en riesgo o situaciones críticas. La IA puede ayudar muchísimo, pero necesitamos encontrar formas responsables de usar los datos sin comprometer privacidad ni seguridad.

La verdad es que me cuesta creer que una persona con el curriculum de Panetta piense que el mayor riesgo de desarrollar la IA sea salvaguardar la privacidad y seguridad, cuando se ve claro que un riesgo mucho mayor lo comporta el desplazamiento del ser humano de los puestos de trabajo por las IA y por los robots asistidos con IA. Hay que reconocer, sin embargo, que este ocultamiento del verdadero problema es común a la mayoría de los opinantes, seguramente para no alarmar a la población antes de tiempo. Y digo “antes de tiempo” porque llegará el momento en que no se podrá ocultar más y habrá que enfrentar la realidad, ¡con resultados inciertos!

- ¿Qué es lo que más le sorprende del momento actual de la IA?

- Ya casi no hay cosas que me sorprendan. Pero, sí aparecen aplicaciones y startups que parecen de ciencia ficción. Por ejemplo, proyectos de minería de asteroides donde robots autónomos usan inteligencia artificial para aprender entre ellos y resolver problemas en el espacio sin intervención humana. En esos entornos, la IA tiene que ser extremadamente robusta porque no siempre existe una “verdad absoluta” o un escenario completamente predecible.

 ¿Cuál cree que es el cambio más profundo que ya está generando en la vida cotidiana?

- La inteligencia artificial tiene un potencial enorme para ayudar a detectar antes a pacientes en riesgo y para asistir a los profesionales frente al enorme volumen de imágenes y datos que deben analizar todos los días. Igualmente, las personas siempre deben tener la última palabra en un diagnóstico, aunque se cansen y puedan pasar cosas por alto. La IA puede ser un gran complemento para los profesionales de la salud.

¿Gran complemento? Ya hay IA que logran mejores resultados que los profesionales de la salud, tanto que, en una de esas habrá que invertir la frase y decir que los profesionales de la salud podrán ser un buen complemento de las IAs.

- ¿Cómo imagina la relación entre los humanos y la inteligencia artificial dentro de diez años?

- Dentro de diez años vamos a seguir necesitando expertos humanos capaces de validar resultados, hacer las preguntas correctas y entender qué hay detrás de las decisiones de la IA. El desafío no pasa por competir con la tecnología, sino por participar activamente en cómo se desarrolla, regula y utiliza de manera segura y ética.

Vuelvo a decir que me sorprende grandemente el razonamiento de Panetta. Yo pienso que, dentro de diez años el humano ya no será necesario, planteando, como he dicho en varias notas del blog, el verdadero problema de convivir con IAs.

- ¿Qué rol tendrán la creatividad y el pensamiento crítico en una era en la que la IA puede escribir, dibujar y programar?

- La creatividad y el pensamiento crítico serán todavía más importantes. Las personas aprendemos practicando, equivocándonos y acumulando experiencia. La imaginación sigue siendo el ingrediente central para desarrollar nuevas tecnologías y resolver problemas reales.

- Usted impulsó iniciativas para incorporar a más mujeres en STEM. ¿Qué barreras siguen existiendo hoy en la industria tecnológica?

- Desde el IEEE (Instituto de Ingenieros Eléctricos y Electrónicos, organización de la que es miembro) se trabaja mucho en habilidades de desarrollo profesional, colaboración y liderazgo global. Pero todavía existen barreras culturales muy profundas respecto de quién debería dedicarse a la ciencia, tecnología, ingeniería y matemáticas (STEM). Durante años, por ejemplo, los juguetes y actividades fomentaron distintos roles para chicos y chicas. Tenemos que dejar atrás la idea de que existen carreras “para hombres” o “para mujeres”. La creatividad y la imaginación son mucho más importantes para innovar que ser perfecto en matemáticas desde chico.

- ¿Qué habilidades deberían empezar a aprender hoy los jóvenes para no quedar rezagados en el mercado laboral del futuro?

- Para los jóvenes es de gran importancia aprender a validar información. No hace falta que todos sepan cómo desarrollar un modelo de inteligencia artificial, pero sí entender cómo cuestionar y verificar las respuestas que estos sistemas generan.

Ya hay IAs que desarrollan IAs y también IAs que validan información para IAs

- Después de décadas trabajando en ciencia e ingeniería, ¿qué consejo le daría hoy a un joven que quiere desarrollar una carrera en tecnología?

- Siempre les pregunto a los padres qué es lo que realmente les gusta hacer a sus hijos. Los chicos no sueñan con “hacer matemática”. Habitualmente les gusta cocinar, jugar, diseñar, crear, hacer deportes o jugar videojuegos. Tenemos que conectar esas pasiones con STEM en lugar de imponer contenidos técnicos desde el inicio. La imaginación y el diseño son la verdadera base de la innovación.

- La Medalla Mildred Dresselhaus del IEEE reconoce tanto la excelencia en ingeniería como el impacto social. ¿Qué significa para usted recibir este reconocimiento en un momento donde la diversidad y la inclusión en tecnología son más importantes que nunca?

- Millie Dresselhaus fue una física y nanotecnóloga estadounidense que se convirtió en una referente muy valiosa para mí, tanto profesional como humanamente. Recibir esta medalla significa que mis colegas reconocen el impacto de mi trabajo desde la tecnología, la formación y el acompañamiento de nuevas generaciones. Para mí, el mayor aporte que una persona puede hacer es convertirse en mentor de otros.

Entonces, ¿qué fue lo que me llamó la atención de esta nota? Pues, que una persona tan renombrada como Panetta, con un curriculum tan importante, no apunte al meollo de la cuestión, sino que se vaya por las ramas.

 

Bien, vamos pues a por el segundo opinante que no es otro que el Papa. Y, respecto a sus opiniones, veamos lo que nos dice Alfonso Villalpando que es el conductor del vlog La Fosa Escéptica que es un podcast y canal de YouTube dedicado al escepticismo, el ateísmo y el pensamiento crítico.

-         Pero, ¿no es blog, Martín?

-         Pues, les diré: Existen las dos palabras.

-         Blog: Es un sitio web donde se publican artículos, tutoriales, reseñas o reflexiones de manera regular. Su contenido es principalmente escrito, aunque puede incluir imágenes, videos o infografías para complementar la información

-         Vlog: Es un canal de contenido audiovisual donde el creador comparte experiencias, opiniones o conocimientos mediante videos. La comunicación es visual y auditiva, permitiendo una conexión más directa con la audiencia a través de gestos, expresiones y tono de voz.

Me enteré de esto hace poco y, entonces, me apresuro a trasladárselo a ustedes.

Así pues, “La Fosa Escéptica” es un espacio donde se ejercita la mente a través del análisis racional, abordando temas como religión, creencias sobrenaturales, experiencias cercanas a la muerte y fenómenos paranormales desde una perspectiva escéptica y científica. Su objetivo es fomentar el pensamiento crítico y cuestionar afirmaciones sin evidencia, promoviendo debates sobre la moral, la religión y la filosofía.

El podcast y canal incluyen episodios que tratan sobre:

·         Crítica a la religión y el cristianismo, explorando mitos, historias bíblicas y subsectas religiosas.

·         Fenómenos paranormales y experiencias cercanas a la muerte, analizados desde la neurociencia y la psicología.

·         Debates sobre moralidad, ética y racionalidad, incluyendo discusiones sobre inteligencia artificial y su impacto en la sociedad.

·         Historia y origen de las religiones, cuestionando creencias tradicionales y promoviendo la reflexión independiente 

¿Y por qué lo traigo aquí? Pues, porque en esta entrega, Villalpando comenta sobre las declaraciones que realizara el Papa León XIV sobre, precisamente, la IA. Y, debo reconocer que, así como me sorprendió ingratamente Panetta, también me pasó lo mismo con lo que propuso el Papa.

Vean ustedes:

https://www.youtube.com/watch?v=NbsfzAtE1do

Bien, juzgo que Villalpando no necesita mayor aclaración, así que lo dejaré así. Sin embargo, no puedo dejar estas historias sin la moraleja que merecen y que no es otra que:

No porque el opinante tenga muchos laureles sus opiniones son acertadas y provechosas.

O, como leemos en Mateo 22:1-14, es el propio Jesús quien nos recuerda, en la parábola del banquete de bodas, que:

Muchos son los llamados y pocos los escogidos.

Y ahora sí, me despido: ¡Hasta la próxima!