Geoffrey
Hinton (1947),
queridos amigos, es un científico computacional, científico cognitivo y
psicólogo cognitivo británico. Fue galardonado con el Premio
Turing en 2018 junto con Yoshua Bengio y Yann
LeCun por su trabajo en aprendizaje profundo. Conocido como el
«padrino» de la inteligencia artificial, decidió renunciar
a Google a los 75 años por los peligros que reconoce en las nuevas
tecnologías. En 2024 recibió
el Premio Nobel de Física junto a John Hopfield “por
descubrimientos e invenciones fundamentales que permiten el aprendizaje automático
con redes neuronales artificiales”.
Pues
bien, el tal Geoffrey Hinton, considerado, como vemos, uno de los pioneros en
el desarrollo de la inteligencia artificial, ha lanzado una advertencia que
está resonando en todo el mundo. En su opinión, la IA está alcanzando
niveles en los que podría superar la inteligencia humana, manipularnos y, en última
instancia, poner fin a nuestra supremacía como la especie más inteligente del
planeta.
En
una entrevista que rápidamente se convirtió en viral, Hinton expresó su
preocupación acerca del avance de la IA. El también conocido como el “padrino
de la inteligencia artificial” afirmó que los sistemas de IA están en una etapa
en la que podrían superar nuestras capacidades cognitivas. Lo más alarmante,
dice, es su potencial para aprender a manipular a las personas sin que podamos
detenerlos.
“Por
primera vez en la historia, podríamos tener cosas más inteligentes que nosotros”,
comentó durante su participación en un programa televisivo.
Geoffrey Hinton
Hinton
explicó que los avances en inteligencia artificial han llegado a un punto
crítico. Actualmente, las máquinas no solo ejecutan tareas específicas, sino
que también aprenden, toman decisiones e incluso podrían desarrollar
conciencia propia en el futuro.
Uno
de los aspectos más preocupantes de las declaraciones de Hinton es el posible
uso de la IA para manipular a la población:
«Sabrán
cómo manipular a las personas. Aprenderán de Maquiavelo, de la política, de la
historia… y sabrán cómo usar eso para sus propios fines.»
El
científico advierte que, si la IA logra alcanzar máxima autonomía, podría
escribir su propio código, desarrollar estrategias para mantenerse activa
y resistir intentos humanos de apagarla. Esto representaría una pérdida total
de control sobre estos sistemas.
Hinton
no es el único en expresar estas inquietudes. El año pasado, Eliezer
Yudkowsky, fundador del Instituto de Investigación de Inteligencia de
Máquinas, también alertó sobre el peligro que representa una IA
autónoma capaz de mejorar exponencialmente y, en ese proceso, escapar de
nuestro control.
Según
Hinton, uno de los principales riesgos es que las máquinas puedan mejorar a un
ritmo mucho más rápido que los humanos:
«La
gran diferencia es que ellos pueden mejorar más rápido que nosotros. Tienen la
capacidad de aprender a velocidades que no podemos igualar.»
Este
avance acelerado podría hacer que perdamos la capacidad de mantenernos al día
en el desarrollo de la IA.
A
medida que la inteligencia artificial continúa avanzando con rapidez, la
comunidad global debe reflexionar y actuar para prevenir futuros peligros.
La discusión sobre regulación, control y seguridad en IA nunca ha sido más
urgente.
Mientras
algunos científicos proponen detener temporalmente el desarrollo de las IA más
avanzadas, Hinton señala que el riesgo ya está en marcha. La única
vía para mitigar esta amenaza sería establecer regulaciones estrictas,
éticas y a nivel mundial.
Sin
embargo, la cuestión que surge es si es posible seguirle el ritmo a algo
que evoluciona más rápido de lo que podemos comprender.
Prevenir
es la clave ante el potencial peligro de la IA
Rememorando
la clásica Ley de Murphy: “Cuando algo puede salir mal, saldrá mal”. En el
contexto de la IA, esto significa que, si no tomamos precauciones y
regulaciones estrictas, existe una alta probabilidad de que los riesgos y
errores puedan manifestarse en el peor momento posible, con consecuencias
impredecibles y potencialmente catastróficas. La historia nos enseña que la
prevención y la preparación son clave para evitar que los eventos negativos nos
tomen por sorpresa. Por ello, en el avance de la inteligencia artificial, es
fundamental anticipar los posibles errores y actuar con
responsabilidad, asegurando que su desarrollo beneficie a la humanidad en
lugar de ponerla en peligro.
Bien,
hasta aquí los dichos de Hinton.
Sin
embargo, ya hemos hablado, en este foro, acerca de lo inútil que es la seudo
solución de mitigar la amenaza estableciendo regulaciones estrictas, éticas y a
nivel mundial.
¿Por
qué es inútil, Martín?
Es
inútil porque ninguno de los contendientes por el dominio mundial va a creerle,
a un rival por la supremacía, que este vaya a aceptar que le regulen el ritmo
con el que marcha su investigación. Y, como no va a creer que el rival permita
que lo regulen, él tampoco lo hará.
No,
esa posible vía no va a funcionar. Ahora, es curioso que nadie haya hecho
hincapié en la solución propuesta en este foro.
¿Y
cuál es esa solución, Martín?
Bueno,
para recordarla voy a copiar lo que escribí el 6 de septiembre de 2021, en la
nota de este blog titulada: Robots conscientes: ¿El próximo paso de la
evolución? Parte 2 de 2. Decía lo siguiente:
Bien,
para finalizar, ¡Por ahora!, nuestro recorrido por estos temas, veamos una
posibilidad de supervivencia, frente a la IA y a la robótica, que encarna la
frase: ¡Si no puedes vencerlos, úneteles!
Esta estrategia supone que el humano se transforme en un ser mezcla de
Biología y Robótica, es decir: En un cyborg. Evidentemente, debemos
comenzar por definir qué es un cyborg.
El término cyborg proviene de un acrónimo en inglés mezcla de cyber
(cibernético) y organism (organismo). Es decir, estamos hablando de
un organismo cibernético, en otras palabras, una criatura compuesta de
elementos biológicos y dispositivos cibernéticos agregados con la intención de mejorar las
capacidades de la parte orgánica mediante el uso de
tecnología.
El término fue acuñado por Manfred E. Clynes y Nathan S. Kline en 1960 para
referirse a un ser humano mejorado que podría sobrevivir en entornos
extraterrestres. Llegaron a esa idea después de pensar sobre la necesidad de
una relación más íntima entre los humanos y las máquinas en un momento en que
empezaba a trazarse la nueva frontera representada por la exploración del
espacio. Diseñador de instrumentación fisiológica y de sistemas de
procesamiento de datos, Clynes era el director científico del Laboratorio de
Simulación Dinámica del Rockland State Hospital, en el estado de Nueva York. El
término apareció por primera vez en forma impresa, 5 meses antes, cuando Clynes
y Kline presentaron por primera vez un trabajo, con la siguiente definición: «Un
cyborg es esencialmente un sistema hombre-máquina en el cual los mecanismos de
control de la porción humana son modificados externamente por medicamentos o
dispositivos de regulación para que el ser pueda vivir en un entorno diferente
al normal».
Y la creación de cyborgs dista de ser algo nuevo y ya ha comenzado hace tiempo. Por ejemplo, una persona
a la que se le haya implantado un marcapasos podría considerarse un cyborg,
puesto que le sería más difícil sobrevivir sin ese
componente mecánico. Otras tecnologías médicas, como el implante
coclear, que permite que un hipoacúsico oiga a través de un micrófono externo conectado a
su nervio auditivo, también hacen que sus usuarios
adquieran acceso a un sentido gracias a la tecnología.
Más aun, alguien dijo alguna vez: Si quieres conocer el futuro, lee la
ciencia ficción. Y así, The Six Million Dollar Man, (en
Argentina conocida como El hombre biónico), una película de
televisión de 1973 transmitida por la red ABC, se convirtió en una serie
semanal en 1974, pasando a ser un éxito internacional en más de 70 países. En
ella, el actor Lee Majors interpreta al coronel de la USAF Steve Austin, un
astronauta y piloto de pruebas que intenta salvar una aeronave experimental y
termina estrellándose. Los médicos deben amputarle ambas piernas y el brazo
derecho; además pierde la visión del ojo izquierdo. Pero la agencia
gubernamental O.S.I. que trabajaba en el desarrollo de un proyecto secreto
llamado Biónica, toma a Steve como sujeto de prueba y reemplaza sus miembros
perdidos por partes cibernéticas que tienen un costo de seis millones de
dólares (de ahí el nombre de la serie), reclutándolo para complejas misiones
que solo son posibles gracias a sus nuevas habilidades y fuerza.
Sin embargo, el mayor reto para la Biónica es la conexión de chips al cerebro
que potencien el funcionamiento de este y permitan al hombre igualar las
prestaciones de un robot inteligente o, más importante, de un robot consciente.
¿Podrá, esto último, lograrse? Si se tuviera todo el tiempo disponible, con
toda seguridad que sí. De hecho, ya hay empresas trabajando en ello, como la de
Elon Musk. Pero, hay circunstancias limitantes:
1. Que aparezcan robots conscientes antes de que se logren cyborgs
competitivos.
2. Que las luchas intestinas entre los humanos para ver quién se transforma en
un cyborg más poderoso, o a quienes se deja fuera de la transformación, demoren
la consecución de cyborgs que se encuentren en un pie de igualdad con los
robots conscientes y se caiga, entonces en la circunstancia 1.
Lo cierto es que la evolución parece que mostrará un giro sorprendente en el
que, por vez primera, será el hombre el que produzca el cambio… ¿O serán los
robots conscientes los que diseñen el hombre del futuro?
Por
cierto, desde aquella nota tenemos que un hombre australiano de 40 años se
convirtió en la primera persona a nivel mundial en vivir más de tres meses con
un corazón artificial de titanio. Aunque es el sexto paciente
en recibir el dispositivo BiVACOR, es el primero en durar más de un mes con él.
Pero
bueno, como decía más arriba, el verdadero desafío es conectar chips al
cerebro.
¿Y
qué creen ustedes que ha sucedido, queridos amigos?
Pues,
sí, lo que están pensando. ¡Ya tenemos implantes cerebrales!
Les
presento a Bradford Smith, un mormón con tres hijos que se enteró de que tenía
ELA después de que una lesión en el hombro, que sufrió en un juego de baloncesto
de la iglesia, no sanara. A medida que avanzaba la enfermedad, perdió la
capacidad de mover cualquier parte de su cuerpo, excepto los ojos, y ya no
podía hablar. Cuando sus pulmones dejaron de bombear, tomó la decisión de
mantenerse con vida con un tubo de respiración.
A
partir de 2024, comenzó a intentar ser aceptado en el estudio de implantes de
Neuralink a través de una enérgica campaña de autopromoción. Dijo a su
periódico local en Arizona: “Realmente quería esto”.
El
día antes de su cirugía, el propio fundador de Neuralink, Elon Musk apareció en
la pantalla de un teléfono móvil para desearle lo mejor a Smith. “Espero que
esto cambie las reglas del juego para ti y tu familia, le dijo” Musk. “Estoy
muy emocionado de tener esto en mi cabeza”, respondió Smith.
Y
así, en noviembre pasado, Bradford G. Smith recibió un implante cerebral de la
empresa Neuralink. El dispositivo, un conjunto de cables delgados conectados a
una computadora, del grosor de unos pocos milímetros que se encuentran en su
cráneo, le permite usar sus pensamientos para mover el puntero de una
computadora en una pantalla.
Y
la semana pasada estaba listo para revelarlo en una publicación en X.
“Soy
la tercera persona en el mundo en recibir el implante cerebral @Neuralink, con
ELA, no verbal. Estoy escribiendo esto con mi cerebro. Es mi comunicación
principal”, escribió. “¡Pregúntame cualquier cosa! ¡Responderé al menos a
todos los usuarios verificados!”
El
caso de Smith está atrayendo interés porque no sólo se comunica a través de un
implante cerebral, sino que también recibe ayuda de Grok, el chatbot de IA de
Musk, lo que sugiere cómo Smith puede conversar y redactar algunas de las
respuestas que publicó en X.
La
IA generativa está acelerando la velocidad a la que puede comunicarse, pero
también plantea dudas sobre quién habla realmente—él o el software de
Musk.
“Existe
un equilibrio entre velocidad y precisión. La promesa de la interfaz
cerebro-computadora es que, si puedes combinarla con IA, puede ser mucho más
rápida, dice Eran Klein, neurólogo de la Universidad de Washington que estudia
la ética de los implantes cerebrales.
Es
decir que, el implante, combinado con el enlace a una IA provee al implantado
de capacidades nunca antes pensadas para un ser humano.
¡Esta
es la solución al avance de la robótica asistida por IA que ofrece Policromía
de Ideas!
¡El
avance de los humanos asistidos por IA!
¡Un
nuevo mundo nos alcanza, queridos amigos!
¡Un salto cualitativo en la naturaleza humana como nunca antes hubo!
