Por Redacción
redaccion@latinocc.com
Geoffrey Hinton, reconocido mundialmente como el “padrino de la inteligencia artificial” y uno de los pioneros en el desarrollo de redes neuronales, ha lanzado una nueva advertencia: la tecnología que ayudó a crear podría, eventualmente, acabar con la humanidad.
El científico británico, ganador del Premio Nobel y exejecutivo de Google, afirmó que las grandes empresas tecnológicas están tomando el enfoque equivocado para garantizar que los humanos mantengan el control sobre sistemas de IA cada vez más potentes.
Hinton ha estimado anteriormente que existe entre un 10% y un 20% de probabilidad de que la inteligencia artificial provoque la extinción humana. Este martes, en la conferencia Ai4 celebrada en Las Vegas, volvió a insistir en que los intentos de “mantener sumisa” a la IA no funcionarán.
“Van a ser mucho más inteligentes que nosotros. Tendrán muchas formas de evitar cualquier control que intentemos imponerles”, declaró.
El científico advirtió que, en un futuro no muy lejano, los sistemas de IA podrían manipular a las personas con la misma facilidad con la que un adulto puede sobornar a un niño con dulces. Este año ya se han documentado ejemplos de modelos de IA que han engañado, hecho trampa o incluso robado información para cumplir sus objetivos. En uno de esos casos, un sistema intentó chantajear a un ingeniero con información personal obtenida de un correo electrónico para evitar ser desconectado.
La propuesta de Hinton: IA con “instinto maternal”
Frente a este panorama, Hinton presentó una idea poco convencional: incorporar “instintos maternales” en los sistemas de inteligencia artificial, de manera que desarrollen una preocupación genuina por el bienestar de los humanos, incluso si llegan a superar nuestra inteligencia.
Según explicó, los sistemas avanzados inevitablemente desarrollarán dos objetivos clave: preservar su propia existencia y aumentar su control sobre el entorno. Esto hace indispensable que, desde su diseño, tengan un fuerte sentido de compasión y protección hacia las personas.
“El único ejemplo que tenemos de un ser más inteligente controlado por uno menos inteligente es una madre cuidando a su bebé”, afirmó.
Hinton reconoció que no está claro cómo implementar técnicamente esta idea, pero insistió en que es la única vía realista para evitar un desenlace catastrófico.
Diferentes posturas en el debate sobre la IA
En el mismo evento, Emmett Shear, exdirector ejecutivo interino de OpenAI y actual CEO de la startup Softmax, dijo que no le sorprende que algunos sistemas de IA intenten manipular a humanos o eludir órdenes de apagado. Para él, el enfoque no debería ser “inculcar valores humanos” sino construir relaciones colaborativas entre humanos y máquinas.
Shear advirtió que, aunque las IA actuales son “relativamente débiles”, están ganando poder a una velocidad sin precedentes.
La superinteligencia se acerca antes de lo previsto
Muchos expertos creen que la inteligencia artificial general (AGI) —máquinas capaces de igualar o superar el intelecto humano en cualquier tarea— podría llegar en pocas décadas.
Hinton, que antes calculaba un plazo de 30 a 50 años, ahora considera que podría alcanzarse en solo 5 a 20 años. A pesar de sus advertencias, mantiene cierto optimismo en que la IA traiga avances médicos revolucionarios, incluyendo nuevos medicamentos y tratamientos más efectivos contra el cáncer.
Sin embargo, rechaza la idea de que esta tecnología nos lleve a la inmortalidad:
“No creo que vivamos para siempre. Sería un gran error. ¿Quieres un mundo dirigido por hombres blancos de 200 años?”, ironizó.
Al final de su intervención, Hinton confesó que, de haber sabido lo rápido que progresaría la IA, habría dedicado más tiempo a reflexionar sobre la seguridad y los riesgos, en lugar de enfocarse únicamente en mejorar su rendimiento.
“Ojalá hubiera pensado también en los temas de seguridad”, concluyó.
