Por Agencias
[email protected]
Geoffrey Hinton, también conocido como el «padrino de la inteligencia artificial», decidió que tenía que «exponer» la tecnología que él mismo ayudó a desarrollar, luego de que le generara preocupación lo inteligente que se estaba volviendo, según declaró este martes.
«Soy solo un científico que de repente se dio cuenta de que estas cosas se están volviendo más inteligentes que nosotros», le dijo Hinton a Jake Tapper en una entrevista este martes. «Quiero, en cierto modo, encender una alarma y decir que deberíamos preocuparnos seriamente por cómo impedir que estas cosas nos controlen», completó.
El trabajo pionero de Hinton sobre redes neuronales dio forma a sistemas de inteligencia artificial que impulsan muchos de los productos actuales. Este lunes, su nombre saltó a los titulares por renunciar a su cargo en Google, donde trabajó durante una década, para hablar abiertamente sobre su creciente preocupación acerca de la tecnología.
En una entrevista este lunes con el diario The New York Times, que fue el primero en reportar de su decisión, Hinton dijo que le preocupaba el potencial de la inteligencia artificial (IA) para eliminar puestos de trabajo y crear un mundo en el que muchos «ya no serán capaces de saber qué es verdad». También señaló el asombroso ritmo de avance, mucho más allá de lo que él y otros habían previsto.
«Si llega a ser mucho más inteligente que nosotros, será muy bueno manipulando porque lo habrá aprendido de nosotros, y hay muy pocos ejemplos de una cosa más inteligente controlada por algo menos inteligente», explicó Hinton a Tapper este martes.
«Esto sabe cómo programar, así que encontrará formas de eludir las restricciones que le impongamos. Encontrará formas de manipular a las personas para que hagan lo que quiere».
Hinton no es el único líder tecnológico que ha expresado su preocupación por la inteligencia artificial. Varios miembros de la comunidad firmaron en marzo una carta en la que pedían a los laboratorios de IA que detuvieran el entrenamiento de los sistemas más potentes durante al menos seis meses, citando «profundos riesgos para la sociedad y la humanidad».
La carta, publicada por el Future of Life Institute, una organización sin fines de lucro que respalda Elon Musk, se publicó apenas dos semanas después de que OpenAI anunció GPT-4, una versión aún más potente de la tecnología que impulsa el chatbot viral ChatGPT. En las primeras pruebas y en una demostración de la empresa, GPT-4 se utilizó para redactar demandas, aprobar exámenes estandarizados y crear un sitio web funcional a partir de un boceto dibujado a mano.
Steve Wozniak, cofundador de Apple y uno de los firmantes de la carta, participó este martes en un programa para hacer eco de las preocupaciones sobre su potencial para difundir desinformación.
«Engañar va a ser mucho más fácil para quienes quieran engañarte», sentenció Wozniak. «En realidad no estamos haciendo ningún cambio en ese sentido: solo estamos asumiendo que las leyes que tenemos se encargarán de ello».
Wozniak también dijo que probablemente se necesite «algún tipo» de regulación.
Hinton, por su parte, dijo que no firmó la petición. «No creo que podamos detener el progreso», dijo. «No firmé la petición diciendo que deberíamos dejar de trabajar en IA porque si la gente en Estados Unidos se detiene, la gente en China no lo haría».
Pero confesó no tener una respuesta clara sobre qué hacer en su lugar.
«No tengo claro que podamos resolver este problema», dijo Hinton a Tapper. «Creo que deberíamos hacer un gran esfuerzo para pensar en formas de resolver el problema. De momento no tengo una solución».
