MIRAR: AI ‘Padrino’ Geoffrey Hinton le dice a la BBC sobre los peligros de AI cuando abandona Google
Un hombre ampliamente considerado como el padre de la inteligencia artificial (IA) renunció a su trabajo, advirtiendo de los peligros que plantean los desarrollos en el campo.
Jeffrey Hinton, de 75 años, anunció su renuncia a Google en un comunicado al New York Times, diciendo que ahora se arrepiente de su trabajo.
Le dijo a la BBC que algunos de los riesgos de los chatbots de IA son «muy aterradores».
«En este momento, no son más inteligentes que nosotros, por lo que puedo decir. Pero creo que podrían serlo pronto».
«Tengo 75 años, así que es hora de retirarme», dijo el Dr. Hinton a la BBC, admitiendo que su edad influyó en su decisión de dejar el gigante tecnológico.
La investigación pionera del Dr. Hinton sobre redes neuronales y aprendizaje profundo allanó el camino para los sistemas de IA actuales como ChatGPT.
En inteligencia artificial, las redes neuronales son sistemas que aprenden y procesan información de forma muy similar al cerebro humano. Permiten que las IA aprendan de la experiencia, al igual que una persona. Esto se llama aprendizaje profundo.
Un psicólogo cognitivo y científico informático británico-canadiense le dijo a la BBC que los chatbots pronto superarán la información contenida en el cerebro humano.
«Lo que vemos ahora es que GPT-4 eclipsa el nivel de sentido común que tiene una persona y lo eclipsa por mucho. Racionalmente, no es tan bueno, pero ya lo es. La razón es simple», dijo.
«Y dada la tasa de progreso, esperamos que las cosas mejoren muy rápidamente. Entonces, eso debería preocuparnos».
En un artículo del New York Times, el Dr. Hinton se refirió a los «malos actores» que intentan usar la IA para «malas acciones».
Cuando la BBC le pidió que explicara más, respondió: «Es una especie de peor de los casos, una especie de escenario de pesadilla.
«Por ejemplo, puedes imaginar algunos malos actores [Russian President Vladimir] Putin decidió dar a los robots la capacidad de crear sus propios subobjetivos».
Esto eventualmente puede crear «objetivos secundarios como ‘Quiero tener más poder'», advirtió el científico.
Y agregó: “He llegado a la conclusión de que la inteligencia que estamos desarrollando es muy diferente a la inteligencia que tenemos.
“Somos sistemas biológicos y estos son sistemas digitales. Y la gran diferencia es que con los sistemas digitales, hay múltiples copias del mismo peso, el mismo modelo del mundo.
«Y todas estas réplicas pueden aprender individualmente, pero compartir su conocimiento al instante. Es como si tuvieras 10 000 personas, y cada vez que una aprende algo, todos lo saben automáticamente. Y estos chatbots pueden aprender más que cualquier persona».
Hablando en privado con la BBC, Matt Clifford, jefe de la Agencia de Innovación e Investigación Avanzada del Reino Unido, dijo que el anuncio del Dr. Hinton «subraya el ritmo de las capacidades de la IA».
«Esta tecnología tiene una enorme ventaja, pero el mundo necesita invertir fuerte y urgentemente en la seguridad y el control de la IA», dijo.
El Dr. Hinton no quiso criticar a Google e insistió en que el gigante tecnológico era «muy responsable».
«De hecho, tengo algunas cosas buenas que decir sobre Google. Serían más creíbles si no trabajara en Google».
Jeff Dean, científico jefe de Google, dijo en un comunicado: «Estamos comprometidos con un enfoque responsable de la IA. Continuamos aprendiendo a comprender los riesgos emergentes mientras innovamos audazmente».
Ver: ¿Qué es la Inteligencia Artificial?
