El pionero de Google AI dice que renunció para hablar libremente sobre los 'peligros' de la tecnología
Martes 02 de
Mayo 2023
Pionero de la inteligencia artificial Geoffrey Hinton
Un pionero de la inteligencia artificial dijo que renunció a Google para hablar libremente sobre los peligros de la tecnología, luego de darse cuenta de que las computadoras podrían volverse más inteligentes que las personas mucho antes de lo que él y otros expertos esperaban.
"Me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google", escribió Geoffrey Hinton en Twitter.
En una entrevista con el New York Times, Hinton dijo que estaba preocupado por la capacidad de la IA para crear imágenes y textos falsos convincentes, creando un mundo en el que la gente "ya no podrá saber qué es verdad".
"Es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas", dijo.
La tecnología podría desplazar rápidamente a los trabajadores y convertirse en un peligro mayor a medida que aprende nuevos comportamientos.
“La idea de que estas cosas podrían volverse más inteligentes que las personas, algunas personas lo creían”, le dijo al New York Times. “Pero la mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba muy lejos. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso".
En su tuit, Hinton dijo que Google mismo había "actuado de manera muy responsable" y negó haber renunciado para poder criticar a su antiguo empleador.
Google, parte de Alphabet Inc., no respondió de inmediato a una solicitud de comentarios de Reuters.
The Times citó al científico jefe de Google, Jeff Dean, diciendo en un comunicado: "Seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras también innovamos con audacia".
Desde que la startup OpenAI respaldada por Microsoft (MSFT.O) lanzó ChatGPT en noviembre, el creciente número de aplicaciones de "IA generativa" que pueden crear texto o imágenes ha provocado preocupación sobre la futura regulación de la tecnología.
"Que tantos expertos hablen sobre sus preocupaciones con respecto a la seguridad de la IA, y que algunos científicos informáticos lleguen a arrepentirse de parte de su trabajo, debería alarmar a los formuladores de políticas", dijo la Dra. Carissa Veliz, profesora asociada de filosofía en la Universidad de Instituto de Ética en IA de Oxford: "El momento de regular la IA es ahora".
En una entrevista con el New York Times, Hinton dijo que estaba preocupado por la capacidad de la IA para crear imágenes y textos falsos convincentes, creando un mundo en el que la gente "ya no podrá saber qué es verdad".
"Es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas", dijo.
La tecnología podría desplazar rápidamente a los trabajadores y convertirse en un peligro mayor a medida que aprende nuevos comportamientos.
“La idea de que estas cosas podrían volverse más inteligentes que las personas, algunas personas lo creían”, le dijo al New York Times. “Pero la mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba muy lejos. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso".
En su tuit, Hinton dijo que Google mismo había "actuado de manera muy responsable" y negó haber renunciado para poder criticar a su antiguo empleador.
Google, parte de Alphabet Inc., no respondió de inmediato a una solicitud de comentarios de Reuters.
The Times citó al científico jefe de Google, Jeff Dean, diciendo en un comunicado: "Seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras también innovamos con audacia".
Desde que la startup OpenAI respaldada por Microsoft (MSFT.O) lanzó ChatGPT en noviembre, el creciente número de aplicaciones de "IA generativa" que pueden crear texto o imágenes ha provocado preocupación sobre la futura regulación de la tecnología.
"Que tantos expertos hablen sobre sus preocupaciones con respecto a la seguridad de la IA, y que algunos científicos informáticos lleguen a arrepentirse de parte de su trabajo, debería alarmar a los formuladores de políticas", dijo la Dra. Carissa Veliz, profesora asociada de filosofía en la Universidad de Instituto de Ética en IA de Oxford: "El momento de regular la IA es ahora".
