Inteligencia artificial: temen que aprendan a odiar a los humanos y nos vean como una amenaza a destruir
Viernes 19 de
Mayo 2023
Un ex jefe de Google advirtió que los discursos de odio pueden causar que las IA vean a nuestra especie como una amenaza a destruir.
Mo Gawdat, ex director comercial de X Development, el ala secreta de investigación y desarrollo de Google, advirtió que la Inteligencia Artificial actual es entrenada en modelos de comprensión de idiomas que sólo les permite aprender a partir de las redes sociales. Por ello, teme que el sesgo de la negatividad pueda causar un peligro, ya que la tecnología tiene el poder de “amar” a la humanidad o de querer “aplastarla como a moscas”.
Si bien Gawdat afirma que aún es un temor precipitado, ya que todavía no cuentan con la capacidad de destrucción y asegura que “la humanidad es la amenaza”, sí cree que la IA pronto tendrá la “agencia para crear máquinas de matar”, pero solo “porque los humanos las están creando”.
Asimismo, instó a crear espacios de reflexión sobre cómo vivimos, ya que al centrarse en escenarios apocalípticos distantes, dijo, la humanidad podría no abordar los problemas que puede cambiar en este momento para garantizar un futuro más armonioso en nuestra inevitable asociación con la IA hiperinteligente.
Para Gawdat, quien escribió un libro sobre el futuro de la IA en 2021, llamado Scary Smart, los temores comunes sobre ChatGPT son una "pista falsa" y el poder de los chatbots de hoy es muy exagerado por el público y los legisladores gubernamentales. “Ahora que ChatGPT está entre nosotros, a pesar de que ChatGPT honestamente no es el problema, todos se despiertan y dicen: ‘¡Pánico! ¡Pánico! Hagamos algo al respecto’”, ironizó.
Sin embargo, en la entrevista realizada en el podcast Secret Readers, de Dan Murray Serter, el ex jefe de Google confesó que se arrepiente de haber considerado a la IA que crearon como “sus hijos”.
Las advertencias sobre la IA
“He vivido entre esas máquinas. Sé lo inteligentes que son. Ojalá no las hubiera creado”, afirmó Mo Gawdat y profundizó: “¿Qué tan probable es que la IA piense en nosotros como escoria, hoy? Muy probable”. En consecuencia, advirtió que si bien aún está lejos de ser factible, la IA podría utilizar sus habilidades para dictar una agenda como la película Yo, robot.
Gawdat es el segundo miembro del personal de Google en hablar sobre los riesgos que conlleva la IA en las últimas semanas. Geoffrey Hinton, un galardonado científico informático conocido como “el padrino de la inteligencia artificial”, renunció a su puesto este mes y expresó en comunicación con el New York Times su preocupación por el potencial de una dinámica tóxica entre la IA y las noticias.
Hinton informó que, en un futuro cercano, la IA inundaría internet con fotos, videos y textos falsos. Las falsificaciones serían de una calidad donde la persona promedio "ya no podría saber qué es verdad". Además, piensa que pronto los sistemas de IA serán más inteligentes que los humanos y que esa mejora tecnológica es atemorizante, por lo cual no debería seguir trabajándose en su ampliación hasta saber con seguridad si es posible controlarla.
Después de que se publicara la entrevista, Hinton aclaró en su cuenta de Twitter que no había renunciado a Google para poder criticar a la empresa. "En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google". A pesar de ello, recordó que, a diferencia de las armas nucleares, no hay forma de saber si las empresas o los países están trabajando en la IA en secreto.
Si bien Gawdat afirma que aún es un temor precipitado, ya que todavía no cuentan con la capacidad de destrucción y asegura que “la humanidad es la amenaza”, sí cree que la IA pronto tendrá la “agencia para crear máquinas de matar”, pero solo “porque los humanos las están creando”.
Asimismo, instó a crear espacios de reflexión sobre cómo vivimos, ya que al centrarse en escenarios apocalípticos distantes, dijo, la humanidad podría no abordar los problemas que puede cambiar en este momento para garantizar un futuro más armonioso en nuestra inevitable asociación con la IA hiperinteligente.
Para Gawdat, quien escribió un libro sobre el futuro de la IA en 2021, llamado Scary Smart, los temores comunes sobre ChatGPT son una "pista falsa" y el poder de los chatbots de hoy es muy exagerado por el público y los legisladores gubernamentales. “Ahora que ChatGPT está entre nosotros, a pesar de que ChatGPT honestamente no es el problema, todos se despiertan y dicen: ‘¡Pánico! ¡Pánico! Hagamos algo al respecto’”, ironizó.
Sin embargo, en la entrevista realizada en el podcast Secret Readers, de Dan Murray Serter, el ex jefe de Google confesó que se arrepiente de haber considerado a la IA que crearon como “sus hijos”.
Las advertencias sobre la IA
“He vivido entre esas máquinas. Sé lo inteligentes que son. Ojalá no las hubiera creado”, afirmó Mo Gawdat y profundizó: “¿Qué tan probable es que la IA piense en nosotros como escoria, hoy? Muy probable”. En consecuencia, advirtió que si bien aún está lejos de ser factible, la IA podría utilizar sus habilidades para dictar una agenda como la película Yo, robot.
Gawdat es el segundo miembro del personal de Google en hablar sobre los riesgos que conlleva la IA en las últimas semanas. Geoffrey Hinton, un galardonado científico informático conocido como “el padrino de la inteligencia artificial”, renunció a su puesto este mes y expresó en comunicación con el New York Times su preocupación por el potencial de una dinámica tóxica entre la IA y las noticias.
Hinton informó que, en un futuro cercano, la IA inundaría internet con fotos, videos y textos falsos. Las falsificaciones serían de una calidad donde la persona promedio "ya no podría saber qué es verdad". Además, piensa que pronto los sistemas de IA serán más inteligentes que los humanos y que esa mejora tecnológica es atemorizante, por lo cual no debería seguir trabajándose en su ampliación hasta saber con seguridad si es posible controlarla.
Después de que se publicara la entrevista, Hinton aclaró en su cuenta de Twitter que no había renunciado a Google para poder criticar a la empresa. "En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google". A pesar de ello, recordó que, a diferencia de las armas nucleares, no hay forma de saber si las empresas o los países están trabajando en la IA en secreto.
Con información de
Perfil
YPF confirmó un nuevo aumento en los combustibles: de cuánto es y qué pasará con el congelamiento
El anuncio lo realizó Horacio Marín. Además, la suba rige a partir de este jueves.
Sorpresa: una encuesta midió a Victoria Villarruel como variante del PRO y el PJ para 2027
Lo hizo DC Consultores en su último estudio nacional. Es una firma que suele darle buenos números al Gobierno. Además, ranking de imágenes con 9 dirigentes y outsiders.
Hoy se conocerá la inflación de abril: el Gobierno anticipó una baja fuerte y busca consolidar la desaceleración
Las proyecciones privadas y del ministro de Economía, Luis Caputo, coinciden en que el Índice de Precios al Consumidor (IPC) mostrará una disminución respecto a marzo. Cómo viene mayo y las medidas con los servicios públicos
Suscribite!
Y recibí las noticias más importantes!
Y recibí las noticias más importantes!
Nota22.com
Crecen las críticas a la gestión del Intendente de Santa Fe, Juan Pablo Poletti
LO MÁS VISTO
El bullying y los derechos humanos
¿Que es el Bullying?
El Juzgado de 1ra. Instancia en lo Civil y Comercial de la Octava Nominación falló a favor de la Municipalidad de Sauce Viejo en medio del conflicto que mantiene con la Asociación de Obreros y Empleados Municipales.
Lo anticipó el ministro Mario Lugones en una jornada sobre salud en la que se alertó sobre la creciente judicialización del sistema. El objetivo del Gobierno es que cualquier médico no pueda recetar cualquier tipo de medicamento y ajustan detalles de la norma.
El exministro de Economía le respondió al Presidente a través de una publicación en su blog personal; "Me limité a repetir lo que él mismo había dicho", manifestó
