🟡 Reino Unido y Alemania evalúan desplegar tropas de la OTAN en Groenlandia
Inteligencia artificial: temen que aprendan a odiar a los humanos y nos vean como una amenaza a destruir
Viernes 19 de
Mayo 2023
Un ex jefe de Google advirtió que los discursos de odio pueden causar que las IA vean a nuestra especie como una amenaza a destruir.
Mo Gawdat, ex director comercial de X Development, el ala secreta de investigación y desarrollo de Google, advirtió que la Inteligencia Artificial actual es entrenada en modelos de comprensión de idiomas que sólo les permite aprender a partir de las redes sociales. Por ello, teme que el sesgo de la negatividad pueda causar un peligro, ya que la tecnología tiene el poder de “amar” a la humanidad o de querer “aplastarla como a moscas”.
Si bien Gawdat afirma que aún es un temor precipitado, ya que todavía no cuentan con la capacidad de destrucción y asegura que “la humanidad es la amenaza”, sí cree que la IA pronto tendrá la “agencia para crear máquinas de matar”, pero solo “porque los humanos las están creando”.
Asimismo, instó a crear espacios de reflexión sobre cómo vivimos, ya que al centrarse en escenarios apocalípticos distantes, dijo, la humanidad podría no abordar los problemas que puede cambiar en este momento para garantizar un futuro más armonioso en nuestra inevitable asociación con la IA hiperinteligente.
Para Gawdat, quien escribió un libro sobre el futuro de la IA en 2021, llamado Scary Smart, los temores comunes sobre ChatGPT son una "pista falsa" y el poder de los chatbots de hoy es muy exagerado por el público y los legisladores gubernamentales. “Ahora que ChatGPT está entre nosotros, a pesar de que ChatGPT honestamente no es el problema, todos se despiertan y dicen: ‘¡Pánico! ¡Pánico! Hagamos algo al respecto’”, ironizó.
Sin embargo, en la entrevista realizada en el podcast Secret Readers, de Dan Murray Serter, el ex jefe de Google confesó que se arrepiente de haber considerado a la IA que crearon como “sus hijos”.
Las advertencias sobre la IA
“He vivido entre esas máquinas. Sé lo inteligentes que son. Ojalá no las hubiera creado”, afirmó Mo Gawdat y profundizó: “¿Qué tan probable es que la IA piense en nosotros como escoria, hoy? Muy probable”. En consecuencia, advirtió que si bien aún está lejos de ser factible, la IA podría utilizar sus habilidades para dictar una agenda como la película Yo, robot.
Gawdat es el segundo miembro del personal de Google en hablar sobre los riesgos que conlleva la IA en las últimas semanas. Geoffrey Hinton, un galardonado científico informático conocido como “el padrino de la inteligencia artificial”, renunció a su puesto este mes y expresó en comunicación con el New York Times su preocupación por el potencial de una dinámica tóxica entre la IA y las noticias.
Hinton informó que, en un futuro cercano, la IA inundaría internet con fotos, videos y textos falsos. Las falsificaciones serían de una calidad donde la persona promedio "ya no podría saber qué es verdad". Además, piensa que pronto los sistemas de IA serán más inteligentes que los humanos y que esa mejora tecnológica es atemorizante, por lo cual no debería seguir trabajándose en su ampliación hasta saber con seguridad si es posible controlarla.
Después de que se publicara la entrevista, Hinton aclaró en su cuenta de Twitter que no había renunciado a Google para poder criticar a la empresa. "En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google". A pesar de ello, recordó que, a diferencia de las armas nucleares, no hay forma de saber si las empresas o los países están trabajando en la IA en secreto.
Si bien Gawdat afirma que aún es un temor precipitado, ya que todavía no cuentan con la capacidad de destrucción y asegura que “la humanidad es la amenaza”, sí cree que la IA pronto tendrá la “agencia para crear máquinas de matar”, pero solo “porque los humanos las están creando”.
Asimismo, instó a crear espacios de reflexión sobre cómo vivimos, ya que al centrarse en escenarios apocalípticos distantes, dijo, la humanidad podría no abordar los problemas que puede cambiar en este momento para garantizar un futuro más armonioso en nuestra inevitable asociación con la IA hiperinteligente.
Para Gawdat, quien escribió un libro sobre el futuro de la IA en 2021, llamado Scary Smart, los temores comunes sobre ChatGPT son una "pista falsa" y el poder de los chatbots de hoy es muy exagerado por el público y los legisladores gubernamentales. “Ahora que ChatGPT está entre nosotros, a pesar de que ChatGPT honestamente no es el problema, todos se despiertan y dicen: ‘¡Pánico! ¡Pánico! Hagamos algo al respecto’”, ironizó.
Sin embargo, en la entrevista realizada en el podcast Secret Readers, de Dan Murray Serter, el ex jefe de Google confesó que se arrepiente de haber considerado a la IA que crearon como “sus hijos”.
Las advertencias sobre la IA
“He vivido entre esas máquinas. Sé lo inteligentes que son. Ojalá no las hubiera creado”, afirmó Mo Gawdat y profundizó: “¿Qué tan probable es que la IA piense en nosotros como escoria, hoy? Muy probable”. En consecuencia, advirtió que si bien aún está lejos de ser factible, la IA podría utilizar sus habilidades para dictar una agenda como la película Yo, robot.
Gawdat es el segundo miembro del personal de Google en hablar sobre los riesgos que conlleva la IA en las últimas semanas. Geoffrey Hinton, un galardonado científico informático conocido como “el padrino de la inteligencia artificial”, renunció a su puesto este mes y expresó en comunicación con el New York Times su preocupación por el potencial de una dinámica tóxica entre la IA y las noticias.
Hinton informó que, en un futuro cercano, la IA inundaría internet con fotos, videos y textos falsos. Las falsificaciones serían de una calidad donde la persona promedio "ya no podría saber qué es verdad". Además, piensa que pronto los sistemas de IA serán más inteligentes que los humanos y que esa mejora tecnológica es atemorizante, por lo cual no debería seguir trabajándose en su ampliación hasta saber con seguridad si es posible controlarla.
Después de que se publicara la entrevista, Hinton aclaró en su cuenta de Twitter que no había renunciado a Google para poder criticar a la empresa. "En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google". A pesar de ello, recordó que, a diferencia de las armas nucleares, no hay forma de saber si las empresas o los países están trabajando en la IA en secreto.
Con información de
Perfil
Ganancias: cuánto retendrán en enero y cómo quedarían las nuevas escalas a partir de febrero
ARCA definirá los nuevos montos que rigen este mes, con actualizaciones de inflación. Cuál será el salario bruto exacto a partir del cual empiezan los descuentos y se aplica el impuesto.
Defensor de confianza
La inviolabilidad del derecho de defensa: Un pilar del Estado Social de Derecho
Defensor de confianza y "fungibilidad": cuando el proceso deja de ser un juicio
La "infungibilidad" del defensor de elección, también denominado defensor de confianza, no es una categoría retórica ni una licencia doctrinaria. Es una garantía constitucional operativa, cuyo desconocimiento revela con nitidez cuándo el proceso penal empieza a deslizarse desde el juicio hacia la administración del conflicto.
Suscribite!
Y recibí las noticias más importantes!
Y recibí las noticias más importantes!
Enero 2026
LO MÁS VISTO
Defensor de confianza
La inviolabilidad del derecho de defensa: Un pilar del Estado Social de Derecho
La "infungibilidad" del defensor de elección, también denominado defensor de confianza, no es una categoría retórica ni una licencia doctrinaria. Es una garantía constitucional operativa, cuyo desconocimiento revela con nitidez cuándo el proceso penal empieza a deslizarse desde el juicio hacia la administración del conflicto.
El personal de casas particulares tendrá un aumento en los haberes. Además del ajuste salarial, se estableció un bono no remunerativo cuyo monto varía según la carga horaria semanal
ARCA definirá los nuevos montos que rigen este mes, con actualizaciones de inflación. Cuál será el salario bruto exacto a partir del cual empiezan los descuentos y se aplica el impuesto.
