Un experto advirtió que existe un 50% de probabilidad de que la inteligencia artificial acabe con la humanidad
Lunes 05 de
Junio 2023
El físico Max Tegmark se refirió a los peligros de que la especie "pierda el control de nuestra sociedad ante máquinas que son mucho más inteligentes que nosotros". No se sabe cómo ni cuándo, pero ocurrirá.
Max Tegmark, físico y experto de inteligencia artificial (IA) del Instituto Tecnológico de Massachusetts (MIT por su sigla en inglés) advirtió que existe un 50% de probabilidad de que estas tecnologías acaben con la humanidad en caso de que se vuelvan más inteligentes que la especie.
En diálogo con la transmisora televisiva sueca SVT, el científico se remitió a la extinción de distintas especies a lo largo del tiempo para alertar sobre el futuro de la humanidad. En ese sentido, sostuvo que la historia demostró que las especies más inteligentes de la Tierra son responsables por la desaparición de aquellas que son "menores", como en el caso del dodo.
Al respecto, advirtió que la humanidad podría esperar fácilmente el mismo destino cuando las IA superen en inteligencia a los humanos. Sumado a esto, no habría manera de saber cuándo o cómo ocurrirá este hecho, ya que las especies menos inteligentes en estos escenarios no tienen manera de conocer esta información.
"Alrededor de la mitad de todas las demás especies en la Tierra ya han sido exterminadas por nosotros, los humanos. Como éramos más inteligentes, ellas no tenían control. Sobre lo que estamos advirtiendo ahora es que si los humanos perdemos el control de nuestra sociedad ante máquinas que son mucho más inteligentes que nosotros, entonces las cosas pueden ir igual de mal para nosotros", remarcó el físico.
Tegmark es uno de los firmantes de la declaración de una sola oración publicada esta semana que alerta sobre el riesgo de extinción a mano de la IA. "Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear", se lee en el documento.
En esa línea, algunos de los principales científicos del mundo sostienen que la IA podría ser utilizada para crear armas autónomas o robots que podrían matar, con o sin intervención humana. Sumado a esto, advierten que incluso la tecnología aparentemente benigna podría resultar fatal para la humanidad si no se programa con el cuidado suficiente.
En 2018 Tegmark ya había advertido sobre la posibilidad de que la humanidad se vuelva esclava de las máquinas que crea. Incluso afirmó en esa oportunidad que algunos de esos colegas podrían aceptar la extinción de la especie a manos de la IA, ya que la consideran una descendiente natural de la especie.
Ante esto, habló sobre uno de los puntos de vista con la IA, el cual consiste en mantener la forma de "superinteligencia" bajo el control humano "como un perro esclavizado". "Pero podrían preocuparse de que tal vez los humanos no seamos lo suficientemente inteligentes para manejar tanto poder", explicó durante una charla TED.
"Además, aparte de cualquier reparo moral que puedan tener sobre esclavizar mentes superiores, deberíamos estar más preocupados de que tal vez la superinteligencia pueda ser más astuta que nosotros. Podría escapar y tomar el control", concluyó en aquella ocasión.
En diálogo con la transmisora televisiva sueca SVT, el científico se remitió a la extinción de distintas especies a lo largo del tiempo para alertar sobre el futuro de la humanidad. En ese sentido, sostuvo que la historia demostró que las especies más inteligentes de la Tierra son responsables por la desaparición de aquellas que son "menores", como en el caso del dodo.
Al respecto, advirtió que la humanidad podría esperar fácilmente el mismo destino cuando las IA superen en inteligencia a los humanos. Sumado a esto, no habría manera de saber cuándo o cómo ocurrirá este hecho, ya que las especies menos inteligentes en estos escenarios no tienen manera de conocer esta información.
"Alrededor de la mitad de todas las demás especies en la Tierra ya han sido exterminadas por nosotros, los humanos. Como éramos más inteligentes, ellas no tenían control. Sobre lo que estamos advirtiendo ahora es que si los humanos perdemos el control de nuestra sociedad ante máquinas que son mucho más inteligentes que nosotros, entonces las cosas pueden ir igual de mal para nosotros", remarcó el físico.
Tegmark es uno de los firmantes de la declaración de una sola oración publicada esta semana que alerta sobre el riesgo de extinción a mano de la IA. "Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear", se lee en el documento.
En esa línea, algunos de los principales científicos del mundo sostienen que la IA podría ser utilizada para crear armas autónomas o robots que podrían matar, con o sin intervención humana. Sumado a esto, advierten que incluso la tecnología aparentemente benigna podría resultar fatal para la humanidad si no se programa con el cuidado suficiente.
En 2018 Tegmark ya había advertido sobre la posibilidad de que la humanidad se vuelva esclava de las máquinas que crea. Incluso afirmó en esa oportunidad que algunos de esos colegas podrían aceptar la extinción de la especie a manos de la IA, ya que la consideran una descendiente natural de la especie.
Ante esto, habló sobre uno de los puntos de vista con la IA, el cual consiste en mantener la forma de "superinteligencia" bajo el control humano "como un perro esclavizado". "Pero podrían preocuparse de que tal vez los humanos no seamos lo suficientemente inteligentes para manejar tanto poder", explicó durante una charla TED.
"Además, aparte de cualquier reparo moral que puedan tener sobre esclavizar mentes superiores, deberíamos estar más preocupados de que tal vez la superinteligencia pueda ser más astuta que nosotros. Podría escapar y tomar el control", concluyó en aquella ocasión.
Con información de
Perfil
