Feierstein: "El concepto de inteligencia artificial es vendedor pero engañoso"
Por:
NATALIA CONCINA
Viernes 11 de
Agosto 2023
En diálogo con Télam, el investigador del Conicet destacó que si bien la IA tiene muchas potencialidades, también puede generar un "salto de alienación de los seres humanos". Las diferencias con la inteligencia humana, el debate sobre la autonomía de los procesos de aprendizaje automático y hasta el dilema de la conciencia, algunos de los conceptos clave de la charla.
El docente e investigador del Conicet Daniel Feierstein aseguró que "el concepto de inteligencia artificial es vendedor pero engañoso" porque posee "diferencias fundamentales" con el funcionamiento de la inteligencia humana, no tiene conciencia de sí ni "pensamiento crítico", al tiempo que señaló que aunque tiene muchas potencialidades también puede generar un "salto de alienación de los seres humanos".
Doctor en Ciencias Sociales y profesor en las universidades de Tres de Febrero y Buenos Aires, Feierstein integra el Comité Nacional de Ética en la Ciencia y Tecnología (Cecte), un espacio creado en 2001 que funciona actualmente en el ámbito del Ministerio de Ciencia, Tecnología e Innovación, dedicado a analizar los problemas éticos en todos los campos de investigación.
"Hasta el momento se han desarrollado distintas aplicaciones de aprendizaje automatizado o de asistencia a innumerables tareas pero es problemático calificar eso como 'inteligencia'"
Los alcances de la denominada inteligencia artificial (IA), su autonomía o no respecto a los seres humanos y el impacto de estos procesos sobre el pensamiento humano, son algunos de los debates constantes que se dan en la sociedad sobre estos proceso de aprendizaje automatizado que puede sostener conversaciones por chat, hacer búsquedas de información, escribir textos completos y realizar diagnósticos médicos.
En este contexto, Feierstein dialogó con Télam sobre el término, los sesgos de los resultados, el potencial y los posibles peligros que puede acarrear este recurso.
- ¿En qué medida estás de acuerdo con la denominación de "inteligencia artificial" para denominar a los procesos de aprendizaje automatizado?
- El concepto de inteligencia artificial es vendedor pero engañoso. Hasta el momento se han desarrollado distintas aplicaciones de aprendizaje automatizado o de asistencia a innumerables tareas pero es problemático calificar eso como "inteligencia". Primero por sus fundamentales diferencias con el funcionamiento de la inteligencia humana, a la que no buscan emular. Segundo, porque no tienen conciencia de sí, la cual resulta una condición fundamental para pensar una definición de inteligencia.
- ¿Cuáles son los procesos que intervienen en el conocimiento humano y qué pasa con la denominada IA?
- Según el psicólogo suizo Jean Piaget hay dos actividades básicas en todo proceso de conocimiento: la exteriorización objetivante y la interiorización reflexiva. La exteriorización objetivante implica la posibilidad de separarse de la realidad para distinguir y clasificar los objetos con los que interactuamos. La IA ha desarrollado muchas herramientas que, de alguna manera, logran reproducir este tipo de proceso. Por el contrario, la interiorización reflexiva requiere la capacidad del juicio, una toma de conciencia crítica de sí. Ello requiere elementos hoy inexistentes en la IA como la conciencia o el juicio crítico, fundamentales para un verdadero proceso de conocimiento y acción sobre la realidad.
- En este sentido, la IA no tendría hoy "pensamiento crítico".
- Exacto. La posibilidad de reflexionar críticamente sobre la propia acción requiere una construcción de un sujeto. Hoy esa existencia de conciencia y juicio no existe en ningún desarrollo de la IA conocido.
- No obstante, hay muchísimos procesos que la IA puede hacer hoy, como escribir una canción o un texto..¿Qué impacto podría tener el reemplazo de estas actividades para el pensamiento humano?
- Hay un riesgo y es que se de un nuevo salto en el proceso de alienación como sucedió en la revolución industrial. Este salto derivaría en que ante la existencia y difusión de aplicaciones que serían capaces de realizar (igual o posiblemente mejor que un ser humano) tareas intelectuales que hasta hoy realizan seres humanos, se pierda la capacidad de realizar esas tareas como la redacción, búsquedas de información y traducción, entre muchas otras. Por tanto, millones de personas perderían habilidades que hoy son capaces de desarrollar tal como hoy casi no existen artesanos capaces de conocer las distintas etapas de producción de determinados productos.
"Hay un riesgo: millones de personas perderían habilidades que hoy son capaces de desarrollar tal como hoy casi no existen artesanos capaces de conocer las distintas etapas de producción de determinados productos"
- Una de las problemáticas que se plantean respecto de la IA en algunos procesos, como por ejemplo en las búsquedas de información, es que los resultados pueden tener sesgos. ¿De dónde provienen esos sesgos?
- Sin dudas los sesgos no son de la IA sino de los humanos que alimentan los datasets. Son sesgos que pueden ser más intencionales o inconscientes. Pueden ser explícitos o implícitos. El problema es que, al no tener conciencia ni juicio crítico, la IA no tiene la capacidad de descubrir dichos sesgos. Un segundo problema es que los sesgos humanos están distribuidos de modos no uniformes, mientras que si dichos sesgos quedan sedimentados en herramientas universalizadas, a partir de dicho momento su impacto será mucho mayor y la capacidad de cuestionarlos o desarmarlos mucho menor.
- A la par que hablamos sobre la IA el mundo atraviesa una crisis climática donde está en juego la escasez de las cosas más elementales para la vida como el agua. ¿Cómo dialogan esas dos problemáticas?
- Los distintos problemas se articulan y solapan en muchos planos pero no es que la existencia de unos anule los de otros. Hay un riesgo en relación a la situación del clima, otro geopolítico vinculado a las próximas guerras o genocidios, otro vinculado al desarrollo de nuevas enfermedades, otro a los cambios identitarios. En ese sentido, es relevante pensar en los riesgos pero también las potencialidades en los profundos cambios que generarán estas transformaciones en la IA.
Doctor en Ciencias Sociales y profesor en las universidades de Tres de Febrero y Buenos Aires, Feierstein integra el Comité Nacional de Ética en la Ciencia y Tecnología (Cecte), un espacio creado en 2001 que funciona actualmente en el ámbito del Ministerio de Ciencia, Tecnología e Innovación, dedicado a analizar los problemas éticos en todos los campos de investigación.
"Hasta el momento se han desarrollado distintas aplicaciones de aprendizaje automatizado o de asistencia a innumerables tareas pero es problemático calificar eso como 'inteligencia'"
Los alcances de la denominada inteligencia artificial (IA), su autonomía o no respecto a los seres humanos y el impacto de estos procesos sobre el pensamiento humano, son algunos de los debates constantes que se dan en la sociedad sobre estos proceso de aprendizaje automatizado que puede sostener conversaciones por chat, hacer búsquedas de información, escribir textos completos y realizar diagnósticos médicos.
En este contexto, Feierstein dialogó con Télam sobre el término, los sesgos de los resultados, el potencial y los posibles peligros que puede acarrear este recurso.
- ¿En qué medida estás de acuerdo con la denominación de "inteligencia artificial" para denominar a los procesos de aprendizaje automatizado?
- El concepto de inteligencia artificial es vendedor pero engañoso. Hasta el momento se han desarrollado distintas aplicaciones de aprendizaje automatizado o de asistencia a innumerables tareas pero es problemático calificar eso como "inteligencia". Primero por sus fundamentales diferencias con el funcionamiento de la inteligencia humana, a la que no buscan emular. Segundo, porque no tienen conciencia de sí, la cual resulta una condición fundamental para pensar una definición de inteligencia.
- ¿Cuáles son los procesos que intervienen en el conocimiento humano y qué pasa con la denominada IA?
- Según el psicólogo suizo Jean Piaget hay dos actividades básicas en todo proceso de conocimiento: la exteriorización objetivante y la interiorización reflexiva. La exteriorización objetivante implica la posibilidad de separarse de la realidad para distinguir y clasificar los objetos con los que interactuamos. La IA ha desarrollado muchas herramientas que, de alguna manera, logran reproducir este tipo de proceso. Por el contrario, la interiorización reflexiva requiere la capacidad del juicio, una toma de conciencia crítica de sí. Ello requiere elementos hoy inexistentes en la IA como la conciencia o el juicio crítico, fundamentales para un verdadero proceso de conocimiento y acción sobre la realidad.
- En este sentido, la IA no tendría hoy "pensamiento crítico".
- Exacto. La posibilidad de reflexionar críticamente sobre la propia acción requiere una construcción de un sujeto. Hoy esa existencia de conciencia y juicio no existe en ningún desarrollo de la IA conocido.
- No obstante, hay muchísimos procesos que la IA puede hacer hoy, como escribir una canción o un texto..¿Qué impacto podría tener el reemplazo de estas actividades para el pensamiento humano?
- Hay un riesgo y es que se de un nuevo salto en el proceso de alienación como sucedió en la revolución industrial. Este salto derivaría en que ante la existencia y difusión de aplicaciones que serían capaces de realizar (igual o posiblemente mejor que un ser humano) tareas intelectuales que hasta hoy realizan seres humanos, se pierda la capacidad de realizar esas tareas como la redacción, búsquedas de información y traducción, entre muchas otras. Por tanto, millones de personas perderían habilidades que hoy son capaces de desarrollar tal como hoy casi no existen artesanos capaces de conocer las distintas etapas de producción de determinados productos.
"Hay un riesgo: millones de personas perderían habilidades que hoy son capaces de desarrollar tal como hoy casi no existen artesanos capaces de conocer las distintas etapas de producción de determinados productos"
- Una de las problemáticas que se plantean respecto de la IA en algunos procesos, como por ejemplo en las búsquedas de información, es que los resultados pueden tener sesgos. ¿De dónde provienen esos sesgos?
- Sin dudas los sesgos no son de la IA sino de los humanos que alimentan los datasets. Son sesgos que pueden ser más intencionales o inconscientes. Pueden ser explícitos o implícitos. El problema es que, al no tener conciencia ni juicio crítico, la IA no tiene la capacidad de descubrir dichos sesgos. Un segundo problema es que los sesgos humanos están distribuidos de modos no uniformes, mientras que si dichos sesgos quedan sedimentados en herramientas universalizadas, a partir de dicho momento su impacto será mucho mayor y la capacidad de cuestionarlos o desarmarlos mucho menor.
- A la par que hablamos sobre la IA el mundo atraviesa una crisis climática donde está en juego la escasez de las cosas más elementales para la vida como el agua. ¿Cómo dialogan esas dos problemáticas?
- Los distintos problemas se articulan y solapan en muchos planos pero no es que la existencia de unos anule los de otros. Hay un riesgo en relación a la situación del clima, otro geopolítico vinculado a las próximas guerras o genocidios, otro vinculado al desarrollo de nuevas enfermedades, otro a los cambios identitarios. En ese sentido, es relevante pensar en los riesgos pero también las potencialidades en los profundos cambios que generarán estas transformaciones en la IA.
Con información de
Télam Digital
