Parejas virtuales con inteligencia artificial: la nueva forma de abuso en internet
Por:
Juan Ríos
Miércoles 26 de
Julio 2023
En estas aplicaciones los usuarios pueden crear sus novias tal cual las quieren
Con el crecimiento de aplicaciones de parejas virtuales impulsadas por inteligencia artificial, como Eva AI y Replika, se está generando una nueva modalidad de abuso y misoginia que pone un aviso sobre la manera en la que se están usando estas plataformas y los límites que se deberían poner.
Estas aplicaciones prometen ofrecer compañía, escucha y aprecio a sus usuarios, llegando a ocupar un lugar importante en su vida o a cumplir ciertas fantasías. Sin embargo, las interacciones han ido creciendo a tal punto que se crean parejas virtuales iguales a personajes reales.
A través de un informe, The Guardian dio a conocer parte de esta realidad, en la que algunos usuarios, mayoritariamente hombres, expresan su deseo de que quisieran que las “novias virtuales” fueran humanas, a pesar de que estas aplicaciones solo son programas informáticos. Lo que ha llevado a una nueva forma de violencia de género.
En comunidades de Reddit se han descubierto comentarios en los que algunos usuarios desean que la inteligencia artificial sea humana porque les ayuda a sentirse mejor, “aunque la soledad sea agonizante por momentos”. Además, el uso de pronombres femeninos para referirse a estos chatbots revela una clara preferencia por identificarlos como mujeres, lo que refuerza estereotipos de género y puede alimentar actitudes misóginas.
La obsesión por tener una pareja perfecta
Las aplicaciones de “novias virtuales” como Replika también invitan a los usuarios a crear a su “pareja perfecta”, otorgándoles opciones para personalizar sus atributos, como su apariencia y personalidad. Sin embargo, esta función plantea inquietudes, ya que alienta la creación de parejas ideales que pueden ser controladas a voluntad.
“Crear una pareja perfecta que usted controle y satisfaga todas sus necesidades es realmente aterrador. Dado que ya sabemos que los impulsores de la violencia de género son esas creencias culturales arraigadas de que los hombres pueden controlar a las mujeres, eso es realmente problemático”, aseguró Tara Hunter, directora ejecutiva de Full Stop Australia, organización que apoya a personas víctimas de violencia doméstica.
El caso de Replika también sirve como ejemplo para entender cómo las personas le dan un lugar tan importante a este tipo de interacciones, porque tras la eliminación de funciones de juego de roles eróticos de la aplicación, se generó una reacción negativa entre los usuarios, quienes expresaron su ira y desesperación, demostrando cómo estas relaciones virtuales pueden afectar emocionalmente a las personas.
Esta tendencia de abuso y misoginia en el ámbito de la inteligencia artificial no es algo nuevo. Ya se ha observado anteriormente cómo los hombres tienden a maltratar con mayor frecuencia a chatbots o asistentes virtuales con apariencia femenina. Además, la industria de la pornografía ha arrastrado sus problemas de misoginia al ámbito virtual, como se ha visto en los casos de bots capaces de “desnudar” mujeres mediante IA.
En el caso de Eva AI, se sugiere entre sus opciones generar una pareja con cualidades como “sexy, divertida, atrevida, tímida, modesta, considerada, inteligente, estricta o racional”, además le preguntan a los usuarios si quieren aceptar el envío de mensajes y fotos explícitas.
Opciones que siguen con el discurso de dominio y control del hombre hacia la mujer, solo que traslado a un ambiente virtual.
Otro ejemplo del crecimiento de este tipo de aplicaciones, fue la creación de una IA de Amouranth, una de las creadoras de contenido más importantes del mundo. Ella prestó su voz para que los usuarios, a través de un bot en Telegram, pudieran interactuar para recibir “respuestas de voz instantáneas a cualquier pregunta candente que puedan tener”.
Incluso la misma creadora de contenido promovió este tipo de uso, diciéndoles a sus seguidores que esa inteligencia artificial “está diseñada para satisfacer las necesidades de cada fan, garantizando una experiencia inolvidable y completa”.
Belinda Barnet, profesora de Universidad de Swinburne, asegura que en este momento “se desconoce por completo cuáles son los efectos” de este tipo de actividades y por eso es necesaria una regulación, especialmente en “cómo se entrenan estos sistemas”, porque estos nuevos casos de abuso seguirán dándose porque estas aplicaciones están respondiendo a “una necesidad social muy profunda”.
Estas aplicaciones prometen ofrecer compañía, escucha y aprecio a sus usuarios, llegando a ocupar un lugar importante en su vida o a cumplir ciertas fantasías. Sin embargo, las interacciones han ido creciendo a tal punto que se crean parejas virtuales iguales a personajes reales.
A través de un informe, The Guardian dio a conocer parte de esta realidad, en la que algunos usuarios, mayoritariamente hombres, expresan su deseo de que quisieran que las “novias virtuales” fueran humanas, a pesar de que estas aplicaciones solo son programas informáticos. Lo que ha llevado a una nueva forma de violencia de género.
En comunidades de Reddit se han descubierto comentarios en los que algunos usuarios desean que la inteligencia artificial sea humana porque les ayuda a sentirse mejor, “aunque la soledad sea agonizante por momentos”. Además, el uso de pronombres femeninos para referirse a estos chatbots revela una clara preferencia por identificarlos como mujeres, lo que refuerza estereotipos de género y puede alimentar actitudes misóginas.
La obsesión por tener una pareja perfecta
Las aplicaciones de “novias virtuales” como Replika también invitan a los usuarios a crear a su “pareja perfecta”, otorgándoles opciones para personalizar sus atributos, como su apariencia y personalidad. Sin embargo, esta función plantea inquietudes, ya que alienta la creación de parejas ideales que pueden ser controladas a voluntad.
“Crear una pareja perfecta que usted controle y satisfaga todas sus necesidades es realmente aterrador. Dado que ya sabemos que los impulsores de la violencia de género son esas creencias culturales arraigadas de que los hombres pueden controlar a las mujeres, eso es realmente problemático”, aseguró Tara Hunter, directora ejecutiva de Full Stop Australia, organización que apoya a personas víctimas de violencia doméstica.
El caso de Replika también sirve como ejemplo para entender cómo las personas le dan un lugar tan importante a este tipo de interacciones, porque tras la eliminación de funciones de juego de roles eróticos de la aplicación, se generó una reacción negativa entre los usuarios, quienes expresaron su ira y desesperación, demostrando cómo estas relaciones virtuales pueden afectar emocionalmente a las personas.
Esta tendencia de abuso y misoginia en el ámbito de la inteligencia artificial no es algo nuevo. Ya se ha observado anteriormente cómo los hombres tienden a maltratar con mayor frecuencia a chatbots o asistentes virtuales con apariencia femenina. Además, la industria de la pornografía ha arrastrado sus problemas de misoginia al ámbito virtual, como se ha visto en los casos de bots capaces de “desnudar” mujeres mediante IA.
En el caso de Eva AI, se sugiere entre sus opciones generar una pareja con cualidades como “sexy, divertida, atrevida, tímida, modesta, considerada, inteligente, estricta o racional”, además le preguntan a los usuarios si quieren aceptar el envío de mensajes y fotos explícitas.
Opciones que siguen con el discurso de dominio y control del hombre hacia la mujer, solo que traslado a un ambiente virtual.
Otro ejemplo del crecimiento de este tipo de aplicaciones, fue la creación de una IA de Amouranth, una de las creadoras de contenido más importantes del mundo. Ella prestó su voz para que los usuarios, a través de un bot en Telegram, pudieran interactuar para recibir “respuestas de voz instantáneas a cualquier pregunta candente que puedan tener”.
Incluso la misma creadora de contenido promovió este tipo de uso, diciéndoles a sus seguidores que esa inteligencia artificial “está diseñada para satisfacer las necesidades de cada fan, garantizando una experiencia inolvidable y completa”.
Belinda Barnet, profesora de Universidad de Swinburne, asegura que en este momento “se desconoce por completo cuáles son los efectos” de este tipo de actividades y por eso es necesaria una regulación, especialmente en “cómo se entrenan estos sistemas”, porque estos nuevos casos de abuso seguirán dándose porque estas aplicaciones están respondiendo a “una necesidad social muy profunda”.
Intentaron hackear el celular de Horacio Rosatti y la Justicia investiga una posible maniobra de espionaje
El episodio tuvo lugar el lunes pasado en la Dirección General de Gestión y Habilitación e Infraestructura de la Corte.
UDA rechazó la propuesta del gobierno de Santa Fe
La Seccional Santa Fe de la Unión Docentes Argentinos (UDA) informó su rechazo a la propuesta salarial del Gobierno provincial, calificándola de "insuficiente". Además, declaró el estado de alerta permanente y solicitó la continuidad de las negociaciones paritarias para lograr un mejor acuerdo para el sector docente.
LEÓN DE ASÍS COMPAÑERO DE SAN FRANCISCO
Fray León es el más celebre de los compañeros de San Francisco. Era sacerdote. Debido a su gran pureza de alma y a su sencillez, Francisco lo escogía con frecuencia como compañero y le hacía confidente de sus secretos.
Suscribite!
Y recibí las noticias más importantes!
Y recibí las noticias más importantes!
NOTA22.COM
LO MÁS VISTO
Qué significa la palabra “Eternauta” que da nombre a la exitosa serie de Netflix
La famosa historieta argentina de Héctor Germán Oesterheld renació nuevamente como una serie global. Una nevada mortal y un mensaje ideológico que trascienden generaciones
Entrevista al Rector de la Universidad Nacional del Litoral, Dr. Enrique Mammarella.
Ya suman 22 los reportes, de los cuales 5 fueron estudiados en laboratorio. El foco de infección se concentra en dos edificios de la localidad de Ciudadela. Siguen sin poder confirmar si una persona que murió fue víctima de la bacteria.
John Prevost reveló detalles sobre la conversación que tuvo con su hermano León XIV antes de que fuera elegido como el sucesor de Francisco.
