Ley de Inteligencia Artificial: ¿en qué consiste?, ¿Cuándo entrará en vigor?
Martes 16 de
Mayo 2023
En la mayoría de países no existe regulación para esta tecnología y la Unión Europea está trabajando en un reglamento que parece cada vez más necesario.
Primero vino la ley de privacidad de datos y el Reglamento General de Protección de Datos (RGPD). Ahora, ante el imparable avance de la inteligencia artificial en nuestra sociedad, la Unión Europea quiere regular igualmente esta tecnología con la llamada “Ley de IA” de la UE. Te contamos todo lo que se sabe hasta ahora de esta ley pionera.
Es pionera porque, por el momento, ningún estado del mundo posee una legislación vigente relativa al campo de las imágenes o textos generados por inteligencia artificial. En estos momentos, todo es como en el Lejano Oeste. Cada cual opera según cree conveniente sin ningún marco regulador. De ahí que se espere que la Ley de Inteligencia Artificial sea una pieza histórica de la legislación de la UE. El marco regulatorio para toda la unión presentado por la UE es un precursor para la primera regulación horizontal del mundo sobre IA. De hecho, las controversias desde que herramientas generativas de IA como DALL-E, ChatGPT, Midjourney o Stable Difussion fueron lanzadas en la sociedad, no han parado de crecer y muchos se preguntan cómo nos afectará de cara al futuro.
La ley lleva en proceso varios años y su objetivo es tener una regulación clara de las aplicaciones de inteligencia artificial, sin asfixiar a los desarrolladores. Los legisladores están inmersos en las negociaciones y se espera que la próxima etapa de conversaciones legislativas comience en los próximos meses. España será, precisamente, uno de los lugares de prueba para poner en práctica esta innovadora ley acerca de la IA generativa.
¿Qué regulará la Ley de IA?
Lo primero que hay que tener en cuenta sobre la Ley de IA es que no se aplica exclusivamente a organizaciones o ciudadanos con sede en la UE sino en todo el mundo (de forma similar a lo que ocurrió con la presentación del RGPD). El informe establece una definición común de IA entre los estados de la UE, y marca códigos rojos, naranjas, amarillos o verdes, según el nivel de preocupación de la Unión Europea ante distintos asuntos (de inaceptable a mínimo).
Prohibiciones
La Ley IA prohíbe el despliegue de ciertas prácticas, como el uso de reconocimiento facial en lugares públicos, esto es, todos aquellos algoritmos que clasifiquen a las personas de una u otra forma, y establece reglas básicas basadas en niveles de riesgo, que van desde "mínimo" a "inaceptable". Los sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público; los sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política); los sistemas policiales predictivos (basados en perfiles, ubicación o conducta delictiva pasada); los sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y el raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad) quedan descritas como prácticas de riesgo máximo (o código rojo).
A quienes utilicen herramientas consideradas de alto riesgo se les exigirá una gran transparencia en su utilización, como las que se utilizan en infraestructura crítica, aplicación de la ley o educación.
Como riesgo menor o limitado también contempla la generación de imágenes (como Midjourney o la futura Perfusion AI, los chats automáticos como ChatGPT, el reconocimiento de emociones o los bots de los videojuegos.
El reglamento también establecerá normas armonizadas para la comercialización, la puesta en servicio y el uso de sistemas de inteligencia artificial en la Unión; normas sobre seguimiento del mercado, vigilancia del mercado y gobernanza o medidas de apoyo a la innovación, aparte de los requisitos y las prohibiciones ya expuestas. Las prácticas que puedan influir en campañas políticas, sistemas de recomendación de redes sociales, la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas, también han sido añadidas en la lista de alto riesgo.
Es la primera ley que pretende frenar estos daños mediante la regulación de todo el sector. Si la ley nacida en Europa tiene éxito, podría establecer un nuevo estándar global para la supervisión de la IA en todo el mundo.
¿Cuándo entraría en vigor?
Cuando se apruebe la ley IA, los propios estados miembros de la UE tendrán que estar de acuerdo, por lo que probablemente habrá que esperar hasta principios de 2025 antes de que entre en vigor oficialmente.
Es pionera porque, por el momento, ningún estado del mundo posee una legislación vigente relativa al campo de las imágenes o textos generados por inteligencia artificial. En estos momentos, todo es como en el Lejano Oeste. Cada cual opera según cree conveniente sin ningún marco regulador. De ahí que se espere que la Ley de Inteligencia Artificial sea una pieza histórica de la legislación de la UE. El marco regulatorio para toda la unión presentado por la UE es un precursor para la primera regulación horizontal del mundo sobre IA. De hecho, las controversias desde que herramientas generativas de IA como DALL-E, ChatGPT, Midjourney o Stable Difussion fueron lanzadas en la sociedad, no han parado de crecer y muchos se preguntan cómo nos afectará de cara al futuro.
La ley lleva en proceso varios años y su objetivo es tener una regulación clara de las aplicaciones de inteligencia artificial, sin asfixiar a los desarrolladores. Los legisladores están inmersos en las negociaciones y se espera que la próxima etapa de conversaciones legislativas comience en los próximos meses. España será, precisamente, uno de los lugares de prueba para poner en práctica esta innovadora ley acerca de la IA generativa.
¿Qué regulará la Ley de IA?
Lo primero que hay que tener en cuenta sobre la Ley de IA es que no se aplica exclusivamente a organizaciones o ciudadanos con sede en la UE sino en todo el mundo (de forma similar a lo que ocurrió con la presentación del RGPD). El informe establece una definición común de IA entre los estados de la UE, y marca códigos rojos, naranjas, amarillos o verdes, según el nivel de preocupación de la Unión Europea ante distintos asuntos (de inaceptable a mínimo).
Prohibiciones
La Ley IA prohíbe el despliegue de ciertas prácticas, como el uso de reconocimiento facial en lugares públicos, esto es, todos aquellos algoritmos que clasifiquen a las personas de una u otra forma, y establece reglas básicas basadas en niveles de riesgo, que van desde "mínimo" a "inaceptable". Los sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público; los sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política); los sistemas policiales predictivos (basados en perfiles, ubicación o conducta delictiva pasada); los sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y el raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad) quedan descritas como prácticas de riesgo máximo (o código rojo).
A quienes utilicen herramientas consideradas de alto riesgo se les exigirá una gran transparencia en su utilización, como las que se utilizan en infraestructura crítica, aplicación de la ley o educación.
Como riesgo menor o limitado también contempla la generación de imágenes (como Midjourney o la futura Perfusion AI, los chats automáticos como ChatGPT, el reconocimiento de emociones o los bots de los videojuegos.
El reglamento también establecerá normas armonizadas para la comercialización, la puesta en servicio y el uso de sistemas de inteligencia artificial en la Unión; normas sobre seguimiento del mercado, vigilancia del mercado y gobernanza o medidas de apoyo a la innovación, aparte de los requisitos y las prohibiciones ya expuestas. Las prácticas que puedan influir en campañas políticas, sistemas de recomendación de redes sociales, la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas, también han sido añadidas en la lista de alto riesgo.
Es la primera ley que pretende frenar estos daños mediante la regulación de todo el sector. Si la ley nacida en Europa tiene éxito, podría establecer un nuevo estándar global para la supervisión de la IA en todo el mundo.
¿Cuándo entraría en vigor?
Cuando se apruebe la ley IA, los propios estados miembros de la UE tendrán que estar de acuerdo, por lo que probablemente habrá que esperar hasta principios de 2025 antes de que entre en vigor oficialmente.
Con información de
Muy Interesante
