De Europa para el mundo: cambios en la gobernanza de la IA
Ellos pusieron la regla, pero los beneficios también serán para nosotros.
Mucho se ha discutido sobre inteligencia artificial. En estos días se ha hablado de unos cambios muy prácticos: los sistemas de inteligencia artificial generativa y también las plataformas digitales están incorporando etiquetas para identificar el contenido generado con IA. Anthropic anunció que incluirá una marca de agua en los contenidos generados en Claude, Spotify colocará la etiqueta “AI persona” en las playlist generadas con IA y, así como estas, otras plataformas lo hacen ya o lo tendrán que hacer pronto.
Esto no es sólo una decisión de los proveedores tecnológicos, sino un asunto de gobernanza digital. En esta línea, uno de los actores clave ha sido la Unión Europea, con el Reglamento del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial, también conocido como AI Act. Este fue el primer marco normativo internacional en torno a la IA y su actualización más reciente fue en julio de este año.
Se trata de un marco normativo que se fundamenta en el riesgo, contemplando cuatro niveles de este: riesgo mínimo, riesgo limitado, riesgo alto y riesgo inaceptable. Por ejemplo, en el riesgo inaceptable se incluyen asuntos como la predicción del riesgo de comisión de delitos por parte de individuos; la identificación biométrica remota en tiempo real con fines de aplicación de la ley en espacios de acceso público; la generación de contenido sexualmente explícito e íntimo sin consentimiento o material de abuso sexual infantil, como las aplicaciones de “desnudez generada por IA”; entre otros. Todo eso está prohibido.
En el nivel de riesgo alto se contemplan ciertos casos de uso de la IA utilizados para dar acceso a servicios esenciales, como la calificación crediticia que niega a los ciudadanos la oportunidad de obtener un préstamo; los sistemas de IA utilizados para la identificación biométrica a distancia, el reconocimiento de emociones y la categorización biométrica; el uso de la IA en la gestión de la migración, el asilo y el control fronterizo, por ejemplo, el examen automatizado de solicitudes de visa; el uso de IA en la administración de justicia y los procesos democráticos, por ejemplo, las soluciones de IA para preparar sentencias judiciales; entre otros. Estos deberán incorporar sistemas de gestión del riesgo, para eliminar o reducir tales riesgos, pasar por pruebas y procesos de documentación, entre otros.
En el nivel de riesgo limitado es donde caben los sistemas de generación de contenido con IA y los chatbots. Para estos, la normativa apuesta por una mayor transparencia. Tienen la obligación explícita de informar a las personas usuarias que están interactuando con una IA o que el contenido que están consumiendo fue generado con ella.
¿Y por qué nos importa el marco normativo europeo fuera de Europa? Hay muchas razones, yo enfatizaré tres. De entrada, por la orientación hacia los derechos humanos. Cuando se habla de gobernanza digital, desde bastante antes de los debates en torno a la inteligencia artificial, los marcos normativos de la Unión Europea han privilegiado los derechos de las personas, no los de los corporativos tecnológicos ni los del poder político. En segundo lugar, porque, como mencionaba al principio, este fue el primer marco normativo internacional en torno a la IA y aporta elementos que pueden ser retomados en otros países. Finalmente, porque, según parece, para los proveedores de sistemas de IA y las plataformas digitales que la usan es más fácil incorporar esos mecanismos para todos en vez de sólo para las personas usuarias que viven en los países de la Unión Europea. Ellos pusieron la regla, pero los beneficios también serán para nosotros.
AI Act
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
Reglamento del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A02024R1689-20260727
-
Las ideas aquí expresadas pertenecen solo a su autor, binoticias.com las incluye en apoyo a la libertad de expresión.