CONCLUSIONES DIRECTRICES DE LA COMISIÓN EUROPEA SOBRE LA DEFINICIÓN DE SISTEMA DE INTELIGENCIA ARTIFICIAL Definition of an artificial intelligence system

La Comisión Europea ha publicado un borrador de directrices sobre la de definición de sistema de inteligencia artificial establecido en el Reglamento de IA (RIA).

El objetivo de estas directrices es ayudar a los proveedores y otras personas relevantes a interpretar cuando un sistema de inteligencia artificial (sistema de IA) constituye un sistema de IA en los términos del artículo 3 (1) del Reglamento de Inteligencia Artificial (RIA) y considerando 12. Las directrices no son vinculantes y la última interpretación la tiene el Tribunal de Justicia de la Unión Europea.

Los puntos clave del documento:

1. La definición de un sistema de sistema de IA se compone de siete elementos: sistema basado en máquinas; con capacidad de operar con varios niveles de autonomía; que puede tener capacidad de adaptación tras el despliegue; para objetivos implícitos y explícitos; que infiere de la información de entrada que recibe la manera de generar resultados de salida como predicciones, contenidos, recomendaciones o decisiones y que puede influir en entornos físicos y virtuales.

2. En relación con la autonomía: es un elemento clave y se asocia a operar con cierto grado de independencia en sus acciones respecto a la actuación humana y que tienen ciertas capacidades para funcionar sin supervisión humana directa. En principio, todos los sistemas diseñados para operar con un grado razonable de independencia en sus acciones cumplen con la condición de autonomía en la definición del RIA.

3. En relación con la adaptación: no es un elemento clave y decisivo para calificar al sistema como un sistema de IA. Se asocia a aprender automáticamente; descubrir nuevos patrones e identificar relaciones en los datos más allá de su entrenamiento inicial.

4. En relación con los objetivos implícitos y explícitos: diferencia entre el objetivo del sistema y el propósito previsto. Los objetivos son internos relacionados con las tareas y resultados. P.e. responder preguntas de los usuarios con precisión. Los propósitos son externos relacionados con el contexto de uso del sistema y, como debe operar. P.e. ayudar a un departamento concreto en tareas específicas. Los objetivos explícitos están definidos y codificados por el desarrollador P.e. sistema para optimizar una función de costes, y los implícitos se pueden deducir del comportamiento del sistema. P.e. sistema que puede identificar patrones de comportamiento de los usuarios sin estar programado específicamente para ello.

5. En relación con la inferencia en la generación de resultados: es un factor clave que distingue los sistemas de IA de otros tipos de sistemas que puede darse en la fase de construcción y en la de uso del sistema. La inferencia se asocia al proceso de obtener resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos y virtuales y que en función de la técnica usada para desarrollar el sistema se determina como el sistema infiere.

6. La inferencia puede ser mediante enfoques de aprendizaje automático y o mediante enfoques basados en lógica y conocimiento con capacidad en ambos casos de manejar relaciones y patrones complejos en los datos lo que les diferencia de los sistemas no basados en IA. Los primeros, incluyen aprendizaje automático supervisado, no supervisado, auto supervisado, por refuerzo, profundo (pone ejemplos de cada uno de ellos). Los segundos, incluyen bases de conocimiento estructuradas, sistemas expertos, métodos de razonamiento simbólico.

7. En relación con los resultados que pueden influir en entornos físicos y virtuales: se asocian a predicciones, contenido, recomendaciones y decisiones.

Una predicción es una estimación sobre un valor desconocido (la salida) a partir de valores conocidos suministrados al sistema (la entrada). Los sistemas de IA que emplean aprendizaje automático son capaces de generar predicciones que descubren patrones complejos en los datos y hacer predicciones precisas en entornos altamente dinámicos y complejos. Por ejemplo, los sistemas de IA para el consumo de energía están diseñados para estimar el consumo energético analizando datos de medidores inteligentes, pronósticos meteorológicos y patrones de comportamiento de los consumidores.

El contenido se refiere a la generación de nuevo material por parte de un sistema de IA, puede incluir texto, imágenes, videos, música y otras formas de salida. Por ejemplo, sistemas de IA que utilizan modelos de aprendizaje automático (por ejemplo, basados en tecnologías de Transformador Generativo Preentrenado –GPT–) para generar contenido.

Las recomendaciones se refieren a sugerencias de acciones específicas, productos o servicios para los usuarios en función de sus preferencias, comportamientos u otros datos de entrada.

Las decisiones se refieren a conclusiones o elecciones realizadas por un sistema. Implica un proceso completamente automatizado en el que se produce un resultado en el entorno que rodea al sistema sin ninguna intervención humana

8. En relación con los sistemas de IA no incluidos ,se excluyen entre otros, los sistemas de mejora de la optimización matemática, los sistemas de tratamiento de datos básicos, los sistemas basados en la heurística clásica y los sistemas de predicción sencillos basados en máquinas con regla básica de aprendizaje estadístico que pueden estar clasificado como enfoque de aprendizaje automático pero que no encaja en la definición debido a su rendimiento. Por ejemplo, el uso de la temperatura media de la última semana para predecir la temperatura de mañana. Este sistema de referencia solo estima promedios, pero no alcanza el rendimiento de sistemas más complejos de predicción de series temporales que requerirían modelos más sofisticados.

9. En este contexto, se ha publicado una respuesta escrita del Parlamento sobre algunas preguntas relacionadas con lo sistemas de inteligencia artificial y exclusiones donde se señala que las características clave de los sistemas de IA es su capacidad de inferencia y que la capacidad de un sistema de IA para inferir trasciende el tratamiento básico de datos permitiendo el aprendizaje, el razonamiento o la modelización, y que no se basa sólo en reglas definidas por humanos para ejecutar automáticamente operaciones.

https://digital-strategy.ec.europa.eu/es/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application

La autoridad de protección de datos francesa (CNIL) ha publicado unas recomendaciones dirigidas a aquellos que pretendan reutilizar bases de datos de Internet o obtenidas de un Data Broker.

1️⃣Verificar la licitud de la constitución y el uso de dichas bases de datos, asegurándose de que no provengan de fuentes ilícitas como en los casos de datos robados, fugas de datos, violaciones de derechos de propiedad intelectual.

Ejemplos

• Una base de datos cuya descripción explica que ha sido constituida a partir de publicaciones en una red social profesional cuyo nombre se especifica, se trata de una base de datos lícita.
• Por el contrario, en caso de compra de una base de datos en la dark web que provenga, por ejemplo, de una fuga o de un robo de datos, no se puede ignorar su origen delictivo y, por lo tanto, la base de datos es manifiestamente ilícita

2️⃣Verificar la fuente de las bases de datos, su contexto de forma que el origen esté suficientemente documentados y no hay duda de la licitud de la base de datos, y en particular, la base legal.

Ejemplos:

• En una plataforma de intercambio de bases de datos, usted encuentra un conjunto que compila los trayectos hogar-trabajo de miles de personas. Su descripción explica que se trata de datos de geolocalización precisos, no anónimos. En esta hipótesis, la difusión de una base de datos así en ausencia de consentimiento de las personas puede ser ilícita.
• Por el contrario, sería posible constituir un conjunto de datos a partir de una base de datos cuya descripción no deje dudas flagrantes sobre su legalidad. Por ejemplo, una base de datos pseudonimizada, inicialmente publicada por las personas afectadas en un sitio web identificado y que no contenga datos sensibles

3️⃣Verificar que la base de datos no contiene datos sensibles o datos relativos a infracciones, y en caso afirmativo, realizar verificaciones adicionales para garantizar su legalidad (consentimiento, datos manifiestamente públicos).

4️⃣Las verificaciones precedentes no exoneran a que los responsables deben asegurar la conformidad de sus propios tratamientos de datos con el RGPD, incluyendo análisis de impacto y documentación adecuada.

5️⃣ Firmar acuerdos con los proveedores de datos para garantizar la licitud de su reutilización, especificando detalles como la fuente, la base legal y las finalidades y análisis de impacto en su caso.

Imagen IA créditos: https:www.craiyon.com

🔗 https://www.cnil.fr/fr/reutilisation-de-bases-de-donnees-les-verifications-necessaires-pour-respecter-la-loi