La IA generativa crea nuevas cuestiones legales
Debido a la creciente incertidumbre jurídica provocada por las nuevas áreas de aplicación de la inteligencia artificial, la UE tiene previsto incluir la IA generativa en la propuesta de ley de regulación de la inteligencia artificial. UE prevé ley para regular IA.
UE prevé ley para regular IA
Algunos están fascinados, otros tienen miedo: estamos hablando de inteligencia artificial generativa. Los mejores ejemplos de esto son ChatGPT y DALL-E. Gracias a las dos herramientas generativas, los desarrolladores de OpenAI lograron una presencia mediática increíble a esta escala en muy poco tiempo. Sin embargo, no todo el mundo está entusiasmado. Debido a que cuantas más áreas de aplicación nuevas se crean con la IA generativa, más preguntas legale nuevas surgen.
Mientras tanto, la UE está planeando una ley para regular la IA generativa y las cuestiones legales de nueva creación. Ha habido un plan a nivel de la UE desde 2021 para crear un marco legal para tratar con la inteligencia artificial. ¿Cuál es el estado actual de los planes reguladores? – UE prevé ley para regular IA.
La inteligencia artificial como riesgo: ¿derechos fundamentales y privacidad afectados?
Como parte del reglamento, se debe realizar una evaluación de riesgos de los sistemas de IA con respecto a los derechos fundamentales, la seguridad y la privacidad. Hace dos años, se identificaron ocho áreas que representan sistemas de IA de alto riesgo. Estos incluyen sistemas de IA:
- para la identificación biométrica y categorización de personas físicas,
- para la administración y explotación de infraestructuras críticas,
- para la educación general y profesional,
- sobre el empleo, la gestión de los recursos humanos y el acceso al trabajo por cuenta propia,
- sobre la accesibilidad y el uso de los servicios y prestaciones básicos privados y públicos,
- para la aplicación de la ley,
- para la migración, el asilo y los controles fronterizos,
- para la administración de justicia y los procesos democráticos.
En el Anexo III de la propuesta de ley de inteligencia artificial a partir de 2021 se puede leer qué sistemas específicos y áreas de aplicación se han de entender por esto.
Inteligencia artificial generativa – Nuevo territorio para la UE
Las negociaciones sobre el marco legal europeo para la inteligencia artificial deberían entrar en la fase decisiva este año. Sin embargo, dadas las preguntas recientemente planteadas con respecto a la IA generativa, es muy poco probable que se cumpla este cronograma.
La IA generativa son algoritmos que crean de forma independiente nuevos contenidos (texto, vídeos, imágenes). Una (supuesta) imagen del Papa con un abrigo blanco con un crucifijo y café para llevar circuló en las redes sociales recientemente. Y en LinkedIn, hubo días en que el feed estaba lleno de imágenes de todos transformándose en protagonistas de su película favorita o de una pintura conocida.
Hasta ahora, esta IA generativa no se ha considerado explícitamente en la propuesta legislativa y, sobre todo, si también debe clasificarse como una tecnología de alto riesgo. Todavía no existe una clasificación formal en una de las clases de riesgo. Tampoco está claro cómo se debe tratar un sistema de IA que se usa en general, en todas las categorías, pero que aún no se usa en un caso específico. Lo primero que debe aclararse es cómo tratar con dicha IA generativa en vista de su viabilidad, capacidad innovadora y desarrollo constante.
El progreso constante paraliza la propuesta de ley de IA
Según el Ministerio Federal de Justicia, el objetivo de una ley para regular la inteligencia artificial debería ser encontrar un equilibrio entre contener los riesgos y establecer a Europa como un «centro para nuevos desarrollos de IA». El borrador anterior ha sido criticado en los casos en que aún faltan actos de ejecución. Como resultado, la propuesta legislativa anterior aún carece de la previsibilidad, transparencia y claridad que debe crearse en beneficio de las empresas.
Es difícil decir cuándo se puede esperar una propuesta legislativa que también tenga en cuenta la IA generativa en particular, especialmente porque las discusiones correspondientes aún se están llevando a cabo a nivel técnico. Probablemente pasará algún tiempo antes de que podamos esperar un desarrollo en la ley de TI en este sentido.