La Unión Europea (UE) ha introducido una directiva integral sobre el uso de la inteligencia artificial (IA), conocida como la Ley de IA de la UE.

Esta directiva fomenta la confianza de los europeos en los sistemas de IA y los modelos de IA de propósito general (GPAI) que presentan un riesgo comparativamente menor. Este artículo resume la Ley y la hace más sencilla de entender para profesionales y personas comunes.

‍Aviso legal: Chatsimple complementa las obligaciones de la Ley de IA de la UE, pero no ofrece asesoramiento legal. Consulte a un abogado si necesita asesoramiento o sugerencias relacionadas con la ley, o consulte la Ley de Inteligencia Artificial de la Unión Europea.

¿Qué es la Ley de IA de la UE?

La Ley de Inteligencia Artificial de la Unión Europea regulará el desarrollo y/o uso de la IA. Aplica diferentes reglas y regulaciones a la inteligencia artificial en función del riesgo que representa.

Se aplica a proveedores, operadores, importadores, distribuidores y fabricantes de productos relacionados con la IA y abarca a todas las partes que desarrollan, utilizan, importan, distribuyen o fabrican sistemas de IA. La ley no se limita a las fronteras de la UE. Si alguna región produce una salida fuera de la UE, la ley será aplicable cuando la salida esté destinada a ser utilizada en la región de la UE.

Es un marco regulador integral para la IA que implementa una gobernanza estricta para gestionar el riesgo y la transparencia para las partes involucradas en la IA. Dependiendo del tipo de incumplimiento, las sanciones por no cumplir con la Ley pueden oscilar entre 7,5 millones de EUR o el 1,5 % de la facturación anual mundial, y 35 millones de EUR o el 7 % de la facturación.

Explorando la necesidad de la Ley de Inteligencia Artificial de la UE

Rastrear las predicciones que hace la IA es complicado. Puede que no puedas precisar exactamente por qué se tomó una determinada decisión. Aunque la mayoría de los sistemas de IA presentan riesgos limitados o nulos, puede haber algunos sistemas riesgosos en los que no puedes confiar al tomar decisiones críticas. Por ejemplo, en una decisión de contratación, sería complicado entender el motivo detrás de la selección de un candidato específico. No sabrás con certeza si alguien fue injustamente desfavorecido.

La Ley de IA ayuda a los europeos a confiar en los sistemas de IA con riesgos mínimos o limitados y a valorar sus contribuciones deseables a las operaciones humanas y de máquina. La Ley aclara lo que está aceptado y lo que está prohibido en las prácticas y sistemas de IA.

La Ley de IA ayuda a empresas e instituciones a:

• Prohibir prácticas de IA que representen riesgos inaceptables
• Determinar sistemas de IA de alto riesgo y establecer requisitos precisos para ellos
• Definir obligaciones para los proveedores y operadores de sistemas de IA de alto riesgo
• Requerir una evaluación de conformidad antes de poner el sistema de IA en servicio o en el mercado
• Establecer una estructura de gobernanza a nivel nacional y europeo

Esta gobernanza ayuda a los europeos a confiar en los sistemas de IA y a usarlos con confianza. A nivel europeo, la Junta Europea de Inteligencia Artificial asesorará y asistirá a la Comisión y a los Estados miembros para garantizar que las regulaciones se apliquen de manera consistente.

La Junta asesorará y asistirá a la Comisión y a los Estados miembros para facilitar la aplicación consistente y efectiva de esta Regulación.

¿Quién se verá afectado por la Ley de IA de la UE?

Las obligaciones de la Ley de IA de la UE serán aplicables a:

• Cualquier proveedor establecido o ubicado dentro de la UE o en un tercer país que coloque o ponga en servicio un sistema de IA o un modelo de IA de propósito general (GPAI) en el mercado de la UE.
• Cualquier operador de sistemas de IA con un lugar de establecimiento en la UE. Estos pueden estar ubicados dentro de la UE.
• Si el proveedor o el operador de un sistema de IA tiene su lugar de establecimiento en un tercer país (o está ubicado allí) y produce una salida del sistema de IA que se utilizará en la UE.

¿Qué exige la Ley de IA?

La Ley de Inteligencia Artificial de la Unión Europea exige a empresas e instituciones que:

• Comprendan el estado actual Verifiquen si ya tienen sistemas de IA en uso o en desarrollo. Comprueben si pronto podrán adquirir algún sistema de IA de un proveedor externo. Si es así, añadan estos sistemas a su repositorio de modelos.Si no tiene un repositorio de modelos, considere crear uno después de comprender su exposición a los sistemas de IA. Incluso si actualmente no usa sistemas de IA, es probable que los use en un futuro cercano, considerando la creciente adopción de la IA. Es mejor preparar el repositorio de modelos teniendo en cuenta la exposición actual y potencial a los sistemas de IA.
• Clasifiquen los riesgos en sus sistemas de IA Bajo la Ley de IA de la UE, existen cuatro categorías de riesgo: Riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo.Fuente: EYRiesgos inaceptablesLos sistemas de IA que presentan riesgos inaceptables están prohibidos. Estos sistemas podrían utilizar:Altos riesgosLa Ley de IA de la UE permite altos riesgos, pero deben cumplir con múltiples requisitos y someterse a una evaluación de conformidad. Debe completar la evaluación antes de liberar el producto al mercado.Necesitará registrar estos sistemas en una base de datos de la UE. Estos sistemas pueden incluir:Estos sistemas están sujetos a estrictas obligaciones como la evaluación y mitigación de riesgos. Requieren el uso de conjuntos de datos de alta calidad y el registro de actividades. Cuando trabaje con sistemas de IA de alto riesgo, mantenga todo documentado y asegúrese de un alto nivel de seguridad y precisión.Riesgo limitado o mínimoPara los sistemas de riesgo limitado, debe mantener la transparencia con el usuario. Deben saber que están interactuando con IA. Ejemplos comunes incluyen chatbots que no son de alto riesgo. Deben informar a los usuarios que están trabajando con IA.En cuanto al riesgo mínimo, la Ley de IA de la UE permite su uso libre. Estos sistemas pueden incluir filtros de spam o juegos habilitados por IA.
  • Identificación biométrica remota (RBI) en espacios públicos. Estos sistemas utilizan IA para reconocer a las personas en espacios públicos usando sus datos biométricos. El reconocimiento facial es el más común, pero puede incluir identificación basada en características físicas, fisiológicas o comportamentales.
  • Vulnerabilidades de una persona natural. Estos sistemas explotan a una persona o grupo debido a su edad, discapacidad o condición social o económica. Están prohibidos bajo la Ley de IA de la UE.
  • Técnicas de influencia subliminal. Sistemas que explotan las vulnerabilidades de un grupo específico a un nivel por debajo de su reconocimiento consciente están prohibidos. Esto incluye técnicas engañosas que buscan distorsionar el comportamiento de una persona o grupo al afectar sus capacidades de toma de decisiones.
  • Sistema de puntuación social. Tales sistemas asignan una puntuación a cada ciudadano basada en sus acciones positivas y negativas. Las acciones positivas son deseables, como pagar impuestos, mientras que las acciones negativas incluyen delitos.
  • Infraestructuras que puedan poner en riesgo la vida y la salud de los ciudadanos.
  • Formación educativa o profesional que determine el acceso de las personas a la educación y cursos profesionales. Por ejemplo, exámenes.
  • Productos con componentes de seguridad que usan IA.
  • Sistemas que trabajen en el ámbito del empleo o controlen el acceso a empleo.
  • Servicios públicos y privados esenciales como los sistemas de puntuación crediticia que gestionan la probabilidad de obtener un préstamo.
  • Sistemas que controlan y gestionan la migración de personas o les conceden asilo.
  • Sistemas administrativos que trabajen con procesos de justicia y democráticos.

Cumplir con la Ley de IA

Si el sistema está en el rango de alto riesgo, asegúrese de que sus prácticas de IA complementen la Ley de IA y sigan las regulaciones necesarias.

¿Cuándo entra en vigor la Ley de IA de la UE?

El Parlamento Europeo y los Estados miembros de la UE aprobaron la Ley el 22 de abril de 2024 y el 21 de mayo de 2024, respectivamente. Después de que la ley se publique en el Diario Oficial de la UE, entrará en vigor después de 20 días.

Después de seis meses, entrarán en vigor las prohibiciones sobre los sistemas con riesgos inaceptables.

Los sistemas de IA de propósito general (GPAI) que hayan estado en el mercado durante los 12 meses posteriores a la promulgación de la Ley tendrán 36 meses para cumplir con ella.

Después de 12 meses, las normas relacionadas con los sistemas de IA de alto riesgo entrarán en vigor.

Al final de los 36 meses, los sistemas de IA que sean productos o componentes de seguridad de un producto estarán regulados bajo la Ley de IA de la UE.

Aplicación de la Ley de IA de la UE

Diferentes autoridades aplican la Ley de IA. Cada Estado miembro de la UE establece o designa al menos una autoridad de notificación y una autoridad de vigilancia del mercado, asegurándose de que cuenten con los recursos adecuados para cumplir con sus funciones.

La autoridad de notificación establece y lleva a cabo imparcialmente los procedimientos de evaluación y designación requeridos. Por otro lado, la autoridad de vigilancia del mercado aplica la Ley a nivel nacional. Este organismo puede variar para los sistemas de IA de alto riesgo. Cuando un sistema de IA no cumple con la normativa, la autoridad de vigilancia del mercado informará a la Comisión y a las autoridades nacionales pertinentes anualmente.

Si hay un incumplimiento de las obligaciones de la Ley de IA de la UE o un sistema de IA de alto riesgo cumple con la Ley pero aún representa un riesgo para la salud y seguridad de las personas, la autoridad de vigilancia del mercado puede:

• Exigir a un operador relevante que tome medidas correctivas, asegurando que los sistemas de IA no presenten riesgos similares.
• Si el operador no lo hace, el sistema de IA en cuestión puede ser retirado del mercado.

A nivel de la UE, una Oficina de IA dentro de la Comisión aplica las regulaciones. Esta comisión es asesorada y asistida por los Estados miembros para implementar eficazmente la Ley de IA. La comisión y el Comité de IA reciben experiencia técnica de un foro de partes interesadas asesores. Los tribunales nacionales de los Estados miembros de la UE aplicarán la Directiva de Responsabilidad de IA si se presentan reclamaciones civiles basadas en la culpa no contractual.

Los tribunales nacionales también pueden solicitar pruebas sobre sistemas de IA de alto riesgo sospechosos de causar daño.

Uso de IA que cumple con la Ley

Chatsimple, un agente de ventas de IA para su sitio web, cumple con las obligaciones de la Ley de IA de la UE. Si desea agregar las capacidades de ventas de IA a su sitio web, pruebe Chatsimple sin preocuparse por el cumplimiento de la nueva Ley de IA en la región de la UE.

Con el agente de ventas de IA de Chatsimple, puede:

• Interactuar con cada visitante mediante IA para ayudarles a encontrar respuestas en segundos.
• Reducir la tasa de rebote mientras construye confianza y credibilidad.
• Aumentar la generación de leads y agendar reuniones con leads cualificados de manera fluida.

El agente de IA de Chatsimple es seguro y efectivo bajo la Ley de IA de la UE.

Dedique 30 minutos para entender cómo aprovecharlo al máximo en su negocio.