Más allá del RAG tradicional

Los canales del RAG tradicional incorporan una consulta, recuperan contexto y generan una respuesta. Agentic RAG introduce inteligencia en el proceso. Clasificando la intención antes de decidir si es necesario recuperar información, llamar a herramientas o responder directamente, las empresas reportan reducciones de costos de hasta el 40% y mejoras de latencia del 35%.

Patrones clave que impulsan su adopción

Los expertos de la industria señalan tres patrones arquitectónicos que definen Agentic RAG:

• Intent-Based Query Routing: determina si es necesario recuperar información o si una respuesta directa es suficiente.
• Orquestación de herramientas con gestión de errores: coordina APIs, calculadoras y bases de datos mientras gestiona los errores de manera eficiente.
• Evaluación continua de costes y latencia: controla el uso de tokens y los indicadores de rendimiento en tiempo real.

Estos patrones permiten a los sistemas decidir, adaptarse y optimizar, un requisito crítico para la IA a escala empresarial.

Arquitectura en la práctica

Los sistemas Agentic RAG normalmente se construyen sobre tres capas:

• Capa de Orquestación: el “cerebro de decisión” que dirige las consultas de manera inteligente.
• Capa de Ejecución: gestiona la recuperación de información, las llamadas a herramientas y la inferencia LLM.
• Capa de Infraestructura: proporciona bases de datos vectoriales, gestión del despliegue y observabilidad.

A diferencia del RAG tradicional, que siempre realiza recuperación de información, el Agentic RAG evalúa si la recuperación es necesaria, organizando la combinación óptimade recuperación, herramientas y generación.

Flexibilidad del proveedor a través de capas de gateway

Otra tendencia clave es el auge de las abstracciones de gateway que permiten a los desarrolladores cambiar sin problemas entre proveedores como OpenAI, Anthropic, Google y Bedrock. Este enfoque permite:

• Enrutamiento de reserva cuando los proveedores tienen tiempos de inactividad;
• pruebas A/B sin cambios de código;
• optimización de costos dirigiendo las consultas al modelo más eficiente;
• libertad respecto a la dependencia de un proveedor.

Las empresas están adoptando cada vez más pasarelas unificadas para equilibrar velocidad, coste y fiabilidad entre los proveedores.

Conclusión

El Agentic RAG ya no es un experimento de nicho, sino el modelo para los sistemas de IA de producción. Al combinar la recuperación con la toma de decisiones, la orquestación y la observabilidad, la técnica establece nuevos estándares de eficiencia y adaptabilidad en la IA empresarial.

“La IA de producción no se trata solo de la recuperación. Se trata de inteligencia: saber cuándo recuperar, cuándo usar herramientas y cuándo responder directamente. El Agentic RAG ofrece esa inteligencia”.

La entrada Agentic RAG para IA se publicó primero en Mosaic Factor.

AGI: el horizonte a largo plazo

La IA General, o Inteligencia Artificial General (AGI, en inglés), se refiere a máquinas que pueden realizar cualquier tarea intelectual que un humano puede. Es flexible, autónoma y capaz de razonar en diversos dominios. Estado Actual: La IAG sigue siendo teórica. Ningún sistema existente ha logrado una verdadera inteligencia general. Creemos que este es un tema altamente atractivo, y estamos monitoreando los desarrollos con gran interés y anticipación.

Generative AI: creatividad en el mundo real a gran escala

La IA generativa (o GenAI en inglés) ya está transformando industrias. Estos modelos crean nuevo contenido – texto, imágenes, código, audio, entre otros – basado en patrones de datos aprendidos. Casos de uso que podemos ofrecer para GenAI:

• Generación de contenido automatizado para industrias específicas (como la atención médica).
• Resumir documentos y análisis de contratos para equipos legales o de cumplimiento normativo.
• Chatbots inteligentes para consultas internas de la empresa o soporte al cliente.
• Herramientas de generación y depuración de código para desarrolladores específicos de la industria (como el automotriz).

Nuestras soluciones: construimos y ajustamos modelos de IA generativa utilizando los datos propietarios de nuestros clientes, asegurando que los resultados sean precisos, alineados con la organización y cumplan con las normativas. Ya sea que necesiten un asistente personalizado estilo GPT o un generador de imágenes para el diseño de productos, podemos hacerlo realidad.

Técnicas de IA específicas

Nuestro enfoque principal es permitir que las empresas resuelvan desafíos precisos a través de técnicas avanzadas de inteligencia artificial. Es lo que siempre hemos hecho – lo que llamamos ‘IA tradicional’ – y ha sido central en nuestro viaje desde nuestra fundación. Nuestro enfoque: diseñamos, entrenamos y desplegamos estos modelos con soporte durante todo su ciclo de vida: desde la estrategia de datos y la infraestructura hasta la gobernanza y el monitoreo del rendimiento.

Por qué trabajar con Mosaic Factor?

La IA es poderosa, pero solo cuando se aplica con precisión. No solo entregamos herramientas, entregamos transformación.

• Consultoría estratégica de IA y desarrollo de hoja de ruta
• Diseño e integración de modelos personalizados
• Despliegue escalable en la nube y en el borde
• Soporte continuo, compliance y optimización

Ya sea que estés explorando IA generativa para automatización creativa o aprendizaje automático para eficiencia operativa, te ayudamos a transformar el potencial en rendimiento.

¿Listo para explorar lo que la IA puede hacer por tu negocio? Contáctanos para construir algo extraordinario, juntos.

La entrada IA General vs. IA Generativa: lo que significan para tu negocio se publicó primero en Mosaic Factor.

Desafíos clave para los equipos de IA en automotive

Los principales desafíos al desarrollar modelos de IA para vehículos de conducción autónoma son:

• Clasificación High-Risk: Los sistemas de IA en los vehículos de conducción autónoma a menudo caen en la categoría de «alto riesgo», lo que desencadena evaluaciones de conformidad obligatorias, documentación y preparación para auditorías.
• Complejidad en el cumplimiento normativo: con más de 450 páginas de texto legal, traducir regulaciones en tareas de ingeniería es un desafío abrumador. Las revisiones manuales y la documentación fragmentada ralentizan la innovación y aumentan los costes.
• Presión de auditoría: los equipos deben prepararse para inspecciones programadas y sorpresas. El incumplimiento puede resultar en multas de hasta 7.5 millones de euros o el 3% de la facturación global.

Marcos de confianza y cumplimiento en la IA

Para abordar estos obstáculos, es fundamental desarrollar marcos de cumplimiento modulares y automatizados adaptados para los SDV que permitan:

• Evaluaciones de sistemas End-to-End: evaluaciones rápidas y listas para auditoría alineadas con la Ley de IA de la UE.
• Informes configurables: evaluaciones específicas para componentes de IA, como el equilibrio de datos o la transparencia del modelo.
• Interfaz de la Fase de Auditoría: herramientas para evaluadores externos, optimizando la retroalimentación y reduciendo el tiempo de evaluación.

¿A quién va dirigido?

• OEMs: responsables del cumplimiento a nivel de sistema, deben asegurarse de que cada componente de IA cumpla con los estándares regulatorios antes del lanzamiento del vehículo.
• Tier 1 Suppliers: los desarrolladores de módulos de IA críticos deben demostrar cumplimiento a nivel de componente a los fabricantes de equipos originales (OEM), mejorando la colaboración y la competitividad en el mercado.

Implicaciones en la industria

La EU AI Act no es solo un obstáculo legal, sino una oportunidad estratégica. Al integrar el cumplimiento en el ciclo de desarrollo, los fabricantes de automóviles pueden construir sistemas de IA más resilientes, transparentes y preparados para el futuro. La Ley fomenta:

• Colaboración interdisciplinar: los equipos de IA, ciberseguridad, seguridad y regulaciones deben trabajar conjuntamente.
• Responsabilidad a lo largo del ciclo de vida: desde el diseño hasta el monitoreo post-mercado, la trazabilidad se convierte en un requisito fundamental.
• Innovación a través de la estructura: erramientas y marcos automatizados transforman el cumplimiento de un obstáculo en un catalizador para mejores prácticas de ingeniería.

A medida que los SDVs se convierten en la norma, la EU AI Act dará forma a cómo se construye, valida y despliega la IA automotriz. Los desarrolladores y proveedores con visión de futuro que adopten un cumplimiento estructurado no solo evitarán sanciones, sino que liderarán la próxima ola de movilidad inteligente.

GPAI y GenAI bajo la Ley de IA: lo que los desarrolladores deben saber

La GPAI Code of Practice, finalizado en mayo de 2025, proporciona orientación crítica para los proveedores de modelos de IA de propósito general (GPAI), incluidos los sistemas de IA generativa (GenAI). La Ley de IA de la UE distingue entre modelos complejos de GenAI -aquellos con riesgo sistémico– y modelos más simples de GenAI, cada uno enfrentando diferentes cargas de cumplimiento.

• Modelos de GenAI Complejos (modelos de riesgo sistémico): Estos modelos superan umbrales como 10²⁵ FLOPs en computación de entrenamiento o demuestran capacidades de alto impacto en diversos dominios. Los proveedores deben realizar pruebas adversariales, evaluaciones de riesgo, e informes de incidentes, y asegurar protecciones de ciberseguridad. También deben notificar a la Comisión Europea para la inclusión en la base de datos pública y mantener documentación detallada de la arquitectura del modelo y las estrategias de evaluación.
• GenAI Models simples: Estos no se clasifican como riesgo sistémico y enfrentan obligaciones más ligeras. Los proveedores deben publicar un resumen de los datos de entrenamiento, asegurar el cumplimiento de derechos de autor (copyright compliance) y mantener documentación técnica para los usuarios finales. La transparencia es clave: los resultados deben estar etiquetados y los usuarios informados al interactuar con sistemas de IA.

El Código de Práctica sirve como un modelo para demostrar el cumplimiento, ayudando a los desarrolladores a navegar por los requisitos en capas de la Ley de IA, al mismo tiempo que fomenta la innovación y la confianza en las tecnologías de GenAI.

La entrada Navegando por la Ley de IA de la UE: implicaciones para desarrolladores de SDV e innovadores de la industria automotriz se publicó primero en Mosaic Factor.

Estas son las principales tendencias y novedades que se destacaron.

Innovación en Gemelos Digitales

• Delta Electronics presentó un Digital Twin para virtual commissioning
  de células de encolado robotizadas, lo que mejora la eficiencia de la automatización.
• Una iniciativa open-source de IDTA (Eclipse Foundation) atrajo la atención por el avance de la accesibilidad en la tecnología de gemelos digitales.
• La circularidad surgió como un tema crítico, con contribuciones de Fraunhofer o Schneider que promovían prácticas de fabricación sostenibles. Estos proyectos abarcaron sectores como la producción de alimentos y el reciclaje de componentes de automoción.
• Siemens mostró una simulación de túnel de viento utilizando tecnologías de gemelo digital e inteligencia artificial, que demuestra el potencial de los métodos de prueba avanzados.

La IA impulsa la innovación

Las aplicaciones de IA en la fabricación se mostraron de forma destacada, yendo más allá del aprendizaje automático tradicional:

• La importancia clave de la Explainable AI (XAI) y la Certified AI reflejando el compromiso de la industria con la transparencia y la fiabilidad.
• Schneider utilizó la IA en la producción de leche de origen vegetal para optimizar los procesos, garantizando un contenido constante de azúcar, un ejemplo de aprendizaje automático que automatiza tareas complejas.
• DFKI incluyó soluciones de IA con análisis de la configuración de la temperatura para los sistemas de calefacción y el aseguramiento de la calidad para la construcción de carrocerías, combinando el análisis de imágenes, los sensores y la tecnología de gemelos digitales.
• Las aplicaciones de IA integradas en robótica también introdujeron la explicabilidad de tareas como la detección de errores de montaje y la automatización de los controles de calidad.

Convergencia de la robótica y la IA

• Project ROX realizó automatización de procesos demostrada.
• Siemens dió a conocer proyectos que combinan robots con PLC virtuales, impulsados por IA y grandes modelos de lenguaje (LLM). Una de las aplicaciones consistía en ensamblar juguetes según las instrucciones del cliente a través de una interfaz digital.

La feria Hannover Messe demostró que la sinergia de Digital Twins, IA, y Robótica está transformando la industria y fabriación. Estas tecnologías no solo mejoran la eficiencia, sino que también allanan el camino para soluciones de producción sostenibles e innovadoras.

La entrada Hannover Messe: Explorando el futuro de la industria se publicó primero en Mosaic Factor.

Así que hablamos de tener disponibles modelos abiertos, consistentes con la normativa y basados en diversidad y ética, a nivel europeo.

LLMs específicos de sector

Trabajar hacia el desarrollo de modelos de lenguaje específicos para la industria, basados en los modelos de OpenEuroLLM, ofrece una oportunidad única para las empresas. Estos modelos no solo democratizan el acceso a tecnologías de IA de alta calidad, sino que también permiten una personalización precisa para satisfacer las necesidades específicas de cada sector.

Principales beneficios:

1. Adaptabilidad y Precisión: Los modelos pueden ser ajustados y afinados para aplicaciones específicas, mejorando la precisión y relevancia de las soluciones de IA en contextos industriales.
2. Cumplimiento Normativo: Desarrollados dentro del marco regulatorio europeo, estos modelos aseguran que las soluciones de IA cumplan con las normativas vigentes, reduciendo riesgos legales y éticos.
3. Diversidad Lingüística y Cultural: La capacidad multilingüe de estos modelos preserva la diversidad lingüística y cultural, permitiendo a las empresas operar eficazmente en múltiples mercados europeos.
4. Transparencia y Comunidad: La naturaleza abierta del proyecto fomenta la colaboración y el intercambio de conocimientos, creando una comunidad activa de desarrolladores y usuarios que pueden contribuir a la mejora continua de los modelos.

Basedos en Trustworthy AI

Para las empresas, invertir en el desarrollo de modelos de lenguaje específicos para la industria basados en OpenEuroLLM no solo es una estrategia innovadora, sino también una forma de asegurar que están a la vanguardia de la tecnología de IA, cumpliendo con los estándares europeos y aprovechando al máximo las capacidades de la IA para impulsar su competitividad en el mercado global.

→ Revisa nuestra solución LLMs

La entrada LLMs abiertos para una IA transparente se publicó primero en Mosaic Factor.

La mejor manera de elegir un algoritmo es haciendo las preguntas adecuadas a los profesionales de la industria para identificar el problema exacto que vamos a resolver con el modelo predictivo. Es por eso que trabajaremos en estrecha colaboración con los expertos de las empresas.

Los 5 algoritmos principales que usamos con más frecuencia para los modelos predictivos son:

1. Modelos estadísticos:
   Los sofisticados modelos y enfoques estadísticos, como el modelado generalizado, la regularización, la inferencia bayesiana y el análisis y la predicción de series temporales, se utilizan para capturar dependencias complejas, modelar la incertidumbre y hacer predicciones sólidas con modelos generalizados basados en distribuciones de datos complejas y estructuras latentes.
2. Algoritmos de aprendizaje automático (machine learning): Modelos potentes para capturar relaciones de datos complejas con técnicas de conjuntos basadas en árboles y kernels (bagging, boosting, stacking and blending y voting ensembles). Los enfoques avanzados de ML supervisado se mejoran con técnicas para mejorar la generalización y la interpretabilidad.
   Se desarrollan y utilizan técnicas de aprendizaje no supervisado avanzadas y personalizadas para centrarse en el descubrimiento de patrones ocultos, la creación de segmentos y grupos.
   El aprendizaje por refuerzo a través de las interacciones con el entorno mediante la aplicación de la optimización de las políticas, el aprendizaje basado en valores y los métodos de actor-crítica están diseñados para la toma de decisiones (secuencial). Estas técnicas incluyen:
   1. la agrupación,
   2. la reducción de la dimensionalidad
   3. y el aprendizaje de la representación.
3. Técnicas Deep Learning: el Deep Learning se basa en redes neuronales profundas para aprender representaciones jerárquicas de datos, siendo clave en aplicaciones como el procesamiento del lenguaje natural y el reconocimiento de imágenes.
4. Redes Neuronales: modelos y enfoques avanzados de deep learning (sí, las redes neuronales son consideradas parte de las metodologías deep learning). El aprendizaje de representación y las arquitecturas basadas en la atención que permiten la innovación de última generación y también más allá de la tecnología en áreas como la visión por computadora, el procesamiento del lenguaje natural y el modelado secuencial. La motivación es mejorar la generalización, la escalabilidad y la interpretabilidad a través de técnicas avanzadas superando los límites de lo que la máquina puede aprender.
5. Técnicas de explainable Artificial Intelligence (XAI): métodos que tienen como objetivo descubrir cómo los modelos con conjuntos de datos y estructuras complejas hacen las predicciones, proporcionando transparencia en los procesos y procesos de toma de decisiones. Las técnicas incluyen enfoques agnósticos y específicos del modelo. Son cruciales para comprender la lógica detrás de un resultado de modelo y una decisión..

→ Revisa nuestras Soluciones sobre modelos predictivos y Trustworthy AI.

La entrada Principales algoritmos para modelos predictivos se publicó primero en Mosaic Factor.

¿Qué es un LLM?

Los LLM (Large Language Models en inglés) son sistemas avanzados de IA capaces de comprender y generar diversas formas de contenido, como texto, código, imágenes, vídeo y audio. Estos modelos se entrenan con al menos mil millones de parámetros (puntos de datos), lo que les permite comprender patrones de lenguaje y responder adecuadamente. Los LLM encuentran aplicaciones en tareas de procesamiento del lenguaje natural, como la generación de texto, la traducción, el análisis de sentimientos, el análisis de datos, la respuesta a preguntas y el resumen de textos. .

Evolución de los LLMs

Los hitos clave incluyen:

• 1966 ELIZA: El primer chatbot que simula a un psicoterapeuta.
• 2013 word2vec: Métodos eficientes para aprender incrustaciones de palabras a partir de texto sin procesar.
• GPT y BERT 2018: Modelos rompedores.
• GPT-3 2020: Un salto significativo.
• Finales de 2021 y 2022: GPT-4 y otros avances.
• Modelos estadísticos: Desarrollados para aprender patrones a partir de datos de texto.

LLMs vs. NLP

Mientras que los modelos de NLP (Procesamiento del Lenguaje Natural o Neural Language Processing en inglés) interpretan o transforman el texto existente, los LLM sobresalen en la generación de texto nuevo y coherente desde cero. Pueden crear ensayos, historias e incluso código informático que imita los estilos de escritura humanos. Lo importante a destacar es que no entienden lo que están generando.

Light LLMs (LLM ligeros)

Hoy en día, sin embargo, existe una importancia cada vez mayor de modelos más pequeños (LLM ligeros) para aplicaciones de dominio específicas. Mientras que los modelos más grandes serían todos de «propósito general», los LLM ligeros se desarrollan teniendo en cuenta un uso específico en un sector concreto. Es decir:

• Los modelos grandes utilizan una enorme cantidad de parámetros, sin afinar a un uso específico, consumen mucha energía, a veces con una fiabilidad cuestionable, y que dan respuestas incluso cuando no las conocen.
• Los modelos más pequeños consideran el uso que se le va a dar, afinando sus respuestas (fine-tuning) y el modelo específico para un uso sectorial concreto.

Beneficios de los light LLMs (o LLM ligeros o pequeños)

1. Eficiencia: Los LLM más pequeños requieren de menos recursos computacionales, lo que los hace más rápidos y rentables.
2. Escalabilidad: Las empresas pueden implementar LLM ligeros en varias aplicaciones de forma local sin sobrecargar la infraestructura.
3. Personalización: Los modelos ligeros permiten el fine-tuning para tareas específicas, adaptándolas a las necesidades de la empresa para un sector específico, en lugar de usar modelos “general purpose”, no siempre tan eficaces para ésto.
4. Privacidad: Los modelos más pequeños reducen el riesgo de filtrar inadvertidamente información confidencial. Además, al estar alojados en la empresa, aportan un control más amplio sobre su seguridad, no siendo así en el caso de los grandes modelos, para los que se depende de servicios externos a la empresa, con un coste asociado.
5. Mantenimiento más fácil: Los LLM ligeros son más fáciles de administrar y actualizar.

En conclusión, si bien tanto los LLM de código abierto como los cerrados tienen sus méritos, los LLM ligeros ofrecen ventajas prácticas para las empresas que buscan soluciones eficientes y adaptables. Por lo tanto, las empresas deberían tener en cuenta los requisitos específicos a la hora de elegir el LLM adecuado para su organización.

→ Revisa nuestra solución LLMs

La entrada ¿Qué son los LLMs ligeros? se publicó primero en Mosaic Factor.

1.Healthcare

Cuando trabajamos con el sector sanitario, hablamos de entornos altamente regulados que deben estar certificados, ser fiables y rendir cuentas de sus respuestas. Por ejemplo, al realizar el diagnóstico de la enfermedad de un paciente, la IA explicable puede explicar los elementos y datos que se utilizaron para diagnosticar a ese paciente. De esta manera, ayudamos a crear una mayor confianza entre los pacientes y sus médicos, al tiempo que mitigamos cualquier posible problema ético cuando una máquina ayuda a detectar una enfermedad.

Los casos de uso típicos para ésto son la validación de predicciones de IA que funcionan con datos de imágenes médicas al diagnosticar el cáncer.

2. Industria

La IA explicable también se puede aplicar en una línea de producción para detectar, mapear y explicar las causas del comportamiento inadecuado de la máquina o de las salidas defectuosas de los productos, lo que provoca lo que se denomina «no conformidades» en la calidad del producto en el proceso de producción o pone de manifiesto la necesidad de mantenimiento.

De esta manera, hay una mayor comprensión de la comunicación máquina-máquina y máquina-operador y se pueden hacer políticas de gestión comercial para disminuir costos y ganar productividad, al tiempo que se mantienen confiables y se guardan los estándares de producción que deben cumplirse y certificarse.

3.Mobility

La IA explicable está adquiriendo cada vez más importancia en el sector del transporte y la automoción debido a la expansión del IoT y las soluciones de movilidad inteligente, así como a la potencial expansión del uso de vehículos autónomos, primero en entornos empresariales como vehículos logísticos autónomos o trenes, y más tarde en usuarios finales.
Esto ha puesto énfasis en las técnicas de explicabilidad para los algoritmos de IA, especialmente cuando se trata de usar casos que involucran decisiones críticas para la seguridad. La IA explicable se puede utilizar para vehículos autónomos, donde proporciona una mayor conciencia situacional en accidentes o situaciones inesperadas, lo que podría conducir a un funcionamiento más responsable de la tecnología (es decir, prevenir accidentes).

4.Recruitment

Selección de currículums: la inteligencia artificial explicable puede utilizarse para explicar por qué se seleccionó un currículum o no. Esto proporciona un mayor nivel de comprensión entre humanos y máquinas, lo que ayuda a crear una mayor confianza en los sistemas de IA al tiempo que mitiga los problemas relacionados con el sesgo y la injusticia.

5.Finance

Detección de fraudes: La IA explicable es importante para la detección de fraudes en los servicios financieros. Esto se puede utilizar para explicar por qué una transacción se marcó como sospechosa o legítima, lo que ayuda a mitigar los posibles desafíos éticos asociados con el sesgo injusto y los problemas de discriminación cuando se trata de identificar transacciones fraudulentas.
Aprobaciones de préstamos: la inteligencia artificial explicable se puede utilizar para explicar por qué se aprobó o denegó un préstamo. Esto es importante porque ayuda a mitigar cualquier posible desafío ético al proporcionar un mayor nivel de comprensión entre humanos y máquinas, lo que ayudará a crear una mayor confianza en los sistemas de IA. → Revisa nuestros Mosaic XAI dashboards

La entrada IA explicable para diferentes sectores se publicó primero en Mosaic Factor.

La Ley Europea de Inteligencia Artificial clasifica la IA según su riesgo:

1. Se prohíben los usos de IA con riesgos inaceptables. Esto significa que no se deben utilizar los siguientes tipos de modelos:
   1. IA subliminal, manipuladora o engañosa
   2. Modelos de IA que explotan vulnerabilidades relacionadas con la edad, la discapacidad o las circunstancias socioeconómicas para distorsionar el comportamiento, causando daños significativos.
   3. Sistemas de categorización biométrica que infieren atributos sensibles (como raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual), exceptuando el etiquetado o filtrado de conjuntos de datos biométricos adquiridos legalmente o cuando las fuerzas del orden categorizan datos biométricos.
   4. Sistemas de puntuación social.
   5. Sistemas que evalúan el riesgo de que una persona cometa delitos penales.
   6. Compilar bases de datos de reconocimiento facial de Internet o imágenes de CCTV.
   7. Inferir emociones en lugares de trabajo o instituciones educativas.
   8. Identificación biométrica remota (RBI) «en tiempo real» en espacios de acceso público para las fuerzas del orden.
2. Sistemas de IA de alto riesgo: están regulados, y la AI Act se concentra sobre todo en esta tipología.
3. Sistemas de IA de riesgo limitado: están sujetos a obligaciones de transparencia menos estrictas. Esto significa que los desarrolladores deben asegurarse de que los usuarios finales sean conscientes de que están interactuando con la IA (dejando así claro que hay un modelo de IA detrás de los chatbots y los deepfakes).
4. Los modelos de IA de riesgo mínimo: no están regulados: entre ellos se encuentran la mayoría de las aplicaciones de IA que estaban disponibles en el mercado único de la UE en el momento de la entrada en vigor de la Ley de IA en 2021. Por ejemplo, videojuegos habilitados para IA y filtros de spam.

Claramente, este escenario está cambiando con la IA generativa, que aumenta el nivel de riesgo de los modelos de IA, convirtiéndolos en su mayoría de alto riesgo.

Aunque ahora las regulaciones de la IA están avanzando, creemos que los sistemas de IA deberían ser supervisados por las personas, en lugar de por la automatización, para evitar resultados perjudiciales. Esto incluye asegurarnos de que somos capaces de generar sistemas de IA fiables (trustworthy AI en inglés) que tengan un diseño justo y que sean explicables y claros para los responsables de la toma de decisiones.

Está claro que la legislación no acelerará la adopción de una IA responsable, pero son las organizaciones las que deben compartir experiencias y soluciones para mostrar cómo son las «buenas prácticas».

Los consejos de administración deben adoptar la responsabilidad digital corporativa para evaluar los impactos digitales de los productos/servicios en todas las partes interesadas, examinando los impactos sociales, económicos, tecnológicos y ambientales.

Por lo tanto, estamos apoyando a las empresas en su papel para garantizar que la tecnología no se despliegue en «casos de uso negativos» que puedan dañar a la sociedad y generar así modelos de IA que sean transparentes, eficaces, justos y responsables.

→ Consulta nuestra solución Trustworthy AI

La entrada Aspectos clave de la Ley Europea de IA (AI Act) se publicó primero en Mosaic Factor.