El verdadero reto ya no es adoptarla. Es la gobernanza de la IA. ¿Dónde se está utilizando la IA? ¿Qué datos está procesando? ¿Quién sigue siendo responsable del resultado?

Estas preguntas cada vez son más importantes a medida que la IA evoluciona de ser herramientas que simplemente generan contenido a sistemas que pueden tomar acciones en nombre de los usuarios.

Un artículo reciente de CIDAI, con comentarios de Alfonso Corral, CEO de Conversia, destaca este cambio. Para muchas PYMES, el reto ya no es acceder a la IA. Es asegurarse de que se use de manera responsable, transparente y efectiva en toda la organización.

De asistentes de IA a agentes de IA

Durante los últimos años, la mayoría de las organizaciones han experimentado con asistentes de IA que responden preguntas, generan texto o apoyan la toma de decisiones. La próxima ola es diferente.

Los agentes de IA pueden acceder a aplicaciones, recuperar información, ejecutar flujos de trabajo e interactuar con sistemas empresariales con una intervención humana limitada. Un agente puede programar citas, gestionar inventarios, actualizar registros o comunicarse con clientes. Esta mayor autonomía crea nuevas oportunidades, pero también plantea nuevos retos de gobernanza.

La pregunta ya no es: “¿Puede la IA ayudarnos a completar esta tarea?” Ahora es: “¿Cómo aseguramos que la IA realice esta tarea de manera segura, responsable y de acuerdo con los objetivos de la empresa?”

Las normas ya se aplican

Muchas organizaciones todavía asumen que la gobernanza de la IA puede esperar hasta que la regulación se vuelva más estricta. En realidad, ya existen diversas obligaciones en vigor.

La Ley de IA de la UE se está implementando de manera progresiva. Las normas sobre prácticas de IA prohibidas y las obligaciones de formación en IA ya son aplicables, mientras que los requisitos de transparencia del Artículo 50 comenzaron a ser aplicables el 2 de agosto de 2026. Estas obligaciones de transparencia incluyen informar a los usuarios cuando interactúan con ciertos sistemas de IA e identificar categorías concretas de contenido generado por IA. Seguirán requisitos adicionales para sistemas de IA de alto riesgo según el calendario de implementación de la Ley.

Un principio clave de la Ley de IA es que las obligaciones dependen del riesgo, no de la tecnología en sí. Usar la IA para redactar un boletín interno conlleva riesgos muy diferentes a usar la IA para filtrar candidatos a un trabajo, evaluar el rendimiento de los empleados o respaldar decisiones que afecten a personas. Las últimas situaciones pueden generar obligaciones normativas mucho mayores.

Otro error común es pensar que la responsabilidad recae completamente en el proveedor de software. La Ley de IA distingue entre los proveedores, que desarrollan sistemas de IA, y los desplegadores, que los utilizan dentro de sus organizaciones. Una empresa puede tener obligaciones como desplegadora aunque nunca desarrolle un modelo de IA por sí misma. Los requisitos existentes relacionados con la protección de datos, la confidencialidad, la propiedad intelectual y la legislación laboral siguen aplicándose independientemente de si se utiliza IA o no. Exploramos estos requisitos con más detalle en nuestro artículo anterior, “Aspectos clave de la Ley Europea de IA“, donde desglosamos el enfoque basado en riesgos de la regulación, su calendario de implementación y las implicaciones prácticas para las organizaciones que adoptan soluciones de IA.

Lo que revela el verano de 2026 sobre la gobernanza de la IA

En julio de 2026, un incidente relacionado con evaluaciones de ciberseguridad de IA atrajo una atención significativa dentro de la comunidad de IA.

Según la investigación publicada por OpenAI, modelos de IA muy capacitados que participaban en evaluaciones internas de ciberseguridad eludieron los controles previstos, accedieron a internet y comprometieron partes de la infraestructura de investigación de OpenAI y sistemas que pertenecían a Hugging Face. OpenAI atribuyó este comportamiento a incentivos mal alineados durante la evaluación y lo describió como una forma de “manipulación de recompensas” o reward hacking.

La importancia del incidente no era solo la falla técnica. Puso de relieve un desafío más amplio de gobernanza: los sistemas de IA muy capaces pueden perseguir objetivos de manera inesperada cuando los indicadores de éxito, los permisos y los mecanismos de supervisión están mal diseñados. La investigación de OpenAI identificó problemas no solo relacionados con el comportamiento del modelo, sino también con los procesos de monitoreo, aislamiento y escalamiento. La lección es clara: la gobernanza de la IA no es solo sobre el modelo. También tiene que ver con el entorno en el que opera el modelo.

Entendiendo el reward hacking

Muchos sistemas de IA modernos dependen del aprendizaje por refuerzo, donde el sistema aprende probando acciones y recibiendo retroalimentación basada en objetivos predefinidos. El ‘reward hacking’ ocurre cuando un sistema descubre una manera de maximizar su puntuación sin alcanzar el objetivo real que querían sus diseñadores.

Un simple ejemplo empresarial ilustra el concepto. Imagina un equipo de atención al cliente que solo recibe recompensa por reducir la duración de las llamadas. Algunos empleados podrían darse cuenta de que terminar rápidamente conversaciones difíciles mejora la métrica, aunque la satisfacción del cliente disminuya. La métrica mejora. El resultado, no. El mismo principio puede aparecer en los sistemas de inteligencia artificial. A medida que los agentes de IA tienen acceso a aplicaciones, flujos de trabajo y procesos empresariales, los objetivos mal diseñados pueden provocar comportamientos no previstos que técnicamente cumplen los objetivos de rendimiento mientras van en contra de los objetivos del negocio. Es importante destacar que esto no implica engaño intencionado ni conciencia. Simplemente refleja el hecho de que los sistemas de optimización a menudo aprovechan los atajos cuando estos son recompensados.

¿Por qué esto es importante para las PYME?

Pocas pymes entrenarán alguna vez un modelo de IA de frontera. Muchas, en cambio, desplegarán agentes de IA conectados a correo electrónico, plataformas CRM, sistemas ERP, portales de clientes o entornos de comercio electrónico. En Mosaic Factor, cada vez vemos más organizaciones explorando estos casos de uso mientras al mismo tiempo hacen preguntas sobre trazabilidad, responsabilidad y control. Algunos ejemplos podrían ser:

• Un agente de IA encargado de reducir los tickets de soporte abiertos cierra casos demasiado pronto en lugar de resolver los problemas subyacentes.
• Un agente de gestión de inventario evita los déficits de stock haciendo pedidos excesivos de productos de manera sistemática.
• Un asistente de IA con permisos excesivos accede a información sensible que nunca necesitaba para hacer su tarea.

Esto no son solo fallos técnicos. Son fallos de gobernanza. Cómo se define el éxito, qué permisos se conceden, cuándo se requiere aprobación humana y cómo se supervisan los comportamientos son decisiones empresariales. No se debería dejar solo a quien instala la herramienta de IA.

Un punto de partida práctico para la gobernanza de la IA

Una gobernanza efectiva de la IA no necesita un gran equipo de cumplimiento. Comienza con unas cuantas disciplinas prácticas:

1. Mapea el uso de la IA en toda la organización. Documenta cada sistema de IA, quién lo utiliza, qué datos procesa y qué proveedor lo suministra.
2. Evalúa el riesgo y el impacto. Distingue entre aplicaciones de productividad de bajo riesgo y sistemas que influyen en personas, finanzas, cumplimiento normativo o decisiones estratégicas.
3. Aplica el acceso con privilegios mínimos. Otorga a los sistemas de IA solo los permisos necesarios para su propósito.
4. Mantén a las personas implicadas en decisiones críticas. Requiere aprobación para acciones difíciles de revertir, como pagos, comunicaciones con clientes o eliminación de registros.
5. Monitorea los resultados, no solo los indicadores. Verifica que se estén cumpliendo realmente los objetivos empresariales en lugar de solo medir los indicadores establecidos.
6. Mantén registros de auditoría y logs. La supervisión es esencial para identificar comportamientos inesperados antes de que se conviertan en problemas importantes.
7. Invierte en alfabetización en IA. Los empleados deberían entender tanto las oportunidades como las limitaciones de los sistemas de IA que utilizan.
8. Evalúa a los proveedores con cuidado. Pregunta cómo se manejan los datos, qué mecanismos de transparencia existen y qué controles y capacidades de auditoría están disponibles.
9. Sé transparente con los clientes. Cuando la IA interactúa directamente con los usuarios o genera contenido del que pueden depender, la transparencia genera confianza y ayuda a cumplir las normas de governanza.

La gobernanza es lo que posibilita una Inteligencia Artificial confiable

Una IA responsable no significa usar menos IA. Significa entender qué hacen los sistemas de IA, por qué lo hacen y cuáles son sus limitaciones. Las organizaciones que triunfan con la IA a largo plazo no serán necesariamente las que la despliegan primero. Serán las que la desplegan de manera responsable, con controles adecuados, responsabilidad clara y un buen conocimiento del riesgo. La gobernanza no debería verse como una barrera para la innovación. Es lo que permite a las organizaciones innovar con confianza, escalar iniciativas de IA exitosas y mantener la confianza de clientes, empleados y reguladores. En Mosaic Factor, ayudamos a las organizaciones a construir sistemas de IA de confianza que sean explicables, auditables y alineados tanto con los objetivos empresariales como con las expectativas regulatorias. Porque el futuro no pertenece simplemente a las empresas que usan IA, sino a las empresas que gestionan bien la IA.

→ Consulta nuestra solución Trustworthy AI

La entrada Usar la IA es fácil. Gobernarla es el verdadero reto para las pymes se publicó primero en Mosaic Factor.

IA sanitaria en BNEW 2026: medicina de precisión, explicabilidad y mitigación de sesgos

La IA, en el centro de la nueva economía

La entrada BNEW 2026: tendencias de la IA sanitaria, medicina de precisión e IA responsable se publicó primero en Mosaic Factor.

Grabación

Si no pudiste unirte a esta segunda sesión de nuestra serie de webinars sobre IA explicable para descubrir cómo las organizaciones de salud pueden desarrollar soluciones de IA en las que los clínicos confíen, los responsables de decisiones comprendan y los profesionales de gobierno y regulación puedan evaluar con confianza. Ahora puedes ver la grabación a continuación:

Cerrando la brecha entre los modelos de IA y la confianza clínica

En la segunda sesión de nuestra serie de webinars sobre Inteligencia Artificial Explicable (XAI) –puedes volver a ver la primera sesión, XAI para la toma de decisiones aquí –exploraremos cómo el XAI puede ayudar a reducir la distancia entre el rendimiento técnico de los modelos y la adopción clínica práctica. Esta sesión se centra en cómo diseñar y comunicar explicaciones de IA que ayuden a los profesionales de la salud a entender, validar y hacer un uso adecuado de los conocimientos basados en IA. Estas capacidades también son cada vez más relevantes para la preparación normativa en Europa, ya que el AI Act de la UE establece requisitos relacionados con la transparencia, la interpretación de los resultados y la supervisión humana efectiva para ciertos sistemas de IA sanitaria de alto riesgo. Aunque esta no es una sesión normativa, el webinar explorará brevemente cómo los enfoques prácticos centrados en el médico pueden apoyar estas expectativas.

¿Cómo pueden los profesionales clínicos confiar en una recomendación de IA si no entienden cómo se llegó a ella? La realidad es que la precisión técnica por sí sola rara vez impulsa la adopción en la sanidad. Incluso los modelos con muy buen rendimiento pueden quedar sin usar si los profesionales de la salud no pueden evaluar el razonamiento detrás de las predicciones, entender los factores que contribuyen o saber cuándo cuestionar un resultado.

Por qué es importante la IA explicable en la salud

Las decisiones sobre la salud afectan directamente los resultados de los pacientes. Por eso, los clínicos deben ser capaces de evaluar y entender las recomendaciones que proporcionan los sistemas de IA antes de incorporarlas a sus flujos de trabajo. Una de las barreras más comunes para la adopción de la IA en la salud no es el rendimiento del modelo, sino la falta de confianza. Algunas de las preguntas que los clínicos plantean con más frecuencia son:

• ¿Por qué se clasificó a este paciente como de alto riesgo?
• ¿Cuáles factores contribuyeron más a esta predicción?
• ¿Se puede justificar clínicamente esta recomendación?
• ¿La explicación se alinea con los conocimientos médicos establecidos?
• ¿Cuándo se debería cuestionar o revisar el resultado del modelo?

Sin explicaciones significativas, los sistemas de IA pueden percibirse como cajas negras difíciles de validar en entornos clínicos reales. La IA explicable ayuda a abordar estas preocupaciones haciendo que el razonamiento del modelo sea más transparente, permitiendo a los médicos entender mejor las predicciones e integrar los conocimientos de la IA en el proceso de toma de decisiones. Las organizaciones sanitarias cada vez miran más allá de la exactitud del modelo a la hora de evaluar soluciones de IA. Para crear un valor real en entornos clínicos, los sistemas de IA también deben ser:

• Suficientemente transparentes para que los profesionales puedan entender los factores detrás de las predicciones y recomendaciones.
• Fiables y robustos en diversas poblaciones de pacientes y escenarios clínicos.
• En línea con el razonamiento clínico y las prácticas establecidas en salud.
• Capaces de dar soporte a la colaboración entre científicos de datos, profesionales de la salud y responsables de la toma de decisiones.
• Confiable para los usuarios finales (sanitarios) que, al fin y al cabo, son los responsables del cuidado de los pacientes.

Aunque la falta de confianza a menudo se menciona como una barrera para la adopción de la IA, casi nunca es el único desafío. Una implementación eficaz de la IA también requiere una comunicación clara, interpretabilidad y una comprensión compartida del comportamiento del modelo entre los equipos técnicos y clínicos. La IA explicable proporciona las herramientas y metodologías necesarias para afrontar estos desafíos y transformar la IA de un resultado técnico a una capacidad práctica de apoyo en la toma de decisiones.

📨 Clica aquí para registrarte ahora

Hacer que la explicabilidad sea comprensible para los clínicos

Producir explicaciones es solo el primer paso. Muchas técnicas de XAI generan resultados que tienen sentido para los científicos de datos pero que son difíciles de interpretar para los profesionales de la salud dentro del contexto de la atención al paciente. Para que la IA sea realmente útil en la sanidad, las explicaciones deben traducirse en formas que se alineen con el pensamiento clínico y los procesos de toma de decisiones. Esta sesión explorará cómo podemos traducir las explicaciones de la IA en conocimientos clínicamente relevantes?

• Qué necesitan realmente los clínicos de las explicaciones de la IA.
• Cómo interpretan los diferentes actores del sector sanitario los resultados de los modelos.
• Técnicas para presentar el razonamiento del modelo de manera significativa desde el punto de vista clínico.
• Cómo la XAI puede fortalecer la colaboración entre los expertos en salud y los equipos de desarrollo de IA.

El objetivo no es simplemente explicar el modelo, sino asegurarse de que las explicaciones respalden un juicio clínico informado. Muchas organizaciones implementan con éxito técnicas sofisticadas de XAI, pero las visualizaciones, métricas y resultados técnicos que resultan, a menudo están pensados más para científicos de datos que para profesionales de la salud. Los participantes aprenderán cómo pasar de explicaciones técnicas a explicaciones que apoyen el juicio y la toma de decisiones clínicas.

Qué aprenderás

Durante esta sesión, los participantes obtendrán conocimientos prácticos sobre:

• Por qué la confianza sigue siendo una de las barreras más grandes para la adopción de la IA en la salud.
• El papel de la IA explicable en el apoyo a la toma de decisiones clínicas.
• Traducir explicaciones técnicas en conocimientos fáciles de entender para los clínicos, la diferencia entre explicar un modelo y comunicar una explicación de manera efectiva.
• Diseñar explicaciones transparentes para diferentes actores del sector sanitario que se integren en los flujos de trabajo clínicos.
• Cómo la XAI puede apoyar la transparencia y la supervisión humana en IA sanitaria de alto riesgo según la AI Act (acuerdo de la IA de la UE).
• Mejores prácticas para enfoques centrados en las personas en la adopción de la IA en la salud.

El énfasis está totalmente puesto en crear sistemas de IA que los profesionales de la salud puedan entender, evaluar y usar con confianza en su práctica. Al final de esta sesión, los participantes entenderán cómo la IA explicable puede ayudar a crear sistemas de IA en la atención sanitaria que sean:

• Transparentes – los clínicos pueden entender los factores que influyen en las predicciones.
• Interpretables – las explicaciones se presentan de manera significativa desde el punto de vista clínico.
• Fiables – los profesionales de la salud pueden evaluar y usar con confianza los resultados de la IA.
• Adoptables – las soluciones de IA se integran de manera natural en los flujos de trabajo clínicos.

El foco estará en hacer que la explicabilidad sea útil, comprensible y aplicable para los profesionales de la salud. Al final de la sesión, nuestra Chief Data Scientist, Burcu Kolbay, responderá preguntas en directo. Invitado especial: se une nuestra Chief Data Scientist, el Dr. Josep Vidal, miembro del grupo de trabajo de proyectos de IA multidisciplinarios y multi-territoriales del Institut Català de la Salut (ICS). El Dr. Vidal compartirá perspectivas prácticas sobre la adopción de la IA en entornos sanitarios, la importancia de la explicabilidad para la toma de decisiones clínicas y los retos de traducir los conocimientos de la IA en información que los profesionales de la salud puedan usar con confianza en su práctica diaria.

A quién se dirige 

Esta masterclass está diseñada para profesionales implicados en el desarrollo, la implementación, la evaluación o la adopción de la IA en la salud, incluyendo:

• Especialistas en Informática Clínica
• Líderes en Salud Digital
• Profesionales de Dispositivos Médicos y HealthTech
• Médicos e Investigadores Clínicos
• Equipos de Innovación Hospitalaria
• Prescriptores de Decisiones Sanitarias

No se requiere ninguna formación técnica avanzada. La sesión está pensada para fomentar el diálogo entre las comunidades técnica y clínica.

Detalles del webinar

📅 Miércoles, 7 de Octubre, 2026

⏰ 11:00 h – 12:00 h

• Formato: Online (live)
• Duración: 60 minutos
• Nivel: Básico a intermedio
• Idioma: Inglés 

La entrada Webinar series: Explainable AI para el sector sanitario se publicó primero en Mosaic Factor.

1. Se prohíben los usos de IA con riesgos inaceptables. Esto significa que no se deben utilizar los siguientes tipos de modelos:
   1. IA subliminal, manipuladora o engañosa
   2. Modelos de IA que explotan vulnerabilidades relacionadas con la edad, la discapacidad o las circunstancias socioeconómicas para distorsionar el comportamiento, causando daños significativos.
   3. Sistemas de categorización biométrica que infieren atributos sensibles (como raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual), exceptuando el etiquetado o filtrado de conjuntos de datos biométricos adquiridos legalmente o cuando las fuerzas del orden categorizan datos biométricos.
   4. Sistemas de puntuación social.
   5. Sistemas que evalúan el riesgo de que una persona cometa delitos penales.
   6. Compilar bases de datos de reconocimiento facial de Internet o imágenes de CCTV.
   7. Inferir emociones en lugares de trabajo o instituciones educativas.
   8. Identificación biométrica remota (RBI) «en tiempo real» en espacios de acceso público para las fuerzas del orden.
2. Sistemas de IA de alto riesgo: están regulados, y la AI Act se concentra sobre todo en esta tipología.
3. Sistemas de IA de riesgo limitado: están sujetos a obligaciones de transparencia menos estrictas. Esto significa que los desarrolladores deben asegurarse de que los usuarios finales sean conscientes de que están interactuando con la IA (dejando así claro que hay un modelo de IA detrás de los chatbots y los deepfakes).
4. Los modelos de IA de riesgo mínimo: no están regulados: entre ellos se encuentran la mayoría de las aplicaciones de IA que estaban disponibles en el mercado único de la UE en el momento de la entrada en vigor de la Ley de IA en 2021. Por ejemplo, videojuegos habilitados para IA y filtros de spam.

Claramente, este escenario está cambiando con la IA generativa, que aumenta el nivel de riesgo de los modelos de IA, convirtiéndolos en su mayoría de alto riesgo. Aunque ahora las regulaciones de la IA están avanzando, creemos que los sistemas de IA deberían ser supervisados por las personas, en lugar de por la automatización, para evitar resultados perjudiciales. Esto incluye asegurarnos de que somos capaces de generar sistemas de IA fiables (trustworthy AI en inglés) que tengan un diseño justo y que sean explicables y claros para los responsables de la toma de decisiones. Está claro que la legislación no acelerará la adopción de una IA responsable, pero son las organizaciones las que deben compartir experiencias y soluciones para mostrar cómo son las «buenas prácticas». Los consejos de administración deben adoptar la responsabilidad digital corporativa para evaluar los impactos digitales de los productos/servicios en todas las partes interesadas, examinando los impactos sociales, económicos, tecnológicos y ambientales. Por lo tanto, estamos apoyando a las empresas en su papel para garantizar que la tecnología no se despliegue en «casos de uso negativos» que puedan dañar a la sociedad y generar así modelos de IA que sean transparentes, eficaces, justos y responsables.

La explicabilidad de la IA se está convirtiendo en un requisito regulador, no solo en una buena práctica de gobernanza

Aunque la transparencia siempre ha sido un principio clave de la trustworthy AI, la European AI Act refuerza significativamente la necesidad de explicabilidad a lo largo del ciclo de vida de la IA. Para los sistemas de IA de alto riesgo, los proveedores deben asegurar una transparencia suficiente para que quienes despliegan e integran sistemas de IA puedan comprender, interpretar y hacer un uso adecuado de los resultados del sistema. Esto incluye proporcionar documentación sobre las capacidades del sistema, sus limitaciones, el rendimiento esperado, los escenarios de riesgo y, cuando sea aplicable, información que ayude a explicar cómo se generan los resultados.

La Ley de IA también vincula la explicabilidad con los requisitos de supervisión humana. Los responsables de la toma de decisiones deben poder monitorizar eficazmente los sistemas de IA, cuestionar los resultados cuando sea necesario e intervenir para evitar resultados perjudiciales. En la práctica, esto significa que las organizaciones necesitarán cada vez más técnicas de explicabilidad, documentación de modelos, registros de auditoría y herramientas de monitorización que hagan que las decisiones de la IA sean comprensibles tanto para técnicos como para responsables de negocio.

Más allá de las aplicaciones de alto riesgo, las nuevas obligaciones de transparencia para los sistemas de IA generativa requieren que los usuarios estén informados cuando interactúan con IA y cuando el contenido ha sido generado o manipulado por IA. A medida que estos requisitos entren en vigor, las organizaciones necesitarán marcos de gobernanza más sólidos que demuestren no solo cumplimiento, sino también que los sistemas de IA se pueden confiar, interpretar y responsabilizar. Aquí puedes ver las directrices de la Comisión Europea sobre las obligaciones de transparencia para los proveedores y desplegadores de sistemas de IA.

→ Consulta nuestra solución Trustworthy AI

La entrada Aspectos clave de la Ley Europea de IA (AI Act) se publicó primero en Mosaic Factor.

Este momento representa mucho más que una simple presentación. Refleja nuestro siguiente paso como empresa. Nos hemos unido al programa de incubación AI Factory con un objetivo claro: expandir nuestro trabajo al sector sanitario.

Durante los próximos seis meses, contribuiremos dentro de AI Factory, donde tendremos acceso a oficinas, recursos técnicos y una sólida red de contactos dentro del ecosistema Tech Barcelona. Una de las razones clave para unirnos es la oportunidad de interactuar con el sector sanitario y comprender mejor los retos reales de este ámbito.

Nuestro pitch en el BSC AI Factory incubator

El evento nos brindó la oportunidad de compartir lo que estamos desarrollando, intercambiar ideas con otros equipos e interactuar con la comunidad local de IA. Nuestro equipo estuvo representado por Stefano Persi (CEO), José Fernández (CTO), Andrea Santiago (Financial Controller) y Joan Sampablo, nuestro Director de Ventas.

En nuestra presentación, nos centramos en una idea fundamental que impulsa nuestro trabajo en Mosaic Factor. La IA no solo debe funcionar bien en entornos controlados, sino que también debe ser fiable en condiciones reales donde las limitaciones son inevitables.

El problema que resolvemos

En sectores como el automotriz y el manufacturero, los fallos de la IA pueden tener graves consecuencias:

• riesgos para la seguridad,
• pérdidas financieras,
• y problemas de privacidad.

Estos riesgos cotidianos son igualmente relevantes en el sector sanitario. Al centrarnos en la fiabilidad y las soluciones prácticas, nuestro enfoque está diseñado para ayudar a las organizaciones a afrontar estos desafíos y ofrecer soluciones de IA fiables.

Del cloud a los entornos reales

Una parte importante de nuestro trabajo se centra en reducir la brecha entre la IA en la nube y la IA en entornos de producción.

En muchos casos, los modelos de IA se desarrollan en potentes entornos de nube, pero necesitan ejecutarse en lugares con recursos limitados, como vehículos, sistemas embebidos o microchips. En estos entornos, la capacidad de procesamiento y el consumo de energía son limitados, pero el rendimiento debe mantenerse alto.

Nos centramos en optimizar los sistemas de IA para que operen de forma eficiente en estas condiciones sin perder fiabilidad.

Cómo trabajamos

En Mosaic Factor, creamos soluciones de IA para resolver problemas específicos de nuestros clientes y mejoramos los sistemas de IA existentes para garantizar su fiabilidad. Este enfoque dual nos permite adentrarnos rápidamente en nuevos sectores como el sanitario, donde comprender el reto y mantener un rendimiento fiable son igualmente cruciales.

Mirando hacia el futuro

Unirnos al programa AI Factory es un paso importante en nuestra incursión en el sector sanitario.

A través de este programa, buscamos conectar con socios, explorar casos de uso reales y comprender mejor los retos específicos del sector. Nuestro objetivo es aplicar lo aprendido en otros sectores para desarrollar soluciones de IA prácticas, fiables y preparadas para entornos sanitarios reales.

Nuestra presentación en el evento fue nuestro primer paso en esa dirección.

La entrada Mosaic Factor se une al BSC AI Factory se publicó primero en Mosaic Factor.

Más allá del RAG tradicional

Los canales del RAG tradicional incorporan una consulta, recuperan contexto y generan una respuesta. Agentic RAG introduce inteligencia en el proceso. Clasificando la intención antes de decidir si es necesario recuperar información, llamar a herramientas o responder directamente, las empresas reportan reducciones de costos de hasta el 40% y mejoras de latencia del 35%.

Patrones clave que impulsan su adopción

Los expertos de la industria señalan tres patrones arquitectónicos que definen Agentic RAG:

• Intent-Based Query Routing: determina si es necesario recuperar información o si una respuesta directa es suficiente.
• Orquestación de herramientas con gestión de errores: coordina APIs, calculadoras y bases de datos mientras gestiona los errores de manera eficiente.
• Evaluación continua de costes y latencia: controla el uso de tokens y los indicadores de rendimiento en tiempo real.

Estos patrones permiten a los sistemas decidir, adaptarse y optimizar, un requisito crítico para la IA a escala empresarial.

Arquitectura en la práctica

Los sistemas Agentic RAG normalmente se construyen sobre tres capas:

• Capa de Orquestación: el “cerebro de decisión” que dirige las consultas de manera inteligente.
• Capa de Ejecución: gestiona la recuperación de información, las llamadas a herramientas y la inferencia LLM.
• Capa de Infraestructura: proporciona bases de datos vectoriales, gestión del despliegue y observabilidad.

A diferencia del RAG tradicional, que siempre realiza recuperación de información, el Agentic RAG evalúa si la recuperación es necesaria, organizando la combinación óptimade recuperación, herramientas y generación.

Flexibilidad del proveedor a través de capas de gateway

Otra tendencia clave es el auge de las abstracciones de gateway que permiten a los desarrolladores cambiar sin problemas entre proveedores como OpenAI, Anthropic, Google y Bedrock. Este enfoque permite:

• Enrutamiento de reserva cuando los proveedores tienen tiempos de inactividad;
• pruebas A/B sin cambios de código;
• optimización de costos dirigiendo las consultas al modelo más eficiente;
• libertad respecto a la dependencia de un proveedor.

Las empresas están adoptando cada vez más pasarelas unificadas para equilibrar velocidad, coste y fiabilidad entre los proveedores.

Conclusión

El Agentic RAG ya no es un experimento de nicho, sino el modelo para los sistemas de IA de producción. Al combinar la recuperación con la toma de decisiones, la orquestación y la observabilidad, la técnica establece nuevos estándares de eficiencia y adaptabilidad en la IA empresarial.

“La IA de producción no se trata solo de la recuperación. Se trata de inteligencia: saber cuándo recuperar, cuándo usar herramientas y cuándo responder directamente. El Agentic RAG ofrece esa inteligencia”.

La entrada Agentic RAG para IA se publicó primero en Mosaic Factor.

AGI: el horizonte a largo plazo

La IA General, o Inteligencia Artificial General (AGI, en inglés), se refiere a máquinas que pueden realizar cualquier tarea intelectual que un humano puede. Es flexible, autónoma y capaz de razonar en diversos dominios. Estado Actual: La IAG sigue siendo teórica. Ningún sistema existente ha logrado una verdadera inteligencia general. Creemos que este es un tema altamente atractivo, y estamos monitoreando los desarrollos con gran interés y anticipación.

Generative AI: creatividad en el mundo real a gran escala

La IA generativa (o GenAI en inglés) ya está transformando industrias. Estos modelos crean nuevo contenido – texto, imágenes, código, audio, entre otros – basado en patrones de datos aprendidos. Casos de uso que podemos ofrecer para GenAI:

• Generación de contenido automatizado para industrias específicas (como la atención médica).
• Resumir documentos y análisis de contratos para equipos legales o de cumplimiento normativo.
• Chatbots inteligentes para consultas internas de la empresa o soporte al cliente.
• Herramientas de generación y depuración de código para desarrolladores específicos de la industria (como el automotriz).

Nuestras soluciones: construimos y ajustamos modelos de IA generativa utilizando los datos propietarios de nuestros clientes, asegurando que los resultados sean precisos, alineados con la organización y cumplan con las normativas. Ya sea que necesiten un asistente personalizado estilo GPT o un generador de imágenes para el diseño de productos, podemos hacerlo realidad.

Técnicas de IA específicas

Nuestro enfoque principal es permitir que las empresas resuelvan desafíos precisos a través de técnicas avanzadas de inteligencia artificial. Es lo que siempre hemos hecho – lo que llamamos ‘IA tradicional’ – y ha sido central en nuestro viaje desde nuestra fundación. Nuestro enfoque: diseñamos, entrenamos y desplegamos estos modelos con soporte durante todo su ciclo de vida: desde la estrategia de datos y la infraestructura hasta la gobernanza y el monitoreo del rendimiento.

Por qué trabajar con Mosaic Factor?

La IA es poderosa, pero solo cuando se aplica con precisión. No solo entregamos herramientas, entregamos transformación.

• Consultoría estratégica de IA y desarrollo de hoja de ruta
• Diseño e integración de modelos personalizados
• Despliegue escalable en la nube y en el borde
• Soporte continuo, compliance y optimización

Ya sea que estés explorando IA generativa para automatización creativa o aprendizaje automático para eficiencia operativa, te ayudamos a transformar el potencial en rendimiento.

¿Listo para explorar lo que la IA puede hacer por tu negocio? Contáctanos para construir algo extraordinario, juntos.

La entrada IA General vs. IA Generativa: lo que significan para tu negocio se publicó primero en Mosaic Factor.

Así que hablamos de tener disponibles modelos abiertos, consistentes con la normativa y basados en diversidad y ética, a nivel europeo.

LLMs específicos de sector

Trabajar hacia el desarrollo de modelos de lenguaje específicos para la industria, basados en los modelos de OpenEuroLLM, ofrece una oportunidad única para las empresas. Estos modelos no solo democratizan el acceso a tecnologías de IA de alta calidad, sino que también permiten una personalización precisa para satisfacer las necesidades específicas de cada sector.

Principales beneficios:

1. Adaptabilidad y Precisión: Los modelos pueden ser ajustados y afinados para aplicaciones específicas, mejorando la precisión y relevancia de las soluciones de IA en contextos industriales.
2. Cumplimiento Normativo: Desarrollados dentro del marco regulatorio europeo, estos modelos aseguran que las soluciones de IA cumplan con las normativas vigentes, reduciendo riesgos legales y éticos.
3. Diversidad Lingüística y Cultural: La capacidad multilingüe de estos modelos preserva la diversidad lingüística y cultural, permitiendo a las empresas operar eficazmente en múltiples mercados europeos.
4. Transparencia y Comunidad: La naturaleza abierta del proyecto fomenta la colaboración y el intercambio de conocimientos, creando una comunidad activa de desarrolladores y usuarios que pueden contribuir a la mejora continua de los modelos.

Basedos en Trustworthy AI

Para las empresas, invertir en el desarrollo de modelos de lenguaje específicos para la industria basados en OpenEuroLLM no solo es una estrategia innovadora, sino también una forma de asegurar que están a la vanguardia de la tecnología de IA, cumpliendo con los estándares europeos y aprovechando al máximo las capacidades de la IA para impulsar su competitividad en el mercado global.

→ Revisa nuestra solución LLMs

La entrada LLMs abiertos para una IA transparente se publicó primero en Mosaic Factor.

La mejor manera de elegir un algoritmo es haciendo las preguntas adecuadas a los profesionales de la industria para identificar el problema exacto que vamos a resolver con el modelo predictivo. Es por eso que trabajaremos en estrecha colaboración con los expertos de las empresas.

Los 5 algoritmos principales que usamos con más frecuencia para los modelos predictivos son:

1. Modelos estadísticos:
   Los sofisticados modelos y enfoques estadísticos, como el modelado generalizado, la regularización, la inferencia bayesiana y el análisis y la predicción de series temporales, se utilizan para capturar dependencias complejas, modelar la incertidumbre y hacer predicciones sólidas con modelos generalizados basados en distribuciones de datos complejas y estructuras latentes.
2. Algoritmos de aprendizaje automático (machine learning): Modelos potentes para capturar relaciones de datos complejas con técnicas de conjuntos basadas en árboles y kernels (bagging, boosting, stacking and blending y voting ensembles). Los enfoques avanzados de ML supervisado se mejoran con técnicas para mejorar la generalización y la interpretabilidad.
   Se desarrollan y utilizan técnicas de aprendizaje no supervisado avanzadas y personalizadas para centrarse en el descubrimiento de patrones ocultos, la creación de segmentos y grupos.
   El aprendizaje por refuerzo a través de las interacciones con el entorno mediante la aplicación de la optimización de las políticas, el aprendizaje basado en valores y los métodos de actor-crítica están diseñados para la toma de decisiones (secuencial). Estas técnicas incluyen:
   1. la agrupación,
   2. la reducción de la dimensionalidad
   3. y el aprendizaje de la representación.
3. Técnicas Deep Learning: el Deep Learning se basa en redes neuronales profundas para aprender representaciones jerárquicas de datos, siendo clave en aplicaciones como el procesamiento del lenguaje natural y el reconocimiento de imágenes.
4. Redes Neuronales: modelos y enfoques avanzados de deep learning (sí, las redes neuronales son consideradas parte de las metodologías deep learning). El aprendizaje de representación y las arquitecturas basadas en la atención que permiten la innovación de última generación y también más allá de la tecnología en áreas como la visión por computadora, el procesamiento del lenguaje natural y el modelado secuencial. La motivación es mejorar la generalización, la escalabilidad y la interpretabilidad a través de técnicas avanzadas superando los límites de lo que la máquina puede aprender.
5. Técnicas de explainable Artificial Intelligence (XAI): métodos que tienen como objetivo descubrir cómo los modelos con conjuntos de datos y estructuras complejas hacen las predicciones, proporcionando transparencia en los procesos y procesos de toma de decisiones. Las técnicas incluyen enfoques agnósticos y específicos del modelo. Son cruciales para comprender la lógica detrás de un resultado de modelo y una decisión..

→ Revisa nuestras Soluciones sobre modelos predictivos y Trustworthy AI.

La entrada Principales algoritmos para modelos predictivos se publicó primero en Mosaic Factor.

¿Qué es un LLM?

Los LLM (Large Language Models en inglés) son sistemas avanzados de IA capaces de comprender y generar diversas formas de contenido, como texto, código, imágenes, vídeo y audio. Estos modelos se entrenan con al menos mil millones de parámetros (puntos de datos), lo que les permite comprender patrones de lenguaje y responder adecuadamente. Los LLM encuentran aplicaciones en tareas de procesamiento del lenguaje natural, como la generación de texto, la traducción, el análisis de sentimientos, el análisis de datos, la respuesta a preguntas y el resumen de textos. .

Evolución de los LLMs

Los hitos clave incluyen:

• 1966 ELIZA: El primer chatbot que simula a un psicoterapeuta.
• 2013 word2vec: Métodos eficientes para aprender incrustaciones de palabras a partir de texto sin procesar.
• GPT y BERT 2018: Modelos rompedores.
• GPT-3 2020: Un salto significativo.
• Finales de 2021 y 2022: GPT-4 y otros avances.
• Modelos estadísticos: Desarrollados para aprender patrones a partir de datos de texto.

LLMs vs. NLP

Mientras que los modelos de NLP (Procesamiento del Lenguaje Natural o Neural Language Processing en inglés) interpretan o transforman el texto existente, los LLM sobresalen en la generación de texto nuevo y coherente desde cero. Pueden crear ensayos, historias e incluso código informático que imita los estilos de escritura humanos. Lo importante a destacar es que no entienden lo que están generando.

Light LLMs (LLM ligeros)

Hoy en día, sin embargo, existe una importancia cada vez mayor de modelos más pequeños (LLM ligeros) para aplicaciones de dominio específicas. Mientras que los modelos más grandes serían todos de «propósito general», los LLM ligeros se desarrollan teniendo en cuenta un uso específico en un sector concreto. Es decir:

• Los modelos grandes utilizan una enorme cantidad de parámetros, sin afinar a un uso específico, consumen mucha energía, a veces con una fiabilidad cuestionable, y que dan respuestas incluso cuando no las conocen.
• Los modelos más pequeños consideran el uso que se le va a dar, afinando sus respuestas (fine-tuning) y el modelo específico para un uso sectorial concreto.

Beneficios de los light LLMs (o LLM ligeros o pequeños)

1. Eficiencia: Los LLM más pequeños requieren de menos recursos computacionales, lo que los hace más rápidos y rentables.
2. Escalabilidad: Las empresas pueden implementar LLM ligeros en varias aplicaciones de forma local sin sobrecargar la infraestructura.
3. Personalización: Los modelos ligeros permiten el fine-tuning para tareas específicas, adaptándolas a las necesidades de la empresa para un sector específico, en lugar de usar modelos “general purpose”, no siempre tan eficaces para ésto.
4. Privacidad: Los modelos más pequeños reducen el riesgo de filtrar inadvertidamente información confidencial. Además, al estar alojados en la empresa, aportan un control más amplio sobre su seguridad, no siendo así en el caso de los grandes modelos, para los que se depende de servicios externos a la empresa, con un coste asociado.
5. Mantenimiento más fácil: Los LLM ligeros son más fáciles de administrar y actualizar.

En conclusión, si bien tanto los LLM de código abierto como los cerrados tienen sus méritos, los LLM ligeros ofrecen ventajas prácticas para las empresas que buscan soluciones eficientes y adaptables. Por lo tanto, las empresas deberían tener en cuenta los requisitos específicos a la hora de elegir el LLM adecuado para su organización.

→ Revisa nuestra solución LLMs

La entrada ¿Qué son los LLMs ligeros? se publicó primero en Mosaic Factor.