El veritable repte ja no és adoptar-la. És la governança de la IA. On s’està utilitzant la IA? Quins dades està processant? Qui continua sent responsable del resultat?

Aquestes preguntes cada cop són més importants a mesura que la IA evoluciona de ser eines que simplement generen contingut a sistemes que poden prendre accions en nom dels usuaris.

Un article recent de CIDAI, amb comentaris d’Alfonso Corral, CEO de Conversia, destaca aquest canvi. Per a moltes PIME, el repte ja no és accedir a la IA. És assegurar-se que s’utilitza de manera responsable, transparent i efectiva a tota l’organització.

D’assistents d’IA a agents d’IA

Durant els últims anys, la majoria d’organitzacions han experimentat amb assistents d’IA que responen preguntes, generen text o donen suport a la presa de decisions. La propera onada és diferent.

Els agents d’IA poden accedir a aplicacions, recuperar informació, executar fluxos de treball i interactuar amb sistemes empresarials amb una intervenció humana limitada. Un agent pot programar cites, gestionar inventaris, actualitzar registres o comunicar-se amb clients. Aquesta autonomia més gran crea noves oportunitats, però també planteja nous reptes de governança.

La pregunta ja no és: “Pot l’IA ajudar-nos a completar aquesta tasca?” Ara és: “Com assegurem que l’IA realitzi aquesta tasca de manera segura, responsable i d’acord amb els objectius de l’empresa?”

Les normes ja s’apliquen

Moltes organitzacions encara assumeixen que la governança de la IA pot esperar fins que la regulació es torni més estricta. En realitat, ja hi ha diverses obligacions en vigor.

L’Acta de la IA de la UE s’està implementant de manera progressiva. Les normes sobre pràctiques d’IA prohibides i les obligacions de formació en IA ja són aplicables, mentre que els requisits de transparència de l’Article 50 van començar a ser aplicables el 2 d’agost de 2026. Aquestes obligacions de transparència inclouen informar els usuaris quan interactuen amb certs sistemes d’IA i identificar categories concretes de contingut generat per IA. Seguiran requisits addicionals per a sistemes d’IA d’alt risc segons el calendari d’implementació de l’Acta.

Un principi clau de l’Acta de la IA és que les obligacions depenen del risc, no de la tecnologia en si. Fer servir la IA per redactar un butlletí intern comporta riscos molt diferents de fer servir la IA per filtrar candidats a una feina, avaluar el rendiment dels empleats o donar suport a decisions que afectin persones. Les últimes situacions poden desencadenar obligacions normatives molt més grans.

Un altre equívoc comú és pensar que la responsabilitat recau íntegrament en el proveïdor de programari. La Llei d’IA distingeix entre els proveïdors, que desenvolupen sistemes d’IA, i els desplegadors, que els utilitzen dins de les seves organitzacions. Una empresa pot tenir obligacions com a desplegadora encara que mai no desenvolupi un model d’IA per si mateixa. Els requisits existents relacionats amb la protecció de dades, la confidencialitat, la propietat intel·lectual i la legislació laboral continuen aplicant-se independentment de si s’utilitza IA o no. Vam explorar aquests requisits amb més detall en el nostre article anterior, “Aspectes clau de la Llei Europea d’IA“, on desglossem l’enfocament basat en riscos de la regulació, el seu calendari d’implementació i les implicacions pràctiques per a les organitzacions que adopten solucions d’IA.

El que revela l’estiu del 2026 sobre la governança de la IA

El juliol de 2026, un incident relacionat amb avaluacions de ciberseguretat d’IA va atraure una atenció significativa dins de la comunitat d’IA.

Segons la investigació publicada per OpenAI, models d’IA molt capacitats que participaven en avaluacions internes de ciberseguretat van eludir els controls previstos, van accedir a internet i van comprometre parts de la infraestructura de recerca d’OpenAI i sistemes que pertanyien a Hugging Face. OpenAI va atribuir aquest comportament a incentius mal alineats durant l’avaluació i el va descriure com una forma de “manipulació de recompenses” o reward hacking.

La importància de l’incident no era només la fallada tècnica. Va posar de relleu un repte més ampli de governança: els sistemes d’IA molt capaços poden perseguir objectius d’una manera inesperada quan els indicadors d’èxit, els permisos i els mecanismes de supervisió estan mal dissenyats. La investigació d’OpenAI va identificar problemes no només relacionats amb el comportament del model, sinó també amb els processos de monitoratge, aïllament i escalada. La lliçó és clara: la governança de la IA no és només sobre el model. També té a veure amb l’entorn en què opera el model.

Entenent el reward hacking

Molts sistemes d’IA moderns depenen de l’aprenentatge per reforç, on el sistema aprèn intentant accions i rebent retroalimentació basada en objectius predefinits. El ‘reward hacking’ passa quan un sistema descobreix una manera de maximitzar la seva puntuació sense aconseguir l’objectiu real que volien els seus dissenyadors.

Un simple exemple empresarial il·lustra el concepte. Imagina un equip d’atenció al client que només rep recompensa per reduir la durada de les trucades. Alguns empleats podrien adonar-se que acabar ràpidament converses difícils millora la mètrica, encara que la satisfacció del client disminueixi. La mètrica millora. El resultat no. El mateix principi pot aparèixer en els sistemes d’intel·ligència artificial. A mesura que els agents d’IA tenen accés a aplicacions, fluxos de treball i processos empresarials, els objectius mal dissenyats poden provocar comportaments no previstos que tècnicament compleixen els objectius de rendiment mentre que van en contra dels objectius del negoci. És important destacar que això no implica engany intencionat ni consciència. Simplement reflecteix el fet que els sistemes d’optimització sovint aprofiten les dreceres quan aquestes són recompensades.

Per què això és important per a les PIME?

Poques PIMEs entrenaran mai un model d’IA de frontera. Moltes, però, desplegaran agents d’IA connectats a correu electrònic, plataformes CRM, sistemes ERP, portals de clients o entorns de comerç electrònic. A Mosaic Factor, cada cop veiem més organitzacions explorant aquests casos d’ús mentre al mateix temps fan preguntes sobre traçabilitat, responsabilitat i control. Alguns exemples podrien ser:

• Un agent d’IA encarregat de reduir els tiquets de suport oberts tanca casos massa aviat en lloc de resoldre els problemes subjacents.
• Un agent de gestió d’inventari evita els dèficits d’estoc fent comandes excessives de productes de manera sistemàtica.
• Un assistent d’IA amb permisos excessius accedeix a informació sensible que mai no necessitava per fer la seva tasca.

Això no són només falles tècniques. Són falles de governança. Com es defineix l’èxit, quins permisos es concedeixen, quan es requereix aprovació humana i com es supervisen els comportaments són decisions empresarials. No s’haurien de deixar només a qui instal·la l’eina d’IA.

Un punt de partida pràctic per a la governança de la IA

Una governança efectiva de la IA no necessita un gran equip de compliment. Comença amb unes quantes disciplines pràctiques:

1. Mapeja l’ús de la IA a tota l’organització. Documenta cada sistema d’IA, qui l’utilitza, quins dades processa i quin proveïdor el subministra.
2. Avalua el risc i l’impacte. Distingiu entre aplicacions de productivitat de baix risc i sistemes que influencien persones, finances, compliment normatiu o decisions estratègiques.
3. Aplica l’accés amb privilegis mínims. Atorga als sistemes d’IA només els permisos necessaris per al seu propòsit.
4. Mantingues a les persones implicades en decisions crítiques. Requereix aprovació per accions difícils de revertir, com pagaments, comunicacions amb clients o eliminació de registres.
5. Monitoritza els resultats, no només els indicadors. Verifica que s’estiguin complint realment els objectius empresarials en lloc de només mesurar els indicadors establerts.
6. Mantingues registres d’auditoria i logs. La supervisió és essencial per identificar comportaments inesperats abans que es converteixin en problemes importants.
7. Inverteix en alfabetització en IA. Els empleats haurien d’entendre tant les oportunitats com les limitacions dels sistemes d’IA que utilitzen.
8. Avalua els proveïdors amb cura. Pregunta com es maneja la dada, quins mecanismes de transparència existeixen i quins controls i capacitats d’auditoria estan disponibles.
9. Sigues transparent amb els clients. Quan la IA interactua directament amb els usuaris o genera contingut del qual poden dependre, la transparència genera confiança i ajuda a complir les normes.

La governança és el que possibilita una Intel·ligència Artificial fiable

Una IA responsable no significa usar menys IA. Significa entendre què fan els sistemes d’IA, per què ho fan i quines són les seves limitacions. Les organitzacions que triomfen amb la IA a llarg termini no seran necessàriament les que la despleguen primer. Seran les que la despleguen de manera responsable, amb controls adequats, responsabilitat clara i un bon coneixement del risc. La governança no hauria de veure’s com una barrera per a la innovació. És el que permet a les organitzacions innovar amb confiança, escalar iniciatives d’IA reeixides i mantenir la confiança de clients, empleats i reguladors. A Mosaic Factor, ajudem les organitzacions a construir sistemes d’IA de confiança que siguin explicables, auditable i alineats tant amb els objectius empresarials com amb les expectatives reguladores. Perquè el futur no pertany simplement a les empreses que utilitzen IA, sinó a les empreses que gestionen bé la IA.

→ Consulta la nostra solució Trustworthy AI

La entrada Fer servir la IA és fàcil. Gobernar-la és el veritable repte per a les PIME se publicó primero en Mosaic Factor.

IA sanitària a BNEW 2026: medicina de precisió, explicabilitat i mitigació dels biaixos

La IA al centre de la nova economia

La entrada BNEW 2026: tendències de la IA sanitària, medicina de precisió i IA responsable se publicó primero en Mosaic Factor.

Gravació

Si no vas poder unir-te a aquesta segona sessió de la nostra sèrie de seminaris web sobre IA explicable per explorar com les organitzacions sanitàries poden desenvolupar solucions d’IA que els clínics confiïn, els responsables de decisions comprenguin i els professionals de governança i regulació puguin avaluar amb confiança. Ara pots veure el vídeo a continuació:

Tancant la bretxa entre els models d’IA i la confiança clínica

A la segona sessió de la nostra sèrie de webinars sobre Intel·ligència Artificial Explicable (XAI) -pots tornar a veurela primera sessió, XAI per a la presa de decisions aquí – explorarem com el XAI pot ajudar a reduir la distància entre el rendiment tècnic dels models i l’adopció clínica pràctica. Aquesta sessió se centra en com dissenyar i comunicar explicacions d’IA que ajudin els professionals de la salut a entendre, validar i fer un ús adequat dels coneixements basats en IA. Aquestes capacitats també són cada vegada més rellevants per a la preparació normativa a Europa, ja que l’AI Act de la UE estableix requisits relacionats amb la transparència, la interpretació dels resultats i la supervisió humana efectiva per a certs sistemes d’IA sanitària d’alt risc. Tot i que aquesta no és una sessió normativa, el webinar explorarà breument com els enfocaments pràctics centrats en el metge poden donar suport a aquestes expectatives.

Com poden els professionals clínics confiar en una recomanació d’IA si no entenen com s’hi ha arribat? La realitat és que la precisió tècnica per si sola rarament impulsa l’adopció en la sanitat. Fins i tot els models amb molt bon rendiment poden quedar sense utilitzar si els professionals de la salut no poden avaluar el raonament darrere de les prediccions, entendre els factors que hi contribueixen o determinar quan cal posar en dubte un resultat.

Per què és important la IA explicable en la salut 

Les decisions sobre la salut afecten directament els resultats dels pacients. Per això, els clínics han de ser capaços d’avaluar i entendre les recomanacions que proporcionen els sistemes d’IA abans d’incorporar-les als seus fluxos de treball. Una de les barreres més habituals per a l’adopció de la IA en la salut no és el rendiment del model, sinó la falta de confiança. Algunes de les preguntes que els clínics plantegen amb més freqüència són:

• Per què es va classificar aquest pacient com d’alt risc?
• Quins factors van contribuir més a aquesta predicció?
• Es pot justificar clínicament aquesta recomanació?
• L’explicació s’alinea amb els coneixements mèdics establerts?
• Quan s’hauria de qüestionar o revisar el resultat del model?

Sense explicacions significatives, els sistemes d’IA poden percebre’s com caixes negres difícils de validar en entorns clínics reals. La IA explicable ajuda a tractar aquestes preocupacions fent que el raonament del model sigui més transparent, permetent als metges entendre millor les prediccions i integrar els coneixements de la IA en el procés de presa de decisions. Les organitzacions sanitàries cada vegada miren més enllà de l’exactitud del model a l’hora d’avaluar solucions d’IA. Per crear un valor real en entorns clínics, els sistemes d’IA també han de ser:

• Suficientment transparents perquè els professionals puguin entendre els factors darrere de les prediccions i recomanacions.
• Fiables i robustos en diverses poblacions de pacients i escenaris clínics.
• En línia amb el raonament clínic i les pràctiques establertes en salut.
• Capaços de donar suport a la col·laboració entre científics de dades, professionals de la salut i responsables de la presa de decisions.
• Confiable pels usuaris finals (sanitaris) que, al cap i a la fi, són els responsables de la cura dels pacients.

Tot i que la falta de confiança sovint es cita com una barrera per a l’adopció de la IA, gairebé mai és l’únic repte. Una implantació eficaç de la IA també requereix una comunicació clara, interpretabilitat i una comprensió compartida del comportament del model entre els equips tècnics i clínics. La IA explicable proporciona les eines i metodologies necessàries per afrontar aquests reptes i transformar la IA d’un resultat tècnic a una capacitat pràctica de suport a la presa de decisions.

Fer que la explicabilitat sigui comprensible per als clínics

Produir explicacions és només el primer pas. Moltes tècniques de XAI generen resultats que tenen significat per als científics de dades però que són difícils d’interpretar pels professionals de la salut dins del context de l’atenció al pacient. Perquè la IA sigui realment útil en la sanitat, les explicacions han de traduir-se en formes que s’alineïn amb el pensament clínic i els processos de presa de decisions. Aquesta sessió explorarà com podem traduir les explicacions de la IA en coneixements clínicament rellevants?

• Què necessiten realment els clínics de les explicacions de la IA.
• Com interpreten els diferents actors del sector sanitari els resultats dels models.
• Tècniques per presentar el raonament del model de manera significativa des del punt de vista clínic.
• Com la XAI pot enfortir la col·laboració entre els experts en salut i els equips de desenvolupament d’IA.

L’objectiu no és simplement explicar el model, sinó assegurar que les explicacions donin suport a un judici clínic informat. Moltes organitzacions implementen amb èxit tècniques sofisticades de XAI, però les visualitzacions, mètriques i resultats tècnics que en resulten sovint estan pensats més per científics de dades que per professionals de la salut. Els participants aprendran com passar d’explicacions tècniques a explicacions que donin suport al judici i presa de decisions clíniques.

Què aprendràs? 

Durant aquesta sessió, els participants obtindran coneixements pràctics sobre:

• Per què la confiança continua sent una de les barreres més grans per a l’adopció de la IA en la salut.
• El paper de la IA explicable en el suport a la presa de decisions clíniques.
• Traduir explicacions tècniques en coneixements fàcils d’entendre per als clínics, la diferència entre explicar un model i comunicar una explicació de manera efectiva.
• Dissenyar explicacions transparents per a diferents actors del sector sanitari que s’integrin en els fluxos de treball clínics.
• Com la XAI pot donar suport a la transparència i la supervisió humana en IA sanitària d’alt risc segons la AI Act (acord de la IA de la UE).
• Millors pràctiques per a enfocaments centrats en les persones en l’adopció de la IA en la salut.

L’èmfasi està totalment posat en crear sistemes d’IA que els professionals de la salut puguin entendre, avaluar i utilitzar amb confiança en la seva pràctica. Al final d’aquesta sessió, els participants entendran com la IA explicable pot ajudar a crear sistemes d’IA en l’atenció sanitària que siguin:

• Transparents – els clínics poden entendre els factors que influeixen en les prediccions.
• Interpretables – les explicacions es presenten de manera significativa des del punt de vista clínic.
• Fiables – els professionals de la salut poden avaluar i utilitzar amb confiança els resultats de la IA.
• Adoptables – les solucions d’IA s’integren de manera natural en els fluxos de treball clínics

L’èmfasi serà en fer que l’explicabilitat sigui útil, comprensible i aplicable per als professionals de la salut.

Al final de la sessió, la nostra Chief Data Scientist, Burcu Kolbay, respondrà a preguntes en directe.

Convidat especial: s’uneix la nostra Chief Data Scientist, el Dr. Josep Vidal, membre del grup de treball de projectes d’IA multidisciplinaris i multi-territorials de l’Institut Català de la Salut (ICS). El Dr. Vidal compartirà perspectives pràctiques sobre l’adopció de la IA en entorns sanitaris, la importància de la explicabilitat per a la presa de decisions clíniques i els reptes de traduir els coneixements de la IA en informació que els professionals de la salut puguin utilitzar amb confiança en la seva pràctica diària.

A qui està orientat 

Aquesta masterclass està dissenyada per a professionals implicats en el desenvolupament, la implementació, l’avaluació o l’adopció de la IA en la salut, incloent-hi:

• Especialistes en Informàtica Clínica
• Líders en Salut Digital
• Professionals de Dispositius Mèdics i HealthTech
• Metges i Investigadors Clínics
• Equips d’Innovació Hospitalària
• Prescriptors de Decisions Sanitàries

No es requereix cap formació tècnica avançada. La sessió està pensada per fomentar el diàleg entre les comunitats tècnica i clínica.

Detalls del webinar

📅 Dimecres, 7 d’Octubre, 2026

⏰ 11:00 h – 12:00 h

• Format: Online (live)
• Durada: 60 minuts
• nivell: Bàsic – Intermig
• Idioma: Anglès 

La entrada Webinar series: Explainable AI per al sector sanitari se publicó primero en Mosaic Factor.

1. Es prohibeixen els usos d’IA amb riscos inacceptables. Això vol dir que no s’han d’utilitzar els següents tipus de models:
   1. IA subliminal, manipuladora o enganyosa
   2. Models d’IA que explotin vulnerabilitats relacionades amb l’edat, la discapacitat o les circumstàncies socioeconòmiques per distorsionar el comportament, causant danys significatius.
   3. Sistemes de categorització biomètrica que infereixin atributs sensibles (com ara raça, opinions polítiques, afiliació sindical, creences religioses o filosòfiques, vida sexual o orientació sexual), excepte per a l’etiquetatge o el filtratge de conjunts de dades biomètriques adquirides legalment o quan les forces de seguretat categoritzen dades biomètriques.
   4. Sistemes de puntuació social.
   5. Sistemes que avaluïn el risc que una persona cometi delictes penals.
   6. Compilar bases de dades de reconeixement facial d’Internet o imatges de CCTV.
   7. Inferir emocions en llocs de treball o institucions educatives.
   8. Identificació biomètrica remota (RBI) «en temps real» en espais d’accés públic per a les forces de seguretat.
2. Sistemes d’IA d’alt risc: estan regulats, i l’AI Act se centra sobretot en aquesta tipologia.
3. Sistemes d’IA de risc limitat: estan subjectes a obligacions de transparència menys estrictes. Això significa que els desenvolupadors han d’assegurar-se que els usuaris finals siguin conscients que estan interactuant amb la IA (deixant clar que hi ha un model d’IA darrere dels chatbots i els deepfakes).
4. Els models d’IA de risc mínim: no estan regulats: entre aquests es troben la majoria de les aplicacions d’IA que estaven disponibles al mercat únic de la UE en el moment de l’entrada en vigor de la Llei d’IA el 2021. Per exemple, videojocs habilitats amb IA i filtres de correu brossa.

Clarament, aquest escenari està canviant amb la IA generativa, que augmenta el nivell de risc dels models d’IA, convertint-los majoritàriament en models d’alt risc. Tot i que les regulacions de la IA estan avançant, creiem que els sistemes d’IA haurien de ser supervisats per persones, en lloc de per l’automatització, per evitar resultats perjudicials. Això inclou assegurar-nos que som capaços de generar sistemes d’IA fiables (trustworthy AI en anglès) que tinguin un disseny just i que siguin explicables i clars per als responsables de la presa de decisions. És evident que la legislació no accelerarà l’adopció d’una IA responsable, però són les organitzacions les que han de compartir experiències i solucions per mostrar com són les «bones pràctiques». Els consells d’administració han d’adoptar la responsabilitat digital corporativa per avaluar els impactes digitals dels productes o serveis en totes les parts interessades, examinant els impactes socials, econòmics, tecnològics i ambientals. Per tant, estem donant suport a les empreses en el seu paper per garantir que la tecnologia no es desplegui en «casos d’ús negatius» que puguin perjudicar la societat i generant així models d’IA que siguin transparents, eficaços, justos i responsables.

L’explicabilitat de la IA està esdevenint un requisit regulador, no només una bona pràctica de governança

Tot i que la transparència ha estat sempre un principi clau de la trustworthy AI, la European AI Act enforteix significativament la necessitat d’explicabilitat al llarg del cicle de vida de la IA. Per als sistemes de IA d’alt risc, els proveïdors han d’assegurar una transparència suficient perquè els qui despleguen i integren sistemes de IA puguin entendre, interpretar i fer un ús adequat dels resultats del sistema. Això inclou proporcionar documentació sobre les capacitats del sistema, les seves limitacions, el rendiment esperat, els escenaris de risc i, quan sigui aplicable, informació que ajudin a explicar com es generen els resultats.

La Llei d’IA també vincula l’explicabilitat amb els requisits de supervisió humana. Els responsables de la presa de decisions han de poder monitoritzar eficaçment els sistemes d’IA, qüestionar els resultats quan sigui necessari i intervenir per evitar resultats perjudicials. En la pràctica, això vol dir que les organitzacions necessitaran cada vegada més tècniques d’explicabilitat, documentació de models, registres d’auditoria i eines de monitorització que facin que les decisions de la IA siguin comprensibles tant per a tècnics com per a responsables de negoci.

Més enllà de les aplicacions d’alt risc, les noves obligacions de transparència per als sistemes d’IA generativa requereixen que els usuaris estiguin informats quan interactuen amb IA i quan el contingut ha estat generat o manipulat per IA. A mesura que aquests requisits entren en vigor, les organitzacions necessitaran marcs de governança més sòlids que demostrin no només compliment, sinó també que els sistemes d’IA es poden confiar, interpretar i responsabilitzar. Aquí pots veure les directrius de la Comissió Europea sobre les obligacions de transparència per als proveïdors i desplegadors de sistemes de IA.

→ Consulta la nostra solució Trustworthy AI

La entrada Aspectes clau de la Llei Europea d’IA (AI Act) se publicó primero en Mosaic Factor.

Aquest moment marca més que una simple presentació: reflecteix el nostre proper pas com a empresa. Ens hem unit al programa d’incubació AI Factory amb un objectiu clar: expandir les nostres solucions al sector sanitari.

Durant els propers sis mesos, contribuirem dins de l’AI Factory, on tindrem accés a espai d’oficina, recursos tècnics i una xarxa sòlida dins de l’ecosistema de Tech Barcelona. Una de les raons principals per unir-nos-hi és l’oportunitat de connectar amb el clúster sanitari i entendre millor els reptes del món real en aquest espai.

El nostre pitch al BSC AI Factory incubator

L’esdeveniment ens va donar l’oportunitat de compartir el que estem construint, intercanviar idees amb altres equips i connectar amb la comunitat local d’IA. El nostre equip va estar representat per Stefano Persi, el nostre CEO, José Fernández (CTO), Andrea Santiago (Financer Controller) i Joan Sampablo, el nostre Cap de Vendes.

A la nostra presentació, ens vam centrar en una idea central que impulsa la nostra feina a Mosaic Factor. La IA no només ha de funcionar bé en entorns controlats, sinó que també ha de funcionar de manera fiable en condicions reals on les restriccions són inevitables.

El problema que resolem

En indústries com l’automoció i la fabricació, les fallades de la IA poden tenir greus conseqüències:

• riscos de seguretat,
• pèrdues financeres,
• i problemes de privadesa.

Aquests riscos quotidians són igual de rellevants en l’àmbit sanitari. En centrar-nos en la fiabilitat i les solucions pràctiques, el nostre enfocament està dissenyat per ajudar les organitzacions a navegar per aquests reptes i oferir solucions d’IA fiables.

Del cloud als entorns reals

Una gran part de la nostra feina se centra en tancar la bretxa entre la IA al núvol i la IA en entorns de producció.

En molts casos, els models d’IA es desenvolupen en entorns de núvol potents, però han d’executar-se en llocs on els recursos són limitats, com ara vehicles, sistemes integrats o microxips. En aquests entorns, la potència de càlcul i el consum d’energia són limitats, però el rendiment encara ha de mantenir-se alt.

Ens centrem en optimitzar els sistemes d’IA perquè puguin funcionar de manera eficient en aquestes condicions sense perdre fiabilitat.

Com treballem

A Mosaic Factor, creem solucions d’IA per resoldre problemes específics dels clients i millorem els sistemes d’IA existents per garantir que funcionin de manera fiable. Aquest doble enfocament ens permet avançar ràpidament cap a nous sectors com la salut, on comprendre el repte i mantenir un rendiment fiable són igualment crítics.

Una mirada cap al futur

Unir-nos al programa AI Factory és un pas important en el nostre moviment cap al sector salut.

A través d’aquest programa, pretenem connectar amb socis, explorar casos d’ús reals i comprendre millor els reptes específics del sector. El nostre objectiu és aplicar el que hem après en altres indústries per construir solucions d’IA que siguin pràctiques, fiables i preparades per a entorns sanitaris del món real.

Presentar-nos a l’esdeveniment ha estat el nostre primer pas en aquesta direcció.

La entrada Mosaic Factor s’uneix al BSC AI Factory se publicó primero en Mosaic Factor.

Més enllà del RAG tradicional

Els canals del RAG tradicional incorporen una consulta, recuperen context i generen una resposta. Agentic RAG introdueix intel·ligència en el procés. Classificant la intenció abans de decidir si cal recuperar informació, trucar eines o respondre directament, les empreses reporten reduccions de costos de fins al 40% i millores de latència del 35%.

Patrons clau que n’impulsen l’adopció

Els experts de la indústria assenyalen tres patrons arquitectònics que defineixen Agentic RAG:.

• Intent-Based Query Routing: determina si és necessari recuperar informació o si una resposta directa és suficient.
• Orquestració d’eines amb gestió d’errors: coordina APIs, calculadores i bases de dades mentre gestiona els errors de manera eficient.
• Avaluació contínua de costos i latència: controla l’ús de tokens i els indicadors de rendiment en temps real.

Aquests patrons permeten als sistemes decidir, adaptar-se i optimitzar, un requisit crític per a la IA a escala empresaria

Arquitectura en pràctica

Els sistemes Agentic RAG normalment es construeixen sobre tres capes:

• Capa d’Orquestració: el “cervell de decisió” que dirigeix les consultes de manera intel·ligent.
• Capa d’Execució: gestiona la recuperació d’informació, les crides a eines i la inferència LLM.
• Capa d’Infraestructura: proporciona bases de dades vectorials, gestió del desplegament i observabilitat.

A diferència del RAG tradicional, que sempre realitza recuperació d’informació, l’Agentic RAG avalua si la recuperació és necessària, organitzant la combinació òptima de recuperació, eines i generació.

Flexibilitat del proveïdor a través de capes de gateway

Una altra tendència clau és l’auge de les abstraccions de gateway que permeten als desenvolupadors canviar sense problemes entre proveïdors com OpenAI, Anthropic, Google i Bedrock. Aquest enfocament permet:

• Encaminament de reserva quan els proveïdors tenen temps d’inactivitat;
• proves A/B sense canvis de codi;
• optimització de costos dirigint les consultes al model més eficient;
• llibertat respecte a la dependència d’un proveïdor.

Les empreses estan adoptant cada cop més passarel·les unificades per equilibrar velocitat, cost i fiabilitat entre els proveïdors.

Conclusió

L’Agentic RAG ja no és un experiment de nínxol, sinó el model per als sistemes d’IA de producció. En combinar la recuperació amb la presa de decisions, l’orquestració i l’observabilitat, la tècnica estableix nous estàndards d’eficiència i adaptabilitat en l’IA empresarial.

“L’IA de producció no tracta només de la recuperació. Tracta d’intel·ligència: saber quan recuperar, quan utilitzar eines i quan respondre directament. L’Agentic RAG ofereix aquesta intel·ligència”.

La entrada Agentic RAG per IA se publicó primero en Mosaic Factor.

Analitzem els principals tipus d’IA i com t’ajudem a aplicar-los.

AGI: l’horitzó a llarg termini

La IA general, o Artificial General Intelligence (AGI), fa referència a màquines capaces de dur a terme qualsevol tasca intel·lectual que pugui fer un humà. És flexible, autònoma i capaç de raonar a través de diferents dominis.

Estat actual: l’AGI encara és teòrica. No existeix cap sistema que hagi assolit una intel·ligència realment general.

Creiem que és un tema altament interessant, i seguim amb gran interès i expectació la seva evolució.

IA generativa: creativitat real a escala

La IA generativa (o GenAI) ja està transformant indústries. Aquests models creen contingut nou —text, imatges, codi o àudio— a partir de patrons de dades apresos.

Casos d’ús que podem oferir amb GenAI:

• Generació automàtica de contingut per a sectors específics (com el sanitari).
• Resum de documents i anàlisi de contractes per a equips legals o de compliment normatiu.
• Chatbots intel·ligents per a consultes internes o atenció al client.
• Eines de generació i depuració de codi per a desenvolupadors d’indústries específiques (com l’automoció).

Les nostres solucions: som capaços de crear i ajustar models de IA generativa utilitzant dades propietàries, garantint resultats precisos, alineats amb la marca i complint la normativa. Tant si necessites un assistent personalitzat tipus GPT com un generador d’imatges per al disseny de productes, podem fer-ho realitat.

Tècniques específiques d’IA

El nostre focus principal és ajudar les empreses a resoldre reptes concrets mitjançant tècniques avançades d’IA. És el que sempre hem fet —el que anomenem “IA tradicional”— i ha estat central en el nostre recorregut des de la fundació.

El nostre enfocament: dissenyem, entrenem i implementem aquests models amb suport complet durant tot el seu cicle de vida: des de l’estratègia i la infraestructura de dades fins al govern i el seguiment del rendiment.

Per què col·laborar amb Mosaic Factor?

La IA és poderosa, però només quan s’aplica amb precisió. No només oferim eines, sinó transformació.

• Consultoria estratègica en IA i desenvolupament de fulls de ruta
• Disseny i integració de models personalitzats
• Desplegament escalable en el núvol o a l’edge
• Suport continu, compliment normatiu i optimització

Tant si explores la IA generativa per automatitzar processos creatius com el machine learning per millorar l’eficiència operativa, t’ajudem a transformar el potencial en rendiment real.

Estàs preparat per descobrir què pot fer la IA pel teu negoci? Contacta amb nosaltres per construir junts alguna cosa extraordinària.

La entrada IA general vs. IA generativa: què signifiquen per al teu negoci se publicó primero en Mosaic Factor.

En definitiva, parlem de tenir models oberts i conformes, basats en la diversitat i l’ètica, a escala europea.

LLM específics per a la indústria

Treballar en el desenvolupament de models de llenguatge específics per a la indústria, basats en els models OpenEuroLLM, ofereix una oportunitat única per a les empreses. Aquests models no només democratitzen l’accés a tecnologies d’IA d’alta qualitat, sinó que també permeten una personalització precisa per satisfer les necessitats concretes de cada sector.

Principals beneficis:

1. Adaptabilitat i precisió: els models es poden ajustar per a aplicacions específiques, millorant la precisió i la rellevància de les solucions d’IA en contextos industrials.
2. Compliment normatiu: desenvolupats dins del marc regulador europeu, aquests models garanteixen que les solucions d’IA compleixin la normativa vigent, reduint els riscos legals i ètics.
3. Diversitat lingüística i cultural: la capacitat multilingüe d’aquests models preserva la diversitat lingüística i cultural, permetent a les empreses operar de manera efectiva en múltiples mercats europeus.
4. Transparència i comunitat: la naturalesa oberta del projecte fomenta la col·laboració i l’intercanvi de coneixement, creant una comunitat activa de desenvolupadors i usuaris que poden contribuir a la millora contínua dels models.

Basats en IA fiable

Per a les empreses, invertir en el desenvolupament de models de llenguatge específics per a la indústria basats en OpenEuroLLM no és només una estratègia innovadora, sinó també una manera d’assegurar-se que es troben a l’avantguarda de la tecnologia d’IA, complint amb els estàndards europeus i aprofitant plenament les capacitats de la intel·ligència artificial per augmentar la seva competitivitat en el mercat global.

→ Consulta la nostra solució LLMs

La entrada LLM oberts per a la transparència en la IA se publicó primero en Mosaic Factor.

Per oferir una idea, els cinc algorismes que fem servir més sovint per a models predictius són:

1. Models estadístics: models i enfocaments estadístics sofisticats com el modelatge generalitzat, la regularització, la inferència bayesiana i l’anàlisi i predicció de sèries temporals, que s’utilitzen per capturar dependències complexes, modelar la incertesa i fer prediccions robustes basades en distribucions de dades complexes i estructures latents.
2. Algorismes d’aprenentatge automàtic: models potents per capturar relacions complexes entre dades mitjançant tècniques basades en arbres, nuclis i conjunts (bagging, boosting, stacking, blending i ensembles de vot). Els enfocaments d’aprenentatge supervisat avançats s’enriqueixen amb tècniques que milloren la generalització i la interpretabilitat. L’aprenentatge per reforç es basa en la interacció amb l’entorn, aplicant optimització de polítiques, aprenentatge basat en valor i mètodes actor-crític per a la presa de decisions seqüencials. També desenvolupem i fem servir tècniques d’aprenentatge no supervisat per descobrir patrons ocults i crear segments i grups. Aquestes tècniques inclouen:
   1. agrupament (clustering),
   2. reducció de dimensionalitat,
   3. i aprenentatge de representacions.
3. Tècniques d’aprenentatge profund: l’aprenentatge profund es basa en xarxes neuronals profundes per aprendre representacions jeràrquiques de les dades, essent clau en aplicacions com el processament del llenguatge natural i el reconeixement d’imatges.
4. Xarxes neuronals: models i enfocaments avançats provinents de l’aprenentatge profund. L’aprenentatge de representacions i les arquitectures basades en atenció permeten assolir l’estat de l’art, i fins i tot anar més enllà, amb innovacions en àrees com la visió per computador, el processament del llenguatge natural i el modelatge seqüencial. L’objectiu és:
   1. millorar la generalització,
   2. la escalabilitat,
   3. i la interpretabilitat mitjançant tècniques avançades que amplien els límits del que una màquina pot aprendre.
5. Intel·ligència artificial explicable (XAI): mètodes que busquen entendre com els models amb conjunts de dades i estructures complexes fan les seves prediccions, aportant transparència als processos de presa de decisions. Aquestes tècniques inclouen enfocaments tant agnòstics com específics del model; són crucials per comprendre la raó darrere d’una sortida o decisió d’un model.

→ Consulta les nostres solucions de Models Predictius i també les nostres solucions de Trustworthy AI.

La entrada Els nostres principals algorismes per al modelatge predictiu se publicó primero en Mosaic Factor.

Què són els LLMs?

LLMs (Large Language Models) són sistemes avançats d’intel·ligència artificial capaços d’entendre i generar diverses formes de contingut, incloent-hi text, codi, imatges, vídeo i àudio. Aquests models estan entrenats amb almenys mil milions de paràmetres (punts de dades), que els permeten captar patrons del llenguatge i respondre adequadament.

Els LLMs tenen aplicacions en tasques de processament del llenguatge natural com ara generació de text, traducció, anàlisi de sentiments, anàlisi de dades, resposta a preguntes i resum de textos.

Evolució dels LLMs

Algunes fites clau són:

• 1966 ELIZA: el primer xatbot que simulava un psicoterapeuta.
• 2013 word2vec: mètodes eficients per aprendre representacions de paraules a partir de text cru.
• 2018 GPT i BERT: models revolucionaris.
• 2020 GPT-3: un salt significatiu.
• Finals de 2021 i 2022: GPT-4 i altres avenços.
• Models estadístics: desenvolupats per aprendre patrons a partir de dades textuals.

LLMs vs. NLP

Mentre que els models de NLP (Natural Language Processing) interpreten o transformen text existent, els LLMs destaquen per generar text nou i coherent des de zero.

Poden crear assajos, històries i fins i tot codi informàtic que imita l’estil d’escriptura humà.

Light LLMs

Actualment, hi ha una importància creixent dels models més petits (light LLMs) per a aplicacions en dominis específics.

Mentre que els models més grans són de “propòsit general”, els light LLMs es desenvolupen amb un ús específic de sector en ment.

És a dir:

• Els models grans utilitzen un gran nombre de paràmetres, sense ajustar-se a un ús concret, consumeixen molta energia, de vegades amb una fiabilitat qüestionable, i proporcionen respostes fins i tot quan no les saben.
• Els models més petits tenen en compte l’ús que se’ls donarà, refinant les seves respostes (fine-tuning) per adaptar el model a un ús específic.

Beneficis dels Light LLMs

1. Eficiència: els light LLMs requereixen menys recursos computacionals, fet que els fa més ràpids i econòmics.
2. Escalabilitat: les empreses poden desplegar light LLMs en diverses aplicacions sense saturar la infraestructura.
3. Personalització: els models lleugers permeten ajustar-los a tasques específiques segons les necessitats de l’empresa.
4. Privacitat: els models més petits redueixen el risc de filtració de dades sensibles.
5. Manteniment més senzill: els light LLMs són més fàcils de gestionar i actualitzar.

En conclusió, tot i que els LLMs de codi obert i tancat tenen els seus avantatges, els light LLMs ofereixen beneficis pràctics per a empreses que busquen solucions eficients i adaptables. Per tant, cal considerar les necessitats específiques a l’hora d’escollir el model adequat per a la teva organització.

→ Consulta la nostra solució LLMs

La entrada Què són els LLMs lleugers? se publicó primero en Mosaic Factor.