A mesura que els agents d’IA passen de respondre preguntes a executar tasques, les organitzacions s’enfronten a reptes creixents en matèria de governança, rendició de comptes i compliment normatiu. En l’àmbit sanitari, on la confiança i la seguretat del pacient són primordials, la IA segura (Safe AI) s’està convertint en una necessitat estratègica.
En moltes organitzacions, l’experimentació amb agents d’IA avança més de pressa que els mecanismes de governança necessaris per gestionar-los, i és possible que la sanitat sigui on aquesta bretxa tingui més conseqüències.
La IA entra en una nova fase. En lloc de limitar-se a generar contingut o respondre preguntes, els nous agents d’IA poden accedir a aplicacions, recuperar informació, activar fluxos de treball i dur a terme tasques amb una intervenció humana limitada. Aquest canvi promet millores importants de productivitat, però també planteja reptes de governança que moltes organitzacions tot just comencen a reconèixer.
Durant anys, la IA ha estat una eina a la qual es consultava: tu preguntaves i ella responia. Aquest model, per imperfecte que sigui, manté una línia clara de responsabilitat humana. Algú revisava el resultat. Algú prenia la decisió. Aquesta línia és cada cop més difusa, i moltes organitzacions encara estan adaptant els seus marcs de governança a aquest canvi.
La IA agèntica fa referència a sistemes que poden:
- planificar accions,
- encadenar tasques,
- interactuar amb eines externes,
- accedir a dades
- i executar fluxos de treball en nom d’usuaris o organitzacions.
Aquestes capacitats ja apareixen en plataformes com Microsoft Copilot, Salesforce Agentforce, ServiceNow AI Agents i OpenAI Operators, i van de la IA de la recuperació d’informació cap a l’execució de tasques. I, el que és fonamental, poden determinar de manera autònoma com utilitzar els permisos que se’ls han assignat per assolir un objectiu determinat. En molts sistemes, la distància entre la recomanació i l’acció s’està reduint considerablement. La pregunta que es plantegen ara les organitzacions no és si això està passant, sinó si hi estan preparades.
En moltes organitzacions, l’experimentació amb agents d’IA avança més de pressa que els mecanismes de governança necessaris per gestionar-los de manera eficaç.

Amplificació, no creació
El més important que cal entendre sobre el risc de la IA agèntica és que no crea noves categories d’amenaça: amplifica les debilitats que ja hi eren. Dades sobreexposades, permisos heretats que mai no es van revisar, una classificació deficient de la informació: tot això sempre han estat vulnerabilitats. Un agent pot identificar i processar aquestes dades exposades molt més de pressa que qualsevol persona, i ho pot fer en desenes de sistemes alhora, sovint sense que ningú se n’adoni fins que alguna cosa surt malament.
Estan sorgint tres punts de pressió especialment crítics.
- El primer és la identitat: els agents d’IA no encaixen clarament en els models d’accés existents. No són ni usuaris humans ni comptes de servei convencionals, i poden determinar de manera autònoma com utilitzar els permisos assignats per assolir un objectiu determinat. També poden ser manipulats mitjançant contingut incrustat en els documents i correus electrònics que processen, una tècnica coneguda com a injecció d’instruccions (prompt injection) i identificada com un dels riscos emergents més importants a l’OWASP Top 10 per a aplicacions LLM.
- El segon punt de pressió són els permisos: les organitzacions tendeixen a concedir als agents un accés ampli, cosa que crea una gran superfície d’atac.
- El tercer és la traçabilitat. Quan un agent provoca un incident, es pot reconstruir qui el va activar, a quines dades va accedir i quines instruccions seguia? En molts desplegaments actuals, donar una resposta completa i auditable continua sent difícil.
La dimensió sanitària
Els proveïdors d’assistència sanitària despleguen cada cop més la IA per a la documentació clínica, el suport al diagnòstic, el suport a la decisió clínica i els sistemes de triatge assistits per IA, cosa que genera nous reptes de governança pel que fa a la rendició de comptes, la transparència i la seguretat del pacient.
Les mateixes bretxes de governança que apareixen en els desplegaments empresarials també es veuen en la sanitat, agreujades per les exigències del RGPD, la Llei d’IA de la UE i els marcs de responsabilitat clínica. Ja s’utilitzen eines de suport a la decisió en radiologia, d’orquestració de fluxos de treball hospitalaris i de triatge clínic, i cadascuna planteja qüestions d’explicabilitat, auditabilitat i supervisió humana que el sector encara està resolent.
En la sanitat, la qüestió de la rendició de comptes no és abstracta. Segons la Llei d’IA de la UE, determinats sistemes d’IA utilitzats per al suport a la decisió clínica o que influeixen en decisions mèdiques poden entrar en la categoria d’alt risc, cosa que activa requisits de:
- gestió de riscos,
- documentació,
- supervisió humana
- i seguiment postcomercialització.
Aquests requisits posen en relleu capacitats que molts desplegaments actuals d’IA agèntica encara estan intentant fer madurar, especialment pel que fa a l’auditabilitat, la documentació i la supervisió contínua.

El consens creixent entre els investigadors en seguretat i els professionals de la governança de la IA és que la resposta no és frenar el desplegament, sinó tractar cada agent com una organització responsable tracta qualsevol membre de la seva plantilla:
- amb una identitat verificable,
- un responsable humà designat,
- un accés limitat al que realment necessita
- i un registre complet de la seva activitat.
La governança com a accelerador
L’experiència dels primers desplegaments empresarials suggereix que la governança de la IA no alenteix l’adopció. De fet, enquestes com l’informe State of AI de McKinsey mostren sistemàticament que les organitzacions que obtenen més valor de la IA són també les que més inverteixen en governança, supervisió i maduresa operativa. Lluny de frenar l’adopció, la fa possible a escala. Les organitzacions amb normes clares sobre qui pot desplegar agents, a quines dades poden accedir i quines accions requereixen l’aprovació d’una persona són les que aconsegueixen passar de pilots aïllats a sistemes en producció. Les que no tenen aquestes normes es veuen obligades a refer cada pilot abans de poder posar-lo en marxa.
Els fonaments pràctics del compliment en IA són cada cop més clars: identitat dels agents basada en directoris; accés condicional amb permisos revocables immediatament; classificació de dades i etiquetatge de confidencialitat que limitin l’accés d’un agent només a la informació necessària per a la seva funció prevista; mecanismes de supervisió i detecció en temps d’execució contra la injecció d’instruccions i altres vectors d’atac emergents específics de la IA; i un inventari central que registri tots els agents actius, assenyali els orfes i alimenti la supervisió de seguretat.
Cada cop més, aquestes capacitats es debaten sota el concepte més ampli d’IA segura (Safe AI):
Un enfocament que combina salvaguardes tècniques, supervisió humana, transparència, seguretat i compliment normatiu per garantir que els sistemes d’IA continuïn sent fiables al llarg de tot el seu cicle de vida.
Aquesta perspectiva està estretament alineada amb marcs com el Marc de Gestió de Riscos de la IA (AI RMF) i els Principis de l’OCDE sobre IA.
Per a les organitzacions que operen en àmbits regulats com la sanitat, la gestió de riscos i la governança de la IA depenen cada cop més de la capacitat de traçar com interactuen les dades, les decisions i els serveis d’IA en ecosistemes digitals complexos. Aquesta és una de les raons per les quals les infraestructures de dades escalables, els marcs d’interoperabilitat i unes capacitats sòlides de governança de dades s’estan convertint en actius estratègics i no en qüestions purament tècniques; i per la qual, en el cas de la IA sanitària en particular, aquesta infraestructura no és una càrrega de compliment, sinó la condició prèvia bàsica per a qualsevol solució que aspiri a passar d’un entorn de recerca a la pràctica clínica habitual.
Les organitzacions que més es beneficiïn de la IA agèntica probablement no seran les que l’adoptin més de pressa, sinó les que estableixin els fonaments de governança necessaris per desplegar-la de manera segura i a escala. A mesura que els agents d’IA passin a formar part de les operacions quotidianes, l’èxit dependrà no només del rendiment dels models, sinó també de la capacitat de governar la identitat, la traçabilitat i la rendició de comptes a escala.
→ Revisa la nostra solució Trustworthy AI



























