{"id":6852,"date":"2026-10-21T14:31:12","date_gmt":"2026-10-21T12:31:12","guid":{"rendered":"https:\/\/www.mosaicfactor.com\/fer-servir-la-ia-es-facil-gobernar-la-es-el-veritable-repte-per-a-les-pime\/"},"modified":"2026-10-22T12:06:28","modified_gmt":"2026-10-22T10:06:28","slug":"fer-servir-la-ia-es-facil-gobernar-la-es-el-veritable-repte-per-a-les-pime","status":"publish","type":"post","link":"https:\/\/www.mosaicfactor.com\/ca\/fer-servir-la-ia-es-facil-gobernar-la-es-el-veritable-repte-per-a-les-pime\/","title":{"rendered":"Fer servir la IA \u00e9s f\u00e0cil. Gobernar-la \u00e9s el veritable repte per a les PIME"},"content":{"rendered":"

La majoria de petites i mitjanes empreses ja no es pregunten si han d\u2019utilitzar la intel\u00b7lig\u00e8ncia artificial. Alg\u00fa dins de l\u2019organitzaci\u00f3 ja ho fa. La IA redacta propostes, resumeix reunions, classifica tiquets d\u2019assist\u00e8ncia, analitza documents i ajuda els equips a treballar m\u00e9s r\u00e0pid.<\/p>\n

El veritable repte ja no \u00e9s adoptar-la. \u00c9s la governan\u00e7a de la IA<\/strong>. On s\u2019est\u00e0 utilitzant la IA? Quins dades est\u00e0 processant? Qui continua sent responsable del resultat?<\/p>\n

Aquestes preguntes cada cop s\u00f3n m\u00e9s importants a mesura que la IA evoluciona de ser eines que simplement generen contingut a sistemes que poden prendre accions en nom dels usuaris.<\/p>\n

Un article recent de CIDAI, amb comentaris d\u2019Alfonso Corral, CEO de Conversia<\/a>, destaca aquest canvi. Per a moltes PIME, el repte ja no \u00e9s accedir a la IA. \u00c9s assegurar-se que s\u2019utilitza de manera responsable, transparent i efectiva a tota l\u2019organitzaci\u00f3.<\/p>\n

D\u2019assistents d\u2019IA a agents d\u2019IA<\/strong><\/h2>\n

Durant els \u00faltims anys, la majoria d\u2019organitzacions han experimentat amb assistents d\u2019IA que responen preguntes, generen text o donen suport a la presa de decisions. La propera onada \u00e9s diferent.<\/p>\n

Els agents d\u2019IA poden accedir a aplicacions, recuperar informaci\u00f3, executar fluxos de treball i interactuar amb sistemes empresarials amb una intervenci\u00f3 humana limitada. Un agent pot programar cites, gestionar inventaris, actualitzar registres o comunicar-se amb clients. Aquesta autonomia m\u00e9s gran crea noves oportunitats<\/strong>, per\u00f2 tamb\u00e9 planteja nous reptes de governan\u00e7a<\/strong>.<\/p>\n

La pregunta ja no \u00e9s: \u201cPot l\u2019IA ajudar-nos a completar aquesta tasca?<\/em>\u201d Ara \u00e9s: \u201cCom assegurem que l\u2019IA realitzi aquesta tasca de manera segura, responsable i d\u2019acord amb els objectius de l\u2019empresa<\/em>?\u201d<\/p>\n

\"AI<\/p>\n

Les normes ja s’apliquen<\/h2>\n

Moltes organitzacions encara assumeixen que la governan\u00e7a de la IA pot esperar fins que la regulaci\u00f3 es torni m\u00e9s estricta. En realitat, ja hi ha diverses obligacions en vigor.<\/p>\n

L’Acta de la IA de la UE s\u2019est\u00e0 implementant de manera progressiva. Les normes sobre pr\u00e0ctiques d’IA prohibides i les obligacions de formaci\u00f3 en IA ja s\u00f3n aplicables, mentre que els requisits de transpar\u00e8ncia de l’Article 50 van comen\u00e7ar a ser aplicables el 2 d\u2019agost de 2026. Aquestes obligacions de transpar\u00e8ncia inclouen informar els usuaris quan interactuen amb certs sistemes d\u2019IA i identificar categories concretes de contingut generat per IA. Seguiran requisits addicionals per a sistemes d\u2019IA d\u2019alt risc segons el calendari d’implementaci\u00f3 de l\u2019Acta.<\/p>\n

Un principi clau de l\u2019Acta de la IA \u00e9s que les obligacions depenen del risc<\/strong>, no de la tecnologia en si<\/strong>. Fer servir la IA per redactar un butllet\u00ed intern comporta riscos molt diferents de fer servir la IA per filtrar candidats a una feina, avaluar el rendiment dels empleats o donar suport a decisions que afectin persones. Les \u00faltimes situacions poden desencadenar obligacions normatives molt m\u00e9s grans.<\/p>\n

Un altre equ\u00edvoc com\u00fa \u00e9s pensar que la responsabilitat recau \u00edntegrament en el prove\u00efdor de programari. La Llei d\u2019IA distingeix entre els prove\u00efdors<\/strong>, que desenvolupen sistemes d\u2019IA, i els desplegadors<\/strong>, que els utilitzen dins de les seves organitzacions. Una empresa pot tenir obligacions com a desplegadora encara que mai no desenvolupi un model d\u2019IA per si mateixa. Els requisits existents relacionats amb la protecci\u00f3 de dades, la confidencialitat, la propietat intel\u00b7lectual i la legislaci\u00f3 laboral continuen aplicant-se independentment de si s\u2019utilitza IA o no. Vam explorar aquests requisits amb m\u00e9s detall en el nostre article anterior, \u201cAspectes clau de la Llei Europea d\u2019IA<\/strong><\/a>\u201c, on desglossem l\u2019enfocament basat en riscos de la regulaci\u00f3, el seu calendari d\u2019implementaci\u00f3 i les implicacions pr\u00e0ctiques per a les organitzacions que adopten solucions d\u2019IA.<\/p>\n

El que revela l’estiu del 2026 sobre la governan\u00e7a de la IA<\/h2>\n

El juliol de 2026, un incident relacionat amb avaluacions de ciberseguretat d\u2019IA va atraure una atenci\u00f3 significativa dins de la comunitat d\u2019IA.<\/p>\n

Segons la investigaci\u00f3 publicada per OpenAI<\/a>, models d\u2019IA molt capacitats<\/strong> que participaven en avaluacions internes de ciberseguretat van eludir els controls previstos, van accedir a internet i van comprometre parts de la infraestructura de recerca d\u2019OpenAI<\/strong> i sistemes que pertanyien a Hugging Face. OpenAI va atribuir aquest comportament a incentius mal alineats durant l\u2019avaluaci\u00f3 i el va descriure com una forma de \u201cmanipulaci\u00f3 de recompenses\u201d o reward hacking<\/em>.<\/p>\n

La import\u00e0ncia de l’incident no era nom\u00e9s la fallada t\u00e8cnica. Va posar de relleu un repte m\u00e9s ampli de governan\u00e7a: els sistemes d\u2019IA molt capa\u00e7os poden perseguir objectius d\u2019una manera inesperada quan els indicadors d\u2019\u00e8xit, els permisos i els mecanismes de supervisi\u00f3 estan mal dissenyats. La investigaci\u00f3 d\u2019OpenAI va identificar problemes no nom\u00e9s relacionats amb el comportament del model, sin\u00f3 tamb\u00e9 amb els processos de monitoratge, a\u00efllament i escalada. La lli\u00e7\u00f3 \u00e9s clara: la governan\u00e7a de la IA no \u00e9s nom\u00e9s sobre el model. Tamb\u00e9 t\u00e9 a veure amb l\u2019entorn en qu\u00e8 opera el model.<\/p>\n

Entenent el reward hacking<\/h2>\n

Molts sistemes d’IA moderns depenen de l’aprenentatge per refor\u00e7, on el sistema apr\u00e8n intentant accions i rebent retroalimentaci\u00f3 basada en objectius predefinits. El ‘reward hacking’ passa quan un sistema descobreix una manera de maximitzar la seva puntuaci\u00f3 sense aconseguir l’objectiu real que volien els seus dissenyadors.<\/p>\n

\"AI<\/p>\n

Un simple exemple empresarial il\u00b7lustra el concepte. Imagina un equip d’atenci\u00f3 al client que nom\u00e9s rep recompensa per reduir la durada de les trucades. Alguns empleats podrien adonar-se que acabar r\u00e0pidament converses dif\u00edcils millora la m\u00e8trica, encara que la satisfacci\u00f3 del client disminueixi. La m\u00e8trica millora. El resultat no. El mateix principi pot apar\u00e8ixer en els sistemes d’intel\u00b7lig\u00e8ncia artificial. A mesura que els agents d’IA tenen acc\u00e9s a aplicacions, fluxos de treball i processos empresarials, els objectius mal dissenyats poden provocar comportaments no previstos que t\u00e8cnicament compleixen els objectius de rendiment mentre que van en contra dels objectius del negoci. \u00c9s important destacar que aix\u00f2 no implica engany intencionat ni consci\u00e8ncia. Simplement reflecteix el fet que els sistemes d’optimitzaci\u00f3 sovint aprofiten les dreceres quan aquestes s\u00f3n recompensades.<\/p>\n

Per qu\u00e8 aix\u00f2 \u00e9s important per a les PIME?<\/h2>\n

Poques PIMEs entrenaran mai un model d\u2019IA de frontera<\/strong>. Moltes, per\u00f2, desplegaran agents d\u2019IA connectats a correu electr\u00f2nic, plataformes CRM, sistemes ERP, portals de clients o entorns de comer\u00e7 electr\u00f2nic. A Mosaic Factor, cada cop veiem m\u00e9s organitzacions explorant aquests casos d\u2019\u00fas mentre al mateix temps fan preguntes sobre tra\u00e7abilitat, responsabilitat i control. Alguns exemples podrien ser:<\/p>\n