{"id":5256,"date":"2026-08-27T14:35:55","date_gmt":"2026-08-27T12:35:55","guid":{"rendered":"https:\/\/www.mosaicfactor.com\/aspectes-clau-de-la-llei-europea-dia-ai-act\/"},"modified":"2026-08-27T15:21:10","modified_gmt":"2026-08-27T13:21:10","slug":"aspectes-clau-de-la-llei-europea-dia-ai-act","status":"publish","type":"post","link":"https:\/\/www.mosaicfactor.com\/ca\/aspectes-clau-de-la-llei-europea-dia-ai-act\/","title":{"rendered":"Aspectes clau de la Llei Europea d\u2019IA (AI Act)"},"content":{"rendered":"

Segons la Llei Europea d\u2019Intel\u00b7lig\u00e8ncia Artificial o AI Act<\/a><\/strong>, la prioritat del Parlament Europeu \u00e9s garantir que els sistemes d\u2019IA utilitzats a la UE siguin segurs, transparents, tra\u00e7ables, no discriminatoris i respectuosos amb el medi ambient<\/strong>. La Llei Europea d\u2019Intel\u00b7lig\u00e8ncia Artificial<\/strong> classifica la IA segons el seu risc:<\/p>\n

    \n
  1. Es prohibeixen els usos d\u2019IA amb riscos inacceptables<\/strong>. Aix\u00f2 vol dir que no s\u2019han d\u2019utilitzar els seg\u00fcents tipus de models:\n
      \n
    1. IA subliminal, manipuladora o enganyosa<\/strong><\/li>\n
    2. Models d\u2019IA que explotin vulnerabilitats<\/strong> relacionades amb l\u2019edat, la discapacitat o les circumst\u00e0ncies socioecon\u00f2miques per distorsionar el comportament, causant danys significatius.<\/li>\n
    3. Sistemes de categoritzaci\u00f3 biom\u00e8trica que infereixin atributs sensibles<\/strong> (com ara ra\u00e7a, opinions pol\u00edtiques, afiliaci\u00f3 sindical, creences religioses o filos\u00f2fiques, vida sexual o orientaci\u00f3 sexual), excepte per a l\u2019etiquetatge o el filtratge de conjunts de dades biom\u00e8triques adquirides legalment o quan les forces de seguretat categoritzen dades biom\u00e8triques.<\/li>\n
    4. Sistemes de puntuaci\u00f3 social.<\/strong><\/li>\n
    5. Sistemes que avalu\u00efn el risc que una persona cometi delictes penals.<\/strong><\/li>\n
    6. Compilar bases de dades de reconeixement facial d\u2019Internet<\/strong> o imatges de CCTV.<\/li>\n
    7. Inferir emocions<\/strong> en llocs de treball o institucions educatives.<\/li>\n
    8. Identificaci\u00f3 biom\u00e8trica remota (RBI) \u00aben temps real\u00bb<\/strong> en espais d\u2019acc\u00e9s p\u00fablic per a les forces de seguretat.<\/li>\n<\/ol>\n<\/li>\n
    9. Sistemes d\u2019IA d\u2019alt risc:<\/strong> estan regulats, i l\u2019AI Act se centra sobretot en aquesta tipologia.<\/li>\n
    10. Sistemes d\u2019IA de risc limitat:<\/strong> estan subjectes a obligacions de transpar\u00e8ncia menys estrictes. Aix\u00f2 significa que els desenvolupadors han d\u2019assegurar-se que els usuaris finals siguin conscients que estan interactuant amb la IA (deixant clar que hi ha un model d\u2019IA darrere dels chatbots i els deepfakes).<\/li>\n
    11. Els models d\u2019IA de risc m\u00ednim:<\/strong> no estan regulats: entre aquests es troben la majoria de les aplicacions d\u2019IA que estaven disponibles al mercat \u00fanic de la UE en el moment de l\u2019entrada en vigor de la Llei d\u2019IA el 2021. Per exemple, videojocs habilitats amb IA i filtres de correu brossa.<\/li>\n<\/ol>\n

      Clarament, aquest escenari est\u00e0 canviant amb la IA generativa, que augmenta el nivell de risc dels models d\u2019IA, convertint-los majorit\u00e0riament en models d\u2019alt risc. Tot i que les regulacions de la IA estan avan\u00e7ant, creiem que els sistemes d\u2019IA haurien de ser supervisats per persones, en lloc de per l\u2019automatitzaci\u00f3, per evitar resultats perjudicials. Aix\u00f2 inclou assegurar-nos que som capa\u00e7os de generar sistemes d\u2019IA fiables (trustworthy AI en angl\u00e8s) que tinguin un disseny just i que siguin explicables i clars per als responsables de la presa de decisions.<\/strong> \u00c9s evident que la legislaci\u00f3 no accelerar\u00e0 l\u2019adopci\u00f3 d\u2019una IA responsable, per\u00f2 s\u00f3n les organitzacions les que han de compartir experi\u00e8ncies i solucions per mostrar com s\u00f3n les \u00abbones pr\u00e0ctiques\u00bb. Els consells d\u2019administraci\u00f3 han d\u2019adoptar la responsabilitat digital corporativa per avaluar els impactes digitals dels productes o serveis en totes les parts interessades, examinant els impactes socials, econ\u00f2mics, tecnol\u00f2gics i ambientals. Per tant, estem donant suport a les empreses en el seu paper per garantir que la tecnologia no es desplegui en \u00abcasos d\u2019\u00fas negatius\u00bb que puguin perjudicar la societat i generant aix\u00ed models d\u2019IA que siguin transparents, efica\u00e7os, justos i responsables.<\/p>\n

      L’explicabilitat de la IA est\u00e0 esdevenint un requisit regulador, no nom\u00e9s una bona pr\u00e0ctica de governan\u00e7a<\/h2>\n

      Tot i que la transpar\u00e8ncia ha estat sempre un principi clau de la trustworthy AI<\/a>, la European AI Act enforteix significativament la necessitat d\u2019explicabilitat al llarg del cicle de vida de la IA. Per als sistemes de IA d’alt risc, els prove\u00efdors han d’assegurar una transpar\u00e8ncia suficient<\/a> perqu\u00e8 els qui despleguen i integren sistemes de IA puguin entendre, interpretar i fer un \u00fas adequat dels resultats del sistema. Aix\u00f2 inclou proporcionar documentaci\u00f3 sobre les capacitats del sistema, les seves limitacions, el rendiment esperat, els escenaris de risc i, quan sigui aplicable, informaci\u00f3 que ajudin a explicar com es generen els resultats.<\/p>\n

      La Llei d\u2019IA tamb\u00e9 vincula l\u2019explicabilitat amb els requisits de supervisi\u00f3 humana. Els responsables de la presa de decisions han de poder monitoritzar efica\u00e7ment els sistemes d\u2019IA, q\u00fcestionar els resultats quan sigui necessari i intervenir per evitar resultats perjudicials. En la pr\u00e0ctica, aix\u00f2 vol dir que les organitzacions necessitaran cada vegada m\u00e9s t\u00e8cniques d’explicabilitat<\/a>, documentaci\u00f3 de models, registres d\u2019auditoria i eines de monitoritzaci\u00f3 que facin que les decisions de la IA siguin comprensibles tant per a t\u00e8cnics com per a responsables de negoci.<\/p>\n

      M\u00e9s enll\u00e0 de les aplicacions d’alt risc, les noves obligacions de transpar\u00e8ncia per als sistemes d’IA generativa requereixen que els usuaris estiguin informats quan interactuen amb IA i quan el contingut ha estat generat o manipulat per IA. A mesura que aquests requisits entren en vigor, les organitzacions necessitaran marcs de governan\u00e7a m\u00e9s s\u00f2lids que demostrin no nom\u00e9s compliment, sin\u00f3 tamb\u00e9 que els sistemes d’IA es poden confiar, interpretar i responsabilitzar. Aqu\u00ed pots veure les directrius de la Comissi\u00f3 Europea sobre les obligacions de transpar\u00e8ncia per als prove\u00efdors i desplegadors de sistemes de IA.<\/a><\/p>\n

      \n

      La implementaci\u00f3 de la AI Act implementation augmenta la demanda de comprensi\u00f3 de la IA<\/h3>\n

      La AI Act ha passat ara de la seva fase legislativa a la fase d’implementaci\u00f3<\/a>:<\/p>\n