La discussió va formar part del treball més ampli al voltant del llibre blanc del CIDAI, creat a través del seu grup de reflexió amb contribucions d’actors públics i privats. Com a participants en aquest esforç, vam tenir el plaer de contribuir a la taula rodona, on Stefano Persi va compartir exemples pràctics i estudis de casos que destacaven el paper de la IA i l’intercanvi de dades fiable en entorns logístics reals.

Dades sobre el sector

Els volums de transport ferroviari de mercaderies es mantenen per sota de la mitjana europea i una tarifa de 5 milions d’euros agreuja el repte. El transport de mercaderies per ferrocarril continua enfrontant-se a reptes operatius i estructurals, fins i tot quan s’espera que la demanda creixi significativament.

D’acord amb els objectius del Climate Neutrality 2050, es preveu que els volums de transport ferroviari de mercaderies es dupliquin en comparació amb les mitjanes històriques recents. Aconseguir aquest creixement requerirà no només inversió en infraestructura, sinó també una millor coordinació, optimització i col·laboració en tot l’ecosistema logístic.

Des de la perspectiva de CIMALSA, la multimodalitat és una palanca central per millorar l’eficiència i la sostenibilitat logística. El model òptim combina el ferrocarril per al transport de mitjana i llarga distància i el transport per carretera principalment per a operacions de primera i última milla. La IA permet aquest canvi donant suport a la reassignació dels fluxos de transport del camió al ferrocarril, optimitzant rutes, horaris i ús de la capacitat. Aquest enfocament pot reduir significativament les emissions en comparació amb el transport només per carretera, alhora que manté la flexibilitat operativa.

Compartició de dades i espais de dades

Un repte recurrent identificat és la reticència dels operadors i agents logístics a compartir informació. Si bé les preocupacions sobre la privadesa són legítimes, sovint limiten l’optimització a nivell de sistema. Els espais de dades es van destacar com un factor clau, ja que proporcionen:

• Intercanvi segur de dades i accés controlat.
• Normes clares sobre com es comparteixen i s’utilitzen les dades.
• Base tècnica perquè les eines d’IA suggereixin rutes, calculin costos i simulin escenaris operatius.

En garantir la confiança de les dades, els espais de dades permeten a la IA donar suport a una millor presa de decisions sense comprometre la informació empresarial sensible.

Reptes del sector logistic

Cinc reptes importants configuren el futur del transport de mercaderies i la logística ferroviària:

• Pressió per la sostenibilitat i la descarbonització.
• Resiliència davant les crisis globals i geopolítiques.
• Congestió urbana i regulació de l’última milla.
• Interoperabilitat de la digitalització i vulnerabilitats de la ciberseguretat.
• Preparació organitzativa i transformació tecnològica.

Aquests reptes estan estretament interconnectats i requereixen respostes coordinades.

On la IA pot aportar valor tangible 

La IA ja està demostrant beneficis mesurables en les operacions de transport i distribució, on pot aportar millores en eficiència, cost i sostenibilitat. Per a Mosaic Factor, això inclou projectes d’automatització per a la càrrega i descàrrega de contenidors als ports.

Malgrat el seu potencial, hi ha barreres dificulten l’adopció de la IA. Aquests reptes inclouen:

• Manca d’una estratègia d’IA dins de les organitzacions,
• problemes de governança i fragmentació de dades,
• manca de dades històriques de qualitat, dificultat per avaluar el retorn de la inversió de les iniciatives d’IA,
• i un entorn regulador complex i inconsistent. Abordar aquestes barreres requereix una alineació estratègica més clara entre tecnologia, operacions i regulació.

Els participants es van alinear en un model de tres nivells per al sector:

1. Digitalització: digitalització bàsica i automatització, on el progrés ja és visible.
2. Compartició de dades: intercanvi segur de dades, que permet la visibilitat de la xarxa.
3. Visibilitat i històries d’èxit: més xarxes que logística i guanyar visibilitat de les històries d’èxit.

Avançar a través d’aquests nivells és essencial per desbloquejar tot el potencial de la IA en la logística.

Conclusions

L’eficiència logística depèn de la combinació eficaç d’innovació, sostenibilitat i regulació. La pregunta clau per als operadors és quin valor es crea compartint dades. La IA, quan es combina amb la multimodalitat i marcs de confiança per compartir dades, pot millorar significativament l’eficiència, la sostenibilitat i la resiliència dels sistemes de transport ferroviari de mercaderies i logística.

Durant la taula rodona, Stefano va destacar tres projectes als quals Mosaic Factor va contribuir:

1. Pioneers: Previsió del transport de contenidors (Iniciativa de Ports Verds de la UE)
2. Port of Antwerp-Bruges: Predictor del flux de càrrega
3. Disruptive: Detecció i classificació de les interrupcions de la xarxa logística

Junts, aquests projectes mostren l’impacte pràctic de la IA i la col·laboració de dades en operacions logístiques reals, fonamentant la taula rodona de la CIDAI en solucions tangibles.

Feu clic aquí per consultar el llibre blanc del CIDAI.

La entrada El paper de la IA en la logística multimodal i el transport ferroviari sostenible se publicó primero en Mosaic Factor.

Més enllà del RAG tradicional

Els canals del RAG tradicional incorporen una consulta, recuperen context i generen una resposta. Agentic RAG introdueix intel·ligència en el procés. Classificant la intenció abans de decidir si cal recuperar informació, trucar eines o respondre directament, les empreses reporten reduccions de costos de fins al 40% i millores de latència del 35%.

Patrons clau que n’impulsen l’adopció

Els experts de la indústria assenyalen tres patrons arquitectònics que defineixen Agentic RAG:.

• Intent-Based Query Routing: determina si és necessari recuperar informació o si una resposta directa és suficient.
• Orquestració d’eines amb gestió d’errors: coordina APIs, calculadores i bases de dades mentre gestiona els errors de manera eficient.
• Avaluació contínua de costos i latència: controla l’ús de tokens i els indicadors de rendiment en temps real.

Aquests patrons permeten als sistemes decidir, adaptar-se i optimitzar, un requisit crític per a la IA a escala empresaria

Arquitectura en pràctica

Els sistemes Agentic RAG normalment es construeixen sobre tres capes:

• Capa d’Orquestració: el “cervell de decisió” que dirigeix les consultes de manera intel·ligent.
• Capa d’Execució: gestiona la recuperació d’informació, les crides a eines i la inferència LLM.
• Capa d’Infraestructura: proporciona bases de dades vectorials, gestió del desplegament i observabilitat.

A diferència del RAG tradicional, que sempre realitza recuperació d’informació, l’Agentic RAG avalua si la recuperació és necessària, organitzant la combinació òptima de recuperació, eines i generació.

Flexibilitat del proveïdor a través de capes de gateway

Una altra tendència clau és l’auge de les abstraccions de gateway que permeten als desenvolupadors canviar sense problemes entre proveïdors com OpenAI, Anthropic, Google i Bedrock. Aquest enfocament permet:

• Encaminament de reserva quan els proveïdors tenen temps d’inactivitat;
• proves A/B sense canvis de codi;
• optimització de costos dirigint les consultes al model més eficient;
• llibertat respecte a la dependència d’un proveïdor.

Les empreses estan adoptant cada cop més passarel·les unificades per equilibrar velocitat, cost i fiabilitat entre els proveïdors.

Conclusió

L’Agentic RAG ja no és un experiment de nínxol, sinó el model per als sistemes d’IA de producció. En combinar la recuperació amb la presa de decisions, l’orquestració i l’observabilitat, la tècnica estableix nous estàndards d’eficiència i adaptabilitat en l’IA empresarial.

“L’IA de producció no tracta només de la recuperació. Tracta d’intel·ligència: saber quan recuperar, quan utilitzar eines i quan respondre directament. L’Agentic RAG ofereix aquesta intel·ligència”.

La entrada Agentic RAG per IA se publicó primero en Mosaic Factor.

Sessions clau sobre IA

Agentic AI in the Car: From Orchestration to Agentic Personalisation

• Speaker: Dogukan Sonmez, Project Lead Machine Learning Platform, BMW AG
• Focus: aplicacions d’IA generativa més enllà del text, gestió de models 3D, fluxos de sensors i dades específiques del domini.
• Highlight: va explorar l’ús de multi-agent system architectures i tècniques d’orquestració, mostrant com la IA agentica pot millorar l’eficiència, l’adaptabilitat i la presa de decisions en els SDV.

Scalable Function Deployment for SDV

• Speaker: Michael Niklas-Höret, AUMOVIO

• Focus: la (R)evolució contínua de les arquitectures E/E en vehicles, des de les centrades en dominis descentralitzats fins a Server Zone i Central Compute/Zero Edge, i el repte resultant de desplegar funcions a través d’aquestes arquitectures diverses.
• Highlight: introducció d’un nou patró de desenvolupament de funcions dissenyat per permetre la reutilització de funcions en les tres arquitectures principals (i els seus híbrids), amb l’objectiu de facilitar la migració dels OEM a noves plataformes E/E i augmentar la reutilització entre les línies de vehicles.

From Code to Car – Accelerating SDV Integration with Shift-Left and CI/CT

• Speaker: Felix Pretscheck, Bosch
• Focus:com la introducció d’ECU de càlcul de nova generació, combinada amb un enfocament de shift-left, la virtualització i un marc modular de CI/CT (Integració Contínua/Proves Contínues), està transformant i accelerant el procés d’integració de programari i sistemes per a Vehicles Definits per Programari (SDV).
• Highlight: mostrant metodologies clau i facilitadors arquitectònics que optimitzen la integració i la validació, conduint a una millora de la qualitat del programari, cicles d’integració més ràpids i sistemes automotriu complexos més àgils, escalables i preparats per a la producció.

Coding for Cars: AI in the Driver’s Seat

• Speaker: Mikhail Vink, VP of Business Development, JetBrains
• Focus: el paper del desenvolupament impulsat per IA en indústries regulades, garantint la qualitat i la seguretat del codi generat per IA, i integrant la IA en DevOps.
• Highlight: va demostrar com la IA pot simplificar els processos de programació alhora que es mantenen els estàndards de compliment i seguretat.

Between Research and Current Development in ADAS

• Speaker: Khaled Alomari, Manager Connected Vehicles, MHP (A Porsche Company)
• Focus: connectant la recerca d’avantguarda amb el desenvolupament real de Sistemes Avançats d’Assistència al Conductor (ADAS).
• Highlight: va emfasitzar la col·laboració entre el món acadèmic, la indústria i els reguladors per accelerar l’adopció d’ADAS amb tecnologia d’IA.

Les reflexions de Khaled van subratllar el paper crític de la intel·ligència artificial en la millora de la seguretat i l’eficiència, fent que aquesta sessió fos imprescindible per a qualsevol persona interessada en el futur dels vehicles connectats.

Mastering Complexity with Digital Twins

• Speaker: Ignacio Izaguirre, VP of Product, Concentrio AG
• Focus: aplicant bessons digitals a nivell de senyal per a la gestió de programari.
• Highlight: va mostrar com l’aplicació de la IA a les xarxes de dependència pot identificar anomalies i vulnerabilitats, millorant les actualitzacions OTA i la fiabilitat del sistema.

AI-Driven Autonomy in SDVs

• Speaker: Shashank Pathak, Product Management, ZF Friedrichshafen AG
• Focus: com la intel·ligència artificial permet la percepció, la planificació i el control en vehicles autònoms SDV.
• Highlight: es van discutir els reptes de desplegar IA en maquinari automotriu i les estratègies per a una autonomia segura i escalable.

Tallers i sessions world café

La Conferència de Vehicles Definits per Programari presenta formats altament interactius com discussions al estil World Café i tallers impulsats per els mateixos professionals, dissenyats per fomentar la col·laboració i la resolució de problemes entre els participants. Les sessions de taller “Challenge your peers” van reunir els assistents en taules rodones petites i moderades on vam debatre qüestions importants de la indústria utilitzant la intel·ligència col·lectiva i mapes mentals. Els temes van abastar des de com evoluciona el testatge de programari en les arquitectures SDV, el paper de la IA en el desenvolupament automotriu i el futur del compliment de l’ASPICE, fins a redefinir les experiències dins del cotxe mitjançant HMI avançat i explorar l’autonomia impulsada per IA. Cada taller animava els participants a compartir experiències, qüestionar suposicions i cocrear conceptes de solució. De manera similar, el format World Café proporcionava un entorn dinàmic per a l’aprenentatge entre parells, el networking cross-indústria i la generació d’idees aplicables que complementaven les presentacions més formals i els estudis de cas.

Les nostres conclusions

La conferència va destacar que la intel·ligència artificial ja no és una eina perifèrica, sinó un pilar central en l’evolució dels vehicles definits per programari. Des de la personalització amb agents a BMW fins a els ADAS impulsats per IA a MHP, les sessions van demostrar com la intel·ligència s’integra en cada capa de la innovació automotriu. Aquestes ponències no només van mostrar aplicacions actuals, sinó que també van assenyalar un futur on els vehicles seran adaptatius, intel·ligents i profundament connectats.

La entrada Conferència Software-Defined Vehicles a Berlin 2025 se publicó primero en Mosaic Factor.

Aquí hi ha les tendències i desenvolupaments clau que van destacar.

Digital Twins com a protagonistes

La tecnologia Digital Twin (DT) ha estat un dels temes més destacats als estands dels expositors. Les ciutats estan adoptant cada cop més els DT per simular i gestionar sistemes urbans complexos. Les aplicacions més comunes mostrades inclouen:

• Emergency and disaster management
• Human behaviour modelling
• Traffic and parking optimisation
• Energy demand forecasting
• Urban planning, com identificar àrees on calen noves instal·lacions de cura infantil

Diverses empreses també van presentar l’evolució del concepte Citiverse, part d’una iniciativa europea que integra Digital Twins amb ciberseguretat, IoT i altres tecnologies avançades (Projecte Citiverse de la Comissió Europea). Un altre punt destacat va ser la introducció dels 4D Digital Twins, que incorporen la dimensió temporal per permetre simulacions urbanes predictives (Nfold ROI).

Smart Cities i visual Language Models

La innovació en IA va ser un altre dels grans focus. NVIDIA va presentar la seva plataforma de Model de Llenguatge Visual (VLM) per a ciutats, dissenyada per transformar les dades d’imatges capturades per sensors en un “cervell de la ciutat” intel·ligent capaç d’interpretar escenaris urbans actuals i potencials. Es van demostrar aplicacions pràctiques a Leipzig, on s’estan utilitzant DTs impulsats per IA per optimitzar els aparcaments i la infraestructura per a bicicletes. Mentrestant, la Universitat d’Hamburg va mostrar projectes d’IA col·laboratius i de codi obert, posant èmfasi en el seu interés per unir-se a iniciatives finançades per Europa (DCS Intro 2024).

Cybersecurity i Global Engagement

La ciberseguretat ha estat un tema recurrent durant tota l’exposició, subratllant el seu paper crític en la protecció de les infraestructures de les ciutats intel·ligents. Cal destacar que el Banc Mundial hi va participar activament, reflectint la importància global dels ecosistemes digitals segurs.

La nostra contribució: Open Innovation Challenges

Com a part de la nostra participació, vam participar en reptes d’innovació oberta, presentant propostes que aprofiten els grans Models de Llenguatge Gran (LLM) i els Bessons Digitals per a aplicacions corporatives. Aquestes iniciatives demostren el nostre compromís amb superar els límits de la intel·ligència artificial i la tecnologia urbana, assegurant que les ciutats del futur siguin no només més intel·ligents, sinó també més resilients i inclusives.

La nostra presència a la Smart City Expo de Barcelona va reafirmar el nostre paper com a proveïdor de tecnologia amb visió de futur. Contribuint a les discussions sobre Digital Twins, IA, ciberseguretat i innovació oberta, continuem donant forma al futur de la vida urbana, impulsant solucions que fan que les ciutats siguin més adaptatives, eficients i centrades en les persones.

La entrada Smart City Expo Barcelona se publicó primero en Mosaic Factor.

Analitzem els principals tipus d’IA i com t’ajudem a aplicar-los.

AGI: l’horitzó a llarg termini

La IA general, o Artificial General Intelligence (AGI), fa referència a màquines capaces de dur a terme qualsevol tasca intel·lectual que pugui fer un humà. És flexible, autònoma i capaç de raonar a través de diferents dominis.

Estat actual: l’AGI encara és teòrica. No existeix cap sistema que hagi assolit una intel·ligència realment general.

Creiem que és un tema altament interessant, i seguim amb gran interès i expectació la seva evolució.

IA generativa: creativitat real a escala

La IA generativa (o GenAI) ja està transformant indústries. Aquests models creen contingut nou —text, imatges, codi o àudio— a partir de patrons de dades apresos.

Casos d’ús que podem oferir amb GenAI:

• Generació automàtica de contingut per a sectors específics (com el sanitari).
• Resum de documents i anàlisi de contractes per a equips legals o de compliment normatiu.
• Chatbots intel·ligents per a consultes internes o atenció al client.
• Eines de generació i depuració de codi per a desenvolupadors d’indústries específiques (com l’automoció).

Les nostres solucions: som capaços de crear i ajustar models de IA generativa utilitzant dades propietàries, garantint resultats precisos, alineats amb la marca i complint la normativa. Tant si necessites un assistent personalitzat tipus GPT com un generador d’imatges per al disseny de productes, podem fer-ho realitat.

Tècniques específiques d’IA

El nostre focus principal és ajudar les empreses a resoldre reptes concrets mitjançant tècniques avançades d’IA. És el que sempre hem fet —el que anomenem “IA tradicional”— i ha estat central en el nostre recorregut des de la fundació.

El nostre enfocament: dissenyem, entrenem i implementem aquests models amb suport complet durant tot el seu cicle de vida: des de l’estratègia i la infraestructura de dades fins al govern i el seguiment del rendiment.

Per què col·laborar amb Mosaic Factor?

La IA és poderosa, però només quan s’aplica amb precisió. No només oferim eines, sinó transformació.

• Consultoria estratègica en IA i desenvolupament de fulls de ruta
• Disseny i integració de models personalitzats
• Desplegament escalable en el núvol o a l’edge
• Suport continu, compliment normatiu i optimització

Tant si explores la IA generativa per automatitzar processos creatius com el machine learning per millorar l’eficiència operativa, t’ajudem a transformar el potencial en rendiment real.

Estàs preparat per descobrir què pot fer la IA pel teu negoci? Contacta amb nosaltres per construir junts alguna cosa extraordinària.

La entrada IA general vs. IA generativa: què signifiquen per al teu negoci se publicó primero en Mosaic Factor.

Principals reptes per als equips d’IA en automoció

Els principals reptes en el desenvolupament de models d’IA per a SDV són:

• Classificació d’alt risc: els sistemes d’IA en SDV sovint es classifiquen com a “d’alt risc”, cosa que activa processos obligatoris d’avaluació de conformitat, documentació i preparació per a auditories.
• Paisatge normatiu complex: amb més de 450 pàgines de text legal, traduir la regulació en tasques d’enginyeria és un repte considerable. Les revisions manuals i la documentació fragmentada frenen la innovació i augmenten els costos.
• Pressió d’auditories: els equips han d’estar preparats per a inspeccions programades i imprevistes. El no compliment pot comportar multes de fins a 7,5 milions d’euros o el 3% de la facturació global.

Marcs de confiança i compliment en IA

Per afrontar aquests obstacles, és essencial desenvolupar marcs de compliment modulars i automatitzats adaptats als SDV per permetre:

• Avaluacions de sistema integrals: revisions ràpides i preparades per a auditories, alineades amb la Llei d’IA de la UE.
• Informes configurables: avaluacions dirigides a components específics d’IA, com l’equilibri del conjunt de dades o la transparència del model.
• Interfície per a la fase d’auditoria: eines per a avaluadors externs que agilitin el feedback i redueixin el temps d’avaluació.

Qui s’hi ha de preocupar?

• OEMs: responsables del compliment a nivell de sistema, han de garantir que tots els components d’IA compleixin els estàndards normatius abans del llançament del vehicle.
• Proveïdors Tier 1: desenvolupadors de mòduls crítics d’IA que han de demostrar el compliment a nivell de component davant els OEMs, millorant la col·laboració i la competitivitat al mercat.

Implicacions per a tota la indústria

La Llei d’IA de la UE no és només un obstacle legal, sinó una oportunitat estratègica. En integrar el compliment dins del cicle de desenvolupament, els fabricants poden crear sistemes d’IA més resilients, transparents i preparats per al futur.

La Llei fomenta:

• Col·laboració transversal: els equips d’IA, ciberseguretat, seguretat i regulació han de treballar conjuntament.
• Responsabilitat durant tot el cicle de vida: des del disseny fins al seguiment post-mercat, la traçabilitat esdevé un requisit essencial.
• Innovació a través de l’estructura: les eines i marcs automatitzats converteixen el compliment en un catalitzador de millors pràctiques d’enginyeria.

A mesura que els SDV esdevenen la norma, la Llei d’IA de la UE definirà com es construeix, valida i desplega la IA en l’automoció. Els desenvolupadors i proveïdors amb visió de futur que adoptin un compliment estructurat no només evitaran sancions, sinó que lideraran la nova onada de mobilitat intel·ligent.

GPAI i GenAI sota la Llei d’IA de la UE: què han de saber els desenvolupadors

El Codi de bones pràctiques de GPAI, finalitzat el maig del 2025, ofereix una orientació essencial per als proveïdors de models d’Intel·ligència Artificial d’Ús General (GPAI), inclosos els sistemes d’IA generativa (GenAI). La Llei d’IA europea diferencia entre models GenAI complexos —amb risc sistèmic— i models GenAI simples, cadascun amb diferents nivells d’exigència normativa:

• GenAI complexos (models de risc sistèmic): aquests models superen llindars com els 10²⁵ FLOPs de capacitat de càlcul en l’entrenament o mostren altes capacitats d’impacte en diversos dominis. Els proveïdors han de dur a terme proves adversàries, avaluacions de risc i informes d’incidents, així com garantir proteccions de ciberseguretat. També han de notificar la Comissió Europea per a la seva inclusió en la base de dades pública i mantenir una documentació detallada de l’arquitectura i les estratègies d’avaluació del model.
• Models GenAI simples: no es consideren de risc sistèmic i tenen obligacions més lleugeres. Els proveïdors han de publicar un resum de les dades d’entrenament, garantir el compliment dels drets d’autor i mantenir documentació tècnica per als usuaris finals. La transparència és clau: les sortides han d’estar degudament etiquetades i els usuaris han de ser informats quan interactuen amb sistemes d’IA.

El Codi de bones pràctiques actua com una guia per demostrar el compliment normatiu, ajudant els desenvolupadors a navegar pels requisits multinivell de la Llei d’IA, alhora que fomenta la innovació i la confiança en les tecnologies GenAI.

La entrada Interpretant l’AI Act de la UE: què significa per als desenvolupadors de vehicles definits per programari (SDV) i per als innovadors del sector de l’automoció se publicó primero en Mosaic Factor.

En definitiva, parlem de tenir models oberts i conformes, basats en la diversitat i l’ètica, a escala europea.

LLM específics per a la indústria

Treballar en el desenvolupament de models de llenguatge específics per a la indústria, basats en els models OpenEuroLLM, ofereix una oportunitat única per a les empreses. Aquests models no només democratitzen l’accés a tecnologies d’IA d’alta qualitat, sinó que també permeten una personalització precisa per satisfer les necessitats concretes de cada sector.

Principals beneficis:

1. Adaptabilitat i precisió: els models es poden ajustar per a aplicacions específiques, millorant la precisió i la rellevància de les solucions d’IA en contextos industrials.
2. Compliment normatiu: desenvolupats dins del marc regulador europeu, aquests models garanteixen que les solucions d’IA compleixin la normativa vigent, reduint els riscos legals i ètics.
3. Diversitat lingüística i cultural: la capacitat multilingüe d’aquests models preserva la diversitat lingüística i cultural, permetent a les empreses operar de manera efectiva en múltiples mercats europeus.
4. Transparència i comunitat: la naturalesa oberta del projecte fomenta la col·laboració i l’intercanvi de coneixement, creant una comunitat activa de desenvolupadors i usuaris que poden contribuir a la millora contínua dels models.

Basats en IA fiable

Per a les empreses, invertir en el desenvolupament de models de llenguatge específics per a la indústria basats en OpenEuroLLM no és només una estratègia innovadora, sinó també una manera d’assegurar-se que es troben a l’avantguarda de la tecnologia d’IA, complint amb els estàndards europeus i aprofitant plenament les capacitats de la intel·ligència artificial per augmentar la seva competitivitat en el mercat global.

→ Consulta la nostra solució LLMs

La entrada LLM oberts per a la transparència en la IA se publicó primero en Mosaic Factor.

Què són els LLMs?

LLMs (Large Language Models) són sistemes avançats d’intel·ligència artificial capaços d’entendre i generar diverses formes de contingut, incloent-hi text, codi, imatges, vídeo i àudio. Aquests models estan entrenats amb almenys mil milions de paràmetres (punts de dades), que els permeten captar patrons del llenguatge i respondre adequadament.

Els LLMs tenen aplicacions en tasques de processament del llenguatge natural com ara generació de text, traducció, anàlisi de sentiments, anàlisi de dades, resposta a preguntes i resum de textos.

Evolució dels LLMs

Algunes fites clau són:

• 1966 ELIZA: el primer xatbot que simulava un psicoterapeuta.
• 2013 word2vec: mètodes eficients per aprendre representacions de paraules a partir de text cru.
• 2018 GPT i BERT: models revolucionaris.
• 2020 GPT-3: un salt significatiu.
• Finals de 2021 i 2022: GPT-4 i altres avenços.
• Models estadístics: desenvolupats per aprendre patrons a partir de dades textuals.

LLMs vs. NLP

Mentre que els models de NLP (Natural Language Processing) interpreten o transformen text existent, els LLMs destaquen per generar text nou i coherent des de zero.

Poden crear assajos, històries i fins i tot codi informàtic que imita l’estil d’escriptura humà.

Light LLMs

Actualment, hi ha una importància creixent dels models més petits (light LLMs) per a aplicacions en dominis específics.

Mentre que els models més grans són de “propòsit general”, els light LLMs es desenvolupen amb un ús específic de sector en ment.

És a dir:

• Els models grans utilitzen un gran nombre de paràmetres, sense ajustar-se a un ús concret, consumeixen molta energia, de vegades amb una fiabilitat qüestionable, i proporcionen respostes fins i tot quan no les saben.
• Els models més petits tenen en compte l’ús que se’ls donarà, refinant les seves respostes (fine-tuning) per adaptar el model a un ús específic.

Beneficis dels Light LLMs

1. Eficiència: els light LLMs requereixen menys recursos computacionals, fet que els fa més ràpids i econòmics.
2. Escalabilitat: les empreses poden desplegar light LLMs en diverses aplicacions sense saturar la infraestructura.
3. Personalització: els models lleugers permeten ajustar-los a tasques específiques segons les necessitats de l’empresa.
4. Privacitat: els models més petits redueixen el risc de filtració de dades sensibles.
5. Manteniment més senzill: els light LLMs són més fàcils de gestionar i actualitzar.

En conclusió, tot i que els LLMs de codi obert i tancat tenen els seus avantatges, els light LLMs ofereixen beneficis pràctics per a empreses que busquen solucions eficients i adaptables. Per tant, cal considerar les necessitats específiques a l’hora d’escollir el model adequat per a la teva organització.

→ Consulta la nostra solució LLMs

La entrada Què són els LLMs lleugers? se publicó primero en Mosaic Factor.