[et_pb_section fb_built=”1″ custom_padding_last_edited=”on|tablet” admin_label=”section” _builder_version=”4.27.2″ custom_padding_tablet=”0px||0px||true|false” custom_padding_phone=”0px||0px||true|false” locked=”off” global_colors_info=”{}” theme_builder_area=”post_content”][et_pb_row admin_label=”row” _builder_version=”4.27.2″ background_size=”initial” background_position=”top_left” background_repeat=”repeat” width=”100%” custom_margin=”||0px||false|false” custom_padding=”0px||0px||true|false” global_colors_info=”{}” theme_builder_area=”post_content”][et_pb_column type=”4_4″ _builder_version=”4.16″ custom_padding=”|||” global_colors_info=”{}” custom_padding__hover=”|||” theme_builder_area=”post_content”][et_pb_text _builder_version=”4.27.2″ _module_preset=”default” text_font_size=”18px” text_line_height=”1.6em” global_colors_info=”{}” theme_builder_area=”post_content”]<\/p>\n
A Mosaic Factor, ens centrem en la creaci\u00f3 de LLM espec\u00edfics de sector (o models ling\u00fc\u00edstics lleugers<\/em>) per a les nostres organitzacions clientes.<\/p>\n Els LLM lleugers s\u00f3n de gran import\u00e0ncia tenint en compte factors com:<\/p>\n Els LLM lleugers s\u00f3n models d\u2019IA que permeten un control m\u00e9s gran a nivell de l\u2019empresa, sense dependre de serveis externs amb cost associat. Necessiten menys capacitat de computaci\u00f3, sent models<\/em> m\u00e9s r\u00e0pids i rendibles<\/em>, i s\u2019adapten millor a les necessitats de l\u2019empresa.<\/p>\n Podem dir que s\u00f3n m\u00e9s responsables, ja que s\u2019adapten a les necessitats d\u2019una ind\u00fastria o domini espec\u00edfic, cosa que els fa m\u00e9s segurs, efectius i lleugers en tots els aspectes (considerant el consum d\u2019energia, la mida i l\u2019adaptaci\u00f3 al seu \u00fas previst).<\/p>\n Ens enfoquem a construir LLMs que treballin amb els requisits intr\u00ednsecs de seguretat i privadesa de les ind\u00fastries que necessiten rastrejar i tenir proves legals del que passa dins dels seus sistemes, fins i tot quan entrenen models d\u2019IA, com Salut, Serveis Corporatius, Ind\u00fastria, etc.<\/p>\n Clarament, tamb\u00e9 interessen a empreses que pretenen ser socialment responsables a l\u2019hora de gestionar grans quantitats de dades o documentaci\u00f3 i desitgen abordar les possibilitats dels models d\u2019IA de manera responsable.<\/p>\n [\/et_pb_text][et_pb_text _builder_version=”4.27.2″ _module_preset=”default” text_font_size=”18px” text_line_height=”1.6em” header_3_font=”|||on|||||” header_3_font_size=”28px” header_3_line_height=”1.2em” custom_margin=”||1em||false|false” custom_margin_tablet=”||0em||false|false” custom_margin_phone=”||0em||false|false” custom_margin_last_edited=”on|tablet” global_colors_info=”{}” theme_builder_area=”post_content”]<\/p>\n [\/et_pb_text][et_pb_text _builder_version=”4.27.2″ _module_preset=”default” text_font_size=”18px” text_line_height=”1.6em” custom_margin=”||2em||false|false” custom_margin_tablet=”||2em||false|false” custom_margin_phone=”||1em||false|false” custom_margin_last_edited=”off|tablet” custom_padding=”||0px||false|false” global_colors_info=”{}” theme_builder_area=”post_content”]<\/p>\n [\/et_pb_text][et_pb_text _builder_version=”4.27.2″ _module_preset=”default” text_font_size=”18px” text_line_height=”1.6em” header_3_font=”|||on|||||” header_3_font_size=”28px” header_3_line_height=”1.2em” custom_margin=”||1em||false|false” custom_margin_tablet=”||0em||false|false” custom_margin_phone=”||0em||false|false” custom_margin_last_edited=”on|tablet” global_colors_info=”{}” theme_builder_area=”post_content”]<\/p>\n [\/et_pb_text][et_pb_text _builder_version=”4.27.2″ _module_preset=”default” text_font_size=”18px” text_line_height=”1.6em” global_colors_info=”{}” theme_builder_area=”post_content”]<\/p>\n La integraci\u00f3 d\u2019LLM lleugers en els sistemes existents pot ser un element estrat\u00e8gic que s\u2019ha de gestionar adequadament. Aix\u00ed \u00e9s com ho fem a Mosaic Factor:<\/p>\n [\/et_pb_text][et_pb_image src=”https:\/\/www.mosaicfactor.com\/wp-content\/uploads\/2024\/12\/servei-llms-es-1.svg” alt=”LLMs-MosaicFactor” title_text=”servei-llms-es” _builder_version=”4.27.2″ _module_preset=”default” max_width=”700px” module_alignment=”center” global_colors_info=”{}” theme_builder_area=”post_content”][\/et_pb_image][et_pb_text _builder_version=”4.27.2″ _module_preset=”default” text_font_size=”18px” text_line_height=”1.6em” custom_margin_tablet=”||2em||false|false” custom_margin_phone=”||2em||false|false” custom_margin_last_edited=”on|tablet” global_colors_info=”{}” theme_builder_area=”post_content”]<\/p>\n 1. Avaluaci\u00f3 i planificaci\u00f3:<\/strong><\/p>\n a. Identificar casos d\u2019\u00fas: determinem on un LLM pot aportar valor. Els casos d\u2019\u00fas m\u00e9s comuns inclouen xatbots, an\u00e0lisi de sentiments, generaci\u00f3 de contingut i traducci\u00f3.<\/p>\n b. Avaluar dades: avaluem la qualitat i la quantitat de les dades disponibles. Els LLM requereixen dades d\u2019entrenament substancials per obtenir un rendiment \u00f2ptim.<\/p>\n 2. Selecci\u00f3 del model:<\/strong><\/p>\n a. Selecci\u00f3 del light LLM: optem per models m\u00e9s petits (per exemple, DistilBERT, TinyGPT) que ofereixen efici\u00e8ncia sense sacrificar la qualitat.<\/p>\n b. Fine-tuning: quan s\u2019utilitza un model pr\u00e8viament entrenat, l\u2019ajustem amb dades espec\u00edfiques del sector per millorar la rellev\u00e0ncia i la precisi\u00f3.<\/p>\n 3. Infraestructura i desplegament:<\/strong><\/p>\n a. Recursos computacionals: assignem prou recursos inform\u00e0tics (CPU\/GPU) per a l\u2019entrenament i la infer\u00e8ncia.<\/p>\n b. Integraci\u00f3 d\u2019API: configurem APIs per interactuar amb l\u2019LLM. Els frameworks m\u00e9s populars s\u00f3n Hugging Face Transformers i l\u2019API d\u2019OpenAI.<\/p>\n c. Escalabilitat: ens assegurem que el sistema pugui gestionar una c\u00e0rrega m\u00e9s gran a mesura que creix l\u2019\u00fas del model.<\/p>\n 4. Pretractament de dades:<\/strong><\/p>\n a. Tokenitzaci\u00f3: convertim el text en tokens adequats per a l\u2019entrada de l\u2019LLM.<\/p>\n b. Format d\u2019entrada: preparem dades d\u2019entrada (per exemple, indicacions, preguntes) per a l\u2019LLM.<\/p>\n 5. Infer\u00e8ncia i output:<\/strong><\/p>\n a. Processament per lots: optimitzem la infer\u00e8ncia mitjan\u00e7ant el processament per lots de sol\u00b7licituds.<\/p>\n b. Postprocessament: netegem i donem format a la sortida generada per l\u2019LLM per a la interacci\u00f3 amb l\u2019usuari (ex. xat o formulari d\u2019entrada).<\/p>\n 6. Seguiment i manteniment:<\/strong><\/p>\n a. M\u00e8triques de rendiment: monitorem el rendiment de l\u2019LLM (per exemple, la seva precisi\u00f3 o el temps de resposta).<\/p>\n b. Actualitzacions peri\u00f2diques: mantenim els LLM actualitzats amb noves dades i els tornem a entrenar peri\u00f2dicament.<\/p>\n c. Gesti\u00f3 d\u2019errors: implementem una gesti\u00f3 robusta d\u2019errors per a escenaris inesperats.<\/p>\n La integraci\u00f3 d\u2019LLMs \u00e9s un proc\u00e9s iteratiu. En general, recomanem comen\u00e7ar amb un pilot a petita escala, recopilar feedback i refinar el sistema en funci\u00f3 de les dades d\u2019\u00fas reals.<\/p>\n [\/et_pb_text][et_pb_text _builder_version=”4.27.2″ _module_preset=”default” text_font_size=”18px” text_line_height=”1.6em” header_3_font=”|||on|||||” header_3_font_size=”28px” header_3_line_height=”1.2em” custom_margin=”||1em||false|false” custom_margin_tablet=”||0em||false|false” custom_margin_phone=”||0em||false|false” custom_margin_last_edited=”on|tablet” global_colors_info=”{}” theme_builder_area=”post_content”]<\/p>\n [\/et_pb_text][et_pb_text _builder_version=”4.27.2″ _module_preset=”default” text_font_size=”18px” text_line_height=”1.6em” global_colors_info=”{}” theme_builder_area=”post_content”]<\/p>\n Ens centrem en la creaci\u00f3 de models d\u2019IA optimitzats d\u2019alt rendiment<\/strong> que minimitzin l\u2019\u00fas de recursos computacionals, cosa que es tradueix en menors costos i menor impacte mediambiental.<\/strong><\/p>\n Sempre avaluem els casos d\u2019\u00fas d\u2019IA dins de la ind\u00fastria espec\u00edfica de l\u2019empresa per assegurar-nos que els LLM permetin a les empreses prendre decisions basades en dades, optimitzar processos i mantenir-se a[\/et_pb_text][\/et_pb_column][\/et_pb_row][\/et_pb_section]<\/p>\n","protected":false},"excerpt":{"rendered":" A Mosaic Factor, ens centrem en la creaci\u00f3 de LLM espec\u00edfics de sector (o models ling\u00fc\u00edstics lleugers) per a les nostres organitzacions clientes.<\/p>\n","protected":false},"author":1,"featured_media":5269,"parent":0,"menu_order":0,"template":"","format":"standard","meta":{"_acf_changed":false,"_et_pb_use_builder":"on","_et_pb_old_content":"","_et_gb_content_width":"","inline_featured_image":false,"footnotes":""},"industry":[],"proyecto":[225,226],"class_list":["post-5268","solution","type-solution","status-publish","format-standard","has-post-thumbnail","hentry","proyecto-disruptive","proyecto-horizon-europe-assistant"],"acf":[],"yoast_head":"\n\n
\n
Per qu\u00e8 utilitzar aquesta soluci\u00f3?<\/h3>\n
\n
Integrar els LLMs a l\u2019organitzaci\u00f3<\/h3>\n
Creem models d\u2019IA robustos i escalables<\/h3>\n