En integrar models d’IA en entorns on els estàndards de compliance són importants, Mosaic Factor ajuda les empreses a gestionar la governança de dades mitjançant l’aplicació de solucions Trustworthy AI.
Això significa garantir que els models d’IA que utilitzem siguin explicables i ètics per poder assegurar-nos que siguin sòlids i fiables, però també segurs, transparents, justos, inclusius i que produeixin resultats responsables.
QUADRES DE COMANDAMENT XAI: VISUALITZACIONS NO TÈCNIQUES PER ALS RESPONSABLES DE LA PRESA DE DECISIONS
Creiem que els models d’IA han de ser explicables (o XAI —en anglès, explainable AI—) perquè siguin clars i comprensibles per als responsables de la presa de decisions de les empreses, no només per als científics de dades o els enginyers que els desenvolupen.
Els quadres de comandament XAI de Mosaic Factor són visualitzacions que produïm per ajudar diferents stakeholders a entendre i comprendre com funcionen els models d’IA perquè es puguin prendre les decisions adequades, especialment per als responsables de la presa de decisions que no són necessàriament perfils especialistes en dades o tecnologia.
TRADUEIX VISUALITZACIONS D’IA EN QUADRES DE COMANDAMENT
QUE FACILITEN DECISIONS DE NEGOCI
WORKFLOW MODELS TRUSTWORTHY AI
A Mosaic Factor, ens centrem en models “explicables per disseny” en lloc de crear models d’IA que es converteixen en caixes negres i, per tant, no poden ser totalment fiables o responsables:
- Primer, creem una Explainable AI pipeline (XAI Pipeline) per als models d’IA. Això inclou:
- Fases: Pre-model, in-model i post-model.
- O només post-model en casos en què calgui explicar un model preexistent.
- Executem un rastrejador de biaix i equitat de dades per al Pipeline XAI.
- Treballem amb dades sintètiques per a les dades recopilades que no passen la prova d’espectre i per a elements relacionats amb la privadesa (dades confidencials o sensibles) quan calgui.
- Duem a terme una avaluació del rendiment del model (principalment pel que fa a fiabilitat, confiança, equitat i solidesa) mitjançant tècniques de supervisió i auditoria impulsades per XAI.
- D’aquesta manera, desbloquegem el raonament darrere de la decisió del model i els resultats considerant tot el procés de modelatge.
- Finalment, generem un quadre de comandament XAI (una visualització basada en XAI) adaptat a stakeholders específics per facilitar la presa de decisions i definir les eines necessàries per a processos d’homologació, quan calgui.
