Quan apliquem tècniques d’IA confiables (trustworthy AI), sempre ens enfoquem en les solucions d’IA explicables que ens permeten desbloquejar allò que hi ha darrere d’un model d’IA i fer-ho accessible a les diferents parts interessades, perquè puguem confiar en les seves respostes. L’explicabilitat d’un model d’IA es pot posar en pràctica de diferents maneres en cadascun dels sectors amb què treballem. Vegem-ne alguns exemples.
1. Healthcare
Quan treballem amb el sector sanitari, parlem d’entorns altament regulats que han d’estar certificats, ser fiables i rendir comptes de les seves respostes. Per exemple, en fer el diagnòstic de la malaltia d’un pacient, la IA explicable pot explicar els elements i dades que s’han utilitzat per diagnosticar aquest pacient. D’aquesta manera, ajudem a crear una major confiança entre els pacients i els seus metges, alhora que es mitiguen possibles problemes ètics quan una màquina ajuda a detectar una malaltia.
Els casos d’ús típics per a això són la validació de prediccions d’IA que treballen amb dades d’imatges mèdiques en el diagnòstic del càncer.
2. Indústria
La IA explicable també es pot aplicar en una línia de producció per detectar, mapar i explicar les causes del comportament inadequat de la màquina o de les sortides defectuoses dels productes, fet que provoca les anomenades “no conformitats” en la qualitat del producte en el procés de producció o posa de manifest la necessitat de manteniment.
D’aquesta manera, hi ha una millor comprensió de la comunicació màquina-màquina i màquina-operador, i es poden establir polítiques de gestió empresarial per disminuir costos i guanyar productivitat, alhora que es mantenen la fiabilitat i els estàndards de producció que s’han de complir i certificar.
3. Mobility
La IA explicable està adquirint cada vegada més importància en el sector del transport i l’automoció a causa de l’expansió de l’IoT i de les solucions de mobilitat intel·ligent, així com de la possible expansió de l’ús de vehicles autònoms, primer en entorns empresarials com vehicles logístics autònoms o trens, i més tard entre els usuaris finals.
Això ha posat èmfasi en les tècniques d’explicabilitat per als algoritmes d’IA, especialment en casos d’ús que impliquen decisions crítiques per a la seguretat. La IA explicable es pot utilitzar per a vehicles autònoms, on proporciona una major consciència situacional en accidents o situacions inesperades, cosa que pot conduir a un funcionament més responsable de la tecnologia (és a dir, prevenir accidents).
4. Recruitment
Selecció de currículums: la intel·ligència artificial explicable es pot utilitzar per explicar per què s’ha seleccionat o no un currículum. Això proporciona un nivell més alt de comprensió entre humans i màquines, cosa que ajuda a crear una major confiança en els sistemes d’IA i alhora mitiga els problemes relacionats amb el biaix i la injustícia.
5. Finance
Detecció de fraus: la IA explicable és important per a la detecció de fraus en els serveis financers. Es pot utilitzar per explicar per què una transacció s’ha marcat com a sospitosa o legítima, cosa que ajuda a mitigar els possibles reptes ètics associats amb el biaix injust i els problemes de discriminació en identificar transaccions fraudulentes.
Aprovacions de préstecs: la intel·ligència artificial explicable es pot utilitzar per explicar per què s’ha aprovat o denegat un préstec. Això és important perquè ajuda a mitigar possibles reptes ètics en proporcionar un nivell més alt de comprensió entre humans i màquines, la qual cosa contribueix a generar una major confiança en els sistemes d’IA.
→ Revisa els nostres Mosaic XAI dashboards