Sota el títol “Intel·ligència artificial. El que ens venen i el que ens arriba”, Antoni Berenguer-Llergo, responsable de l’Àrea d’Intel·ligència Artificial de la Fundació TIC Salut i Social, va impartir dues sessions en què va oferir una mirada crítica i alhora divulgativa sobre l’aplicació real de la intel·ligència artificial en l’àmbit de la salut.

La intel·ligència artificial ha deixat de ser una tecnologia del futur per convertir-se en una realitat del nostre dia a dia, també en el sistema de salut. Per treure'n el màxim profit, però, necessitem més que familiaritat amb la tecnologia: cal entendre com funciona, quins són els seus límits i com garantir-ne un ús eficaç, segur i ètic. Aquesta formació, estructurada en dues sessions, ofereix una introducció rigorosa i accessible als fonaments de la IA amb exemples de l'àmbit assistencial, la salut pública i la recerca. Partirem dels fonaments de la tecnologia: què és realment la IA, com funcionen els models predictius i generatius, i quins potencials i limitacions tenen.

Quan parlem d’IA és bàsic entendre’n els seus facilitadors i les seves limitacions. El curs s’ha estructurat al voltant de tres preguntes clau: Què pot fer i què no la IA, què i com volem solucionar amb IA, i com ens hem de preparar per conviure amb la IA.

• Pel que fa a la primera pregunta vam repassar les diferències entres la IA predictiva i la IA generativa, partint de la base que en els dos tipus estem davant d’un model matemàtic, i que actualment, totes les eines d’IA que hi ha són del tipus IA estreta, i per tant, ens trobem davant d’eines que tenen un gran capacitat i eficiència de fer una sola tasca però que requereixen de supervisió humana. El futur en aquest camp ens podria fer arribar a eines de súper IA, que serien eines que superen la capacitat humana i podrien reproduir-se i millorar-se.
• En relació a la segona pregunta ens vam centrar en el fet que la cerca de la solució és el resultat d’una triangulació entre la identificació de les necessitats en l’àmbit de la salut expressades per les persones, el desenvolupament de la solució feta per proveïdor, i la priorització de què cal solucionar i com feta per l’administració. Aquest procés ha de venir guiat més per ampliar o potenciar l’ús de la IA per l’impacte que la solució en concreta té en la salut de les persones.
• Per donar resposta a la última pregunta cal ser conscients de que l’èxit de la implementació d’eines d’IA ve condicionada per factors com la preparació de l’entorn, la viabilitat, que les persones coneguin les bases de la IA i del seu ús... Tot això sol implicar una gestió del canvi, perquè l’ús d’eines d’IA acaba transformant les processos i pràctiques.

En relació a les principals limitacions es va destacar la fragilitat (les eines d’IA s’han d’adaptar a l’entorn local sempre), els biaixos (calen moltes dades per entrenar als models d’IA i no és possible cobrir tots els biaixos, per això, aquests models poden acabar fent males prediccions), l’alta precisió que tenen les eines d’IA comporten un excés de confiança en el seu ús, al·lucinacions de la IA predictiva (generació d’errors) i encara ens manca explicabilitat (interpretar les dades).

Per últim es va fer referència a que a Europa la IA està regulada i legislada, que en l’àmbit de la salut actualment requereix supervisió humana, i que cal caminar cap a una IA fiable, equitativa, eficient, participativa, respectuosa i sostenible. Només així, es podrà garantir un bon ús de la IA en l’àmbit de la salut.