L’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) de la Universitat de Girona (UdG) comptarà aquest any amb una subvenció de gairebé 400.000 € de la Secretaria de Polítiques Digitals del Departament d’Empresa i Treball, per afrontar els nous reptes ètics i legals que planteja el desenvolupament i l’adopció de la IA a Catalunya. Així ho han explicat avui el vicerector de Projectes Estratègics i Internacionalització de la Universitat de Girona, Josep Calbó, i la secretària de Polítiques Digitals, Maria Galindo.

En aquest mateix sentit s’ha pronunciat el vicerector Calbó, que ha posat en valor el Model PIO aplicat a l’àmbit de la salut que s’ha presentat avui: “Estem molt orgullosos perquè avui es presenta el resultat d'una feina molt alineada amb la visió de la UdG de col·laborar amb l'ecosistema i amb caràcter interdisciplinari”. En aquest sentit, el vicerector ha destacat que es tracta “d’una visió que encaixa amb la del Pla estratègic de la UdG que aposta per la suma d'intel·ligències i també amb la de l’Estratègia d’Intel·ligència Artificial que impulsa la Generalitat de Catalunya, de la qual l’OEIAC n’és un pilar fonamental”.

Eines pioneres al servei de l’ecosistema

Promogut conjuntament per la UdG i la Secretaria de Polítiques Digitals per estudiar les conseqüències ètiques, socials i legals i els riscos i oportunitats de la implantació de la IA Catalunya, l’OEIAC és un dels pilars fonamental de l’Estratègia d’Intel·ligència Artificial de Catalunya. A través seu, s’impulsen projectes i es faciliten eines a l’ecosistema com el nou Model PIO (Principis, Indicadors i Observables) d’avaluació de riscos associats a la IA, una eina pionera tant per la seva concepció com pel seu caràcter de servei públic i d’accés lliure.

El model, disponible en obert i per a tothom, conté recomanacions ètiques en base a 7 principis fonamentals (transparència, justícia, responsabilitat, seguretat, privacitat, autonomia i sostenibilitat), però també obligacions legals, i afavoreix el compliment de la normativa i regulació vigent sobre la IA a través d’un procés de verificació exhaustiu.

Així, permet identificar accions adequades o inadequades i dona eines per fomentar usos ètics i responsables de les dades i sistemes d’IA, com ara exemples d’aplicació pràctica i un catàleg que conté tota la documentació i normes jurídiques en què s’ha basat el model d’avaluació.

A partir d’aquest model i seguint el mateix format i metodologia, l’OEIAC està desenvolupant els Models PIO sectorials, adaptacions que s’elaboren amb diferents professionals i persones usuàries per donar resposta a les necessitats específiques d’àmbits o sectors concrets com la salut o l’educació.

El Model PIO adaptat a les necessitats de l’àmbit de la salut

Així sorgeix el Model PIO Salut, el model d’autoavaluació per al compliment dels estàndards ètics i normatius aplicables als sistemes d’IA en l’àmbit de la salut, que l’OEIAC ha desenvolupat en col·laboració amb del Sistema de Salut de Catalunya a través de la Fundació TIC Salut Social, i de l’empresa Pickle Tech. Es tracta del primer dels models sectorials desenvolupats per l’OEIAC i s’ha presentat avui a Girona en la sessió inaugural de la cinquena edició del Cicle de Seminaris de l’OEIAC, presidida per la secretària Galindo i el vicerector Calbó.

L’àmbit de la salut està experimentant una de les acceleracions més significatives en l’ús de dades i sistemes d’IA: les aplicacions d’IA s’utilitzen àmpliament com a eines de diagnòstic clínic, per dur a terme tractaments o per fer el seguiment de pacients en temps real. Malgrat que la integració de la IA promet una precisió millorada, intervencions més ràpides i una atenció més personalitzada, d’aquesta nova realitat també sorgeixen riscos particulars que requereixen d’un abordament especialitzat. Per això, el Model PIO Salut promou una revisió a través d’una interrogació detallada i continuada d’aspectes diversos, de possibles errors i de resultats inesperats o de risc potencial, abans i durant el desplegament d’un sistema d'IA.

Així, el Model PIO Salut té com a objectiu principal sensibilitzar sobre l’ús ètic dels sistemes d’IA a tots els agents involucrats dins del cicle de vida dels sistemes aplicats en salut en cadascuna de les fases del seu cicle de vida: des del disseny, la modelització i la validació, al desplegament i el monitoratge un cop el sistema d'IA és operatiu. El model també té com a objectiu identificar accions adequades i inadequades que es donen durant tot aquest cicle a través del sistema d’autoavaluació que proposa i que permet valoritzar, recomanar i avançar en l'ús ètic de dades i sistemes d’IA.

La presentació del Model PIO Salut ha anat a càrrec del director de l’OEIAC, Albert Sabater; la tècnica jurista especialista en IA i salut de l’OEIAC, Alexandra Lillo; la secretària del Programa per a la promoció i desenvolupament de la IA al Sistema de Salut de Catalunya de la Fundació TIC Salut Social, Susanna Aussó; i del fundador i director de Pickle Tech i director d'Innovació a ABCDx, Juan González, especialista en IA per a dispositius mèdics.