El Model PIO (Principis, Indicadors i Observables): Una proposta d’autoavaluació organitzativa sobre l’ús ètic de dades i sistemes d’intel·ligència artificial", ha estat dissenyat i desenvolupat pel mateix OEIAC amb el suport del Departament de la Vicepresidència i de Polítiques Digitals i Territori, de la Universitat de Girona i de la Fundació i2cat.
Introducció i objectius
Des de 2017, quan el Canadà es va convertir en el primer país a adoptar una estratègia nacional d'intel·ligència artificial, almenys 60 països han adoptat polítiques (declaracions, marcs, directrius de la indústria o principis) centrades en la IA, per a treballar juntament amb el sector tecnològic, l'acadèmia i la societat civil per a un disseny i aplicació de la IA responsable, de confiança i ètic. En aquest sentit, a Catalunya es va posar en marxa al febrer de 2020 l'Estratègia d'Intel·ligència Artificial de Catalunya (CATALONIA.AI, 2020), per a enfortir l'ecosistema català en IA tenint molt present un eix sobre “Ètica i Societat”. Per desenvolupar aquest eix, l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) ha iniciat una sèrie d'actuacions, entre les quals es troba una nova eina que permetrà conèixer el grau d’adopció de principis ètics fonamentals en l’ús de dades i sistemes d'IA i, per tant, saber què cal treballar i millorar per avançar cap a una adopció de la IA basada en l’ètica i en la responsabilitat. Aquesta és una iniciativa pionera per les seves característiques, ja que és la primera guia d’implementació i autoavaluació de dades i sistemes d’IA que, entre altres coses, permetrà a les organitzacions que la utilitzin obtenir una insígnia de qualitat de retorn.
El Model PIO (Principis, Indicadors i Observables), es va presentar el passat 29 de juny al Districte Administratiu de la Generalitat de Catalunya. La presentació, que va comptar amb les intervencions del director general d’Innovació i Economia Digital, Dani Marco; el rector de la UdG, Quim Salvi; el director de l’OEIAC, Albert Sabater, i la tècnica de l’OEIAC, Alícia de Manuel, també va tenir la presència de nombroses persones representants dels sectors públics i privats interessades en la implementació del Model PIO, i de diferents membres del Consell Assessor de l'OEIAC (clicant aquí podreu veure la gravació de la presentació a través del canal YouTube de Polítiques Digitals / TIC de la Generalitat de Catalunya).
El Model PIO neix amb un doble objectiu: d’una banda, sensibilitzar i conscienciar les organitzacions que utilitzen o desenvolupen sistemes d’IA sobre la importància d’adoptar principis ètics fonamentals en l’ús d’aquestes tecnologies per minimitzar-ne els riscos coneguts i desconeguts i maximitzar-ne les oportunitats; i d’altra, identificar accions per valoritzar, recomanar i avançar en l’ús ètic de les dades i sistemes d’IA.
En definitiva, el model PIO suposa un pas més per avançar en la integració de la teoria a la pràctica de principis ètics fonamentals de la IA i contribuir així a l’objectiu últim de construir una IA més transparent, més explicable, més justa, més segura, més responsable i més sostenible.
Autoavaluació i insígnia de qualitat
El Model PIO es construeix al voltant de la senzillesa i d’una pregunta clau i efectiva que qualsevol persona que desenvolupa, gestiona o dirigeix un projecte on hi ha dades i sistemes d’IA pot entendre fàcilment: “Ho hem fet?” En aquest sentit, abans de dur a terme l’autoavaluació cal que l’organització esculli la persona o persones responsables d’aquest àmbit per realitzar l’autoavaluació amb la màxima informació disponible des d’un punt de vista competencial.
A partir d’aquí, el model permet autoavaluar-se en 7 eixos o principis relacionats amb l’ètica de les dades i dels sistemes d’IA, per obtenir una valoració per a cadascun d’ells i una “insígnia” amb el resultat: Transparència; Justícia i equitat; Seguretat i no maleficència; Responsabilitat i retiment de comptes; Privacitat; Autonomia; i Sostenibilitat.
Per fer-ho, el model recull les respostes binàries (Sí/No) de l’organització que du a terme l’autoavaluació a les 70 preguntes sobre cadascun dels 7 principis avaluats, n’obté les mètriques per a cadascun d’ells i genera una insígnia de qualitat per a l’organització. Aquesta insígnia serà la imatge gràfica del model d’autoavaluació PIO representant l’adequació de les dades i sistemes d’IA segons els 7 principis ètics del model. En aquest procés s’utilitza un gradient de color per representar d’una manera ràpida, senzilla i efectiva els resultats obtinguts.
El model PIO permet a qualsevol organització realitzar una autoavaluació ràpida de posició o bé una autoavaluació de posició completa, que en aquest cas requereix la justificació de les respostes afirmatives o negatives per permetre a l’OEIAC analitzar les respostes qualitatives i poder proporcionar retorn a l’organització que l’hagi realitzat si així ho desitja. D’aquesta manera, a més d’obtenir unes mètriques específiques i una insígnia de qualitat, les organitzacions que hagin fet l’autoavaluació completa rebran recomanacions específiques de millora.
El formulari d’autoavaluació, així com l’informe complet del model, estan disponibles des d’avui en aquest enllaç.