L’AI Act, la primera llei d’intel·ligència artificial de la Unió Europea, publicada al Diari Oficial de la Unió Europea el passat 12 de juliol, entrarà en vigor el dijous 1 d’agost. Davant de la complexitat d’aplicació de la nova llei AI Act, l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) ha desenvolupat el nou Model PIO (Principis, Indicadors i Observables), una eina que afavoreix el compliment de la normativa sobre intel·ligència artificial i la regulació actual sobre riscos i drets associats a la IA a través d’un procés de verificació exhaustiu.

El Model PIO permet identificar accions adequades o inadequades i sensibilitzar a través dels usos ètics de les dades i sistemes d’IA. Aquest projecte està alineat amb la creixent adopció d’estàndards internacionals i situa les consideracions ètiques com una peça clau de les solucions tècniques.

Aquesta nova versió substitueix una beta anterior que proporcionava recomanacions d’acord amb 7 principis ètics fonamentals (transparència, justícia, responsabilitat, seguretat, privacitat, autonomia i sostenibilitat). La nova eina d’avaluació es fonamenta en l’anterior model, però compta amb l’avantatge que està harmonitzada amb els requisits legislatius de l’AI Act i d’altres legislacions sobre dades i drets. A més a més, conté recursos com catàlegs, exemples i noves funcionalitats que permeten avançar cap a una IA responsable.

La Llei d’Intel·ligència Artificial de la Unió Europea (AI Act)

La primera Llei d’Intel·ligència Artificial de la Unió Europea coneguda com a AI Act representa una legislació pionera en la regulació de la intel·ligència artificial. Aquesta llei permet, generalment, regular l'accés al mercat i de productes, especialment per a tecnologies d’IA considerades amb un major risc, com la tecnologia d’IA aplicada en l’àmbit de la salut. Tanmateix, també defineix els principis generals de conducta o comportament per a utilitzar la IA, així com el dret a la informació a les persones afectades per a aquesta tecnologia.

L’AI Act contrasta amb el Reglament General de Protecció de Dades (GDPR), que regula el tractament de dades personals i els drets dels subjectes de dades. En canvi, l’AI Act regula les mesures d'acompanyament que s'han d'implementar en cas que les tecnologies d’IA es considerin de risc.

A partir d’aquí estableix quatre categories de risc. En primer lloc, aquells que fan referència a un conjunt limitat d'usos de la IA que acaben sent prohibits a causa del seu impacte nociu. En segon lloc, hi ha un nombre limitat de casos d'ús en què els sistemes d'IA s'han de considerar d'alt risc perquè poden tenir un impacte advers en la salut, la seguretat o els seus drets fonamentals de les persones. En tercer lloc, hi ha una sèrie de sistemes d'IA que presenten riscos limitats a causa de la seva falta de transparència, com les falsificacions o el contingut sintètic, i que estaran subjectes a requisits d'informació i transparència per tal de fomentar la confiança. Finalment, es permet l'ús de sistemes que presenten un risc mínim per a les persones, com filtres de correu brossa assistits per una IA, i que compleixin amb la legislació aplicable sense obligacions legals addicionals.

Al marge d’aquestes categories de risc, l’AI Act ofereix normes específiques per als models d'IA de propòsit general (GPAI) i per als seus models amb capacitats d'alt impacte que podrien suposar un risc sistèmic i tenir un impacte significatiu en el mercat interior.

Sobre l’OEIAC

L'OEIAC, que pren forma de Càtedra a la Universitat de Girona (UdG), té com a objectiu principal estudiar les conseqüències ètiques, socials i legals i els riscos i oportunitats de la implantació de la IA des d’una òptica plenament transversal. Les accions de l’OEIAC s’insereixen en l'Estratègia d'Intel·ligència Artificial impulsada per la Generalitat de Catalunya amb el nom de Catalonia.AI, per a promoure els usos ètics de la IA, respectant la legalitat vigent, i fent que sigui compatible amb les normes socials i culturals.

Podeu trobar més informació sobre el Model PIO a la pàgina web de l’OEIAC.