Un comunicat que pot suposar el principi de la fi del "Wild West" tecnològic de la IA a Europa
Anar al contingut (clic a Intro)
UdG Home UdG Home
UdG 30 anys
Tancar
Menú

Observatori d'Ètica en Intel·ligència Artificial

Un comunicat que pot suposar el principi de la fi del "Wild West" tecnològic de la IA a Europa

Les autoritats europees de protecció de dades (EDPB i EDPS) demanen la prohibició de l’ús de la IA per al reconeixement automatitzat de característiques humanes en espais accessibles públicament i alguns altres usos de la IA que poden provocar discriminacions injustes.

El 21 de juny de 2021, les màximes autoritats europees de protecció de dades (l'European Data Protection Board i l'European Data Protection Supervisor) han realitzat un comunicat conjunt sobre la Proposta de Reglament de la IA que la Comissió Europea va presentar el passat 21 d'abril. En aquest comunicat, malgrat que l’EDPB i l’EDPS acullen amb satisfacció l’objectiu d’abordar l’ús dels sistemes d’IA a la UE a través de la proposta de regulació, i que inclou l’ús de sistemes d’IA per les institucions, organismes o agències de la UE, les màximes autoritats europees de protecció de dades han volgut traslladar la seva preocupació per l'exclusió del dret internacional de cooperació en la Proposta de Reglament de la IA. L’EDPB i l'EDPS també subratllen la necessitat d’aclarir explícitament que la protecció de dades existent de la UE a través de la legislació (GDPR, EUDPR i LED) s’aplica a qualsevol tractament de dades personals que caiguin en l'àmbit de la Proposta de Reglament de la IA.

Tot i que l’EDPB i l'EDPS celebren l’enfocament basat en el risc que sustenta la proposta presentada per la Comissió Europea, consideren que el concepte de "risc per als drets fonamentals" s'hauria d'alinear amb el marc de la UE de protecció de dades. L’EDPB i l’EDPS recomanen que els riscos socials per grups d'individus s’haurien d’avaluar i mitigar. A més, estan d'acord amb la proposta que la classificació d'un sistema d'IA com a alt risc no significa necessàriament que sigui lícita per se i que pugui ser desplegada com a tal. L’EDPB i l’EDPS també consideren que el compliment de les obligacions legals derivades de la legislació de la UE -incloses sobre la protecció de dades personals- hauria de ser una condició prèvia per entrar al mercat europeu com a producte marcat CE. Tenint en compte els riscos extremadament elevats que comporta la identificació biomètrica remota de les persones en espais accessibles públicament, l'EDPB i l'EDPS demanen la prohibició general de qualsevol ús de la IA per al reconeixement automàtic de característiques humanes en espais accessibles públicament, com ara el reconeixement de cares, marxa, empremtes digitals, ADN, veu, pulsacions de tecles i altres dades biomètriques o senyals de comportament, en qualsevol context. De la mateixa manera, EDPB i EDPS recomana la prohibició de sistemes d'IA que fan servir biometria per classificar els individus en grups basats en l’ètnia, el gènere, orientació política o sexual o altres motius pels quals està prohibida la discriminació sota l'Article 21 de la Carta dels Drets Fonamentals. A més, l'EDPB i l'EDPS considerem que l’ús de la IA per inferir emocions d’una persona física és altament indesitjable i hauria de ser prohibida, excepte en casos molt especificats, com ara alguns propòsits de salut, en què el reconeixement d’emocions del pacient és important, i és important que l'ús de la IA per a qualsevol tipus de puntuació social estigui prohibit.

Juntament amb el comunicat, Andrea Jelinek, presidenta de l’EDPB, i Wojciech Wiewiórowski, supervisor de l'EDPS, van acompanyar la nota de premsa amb la següent declaració: “El desplegament remot la identificació biomètrica en espais accessibles públicament significa el final de l’anonimat en aquells llocs. Aplicacions com el reconeixement facial en directe interfereixen amb els drets fonamentals i les llibertats fins a tal punt que poden posar en dubte l’essència d’aquests drets i llibertats. Això requereix una aplicació immediata de l'enfocament preventiu. Una prohibició general de l’ús del reconeixement facial en zones accessibles pel públic és el punt de partida necessari si volem preservar les nostres llibertats i crear un marc legal centrat en l’ésser humà per a la IA. La regulació proposada també hauria de prohibir qualsevol tipus d’ús d’IA per a la puntuació social, ja que va en contra els valors fonamentals de la UE i pot provocar discriminacions".

L'EDPB i l'EDPS es feliciten, a més, pel fet que la Proposta de Regulació de la IA hagi desitnat aquest últim supervisor (EDPS) com a l'autoritat competent i l'autoritat de vigilància del mercat per a la supervisió de les institucions, agències i organismes de la UE. No obstant, es considera que el rol i les tasques s'haurien de clarificar més, concretament pel que fa al seu paper d’autoritat de vigilància del mercat.

L'EDPB i l'EDPS també recorden que les autoritats de protecció de dades (DPAs) ja estan aplicant el GDPR i el LED en els sistemes d'IA que tracten amb dades personals, per tal de garantir la protecció dels drets fonamentals, i més concretament del dret a la protecció de dades. Com a resultat, la designació dels DPAs com a autoritats nacionals de supervisió asseguraria un marc regulatori més harmonitzat i contribuiría a la interpretació consistent sobre el processament de dades proveïdes a tota la UE. En conseqüència, l'EDPB i l'EDPS consideren que, per garantir una implantació de la nova Proposta de Reglament de la IA, els DPA s’haurien de designar com a autoritats nacionals supervisores de conformitat amb l'article 59 de la proposta.

Finalment, l'EDPB i l'EDPS qüestionen la designació d'un paper predominant de la Comissió Europea a la "European Artificial Intelligence Board" (EAIB), ja que això entraria en conflicte amb la necessitat d’un organisme europeu d’IA independent i de qualsevol influència política. Per garantir la seva independència, la proposta hauria de donar més autonomia a l’EAIB i garantir que pugui actuar per iniciativa pròpia.

Si voleu llegir la nota de premsa conjunta original (en anglès) de l'EDPB-EDPS podeu clicar aquí. I si voleu consultar l'opinió conjunta o dictamen 5/2021 (en anglès) de l'EDPB-EDPS podeu clicar aquí.

Notícies relacionades

Escull quins tipus de galetes acceptes que el web de la Universitat de Girona pugui guardar en el teu navegador.

Les imprescindibles per facilitar la vostra connexió. No hi ha opció d'inhabilitar-les, atès que són les necessàries pel funcionament del lloc web.

Permeten recordar les vostres opcions (per exemple llengua o regió des de la qual accediu), per tal de proporcionar-vos serveis avançats.

Proporcionen informació estadística i permeten millorar els serveis. Utilitzem cookies de Google Analytics que podeu desactivar instal·lant-vos aquest plugin.

Per a oferir continguts publicitaris relacionats amb els interessos de l'usuari, bé directament, bé per mitjà de tercers (“adservers”). Cal activar-les si vols veure els vídeos de Youtube incrustats en el web de la Universitat de Girona.