Davant el ràpid desenvolupament tecnològic de la IA i un context de política mundial en el qual cada vegada hi ha més països que inverteixen més en IA, la UE ha decidit actuar com a alternativa per aprofitar les múltiples oportunitats i abordar els reptes de la IA de manera que sigui una prova de futur. Així doncs, per promoure el desenvolupament de la IA i abordar els riscos potencials que suposa per a la seguretat i els drets fonamentals per igual, la Comissió Europea ha presentat una proposta de marc regulador de la IA i un pla coordinat revisat sobre la IA.

En la proposta presentada el 21 d’abril de 2021, es detallen els següents objectius específics al voltant del marc regulador:

• Garantir que els sistemes d’IA col·locats al mercat de la Unió i utilitzats siguin segurs i respectin la legislació vigent sobre drets fonamentals i valors de la Unió;
• Garantir la seguretat jurídica per facilitar la inversió i la innovació en IA;
• Millorar la governança i l'aplicació efectiva de la legislació vigent sobre drets fonamentals i requisits de seguretat aplicables als sistemes d'IA;
• Facilitar el desenvolupament d’un mercat únic per a aplicacions d’IA lícites, segures i fiables i evitar la fragmentació del mercat.

Per assolir aquests objectius, el reglament segueix un enfocament basat en riscos, diferenciant entre els usos de la IA que creen (i) un risc inacceptable, (ii) un risc alt i (iii) un risc baix o mínim. En aquest sentit, la llista de pràctiques prohibides comprèn tots aquells sistemes d’intel·ligència artificial que el seu risc es considera inacceptable per infringir els valors de la Unió Europea.

Tenint en compte els riscos considerats inacceptables:

1. Es prohibiran les següents pràctiques d’intel·ligència artificial, incloent-hi la posada al mercat, la posada en servei o l’ús d’un sistema d’intel·ligència artificial:

(a) que desplega tècniques subliminals més enllà de la consciència d’una persona per tal de distorsionar materialment el comportament d’una persona de manera que provoca o és probable que causi un dany físic o psicològic;

(b) que exploti qualsevol de les vulnerabilitats d’un grup específic de persones a causa de la seva edat, discapacitat física o mental, per tal de distorsionar materialment el comportament d’una persona pertanyent a aquest grup d'una manera que provoca o pot causar danys físics o psicològics a aquesta persona o a una altra persona;

(c) per part de les autoritats públiques o en nom seu per a l’avaluació o classificació de la fiabilitat de les persones físiques durant un determinat període de temps en funció del seu comportament social o conegut o previst tenint en compte característiques personals o de personalitat, amb la puntuació social que condueix a una o a les dues coses següents:

(i) tractament perjudicial o desfavorable de determinades persones físiques o grups sencers d’aquestes en contextos socials que no estan relacionats amb els contextos en què es van generar o recollir les dades originalment;

(ii) el tractament perjudicial o desfavorable de determinades persones físiques o grups sencers que sigui injustificat o desproporcionat respecte al seu comportament social o la seva gravetat;

(d) l’ús de sistemes d’identificació biomètrica remota ‘en temps real’ en espais accessibles públicament a efectes d’aplicació de la llei, tret que i en la mesura en què aquest ús sigui estrictament necessari per a un dels objectius següents:

(i) la cerca específica de víctimes potencials específiques de la delinqüència, inclosos els nens desapareguts;

(ii) la prevenció d'una amenaça específica, substancial i imminent per a la vida o la seguretat física de persones físiques o d'un atac terrorista;

(iii) la detecció, localització, identificació o processament d’un autor o sospitós d’un delicte a què es refereix l’article 2 (2) de la Decisió marc del Consell 2002/584 / JAI62 i sancionable a l’estat membre afectat per una pena de presó o ordre de detenció per un període màxim de tres anys com a mínim, tal com determina la legislació d’aquest estat membre.

2. L’ús de sistemes d’identificació biomètrica remota ‘en temps real’ en espais accessibles públicament a efectes d’aplicació de la llei per a qualsevol dels objectius esmentats en el punt d), tindrà en compte els elements següents:

(a) la naturalesa de la situació que dóna lloc al possible ús, en particular la gravetat, la probabilitat i l'amplitud del dany causat en absència de l'ús del sistema;

(b) les conseqüències de l’ús del sistema per als drets i llibertats de totes les persones interessades, en particular la gravetat, la probabilitat i l’amplitud d’aquestes conseqüències.

A més, l’ús de sistemes d’identificació biomètrica remota “en temps real” en espais accessibles públicament amb l’objectiu de fer complir la llei per a qualsevol dels objectius esmentats al punt d) ha de complir les garanties i condicions necessàries i proporcionades en relació amb l’ús, en particular pel que fa a les limitacions temporals, geogràfiques i personals.

3. L’ús de sistemes d'identificació biomètrica remota "en temps real" en espais accessibles públicament estarà subjecte a una autorització prèvia concedida per una autoritat judicial o bé per una autoritat administrativa independent de l'estat membre en què es faci ús, emesa a petició motivada i d'acord amb les normes detallades de la legislació nacional. No obstant això, en una situació d'urgència degudament justificada, es pot iniciar l'ús del sistema sense autorització i només es pot sol·licitar l'autorització durant o després de l'ús.

L’autoritat judicial o administrativa competent només concedirà l’autorització quan estigui satisfeta, basada en proves objectives o indicacions clares que se li presentin, que l’ús del sistema d’identificació biomètrica remota en temps real és necessari i proporcional a l’assoliment. un dels objectius especificats al paràgraf 1, punt (d), tal com s’identifica a la sol·licitud. Per decidir la sol·licitud, l'autoritat judicial o administrativa competent ha de tenir en compte els elements disposats en la prohibició.

4. Un estat membre pot decidir preveure la possibilitat d’autoritzar totalment o parcialment l’ús de sistemes d’identificació biomètrica remota ‘en temps real’ en espais accessibles públicament a efectes d’aplicació de la llei dins dels límits i en virtut de les condicions enumerades. Aquest Estat membre ha d’establir en la seva legislació nacional les normes detallades necessàries per a la sol·licitud, l’expedició i l’exercici de les autoritzacions a què es refereix, així com la supervisió. Aquestes normes també especifiquen respecte a quins dels objectius enumerats, inclòs sobre quin dels delictes esmentats es pot autoritzar a les autoritats competents a utilitzar aquests sistemes a efectes d'aplicació de la llei.

Si voleu consultar la versió original de la proposta de Reglament sobre un enfocament europeu per a la intel·ligència artificial així com els seus annexes podeu clicar aquí.