En una declaració adoptada el 17 de març de 2021, el Comitè de Ministres del Consell d'Europa va cridar l'atenció dels Estats Membres per tal que tinguin en compte, entre altres coses:

• els possibles riscos per als drets humans, inclosos els drets socials, que podrien derivar-se de l’ús de la presa de decisions assistida per ordinador o amb intel·ligència artificial per part de les autoritats públiques en l’àmbit dels serveis socials;
• la necessitat de garantir que els sistemes de presa de decisions assistits per ordinador o amb intel·ligència artificial es desenvolupin i implementin d’acord amb els principis de seguretat jurídica, legalitat, qualitat de les dades, no discriminació i transparència;
• la necessitat de supervisió humana de les decisions assistides per ordinador o intel·ligència artificial per mitigar i/o evitar errors en la gestió;
• la necessitat d’arranjaments efectius per protegir les persones vulnerables de danys greus o irreparables.

Malgrat les avantatges demostrades de la intel·ligència artificial per la provisió de serveis, les autoritats públiques han d’assegurar-se que els valors ètics s’apliquen a tothom sense provocar cap disparitat respecte als drets socials i la cohesió social. Tenint en compte que el ús també comporta riscos, s'hauria de prendre un enfocament proactiu per garantir que els afectats per decisions assistides per ordinador o habilitades per la intel·ligència artificial en l'àmbit dels serveis socials, en particular les persones en situació de privació o vulnerabilitat extrema, puguin fer valer els seus drets i buscar recursos. En aquest sentit, es subratlla la importància de lliurar als interessats una explicació adaptada al context i al públic específics. Aquesta explicació hauria de proporcionar, com a mínim, els elements necessaris per permetre a una persona comprendre i impugnar una decisió que ha estat informada o presa per un sistema d’intel·ligència artificial, i que afecta la seva posició legal o la seva vida de manera substancial.

La Declaració del Comitè de Ministres sobre els riscos de la presa de decisions assistides per ordinador o amb intel·ligència artificial en el camp de la xarxa de seguretat social diu el següent:

Els drets humans, ja siguin civils, polítics, econòmics, socials o culturals, són indivisibles, interrelacionats i interdependents. Els drets econòmics i socials són elements que permeten gaudir dels drets civils i polítics. El Conveni per a la protecció dels drets humans i les llibertats fonamentals (STE núm. 5) i la Carta social europea (STE núm. 35 i STE núm. 163 (revisada)) incorporen la complementarietat i el reforç mutu dels drets humans i de les llibertats fonamentals.

En la seva segona cimera de 1997, els caps d'Estat i de govern del Consell d'Europa van reconèixer que la cohesió social era "una de les necessitats més importants de l'Europa en general i que s'hauria de perseguir com a complement essencial per a la promoció dels drets humans i la dignitat". En aquest context, l’Estratègia i el pla d’acció del Consell d’Europa per a la cohesió social, aprovat pel Comitè de Ministres el 2010, va fer reinvertir en drets socials i una societat cohesionada i construir un futur segur per a tots els seus objectius principals.

En la seva 129a sessió (Hèlsinki, 17 de maig de 2019), el Comitè de Ministres va reconèixer una vegada més la importància dels drets socials a tot el continent. Això encara és més rellevant en les circumstàncies actuals, quan els drets socials es veuen afectats per l’ús de sistemes de presa de decisions desplegats per les autoritats públiques i que es basen en la intel·ligència artificial (IA) o l’aprenentatge automàtic.

Els sistemes de presa de decisions assistits per ordinador o habilitats per la IA poden oferir avantatges en forma de servei millorat i més ràpid per a les persones. Aquests sistemes també poden reduir els costos d'administració, augmentar la transparència, ajudar a detectar anomalies o fraus i reduir el risc de corrupció. Tanmateix, la tecnologia pot incloure "codi", basat en la presa de decisions, que depenent de les seves característiques o processos de formació podria reduir o denegar erròniament drets i beneficis a les persones, afectant així el gaudi dels seus drets humans socials. Tot i que la intel·ligència artificial i l'aprenentatge automàtic tenen avantatges per al sistema, s'hauria d'assegurar que les aplicacions públiques siguin justes i que s'apliquessin valors ètics per a tothom sense provocar cap disparitat respecte a la cohesió social.

El desenvolupament no regulat d’aquests sistemes de presa de decisions automatitzats o assistits per ordinador, juntament amb la manca de transparència i l’insuficient control públic, i la seva incorporació a l’administració de serveis socials, comporten riscos. Aquests sistemes poden, si no es desenvolupen i s’utilitzen d’acord amb els principis de transparència i seguretat jurídica, amplificar el biaix i augmentar els riscos. Això pot provocar un major impacte negatiu per als membres de la comunitat que es troben en situació de vulnerabilitat. En aquestes circumstàncies, poden replicar patrons de discriminació consolidats, incloses les dones, i poden afectar les persones amb feines poc qualificades i mal remunerades.

Les decisions automatitzades esbiaixades i/o errònies poden provocar la indigència immediata, la pobresa extrema o fins i tot el sensellarisme i causar danys greus o irreparables a les persones afectades.

Si les decisions s’apliquen de manera massa ràpida, sense tenir en compte les seves conseqüències, els efectes poden ser duradors i el dany pot persistir, fins i tot si es corregeix ràpidament un error. El resultat pot oposar-se als objectius de la Recomanació Rec (2000) 3 del Comitè de Ministres als Estats Membres sobre el dret a la satisfacció de les necessitats materials bàsiques de les persones en situacions de dificultat extrema, pel qual el Comitè de Ministres va demanar a tots els Estats Membres a reconèixer un dret individual, universal i aplicable a la satisfacció de les necessitats materials bàsiques (com a mínim: menjar, roba, refugi i atenció mèdica bàsica) a les persones en situacions d’extrema dificultat, així com la Recomanació Rec (2003) 19 del Comitè de Ministres als Estats Membres per millorar l'accés als drets socials. Aquestes decisions també plantejarien qüestions sobre el respecte a les disposicions de la Carta Social Europea.

En aquestes circumstàncies, no només es poden vulnerar els drets socials i es poden perdre els objectius relacionats amb la política social, sinó que fins i tot es pot veure afectat o compromès el gaudi dels drets civils i polítics.

També val la pena subratllar que, en adoptar l’Agenda 2030 de les Nacions Unides per al Desenvolupament Sostenible, tots els Estats Membres del Consell d’Europa van reafirmar que la dignitat de l’ésser humà és fonamental i es van comprometre a no deixar ningú enrere, tot intentant arribar a aquells que són primer més enrere.

Per tant, el Comitè de Ministres crida l'atenció dels Estats Membres sobre:

• els possibles riscos per als drets humans, inclosos els drets socials, que podrien derivar-se de l'ús de decisions assistides per ordinador o habilitades per la IA per part de les autoritats públiques en l'àmbit dels serveis socials, quan no es garanteixi una supervisió qualificada, en particular pel que fa a la gestió, atribució o revocació de drets, assistència i beneficis relacionats;
• la necessitat de garantir que els sistemes de presa de decisions assistits per ordinador o amb IA permetin desenvolupar-se i implementar-se d’acord amb els principis de seguretat jurídica, legalitat, qualitat de les dades, no discriminació i transparència. Els coneixements i habilitats dels usuaris d'aquests sistemes s'han de millorar regularment;
• la necessitat de supervisió humana de les decisions assistides per ordinador o de IA per mitigar i/o evitar errors en la gestió, atribució o revocació de drets, assistència i beneficis relacionats que puguin amplificar els desavantatges i/o la privació de drets;
• la necessitat d’arranjaments efectius per protegir les persones vulnerables de danys greus o irreparables, inclosa la indigència, la pobresa extrema o el sensellarisme, com a resultat de la implementació de decisions assistides per ordinador o habilitades per la IA en l’àmbit dels serveis socials;
• la necessitat de processos eficaços de responsabilitat i rendició de comptes per als actors de la IA que dissenyen, desenvolupen, implementen o avaluen sistemes de IA quan no es respecten les normes legals o es produeix un dany injust;
• un enfocament proactiu amb la finalitat de garantir que els afectats per decisions assistides per ordinador o habilitades per la IA en l’àmbit dels serveis socials, en particular les persones en situació de privació o vulnerabilitat extrema, puguin fer valer els seus drets i buscar recursos. En aquest sentit, es lliurarà als interessats una explicació adaptada al context i al públic específics. Aquesta explicació hauria de proporcionar, com a mínim, els elements necessaris per permetre a una persona comprendre i impugnar una decisió que ha estat informada o presa per un sistema d’IA i que afecta la seva posició legal o la seva vida de manera substancial.

Podeu consultar la Declaració del Comitè de Ministres sobre els riscos de la presa de decisions assistides per ordinador o amb intel·ligència artificial en el camp de la xarxa de seguretat social clicant aquí.

(Declaració adoptada pel Comitè de Ministres el 17 de març de 2021 a la reunió 1399)