L’Associació Catalana de Sociologia (ACS), filial de l’Institut d’Estudis Catalans (IEC), va organitzar el dimecres 14 de desembre, amb el suport de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya, un debat sobre el rol que aquesta tecnologia té en la nostra societat. Hi van participar Ulises Cortés (Universitat Politècnica de Catalunya i Barcelona Supercomputing Center), Núria Vallès (Universitat Autònoma de Barcelona - Universitat Politècnica de Catalunya) i Judith Membrives (Lafede.cat - Organitzacions per a la Justícia Global). Albert Sabater (Observatori d’Ètica en Intel·ligència Artificial de Catalunya) va moderar el debat.

L’objectiu d’aquesta jornada de debat fou tractar el rol creixent de la intel·ligència artificial (IA) en la societat, tenint en compte un coneixement més enllà del coneixement superficial d’aquesta tecnologia i dels impactes que té en la societat, examinant críticament els beneficis, els inconvenients i els possibles riscos associats a un desplegament massiu i accelerat de la IA. Per a aquesta jornada debat es va comptar amb la participació d’Ulises Cortés (Universitat Politècnica de Catalunya i Barcelona Supercomputing Center), Judith Membrives (Lafede.cat - Organitzacions per a la Justícia Global), Núria Vallès (Universitat Autònoma de Barcelona - Universitat Politècnica de Catalunya) i Albert Sabater (Observatori d’Ètica en Intel·ligència Artificial de Catalunya).

Ulises Cortés, investigador expert en intel·ligència artificial, va obrir el debat sobre aquesta disciplina científica, que la Unió Europea defineix com un sistema que, capturant informació de l’entorn, actua de manera intel·ligent per a resoldre problemes, sense la intervenció de cap humà.

Podem trobar alguns exemples d’aquesta tecnologia a empreses com Facebook, Amazon o Netflix i en productes com els cotxes autònoms, les màquines de suport al diagnòstic clínic o els robots com Alexa o Siri. Cortés considera que un dels reptes més importants que afronta la societat en relació amb aquesta disciplina és el fet que qui dedica més recursos a investigar-la i desenvolupar-la són les empreses, no els governs. D’aquesta manera, tot el coneixement que es genera és propietat d’aquestes companyies, no dels ciutadans. Això, adverteix, planteja «un repte sense precedents per a la democràcia perquè es genera desinformació, manipulació i pèrdua de la intimitat».

Núria Vallès va analitzar el paper de la intel·ligència artificial des d’un punt de vista crític i es va interrogar sobre l’impacte que pot tenir en una societat cada cop més polaritzada «entre els que controlen la tecnologia, que viuen en un món d’esperança sense por, i els que veuen com la tecnologia condiciona les seves vides, que viuen en un món de por sense esperança». Vallès va advertir sobre la necessitat de posar línies vermelles als algoritmes: «No tenen capacitat moral per ells mateixos, no poden discernir el que està bé del que no. Per això, com a societat hem de poder decidir, quan hi ha massa riscos, que no volem desenvolupar una determinada recerca tecnològica». La sociòloga també va recordar que la intel·ligència artificial està feta a partir del treball humà: «Sobretot l’elaboració i la classificació de dades, i moltes vegades, en condicions laborals molt precàries». Per a ella, és clau que aquesta tecnologia «es desenvolupi sempre en relació amb el context social i incorporant les demandes de la ciutadania», per això, va defensar, «cal que el seu desenvolupament sigui liderat des del sector públic».

En el mateix sentit es va expressar Judith Membrives, que va posar l’accent en les injustícies i les discriminacions que pot comportar l’ús d’aquests processos d’automatització: «Creiem que cal adaptar els drets humans a l’entorn digital. La tecnologia no ha provocat la vulneració de drets, el que ha fet és perpetuar-la i intensificar-la». Membrives va posar exemples d’algoritmes que puntuen sobre el risc de reincidència dels presos i que presenten problemes de racisme i masclisme. També es va referir a sistemes que decideixen sobre qui té dret a bons socials per a pagar l’energia. En aquests casos, els col·lectius que hi opten, que ja parteixen d’una situació molt vulnerable, no tenen cap interlocutor a qui demanar explicacions sobre la resolució que els afecta. També va alertar sobre el mal ús que es pot fer dels programes de reconeixement facial en el context migratori.

Cortés va precisar que «els algoritmes busquen l’eficiència, però són els polítics i les empreses els que en fan un ús o un altre, és a dir, aquells que decideixen si busquen incrementar la justícia social». També va defensar que es tracta d’una tecnologia molt integradora: «No crec que hi hagi una altra disciplina científica contemporània més inclusiva. Des del principi ha comptat amb els professionals més brillants de branques del saber molt diferents i no han estat només homes. De fet, actualment, qui treballa de manera més rellevant a Catalunya en intel·ligència artificial és la Carme Torras».

El ponent també va admetre que l’aplicació de la tecnologia a les fronteres és complicat, «perquè hi ha interessos confrontats amb el respecte dels drets humans» i que «cal treballar per protegir aquests drets». Així mateix, va alertar sobre el fet que algunes empreses opten per posar en marxa sistemes que encara no estan preparats perquè volen notorietat, i que això comporta un mal funcionament de la tecnologia.

També podeu consultar la notícia a la web de l'Institut d'Estudis Catalans.