L'acte de cloenda del primer cicle de seminaris sobre “La intel·ligència artificial en la nostra vida quotidiana”  ha tingut lloc aquest dijous, 11 de novembre, organitzat per l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) al Centre Cultural La Mercè de Girona. El debat debat presencial a l’entorn de "La intel·ligència artificial i les seves (obscures) relacions amb el poder polític i militar" l’ha conduït Josep Maria Fonalleras, i ha comptat amb la participació dels professors Joan Manuel del Pozo (UdG) i Ulises Cortés (Barcelona Supercomputing Center, Centro Nacional de Supercomputación). A l’acte també hi han assistit el director general d’Innovació i Economia Digital de la Generalitat de Catalunya, Daniel Marco, i el vicerector de Projectes Estratègics de la Universitat de Girona, Josep Calbó. El debat ha posat en en evidència la importància que hi hagi un diàleg i debat públic constant sobre el potencial disruptiu i les oportunitats de la intel·ligència artificial (IA), especialment en l’àmbit polític i militar.

En la primera part, s’ha plantejat com l’augment de la quantitat i la diversitat d’informació sobre ciutadans o votants que floten pel ciberespai ha fet que els polítics, els governs i els grups socials tinguin més eines a la seva disposició que mai per impulsar agendes polítiques i candidats. A més, el fet que la IA s’hagi incorporat a la majoria d’eines d’anàlisi de dades de campanyes, plataformes d’intel·ligència d’enquestes i estratègies de publicitat política denota el nou rol de la IA en el sistema polític. No obstant, tal i com han subratllat els professors del Pozo i Cortés, aquesta implantació de la IA no està exempta de riscos i influències potencialment perilloses. Entre altres coses, la IA es pot utilitzar per difondre notícies falses, manipular psicològicament els votants susceptibles a través d’apel·lacions emocionals dirigides i, fins i tot, amagar la dissidència a través d’exèrcits de bots. Tot i que hem estat sempre vulnerables a ser enganyats, provocats o manipulats, l’ús de la IA ha facilitat un canvi d’escala i una immediatesa sense precedents mitjançant algoritmes que comproven continguts una i altra vegada en milions de persones i a gran velocitat. A diferènciade la distribució massiva, l’ús de la IA permet una selecció constant de les persones amb més probabilitats de ser-ne susceptibles, un fet que pot representar una amenaça per a la llibertat de les persones com a individus i ciutadans democràtics. Per aquesta raó, cal un coneixement més enllà que el superficial de la tecnologia de la IA per tal d’examinar críticament els beneficis, els inconvenients i els possibles riscos associats al desplegament massiu de tecnologia IA i, en última instància, protegir la democràcia de les influències potencialment perilloses.

IA i poder militar
Un altre tema cabdal tractat  en la segona part del debat ha estat  la relació de la IA amb el poder militar. En aquest sentit, s’ha apuntat que el ràpid desenvolupament de sistemes d’IA i la seva normalització en l’esfera comercial també ha fet que hi hagi una acceptació cada vegada més gran de la IA per part de diferents potències militars, especialment en relació al desenvolupament d’armes autònomes o automàtiques letals (els anomenats killer robots). En aquesta línia es va subratllar que, en l’actualitat, el seu desenvolupament es concentra en uns quants països/regions (EUA, Xina, Rússia, Corea del Sud i la UE) que tenen els recursos necessaris per invertir en robòtica avançada i en investigació d’IA. Cal preveure, però, que la disminució de costos de producció permetrà aviat a molts estats i actors no estatals adquirir armes autònomes letals, fet que podria erosionar les normes fonamentals del dret internacional contra l’ús de la força. Una prova d’aquesta preocupació és que, des del 2013, el debat ha pujat d’intensitat en l’agenda de control d’armes de les Nacions Unides, i es tracta d’un tema del Consell de Drets Humans, de l'Assemblea General, i de la Convenció d’Armes Convencionals. No obstant això, mentre el desenvolupament d’armes autònomes letals segueix en una fase de gran acceleració i amb una despesa de milions de dòlars cada any, el debat públic i la rendició de comptes sobre la IA militar és clarament insuficient. Els professors del Pozo i Cortés han convingut que sense un debat més ampli correm el risc que la proliferació sense control de les armes autònomes o automàtiques letals pugui tenir diferents efectes perniciosos i contraproduents, començant per una inversió colossal i innecessària en una nova cursa armamentista, com que les noves armes autònomes letals siguin utilitzades per governants autoritaris i per tàctiques terroristes.

El cicle OEIAC, que va començar al mes de maig, ha comptat amb persones expertes, la majoria dones, que han tractat diferents temes relacionats amb l’ús de la IA,  des de consideracions ètiques, socials i legals, fins a qüestions sociotècniques com els biaixos en les dades, el disseny responsible de sistemes d’IA, la protecció de dades i la privacitat o la modelització participativa, entre d’altres.

En la cloenda del cicle, el director de l’OEIAC, Albert Sabater, ha destacat “la importància de realitzar un cicle d’aquesta mena sobre transferència de coneixement per a tothom que tingui interès sobre els riscos i oportunitats que representa la implantació cada vegada més generalitzada de la IA”.