La intel·ligència artificial i les seves (obscures) relacions amb el poder polític i militar

L’augment de la quantitat i la diversitat d’informació sobre ciutadans o votants que floten pel ciberespai ha fet que els polítics, els governs i els grups socials tinguin més eines a la seva disposició que mai per impulsar agendes polítiques i candidats. El fet que la IA s’hagi incorporat a la majoria d’eines d’anàlisi de dades de campanyes, plataformes d’intel·ligència d’enquestes i estratègies de publicitat política denota el nou rol de la IA en el sistema polític. No obstant, aquesta implantació de la IA no està exempta de riscos i influències potencialment perilloses. Entre altres coses, la IA es pot utilitzar per difondre notícies falses, manipular psicològicament els votants susceptibles a través d’apel·lacions emocionals dirigides i, fins i tot, amagar la dissidència a través d’exèrcits de bots. Malgrat hem estat sempre vulnerables a ser enganyats, provocats o manipulats, l’ús de la IA ha facilitat un canvi d’escala i una immediatesa sense precedents mitjançant algoritmes que comproven continguts una i altra vegada en milions de persones i a gran velocitat. A diferència del pamfletisme o de la distribució massiva de fulletons, l’ús de la IA permet una selecció constant de les persones amb més probabilitats de ser-ne susceptibles, un fet que pot representar una amenaça per a la llibertat de les persones com a individus i ciutadans democràtics. Per aquesta raó, cal un coneixement més enllà que el superficial de la tecnologia de la IA per tal d’examinar críticament els beneficis, els inconvenients i els possibles riscos associats al desplegament massiu de tecnologia IA i, en última instància, protegir la democràcia de les influències potencialment perilloses.

Un altre tema cabdal és la relació de la IA amb el poder militar. El ràpid desenvolupament de sistemes d’IA i la seva normalització en l’esfera comercial també ha fet que hi hagi una acceptació cada vegada més gran de la IA per part de diferents potencies militars, especialment en relació al desenvolupament d’armes autònomes letals (els anomenats “killer robots”). En l’actualitat, el seu desenvolupament es concentra en uns quants països/regions (EUA, Xina, Rússia, Corea del Sud i la UE) que tenen els recursos necessaris per invertir en robòtica avançada i en investigació d’IA. Cal preveure, però, que la disminució de costos de producció permetrà aviat a molts estats i actors no estatals adquirir armes autònomes letals, fet que podria erosionar les normes fonamentals del dret internacional contra l’ús de la força. Una prova d’aquesta preocupació és que, des del 2013, el debat ha pujat d’intensitat en l’agenda de control d’armes de les Nacions Unides, i es tracta d’un tema del Consell de Drets Humans, de l'Assemblea General, i de la Convenció d’Armes Convencionals. No obstant, mentre el desenvolupament d’armes autònomes letals segueix en una fase de gran acceleració i amb una despesa de milions de dòlars cada any, el debat públic i la rendició de comptes sobre la IA militar és clarament insuficient. Sense un debat més ampli, correm el risc que la proliferació sense control de les armes autònomes letals pugui tenir diferents efectes perniciosos i contraproduents, començant per una inversió colossal i innecessària en una nova cursa armamentista, com que les noves armes autònomes letals siguin utilitzades per governants autoritaris i per tàctiques terroristes.

L’objectiu d’aquest darrer esdeveniment del Cicle de Seminaris de l’OEIAC és tractar aquests dos temes centrals tenint en compte algunes de les principals relacions de la IA amb els poders polític i militar. En aquest acte de cloenda també farem un repàs dels diferents temes que s’han tractat al llarg del primer Cicle OEIAC per tal d’aportar reflexions i obrir preguntes sobre el futur de la IA i les seves consideracions ètiques i d’impacte social. Per aquest esdeveniment comptarem amb la participació i aportació inestimable dels professors Joan Manuel del Pozo (Universitat de Girona) i Ulises Cortés (Barcelona Supercomputing Center, Centro Nacional de Supercomputación).

Al canal de Youtube de la Universitat de Girona podeu veure alguns vídeos promocionals sobre l'esdeveniment.

Pòster de cloenda del cicle de seminaris

Cliqueu aquí per accedir al formulari d'inscripció online