Entrevista OEIAC: Consideracions ètiques de l'equip AIMCAT
Anar al contingut (clic a Intro)
UdG Home UdG Home
UdG 30 anys
Tancar
Menú

Observatori d'Ètica en Intel·ligència Artificial

Entrevista OEIAC: Consideracions ètiques de l'equip AIMCAT

Fa unes setmanes vam tenir el privilegi de conèixer d'aprop el treball de l'equip que representarà Catalunya a l’AI Song Contest (AIMCAT), i seguint aquella trobada hem realitzat una entrevista a la Patrícia Ventura Pocino, que és la persona encarregada de portar a terme l’apartat sobre les consideracions ètiques del projecte.

Hola Patrícia, moltes gràcies a tu i a l'equip AIMCAT per accedir a aquesta entrevista de l'OEIAC, i per donar-nos més detalls sobre aquest interessantíssim projecte de creació musical amb intel·ligència artificial (IA).

Per situar-nos, què és l’AIMCAT i com vas conèixer el projecte?

AIMCAT som un equip de quaranta professionals de la creació artística i dels sectors audiovisual i tecnològic que treballem per aconseguir fer arribar Catalunya al podi de "l'Eurovisió" de la IA, l’AI Song Contest, en el que Catalunya competirà amb 49 equips d'una vintena de països d’arreu del món. La delegació catalana treballa en una candidatura genuïna escrita tant en models de codi obert com propis. Vaig conèixer el projecte a través de Tomas Nihlén, que és qui ha promogut aquesta iniciativa. En Tomas em va contactar perquè volia configurar un equip el més divers possible, que en l’àmbit tecnològic no és una tasca precisament senzilla.

Un aspecte sobre el projecte AIMCAT que presentareu a l’AI Song Contest és un informe sobre les seves consideracions ètiques. Quines són les consideracions més importants en un projecte creatiu d’aquest tipus?

D’entrada cal considerar els principis  transversals comuns a qualsevol projecte amb IA que, com saps, són la justícia, transparència, responsabilitat, explicabilitat, rendició de comptes, privacitat i també i fonamental, aquesta diversitat en els equips de treball. A més, hem tingut presents altres aspectes importants i específics  des de la perspectiva de la creació musical amb IA, que són les qüestions relacionades amb l’ús adient de les dades per evitar biaixos en les lletres, per exemple, o els temes relacionats amb els drets d’autor. També hem impulsat una reflexió interna sobre quin paper ha de tenir la IA en la creació musical en el futur. Per últim, hem avaluat com el projecte podia col·laborar a assolir els Objectius de Desenvolupament Sostenible, i n’hem identificat força, per cert.

Fins a quin punt creus que, al pensar-hi sobre aquestes consideracions ètiques, l’equip d’AIMCAT ha avançat d’una manera diferent en termes de gestió i organització, de dinàmiques de grup, responsabilitats, etc.?

La identificació inicial dels possibles problemes i l‘avaluació posterior del procés han ajudat a garantir que l’equip hagi fet tot el que estava a les seves mans per tal que el projecte s’adeqüés als estàndards ètics. Des d’un principi tots hem tingut presents aquells aspectes als que havíem de parar atenció i tota la informació per aprofundir-hi si en algun cas ha estat necessari. Al final, cada persona ha fet la seva pròpia valoració ètica des del punt de vista de la seva disciplina i procés, i el resultat denota de manera clara una gran consciència ètica col·lectiva que s’ha acabat imprimint en el projecte global.

Un aspecte que ha transcendit és que tothom de l’equip d’AIMCAT signarà com a autor/a. Això també inclou els sistemes d’intel·ligència artificial que han permès desenvolupar la cançó? (Podem explicar alguna cosa sobre la responsabilitat i l’aspecte legal de copyright, que no inclou les màquines...?)

Aquest aspecte en concret s'ha tractat amb la SGAE de cara a trobar el millor encaix legal. De tota manera, se'ns transmet que ara mateix existeix un buit legal a Europa que s'està mirant de cobrir amb una legislació adient. D'entrada ens cenyirem a la legislació existent, però com a associació AIMCAT estarà pendent dels avenços en aquest sentit. Serà interessant conèixer la interpretació de les altes instàncies jurídiques europees.

Una altra característica del vostre equip d’AIMCAT és la seva diversitat. Ens podries descriure una mica aquesta diversitat i la seva importància?

Per descomptat! L’equip, com et deia, és molt divers: d’entrada es tracta d’un grup multidisciplinar en el que, al seu torn, hi participen persones que s’especialitzen en més de 2 àrees. Predomina la creació musical i audiovisual, les especialistes en IA i ciència de les dades. També hi participen desenvolupadors i dissenyadores, i n’hi ha que es dediquen a l’escriptura, a la filosofia, a la comunicació i fins i tot a la psicologia o  a la investigació biomèdica. Totes les franges d’edat hi són representades (incloent-hi les de menys de 25 anys i les majors de 65 anys). Pel que fa al gènere, el masculí predomina, no obstant, el femení  supera en 15 punts la mitjana de la UE en dones especialitzades en l’àmbit tecnològic. L’equip ha integrat persones que pateixen discapacitats i és internacional, de fet l’impulsor de la iniciativa, en Tomas, és nascut a Suècia. També hi participen persones d’Islàndia i de Portugal. La representació nacional a l’equip és majoritària de localitats de fora de Barcelona: Mallorca, Lleida, Vic, Banyoles, Girona, entre moltes d’altres! Aquesta varietat és molt important per garantir que el projecte compti amb el màxim de punts de vista.

En la teva opinió, creus que la utilització de sistemes d’intel·ligència artificial ha augmentat o debilitat el procés de creació musical? Per exemple, us ha augmentat o limitat en seguir la vostra intuïció, en tenir imprevisibilitat creativa o en emocionar-vos a mida que anàveu composant, tocant, cantant, etc.?

Ha augmentat el procés de creació musical. El procés es tracta d’una retroalimentació contínua entre les dues parts i l’equip creatiu emfatitza que la IA ha resultat una eina que ha permès explorar noves maneres de crear. De fet, ha obligat tot l'equip de producció a crear des de fora de la seva zona de confort. Això és de les millors coses que li pot passar a un creador. Cada vegada que la tecnologia ha dotat la música d'un nou instrument, o mitjà, la música ha evolucionat. A veure quines noves músiques inspira la IA ...

Fins a quin punt creus que els oients de la vostra música han de saber que una part significativa ha estat possible gràcies a la utilització de sistemes d’intel·ligència artificial?

Aquest també ha estat un debat que hem impulsat internament. En el cas d’AIMCAT ho expliquem de la manera més transparent possible, entre d’altres coses perquè detallar la participació humana i màquina és un requeriment de l’organització, però també ho fem de manera proactiva a través dels mitjans de comunicació com dels mitjans propis i les xarxes socials.

Per cert, hi haurà una versió en anglès i català, però també una versió únicament en català i una altra en anglès, penjades a la plataforma Soundcloud. Aquesta plataforma permet introduir breus comentaris que apareixen a mesura que avança la cançó. En aquests comentaris especifiquem quines eines hem usat i exactament quan apareixen.

En la teva opinió, consideres que la utilització de la intel·ligència artificial en la música i en l’art en general genera més rebuig o acceptació? Per què?

Genera rebuig perquè tenim la sensació que erosiona la nostra capacitat de judici i pensament crític. Es podria dir que a mesura que deleguem, renunciem a la nostra autonomia individual, cosa que fins i tot qüestiona els fonaments de la societats liberals segons alguns autors que hi han reflexionat àmpliament (Lassalle, Koenig, Harari). Alguns també consideren que la capacitat humana per decidir lliurement s’està col·lapsant, i que arribarà un moment que no podrem apagar les màquines perquè en serem dependents en excés. Crec que tot això passa perquè la tecnologia avança a una velocitat superior a la capacitat humana per entendre-la, posar-la a disposició de les seves finalitats i regular-ne el seu ús des del punt de vista ètic i jurídic. Per sort, en aquest sentit també avancem. La declaració de Barcelona és una de les més importants en aquest sentit i, darrerament, la UE ha fet un gran pas amb la Proposta de Reglament sobre un enfocament europeu per a la intel·ligència artificial (IA), el primer marc legal sobre aquesta tecnologia. Per això crec que tot projecte, fins i tot la creació musical, requereix ser avaluat i comunicat des de la perspectiva de l’ètica, que es pot resumir en la capacitat de fer equip amb la tecnologia i posar-la al servei de les finalitats humanes.

Mirant al futur, creus que els sistemes d’intel·ligència artificial substituiran o complementaran cada vegada més les persones involucrades en la indústria musical?

Crec que la IA ha d’ajudar l’ésser humà a assolir les seves fites, en la creació musical i en qualsevol altre àmbit. Aquest és un altre dels temes que hem posat sobre la taula des del projecte d’ètica d’AIMCAT. En la seva majoria, l’equip opina que resultarà una eina de creació potent que ajudarà els músics, incentivarà la seva creativitat i els permetrà explorar noves idees i mètodes de treball. Tanmateix també existeix un grau d’incertesa sobre com s’acabarà integrant la IA en el futur de la creació. 

Creus que l’experiència d’AIMCAT podria acabar sent un projecte de bones practiques en la indústria musical i cultural catalana que pensa o ja utilitza sistemes d’intel·ligència artificial?

Ens agradarà que sigui així. De fet, un dels motius de constituir-nos com associació AIMCAT és per esdevenir un punt d'intersecció de les arts i els sistemes tecnològics punters, i així poder contribuir a detectar i fixar les millors pràctiques en aquest nou camp encara tan poc explorat.

Moltes gràcies Patrícia, i molta sort a tot l'equip AIMCAT en l'edició d'enguany de l'AI Song Contest!!

Recordeu que podeu seguir tota la seva activitat a través del seu compte de Twitter @AImCAT2021

Notícies relacionades

Escull quins tipus de galetes acceptes que el web de la Universitat de Girona pugui guardar en el teu navegador.

Les imprescindibles per facilitar la vostra connexió. No hi ha opció d'inhabilitar-les, atès que són les necessàries pel funcionament del lloc web.

Permeten recordar les vostres opcions (per exemple llengua o regió des de la qual accediu), per tal de proporcionar-vos serveis avançats.

Proporcionen informació estadística i permeten millorar els serveis. Utilitzem cookies de Google Analytics que podeu desactivar instal·lant-vos aquest plugin.

Per a oferir continguts publicitaris relacionats amb els interessos de l'usuari, bé directament, bé per mitjà de tercers (“adservers”). Cal activar-les si vols veure els vídeos de Youtube incrustats en el web de la Universitat de Girona.