Anar al contingut (clic a Intro)
UdG Home UdG Home
Tancar
Menú

Observatori d'Ètica en Intel·ligència Artificial

Blog Post OEIAC - ChatGPT ChatGPT Bang Bang

Albert Sabater, director de l'Observatori d'Ètica en Intel·ligència Artificial de Catalunya

Tal i com succeix amb aquell famós antic cotxe de carreres (el “Paragon Panther”) que es transforma en un vehicle meravellós que vola, planeja sobre l'aigua i viatja en un món ple d’aventures sense fi (el “Chitty Chitty Bang Bang”), OpenAI ha aconseguit transformar el vell chatbot en un vehicle que sembla transportar a la gent a un món màgic on l’art de la retòrica automàtica combina amb un efectisme il·lustrat pensat per als més impressionables. Però de la mateixa manera que el Chitty Chitty Bang Bang no ocupa els carrers de les nostres ciutats (malgrat que alguns ho han vaticinat vàries vegades), el nou cotxe de la IA, malgrat l'ajuda inestimable d'un exercit de persones que entrenen ChatGPT, encara no sembla haver trobat la solució per produir ni un Shakespeare ni tampoc el codi o software que Margaret Hamilton i el seu equip van crear per les missions Apol·lo.

Però això no ens hauria d’estranyar. La digitalització massiva de la nostra vida quotidiana és la font que ha donat lloc a la mare dels ous, o sigui Internet: un corpus extraordinàriament ampli però ple de soroll i que ChatGPT utilitza per predir i encadenar paraules d'una manera que imita els patrons de parla mentre proporciona un coneixement aparentment enciclopèdic (de moment amb dades fins a principis de 2022). Però malgrat les seves habilitats, no tan sols li manquen coses bàsiques com el sentit comú i la intencionalitat, també li falta molt per ser fiable i vàlid com a font de coneixement, més enllà de la versemblança de les seves respostes. Evidentment, millorarà amb més i millor entrenament, però aquesta eina no serà equiparable a raonar de manera complexa com ho fan les persones des d'un punt de vista aritmètic, algebraic i lògic, ja que això es presenta gairebé impossible, si més no perquè la ment humana té la capacitat d'acomodar i intercanviar proposicions d'aquesta mena a nivell abstracte. De fet, sabem que la tecnologia que sustenta aquests sistemes, els grans models de llenguatge o LLM, no tenen la capacitat d'entendre realment la complexitat del llenguatge i la conversa de les persones. Com a conseqüència, generen respostes que no són correctes o inadequades de manera sistemàtica per aquest motiu, però també s'equivoquen sovint per tasques concretes (els casos de l'empresa de salut mental Koko o del controvertit servei DoNotPay són ben coneguts) ja que no tenen la capacitat de comprendre realment el significat darrere les paraules que li proporcionen en forma de preguntes. D'aquí que les respostes que generi siguin, en molts casos, poc profundes i faltes de profunditat i visió. Però la constant exageració i mística de la IA generativa, de nou elevada a través dels mitjans de comunicació, i ara situada en el ChatGPT, fa que hi hagin malentesos constants sobre el que és la "intel·ligència artificial" i la "creació o generació" de continguts i, com a conseqüència, que es menysvalorin les nostres capacitats per uns interessos comercials, tal i com es demostra cada vegada que es parla d’utilitzar-la per substituir els humans.

Si bé aquesta part pot considerar-se el “Chatty Chatty” constant de substitució de la mà d’obra que l’automatització sempre genera per una sobrevalorització de la productivitat (des del moviment luddita a principis del segle XIX fins a economistes com Keynes i Leontief al segle XX), també ens hauria de preocupar i molt el “Bang Bang” del film de Ken Hugues, o sigui, el que suposa el ChatGPT en termes d’emissions de CO₂ o petjada de carboni. Si tenim en compte que el famós ChatGPT té una mitjana de 13 milions de visitants únics al dia (segons UBS), que les respostes són d’unes 30 paraules i que cada usuari fa unes 10 preguntes cadascun (assumpcions plausibles), estaríem parlant de gairebé 50 tCO₂e per dia, que és l’equivalent a 50 trajectes d’anada i tornada en avió entre Barcelona/París i Nova York. I això, sense tenir en compte les emissions de l'entrenament del model, de l’equip de l’usuari final que accedeix al ChatGPT, o de la petjada de carboni del núvol (emissions no GPU com xarxes, RAM i SSD, i el carboni del centre de dades). El pitjor és que l'escenari actual canviarà ràpidament i cal esperar que l'impacte del ChatGPT i d'altres similars sigui infinitament major si prenem en consideració que es tracta de serveis amb una demanda que creix molt ràpidament gràcies a la llaminera promoció i monetització de generació de continguts. A més, en el cas de ChatGPT, aquest s’integrarà a Bing (el cercador de Microsoft) que gestiona mig milió de cerques cada dia, el que significa que la famosa escabilitat del producte està servida i tothom en sentirà a parlar, tan si li agrada com si no. I, malauradament, la "rat race" no s’acaba aquí, com tampoc ho feien les transformacions i aventures del Chitty Chitty Bang Bang, ja que als desenvolupaments de OpenAI caldrà sumar-hi els de Google que preveu, com a mínim, uns 1000 milions d'usuaris amb Bard, i d’altres de similars com el de l’empresa xinesa Baidu, que també ha anunciat que farà el mateix amb el seu servei de cerques. És evident, doncs, que estem davant d’una carrera tecnològica en IA que, per tal d’assolir quotes de mercat pel que fa als motors de cerca d’alt rendiment amb l’ús de la IA generativa, farà augmentar de manera significativa o massiva la quantitat d’energia que les empreses tecnològiques requereixen i, és clar, la seva petjada de carboni en aquest procés sense precedents computacionals.

Per tant, cal que ens plantegem que, cada vegada que utilitzem el ChatGPT o quan fem una cerca a Internet a partir d'ara, hi haurà un augment significatiu en els recursos d'energia i refrigeració requerits pels grans centres de processament, amb tones de emissions associades en CO₂. De fet, els centres de dades es convertiran en els majors consumidors d'energia del món, passant del 3% del consum total d'electricitat el 2017 al 4,5% el 2025 segons recull siliconANGLE. I aquesta previsió sembla quedar-se curta amb la irrupció de la IA generativa que inclourà continguts de tot tipus (text, imatge, vídeos, so, etc.). Evidentment, això crea un gran problema, ja que tret que puguem crear opcions més sostenibles, "la IA consumirà més energia que la força de treball humana" tal i com apunta Gartner de cara al 2025. D’aquí que la mateixa indústria de la IA es plantegi solucions que puguin satisfer aquesta necessitat, perquè ara mateix, les arquitectures actuals de les unitats de processament de gràfics i de les unitats centrals de processament no poden funcionar de manera prou eficient per satisfer la demanda imminent. D’aquí que es pugui dir que el ChatGPT sigui un Bang Bang, i que els usos ètics de la IA al voltant de la sostenibilitat s’hagin d’abordar de forma urgent si volem resoldre els principals desafiaments plantejats per la IA generativa. Mentre això no succeix haurem de treballar amb un nou factor d'acceleració del canvi climàtic que segur que apareixerà en els debats de les properes COP i també en el marc de l'Agenda 2030 de les Nacions Unides sobre Desenvolupament Sostenible.

Notícies relacionades

Escull quins tipus de galetes acceptes que el web de la Universitat de Girona pugui guardar en el teu navegador.

Les imprescindibles per facilitar la vostra connexió. No hi ha opció d'inhabilitar-les, atès que són les necessàries pel funcionament del lloc web.

Permeten recordar les vostres opcions (per exemple llengua o regió des de la qual accediu), per tal de proporcionar-vos serveis avançats.

Proporcionen informació estadística i permeten millorar els serveis. Utilitzem cookies de Google Analytics que podeu desactivar instal·lant-vos aquest plugin.

Per a oferir continguts publicitaris relacionats amb els interessos de l'usuari, bé directament, bé per mitjà de tercers (“adservers”). Cal activar-les si vols veure els vídeos de Youtube incrustats en el web de la Universitat de Girona.