Anar al contingut (clic a Intro)
UdG Home UdG Home
Tancar
Menú

Observatori d'Ètica en Intel·ligència Artificial

Blog Post OEIAC - Xarxes socials, violència simbòlica i adolescència

Albert Sabater, director de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya

Les xarxes socials s’han convertit en grans plataformes per a l’exercici del poder ja que els productors i compartidors de continguts poden crear múltiples narratives que impacten en l'estructuració de la societat. Però no tan sols això, les xarxes socials també s’han convertit en una escena de violència simbòlica, on l’ús del poder sobre els altres per fer-los fer alguna cosa en contra de la seva voluntat és constant. D’aquí que hagin esdevingut un problema social amb múltiples derivades. Una de recent i molt preocupant té a veure amb la correlació, cada cop més evident, entre l'ús de les xarxes socials i la salut mental de les persones adolescents. Aquest problema social té la naturalesa de violència simbòlica ja que, en la  majoria dels casos, és una violència invisible que no es pot veure amb claredat sense una comprensió crítica i profunda de les persones que l’experimenten.

En aquest sentit, les definicions estretes de dany, violència i perill que fan servir les plataformes de xarxes socials no només són insuficients, sinó que donen lloc a que aquestes plataformes imposin concepcions de què és la violència, de com es manifesta, de qui afecta i amb quins mecanismes. De fet, més enllà de les preocupacions dels usuaris, les plataformes de les xarxes socials tendeixen a desenvolupar i recolzar-se en solucions tecnològiques basades en intel·ligència artificial (IA) per identificar i gestionar contingut nociu i així minimitzar els costos associats a la moderació de continguts per part de persones. No obstant això, aquestes tecnologies sovint no detecten casos de dany que són complexos com, per exemple, els discursos d'odi. A més, paradoxalment, la tecnologia s’utilitza per reconfigurar la intencionalitat i la causalitat en un intent d'evitar que els usuaris siguin "nocius", cosa que, irònicament, perpetua el dany segons una recent investigació a Policy & Internet.

Però això no és tot. Sabem que les xarxes socials estan dissenyades per enganxar el nostre cervell, i els adolescents són especialment susceptibles a la seva addicció. En aquesta relació cal subratllar, de nou, el usos no ètics de la IA. Aquesta és utilitzada de manera sistemàtica tant per augmentar el consum com per a la construcció de la identitat corporal dels adolescents, ja que intervé a través de filtres cosmètics per distorsionar la manera com els adolescents es veuen a si mateixos. També fa que els usuaris joves estiguin exposats a un major risc d'insatisfacció corporal que pot provocar un augment de la depressió i l'ansietat, de la baixa autoestima, de trastorns alimentaris, de problemes d'imatge corporal i de pensaments suïcides. Per tant, més enllà de l’addicció, podem veure que hi ha una violència simbòlica que afecta seriosament la salut mental de les persones adolescents, i el seu impacte negatiu no comença i s’acaba en el món virtual, també es trasllada al món real i té efectes amenaçadors i devastadors per les persones i la societat que experimenta les seves conseqüències més negatives.

A més, tenint en compte que l'adolescència és el segon període més gran de desenvolupament i creixement del cervell, les xarxes socials poden tenir un gran impacte en el cervell adolescent. En aquesta línia, un estudi recent publicat al Journal of the American Medical Association (JAMA) va revelar que els adolescents que utilitzen les xarxes socials més de tres hores al dia poden tenir un major risc de problemes de salut mental. No és d'estranyar si tenim en compte que la vida social dels adolescents s’ha convertit principalment en digital, en particular des de la pandèmia de la Covid-19. A això cal sumar-hi que en l’equilibri de preocupacions, les empreses que controlen les xarxes socials tendeixen a posar més el focus en guanyar diners que no pas en la salut mental dels seus usuaris adolescents. D’aquí que per augmentar la retenció de les persones adolescents a xarxes socials com TikTok, Instagram o Facebook, s’utilitzi de nou la IA per optimitzar la seva taxa de clics i la seva exposició comercial a productes i serveis generalment inapropiats per les seves edats.

Així doncs, cal preguntar-nos seriosament fins quan ho permetrem?

Les investigacions acadèmiques i les investigacions de les mateixes companyies com Facebook demostren que xarxes socials com Instagram són tòxiques per a les persones adolescents i suposen un problema important de salut mental (malgrat que la companyia ho minimitza en públic). Les darreres evidències de l'enquesta de conducta de risc juvenil dels USA publicada recentment per l’organisme CDC, descriuen una tendència de taxes creixents de depressió, ideació suïcida i suïcidi, especialment en noies adolescents. Concretament, en aquest darrer estudi s’afirma que les noies "experimenten un nivell de trauma i angoixa que requereix una acció immediata".

Deia el filòsof canadenc Marshall McLuhan que “no hi ha absolutament cap inevitabilitat, sempre que hi hagi voluntat de contemplar el que està passant”. En l’actualitat ja sabem que està passant i, encara pitjor, el que pot succeir si no fem res. És per aquesta raó que, segons algunes veus d’aquí i d’arreu del món, tant les noies com els nois s'haurien de mantenir fora de les xarxes socials, almenys fins que compleixin 16 anys. Sabem que els humans sempre hem estat buscant maneres d'utilitzar la tecnologia per augmentar les nostres habilitats i possibilitats, però també sabem que el nostre propi cos es veu molt afectat i alterat per les tecnologies que fem servir. No partim de zero per tal de contemplar el que està passant. L’any 1926 es va establir l'edat mínima de conducció (16 anys) per als automobilistes als Estats Units, 13 anys després que la cadena de muntatge d’Henry Ford fes que els cotxes fossin assequibles i accessibles. Per a algunes famílies, especialment les rurals, tenir adolescents més joves que poguessin conduir era una part important de la vida diària però, com en l’actualitat, hi havia preocupacions sobre si les persones adolescents estaven preparades per conduir i si podien o no assumir la responsabilitat de conduir. Evidentment, les solucions no tan sols passen per un augment de restriccions per edat a les xarxes socials. Veient els espais d’interacció física saturats de mòbils, especialment a les escoles i instituts, també caldran altres accions com les d’espais sense mòbil, no tan sols per reduir la violència simbòlica sinó també per evitar que les vides de les persones durant l’adolescència es consumeixin en línia.

Notícies relacionades

Escull quins tipus de galetes acceptes que el web de la Universitat de Girona pugui guardar en el teu navegador.

Les imprescindibles per facilitar la vostra connexió. No hi ha opció d'inhabilitar-les, atès que són les necessàries pel funcionament del lloc web.

Permeten recordar les vostres opcions (per exemple llengua o regió des de la qual accediu), per tal de proporcionar-vos serveis avançats.

Proporcionen informació estadística i permeten millorar els serveis. Utilitzem cookies de Google Analytics que podeu desactivar instal·lant-vos aquest plugin.

Per a oferir continguts publicitaris relacionats amb els interessos de l'usuari, bé directament, bé per mitjà de tercers (“adservers”). Cal activar-les si vols veure els vídeos de Youtube incrustats en el web de la Universitat de Girona.