Interactiunile zilnice ale oamenilor cu algoritmii online afecteaza modul in care invata de la ceilalti, cu consecinte negative, inclusiv perceptii sociale gresite, conflicte si raspandirea dezinformarii.
Oamenii interactioneaza din ce in ce mai mult cu ceilalti in mediile de social media unde algoritmii controleaza fluxul de informatii sociale pe care le vad. Algoritmii determina in parte ce mesaje, ce persoane si ce idei vad utilizatorii de retele sociale.
Pe platformele de social media, algoritmii sunt proiectati in principal pentru a amplifica informatiile care sustin angajamentul, ceea ce inseamna ca ii fac pe oameni sa faca clic pe continut si sa revina la platforme. Sunt psiholog social, iar eu si colegii mei am gasit dovezi care sugereaza ca un efect secundar al acestui design este ca algoritmii amplifica informatiile din care oamenii sunt puternic partinitori sa invete. Numim aceste informatii „PRIME”, pentru informatii prestigioase, in grup, morale si emotionale.
In trecutul nostru evolutiv, partinirile de a invata din informatiile PRIME erau foarte avantajoase: a invata de la indivizi prestigiosi este eficient, deoarece acesti oameni au succes si comportamentul lor poate fi copiat. Acordarea atentiei persoanelor care incalca normele morale este importanta deoarece sanctionarea acestora ajuta comunitatea sa mentina cooperarea.
Dar ce se intampla atunci cand informatiile PRIME devin amplificate de algoritmi si unii oameni exploateaza amplificarea algoritmului pentru a se promova? Prestigiul devine un semnal slab de succes, deoarece oamenii pot falsifica prestigiul pe retelele de socializare. Fluxurile de stiri devin suprasaturate cu informatii negative si morale, astfel incat exista mai degraba conflict decat cooperare.
Interactiunea psihologiei umane si amplificarea algoritmului duce la disfunctionalitati, deoarece invatarea sociala sprijina cooperarea si rezolvarea problemelor, dar algoritmii de social media sunt proiectati pentru a creste implicarea. Numim aceasta nepotrivire nealiniere functionala.
De ce conteaza
Unul dintre rezultatele cheie ale nealinierii functionale in invatarea sociala mediata de algoritm este ca oamenii incep sa-si formeze perceptii incorecte asupra lumii lor sociale. De exemplu, cercetari recente sugereaza ca atunci cand algoritmii amplifica in mod selectiv opiniile politice mai extreme, oamenii incep sa creada ca in grupul lor politic si grupul lor extern sunt mai puternic divizate decat sunt in realitate. O astfel de „polarizare falsa” ar putea fi o sursa importanta de conflict politic mai mare.
Algoritmii retelelor sociale amplifica opiniile politice extreme.
Nealinierea functionala poate duce, de asemenea, la o mai mare raspandire a dezinformarii. Un studiu recent sugereaza ca oamenii care raspandesc dezinformari politice folosesc informatiile morale si emotionale – de exemplu, postarile care provoaca indignare morala – pentru a-i determina pe oameni sa le distribuie mai mult. Cand algoritmii amplifica informatiile morale si emotionale, dezinformarea este inclusa in amplificare.
Ce alte cercetari se fac
In general, cercetarea pe acest subiect este la inceput, dar apar noi studii care examineaza componentele cheie ale invatarii sociale mediate de algoritmi. Unele studii au demonstrat ca algoritmii de social media amplifica in mod clar informatiile PRIME.
Daca aceasta amplificare duce la polarizare offline este aprig contestat in acest moment. Un experiment recent a gasit dovezi ca fluxul de stiri al lui Meta creste polarizarea, dar un alt experiment care a implicat o colaborare cu Meta nu a gasit nicio dovada ca polarizarea creste din cauza expunerii la fluxul lor algoritmic de stiri Facebook.
Sunt necesare mai multe cercetari pentru a intelege pe deplin rezultatele care apar atunci cand oamenii si algoritmii interactioneaza in buclele de feedback ale invatarii sociale. Companiile de retele sociale au cele mai multe dintre datele necesare si cred ca ar trebui sa le ofere cercetatorilor academicieni acces la acestea, echilibrand totodata preocuparile etice precum confidentialitatea.
Ce urmeaza
O intrebare cheie este ce se poate face pentru ca algoritmii sa favorizeze invatarea sociala umana precisa, mai degraba decat sa exploateze prejudecatile invatarii sociale. Echipa mea de cercetare lucreaza la noi modele de algoritmi care maresc implicarea in timp ce penalizeaza informatiile PRIME. Sustinem ca acest lucru ar putea mentine activitatea utilizatorilor pe care o cauta platformele de retele sociale, dar, de asemenea, poate face perceptiile sociale ale oamenilor mai precise.
