Johnny Ryan, The Guardian [ Peščanik ]

stav

Isključite algoritme

Najnoviji pokušaji direktnog političkog miješanja Ilona Maska ilustruju ozbiljnu opasnost s kojom se suočava Evropa.

Piše: Johnny Ryan

Najprije je predložio svrgavanje britanske vlade i pitao da li bi „Amerika trebalo da oslobodi narod Britanije od njegove tiranske vlasti“. Tri dana kasnije, u živom prenosu diskusije na platformi X, čiji je vlasnik, ugostio je kandidatkinju krajnje desnice za kancelarku na predstojećim izborima u Njemačkoj. Po svemu sudeći, oba javna istupa vidjelo je više miliona ljudi zahvaljujući podešenim algoritmima.

Početkom mjeseca takođe smo saznali i da bi Maskova kompanija Space X mogla da uđe u posao sa značajnim dijelom italijanske odbrambene mreže.

Evropski lideri bi ove postupke trebalo da shvate kao znak onoga što nam se sprema. Budalasto smo dopustili da se kontrola digitalnih medija i infrastrukture koncentriše u rukama nekolicine američkih tehnoloških oligarha. Krupni tehnološki biznis je sada oruđe Donalda Trampa.

Džef Bezos je sterilisao Vašington post, Mark Zakerberg je ukinuo moderaciju sadržaja na Meti, dok će Gugl vjerovatno slijediti njihov primjer. Američki tehnološki oligarsi – Bezos, Zakerberg, Sundar Pičaj, Sem Altman, Tim Kuk i Satja Nadela iz Majkrosofta – dali su Trampu donacije od po milion dolara za inauguraciju.

Tramp je bacio oko na Evropu, a krupna tehnologija je sada pod njegovim okriljem. Zakerberg je nedavno na podkastu Džoa Rogana rekao da vjeruje da će Trampova administracija braniti krupne američke tehno kompanije od Evropske unije. Poučna je prijetnja koju je budući Trampov potpredsjednik Vans izrekao u novembru, da će SAD finansijski izgladnjivati NATO ako EU primijeni svoja pravila protiv mreže X.

Evropa je u makazama između zapada i istoka. Tokom proteklih mjeseci, Rusija je zamalo uspjela sa uplitanjem u izbore u državi članici EU Rumuniji i kandidatu za članstvo u EU Moldaviji, koristeći TikTok i Metu. Priča se da bi Mask mogao da kupi i američki ogranak TikToka.

Ovo je kriza. Liberalna demokratija će biti raskomadana ukoliko Ursula fon der Lajen i visoka predstavnica EU za bezbjednost Hena Virkunen ne preduzmu brze i promišljene mjere. Američki i kineski tehnološki oligarsi kontrolišu algoritme koji oblikuju način na koji Evropljani vide svijet na društvenim mrežama. Njihovi sistemi pojačavaju gnijev i okreću naše zajednice jedne protiv drugih. Zabilježeno je i da promovišu samopovređivanje i samoubistvo na dječijim nalozima.

Šta bi Evropa trebalo da uradi? Brisel mora da razbije manipulativnu mašineriju krupne tehnologije. Zakerbergova najava da će Meta ukinuti timove za provjeru činjenica na svojim mrežama ne znači ništa. Čelnici kompanije su odavno svjesni da nikakvo moderiranje sadržaja ne može da riješi problem koji je napravio njen vlastiti algoritam. U internom istraživanju koje je prije dvije godine procurilo u javnost, izričito se kaže: „Nikada nećemo ukloniti sve što je štetno iz komunikacionog medija koji koristi toliko mnogo ljudi, ali bar bismo mogli da umanjimo širenje štetnog sadržaja kroz neprirodnu distribuciju.“

U analizi Fejsbukovih algoritama iz 2016. navodi se da je „64% slučajeva pridruživanja ekstremističkim grupama posljedica naših alata za preporuke… naši sistemi za preporuke produbljuju problem“. Ipak, Zakerberg je jedva pomenuo algoritme, osim što je rekao da će od sada Meta pojačati preporuke političkog sadržaja.

Fon der Lajen i Virkunen bi trebalo hitno da urade tri stvari za zaštitu demokratije. Prvo, treba radikalno ubrzati pravne postupke u skladu sa Zakonom o digitalnim uslugama protiv korišćenja algoritama koji manipulišu političke debate.

Drugo, treba izvršiti ozbiljan politički pritisak na Irsku i prinuditi je da primeni propise Evropske unije o zaštiti podataka – Opštu uredbu o zaštiti podataka (GDPR) – protiv krupnih tehno kompanija. To je od suštinskog značaja jer se njihovi algoritmi hrane intimnim podacima o našim sklonostima i motivaciji i drže nas prikovane za ekran kako bi prodali što više oglasa. GDPR zabranjuje obradu ličnih podataka koji otkrivaju naše političke stavove, uvjerenja i seksualne želje, ukoliko nismo pristali da uključimo sistem takve obrade, uz upozorenje na posljedice i ponovljen zahtjev da potvrdimo da je to zaista ono što hoćemo. Tehnološke platforme to ne rade.

Dosljedna primjena tih pravila bi momentalno isključila algoritme krupnih tehno kompanija i vratila X i ostale platforme u zlatno doba prije 2014. Odluke o tome šta će reći, vidjeti i podijeliti sa svojim prijateljima ponovo bi donosili ljudi, a ne algoritmi.

Međutim, jedna rupa u evropskom zakonu omogućava irskoj Komisiji za zaštitu podataka (DPC) jedinstvenu poziciju u vođenju istraga i postupaka protiv krupnih tehnoloških kompanija zbog zloupotrebe podataka za čitavu Evropu. Ova irska služba je vodeći GDPR autoritet za Jutjub i Gugl, Metu, TikTok, Majkrosoft i Epl – jer se evropska sjedišta svih tih kompanija nalaze upravo u Irskoj.

To je paralisalo primjenu EU zakona protiv kompanija čije mahinacije sa ličnim podacima irski DPC u velikoj mjeri nije osporio. Nešto malo ograničene primjene zakona uglavnom je rezultat pritiska drugih nadzornih organa u EU. Kada su druge nacionalne službe za zaštitu podataka kolektivno odlučile da irski DPC mora da istraži kako Meta koristi najintimnije podatke ljudi, umjesto da istraži poslovanje Mete, DPC je tužio evropske službe. Evropski sud tek treba da donese odluku o tom slučaju.

Iznenađujuće, Irska ne trpi značajan pritisak iz Brisela da prestane da usporava primjenu zakona. Za to vrijeme, posljedice nasumične ili pogrešne primene GDPR-a trpe evropska mala preduzeća, dok svima iskaču besmisleni upiti za saglasnost.

Treće, nacionalne vlasti širom Evrope treba da preduzmu ozbiljne mjere, pa čak i da isključe algoritme krupnih tehnoloških kompanija sa svojih tržišta (možda putem direktive o audiovizuelnim medijskim uslugama, u velikoj mjeri zanemarenog propisa EU koji reguliše audiovizuelni sadržaj) ako se odupru regulaciji. U suprotnom, države bi mogle da pribjegnu manje ciljanim mjerama, kao što je aktuelna namjera Albanije, kandidatkinje za članstvo u EU, da zabrani TikTok na godinu dana.

Na duge staze, Brisel bi trebalo da ukloni preostale regulatorne barijere između zemalja-članica koje sprečavaju da se evropski tehnološki startapi šire izvan svojih granica. Evropi je takođe potrebna digitalna infrastruktura koja se ne oslanja na strane sile.

Ubrzan proces odvajanja od ruske energije pokazao je da Evropa može da djeluje odlučno. Fon der Lajen mora da reaguje brzo i smjelo. Evropskoj demokratiji prijeti velika opasnost. To je bitka koja se ne može izbjeći.

Autor je direktor odjeljenja za primjenu prava na internetu Irskog savjeta za građanske slobode.

Mišljenja izrečena u komentaru ne odražavaju nužno stavove RTCG