Nove tehnologije segajo v vse pore življenja. Omejevanje epidemije z orodji umetne inteligence nam vsiljuje nova tveganja v kibernetski varnosti. Se jih premalo zavedamo?
Res se teh nevarnosti premalo zavedamo, in sicer zato, ker si ne predstavljamo dobro, kako tesno je informacijska tehnologija prepletena z našimi življenji. Družbena omrežja, igrice in spletišča za predvajanje vsebin še zmeraj razumemo kot televizijo, kot da je klik na film enako, kot je bila včasih izposoja videokasete oziroma zgoščenke, ali kot da je igranje igric na pametnih telefonih enako kot igranje namiznih iger. Toda med televizijo, namiznimi igrami in spletom obstaja bistvena razlika: interaktivnost. Vsi naši kliki se lahko nekje beležijo in programi na podlagi zapletenih ter natančnih statističnih postopkov lahko spremljajo naše obnašanje na spletu.
Ter posledično zbirajo podatke o nas.
Če smo včasih kupili zgoščenko in jo vtaknili v predvajalnik, nihče ni vedel, kdaj in kakšen film gledamo: blagajničar od nas ob nakupu ni zahteval identifikacije in naša izbira se ni nikamor zabeležila. Danes pa je drugače: če si na spletišču izberem ogled filma, se to lahko shrani v zgodovino brskanja in algoritmi lahko izdelajo natančen profil mojih želja, ki jim potem prilagodijo ponudbo. Na podlagi mojega igranja videoigre danes lahko nekdo izdela moj psihološki profil, vidi, katere probleme rešujem bolje in pri katerih sem slabši, saj se lahko vse poteze v igri beležijo. Če v igri sodeluje veliko ljudi, lahko v resnici lastnik igre izvede psihološko raziskavo na delu družbe. To je nekaj drugega kot igranje štiri v vrsto z družinskim članom ali šahiranje za leseno šahovnico s prijateljem.
Še nedavno smo mislili, da smo na spletu nevidni, anonimni. V resnici smo bili neobveščeni in malomarni.
Nekdo je rekel, da s tem, ko brskamo po spletu, splet še toliko bolj brska po nas. Še en primer: če pogledaš v tiskani slovar, kaj beseda pomeni, nihče razen tebe ne ve, da si to storil; takoj, ko pa geslo vtipkaš v brskalnik, se iskanje lahko shrani. Ironično je, da so si včasih ljudje boga predstavljali kot vsevidnega, čeprav jih v njihovi zasebnosti razen lastne vesti ni spremljal nihče, danes pa se je občutek anonimnosti in izgubljenosti razširil, čeprav algoritmi spremljajo vsak naš klik – in tudi dobesedno naš korak, če imamo vklopljen GPS in telefon v žepu.
Kaj menite o aplikacijah, ki naj bi pomagale slediti rizičnim stikom v epidemiji?
Po mojem občutku niso tako zelo sporne, ker je nad njimi vsaj pri nas relativno strog nadzor. Bolj problematične se mi zdijo komercialne aplikacije, ki si jih sami snamemo in potrdimo njihove pogoje uporabe, ne da bi jih zares prebrali, saj za to nimamo dovolj časa, znanja ali volje. S tem se zasužnjimo sami, medtem ko smo na korake, ki jih dela država, vsaj za zdaj še pozorni. Seveda se to lahko spremeni in v tem primeru lahko pride do katastrofe, saj so orodja za strojno zbiranje in analizo podatkov kot »Udba na steroidih« in totalen nadzor posameznikov, nadzor, ki je bistveno globlji od nekdanjih kartotek »sumljivih« državljanov. Danes podatkovno rudarjenje samodejno izlušči podatke za učinkovit nadzor, tajni agenti so tako rekoč algoritmi sami.
V Italiji, na primer, so že v obdobju prvega vala epidemije za nadzor nad kršitvami karantene uporabljali drone, ti so s termokamerami merili, ali imajo ljudje vročino. In kako so to opravičevali? Da je v teh razmerah zdravje ljudi pomembnejše od njihove zasebnosti. Pa je res?
To je lahko zelo problematično početje. V filozofiji poznamo izraz »biopolitika«, uporabljal ga je francoski filozof Michel Foucault, govori pa o tem, da je od obdobja razsvetljenstva – torej nekje od 18. stoletja naprej – politika osredotočena na povečevanje in varovanje »življenja«. Tega čedalje bolj regulira državna administracija, pojavijo se higienske službe, opravlja se nadzor nad rodnostjo in tako naprej. Načeloma to ni nujno narobe, lahko pa vendarle ima hude stranske posledice: tiste, ki so bolni ali se jih sumi, da so kužni, se lahko v imenu javnega zdravja še bolj izolira. Revni ljudje tako postanejo samo še bolj izpostavljeni, medtem ko bogati še bolj bogatijo. Žal se to dogaja tudi med trenutno pandemijo. Če v biopolitiko vključimo še informacijske tehnologije, lahko pristanemo v točki, ko naše zdravje ni več naša zasebna stvar, temveč podatek, ki se statistično obdeluje in bodisi omogoča bodisi onemogoča dostop do dobrin.
Obstajajo celo kamere, ki preverijo, ali nosiš masko. Če imaš povišano temperaturo ali ne nosiš maske, naprava zapiska. Kamera, ki jo nekatera italijanska podjetja že uporabljajo, lahko zapre vrata ali pokliče pristojne. Zdi se, da je epidemija dala krila umetni inteligenci za nadzor nad ljudmi.
V navedenih primerih je odločitev za pridržanje oziroma za odvzem prostosti tako rekoč avtomatizirana, prepuščena stroju. Gre za izjemno sporno prakso, saj vidimo, da se razvoj tehnologije čedalje bolj giblje proti tako imenovanim »avtonomnim sistemom«, napravam, ki so se sposobne same »odločati«. Veliko informacij, ki jih sprejmejo skozi senzorje, preračunavajo in primerjajo s podatkovnimi bazami, nato pa na podlagi vnesenih algoritmov sprožijo posledice. Lahko je to zapiranje vrat, ki ga omenjate, ali pa – v najslabšem scenariju – izstrelitev rakete.
Če odločitve prepustimo algoritmom, se človek lahko izogne odgovornosti ...
Še posebej v vojski je uporaba avtonomnih sistemov zaželena, saj je na podlagi številnih raziskav jasno, da vojaki le stežka ubijajo soljudi, če pa jih že, se velikokrat soočajo s travmami. Zato je razvoj vojaških tehnologij v 20. stoletju šel izrazito v smer umikanja vojaka z bojišča, nadomestili pa so ga najprej topovi dolgega dometa, potem bombniki, v zadnjih dvajsetih letih pa brezpilotni letalniki, ki jih usmerjajo tudi po več tisoč kilometrov oddaljeni operaterji. Naslednji korak, ko človeka popolnoma izvzamemo in krmilo v celoti prepustimo algoritmu, je povsem logičen. A to je zelo problematično, saj s tem začnemo izgubljati temelj moralnosti, namreč posameznikovo odgovornost. Kdo bo odgovoren, če bodo samodejni brezpilotni letalniki koga po pomoti »prepoznali« in ustrelili? Bodo to inženirji, podjetje, naročniki, tisti, ki so povelje izdali, ali tisti, ki ga niso preklicali? V tem vidim enega največjih etičnih izzivov prihodnosti.
Informacijska tehnologija naj bi nam pomagala pri dostopu do znanja, a nam v resnici omejuje miselni prostor. Živimo v informacijskih mehurčkih.
Ljudje raje sprejemamo tiste novice, ki se ujemajo z našimi ustaljenimi prepričanji, kar je pojav, ki ga psihologija imenuje »potrditvena pristranskost«. Vzemiva primer: če so mi bolj všeč psi kot mačke, obstaja zame večja verjetnost, da bom gledal tiste posnetke ali bral besedila, ki bodo izpostavljala prednosti psov, denimo da jih lažje vzameš na dopust, so učljivi in radi v družbi, pri čemer bom prezrl tiste, ki izpostavljajo njihove slabosti, denimo da lahko povzročijo več škode kot mačke. Prezrl bom informacije, da so muce zelo ljubeče, morda bom ignoriral vse podatke o njihovi inteligenci. Kar sva omenila glede psov in mačk, seveda velja za široko paleto reči – od športov do blagovnih znamk, v zadnjem času pa se zdi, da še posebej glede političnih opcij. Če v to zgodbo vključiva še način delovanja naših brskalnikov, ko nam vrnejo zadetke iskanj, potem res pristaneva v potrditveni pristranskosti »na potenco«. Težava je namreč, da si algoritmi zapomnijo, na katere povezave smo najraje kliknili v preteklosti, zato nam ponudijo tiste zadetke, za katere obstaja večja verjetnost, da si jih bomo ogledali.
Zaradi tega lahko nastane vtis, da »večina misli« tako kot jaz, namreč da so psi boljši od mačk in da je to »znanstveno dokazano«.
Resnica je seveda daleč od tega: iskanje mi na podlagi mojih preteklih preferenc preprosto vrne tiste rezultate, za katere obstaja verjetnost, da mi bodo všeč, ne pa objektivnih dejstev. Težava je, da se ne zavedamo, kako naši brskalniki ves čas nosijo »očala« in na svet gledajo skozi filter naših želja, ki so jih razbrali na podlagi naših preteklih dejanj. Gotovo je bila vera v to, da bomo z dostopom do spleta vsi bolje informirani, utopična, če že ne naivna. Zaradi omenjene potrditvene pristranskosti in algoritmov, ki jo spodbujajo, so namreč informacije, ki pridejo do nas, precej prikrojene.
Torej je tudi sedanja politična polarizacija v Sloveniji posredno povezana z našo pristranskostjo pri sprejemanju informacij?
To je dejstvo. Prav do političnih sporočil smo zelo pristranski. Kadar smo priča debatam, povezanim s politiko, postanemo namreč zelo goreči, kar je razumljivo, saj gre za odločitve, ki nam krojijo življenje. Ta gorečnost pa žal prevečkrat izklopi razum in objektivnost ter prižge in podžge pristranskost. Poleg tega je problem še v tem, da ljudje pri svojih pojasnitvah dogodkov predpostavljamo »pravični svet«, kar je lepo pokazal socialni psiholog Melvin Lerner. Kadar, denimo, vidimo brezdomca prosjačiti za denar, radi pomislimo, da gre za nekoga, ki si je tak življenjski slog bodisi »izbral« bodisi »zaslužil«. Zakaj? Eden od razlogov je, da s takšnim razmišljanjem v resnici sebi potrdimo, da smo mi »dobri in pošteni«, hkrati pa se zavarujemo pred mislijo, da lahko tudi nas in naše drage doleti slaba sreča ter pristanemo na cesti.
Na takšna naša iracionalna nagnjenja računa politični marketing, ki pa je, tako kot vsako oglaševanje, danes potenciran s pomočjo informacijskih tehnologij. Znana je afera britanske družbe, ki je zbirala podatke o obnašanju posameznikov na družbenih omrežjih in z njihovo pomočjo potem izrisala njihov osebnostni profil ter odbrala tiste, za katere je obstajala velika verjetnost, da bodo volili opcijo, ki jim bo sugerirana v reklamnih sporočilih. Pri tem se je izkazalo, da lahko algoritmi na podlagi naših klikov in odzivov na družbenih omrežjih precej natančno izrišejo paleto naših osebnostnih značilnosti. In če rečeva precej natančno, s tem misliva natančneje kot starši, partner, otroci ali celo mi sami!
Z vsakim klikom razkrivamo del sebe.
Kadar komuniciramo z drugimi ljudmi, lahko čisto nevede kažemo lepšo ali vsaj drugačno plat, kot kadar mislimo, da smo na spletu sami. Program, ki beleži vse naše všečke, vse objemčke, srčke, solze smeha in žalosti, nas tako rekoč pozna v intimi do obisti, celo bolje, kot se poznamo sami!
Več v reviji Zarja Jana, št. 52, 29. 12. 2020
