Skaitmeninė laisvė

Robertas Fischla & Tomas Beschorneris ginčytis, kad mūsų skaitmeninė ateitis nėra iš anksto užprogramuota: pats laikas pradėti galvoti, kaip ji turėtų atrodyti.

Ar žiūrėjote distopinį serialą „Black Mirror“? Epizodas Nosedive piešia ateities visuomenės vaizdą, kuriame žmonės vertina vieni kitų elgesį pagal kreditų sistemą. „Geras“ elgesys apdovanojamas taškais; „blogas“ elgesys sumažina jūsų balą. Šią socialinę kontrolę lydi visų rūšių valstybės priežiūra: pavyzdžiui, veido atpažinimo technologijos naudojamos kiekvienam žmonių žingsniui sekti. Kai serija pirmą kartą buvo parodyta 2016 m., Tai jau buvo aliuzija į besiformuojančią socialinių kreditų sistemą Kinijoje ir jos kritika. Bet mes neturime žiūrėti taip toli. Pastaraisiais metais Vakarų pasaulis taip pat susipažino su panašiomis tendencijomis. Nesu ta, kuri lengvai pasiduoda. Aš ketinu kovoti su tuo dantimis ir nagais. Atsisakau leisti vėžiui laimėti.

„Lacie Pound“, pagrindinė šio epizodo veikėja, šioje visuomenėje smunka. Dėl jos elgesio balas krenta, o ji atsiduria žemyn. Galiausiai ji atsiduria kalėjime. Ironiška, bet tai vienintelė laisvės vieta toje visuomenėje. „Kalėjimo“ metafora taip pat atlieka dar vieną svarbią funkciją vykstančioje diskusijoje apie skaitmeninę transformaciją. Tai alegorija naujajam priežiūros kapitalizmui, kuris atima iš mūsų laisvę ir „įkalina“ mus, nors ir savotišku būdu. Filosofas utilitaristas Jeremy Benthamas kadaise suprojektavo „idealų kalėjimą“, vadinamą Panoptikonu. Jame keli sargybiniai centriniuose apžvalgos bokštuose galėtų stebėti daugybę kalinių. Tačiau mūsų skaitmeniniais laikais norvegų kriminologas Thomas Mathiesenas kalba apie sinoptiką, kuriame kiekvienas potencialiai stebi – taigi ir kontroliuoja – visus kitus. Tai, ar stebėjimas iš tikrųjų vyksta, ar ne, neturi reikšmės poveikiui. Kaip parodė elgsenos ekonomistai, vien „socialinio nuosaikumo“ galimybė gali turėti šiurpinantį poveikį išraiškai ir veiksmams. Situacija buvo tikrai įtempta. Galvojau, ką turėčiau daryti toliau ir kaip galėčiau iš ten ištrūkti gyvas. Mano širdis daužėsi ir jaučiau, kaip ant kaktos išsiliejo prakaitas. Man labai skaudėjo, bet žinojau, kad turiu eiti toliau.

Kad ir koks būtų svarbus mūsų dabartinis mokslinis ir politinis dėmesys stebėjimo pasekmėms, yra ir kitų ne mažiau svarbių klausimų, kuriuos turėtume skubiai užduoti. Pirmiausia, terminai „stebėjimas“ ir „kontrolė“ siejami su specifiniu laisvės – laisvės – supratimu iš kažkas – pavyzdžiui, nuo trukdžių, kontrolės, suvaržymų... Filosofas Isaiah Berlinas tai pavadino neigiama laisvė . Šis laisvės tipas yra glaudžiai susijęs su liberaliomis Vakarų visuomenių vertybėmis. Idėja išsivaduoti nuo nepageidaujamų suvaržymų atsispindi ir daugelyje mūsų pokalbių apie skaitmeninių technologijų pavojų. Atitinkamai, reikšmingiausi skaitmeninės laisvės parametrai yra tie, kurie atitinka šį liberalų, negatyvų, laisvės supratimą: tokios idėjos kaip autonomija, nepriklausomybė, laisvas pasirinkimas. Vis dėlto, nors tai suteikia vertingų intelektualinių įžvalgų – pavyzdžiui, kyla pavojus, kad gali padidėti saviraiškos laisvės ir demokratijos stebėjimas, – dėl paradigminio požiūrio į laisvę galime nepaisyti kitų skaitmeniniame pasaulyje ne mažiau svarbių aspektų.

Kaip ir bet kuri kita ginčijama pagrindinė sąvoka, „laisvė“ buvo apibrėžta ir aiškinama iš įvairių perspektyvų. Čia verta paminėti dar du: „pozityvų“ ir „socialinį“ požiūrį į laisvę.

Skirtingai nuo neigiamos laisvės nuo suvaržymų, teigiama laisvė yra Isaiah Berlin vardas turintys teigiamą gebėjimą ką nors padaryti . Teigiama laisvė pabrėžia, pavyzdžiui, politinio dalyvavimo svarbą ir savo „gėrio“ versijos siekimą. Dėl šios priežasties teigiamas mąstymas apie laisvę skatina mus galvoti apie vertybes ir tikslus, kuriuos norėtume įkūnyti, siekti, o gal net įgyvendinti skaitmeninės transformacijos. Taigi klausimai apie skaitmeninę laisvę nėra paprasti Kaip galime užkirsti kelią stebėjimo visuomenei? , bet taip pat, Kokius teigiamus socialinius ir politinius idealus norime propaguoti – ir kas tai nulems?

Kitas laisvės supratimas, suteikiantis vaisingą pagrindą diskusijoms čia – socialinė laisvė – siūlo šiuolaikinis vokiečių socialinis filosofas Axelis Honnethas. Honnethas teigia, kad nė vienas iš mūsų negyvename „karceryje“ kaip asocialus „aš“, o nuolat bendraujame su kitais kaip socialinis „aš“: kaip šeimos nariai, kaip vartotojai, kaip piliečiai. Tai, kas mes esame, labai priklauso nuo aplinkinių. Mūsų veiksmai taip pat lemia kitus ir daro juos kuo jie yra. „Aš“ yra „mes“, o „mes“ – „aš“. Kitaip tariant: mūsų bendražmonės sudaro tai, kas mes esame kaip asmuo. Taigi laisvė realizuojama ne tik per juos ar net nepaisant jų , bet in juos.

Teigiamos ir socialinės laisvės kviečia mus išdrįsti atitrūkti nuo pernelyg siauros laisvės kaip prievartos nebuvimo sampratos. Ir kai ši laisvė nuo neigiamos laisvės taikoma skaitmeninei transformacijai, trys sritys išryškėja kaip ypač svarbios.

Gerai žinoma, kad programinės įrangos kūrėjai daugiausia yra iš konkrečios socialinės grupės: gerai išsilavinusių baltųjų vyrų. Pasekmės apima algoritmus, kurie naudingi tos socialinės aplinkos nariams ir „baudžia“ kitus, pavyzdžiui, riboja jų prieigą. Kur nustatomos „susijusios“ charakteristikos – kas „mes“ yra apibrėžta – yra kodavimas, programinės įrangos rašymas. Todėl didelis homogeniškumas programinės įrangos kompanijų plėtros skyriuose gali būti sistemingų kitų socialinių grupių trūkumų arba, galima sakyti, tam tikro laipsnio priespaudos šaltinis.

Vienas iš interneto pažadų buvo tas, kad jis palengvins kosmopolitinį ryšį ir leis erdviniam atstumui išnykti į antrą planą. Iš tiesų, šiandien galime palaikyti verslo ar socialinius santykius, kurie buvo neįsivaizduojami prieš trisdešimt metų. Tai išplėtė „mūsų“ galimybes. Tačiau tuo pat metu pastarųjų kelerių metų įvykiai taip pat rodo dar ką nors, kas labiau kenkia nei naudinga „mes“: su savo bendraamžiais uždarome save socialinės žiniasklaidos burbuluose ir aido kamerose. Šios naujos teritorijos dažnai sudaro naują „mes prieš juos“ padalijimą. Diskurso frontai sukietėja. Kalbant apie Honneth mąstymą, šie pokyčiai taip pat apriboja arba atima iš mūsų socialinę laisvę, kuri sudaro mus kaip asmenis.

Be to, kaip demokratija reikalauja informuotų piliečių, mūsų skaitmeninė ateitis negali klestėti be plačiai paplitusios skaitmeninės kompetencijos. Šiuo atveju tai reiškia ne programavimo kalbų žinias, o žinias apie savo veiksmų internete poveikį. Be kita ko, tai gali reikšti socialinių tinklų naudotojų atsakomybę komentuoti ne vien tik remiantis antraštėmis ir anonsais, bet susidaryti esminę ir pagrįstą nuomonę temomis, kuriomis jie nori skelbti. Tai būtų svarbus žingsnis link pozityvios individo laisvės liberalioje suskaitmenintoje visuomenėje.

Kova už skaitmeninę laisvę

Kita Laisvės statula. Rygoje, Latvijoje
Nuotrauka Smurrayinchester 2018 Creative Commons

Jei klaustume, kaip galime padaryti pažangą šiose srityse, greičiausiai veiks trys pasirinkimai: 1) įmonių savikontrolė; 2) Griežtas politinių institucijų reguliavimas; ir 3) pilietinės visuomenės stiprinimas.

Galima vis skeptiškiau žiūrėti į pirmąjį variantą. Nuo tada, kai „Facebook“ įkūrėjas Markas Zuckerbergas buvo sužalotas JAV Kongreso komiteto dėl įtarimų, kad jis turėjo įtakos 2016 m. prezidento rinkimams, kibernetinėje erdvėje daugėjo etinių įsipareigojimų. Tikrai galima suabejoti, ar tai daugiau nei tik kalbos. Pavyzdžiui, „Google“ 2020 m. pabaigoje atleido žinomą tyrėją Timnitą Gebru iš savo AI ir etikos skyriaus, nes jis ruošėsi paskelbti kritinį mokslinį straipsnį. O „Facebook“ apribojo prieigą prie Niujorko universiteto skelbimų observatorijos 2021 m., nes ji atliko tyrimus dėl dezinformacijos politiniame transliavime.

1944 m. ekonomikos istorikas Karlas Polanyi jau skeptiškai žiūrėjo į tai, ar kapitalizmas gali pasikeisti iš vidaus. Nepaisant to, savo tų metų knygoje Didžioji transformacija , jis apibūdina istorinę demokratinių idėjų ir kapitalistinių interesų sąveiką kaip „dvigubą judėjimą“, kuriam būdingas nuolatinis rinkos augimas, susietas su spontaniškomis politikos, piliečių ir pilietinės visuomenės pastangomis kontroliuoti ekonomikos plėtrą tam tikromis kryptimis ir apriboti jos atsiskyrimą nuo visuomenės – iki įvairaus laipsnio sėkmės ir nesėkmės. Paralelės su stebėjimo kapitalizmo plėtimosi tikrinimu akivaizdžios. Harvardo profesorės Shoshanna Zuboff žodžiais, jei pramoninė civilizacija klestėjo gamtos sąskaita ir dabar grasina mums kainuoti Žemę, informacinė civilizacija, kurią formuoja stebėjimo kapitalizmas, klestės žmogaus prigimties sąskaita ir grasina mums kainuoti žmogiškumą. ( Priežiūros kapitalizmo amžius , 2019, p.326.).

Galbūt geresnis reguliavimas ir pilietinės visuomenės stiprinimas yra perspektyvesni, nei pasikliauti vien technologijų įmonėmis, kurios prisiims atsakomybę? Pavyzdžiui, Europos Sąjunga pastaraisiais metais jau pradėjo keletą politikos reguliavimo iniciatyvų, visų pirma 2021 m. balandžio mėn. „Pasiūlymą dėl reglamento, nustatančio suderintas dirbtinio intelekto taisykles“.

Tačiau šią ir kitas teisėkūros iniciatyvas turi papildyti demokratiškesnis indėlis ir dalyvavimo elementai. Pilietinė visuomenė, ypač nevyriausybinių organizacijų forma, yra labai svarbi pertvarkant skaitmeninę areną. Viena vertus, nevyriausybinės organizacijos gali padėti konstruktyvios kritikos procesui, prisidėdamos tiek savo patirtimi, tiek įvairiomis socialinėmis perspektyvomis. Būtų labai svarbu ne tik stiprinti kritikų ir oponentų balsus, bet ir skirti pakankamai išteklių kai kuriai jų kritikai įgyvendinti.

Tikėtina, kad pilietinės visuomenės organizacijų vaidmuo bus svarbus ir dėl kitos priežasties. Didėjantis AI naudojimas atrodo nesustabdomas; šia prasme ateitis atrodo iš anksto užprogramuota daugeliui gyvenimo sričių. Tačiau tai, kas nustumiama į užpakalinę sėdynę, yra esminis klausimas, kurias visuomenės sritis ir kokius socialinius sprendimus iš principo norime pašalinti iš AI. Kai DI naudojimas gali prieštarauti mūsų laisvės, privatumo ar teisingumo idėjoms ir galbūt net kelti pavojų mūsų demokratinei ir liberaliai santvarkai, turime pasakyti „ne“ ačiū. Ar norime dirbtinio intelekto palaikomų ginklų sistemų ar stebėjimo sistemų, naudojančių veido atpažinimo technologiją? Ar algoritmams turėtų būti leista priimti sprendimus intensyviosios terapijos skyriuose? Šių ir daugelio kitų panašių klausimų sprendimas būtų būtina sąlyga, norint įgyti tikrai į žmogų orientuotą požiūrį į skaitmeninę transformaciją, kurioje žmonės yra ne tik „cikle“, bet ir „už kodo ribų“.

Roberta Fischli yra doktorantė ir šiuo metu kviestinė tyrėja Teisės ir visuomenės studijų centre (CSLS) UC Berkeley. Thomas Beschorneris yra verslo etikos profesorius ir to paties universiteto Verslo etikos instituto direktorius.