Athugið þessi frétt er meira en 1 ára gömul.

Eftirlitskapítalisminn ógnar frelsi mannsins

Mynd: Shoshana Zuboff / Twitter

Eftirlitskapítalisminn ógnar frelsi mannsins

14.12.2019 - 16:42

Höfundar

Fáar bækur hafa vakið jafn miklar umræður og viðbrögð á árinu og bókin Öld eftirlitskapítalismans, The Age of surveillance capitalism, eftir hina bandarísku Shoshönu Zuboff. Hún lýsir því hvernig tæknirisar á borð við Google og Facebook svífast einskis í stöðugt ítarlegri söfnun upplýsinga um alla okkar reynslu, og setur svo fram þær hættur sem nýting gagna til svokallaðrar atferlismótunar getur haft í för með sér. Að hennar mati er frelsi mannsins í húfi.

Zuboff er doktor í félagssálfræði og prófessor í viðskiptastjórnun við Harvard-háskóla, raunar ein fyrsta konan sem er fastráðin við viðskiptadeild skólans. Hún sló fyrst í gegn á ritvellinum árið 1988 með bók um þær breytingar sem voru að verða á vinnu og vinnustöðum með nýrri upplýsingatækni og síðan þá hefur hún skrifað um tengsl tækni og samfélags. Árið 2013 hóf hún að rita greinar um síaukna gagnasöfnun tæknifyrirtækja. Hugtakið „eftirlitskapítalismi” varð fljótlega að meginstefi greinanna og uxu þær smám saman í þessa risavöxnu bók.

Bókin er tæplega 700 blaðsíður innbundin og í nokkuð stóru broti. Stærðin lyktar af svolítilli sýndarmennsku, upplifunarhönnun sem á að segja: „þetta er eina bókin sem þú þarft að lesa til að skilja samtímann.“ Eins og hún vilji, bara með stærðinni, ganga inn í hefð stórra samfélagsgreininga: Auðmagnsins eftir Marx, Upphafs alræðishyggjunnar eftir Arendt, Umbreytingarinnar miklu eftir Polanyi, en þetta eru allt rit sem hún vísar reglulega til í bókinni.

Upplýsingar um hegðun skapar umframvirði

Í bókinni gerir Zuboff tilraun til að skýra aðferðir, eðli og markmið gagnasöfnunar tæknirisa 21. aldarinnar um einstaklinga, söfnunar sem hófst hjá Google í kringum aldamót en hefur síðan orðið svo útbreidd og alltumlykjandi að flest okkar eru farin að taka henni sem algjörlega sjálfsögðum og óhjákvæmilegum hlut. Þessu tómlæti okkar og sinnuleysi vill Zuboff ögra.

Að einhverju leyti er það í eðli hins stafræna heims að upplýsingar um notkun á þjónustu safnist saman og eðlilegt að þær séu notaðar til að bæta þjónustuna sem fyrirtæki selja. Þannig var það líka framan af, í árdaga internetsins og snjalltækja. Google notaði þannig fyrri leitarorð notanda til að bæta þjónustuna við hann. Ýmsar aðrar ítarupplýsingar um hegðun notenda voru hins vegar hálfgerður úrgangur. Þetta voru ekki bara upplýsingar um að hverju var leitað, heldur hversu oft og hvenær, hvernig leitin var orðuð, stafsett, og svo framvegis.

Í fyrstu var byrjað að greina og flokka þessi gögn til að bæta leitarvélina. En kröfur frá óþreyjufullum fjárfestum í miðri punktur-com bólunni í kringum aldamót ýttu fyrirtækinu lengra út í auglýsingabransann. Sérhannaðar og persónumiðaðar auglýsingar Google byggðar á heildstæðri mynd af atferli notandans reyndust gullnáma. Gullið var stafrænu fótsporin, umframvirði af atferli fólks.

Spádómar um líklega hegðun notenda

Með þessari uppgötvun Google hófst gullæðið. Facebook, Microsoft og Amazon fylgdu í kjölfarið. Gnótt gagna um nethegðun einstaklinga var safnað saman, hún greind og úr henni mótuð stafræn mynd af hverju og einu okkar, samfélagsstöðu okkar og tengslaneti, persónuleika og einkennum, áhugamálum og fagurfræði, þrám og duldum löngunum, draumum og dyntum.

Úr þessum gögnum eru svo unnir spádómar um það hvernig líklegt er að við munum hegða okkur í framtíðinni, sem og vörur sem byggjast á spám um það hvernig við munum bregðast við tilteknu áreiti á tilteknum tímapunkti. Það eru þessar vörur sem tæknirisarnir selja auglýsendum af öllum gerðum.

Við notendurnir eigum í raun ekki í viðskiptasambandi við tæknifyrirtækin, peningar skipta aldrei um hendur. Við erum ekki kaupendur, erum ekki sjálf varan, heldur er varan mótuð úr gögnum um atferli þitt. „Þú ert yfirgefið hræ,“ segir Zuboff.

Úr tölvunni og inn í kjötheiminn

Til þess að spádómarnir um atferli okkar og ákvarðanir séu hvað nákvæmastir er mikilvægt að við upplýsingasöfnunina sé grafið djúpt, magnið af tilteknum gögnum sé sem allra, allra mest og nákvæmast. Fyrirtækin hafa þannig hvata til að gera okkur sem háðust tækjunum, að við notum þau alltaf og alls staðar. En þau vilja líka að gögnin séu víðtæk og fjölbreytt. Það er ekki lengur nóg að fá bara upplýsingar um hegðun okkar í stafrænum heimi heldur vilja fyrirtækin geta skoðað og greint hegðun okkar þegar við erum ekki fyrir framan tölvuskjá.

Þetta vill Zuboff meina að sé helsti hvatinn að hinni hröðu þróun tæknifyrirtækja á hlutanetinu svokallaða, Internet of Things. Af hverju hefur Google, framleiðandi leitarvélar, áhuga á að framleiða snjallbíla, af hverju er bókabúðin Amazon að framleiða snjallhátalara? Ástæðan er að tekjulíkan eftirlitskapítalistanna gengur út á sem víðtækasta gagnasöfnun og þessi tæki geta aukið hana. Með snjalltækjunum geta þau fylgst með hegðun okkar í kjötheimum, hvenær við vöknum, förum út og komum heim, hvert við ferðumst, hvernig kaupvenjur okkar eru, hvernig við tölum saman, hvernig hjartslátturinn breytist yfir daginn.

Tæki til atferlismótunar

Það sem er síðasta og ógnvænlegasta stigið í þessari þróun er svo hvernig fyrirtækin munu geta nýtt upplýsingarnar til að hafa áhrif á hegðun okkar, móta atferli okkar.

Með víðtæku snjallvæddu hlutaneti snýst mótunin ekki bara um að stýra athygli okkar í átt að ákveðnum auglýsingum á tölvuskjá heldur að stýra hreyfingu líkama okkar í raunheimum. Tæknifyrirtækin hafa færi á því að móta atferli okkar og beina okkur á tiltekna staði og þau geta selt öðrum aðgang að þessari stýringu.

Zuboff nefnir dæmi um hvernig tryggingafyrirtæki munu ákvarða verð á bílatryggingum út frá ökuvenjum þínum, hvernig bankar geta drepið á snjallbílnum þínum ef þú greiðir eftir eindaga af bílaláninu, hvernig landakortið í símanum beinir þér í átt að fyrirtækjum sem borga rétt verð fyrir.

Mikilvægasta spurningin fyrir Karl Marx var hvernig eignarhaldi á framleiðslutækjunum var háttað, en fyrir Zuboff er mikilvægara að spyrja: hvernig er eignarhaldi á atferlismótunartækjunum háttað?

Óhjákvæmileg þróun eða óforskömmuð aðferðafræði?

 

Þetta nýja tekjulíkan hefur vaxið í myrkrinu, langt frá augum óháðra eftirlitsaðila og almennings, enda gengur það út grundvallarmisræmi í þekkingu. Tæknirisarnir vilja vita allt, gjörsamlega allt um hvert og eitt okkar, en við getum ekkert vitað um hverju þeir fylgjast með, hverju þeir safna um okkur, hvað þeir gera við upplýsingarnar, hvernig þeir greina þær, hverjum þeir selja aðgang að þeim og í hvaða tilgangi.

Okkur er stöðugt talin trú um að þessi þróun sé hreinlega óhjákvæmileg, hugmyndafræðin felst í forlagatrú um tæknina, eins og hún sé óstöðvandi einstefnustórfljót í átt að tækniútópíu Kísildalsins.

En Zuboff vill meina að þetta sé alls ekki óhjákvæmilegt. Þvert á móti beiti tæknifyrirtækin óforskammaðri aðferðafræði til að ýta breytingum í gegn þegar deilumál koma upp. Raunar séu þau búin að þróa með sér margreynda aðferð. Þetta gerði Google til að mynda þegar upp komst að fyrirtækið leitaði í tölvupósti fólks á Gmail og þegar ákveðið var að skrásetja nánast alla plánetuna með Google Street View.

Fyrst ráðast þau inn á eitthvert ónumið svæði mannlegrar tilveru og eigna sér það, jafnvel í trássi við lög og reglur, án þess að spyrja kóng eða prest. Ef þau mæta gagnrýni eða andspyrnu reyna þau að tefja málið sem lengst með ýmiss konar vélabrögðum, í fjölmiðlum, stjórnkerfinu og fyrir dómstólum. Á meðan þetta er í gangi heldur tæknin áfram að ryðja sér til rúms og breiðast út meðal fólks. Að lokum, kannski nokkrum mánuðum eða árum síðar, er þó beðist afsökunar á einum afmörkuðum hluta málsins og bót og betrun lofað. Ný þjónusta er kynnt sem er þó í öllum helstu aðalatriðum sú sama og sú fyrri, með örlítið rúnnaðri hornum. Tæknin er búin að festa sig í sessi. 

Vörn fyrir frjálsan vilja

Helsta auðlind og hráefni 21. aldarinnar er mannleg náttúra, reynsla og upplifanir einstaklinga sem er umbreytt í söluvöru fyrir fyrirtæki, lögaðila, stjórnmálaflokka eða hvern þann sem er til í að borga. Og eins og gullgrafarar eða olíubarónar fyrri alda svífast tæknirisar samtímans einskis í leit sinni og nýtingu á auðlindinni. Hættan er, segir Zuboff, að eins og ofnýting kapítalista á auðlindum jarðarinnar hafi haft í för með sér loftslagsbreytingar, hamfarahlýnun, verði áhrif nýtingar á mannlegri náttúru breyting á eðli hennar, hamfarir í mannssálinni.

Zuboff setur bókina upp nánast eins og vörn fyrir hinn frjálsa vilja mannsins gegn stjórnlyndi ytri afla. Hún segir að við séum að sjá uppgang algjörlega nýrrar tegundar stjórnlyndisstefnu sem hún kallar á ensku „instrumentarianism“. Hún beiti ekki líkamlegu ofbeldi til að leiða mannfjöldann í átt að tiltekinni pólitískri hugmyndafræði eins og alræðishyggja síðustu alda, heldur beiti hún lúmskri og ósýnilegri stýringu einstaklingsins í þágu hvers þess sem tæknielítan ákveður í samráði við „auglýsendur“ - eða öllu heldur kaupendur atferlismótunarþjónustu tæknifyrirtækjanna.

Zuboff vill meina að með þessu sé verið að ræna grundvallarmannréttindum okkar, réttinum til að ákvarða okkar eigin framtíð, og réttinum til griðastaðar, þar sem enginn getur fylgst með manni. Og þessu þurfi fólk að standa upp gegn í sameiningu.

Mikilvægasta bók okkar tíma?

Dómar um bókina í fjölmiðlum hafa margir verið jákvæðir, það er talað um „mikilvægustu bók okkar tíma” og allir hvattir til að lesa hana sem „stafræna sjálfsvörn”.

En það eru alls ekki allir sannfærðir. Breski heimspekingurinn John Gray gagnrýnir að hún bjóði ekki upp á lausnir eða framtíðarsýn sem geti vísað veginn í átt frá eftirlitskapítalismanum. Þá segir hann að sú staðhæfing að hagnaðarhvatar markaðshagkerfisins hvetji fyrirtæki til að leita uppi umframvirði af atferli fólks sé ekki trúverðug. Enda nái notkun á stafrænu eftirliti og gervigreindargreiningu á gagnagnóttinni hvað lengst undir stjórn kommúnistaflokks Kína.

Gray kallar greiningu Zuboff nýmarxíska, en þótt hún noti nokkur hugtök frá Karli gamla þá er hún er ansi langt frá slíkum heimsskilningi eða kenningaramma. Hún er ekki byltingarsinni heldur er hún trúuð á siðsamlegt markaðshagkerfi með skýrum lagaramma sem verndar neytendur.

Gagnrýnin frá vinstri hefur enda ekki verið minni, marxistar vilja meina að hún sýni ekki fram á neina grundvallarbreytingu á eðli kapítalismans í þessari nýjustu birtingarmynd hans. Tilraunin til að búa til ný hugtök og greiningarramma beini aðeins sjónum frá þeim kröftum og lögmálum sem hafa alltaf drifið kapítalískt hagkerfi áfram og gera enn. Þannig hampi hún til að mynda alþjóðlegu stórfyrirtæki á borð við Apple einfaldlega af því að persónuverndarstefnan er skárri en hjá Google.

Skotið í hjarta samtímans

Óháð allri gagnrýni er ljóst að bókinni er skotið beint í hjarta samtímans. Árið í ár hefur hefur einkennst af aukinni gagnrýni og tortryggni í garð gagnasöfnunar tæknifyrirtækjanna og hvernig hún hefur verið notuð til að brengla lýðræðisferla. En það má einnig segja að andspyrnan sé að verða öflugri. Gagnrýni frá mannréttindasamtökum á borð við Amnesty International, opnar umræður í nefndum breska og bandaríska þingsins þar sem forstjórar tæknirisanna hafa þurft að svara erfiðum spurningum, og nú undanfarið herferðir þar sem þess er krafist að tæknifyrirtækjunum verði skipt niður í smærri einingar.

Og að þessu leyti er bókin gagnleg til að átta sig á sögu þessa nýja tekjulíkans hins stafræna heims, hún varpar ljósi á hversu djúpt það nær í samtímanum og hversu fyrirtækin eru vægðarlaus. Og þó að sé hægt að deila um hvort það heppnist fullkomlega er hún mikilvæg tilraun til að setja fram hugtök og hugmyndir sem við þurfum að nýta í umræðunni um eftirlit og persónuvernd, gagnasöfnun og stýringu í samtímanum og framtíð.