public/how-to-destroy-surveillance-capitalism.nb.html

   1 <html><head><meta http-equiv="Content-Type" content="text/html; charset=UTF-8"><title>Hvordan knuse overvåkningskapitalismen</title><meta name="generator" content="DocBook XSL Stylesheets V1.79.1"><style type="text/css">
   2 body { background-image: url('images/draft.png');
   3        background-repeat: no-repeat;
   4        background-position: top left;
   5        /* The following properties make the watermark "fixed" on the page. */
   6        /* I think that's just a bit too distracting for the reader... */
   7        /* background-attachment: fixed; */
   8        /* background-position: center center; */
   9      }</style></head><body bgcolor="white" text="black" link="#0000FF" vlink="#840084" alink="#0000FF"><div lang="nb" class="article"><div class="titlepage"><div><div><h2 class="title"><a name="index"></a>Hvordan knuse overvåkningskapitalismen</h2></div><div><div class="authorgroup"><div class="author"><h3 class="author"><span class="firstname">Cory</span> <span class="surname">Doctorow</span></h3></div></div></div><div><p class="copyright"> © 2020 Cory Doctorow</p></div><div><p class="copyright"> © 2020 Petter Reinholdtsen</p></div><div><div class="legalnotice"><a name="idm18"></a><p>
  10       Hvordan knuse overvåkningskapitalismen av Cory Doctorow.
  11     </p><p>
  12       Utgitt av Petter Reinholdtsen. Oversatt på dugnad av Ole-Erik Yrvin, Petter
  13 Reinholdtsen, Allan Nordhøy og Christer Gundersen.
  14     </p><p>
  15       ISBN 978-82-93828-05-1 (innbundet)
  16     </p><p>
  17       ISBN 978-82-93828-06-8 (heftet)
  18     </p><p>
  19       ISBN 978-82-93828-07-5 (ePub)
  20     </p><p>
  21       <span class="inlinemediaobject"><img src="images/cc.png" align="middle" height="38" alt="Creative Commons, noen rettigheter forbeholdt"></span>
  22     </p><p>
  23       Denne boken er lisensiert med en Creative Commons-lisens. Denne lisensen
  24 tillater all bruk av dette verket, så lenge opphavet navngis og intet
  25 avledet materiale distribueres.  Hvis du vil ha mer informasjon om lisensen,
  26 besøk <a class="ulink" href="https://creativecommons.org/licenses/by-nd/4.0/" target="_top">https://creativecommons.org/licenses/by-nd/4.0/</a>.
  27     </p></div></div></div><hr></div><div class="toc"><p><b>Innholdsfortegnelse</b></p><dl class="toc"><dt><span class="sect1"><a href="#the-net-of-a-thousand-lies">Nettverket av tusen løgner</a></span></dt><dt><span class="sect1"><a href="#digital-rights-activism-a-quarter-century-on">Digital rettighetsaktivisme, et kvart århundre senere</a></span></dt><dt><span class="sect1"><a href="#tech-exceptionalism-then-and-now">Teknologieksepsjonalisme, da og nå</a></span></dt><dt><span class="sect1"><a href="#dont-believe-the-hype">Ikke fest din lit til oppstuss</a></span></dt><dt><span class="sect1"><a href="#what-is-persuasion">Hva er overtalelse?</a></span></dt><dd><dl><dt><span class="sect2"><a href="#segmenting">1. Segmentering</a></span></dt><dt><span class="sect2"><a href="#deception">2. Villedning</a></span></dt><dt><span class="sect2"><a href="#domination">3. Dominans</a></span></dt><dt><span class="sect2"><a href="#bypassing-our-rational-faculties">4. Omgåelse av våre rasjonelle evner</a></span></dt></dl></dd><dt><span class="sect1"><a href="#if-data-is-the-new-oil-then-surveillance-capitalisms-engine-has-a-leak">Hvis data er den nye oljen, så har overvåkningskapitalismen motorlekkasje</a></span></dt><dt><span class="sect1"><a href="#what-is-facebook">Hva er Facebook?</a></span></dt><dt><span class="sect1"><a href="#monopoly-and-the-right-to-the-future-tense">Monopol og retten til den spennende fremtiden</a></span></dt><dt><span class="sect1"><a href="#search-order-and-the-right-to-the-future-tense">Søkerekkefølge og retten til en spennende fremtid</a></span></dt><dt><span class="sect1"><a href="#monopolists-can-afford-sleeping-pills-for-watchdogs">Monopolister har råd til sovepiller for vakthundene</a></span></dt><dt><span class="sect1"><a href="#privacy-and-monopoly">Monopol og vern av privatsfæren</a></span></dt><dt><span class="sect1"><a href="#ronald-reagan-pioneer-of-tech-monopolism">Ronald Reagan, en pioner for teknologimonopoler</a></span></dt><dt><span class="sect1"><a href="#steering-with-the-windshield-wipers">Styring med vindusviskerne</a></span></dt><dt><span class="sect1"><a href="#surveillance-still-matters">Overvåking er fortsatt viktig</a></span></dt><dt><span class="sect1"><a href="#dignity-and-sanctuary">Verdighet og tilfluktsted</a></span></dt><dt><span class="sect1"><a href="#afflicting-the-afflicted">Pine de plagede</a></span></dt><dt><span class="sect1"><a href="#any-data-you-collect-and-retain-will-eventually-leak">Alle data du samler og tar vare på vil til slutt lekke</a></span></dt><dt><span class="sect1"><a href="#critical-tech-exceptionalism-is-still-tech-exceptionalism">Kritisk teknologi eksepsjonellisme er fortsatt eksepsjonellisme</a></span></dt><dt><span class="sect1"><a href="#how-monopolies-not-mind-control-drive-surveillance-capitalism-the-snapchat-story">How monopolies, not mind control, drive surveillance capitalism: The
  28 Snapchat story</a></span></dt><dt><span class="sect1"><a href="#a-monopoly-over-your-friends">Et monopol over vennene dine</a></span></dt><dt><span class="sect1"><a href="#fake-news-is-an-epistemological-crisis">Fake news is an epistemological crisis</a></span></dt><dt><span class="sect1"><a href="#tech-is-different">Teknologi er annerledes</a></span></dt><dt><span class="sect1"><a href="#ownership-of-facts">Eierskap til fakta</a></span></dt><dt><span class="sect1"><a href="#persuasion-works-slowly">Overtalelse virker… sakte</a></span></dt><dt><span class="sect1"><a href="#paying-wont-help">Det hjelper ikke å betale</a></span></dt><dt><span class="sect1"><a href="#an-ecology-moment-for-trustbusting">An <span class="quote">«<span class="quote">ecology</span>»</span> moment for trustbusting</a></span></dt><dt><span class="sect1"><a href="#make-big-tech-small-again">Gjør Storteknologien liten igjen</a></span></dt><dt><span class="sect1"><a href="#goto-10">20 GOTO 10</a></span></dt><dt><span class="sect1"><a href="#up-and-through">Up and through</a></span></dt></dl></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="the-net-of-a-thousand-lies"></a>Nettverket av tusen løgner</h2></div></div></div><p>
  29     Den mest overraskende momentet med tilbakekomsten av flatjordtilhengere i
  30 det 21. århundre er hvor viden tilgjengelig bevisene mot dem er. En kan
  31 forstå hvordan folk, for noen århundrer siden, som aldri hadde tilgang på et
  32 høyt nok utsiktspunkt til å se jordens krumning, kunne ende opp med en
  33 rimelig fornuftig tro på at den tilsynelatende flate jorden, rent faktisk
  34 var flat.
  35   </p><p>
  36     Men idag, når grunnskoler rutinemessig henger GoPro-kamera fra ballonger og
  37 sender dem høyt nok til å fotografere jordens krumning, for ikke å snakke om
  38 det lite eksepsjonelle synet av en krummet jord fra vinduet på et fly. Det
  39 kreves en heroisk innsats for å holde på troen om at jorden er flat.
  40   </p><p>
  41     På samme måten er det med hvit nasjonalisme og eugenikk. I en tidsalder der
  42 du kan bli et datamaskinberegnet genomdatapunkt ved å sveipe innsiden av
  43 munnhulen og sende resultatet til et gensekvensieringsselskap sammen med en
  44 beskjeden sum penger, så har <span class="quote">«<span class="quote">rasevitenskap</span>»</span> aldri vært enklere
  45 å avvise.
  46   </p><p>
  47     Vi lever i en gullalder både med hensyn til enkel faktatilgang og
  48 fornektelse av dem. Forferdelige idéer som har svevd i utkanten i tiår eller
  49 til og med århundrer har blitt allemannseie tilsynelatende over natten.
  50   </p><p>
  51     Når obskure idéer får fotfeste, er det kun to ting som kan forklare at de
  52 kommer til overflaten: Enten har personen som uttrykker idéen forbedret sin
  53 formidling av den, eller så har forgodtbefinnendet blitt vanskeligere å
  54 fornekte i lys av mer bevis. Med andre ord, hvis vi ønsker at folk skal ta
  55 klimaendringer seriøst, kan vi få et utall Greta Thunberg til å gi
  56 velformulerte, oppofrende argumenter fra talerstoler, til hjertets og
  57 sinnets dyst, eller vi kan vente på floden, den stekende sol, og pandemier
  58 lager argumentene for oss. I praksis må vi antagelig gjøre litt av begge
  59 deler: Desto mer vi steker, brenner, drukner og forvitrer, dess enklere vil
  60 det være for dem av oss som Greta Thunberg å overbevise oss.
  61   </p><p>
  62     De iboende argumentet for ting som eksempelvis teorien om flat jord har ikke
  63 blitt bedre i den vordende generasjonen. Faktisk har ting blitt verre, fordi
  64 folk uten bakgrunn i kildekritikk er gjenstand for dem.
  65   </p><p>
  66     Idéen om en flat jord er like gammel som idéene og forståelsen av dem. De
  67 første presentasjonene av denne teorien kom folk for øre som ikke forstod
  68 selv grunnleggende geometri. De hadde til gode å se tilbake på det
  69 heliosentrikere og storsirkelnavigasjon bragte siden. Dagens tilhengere er
  70 mer finslepne enn tidligere tiders religiøse verdensanskuelse, og de har en
  71 mye vanskeligere jobb.
  72   </p><p>
  73     Er det tilfelle at disse konspiratorikerne lykkes med utgangspunkt i bedre
  74 argumenter?
  75   </p><p>
  76     Noen synes å tro det. I dag er troen hengitt at maskinlæring og kommersiell
  77 overvåkning kan gjøre selv en konspirasjonsteoretiker uten taleevner til
  78 trådtrekker med KI-refinerte argumenter som verktøy til et omvendt
  79 dukketeater som omgår alle rasjonelle evner. Når RAND <a class="ulink" href="https://www.rand.org/content/dam/rand/pubs/research_reports/RR400/RR453/RAND_RR453.pdf" target="_top">beskylder
  80 Facebook for <span class="quote">«<span class="quote">radikalisering</span>»</span></a> og når Facebook sin rolle
  81 i å spre coronavirus-misinformasjon <a class="ulink" href="https://secure.avaaz.org/campaign/en/facebook_threat_health/" target="_top"> blir
  82 bortforklart i deres algoritme</a>, er det underforstått at maskinlæring
  83 og overvåkning endrer vår oppfattelse av hva som sant er.
  84   </p><p>
  85     I en verden der enhver konspirasjonsteori har sine ihuga tilhengere, må
  86 <span class="emphasis"><em>noe</em></span> være i gjerde.
  87   </p><p>
  88     Hva om det har sin naturlige forklaring? Er det kanskje ikke argumentene som
  89 utgjør tyngden på vektskåla for dem? Hva om <span class="emphasis"><em>de ekte
  90 konspirasjonene</em></span> vi omgås hvordan det daglige stormaktsspillet og
  91 i kapitalerværvelsen mellom fut og fogd gravlegger ubeleilig fakta og bevis
  92 på mislighold? Slike ting som i beste fall kalles korrupsjon, gjør de folk
  93 sårbare for fiktive konspirasjonsteorier?
  94   </p><p>
  95     Hvis det er slagskade og ikke smitte – materielle forhold og ikke ideologi –
  96 som utgjør forskjellen i dag og gjør økningen i frastøtende feilinformasjon
  97 mulig, i møte med lett observerte fakta, så betyr det ikke at
  98 datanettverkene vår ikke kan lastes. De gjør fortsatt grovarbeidet med å
  99 spore opp sårbare mennesker og lede dem gjennom en rekke av stadig mer
 100 ekstreme ideer og lokalsamfunn.
 101   </p><p>
 102     Troen på fiktive konspirasjoner har gjort skade og utgjør en fare for
 103 planeten, fra arter <a class="ulink" href="https://www.cdc.gov/measles/cases-outbreaks.html" target="_top">kicked off by vaccine
 104 denial</a> til folkemord <a class="ulink" href="https://www.nytimes.com/2018/10/15/technology/myanmar-facebook-genocide.html" target="_top">igangsatt
 105 av rasistiske konspirasjonsteorier</a> til planetarisk nedsmelting
 106 forårsaket av nektelsesinspirert klimainaktivitet. Vår verden brenner, og
 107 derfor må vi slukke brannene - for å finne ut hvordan vi kan hjelpe folk til
 108 å se sannheten i verden igjennom konspirasjonene de har blitt forvirret av.
 109   </p><p>
 110     Brannslokking er reaktivt. Det trengs <span class="emphasis"><em>forebygging</em></span>. Den
 111 materielle tilværelsen hvis innvirken på folks svakhet for den, smitter over
 112 i handling. Her kan også teknologi ha noe å si.
 113   </p><p>
 114     Det skorter ikke på tilsvarsforslag. Fra EU sin <a class="ulink" href="https://edri.org/tag/terreg/" target="_top">Terroristinnhold-regulering</a> som
 115 krever at plattformer håndhever og fjerner
 116 <span class="quote">«<span class="quote">ekstremistisk</span>»</span>-innhold, til USAs forslag om å <a class="ulink" href="https://www.eff.org/deeplinks/2020/03/earn-it-act-violates-constitution" target="_top">tvinge
 117 teknologiselskaper til å spionere på sine brukere</a> og holde dem
 118 ansvarlige <a class="ulink" href="https://www.natlawreview.com/article/repeal-cda-section-230" target="_top">for
 119 brukernes ytringsfrihet</a>. Det er mange krefter i sving som kan svinge
 120 tilbake slik at teknologiselskaper må løse problemene de utgjør.
 121   </p><p>
 122     Her mangler en kritisk del av debatten. Alle disse løsningene antar at
 123 teknologiselskaper er en bruksgjenstand, at deres dominanse over Internett
 124 er evig. Forslag til endring av storteknologien til et mer finmasket,
 125 mangeslynget Internett lar vente på seg. <span class="quote">«<span class="quote">Løsningene</span>»</span> som
 126 forefinnes <span class="emphasis"><em>krever</em></span> at storteknologien skal forbli
 127 storartet smålig, fordi kun de største selskapene får råd til å sette i verk
 128 systemene disse lovene krever.
 129   </p><p>
 130     Løsningen på hva teknologien skal være er svaret på hva som skal til for å
 131 komme oss ut av knipa. I dag er vi på perrongen og prøver å finne ut hva
 132 tabellen storteknologien har lagt fore skal bety for vårt Internett i
 133 fortsettelsen, eller om det går noen tog andre veien. Enveisbilletten har vi
 134 klamt for hånden.
 135   </p><p>
 136     Velg med omhu. Temming av storteknologien er iboende viktig for løsningen på
 137 Internett. Hvorfra vi setter ut i det, en digital rettighetsaktivisme til.
 138   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="digital-rights-activism-a-quarter-century-on"></a>Digital rettighetsaktivisme, et kvart århundre senere</h2></div></div></div><p>
 139     Digital rettighetsaktivisme er eldre enn Internett. GNU-prosjektet er fra
 140 1983. Elektronisk forpost fra 1990. I brorparten av tiden denne har
 141 eksistert, var hovedkritikken rettet mot dens formål at det hele var
 142 irrelevant: De sanne aktivistparolene var blitt virkelighet i lys av
 143 skepsis. Tenk over hva som ble sagt da <a class="ulink" href="https://www.loc.gov/law/foreign-news/article/finland-legal-right-to-broadband-for-all-citizens/#:~:text=Global%20Legal%20Monitor,-Home%20%7C%20Search%20%7C%20Browse&amp;text=(July%206%2C%202010)%20On,connection%20100%20MBPS%20by%202015." target="_top">Finland
 144 snudde kjæringa og erklærte breiband en mennskerett i 2010</a>. Sann
 145 aktivisme var for smørkrise å regne den gang. Tenk over Malcolm Gladwell sin
 146 <a class="ulink" href="https://www.newyorker.com/magazine/2010/10/04/small-change-malcolm-gladwell" target="_top">forakt
 147 for at Finland gjorde resten av verden til skamme i 2010</a> da han
 148 kalte det <span class="quote">«<span class="quote">klikktivisme.</span>»</span>. Etter at storteknologien har blitt
 149 sentral i våre liv, om ikke erstattet noen av dem helt, har disse uverdige
 150 kritikkene blitt kritikk verdige. Først lød pipa av at <span class="quote">«<span class="quote">Du bryr deg
 151 kun om teknologi fordi du <a class="ulink" href="https://www.ipwatchdog.com/2018/06/04/report-engine-eff-shills-google-patent-reform/id=98007/" target="_top">er
 152 en undersått av et teknologiselskap</a></span>»</span>. Så ble lyden
 153 tonelydende <span class="quote">«<span class="quote">Hvorfor forutså du ikke at teknologi kom til å bli en så
 154 destruktiv kraft?</span>»</span>. Digital rettighetsaktivisme er riktig der det
 155 alltid har vært rett: voktende over menneskene i en verden der teknologi
 156 ubønnhørlig tar grep.
 157   </p><p>
 158     Siste versjon av kritikken plystrer til takten av
 159 <span class="quote">«<span class="quote">overvåkningskapitalismen</span>»</span>, et begrep Shoshana Zuboff førte i
 160 pennen i sin innflytelsesrike og lange bok fra 2019, <span class="emphasis"><em>Tidsalderen
 161 overvåkningskapitalismen: Kampen om en human fremtid i maktens nye
 162 frontlinjer</em></span>. Zuboff argumenterer at
 163 <span class="quote">«<span class="quote">overvåkningskapitalisme</span>»</span> er en unik funksjon av
 164 teknologi-industrien, og at til forskjell fra andre skadeinnvirkende
 165 kommersielle gesjefter i historiens løp, at denne <span class="quote">«<span class="quote">skriver seg fra
 166 uventede og illegale mekanismer for utnyttelse, verdiskapning og kontroll
 167 som effektivt sett løsriver folk fra deres adferd, mens den lager nye
 168 markeder for å forutsi oppførselsforutsigbarhet og endring av
 169 den. Overvåkningskapitalisme utfordrer demokratiske normer, og tar avskjed
 170 med århundrers markedskapitalisme på sentrale punkter.</span>»</span> Det er en ny
 171 og dødlig form for kapitalisme, en <span class="quote">«<span class="quote">ukontrollert kapitalisme</span>»</span>,
 172 og vår forståelsesmangel i dens unike muligheter og farer representerer en
 173 eksistensiell, artsomfattende trussel. Hun skal ha rett i at dagens
 174 kapitalisme truer vårt artsmangfold, og hun framfører riktig nok at vår art
 175 og sivilisasjon har utfordringer. Dog tar hun kanskje virkelig feil av
 176 hvordan teknologi er forskjellig, og hvordan det truer vår art.
 177   </p><p>
 178     En slik feildiagnostisering vil forlede oss inn på et spor der
 179 storteknologien har penset inn allerede. Ned med storteknologien, er ikke en
 180 avsporing av problemet.
 181   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="tech-exceptionalism-then-and-now"></a>Teknologieksepsjonalisme, da og nå</h2></div></div></div><p>
 182     Tidligere kritikere av bevegelsen av og for digitale rettigheter—kanskje
 183 best representert ved organisasjoner som GNU-prosjektet, Elektronisk
 184 forpost, Public Knowledge, og andre som fokuserer på ivaretagelse og
 185 forbedring av grunnleggende rettigheter fra og i den digitale sfære—ble kalt
 186 aktivister for å praktisere <span class="quote">«<span class="quote">teknologieksepsjonalisme</span>»</span>. Rundt
 187 tusenårets slutt drev seriøse mennesker gjøn og påstod at teknologi-praksis
 188 ikke hadde innvirkning på den <span class="quote">«<span class="quote">virkelige verden</span>»</span>. Påstander om
 189 at teknologiregler hadde innvirkning på talefrihet, assosiasjonsfrihet, vern
 190 av privatsfæren, ransakelsesordrer, og fundamentale rettigheter og verdier
 191 ble antatt for latterlige å være, en videre trist fabulering om
 192 <span class="emphasis"><em>Star Trek</em></span> på digitale oppslagstavler istedenfor Nelson
 193 Mandela.
 194   </p><p>
 195     I årtiene som fulgte, har anklagene om
 196 <span class="quote">«<span class="quote">teknologi-eksepsjonalisme</span>»</span> økt etter som teknologi har fått en
 197 større rolle i folks hverdagsliv. Nå som teknologi har infiltrert hver krink
 198 og krok i våre liv, og våre nettbaserte liv kun har kommet et knippe
 199 monopolister i hende, blir digitale rettighetsforkjempere anklaget for å gå
 200 storteknologiens ærend, og støtter deres uaktsomhet som tjener deres
 201 egeninteresse (eller verre, skumle konspirasjoner).
 202   </p><p>
 203     Fra eget perspektiv har bevegelsen for digitale rettigheter forholdt seg der
 204 den startet, mens resten av verden har flyttet seg. Helt fra dens tidligste
 205 dager, var det dens brukere også dem som skrev koden fra tanke til
 206 fundamentale verktøy. Digitale rettighetsaktivister brød seg kun om
 207 selskaper i den grad de brydde seg om brukernes rettigheter (eller, vel så
 208 ofte, når selskaper gjorde så tåpelige ting at det truet med nye regelsett
 209 som også gjorde det vanskeligere for rasjonelle aktører å hjelpe brukere).
 210   </p><p>
 211     <span class="quote">«<span class="quote">Overvåkningskapitalisems</span>»</span> kritiker kommer så med en ny
 212 vinkling mot bevegelsen for digitale rettigheter: Ikke som varslere som
 213 overdriver hvor viktig de nye leketøyene deres er, ei heller som
 214 håndtlangere for storteknologien, men som velmenende stolflyttere hvis
 215 langvarige aktivisme er en belastning fordi det gjør det ute av stand til å
 216 oppfatte nye truslene som finnes fordi de er opptatt med forrige århundres
 217 teknologikamp.
 218   </p><p>
 219     Men teknologieksepsjonalisme er en synd, uavsett hvem som bedriver den.
 220   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="dont-believe-the-hype"></a>Ikke fest din lit til oppstuss</h2></div></div></div><p>
 221     Du har antagelig hørt at <span class="quote">«<span class="quote">om du ikke betaler for noe, er det du som er
 222 produktet</span>»</span>. Som vi ser nedenfor, er det riktig, men ikke hele
 223 bildet. Det som er <span class="emphasis"><em>helt</em></span> riktig om reklamefinansiert
 224 storteknologi, er at dens kunder er de som reklamerer, og det selskaper som
 225 Google og Facebook selger, er deres evne til å overbevise
 226 <span class="emphasis"><em>deg</em></span> om å kjøpe ting. Tjenestene—sosiale media,
 227 søkemotorer, kart, meldingstjenester, med mer—er leveringssystemer for
 228 overbeviselse.
 229   </p><p>
 230     Frykten for overvåkningskapitalismen utgår fra den (korrekte) antagelsen om
 231 at alt Storteknologien sier om seg selv antagelig er løgn. Men kritikken av
 232 overvåkningskapitalismen gjør unntak fra påstandene Storteknologien kommer
 233 med i salgsmateriellet sitt - overdrivelsene som tar pusten fra deg i
 234 salgsfremstøtene til potensielle annonsekjøpere på nettet og i deres
 235 reklameteknologiseminarer om effekten av produktene.  Den antar at
 236 Storteknologien er så god til å påvirke oss som de påstår de er når de
 237 selger påvirkningsprodukter til pålitelige kunder.  Dette er en tabbe, da
 238 salgsmateriell ikke er en pålitelig indikator på et produkts
 239 gjennomføringsevne.
 240   </p><p>
 241     Overvåkningskapitalismen antar det at det kjøpes mye av markedsføringen som
 242 Storteknologien selges, så må Storteknologien selge noe som virker. Men det
 243 enorme salget til Storteknologien kan like gjerne være et resultat av en
 244 felles vrangforestilling eller noe enda mer skadelig, monopolistisk kontroll
 245 over kommunikasjonen og handelen vår.
 246   </p><p>
 247     Du endrer oppførsel når noen ser på deg, og ikke til det bedre.  Det skaper
 248 risiko for vår sosiale fremgang.  Zuboffs bok inneholder vakkert formulerte
 249 forklaringer av disse fenomenene.  Men Zuboff påstår også at overvåkning
 250 bokstavlig talt fjerner vår frie vilje, at når våre personlige data blandes
 251 med maskinlæring, så oppstår et overtalelsessystem så ødeleggende at vi er
 252 helt hjelpeløse i møte med det.  Det vil si at Facebook med en algoritme til
 253 å analysere data som det henter ut fra ditt daglige liv uten samtykke,
 254 tilpasser feeden din slik at du kjøper ting. Det er en tankekontrollstråle
 255 rett ut av en femtitalls-tegneserie, der brukt av gale forskere hvis
 256 superdatamaskiner garanterer dem evigvarende og total verdensherredømme.
 257   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="what-is-persuasion"></a>Hva er overtalelse?</h2></div></div></div><p>
 258     For å forstå hvorfor du ikke bør bekymre deg over tankekontrollstråler, men
 259 hvorfor du <span class="emphasis"><em>bør</em></span> bekymre deg over overvåkning
 260 <span class="emphasis"><em>og</em></span> Storteknologi, så må vi starte ved å se på hva vi
 261 mener med <span class="quote">«<span class="quote">overtalelse</span>»</span>.
 262   </p><p>
 263     Google, Facebook, og andre overvåkningskapitalister lover sine kunder (de
 264 som markedsfører) at hvis de bruker maskinlæringsverktøy opptrent på
 265 ufattelig store datasett av personinformasjon høstet inn uten samtykke, så
 266 vil de være i stand til å finne måter å overstyre de rasjonale evnene til
 267 folket og styre deres oppførsel, og slik skape en strøm av kjøp, stemmer og
 268 andre ønskede resultater.
 269   </p><div class="blockquote"><blockquote class="blockquote"><p>
 270       Effekten av dominans er mye større enn effekten av manipulering og bør
 271 derfor være hovedfokus i vår analyse og bestemmende for hvilke avhjelpende
 272 midler vi går for.
 273     </p></blockquote></div><p>
 274     Men det finnes få indiser på at det er dette som skjer. I stedet er
 275 forutsigelsene som overvåkningskapitalismen leverer til sine kunder mye
 276 mindre imponerende. I stedet for å finne måter å omgå våre rasjonelle evner,
 277 så gjør overvåkningskapitaliser som Mark Zuckerberg i hovedsak en eller
 278 flere av tre ting:
 279   </p><div class="sect2"><div class="titlepage"><div><div><h3 class="title"><a name="segmenting"></a>1. Segmentering</h3></div></div></div><p>
 280       Hvis du selger bleier, så er det større sjanse for et salg hvis du forsøker
 281 å selge dem til folk som er innom fødeavdelinger. Slett ikke alle som
 282 ankommer eller forlater en fødeavdeling har nettopp fått en baby, og ikke
 283 alle som har fått en baby er i markedet etter bleier. Men det å ha en baby
 284 er svært nært knyttet til det å være ute etter å kjøpe bleier, og det å være
 285 på en fødestue er svært nært knyttet til det å ha en baby. Dermed er det
 286 bleiereklamer i nærheten av fødeavdelinger (samt selgere av babyprodukter,
 287 som henger rundt fødeavdelinger med favnen full av gratispakker).
 288     </p><p>
 289       Overvåkningskapitalisem er segmentering ganger en milliard.
 290 Bleieprodusenter kan langt overgå å fokusere på folk på fødestuer (selv om
 291 de også kan gjøre slikt, ved å bruke stedsbaserte mobilreklager). De kan
 292 rette reklamen mot deg basert på om du leser artikler om barneoppdragelse,
 293 bleier, eller en hel rekke andre tema, og datautvinningen kan foreslå
 294 ikke-åpenbare nøkkelord å rette reklamen mot.  De kan rette reklamen mot deg
 295 basert på artikler du nylig har lest.  De kan rette reklamen mot deg baser
 296 på det du nylig har kjøpt. De kan rette reklamen mot deg basert på om du har
 297 mottatt epost eller private meldinger om disse temaene — eller til og med om
 298 du snakker høyt om dem (selv om Facebook og dets like overbevisende påstår
 299 at dette ikke gjøres — ennå).
 300     </p><p>
 301       Dette er veldig ekkelt.
 302     </p><p>
 303       Men det er ikke tankekontroll.
 304     </p><p>
 305       Det fratar deg ikke din frie vilje. Det lurer deg ikke.
 306     </p><p>
 307       Se hvordan overvåkningskapitalisem virker i politikken.
 308 Overvåkningskapitalistselskapene selger til politiske aktører evnen til å
 309 spore opp folk som er mottakelige for deres argumenter. Kandidater som
 310 kjører valgkamp på korrupsjon i finansbransjen leter etter folk som sliter
 311 med gjeld.  Kandidater som kjører valgkamp på fremmedfrykt leter etter
 312 rasister.  Politiske aktører har alltid rettet sine budskap uansett om
 313 intensjonene var hederlige eller ikke.  De som danner fagforeninger sprer
 314 budskapet ved fabrikkportene, og forkjemperne for hvit overherredømme deler
 315 ut foldere på møter i John Birch Society (FIXME bedre med norsk analogi?).
 316     </p><p>
 317       Men dette er en unøyaktig og ressurssløsende praksis. Fagforeningenfyren kan
 318 ikke vite hvilken arbeider de bør ta kontakt med på vei ut fra fabrikken, og
 319 kan kaste bort tiden sin på en som er John Birch Society-medlem i skjul, og
 320 forkjemperen for hvitt overherredømme kan ikke hvem ar John Birch
 321 Society-medlemmene som er så fjern at det å komme seg på et møte er det
 322 meste de klarer, og hvilke som kan overtales til å reise tvers over hele
 323 landet for å bære en tiki-fakkel gjennom gatene i Charlottesville, Virginia.
 324     </p><p>
 325       Fordi målretting forbedrer nedslagsfeltet i politiske leire, kan det
 326 akselerere tempoet i en politisk omveltning ved å åpne for at alle som i
 327 hemmelighet ønsket å velte en autokrat - eller bare en politiker som har
 328 sittet i elleve perioder - i å finne alle andre som mener det samme, og til
 329 en lav kostnad. Dette har vært avgjørende for den raske utkrystalliseringen
 330 av de siste politiske bevegelsene, inkludert Black Lives Matter og Occupy
 331 Wall Street, samt mindre tiltalende aktører, som ytre høyrehvite
 332 nasjonalistiske bevegelser som marsjerte i Charlottesville.
 333     </p><p>
 334       Det er viktig å skille denne typen politisk organisering fra
 335 påvirkningskampanjer; å finne folk som i hemmelighet er enige med deg er
 336 ikke det samme som å overbevise folk til å være enig med deg. Fremveksten av
 337 fenomener som ikke-binære eller på annen måte avvikende kjønnsidentiteter er
 338 ofte preget av reaksjonære som følge av hjernevaskingskampanjer på nettet
 339 som overbeviser påvirkbare mennesker at i hemmelighet her vært skeive hele
 340 tiden.
 341     </p><p>
 342       Men de personlige beretningene til de som har trådt frem, forteller en annen
 343 historie hvor folk som lenge hadde en hemmelighet om deres kjønn, ble
 344 styrket av andre som trådte frem, og der folk som visste at de var
 345 forskjellige, men manglet et ordforråd for å diskutere denne forskjellen,
 346 lærte de riktige ordene på disse rimelige måtene ved å finne folk på og lære
 347 om deres ideer.
 348     </p></div><div class="sect2"><div class="titlepage"><div><div><h3 class="title"><a name="deception"></a>2. Villedning</h3></div></div></div><p>
 349       Løgner og svindel er skadelige, og overvåkingskapitalismen overbelaster dem
 350 gjennom målretting. Hvis du ønsker å selge et uredelig forskuddslån frem til
 351 lønningsdagen eller et overbelastet boliglån, kan overvåkingskapitalismen
 352 hjelpe deg å finne folk som er både desperate og usofistikerte og dermed
 353 mottakelig for ditt påhopp. Dette står for fremveksten av mange fenomener,
 354 som flernivå markedsføringsopplegg, der villedende påstander om potensiell
 355 inntjening og effektive av salgsteknikker er rettet mot desperate mennesker
 356 ved å annonsere mot søk som indikerer, for eksempel, at noen sliter med lån
 357 som resultat av dårlig rådgiving.
 358     </p><p>
 359       Overvåkingskapitalismen fremmer også svindel ved å gjøre det enkelt å finne
 360 andre mennesker som har blitt tilsvarende bedratt, og danner et fellesskap
 361 av mennesker som forsterker hverandres falske tro.  Tenk på <a class="ulink" href="https://www.vulture.com/2020/01/the-dream-podcast-review.html" target="_top">forumene</a>
 362 hvor folk, som blir utsatt for flernivå markedsføringssvindel, samles for å
 363 utveksle tips om hvordan de kan forbedre sin situasjon ved å selv selge
 364 produktet.
 365     </p><p>
 366       Noen ganger innebærer villedning på nett å erstatte noens korrekte tro med
 367 feil, som det gjør i anti-vaksinasjonsbevegelsen, hvis ofre ofte er folk som
 368 begynner å tro på vaksiner, men er overbevist av tilsynelatende plausible
 369 bevis som fører dem inn i den falske troen på at vaksiner er skadelige.
 370     </p><p>
 371       Men det er mye mer vanlig for svindel å lykkes når den ikke trenger å
 372 fortrenge en riktig overbevisning. Da datteren min fikk hodelus i
 373 barnehagen, fortalte en av barnehagearbeiderne meg at jeg kunne bli kvitt
 374 dem ved å behandle håret og hodebunnen med olivenolje. Jeg visste ikke noe
 375 om hodelus, og jeg antok at barnehagearbeideren gjorde det, så jeg prøvde
 376 det (det fungerte ikke, og det virker ikke). Det er lett å ende opp med
 377 falske tro når du rett og slett ikke vet noe bedre, og når disse
 378 overbevisningene formidles av noen som synes å vite hva de gjør.
 379     </p><p>
 380       Dette er skadelig og vanskelig - og det er også den typen ting Internett kan
 381 bidra til å beskytte mot. Ved å gjøre sann informasjon tilgjengelig,
 382 spesielt i en form som avslører de underliggende overveielsene blant parter
 383 med skarpt divergerende synspunkter, som i Wikipedia. Men dette er ikke
 384 hjernevasking; det er svindel. I <a class="ulink" href="https://datasociety.net/library/data-voids/" target="_top">de fleste
 385 tilfellene</a>, har ofrene for disse svindelkampanjene fått et
 386 informasjonstomrom fylt på vanlig måte, ved å konsultere en tilsynelatende
 387 pålitelig kilde. Hvis jeg undersøker lengden på Brooklyn Bridge,og finner at
 388 den er 5800 fot lang, men i virkeligheten er den 5989 fot lang, er det
 389 underliggende villedningen er et problem, men det er et problem med et
 390 enkelt hjelpemiddel. Det er et helt annet problem enn anti-vaksineproblemet,
 391 der noens korrekte oppfatning er erstattet av en falsk ved hjelp av
 392 sofistikert overtalelse.
 393     </p></div><div class="sect2"><div class="titlepage"><div><div><h3 class="title"><a name="domination"></a>3. Dominans</h3></div></div></div><p>
 394       Overvåkingskapitalismen er et resultat av monopol. Monopol er årsaken, og
 395 overvåkingskapitalismen og dens negative resultater er virkningene av
 396 monopol. Jeg vil gå dypere inn i dette senere, men nå er det nok å si at
 397 teknologi-industrien har vokst opp med en radikal teori om antitrust, som
 398 har tillatt selskaper å vokse ved å fusjonere med sine rivaler, kjøpe opp
 399 sine gryende konkurrenter, og utvidet til å kontrollere hele markedet
 400 vertikalt.
 401     </p><p>
 402       Et eksempel på hvordan monopolopptreden hjelper til å overtalelse gjennom
 403 dominans: Google tar redaksjonelle beslutninger om sine algoritmer som
 404 bestemmer sorteringsrekkefølgen for svarene på våre søk. Hvis en samling
 405 svindlere vil lure verden til å tro at Brooklyn Bridge er 5800 fot lang, og
 406 hvis Google gir en høy søkerangering til den gruppen som svar på spørsmål
 407 som <span class="quote">«<span class="quote">Hvor lang er Brooklyn Bridge? </span>»</span> Da kan de første åtte
 408 eller ti Google- skjermene ha feil verdier. Og siden de fleste ikke går
 409 lengre enn de første par resultatene – enn si resultatene på den første
 410 <span class="emphasis"><em>siden</em></span> med resultater – betyr Googles valg, at mange
 411 mennesker vil bli ført bak lyset.
 412     </p><p>
 413       Googles dominans over søk – mer enn 86 % av nettsøkene utføres via Google –
 414 betyr at måten de organiserer søkeresultatene på, har en stor effekt på den
 415 offentlige oppfatningen. Ironisk nok hevder Google at det er derfor det ikke
 416 har råd til å ha noen åpenhet i sin algoritmedesign: Googles søkedominans
 417 gjør resultatene av sorteringen er for viktig til å risikere å fortelle
 418 verden hvordan den kommer til disse resultatene, om ikke en dårlig aktør
 419 oppdager en feil i rangeringssystemet, og utnytter det til å presse sitt syn
 420 frem til toppen av søkeresultatene. Det er et åpenbart hjelpemiddel overfor
 421 et selskap som er for stort til å bli gjennomgått: Å bryte det opp i mindre
 422 biter.
 423     </p><p>
 424       Zuboff kaller overvåkingskapitalismen en <span class="quote">«<span class="quote">ukontrollert
 425 kapitalisme</span>»</span> hvis datahamstring og maskinlæringsteknikker frarøver
 426 oss vår frie vilje. Men påvirkningskampanjer som søker å fortrenge
 427 eksisterende, korrekte overbevisninger med falsk, har en effekt som er liten
 428 og midlertidig, mens monopolistisk dominans over informasjonssystemer har
 429 massive, varige effekter. Å kontrollere resultatene til verdens søk, betyr å
 430 kontrollere tilgang både til argumenter og deres motsvar, og dermed kontroll
 431 over mye av hva verdens tror på. Hvis vår bekymring er hvordan selskaper
 432 foregriper vår muligheter å gjøre opp våre egne oppfatninger og bestemme vår
 433 egen fremtid, så overstiger virkningen av slik dominans langt virkningen av
 434 manipulasjon og bør stå sentralt i vår analyse og for alle utbedringer vi
 435 går for.
 436     </p></div><div class="sect2"><div class="titlepage"><div><div><h3 class="title"><a name="bypassing-our-rational-faculties"></a>4. Omgåelse av våre rasjonelle evner</h3></div></div></div><p>
 437       <span class="emphasis"><em>Dette</em></span> er de gode greiene: ved hjelp av maskinlæring,
 438 <span class="quote">«<span class="quote">mørke mønstre</span>»</span>, "engagement hacking" (FIXME) og andre
 439 teknikker for å få oss til å gjøre ting som er i strid med vår egen sunne
 440 fornuft. Dette er tankekontroll.
 441     </p><p>
 442       Noen av disse teknikkene har vist seg ødeleggende effektive (om bare på kort
 443 sikt). Bruk av nedtellingstidtakere på en kjøpsfullføringsside kan skape en
 444 følelse av hast som får deg til å ignorere den gnagende interne stemmen, som
 445 antyder at du bør undersøke flere alternativer eller sove på avgjørelsen
 446 din. Bruken av personer fra den sosiale grafen i annonser kan gi
 447 <span class="quote">«<span class="quote">sosiale bevis</span>»</span> at et kjøp er verdt å gjøre. Selv
 448 auksjonssystemet som eBay har utviklet, er beregnet til å spille på våre
 449 kognitive blindsoner, slik at vi kan føle at vi <span class="quote">«<span class="quote">eier</span>»</span> noe
 450 fordi vi byr på det, og dermed oppmuntrer oss til å by igjen, når vi blir
 451 overbydd, for å sikre at <span class="quote">«<span class="quote">våre</span>»</span> ting forblir våre.
 452     </p><p>
 453       Spill er usedvanlig gode på dette. <span class="quote">«<span class="quote"> Gratis å spille</span>»</span>-spill
 454 manipulere oss gjennom mange teknikker, for eksempel ved å presentere
 455 spillere med en rekke jevnt eskalerende utfordringer, som skaper en følelse
 456 av mestring og prestasjon, men som skarpt går over til et sett med
 457 utfordringer som er umulige å overvinne uten betalte oppgraderinger. Legg
 458 til noen sosiale bevis i blandingen – en strøm av varsler om hvor godt
 459 vennene dine klarer det – og før du vet av det, kjøper du virtuelle
 460 oppgraderinger for å komme opp til neste nivå.
 461     </p><p>
 462       Selskaper har steget og falt på disse teknikkene, og de
 463 <span class="quote">«<span class="quote">fallende</span>»</span> delen er verdt å vie oppmerksomhet. Generelt
 464 tilpasser levende ting seg til stimuli: Noe som er veldig overbevisende
 465 eller bemerkelsesverdig når du først møter det, falmer med repetisjon til du
 466 slutter å legge merke til det helt. Tenk på lyden fra kjøleskapet, som
 467 irriterer deg når det starter opp, men som forsvinner helt i bakgrunnen,
 468 slik at du bare legger merke til den når det stopper igjen.
 469     </p><p>
 470       Det er derfor atferdskondisjonering bruker <span class="quote">«<span class="quote">periodiske
 471 forsterkningsmetodikker.</span>»</span> I stedet for å gi deg et jevnt drypp av
 472 oppmuntring eller tilbakeslag, fordeler spill og spill-lignende tjenester
 473 belønninger med et randomisert oppsett - ofte nok til å holde deg
 474 interessert og tilfeldig nok til at du aldri helt kan finne mønsteret som
 475 ville gjøre det kjedelig.
 476     </p><p>
 477       Periodiske forsterkninger er et kraftig atferdsverktøy, men det
 478 representerer også et kollektivt handlingsproblem for
 479 overvåkingskapitalismen. <span class="quote">«<span class="quote">Engasjementsteknikkene</span>»</span> er oppfunnet
 480 av atferdseksperter i overvåkingskapitalistiske selskaper og kopieres raskt
 481 over hele sektoren. Slik at det som starter som en mystisk overbevisende
 482 stimuli i utformingen av en tjeneste – som <span class="quote">«<span class="quote">trykk for å
 483 oppdatere</span>»</span> eller varsler når noen liker innleggene eller siden din,
 484 og som karakteren din inviteres til, mens den er midt i et kjedelig,
 485 allestedsnærværende hovedoppdrag. Videre tikker de tilfeldige dryppene fra
 486 din mobil, som det er umulig å ta tak i, og som blir til en grå lydvegg når
 487 hver enkelt app og nettsted arbeider.
 488     </p><p>
 489       Fra overvåkingskapitalistens synspunkt blir vår adaptive kapasitet som en
 490 skadelig bakterie som frarøver den matkilden – som er vår oppmerksomhet – og
 491 nye teknikker for å hekte denne oppmerksomheten er som ny antibiotika som
 492 kan brukes til å bryte vårt forsvar og ødelegge vår selvbestemmelse. Og der
 493 <span class="emphasis"><em> er</em></span> slike teknikker. Hvem kan glemme den store
 494 Zynga-epidemien, da alle våre venner ble fanget i
 495 <span class="emphasis"><em>FarmVille</em></span>s endeløse, tankeløse dopaminsløyfer? Men hele
 496 bransjen hopper på hver ny oppmerksomhets-kommanderende teknikk, som så
 497 brukes så ukritisk at antibiotikaresistens setter inn. Gitt nok repetisjon
 498 utvikler nesten alle immunitet mot selv de kraftigste teknikkene - og innen
 499 2013, to år etter Zyngas topp, hadde brukerbasen halvert seg.
 500     </p><p>
 501       Ikke alle, selvfølgelig. Noen mennesker tilpasser seg aldri stimulanser,
 502 akkurat som noen mennesker aldri slutter å høre summingen av kjøleskapet.
 503 Dette er grunnen til at de fleste som er utsatt for spilleautomater spille
 504 dem for en stund og deretter går videre mens en liten og tragisk minoritet
 505 bruker barnas oppsparte studiemidler, kjøper voksen bleier, og plasserer seg
 506 foran en maskin til de kollapser.
 507     </p><p>
 508       Men overvåkingskapitalismens marginer på atferdsendring stinker. Tredobling
 509 av hastigheten når noen kjøper et skjermelement høres bra ut <a class="ulink" href="https://www.forbes.com/sites/priceonomics/2018/03/09/the-advertising-conversion-rates-for-every-major-tech-platform/#2f6a67485957" target="_top">
 510 med mindre grunnprisen er langt mindre enn 1 % </a> med en forbedret
 511 hastighet på ... fortsatt mindre enn 1 %. Selv spilleautomater med mynt
 512 bruker mynter for hvert spinn, mens overvåkingskapitalismen raker inn
 513 uendelige brøkerdeler av mynter.
 514     </p><p>
 515       Spilleautomatenes høye avkastning betyr at de kan være lønnsomme bare ved å
 516 tømme formuene til den lille gjenstående delen av personer som er patologisk
 517 sårbare for dem og ikke kan tilpasse seg triksene deres. Men
 518 overvåkingskapitalismen kan ikke overleve på brøkdeler av mynter som bringes
 519 inn fra sårbare. Det er derfor, etter at den store Zynga epidemien endelig
 520 hadde brent seg ut, kunne det lille antallet fortsatt avhengige spillere
 521 fortsatt opprettholde spillet som et globalt fenomen. Og nye kraftige
 522 oppmerksomhetsvåpen er ikke lett å finne, som det fremgår av de mange årene
 523 siden forrige gang Zynga hadde en hit. Til tross for hundrevis av millioner
 524 dollar som Zynga må bruke på å utvikle nye verktøy for å sprenge gjennom vår
 525 tilpasning, har det aldri klart å gjenta den heldige treffet som haket inn
 526 så mye av vår oppmerksomhet for et kort øyeblikk i 2009. Kraftsentra, som
 527 Supercell, har klart seg litt bedre, men de er sjeldne har mange bortkastede
 528 feil for hver suksess.
 529     </p><p>
 530       Sårbarheten fra avgrensede deler av befolkningen til dramatisk, effektiv
 531 bedriftsmanipulasjon, er et reelt anliggende som er verdig vår oppmerksomhet
 532 og energi. Men det er ikke en eksistensiell trussel mot samfunnet.
 533     </p></div></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="if-data-is-the-new-oil-then-surveillance-capitalisms-engine-has-a-leak"></a>Hvis data er den nye oljen, så har overvåkningskapitalismen motorlekkasje</h2></div></div></div><p>
 534     Dette tilpasningsproblemet gir en forklaring på en av
 535 overvåkingskapitalismens mest alarmerende egenskaper: dens nådeløse sult
 536 etter data og dens endeløse utvidelse av evnen til datainnsamling ved
 537 spredning av sensorer, nettovervåking og oppkjøp av datastrømmer fra
 538 tredjeparter.
 539   </p><p>
 540     Zuboff observerer dette fenomenet og konkluderer med at data må være svært
 541 verdifulle hvis overvåkingskapitalismen er så sulten på det. (I hennes ord:
 542 <span class="quote">«<span class="quote">Akkurat som industriell kapitalisme ble drevet til kontinuerlig
 543 intensivering av produksjonsmidlene, så nå er overvåkingskapitalister og
 544 deres markedsaktører låst inn i den kontinuerlige intensiveringen av
 545 virkemidler for atferdsmodifisering og innsamlingskraftens makt. </span>»</span>)
 546 Men hva om den grådige appetitten er fordi dataene har en så kort
 547 halveringstid - fordi folk så raskt herdes mot nye, datadrevne
 548 overtalelsesteknikker - at selskapene er låst i et våpenkappløp mot vårt
 549 glemsomme system? Hva om det hele er en Red Queen's rase hvor de må løpe
 550 stadig raskere - samle stadig mer data - bare for å holde seg på samme sted?
 551   </p><p>
 552     Selvfølgelig fungerer alle Storteknolgiens overtalelsesteknikker sammen med
 553 hverandre, og innsamling av data er nyttig utover bare til atferdsmessig
 554 lureri.
 555   </p><p>
 556     Hvis noen ønsker å rekruttere deg til å kjøpe et kjøleskap eller bli med i
 557 en pogrom, kan de bruke profilering og målretting for å sende meldinger til
 558 folk de bedømmer for å gi gode salgsutsikter. Meldingene i seg selv kan være
 559 villedende, og gjør påstander om ting du ikke er veldig kunnskapsrik om
 560 (matsikkerhet og energieffektivitet, eller eugenikk og historiske påstander
 561 om rasemessig overlegenhet). De kan bruke søkemotoroptimalisering og/eller
 562 hærer av falske korrekturlesere og kommentatorer og/eller betalt plassering
 563 for å dominere diskursen, slik at ethvert søk etter ytterligere informasjon
 564 tar deg tilbake til meldingene sine.  Og til slutt kan de avgrense de
 565 forskjellige banene ved hjelp av maskinlæring og andre teknikker for å finne
 566 ut hva slags tonehøyde som fungerer best på noen som deg.
 567   </p><p>
 568     Hver fase av denne prosessen drar nytte av overvåking: Jo flere data de har,
 569 jo mer presist kan de profilere deg og målrette deg mot bestemte
 570 meldinger. Tenk på hvordan du ville selge et kjøleskap, hvis du visste at
 571 garantien på prospektets kjøleskap nettopp er utløpt, og at de forventer en
 572 skatterabatt i april.
 573   </p><p>
 574     Jo mer data de har, desto bedre kan de lage villedende meldinger - hvis jeg
 575 vet at du liker slektsforskning, kan jeg ikke prøve å mate deg
 576 pseudovitenskap om genetiske forskjeller mellom <span class="quote">«<span class="quote"> raser,</span>»</span>
 577 stikker i stedet til konspiratoriske hemmelige historier om <span class="quote">«<span class="quote">
 578 demografi</span>»</span> og lignende.
 579   </p><p>
 580     Facebook hjelper deg også med å finne personer som har de samme motbydelige
 581 eller antisosiale synspunktene som deg. Det gjør det mulig å finne andre
 582 mennesker som ønsker å bære bambusfakler gjennom gatene i Charlottesville i
 583 Confederate-utstyr. Det kan hjelpe deg med å finne andre mennesker som
 584 ønsker å bli med i militsen din og gå til grensen i å lete etter
 585 udokumenterte innvandrere å terrorisere. Det kan hjelpe deg å finne folk som
 586 deler din tro på at vaksiner er gift og at jorden er flat.
 587   </p><p>
 588     Det er en måte der målrettet markedsføring særskilt har fordeler for de som
 589 fremmer sosialt uakseptable saker: Den er usynlig.  Rasisme er spredt over
 590 et stort geografisk områdæ, og det er få plasser der rasister — og kun
 591 rasister — samles.  Dette tilsvarer problemet med å selge kjøleskap i at
 592 potensielle kjøleskapskjøpere er geografisk spredt og det er få plasser der
 593 du kan kjøpe reklameplass som i all hovedsak kun vil bli sett av
 594 kjøleskapskunder.  Men kjøp av kjøleskap er sosialt akseptabelt, mens det å
 595 være nazist er det ikke, så du kan kjøpe en reklametavle eller reklamere i
 596 avisens sportsdel for kjøleskapene, og den eneste potensielle ulempen er at
 597 reklamen din vil bli sett av masse folk som ikke ønsker å kjøpe kjøleskap
 598 som gir store unødvendige kostnader.
 599   </p><p>
 600     Men selv om du ønsker å reklamere for din nazi-bevegelse på en reklametavle
 601 eller på TV i beste sendetid eller i sportsdelen av avisen, så vil du slite
 602 med å finne noen som er villig til å selge deg reklameplass, delvis fordi de
 603 er uenige i ditt syn og delvis fordi de frykter negative konsekvenser
 604 (boykott, skadet omdømme, etc) fra andre folk som er uenige med deg.
 605   </p><p>
 606     Målrettet reklame løser dette problemet: På Internettet kan hver person få
 607 forskjellige reklameeksponeringer, som betyr at du kan kjøpe reklamer som
 608 kun vises til personer som gir inntrykk av å være nazister, og ikke til folk
 609 som hater nazister. Når budskapet når feil mottaker, når noen som hater
 610 rasisme blir vist reklame for å rekruttere rasister, så kan det bli litt
 611 krøll. Plattformen eller publikasjonen kan få rasende fordømmelser enten
 612 offentlig eller privat. Men egenskapene til risikoen som en kjøper av
 613 reklame på nettet tar på seg, er forskjellig fra risikoen til en
 614 tradisjonell utgiver eller reklametavleeier som ønsker å publisere
 615 nazi-reklame.
 616   </p><p>
 617     Reklamer på nettet plasseres av algoritmer som megler mellom ulike
 618 økosystemer av selvbetjente plastformer som enhver kan kjøpe reklame
 619 gjennom, hvilket gjør at nazi-reklame som dukker opp i din
 620 favorittpublikasjon på nettet ses ikke på publikasjonens moralske fallitt,
 621 men derimot som en feil som oppstår i en fjern underleverandør av
 622 reklame. Når en publikasjon får klager om en støtende annonse som dukker opp
 623 på et av sine enheter, så kan den ta noen grep for å blokkere den reklamen,
 624 men nazistene kan kjøpe en litt anderledes reklame fra en annen megler
 625 rettet mot den samme enhet. Og uansett forstår Internettbrukerne i stadig
 626 større grad at når de ser en reklame, så er det sannsynlig at de som
 627 reklamerer ikke valgte publikasjonen, og at publikasjonen ikke aner hvem som
 628 reklamerer hos dem.
 629   </p><p>
 630     Disse lagene av omdirigering mellom de som reklamerer og utgiverne fungerer
 631 som moralske buffer: Dagens moralske konsensus er i stor grad at utgiverne
 632 ikke bør holdes ansvarlig for reklamen som dukker opp på sidene deres fordi
 633 de ikke har aktivt valgt å plassere disse reklamene der.  Nazistene er,
 634 takket være dette, i stand til å overkomme signifikante hindre for å
 635 organisere sin bevegelse.
 636   </p><p>
 637     Data har et komplekst forhold til det å dominere. Når du kan spionere på
 638 kundene dine så kan du få varsel når de foretrekker dine rivaler og det gir
 639 deg mulighet til å gjøre det bedre enn konkurrentene dine i neste omgang.
 640   </p><p>
 641     Viktigere, hvis du kan dominere informasjonsområdet samtidig med innsamling
 642 av data, så kan du forsterke andre villedende taktikker fordi det er
 643 vanskeligere å bryte ut av nettet av svik som du spinner. Dominering, det
 644 vil si til slutt å bli et monopol, og ikke dataene i seg selv, er
 645 drivkraften som gjør enhver taktikk verdt å utnytte fordi monopolistisk
 646 dominering fratar ditt mål enhver fluktrute.
 647   </p><p>
 648     Hvis du er en nazist som vil sikre at dine potensielle kun ser villedende og
 649 bekreftende informasjon når de søker etter mer, så kan du forbedre oddsene
 650 dine ved å gi dem søkeord som de vil bruke i din initielle kommunikasjon. Du
 651 trenger ikke eie de 10 første resultatene for <span class="quote">«<span class="quote">undertrykking av
 652 stemmer</span>»</span> hvis du kan overbevise dine mål om å begrense sine søke ord
 653 til <span class="quote">«<span class="quote">stemmejuks</span>»</span>, hvilket gir en helt annen gruppe
 654 søkeresultater.
 655   </p><p>
 656     Overvåkningskapitalister er som scenementalister som påstår at deres
 657 ekstraordinære forståelse av menneskelig oppførsel lar dem gjette hvilket
 658 ord du skrev ned og brettet sammen i lommen din, men som i virkeligheten
 659 bruker fordekte hjelpere, skjulte kamera, fingerferdigheter og direkte
 660 memorering for å gjøre deg forbløffet.
 661   </p><p>
 662     Eller kanskje er de mer som sjekke-kunstnere, denne misogynistiske kulten
 663 som lover å hjelpe klønete menn å ha sex med kvinner ved å lære dem
 664 <span class="quote">«<span class="quote">nevrolinguistisk programmerings</span>»</span>-fraser, kroppsspråkteknikker
 665 og psykologiske manipulasjonsteknikker ala <span class="quote">«<span class="quote">negging</span>»</span> — ved å
 666 komme med uønskede negative tilbakemeldinger til kvinner for å senke deres
 667 selvtillit og fange deres interesse.
 668   </p><p>
 669     Noen sjekke-kunstnere klarer til slutt å overbevise kvinner om å bli med dem
 670 hjem, men det er ikke fordi disse mennene har klart å finne ut hvordan en
 671 overstyrer kvinners kritiske tankeevner. I stedet er sjekke-kunstnernes
 672 <span class="quote">«<span class="quote">suksesshistorier</span>»</span> en blanding av kvinner som var ute av stand
 673 til å samtykke, kvinner som ble presset, kvinner som var beruset,
 674 selv-destruktive kvinner, og noen få kvinner som var edru og hadde kontroll
 675 over seg selv, men som ikke forsto med en gang at de var sammen med
 676 forferdelige menn og korrigerte feilen så raskt de kunne.
 677   </p><p>
 678     Sjekke-kunstnere <span class="emphasis"><em>tror</em></span> de har oppdaget en hemmelig
 679 bakdør som overstyrer kvinners kritiske evner, men det har de ikke. Mange av
 680 taktikkene de benytter seg av, som negging, er blitt poenget i vitser (på
 681 samme måte som folk vitser om dårlig annonsemålretting), og det er en stor
 682 sjanse for at enhver de forsøker disse teknikkene på, umiddelbart vil
 683 gjenkjenne teknikken og avvise mennene som bruker dem som uhelbredelige
 684 tapere.
 685   </p><p>
 686     Sjekkekunstnere er beviset på at folk kan tro de har utviklet et system for
 687 tankekontroll <span class="emphasis"><em>selv når det ikke virker</em></span>. Sjekkekunstnere
 688 utnytter ganske enkelt det faktum at en-til-en-million-sjanser kan slå til
 689 hvis du gjør en million forsøk, og så antar de ganske enkelt at de øvrige
 690 999 999 gangene gjennomførte de ganske enkelt teknikken feil og bestemte seg
 691 for å gjøre det bedre neste gang. Det er bare en annen gruppe mennesker som
 692 lar seg overbevise av sjekkekunstnernes mytologi, og det er potensielle
 693 sjekkekunstere hvis angst og usikkerhet gjør den sårbare for svindlere og
 694 menn med vrangforestillinger som overbeviser dem om at hvis de betaler for
 695 veiledningen og følger instruksene, så vil de før eller senere
 696 lykkes. Sjekkekunstnere antar at de ikke klarer å sjekke opp kvinner fordi
 697 de er dårlige sjekkekunstnere, ikke fordi sjekkekunst er
 698 vrøvl. Sjekkekunstnerne er dårlige til å markedsføre seg til kvinner, men de
 699 er mye bedre til å markedsføre seg til menn som betaler for å lære seg
 700 sjekkekunstens hemmeligheter.
 701   </p><p>
 702     Dagligvarehandelpioneren John Wanamaker sies å ha klaget over at
 703 <span class="quote">«<span class="quote">Halvparten av pengene jeg bruker på markedsføring er
 704 bortkastet. Problemet er at jeg vet ikke hvilken halvpart.</span>»</span> Det
 705 faktum at Wanamaker tenkte at kun halvparten av hans markedsføringsutgifter
 706 var bortkastet er hyllest til hvor overbevisende lederne i
 707 markedsføringbransjen er, som er <span class="emphasis"><em>mye</em></span> flinkere til å
 708 overtale potensielle klienter om å kjøpe tjenester fra dem enn de er til å
 709 overbevise allmenheten om å kjøpe varene fra kundene deres.
 710   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="what-is-facebook"></a>Hva er Facebook?</h2></div></div></div><p>
 711     Facebook meldes å være kilden til all moderne pest, og det er ikke vanskelig
 712 å forstå hvorfor. Noen teknologiselskaper ønsker å låse kundene sine inne
 713 mens de tjener penger på å kontrollere tilgangen til markedet for
 714 programvare på enhetene deres, og melker dem på pris i stedet for å spionere
 715 på dem (som Apple). Noen selskaper bryr seg ikke om innlåsing av brukerne
 716 fordi de har funnet ut hvordan de kan spionere på dem uansett hvor de er og
 717 hva de gjør, og klart å omforme denne overvåkningen til penger
 718 (Google). Facebook er alene blant de vestlige teknologigigantene i å ha
 719 bygget sin forretning basert på å låse inne brukerne sine <span class="emphasis"><em>og
 720 samtidig</em></span> spionere på dem.
 721   </p><p>
 722     Overvåkningsregimet til Facebook er i grunnen helt uten like i den vestlige
 723 verden. Selv om Facebook forsøker å unngå at de er synlige på den offentlige
 724 verdensveven, ved å skjule det meste av det som foregår der fra folk med
 725 mindre de er logget inn på Facebook, så har selskapet likevel minelagt de
 726 fleste nettsider med overvåkningsverktøy i form av Facebook
 727 <span class="quote">«<span class="quote">Lik</span>»</span>-knapper som de som publiserer nettsider tar med på sine
 728 nettsteder for å fremme sine Facebook-profiler. Facebook gjør også ulike
 729 biblioteker og andre nyttige kodesnutter tilgjengelig for de som publiserer
 730 nettsider, som fungerer som overvåkningstentakler på nettsteder der de blir
 731 brukt, og sluser informasjon om besøkende på nettstedene — aviser,
 732 sjekkesteder, oppslagstavler — til Facebook.
 733   </p><div class="blockquote"><blockquote class="blockquote"><p>
 734       Det er ikke på grunn av at den er teknologi at Storteknologien kan utøve
 735 overvåkning, men på grunn av at den er <span class="emphasis"><em>stor</em></span>.
 736     </p></blockquote></div><p>
 737     Facebook tilbyr lignende verktøy til app-utviklere, slik at app-ene du
 738 bruker — spill, prompemaskiner, selskapsvurderingstjenester, app-er for å
 739 holde styr på skolehverdagen til ungene dine — vil sende informasjon om det
 740 du driver med til Facebook selv om du ikke har Facebook-konto og selv om du
 741 ikke laster ned eller bruker Facebook-app-er. Ikke nok med det, Facebook
 742 kjøper data fra tredjeparts datameglere om handlevaner, fysisk plassering,
 743 bruk av <span class="quote">«<span class="quote">loyalitetsprogrammer</span>»</span>, finansielle transaksjoner, etc,
 744 og kobler dette med personprofiler som utvikles basert på aktiviteten på
 745 Facebook, med app-er og den offentlige verdensveven.
 746   </p><p>
 747     Selv om det er enkelt å integrere fra verdensveven til Facebook, å linke til
 748 nyheter og slike ting, så er produktene pa Facebook generelt sett ikke
 749 tilgjengelig for integering tilbake til verdensveven. Du kan bake inn en
 750 twittermelding i en Facebook-melding, men hvis du forsøker å bake inn en
 751 Facebook-melding i en twittermelding, så får du bare en lenke tilbake til
 752 Facebook og må logge inn for å se den. Facebook har brukt ekstreme
 753 teknologiske og juridiske mottiltak for å hindre rivaler fra å gjøre det
 754 mulig for deres brukere å bake inn snutter fra Facebook i konkurrerende
 755 tjenester, eller lage alternative grensesnitt til Facebook som slår sammen
 756 nye meldinger på Facebook med de fra andre tjenester du bruker.
 757   </p><p>
 758     Og Facebook er utrolig populær, med 2.3 milliarder påståtte brukere (selv om
 759 mange tror dette tallet er blåst opp). Facebook har vært brukt til å
 760 organisere folkemord, rasistiske opptøyer, antivaksinebevegelser, flat
 761 jord-kulter og det politiske livet til noen av verdens styggeste, mest
 762 brutale autokrater. Det er i sannhet mange alarmerende ting som foregår i
 763 verden, og Facebook er implisert i mange av dem, så det er enkelt å
 764 konkludere med at disse stygge tingene som foregår er resultat av
 765 tankekontrollsystemet til Facebook, som de leier ut til enhver med penger å
 766 bruke på det.
 767   </p><p>
 768     For å forstå hvilken rolle Facebook har i formuleringen og mobiliseringen av
 769 antisosiale bevegelser, så må vi forstå Facebook sin splittede natur.
 770   </p><p>
 771     På grunn av at Facebook har veldig mange brukere og veldig mye data om disse
 772 brukerne, så er Facebook et veldig effektivt verktøy for å spore opp folk
 773 med egenskaper som det er vanskelig å finne. Det vil si den type egenskaper
 774 som er veldig spredt i populasjonen slik at markedsførere historisk har
 775 slitt med å finne kostnadseffektive måter å nå dem. La oss gå tilbake til
 776 kjøleskap. De fleste av oss bytter bare våre store apparater noen få ganger
 777 i livet. Hvis du er en kjøleskapsprodusent eller -forhandler, så har du bare
 778 disse små lukene i en forbrukers liv når de vurderer slike kjøp, og du må
 779 finne en måte å nå dem da. Alle som har lagt inn en statusendring etter å ha
 780 kjøpt et hus kan skrive under på at utstyrsprodusenter er utrolig desperate
 781 etter å nå enhver der det er den minste sjanse for at de er i markedet etter
 782 ett nytt kjøleskap.
 783   </p><p>
 784     Facebook gjør det <span class="emphasis"><em>mye</em></span> enklere å finne folk som handler
 785 kjøleskap . Det kan målrette annonser mot folk som har registrert et nytt
 786 boligkjøp, mot folk som har søkt etter råd om kjøp av kjøleskap, mot folk
 787 som har klaget over at kjøleskapet deres dør, eller en kombinasjon av
 788 disse. Det kan til og med målrette mot folk som nylig har kjøpt <span class="emphasis"><em>
 789 kjøkkenutstyr</em></span> med teorien om at noen som nettopp har erstattet
 790 komfyren og oppvaskmaskinen, kan være i humør til å kjøpe et kjøleskap. De
 791 aller fleste som nås av disse annonsene, vil ikke være i markedet etter et
 792 nytt kjøleskap, men — det avgjørende er at prosentandelen av personer som
 793 <span class="emphasis"><em>er</em></span> på jakt etter kjøleskap som disse annonsene når, er
 794 <span class="emphasis"><em>mye</em></span> større enn for noen gruppe som kan bli utsatt for
 795 tradisjonell, målrettet kjøleskapmarkedsføring i den fysiske verden.
 796   </p><p>
 797     Facebook gjør det også mye enklere å finne folk som har samme sjeldne sykdom
 798 som deg, noe som kan ha vært umulig i tidligere - den nærmeste med samme
 799 lidelse kan ellers være hundrevis av miles unna. Det gjør det lettere å
 800 finne folk som gikk på samme videregående skole som deg, selv om flere tiår
 801 er gått og dine tidligere klassekamerater har blitt spredt for alle
 802 verdenshjørner.
 803   </p><p>
 804     Facebook gjør det også mye enklere å finne folk som har samme sjeldne
 805 politiske overbevisning som deg. Hvis du alltid har hatt en hemmelig
 806 dragning for sosialisme, men aldri våget å ytre dette høyt for at du ikke
 807 skal bli kritisert av naboene dine, kan Facebook hjelpe deg med å oppdage
 808 andre mennesker som føler det på samme måte (og det kan kanskje vise deg at
 809 din dragning er mer utbredt enn du noen gang har trodd). Det kan gjøre det
 810 enklere å finne personer som deler din seksuelle identitet.  Og igjen, det
 811 kan hjelpe deg å forstå at det du trodde var en skammelig hemmelighet som
 812 bare påvirket deg, i virkeligheten var en allment delt egenskap, noe som gir
 813 deg både trygghet og mot til å komme ut til personene i livet ditt.
 814   </p><p>
 815     Alt dette presenterer et dilemma for Facebook: Målretting gjør selskapets
 816 annonser mer effektive enn tradisjonelle annonser, men det lar også
 817 annonsører se hvor effektiv annonsene deres er. Annonsører er glade for å
 818 høre at Facebook-annonser er mer effektive enn annonser på systemer med
 819 mindre sofistikert målretting, men annonsører kan også se at i nesten alle
 820 tilfeller blir annonsene ignorerer av personene som ser dem. Eller i beste
 821 fall fungerer annonsene på et underbevisst nivå, og skaper en ikke målbar
 822 <span class="quote">«<span class="quote">merkevaregjenkjenning</span>»</span>. Dette betyr at prisen per annonse er
 823 svært lav i nesten alle tilfeller.
 824   </p><p>
 825     For å gjøre ting verre, starter mange Facebook-grupper svært lite
 826 diskusjon. Ditt lokale fotballag, folk med samme sjeldne sykdom som deg, og
 827 de du deler en politisk interesse med, kan utveksle en merkelige miks av
 828 meldinger på kritiske tidspunkt, men i hverdagen er det ikke mye å si til
 829 dine gamle kamerater fra videregående, eller andre fotballkort-samlere.
 830   </p><p>
 831     Med bare diskusjoner som vokste frem <span class="quote">«<span class="quote">naturlig</span>»</span>, ville Facebook
 832 ikke generere nok trafikk til å selge tilstrekkelig med annonser til å tjene
 833 pengene den trenger for å kontinuerlig utvide ved å kjøpe opp sine
 834 konkurrenter mens de gir kjekke summer i utbytte til sine investorer.
 835   </p><p>
 836     Så Facebook må bidra til å øke trafikken ved å spore av egne fora: Hver gang
 837 Facebooks algoritme setter inn kontroversielt materiale — brennhete
 838 politiske artikler, konspirasjonsteorier, rasende historier — inn i en
 839 gruppe, så kan de kapre denne gruppens tiltenkte formål med sine fornærmende
 840 diskusjoner og ødelegge disse diskusjonene ved å gjøre dem til bitre,
 841 uproduktive argumentasjoner. Facebook er optimalisert for engasjement, ikke
 842 lykke, og det viser seg at automatiserte systemer er ganske flinke til å
 843 finne ting som folk vil bli sinte over.
 844   </p><p>
 845     Facebook <span class="emphasis"><em> kan</em></span> endre vår oppførsel, men bare på et par
 846 trivielle måter. For det første kan det låse inne alle dine venner og
 847 slektninger slik at du sjekker og sjekker og sjekker med Facebook for å
 848 finne ut hva de gjør; og for det andre, det kan gjøre deg sint og
 849 engstelig. Det kan tvinge deg til å velge mellom å bli avbrutt hele tiden av
 850 oppdateringer — en prosess som bryter konsentrasjonen og gjør det vanskelig
 851 å være innadvendt — samt holde kontakten med vennene dine. Dette er en svært
 852 begrenset form for mental kontroll, og det kan i virkeligheten bare gjøre
 853 oss ulykkelige, sinte og engstelige.
 854   </p><p>
 855     Dette er grunnen til at Facebooks målrettingssystemer – både de som vises
 856 til annonsører, og de som lar brukerne finne folk som deler deres interesser
 857 — er så moderne, glatte, og enkle å bruke, samtidig som meldingstavlene har
 858 et verktøysett som virker som om det ikke har endret seg siden midten av
 859 2000-tallet. Hvis Facebook leverte et tilsvarende fleksibelt og sofistikert
 860 system for meldingslesing til sine brukere, da kunne disse brukerne forsvart
 861 seg mot å få øynene dratt uten samtykke mot blikkfangende overskrifter om
 862 Donald Trump.
 863   </p><p>
 864     Jo mer tid du bruker på Facebook, jo flere annonser får de vist
 865 deg. Løsningen når for Facebooks annonser fungerer bare én gang av tusen, er
 866 at selskapet prøver å øke hvor mye tid du bruker på Facebook med en faktor
 867 på tusen. I stedet for å tenke på Facebook som et selskap som har funnet ut
 868 hvordan det skal vise deg nøyaktig den riktige annonsen på nøyaktig riktig
 869 måte for å få deg til å gjøre hva annonsørene vil, tenk på det som et
 870 selskap som har funnet ut hvordan det får deg til å slite deg gjennom en
 871 endeløs strøm av argumenter, selv om de får deg til å føle deg elendig, men
 872 bruker så mye tid på nettstedet, at det til slutt viser deg minst én annonse
 873 du reagerer på.
 874   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="monopoly-and-the-right-to-the-future-tense"></a>Monopol og retten til den spennende fremtiden</h2></div></div></div><p>
 875     Zuboff og andre nær henne er spesielt skremt over i hvilken grad overvåking
 876 gjør det mulig for selskaper å påvirke våre beslutninger, og tar bort noe
 877 hun poetisk kaller <span class="quote">«<span class="quote">retten til en spennende fremtid</span>»</span> - det vil
 878 si retten til å bestemme selv hva du vil gjøre i fremtiden.
 879   </p><p>
 880     Det er sant at annonsering kan gi utslag på en eller annen måte: Når du
 881 tenker på å kjøpe et kjøleskap, så kan en kjøleskapsannonse i rette øyeblikk
 882 avslutte letingen der og da. Men Zuboff legger enorm og utilbørlig vekt på
 883 den overbevisende kraften i overvåkingsbaserte påvirkningsteknikker. De
 884 fleste av disse fungerer ikke så bra, og de som gjør vil ikke fungere veldig
 885 lenge. Skaperne av disse påvirkningsverktøyene er sikre på at de en dag vil
 886 raffinere dem til systemer som gir total kontroll, men de er neppe upartiske
 887 observatører, og risikoen for at drømmene deres går i oppfyllelse er svært
 888 spekulativ.
 889   </p><p>
 890     Derimot er Zuboff ganske avslappet i forhold til 40 år med slapp
 891 antitrust-praksis, som har tillatt en håndfull selskaper å dominere
 892 Internettet, innlede en informasjonsalder med, <a class="ulink" href="https://twitter.com/tveastman/status/1069674780826071040" target="_top">som en person
 893 på Twitter bemerket</a>, fem gigantiske nettsteder hver fylt med
 894 skjermbilder fra de fire andre.
 895   </p><p>
 896     Hvis vi imidlertid skal bli skremt over at vi kan miste retten til å selv
 897 velge hva vår fremtid skal innebære, så bør monopolets ikke-hypotetiske,
 898 konkrete, her-og-nå skader være i fokus for vår debatt om teknologipolitikk.
 899   </p><p>
 900     La oss starte med <span class="quote">«<span class="quote">digitale restriksjonsmekanismer</span>»</span>. I 1998
 901 undertegnet Bill Clinton loven Digital Millennium Copyright Act (DMCA). Det
 902 er et komplekst lovverk med mange kontroversielle bestemmelser, men ingen
 903 mer enn paragraf 1201, <span class="quote">«<span class="quote">anti-omgåelsesregelen</span>»</span>.
 904   </p><p>
 905     Dette er et heldekkede forbud mot å tukle med systemer som begrenser adgang
 906 til opphavsrettsbeskyttede verk. Forbudet er så gjennomgripende at det at
 907 det forbyr å fjerne en opphavsrettslås, selv uten at det skjer noe brudd på
 908 opphavsretten; Aktivitetene som DMCAs paragraf 1201 skal forby, er ikke
 909 brudd på opphavsretten; snarere er det lovlige aktiviteter som frustrerer
 910 produsentenes kommersielle planer.
 911   </p><p>
 912     For eksempel var første store anvendelse av paragraf 1201 DVD-spillere, som
 913 en måte til å håndheve regionkodingen som er innebygd i disse
 914 enhetene. DVD-CCA, som standardiserte DVDer og DVD-spillere, delte verden
 915 inn i seks regioner og spesifiserte at DVD-spillere må sjekke hver plate for
 916 å finne ut hvilke regioner den var autorisert til å spilles av
 917 i. DVD-spillere ville ha sin egen tilsvarende region (en DVD-spiller kjøpt i
 918 USA ville være region 1 mens en kjøpt i India ville være region 5). Hvis
 919 spilleren og platens region sammenfalt, kunne spilleren spille av platen;
 920 Ellers ville den avvise den.
 921   </p><p>
 922     Men å se en lovlig produsert plate i et annet land enn den der du kjøpte
 923 den, er ikke brudd på åndsverksloven – det er det motsatte. Åndsverksloven
 924 pålegger kundene denne plikten for en film: Du må gå inn i en butikk, finne
 925 en lisensiert plate og betale prisen for den. Gjør det — og
 926 <span class="emphasis"><em>ingenting annet</em></span> — så har du og åndsverksloven ingenting
 927 usnakket.
 928   </p><p>
 929     Det faktum at et filmstudio ønsker å kreve mindre betaling fra indere enn
 930 amerikanere eller gi den ut i Australia senere enn i Storbritannia,  har
 931 ingen betydning for åndsverksloven. Når du lovlig anskaffer en DVD, er det
 932 ingen brudd på opphavsretten å se den uansett hvor du tilfeldigvis er.
 933   </p><p>
 934     Så produsenter av DVD og DVD-spillere skulle ikke være i stand til å bruke
 935 beskyldninger om brudd på opphavsretten for å straffe produsenter som laget
 936 ikke-samsvarende spillere som kunne spille plater fra en hvilken som helst
 937 region, eller reparasjonsverksteder som endret spillere for å la deg se
 938 disker utenfor riktig region, eller dataprogrammerere som laget programmer
 939 som lot deg gjøre dette.
 940   </p><p>
 941     Det er der paragraf 1201 i DMCA kommer inn: Ved å forby tukling med en
 942 <span class="quote">«<span class="quote">tilgangskontroll,</span>»</span> ga regelen produsenter og rettighetshavere
 943 grunnlag for å saksøke konkurrenter som markedsførte bedre produkter med
 944 lovlige egenskaper som markedet krevde (i dette tilfellet regionfrie
 945 spillere).
 946   </p><p>
 947     Dette er en stygg svindel mot forbrukerne, men etter hvert som tiden gikk,
 948 vokste paragraf 1201 til å omfatte en raskt voksende samling av enheter og
 949 tjenester etterhvert som dyktige produsenter har innsett visse ting:
 950   </p><div class="itemizedlist"><ul class="itemizedlist compact" style="list-style-type: disc; "><li class="listitem"><p>
 951         Alt utstyr med programvare i, inneholder et <span class="quote">«<span class="quote">opphavsrettsbeskyttet
 952 verk</span>»</span> – det vil si programvaren.
 953       </p></li><li class="listitem"><p>
 954         Datautstyr kan konstrueres slik at å rekonfigurere programvaren krever at en
 955 omgår en <span class="quote">«<span class="quote">adgangskontroll for opphavsrettsbeskyttede verk</span>»</span> som
 956 er et potensielt lovbrudd etter paragraf 1201.
 957       </p></li><li class="listitem"><p>
 958         Dermed kan selskaper kontrollere kundenes atferd, etterat de har tatt med
 959 seg sine kjøp hjem, ved å designe produkter slik at alle ikke-tillatt bruk
 960 krever modifiseringer som bryter med paragraf 1201.
 961       </p></li></ul></div><p>
 962     Paragraf 1201 blir da et middel for produsenter av alle beskrivelser til å
 963 tvinge sine kunder til å ordne sine saker til fordel for produsentenes
 964 aksjonærer i stedet til fordel for kundene selv.
 965   </p><p>
 966     Dette manifesterer seg på mange måter: Fra en ny generasjon blekkskrivere
 967 som bruker mottiltak for å forhindre tredjepartsblekk som ikke kan omgås
 968 uten juridisk risiko, - til lignende systemer i traktorer som hindrer
 969 tredjepartsteknikkere i å bytte ut produsentens egne deler, med deler som
 970 ikke gjenkjennes av traktorens kontrollsystem før den leveres med den
 971 opprinnelige produsentens opplåsingskode.
 972   </p><p>
 973     Nærmere hjemme bruker Apples iPhone disse tiltakene for å forhindre både
 974 tredjepartstjeneste og tredjeparts programvareinstallasjon. Dette gjør at
 975 Apple kan bestemme når en iPhone ikke kan repareres og må makuleres og
 976 deponeres, imot hensynet til iPhone-kjøperen. (Apple er notorisk kjent for
 977 sin negative miljøpolitikk som ødelegger gammel elektronikk i stedet for
 978 tillate delebruk.) Dette er en svært nyttig maktutøvelse, spesielt i lys av
 979 at administrerende direktør Tim Cook i januar 2019 advarte investorer om at
 980 selskapets fortjeneste er truet av kunder som velger å beholde sine
 981 telefoner lenger i stedet for å erstatte dem.
 982   </p><p>
 983     Apples bruk av opphavsrettslåser gjør det også mulig å monopolisere kundenes
 984 programvarekjøp til sine mobile enheter. App Stores kommersielle vilkår
 985 garanterer Apple en andel av alle inntekter generert av appene som selges
 986 der, noe som betyr at Apple får betalt når du kjøper en app fra butikken og
 987 deretter fortsetter å få betalt hver gang du kjøper noe ved hjelp av den
 988 appen. Dette kommer ra bunnlinjen til programvareutviklere, som enten må ta
 989 mer betalt eller akseptere lavere fortjeneste for sine produkter.
 990   </p><p>
 991     Avgjørende er det at Apples bruk av opphavsrett låser inn og gir den makt
 992 til å ta redaksjonelle beslutninger om hvilke apper du kan og ikke kan
 993 installere på din egen enhet. Apple har brukt denne makten til å <a class="ulink" href="https://www.telegraph.co.uk/technology/apple/5982243/Apple-bans-dictionary-from-App-Store-over-swear-words.html" target="_top">avise
 994 ordbøker</a> for å inneholde uanstendige ord; til <a class="ulink" href="https://www.vice.com/en_us/article/538kan/apple-just-banned-the-app-that-tracks-us-drone-strikes-again" target="_top">begrense
 995 politiske uttalelser</a>, spesielt fra apper som gjør sensitive
 996 politiske kommentarer, som en app som varsler deg hver gang en amerikansk
 997 drone dreper noen et sted i verden; Og til <a class="ulink" href="https://www.eurogamer.net/articles/2016-05-19-palestinian-indie-game-must-not-be-called-a-game-apple-says" target="_top">har
 998 innvending mot et spill</a> som kommenterte Israel-Palestina-konflikten.
 999   </p><p>
1000     Apple rettferdiggjør ofte monopolmakt over programvareinstallasjon ut fra
1001 sikkerhetshensynet, og hevder at dets verifisering av apper for butikken sin
1002 betyr at den kan beskytte brukerne mot apper som inneholder
1003 overvåkingskode. Men dette går begge veier. I Kina beordret regjeringen
1004 <a class="ulink" href="https://www.ft.com/content/ad42e536-cf36-11e7-b781-794ce08b24dc" target="_top">Apple
1005 til å forby salg av personvernverktøy</a> som VPN med unntak av VPN-er
1006 som bevisst hadde innført designfeil for å la den kinesiske staten tyvlytte
1007 på brukere. Fordi Apple bruker teknologiske mottiltak – med juridisk
1008 beskyttelse – for å blokkere kunder fra å installere uautoriserte apper, kan
1009 ikke kinesiske iPhone-eiere lett (eller lovlig) skaffe VPN-er som ville
1010 beskytte dem mot kinesisk statssnoking.
1011   </p><p>
1012     Zuboff kaller overvåkingskapitalismen en <span class="quote">«<span class="quote">bedragersk
1013 kapitalisme. </span>»</span> Kapitalismens teoretikere hevder at dens dyd er at den
1014 <a class="ulink" href="https://en.wikipedia.org/wiki/Price_signal" target="_top">aggregerer
1015 informasjon om forbrukernes beslutninger</a>, som produserer effektive
1016 markeder. Overvåkingskapitalismens antatte makt til å bemektige seg sine
1017 ofres frie vilje gjennom beregnede, superladede innflytelseskampanjer som
1018 betyr at våre markeder ikke lenger samler kundenes beslutninger fordi vi
1019 kunder ikke lenger bestemmer - vi får ordrer av overvåkingskapitalismens
1020 tankekontrollstråler.
1021   </p><p>
1022     Hvis vår bekymring er at markedene slutter å fungere når forbrukerne ikke
1023 lenger kan ta valg, bør opphavsrettslåser angå oss
1024 <span class="emphasis"><em>minst</em></span> så mye som innflytelseskampanjer. En
1025 påvirkningskampanje kan skyve deg til å kjøpe et bestemt telefonmerke. men
1026 opphavsretten låser denne telefonen helt til å bestemme hvor du får det
1027 reparert, hvilke apper som kan kjøre på den, og når du må kvitte deg med den
1028 i stedet for å fikse den.
1029   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="search-order-and-the-right-to-the-future-tense"></a>Søkerekkefølge og retten til en spennende fremtid</h2></div></div></div><p>
1030     Markedene fremstilles som en slags magi: Ved å oppdage ellers skjult
1031 informasjon formidlet av de frie valgene til forbrukerne, blir disse
1032 forbrukernes lokale kunnskap integrert i et selv korrigerende system som
1033 gjør effektive tildelinger - mer effektive enn noen datamaskin kunne
1034 beregne. Men monopoler er uforenlige med den oppfatningen. Når du bare har
1035 én appbutikk, bestemmer eieren av butikken – ikke forbrukeren – bredden i
1036 utvalget. Som Boss Tweed en gang sa: <span class="quote">«<span class="quote">Jeg bryr meg ikke om hvem som
1037 velger, så lenge jeg får lage innstillingen.</span>»</span> Et monopolisert marked
1038 er et valg der utvalget er valgt ut av monopolisten.
1039   </p><p>
1040     Oppsettet av stemmeseddelen skades mer ved eksistensen av
1041 søkeorden-monopoler. Googles søkemarkedsandel er ca 90%. Når Googles
1042 rangeringsalgoritme legger et resultat for et populært søkeord i topp 10,
1043 bidrar det til å bestemme atferden til millioner av mennesker. Hvis Googles
1044 svar på <span class="quote">«<span class="quote">Er vaksiner farlige?</span>»</span> er en side som motbeviser
1045 anti-vaksine konspirasjonsteorier, vil en betydelig del av publikum lære at
1046 vaksiner er trygge. Hvis Google derimot sender disse menneskene til et
1047 nettsted som bekrefter anti-vaksine-konspirasjonene, vil en betydelig del av
1048 disse millionene komme bort overbevist om at vaksiner er farlige.
1049   </p><p>
1050     Googles algoritme blir ofte lurt til å støtte desinformasjon som et tydelig
1051 søkeresultat. Men i disse tilfellene overtaler ikke Google folk til å
1052 ombestemme seg. det presenteres bare noe usant som faktum når brukeren ikke
1053 har noen grunn til å trekke det i tvil.
1054   </p><p>
1055     Dette gjelder enten søket er for <span class="quote">«<span class="quote">Er vaksiner farlige?</span>»</span> eller
1056 <span class="quote">«<span class="quote">beste restauranter i nærheten av meg.</span>»</span> De fleste brukere vil
1057 aldri se forbi den første siden med søkeresultater, og når det store
1058 flertallet bruker samme søkemotor, vil rangeringsalgoritmen gitt av denne
1059 søkemotoren bestemme utallige utfall (om å adoptere et barn, om å ha
1060 kreftkirurgi, hvor de skal spise middag, hvor de skal flytte, hvor du skal
1061 søke jobb) som i stor grad overgår mulige atferdsutfall diktert av
1062 algoritmiske overtalelsesteknikker.
1063   </p><p>
1064     Mange av spørsmålene vi stiller til søkemotorer har ingen empirisk riktige
1065 svar: <span class="quote">«<span class="quote">Hvor skal jeg spise middag?</span>»</span> er ikke et objektivt
1066 spørsmål. Selv spørsmål som har riktige svar (<span class="quote">«<span class="quote">Er vaksiner
1067 farlige?</span>»</span>) har ikke en empirisk overlegen kilde til det svaret. Mange
1068 sider bekrefter sikkerheten til vaksiner, så hvilken går først? Ved
1069 konkurranse kan forbrukerne velge mellom mange søkemotorer og holde seg til
1070 den der algoritme-dommen passer best for dem, men i en monopolsituasjon får
1071 vi alle våre svar fra samme sted.
1072   </p><p>
1073     Googles søkedominans er ikke et spørsmål om ren fortjeneste: Selskapet har
1074 utnyttet mange taktikker som ville ha blitt forbudt under klassiske,
1075 pre-Ronald-Reagan antitrust håndhevelsestandarder for å oppnå sin
1076 dominans. Tross alt er dette et selskap som har utviklet to store produkter:
1077 En veldig god søkemotor og en ganske god Hot-mail klone. Hver annen større
1078 suksess det har hatt - Android, YouTube, Google Maps, etc. - har kommet
1079 gjennom et oppkjøp av en gryende konkurrent. Mange av selskapets sentrale
1080 divisjoner, som reklameteknologien til DoubleClick, bryter med det
1081 historiske antitrustprinsippet om strukturell separasjon, som forbød
1082 bedrifter å eie datterselskaper som konkurrerte med sine kunder. Jernbaner,
1083 for eksempel, ble utestengt fra å eie fraktselskaper som konkurrerte med
1084 avsenderne de fraktet for.
1085   </p><p>
1086     Hvis vi er bekymret for at gigantiske selskaper skal undergrave markeder ved
1087 å strippe forbrukerne evne til å gjøre frie valg, så er kraftig
1088 antitrust-håndhevelse et utmerket middel. Hvis vi hadde nektet Google retten
1089 til å gjennomføre sine mange fusjoner, ville vi også sannsynligvis ha nektet
1090 det sin totale søkedominans. Uten denne dominansen ville ikke
1091 yndlings-teoriene, skjevhetene, feilene (og god dømmekraft) hos Googlec
1092 søkeingeniører og produktansvarlige ha en så stor effekt på forbrukervalg.
1093   </p><p>
1094     Dette gjelder også for mange andre selskaper. Amazon, en klassisk
1095 overvåkingskapitalist, er åpenbart det dominerende verktøyet for å søke i
1096 Amazon - selv om mange mennesker finner veien til Amazon gjennom Google-søk
1097 og Facebook-innlegg - og Amazon kontrollerer åpenbart Amazon-søk.  Det betyr
1098 at Amazons egenbetjente redaksjonelle valg – som å fremme sine egne
1099 varemerker fremfor rivaliserende varer fra selgerne, samt egne
1100 yndlingsteorier, fordommer og feil – bestemmer mye av det vi kjøper på
1101 Amazon. Og siden Amazon er den dominerende nettforhandler utenfor Kina, og
1102 siden det er oppnådd dominans ved å kjøpe opp både store rivaler og gryende
1103 konkurrenter i tross for historiske antitrust regler,  kan vi klandre
1104 monopolet for å frata forbrukere deres rett til en spennende fremtid og
1105 evnen til å forme markeder ved å gjøre informerte valg.
1106   </p><p>
1107     Ikke alle monopolister er en overvåkingskapitalist, men det betyr ikke at de
1108 ikke er i stand til å forme forbrukervalg som favner vidt. Zuboff hyller
1109 Apple for sin App Store og iTunes Store, og insisterer på at det å legge til
1110 prislapper på funksjonene på plattformene har vært hemmeligheten bak å
1111 motstå overvåking og dermed skape markeder. Men Apple er den eneste
1112 forhandleren som har lov til å selge på sine plattformer, og det er den nest
1113 største leverandøren av mobilenheter i verden. De uavhengige
1114 programvareleverandørene som selger gjennom Apples markedsplass anklager
1115 selskapet for de samme overvåkingssyndene som Amazon og andre store
1116 forhandlere: spionere på sine kunder for å finne lukrative nye produkter å
1117 lansere, å effektivt bruke uavhengige programvareleverandører til fritt å
1118 utforske markedet, og deretter tvinge dem ut av alle markeder de oppdager.
1119   </p><p>
1120     Ved bruk av opphavsrettslåser har Apples mobilkunder ikke lov til å bytte
1121 sine Iphone-apper til en rivaliserende forhandler hvis de ønsker det. Apple
1122 er åpenbart den eneste enheten som får bestemme hvordan den rangerer
1123 resultatene av søk i butikkene sine. Disse beslutningene sikrer at enkelte
1124 apper ofte installeres (fordi de vises på side én) og andre aldri
1125 installeres (fordi de vises på side én million). Apples beslutninger om
1126 søkedesign har en vesentlig større virkning på forbrukeratferd enn å påvirke
1127 kampanjer levert av overvåkingskapitalismens roboter for annonselevering.
1128   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="monopolists-can-afford-sleeping-pills-for-watchdogs"></a>Monopolister har råd til sovepiller for vakthundene</h2></div></div></div><p>
1129     Bare de mest ekstreme markedsideologene tror at markedene selvregulerer uten
1130 statlig tilsyn. Markeder trenger vakthunder – regulatorer, lovgivere og
1131 andre demokratiske kontrollelementer – for at de skal være pålitelige. Når
1132 disse vaktbikkjene sover på jobben, slutter markedene å aggregere
1133 forbrukervalg, fordi disse valgene begrenses av illegitime og villedende
1134 aktiviteter, som selskaper klarer å komme unna med, fordi ingen holder dem
1135 ansvarlige.
1136   </p><p>
1137     Men denne typen regulatoriske seire kommer ikke billig. I konkurransedyktige
1138 sektorer, der rivaler stadig svekker hverandres marginer, mangler
1139 enkeltbedrifter overskuddskapital til effektivt å lobbe for lover og
1140 forskrifter som tjener sine formål.
1141   </p><p>
1142     Mye av skadene fra overvåkningskapitalisem er resultat av svak eller
1143 manglende regulering. Dette fravær av regulering kommer av makten
1144 monopolistene har til å hindre sterkere regulering og å tilpasse den
1145 reguleringen som finnes slik at det gjør deres eksisterende
1146 forretningsmodell mulig.
1147   </p><p>
1148     Her er et eksempel: Når bedrifter samler inn for mye og lagrer våre data for
1149 lenge, så øker de risikoen for å utsettes for datalekkasje – du kan ikke
1150 lekke data du aldri har samlet inn, og når du sletter alle kopier av disse
1151 dataene, kan du ikke lenger lekke dem. I mer enn et tiår har vi levd gjennom
1152 en endeløs rekke av stadig forverrede datalekkasjer, hvert og ett helt
1153 avskyelig i omfanget og i hvor sensive disse datasettene har vært.
1154   </p><p>
1155     Men likevel fortsetter bedrifter av tre grunner å over-samle og over-beholde
1156 våre data:
1157   </p><p>
1158     <span class="strong"><strong>1. De er låst i det nevnte lemlestende
1159 våpenkappløpet opp mot vår evne til å sikre oppmerksomhet fra våre
1160 forsvarssystemer til å motstå de nye overtalelsesteknikker deres.</strong></span>
1161 De er også låst i et våpenkappløp med sine konkurrenter for å finne nye
1162 måter å målrette folk til sine salgssteder. Så snart de oppdager et mykt
1163 sted i vårt oppmerksomhetsforsvar (en mot-intuitiv, ulydig måte å målrette
1164 potensielle kjøleskap kjøpere på), begynner publikum å bli oppmerksom på
1165 taktikken, og konkurrentene deres hopper på den, fremskyndes dagen der alle
1166 potensielle kjøleskapskjøpere har kommet på banen.
1167   </p><p>
1168     <span class="strong"><strong>2. De tror på overvåkingskapitalismens
1169 historie.</strong></span> Data er billige å samle og lagre, og både tilhengere og
1170 motstandere av overvåkingskapitalismen har forsikret ledere og
1171 produktdesignere om at hvis du samler inn nok data, vil du kunne utføre
1172 trolldom med mental kontroll, og dermed overoppfylle salget. Selv om du
1173 aldri finner ut hvordan du kan tjene på dataene, noen andre vil til slutt
1174 tilby å kjøpe de fra deg for å gjøre et forsøk. Dette er kjennetegner alle
1175 økonomiske bobler: Å anskaffe en eiendel med antagelsen om at noen andre vil
1176 kjøpe den fra deg for mer enn du betalte for det, ofte å selge til noen
1177 andre til en enda høyere pris.
1178   </p><p>
1179     <span class="strong"><strong>3. Straffen for å lekke data er
1180 ubetydelig.</strong></span> De fleste land begrenser disse straffene til faktiske
1181 tap, noe som betyr at forbrukere som har fått sine data misbrukt, må vise
1182 til faktiske pengetap for å få en erstatning. I 2014 avslørte Home Depot at
1183 de hadde mistet kredittkortdata for 53 millioner av sine kunder. Saken ble
1184 avgjort ved å betale disse kundene rundt $ 0,34 hver - og en tredjedel av de
1185 $ 0,34 ble ikke engang betalt i kontanter. Det tok form av en kreditt til å
1186 dekke en i stor grad ineffektiv kreditt-overvåkingstjeneste.
1187   </p><p>
1188     Men skadene fra bruddene er mye mer omfattende enn de faktiske tapene som
1189 reglene fanger opp. Identitetstyver og svindlere er kloke og uendelige
1190 oppfinnsomme. Alle de store bruddene i vårt århundre blir kontinuerlig
1191 rekombinert, datasettene fusjonert og brukt til nye måter å gjøre folk til
1192 ofre på når dataene om dem var tilgjengelige.  Enhver rimelig, bevisbasert
1193 teori om avskrekking og kompensasjon for brudd ville ikke begrense skader
1194 til faktiske tap, men heller ville tillate brukere å stille krav for
1195 fremtidige tap.
1196   </p><p>
1197     Men selv de mest ambisiøse personvernreglene, som EUs personvernforordning,
1198 fanger langt fra opp de negative eksterne kostnadene ved plattformenes
1199 uaktsomme overinnsamling og overoppbevaring, og hvilke straffer den gir,
1200 forfølges ikke aggressivt opp av regulatorene.
1201   </p><p>
1202     Denne toleransen for – eller likegyldighet til – dataoverinnsamling og
1203 overoppbevaring kan delvis tilskrives plattformenes rene lobbyvirksomhet. De
1204 er så lønnsomme at de enkelt har råd til å kanalisere gigantiske summer for
1205 å bekjempe enhver reell endring - det vil si endring som ville tvinge dem
1206 til å internalisere kostnadene til overvåkingsaktivitetene deres.
1207   </p><p>
1208     Og så er det den statlige overvåkningen, som historien til
1209 overvåkingskapitalismen avviser som en overlevning fra en annen æra, da den
1210 store bekymringen var å bli fengslet som dissidenter, ikke å få din frie
1211 vilje strippet bort med maskinlæring.
1212   </p><p>
1213     Men statlig og privat overvåkning er nært relatert. Som vi så ble Apple
1214 innrullert av de kinesiske myndighetene som en vital samarbeidspartner i
1215 statlig overvåkning, og den eneste kostnadseffektive og gjennomførbare måten
1216 å gjennomføre masseovervåkning i den skalaen det gjøres av moderne stater,
1217 både <span class="quote">«<span class="quote">frie</span>»</span> og autokratiske stater, er å ta i bruk kommersielle
1218 tjenester.
1219   </p><p>
1220     Enten det er Google som brukes som stedsporingsverktøy av lokale
1221 politimyndigheter over hele USA, eller bruk av sporing av sosiale medier av
1222 Department of Homeland Security for å bygge mapper om deltakere i protester
1223 mot Immigrasjon and Customs Enforcement familieseparasjonspraksis, ville
1224 mulige strengere grenser for overvåkingskapitalisme, hindre statens egen
1225 overvåkingsevne. Uten Palantir, Amazon, Google og andre store
1226 teknologileverandører, ville amerikanske politifolk ikke være i stand til å
1227 spionere på svarte mennesker, ICE ville ikke være i stand til å håndtere
1228 innburing av barn ved USAs grense, og statlige velferdssystemer ville ikke
1229 være i stand til å rense sine ruller ved å kle inn grusomhet som faktabasert
1230 og hevde at fattige og sårbare mennesker ikke kvalifiserer for hjelp. I det
1231 minste bør noen av statenes uvilje mot meningsfulle tiltak for å dempe
1232 overvåking tilskrives dette symbiotiske forholdet.  Det er ingen statlig
1233 masseovervåking uten masse kommersiell overvåking.
1234   </p><p>
1235     Monopoler er nøkkelen til systemet med statlig massestatsovervåkning. Det er
1236 sant at mindre teknologifirmaer er tilbøyelige til å være mindre godt
1237 forsvart enn Storteknologien, hvis sikkerhetseksperter valgt ut fra toppen i
1238 sitt felt, og som får enorme ressurser til å sikre og overvåke sine systemer
1239 mot inntrengere. Men mindre bedrifter har også mindre å beskytte seg med:
1240 færre brukere med data som er mer fragmentert over flere systemer, og få det
1241 til et og et om gangen hos statlige aktører.
1242   </p><p>
1243     En konsentrert teknologisektor som samarbeider med myndighetene er en mye
1244 kraftigere allierte for å sikre oppgaven med en massestatsovervåking - enn
1245 en fragmentert gruppe bestående av mindre aktører. Den amerikanske
1246 teknologisektoren er liten nok til at alle topplederne passer inn rundt ett
1247 enkelt bord i et styrerom i Trump Tower i 2017, kort tid etter Trumps
1248 innsettelse. De fleste av de største aktørene byr på å vinne JEDI, Pentagons
1249 $ 10 milliarders Joint Enterprise Defense Infrastructure sky-kontrakt. I
1250 likhet med andre svært konsentrerte bransjer roterer Storteknolgien sine
1251 nøkkelansatte inn og ut av offentlig tjeneste, sender dem til tjeneste i
1252 Forsvarsdepartementet og Det hvite hus, og ansetter deretter tidligere
1253 Pentagon og tidligere DOD-toppansatte og offiserer i sine egne avdelinger
1254 for regjeringsrelasjoner.
1255   </p><p>
1256     De kan til og med få til en god sak for å gjøre dette: Tross alt, når det
1257 bare er fire eller fem store selskaper i en bransje, har alle som er
1258 kvalifisert til å regulere disse selskapene, fungert som en leder i minst et
1259 par av dem - fordi, på samme måte, når det bare er fem selskaper i en
1260 bransje, er alle kvalifisert for en seniorrolle i hvilket helst av dem,
1261 arbeider per definisjon hos en av de andre.
1262   </p><div class="blockquote"><blockquote class="blockquote"><p>
1263       Selv om overvåking ikke forårsaker monopoler, medvirker monopoler gjerne til
1264 overvåking.
1265     </p></blockquote></div><p>
1266     Bransjer som er konkurransedyktige er fragmentert - sammensatt av selskaper
1267 som er i strupen på hverandre hele tiden og svekker hverandres marginer med
1268 tilbud for å stjele deres beste kunder. Dette etterlater dem med en mye mer
1269 begrenset kapital til lobbyvirksomhet for å oppnå gunstige regler, og en mye
1270 vanskeligere jobb for å få alle til å bli enige om å samle sine ressurser
1271 til fordel for bransjen som helhet.
1272   </p><p>
1273     Overvåking kombinert med maskinlæring er antatt å være en eksistensiell
1274 krise, et artsdefinerende øyeblikk hvor vår frie vilje bare er noen få
1275 skritt fra å bli skallet vekk. Jeg er skeptisk til denne påstanden, men jeg
1276 <span class="emphasis"><em>tror virkelig</em></span> at teknologi utgjør en eksistensiell
1277 trussel mot vårt samfunn og muligens vår art.
1278   </p><p>
1279     Men den trusselen vokser frem fra monopol.
1280   </p><p>
1281     En av konsekvensene av teknologiens regulatoriske fangst, er at det kan
1282 flytte ansvaret for dårlige sikkerhetsbeslutninger over på kunder sine og
1283 samfunnet generelt. Det er helt normalt i teknologi for bedrifter å tilsløre
1284 arbeidet med sine produkter, for å gjøre dem bevisst vanskelig å forstå, og
1285 å true sikkerhetsforskere som søker en uavhengig gjennomgang av disse
1286 produktene.
1287   </p><p>
1288     DET er det eneste feltet der dette praktiseres: Ingen som bygger en bro
1289 eller et sykehus holder sammensetningen av stålet eller ligningene som
1290 brukes til å beregne belastningstress hemmelige. Det er en særlig bisarr
1291 praksis som fører, gang på gang, til groteske sikkerhetsfeil i et asburd
1292 omfang, med hele klasser av enheter avslørt som sårbare lenge etter at de er
1293 utplassert i feltet og benyttet på sensitive områder.
1294   </p><p>
1295     Kraften i monopoler som holder alle meningsfulle konsekvenser av brudd i
1296 sjakk, betyr at teknologiselskaper fortsetter å bygge forferdelige produkter
1297 som er usikre i designen, og som ender opp integrert i våre liv, er i
1298 besittelse av våre data, og koblet til vår fysiske verden. I årevis har
1299 Boeing slitt med etterdønningene av en rekke dårlige teknologibeslutninger
1300 som gjorde sin 737-flåte til en global paria, et sjeldent tilfelle der
1301 dårlige tekniske beslutninger har blitt alvorlig straffet i markedet.
1302   </p><p>
1303     Disse dårlige sikkerhetsbeslutningene forsterkes nok en gang ved bruk av
1304 opphavsrettslåser for å håndheve forretningsmodellbeslutninger rettet mot
1305 forbrukerne. Husk at disse låsene har blitt go-to-metoder for å forme
1306 forbrukeratferd, noe som gjør det teknisk umulig å bruke tredjeparts blekk,
1307 insulin, apper eller servicesteder til din lovlig ervervede eiendel.
1308   </p><p>
1309     Husk også at disse opphavsrettslåsene har ryggdekning i lovgivningen (for
1310 eksempel paragraf 1201 i DMCA eller artikkel 6 i EUs opphavsrettsdirektiv
1311 fra 2001) som forbyr manipulering (<span class="quote">«<span class="quote">omgåelse</span>»</span>) av dem, og disse
1312 bestemmelsene har blitt brukt til å true sikkerhetsforskere som avslører
1313 sårbarheter uten tillatelse fra produsenter.
1314   </p><p>
1315     Dette summerer se til en produsents veto over sikkerhetsadvarsler og
1316 kritikk. Selv om dette er langt fra lovgivers hensikt med DMCA og dets
1317 søstervedtekter rundt om i verden, har Kongressen ikke grepet inn for å
1318 klargjøre bestemmelsene, og det vil den heller ikke fordi det ville være å
1319 gå mot interessene til mektige, store bedrifter men en ustoppelig
1320 lobbystyrke.
1321   </p><p>
1322     Opphavsrettslåser slår dobbelt: De skaper dårlige sikkerhetsbeslutninger som
1323 hverken kan undersøkes fritt eller diskuteres. Hvis markedene skal være
1324 maskiner for å samle informasjon (og hvis overvåkingskapitalismens nominelle
1325 tankekontrollstråler er det som gjør det til en <span class="quote">«<span class="quote">bedragersk
1326 kapitalisme</span>»</span> fordi den nekter forbrukerne makt til å ta
1327 beslutninger), gjør et opplegg med lovlig håndhevet uvitenhet om risikoen
1328 til produkter gir monopol en enda mer <span class="quote">«<span class="quote">bedragersk kapitalisme</span>»</span>
1329 enn overvåkingskapitalismens lobbykampanjer.
1330   </p><p>
1331     Og i motsetning til tankekontrollstråler er håndhevet taushet over sikkerhet
1332 et umiddelbart, dokumentert problem, og det <span class="emphasis"><em>utgjør</em></span> en
1333 eksistensiell trussel mot vår sivilisasjon og muligens vår art. Spredningen
1334 av usikre enheter - spesielt enheter som spionerer på oss, og spesielt når
1335 disse enhetene også kan manipulere den fysiske verden ved for eksempel å
1336 styre bilen eller snu en bryter på et kraftverk - er en slags
1337 teknologiskyld.
1338   </p><p>
1339     I programvaredesign refererer <span class="quote">«<span class="quote">-teknologiskyld</span>»</span> til gamle,
1340 innbakte beslutninger som viser seg å stå seg dårlige i ettertid. Kanskje en
1341 utvikler for lenge siden besluttet å legge inn en nettverksprotokoll laget
1342 av en leverandør som siden har sluttet å støtte den. Men alt i produktet er
1343 fortsatt avhengig av den utdaterte protokollen, og så, ved hver revisjon, må
1344 produktteamet omgå denne foreldede kjernen, legge til kompatibilitetslag,
1345 omgi den med sikkerhetskontroller som støtter forsvaret, og så videre. Disse
1346 Band-Aid-tiltakene binder sammen skylden, fordi hver påfølgende revisjon må
1347 kompensere også for <span class="emphasis"><em>dem</em></span>, som renter baller på seg for
1348 dårlige lån. Og som et dårlig lån, stiger rentekostnaden raskere enn du kan
1349 håpe på å betale den ned: Produktteamet må legge så mye energi i å
1350 opprettholde dette komplekse, skjøre systemet, at de ikke har tid igjen til
1351 å omstrukturere produktet fra grunnen av og <span class="quote">«<span class="quote">betale ned
1352 gjelden</span>»</span> en gang for alle.
1353   </p><p>
1354     Vanligvis resulterer teknologisk gjeld i en teknologisk konkurs: Produktet
1355 blir så skjørt og uholdbart at det svikter katastrofalt. Tenk på de gamle
1356 COBOL-baserte bank- og regnskapssystemene som veltet ved starten av
1357 pandemikrisen når de ble konfrontert med mengder av
1358 arbeidsledighetskrav. Noen ganger gjør dette slutt på produktet; noen ganger
1359 tar det selskapet med seg ned. Å bli fanget i mislighold av teknologisk
1360 gjeld er skremmende og traumatisk, akkurat som å miste huset ditt på grunn
1361 av konkurs er skremmende og traumatisk.
1362   </p><p>
1363     Men teknologisk gjeld forårsaket av opphavsrettslåser er ikke individuell
1364 gjeld; det er systemisk. Alle i verden er utsatt for denne overbelastningen,
1365 som under finanskrisen i 2008. Når denne gjelden forfaller – når vi står
1366 overfor en kaskade av sikkerhetsbrudd som truer global skipsfart og
1367 logistikk, matforsyningen, farmasøytiske produksjonslinjer, nødkommunikasjon
1368 og andre kritiske systemer som akkumulerer teknologisk gjeld delvis på grunn
1369 av tilstedeværelsen av bevisst usikre og bevisst ikkereviderbare
1370 opphavsrettslåser – vil det faktisk utgjøre en eksistensiell risiko.
1371   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="privacy-and-monopoly"></a>Monopol og vern av privatsfæren</h2></div></div></div><p>
1372     Mange teknologiselskaper har en klokkertro på at om bare de samler nok data
1373 om mange nok av våre aktiviteter, så er alt annet mulig — tankekontroll og
1374 endeløs fortjeneste. Dette er en hypotese som er umulig å falsifisere: Hvis
1375 data gir et teknologiselskap selv en liten forbedring i å forutse eller
1376 endre oppførsel, så erklærer selskapet at det har tatt første steg mot
1377 global dominans, uten noen ende i sikte. Hvis selskapet
1378 <span class="emphasis"><em>mislykkes</em></span> i å oppnå forbedring fra innsamling og
1379 analyse av data, så erklærer det at suksessen er rett rundt hjørnet,
1380 oppnåelig når det har mere data for hånden.
1381   </p><p>
1382     Overvåkingsteknologi er langt fra den første industrien som omfavner en
1383 meningsløs, selvsentrert tro som skader resten av verden, og det er ikke den
1384 første industrien til å tjene raust på en slik vrangforestilling. Lenge før
1385 hedgefondforvaltere hevdet (feilaktig) at de kunne slå S&amp;P 500, var det
1386 nok av andre <span class="quote">«<span class="quote">respektable</span>»</span> bransjer som har blitt avslørt som
1387 kvakksalvere i ettertid. Fra skaperne av stikkpiller med radium (en ekte
1388 ting!)  til de grusomme sosiopatene som hevdet at de kunne
1389 <span class="quote">«<span class="quote">kurere</span>»</span> homofile mennesker. Historien er fylt med tidligere
1390 respektable titaner i diskrediterte næringer.
1391   </p><p>
1392     Dette betyr ikke at det ikke er noe galt med Storteknologien og dens
1393 ideologiske dataavhengighet. Selv om gevinsten av overvåkningen i stor grad
1394 er overdrevet, så er skadevirkningene, om noe,
1395 <span class="emphasis"><em>underdrevet</em></span>.
1396   </p><p>
1397     Det er virkelig ironi her. Troen på overvåkingskapitalismen som en
1398 <span class="quote">«<span class="quote">ukontrollert kapitalisme</span>»</span> er drevet av troen på at markedene
1399 ikke ville tolerere bedrifter som er grepet av falske oppfatninger. Et
1400 oljeselskap som har falske oppfatninger om hvor oljen er, vil etter hvert gå
1401 konkurs ved å grave etter tørre brønner, tross alt.
1402   </p><p>
1403     Men monopolister får gjøre fryktelige ting i lang tid før de betaler
1404 prisen. Tenk på hvordan konsentrasjonen i finanssektoren tillot
1405 subprime-krisen å spre seg når obligasjonsvurderingsbyråer, regulatorer,
1406 investorer og kritikere var under innflytelse av en falsk tro på at kompleks
1407 matematikk kunne konstruere <span class="quote">«<span class="quote">fullt garderte</span>»</span> gjeldsinstrumenter
1408 som ikke kunne misligholdes. En liten bank som engasjerte seg i denne typen
1409 feilgrep ville ganske enkelt gå konk i stedet for å løpe fra den uunngåelige
1410 krisen, eller kanskje vokser seg så stor at det avverget dette helt. Men
1411 store banker var i stand til å fortsette å tiltrekke seg investorer, og da
1412 de endelig <span class="emphasis"><em>feilet</em></span>, kausjonerte verdens regjeringer dem
1413 ut. De verste lovbrytere i subprime-krisen er større enn de var i 2008, og
1414 brakte hjem mer fortjeneste og betale sine direktører enda større summer.
1415   </p><p>
1416     Storteknologien kan praktisere overvåking ikke bare fordi det er teknisk,
1417 men fordi de er <span class="emphasis"><em>store</em></span>. Grunnen til at hver nettutgiver
1418 bygger inn en Facebook <span class="quote">«<span class="quote">Like</span>»</span>-knapp, er at Facebook dominerer
1419 Internettets henvisninger til sosiale medier – og hver og en av disse
1420 <span class="quote">«<span class="quote">Like</span>»</span>-knappene spioner på alle som lander på en side som har
1421 dem (se også: Google Analytics bygger inn, Twitter-knapper osv.).
1422   </p><p>
1423     Grunnen til at verdens regjeringer har vært trege til å skape meningsfulle
1424 straffer for brudd på personvernet, er at Storteknologiens konsentrasjon har
1425 store fortjenester som kan brukes til å lobbiere mot disse straffene – og
1426 Storteknologiens konsentrasjon betyr at de involverte selskapene er i stand
1427 til å komme frem til en enhetlig forhandlingsposisjon, som superlader
1428 lobbyvirksomheten.
1429   </p><p>
1430     Grunnen til at de smarteste ingeniørene i verden ønsker å jobbe for
1431 Storteknologien er at Storteknologien bestemmer over brorparten av jobbene i
1432 teknologiindustrien.
1433   </p><p>
1434     Grunnen til at folk som er forferdet over Facebooks, Googles og Amazons
1435 datahåndteringspraksis fortsetter å bruke disse tjenestene, er at alle
1436 vennene deres er på Facebook; Google dominerer søk; og Amazon har satt alle
1437 de lokale kjøpmennene ut av drift.
1438   </p><p>
1439     Markeder med konkurranse ville svekke selskapenes lobbystyrke ved å redusere
1440 fortjenesten og sette dem opp mot hverandre i regulatoriske fora. Det ville
1441 gi kundene andre steder å gå til for å få sine elektroniske tjenester. Det
1442 ville gjøre selskapene små nok til å kunne regulere og bane vei for
1443 meningsfulle straffer for lovbrudd. Det ville la ingeniører med ideer som
1444 utfordret overvåkingsortodoksien skaffe seg kapital til å konkurrere med de
1445 etablerte. Det ville gi nettutgivere flere måter å nå publikum på, og kunne
1446 stille opp mot innpasningene til Facebook- og Google- og Twitter.
1447   </p><p>
1448     Med andre ord, mens overvåking ikke forårsaker monopoler, medvirker
1449 monopoler absolutt til overvåking.
1450   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="ronald-reagan-pioneer-of-tech-monopolism"></a>Ronald Reagan, en pioner for teknologimonopoler</h2></div></div></div><p>
1451     Teknologisk eksepsjonellisme er en synd, enten det praktiseres av
1452 teknologiens blinde talsmenn eller av dets kritikere. Begge disse leirene er
1453 tilbøyelige til å forklare bort monopolistisk konsentrasjon ved å sitere
1454 noen spesielle kjennetegn på teknologiindustrien, som nettverkseffekter
1455 eller første-fordeler fordel. Den eneste virkelige forskjellen mellom disse
1456 to gruppene er at de tekniske apologeter sier monopol er uunngåelig, så vi
1457 bør bare la teknologien ikke komme unna med sine overgrep, mens
1458 konkurranseregulatorer i USA og EU sier monopol er uunngåelig, så vi bør
1459 straffe teknologien for sine overgrep, men ikke prøve å bryte opp
1460 monopolene.
1461   </p><p>
1462     For å forstå hvordan teknologien ble så monopolistisk, er det nyttig å se på
1463 begynnelsen av forbrukerteknologiindustrien: 1979, året Apple II Plus ble
1464 lansert og ble den første vellykkede hjemmedatamaskinen. Det er også året da
1465 Ronald Reagan startet valgkampen for presidentvalget i 1980 – et løp han
1466 vant, noe som førte til et radikalt skifte i måten antitrusthensyn håndteres
1467 på i Amerika. Reagans kohort av politikere – inkludert Margaret Thatcher i
1468 Storbritannia, Brian Mulroney i Canada, Helmut Kohl i Tyskland og Augusto
1469 Pinochet i Chile – fortsatte med å vedta lignende reformer som til slutt
1470 spredte seg over hele verden.
1471   </p><p>
1472     Antitrusthistorien begynte nesten et århundre før alt dette med lover som
1473 Sherman Act, som rettet seg mot monopolister med den begrunnelse at
1474 monopoler var dårlige i og av seg selv - presser ut konkurrenter, og skapte
1475 <span class="quote">«<span class="quote">omfattende disøkonomi</span>»</span> (når et selskap er så stort at
1476 bestanddeler feiler og det tilsynelatende er håpløst å få problemene løst),
1477 og fange sine regulatorer i en slik grad at de kan komme unna med svært mye
1478 skade.
1479   </p><p>
1480     Så kom en fabulist ved navn Robert Bork, en tidligere generaladvokat som
1481 Reagan utnevnte til den betydningsfulle U.S. Court of Appeals for the
1482 D.C. Circuit som tatt ut av intet hadde laget en alternativ
1483 lovgivningshistorie om Sherman Act og dens etterfølgere. Bork insisterte på
1484 at disse statuttene aldri var rettet mot monopoler (til tross for et vell av
1485 bevis for det motsatte, inkludert de transkriberte talene til lovens
1486 forfattere), men heller at de var ment å forhindre
1487 <span class="quote">«<span class="quote">forbrukerskade</span>»</span> - i form av høyere priser.
1488   </p><p>
1489     Bork var en rotor, men han var en rotor med en teori som rike mennesker
1490 virkelig likte. Monopoler er en fin måte å gjøre rike mennesker rikere ved å
1491 tillate dem å motta <span class="quote">«<span class="quote">monopolleie</span>»</span> (det vil si større
1492 fortjeneste) og binde fast regulatorer, noe som fører til et svakere,
1493 gunstigere regulatorisk miljø med mindre beskyttelse for kunder,
1494 leverandører, miljø og arbeidere.
1495   </p><p>
1496     Borks teorier var spesielt spiselige for de samme kraftige påvirkere som
1497 støttet Reagan, og Reagans justisdepartement og andre etater begynte å
1498 inkorporere Borks antitrustdoktrine i sine håndhevingsbeslutninger (Reagan
1499 foreslo til og med Bork til et sete i Supreme Court, men Bork strøk klart
1500 ved senatets godkjenningshøring at 40 år senere bruker innsidere i
1501 D.C. begrepet <span class="quote">«<span class="quote">borkete</span>»</span> (tilsvarer klønete på norsk) for å
1502 referere til noen katastrofalt dårlige politiske prestasjoner).
1503   </p><p>
1504     Litt etter litt kom Borks teorier inn som hovedretning, og deres
1505 støttegrupper begynte å infiltrere den juridiske utdanningen, til og med å
1506 tilsette smakstoffer der medlemmer i rettsvesenet ble behandlet med
1507 overdådige måltider, morsomme utendørsaktiviteter og seminarer hvor de ble
1508 indoktrinert i forbrukerskadeteorien om antitrust. Jo mer Borks teorier tok
1509 tak, jo mer penger tjener monopolistene – og jo mer overskuddskapital hadde
1510 de til rådighet for å lobbe i enda flere borkiske
1511 antitrust-innflytelseskampanjer.
1512   </p><p>
1513     Historien om Borks antitrustteorier er et veldig godt eksempel på den slags
1514 skjulte konstruerte endringer i opinionen, som Zuboff advarer oss mot, hvor
1515 ideer  i utkanten blir den ortodokse hovedretningen. Men Bork forandrer ikke
1516 verden over natten. Han spilte et veldig langvarig spill, i over en
1517 generasjon, og han hadde en medvind fordi de samme kreftene som støttet
1518 oligarkiske antitrust teorier også støttet mange andre oligarkiske
1519 skiftninger i opinionen. For eksempel ideen om at beskatning er tyveri, at
1520 rikdom er et tegn på dyd, og så videre - alle disse teoriene ble fanget opp
1521 for å danne en sammenhengende ideologi som hevet ulikhet til en dyd.
1522   </p><p>
1523     I dag frykter mange at maskinlæring gjør det mulig for
1524 overvåkingskapitalismen å selge <span class="quote">«<span class="quote">Bork-som-tjeneste</span>»</span>, med
1525 internetthastighet, slik at du kan kontrakt et maskinlæringsselskap for å
1526 konstruere <span class="emphasis"><em>raske</em></span> endringer i offentlige holdninger uten
1527 å trenge kapitalen til å opprettholde et flergenerasjonsprosjekt som
1528 arbeider på lokalt, statlig, nasjonalt og globalt nivå innen næringsliv, jus
1529 og filosofi. Jeg tror ikke at et slikt prosjekt er sannsynlig, selv om jeg
1530 er enig i at dette i utgangspunktet er hva plattformene hevder å selge. De
1531 lyver bare om det. Storteknologien lyver hele tiden
1532 <span class="emphasis"><em>inkludert</em></span> i sitt salgsmateriale.
1533   </p><p>
1534     Ideen om at teknologi danner <span class="quote">«<span class="quote">naturlige monopoler</span>»</span> (monopoler
1535 som er det uunngåelige resultatet av realitetene i en bransje, for eksempel
1536 monopolene som tilflyter det første selskapet for å kjøre
1537 langdistansetelefonlinjer eller jernbanelinjer) er motbevist av teknologiens
1538 egen historie: I fravær av konkurransehemmende taktikk, var Google i stand
1539 til å detronisere AltaVista og Yahoo; Facebook var i stand til å avverge
1540 Myspace. Det er noen fordeler med å samle fjell av data, men disse
1541 datafjellene har også ulemper: ansvar (fra lekkasjer), redusert avkastning
1542 (fra gamle data), og institusjonell treghet (store selskaper, lik vitenskap,
1543 fremdrift med en begravelse om gangen).
1544   </p><p>
1545     Faktisk ble fremveksten av nettsteder en masseutryddelseshendelse for de
1546 eksisterende gigantiske, svært lønnsomme proprietære teknologiene som hadde
1547 kapital, nettverkseffekter, og vegger og vollgraver rundt sine
1548 virksomheter. Nettet viste at når en ny bransje er bygget rundt en
1549 protokoll, i stedet for et produkt, kan den kombinerte innflytelsen til alle
1550 som bruker protokollen for å nå sine kunder, eller brukere, eller samfunn,
1551 oppveie selv de mest massive produktene. CompuServe, AOL, MSN og en rekke
1552 andre proprietære inngjerdede hager, lærte denne leksjonen på den harde
1553 måten: Hver trodde det kunne holde seg atskilt fra nettet, og tilbød
1554 <span class="quote">«<span class="quote">kurering</span>»</span> og en garanti for konsistens og kvalitet i stedet
1555 for kaoset i et åpent system. Alle tok feil og endte opp med å bli absorbert
1556 inn i det offentlige nettet.
1557   </p><p>
1558     Ja, teknologien er sterkt monopolisert og er nå nært knyttet til
1559 industrikonsentrasjon, men dette har mer å gjøre med timing enn sine iboende
1560 monopolistiske tendenser. Teknologien ble født i det øyeblikket
1561 antitrust-håndhevelsen ble demontert, og teknologien falt inn i nøyaktig de
1562 samme patologiene som antitrust skulle beskytte mot. Som en første
1563 tilnærming er det rimelig å anta at teknologiens monopoler er et resultat av
1564 mangel på antimonopol-innsats og ikke de oppreklamerte unike egenskapene til
1565 teknologi, for eksempel nettverkseffekter, pionerfordeler, og så videre.
1566   </p><p>
1567     Til støtte for denne tesen, tilbyr jeg konsentrasjonen som alle
1568 <span class="emphasis"><em>andre</em></span> industrier har gjennomgått i samme periode. Fra
1569 profesjonell bryting, til varer i forbrukerpakninger, til leasing av
1570 næringseiendom, til bank, til sjøfrakt, til olje, til plateselskaper, til
1571 aviseierskap, til fornøyelsesparker, <span class="emphasis"><em>hver</em></span> industri har
1572 gjennomgått et massivt skifte i retning konsentrasjon. Det er ingen åpenbare
1573 nettverkseffekter eller pionerfordeler som utspiller seg i disse
1574 bransjene. Men uansett, oppnådde disse næringene sin konsentrerte status med
1575 taktikker som var forbudt før Borks triumf: Fusjon med store konkurrenter,
1576 kjøpe ut innovative nye markedsdeltakere, horisontal og vertikal
1577 integrasjon, og en pakke med konkurransehemmende taktikk, som en gang var
1578 ulovlig, men ikke lenger.
1579   </p><p>
1580     Igjen: Når du endrer lovene som er ment å forhindre monopoler og deretter
1581 monopoler dannes på akkurat den måten loven skulle forhindre, er det rimelig
1582 å anta at disse fakta er relatert.  Teknologikonsentrasjon kan lett
1583 forklares uten å ty til radikale teorier om nettverkseffekter - men bare
1584 hvis du er villig til å tiltale uregulerte markeder som tenderer i retning
1585 monopol. Akkurat som en livslang røyker kan gi deg hundre grunner til at
1586 deres røyking ikke forårsaket deres kreft (<span class="quote">«<span class="quote">Det var
1587 miljøgiftene</span>»</span>), har sanne troende i uregulerte markeder en hel pakke
1588 med overbevisende forklaringer på monopol i teknologi som holder
1589 kapitalismen intakt.
1590   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="steering-with-the-windshield-wipers"></a>Styring med vindusviskerne</h2></div></div></div><p>
1591     Det er 40 år siden Borks prosjekt om å rehabilitere monopoler tok av, og det
1592 er en og en halv generasjon siden, noe som er god tid til å ta en felles idé
1593 og få den til å virke besynderlig og omvendt. Før 1940-tallet kledde
1594 velstående amerikanere sine babygutter i rosa mens babyjenter hadde blå (en
1595 <span class="quote">«<span class="quote">delikat og lekker</span>»</span> farge). Mens kjønnsfarger åpenbart er helt
1596 vilkårlige, møter mange fortsatt denne nyheten med forbauselse og finner det
1597 vanskelig å forestille seg en tid da rosa er knyttet til maskulinitet.
1598   </p><p>
1599     Etter 40 år med utstudert ignorering av analyse og håndhevelse av
1600 antitrustlovgivning, er det ikke overraskende at vi alle nesten har glemt at
1601 antitrust eksisterer, at som vi husker, var vekst gjennom fusjoner og
1602 oppkjøp i stor grad forbudt etter loven, at strategier for å dominere
1603 markedet, som vertikal integrasjon, kunne sende et selskap til retten.
1604   </p><p>
1605     Antitrust er et ratt for samfunnets styring av markedet, og er første utvei
1606 for å holde potensielle verdensmestere i sjakk. Men Bork og kohorten hans
1607 fjernet rattet vårt for 40 år siden. Bilen tromler fortsatt av gårde, så vi
1608 rykker så hardt vi kan i alle <span class="emphasis"><em>andre</em></span> regulatorer i
1609 bilen, samt svinger desperat med dørene og ruller vinduene opp og ned i håp
1610 om at en av disse andre tingene gir en omstilling som lar oss velge hvor vi
1611 er på vei før vi velter utfor en klippe.
1612   </p><p>
1613     Det er som et virkelighetens science fiction-plott fra sekstitallet: Folk er
1614 fanget i et <span class="quote">«<span class="quote">generasjonsskip</span>»</span> som raser av sted mellom
1615 stjernene. Et skip som en gang ble styrt av forfedrene, mens nå, etter en
1616 stor katastrofe, har skipets mannskap glemt at de er på et skip og ingen vet
1617 lenger hvor kontrollrommet er. Ute av kontroll raser skipet mot slutten, og
1618 med mindre vi kan ta tilbake kontrollen og gjennomføre kurskorreksjon i
1619 tide, så er vi alle på tur mot en grusom død i hjertet av en sol.
1620   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="surveillance-still-matters"></a>Overvåking er fortsatt viktig</h2></div></div></div><p>
1621     Ingenting av dette er å minimere problemene med overvåking.  Overvåkning
1622 betyr noe, og Storteknologiens bruk av overvåkning <span class="emphasis"><em>er</em></span>
1623 en eksistensiell risiko for vår art, men det er ikke fordi overvåking og
1624 maskinlæring frarøver oss vår frie vilje.
1625   </p><p>
1626     Overvåkingen har blitt <span class="emphasis"><em>mye</em></span> mer effektiv takket være
1627 Storteknologien. I 1989 hadde Stasi – det østtyske hemmelige politiet – hele
1628 landet under overvåkning, et massivt foretak som rekrutterte hver sekstiende
1629 person til å tjene som informant eller etterretningsagent.
1630   </p><p>
1631     I dag vet vi at NSA spionerer på en betydelig fraksjon av hele verdens
1632 befolkning, og forholdet mellom overvåkingsagenter og overvåket er mer som
1633 1:10.000 (det er sannsynligvis i den lave enden da det forutsetter at hver
1634 amerikaner med topphemmelig klarering jobber for NSA i dette prosjektet - vi
1635 vet ikke hvor mange av disse klarerte personene som er involvert i NSAs
1636 spionasje , men det er definitivt ikke alle disse).
1637   </p><p>
1638     Hvordan utvidet forholdet mellom overvåkbare borgere seg fra 1:60 til
1639 1:10,000 på mindre enn 30 år? Det er takket være Storteknologien. Vårt
1640 utstyr og tjenester samler de fleste dataene som NSA utvinner til sitt
1641 overvåkingsprosjekt. Vi betaler for dette utstyret og de tjenestene de
1642 kobler seg til, og så utfører vi møysommelig dataregistreringsoppgavene
1643 knyttet til logging av fakta om våre liv, meninger og preferanser. Dette
1644 masseovervåkingsprosjektet har i stor grad vært ubrukelig for å bekjempe
1645 terrorisme: NSA kan <a class="ulink" href="https://www.washingtonpost.com/world/national-security/nsa-cites-case-as-success-of-phone-data-collection-program/2013/08/08/fc915e5a-feda-11e2-96a8-d3b921c0924a_story.html" target="_top">
1646 bare peke på en enkelt mindre suksesshistorie</a> der de brukte sitt
1647 datainnsamlingsprogram for å hindre et forsøk fra en amerikansk innbygger å
1648 overføre noen få tusen dollar til en oversjøisk terrorgruppe. Det er
1649 ineffektivt for mye av den samme grunnen som at kommersielle
1650 overvåkingsprosjekter i stor grad er ineffektive til å målrette reklame:
1651 Folk som ønsker å begå terrorhandlinger, lik folk som ønsker å kjøpe et
1652 kjøleskap, er ekstremt sjeldne. Hvis du prøver å oppdage et fenomen hvis
1653 basisandelen bare er en av en million med et instrument med en nøyaktighet
1654 på bare 99 %, kommer hver sanne positive til en kostnad på 9999 falske
1655 positive.
1656   </p><p>
1657     La meg forklare det igjen: Hvis en av en million mennesker er terrorist, så
1658 vil det bare være omtrent en terrorist i et tilfeldig utvalg med en million
1659 mennesker. Hvis testen for å oppdage terrorister er 99 % nøyaktig, vil den
1660 identifisere 10.000 terrorister i din million-personer prøve (1 % av en
1661 million er 10.000). For hver sann positiv, vil du få 9999 falske positive.
1662   </p><p>
1663     I virkeligheten blir nøyaktigheten for algoritmisk gjenkjenning av
1664 terrorisme langt under 99 %-merket, det samme gjør målrettingen av
1665 kjøleskapannonser. Forskjellen er at å bli feilaktig anklaget for å ville
1666 kjøpe et kjøleskap er en mindre plage, mens blir du feilaktig anklaget for å
1667 planlegge et terrorangrep kan det ødelegge livet ditt og livene til alle du
1668 elsker.
1669   </p><p>
1670     Massestatlig overvåking er bare mulig på grunn av overvåkingskapitalismen og
1671 dens ekstremt lavavkastnings systemer for annonsemålretting, som krever en
1672 konstant påfyll av personopplysninger for å for å knapt bli
1673 levedyktige. Overvåkingskapitalismens primære feilmodus er feilmålrettede
1674 annonser, mens massestatovervåkingens primære feilmodus er groteske
1675 menneskerettighetsbrudd, som tenderer mot et totalitært samfunn.
1676   </p><p>
1677     Statlig overvåking er ikke kun en snylter på Storteknologien som suger til
1678 data derfra uten å gi noe tilbake. I sannhet er de to i symbiose:
1679 Storteknologien suger opp våre data for spionbyråer, og spionbyråene sikrer
1680 at regjeringene ikke begrenser Storteknologiens aktiviteter så sterkt at det
1681 ikke lenger ville tjene spionbyråenes behov. Det er intet klart skille
1682 mellom statlig overvåking og overvåkingskapitalisme; de er avhengige av
1683 hverandre.
1684   </p><p>
1685     For å se hvordan dette virker i dag, så trenger vi ikke se lenger enn til
1686 Amazons enhet for hjemmeovervåking: dørklokken Ring og den tilhørende appen
1687 Neighbors. Ring - er et produkt som Amazon kjøpte og ikke utviklet internt -
1688 er en kameraaktivert dørklokke som strømmer videoopptak fra inngangsdøren
1689 til mobilenheten din. Neighbors-appen lar deg danne et overvåkingsnett for
1690 hele nabolaget med andre Ring-eiere, der du kan dele klipp av
1691 <span class="quote">«<span class="quote">mistenkelige individer</span>»</span>. Hvis du tenker at dette høres ut som
1692 en oppskrift på å la rasister bak gardinene virkelig gi krefter til sine
1693 mistanker mot personer med brun hud som går langs gatene, <a class="ulink" href="https://www.eff.org/deeplinks/2020/07/amazons-ring-enables-over-policing-efforts-some-americas-deadliest-law-enforcement" target="_top">har
1694 du rett</a>. Ring har blitt en <span class="emphasis"><em>de facto</em></span>, uoffisiell
1695 forlengelse av politiet uten noen irriterende tilsyn eller regler.
1696   </p><p>
1697     I midten av 2019 viste en rekke innsynsforespørsler at Amazon hadde inngått
1698 konfidensielle avtaler med mer enn 400 lokale politimyndigheter der
1699 myndighetene skulle markedsføre Ring og Neighbors mot å få tilgang til
1700 opptak fra Ring-kameraene. I teorien måtte politifolk be om tilgang til
1701 disse opptakene gjennom Amazon (og interne dokumenter viser at Amazon setter
1702 av betydelige ressurser for å trene opp politifolk i hvordan lage en
1703 troverdig forklaring når de gjør dette), men i praksis, hvis en Ring-kunde
1704 avviser en forespørsel fra politiet, så krever Amazon kun at myndighetene
1705 retter en formell henvendelse om opptaket til selskapet, for å få det
1706 utlevert.
1707   </p><p>
1708     Ring og politiet har funnet mange måter å flette sammen sine
1709 aktiviteter. Ring inngår hemmelige avtaler for å skaffe sanntidstilgang til
1710 911-utkallinger og strømmer deretter alarmerende meldinger om kriminalitet
1711 til brukere av Neighbors, som bidrar til å overbevise alle som vurderer en
1712 overvåkningsdørklokke, men er ikke sikker på om nabolaget deres er så farlig
1713 at det trengs.
1714   </p><p>
1715     Jo mer politiet følger overvåkingskapitalisten Ring, jo mer overvåkingsevne
1716 staten får. Politiet som stoler på private enheter for sin rettshåndhevelse,
1717 og deretter guides i retning utplasseringen av denne teknologien, mens
1718 selskapene returnere tjenesten ved lobbyvirksomhet mot regler som krever
1719 offentlig tilsyn med politiets overvåkingsteknologi. Jo mer politiet stoler
1720 på Ring og Neighbors, jo vanskeligere vil det være å vedta lover mot dem. Jo
1721 færre lover er det mot dem, jo mer vil politiet stole på dem.
1722   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="dignity-and-sanctuary"></a>Verdighet og tilfluktsted</h2></div></div></div><p>
1723     Men selv om vi kunne utøve demokratisk kontroll over våre stater og tvinge
1724 dem til å slutte å ransake overvåkingskapitalismens reservoarer av
1725 atferdsdata, så ville overvåkingskapitalismen fortsatt skade oss.
1726   </p><p>
1727     Dette er et område der Zuboff glimter til. Hennes kapittel om
1728 <span class="quote">«<span class="quote">tilfluktsted</span>»</span> — følelsen av å ikke bli observert — er en
1729 nydelig hyllest til introspeksjon, ro, oppmerksomt nærvær og stillhet.
1730   </p><p>
1731     Når du blir overvåket, så endres noe. Alle som har oppdratt et barn vet
1732 dette. Du kan se opp fra boken din (eller mer realistisk, fra mobilen) og
1733 fange barnet ditt i et øyeblikk av dyp realisering og vekst, et øyeblikk
1734 hvor de lærer noe som er helt i utkanten av sine evner, som krever
1735 fullstendig og intens konsentrasjon. Et øyeblikk er du oppslukt, har det
1736 sjeldne og vakre øyeblikket i fokus og utspille seg ut foran øynene dine, så
1737 ser barnet opp og ser at du ser det, og øyeblikket kollapser. For å vokse,
1738 trenger du å være og vise ditt sanne jeg, og i det øyeblikket er du sårbar
1739 som en eremittkrabbe som skynder seg fra ett skall til det neste. Den ømme,
1740 ubeskyttede overflaten du viser i det øyeblikket, er for delikate til å
1741 avsløre i nærvær av en annen, selv noen du stoler så betingelsesløst på som
1742 et barn stoler på sine foreldre.
1743   </p><p>
1744     I den digitale tidsalder er vårt sanne jeg uløselig knyttet til våre
1745 digitale liv. Søkehistorikken din er en løpende oversikt over spørsmålene du
1746 har fundert på. Posisjonshistorikken din er et arkiv over steder du har
1747 trukket mot og opplevelsene du har hatt der. Din sosiale graf avslører de
1748 ulike sidene av identiteten din, og folkene du er knyttet til.
1749   </p><p>
1750     Å få disse aktivitetene observert er å miste tilfluktstedet for ditt sanne
1751 jeg.
1752   </p><p>
1753     Det er en annen måte overvåkingskapitalismen frarøver oss vår evne til selv
1754 å være vårt sanne jeg: Ved å gjøre oss engstelige. Overvåkingskapitalismen
1755 er egentlig ikke en tankekontrollstråle, men du trenger ikke en
1756 tankekontrollstråle for å gjøre noen engstelige. Tross alt, et annet ord for
1757 angst er å være opprørt, og for å få noen til å bli opprørt, trenger du bare
1758 å opprøre dem. Å pirke i dem og peke på dem og pipe mot dem og mumle mot dem
1759 og bombardere dem i et periodisk opplegg som er akkurat tilfeldig nok til at
1760 vår nervesystem aldri helt blir vant til det.
1761   </p><p>
1762     Våre enheter og tjenester har <span class="quote">«<span class="quote">generelt formål</span>»</span> i det at de kan
1763 koble hva som helst eller hvem som helst til hva som helst eller hvem som
1764 helst, og de kan gjøre ethvert program som kan lages. Dette betyr at
1765 distraksjonsrektanglene i lommene våre passer på våre mest verdifulle
1766 øyeblikk med våre kjæreste og deres mest presserende eller tidskritiske
1767 meldinger (fra <span class="quote">«<span class="quote">blir sen, kan du hente ungen?</span>»</span> til <span class="quote">«<span class="quote">legen
1768 ga med dårlige nyheter og jeg trenger å snakke med deg MED EN GANG</span>»</span>)
1769 i tillegg til reklamer for kjøleskap og rekrutteringsmeldinger fra nazister.
1770   </p><p>
1771     Dag og natt vibrerer lommene våre, knuser konsentrasjonen vår og river i
1772 stykker de skjøre edderkoppspinnene av sammenehenger vi spinner når vi
1773 tenker gjennom vanskelige ideer. Hvis du låste noen inne i en celle og
1774 forstyrret dem på dette viset, så ville vi kalt det
1775 <span class="quote">«<span class="quote">søvnnektingstortur</span>»</span>, og det ville vært en <a class="ulink" href="https://www.youtube.com/watch?v=1SKpRbvnx6g" target="_top">krigsforbrytelse i følge
1776 Geneve-konvensjonen</a>.
1777   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="afflicting-the-afflicted"></a>Pine de plagede</h2></div></div></div><p>
1778     Effekten overvåkning har på vår evne til å være vårt sanne jeg er ikke lik
1779 for alle mennesker. Noen av oss er heldige nok til å leve på en tid og sted
1780 der de viktigste fakta om våre live er i stor grad sosialt aksepterte og kan
1781 vises frem offentlig uten risiko for sosiale konsekvenser.
1782   </p><p>
1783     Men for mange av oss er dette ikke sant. Husk at i manns minne var mange av
1784 væremåtene som vi tenker på som sosialt akseptable i dag en gang årsak til
1785 alvorlig sosial sanksjon eller til og med fengsling.  Hvis du er 65 år
1786 gammel, har du levd i en tid hvor folk som bor i <span class="quote">«<span class="quote">frie samfunn</span>»</span>
1787 kunne bli fengslet eller sanksjonert for å engasjere seg i homoseksuell
1788 aktivitet, for å forelske seg i en person hvis hud var en annen farge enn
1789 sin egen, eller for å røyke gras.
1790   </p><p>
1791     I dag er disse aktivitetene ikke bare avkriminalisert i store deler av
1792 verden, de anses som normale, og de forhenværende forbudene anses som
1793 skamfulle, forkastelige relikvier fra fortiden.
1794   </p><p>
1795     Hvordan gikk vi fra forbud til normalisering? Ved hjelp av privat og
1796 personlig aktivitet: Folk som var homofile i skjul, eller som var
1797 hasjrøykere i smug, eller som i hemmeliget elsket noen med en annen
1798 hudfarge, var alle sårbare for gjengjeldelse hvis de gjorde sitt sanne jeg
1799 kjent, og det var begrenset hvor mye de kunne fremme sine egne rettigheter i
1800 samfunnet og slik være tro mot seg selv. Men fordi det var en privatsfære,
1801 så kunne disse folkene danne allianser med sine kjære og sine venner som
1802 ikke delte deres uglesette egenskaper, ved å ha private samtaler der de kom
1803 ut av skapet og avslørte sitt sanne jeg til folkene rundt dem og bringe dem
1804 inn på sin side, en samtale av gangen.
1805   </p><p>
1806     Retten til å velge tid og sted for disse samtalene var nøkkelen til at de
1807 lyktes. Det er en ting å komme ut av skapet overfor faren din mens dere er
1808 på fisketurn langt unna allfarvei, og en helt annen ting å plumpe ut med det
1809 over julemiddagen mens din rasistiske Facebook-onkel er der for å lage en
1810 scene.
1811   </p><p>
1812     Uten en privatsfære så er det en sjanske for at ingen av disse endringene
1813 hadde funnet sted, og at folkene som dro nytte av disse endringene enten
1814 hadde mått sociale saksjoner for å komme ut av skapet i en fientlig verden
1815 eller ville aldri vært i stand til å vise sitt sanne jeg til folkene de er
1816 glade i.
1817   </p><p>
1818     Det følger fra dette at, med mindre du tror at vårt samfunn har oppnådd
1819 sosial perfeksjon — at barnebarna i 50 år vil be deg om å fortelle dem
1820 historien om hvordan, i 2020, hver urettferdighet hadde blitt korrigert og
1821 ingen ytterligere endring måtte gjøres — så bør du forvente at akkurat nå, i
1822 dette øyeblikk, er det folk du elsker, hvis lykke henger sammen med din egen
1823 , som har en hemmelighet i sine hjerter som hindrer dem fra å være sitt
1824 sanne jeg sammen med deg. Disse menneskene er sorgfulle og vil gå i graven
1825 med den hemmelige sorgen i sine hjerter, og kilden til denne sorgen vil være
1826 falskheten i deres forhold til deg.
1827   </p><p>
1828     En privatsfære er nødvendig for menneskelig fremgang.
1829   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="any-data-you-collect-and-retain-will-eventually-leak"></a>Alle data du samler og tar vare på vil til slutt lekke</h2></div></div></div><p>
1830     Mangelen på privatliv kan berøve sårbare folk sjansen til å være sitt sanne
1831 jeg og begrense våre handler ved å frarøve oss vårt tilfluktsted, men det er
1832 en annen risiko som belastes oss alle, ikke bare folk med en hemmelighet:
1833 kriminalitet.
1834   </p><p>
1835     Personlig identifiserende informasjon har svært begrenset nytte når formålet
1836 er å kontrollere folks sinn, men identitetstyveri - virkelig en omfattende
1837 uttrykk for en hel konstellasjon av forferdelige kriminelle aktiviteter som
1838 kan ødelegge din økonomi, kompromittere din personlige integritet, ødelegge
1839 ditt rykte, eller til og med utsette deg for fysisk fare - trives med den.
1840   </p><p>
1841     Angripere er heller ikke begrenset til å bruke data fra én kilde som er
1842 tappet. Flere tjenester har hatt innbrudd som avslørte navn, adresser,
1843 telefonnumre, passord, seksuell smak, skolekarakterer, arbeidsytelse,
1844 trefninger med strafferettssystemet, familiedetaljer, genetisk informasjon,
1845 fingeravtrykk og annen biometri, lesevaner, søkehistorikk, litterær smak,
1846 pseudonymer og annen sensitiv informasjon. Angripere kan slå sammen data fra
1847 disse forskjellige innbruddene for å bygge opp ekstremt detaljerte mapper om
1848 tilfeldige personer, og deretter bruke ulike deler av datasettet til ulike
1849 kriminelle formål.
1850   </p><p>
1851     Angripere kan for eksempel bruke lekkede brukernavn- og passordkombinasjoner
1852 til å kapre hele flåter av kommersielle kjøretøy som <a class="ulink" href="https://www.vice.com/en_us/article/zmpx4x/hacker-monitor-cars-kill-engine-gps-tracking-apps" target="_top">
1853 har blitt utstyrt med anti-tyveri GPS-sporere og startsperrer</a> eller
1854 å kapre babymonitorer for å <a class="ulink" href="https://www.washingtonpost.com/technology/2019/04/23/how-nest-designed-keep-intruders-out-peoples-homes-effectively-allowed-hackers-get/?utm_term=.15220e98c550" target="_top">terrorisere
1855 småbarn med lydspor fra pornografi</a>. Angripere bruker lekkede data
1856 til å lure telefonselskaper til å gi dem telefonnummeret ditt, så fanger de
1857 opp SMS-baserte tofaktorautentiseringskoder for å ta over e-post, bankkonti
1858 og/eller lommebøker for kryptovaluta.
1859   </p><p>
1860     Oppfinnsomheten til angripere har ingen grenser i jakten på kreative måter å
1861 gjøre lekkede data til våpen. En vanlig bruk av lekkede data er å trenge inn
1862 i selskaper for å få tilgang til <span class="emphasis"><em>mer</em></span> data.
1863   </p><p>
1864     Som spioner, er nettsvindlere er helt avhengig av selskapenes
1865 over-innsamling og over-beholding av våre data. Spionetater betaler noen
1866 ganger selskaper for tilgang til dataene sine eller skremmer dem til å oppgi
1867 dem, men noen ganger fungerer de akkurat som kriminelle gjør — ved <a class="ulink" href="https://www.bbc.com/news/world-us-canada-24751821" target="_top">å tuske ut data fra
1868 selskapenes databaser</a>.
1869   </p><p>
1870     Overinnsamlingen av data har en rekke forferdelige sosiale konsekvenser, fra
1871 erosjonen av vårt sanne jeg til undergraving av sosial fremgang, fra statlig
1872 overvåking til en epidemi av kriminalitet på nettet. Kommersiell overvåking
1873 er også en fordel for folk som kjører påvirkningskampanjer, men det er vårt
1874 minste problem.
1875   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="critical-tech-exceptionalism-is-still-tech-exceptionalism"></a>Kritisk teknologi eksepsjonellisme er fortsatt eksepsjonellisme</h2></div></div></div><p>
1876     Storteknologien har lenge praktisert teknologi-eksepsjonallisme: ideen om at
1877 de ikke bør være underlagt de dagligdagse lover og normer i
1878 <span class="quote">«<span class="quote">hverdagen</span>»</span>. Mottoer som Facebooks <span class="quote">«<span class="quote">move fast and break
1879 things</span>»</span> tiltrakk seg berettiget hån mot selskapenes selvsentrerte
1880 retorikk.
1881   </p><p>
1882     Teknologiens eksepsjonellisme ga oss alle mye trøbbel, så det er ironisk og
1883 plagsomt å se Storteknologiens kritikere synde på samme vis.
1884   </p><p>
1885     Storteknologien er ikke en <span class="quote">«<span class="quote">ukontrollert kapitalisme</span>»</span> som ikke
1886 kan kureres gjennom tradisjonelle rettslige antimonopol grep (tvinge
1887 selskaper til å kvitte seg med konkurrenter de har kjøpt) og forbud mot
1888 fusjoner som gir monopol og andre konkurransehemmende
1889 taktikker. Storteknologien har ikke makt til å bruke maskinlæring til å
1890 påvirke vår oppførsel så gjennomgående at markedene mister evnen til å
1891 straffe dårlige aktører og belønne dyktigere konkurrenter. Storteknologien
1892 har ingen regelskrivende tankekontroll-stråle, som nødvendiggjør avvikling
1893 av vår gamle verktøykasse.
1894   </p><p>
1895     Saken er at, folk har hevdet å ha perfeksjonert tankekontroll-stråler i
1896 århundrer, og hver gang, det viste seg å være et bedrag - men noen ganger
1897 bedro svindlere seg selv.
1898   </p><p>
1899     I generasjoner har reklamebransjen stadig forbedret sin evne til å selge
1900 reklametjenester til bedrifter, samtidig som de bare har fått frem marginale
1901 gevinster ved å selge disse bedriftenes produkter til potensielle
1902 kunder. John Wanamaker beklaget at <span class="quote">«<span class="quote">50% av annonsebudsjettet mitt er
1903 bortkastet, jeg vet bare ikke hvilken 50 %</span>»</span> er et testament til
1904 triumfen til <span class="emphasis"><em>annonsesjefer</em></span>, som med hell overbeviste
1905 Wanamaker om at bare halvparten av pengene han brukte gikk til spille.
1906   </p><p>
1907     Teknologibransjen har gjort enorme forbedringer i dyktigheten i å overbevise
1908 bedrifter om at de er flinke til å annonsere, mens deres faktiske
1909 forbedringer i annonseringen - i motsetning til målretting - har vært ganske
1910 så som så. Innegreien for maskinlæring – og den mystiske påkallingen av
1911 <span class="quote">«<span class="quote">kunstig intelligens</span>»</span> som et synonym for enkle statistiske
1912 interferens-teknikker – har i stor grad styrket effekten av Storteknologiens
1913 salgspoeng, når markedsførere har utnyttet potensielle kunders mangel på
1914 teknisk forståelse for å komme unna med fantastisk oversalg og
1915 underlevering.
1916   </p><p>
1917     Det er fristende å tenke at hvis bedrifter er villige til å legger
1918 milliarder inn i et vågestykke, må det være en god et. Likevel er det mange
1919 ganger denne tommelfingerregelen har ført oss på villspor.  For eksempel er
1920 det nesten uhørt om forvaltede investeringsfond skulle gjøre det bedre enn
1921 rene indeksfond, og investorer som legger pengene sine i hendene på
1922 ekspertforvaltere gjør det langt verre enn de som overlater sine sparepenger
1923 til indeksfond. Men forvaltede fond har fortsatt størstedelen av
1924 markedsinvesteringene, og de er patronisert av noen av de rikeste, mest
1925 sofistikerte investorene i verden. Deres tillitserklæring til en
1926 underpresterende sektor er en lignelse om flaksens rolle i
1927 rikdomsakkumulering, ikke et tegn på at forvaltede fond er et godt kjøp.
1928   </p><p>
1929     Påstandene om Storteknologiens tankekontrollsystem er fulle av tegn på at
1930 hele foretaket er svindel. For eksempel, <a class="ulink" href="https://www.frontiersin.org/articles/10.3389/fpsyg.2020.01415/full" target="_top">avhengigheten
1931 av de <span class="quote">«<span class="quote">Fem Store</span>»</span> personlighetstrekkene</a> som hovedmetode
1932 for å påvirke mennesker, selv om de <span class="quote">«<span class="quote">Fem Store</span>»</span>-teorien ikke
1933 støttes av noen store, fagfellevurderte studier og for det meste hører til
1934 <a class="ulink" href="https://www.wired.com/story/the-noisy-fallacies-of-psychographic-targeting/" target="_top">pågående
1935 reklamefolk og pop-psykologi</a>.
1936   </p><p>
1937     Big Tech’s promotional materials also claim that their algorithms can
1938 accurately perform <span class="quote">«<span class="quote">sentiment analysis</span>»</span> or detect peoples’
1939 moods based on their <span class="quote">«<span class="quote">microexpressions,</span>»</span> but <a class="ulink" href="https://www.npr.org/2018/09/12/647040758/advertising-on-facebook-is-it-worth-it" target="_top">these
1940 are marketing claims, not scientific ones</a>. These methods are largely
1941 untested by independent scientific experts, and where they have been tested,
1942 they’ve been found sorely wanting.  Microexpressions are particularly
1943 suspect as the companies that specialize in training people to detect them
1944 <a class="ulink" href="https://theintercept.com/2017/02/08/tsas-own-files-show-doubtful-science-behind-its-behavior-screening-program/" target="_top">have
1945 been shown</a> to underperform relative to random chance.
1946   </p><p>
1947     Big Tech has been so good at marketing its own supposed superpowers that
1948 it’s easy to believe that they can market everything else with similar
1949 acumen, but it’s a mistake to believe the hype. Any statement a company
1950 makes about the quality of its products is clearly not impartial. The fact
1951 that we distrust all the things that Big Tech says about its data handling,
1952 compliance with privacy laws, etc., is only reasonable — but why on Earth
1953 would we treat Big Tech’s marketing literature as the gospel truth? Big Tech
1954 lies about just about <span class="emphasis"><em>everything</em></span>, including how well
1955 its machine-learning fueled persuasion systems work.
1956   </p><p>
1957     That skepticism should infuse all of our evaluations of Big Tech and its
1958 supposed abilities, including our perusal of its patents. Zuboff vests these
1959 patents with enormous significance, pointing out that Google claimed
1960 extensive new persuasion capabilities in <a class="ulink" href="https://patents.google.com/patent/US20050131762A1/en" target="_top">its patent
1961 filings</a>. These claims are doubly suspect: first, because they are so
1962 self-serving, and second, because the patent itself is so notoriously an
1963 invitation to exaggeration.
1964   </p><p>
1965     Patent applications take the form of a series of claims and range from broad
1966 to narrow. A typical patent starts out by claiming that its authors have
1967 invented a method or system for doing every conceivable thing that anyone
1968 might do, ever, with any tool or device. Then it narrows that claim in
1969 successive stages until we get to the actual <span class="quote">«<span class="quote">invention</span>»</span> that
1970 is the true subject of the patent.  The hope is that the patent examiner —
1971 who is almost certainly overworked and underinformed — will miss the fact
1972 that some or all of these claims are ridiculous, or at least suspect, and
1973 grant the patent’s broader claims. Patents for unpatentable things are still
1974 incredibly useful because they can be wielded against competitors who might
1975 license that patent or steer clear of its claims rather than endure the
1976 lengthy, expensive process of contesting it.
1977   </p><p>
1978     What’s more, software patents are routinely granted even though the filer
1979 doesn’t have any evidence that they can do the thing claimed by the
1980 patent. That is, you can patent an <span class="quote">«<span class="quote">invention</span>»</span> that you haven’t
1981 actually made and that you don’t know how to make.
1982   </p><p>
1983     With these considerations in hand, it becomes obvious that the fact that a
1984 Big Tech company has patented what it <span class="emphasis"><em>says</em></span> is an
1985 effective mind-control ray is largely irrelevant to whether Big Tech can in
1986 fact control our minds.
1987   </p><p>
1988     Big Tech collects our data for many reasons, including the diminishing
1989 returns on existing stores of data. But many tech companies also collect
1990 data out of a mistaken tech exceptionalist belief in the network effects of
1991 data. Network effects occur when each new user in a system increases its
1992 value. The classic example is fax machines: A single fax machine is of no
1993 use, two fax machines are of limited use, but every new fax machine that’s
1994 put to use after the first doubles the number of possible fax-to-fax links.
1995   </p><p>
1996     Data mined for predictive systems doesn’t necessarily produce these
1997 dividends. Think of Netflix: The predictive value of the data mined from a
1998 million English-speaking Netflix viewers is hardly improved by the addition
1999 of one more user’s viewing data. Most of the data Netflix acquires after
2000 that first minimum viable sample duplicates existing data and produces only
2001 minimal gains. Meanwhile, retraining models with new data gets progressively
2002 more expensive as the number of data points increases, and manual tasks like
2003 labeling and validating data do not get cheaper at scale.
2004   </p><p>
2005     Businesses pursue fads to the detriment of their profits all the time,
2006 especially when the businesses and their investors are not motivated by the
2007 prospect of becoming profitable but rather by the prospect of being acquired
2008 by a Big Tech giant or by having an IPO.  For these firms, ticking faddish
2009 boxes like <span class="quote">«<span class="quote">collects as much data as possible</span>»</span> might realize a
2010 bigger return on investment than <span class="quote">«<span class="quote">collects a business-appropriate
2011 quantity of data.</span>»</span>
2012   </p><p>
2013     This is another harm of tech exceptionalism: The belief that more data
2014 always produces more profits in the form of more insights that can be
2015 translated into better mind-control rays drives firms to over-collect and
2016 over-retain data beyond all rationality. And since the firms are behaving
2017 irrationally, a good number of them will go out of business and become ghost
2018 ships whose cargo holds are stuffed full of data that can harm people in
2019 myriad ways — but which no one is responsible for antey longer. Even if the
2020 companies don’t go under, the data they collect is maintained behind the
2021 minimum viable security — just enough security to keep the company viable
2022 while it waits to get bought out by a tech giant, an amount calculated to
2023 spend not one penny more than is necessary on protecting data.
2024   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="how-monopolies-not-mind-control-drive-surveillance-capitalism-the-snapchat-story"></a>How monopolies, not mind control, drive surveillance capitalism: The
2025 Snapchat story</h2></div></div></div><p>
2026     For the first decade of its existence, Facebook competed with the social
2027 media giants of the day (Myspace, Orkut, etc.) by presenting itself as the
2028 pro-privacy alternative. Indeed, Facebook justified its walled garden —
2029 which let users bring in data from the web but blocked web services like
2030 Google Search from indexing and caching Facebook pages — as a pro-privacy
2031 measure that protected users from the surveillance-happy winners of the
2032 social media wars like Myspace.
2033   </p><p>
2034     Despite frequent promises that it would never collect or analyze its users’
2035 data, Facebook periodically created initiatives that did just that, like the
2036 creepy, ham-fisted Beacon tool, which spied on you as you moved around the
2037 web and then added your online activities to your public timeline, allowing
2038 your friends to monitor your browsing habits. Beacon sparked a user
2039 revolt. Every time, Facebook backed off from its surveillance initiative,
2040 but not all the way; inevitably, the new Facebook would be more surveilling
2041 than the old Facebook, though not quite as surveilling as the intermediate
2042 Facebook following the launch of the new product or service.
2043   </p><p>
2044     Hvor raskt Facebook økte sin overvåkningsinnsats ser ut til å ha vært styrt
2045 av det konkurransemessige landskapet til Facebook. Jo flere konkurrenter
2046 Facebook hadde, jo bedre oppførte de seg. Hver gang en stor konkurrent brøt
2047 sammen, så ble oppførselen til Facebook <a class="ulink" href="https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3247362" target="_top">markant
2048 verre</a>.
2049   </p><p>
2050     Samtidig kjøpte Facebook enormt mange selskaper, inkludert et selskap som
2051 heter Onavo. I utgangspunktet laget Onavo en batteriovervåkingsapp. Men
2052 tillatelsene som Onavo krevde var så omfattende at appen var i stand til å
2053 samle inn finkornet telemetri på alt brukerne gjorde med telefonene sine,
2054 inkludert hvilke apper de brukte og hvordan de brukte dem.
2055   </p><p>
2056     Ved hjelp av Onavo oppdaget Facebook at de mistet markedsandeler til
2057 Snapchat, en app som – som Facebook et tiår tidligere – presenterte seg selv
2058 som pro-personvernalternativet til status quo. Ved hjelp av Onavo kunne
2059 Facebook hente ut data fra enhetene til Snapchat-brukere, inkludert både
2060 nåværende og tidligere Snapchat-brukere. Dette ansporet Facebook til å kjøpe
2061 Instagram - som hadde noen egenskaper som konkurrerte med Snapchat - og som
2062 deretter tillot Facebook å finjustere Instagrams funksjoner og salgspitch
2063 for å fjerne Snapchats fordeler og sikre at Facebook ikke måtte møte den
2064 typen konkurransepress det tidligere hadde påført Myspace og Orkut.
2065   </p><p>
2066     Historien om hvordan Facebook knuste Snapchat avslører forholdet mellom
2067 monopol og overvåkingskapitalisme. Facebook kombinerte overvåking med slapp
2068 antitrust-håndhevelse for å oppdage den kommende konkurransemessige
2069 trusselen fra Snapchat og deretter ta avgjørende tiltak mot den. Facebooks
2070 overvåkingskapitalisme lar den avverge konkurransepress med
2071 konkurransehemmende taktikker. Facebook-brukere vil fortsatt ha personvern –
2072 Facebook har ikke brukt overvåking til å hjernevaske dem ut av det – men de
2073 kan ikke få det fordi Facebooks overvåkning lar Facebook ødelegge ethvert
2074 håp om at en rivaliserende tjeneste dukker opp som konkurrerer på
2075 personvernfunksjoner.
2076   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="a-monopoly-over-your-friends"></a>Et monopol over vennene dine</h2></div></div></div><p>
2077     En desentraliseringsbevegelse har forsøkt å fjerne dominansen til Facebook
2078 og andre Storteknologi-selskaper ved å lage og fremme
2079 <span class="quote">«<span class="quote">indieweb</span>»</span>-alternativer — Mastodon som et Twitter-alternativ,
2080 Diaspora som et Facebook-alternativ, og så videre — men disse forsøkene har
2081 på ingen måte tatt av.
2082   </p><p>
2083     I bunn og grunn er hver av disse tjenestene hemmet av det samme problemet:
2084 Hver potensiell bruker av et Facebook- eller Twitteralternativ må overbevise
2085 alle sine venner til å følge dem til en desentralisert Internettalternativ
2086 for å fortsatt ha glede av fordelene med sosiale medier. For mange av oss er
2087 den eneste grunnen til å ha en Facebook-konto at vennene våre har
2088 Facebook-kontoer, og grunnen til at de har Facebook-kontoer er at
2089 <span class="emphasis"><em>vi</em></span> har Facebook-kontoer.
2090   </p><p>
2091     Alt dette har konspirert til å gjøre Facebook – og andre dominerende
2092 plattformer – til <span class="quote">«<span class="quote">drapssoner</span>»</span> der investorer ikke vil
2093 finansiere nye deltakere.
2094   </p><p>
2095     Og likevel, alle dagens teknologigiganter dukketopp til tross for den
2096 forankrede fordelen til selskapene som kom før dem. For å forstå hvordan det
2097 skjedde, må du forstå både samvirke og angripende samvirke.
2098   </p><div class="blockquote"><blockquote class="blockquote"><p>
2099       Det vanskelige problemet for vår art er koordinering.
2100     </p></blockquote></div><p>
2101     <span class="quote">«<span class="quote">Interoperability</span>»</span> is the ability of two technologies to work
2102 with one another: Anyone can make an LP that will play on any record player,
2103 anyone can make a filter you can install in your stove’s extractor fan,
2104 anyone can make gasoline for your car, anyone can make a USB phone charger
2105 that fits in your car’s cigarette lighter receptacle, anyone can make a
2106 light bulb that works in your light socket, anyone can make bread that will
2107 toast in your toaster.
2108   </p><p>
2109     Interoperability is often a source of innovation and consumer benefit: Apple
2110 made the first commercially successful PC, but millions of independent
2111 software vendors made interoperable programs that ran on the Apple II
2112 Plus. The simple analog antenna inputs on the back of TVs first allowed
2113 cable operators to connect directly to TVs, then they allowed game console
2114 companies and then personal computer companies to use standard televisions
2115 as displays. Standard RJ-11 telephone jacks allowed for the production of
2116 phones from a variety of vendors in a variety of forms, from the free
2117 football-shaped phone that came with a <span class="emphasis"><em>Sports
2118 Illustrated</em></span> subscription to business phones with speakers, hold
2119 functions, and so on and then answering machines and finally modems, paving
2120 the way for the internet revolution.
2121   </p><p>
2122     <span class="quote">«<span class="quote">Interoperability</span>»</span> is often used interchangeably with
2123 <span class="quote">«<span class="quote">standardization,</span>»</span> which is the process when manufacturers and
2124 other stakeholders hammer out a set of agreed-upon rules for implementing a
2125 technology, such as the electrical plug on your wall, the CAN bus used by
2126 your car’s computer systems, or the HTML instructions that your browser
2127 interprets.
2128   </p><p>
2129     But interoperability doesn’t require standardization — indeed,
2130 standardization often proceeds from the chaos of ad hoc interoperability
2131 measures. The inventor of the cigarette-lighter USB charger didn’t need to
2132 get permission from car manufacturers or even the manufacturers of the
2133 dashboard lighter subcomponent. The automakers didn’t take any
2134 countermeasures to prevent the use of these aftermarket accessories by their
2135 customers, but they also didn’t do anything to make life easier for the
2136 chargers’ manufacturers. This is a kind of <span class="quote">«<span class="quote">neutral
2137 interoperability.</span>»</span>
2138   </p><p>
2139     Beyond neutral interoperability, there is <span class="quote">«<span class="quote">adversarial
2140 interoperability.</span>»</span> That’s when a manufacturer makes a product that
2141 interoperates with another manufacturer’s product <span class="emphasis"><em>despite the
2142 second manufacturer’s objections</em></span> and <span class="emphasis"><em>even if that means
2143 bypassing a security system designed to prevent interoperability</em></span>.
2144   </p><p>
2145     Probably the most familiar form of adversarial interoperability is
2146 third-party printer ink. Printer manufacturers claim that they sell printers
2147 below cost and that the only way they can recoup the losses they incur is by
2148 charging high markups on ink. To prevent the owners of printers from buying
2149 ink elsewhere, the printer companies deploy a suite of anti-customer
2150 security systems that detect and reject both refilled and third-party
2151 cartridges.
2152   </p><p>
2153     Owners of printers take the position that HP and Epson and Brother are not
2154 charities and that customers for their wares have no obligation to help them
2155 survive, and so if the companies choose to sell their products at a loss,
2156 that’s their foolish choice and their consequences to live with. Likewise,
2157 competitors who make ink or refill kits observe that they don’t owe printer
2158 companies anything, and their erosion of printer companies’ margins are the
2159 printer companies’ problems, not their competitors’. After all, the printer
2160 companies shed no tears when they drive a refiller out of business, so why
2161 should the refillers concern themselves with the economic fortunes of the
2162 printer companies?
2163   </p><p>
2164     Adversarial interoperability has played an outsized role in the history of
2165 the tech industry: from the founding of the <span class="quote">«<span class="quote">alt.*</span>»</span> Usenet
2166 hierarchy (which was started against the wishes of Usenet’s maintainers and
2167 which grew to be bigger than all of Usenet combined)  to the browser wars
2168 (when Netscape and Microsoft devoted massive engineering efforts to making
2169 their browsers incompatible with the other’s special commands and
2170 peccadilloes) to Facebook (whose success was built in part by helping its
2171 new users stay in touch with friends they’d left behind on Myspace because
2172 Facebook supplied them with a tool that scraped waiting messages from
2173 Myspace and imported them into Facebook, effectively creating an
2174 Facebook-based Myspace reader).
2175   </p><p>
2176     Today, incumbency is seen as an unassailable advantage. Facebook is where
2177 all of your friends are, so no one can start a Facebook competitor. But
2178 adversarial compatibility reverses the competitive advantage: If you were
2179 allowed to compete with Facebook by providing a tool that imported all your
2180 users’ waiting Facebook messages into an environment that competed on lines
2181 that Facebook couldn’t cross, like eliminating surveillance and ads, then
2182 Facebook would be at a huge disadvantage. It would have assembled all
2183 possible ex-Facebook users into a single, easy-to-find service; it would
2184 have educated them on how a Facebook-like service worked and what its
2185 potential benefits were; and it would have provided an easy means for
2186 disgruntled Facebook users to tell their friends where they might expect
2187 better treatment.
2188   </p><p>
2189     Adversarial interoperability was once the norm and a key contributor to the
2190 dynamic, vibrant tech scene, but now it is stuck behind a thicket of laws
2191 and regulations that add legal risks to the tried-and-true tactics of
2192 adversarial interoperability. New rules and new interpretations of existing
2193 rules mean that a would-be adversarial interoperator needs to steer clear of
2194 claims under copyright, terms of service, trade secrecy, tortious
2195 interference, and patent.
2196   </p><p>
2197     In the absence of a competitive market, lawmakers have resorted to assigning
2198 expensive, state-like duties to Big Tech firms, such as automatically
2199 filtering user contributions for copyright infringement or terrorist and
2200 extremist content or detecting and preventing harassment in real time or
2201 controlling access to sexual material.
2202   </p><p>
2203     These measures put a floor under how small we can make Big Tech because only
2204 the very largest companies can afford the humans and automated filters
2205 needed to perform these duties.
2206   </p><p>
2207     But that’s not the only way in which making platforms responsible for
2208 policing their users undermines competition. A platform that is expected to
2209 police its users’ conduct must prevent many vital adversarial
2210 interoperability techniques lest these subvert its policing measures. For
2211 example, if someone using a Twitter replacement like Mastodon is able to
2212 push messages into Twitter and read messages out of Twitter, they could
2213 avoid being caught by automated systems that detect and prevent harassment
2214 (such as systems that use the timing of messages or IP-based rules to make
2215 guesses about whether someone is a harasser).
2216   </p><p>
2217     To the extent that we are willing to let Big Tech police itself — rather
2218 than making Big Tech small enough that users can leave bad platforms for
2219 better ones and small enough that a regulation that simply puts a platform
2220 out of business will not destroy billions of users’ access to their
2221 communities and data — we build the case that Big Tech should be able to
2222 block its competitors and make it easier for Big Tech to demand legal
2223 enforcement tools to ban and punish attempts at adversarial
2224 interoperability.
2225   </p><p>
2226     Ultimately, we can try to fix Big Tech by making it responsible for bad acts
2227 by its users, or we can try to fix the internet by cutting Big Tech down to
2228 size. But we can’t do both. To replace today’s giant products with
2229 pluralistic protocols, we need to clear the legal thicket that prevents
2230 adversarial interoperability so that tomorrow’s nimble, personal,
2231 small-scale products can federate themselves with giants like Facebook,
2232 allowing the users who’ve left to continue to communicate with users who
2233 haven’t left yet, reaching tendrils over Facebook’s garden wall that
2234 Facebook’s trapped users can use to scale the walls and escape to the
2235 global, open web.
2236   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="fake-news-is-an-epistemological-crisis"></a>Fake news is an epistemological crisis</h2></div></div></div><p>
2237     Tech is not the only industry that has undergone massive concentration since
2238 the Reagan era. Virtually every major industry — from oil to newspapers to
2239 meatpacking to sea freight to eyewear to online pornography — has become a
2240 clubby oligarchy that just a few players dominate.
2241   </p><p>
2242     At the same time, every industry has become something of a tech industry as
2243 general-purpose computers and general-purpose networks and the promise of
2244 efficiencies through data-driven analysis infuse every device, process, and
2245 firm with tech.
2246   </p><p>
2247     This phenomenon of industrial concentration is part of a wider story about
2248 wealth concentration overall as a smaller and smaller number of people own
2249 more and more of our world. This concentration of both wealth and industries
2250 means that our political outcomes are increasingly beholden to the parochial
2251 interests of the people and companies with all the money.
2252   </p><p>
2253     That means that whenever a regulator asks a question with an obvious,
2254 empirical answer (<span class="quote">«<span class="quote">Are humans causing climate change?</span>»</span> or
2255 <span class="quote">«<span class="quote">Should we let companies conduct commercial mass surveillance?</span>»</span>
2256 or <span class="quote">«<span class="quote">Does society benefit from allowing network neutrality
2257 violations?</span>»</span>), the answer that comes out is only correct if that
2258 correctness meets with the approval of rich people and the industries that
2259 made them so wealthy.
2260   </p><p>
2261     Rich people have always played an outsized role in politics and more so
2262 since the Supreme Court’s <span class="emphasis"><em>Citizens United</em></span> decision
2263 eliminated key controls over political spending. Widening inequality and
2264 wealth concentration means that the very richest people are now a lot richer
2265 and can afford to spend a lot more money on political projects than ever
2266 before. Think of the Koch brothers or George Soros or Bill Gates.
2267   </p><p>
2268     But the policy distortions of rich individuals pale in comparison to the
2269 policy distortions that concentrated industries are capable of.  The
2270 companies in highly concentrated industries are much more profitable than
2271 companies in competitive industries — no competition means not having to
2272 reduce prices or improve quality to win customers — leaving them with bigger
2273 capital surpluses to spend on lobbying.
2274   </p><p>
2275     Concentrated industries also find it easier to collaborate on policy
2276 objectives than competitive ones. When all the top execs from your industry
2277 can fit around a single boardroom table, they often do. And
2278 <span class="emphasis"><em>when</em></span> they do, they can forge a consensus position on
2279 regulation.
2280   </p><p>
2281     Rising through the ranks in a concentrated industry generally means working
2282 at two or three of the big companies. When there are only relatively few
2283 companies in a given industry, each company has a more ossified executive
2284 rank, leaving ambitious execs with fewer paths to higher positions unless
2285 they are recruited to a rival. This means that the top execs in concentrated
2286 industries are likely to have been colleagues at some point and socialize in
2287 the same circles — connected through social ties or, say, serving as
2288 trustees for each others’ estates. These tight social bonds foster a
2289 collegial, rather than competitive, attitude.
2290   </p><p>
2291     Highly concentrated industries also present a regulatory conundrum.  When an
2292 industry is dominated by just four or five companies, the only people who
2293 are likely to truly understand the industry’s practices are its veteran
2294 executives. This means that top regulators are often former execs of the
2295 companies they are supposed to be regulating. These turns in government are
2296 often tacitly understood to be leaves of absence from industry, with former
2297 employers welcoming their erstwhile watchdogs back into their executive
2298 ranks once their terms have expired.
2299   </p><p>
2300     All this is to say that the tight social bonds, small number of firms, and
2301 regulatory capture of concentrated industries give the companies that
2302 comprise them the power to dictate many, if not all, of the regulations that
2303 bind them.
2304   </p><p>
2305     This is increasingly obvious. Whether it’s payday lenders <a class="ulink" href="https://www.washingtonpost.com/business/2019/02/25/how-payday-lending-industry-insider-tilted-academic-research-its-favor/" target="_top">winning
2306 the right to practice predatory lending</a> or Apple <a class="ulink" href="https://www.vice.com/en_us/article/mgxayp/source-apple-will-fight-right-to-repair-legislation" target="_top">winning
2307 the right to decide who can fix your phone</a> or Google and Facebook
2308 winning the right to breach your private data without suffering meaningful
2309 consequences or victories for pipeline companies or impunity for opioid
2310 manufacturers or massive tax subsidies for incredibly profitable dominant
2311 businesses, it’s increasingly apparent that many of our official,
2312 evidence-based truth-seeking processes are, in fact, auctions for sale to
2313 the highest bidder.
2314   </p><p>
2315     It’s really impossible to overstate what a terrifying prospect this is. We
2316 live in an incredibly high-tech society, and none of us could acquire the
2317 expertise to evaluate every technological proposition that stands between us
2318 and our untimely, horrible deaths. You might devote your life to acquiring
2319 the media literacy to distinguish good scientific journals from corrupt
2320 pay-for-play lookalikes and the statistical literacy to evaluate the quality
2321 of the analysis in the journals as well as the microbiology and epidemiology
2322 knowledge to determine whether you can trust claims about the safety of
2323 vaccines — but that would still leave you unqualified to judge whether the
2324 wiring in your home will give you a lethal shock <span class="emphasis"><em>and</em></span>
2325 whether your car’s brakes’ software will cause them to fail unpredictably
2326 <span class="emphasis"><em>and</em></span> whether the hygiene standards at your butcher are
2327 sufficient to keep you from dying after you finish your dinner.
2328   </p><p>
2329     In a world as complex as this one, we have to defer to authorities, and we
2330 keep them honest by making those authorities accountable to us and binding
2331 them with rules to prevent conflicts of interest. We can’t possibly acquire
2332 the expertise to adjudicate conflicting claims about the best way to make
2333 the world safe and prosperous, but we <span class="emphasis"><em>can</em></span> determine
2334 whether the adjudication process itself is trustworthy.
2335   </p><p>
2336     Right now, it’s obviously not.
2337   </p><p>
2338     The past 40 years of rising inequality and industry concentration, together
2339 with increasingly weak accountability and transparency for expert agencies,
2340 has created an increasingly urgent sense of impending doom, the sense that
2341 there are vast conspiracies afoot that operate with tacit official approval
2342 despite the likelihood they are working to better themselves by ruining the
2343 rest of us.
2344   </p><p>
2345     For example, it’s been decades since Exxon’s own scientists concluded that
2346 its products would render the Earth uninhabitable by humans. And yet those
2347 decades were lost to us, in large part because Exxon lobbied governments and
2348 sowed doubt about the dangers of its products and did so with the
2349 cooperation of many public officials.  When the survival of you and everyone
2350 you love is threatened by conspiracies, it’s not unreasonable to start
2351 questioning the things you think you know in an attempt to determine whether
2352 they, too, are the outcome of another conspiracy.
2353   </p><p>
2354     The collapse of the credibility of our systems for divining and upholding
2355 truths has left us in a state of epistemological chaos.  Once, most of us
2356 might have assumed that the system was working and that our regulations
2357 reflected our best understanding of the empirical truths of the world as
2358 they were best understood — now we have to find our own experts to help us
2359 sort the true from the false.
2360   </p><p>
2361     If you’re like me, you probably believe that vaccines are safe, but you
2362 (like me) probably also can’t explain the microbiology or statistics. Few of
2363 us have the math skills to review the literature on vaccine safety and
2364 describe why their statistical reasoning is sound. Likewise, few of us can
2365 review the stats in the (now discredited) literature on opioid safety and
2366 explain how those stats were manipulated. Both vaccines and opioids were
2367 embraced by medical authorities, after all, and one is safe while the other
2368 could ruin your life. You’re left with a kind of inchoate constellation of
2369 rules of thumb about which experts you trust to fact-check controversial
2370 claims and then to explain how all those respectable doctors with their
2371 peer-reviewed research on opioid safety <span class="emphasis"><em>were</em></span> an
2372 aberration and then how you know that the doctors writing about vaccine
2373 safety are <span class="emphasis"><em>not</em></span> an aberration.
2374   </p><p>
2375     I’m 100% certain that vaccinating is safe and effective, but I’m also at
2376 something of a loss to explain exactly, <span class="emphasis"><em>precisely,</em></span> why
2377 I believe this, given all the corruption I know about and the many times the
2378 stamp of certainty has turned out to be a parochial lie told to further
2379 enrich the super rich.
2380   </p><p>
2381     Fake news — conspiracy theories, racist ideologies, scientific denialism —
2382 has always been with us. What’s changed today is not the mix of ideas in the
2383 public discourse but the popularity of the worst ideas in that
2384 mix. Conspiracy and denial have skyrocketed in lockstep with the growth of
2385 Big Inequality, which has also tracked the rise of Big Tech and Big Pharma
2386 and Big Wrestling and Big Car and Big Movie Theater and Big Everything Else.
2387   </p><p>
2388     No one can say for certain why this has happened, but the two dominant camps
2389 are idealism (the belief that the people who argue for these conspiracies
2390 have gotten better at explaining them, maybe with the help of
2391 machine-learning tools) or materialism (the ideas have become more
2392 attractive because of material conditions in the world).
2393   </p><p>
2394     I’m a materialist. I’ve been exposed to the arguments of conspiracy
2395 theorists all my life, and I have not experienced any qualitative leap in
2396 the quality of those arguments.
2397   </p><p>
2398     The major difference is in the world, not the arguments. In a time where
2399 actual conspiracies are commonplace, conspiracy theories acquire a ring of
2400 plausibility.
2401   </p><p>
2402     We have always had disagreements about what’s true, but today, we have a
2403 disagreement over how we know whether something is true. This is an
2404 epistemological crisis, not a crisis over belief. It’s a crisis over the
2405 credibility of our truth-seeking exercises, from scientific journals (in an
2406 era where the biggest journal publishers have been caught producing
2407 pay-to-play journals for junk science) to regulations (in an era where
2408 regulators are routinely cycling in and out of business) to education (in an
2409 era where universities are dependent on corporate donations to keep their
2410 lights on).
2411   </p><p>
2412     Targeting — surveillance capitalism — makes it easier to find people who are
2413 undergoing this epistemological crisis, but it doesn’t create the
2414 crisis. For that, you need to look to corruption.
2415   </p><p>
2416     And, conveniently enough, it’s corruption that allows surveillance
2417 capitalism to grow by dismantling monopoly protections, by permitting
2418 reckless collection and retention of personal data, by allowing ads to be
2419 targeted in secret, and by foreclosing on the possibility of going somewhere
2420 else where you might continue to enjoy your friends without subjecting
2421 yourself to commercial surveillance.
2422   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="tech-is-different"></a>Teknologi er annerledes</h2></div></div></div><p>
2423     I reject both iterations of technological exceptionalism. I reject the idea
2424 that tech is uniquely terrible and led by people who are greedier or worse
2425 than the leaders of other industries, and I reject the idea that tech is so
2426 good — or so intrinsically prone to concentration — that it can’t be blamed
2427 for its present-day monopolistic status.
2428   </p><p>
2429     I think tech is just another industry, albeit one that grew up in the
2430 absence of real monopoly constraints. It may have been first, but it isn’t
2431 the worst nor will it be the last.
2432   </p><p>
2433     But there’s one way in which I <span class="emphasis"><em>am</em></span> a tech
2434 exceptionalist. I believe that online tools are the key to overcoming
2435 problems that are much more urgent than tech monopolization: climate change,
2436 inequality, misogyny, and discrimination on the basis of race, gender
2437 identity, and other factors. The internet is how we will recruit people to
2438 fight those fights, and how we will coordinate their labor. Tech is not a
2439 substitute for democratic accountability, the rule of law, fairness, or
2440 stability — but it’s a means to achieve these things.
2441   </p><p>
2442     The hard problem of our species is coordination. Everything from climate
2443 change to social change to running a business to making a family work can be
2444 viewed as a collective action problem.
2445   </p><p>
2446     The internet makes it easier than at any time before to find people who want
2447 to work on a project with you — hence the success of free and open-source
2448 software, crowdfunding, and racist terror groups — and easier than ever to
2449 coordinate the work you do.
2450   </p><p>
2451     The internet and the computers we connect to it also possess an exceptional
2452 quality: general-purposeness. The internet is designed to allow any two
2453 parties to communicate any data, using any protocol, without permission from
2454 anyone else. The only production design we have for computers is the
2455 general-purpose, <span class="quote">«<span class="quote">Turing complete</span>»</span> computer that can run every
2456 program we can express in symbolic logic.
2457   </p><p>
2458     This means that every time someone with a special communications need
2459 invests in infrastructure and techniques to make the internet faster,
2460 cheaper, and more robust, this benefit redounds to everyone else who is
2461 using the internet to communicate. And this also means that every time
2462 someone with a special computing need invests to make computers faster,
2463 cheaper, and more robust, every other computing application is a potential
2464 beneficiary of this work.
2465   </p><p>
2466     På grunn av dette, vil enhver form for kommunikasjon gradvis absorberes inn
2467 i Internett, og enhver type dings — fra fly til pacemakere — på sikt bli en
2468 datamaskin i en stilig boks.
2469   </p><p>
2470     While these considerations don’t preclude regulating networks and computers,
2471 they do call for gravitas and caution when doing so because changes to
2472 regulatory frameworks could ripple out to have unintended consequences in
2473 many, many other domains.
2474   </p><p>
2475     The upshot of this is that our best hope of solving the big coordination
2476 problems — climate change, inequality, etc. — is with free, fair, and open
2477 tech. Our best hope of keeping tech free, fair, and open is to exercise
2478 caution in how we regulate tech and to attend closely to the ways in which
2479 interventions to solve one problem might create problems in other domains.
2480   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="ownership-of-facts"></a>Eierskap til fakta</h2></div></div></div><p>
2481     Big Tech has a funny relationship with information. When you’re generating
2482 information — anything from the location data streaming off your mobile
2483 device to the private messages you send to friends on a social network — it
2484 claims the rights to make unlimited use of that data.
2485   </p><p>
2486     But when you have the audacity to turn the tables — to use a tool that
2487 blocks ads or slurps your waiting updates out of a social network and puts
2488 them in another app that lets you set your own priorities and suggestions or
2489 crawls their system to allow you to start a rival business — they claim that
2490 you’re stealing from them.
2491   </p><p>
2492     The thing is, information is a very bad fit for any kind of private property
2493 regime. Property rights are useful for establishing markets that can lead to
2494 the effective development of fallow assets. These markets depend on clear
2495 titles to ensure that the things being bought and sold in them can, in fact,
2496 be bought and sold.
2497   </p><p>
2498     Information rarely has such a clear title. Take phone numbers: There’s
2499 clearly something going wrong when Facebook slurps up millions of users’
2500 address books and uses the phone numbers it finds in them to plot out social
2501 graphs and fill in missing information about other users.
2502   </p><p>
2503     But the phone numbers Facebook nonconsensually acquires in this transaction
2504 are not the <span class="quote">«<span class="quote">property</span>»</span> of the users they’re taken from nor do
2505 they belong to the people whose phones ring when you dial those numbers. The
2506 numbers are mere integers, 10 digits in the U.S.  and Canada, and they
2507 appear in millions of places, including somewhere deep in pi as well as
2508 numerous other contexts. Giving people ownership titles to integers is an
2509 obviously terrible idea.
2510   </p><p>
2511     Likewise for the facts that Facebook and other commercial surveillance
2512 operators acquire about us, like that we are the children of our parents or
2513 the parents to our children or that we had a conversation with someone else
2514 or went to a public place.  These data points can’t be property in the sense
2515 that your house or your shirt is your property because the title to them is
2516 intrinsically muddy: Does your mom own the fact that she is your mother? Do
2517 you? Do both of you? What about your dad — does he own this fact too, or
2518 does he have to license the fact from you (or your mom or both of you) in
2519 order to use this fact? What about the hundreds or thousands of other people
2520 who know these facts?
2521   </p><p>
2522     If you go to a Black Lives Matter demonstration, do the other demonstrators
2523 need your permission to post their photos from the event? The online fights
2524 over <a class="ulink" href="https://www.wired.com/story/how-to-take-photos-at-protests/" target="_top">when and
2525 how to post photos from demonstrations</a> reveal a nuanced, complex
2526 issue that cannot be easily hand-waved away by giving one party a property
2527 right that everyone else in the mix has to respect.
2528   </p><p>
2529     The fact that information isn’t a good fit with property and markets doesn’t
2530 mean that it’s not valuable. Babies aren’t property, but they’re inarguably
2531 valuable. In fact, we have a whole set of rules just for babies as well as a
2532 subset of those rules that apply to humans more generally. Someone who
2533 argues that babies won’t be truly valuable until they can be bought and sold
2534 like loaves of bread would be instantly and rightfully condemned as a
2535 monster.
2536   </p><p>
2537     It’s tempting to reach for the property hammer when Big Tech treats your
2538 information like a nail — not least because Big Tech are such prolific
2539 abusers of property hammers when it comes to <span class="emphasis"><em>their</em></span>
2540 information. But this is a mistake. If we allow markets to dictate the use
2541 of our information, then we’ll find that we’re sellers in a buyers’ market
2542 where the Big Tech monopolies set a price for our data that is so low as to
2543 be insignificant or, more likely, set at a nonnegotiable price of zero in a
2544 click-through agreement that you don’t have the opportunity to modify.
2545   </p><p>
2546     Meanwhile, establishing property rights over information will create
2547 insurmountable barriers to independent data processing. Imagine that we
2548 require a license to be negotiated when a translated document is compared
2549 with its original, something Google has done and continues to do billions of
2550 times to train its automated language translation tools. Google can afford
2551 this, but independent third parties cannot.  Google can staff a clearances
2552 department to negotiate one-time payments to the likes of the EU (one of the
2553 major repositories of translated documents) while independent watchdogs
2554 wanting to verify that the translations are well-prepared, or to root out
2555 bias in translations, will find themselves needing a staffed-up legal
2556 department and millions for licenses before they can even get started.
2557   </p><p>
2558     The same goes for things like search indexes of the web or photos of
2559 peoples’ houses, which have become contentious thanks to Google’s Street
2560 View project. Whatever problems may exist with Google’s photographing of
2561 street scenes, resolving them by letting people decide who can take pictures
2562 of the facades of their homes from a public street will surely create even
2563 worse ones. Think of how street photography is important for newsgathering —
2564 including informal newsgathering, like photographing abuses of authority —
2565 and how being able to document housing and street life are important for
2566 contesting eminent domain, advocating for social aid, reporting planning and
2567 zoning violations, documenting discriminatory and unequal living conditions,
2568 and more.
2569   </p><p>
2570     The ownership of facts is antithetical to many kinds of human progress. It’s
2571 hard to imagine a rule that limits Big Tech’s exploitation of our collective
2572 labors without inadvertently banning people from gathering data on online
2573 harassment or compiling indexes of changes in language or simply
2574 investigating how the platforms are shaping our discourse — all of which
2575 require scraping data that other people have created and subjecting it to
2576 scrutiny and analysis.
2577   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="persuasion-works-slowly"></a>Overtalelse virker… sakte</h2></div></div></div><p>
2578     The platforms may oversell their ability to persuade people, but obviously,
2579 persuasion works sometimes. Whether it’s the private realm that LGBTQ people
2580 used to recruit allies and normalize sexual diversity or the decadeslong
2581 project to convince people that markets are the only efficient way to solve
2582 complicated resource allocation problems, it’s clear that our societal
2583 attitudes <span class="emphasis"><em>can</em></span> change.
2584   </p><p>
2585     The project of shifting societal attitudes is a game of inches and
2586 years. For centuries, svengalis have purported to be able to accelerate this
2587 process, but even the most brutal forms of propaganda have struggled to make
2588 permanent changes. Joseph Goebbels was able to subject Germans to daily,
2589 mandatory, hourslong radio broadcasts, to round up and torture and murder
2590 dissidents, and to seize full control over their children’s education while
2591 banning any literature, broadcasts, or films that did not comport with his
2592 worldview.
2593   </p><p>
2594     Yet, after 12 years of terror, once the war ended, Nazi ideology was largely
2595 discredited in both East and West Germany, and a program of national truth
2596 and reconciliation was put in its place. Racism and authoritarianism were
2597 never fully abolished in Germany, but neither were the majority of Germans
2598 irrevocably convinced of Nazism — and the rise of racist authoritarianism in
2599 Germany today tells us that the liberal attitudes that replaced Nazism were
2600 no more permanent than Nazism itself.
2601   </p><p>
2602     Racism and authoritarianism have also always been with us. Anyone who’s
2603 reviewed the kind of messages and arguments that racists put forward today
2604 would be hard-pressed to say that they have gotten better at presenting
2605 their ideas. The same pseudoscience, appeals to fear, and circular logic
2606 that racists presented in the 1980s, when the cause of white supremacy was
2607 on the wane, are to be found in the communications of leading white
2608 nationalists today.
2609   </p><p>
2610     If racists haven’t gotten more convincing in the past decade, then how is it
2611 that more people were convinced to be openly racist at that time? I believe
2612 that the answer lies in the material world, not the world of ideas. The
2613 ideas haven’t gotten more convincing, but people have become more
2614 afraid. Afraid that the state can’t be trusted to act as an honest broker in
2615 life-or-death decisions, from those regarding the management of the economy
2616 to the regulation of painkillers to the rules for handling private
2617 information. Afraid that the world has become a game of musical chairs in
2618 which the chairs are being taken away at a never-before-seen rate. Afraid
2619 that justice for others will come at their expense. Monopolism isn’t the
2620 cause of these fears, but the inequality and material desperation and policy
2621 malpractice that monopolism contributes to is a significant contributor to
2622 these conditions. Inequality creates the conditions for both conspiracies
2623 and violent racist ideologies, and then surveillance capitalism lets
2624 opportunists target the fearful and the conspiracy-minded.
2625   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="paying-wont-help"></a>Det hjelper ikke å betale</h2></div></div></div><p>
2626     As the old saw goes, <span class="quote">«<span class="quote">If you’re not paying for the product, you’re the
2627 product.</span>»</span>
2628   </p><p>
2629     It’s a commonplace belief today that the advent of free, ad-supported media
2630 was the original sin of surveillance capitalism.  The reasoning is that the
2631 companies that charged for access couldn’t <span class="quote">«<span class="quote">compete with free</span>»</span>
2632 and so they were driven out of business. Their ad-supported competitors,
2633 meanwhile, declared open season on their users’ data in a bid to improve
2634 their ad targeting and make more money and then resorted to the most
2635 sensationalist tactics to generate clicks on those ads. If only we’d pay for
2636 media again, we’d have a better, more responsible, more sober discourse that
2637 would be better for democracy.
2638   </p><p>
2639     But the degradation of news products long precedes the advent of
2640 ad-supported online news. Long before newspapers were online, lax antitrust
2641 enforcement had opened the door for unprecedented waves of consolidation and
2642 roll-ups in newsrooms. Rival newspapers were merged, reporters and ad sales
2643 staff were laid off, physical plants were sold and leased back, leaving the
2644 companies loaded up with debt through leveraged buyouts and subsequent
2645 profit-taking by the new owners. In other words, it wasn’t merely shifts in
2646 the classified advertising market, which was long held to be the primary
2647 driver in the decline of the traditional newsroom, that made news companies
2648 unable to adapt to the internet — it was monopolism.
2649   </p><p>
2650     Then, as news companies <span class="emphasis"><em>did</em></span> come online, the ad
2651 revenues they commanded dropped even as the number of internet users (and
2652 thus potential online readers) increased. That shift was a function of
2653 consolidation in the ad sales market, with Google and Facebook emerging as
2654 duopolists who made more money every year from advertising while paying less
2655 and less of it to the publishers whose work the ads appeared
2656 alongside. Monopolism created a buyer’s market for ad inventory with
2657 Facebook and Google acting as gatekeepers.
2658   </p><p>
2659     Paid services continue to exist alongside free ones, and often it is these
2660 paid services — anxious to prevent people from bypassing their paywalls or
2661 sharing paid media with freeloaders — that exert the most control over their
2662 customers. Apple’s iTunes and App Stores are paid services, but to maximize
2663 their profitability, Apple has to lock its platforms so that third parties
2664 can’t make compatible software without permission. These locks allow the
2665 company to exercise both editorial control (enabling it to exclude <a class="ulink" href="https://ncac.org/news/blog/does-apples-strict-app-store-content-policy-limit-freedom-of-expression" target="_top">controversial
2666 political material</a>) and technological control, including control
2667 over who can repair the devices it makes. If we’re worried that ad-supported
2668 products deprive people of their right to self-determination by using
2669 persuasion techniques to nudge their purchase decisions a few degrees in one
2670 direction or the other, then the near-total control a single company holds
2671 over the decision of who gets to sell you software, parts, and service for
2672 your iPhone should have us very worried indeed.
2673   </p><p>
2674     We shouldn’t just be concerned about payment and control: The idea that
2675 paying will improve discourse is also dangerously wrong. The poor success
2676 rate of targeted advertising means that the platforms have to incentivize
2677 you to <span class="quote">«<span class="quote">engage</span>»</span> with posts at extremely high levels to generate
2678 enough pageviews to safeguard their profits. As discussed earlier, to
2679 increase engagement, platforms like Facebook use machine learning to guess
2680 which messages will be most inflammatory and make a point of shoving those
2681 into your eyeballs at every turn so that you will hate-click and argue with
2682 people.
2683   </p><p>
2684     Perhaps paying would fix this, the reasoning goes. If platforms could be
2685 economically viable even if you stopped clicking on them once your
2686 intellectual and social curiosity had been slaked, then they would have no
2687 reason to algorithmically enrage you to get more clicks out of you, right?
2688   </p><p>
2689     There may be something to that argument, but it still ignores the wider
2690 economic and political context of the platforms and the world that allowed
2691 them to grow so dominant.
2692   </p><p>
2693     Platforms are world-spanning and all-encompassing because they are
2694 monopolies, and they are monopolies because we have gutted our most
2695 important and reliable anti-monopoly rules. Antitrust was neutered as a key
2696 part of the project to make the wealthy wealthier, and that project has
2697 worked. The vast majority of people on Earth have a negative net worth, and
2698 even the dwindling middle class is in a precarious state, undersaved for
2699 retirement, underinsured for medical disasters, and undersecured against
2700 climate and technology shocks.
2701   </p><p>
2702     In this wildly unequal world, paying doesn’t improve the discourse; it
2703 simply prices discourse out of the range of the majority of people. Paying
2704 for the product is dandy, if you can afford it.
2705   </p><p>
2706     If you think today’s filter bubbles are a problem for our discourse, imagine
2707 what they’d be like if rich people inhabited free-flowing Athenian
2708 marketplaces of ideas where you have to pay for admission while everyone
2709 else lives in online spaces that are subsidized by wealthy benefactors who
2710 relish the chance to establish conversational spaces where the <span class="quote">«<span class="quote">house
2711 rules</span>»</span> forbid questioning the status quo. That is, imagine if the
2712 rich seceded from Facebook, and then, instead of running ads that made money
2713 for shareholders, Facebook became a billionaire’s vanity project that also
2714 happened to ensure that nobody talked about whether it was fair that only
2715 billionaires could afford to hang out in the rarified corners of the
2716 internet.
2717   </p><p>
2718     Behind the idea of paying for access is a belief that free markets will
2719 address Big Tech’s dysfunction. After all, to the extent that people have a
2720 view of surveillance at all, it is generally an unfavorable one, and the
2721 longer and more thoroughly one is surveilled, the less one tends to like
2722 it. Same goes for lock-in: If HP’s ink or Apple’s App Store were really
2723 obviously fantastic, they wouldn’t need technical measures to prevent users
2724 from choosing a rival’s product. The only reason these technical
2725 countermeasures exist is that the companies don’t believe their customers
2726 would <span class="emphasis"><em>voluntarily</em></span> submit to their terms, and they want
2727 to deprive them of the choice to take their business elsewhere.
2728   </p><p>
2729     Advocates for markets laud their ability to aggregate the diffused knowledge
2730 of buyers and sellers across a whole society through demand signals, price
2731 signals, and so on. The argument for surveillance capitalism being a
2732 <span class="quote">«<span class="quote">rogue capitalism</span>»</span> is that machine-learning-driven persuasion
2733 techniques distort decision-making by consumers, leading to incorrect
2734 signals — consumers don’t buy what they prefer, they buy what they’re
2735 tricked into preferring. It follows that the monopolistic practices of
2736 lock-in, which do far more to constrain consumers’ free choices, are even
2737 more of a <span class="quote">«<span class="quote">rogue capitalism.</span>»</span>
2738   </p><p>
2739     The profitability of any business is constrained by the possibility that its
2740 customers will take their business elsewhere. Both surveillance and lock-in
2741 are anti-features that no customer wants.  But monopolies can capture their
2742 regulators, crush their competitors, insert themselves into their customers’
2743 lives, and corral people into <span class="quote">«<span class="quote">choosing</span>»</span> their services
2744 regardless of whether they want them — it’s fine to be terrible when there
2745 is no alternative.
2746   </p><p>
2747     Ultimately, surveillance and lock-in are both simply business strategies
2748 that monopolists can choose. Surveillance companies like Google are
2749 perfectly capable of deploying lock-in technologies — just look at the
2750 onerous Android licensing terms that require device-makers to bundle in
2751 Google’s suite of applications. And lock-in companies like Apple are
2752 perfectly capable of subjecting their users to surveillance if it means
2753 keeping the Chinese government happy and preserving ongoing access to
2754 Chinese markets.  Monopolies may be made up of good, ethical people, but as
2755 institutions, they are not your friend — they will do whatever they can get
2756 away with to maximize their profits, and the more monopolistic they are, the
2757 more they <span class="emphasis"><em>can</em></span> get away with.
2758   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="an-ecology-moment-for-trustbusting"></a>An <span class="quote">«<span class="quote">ecology</span>»</span> moment for trustbusting</h2></div></div></div><p>
2759     Hvis vi skal bryte Storteknologiens dødsgrep på våre digitale liv, så må vi
2760 bekjempe monopoler. Det høres kanskje ganske dagligdags og gammelmodig ut,
2761 noe , som noe fra New Deal-æraen, mens det å få slutt på bruken av
2762 automatisert atferdsendring oppleves som plottlinjen til en veldig stilig
2763 cyberpunk-roman.
2764   </p><p>
2765     Meanwhile, breaking up monopolies is something we seem to have forgotten how
2766 to do. There is a bipartisan, trans-Atlantic consensus that breaking up
2767 companies is a fool’s errand at best — liable to mire your federal
2768 prosecutors in decades of litigation — and counterproductive at worst,
2769 eroding the <span class="quote">«<span class="quote">consumer benefits</span>»</span> of large companies with massive
2770 efficiencies of scale.
2771   </p><p>
2772     But trustbusters once strode the nation, brandishing law books, terrorizing
2773 robber barons, and shattering the illusion of monopolies’ all-powerful grip
2774 on our society. The trustbusting era could not begin until we found the
2775 political will — until the people convinced politicians they’d have their
2776 backs when they went up against the richest, most powerful men in the world.
2777   </p><p>
2778     Klarer vi finne igjen den politiske viljen?
2779   </p><p>
2780     Opphavsrettsforskeren James Boyle har beskrevet hvordan begrepet
2781 <span class="quote">«<span class="quote">økologi</span>»</span> ga et vendepunkt i miljøaktivismen. Før dette
2782 begrepet ble tatt i bruk, så ikke folk som ønsket å ta vare på hvalbestanden
2783 nødvendigvis at de kjempet samme kamp som folk som ønsket å beskytte
2784 ozonlaget, få slutt på ferskvannforurensning, få vekk smog eller sur nedbør.
2785   </p><p>
2786     But the term <span class="quote">«<span class="quote">ecology</span>»</span> welded these disparate causes together
2787 into a single movement, and the members of this movement found solidarity
2788 with one another. The people who cared about smog signed petitions
2789 circulated by the people who wanted to end whaling, and the anti-whalers
2790 marched alongside the people demanding action on acid rain. This uniting
2791 behind a common cause completely changed the dynamics of environmentalism,
2792 setting the stage for today’s climate activism and the sense that preserving
2793 the habitability of the planet Earth is a shared duty among all people.
2794   </p><p>
2795     Jeg tror vi er på randen av en nytt <span class="quote">«<span class="quote"> økologi</span>»</span>-hendelse for
2796 bekjemping av monopoler. Tross alt er ikke teknologi den eneste
2797 sentralstyrte industrien, og det er heller ikke engang den
2798 <span class="emphasis"><em>mest</em></span> sentralstyrte bransjen.
2799   </p><p>
2800     You can find partisans for trustbusting in every sector of the
2801 economy. Everywhere you look, you can find people who’ve been wronged by
2802 monopolists who’ve trashed their finances, their health, their privacy,
2803 their educations, and the lives of people they love.  Those people have the
2804 same cause as the people who want to break up Big Tech and the same
2805 enemies. When most of the world’s wealth is in the hands of a very few, it
2806 follows that nearly every large company will have overlapping shareholders.
2807   </p><p>
2808     That’s the good news: With a little bit of work and a little bit of
2809 coalition building, we have more than enough political will to break up Big
2810 Tech and every other concentrated industry besides. First we take Facebook,
2811 then we take AT&amp;T/WarnerMedia.
2812   </p><p>
2813     Men her er de dårlige nyhetene: Mye av det vi gjør for å temme
2814 Storteknologien <span class="emphasis"><em>i stedet</em></span> for å bryte opp de store
2815 selskapene, vil gjøre det vanskeligere å bryte dem opp senere.
2816   </p><p>
2817     Big Tech’s concentration currently means that their inaction on harassment,
2818 for example, leaves users with an impossible choice: absent themselves from
2819 public discourse by, say, quitting Twitter or endure vile, constant
2820 abuse. Big Tech’s over-collection and over-retention of data results in
2821 horrific identity theft. And their inaction on extremist recruitment means
2822 that white supremacists who livestream their shooting rampages can reach an
2823 audience of billions. The combination of tech concentration and media
2824 concentration means that artists’ incomes are falling even as the revenue
2825 generated by their creations are increasing.
2826   </p><p>
2827     Yet governments confronting all of these problems all inevitably converge on
2828 the same solution: deputize the Big Tech giants to police their users and
2829 render them liable for their users’ bad actions. The drive to force Big Tech
2830 to use automated filters to block everything from copyright infringement to
2831 sex-trafficking to violent extremism means that tech companies will have to
2832 allocate hundreds of millions to run these compliance systems.
2833   </p><p>
2834     These rules — the EU’s new Directive on Copyright, Australia’s new terror
2835 regulation, America’s FOSTA/SESTA sex-trafficking law and more — are not
2836 just death warrants for small, upstart competitors that might challenge Big
2837 Tech’s dominance but who lack the deep pockets of established incumbents to
2838 pay for all these automated systems. Worse still, these rules put a floor
2839 under how small we can hope to make Big Tech.
2840   </p><p>
2841     That’s because any move to break up Big Tech and cut it down to size will
2842 have to cope with the hard limit of not making these companies so small that
2843 they can no longer afford to perform these duties — and it’s
2844 <span class="emphasis"><em>expensive</em></span> to invest in those automated filters and
2845 outsource content moderation. It’s already going to be hard to unwind these
2846 deeply concentrated, chimeric behemoths that have been welded together in
2847 the pursuit of monopoly profits. Doing so while simultaneously finding some
2848 way to fill the regulatory void that will be left behind if these
2849 self-policing rulers were forced to suddenly abdicate will be much, much
2850 harder.
2851   </p><p>
2852     Allowing the platforms to grow to their present size has given them a
2853 dominance that is nearly insurmountable — deputizing them with public duties
2854 to redress the pathologies created by their size makes it virtually
2855 impossible to reduce that size. Lather, rinse, repeat: If the platforms
2856 don’t get smaller, they will get larger, and as they get larger, they will
2857 create more problems, which will give rise to more public duties for the
2858 companies, which will make them bigger still.
2859   </p><p>
2860     We can work to fix the internet by breaking up Big Tech and depriving them
2861 of monopoly profits, or we can work to fix Big Tech by making them spend
2862 their monopoly profits on governance. But we can’t do both. We have to
2863 choose between a vibrant, open internet or a dominated, monopolized internet
2864 commanded by Big Tech giants that we struggle with constantly to get them to
2865 behave themselves.
2866   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="make-big-tech-small-again"></a>Gjør Storteknologien liten igjen</h2></div></div></div><p>
2867     Trustbusting is hard. Breaking big companies into smaller ones is expensive
2868 and time-consuming. So time-consuming that by the time you’re done, the
2869 world has often moved on and rendered years of litigation irrelevant. From
2870 1969 to 1982, the U.S. government pursued an antitrust case against IBM over
2871 its dominance of mainframe computing — but the case collapsed in 1982
2872 because mainframes were being speedily replaced by PCs.
2873   </p><div class="blockquote"><blockquote class="blockquote"><p>
2874       En fremtidig president i USA kunne ganske enkelt be sin justisminister om å
2875 håndheve loven slik den er skrevet.
2876     </p></blockquote></div><p>
2877     It’s far easier to prevent concentration than to fix it, and reinstating the
2878 traditional contours of U.S. antitrust enforcement will, at the very least,
2879 prevent further concentration. That means bans on mergers between large
2880 companies, on big companies acquiring nascent competitors, and on platform
2881 companies competing directly with the companies that rely on the platforms.
2882   </p><p>
2883     These powers are all in the plain language of U.S. antitrust laws, so in
2884 theory, a future U.S. president could simply direct their attorney general
2885 to enforce the law as it was written. But after decades of judicial
2886 <span class="quote">«<span class="quote">education</span>»</span> in the benefits of monopolies, after multiple
2887 administrations that have packed the federal courts with lifetime-appointed
2888 monopoly cheerleaders, it’s not clear that mere administrative action would
2889 do the trick.
2890   </p><p>
2891     If the courts frustrate the Justice Department and the president, the next
2892 stop would be Congress, which could eliminate any doubt about how antitrust
2893 law should be enforced in the U.S. by passing new laws that boil down to
2894 saying, <span class="quote">«<span class="quote">Knock it off. We all know what the Sherman Act says. Robert
2895 Bork was a deranged fantasist. For avoidance of doubt, <span class="emphasis"><em>fuck that
2896 guy</em></span>.</span>»</span> In other words, the problem with monopolies is
2897 <span class="emphasis"><em>monopolism</em></span> — the concentration of power into too few
2898 hands, which erodes our right to self-determination. If there is a monopoly,
2899 the law wants it gone, period. Sure, get rid of monopolies that create
2900 <span class="quote">«<span class="quote">consumer harm</span>»</span> in the form of higher prices, but also,
2901 <span class="emphasis"><em>get rid of other monopolies, too.</em></span>
2902   </p><p>
2903     But this only prevents things from getting worse. To help them get better,
2904 we will have to build coalitions with other activists in the anti-monopoly
2905 ecology movement — a pluralism movement or a self-determination movement —
2906 and target existing monopolies in every industry for breakup and structural
2907 separation rules that prevent, for example, the giant eyewear monopolist
2908 Luxottica from dominating both the sale and the manufacture of spectacles.
2909   </p><p>
2910     In an important sense, it doesn’t matter which industry the breakups begin
2911 in. Once they start, shareholders in <span class="emphasis"><em>every</em></span> industry
2912 will start to eye their investments in monopolists skeptically. As
2913 trustbusters ride into town and start making lives miserable for
2914 monopolists, the debate around every corporate boardroom’s table will
2915 shift. People within corporations who’ve always felt uneasy about monopolism
2916 will gain a powerful new argument to fend off their evil rivals in the
2917 corporate hierarchy: <span class="quote">«<span class="quote">If we do it my way, we make less money; if we do
2918 it your way, a judge will fine us billions and expose us to ridicule and
2919 public disapprobation. So even though I get that it would be really cool to
2920 do that merger, lock out that competitor, or buy that little company and
2921 kill it before it can threaten it, we really shouldn’t — not if we don’t
2922 want to get tied to the DOJ’s bumper and get dragged up and down Trustbuster
2923 Road for the next 10 years.</span>»</span>
2924   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="goto-10"></a>20 GOTO 10</h2></div></div></div><p>
2925     Fixing Big Tech will require a lot of iteration. As cyber lawyer Lawrence
2926 Lessig wrote in his 1999 book, <span class="emphasis"><em>Code and Other Laws of
2927 Cyberspace</em></span>, our lives are regulated by four forces: law (what’s
2928 legal), code (what’s technologically possible), norms (what’s socially
2929 acceptable), and markets (what’s profitable).
2930   </p><p>
2931     Hvis du kunne svinge en tryllestav å få kongressen til å vedta en lov som
2932 vedtok Sherman-loven på nytt i morgen, så kunne du bruke den påfølgende
2933 oppsplittingen til å overbevise risikokapitalister om å finansiere
2934 konkurrentene til Facebook, Google, Twitter og Apple som ville vente i
2935 utkanten etter at disse ble gjort mindre.
2936   </p><p>
2937     Men å få kongressen til å gjøre noe vil kreve en massiv normativ endring, en
2938 massebevegelse av folk som bryr seg om monopoler — og hvordan bryte dem opp.
2939   </p><p>
2940     Getting people to care about monopolies will take technological
2941 interventions that help them to see what a world free from Big Tech might
2942 look like. Imagine if someone could make a beloved (but unauthorized)
2943 third-party Facebook or Twitter client that dampens the anxiety-producing
2944 algorithmic drumbeat and still lets you talk to your friends without being
2945 spied upon — something that made social media more sociable and less
2946 toxic. Now imagine that it gets shut down in a brutal legal battle. It’s
2947 always easier to convince people that something must be done to save a thing
2948 they love than it is to excite them about something that doesn’t even exist
2949 yet.
2950   </p><p>
2951     Neither tech nor law nor code nor markets are sufficient to reform Big
2952 Tech. But a profitable competitor to Big Tech could bankroll a legislative
2953 push; legal reform can embolden a toolsmith to make a better tool; the tool
2954 can create customers for a potential business who value the benefits of the
2955 internet but want them delivered without Big Tech; and that business can get
2956 funded and divert some of its profits to legal reform. 20 GOTO 10 (or
2957 lather, rinse, repeat). Do it again, but this time, get farther! After all,
2958 this time you’re starting with weaker Big Tech adversaries, a constituency
2959 that understands things can be better, Big Tech rivals who’ll help ensure
2960 their own future by bankrolling reform, and code that other programmers can
2961 build on to weaken Big Tech even further.
2962   </p><p>
2963     The surveillance capitalism hypothesis — that Big Tech’s products really
2964 work as well as they say they do and that’s why everything is so screwed up
2965 — is way too easy on surveillance and even easier on capitalism. Companies
2966 spy because they believe their own BS, and companies spy because governments
2967 let them, and companies spy because any advantage from spying is so
2968 short-lived and minor that they have to do more and more of it just to stay
2969 in place.
2970   </p><p>
2971     As to why things are so screwed up? Capitalism. Specifically, the monopolism
2972 that creates inequality and the inequality that creates monopolism. It’s a
2973 form of capitalism that rewards sociopaths who destroy the real economy to
2974 inflate the bottom line, and they get away with it for the same reason
2975 companies get away with spying: because our governments are in thrall to
2976 both the ideology that says monopolies are actually just fine and in thrall
2977 to the ideology that says that in a monopolistic world, you’d better not
2978 piss off the monopolists.
2979   </p><p>
2980     Overvåkning får ikke kapitalismen ut av kontroll. Kapitalismens
2981 ukontrollerte styre startet før overvåkningen. Overvåkning er ikke ille
2982 fordi det lar folk manipulere oss. Den er ille fordi den knuser vår mulighet
2983 til å være vårt sanne jeg — og fordi det lar de rike og mektige finne ut
2984 hvem som kan vurdere å bygge gilliotiner og hvilken dritt de kan bruke for å
2985 diskredittere disse potensielle gilliotin-byggerne før de i det hele tatt
2986 kommer seg til treverkforhandleren.
2987   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="up-and-through"></a>Up and through</h2></div></div></div><p>
2988     Men alle problemene med Storteknologien, så er det fristende å forestille
2989 seg å løse problemet ved å gå tilbake til en verden helt uten teknologi. Stå
2990 imot den fristelsen.
2991   </p><p>
2992     The only way out of our Big Tech problem is up and through. If our future is
2993 not reliant upon high tech, it will be because civilization has fallen. Big
2994 Tech wired together a planetary, species-wide nervous system that, with the
2995 proper reforms and course corrections, is capable of seeing us through the
2996 existential challenge of our species and planet. Now it’s up to us to seize
2997 the means of computation, putting that electronic nervous system under
2998 democratic, accountable control.
2999   </p><p>
3000     Jeg er også, i smug, på tross av det jeg tidligere har sagt, en
3001 teknologieksepsjonalist. Ikke på den måten at jeg tenker at teknologi bør få
3002 lov til å danne monopoler fordi det har <span class="quote">«<span class="quote">stordriftsfordeler</span>»</span>,
3003 eller andre tåkeforklaring. Jeg er teknologieksepsjonalist fordi jeg tror
3004 det betyr noe å gjøre det riktig med teknologi, og at å gjøre det feil vil
3005 være en ubøtelig katastrofe — og det å gjøre det riktig kan gi oss evnen til
3006 å jobbe sammen om å redde sivilisasjonen, arten og planeten vår.
3007   </p></div></div></body></html>