public/how-to-destroy-surveillance-capitalism.nb.html

   1 <html><head><meta http-equiv="Content-Type" content="text/html; charset=UTF-8"><title>Hvordan knuse overvåkningskapitalismen</title><meta name="generator" content="DocBook XSL Stylesheets V1.79.1"><style type="text/css">
   2 body { background-image: url('images/draft.png');
   3        background-repeat: no-repeat;
   4        background-position: top left;
   5        /* The following properties make the watermark "fixed" on the page. */
   6        /* I think that's just a bit too distracting for the reader... */
   7        /* background-attachment: fixed; */
   8        /* background-position: center center; */
   9      }</style></head><body bgcolor="white" text="black" link="#0000FF" vlink="#840084" alink="#0000FF"><div lang="nb" class="book"><div class="titlepage"><div><div><h1 class="title"><a name="index"></a>Hvordan knuse overvåkningskapitalismen</h1></div><div><div class="authorgroup"><div class="author"><h3 class="author"><span class="firstname">Cory</span> <span class="surname">Doctorow</span></h3></div></div></div><div><p class="copyright"> © 2020 Cory Doctorow</p></div><div><p class="copyright"> © 2020 Petter Reinholdtsen</p></div><div><div class="legalnotice"><a name="idm18"></a><p>
  10       Hvordan knuse overvåkningskapitalismen av Cory Doctorow.
  11     </p><p>
  12       Utgitt av Petter Reinholdtsen. Oversatt på dugnad av Ole-Erik Yrvin, Petter
  13 Reinhodtsen, Allan Nordhøy og Christer Gundersen.
  14     </p><p>
  15       ISBN 978-82-93828-05-1 (innbundet)
  16     </p><p>
  17       ISBN 978-82-93828-06-8 (heftet)
  18     </p><p>
  19       ISBN 978-82-93828-07-5 (ePub)
  20     </p><p>
  21       <span class="inlinemediaobject"><img src="images/cc.png" align="middle" height="38" alt="Creative Commons, noen rettigheter forbeholdt"></span>
  22     </p><p>
  23       Denne boken er lisensiert med en Creative Commons-lisens. Denne lisensen
  24 tillater all bruk av dette verket, så lenge opphavet navngis og intet
  25 avledet materiale distribueres.  Hvis du vil ha mer informasjon om lisensen,
  26 besøk <a class="ulink" href="https://creativecommons.org/licenses/by-nd/4.0/" target="_top">https://creativecommons.org/licenses/by-nd/4.0/</a>.
  27     </p></div></div></div><hr></div><div class="toc"><p><b>Innholdsfortegnelse</b></p><dl class="toc"><dt><span class="chapter"><a href="#idm34">Hvordan knuse overvåkningskapitalismen</a></span></dt><dd><dl><dt><span class="sect1"><a href="#the-net-of-a-thousand-lies">Nettverket av tusen løgner</a></span></dt><dt><span class="sect1"><a href="#digital-rights-activism-a-quarter-century-on">Digital rettighetsaktivisme, et kvart århundre senere</a></span></dt><dt><span class="sect1"><a href="#tech-exceptionalism-then-and-now">Teknologieksepsjonalisme, da og nå</a></span></dt><dt><span class="sect1"><a href="#dont-believe-the-hype">Ikke fest din lit til oppstuss</a></span></dt><dt><span class="sect1"><a href="#what-is-persuasion">Hva er overtalelse?</a></span></dt><dd><dl><dt><span class="sect2"><a href="#segmenting">1. Segmentering</a></span></dt><dt><span class="sect2"><a href="#deception">2. Villedning</a></span></dt><dt><span class="sect2"><a href="#domination">3. Dominans</a></span></dt><dt><span class="sect2"><a href="#bypassing-our-rational-faculties">4. Omgåelse av våre rasjonelle evner</a></span></dt></dl></dd><dt><span class="sect1"><a href="#if-data-is-the-new-oil-then-surveillance-capitalisms-engine-has-a-leak">Hvis data er den nye oljen, så har overvåkningskapitalismen motorlekkasje</a></span></dt><dt><span class="sect1"><a href="#what-is-facebook">Hva er Facebook?</a></span></dt><dt><span class="sect1"><a href="#monopoly-and-the-right-to-the-future-tense">Monopol og retten til den spennende fremtiden</a></span></dt><dt><span class="sect1"><a href="#search-order-and-the-right-to-the-future-tense">Søkerekkefølge og retten til en spennende fremtid</a></span></dt><dt><span class="sect1"><a href="#monopolists-can-afford-sleeping-pills-for-watchdogs">Monopolister har råd til sovepiller for vakthundene</a></span></dt><dt><span class="sect1"><a href="#privacy-and-monopoly">Monopol og vern av privatsfæren</a></span></dt><dt><span class="sect1"><a href="#ronald-reagan-pioneer-of-tech-monopolism">Ronald Reagan, en pioner for teknologimonopoler</a></span></dt><dt><span class="sect1"><a href="#steering-with-the-windshield-wipers">Styring med vindusviskerne</a></span></dt><dt><span class="sect1"><a href="#surveillance-still-matters">Overvåking er fortsatt viktig</a></span></dt><dt><span class="sect1"><a href="#dignity-and-sanctuary">Verdighet og tilfluktsted</a></span></dt><dt><span class="sect1"><a href="#afflicting-the-afflicted">Pine de plagede</a></span></dt><dt><span class="sect1"><a href="#any-data-you-collect-and-retain-will-eventually-leak">Alle data du samler og tar vare på vil til slutt lekke</a></span></dt><dt><span class="sect1"><a href="#critical-tech-exceptionalism-is-still-tech-exceptionalism">Critical tech exceptionalism is still tech exceptionalism</a></span></dt><dt><span class="sect1"><a href="#how-monopolies-not-mind-control-drive-surveillance-capitalism-the-snapchat-story">How monopolies, not mind control, drive surveillance capitalism: The
  28 Snapchat story</a></span></dt><dt><span class="sect1"><a href="#a-monopoly-over-your-friends">Et monopol over vennene dine</a></span></dt><dt><span class="sect1"><a href="#fake-news-is-an-epistemological-crisis">Fake news is an epistemological crisis</a></span></dt><dt><span class="sect1"><a href="#tech-is-different">Teknologi er annerledes</a></span></dt><dt><span class="sect1"><a href="#ownership-of-facts">Eierskap til fakta</a></span></dt><dt><span class="sect1"><a href="#persuasion-works-slowly">Overtalelse virker… sakte</a></span></dt><dt><span class="sect1"><a href="#paying-wont-help">Det hjelper ikke å betale</a></span></dt><dt><span class="sect1"><a href="#an-ecology-moment-for-trustbusting">An <span class="quote">«<span class="quote">ecology</span>»</span> moment for trustbusting</a></span></dt><dt><span class="sect1"><a href="#make-big-tech-small-again">Gjør Storteknologien liten igjen</a></span></dt><dt><span class="sect1"><a href="#goto-10">20 GOTO 10</a></span></dt><dt><span class="sect1"><a href="#up-and-through">Up and through</a></span></dt></dl></dd></dl></div><div class="chapter"><div class="titlepage"><div><div><h1 class="title"><a name="idm34"></a>Kapittel . Hvordan knuse overvåkningskapitalismen</h1></div></div></div><div class="toc"><p><b>Innholdsfortegnelse</b></p><dl class="toc"><dt><span class="sect1"><a href="#the-net-of-a-thousand-lies">Nettverket av tusen løgner</a></span></dt><dt><span class="sect1"><a href="#digital-rights-activism-a-quarter-century-on">Digital rettighetsaktivisme, et kvart århundre senere</a></span></dt><dt><span class="sect1"><a href="#tech-exceptionalism-then-and-now">Teknologieksepsjonalisme, da og nå</a></span></dt><dt><span class="sect1"><a href="#dont-believe-the-hype">Ikke fest din lit til oppstuss</a></span></dt><dt><span class="sect1"><a href="#what-is-persuasion">Hva er overtalelse?</a></span></dt><dd><dl><dt><span class="sect2"><a href="#segmenting">1. Segmentering</a></span></dt><dt><span class="sect2"><a href="#deception">2. Villedning</a></span></dt><dt><span class="sect2"><a href="#domination">3. Dominans</a></span></dt><dt><span class="sect2"><a href="#bypassing-our-rational-faculties">4. Omgåelse av våre rasjonelle evner</a></span></dt></dl></dd><dt><span class="sect1"><a href="#if-data-is-the-new-oil-then-surveillance-capitalisms-engine-has-a-leak">Hvis data er den nye oljen, så har overvåkningskapitalismen motorlekkasje</a></span></dt><dt><span class="sect1"><a href="#what-is-facebook">Hva er Facebook?</a></span></dt><dt><span class="sect1"><a href="#monopoly-and-the-right-to-the-future-tense">Monopol og retten til den spennende fremtiden</a></span></dt><dt><span class="sect1"><a href="#search-order-and-the-right-to-the-future-tense">Søkerekkefølge og retten til en spennende fremtid</a></span></dt><dt><span class="sect1"><a href="#monopolists-can-afford-sleeping-pills-for-watchdogs">Monopolister har råd til sovepiller for vakthundene</a></span></dt><dt><span class="sect1"><a href="#privacy-and-monopoly">Monopol og vern av privatsfæren</a></span></dt><dt><span class="sect1"><a href="#ronald-reagan-pioneer-of-tech-monopolism">Ronald Reagan, en pioner for teknologimonopoler</a></span></dt><dt><span class="sect1"><a href="#steering-with-the-windshield-wipers">Styring med vindusviskerne</a></span></dt><dt><span class="sect1"><a href="#surveillance-still-matters">Overvåking er fortsatt viktig</a></span></dt><dt><span class="sect1"><a href="#dignity-and-sanctuary">Verdighet og tilfluktsted</a></span></dt><dt><span class="sect1"><a href="#afflicting-the-afflicted">Pine de plagede</a></span></dt><dt><span class="sect1"><a href="#any-data-you-collect-and-retain-will-eventually-leak">Alle data du samler og tar vare på vil til slutt lekke</a></span></dt><dt><span class="sect1"><a href="#critical-tech-exceptionalism-is-still-tech-exceptionalism">Critical tech exceptionalism is still tech exceptionalism</a></span></dt><dt><span class="sect1"><a href="#how-monopolies-not-mind-control-drive-surveillance-capitalism-the-snapchat-story">How monopolies, not mind control, drive surveillance capitalism: The
  29 Snapchat story</a></span></dt><dt><span class="sect1"><a href="#a-monopoly-over-your-friends">Et monopol over vennene dine</a></span></dt><dt><span class="sect1"><a href="#fake-news-is-an-epistemological-crisis">Fake news is an epistemological crisis</a></span></dt><dt><span class="sect1"><a href="#tech-is-different">Teknologi er annerledes</a></span></dt><dt><span class="sect1"><a href="#ownership-of-facts">Eierskap til fakta</a></span></dt><dt><span class="sect1"><a href="#persuasion-works-slowly">Overtalelse virker… sakte</a></span></dt><dt><span class="sect1"><a href="#paying-wont-help">Det hjelper ikke å betale</a></span></dt><dt><span class="sect1"><a href="#an-ecology-moment-for-trustbusting">An <span class="quote">«<span class="quote">ecology</span>»</span> moment for trustbusting</a></span></dt><dt><span class="sect1"><a href="#make-big-tech-small-again">Gjør Storteknologien liten igjen</a></span></dt><dt><span class="sect1"><a href="#goto-10">20 GOTO 10</a></span></dt><dt><span class="sect1"><a href="#up-and-through">Up and through</a></span></dt></dl></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="the-net-of-a-thousand-lies"></a>Nettverket av tusen løgner</h2></div></div></div><p>
  30     Den mest overraskende momentet med tilbakekomsten av flatjordtilhengere i
  31 det 21. århundre er hvor viden tilgjengelig bevisene mot dem er. En kan
  32 forstå hvordan folk, for noen århundrer siden, som aldri hadde tilgang på et
  33 høyt nok utsiktspunkt til å se jordens krumning, kunne ende opp med en
  34 rimelig fornuftig tro på at den tilsynelatende flate jorden, rent faktisk
  35 var flat.
  36   </p><p>
  37     Men idag, når grunnskoler rutinemessig henger GoPro-kamera fra ballonger og
  38 sender dem høyt nok til å fotografere jordens krumning, for ikke å snakke om
  39 det lite eksepsjonelle synet av en krummet jord fra vinduet på et fly. Det
  40 kreves en heroisk innsats for å holde på troen om at jorden er flat.
  41   </p><p>
  42     På samme måten er det med hvit nasjonalisme og eugenikk. I en tidsalder der
  43 du kan bli et datamaskinberegnet genomdatapunkt ved å sveipe innsiden av
  44 munnhulen og sende resultatet til et gensekvensieringsselskap sammen med en
  45 beskjeden sum penger, så har <span class="quote">«<span class="quote">rasevitenskap</span>»</span> aldri vært enklere
  46 å avvise.
  47   </p><p>
  48     Vi lever i en gullalder både med hensyn til enkel faktatilgang og
  49 fornektelse av dem. Forferdelige idéer som har svevd i utkanten i tiår eller
  50 til og med århundrer har blitt allemannseie tilsynelatende over natten.
  51   </p><p>
  52     Når obskure idéer får fotfeste, er det kun to ting som kan forklare at de
  53 kommer til overflaten: Enten har personen som uttrykker idéen forbedret sin
  54 formidling av den, eller så har forgodtbefinnendet blitt vanskeligere å
  55 fornekte i lys av mer bevis. Med andre ord, hvis vi ønsker at folk skal ta
  56 klimaendringer seriøst, kan vi få et utall Greta Thunberg til å gi
  57 velformulerte, oppofrende argumenter fra talerstoler, til hjertets og
  58 sinnets dyst, eller vi kan vente på floden, den stekende sol, og pandemier
  59 lager argumentene for oss. I praksis må vi antagelig gjøre litt av begge
  60 deler: Desto mer vi steker, brenner, drukner og forvitrer, dess enklere vil
  61 det være for dem av oss som Greta Thunberg å overbevise oss.
  62   </p><p>
  63     De iboende argumentet for ting som eksempelvis teorien om flat jord har ikke
  64 blitt bedre i den vordende generasjonen. Faktisk har ting blitt verre, fordi
  65 folk uten bakgrunn i kildekritikk er gjenstand for dem.
  66   </p><p>
  67     Idéen om en flat jord er like gammel som idéene og forståelsen av dem. De
  68 første presentasjonene av denne teorien kom folk for øre som ikke forstod
  69 selv grunnleggende geometri. De hadde til gode å se tilbake på det
  70 heliosentrikere og storsirkelnavigasjon bragte siden. Dagens tilhengere er
  71 mer finslepne enn tidligere tiders religiøse verdensanskuelse, og de har en
  72 mye vanskeligere jobb.
  73   </p><p>
  74     Er det tilfelle at disse konspiratorikerne lykkes med utgangspunkt i bedre
  75 argumenter?
  76   </p><p>
  77     Noen synes å tro det. I dag er troen hengitt at maskinlæring og kommersiell
  78 overvåkning kan gjøre selv en konspirasjonsteoretiker uten taleevner til
  79 trådtrekker med KI-refinerte argumenter som verktøy til et omvendt
  80 dukketeater som omgår alle rasjonelle evner. Når RAND <a class="ulink" href="https://www.rand.org/content/dam/rand/pubs/research_reports/RR400/RR453/RAND_RR453.pdf" target="_top">beskylder
  81 Facebook for <span class="quote">«<span class="quote">radikalisering</span>»</span></a> og når Facebook sin rolle
  82 i å spre coronavirus-misinformasjon <a class="ulink" href="https://secure.avaaz.org/campaign/en/facebook_threat_health/" target="_top"> blir
  83 bortforklart i deres algoritme</a>, er det underforstått at maskinlæring
  84 og overvåkning endrer vår oppfattelse av hva som sant er.
  85   </p><p>
  86     I en verden der enhver konspirasjonsteori har sine ihuga tilhengere, må
  87 <span class="emphasis"><em>noe</em></span> være i gjerde.
  88   </p><p>
  89     Hva om det har sin naturlige forklaring? Er det kanskje ikke argumentene som
  90 utgjør tyngden på vektskåla for dem? Hva om <span class="emphasis"><em>de ekte
  91 konspirasjonene</em></span> vi omgås hvordan det daglige stormaktsspillet og
  92 i kapitalerværvelsen mellom fut og fogd gravlegger ubeleilig fakta og bevis
  93 på mislighold? Slike ting som i beste fall kalles korrupsjon, gjør de folk
  94 sårbare for fiktive konspirasjonsteorier?
  95   </p><p>
  96     Hvis det er slagskade og ikke smitte – materielle forhold og ikke ideologi –
  97 som utgjør forskjellen i dag og gjør økningen i frastøtende feilinformasjon
  98 mulig, i møte med lett observerte fakta, så betyr det ikke at
  99 datanettverkene vår ikke kan lastes. De gjør fortsatt grovarbeidet med å
 100 spore opp sårbare mennesker og lede dem gjennom en rekke av stadig mer
 101 ekstreme ideer og lokalsamfunn.
 102   </p><p>
 103     Troen på fiktive konspirasjoner har gjort skade og utgjør en fare for
 104 planeten, fra arter <a class="ulink" href="https://www.cdc.gov/measles/cases-outbreaks.html" target="_top">kicked off by vaccine
 105 denial</a> til folkemord <a class="ulink" href="https://www.nytimes.com/2018/10/15/technology/myanmar-facebook-genocide.html" target="_top">igangsatt
 106 av rasistiske konspirasjonsteorier</a> til planetarisk nedsmelting
 107 forårsaket av nektelsesinspirert klimainaktivitet. Vår verden brenner, og
 108 derfor må vi slukke brannene - for å finne ut hvordan vi kan hjelpe folk til
 109 å se sannheten i verden igjennom konspirasjonene de har blitt forvirret av.
 110   </p><p>
 111     Brannslokking er reaktivt. Det trengs <span class="emphasis"><em>forebygging</em></span>. Den
 112 materielle tilværelsen hvis innvirken på folks svakhet for den, smitter over
 113 i handling. Her kan også teknologi ha noe å si.
 114   </p><p>
 115     Det skorter ikke på tilsvarsforslag. Fra EU sin <a class="ulink" href="https://edri.org/tag/terreg/" target="_top">Terroristinnhold-regulering</a> som
 116 krever at plattformer håndhever og fjerner
 117 <span class="quote">«<span class="quote">ekstremistisk</span>»</span>-innhold, til USAs forslag om å <a class="ulink" href="https://www.eff.org/deeplinks/2020/03/earn-it-act-violates-constitution" target="_top">tvinge
 118 teknologiselskaper til å spionere på sine brukere</a> og holde dem
 119 ansvarlige <a class="ulink" href="https://www.natlawreview.com/article/repeal-cda-section-230" target="_top">for
 120 brukernes ytringsfrihet</a>. Det er mange krefter i sving som kan svinge
 121 tilbake slik at teknologiselskaper må løse problemene de utgjør.
 122   </p><p>
 123     Her mangler en kritisk del av debatten. Alle disse løsningene antar at
 124 teknologiselskaper er en bruksgjenstand, at deres dominanse over Internett
 125 er evig. Forslag til endring av storteknologien til et mer finmasket,
 126 mangeslynget Internett lar vente på seg. <span class="quote">«<span class="quote">Løsningene</span>»</span> som
 127 forefinnes <span class="emphasis"><em>krever</em></span> at storteknologien skal forbli
 128 storartet smålig, fordi kun de største selskapene får råd til å sette i verk
 129 systemene disse lovene krever.
 130   </p><p>
 131     Løsningen på hva teknologien skal være er svaret på hva som skal til for å
 132 komme oss ut av knipa. I dag er vi på perrongen og prøver å finne ut hva
 133 tabellen storteknologien har lagt fore skal bety for vårt Internett i
 134 fortsettelsen, eller om det går noen tog andre veien. Enveisbilletten har vi
 135 klamt for hånden.
 136   </p><p>
 137     Velg med omhu. Temming av storteknologien er iboende viktig for løsningen på
 138 Internett. Hvorfra vi setter ut i det, en digital rettighetsaktivisme til.
 139   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="digital-rights-activism-a-quarter-century-on"></a>Digital rettighetsaktivisme, et kvart århundre senere</h2></div></div></div><p>
 140     Digital rettighetsaktivisme er eldre enn Internett. GNU-prosjektet er fra
 141 1983. Elektronisk forpost fra 1990. I brorparten av tiden denne har
 142 eksistert, var hovedkritikken rettet mot dens formål at det hele var
 143 irrelevant: De sanne aktivistparolene var blitt virkelighet i lys av
 144 skepsis. Tenk over hva som ble sagt da <a class="ulink" href="https://www.loc.gov/law/foreign-news/article/finland-legal-right-to-broadband-for-all-citizens/#:~:text=Global%20Legal%20Monitor,-Home%20%7C%20Search%20%7C%20Browse&amp;text=(July%206%2C%202010)%20On,connection%20100%20MBPS%20by%202015." target="_top">Finland
 145 snudde kjæringa og erklærte breiband en mennskerett i 2010</a>. Sann
 146 aktivisme var for smørkrise å regne den gang. Tenk over Malcolm Gladwell sin
 147 <a class="ulink" href="https://www.newyorker.com/magazine/2010/10/04/small-change-malcolm-gladwell" target="_top">forakt
 148 for at Finland gjorde resten av verden til skamme i 2010</a> da han
 149 kalte det <span class="quote">«<span class="quote">klikktivisme.</span>»</span>. Etter at storteknologien har blitt
 150 sentral i våre liv, om ikke erstattet noen av dem helt, har disse uverdige
 151 kritikkene blitt kritikk verdige. Først lød pipa av at <span class="quote">«<span class="quote">Du bryr deg
 152 kun om teknologi fordi du <a class="ulink" href="https://www.ipwatchdog.com/2018/06/04/report-engine-eff-shills-google-patent-reform/id=98007/" target="_top">er
 153 en undersått av et teknologiselskap</a></span>»</span>. Så ble lyden
 154 tonelydende <span class="quote">«<span class="quote">Hvorfor forutså du ikke at teknologi kom til å bli en så
 155 destruktiv kraft?</span>»</span>. Digital rettighetsaktivisme er riktig der det
 156 alltid har vært rett: voktende over menneskene i en verden der teknologi
 157 ubønnhørlig tar grep.
 158   </p><p>
 159     Siste versjon av kritikken plystrer til takten av
 160 <span class="quote">«<span class="quote">overvåkningskapitalismen</span>»</span>, et begrep Shoshana Zuboff førte i
 161 pennen i sin innflytelsesrike og lange bok fra 2019, <span class="emphasis"><em>Tidsalderen
 162 overvåkningskapitalismen: Kampen om en human fremtid i maktens nye
 163 frontlinjer</em></span>. Zuboff argumenterer at
 164 <span class="quote">«<span class="quote">overvåkningskapitalisme</span>»</span> er en unik funksjon av
 165 teknologi-industrien, og at til forskjell fra andre skadeinnvirkende
 166 kommersielle gesjefter i historiens løp, at denne <span class="quote">«<span class="quote">skriver seg fra
 167 uventede og illegale mekanismer for utnyttelse, verdiskapning og kontroll
 168 som effektivt sett løsriver folk fra deres adferd, mens den lager nye
 169 markeder for å forutsi oppførselsforutsigbarhet og endring av
 170 den. Overvåkningskapitalisme utfordrer demokratiske normer, og tar avskjed
 171 med århundrers markedskapitalisme på sentrale punkter.</span>»</span> Det er en ny
 172 og dødlig form for kapitalisme, en <span class="quote">«<span class="quote">ukontrollert kapitalisme</span>»</span>,
 173 og vår forståelsesmangel i dens unike muligheter og farer representerer en
 174 eksistensiell, artsomfattende trussel. Hun skal ha rett i at dagens
 175 kapitalisme truer vårt artsmangfold, og hun framfører riktig nok at vår art
 176 og sivilisasjon har utfordringer. Dog tar hun kanskje virkelig feil av
 177 hvordan teknologi er forskjellig, og hvordan det truer vår art.
 178   </p><p>
 179     En slik feildiagnostisering vil forlede oss inn på et spor der
 180 storteknologien har penset inn allerede. Ned med storteknologien, er ikke en
 181 avsporing av problemet.
 182   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="tech-exceptionalism-then-and-now"></a>Teknologieksepsjonalisme, da og nå</h2></div></div></div><p>
 183     Tidligere kritikere av bevegelsen av og for digitale rettigheter—kanskje
 184 best representert ved organisasjoner som GNU-prosjektet, Elektronisk
 185 forpost, Public Knowledge, og andre som fokuserer på ivaretagelse og
 186 forbedring av grunnleggende rettigheter fra og i den digitale sfære—ble kalt
 187 aktivister for å praktisere <span class="quote">«<span class="quote">teknologieksepsjonalisme</span>»</span>. Rundt
 188 tusenårets slutt drev seriøse mennesker gjøn og påstod at teknologi-praksis
 189 ikke hadde innvirkning på den <span class="quote">«<span class="quote">virkelige verden</span>»</span>. Påstander om
 190 at teknologiregler hadde innvirkning på talefrihet, assosiasjonsfrihet, vern
 191 av privatsfæren, ransakelsesordrer, og fundamentale rettigheter og verdier
 192 ble antatt for latterlige å være, en videre trist fabulering om
 193 <span class="emphasis"><em>Star Trek</em></span> på digitale oppslagstavler istedenfor Nelson
 194 Mandela.
 195   </p><p>
 196     I årtiene som fulgte, har anklagene om
 197 <span class="quote">«<span class="quote">teknologi-eksepsjonalisme</span>»</span> økt etter som teknologi har fått en
 198 større rolle i folks hverdagsliv. Nå som teknologi har infiltrert hver krink
 199 og krok i våre liv, og våre nettbaserte liv kun har kommet et knippe
 200 monopolister i hende, blir digitale rettighetsforkjempere anklaget for å gå
 201 storteknologiens ærend, og støtter deres uaktsomhet som tjener deres
 202 egeninteresse (eller verre, skumle konspirasjoner).
 203   </p><p>
 204     Fra eget perspektiv har bevegelsen for digitale rettigheter forholdt seg der
 205 den startet, mens resten av verden har flyttet seg. Helt fra dens tidligste
 206 dager, var det dens brukere også dem som skrev koden fra tanke til
 207 fundamentale verktøy. Digitale rettighetsaktivister brød seg kun om
 208 selskaper i den grad de brydde seg om brukernes rettigheter (eller, vel så
 209 ofte, når selskaper gjorde så tåpelige ting at det truet med nye regelsett
 210 som også gjorde det vanskeligere for rasjonelle aktører å hjelpe brukere).
 211   </p><p>
 212     <span class="quote">«<span class="quote">Overvåkningskapitalisems</span>»</span> kritiker kommer så med en ny
 213 vinkling mot bevegelsen for digitale rettigheter: Ikke som varslere som
 214 overdriver hvor viktig de nye leketøyene deres er, ei heller som
 215 håndtlangere for storteknologien, men som velmenende stolflyttere hvis
 216 langvarige aktivisme er en belastning fordi det gjør det ute av stand til å
 217 oppfatte nye truslene som finnes fordi de er opptatt med forrige århundres
 218 teknologikamp.
 219   </p><p>
 220     Men teknologieksepsjonalisme er en synd, uavsett hvem som bedriver den.
 221   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="dont-believe-the-hype"></a>Ikke fest din lit til oppstuss</h2></div></div></div><p>
 222     Du har antagelig hørt at <span class="quote">«<span class="quote">om du ikke betaler for noe, er det du som er
 223 produktet</span>»</span>. Som vi ser nedenfor, er det riktig, men ikke hele
 224 bildet. Det som er <span class="emphasis"><em>helt</em></span> riktig om reklamefinansiert
 225 storteknologi, er at dens kunder er de som reklamerer, og det selskaper som
 226 Google og Facebook selger, er deres evne til å overbevise
 227 <span class="emphasis"><em>deg</em></span> om å kjøpe ting. Tjenestene—sosiale media,
 228 søkemotorer, kart, meldingstjenester, med mer—er leveringssystemer for
 229 overbeviselse.
 230   </p><p>
 231     Frykten for overvåkningskapitalismen utgår fra den (korrekte) antagelsen om
 232 at alt Storteknologien sier om seg selv antagelig er løgn. Men kritikken av
 233 overvåkningskapitalismen gjør unntak fra påstandene Storteknologien kommer
 234 med i salgsmateriellet sitt - overdrivelsene som tar pusten fra deg i
 235 salgsfremstøtene til potensielle annonsekjøpere på nettet og i deres
 236 reklameteknologiseminarer om effekten av produktene.  Den antar at
 237 Storteknologien er så god til å påvirke oss som de påstår de er når de
 238 selger påvirkningsprodukter til pålitelige kunder.  Dette er en tabbe, da
 239 salgsmateriell ikke er en pålitelig indikator på et produkts
 240 gjennomføringsevne.
 241   </p><p>
 242     Overvåkningskapitalismen antar det at det kjøpes mye av markedsføringen som
 243 Storteknologien selges, så må Storteknologien selge noe som virker. Men det
 244 enorme salget til Storteknologien kan like gjerne være et resultat av en
 245 felles vrangforestilling eller noe enda mer skadelig, monopolistisk kontroll
 246 over kommunikasjonen og handelen vår.
 247   </p><p>
 248     Du endrer oppførsel når noen ser på deg, og ikke til det bedre.  Det skaper
 249 risiko for vår sosiale fremgang.  Zuboffs bok inneholder vakkert formulerte
 250 forklaringer av disse fenomenene.  Men Zuboff påstår også at overvåkning
 251 bokstavlig talt fjerner vår frie vilje, at når våre personlige data blandes
 252 med maskinlæring, så oppstår et overtalelsessystem så ødeleggende at vi er
 253 helt hjelpeløse i møte med det.  Det vil si at Facebook med en algoritme til
 254 å analysere data som det henter ut fra ditt daglige liv uten samtykke,
 255 tilpasser feeden din slik at du kjøper ting. Det er en tankekontrollstråle
 256 rett ut av en femtitalls-tegneserie, der brukt av gale forskere hvis
 257 superdatamaskiner garanterer dem evigvarende og total verdensherredømme.
 258   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="what-is-persuasion"></a>Hva er overtalelse?</h2></div></div></div><p>
 259     For å forstå hvorfor du ikke bør bekymre deg over tankekontrollstråler, men
 260 hvorfor du <span class="emphasis"><em>bør</em></span> bekymre deg over overvåkning
 261 <span class="emphasis"><em>og</em></span> Storteknologi, så må vi starte ved å se på hva vi
 262 mener med <span class="quote">«<span class="quote">overtalelse</span>»</span>.
 263   </p><p>
 264     Google, Facebook, og andre overvåkningskapitalister lover sine kunder (de
 265 som markedsfører) at hvis de bruker maskinlæringsverktøy opptrent på
 266 ufattelig store datasett av personinformasjon høstet inn uten samtykke, så
 267 vil de være i stand til å finne måter å overstyre de rasjonale evnene til
 268 folket og styre deres oppførsel, og slik skape en strøm av kjøp, stemmer og
 269 andre ønskede resultater.
 270   </p><div class="blockquote"><blockquote class="blockquote"><p>
 271       Effekten av dominans er mye større enn effekten av manipulering og bør
 272 derfor være hovedfokus i vår analyse og bestemmende for hvilke avhjelpende
 273 midler vi går for.
 274     </p></blockquote></div><p>
 275     Men det finnes få indiser på at det er dette som skjer. I stedet er
 276 forutsigelsene som overvåkningskapitalismen leverer til sine kunder mye
 277 mindre imponerende. I stedet for å finne måter å omgå våre rasjonelle evner,
 278 så gjør overvåkningskapitaliser som Mark Zuckerberg i hovedsak en eller
 279 flere av tre ting:
 280   </p><div class="sect2"><div class="titlepage"><div><div><h3 class="title"><a name="segmenting"></a>1. Segmentering</h3></div></div></div><p>
 281       Hvis du selger bleier, så er det større sjanse for et salg hvis du forsøker
 282 å selge dem til folk som er innom fødeavdelinger. Slett ikke alle som
 283 ankommer eller forlater en fødeavdeling har nettopp fått en baby, og ikke
 284 alle som har fått en baby er i markedet etter bleier. Men det å ha en baby
 285 er svært nært knyttet til det å være ute etter å kjøpe bleier, og det å være
 286 på en fødestue er svært nært knyttet til det å ha en baby. Dermed er det
 287 bleiereklamer i nærheten av fødeavdelinger (samt selgere av babyprodukter,
 288 som henger rundt fødeavdelinger med favnen full av gratispakker).
 289     </p><p>
 290       Overvåkningskapitalisem er segmentering ganger en milliard.
 291 Bleieprodusenter kan langt overgå å fokusere på folk på fødestuer (selv om
 292 de også kan gjøre slikt, ved å bruke stedsbaserte mobilreklager). De kan
 293 rette reklamen mot deg basert på om du leser artikler om barneoppdragelse,
 294 bleier, eller en hel rekke andre tema, og datautvinningen kan foreslå
 295 ikke-åpenbare nøkkelord å rette reklamen mot.  De kan rette reklamen mot deg
 296 basert på artikler du nylig har lest.  De kan rette reklamen mot deg baser
 297 på det du nylig har kjøpt. De kan rette reklamen mot deg basert på om du har
 298 mottatt epost eller private meldinger om disse temaene — eller til og med om
 299 du snakker høyt om dem (selv om Facebook og dets like overbevisende påstår
 300 at dette ikke gjøres — ennå).
 301     </p><p>
 302       Dette er veldig ekkelt.
 303     </p><p>
 304       Men det er ikke tankekontroll.
 305     </p><p>
 306       Det fratar deg ikke din frie vilje. Det lurer deg ikke.
 307     </p><p>
 308       Se hvordan overvåkningskapitalisem virker i politikken.
 309 Overvåkningskapitalistselskapene selger til politiske aktører evnen til å
 310 spore opp folk som er mottakelige for deres argumenter. Kandidater som
 311 kjører valgkamp på korrupsjon i finansbransjen leter etter folk som sliter
 312 med gjeld.  Kandidater som kjører valgkamp på fremmedfrykt leter etter
 313 rasister.  Politiske aktører har alltid rettet sine budskap uansett om
 314 intensjonene var hederlige eller ikke.  De som danner fagforeninger sprer
 315 budskapet ved fabrikkportene, og forkjemperne for hvit overherredømme deler
 316 ut foldere på møter i John Birch Society (FIXME bedre med norsk analogi?).
 317     </p><p>
 318       Men dette er en unøyaktig og ressurssløsende praksis. Fagforeningenfyren kan
 319 ikke vite hvilken arbeider de bør ta kontakt med på vei ut fra fabrikken, og
 320 kan kaste bort tiden sin på en som er John Birch Society-medlem i skjul, og
 321 forkjemperen for hvitt overherredømme kan ikke hvem ar John Birch
 322 Society-medlemmene som er så fjern at det å komme seg på et møte er det
 323 meste de klarer, og hvilke som kan overtales til å reise tvers over hele
 324 landet for å bære en tiki-fakkel gjennom gatene i Charlottesville, Virginia.
 325     </p><p>
 326       Fordi målretting forbedrer nedslagsfeltet i politiske leire, kan det
 327 akselerere tempoet i en politisk omveltning ved å åpne for at alle som i
 328 hemmelighet ønsket å velte en autokrat - eller bare en politiker som har
 329 sittet i elleve perioder - i å finne alle andre som mener det samme, og til
 330 en lav kostnad. Dette har vært avgjørende for den raske utkrystalliseringen
 331 av de siste politiske bevegelsene, inkludert Black Lives Matter og Occupy
 332 Wall Street, samt mindre tiltalende aktører, som ytre høyrehvite
 333 nasjonalistiske bevegelser som marsjerte i Charlottesville.
 334     </p><p>
 335       Det er viktig å skille denne typen politisk organisering fra
 336 påvirkningskampanjer; å finne folk som i hemmelighet er enige med deg er
 337 ikke det samme som å overbevise folk til å være enig med deg. Fremveksten av
 338 fenomener som ikke-binære eller på annen måte avvikende kjønnsidentiteter er
 339 ofte preget av reaksjonære som følge av hjernevaskingskampanjer på nettet
 340 som overbeviser påvirkbare mennesker at i hemmelighet her vært skeive hele
 341 tiden.
 342     </p><p>
 343       Men de personlige beretningene til de som har trådt frem, forteller en annen
 344 historie hvor folk som lenge hadde en hemmelighet om deres kjønn, ble
 345 styrket av andre som trådte frem, og der folk som visste at de var
 346 forskjellige, men manglet et ordforråd for å diskutere denne forskjellen,
 347 lærte de riktige ordene på disse rimelige måtene ved å finne folk på og lære
 348 om deres ideer.
 349     </p></div><div class="sect2"><div class="titlepage"><div><div><h3 class="title"><a name="deception"></a>2. Villedning</h3></div></div></div><p>
 350       Løgner og svindel er skadelige, og overvåkingskapitalismen overbelaster dem
 351 gjennom målretting. Hvis du ønsker å selge et uredelig forskuddslån frem til
 352 lønningsdagen eller et overbelastet boliglån, kan overvåkingskapitalismen
 353 hjelpe deg å finne folk som er både desperate og usofistikerte og dermed
 354 mottakelig for ditt påhopp. Dette står for fremveksten av mange fenomener,
 355 som flernivå markedsføringsopplegg, der villedende påstander om potensiell
 356 inntjening og effektive av salgsteknikker er rettet mot desperate mennesker
 357 ved å annonsere mot søk som indikerer, for eksempel, at noen sliter med lån
 358 som resultat av dårlig rådgiving.
 359     </p><p>
 360       Overvåkingskapitalismen fremmer også svindel ved å gjøre det enkelt å finne
 361 andre mennesker som har blitt tilsvarende bedratt, og danner et fellesskap
 362 av mennesker som forsterker hverandres falske tro.  Tenk på <a class="ulink" href="https://www.vulture.com/2020/01/the-dream-podcast-review.html" target="_top">forumene</a>
 363 hvor folk, som blir utsatt for flernivå markedsføringssvindel, samles for å
 364 utveksle tips om hvordan de kan forbedre sin situasjon ved å selv selge
 365 produktet.
 366     </p><p>
 367       Noen ganger innebærer villedning på nett å erstatte noens korrekte tro med
 368 feil, som det gjør i anti-vaksinasjonsbevegelsen, hvis ofre ofte er folk som
 369 begynner å tro på vaksiner, men er overbevist av tilsynelatende plausible
 370 bevis som fører dem inn i den falske troen på at vaksiner er skadelige.
 371     </p><p>
 372       Men det er mye mer vanlig for svindel å lykkes når den ikke trenger å
 373 fortrenge en riktig overbevisning. Da datteren min fikk hodelus i
 374 barnehagen, fortalte en av barnehagearbeiderne meg at jeg kunne bli kvitt
 375 dem ved å behandle håret og hodebunnen med olivenolje. Jeg visste ikke noe
 376 om hodelus, og jeg antok at barnehagearbeideren gjorde det, så jeg prøvde
 377 det (det fungerte ikke, og det virker ikke). Det er lett å ende opp med
 378 falske tro når du rett og slett ikke vet noe bedre, og når disse
 379 overbevisningene formidles av noen som synes å vite hva de gjør.
 380     </p><p>
 381       Dette er skadelig og vanskelig - og det er også den typen ting Internett kan
 382 bidra til å beskytte mot. Ved å gjøre sann informasjon tilgjengelig,
 383 spesielt i en form som avslører de underliggende overveielsene blant parter
 384 med skarpt divergerende synspunkter, som i Wikipedia. Men dette er ikke
 385 hjernevasking; det er svindel. I <a class="ulink" href="https://datasociety.net/library/data-voids/" target="_top">de fleste
 386 tilfellene</a>, har ofrene for disse svindelkampanjene fått et
 387 informasjonstomrom fylt på vanlig måte, ved å konsultere en tilsynelatende
 388 pålitelig kilde. Hvis jeg undersøker lengden på Brooklyn Bridge,og finner at
 389 den er 5800 fot lang, men i virkeligheten er den 5989 fot lang, er det
 390 underliggende villedningen er et problem, men det er et problem med et
 391 enkelt hjelpemiddel. Det er et helt annet problem enn anti-vaksineproblemet,
 392 der noens korrekte oppfatning er erstattet av en falsk ved hjelp av
 393 sofistikert overtalelse.
 394     </p></div><div class="sect2"><div class="titlepage"><div><div><h3 class="title"><a name="domination"></a>3. Dominans</h3></div></div></div><p>
 395       Overvåkingskapitalismen er et resultat av monopol. Monopol er årsaken, og
 396 overvåkingskapitalismen og dens negative resultater er virkningene av
 397 monopol. Jeg vil gå dypere inn i dette senere, men nå er det nok å si at
 398 teknologi-industrien har vokst opp med en radikal teori om antitrust, som
 399 har tillatt selskaper å vokse ved å fusjonere med sine rivaler, kjøpe opp
 400 sine gryende konkurrenter, og utvidet til å kontrollere hele markedet
 401 vertikalt.
 402     </p><p>
 403       Et eksempel på hvordan monopolopptreden hjelper til å overtalelse gjennom
 404 dominans: Google tar redaksjonelle beslutninger om sine algoritmer som
 405 bestemmer sorteringsrekkefølgen for svarene på våre søk. Hvis en samling
 406 svindlere vil lure verden til å tro at Brooklyn Bridge er 5800 fot lang, og
 407 hvis Google gir en høy søkerangering til den gruppen som svar på spørsmål
 408 som <span class="quote">«<span class="quote">Hvor lang er Brooklyn Bridge? </span>»</span> Da kan de første åtte
 409 eller ti Google- skjermene ha feil verdier. Og siden de fleste ikke går
 410 lengre enn de første par resultatene – enn si resultatene på den første
 411 <span class="emphasis"><em>siden</em></span> med resultater – betyr Googles valg, at mange
 412 mennesker vil bli ført bak lyset.
 413     </p><p>
 414       Googles dominans over søk – mer enn 86 % av nettsøkene utføres via Google –
 415 betyr at måten de organiserer søkeresultatene på, har en stor effekt på den
 416 offentlige oppfatningen. Ironisk nok hevder Google at det er derfor det ikke
 417 har råd til å ha noen åpenhet i sin algoritmedesign: Googles søkedominans
 418 gjør resultatene av sorteringen er for viktig til å risikere å fortelle
 419 verden hvordan den kommer til disse resultatene, om ikke en dårlig aktør
 420 oppdager en feil i rangeringssystemet, og utnytter det til å presse sitt syn
 421 frem til toppen av søkeresultatene. Det er et åpenbart hjelpemiddel overfor
 422 et selskap som er for stort til å bli gjennomgått: Å bryte det opp i mindre
 423 biter.
 424     </p><p>
 425       Zuboff kaller overvåkingskapitalismen en <span class="quote">«<span class="quote">ukontrollert
 426 kapitalisme</span>»</span> hvis datahamstring og maskinlæringsteknikker frarøver
 427 oss vår frie vilje. Men påvirkningskampanjer som søker å fortrenge
 428 eksisterende, korrekte overbevisninger med falsk, har en effekt som er liten
 429 og midlertidig, mens monopolistisk dominans over informasjonssystemer har
 430 massive, varige effekter. Å kontrollere resultatene til verdens søk, betyr å
 431 kontrollere tilgang både til argumenter og deres motsvar, og dermed kontroll
 432 over mye av hva verdens tror på. Hvis vår bekymring er hvordan selskaper
 433 foregriper vår muligheter å gjøre opp våre egne oppfatninger og bestemme vår
 434 egen fremtid, så overstiger virkningen av slik dominans langt virkningen av
 435 manipulasjon og bør stå sentralt i vår analyse og for alle utbedringer vi
 436 går for.
 437     </p></div><div class="sect2"><div class="titlepage"><div><div><h3 class="title"><a name="bypassing-our-rational-faculties"></a>4. Omgåelse av våre rasjonelle evner</h3></div></div></div><p>
 438       <span class="emphasis"><em>Dette</em></span> er de gode greiene: ved hjelp av maskinlæring,
 439 <span class="quote">«<span class="quote">mørke mønstre</span>»</span>, "engagement hacking" (FIXME) og andre
 440 teknikker for å få oss til å gjøre ting som er i strid med vår egen sunne
 441 fornuft. Dette er tankekontroll.
 442     </p><p>
 443       Noen av disse teknikkene har vist seg ødeleggende effektive (om bare på kort
 444 sikt). Bruk av nedtellingstidtakere på en kjøpsfullføringsside kan skape en
 445 følelse av hast som får deg til å ignorere den gnagende interne stemmen, som
 446 antyder at du bør undersøke flere alternativer eller sove på avgjørelsen
 447 din. Bruken av personer fra den sosiale grafen i annonser kan gi
 448 <span class="quote">«<span class="quote">sosiale bevis</span>»</span> at et kjøp er verdt å gjøre. Selv
 449 auksjonssystemet som eBay har utviklet, er beregnet til å spille på våre
 450 kognitive blindsoner, slik at vi kan føle at vi <span class="quote">«<span class="quote">eier</span>»</span> noe
 451 fordi vi byr på det, og dermed oppmuntrer oss til å by igjen, når vi blir
 452 overbydd, for å sikre at <span class="quote">«<span class="quote">våre</span>»</span> ting forblir våre.
 453     </p><p>
 454       Spill er usedvanlig gode på dette. <span class="quote">«<span class="quote"> Gratis å spille</span>»</span>-spill
 455 manipulere oss gjennom mange teknikker, for eksempel ved å presentere
 456 spillere med en rekke jevnt eskalerende utfordringer, som skaper en følelse
 457 av mestring og prestasjon, men som skarpt går over til et sett med
 458 utfordringer som er umulige å overvinne uten betalte oppgraderinger. Legg
 459 til noen sosiale bevis i blandingen – en strøm av varsler om hvor godt
 460 vennene dine klarer det – og før du vet av det, kjøper du virtuelle
 461 oppgraderinger for å komme opp til neste nivå.
 462     </p><p>
 463       Selskaper har steget og falt på disse teknikkene, og de
 464 <span class="quote">«<span class="quote">fallende</span>»</span> delen er verdt å vie oppmerksomhet. Generelt
 465 tilpasser levende ting seg til stimuli: Noe som er veldig overbevisende
 466 eller bemerkelsesverdig når du først møter det, falmer med repetisjon til du
 467 slutter å legge merke til det helt. Tenk på lyden fra kjøleskapet, som
 468 irriterer deg når det starter opp, men som forsvinner helt i bakgrunnen,
 469 slik at du bare legger merke til den når det stopper igjen.
 470     </p><p>
 471       Det er derfor atferdskondisjonering bruker <span class="quote">«<span class="quote">periodiske
 472 forsterkningsmetodikker.</span>»</span> I stedet for å gi deg et jevnt drypp av
 473 oppmuntring eller tilbakeslag, fordeler spill og spill-lignende tjenester
 474 belønninger med et randomisert oppsett - ofte nok til å holde deg
 475 interessert og tilfeldig nok til at du aldri helt kan finne mønsteret som
 476 ville gjøre det kjedelig.
 477     </p><p>
 478       Periodiske forsterkninger er et kraftig atferdsverktøy, men det
 479 representerer også et kollektivt handlingsproblem for
 480 overvåkingskapitalismen. <span class="quote">«<span class="quote">Engasjementsteknikkene</span>»</span> er oppfunnet
 481 av atferdseksperter i overvåkingskapitalistiske selskaper og kopieres raskt
 482 over hele sektoren. Slik at det som starter som en mystisk overbevisende
 483 stimuli i utformingen av en tjeneste – som <span class="quote">«<span class="quote">trykk for å
 484 oppdatere</span>»</span> eller varsler når noen liker innleggene eller siden din,
 485 og som karakteren din inviteres til, mens den er midt i et kjedelig,
 486 allestedsnærværende hovedoppdrag. Videre tikker de tilfeldige dryppene fra
 487 din mobil, som det er umulig å ta tak i, og som blir til en grå lydvegg når
 488 hver enkelt app og nettsted arbeider.
 489     </p><p>
 490       Fra overvåkingskapitalistens synspunkt blir vår adaptive kapasitet som en
 491 skadelig bakterie som frarøver den matkilden – som er vår oppmerksomhet – og
 492 nye teknikker for å hekte denne oppmerksomheten er som ny antibiotika som
 493 kan brukes til å bryte vårt forsvar og ødelegge vår selvbestemmelse. Og der
 494 <span class="emphasis"><em> er</em></span> slike teknikker. Hvem kan glemme den store
 495 Zynga-epidemien, da alle våre venner ble fanget i
 496 <span class="emphasis"><em>FarmVille</em></span>s endeløse, tankeløse dopaminsløyfer? Men hele
 497 bransjen hopper på hver ny oppmerksomhets-kommanderende teknikk, som så
 498 brukes så ukritisk at antibiotikaresistens setter inn. Gitt nok repetisjon
 499 utvikler nesten alle immunitet mot selv de kraftigste teknikkene - og innen
 500 2013, to år etter Zyngas topp, hadde brukerbasen halvert seg.
 501     </p><p>
 502       Ikke alle, selvfølgelig. Noen mennesker tilpasser seg aldri stimulanser,
 503 akkurat som noen mennesker aldri slutter å høre summingen av kjøleskapet.
 504 Dette er grunnen til at de fleste som er utsatt for spilleautomater spille
 505 dem for en stund og deretter går videre mens en liten og tragisk minoritet
 506 bruker barnas oppsparte studiemidler, kjøper voksen bleier, og plasserer seg
 507 foran en maskin til de kollapser.
 508     </p><p>
 509       Men overvåkingskapitalismens marginer på atferdsendring stinker. Tredobling
 510 av hastigheten når noen kjøper et skjermelement høres bra ut <a class="ulink" href="https://www.forbes.com/sites/priceonomics/2018/03/09/the-advertising-conversion-rates-for-every-major-tech-platform/#2f6a67485957" target="_top">
 511 med mindre grunnprisen er langt mindre enn 1 % </a> med en forbedret
 512 hastighet på ... fortsatt mindre enn 1 %. Selv spilleautomater med mynt
 513 bruker mynter for hvert spinn, mens overvåkingskapitalismen raker inn
 514 uendelige brøkerdeler av mynter.
 515     </p><p>
 516       Spilleautomatenes høye avkastning betyr at de kan være lønnsomme bare ved å
 517 tømme formuene til den lille gjenstående delen av personer som er patologisk
 518 sårbare for dem og ikke kan tilpasse seg triksene deres. Men
 519 overvåkingskapitalismen kan ikke overleve på brøkdeler av mynter som bringes
 520 inn fra sårbare. Det er derfor, etter at den store Zynga epidemien endelig
 521 hadde brent seg ut, kunne det lille antallet fortsatt avhengige spillere
 522 fortsatt opprettholde spillet som et globalt fenomen. Og nye kraftige
 523 oppmerksomhetsvåpen er ikke lett å finne, som det fremgår av de mange årene
 524 siden forrige gang Zynga hadde en hit. Til tross for hundrevis av millioner
 525 dollar som Zynga må bruke på å utvikle nye verktøy for å sprenge gjennom vår
 526 tilpasning, har det aldri klart å gjenta den heldige treffet som haket inn
 527 så mye av vår oppmerksomhet for et kort øyeblikk i 2009. Kraftsentra, som
 528 Supercell, har klart seg litt bedre, men de er sjeldne har mange bortkastede
 529 feil for hver suksess.
 530     </p><p>
 531       Sårbarheten fra avgrensede deler av befolkningen til dramatisk, effektiv
 532 bedriftsmanipulasjon, er et reelt anliggende som er verdig vår oppmerksomhet
 533 og energi. Men det er ikke en eksistensiell trussel mot samfunnet.
 534     </p></div></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="if-data-is-the-new-oil-then-surveillance-capitalisms-engine-has-a-leak"></a>Hvis data er den nye oljen, så har overvåkningskapitalismen motorlekkasje</h2></div></div></div><p>
 535     Dette tilpasningsproblemet gir en forklaring på en av
 536 overvåkingskapitalismens mest alarmerende egenskaper: dens nådeløse sult
 537 etter data og dens endeløse utvidelse av evnen til datainnsamling ved
 538 spredning av sensorer, nettovervåking og oppkjøp av datastrømmer fra
 539 tredjeparter.
 540   </p><p>
 541     Zuboff observerer dette fenomenet og konkluderer med at data må være svært
 542 verdifulle hvis overvåkingskapitalismen er så sulten på det. (I hennes ord:
 543 <span class="quote">«<span class="quote">Akkurat som industriell kapitalisme ble drevet til kontinuerlig
 544 intensivering av produksjonsmidlene, så nå er overvåkingskapitalister og
 545 deres markedsaktører låst inn i den kontinuerlige intensiveringen av
 546 virkemidler for atferdsmodifisering og innsamlingskraftens makt. </span>»</span>)
 547 Men hva om den grådige appetitten er fordi dataene har en så kort
 548 halveringstid - fordi folk så raskt herdes mot nye, datadrevne
 549 overtalelsesteknikker - at selskapene er låst i et våpenkappløp mot vårt
 550 glemsomme system? Hva om det hele er en Red Queen's rase hvor de må løpe
 551 stadig raskere - samle stadig mer data - bare for å holde seg på samme sted?
 552   </p><p>
 553     Selvfølgelig fungerer alle Storteknolgiens overtalelsesteknikker sammen med
 554 hverandre, og innsamling av data er nyttig utover bare til atferdsmessig
 555 lureri.
 556   </p><p>
 557     Hvis noen ønsker å rekruttere deg til å kjøpe et kjøleskap eller bli med i
 558 en pogrom, kan de bruke profilering og målretting for å sende meldinger til
 559 folk de bedømmer for å gi gode salgsutsikter. Meldingene i seg selv kan være
 560 villedende, og gjør påstander om ting du ikke er veldig kunnskapsrik om
 561 (matsikkerhet og energieffektivitet, eller eugenikk og historiske påstander
 562 om rasemessig overlegenhet). De kan bruke søkemotoroptimalisering og/eller
 563 hærer av falske korrekturlesere og kommentatorer og/eller betalt plassering
 564 for å dominere diskursen, slik at ethvert søk etter ytterligere informasjon
 565 tar deg tilbake til meldingene sine.  Og til slutt kan de avgrense de
 566 forskjellige banene ved hjelp av maskinlæring og andre teknikker for å finne
 567 ut hva slags tonehøyde som fungerer best på noen som deg.
 568   </p><p>
 569     Hver fase av denne prosessen drar nytte av overvåking: Jo flere data de har,
 570 jo mer presist kan de profilere deg og målrette deg mot bestemte
 571 meldinger. Tenk på hvordan du ville selge et kjøleskap, hvis du visste at
 572 garantien på prospektets kjøleskap nettopp er utløpt, og at de forventer en
 573 skatterabatt i april.
 574   </p><p>
 575     Jo mer data de har, desto bedre kan de lage villedende meldinger - hvis jeg
 576 vet at du liker slektsforskning, kan jeg ikke prøve å mate deg
 577 pseudovitenskap om genetiske forskjeller mellom <span class="quote">«<span class="quote"> raser,</span>»</span>
 578 stikker i stedet til konspiratoriske hemmelige historier om <span class="quote">«<span class="quote">
 579 demografi</span>»</span> og lignende.
 580   </p><p>
 581     Facebook hjelper deg også med å finne personer som har de samme motbydelige
 582 eller antisosiale synspunktene som deg. Det gjør det mulig å finne andre
 583 mennesker som ønsker å bære bambusfakler gjennom gatene i Charlottesville i
 584 Confederate-utstyr. Det kan hjelpe deg med å finne andre mennesker som
 585 ønsker å bli med i militsen din og gå til grensen i å lete etter
 586 udokumenterte innvandrere å terrorisere. Det kan hjelpe deg å finne folk som
 587 deler din tro på at vaksiner er gift og at jorden er flat.
 588   </p><p>
 589     Det er en måte der målrettet markedsføring særskilt har fordeler for de som
 590 fremmer sosialt uakseptable saker: Den er usynlig.  Rasisme er spredt over
 591 et stort geografisk områdæ, og det er få plasser der rasister — og kun
 592 rasister — samles.  Dette tilsvarer problemet med å selge kjøleskap i at
 593 potensielle kjøleskapskjøpere er geografisk spredt og det er få plasser der
 594 du kan kjøpe reklameplass som i all hovedsak kun vil bli sett av
 595 kjøleskapskunder.  Men kjøp av kjøleskap er sosialt akseptabelt, mens det å
 596 være nazist er det ikke, så du kan kjøpe en reklametavle eller reklamere i
 597 avisens sportsdel for kjøleskapene, og den eneste potensielle ulempen er at
 598 reklamen din vil bli sett av masse folk som ikke ønsker å kjøpe kjøleskap
 599 som gir store unødvendige kostnader.
 600   </p><p>
 601     Men selv om du ønsker å reklamere for din nazi-bevegelse på en reklametavle
 602 eller på TV i beste sendetid eller i sportsdelen av avisen, så vil du slite
 603 med å finne noen som er villig til å selge deg reklameplass, delvis fordi de
 604 er uenige i ditt syn og delvis fordi de frykter negative konsekvenser
 605 (boykott, skadet omdømme, etc) fra andre folk som er uenige med deg.
 606   </p><p>
 607     Målrettet reklame løser dette problemet: På Internettet kan hver person få
 608 forskjellige reklameeksponeringer, som betyr at du kan kjøpe reklamer som
 609 kun vises til personer som gir inntrykk av å være nazister, og ikke til folk
 610 som hater nazister. Når budskapet når feil mottaker, når noen som hater
 611 rasisme blir vist reklame for å rekruttere rasister, så kan det bli litt
 612 krøll. Plattformen eller publikasjonen kan få rasende fordømmelser enten
 613 offentlig eller privat. Men egenskapene til risikoen som en kjøper av
 614 reklame på nettet tar på seg, er forskjellig fra risikoen til en
 615 tradisjonell utgiver eller reklametavleeier som ønsker å publisere
 616 nazi-reklame.
 617   </p><p>
 618     Reklamer på nettet plasseres av algoritmer som megler mellom ulike
 619 økosystemer av selvbetjente plastformer som enhver kan kjøpe reklame
 620 gjennom, hvilket gjør at nazi-reklame som dukker opp i din
 621 favorittpublikasjon på nettet ses ikke på publikasjonens moralske fallitt,
 622 men derimot som en feil som oppstår i en fjern underleverandør av
 623 reklame. Når en publikasjon får klager om en støtende annonse som dukker opp
 624 på et av sine enheter, så kan den ta noen grep for å blokkere den reklamen,
 625 men nazistene kan kjøpe en litt anderledes reklame fra en annen megler
 626 rettet mot den samme enhet. Og uansett forstår Internettbrukerne i stadig
 627 større grad at når de ser en reklame, så er det sannsynlig at de som
 628 reklamerer ikke valgte publikasjonen, og at publikasjonen ikke aner hvem som
 629 reklamerer hos dem.
 630   </p><p>
 631     Disse lagene av omdirigering mellom de som reklamerer og utgiverne fungerer
 632 som moralske buffer: Dagens moralske konsensus er i stor grad at utgiverne
 633 ikke bør holdes ansvarlig for reklamen som dukker opp på sidene deres fordi
 634 de ikke har aktivt valgt å plassere disse reklamene der.  Nazistene er,
 635 takket være dette, i stand til å overkomme signifikante hindre for å
 636 organisere sin bevegelse.
 637   </p><p>
 638     Data har et komplekst forhold til det å dominere. Når du kan spionere på
 639 kundene dine så kan du få varsel når de foretrekker dine rivaler og det gir
 640 deg mulighet til å gjøre det bedre enn konkurrentene dine i neste omgang.
 641   </p><p>
 642     Viktigere, hvis du kan dominere informasjonsområdet samtidig med innsamling
 643 av data, så kan du forsterke andre villedende taktikker fordi det er
 644 vanskeligere å bryte ut av nettet av svik som du spinner. Dominering, det
 645 vil si til slutt å bli et monopol, og ikke dataene i seg selv, er
 646 drivkraften som gjør enhver taktikk verdt å utnytte fordi monopolistisk
 647 dominering fratar ditt mål enhver fluktrute.
 648   </p><p>
 649     Hvis du er en nazist som vil sikre at dine potensielle kun ser villedende og
 650 bekreftende informasjon når de søker etter mer, så kan du forbedre oddsene
 651 dine ved å gi dem søkeord som de vil bruke i din initielle kommunikasjon. Du
 652 trenger ikke eie de 10 første resultatene for <span class="quote">«<span class="quote">undertrykking av
 653 stemmer</span>»</span> hvis du kan overbevise dine mål om å begrense sine søke ord
 654 til <span class="quote">«<span class="quote">stemmejuks</span>»</span>, hvilket gir en helt annen gruppe
 655 søkeresultater.
 656   </p><p>
 657     Overvåkningskapitalister er som scenementalister som påstår at deres
 658 ekstraordinære forståelse av menneskelig oppførsel lar dem gjette hvilket
 659 ord du skrev ned og brettet sammen i lommen din, men som i virkeligheten
 660 bruker fordekte hjelpere, skjulte kamera, fingerferdigheter og direkte
 661 memorering for å gjøre deg forbløffet.
 662   </p><p>
 663     Eller kanskje er de mer som sjekke-kunstnere, denne misogynistiske kulten
 664 som lover å hjelpe klønete menn å ha sex med kvinner ved å lære dem
 665 <span class="quote">«<span class="quote">nevrolinguistisk programmerings</span>»</span>-fraser, kroppsspråkteknikker
 666 og psykologiske manipulasjonsteknikker ala <span class="quote">«<span class="quote">negging</span>»</span> — ved å
 667 komme med uønskede negative tilbakemeldinger til kvinner for å senke deres
 668 selvtillit og fange deres interesse.
 669   </p><p>
 670     Noen sjekke-kunstnere klarer til slutt å overbevise kvinner om å bli med dem
 671 hjem, men det er ikke fordi disse mennene har klart å finne ut hvordan en
 672 overstyrer kvinners kritiske tankeevner. I stedet er sjekke-kunstnernes
 673 <span class="quote">«<span class="quote">suksesshistorier</span>»</span> en blanding av kvinner som var ute av stand
 674 til å samtykke, kvinner som ble presset, kvinner som var beruset,
 675 selv-destruktive kvinner, og noen få kvinner som var edru og hadde kontroll
 676 over seg selv, men som ikke forsto med en gang at de var sammen med
 677 forferdelige menn og korrigerte feilen så raskt de kunne.
 678   </p><p>
 679     Sjekke-kunstnere <span class="emphasis"><em>tror</em></span> de har oppdaget en hemmelig
 680 bakdør som overstyrer kvinners kritiske evner, men det har de ikke. Mange av
 681 taktikkene de benytter seg av, som negging, er blitt poenget i vitser (på
 682 samme måte som folk vitser om dårlig annonsemålretting), og det er en stor
 683 sjanse for at enhver de forsøker disse teknikkene på, umiddelbart vil
 684 gjenkjenne teknikken og avvise mennene som bruker dem som uhelbredelige
 685 tapere.
 686   </p><p>
 687     Sjekkekunstnere er beviset på at folk kan tro de har utviklet et system for
 688 tankekontroll <span class="emphasis"><em>selv når det ikke virker</em></span>. Sjekkekunstnere
 689 utnytter ganske enkelt det faktum at en-til-en-million-sjanser kan slå til
 690 hvis du gjør en million forsøk, og så antar de ganske enkelt at de øvrige
 691 999 999 gangene gjennomførte de ganske enkelt teknikken feil og bestemte seg
 692 for å gjøre det bedre neste gang. Det er bare en annen gruppe mennesker som
 693 lar seg overbevise av sjekkekunstnernes mytologi, og det er potensielle
 694 sjekkekunstere hvis angst og usikkerhet gjør den sårbare for svindlere og
 695 menn med vrangforestillinger som overbeviser dem om at hvis de betaler for
 696 veiledningen og følger instruksene, så vil de før eller senere
 697 lykkes. Sjekkekunstnere antar at de ikke klarer å sjekke opp kvinner fordi
 698 de er dårlige sjekkekunstnere, ikke fordi sjekkekunst er
 699 vrøvl. Sjekkekunstnerne er dårlige til å markedsføre seg til kvinner, men de
 700 er mye bedre til å markedsføre seg til menn som betaler for å lære seg
 701 sjekkekunstens hemmeligheter.
 702   </p><p>
 703     Dagligvarehandelpioneren John Wanamaker sies å ha klaget over at
 704 <span class="quote">«<span class="quote">Halvparten av pengene jeg bruker på markedsføring er
 705 bortkastet. Problemet er at jeg vet ikke hvilken halvpart.</span>»</span> Det
 706 faktum at Wanamaker tenkte at kun halvparten av hans markedsføringsutgifter
 707 var bortkastet er hyllest til hvor overbevisende lederne i
 708 markedsføringbransjen er, som er <span class="emphasis"><em>mye</em></span> flinkere til å
 709 overtale potensielle klienter om å kjøpe tjenester fra dem enn de er til å
 710 overbevise allmenheten om å kjøpe varene fra kundene deres.
 711   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="what-is-facebook"></a>Hva er Facebook?</h2></div></div></div><p>
 712     Facebook meldes å være kilden til all moderne pest, og det er ikke vanskelig
 713 å forstå hvorfor. Noen teknologiselskaper ønsker å låse kundene sine inne
 714 mens de tjener penger på å kontrollere tilgangen til markedet for
 715 programvare på enhetene deres, og melker dem på pris i stedet for å spionere
 716 på dem (som Apple). Noen selskaper bryr seg ikke om innlåsing av brukerne
 717 fordi de har funnet ut hvordan de kan spionere på dem uansett hvor de er og
 718 hva de gjør, og klart å omforme denne overvåkningen til penger
 719 (Google). Facebook er alene blant de vestlige teknologigigantene i å ha
 720 bygget sin forretning basert på å låse inne brukerne sine <span class="emphasis"><em>og
 721 samtidig</em></span> spionere på dem.
 722   </p><p>
 723     Overvåkningsregimet til Facebook er i grunnen helt uten like i den vestlige
 724 verden. Selv om Facebook forsøker å unngå at de er synlige på den offentlige
 725 verdensveven, ved å skjule det meste av det som foregår der fra folk med
 726 mindre de er logget inn på Facebook, så har selskapet likevel minelagt de
 727 fleste nettsider med overvåkningsverktøy i form av Facebook
 728 <span class="quote">«<span class="quote">Lik</span>»</span>-knapper som de som publiserer nettsider tar med på sine
 729 nettsteder for å fremme sine Facebook-profiler. Facebook gjør også ulike
 730 biblioteker og andre nyttige kodesnutter tilgjengelig for de som publiserer
 731 nettsider, som fungerer som overvåkningstentakler på nettsteder der de blir
 732 brukt, og sluser informasjon om besøkende på nettstedene — aviser,
 733 sjekkesteder, oppslagstavler — til Facebook.
 734   </p><div class="blockquote"><blockquote class="blockquote"><p>
 735       Det er ikke på grunn av at den er teknologi at Storteknologien kan utøve
 736 overvåkning, men på grunn av at den er <span class="emphasis"><em>stor</em></span>.
 737     </p></blockquote></div><p>
 738     Facebook tilbyr lignende verktøy til app-utviklere, slik at app-ene du
 739 bruker — spill, prompemaskiner, selskapsvurderingstjenester, app-er for å
 740 holde styr på skolehverdagen til ungene dine — vil sende informasjon om det
 741 du driver med til Facebook selv om du ikke har Facebook-konto og selv om du
 742 ikke laster ned eller bruker Facebook-app-er. Ikke nok med det, Facebook
 743 kjøper data fra tredjeparts datameglere om handlevaner, fysisk plassering,
 744 bruk av <span class="quote">«<span class="quote">loyalitetsprogrammer</span>»</span>, finansielle transaksjoner, etc,
 745 og kobler dette med personprofiler som utvikles basert på aktiviteten på
 746 Facebook, med app-er og den offentlige verdensveven.
 747   </p><p>
 748     Selv om det er enkelt å integrere fra verdensveven til Facebook, å linke til
 749 nyheter og slike ting, så er produktene pa Facebook generelt sett ikke
 750 tilgjengelig for integering tilbake til verdensveven. Du kan bake inn en
 751 twittermelding i en Facebook-melding, men hvis du forsøker å bake inn en
 752 Facebook-melding i en twittermelding, så får du bare en lenke tilbake til
 753 Facebook og må logge inn for å se den. Facebook har brukt ekstreme
 754 teknologiske og juridiske mottiltak for å hindre rivaler fra å gjøre det
 755 mulig for deres brukere å bake inn snutter fra Facebook i konkurrerende
 756 tjenester, eller lage alternative grensesnitt til Facebook som slår sammen
 757 nye meldinger på Facebook med de fra andre tjenester du bruker.
 758   </p><p>
 759     Og Facebook er utrolig populær, med 2.3 milliarder påståtte brukere (selv om
 760 mange tror dette tallet er blåst opp). Facebook har vært brukt til å
 761 organisere folkemord, rasistiske opptøyer, antivaksinebevegelser, flat
 762 jord-kulter og det politiske livet til noen av verdens styggeste, mest
 763 brutale autokrater. Det er i sannhet mange alarmerende ting som foregår i
 764 verden, og Facebook er implisert i mange av dem, så det er enkelt å
 765 konkludere med at disse stygge tingene som foregår er resultat av
 766 tankekontrollsystemet til Facebook, som de leier ut til enhver med penger å
 767 bruke på det.
 768   </p><p>
 769     For å forstå hvilken rolle Facebook har i formuleringen og mobiliseringen av
 770 antisosiale bevegelser, så må vi forstå Facebook sin splittede natur.
 771   </p><p>
 772     På grunn av at Facebook har veldig mange brukere og veldig mye data om disse
 773 brukerne, så er Facebook et veldig effektivt verktøy for å spore opp folk
 774 med egenskaper som det er vanskelig å finne. Det vil si den type egenskaper
 775 som er veldig spredt i populasjonen slik at markedsførere historisk har
 776 slitt med å finne kostnadseffektive måter å nå dem. La oss gå tilbake til
 777 kjøleskap. De fleste av oss bytter bare våre store apparater noen få ganger
 778 i livet. Hvis du er en kjøleskapsprodusent eller -forhandler, så har du bare
 779 disse små lukene i en forbrukers liv når de vurderer slike kjøp, og du må
 780 finne en måte å nå dem da. Alle som har lagt inn en statusendring etter å ha
 781 kjøpt et hus kan skrive under på at utstyrsprodusenter er utrolig desperate
 782 etter å nå enhver der det er den minste sjanse for at de er i markedet etter
 783 ett nytt kjøleskap.
 784   </p><p>
 785     Facebook gjør det <span class="emphasis"><em>mye</em></span> enklere å finne folk som handler
 786 kjøleskap . Det kan målrette annonser mot folk som har registrert et nytt
 787 boligkjøp, mot folk som har søkt etter råd om kjøp av kjøleskap, mot folk
 788 som har klaget over at kjøleskapet deres dør, eller en kombinasjon av
 789 disse. Det kan til og med målrette mot folk som nylig har kjøpt <span class="emphasis"><em>
 790 kjøkkenutstyr</em></span> med teorien om at noen som nettopp har erstattet
 791 komfyren og oppvaskmaskinen, kan være i humør til å kjøpe et kjøleskap. De
 792 aller fleste som nås av disse annonsene, vil ikke være i markedet etter et
 793 nytt kjøleskap, men — det avgjørende er at prosentandelen av personer som
 794 <span class="emphasis"><em>er</em></span> på jakt etter kjøleskap som disse annonsene når, er
 795 <span class="emphasis"><em>mye</em></span> større enn for noen gruppe som kan bli utsatt for
 796 tradisjonell, målrettet kjøleskapmarkedsføring i den fysiske verden.
 797   </p><p>
 798     Facebook gjør det også mye enklere å finne folk som har samme sjeldne sykdom
 799 som deg, noe som kan ha vært umulig i tidligere - den nærmeste med samme
 800 lidelse kan ellers være hundrevis av miles unna. Det gjør det lettere å
 801 finne folk som gikk på samme videregående skole som deg, selv om flere tiår
 802 er gått og dine tidligere klassekamerater har blitt spredt for alle
 803 verdenshjørner.
 804   </p><p>
 805     Facebook gjør det også mye enklere å finne folk som har samme sjeldne
 806 politiske overbevisning som deg. Hvis du alltid har hatt en hemmelig
 807 dragning for sosialisme, men aldri våget å ytre dette høyt for at du ikke
 808 skal bli kritisert av naboene dine, kan Facebook hjelpe deg med å oppdage
 809 andre mennesker som føler det på samme måte (og det kan kanskje vise deg at
 810 din dragning er mer utbredt enn du noen gang har trodd). Det kan gjøre det
 811 enklere å finne personer som deler din seksuelle identitet.  Og igjen, det
 812 kan hjelpe deg å forstå at det du trodde var en skammelig hemmelighet som
 813 bare påvirket deg, i virkeligheten var en allment delt egenskap, noe som gir
 814 deg både trygghet og mot til å komme ut til personene i livet ditt.
 815   </p><p>
 816     Alt dette presenterer et dilemma for Facebook: Målretting gjør selskapets
 817 annonser mer effektive enn tradisjonelle annonser, men det lar også
 818 annonsører se hvor effektiv annonsene deres er. Annonsører er glade for å
 819 høre at Facebook-annonser er mer effektive enn annonser på systemer med
 820 mindre sofistikert målretting, men annonsører kan også se at i nesten alle
 821 tilfeller blir annonsene ignorerer av personene som ser dem. Eller i beste
 822 fall fungerer annonsene på et underbevisst nivå, og skaper en ikke målbar
 823 <span class="quote">«<span class="quote">merkevaregjenkjenning</span>»</span>. Dette betyr at prisen per annonse er
 824 svært lav i nesten alle tilfeller.
 825   </p><p>
 826     For å gjøre ting verre, starter mange Facebook-grupper svært lite
 827 diskusjon. Ditt lokale fotballag, folk med samme sjeldne sykdom som deg, og
 828 de du deler en politisk interesse med, kan utveksle en merkelige miks av
 829 meldinger på kritiske tidspunkt, men i hverdagen er det ikke mye å si til
 830 dine gamle kamerater fra videregående, eller andre fotballkort-samlere.
 831   </p><p>
 832     Med bare diskusjoner som vokste frem <span class="quote">«<span class="quote">naturlig</span>»</span>, ville Facebook
 833 ikke generere nok trafikk til å selge tilstrekkelig med annonser til å tjene
 834 pengene den trenger for å kontinuerlig utvide ved å kjøpe opp sine
 835 konkurrenter mens de gir kjekke summer i utbytte til sine investorer.
 836   </p><p>
 837     Så Facebook må bidra til å øke trafikken ved å spore av egne fora: Hver gang
 838 Facebooks algoritme setter inn kontroversielt materiale — brennhete
 839 politiske artikler, konspirasjonsteorier, rasende historier — inn i en
 840 gruppe, så kan de kapre denne gruppens tiltenkte formål med sine fornærmende
 841 diskusjoner og ødelegge disse diskusjonene ved å gjøre dem til bitre,
 842 uproduktive argumentasjoner. Facebook er optimalisert for engasjement, ikke
 843 lykke, og det viser seg at automatiserte systemer er ganske flinke til å
 844 finne ting som folk vil bli sinte over.
 845   </p><p>
 846     Facebook <span class="emphasis"><em> kan</em></span> endre vår oppførsel, men bare på et par
 847 trivielle måter. For det første kan det låse inne alle dine venner og
 848 slektninger slik at du sjekker og sjekker og sjekker med Facebook for å
 849 finne ut hva de gjør; og for det andre, det kan gjøre deg sint og
 850 engstelig. Det kan tvinge deg til å velge mellom å bli avbrutt hele tiden av
 851 oppdateringer — en prosess som bryter konsentrasjonen og gjør det vanskelig
 852 å være innadvendt — samt holde kontakten med vennene dine. Dette er en svært
 853 begrenset form for mental kontroll, og det kan i virkeligheten bare gjøre
 854 oss ulykkelige, sinte og engstelige.
 855   </p><p>
 856     Dette er grunnen til at Facebooks målrettingssystemer – både de som vises
 857 til annonsører, og de som lar brukerne finne folk som deler deres interesser
 858 — er så moderne, glatte, og enkle å bruke, samtidig som meldingstavlene har
 859 et verktøysett som virker som om det ikke har endret seg siden midten av
 860 2000-tallet. Hvis Facebook leverte et tilsvarende fleksibelt og sofistikert
 861 system for meldingslesing til sine brukere, da kunne disse brukerne forsvart
 862 seg mot å få øynene dratt uten samtykke mot blikkfangende overskrifter om
 863 Donald Trump.
 864   </p><p>
 865     Jo mer tid du bruker på Facebook, jo flere annonser får de vist
 866 deg. Løsningen når for Facebooks annonser fungerer bare én gang av tusen, er
 867 at selskapet prøver å øke hvor mye tid du bruker på Facebook med en faktor
 868 på tusen. I stedet for å tenke på Facebook som et selskap som har funnet ut
 869 hvordan det skal vise deg nøyaktig den riktige annonsen på nøyaktig riktig
 870 måte for å få deg til å gjøre hva annonsørene vil, tenk på det som et
 871 selskap som har funnet ut hvordan det får deg til å slite deg gjennom en
 872 endeløs strøm av argumenter, selv om de får deg til å føle deg elendig, men
 873 bruker så mye tid på nettstedet, at det til slutt viser deg minst én annonse
 874 du reagerer på.
 875   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="monopoly-and-the-right-to-the-future-tense"></a>Monopol og retten til den spennende fremtiden</h2></div></div></div><p>
 876     Zuboff og andre nær henne er spesielt skremt over i hvilken grad overvåking
 877 gjør det mulig for selskaper å påvirke våre beslutninger, og tar bort noe
 878 hun poetisk kaller <span class="quote">«<span class="quote">retten til en spennende fremtid</span>»</span> - det vil
 879 si retten til å bestemme selv hva du vil gjøre i fremtiden.
 880   </p><p>
 881     Det er sant at annonsering kan gi utslag på en eller annen måte: Når du
 882 tenker på å kjøpe et kjøleskap, så kan en kjøleskapsannonse i rette øyeblikk
 883 avslutte letingen der og da. Men Zuboff legger enorm og utilbørlig vekt på
 884 den overbevisende kraften i overvåkingsbaserte påvirkningsteknikker. De
 885 fleste av disse fungerer ikke så bra, og de som gjør vil ikke fungere veldig
 886 lenge. Skaperne av disse påvirkningsverktøyene er sikre på at de en dag vil
 887 raffinere dem til systemer som gir total kontroll, men de er neppe upartiske
 888 observatører, og risikoen for at drømmene deres går i oppfyllelse er svært
 889 spekulativ.
 890   </p><p>
 891     Derimot er Zuboff ganske avslappet i forhold til 40 år med slapp
 892 antitrust-praksis, som har tillatt en håndfull selskaper å dominere
 893 Internettet, innlede en informasjonsalder med, <a class="ulink" href="https://twitter.com/tveastman/status/1069674780826071040" target="_top">som en person
 894 på Twitter bemerket</a>, fem gigantiske nettsteder hver fylt med
 895 skjermbilder fra de fire andre.
 896   </p><p>
 897     Hvis vi imidlertid skal bli skremt over at vi kan miste retten til å selv
 898 velge hva vår fremtid skal innebære, så bør monopolets ikke-hypotetiske,
 899 konkrete, her-og-nå skader være i fokus for vår debatt om teknologipolitikk.
 900   </p><p>
 901     La oss starte med <span class="quote">«<span class="quote">digitale restriksjonsmekanismer</span>»</span>. I 1998
 902 undertegnet Bill Clinton loven Digital Millennium Copyright Act (DMCA). Det
 903 er et komplekst lovverk med mange kontroversielle bestemmelser, men ingen
 904 mer enn § 1201, <span class="quote">«<span class="quote">anti-omgåelsesregelen</span>»</span>.
 905   </p><p>
 906     Dette er et heldekkede forbud mot å tukle med systemer som begrenser adgang
 907 til opphavsrettsbeskyttede verk. Forbudet er så gjennomgripende at det at
 908 det forbyr å fjerne en opphavsrettslås, selv uten at det skjer noe brudd på
 909 opphavsretten; Aktivitetene som DMCAs Seksjon 1201 skal forby, er ikke brudd
 910 på opphavsretten; snarere er det lovlige aktiviteter som frustrerer
 911 produsentenes kommersielle planer.
 912   </p><p>
 913     For eksempel var første store anvendelse av paragraf 1201 DVD-spillere, som
 914 en måte til å håndheve regionkodingen som er innebygd i disse
 915 enhetene. DVD-CCA, som standardiserte DVDer og DVD-spillere, delte verden
 916 inn i seks regioner og spesifiserte at DVD-spillere må sjekke hver plate for
 917 å finne ut hvilke regioner den var autorisert til å spilles av
 918 i. DVD-spillere ville ha sin egen tilsvarende region (en DVD-spiller kjøpt i
 919 USA ville være region 1 mens en kjøpt i India ville være region 5). Hvis
 920 spilleren og platens region sammenfalt, kunne spilleren spille av platen;
 921 Ellers ville den avvise den.
 922   </p><p>
 923     Men å se en lovlig produsert plate i et annet land enn den der du kjøpte
 924 den, er ikke brudd på åndsverksloven – det er det motsatte. Åndsverksloven
 925 pålegger kundene denne plikten for en film: Du må gå inn i en butikk, finne
 926 en lisensiert plate og betale prisen for den. Gjør det — og
 927 <span class="emphasis"><em>ingenting annet</em></span> — så har du og åndsverksloven ingenting
 928 usnakket.
 929   </p><p>
 930     Det faktum at et filmstudio ønsker å kreve mindre betaling fra indere enn
 931 amerikanere eller gi den ut i Australia senere enn i Storbritannia,  har
 932 ingen betydning for åndsverksloven. Når du lovlig anskaffer en DVD, er det
 933 ingen brudd på opphavsretten å se den uansett hvor du tilfeldigvis er.
 934   </p><p>
 935     Så produsenter av DVD og DVD-spillere skulle ikke være i stand til å bruke
 936 beskyldninger om brudd på opphavsretten for å straffe produsenter som laget
 937 ikke-samsvarende spillere som kunne spille plater fra en hvilken som helst
 938 region, eller reparasjonsverksteder som endret spillere for å la deg se
 939 disker utenfor riktig region, eller dataprogrammerere som laget programmer
 940 som lot deg gjøre dette.
 941   </p><p>
 942     Det er der Section 1201 i DMCA kommer inn: Ved å forby tukling med en
 943 <span class="quote">«<span class="quote">tilgangskontroll,</span>»</span> ga regelen produsenter og rettighetshavere
 944 grunnlag for å saksøke konkurrenter som markedsførte bedre produkter med
 945 lovlige egenskaper som markedet krevde (i dette tilfellet regionfrie
 946 spillere).
 947   </p><p>
 948     Dette er en stygg svindel mot forbrukerne, men etter hvert som tiden gikk,
 949 vokste Section 1201 til å omfatte en raskt voksende samling av enheter og
 950 tjenester etterhvert som dyktige produsenter har innsett visse ting:
 951   </p><div class="itemizedlist"><ul class="itemizedlist compact" style="list-style-type: disc; "><li class="listitem"><p>
 952         Alt utstyr med programvare i, inneholder et <span class="quote">«<span class="quote">opphavsrettsbeskyttet
 953 verk</span>»</span> – det vil si programvaren.
 954       </p></li><li class="listitem"><p>
 955         Datautstyr kan konstrueres slik at å rekonfigurere programvaren krever at en
 956 omgår en <span class="quote">«<span class="quote">adgangskontroll for opphavsrettsbeskyttede verk</span>»</span> som
 957 er et potensielt lovbrudd etter avsnitt 1201.
 958       </p></li><li class="listitem"><p>
 959         Dermed kan selskaper kontrollere kundenes atferd, etterat de har tatt med
 960 seg sine kjøp hjem, ved å designe produkter slik at alle ikke-tillatt bruk
 961 krever modifiseringer som bryter med Section 1201.
 962       </p></li></ul></div><p>
 963     Section 1201 blir da et middel for produsenter av alle beskrivelser til å
 964 tvinge sine kunder til å ordne sine saker til fordel for produsentenes
 965 aksjonærer i stedet til fordel for kundene selv.
 966   </p><p>
 967     Dette manifesterer seg på mange måter: Fra en ny generasjon blekkskrivere
 968 som bruker mottiltak for å forhindre tredjepartsblekk som ikke kan omgås
 969 uten juridisk risiko, - til lignende systemer i traktorer som hindrer
 970 tredjepartsteknikkere i å bytte ut produsentens egne deler, med deler som
 971 ikke gjenkjennes av traktorens kontrollsystem før den leveres med den
 972 opprinnelige produsentens opplåsingskode.
 973   </p><p>
 974     Nærmere hjemme bruker Apples iPhone disse tiltakene for å forhindre både
 975 tredjepartstjeneste og tredjeparts programvareinstallasjon. Dette gjør at
 976 Apple kan bestemme når en iPhone ikke kan repareres og må makuleres og
 977 deponeres, imot hensynet til iPhone-kjøperen. (Apple er notorisk kjent for
 978 sin negative miljøpolitikk som ødelegger gammel elektronikk i stedet for
 979 tillate delebruk.) Dette er en svært nyttig maktutøvelse, spesielt i lys av
 980 at administrerende direktør Tim Cook i januar 2019 advarte investorer om at
 981 selskapets fortjeneste er truet av kunder som velger å beholde sine
 982 telefoner lenger i stedet for å erstatte dem.
 983   </p><p>
 984     Apples bruk av opphavsrettslåser gjør det også mulig å monopolisere kundenes
 985 programvarekjøp til sine mobile enheter. App Stores kommersielle vilkår
 986 garanterer Apple en andel av alle inntekter generert av appene som selges
 987 der, noe som betyr at Apple får betalt når du kjøper en app fra butikken og
 988 deretter fortsetter å få betalt hver gang du kjøper noe ved hjelp av den
 989 appen. Dette kommer ra bunnlinjen til programvareutviklere, som enten må ta
 990 mer betalt eller akseptere lavere fortjeneste for sine produkter.
 991   </p><p>
 992     Avgjørende er det at Apples bruk av opphavsrett låser inn og gir den makt
 993 til å ta redaksjonelle beslutninger om hvilke apper du kan og ikke kan
 994 installere på din egen enhet. Apple har brukt denne makten til å <a class="ulink" href="https://www.telegraph.co.uk/technology/apple/5982243/Apple-bans-dictionary-from-App-Store-over-swear-words.html" target="_top">avise
 995 ordbøker</a> for å inneholde uanstendige ord; til <a class="ulink" href="https://www.vice.com/en_us/article/538kan/apple-just-banned-the-app-that-tracks-us-drone-strikes-again" target="_top">begrense
 996 politiske uttalelser</a>, spesielt fra apper som gjør sensitive
 997 politiske kommentarer, som en app som varsler deg hver gang en amerikansk
 998 drone dreper noen et sted i verden; Og til <a class="ulink" href="https://www.eurogamer.net/articles/2016-05-19-palestinian-indie-game-must-not-be-called-a-game-apple-says" target="_top">har
 999 innvending mot et spill</a> som kommenterte Israel-Palestina-konflikten.
1000   </p><p>
1001     Apple rettferdiggjør ofte monopolmakt over programvareinstallasjon ut fra
1002 sikkerhetshensynet, og hevder at dets verifisering av apper for butikken sin
1003 betyr at den kan beskytte brukerne mot apper som inneholder
1004 overvåkingskode. Men dette går begge veier. I Kina beordret regjeringen
1005 <a class="ulink" href="https://www.ft.com/content/ad42e536-cf36-11e7-b781-794ce08b24dc" target="_top">Apple
1006 til å forby salg av personvernverktøy</a> som VPN med unntak av VPN-er
1007 som bevisst hadde innført designfeil for å la den kinesiske staten tyvlytte
1008 på brukere. Fordi Apple bruker teknologiske mottiltak – med juridisk
1009 beskyttelse – for å blokkere kunder fra å installere uautoriserte apper, kan
1010 ikke kinesiske iPhone-eiere lett (eller lovlig) skaffe VPN-er som ville
1011 beskytte dem mot kinesisk statssnoking.
1012   </p><p>
1013     Zuboff kaller overvåkingskapitalismen en <span class="quote">«<span class="quote">bedragersk
1014 kapitalisme. </span>»</span> Kapitalismens teoretikere hevder at dens dyd er at den
1015 <a class="ulink" href="https://en.wikipedia.org/wiki/Price_signal" target="_top">aggregerer
1016 informasjon om forbrukernes beslutninger</a>, som produserer effektive
1017 markeder. Overvåkingskapitalismens antatte makt til å bemektige seg sine
1018 ofres frie vilje gjennom beregnede, superladede innflytelseskampanjer som
1019 betyr at våre markeder ikke lenger samler kundenes beslutninger fordi vi
1020 kunder ikke lenger bestemmer - vi får ordrer av overvåkingskapitalismens
1021 tankekontrollstråler.
1022   </p><p>
1023     Hvis vår bekymring er at markedene slutter å fungere når forbrukerne ikke
1024 lenger kan ta valg, bør opphavsrettslåser angå oss
1025 <span class="emphasis"><em>minst</em></span> så mye som innflytelseskampanjer. En
1026 påvirkningskampanje kan skyve deg til å kjøpe et bestemt telefonmerke. men
1027 opphavsretten låser denne telefonen helt til å bestemme hvor du får det
1028 reparert, hvilke apper som kan kjøre på den, og når du må kvitte deg med den
1029 i stedet for å fikse den.
1030   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="search-order-and-the-right-to-the-future-tense"></a>Søkerekkefølge og retten til en spennende fremtid</h2></div></div></div><p>
1031     Markedene fremstilles som en slags magi: Ved å oppdage ellers skjult
1032 informasjon formidlet av de frie valgene til forbrukerne, blir disse
1033 forbrukernes lokale kunnskap integrert i et selv korrigerende system som
1034 gjør effektive tildelinger - mer effektive enn noen datamaskin kunne
1035 beregne. Men monopoler er uforenlige med den oppfatningen. Når du bare har
1036 én appbutikk, bestemmer eieren av butikken – ikke forbrukeren – bredden i
1037 utvalget. Som Boss Tweed en gang sa: <span class="quote">«<span class="quote">Jeg bryr meg ikke om hvem som
1038 velger, så lenge jeg får lage innstillingen.</span>»</span> Et monopolisert marked
1039 er et valg der utvalget er valgt ut av monopolisten.
1040   </p><p>
1041     Oppsettet av stemmeseddelen skades mer ved eksistensen av
1042 søkeorden-monopoler. Googles søkemarkedsandel er ca 90%. Når Googles
1043 rangeringsalgoritme legger et resultat for et populært søkeord i topp 10,
1044 bidrar det til å bestemme atferden til millioner av mennesker. Hvis Googles
1045 svar på <span class="quote">«<span class="quote">Er vaksiner farlige?</span>»</span> er en side som motbeviser
1046 anti-vaksine konspirasjonsteorier, vil en betydelig del av publikum lære at
1047 vaksiner er trygge. Hvis Google derimot sender disse menneskene til et
1048 nettsted som bekrefter anti-vaksine-konspirasjonene, vil en betydelig del av
1049 disse millionene komme bort overbevist om at vaksiner er farlige.
1050   </p><p>
1051     Googles algoritme blir ofte lurt til å støtte desinformasjon som et tydelig
1052 søkeresultat. Men i disse tilfellene overtaler ikke Google folk til å
1053 ombestemme seg. det presenteres bare noe usant som faktum når brukeren ikke
1054 har noen grunn til å trekke det i tvil.
1055   </p><p>
1056     Dette gjelder enten søket er for <span class="quote">«<span class="quote">Er vaksiner farlige?</span>»</span> eller
1057 <span class="quote">«<span class="quote">beste restauranter i nærheten av meg.</span>»</span> De fleste brukere vil
1058 aldri se forbi den første siden med søkeresultater, og når det store
1059 flertallet bruker samme søkemotor, vil rangeringsalgoritmen gitt av denne
1060 søkemotoren bestemme utallige utfall (om å adoptere et barn, om å ha
1061 kreftkirurgi, hvor de skal spise middag, hvor de skal flytte, hvor du skal
1062 søke jobb) som i stor grad overgår mulige atferdsutfall diktert av
1063 algoritmiske overtalelsesteknikker.
1064   </p><p>
1065     Mange av spørsmålene vi stiller til søkemotorer har ingen empirisk riktige
1066 svar: <span class="quote">«<span class="quote">Hvor skal jeg spise middag?</span>»</span> er ikke et objektivt
1067 spørsmål. Selv spørsmål som har riktige svar (<span class="quote">«<span class="quote">Er vaksiner
1068 farlige?</span>»</span>) har ikke en empirisk overlegen kilde til det svaret. Mange
1069 sider bekrefter sikkerheten til vaksiner, så hvilken går først? Ved
1070 konkurranse kan forbrukerne velge mellom mange søkemotorer og holde seg til
1071 den der algoritme-dommen passer best for dem, men i en monopolsituasjon får
1072 vi alle våre svar fra samme sted.
1073   </p><p>
1074     Googles søkedominans er ikke et spørsmål om ren fortjeneste: Selskapet har
1075 utnyttet mange taktikker som ville ha blitt forbudt under klassiske,
1076 pre-Ronald-Reagan antitrust håndhevelsestandarder for å oppnå sin
1077 dominans. Tross alt er dette et selskap som har utviklet to store produkter:
1078 En veldig god søkemotor og en ganske god Hot-mail klone. Hver annen større
1079 suksess det har hatt - Android, YouTube, Google Maps, etc. - har kommet
1080 gjennom et oppkjøp av en gryende konkurrent. Mange av selskapets sentrale
1081 divisjoner, som reklameteknologien til DoubleClick, bryter med det
1082 historiske antitrustprinsippet om strukturell separasjon, som forbød
1083 bedrifter å eie datterselskaper som konkurrerte med sine kunder. Jernbaner,
1084 for eksempel, ble utestengt fra å eie fraktselskaper som konkurrerte med
1085 avsenderne de fraktet for.
1086   </p><p>
1087     Hvis vi er bekymret for at gigantiske selskaper skal undergrave markeder ved
1088 å strippe forbrukerne evne til å gjøre frie valg, så er kraftig
1089 antitrust-håndhevelse et utmerket middel. Hvis vi hadde nektet Google retten
1090 til å gjennomføre sine mange fusjoner, ville vi også sannsynligvis ha nektet
1091 det sin totale søkedominans. Uten denne dominansen ville ikke
1092 yndlings-teoriene, skjevhetene, feilene (og god dømmekraft) hos Googlec
1093 søkeingeniører og produktansvarlige ha en så stor effekt på forbrukervalg.
1094   </p><p>
1095     Dette gjelder også for mange andre selskaper. Amazon, en klassisk
1096 overvåkingskapitalist, er åpenbart det dominerende verktøyet for å søke i
1097 Amazon - selv om mange mennesker finner veien til Amazon gjennom Google-søk
1098 og Facebook-innlegg - og Amazon kontrollerer åpenbart Amazon-søk.  Det betyr
1099 at Amazons egenbetjente redaksjonelle valg – som å fremme sine egne
1100 varemerker fremfor rivaliserende varer fra selgerne, samt egne
1101 yndlingsteorier, fordommer og feil – bestemmer mye av det vi kjøper på
1102 Amazon. Og siden Amazon er den dominerende nettforhandler utenfor Kina, og
1103 siden det er oppnådd dominans ved å kjøpe opp både store rivaler og gryende
1104 konkurrenter i tross for historiske antitrust regler,  kan vi klandre
1105 monopolet for å frata forbrukere deres rett til en spennende fremtid og
1106 evnen til å forme markeder ved å gjøre informerte valg.
1107   </p><p>
1108     Ikke alle monopolister er en overvåkingskapitalist, men det betyr ikke at de
1109 ikke er i stand til å forme forbrukervalg som favner vidt. Zuboff hyller
1110 Apple for sin App Store og iTunes Store, og insisterer på at det å legge til
1111 prislapper på funksjonene på plattformene har vært hemmeligheten bak å
1112 motstå overvåking og dermed skape markeder. Men Apple er den eneste
1113 forhandleren som har lov til å selge på sine plattformer, og det er den nest
1114 største leverandøren av mobilenheter i verden. De uavhengige
1115 programvareleverandørene som selger gjennom Apples markedsplass anklager
1116 selskapet for de samme overvåkingssyndene som Amazon og andre store
1117 forhandlere: spionere på sine kunder for å finne lukrative nye produkter å
1118 lansere, å effektivt bruke uavhengige programvareleverandører til fritt å
1119 utforske markedet, og deretter tvinge dem ut av alle markeder de oppdager.
1120   </p><p>
1121     Ved bruk av opphavsrettslåser har Apples mobilkunder ikke lov til å bytte
1122 sine Iphone-apper til en rivaliserende forhandler hvis de ønsker det. Apple
1123 er åpenbart den eneste enheten som får bestemme hvordan den rangerer
1124 resultatene av søk i butikkene sine. Disse beslutningene sikrer at enkelte
1125 apper ofte installeres (fordi de vises på side én) og andre aldri
1126 installeres (fordi de vises på side én million). Apples beslutninger om
1127 søkedesign har en vesentlig større virkning på forbrukeratferd enn å påvirke
1128 kampanjer levert av overvåkingskapitalismens roboter for annonselevering.
1129   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="monopolists-can-afford-sleeping-pills-for-watchdogs"></a>Monopolister har råd til sovepiller for vakthundene</h2></div></div></div><p>
1130     Bare de mest ekstreme markedsideologene tror at markedene selvregulerer uten
1131 statlig tilsyn. Markeder trenger vakthunder – regulatorer, lovgivere og
1132 andre demokratiske kontrollelementer – for at de skal være pålitelige. Når
1133 disse vaktbikkjene sover på jobben, slutter markedene å aggregere
1134 forbrukervalg, fordi disse valgene begrenses av illegitime og villedende
1135 aktiviteter, som selskaper klarer å komme unna med, fordi ingen holder dem
1136 ansvarlige.
1137   </p><p>
1138     Men denne typen regulatoriske seire kommer ikke billig. I konkurransedyktige
1139 sektorer, der rivaler stadig svekker hverandres marginer, mangler
1140 enkeltbedrifter overskuddskapital til effektivt å lobbe for lover og
1141 forskrifter som tjener sine formål.
1142   </p><p>
1143     Mye av skadene fra overvåkningskapitalisem er resultat av svak eller
1144 manglende regulering. Dette fravær av regulering kommer av makten
1145 monopolistene har til å hindre sterkere regulering og å tilpasse den
1146 reguleringen som finnes slik at det gjør deres eksisterende
1147 forretningsmodell mulig.
1148   </p><p>
1149     Her er et eksempel: Når bedrifter samler inn for mye og lagrer våre data for
1150 lenge, så øker de risikoen for å utsettes for datalekkasje – du kan ikke
1151 lekke data du aldri har samlet inn, og når du sletter alle kopier av disse
1152 dataene, kan du ikke lenger lekke dem. I mer enn et tiår har vi levd gjennom
1153 en endeløs rekke av stadig forverrede datalekkasjer, hvert og ett helt
1154 avskyelig i omfanget og i hvor sensive disse datasettene har vært.
1155   </p><p>
1156     Men likevel fortsetter bedrifter av tre grunner å over-samle og over-beholde
1157 våre data:
1158   </p><p>
1159     <span class="strong"><strong>1. De er låst i det nevnte lemlestende
1160 våpenkappløpet opp mot vår evne til å sikre oppmerksomhet fra våre
1161 forsvarssystemer til å motstå de nye overtalelsesteknikker deres.</strong></span>
1162 De er også låst i et våpenkappløp med sine konkurrenter for å finne nye
1163 måter å målrette folk til sine salgssteder. Så snart de oppdager et mykt
1164 sted i vårt oppmerksomhetsforsvar (en mot-intuitiv, ulydig måte å målrette
1165 potensielle kjøleskap kjøpere på), begynner publikum å bli oppmerksom på
1166 taktikken, og konkurrentene deres hopper på den, fremskyndes dagen der alle
1167 potensielle kjøleskapskjøpere har kommet på banen.
1168   </p><p>
1169     <span class="strong"><strong>2. De tror på overvåkingskapitalismens
1170 historie.</strong></span> Data er billige å samle og lagre, og både tilhengere og
1171 motstandere av overvåkingskapitalismen har forsikret ledere og
1172 produktdesignere om at hvis du samler inn nok data, vil du kunne utføre
1173 trolldom med mental kontroll, og dermed overoppfylle salget. Selv om du
1174 aldri finner ut hvordan du kan tjene på dataene, noen andre vil til slutt
1175 tilby å kjøpe de fra deg for å gjøre et forsøk. Dette er kjennetegner alle
1176 økonomiske bobler: Å anskaffe en eiendel med antagelsen om at noen andre vil
1177 kjøpe den fra deg for mer enn du betalte for det, ofte å selge til noen
1178 andre til en enda høyere pris.
1179   </p><p>
1180     <span class="strong"><strong>3. Straffen for å lekke data er
1181 ubetydelig.</strong></span> De fleste land begrenser disse straffene til faktiske
1182 tap, noe som betyr at forbrukere som har fått sine data misbrukt, må vise
1183 til faktiske pengetap for å få en erstatning. I 2014 avslørte Home Depot at
1184 de hadde mistet kredittkortdata for 53 millioner av sine kunder. Saken ble
1185 avgjort ved å betale disse kundene rundt $ 0,34 hver - og en tredjedel av de
1186 $ 0,34 ble ikke engang betalt i kontanter. Det tok form av en kreditt til å
1187 dekke en i stor grad ineffektiv kreditt-overvåkingstjeneste.
1188   </p><p>
1189     Men skadene fra bruddene er mye mer omfattende enn de faktiske tapene som
1190 reglene fanger opp. Identitetstyver og svindlere er kloke og uendelige
1191 oppfinnsomme. Alle de store bruddene i vårt århundre blir kontinuerlig
1192 rekombinert, datasettene fusjonert og brukt til nye måter å gjøre folk til
1193 ofre på når dataene om dem var tilgjengelige.  Enhver rimelig, bevisbasert
1194 teori om avskrekking og kompensasjon for brudd ville ikke begrense skader
1195 til faktiske tap, men heller ville tillate brukere å stille krav for
1196 fremtidige tap.
1197   </p><p>
1198     Men selv de mest ambisiøse personvernreglene, som EUs personvernforordning,
1199 fanger langt fra opp de negative eksterne kostnadene ved plattformenes
1200 uaktsomme overinnsamling og overoppbevaring, og hvilke straffer den gir,
1201 forfølges ikke aggressivt opp av regulatorene.
1202   </p><p>
1203     Denne toleransen for – eller likegyldighet til – dataoverinnsamling og
1204 overoppbevaring kan delvis tilskrives plattformenes rene lobbyvirksomhet. De
1205 er så lønnsomme at de enkelt har råd til å kanalisere gigantiske summer for
1206 å bekjempe enhver reell endring - det vil si endring som ville tvinge dem
1207 til å internalisere kostnadene til overvåkingsaktivitetene deres.
1208   </p><p>
1209     Og så er det den statlige overvåkningen, som historien til
1210 overvåkingskapitalismen avviser som en overlevning fra en annen æra, da den
1211 store bekymringen var å bli fengslet som dissidenter, ikke å få din frie
1212 vilje strippet bort med maskinlæring.
1213   </p><p>
1214     Men statlig og privat overvåkning er nært relatert. Som vi så ble Apple
1215 innrullert av de kinesiske myndighetene som en vital samarbeidspartner i
1216 statlig overvåkning, og den eneste kostnadseffektive og gjennomførbare måten
1217 å gjennomføre masseovervåkning i den skalaen det gjøres av moderne stater,
1218 både <span class="quote">«<span class="quote">frie</span>»</span> og autokratiske stater, er å ta i bruk kommersielle
1219 tjenester.
1220   </p><p>
1221     Enten det er Google som brukes som stedsporingsverktøy av lokale
1222 politimyndigheter over hele USA, eller bruk av sporing av sosiale medier av
1223 Department of Homeland Security for å bygge mapper om deltakere i protester
1224 mot Immigrasjon and Customs Enforcement familieseparasjonspraksis, ville
1225 mulige strengere grenser for overvåkingskapitalisme, hindre statens egen
1226 overvåkingsevne. Uten Palantir, Amazon, Google og andre store
1227 teknologileverandører, ville amerikanske politifolk ikke være i stand til å
1228 spionere på svarte mennesker, ICE ville ikke være i stand til å håndtere
1229 innburing av barn ved USAs grense, og statlige velferdssystemer ville ikke
1230 være i stand til å rense sine ruller ved å kle inn grusomhet som faktabasert
1231 og hevde at fattige og sårbare mennesker ikke kvalifiserer for hjelp. I det
1232 minste bør noen av statenes uvilje mot meningsfulle tiltak for å dempe
1233 overvåking tilskrives dette symbiotiske forholdet.  Det er ingen statlig
1234 masseovervåking uten masse kommersiell overvåking.
1235   </p><p>
1236     Monopoler er nøkkelen til systemet med statlig massestatsovervåkning. Det er
1237 sant at mindre teknologifirmaer er tilbøyelige til å være mindre godt
1238 forsvart enn Storteknologien, hvis sikkerhetseksperter valgt ut fra toppen i
1239 sitt felt, og som får enorme ressurser til å sikre og overvåke sine systemer
1240 mot inntrengere. Men mindre bedrifter har også mindre å beskytte seg med:
1241 færre brukere med data som er mer fragmentert over flere systemer, og få det
1242 til et og et om gangen hos statlige aktører.
1243   </p><p>
1244     En konsentrert teknologisektor som samarbeider med myndighetene er en mye
1245 kraftigere allierte for å sikre oppgaven med en massestatsovervåking - enn
1246 en fragmentert gruppe bestående av mindre aktører. Den amerikanske
1247 teknologisektoren er liten nok til at alle topplederne passer inn rundt ett
1248 enkelt bord i et styrerom i Trump Tower i 2017, kort tid etter Trumps
1249 innsettelse. De fleste av de største aktørene byr på å vinne JEDI, Pentagons
1250 $ 10 milliarders Joint Enterprise Defense Infrastructure sky-kontrakt. I
1251 likhet med andre svært konsentrerte bransjer roterer Storteknolgien sine
1252 nøkkelansatte inn og ut av offentlig tjeneste, sender dem til tjeneste i
1253 Forsvarsdepartementet og Det hvite hus, og ansetter deretter tidligere
1254 Pentagon og tidligere DOD-toppansatte og offiserer i sine egne avdelinger
1255 for regjeringsrelasjoner.
1256   </p><p>
1257     De kan til og med få til en god sak for å gjøre dette: Tross alt, når det
1258 bare er fire eller fem store selskaper i en bransje, har alle som er
1259 kvalifisert til å regulere disse selskapene, fungert som en leder i minst et
1260 par av dem - fordi, på samme måte, når det bare er fem selskaper i en
1261 bransje, er alle kvalifisert for en seniorrolle i hvilket helst av dem,
1262 arbeider per definisjon hos en av de andre.
1263   </p><div class="blockquote"><blockquote class="blockquote"><p>
1264       Selv om overvåking ikke forårsaker monopoler, medvirker monopoler gjerne til
1265 overvåking.
1266     </p></blockquote></div><p>
1267     Bransjer som er konkurransedyktige er fragmentert - sammensatt av selskaper
1268 som er i strupen på hverandre hele tiden og svekker hverandres marginer med
1269 tilbud for å stjele deres beste kunder. Dette etterlater dem med en mye mer
1270 begrenset kapital til lobbyvirksomhet for å oppnå gunstige regler, og en mye
1271 vanskeligere jobb for å få alle til å bli enige om å samle sine ressurser
1272 til fordel for bransjen som helhet.
1273   </p><p>
1274     Overvåking kombinert med maskinlæring er antatt å være en eksistensiell
1275 krise, et artsdefinerende øyeblikk hvor vår frie vilje bare er noen få
1276 skritt fra å bli skallet vekk. Jeg er skeptisk til denne påstanden, men jeg
1277 <span class="emphasis"><em>tror virkelig</em></span> at teknologi utgjør en eksistensiell
1278 trussel mot vårt samfunn og muligens vår art.
1279   </p><p>
1280     Men den trusselen vokser frem fra monopol.
1281   </p><p>
1282     En av konsekvensene av teknologiens regulatoriske fangst, er at det kan
1283 flytte ansvaret for dårlige sikkerhetsbeslutninger over på kunder sine og
1284 samfunnet generelt. Det er helt normalt i teknologi for bedrifter å tilsløre
1285 arbeidet med sine produkter, for å gjøre dem bevisst vanskelig å forstå, og
1286 å true sikkerhetsforskere som søker en uavhengig gjennomgang av disse
1287 produktene.
1288   </p><p>
1289     DET er det eneste feltet der dette praktiseres: Ingen som bygger en bro
1290 eller et sykehus holder sammensetningen av stålet eller ligningene som
1291 brukes til å beregne belastningstress hemmelige. Det er en særlig bisarr
1292 praksis som fører, gang på gang, til groteske sikkerhetsfeil i et asburd
1293 omfang, med hele klasser av enheter avslørt som sårbare lenge etter at de er
1294 utplassert i feltet og benyttet på sensitive områder.
1295   </p><p>
1296     Kraften i monopoler som holder alle meningsfulle konsekvenser av brudd i
1297 sjakk, betyr at teknologiselskaper fortsetter å bygge forferdelige produkter
1298 som er usikre i designen, og som ender opp integrert i våre liv, er i
1299 besittelse av våre data, og koblet til vår fysiske verden. I årevis har
1300 Boeing slitt med etterdønningene av en rekke dårlige teknologibeslutninger
1301 som gjorde sin 737-flåte til en global paria, et sjeldent tilfelle der
1302 dårlige tekniske beslutninger har blitt alvorlig straffet i markedet.
1303   </p><p>
1304     Disse dårlige sikkerhetsbeslutningene forsterkes nok en gang ved bruk av
1305 opphavsrettslåser for å håndheve forretningsmodellbeslutninger rettet mot
1306 forbrukerne. Husk at disse låsene har blitt go-to-metoder for å forme
1307 forbrukeratferd, noe som gjør det teknisk umulig å bruke tredjeparts blekk,
1308 insulin, apper eller servicesteder til din lovlig ervervede eiendel.
1309   </p><p>
1310     Husk også at disse opphavsrettslåsene er stoppet av lovgivningen (for
1311 eksempel § 1201 i DMCA eller artikkel 6 i EUs opphavsrettsdirektiv fra 2001)
1312 som forbyr manipulering (<span class="quote">«<span class="quote">omgåelse</span>»</span>) av dem, og disse
1313 bestemmelsene har blitt brukt til å true sikkerhetsforskere som avslører
1314 sårbarheter uten tillatelse fra produsenter.
1315   </p><p>
1316     Dette summerer se til en produsents veto over sikkerhetsadvarsler og
1317 kritikk. Selv om dette er langt fra lovgivers hensikt med DMCA og dets
1318 søstervedtekter rundt om i verden, har Kongressen ikke grepet inn for å
1319 klargjøre bestemmelsene, og det vil den heller ikke fordi det ville være å
1320 gå mot interessene til mektige, store bedrifter men en ustoppelig
1321 lobbystyrke.
1322   </p><p>
1323     Opphavsrettslåser slår dobbelt: De skaper dårlige sikkerhetsbeslutninger som
1324 hverken kan undersøkes fritt eller diskuteres. Hvis markedene skal være
1325 maskiner for å samle informasjon (og hvis overvåkingskapitalismens nominelle
1326 tankekontrollstråler er det som gjør det til en <span class="quote">«<span class="quote">bedragersk
1327 kapitalisme</span>»</span> fordi den nekter forbrukerne makt til å ta
1328 beslutninger), gjør et opplegg med lovlig håndhevet uvitenhet om risikoen
1329 til produkter gir monopol en enda mer <span class="quote">«<span class="quote">bedragersk kapitalisme</span>»</span>
1330 enn overvåkingskapitalismens lobbykampanjer.
1331   </p><p>
1332     Og i motsetning til tankekontrollstråler er håndhevet taushet over sikkerhet
1333 et umiddelbart, dokumentert problem, og det <span class="emphasis"><em>utgjør</em></span> en
1334 eksistensiell trussel mot vår sivilisasjon og muligens vår art. Spredningen
1335 av usikre enheter - spesielt enheter som spionerer på oss, og spesielt når
1336 disse enhetene også kan manipulere den fysiske verden ved for eksempel å
1337 styre bilen eller snu en bryter på et kraftverk - er en slags
1338 teknologiskyld.
1339   </p><p>
1340     I programvaredesign refererer <span class="quote">«<span class="quote">-teknologiskyld</span>»</span> til gamle,
1341 innbakte beslutninger som viser seg å stå seg dårlige i ettertid. Kanskje en
1342 utvikler for lenge siden besluttet å legge inn en nettverksprotokoll laget
1343 av en leverandør som siden har sluttet å støtte den. Men alt i produktet er
1344 fortsatt avhengig av den utdaterte protokollen, og så, ved hver revisjon, må
1345 produktteamet omgå denne foreldede kjernen, legge til kompatibilitetslag,
1346 omgi den med sikkerhetskontroller som støtter forsvaret, og så videre. Disse
1347 Band-Aid-tiltakene binder sammen skylden, fordi hver påfølgende revisjon må
1348 kompensere også for <span class="emphasis"><em>dem</em></span>, som renter baller på seg for
1349 dårlige lån. Og som et dårlig lån, stiger rentekostnaden raskere enn du kan
1350 håpe på å betale den ned: Produktteamet må legge så mye energi i å
1351 opprettholde dette komplekse, skjøre systemet, at de ikke har tid igjen til
1352 å omstrukturere produktet fra grunnen av og <span class="quote">«<span class="quote">betale ned
1353 gjelden</span>»</span> en gang for alle.
1354   </p><p>
1355     Vanligvis resulterer teknologisk gjeld i en teknologisk konkurs: Produktet
1356 blir så skjørt og uholdbart at det svikter katastrofalt. Tenk på de gamle
1357 COBOL-baserte bank- og regnskapssystemene som veltet ved starten av
1358 pandemikrisen når de ble konfrontert med mengder av
1359 arbeidsledighetskrav. Noen ganger gjør dette slutt på produktet; noen ganger
1360 tar det selskapet med seg ned. Å bli fanget i mislighold av teknologisk
1361 gjeld er skremmende og traumatisk, akkurat som å miste huset ditt på grunn
1362 av konkurs er skremmende og traumatisk.
1363   </p><p>
1364     Men teknologisk gjeld forårsaket av opphavsrettslåser er ikke individuell
1365 gjeld; det er systemisk. Alle i verden er utsatt for denne overbelastningen,
1366 som under finanskrisen i 2008. Når denne gjelden forfaller – når vi står
1367 overfor en kaskade av sikkerhetsbrudd som truer global skipsfart og
1368 logistikk, matforsyningen, farmasøytiske produksjonslinjer, nødkommunikasjon
1369 og andre kritiske systemer som akkumulerer teknologisk gjeld delvis på grunn
1370 av tilstedeværelsen av bevisst usikre og bevisst ikkereviderbare
1371 opphavsrettslåser – vil det faktisk utgjøre en eksistensiell risiko.
1372   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="privacy-and-monopoly"></a>Monopol og vern av privatsfæren</h2></div></div></div><p>
1373     Mange teknologiselskaper har en klokkertro på at om bare de samler nok data
1374 om mange nok av våre aktiviteter, så er alt annet mulig — tankekontroll og
1375 endeløs fortjeneste. Dette er en hypotese som er umulig å falsifisere: Hvis
1376 data gir et teknologiselskap selv en liten forbedring i å forutse eller
1377 endre oppførsel, så erklærer selskapet at det har tatt første steg mot
1378 global dominans, uten noen ende i sikte. Hvis selskapet
1379 <span class="emphasis"><em>mislykkes</em></span> i å oppnå forbedring fra innsamling og
1380 analyse av data, så erklærer det at suksessen er rett rundt hjørnet,
1381 oppnåelig når det har mere data for hånden.
1382   </p><p>
1383     Overvåkingsteknologi er langt fra den første industrien som omfavner en
1384 meningsløs, selvsentrert tro som skader resten av verden, og det er ikke den
1385 første industrien til å tjene raust på en slik vrangforestilling. Lenge før
1386 hedgefondforvaltere hevdet (feilaktig) at de kunne slå S&amp;P 500, var det
1387 nok av andre <span class="quote">«<span class="quote">respektable</span>»</span> bransjer som har blitt avslørt som
1388 kvakksalvere i ettertid. Fra skaperne av stikkpiller med radium (en ekte
1389 ting!)  til de grusomme sosiopatene som hevdet at de kunne
1390 <span class="quote">«<span class="quote">kurere</span>»</span> homofile mennesker. Historien er fylt med tidligere
1391 respektable titaner i diskrediterte næringer.
1392   </p><p>
1393     Dette betyr ikke at det ikke er noe galt med Storteknologien og dens
1394 ideologiske dataavhengighet. Selv om gevinsten av overvåkningen i stor grad
1395 er overdrevet, så er skadevirkningene, om noe,
1396 <span class="emphasis"><em>underdrevet</em></span>.
1397   </p><p>
1398     Det er virkelig ironi her. Troen på overvåkingskapitalismen som en
1399 <span class="quote">«<span class="quote">ukontrollert kapitalisme</span>»</span> er drevet av troen på at markedene
1400 ikke ville tolerere bedrifter som er grepet av falske oppfatninger. Et
1401 oljeselskap som har falske oppfatninger om hvor oljen er, vil etter hvert gå
1402 konkurs ved å grave etter tørre brønner, tross alt.
1403   </p><p>
1404     Men monopolister får gjøre fryktelige ting i lang tid før de betaler
1405 prisen. Tenk på hvordan konsentrasjonen i finanssektoren tillot
1406 subprime-krisen å spre seg når obligasjonsvurderingsbyråer, regulatorer,
1407 investorer og kritikere var under innflytelse av en falsk tro på at kompleks
1408 matematikk kunne konstruere <span class="quote">«<span class="quote">fullt garderte</span>»</span> gjeldsinstrumenter
1409 som ikke kunne misligholdes. En liten bank som engasjerte seg i denne typen
1410 feilgrep ville ganske enkelt gå konk i stedet for å løpe fra den uunngåelige
1411 krisen, eller kanskje vokser seg så stor at det avverget dette helt. Men
1412 store banker var i stand til å fortsette å tiltrekke seg investorer, og da
1413 de endelig <span class="emphasis"><em>feilet</em></span>, kausjonerte verdens regjeringer dem
1414 ut. De verste lovbrytere i subprime-krisen er større enn de var i 2008, og
1415 brakte hjem mer fortjeneste og betale sine direktører enda større summer.
1416   </p><p>
1417     Storteknologien kan praktisere overvåking ikke bare fordi det er teknisk,
1418 men fordi de er <span class="emphasis"><em>store</em></span>. Grunnen til at hver nettutgiver
1419 bygger inn en Facebook <span class="quote">«<span class="quote">Like</span>»</span>-knapp, er at Facebook dominerer
1420 Internettets henvisninger til sosiale medier – og hver og en av disse
1421 <span class="quote">«<span class="quote">Like</span>»</span>-knappene spioner på alle som lander på en side som har
1422 dem (se også: Google Analytics bygger inn, Twitter-knapper osv.).
1423   </p><p>
1424     Grunnen til at verdens regjeringer har vært trege til å skape meningsfulle
1425 straffer for brudd på personvernet, er at Storteknologiens konsentrasjon har
1426 store fortjenester som kan brukes til å lobbiere mot disse straffene – og
1427 Storteknologiens konsentrasjon betyr at de involverte selskapene er i stand
1428 til å komme frem til en enhetlig forhandlingsposisjon, som superlader
1429 lobbyvirksomheten.
1430   </p><p>
1431     Grunnen til at de smarteste ingeniørene i verden ønsker å jobbe for
1432 Storteknologien er at Storteknologien bestemmer over brorparten av jobbene i
1433 teknologiindustrien.
1434   </p><p>
1435     Grunnen til at folk som er forferdet over Facebooks, Googles og Amazons
1436 datahåndteringspraksis fortsetter å bruke disse tjenestene, er at alle
1437 vennene deres er på Facebook; Google dominerer søk; og Amazon har satt alle
1438 de lokale kjøpmennene ut av drift.
1439   </p><p>
1440     Markeder med konkurranse ville svekke selskapenes lobbystyrke ved å redusere
1441 fortjenesten og sette dem opp mot hverandre i regulatoriske fora. Det ville
1442 gi kundene andre steder å gå til for å få sine elektroniske tjenester. Det
1443 ville gjøre selskapene små nok til å kunne regulere og bane vei for
1444 meningsfulle straffer for lovbrudd. Det ville la ingeniører med ideer som
1445 utfordret overvåkingsortodoksien skaffe seg kapital til å konkurrere med de
1446 etablerte. Det ville gi nettutgivere flere måter å nå publikum på, og kunne
1447 stille opp mot innpasningene til Facebook- og Google- og Twitter.
1448   </p><p>
1449     Med andre ord, mens overvåking ikke forårsaker monopoler, medvirker
1450 monopoler absolutt til overvåking.
1451   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="ronald-reagan-pioneer-of-tech-monopolism"></a>Ronald Reagan, en pioner for teknologimonopoler</h2></div></div></div><p>
1452     Teknologisk eksepsjonellisme er en synd, enten det praktiseres av
1453 teknologiens blinde talsmenn eller av dets kritikere. Begge disse leirene er
1454 tilbøyelige til å forklare bort monopolistisk konsentrasjon ved å sitere
1455 noen spesielle kjennetegn på teknologiindustrien, som nettverkseffekter
1456 eller første-fordeler fordel. Den eneste virkelige forskjellen mellom disse
1457 to gruppene er at de tekniske apologeter sier monopol er uunngåelig, så vi
1458 bør bare la teknologien ikke komme unna med sine overgrep, mens
1459 konkurranseregulatorer i USA og EU sier monopol er uunngåelig, så vi bør
1460 straffe teknologien for sine overgrep, men ikke prøve å bryte opp
1461 monopolene.
1462   </p><p>
1463     For å forstå hvordan teknologien ble så monopolistisk, er det nyttig å se på
1464 begynnelsen av forbrukerteknologiindustrien: 1979, året Apple II Plus ble
1465 lansert og ble den første vellykkede hjemmedatamaskinen. Det er også året da
1466 Ronald Reagan startet valgkampen for presidentvalget i 1980 – et løp han
1467 vant, noe som førte til et radikalt skifte i måten antitrusthensyn håndteres
1468 på i Amerika. Reagans kohort av politikere – inkludert Margaret Thatcher i
1469 Storbritannia, Brian Mulroney i Canada, Helmut Kohl i Tyskland og Augusto
1470 Pinochet i Chile – fortsatte med å vedta lignende reformer som til slutt
1471 spredte seg over hele verden.
1472   </p><p>
1473     Antitrusthistorien begynte nesten et århundre før alt dette med lover som
1474 Sherman Act, som rettet seg mot monopolister med den begrunnelse at
1475 monopoler var dårlige i og av seg selv - presser ut konkurrenter, og skapte
1476 <span class="quote">«<span class="quote">omfattende disøkonomi</span>»</span> (når et selskap er så stort at
1477 bestanddeler feiler og det tilsynelatende er håpløst å få problemene løst),
1478 og fange sine regulatorer i en slik grad at de kan komme unna med svært mye
1479 skade.
1480   </p><p>
1481     Så kom en fabulist ved navn Robert Bork, en tidligere generaladvokat som
1482 Reagan utnevnte til den betydningsfulle U.S. Court of Appeals for the
1483 D.C. Circuit som tatt ut av intet hadde laget en alternativ
1484 lovgivningshistorie om Sherman Act og dens etterfølgere. Bork insisterte på
1485 at disse statuttene aldri var rettet mot monopoler (til tross for et vell av
1486 bevis for det motsatte, inkludert de transkriberte talene til lovens
1487 forfattere), men heller at de var ment å forhindre
1488 <span class="quote">«<span class="quote">forbrukerskade</span>»</span> - i form av høyere priser.
1489   </p><p>
1490     Bork var en rotor, men han var en rotor med en teori som rike mennesker
1491 virkelig likte. Monopoler er en fin måte å gjøre rike mennesker rikere ved å
1492 tillate dem å motta <span class="quote">«<span class="quote">monopolleie</span>»</span> (det vil si større
1493 fortjeneste) og binde fast regulatorer, noe som fører til et svakere,
1494 gunstigere regulatorisk miljø med mindre beskyttelse for kunder,
1495 leverandører, miljø og arbeidere.
1496   </p><p>
1497     Borks teorier var spesielt spiselige for de samme kraftige påvirkere som
1498 støttet Reagan, og Reagans justisdepartement og andre etater begynte å
1499 inkorporere Borks antitrustdoktrine i sine håndhevingsbeslutninger (Reagan
1500 foreslo til og med Bork til et sete i Supreme Court, men Bork strøk klart
1501 ved senatets godkjenningshøring at 40 år senere bruker innsidere i
1502 D.C. begrepet <span class="quote">«<span class="quote">borkete</span>»</span> (tilsvarer klønete på norsk) for å
1503 referere til noen katastrofalt dårlige politiske prestasjoner).
1504   </p><p>
1505     Litt etter litt kom Borks teorier inn som hovedretning, og deres
1506 støttegrupper begynte å infiltrere den juridiske utdanningen, til og med å
1507 tilsette smakstoffer der medlemmer i rettsvesenet ble behandlet med
1508 overdådige måltider, morsomme utendørsaktiviteter og seminarer hvor de ble
1509 indoktrinert i forbrukerskadeteorien om antitrust. Jo mer Borks teorier tok
1510 tak, jo mer penger tjener monopolistene – og jo mer overskuddskapital hadde
1511 de til rådighet for å lobbe i enda flere borkiske
1512 antitrust-innflytelseskampanjer.
1513   </p><p>
1514     Historien om Borks antitrustteorier er et veldig godt eksempel på den slags
1515 skjulte konstruerte endringer i opinionen, som Zuboff advarer oss mot, hvor
1516 ideer  i utkanten blir den ortodokse hovedretningen. Men Bork forandrer ikke
1517 verden over natten. Han spilte et veldig langvarig spill, i over en
1518 generasjon, og han hadde en medvind fordi de samme kreftene som støttet
1519 oligarkiske antitrust teorier også støttet mange andre oligarkiske
1520 skiftninger i opinionen. For eksempel ideen om at beskatning er tyveri, at
1521 rikdom er et tegn på dyd, og så videre - alle disse teoriene ble fanget opp
1522 for å danne en sammenhengende ideologi som hevet ulikhet til en dyd.
1523   </p><p>
1524     I dag frykter mange at maskinlæring gjør det mulig for
1525 overvåkingskapitalismen å selge <span class="quote">«<span class="quote">Bork-som-tjeneste</span>»</span>, med
1526 internetthastighet, slik at du kan kontrakt et maskinlæringsselskap for å
1527 konstruere <span class="emphasis"><em>raske</em></span> endringer i offentlige holdninger uten
1528 å trenge kapitalen til å opprettholde et flergenerasjonsprosjekt som
1529 arbeider på lokalt, statlig, nasjonalt og globalt nivå innen næringsliv, jus
1530 og filosofi. Jeg tror ikke at et slikt prosjekt er sannsynlig, selv om jeg
1531 er enig i at dette i utgangspunktet er hva plattformene hevder å selge. De
1532 lyver bare om det. Storteknologien lyver hele tiden
1533 <span class="emphasis"><em>inkludert</em></span> i sitt salgsmateriale.
1534   </p><p>
1535     Ideen om at teknologi danner <span class="quote">«<span class="quote">naturlige monopoler</span>»</span> (monopoler
1536 som er det uunngåelige resultatet av realitetene i en bransje, for eksempel
1537 monopolene som tilflyter det første selskapet for å kjøre
1538 langdistansetelefonlinjer eller jernbanelinjer) er motbevist av teknologiens
1539 egen historie: I fravær av konkurransehemmende taktikk, var Google i stand
1540 til å detronisere AltaVista og Yahoo; Facebook var i stand til å avverge
1541 Myspace. Det er noen fordeler med å samle fjell av data, men disse
1542 datafjellene har også ulemper: ansvar (fra lekkasjer), redusert avkastning
1543 (fra gamle data), og institusjonell treghet (store selskaper, lik vitenskap,
1544 fremdrift med en begravelse om gangen).
1545   </p><p>
1546     Faktisk ble fremveksten av nettsteder en masseutryddelseshendelse for de
1547 eksisterende gigantiske, svært lønnsomme proprietære teknologiene som hadde
1548 kapital, nettverkseffekter, og vegger og vollgraver rundt sine
1549 virksomheter. Nettet viste at når en ny bransje er bygget rundt en
1550 protokoll, i stedet for et produkt, kan den kombinerte innflytelsen til alle
1551 som bruker protokollen for å nå sine kunder, eller brukere, eller samfunn,
1552 oppveie selv de mest massive produktene. CompuServe, AOL, MSN og en rekke
1553 andre proprietære inngjerdede hager, lærte denne leksjonen på den harde
1554 måten: Hver trodde det kunne holde seg atskilt fra nettet, og tilbød
1555 <span class="quote">«<span class="quote">kurering</span>»</span> og en garanti for konsistens og kvalitet i stedet
1556 for kaoset i et åpent system. Alle tok feil og endte opp med å bli absorbert
1557 inn i det offentlige nettet.
1558   </p><p>
1559     Ja, teknologien er sterkt monopolisert og er nå nært knyttet til
1560 industrikonsentrasjon, men dette har mer å gjøre med timing enn sine iboende
1561 monopolistiske tendenser. Teknologien ble født i det øyeblikket
1562 antitrust-håndhevelsen ble demontert, og teknologien falt inn i nøyaktig de
1563 samme patologiene som antitrust skulle beskytte mot. Som en første
1564 tilnærming er det rimelig å anta at teknologiens monopoler er et resultat av
1565 mangel på antimonopol-innsats og ikke de oppreklamerte unike egenskapene til
1566 teknologi, for eksempel nettverkseffekter, pionerfordeler, og så videre.
1567   </p><p>
1568     Til støtte for denne tesen, tilbyr jeg konsentrasjonen som alle
1569 <span class="emphasis"><em>andre</em></span> industrier har gjennomgått i samme periode. Fra
1570 profesjonell bryting, til varer i forbrukerpakninger, til leasing av
1571 næringseiendom, til bank, til sjøfrakt, til olje, til plateselskaper, til
1572 aviseierskap, til fornøyelsesparker, <span class="emphasis"><em>hver</em></span> industri har
1573 gjennomgått et massivt skifte i retning konsentrasjon. Det er ingen åpenbare
1574 nettverkseffekter eller pionerfordeler som utspiller seg i disse
1575 bransjene. Men uansett, oppnådde disse næringene sin konsentrerte status med
1576 taktikker som var forbudt før Borks triumf: Fusjon med store konkurrenter,
1577 kjøpe ut innovative nye markedsdeltakere, horisontal og vertikal
1578 integrasjon, og en pakke med konkurransehemmende taktikk, som en gang var
1579 ulovlig, men ikke lenger.
1580   </p><p>
1581     Igjen: Når du endrer lovene som er ment å forhindre monopoler og deretter
1582 monopoler dannes på akkurat den måten loven skulle forhindre, er det rimelig
1583 å anta at disse fakta er relatert.  Teknologikonsentrasjon kan lett
1584 forklares uten å ty til radikale teorier om nettverkseffekter - men bare
1585 hvis du er villig til å tiltale uregulerte markeder som tenderer i retning
1586 monopol. Akkurat som en livslang røyker kan gi deg hundre grunner til at
1587 deres røyking ikke forårsaket deres kreft (<span class="quote">«<span class="quote">Det var
1588 miljøgiftene</span>»</span>), har sanne troende i uregulerte markeder en hel pakke
1589 med overbevisende forklaringer på monopol i teknologi som holder
1590 kapitalismen intakt.
1591   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="steering-with-the-windshield-wipers"></a>Styring med vindusviskerne</h2></div></div></div><p>
1592     Det er 40 år siden Borks prosjekt om å rehabilitere monopoler tok av, og det
1593 er en og en halv generasjon siden, noe som er god tid til å ta en felles idé
1594 og få den til å virke besynderlig og omvendt. Før 1940-tallet kledde
1595 velstående amerikanere sine babygutter i rosa mens babyjenter hadde blå (en
1596 <span class="quote">«<span class="quote">delikat og lekker</span>»</span> farge). Mens kjønnsfarger åpenbart er helt
1597 vilkårlige, møter mange fortsatt denne nyheten med forbauselse og finner det
1598 vanskelig å forestille seg en tid da rosa er knyttet til maskulinitet.
1599   </p><p>
1600     Etter 40 år med utstudert ignorering av analyse og håndhevelse av
1601 antitrustlovgivning, er det ikke overraskende at vi alle nesten har glemt at
1602 antitrust eksisterer, at som vi husker, var vekst gjennom fusjoner og
1603 oppkjøp i stor grad forbudt etter loven, at strategier for å dominere
1604 markedet, som vertikal integrasjon, kunne sende et selskap til retten.
1605   </p><p>
1606     Antitrust er et ratt for samfunnets styring av markedet, og er første utvei
1607 for å holde potensielle verdensmestere i sjakk. Men Bork og kohorten hans
1608 fjernet rattet vårt for 40 år siden. Bilen tromler fortsatt av gårde, så vi
1609 rykker så hardt vi kan i alle <span class="emphasis"><em>andre</em></span> regulatorer i
1610 bilen, samt svinger desperat med dørene og ruller vinduene opp og ned i håp
1611 om at en av disse andre tingene gir en omstilling som lar oss velge hvor vi
1612 er på vei før vi velter utfor en klippe.
1613   </p><p>
1614     Det er som et virkelighetens science fiction-plott fra sekstitallet: Folk er
1615 fanget i et <span class="quote">«<span class="quote">generasjonsskip</span>»</span> som raser av sted mellom
1616 stjernene. Et skip som en gang ble styrt av forfedrene, mens nå, etter en
1617 stor katastrofe, har skipets mannskap glemt at de er på et skip og ingen vet
1618 lenger hvor kontrollrommet er. Ute av kontroll raser skipet mot slutten, og
1619 med mindre vi kan ta tilbake kontrollen og gjennomføre kurskorreksjon i
1620 tide, så er vi alle på tur mot en grusom død i hjertet av en sol.
1621   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="surveillance-still-matters"></a>Overvåking er fortsatt viktig</h2></div></div></div><p>
1622     Ingenting av dette er å minimere problemene med overvåking.  Overvåkning
1623 betyr noe, og Storteknologiens bruk av overvåkning <span class="emphasis"><em>er</em></span>
1624 en eksistensiell risiko for vår art, men det er ikke fordi overvåking og
1625 maskinlæring frarøver oss vår frie vilje.
1626   </p><p>
1627     Overvåkingen har blitt <span class="emphasis"><em>mye</em></span> mer effektiv takket være
1628 Storteknologien. I 1989 hadde Stasi – det østtyske hemmelige politiet – hele
1629 landet under overvåkning, et massivt foretak som rekrutterte hver sekstiende
1630 person til å tjene som informant eller etterretningsagent.
1631   </p><p>
1632     I dag vet vi at NSA spionerer på en betydelig fraksjon av hele verdens
1633 befolkning, og forholdet mellom overvåkingsagenter og overvåket er mer som
1634 1:10.000 (det er sannsynligvis i den lave enden da det forutsetter at hver
1635 amerikaner med topphemmelig klarering jobber for NSA i dette prosjektet - vi
1636 vet ikke hvor mange av disse klarerte personene som er involvert i NSAs
1637 spionasje , men det er definitivt ikke alle disse).
1638   </p><p>
1639     Hvordan utvidet forholdet mellom overvåkbare borgere seg fra 1:60 til
1640 1:10,000 på mindre enn 30 år? Det er takket være Storteknologien. Vårt
1641 utstyr og tjenester samler de fleste dataene som NSA utvinner til sitt
1642 overvåkingsprosjekt. Vi betaler for dette utstyret og de tjenestene de
1643 kobler seg til, og så utfører vi møysommelig dataregistreringsoppgavene
1644 knyttet til logging av fakta om våre liv, meninger og preferanser. Dette
1645 masseovervåkingsprosjektet har i stor grad vært ubrukelig for å bekjempe
1646 terrorisme: NSA kan <a class="ulink" href="https://www.washingtonpost.com/world/national-security/nsa-cites-case-as-success-of-phone-data-collection-program/2013/08/08/fc915e5a-feda-11e2-96a8-d3b921c0924a_story.html" target="_top">
1647 bare peke på en enkelt mindre suksesshistorie</a> der de brukte sitt
1648 datainnsamlingsprogram for å hindre et forsøk fra en amerikansk innbygger å
1649 overføre noen få tusen dollar til en oversjøisk terrorgruppe. Det er
1650 ineffektivt for mye av den samme grunnen som at kommersielle
1651 overvåkingsprosjekter i stor grad er ineffektive til å målrette reklame:
1652 Folk som ønsker å begå terrorhandlinger, lik folk som ønsker å kjøpe et
1653 kjøleskap, er ekstremt sjeldne. Hvis du prøver å oppdage et fenomen hvis
1654 basisandelen bare er en av en million med et instrument med en nøyaktighet
1655 på bare 99 %, kommer hver sanne positive til en kostnad på 9999 falske
1656 positive.
1657   </p><p>
1658     La meg forklare det igjen: Hvis en av en million mennesker er terrorist, så
1659 vil det bare være omtrent en terrorist i et tilfeldig utvalg med en million
1660 mennesker. Hvis testen for å oppdage terrorister er 99 % nøyaktig, vil den
1661 identifisere 10.000 terrorister i din million-personer prøve (1 % av en
1662 million er 10.000). For hver sann positiv, vil du få 9999 falske positive.
1663   </p><p>
1664     I virkeligheten blir nøyaktigheten for algoritmisk gjenkjenning av
1665 terrorisme langt under 99 %-merket, det samme gjør målrettingen av
1666 kjøleskapannonser. Forskjellen er at å bli feilaktig anklaget for å ville
1667 kjøpe et kjøleskap er en mindre plage, mens blir du feilaktig anklaget for å
1668 planlegge et terrorangrep kan det ødelegge livet ditt og livene til alle du
1669 elsker.
1670   </p><p>
1671     Massestatlig overvåking er bare mulig på grunn av overvåkingskapitalismen og
1672 dens ekstremt lavavkastnings systemer for annonsemålretting, som krever en
1673 konstant påfyll av personopplysninger for å for å knapt bli
1674 levedyktige. Overvåkingskapitalismens primære feilmodus er feilmålrettede
1675 annonser, mens massestatovervåkingens primære feilmodus er groteske
1676 menneskerettighetsbrudd, som tenderer mot et totalitært samfunn.
1677   </p><p>
1678     Statlig overvåking er ikke kun en snylter på Storteknologien som suger til
1679 data derfra uten å gi noe tilbake. I sannhet er de to i symbiose:
1680 Storteknologien suger opp våre data for spionbyråer, og spionbyråene sikrer
1681 at regjeringene ikke begrenser Storteknologiens aktiviteter så sterkt at det
1682 ikke lenger ville tjene spionbyråenes behov. Det er intet klart skille
1683 mellom statlig overvåking og overvåkingskapitalisme; de er avhengige av
1684 hverandre.
1685   </p><p>
1686     For å se hvordan dette virker i dag, så trenger vi ikke se lenger enn til
1687 Amazons enhet for hjemmeovervåking: dørklokken Ring og den tilhørende appen
1688 Neighbors. Ring - er et produkt som Amazon kjøpte og ikke utviklet internt -
1689 er en kameraaktivert dørklokke som strømmer videoopptak fra inngangsdøren
1690 til mobilenheten din. Neighbors-appen lar deg danne et overvåkingsnett for
1691 hele nabolaget med andre Ring-eiere, der du kan dele klipp av
1692 <span class="quote">«<span class="quote">mistenkelige individer</span>»</span>. Hvis du tenker at dette høres ut som
1693 en oppskrift på å la rasister bak gardinene virkelig gi krefter til sine
1694 mistanker mot personer med brun hud som går langs gatene, <a class="ulink" href="https://www.eff.org/deeplinks/2020/07/amazons-ring-enables-over-policing-efforts-some-americas-deadliest-law-enforcement" target="_top">har
1695 du rett</a>. Ring har blitt en <span class="emphasis"><em>de facto</em></span>, uoffisiell
1696 forlengelse av politiet uten noen irriterende tilsyn eller regler.
1697   </p><p>
1698     I midten av 2019 viste en rekke innsynsforespørsler at Amazon hadde inngått
1699 konfidensielle avtaler med mer enn 400 lokale politimyndigheter der
1700 myndighetene skulle markedsføre Ring og Neighbors mot å få tilgang til
1701 opptak fra Ring-kameraene. I teorien måtte politifolk be om tilgang til
1702 disse opptakene gjennom Amazon (og interne dokumenter viser at Amazon setter
1703 av betydelige ressurser for å trene opp politifolk i hvordan lage en
1704 troverdig forklaring når de gjør dette), men i praksis, hvis en Ring-kunde
1705 avviser en forespørsel fra politiet, så krever Amazon kun at myndighetene
1706 retter en formell henvendelse om opptaket til selskapet, for å få det
1707 utlevert.
1708   </p><p>
1709     Ring og politiet har funnet mange måter å flette sammen sine
1710 aktiviteter. Ring inngår hemmelige avtaler for å skaffe sanntidstilgang til
1711 911-utkallinger og strømmer deretter alarmerende meldinger om kriminalitet
1712 til brukere av Neighbors, som bidrar til å overbevise alle som vurderer en
1713 overvåkningsdørklokke, men er ikke sikker på om nabolaget deres er så farlig
1714 at det trengs.
1715   </p><p>
1716     Jo mer politiet følger overvåkingskapitalisten Ring, jo mer overvåkingsevne
1717 staten får. Politiet som stoler på private enheter for sin rettshåndhevelse,
1718 og deretter guides i retning utplasseringen av denne teknologien, mens
1719 selskapene returnere tjenesten ved lobbyvirksomhet mot regler som krever
1720 offentlig tilsyn med politiets overvåkingsteknologi. Jo mer politiet stoler
1721 på Ring og Neighbors, jo vanskeligere vil det være å vedta lover mot dem. Jo
1722 færre lover er det mot dem, jo mer vil politiet stole på dem.
1723   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="dignity-and-sanctuary"></a>Verdighet og tilfluktsted</h2></div></div></div><p>
1724     Men selv om vi kunne utøve demokratisk kontroll over våre stater og tvinge
1725 dem til å slutte å ransake overvåkingskapitalismens reservoarer av
1726 atferdsdata, så ville overvåkingskapitalismen fortsatt skade oss.
1727   </p><p>
1728     Dette er et område der Zuboff glimter til. Hennes kapittel om
1729 <span class="quote">«<span class="quote">tilfluktsted</span>»</span> — følelsen av å ikke bli observert — er en
1730 nydelig hyllest til introspeksjon, ro, oppmerksomt nærvær og stillhet.
1731   </p><p>
1732     Når du blir overvåket, blir noe endret.. Alle som har oppdratt et barn vet
1733 dette. Du kan se opp fra boken din (eller mer realistisk, fra mobilen) og
1734 fange barnet ditt i et øyeblikk av dyp realisering og vekst, et øyeblikk
1735 hvor de lærer noe som er helt i utkanten av sine evner, som krever
1736 fullstendig og intens konsentrasjon. Et øyeblikk er du oppslukt, har det
1737 sjeldne og vakre øyeblikket i fokus og utspille seg ut foran øynene dine, så
1738 ser barnet opp og ser at du ser det, og øyeblikket kollapser. For å vokse,
1739 trenger du å være og vise ditt autentiske selv, og i det øyeblikket er du
1740 sårbar som en eremittkrabbe som skynder seg fra ett skall til det neste. Den
1741 ømme, ubeskyttede veven du viser i det øyeblikket, er for delikate til å
1742 avsløre i nærvær av en annen, selv noen du stoler så betingelsesløst på som
1743 et barn stoler på sine foreldre.
1744   </p><p>
1745     I den digitale tidsalder er vårt sanne jeg uløselig knyttet til våre
1746 digitale liv. Søkehistorikken din er en løpende oversikt over spørsmålene du
1747 har fundert på. Posisjonshistorikken din er et arkiv over steder du har
1748 trukket mot og opplevelsene du har hatt der. Din sosiale graf avslører de
1749 ulike sidene av identiteten din, og folkene du er knyttet til.
1750   </p><p>
1751     Å få disse aktivitetene observert er å miste tilfluktstedet for ditt sanne
1752 jeg.
1753   </p><p>
1754     There’s another way in which surveillance capitalism robs us of our capacity
1755 to be our authentic selves: by making us anxious.  Surveillance capitalism
1756 isn’t really a mind-control ray, but you don’t need a mind-control ray to
1757 make someone anxious. After all, another word for anxiety is agitation, and
1758 to make someone experience agitation, you need merely to agitate them. To
1759 poke them and prod them and beep at them and buzz at them and bombard them
1760 on an intermittent schedule that is just random enough that our limbic
1761 systems never quite become inured to it.
1762   </p><p>
1763     Våre enheter og tjenester har <span class="quote">«<span class="quote">generelt formål</span>»</span> i det at de kan
1764 koble hva som helst eller hvem som helst til hva som helst eller hvem som
1765 helst, og de kan gjøre ethvert program som kan lages. Dette betyr at
1766 distraksjonsrektanglene i lommene våre passer på våre mest verdifulle
1767 øyeblikk med våre kjæreste og deres mest presserende eller tidskritiske
1768 meldinger (fra <span class="quote">«<span class="quote">blir sen, kan du hente ungen?</span>»</span> til <span class="quote">«<span class="quote">legen
1769 ga med dårlige nyheter og jeg trenger å snakke med deg MED EN GANG</span>»</span>)
1770 i tillegg til reklamer for kjøleskap og rekrutteringsmeldinger fra nazister.
1771   </p><p>
1772     Dag og natt vibrerer lommene våre, knuser konsentrasjonen vår og river i
1773 stykker de skjøre edderkoppspinnene av sammenehenger vi spinner når vi
1774 tenker gjennom vanskelige ideer. Hvis du låste noen inne i en celle og
1775 forstyrret dem på dette viset, så ville vi kalt det
1776 <span class="quote">«<span class="quote">søvnnektingstortur</span>»</span>, og det ville vært en <a class="ulink" href="https://www.youtube.com/watch?v=1SKpRbvnx6g" target="_top">krigsforbrytelse i følge
1777 Geneve-konvensjonen</a>.
1778   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="afflicting-the-afflicted"></a>Pine de plagede</h2></div></div></div><p>
1779     Effekten overvåkning har på vår evne til å være oss selv på ekte er ikke lik
1780 for alle mennesker. Noen av oss er heldige nok til å leve på en tid og sted
1781 der de viktigste fakta om våre live er i stor grad sosialt aksepterte og kan
1782 vises frem offentlig uten risiko for sosiale konsekvenser.
1783   </p><p>
1784     But for many of us, this is not true. Recall that in living memory, many of
1785 the ways of being that we think of as socially acceptable today were once
1786 cause for dire social sanction or even imprisonment.  If you are 65 years
1787 old, you have lived through a time in which people living in <span class="quote">«<span class="quote">free
1788 societies</span>»</span> could be imprisoned or sanctioned for engaging in
1789 homosexual activity, for falling in love with a person whose skin was a
1790 different color than their own, or for smoking weed.
1791   </p><p>
1792     I dag er disse aktivitetene ikke bare avkriminalisert i store deler av
1793 verden, de anses som normale, og de forhenværende forbudene anses som
1794 skamfulle, forkastelige relikvier fra fortiden.
1795   </p><p>
1796     Hvordan gikk vi fra forbud til normalisering? Ved hjelp av privat og
1797 personlig aktivitet: Folk som var homofile i skjul, eller som var
1798 hasjrøykere i smug, eller som i hemmeliget elsket noen med en annen
1799 hudfarge, var alle sårbare for gjengjeldelse hvis de gjorde sitt sanne jeg
1800 kjent, og det var begrenset hvor mye de kunne fremme sine egne rettigheter i
1801 samfunnet og slik være tro mot seg selv. Men fordi det var en privatsfære,
1802 så kunne disse folkene danne allianser med sine kjære og sine venner som
1803 ikke delte deres uglesette egenskaper, ved å ha private samtaler der de kom
1804 ut av skapet og avslørte sitt sanne jeg til folkene rundt dem og bringe dem
1805 inn på sin side, en samtale av gangen.
1806   </p><p>
1807     Retten til å velge tid og sted for disse samtalene var nøkkelen til at de
1808 lyktes. Det er en ting å komme ut av skapet overfor faren din mens dere er
1809 på fisketurn langt unna allfarvei, og en helt annen ting å plumpe ut med det
1810 over julemiddagen mens din rasistiske Facebook-onkel er der for å lage en
1811 scene.
1812   </p><p>
1813     Uten en privatsfære så er det en sjanske for at ingen av disse endringene
1814 hadde funnet sted, og at folkene som dro nytte av disse endringene enten
1815 hadde mått sociale saksjoner for å komme ut av skapet i en fientlig verden
1816 eller ville aldri vært i stand til å vise sitt sanne jeg til folkene de er
1817 glade i.
1818   </p><p>
1819     The corollary is that, unless you think that our society has attained social
1820 perfection — that your grandchildren in 50 years will ask you to tell them
1821 the story of how, in 2020, every injustice had been righted and no further
1822 change had to be made — then you should expect that right now, at this
1823 minute, there are people you love, whose happiness is key to your own, who
1824 have a secret in their hearts that stops them from ever being their
1825 authentic selves with you. These people are sorrowing and will go to their
1826 graves with that secret sorrow in their hearts, and the source of that
1827 sorrow will be the falsity of their relationship to you.
1828   </p><p>
1829     En privatsfære er nødvendig for menneskelig fremgang.
1830   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="any-data-you-collect-and-retain-will-eventually-leak"></a>Alle data du samler og tar vare på vil til slutt lekke</h2></div></div></div><p>
1831     Mangelen på privatliv kan berøve sårbare folk sjansen til å være sitt sanne
1832 jeg og begrense våre handler ved å frarøve oss vårt tilfluktsted, men det er
1833 en annen risiko som belastes oss alle, ikke bare folk med en hemmelighet:
1834 kriminalitet.
1835   </p><p>
1836     Personally identifying information is of very limited use for the purpose of
1837 controlling peoples’ minds, but identity theft — really a catchall term for
1838 a whole constellation of terrible criminal activities that can destroy your
1839 finances, compromise your personal integrity, ruin your reputation, or even
1840 expose you to physical danger — thrives on it.
1841   </p><p>
1842     Attackers are not limited to using data from one breached source,
1843 either. Multiple services have suffered breaches that exposed names,
1844 addresses, phone numbers, passwords, sexual tastes, school grades, work
1845 performance, brushes with the criminal justice system, family details,
1846 genetic information, fingerprints and other biometrics, reading habits,
1847 search histories, literary tastes, pseudonymous identities, and other
1848 sensitive information. Attackers can merge data from these different
1849 breaches to build up extremely detailed dossiers on random subjects and then
1850 use different parts of the data for different criminal purposes.
1851   </p><p>
1852     For example, attackers can use leaked username and password combinations to
1853 hijack whole fleets of commercial vehicles that <a class="ulink" href="https://www.vice.com/en_us/article/zmpx4x/hacker-monitor-cars-kill-engine-gps-tracking-apps" target="_top">have
1854 been fitted with anti-theft GPS trackers and immobilizers</a> or to
1855 hijack baby monitors in order to <a class="ulink" href="https://www.washingtonpost.com/technology/2019/04/23/how-nest-designed-keep-intruders-out-peoples-homes-effectively-allowed-hackers-get/?utm_term=.15220e98c550" target="_top">terrorize
1856 toddlers with the audio tracks from pornography</a>. Attackers use
1857 leaked data to trick phone companies into giving them your phone number,
1858 then they intercept SMS-based two-factor authentication codes in order to
1859 take over your email, bank account, and/or cryptocurrency wallets.
1860   </p><p>
1861     Attackers are endlessly inventive in the pursuit of creative ways to
1862 weaponize leaked data. One common use of leaked data is to penetrate
1863 companies in order to access <span class="emphasis"><em>more</em></span> data.
1864   </p><p>
1865     Like spies, online fraudsters are totally dependent on companies
1866 over-collecting and over-retaining our data. Spy agencies sometimes pay
1867 companies for access to their data or intimidate them into giving it up, but
1868 sometimes they work just like criminals do — by <a class="ulink" href="https://www.bbc.com/news/world-us-canada-24751821" target="_top">sneaking data out of
1869 companies’ databases</a>.
1870   </p><p>
1871     The over-collection of data has a host of terrible social consequences, from
1872 the erosion of our authentic selves to the undermining of social progress,
1873 from state surveillance to an epidemic of online crime. Commercial
1874 surveillance is also a boon to people running influence campaigns, but
1875 that’s the least of our troubles.
1876   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="critical-tech-exceptionalism-is-still-tech-exceptionalism"></a>Critical tech exceptionalism is still tech exceptionalism</h2></div></div></div><p>
1877     Big Tech has long practiced technology exceptionalism: the idea that it
1878 should not be subject to the mundane laws and norms of
1879 <span class="quote">«<span class="quote">meatspace.</span>»</span> Mottoes like Facebook’s <span class="quote">«<span class="quote">move fast and break
1880 things</span>»</span> attracted justifiable scorn of the companies’ self-serving
1881 rhetoric.
1882   </p><p>
1883     Tech exceptionalism got us all into a lot of trouble, so it’s ironic and
1884 distressing to see Big Tech’s critics committing the same sin.
1885   </p><p>
1886     Big Tech is not a <span class="quote">«<span class="quote">rogue capitalism</span>»</span> that cannot be cured
1887 through the traditional anti-monopoly remedies of trustbusting (forcing
1888 companies to divest of competitors they have acquired) and bans on mergers
1889 to monopoly and other anti-competitive tactics. Big Tech does not have the
1890 power to use machine learning to influence our behavior so thoroughly that
1891 markets lose the ability to punish bad actors and reward superior
1892 competitors. Big Tech has no rule-writing mind-control ray that necessitates
1893 ditching our old toolbox.
1894   </p><p>
1895     The thing is, people have been claiming to have perfected mind-control rays
1896 for centuries, and every time, it turned out to be a con — though sometimes
1897 the con artists were also conning themselves.
1898   </p><p>
1899     For generations, the advertising industry has been steadily improving its
1900 ability to sell advertising services to businesses while only making
1901 marginal gains in selling those businesses’ products to prospective
1902 customers. John Wanamaker’s lament that <span class="quote">«<span class="quote">50% of my advertising budget
1903 is wasted, I just don’t know which 50%</span>»</span> is a testament to the triumph
1904 of <span class="emphasis"><em>ad executives</em></span>, who successfully convinced Wanamaker
1905 that only half of the money he spent went to waste.
1906   </p><p>
1907     The tech industry has made enormous improvements in the science of
1908 convincing businesses that they’re good at advertising while their actual
1909 improvements to advertising — as opposed to targeting — have been pretty
1910 ho-hum. The vogue for machine learning — and the mystical invocation of
1911 <span class="quote">«<span class="quote">artificial intelligence</span>»</span> as a synonym for straightforward
1912 statistical inference techniques — has greatly boosted the efficacy of Big
1913 Tech’s sales pitch as marketers have exploited potential customers’ lack of
1914 technical sophistication to get away with breathtaking acts of overpromising
1915 and underdelivering.
1916   </p><p>
1917     It’s tempting to think that if businesses are willing to pour billions into
1918 a venture that the venture must be a good one. Yet there are plenty of times
1919 when this rule of thumb has led us astray.  For example, it’s virtually
1920 unheard of for managed investment funds to outperform simple index funds,
1921 and investors who put their money into the hands of expert money managers
1922 overwhelmingly fare worse than those who entrust their savings to index
1923 funds. But managed funds still account for the majority of the money
1924 invested in the markets, and they are patronized by some of the richest,
1925 most sophisticated investors in the world. Their vote of confidence in an
1926 underperforming sector is a parable about the role of luck in wealth
1927 accumulation, not a sign that managed funds are a good buy.
1928   </p><p>
1929     The claims of Big Tech’s mind-control system are full of tells that the
1930 enterprise is a con. For example, <a class="ulink" href="https://www.frontiersin.org/articles/10.3389/fpsyg.2020.01415/full" target="_top">the
1931 reliance on the <span class="quote">«<span class="quote">Big Five</span>»</span> personality traits</a> as a
1932 primary means of influencing people even though the <span class="quote">«<span class="quote">Big Five</span>»</span>
1933 theory is unsupported by any large-scale, peer-reviewed studies and is
1934 <a class="ulink" href="https://www.wired.com/story/the-noisy-fallacies-of-psychographic-targeting/" target="_top">mostly
1935 the realm of marketing hucksters and pop psych</a>.
1936   </p><p>
1937     Big Tech’s promotional materials also claim that their algorithms can
1938 accurately perform <span class="quote">«<span class="quote">sentiment analysis</span>»</span> or detect peoples’
1939 moods based on their <span class="quote">«<span class="quote">microexpressions,</span>»</span> but <a class="ulink" href="https://www.npr.org/2018/09/12/647040758/advertising-on-facebook-is-it-worth-it" target="_top">these
1940 are marketing claims, not scientific ones</a>. These methods are largely
1941 untested by independent scientific experts, and where they have been tested,
1942 they’ve been found sorely wanting.  Microexpressions are particularly
1943 suspect as the companies that specialize in training people to detect them
1944 <a class="ulink" href="https://theintercept.com/2017/02/08/tsas-own-files-show-doubtful-science-behind-its-behavior-screening-program/" target="_top">have
1945 been shown</a> to underperform relative to random chance.
1946   </p><p>
1947     Big Tech has been so good at marketing its own supposed superpowers that
1948 it’s easy to believe that they can market everything else with similar
1949 acumen, but it’s a mistake to believe the hype. Any statement a company
1950 makes about the quality of its products is clearly not impartial. The fact
1951 that we distrust all the things that Big Tech says about its data handling,
1952 compliance with privacy laws, etc., is only reasonable — but why on Earth
1953 would we treat Big Tech’s marketing literature as the gospel truth? Big Tech
1954 lies about just about <span class="emphasis"><em>everything</em></span>, including how well
1955 its machine-learning fueled persuasion systems work.
1956   </p><p>
1957     That skepticism should infuse all of our evaluations of Big Tech and its
1958 supposed abilities, including our perusal of its patents. Zuboff vests these
1959 patents with enormous significance, pointing out that Google claimed
1960 extensive new persuasion capabilities in <a class="ulink" href="https://patents.google.com/patent/US20050131762A1/en" target="_top">its patent
1961 filings</a>. These claims are doubly suspect: first, because they are so
1962 self-serving, and second, because the patent itself is so notoriously an
1963 invitation to exaggeration.
1964   </p><p>
1965     Patent applications take the form of a series of claims and range from broad
1966 to narrow. A typical patent starts out by claiming that its authors have
1967 invented a method or system for doing every conceivable thing that anyone
1968 might do, ever, with any tool or device. Then it narrows that claim in
1969 successive stages until we get to the actual <span class="quote">«<span class="quote">invention</span>»</span> that
1970 is the true subject of the patent.  The hope is that the patent examiner —
1971 who is almost certainly overworked and underinformed — will miss the fact
1972 that some or all of these claims are ridiculous, or at least suspect, and
1973 grant the patent’s broader claims. Patents for unpatentable things are still
1974 incredibly useful because they can be wielded against competitors who might
1975 license that patent or steer clear of its claims rather than endure the
1976 lengthy, expensive process of contesting it.
1977   </p><p>
1978     What’s more, software patents are routinely granted even though the filer
1979 doesn’t have any evidence that they can do the thing claimed by the
1980 patent. That is, you can patent an <span class="quote">«<span class="quote">invention</span>»</span> that you haven’t
1981 actually made and that you don’t know how to make.
1982   </p><p>
1983     With these considerations in hand, it becomes obvious that the fact that a
1984 Big Tech company has patented what it <span class="emphasis"><em>says</em></span> is an
1985 effective mind-control ray is largely irrelevant to whether Big Tech can in
1986 fact control our minds.
1987   </p><p>
1988     Big Tech collects our data for many reasons, including the diminishing
1989 returns on existing stores of data. But many tech companies also collect
1990 data out of a mistaken tech exceptionalist belief in the network effects of
1991 data. Network effects occur when each new user in a system increases its
1992 value. The classic example is fax machines: A single fax machine is of no
1993 use, two fax machines are of limited use, but every new fax machine that’s
1994 put to use after the first doubles the number of possible fax-to-fax links.
1995   </p><p>
1996     Data mined for predictive systems doesn’t necessarily produce these
1997 dividends. Think of Netflix: The predictive value of the data mined from a
1998 million English-speaking Netflix viewers is hardly improved by the addition
1999 of one more user’s viewing data. Most of the data Netflix acquires after
2000 that first minimum viable sample duplicates existing data and produces only
2001 minimal gains. Meanwhile, retraining models with new data gets progressively
2002 more expensive as the number of data points increases, and manual tasks like
2003 labeling and validating data do not get cheaper at scale.
2004   </p><p>
2005     Businesses pursue fads to the detriment of their profits all the time,
2006 especially when the businesses and their investors are not motivated by the
2007 prospect of becoming profitable but rather by the prospect of being acquired
2008 by a Big Tech giant or by having an IPO.  For these firms, ticking faddish
2009 boxes like <span class="quote">«<span class="quote">collects as much data as possible</span>»</span> might realize a
2010 bigger return on investment than <span class="quote">«<span class="quote">collects a business-appropriate
2011 quantity of data.</span>»</span>
2012   </p><p>
2013     This is another harm of tech exceptionalism: The belief that more data
2014 always produces more profits in the form of more insights that can be
2015 translated into better mind-control rays drives firms to over-collect and
2016 over-retain data beyond all rationality. And since the firms are behaving
2017 irrationally, a good number of them will go out of business and become ghost
2018 ships whose cargo holds are stuffed full of data that can harm people in
2019 myriad ways — but which no one is responsible for antey longer. Even if the
2020 companies don’t go under, the data they collect is maintained behind the
2021 minimum viable security — just enough security to keep the company viable
2022 while it waits to get bought out by a tech giant, an amount calculated to
2023 spend not one penny more than is necessary on protecting data.
2024   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="how-monopolies-not-mind-control-drive-surveillance-capitalism-the-snapchat-story"></a>How monopolies, not mind control, drive surveillance capitalism: The
2025 Snapchat story</h2></div></div></div><p>
2026     For the first decade of its existence, Facebook competed with the social
2027 media giants of the day (Myspace, Orkut, etc.) by presenting itself as the
2028 pro-privacy alternative. Indeed, Facebook justified its walled garden —
2029 which let users bring in data from the web but blocked web services like
2030 Google Search from indexing and caching Facebook pages — as a pro-privacy
2031 measure that protected users from the surveillance-happy winners of the
2032 social media wars like Myspace.
2033   </p><p>
2034     Despite frequent promises that it would never collect or analyze its users’
2035 data, Facebook periodically created initiatives that did just that, like the
2036 creepy, ham-fisted Beacon tool, which spied on you as you moved around the
2037 web and then added your online activities to your public timeline, allowing
2038 your friends to monitor your browsing habits. Beacon sparked a user
2039 revolt. Every time, Facebook backed off from its surveillance initiative,
2040 but not all the way; inevitably, the new Facebook would be more surveilling
2041 than the old Facebook, though not quite as surveilling as the intermediate
2042 Facebook following the launch of the new product or service.
2043   </p><p>
2044     Hvor raskt Facebook økte sin overvåkningsinnsats ser ut til å ha vært styrt
2045 av det konkurransemessige landskapet til Facebook. Jo flere konkurrenter
2046 Facebook hadde, jo bedre oppførte de seg. Hver gang en stor konkurrent brøt
2047 sammen, så ble oppførselen til Facebook <a class="ulink" href="https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3247362" target="_top">markant
2048 verre</a>.
2049   </p><p>
2050     Samtidig kjøpte Facebook enormt mange selskaper, inkludert et selskap som
2051 heter Onavo. I utgangspunktet laget Onavo en batteriovervåkingsapp. Men
2052 tillatelsene som Onavo krevde var så omfattende at appen var i stand til å
2053 samle inn finkornet telemetri på alt brukerne gjorde med telefonene sine,
2054 inkludert hvilke apper de brukte og hvordan de brukte dem.
2055   </p><p>
2056     Ved hjelp av Onavo oppdaget Facebook at de mistet markedsandeler til
2057 Snapchat, en app som – som Facebook et tiår tidligere – presenterte seg selv
2058 som pro-personvernalternativet til status quo. Ved hjelp av Onavo kunne
2059 Facebook hente ut data fra enhetene til Snapchat-brukere, inkludert både
2060 nåværende og tidligere Snapchat-brukere. Dette ansporet Facebook til å kjøpe
2061 Instagram - som hadde noen egenskaper som konkurrerte med Snapchat - og som
2062 deretter tillot Facebook å finjustere Instagrams funksjoner og salgspitch
2063 for å fjerne Snapchats fordeler og sikre at Facebook ikke måtte møte den
2064 typen konkurransepress det tidligere hadde påført Myspace og Orkut.
2065   </p><p>
2066     Historien om hvordan Facebook knuste Snapchat avslører forholdet mellom
2067 monopol og overvåkingskapitalisme. Facebook kombinerte overvåking med slapp
2068 antitrust-håndhevelse for å oppdage den kommende konkurransemessige
2069 trusselen fra Snapchat og deretter ta avgjørende tiltak mot den. Facebooks
2070 overvåkingskapitalisme lar den avverge konkurransepress med
2071 konkurransehemmende taktikker. Facebook-brukere vil fortsatt ha personvern –
2072 Facebook har ikke brukt overvåking til å hjernevaske dem ut av det – men de
2073 kan ikke få det fordi Facebooks overvåkning lar Facebook ødelegge ethvert
2074 håp om at en rivaliserende tjeneste dukker opp som konkurrerer på
2075 personvernfunksjoner.
2076   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="a-monopoly-over-your-friends"></a>Et monopol over vennene dine</h2></div></div></div><p>
2077     En desentraliseringsbevegelse har forsøkt å fjerne dominansen til Facebook
2078 og andre Storteknologi-selskaper ved å lage og fremme
2079 <span class="quote">«<span class="quote">indieweb</span>»</span>-alternativer — Mastodon som et Twitter-alternativ,
2080 Diaspora som et Facebook-alternativ, og så videre — men disse forsøkene har
2081 på ingen måte tatt av.
2082   </p><p>
2083     I bunn og grunn er hver av disse tjenestene hemmet av det samme problemet:
2084 Hver potensiell bruker av et Facebook- eller Twitteralternativ må overbevise
2085 alle sine venner til å følge dem til en desentralisert Internettalternativ
2086 for å fortsatt ha glede av fordelene med sosiale medier. For mange av oss er
2087 den eneste grunnen til å ha en Facebook-konto at vennene våre har
2088 Facebook-kontoer, og grunnen til at de har Facebook-kontoer er at
2089 <span class="emphasis"><em>vi</em></span> har Facebook-kontoer.
2090   </p><p>
2091     Alt dette har konspirert til å gjøre Facebook – og andre dominerende
2092 plattformer – til <span class="quote">«<span class="quote">drapssoner</span>»</span> der investorer ikke vil
2093 finansiere nye deltakere.
2094   </p><p>
2095     Og likevel, alle dagens teknologigiganter dukketopp til tross for den
2096 forankrede fordelen til selskapene som kom før dem. For å forstå hvordan det
2097 skjedde, må du forstå både samvirke og angripende samvirke.
2098   </p><div class="blockquote"><blockquote class="blockquote"><p>
2099       Det vanskelige problemet for vår art er koordinering.
2100     </p></blockquote></div><p>
2101     <span class="quote">«<span class="quote">Interoperability</span>»</span> is the ability of two technologies to work
2102 with one another: Anyone can make an LP that will play on any record player,
2103 anyone can make a filter you can install in your stove’s extractor fan,
2104 anyone can make gasoline for your car, anyone can make a USB phone charger
2105 that fits in your car’s cigarette lighter receptacle, anyone can make a
2106 light bulb that works in your light socket, anyone can make bread that will
2107 toast in your toaster.
2108   </p><p>
2109     Interoperability is often a source of innovation and consumer benefit: Apple
2110 made the first commercially successful PC, but millions of independent
2111 software vendors made interoperable programs that ran on the Apple II
2112 Plus. The simple analog antenna inputs on the back of TVs first allowed
2113 cable operators to connect directly to TVs, then they allowed game console
2114 companies and then personal computer companies to use standard televisions
2115 as displays. Standard RJ-11 telephone jacks allowed for the production of
2116 phones from a variety of vendors in a variety of forms, from the free
2117 football-shaped phone that came with a <span class="emphasis"><em>Sports
2118 Illustrated</em></span> subscription to business phones with speakers, hold
2119 functions, and so on and then answering machines and finally modems, paving
2120 the way for the internet revolution.
2121   </p><p>
2122     <span class="quote">«<span class="quote">Interoperability</span>»</span> is often used interchangeably with
2123 <span class="quote">«<span class="quote">standardization,</span>»</span> which is the process when manufacturers and
2124 other stakeholders hammer out a set of agreed-upon rules for implementing a
2125 technology, such as the electrical plug on your wall, the CAN bus used by
2126 your car’s computer systems, or the HTML instructions that your browser
2127 interprets.
2128   </p><p>
2129     But interoperability doesn’t require standardization — indeed,
2130 standardization often proceeds from the chaos of ad hoc interoperability
2131 measures. The inventor of the cigarette-lighter USB charger didn’t need to
2132 get permission from car manufacturers or even the manufacturers of the
2133 dashboard lighter subcomponent. The automakers didn’t take any
2134 countermeasures to prevent the use of these aftermarket accessories by their
2135 customers, but they also didn’t do anything to make life easier for the
2136 chargers’ manufacturers. This is a kind of <span class="quote">«<span class="quote">neutral
2137 interoperability.</span>»</span>
2138   </p><p>
2139     Beyond neutral interoperability, there is <span class="quote">«<span class="quote">adversarial
2140 interoperability.</span>»</span> That’s when a manufacturer makes a product that
2141 interoperates with another manufacturer’s product <span class="emphasis"><em>despite the
2142 second manufacturer’s objections</em></span> and <span class="emphasis"><em>even if that means
2143 bypassing a security system designed to prevent interoperability</em></span>.
2144   </p><p>
2145     Probably the most familiar form of adversarial interoperability is
2146 third-party printer ink. Printer manufacturers claim that they sell printers
2147 below cost and that the only way they can recoup the losses they incur is by
2148 charging high markups on ink. To prevent the owners of printers from buying
2149 ink elsewhere, the printer companies deploy a suite of anti-customer
2150 security systems that detect and reject both refilled and third-party
2151 cartridges.
2152   </p><p>
2153     Owners of printers take the position that HP and Epson and Brother are not
2154 charities and that customers for their wares have no obligation to help them
2155 survive, and so if the companies choose to sell their products at a loss,
2156 that’s their foolish choice and their consequences to live with. Likewise,
2157 competitors who make ink or refill kits observe that they don’t owe printer
2158 companies anything, and their erosion of printer companies’ margins are the
2159 printer companies’ problems, not their competitors’. After all, the printer
2160 companies shed no tears when they drive a refiller out of business, so why
2161 should the refillers concern themselves with the economic fortunes of the
2162 printer companies?
2163   </p><p>
2164     Adversarial interoperability has played an outsized role in the history of
2165 the tech industry: from the founding of the <span class="quote">«<span class="quote">alt.*</span>»</span> Usenet
2166 hierarchy (which was started against the wishes of Usenet’s maintainers and
2167 which grew to be bigger than all of Usenet combined)  to the browser wars
2168 (when Netscape and Microsoft devoted massive engineering efforts to making
2169 their browsers incompatible with the other’s special commands and
2170 peccadilloes) to Facebook (whose success was built in part by helping its
2171 new users stay in touch with friends they’d left behind on Myspace because
2172 Facebook supplied them with a tool that scraped waiting messages from
2173 Myspace and imported them into Facebook, effectively creating an
2174 Facebook-based Myspace reader).
2175   </p><p>
2176     Today, incumbency is seen as an unassailable advantage. Facebook is where
2177 all of your friends are, so no one can start a Facebook competitor. But
2178 adversarial compatibility reverses the competitive advantage: If you were
2179 allowed to compete with Facebook by providing a tool that imported all your
2180 users’ waiting Facebook messages into an environment that competed on lines
2181 that Facebook couldn’t cross, like eliminating surveillance and ads, then
2182 Facebook would be at a huge disadvantage. It would have assembled all
2183 possible ex-Facebook users into a single, easy-to-find service; it would
2184 have educated them on how a Facebook-like service worked and what its
2185 potential benefits were; and it would have provided an easy means for
2186 disgruntled Facebook users to tell their friends where they might expect
2187 better treatment.
2188   </p><p>
2189     Adversarial interoperability was once the norm and a key contributor to the
2190 dynamic, vibrant tech scene, but now it is stuck behind a thicket of laws
2191 and regulations that add legal risks to the tried-and-true tactics of
2192 adversarial interoperability. New rules and new interpretations of existing
2193 rules mean that a would-be adversarial interoperator needs to steer clear of
2194 claims under copyright, terms of service, trade secrecy, tortious
2195 interference, and patent.
2196   </p><p>
2197     In the absence of a competitive market, lawmakers have resorted to assigning
2198 expensive, state-like duties to Big Tech firms, such as automatically
2199 filtering user contributions for copyright infringement or terrorist and
2200 extremist content or detecting and preventing harassment in real time or
2201 controlling access to sexual material.
2202   </p><p>
2203     These measures put a floor under how small we can make Big Tech because only
2204 the very largest companies can afford the humans and automated filters
2205 needed to perform these duties.
2206   </p><p>
2207     But that’s not the only way in which making platforms responsible for
2208 policing their users undermines competition. A platform that is expected to
2209 police its users’ conduct must prevent many vital adversarial
2210 interoperability techniques lest these subvert its policing measures. For
2211 example, if someone using a Twitter replacement like Mastodon is able to
2212 push messages into Twitter and read messages out of Twitter, they could
2213 avoid being caught by automated systems that detect and prevent harassment
2214 (such as systems that use the timing of messages or IP-based rules to make
2215 guesses about whether someone is a harasser).
2216   </p><p>
2217     To the extent that we are willing to let Big Tech police itself — rather
2218 than making Big Tech small enough that users can leave bad platforms for
2219 better ones and small enough that a regulation that simply puts a platform
2220 out of business will not destroy billions of users’ access to their
2221 communities and data — we build the case that Big Tech should be able to
2222 block its competitors and make it easier for Big Tech to demand legal
2223 enforcement tools to ban and punish attempts at adversarial
2224 interoperability.
2225   </p><p>
2226     Ultimately, we can try to fix Big Tech by making it responsible for bad acts
2227 by its users, or we can try to fix the internet by cutting Big Tech down to
2228 size. But we can’t do both. To replace today’s giant products with
2229 pluralistic protocols, we need to clear the legal thicket that prevents
2230 adversarial interoperability so that tomorrow’s nimble, personal,
2231 small-scale products can federate themselves with giants like Facebook,
2232 allowing the users who’ve left to continue to communicate with users who
2233 haven’t left yet, reaching tendrils over Facebook’s garden wall that
2234 Facebook’s trapped users can use to scale the walls and escape to the
2235 global, open web.
2236   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="fake-news-is-an-epistemological-crisis"></a>Fake news is an epistemological crisis</h2></div></div></div><p>
2237     Tech is not the only industry that has undergone massive concentration since
2238 the Reagan era. Virtually every major industry — from oil to newspapers to
2239 meatpacking to sea freight to eyewear to online pornography — has become a
2240 clubby oligarchy that just a few players dominate.
2241   </p><p>
2242     At the same time, every industry has become something of a tech industry as
2243 general-purpose computers and general-purpose networks and the promise of
2244 efficiencies through data-driven analysis infuse every device, process, and
2245 firm with tech.
2246   </p><p>
2247     This phenomenon of industrial concentration is part of a wider story about
2248 wealth concentration overall as a smaller and smaller number of people own
2249 more and more of our world. This concentration of both wealth and industries
2250 means that our political outcomes are increasingly beholden to the parochial
2251 interests of the people and companies with all the money.
2252   </p><p>
2253     That means that whenever a regulator asks a question with an obvious,
2254 empirical answer (<span class="quote">«<span class="quote">Are humans causing climate change?</span>»</span> or
2255 <span class="quote">«<span class="quote">Should we let companies conduct commercial mass surveillance?</span>»</span>
2256 or <span class="quote">«<span class="quote">Does society benefit from allowing network neutrality
2257 violations?</span>»</span>), the answer that comes out is only correct if that
2258 correctness meets with the approval of rich people and the industries that
2259 made them so wealthy.
2260   </p><p>
2261     Rich people have always played an outsized role in politics and more so
2262 since the Supreme Court’s <span class="emphasis"><em>Citizens United</em></span> decision
2263 eliminated key controls over political spending. Widening inequality and
2264 wealth concentration means that the very richest people are now a lot richer
2265 and can afford to spend a lot more money on political projects than ever
2266 before. Think of the Koch brothers or George Soros or Bill Gates.
2267   </p><p>
2268     But the policy distortions of rich individuals pale in comparison to the
2269 policy distortions that concentrated industries are capable of.  The
2270 companies in highly concentrated industries are much more profitable than
2271 companies in competitive industries — no competition means not having to
2272 reduce prices or improve quality to win customers — leaving them with bigger
2273 capital surpluses to spend on lobbying.
2274   </p><p>
2275     Concentrated industries also find it easier to collaborate on policy
2276 objectives than competitive ones. When all the top execs from your industry
2277 can fit around a single boardroom table, they often do. And
2278 <span class="emphasis"><em>when</em></span> they do, they can forge a consensus position on
2279 regulation.
2280   </p><p>
2281     Rising through the ranks in a concentrated industry generally means working
2282 at two or three of the big companies. When there are only relatively few
2283 companies in a given industry, each company has a more ossified executive
2284 rank, leaving ambitious execs with fewer paths to higher positions unless
2285 they are recruited to a rival. This means that the top execs in concentrated
2286 industries are likely to have been colleagues at some point and socialize in
2287 the same circles — connected through social ties or, say, serving as
2288 trustees for each others’ estates. These tight social bonds foster a
2289 collegial, rather than competitive, attitude.
2290   </p><p>
2291     Highly concentrated industries also present a regulatory conundrum.  When an
2292 industry is dominated by just four or five companies, the only people who
2293 are likely to truly understand the industry’s practices are its veteran
2294 executives. This means that top regulators are often former execs of the
2295 companies they are supposed to be regulating. These turns in government are
2296 often tacitly understood to be leaves of absence from industry, with former
2297 employers welcoming their erstwhile watchdogs back into their executive
2298 ranks once their terms have expired.
2299   </p><p>
2300     All this is to say that the tight social bonds, small number of firms, and
2301 regulatory capture of concentrated industries give the companies that
2302 comprise them the power to dictate many, if not all, of the regulations that
2303 bind them.
2304   </p><p>
2305     This is increasingly obvious. Whether it’s payday lenders <a class="ulink" href="https://www.washingtonpost.com/business/2019/02/25/how-payday-lending-industry-insider-tilted-academic-research-its-favor/" target="_top">winning
2306 the right to practice predatory lending</a> or Apple <a class="ulink" href="https://www.vice.com/en_us/article/mgxayp/source-apple-will-fight-right-to-repair-legislation" target="_top">winning
2307 the right to decide who can fix your phone</a> or Google and Facebook
2308 winning the right to breach your private data without suffering meaningful
2309 consequences or victories for pipeline companies or impunity for opioid
2310 manufacturers or massive tax subsidies for incredibly profitable dominant
2311 businesses, it’s increasingly apparent that many of our official,
2312 evidence-based truth-seeking processes are, in fact, auctions for sale to
2313 the highest bidder.
2314   </p><p>
2315     It’s really impossible to overstate what a terrifying prospect this is. We
2316 live in an incredibly high-tech society, and none of us could acquire the
2317 expertise to evaluate every technological proposition that stands between us
2318 and our untimely, horrible deaths. You might devote your life to acquiring
2319 the media literacy to distinguish good scientific journals from corrupt
2320 pay-for-play lookalikes and the statistical literacy to evaluate the quality
2321 of the analysis in the journals as well as the microbiology and epidemiology
2322 knowledge to determine whether you can trust claims about the safety of
2323 vaccines — but that would still leave you unqualified to judge whether the
2324 wiring in your home will give you a lethal shock <span class="emphasis"><em>and</em></span>
2325 whether your car’s brakes’ software will cause them to fail unpredictably
2326 <span class="emphasis"><em>and</em></span> whether the hygiene standards at your butcher are
2327 sufficient to keep you from dying after you finish your dinner.
2328   </p><p>
2329     In a world as complex as this one, we have to defer to authorities, and we
2330 keep them honest by making those authorities accountable to us and binding
2331 them with rules to prevent conflicts of interest. We can’t possibly acquire
2332 the expertise to adjudicate conflicting claims about the best way to make
2333 the world safe and prosperous, but we <span class="emphasis"><em>can</em></span> determine
2334 whether the adjudication process itself is trustworthy.
2335   </p><p>
2336     Right now, it’s obviously not.
2337   </p><p>
2338     The past 40 years of rising inequality and industry concentration, together
2339 with increasingly weak accountability and transparency for expert agencies,
2340 has created an increasingly urgent sense of impending doom, the sense that
2341 there are vast conspiracies afoot that operate with tacit official approval
2342 despite the likelihood they are working to better themselves by ruining the
2343 rest of us.
2344   </p><p>
2345     For example, it’s been decades since Exxon’s own scientists concluded that
2346 its products would render the Earth uninhabitable by humans. And yet those
2347 decades were lost to us, in large part because Exxon lobbied governments and
2348 sowed doubt about the dangers of its products and did so with the
2349 cooperation of many public officials.  When the survival of you and everyone
2350 you love is threatened by conspiracies, it’s not unreasonable to start
2351 questioning the things you think you know in an attempt to determine whether
2352 they, too, are the outcome of another conspiracy.
2353   </p><p>
2354     The collapse of the credibility of our systems for divining and upholding
2355 truths has left us in a state of epistemological chaos.  Once, most of us
2356 might have assumed that the system was working and that our regulations
2357 reflected our best understanding of the empirical truths of the world as
2358 they were best understood — now we have to find our own experts to help us
2359 sort the true from the false.
2360   </p><p>
2361     If you’re like me, you probably believe that vaccines are safe, but you
2362 (like me) probably also can’t explain the microbiology or statistics. Few of
2363 us have the math skills to review the literature on vaccine safety and
2364 describe why their statistical reasoning is sound. Likewise, few of us can
2365 review the stats in the (now discredited) literature on opioid safety and
2366 explain how those stats were manipulated. Both vaccines and opioids were
2367 embraced by medical authorities, after all, and one is safe while the other
2368 could ruin your life. You’re left with a kind of inchoate constellation of
2369 rules of thumb about which experts you trust to fact-check controversial
2370 claims and then to explain how all those respectable doctors with their
2371 peer-reviewed research on opioid safety <span class="emphasis"><em>were</em></span> an
2372 aberration and then how you know that the doctors writing about vaccine
2373 safety are <span class="emphasis"><em>not</em></span> an aberration.
2374   </p><p>
2375     I’m 100% certain that vaccinating is safe and effective, but I’m also at
2376 something of a loss to explain exactly, <span class="emphasis"><em>precisely,</em></span> why
2377 I believe this, given all the corruption I know about and the many times the
2378 stamp of certainty has turned out to be a parochial lie told to further
2379 enrich the super rich.
2380   </p><p>
2381     Fake news — conspiracy theories, racist ideologies, scientific denialism —
2382 has always been with us. What’s changed today is not the mix of ideas in the
2383 public discourse but the popularity of the worst ideas in that
2384 mix. Conspiracy and denial have skyrocketed in lockstep with the growth of
2385 Big Inequality, which has also tracked the rise of Big Tech and Big Pharma
2386 and Big Wrestling and Big Car and Big Movie Theater and Big Everything Else.
2387   </p><p>
2388     No one can say for certain why this has happened, but the two dominant camps
2389 are idealism (the belief that the people who argue for these conspiracies
2390 have gotten better at explaining them, maybe with the help of
2391 machine-learning tools) or materialism (the ideas have become more
2392 attractive because of material conditions in the world).
2393   </p><p>
2394     I’m a materialist. I’ve been exposed to the arguments of conspiracy
2395 theorists all my life, and I have not experienced any qualitative leap in
2396 the quality of those arguments.
2397   </p><p>
2398     The major difference is in the world, not the arguments. In a time where
2399 actual conspiracies are commonplace, conspiracy theories acquire a ring of
2400 plausibility.
2401   </p><p>
2402     We have always had disagreements about what’s true, but today, we have a
2403 disagreement over how we know whether something is true. This is an
2404 epistemological crisis, not a crisis over belief. It’s a crisis over the
2405 credibility of our truth-seeking exercises, from scientific journals (in an
2406 era where the biggest journal publishers have been caught producing
2407 pay-to-play journals for junk science) to regulations (in an era where
2408 regulators are routinely cycling in and out of business) to education (in an
2409 era where universities are dependent on corporate donations to keep their
2410 lights on).
2411   </p><p>
2412     Targeting — surveillance capitalism — makes it easier to find people who are
2413 undergoing this epistemological crisis, but it doesn’t create the
2414 crisis. For that, you need to look to corruption.
2415   </p><p>
2416     And, conveniently enough, it’s corruption that allows surveillance
2417 capitalism to grow by dismantling monopoly protections, by permitting
2418 reckless collection and retention of personal data, by allowing ads to be
2419 targeted in secret, and by foreclosing on the possibility of going somewhere
2420 else where you might continue to enjoy your friends without subjecting
2421 yourself to commercial surveillance.
2422   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="tech-is-different"></a>Teknologi er annerledes</h2></div></div></div><p>
2423     I reject both iterations of technological exceptionalism. I reject the idea
2424 that tech is uniquely terrible and led by people who are greedier or worse
2425 than the leaders of other industries, and I reject the idea that tech is so
2426 good — or so intrinsically prone to concentration — that it can’t be blamed
2427 for its present-day monopolistic status.
2428   </p><p>
2429     I think tech is just another industry, albeit one that grew up in the
2430 absence of real monopoly constraints. It may have been first, but it isn’t
2431 the worst nor will it be the last.
2432   </p><p>
2433     But there’s one way in which I <span class="emphasis"><em>am</em></span> a tech
2434 exceptionalist. I believe that online tools are the key to overcoming
2435 problems that are much more urgent than tech monopolization: climate change,
2436 inequality, misogyny, and discrimination on the basis of race, gender
2437 identity, and other factors. The internet is how we will recruit people to
2438 fight those fights, and how we will coordinate their labor. Tech is not a
2439 substitute for democratic accountability, the rule of law, fairness, or
2440 stability — but it’s a means to achieve these things.
2441   </p><p>
2442     The hard problem of our species is coordination. Everything from climate
2443 change to social change to running a business to making a family work can be
2444 viewed as a collective action problem.
2445   </p><p>
2446     The internet makes it easier than at any time before to find people who want
2447 to work on a project with you — hence the success of free and open-source
2448 software, crowdfunding, and racist terror groups — and easier than ever to
2449 coordinate the work you do.
2450   </p><p>
2451     The internet and the computers we connect to it also possess an exceptional
2452 quality: general-purposeness. The internet is designed to allow any two
2453 parties to communicate any data, using any protocol, without permission from
2454 anyone else. The only production design we have for computers is the
2455 general-purpose, <span class="quote">«<span class="quote">Turing complete</span>»</span> computer that can run every
2456 program we can express in symbolic logic.
2457   </p><p>
2458     This means that every time someone with a special communications need
2459 invests in infrastructure and techniques to make the internet faster,
2460 cheaper, and more robust, this benefit redounds to everyone else who is
2461 using the internet to communicate. And this also means that every time
2462 someone with a special computing need invests to make computers faster,
2463 cheaper, and more robust, every other computing application is a potential
2464 beneficiary of this work.
2465   </p><p>
2466     På grunn av dette, vil enhver form for kommunikasjon gradvis absorberes inn
2467 i Internett, og enhver type dings — fra fly til pacemakere — på sikt bli en
2468 datamaskin i en stilig boks.
2469   </p><p>
2470     While these considerations don’t preclude regulating networks and computers,
2471 they do call for gravitas and caution when doing so because changes to
2472 regulatory frameworks could ripple out to have unintended consequences in
2473 many, many other domains.
2474   </p><p>
2475     The upshot of this is that our best hope of solving the big coordination
2476 problems — climate change, inequality, etc. — is with free, fair, and open
2477 tech. Our best hope of keeping tech free, fair, and open is to exercise
2478 caution in how we regulate tech and to attend closely to the ways in which
2479 interventions to solve one problem might create problems in other domains.
2480   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="ownership-of-facts"></a>Eierskap til fakta</h2></div></div></div><p>
2481     Big Tech has a funny relationship with information. When you’re generating
2482 information — anything from the location data streaming off your mobile
2483 device to the private messages you send to friends on a social network — it
2484 claims the rights to make unlimited use of that data.
2485   </p><p>
2486     But when you have the audacity to turn the tables — to use a tool that
2487 blocks ads or slurps your waiting updates out of a social network and puts
2488 them in another app that lets you set your own priorities and suggestions or
2489 crawls their system to allow you to start a rival business — they claim that
2490 you’re stealing from them.
2491   </p><p>
2492     The thing is, information is a very bad fit for any kind of private property
2493 regime. Property rights are useful for establishing markets that can lead to
2494 the effective development of fallow assets. These markets depend on clear
2495 titles to ensure that the things being bought and sold in them can, in fact,
2496 be bought and sold.
2497   </p><p>
2498     Information rarely has such a clear title. Take phone numbers: There’s
2499 clearly something going wrong when Facebook slurps up millions of users’
2500 address books and uses the phone numbers it finds in them to plot out social
2501 graphs and fill in missing information about other users.
2502   </p><p>
2503     But the phone numbers Facebook nonconsensually acquires in this transaction
2504 are not the <span class="quote">«<span class="quote">property</span>»</span> of the users they’re taken from nor do
2505 they belong to the people whose phones ring when you dial those numbers. The
2506 numbers are mere integers, 10 digits in the U.S.  and Canada, and they
2507 appear in millions of places, including somewhere deep in pi as well as
2508 numerous other contexts. Giving people ownership titles to integers is an
2509 obviously terrible idea.
2510   </p><p>
2511     Likewise for the facts that Facebook and other commercial surveillance
2512 operators acquire about us, like that we are the children of our parents or
2513 the parents to our children or that we had a conversation with someone else
2514 or went to a public place.  These data points can’t be property in the sense
2515 that your house or your shirt is your property because the title to them is
2516 intrinsically muddy: Does your mom own the fact that she is your mother? Do
2517 you? Do both of you? What about your dad — does he own this fact too, or
2518 does he have to license the fact from you (or your mom or both of you) in
2519 order to use this fact? What about the hundreds or thousands of other people
2520 who know these facts?
2521   </p><p>
2522     If you go to a Black Lives Matter demonstration, do the other demonstrators
2523 need your permission to post their photos from the event? The online fights
2524 over <a class="ulink" href="https://www.wired.com/story/how-to-take-photos-at-protests/" target="_top">when and
2525 how to post photos from demonstrations</a> reveal a nuanced, complex
2526 issue that cannot be easily hand-waved away by giving one party a property
2527 right that everyone else in the mix has to respect.
2528   </p><p>
2529     The fact that information isn’t a good fit with property and markets doesn’t
2530 mean that it’s not valuable. Babies aren’t property, but they’re inarguably
2531 valuable. In fact, we have a whole set of rules just for babies as well as a
2532 subset of those rules that apply to humans more generally. Someone who
2533 argues that babies won’t be truly valuable until they can be bought and sold
2534 like loaves of bread would be instantly and rightfully condemned as a
2535 monster.
2536   </p><p>
2537     It’s tempting to reach for the property hammer when Big Tech treats your
2538 information like a nail — not least because Big Tech are such prolific
2539 abusers of property hammers when it comes to <span class="emphasis"><em>their</em></span>
2540 information. But this is a mistake. If we allow markets to dictate the use
2541 of our information, then we’ll find that we’re sellers in a buyers’ market
2542 where the Big Tech monopolies set a price for our data that is so low as to
2543 be insignificant or, more likely, set at a nonnegotiable price of zero in a
2544 click-through agreement that you don’t have the opportunity to modify.
2545   </p><p>
2546     Meanwhile, establishing property rights over information will create
2547 insurmountable barriers to independent data processing. Imagine that we
2548 require a license to be negotiated when a translated document is compared
2549 with its original, something Google has done and continues to do billions of
2550 times to train its automated language translation tools. Google can afford
2551 this, but independent third parties cannot.  Google can staff a clearances
2552 department to negotiate one-time payments to the likes of the EU (one of the
2553 major repositories of translated documents) while independent watchdogs
2554 wanting to verify that the translations are well-prepared, or to root out
2555 bias in translations, will find themselves needing a staffed-up legal
2556 department and millions for licenses before they can even get started.
2557   </p><p>
2558     The same goes for things like search indexes of the web or photos of
2559 peoples’ houses, which have become contentious thanks to Google’s Street
2560 View project. Whatever problems may exist with Google’s photographing of
2561 street scenes, resolving them by letting people decide who can take pictures
2562 of the facades of their homes from a public street will surely create even
2563 worse ones. Think of how street photography is important for newsgathering —
2564 including informal newsgathering, like photographing abuses of authority —
2565 and how being able to document housing and street life are important for
2566 contesting eminent domain, advocating for social aid, reporting planning and
2567 zoning violations, documenting discriminatory and unequal living conditions,
2568 and more.
2569   </p><p>
2570     The ownership of facts is antithetical to many kinds of human progress. It’s
2571 hard to imagine a rule that limits Big Tech’s exploitation of our collective
2572 labors without inadvertently banning people from gathering data on online
2573 harassment or compiling indexes of changes in language or simply
2574 investigating how the platforms are shaping our discourse — all of which
2575 require scraping data that other people have created and subjecting it to
2576 scrutiny and analysis.
2577   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="persuasion-works-slowly"></a>Overtalelse virker… sakte</h2></div></div></div><p>
2578     The platforms may oversell their ability to persuade people, but obviously,
2579 persuasion works sometimes. Whether it’s the private realm that LGBTQ people
2580 used to recruit allies and normalize sexual diversity or the decadeslong
2581 project to convince people that markets are the only efficient way to solve
2582 complicated resource allocation problems, it’s clear that our societal
2583 attitudes <span class="emphasis"><em>can</em></span> change.
2584   </p><p>
2585     The project of shifting societal attitudes is a game of inches and
2586 years. For centuries, svengalis have purported to be able to accelerate this
2587 process, but even the most brutal forms of propaganda have struggled to make
2588 permanent changes. Joseph Goebbels was able to subject Germans to daily,
2589 mandatory, hourslong radio broadcasts, to round up and torture and murder
2590 dissidents, and to seize full control over their children’s education while
2591 banning any literature, broadcasts, or films that did not comport with his
2592 worldview.
2593   </p><p>
2594     Yet, after 12 years of terror, once the war ended, Nazi ideology was largely
2595 discredited in both East and West Germany, and a program of national truth
2596 and reconciliation was put in its place. Racism and authoritarianism were
2597 never fully abolished in Germany, but neither were the majority of Germans
2598 irrevocably convinced of Nazism — and the rise of racist authoritarianism in
2599 Germany today tells us that the liberal attitudes that replaced Nazism were
2600 no more permanent than Nazism itself.
2601   </p><p>
2602     Racism and authoritarianism have also always been with us. Anyone who’s
2603 reviewed the kind of messages and arguments that racists put forward today
2604 would be hard-pressed to say that they have gotten better at presenting
2605 their ideas. The same pseudoscience, appeals to fear, and circular logic
2606 that racists presented in the 1980s, when the cause of white supremacy was
2607 on the wane, are to be found in the communications of leading white
2608 nationalists today.
2609   </p><p>
2610     If racists haven’t gotten more convincing in the past decade, then how is it
2611 that more people were convinced to be openly racist at that time? I believe
2612 that the answer lies in the material world, not the world of ideas. The
2613 ideas haven’t gotten more convincing, but people have become more
2614 afraid. Afraid that the state can’t be trusted to act as an honest broker in
2615 life-or-death decisions, from those regarding the management of the economy
2616 to the regulation of painkillers to the rules for handling private
2617 information. Afraid that the world has become a game of musical chairs in
2618 which the chairs are being taken away at a never-before-seen rate. Afraid
2619 that justice for others will come at their expense. Monopolism isn’t the
2620 cause of these fears, but the inequality and material desperation and policy
2621 malpractice that monopolism contributes to is a significant contributor to
2622 these conditions. Inequality creates the conditions for both conspiracies
2623 and violent racist ideologies, and then surveillance capitalism lets
2624 opportunists target the fearful and the conspiracy-minded.
2625   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="paying-wont-help"></a>Det hjelper ikke å betale</h2></div></div></div><p>
2626     As the old saw goes, <span class="quote">«<span class="quote">If you’re not paying for the product, you’re the
2627 product.</span>»</span>
2628   </p><p>
2629     It’s a commonplace belief today that the advent of free, ad-supported media
2630 was the original sin of surveillance capitalism.  The reasoning is that the
2631 companies that charged for access couldn’t <span class="quote">«<span class="quote">compete with free</span>»</span>
2632 and so they were driven out of business. Their ad-supported competitors,
2633 meanwhile, declared open season on their users’ data in a bid to improve
2634 their ad targeting and make more money and then resorted to the most
2635 sensationalist tactics to generate clicks on those ads. If only we’d pay for
2636 media again, we’d have a better, more responsible, more sober discourse that
2637 would be better for democracy.
2638   </p><p>
2639     But the degradation of news products long precedes the advent of
2640 ad-supported online news. Long before newspapers were online, lax antitrust
2641 enforcement had opened the door for unprecedented waves of consolidation and
2642 roll-ups in newsrooms. Rival newspapers were merged, reporters and ad sales
2643 staff were laid off, physical plants were sold and leased back, leaving the
2644 companies loaded up with debt through leveraged buyouts and subsequent
2645 profit-taking by the new owners. In other words, it wasn’t merely shifts in
2646 the classified advertising market, which was long held to be the primary
2647 driver in the decline of the traditional newsroom, that made news companies
2648 unable to adapt to the internet — it was monopolism.
2649   </p><p>
2650     Then, as news companies <span class="emphasis"><em>did</em></span> come online, the ad
2651 revenues they commanded dropped even as the number of internet users (and
2652 thus potential online readers) increased. That shift was a function of
2653 consolidation in the ad sales market, with Google and Facebook emerging as
2654 duopolists who made more money every year from advertising while paying less
2655 and less of it to the publishers whose work the ads appeared
2656 alongside. Monopolism created a buyer’s market for ad inventory with
2657 Facebook and Google acting as gatekeepers.
2658   </p><p>
2659     Paid services continue to exist alongside free ones, and often it is these
2660 paid services — anxious to prevent people from bypassing their paywalls or
2661 sharing paid media with freeloaders — that exert the most control over their
2662 customers. Apple’s iTunes and App Stores are paid services, but to maximize
2663 their profitability, Apple has to lock its platforms so that third parties
2664 can’t make compatible software without permission. These locks allow the
2665 company to exercise both editorial control (enabling it to exclude <a class="ulink" href="https://ncac.org/news/blog/does-apples-strict-app-store-content-policy-limit-freedom-of-expression" target="_top">controversial
2666 political material</a>) and technological control, including control
2667 over who can repair the devices it makes. If we’re worried that ad-supported
2668 products deprive people of their right to self-determination by using
2669 persuasion techniques to nudge their purchase decisions a few degrees in one
2670 direction or the other, then the near-total control a single company holds
2671 over the decision of who gets to sell you software, parts, and service for
2672 your iPhone should have us very worried indeed.
2673   </p><p>
2674     We shouldn’t just be concerned about payment and control: The idea that
2675 paying will improve discourse is also dangerously wrong. The poor success
2676 rate of targeted advertising means that the platforms have to incentivize
2677 you to <span class="quote">«<span class="quote">engage</span>»</span> with posts at extremely high levels to generate
2678 enough pageviews to safeguard their profits. As discussed earlier, to
2679 increase engagement, platforms like Facebook use machine learning to guess
2680 which messages will be most inflammatory and make a point of shoving those
2681 into your eyeballs at every turn so that you will hate-click and argue with
2682 people.
2683   </p><p>
2684     Perhaps paying would fix this, the reasoning goes. If platforms could be
2685 economically viable even if you stopped clicking on them once your
2686 intellectual and social curiosity had been slaked, then they would have no
2687 reason to algorithmically enrage you to get more clicks out of you, right?
2688   </p><p>
2689     There may be something to that argument, but it still ignores the wider
2690 economic and political context of the platforms and the world that allowed
2691 them to grow so dominant.
2692   </p><p>
2693     Platforms are world-spanning and all-encompassing because they are
2694 monopolies, and they are monopolies because we have gutted our most
2695 important and reliable anti-monopoly rules. Antitrust was neutered as a key
2696 part of the project to make the wealthy wealthier, and that project has
2697 worked. The vast majority of people on Earth have a negative net worth, and
2698 even the dwindling middle class is in a precarious state, undersaved for
2699 retirement, underinsured for medical disasters, and undersecured against
2700 climate and technology shocks.
2701   </p><p>
2702     In this wildly unequal world, paying doesn’t improve the discourse; it
2703 simply prices discourse out of the range of the majority of people. Paying
2704 for the product is dandy, if you can afford it.
2705   </p><p>
2706     If you think today’s filter bubbles are a problem for our discourse, imagine
2707 what they’d be like if rich people inhabited free-flowing Athenian
2708 marketplaces of ideas where you have to pay for admission while everyone
2709 else lives in online spaces that are subsidized by wealthy benefactors who
2710 relish the chance to establish conversational spaces where the <span class="quote">«<span class="quote">house
2711 rules</span>»</span> forbid questioning the status quo. That is, imagine if the
2712 rich seceded from Facebook, and then, instead of running ads that made money
2713 for shareholders, Facebook became a billionaire’s vanity project that also
2714 happened to ensure that nobody talked about whether it was fair that only
2715 billionaires could afford to hang out in the rarified corners of the
2716 internet.
2717   </p><p>
2718     Behind the idea of paying for access is a belief that free markets will
2719 address Big Tech’s dysfunction. After all, to the extent that people have a
2720 view of surveillance at all, it is generally an unfavorable one, and the
2721 longer and more thoroughly one is surveilled, the less one tends to like
2722 it. Same goes for lock-in: If HP’s ink or Apple’s App Store were really
2723 obviously fantastic, they wouldn’t need technical measures to prevent users
2724 from choosing a rival’s product. The only reason these technical
2725 countermeasures exist is that the companies don’t believe their customers
2726 would <span class="emphasis"><em>voluntarily</em></span> submit to their terms, and they want
2727 to deprive them of the choice to take their business elsewhere.
2728   </p><p>
2729     Advocates for markets laud their ability to aggregate the diffused knowledge
2730 of buyers and sellers across a whole society through demand signals, price
2731 signals, and so on. The argument for surveillance capitalism being a
2732 <span class="quote">«<span class="quote">rogue capitalism</span>»</span> is that machine-learning-driven persuasion
2733 techniques distort decision-making by consumers, leading to incorrect
2734 signals — consumers don’t buy what they prefer, they buy what they’re
2735 tricked into preferring. It follows that the monopolistic practices of
2736 lock-in, which do far more to constrain consumers’ free choices, are even
2737 more of a <span class="quote">«<span class="quote">rogue capitalism.</span>»</span>
2738   </p><p>
2739     The profitability of any business is constrained by the possibility that its
2740 customers will take their business elsewhere. Both surveillance and lock-in
2741 are anti-features that no customer wants.  But monopolies can capture their
2742 regulators, crush their competitors, insert themselves into their customers’
2743 lives, and corral people into <span class="quote">«<span class="quote">choosing</span>»</span> their services
2744 regardless of whether they want them — it’s fine to be terrible when there
2745 is no alternative.
2746   </p><p>
2747     Ultimately, surveillance and lock-in are both simply business strategies
2748 that monopolists can choose. Surveillance companies like Google are
2749 perfectly capable of deploying lock-in technologies — just look at the
2750 onerous Android licensing terms that require device-makers to bundle in
2751 Google’s suite of applications. And lock-in companies like Apple are
2752 perfectly capable of subjecting their users to surveillance if it means
2753 keeping the Chinese government happy and preserving ongoing access to
2754 Chinese markets.  Monopolies may be made up of good, ethical people, but as
2755 institutions, they are not your friend — they will do whatever they can get
2756 away with to maximize their profits, and the more monopolistic they are, the
2757 more they <span class="emphasis"><em>can</em></span> get away with.
2758   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="an-ecology-moment-for-trustbusting"></a>An <span class="quote">«<span class="quote">ecology</span>»</span> moment for trustbusting</h2></div></div></div><p>
2759     Hvis vi skal bryte Storteknologiens dødsgrep på våre digitale liv, så må vi
2760 bekjempe monopoler. Det høres kanskje ganske dagligdags og gammelmodig ut,
2761 noe , som noe fra New Deal-æraen, mens det å få slutt på bruken av
2762 automatisert atferdsendring oppleves som plottlinjen til en veldig stilig
2763 cyberpunk-roman.
2764   </p><p>
2765     Meanwhile, breaking up monopolies is something we seem to have forgotten how
2766 to do. There is a bipartisan, trans-Atlantic consensus that breaking up
2767 companies is a fool’s errand at best — liable to mire your federal
2768 prosecutors in decades of litigation — and counterproductive at worst,
2769 eroding the <span class="quote">«<span class="quote">consumer benefits</span>»</span> of large companies with massive
2770 efficiencies of scale.
2771   </p><p>
2772     But trustbusters once strode the nation, brandishing law books, terrorizing
2773 robber barons, and shattering the illusion of monopolies’ all-powerful grip
2774 on our society. The trustbusting era could not begin until we found the
2775 political will — until the people convinced politicians they’d have their
2776 backs when they went up against the richest, most powerful men in the world.
2777   </p><p>
2778     Klarer vi finne igjen den politiske viljen?
2779   </p><p>
2780     Opphavsrettsforskeren James Boyle har beskrevet hvordan begrepet
2781 <span class="quote">«<span class="quote">økologi</span>»</span> ga et vendepunkt i miljøaktivismen. Før dette
2782 begrepet ble tatt i bruk, så ikke folk som ønsket å ta vare på hvalbestanden
2783 nødvendigvis at de kjempet samme kamp som folk som ønsket å beskytte
2784 ozonlaget, få slutt på ferskvannforurensning, få vekk smog eller sur nedbør.
2785   </p><p>
2786     But the term <span class="quote">«<span class="quote">ecology</span>»</span> welded these disparate causes together
2787 into a single movement, and the members of this movement found solidarity
2788 with one another. The people who cared about smog signed petitions
2789 circulated by the people who wanted to end whaling, and the anti-whalers
2790 marched alongside the people demanding action on acid rain. This uniting
2791 behind a common cause completely changed the dynamics of environmentalism,
2792 setting the stage for today’s climate activism and the sense that preserving
2793 the habitability of the planet Earth is a shared duty among all people.
2794   </p><p>
2795     Jeg tror vi er på randen av en nytt <span class="quote">«<span class="quote"> økologi</span>»</span>-hendelse for
2796 bekjemping av monopoler. Tross alt er ikke teknologi den eneste
2797 sentralstyrte industrien, og det er heller ikke engang den
2798 <span class="emphasis"><em>mest</em></span> sentralstyrte bransjen.
2799   </p><p>
2800     You can find partisans for trustbusting in every sector of the
2801 economy. Everywhere you look, you can find people who’ve been wronged by
2802 monopolists who’ve trashed their finances, their health, their privacy,
2803 their educations, and the lives of people they love.  Those people have the
2804 same cause as the people who want to break up Big Tech and the same
2805 enemies. When most of the world’s wealth is in the hands of a very few, it
2806 follows that nearly every large company will have overlapping shareholders.
2807   </p><p>
2808     That’s the good news: With a little bit of work and a little bit of
2809 coalition building, we have more than enough political will to break up Big
2810 Tech and every other concentrated industry besides. First we take Facebook,
2811 then we take AT&amp;T/WarnerMedia.
2812   </p><p>
2813     Men her er de dårlige nyhetene: Mye av det vi gjør for å temme
2814 Storteknologien <span class="emphasis"><em>i stedet</em></span> for å bryte opp de store
2815 selskapene, vil gjøre det vanskeligere å bryte dem opp senere.
2816   </p><p>
2817     Big Tech’s concentration currently means that their inaction on harassment,
2818 for example, leaves users with an impossible choice: absent themselves from
2819 public discourse by, say, quitting Twitter or endure vile, constant
2820 abuse. Big Tech’s over-collection and over-retention of data results in
2821 horrific identity theft. And their inaction on extremist recruitment means
2822 that white supremacists who livestream their shooting rampages can reach an
2823 audience of billions. The combination of tech concentration and media
2824 concentration means that artists’ incomes are falling even as the revenue
2825 generated by their creations are increasing.
2826   </p><p>
2827     Yet governments confronting all of these problems all inevitably converge on
2828 the same solution: deputize the Big Tech giants to police their users and
2829 render them liable for their users’ bad actions. The drive to force Big Tech
2830 to use automated filters to block everything from copyright infringement to
2831 sex-trafficking to violent extremism means that tech companies will have to
2832 allocate hundreds of millions to run these compliance systems.
2833   </p><p>
2834     These rules — the EU’s new Directive on Copyright, Australia’s new terror
2835 regulation, America’s FOSTA/SESTA sex-trafficking law and more — are not
2836 just death warrants for small, upstart competitors that might challenge Big
2837 Tech’s dominance but who lack the deep pockets of established incumbents to
2838 pay for all these automated systems. Worse still, these rules put a floor
2839 under how small we can hope to make Big Tech.
2840   </p><p>
2841     That’s because any move to break up Big Tech and cut it down to size will
2842 have to cope with the hard limit of not making these companies so small that
2843 they can no longer afford to perform these duties — and it’s
2844 <span class="emphasis"><em>expensive</em></span> to invest in those automated filters and
2845 outsource content moderation. It’s already going to be hard to unwind these
2846 deeply concentrated, chimeric behemoths that have been welded together in
2847 the pursuit of monopoly profits. Doing so while simultaneously finding some
2848 way to fill the regulatory void that will be left behind if these
2849 self-policing rulers were forced to suddenly abdicate will be much, much
2850 harder.
2851   </p><p>
2852     Allowing the platforms to grow to their present size has given them a
2853 dominance that is nearly insurmountable — deputizing them with public duties
2854 to redress the pathologies created by their size makes it virtually
2855 impossible to reduce that size. Lather, rinse, repeat: If the platforms
2856 don’t get smaller, they will get larger, and as they get larger, they will
2857 create more problems, which will give rise to more public duties for the
2858 companies, which will make them bigger still.
2859   </p><p>
2860     We can work to fix the internet by breaking up Big Tech and depriving them
2861 of monopoly profits, or we can work to fix Big Tech by making them spend
2862 their monopoly profits on governance. But we can’t do both. We have to
2863 choose between a vibrant, open internet or a dominated, monopolized internet
2864 commanded by Big Tech giants that we struggle with constantly to get them to
2865 behave themselves.
2866   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="make-big-tech-small-again"></a>Gjør Storteknologien liten igjen</h2></div></div></div><p>
2867     Trustbusting is hard. Breaking big companies into smaller ones is expensive
2868 and time-consuming. So time-consuming that by the time you’re done, the
2869 world has often moved on and rendered years of litigation irrelevant. From
2870 1969 to 1982, the U.S. government pursued an antitrust case against IBM over
2871 its dominance of mainframe computing — but the case collapsed in 1982
2872 because mainframes were being speedily replaced by PCs.
2873   </p><div class="blockquote"><blockquote class="blockquote"><p>
2874       En fremtidig president i USA kunne ganske enkelt be sin justisminister om å
2875 håndheve loven slik den er skrevet.
2876     </p></blockquote></div><p>
2877     It’s far easier to prevent concentration than to fix it, and reinstating the
2878 traditional contours of U.S. antitrust enforcement will, at the very least,
2879 prevent further concentration. That means bans on mergers between large
2880 companies, on big companies acquiring nascent competitors, and on platform
2881 companies competing directly with the companies that rely on the platforms.
2882   </p><p>
2883     These powers are all in the plain language of U.S. antitrust laws, so in
2884 theory, a future U.S. president could simply direct their attorney general
2885 to enforce the law as it was written. But after decades of judicial
2886 <span class="quote">«<span class="quote">education</span>»</span> in the benefits of monopolies, after multiple
2887 administrations that have packed the federal courts with lifetime-appointed
2888 monopoly cheerleaders, it’s not clear that mere administrative action would
2889 do the trick.
2890   </p><p>
2891     If the courts frustrate the Justice Department and the president, the next
2892 stop would be Congress, which could eliminate any doubt about how antitrust
2893 law should be enforced in the U.S. by passing new laws that boil down to
2894 saying, <span class="quote">«<span class="quote">Knock it off. We all know what the Sherman Act says. Robert
2895 Bork was a deranged fantasist. For avoidance of doubt, <span class="emphasis"><em>fuck that
2896 guy</em></span>.</span>»</span> In other words, the problem with monopolies is
2897 <span class="emphasis"><em>monopolism</em></span> — the concentration of power into too few
2898 hands, which erodes our right to self-determination. If there is a monopoly,
2899 the law wants it gone, period. Sure, get rid of monopolies that create
2900 <span class="quote">«<span class="quote">consumer harm</span>»</span> in the form of higher prices, but also,
2901 <span class="emphasis"><em>get rid of other monopolies, too.</em></span>
2902   </p><p>
2903     But this only prevents things from getting worse. To help them get better,
2904 we will have to build coalitions with other activists in the anti-monopoly
2905 ecology movement — a pluralism movement or a self-determination movement —
2906 and target existing monopolies in every industry for breakup and structural
2907 separation rules that prevent, for example, the giant eyewear monopolist
2908 Luxottica from dominating both the sale and the manufacture of spectacles.
2909   </p><p>
2910     In an important sense, it doesn’t matter which industry the breakups begin
2911 in. Once they start, shareholders in <span class="emphasis"><em>every</em></span> industry
2912 will start to eye their investments in monopolists skeptically. As
2913 trustbusters ride into town and start making lives miserable for
2914 monopolists, the debate around every corporate boardroom’s table will
2915 shift. People within corporations who’ve always felt uneasy about monopolism
2916 will gain a powerful new argument to fend off their evil rivals in the
2917 corporate hierarchy: <span class="quote">«<span class="quote">If we do it my way, we make less money; if we do
2918 it your way, a judge will fine us billions and expose us to ridicule and
2919 public disapprobation. So even though I get that it would be really cool to
2920 do that merger, lock out that competitor, or buy that little company and
2921 kill it before it can threaten it, we really shouldn’t — not if we don’t
2922 want to get tied to the DOJ’s bumper and get dragged up and down Trustbuster
2923 Road for the next 10 years.</span>»</span>
2924   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="goto-10"></a>20 GOTO 10</h2></div></div></div><p>
2925     Fixing Big Tech will require a lot of iteration. As cyber lawyer Lawrence
2926 Lessig wrote in his 1999 book, <span class="emphasis"><em>Code and Other Laws of
2927 Cyberspace</em></span>, our lives are regulated by four forces: law (what’s
2928 legal), code (what’s technologically possible), norms (what’s socially
2929 acceptable), and markets (what’s profitable).
2930   </p><p>
2931     Hvis du kunne svinge en tryllestav å få kongressen til å vedta en lov som
2932 vedtok Sherman-loven på nytt i morgen, så kunne du bruke den påfølgende
2933 oppsplittingen til å overbevise risikokapitalister om å finansiere
2934 konkurrentene til Facebook, Google, Twitter og Apple som ville vente i
2935 utkanten etter at disse ble gjort mindre.
2936   </p><p>
2937     Men å få kongressen til å gjøre noe vil kreve en massiv normativ endring, en
2938 massebevegelse av folk som bryr seg om monopoler — og hvordan bryte dem opp.
2939   </p><p>
2940     Getting people to care about monopolies will take technological
2941 interventions that help them to see what a world free from Big Tech might
2942 look like. Imagine if someone could make a beloved (but unauthorized)
2943 third-party Facebook or Twitter client that dampens the anxiety-producing
2944 algorithmic drumbeat and still lets you talk to your friends without being
2945 spied upon — something that made social media more sociable and less
2946 toxic. Now imagine that it gets shut down in a brutal legal battle. It’s
2947 always easier to convince people that something must be done to save a thing
2948 they love than it is to excite them about something that doesn’t even exist
2949 yet.
2950   </p><p>
2951     Neither tech nor law nor code nor markets are sufficient to reform Big
2952 Tech. But a profitable competitor to Big Tech could bankroll a legislative
2953 push; legal reform can embolden a toolsmith to make a better tool; the tool
2954 can create customers for a potential business who value the benefits of the
2955 internet but want them delivered without Big Tech; and that business can get
2956 funded and divert some of its profits to legal reform. 20 GOTO 10 (or
2957 lather, rinse, repeat). Do it again, but this time, get farther! After all,
2958 this time you’re starting with weaker Big Tech adversaries, a constituency
2959 that understands things can be better, Big Tech rivals who’ll help ensure
2960 their own future by bankrolling reform, and code that other programmers can
2961 build on to weaken Big Tech even further.
2962   </p><p>
2963     The surveillance capitalism hypothesis — that Big Tech’s products really
2964 work as well as they say they do and that’s why everything is so screwed up
2965 — is way too easy on surveillance and even easier on capitalism. Companies
2966 spy because they believe their own BS, and companies spy because governments
2967 let them, and companies spy because any advantage from spying is so
2968 short-lived and minor that they have to do more and more of it just to stay
2969 in place.
2970   </p><p>
2971     As to why things are so screwed up? Capitalism. Specifically, the monopolism
2972 that creates inequality and the inequality that creates monopolism. It’s a
2973 form of capitalism that rewards sociopaths who destroy the real economy to
2974 inflate the bottom line, and they get away with it for the same reason
2975 companies get away with spying: because our governments are in thrall to
2976 both the ideology that says monopolies are actually just fine and in thrall
2977 to the ideology that says that in a monopolistic world, you’d better not
2978 piss off the monopolists.
2979   </p><p>
2980     Overvåkning får ikke kapitalismen ut av kontroll. Kapitalismens
2981 ukontrollerte styre startet før overvåkningen. Overvåkning er ikke ille
2982 fordi det lar folk manipulere oss. Den er ille fordi den knuser vår mulighet
2983 til å være oss selv — og fordi det lar de rike og mektige finne ut hvem som
2984 kan vurdere å bygge gilliotiner og hvilken dritt de kan bruke for å
2985 diskredittere disse potensielle gilliotin-byggerne før de i det hele tatt
2986 kommer seg til treverkforhandleren.
2987   </p></div><div class="sect1"><div class="titlepage"><div><div><h2 class="title" style="clear: both"><a name="up-and-through"></a>Up and through</h2></div></div></div><p>
2988     Men alle problemene med Storteknologien, så er det fristende å forestille
2989 seg å løse problemet ved å gå tilbake til en verden helt uten teknologi. Stå
2990 imot den fristelsen.
2991   </p><p>
2992     The only way out of our Big Tech problem is up and through. If our future is
2993 not reliant upon high tech, it will be because civilization has fallen. Big
2994 Tech wired together a planetary, species-wide nervous system that, with the
2995 proper reforms and course corrections, is capable of seeing us through the
2996 existential challenge of our species and planet. Now it’s up to us to seize
2997 the means of computation, putting that electronic nervous system under
2998 democratic, accountable control.
2999   </p><p>
3000     Jeg er også, i smug, på tross av det jeg tidligere har sagt, en
3001 teknologieksepsjonalist. Ikke på den måten at jeg tenker at teknologi bør få
3002 lov til å danne monopoler fordi det har <span class="quote">«<span class="quote">stordriftsfordeler</span>»</span>,
3003 eller andre tåkeforklaring. Jeg er teknologieksepsjonalist fordi jeg tror
3004 det betyr noe å gjøre det riktig med teknologi, og at å gjøre det feil vil
3005 være en ubøtelig katastrofe — og det å gjøre det riktig kan gi oss evnen til
3006 å jobbe sammen om å redde sivilisasjonen, arten og planeten vår.
3007   </p></div></div></div></body></html>