Den mest overraskende momentet med tilbakekomsten av flatjordtilhengere i det 21. århundre er hvor viden tilgjengelig bevisene mot dem er. En kan forstå hvordan folk, for noen århundrer siden, som aldri hadde tilgang på et høyt nok utsiktspunkt til å se jordens krumning, kunne ende opp med en rimelig fornuftig tro på at den tilsynelatende flate jorden, rent faktisk var flat.

Men idag, når grunnskoler rutinemessig henger GoPro-kamera fra ballonger og sender dem høyt nok til å fotografere jordens krumning, for ikke å snakke om det lite eksepsjonelle synet av en krummet jord fra vinduet på et fly. Det kreves en heroisk innsats for å holde på troen om at jorden er flat.

På samme måten er det med hvit nasjonalisme og eugenikk. I en tidsalder der du kan bli et datamaskinberegnet genomdatapunkt ved å sveipe innsiden av munnhulen og sende resultatet til et gensekvensieringsselskap sammen med en beskjeden sum penger, så har «rasevitenskap» aldri vært enklere å avvise.

Vi lever i en gullalder både med hensyn til enkel faktatilgang og fornektelse av dem. Forferdelige idéer som har svevd i utkanten i tiår eller til og med århundrer har blitt allemannseie tilsynelatende over natten.

Når obskure idéer får fotfeste, er det kun to ting som kan forklare at de kommer til overflaten: Enten har personen som uttrykker idéen forbedret sin formidling av den, eller så har forgodtbefinnendet blitt vanskeligere å fornekte i lys av mer bevis. Med andre ord, hvis vi ønsker at folk skal ta klimaendringer seriøst, kan vi få et utall Greta Thunberg til å gi velformulerte, oppofrende argumenter fra talerstoler, til hjertets og sinnets dyst, eller vi kan vente på floden, den stekende sol, og pandemier lager argumentene for oss. I praksis må vi antagelig gjøre litt av begge deler: Desto mer vi steker, brenner, drukner og forvitrer, dess enklere vil det være for dem av oss som Greta Thunberg å overbevise oss.

De iboende argumentet for ting som eksempelvis teorien om flat jord har ikke blitt bedre i den vordende generasjonen. Faktisk har ting blitt verre, fordi folk uten bakgrunn i kildekritikk er gjenstand for dem.

Idéen om en flat jord er like gammel som idéene og forståelsen av dem. De første presentasjonene av denne teorien kom folk for øre som ikke forstod selv grunnleggende geometri. De hadde til gode å se tilbake på det heliosentrikere og storsirkelnavigasjon bragte siden. Dagens tilhengere er mer finslepne enn tidligere tiders religiøse verdensanskuelse, og de har en mye vanskeligere jobb.

Er det tilfelle at disse konspiratorikerne lykkes med utgangspunkt i bedre argumenter?

Noen synes å tro det. I dag er troen hengitt at maskinlæring og kommersiell overvåkning kan gjøre selv en konspirasjonsteoretiker uten taleevner til trådtrekker med KI-refinerte argumenter som verktøy til et omvendt dukketeater som omgår alle rasjonelle evner. Når RAND beskylder Facebook for «radikalisering» og når Facebook sin rolle i å spre coronavirus-misinformasjon blir bortforklart i deres algoritme, er det underforstått at maskinlæring og overvåkning endrer vår oppfattelse av hva som sant er.

I en verden der enhver konspirasjonsteori har sine ihuga tilhengere, må noe være i gjerde.

Hva om det har sin naturlige forklaring? Er det kanskje ikke argumentene som utgjør tyngden på vektskåla for dem? Hva om de ekte konspirasjonene vi omgås hvordan det daglige stormaktsspillet og i kapitalerværvelsen mellom fut og fogd gravlegger ubeleilig fakta og bevis på mislighold? Slike ting som i beste fall kalles korrupsjon, gjør de folk sårbare for fiktive konspirasjonsteorier?

Hvis det er slagskade og ikke smitte – materielle forhold og ikke ideologi – som utgjør forskjellen i dag og gjør økningen i frastøtende feilinformasjon mulig, i møte med lett observerte fakta, så betyr det ikke at datanettverkene vår ikke kan lastes. De gjør fortsatt grovarbeidet med å spore opp sårbare mennesker og lede dem gjennom en rekke av stadig mer ekstreme ideer og lokalsamfunn.

Troen på fiktive konspirasjoner har gjort skade og utgjør en fare for både planeten og dyrearter, fra epedemier med opphav i vaksinenekt til folkemord igangsatt av rasistiske konspirasjonsteorier og planetarisk nedsmelting forårsaket av nektelsesinspirert klimainaktivitet. Vår verden brenner, og derfor må vi slukke brannene — for å finne ut hvordan vi kan hjelpe folk til å se sannheten i verden igjennom konspirasjonene de har blitt forvirret av.

Brannslokking er reaktivt. Det trengs forebygging. Den materielle tilværelsen hvis innvirken på folks svakhet for den, smitter over i handling. Her kan også teknologi ha noe å si.

Det skorter ikke på tilsvarsforslag. Fra EU sin Terroristinnhold-regulering som krever at plattformer håndhever og fjerner «ekstremistisk»-innhold, til USAs forslag om å tvinge teknologiselskaper til å spionere på sine brukere og holde dem ansvarlige for brukernes ytringsfrihet. Det er mange krefter i sving som kan svinge tilbake slik at teknologiselskaper må løse problemene de utgjør.

Her mangler en kritisk del av debatten. Alle disse løsningene antar at teknologiselskaper er en bruksgjenstand, at deres dominanse over Internett er evig. Forslag til endring av storteknologien til et mer finmasket, mangeslynget Internett lar vente på seg. «Løsningene» som forefinnes krever at storteknologien skal forbli storartet smålig, fordi kun de største selskapene får råd til å sette i verk systemene disse lovene krever.

Løsningen på hva teknologien skal være er svaret på hva som skal til for å komme oss ut av knipa. I dag er vi på perrongen og prøver å finne ut hva tabellen storteknologien har lagt fore skal bety for vårt Internett i fortsettelsen, eller om det går noen tog andre veien. Enveisbilletten har vi klamt for hånden.

Velg med omhu. Temming av storteknologien er iboende viktig for løsningen på Internett. Hvorfra vi setter ut i det, en digital rettighetsaktivisme til.

Digital rettighetsaktivisme er eldre enn Internett. GNU-prosjektet er fra 1983. Elektronisk forpost fra 1990. I brorparten av tiden denne har eksistert, var hovedkritikken rettet mot dens formål at det hele var irrelevant: De sanne aktivistparolene var blitt virkelighet i lys av skepsis. Tenk over hva som ble sagt da Finland snudde kjærringa og erklærte breiband en mennskerett i 2010. Sann aktivisme var for smørkrise å regne den gang. Tenk over Malcolm Gladwell sin forakt for at Finland gjorde resten av verden til skamme i 2010 da han kalte det «klikktivisme.». Etter at storteknologien har blitt sentral i våre liv, om ikke erstattet noen av dem helt, har disse uverdige kritikkene blitt kritikk verdige. Først lød pipa av at «Du bryr deg kun om teknologi fordi du er en undersått av et teknologiselskap». Så ble lyden tonelydende «Hvorfor forutså du ikke at teknologi kom til å bli en så destruktiv kraft?». Digital rettighetsaktivisme er riktig der det alltid har vært rett: voktende over menneskene i en verden der teknologi ubønnhørlig tar grep.

Siste versjon av kritikken plystrer til takten av «overvåkningskapitalismen», et begrep Shoshana Zuboff førte i pennen i sin innflytelsesrike og lange bok fra 2019, Tidsalderen overvåkningskapitalismen: Kampen om en human fremtid i maktens nye frontlinjer. Zuboff argumenterer at «overvåkningskapitalisme» er en unik funksjon av teknologi-industrien, og at til forskjell fra andre skadeinnvirkende kommersielle gesjefter i historiens løp, at denne «skriver seg fra uventede og illegale mekanismer for utnyttelse, verdiskapning og kontroll som effektivt sett løsriver folk fra deres adferd, mens den lager nye markeder for å forutsi oppførselsforutsigbarhet og endring av den. Overvåkningskapitalisme utfordrer demokratiske normer, og tar avskjed med århundrers markedskapitalisme på sentrale punkter.» Det er en ny og dødlig form for kapitalisme, en «ukontrollert kapitalisme», og vår forståelsesmangel i dens unike muligheter og farer representerer en eksistensiell, artsomfattende trussel. Hun skal ha rett i at dagens kapitalisme truer vårt artsmangfold, og hun framfører riktig nok at vår art og sivilisasjon har utfordringer. Dog tar hun kanskje virkelig feil av hvordan teknologi er forskjellig, og hvordan det truer vår art.

En slik feildiagnostisering vil forlede oss inn på et spor der storteknologien har penset inn allerede. Ned med storteknologien, er ikke en avsporing av problemet.

Tidligere kritikere av bevegelsen av og for digitale rettigheter—kanskje best representert ved organisasjoner som GNU-prosjektet, Elektronisk forpost, Public Knowledge, og andre som fokuserer på ivaretagelse og forbedring av grunnleggende rettigheter fra og i den digitale sfære—ble kalt aktivister for å praktisere «teknologieksepsjonalisme». Rundt tusenårets slutt drev seriøse mennesker gjøn og påstod at teknologi-praksis ikke hadde innvirkning på den «virkelige verden». Påstander om at teknologiregler hadde innvirkning på talefrihet, assosiasjonsfrihet, vern av privatsfæren, ransakelsesordrer, og fundamentale rettigheter og verdier ble antatt for latterlige å være, en videre trist fabulering om Star Trek på digitale oppslagstavler istedenfor Nelson Mandela.

I årtiene som fulgte, har anklagene om «teknologi-eksepsjonalisme» økt etter som teknologi har fått en større rolle i folks hverdagsliv. Nå som teknologi har infiltrert hver krink og krok i våre liv, og våre nettbaserte liv kun har kommet et knippe monopolister i hende, blir digitale rettighetsforkjempere anklaget for å gå storteknologiens ærend, og støtter deres uaktsomhet som tjener deres egeninteresse (eller verre, skumle konspirasjoner).

Fra eget perspektiv har bevegelsen for digitale rettigheter forholdt seg der den startet, mens resten av verden har flyttet seg. Helt fra dens tidligste dager, var det dens brukere også dem som skrev koden fra tanke til fundamentale verktøy. Digitale rettighetsaktivister brød seg kun om selskaper i den grad de brydde seg om brukernes rettigheter (eller, vel så ofte, når selskaper gjorde så tåpelige ting at det truet med nye regelsett som også gjorde det vanskeligere for rasjonelle aktører å hjelpe brukere).

«Overvåkningskapitalisems» kritiker kommer så med en ny vinkling mot bevegelsen for digitale rettigheter: Ikke som varslere som overdriver hvor viktig de nye leketøyene deres er, ei heller som håndtlangere for storteknologien, men som velmenende stolflyttere hvis langvarige aktivisme er en belastning fordi det gjør det ute av stand til å oppfatte nye truslene som finnes fordi de er opptatt med forrige århundres teknologikamp.

Men teknologieksepsjonalisme er en synd, uavsett hvem som bedriver den.

Du har antagelig hørt at «om du ikke betaler for noe, er det du som er produktet». Som vi ser nedenfor, er det riktig, men ikke hele bildet. Det som er helt riktig om reklamefinansiert storteknologi, er at dens kunder er de som reklamerer, og det selskaper som Google og Facebook selger, er deres evne til å overbevise deg om å kjøpe ting. Tjenestene—sosiale media, søkemotorer, kart, meldingstjenester, med mer—er leveringssystemer for overbeviselse.

Frykten for overvåkningskapitalismen utgår fra den (korrekte) antagelsen om at alt Storteknologien sier om seg selv antagelig er løgn. Men kritikken av overvåkningskapitalismen gjør unntak fra påstandene Storteknologien kommer med i salgsmateriellet sitt - overdrivelsene som tar pusten fra deg i salgsfremstøtene til potensielle annonsekjøpere på nettet og i deres reklameteknologiseminarer om effekten av produktene. Den antar at Storteknologien er så god til å påvirke oss som de påstår de er når de selger påvirkningsprodukter til pålitelige kunder. Dette er en tabbe, da salgsmateriell ikke er en pålitelig indikator på et produkts gjennomføringsevne.

Overvåkningskapitalismen antar det at det kjøpes mye av markedsføringen som Storteknologien selges, så må Storteknologien selge noe som virker. Men det enorme salget til Storteknologien kan like gjerne være et resultat av en felles vrangforestilling eller noe enda mer skadelig, monopolistisk kontroll over kommunikasjonen og handelen vår.

Du endrer oppførsel når noen ser på deg, og ikke til det bedre. Det skaper risiko for vår sosiale fremgang. Zuboffs bok inneholder vakkert formulerte forklaringer av disse fenomenene. Men Zuboff påstår også at overvåkning bokstavlig talt fjerner vår frie vilje, at når våre personlige data blandes med maskinlæring, så oppstår et overtalelsessystem så ødeleggende at vi er helt hjelpeløse i møte med det. Det vil si at Facebook med en algoritme til å analysere data som det henter ut fra ditt daglige liv uten samtykke, tilpasser feeden din slik at du kjøper ting. Det er en tankekontrollstråle rett ut av en femtitalls-tegneserie, der brukt av gale forskere hvis superdatamaskiner garanterer dem evigvarende og total verdensherredømme.

For å forstå hvorfor du ikke bør bekymre deg over tankekontrollstråler, men hvorfor du bør bekymre deg over overvåkning og Storteknologi, så må vi starte ved å se på hva vi mener med «overtalelse».

Google, Facebook, og andre overvåkningskapitalister lover sine kunder (de som markedsfører) at hvis de bruker maskinlæringsverktøy opptrent på ufattelig store datasett av personinformasjon høstet inn uten samtykke, så vil de være i stand til å finne måter å overstyre de rasjonale evnene til folket og styre deres oppførsel, og slik skape en strøm av kjøp, stemmer og andre ønskede resultater.

Men det finnes få indiser på at det er dette som skjer. I stedet er forutsigelsene som overvåkningskapitalismen leverer til sine kunder mye mindre imponerende. I stedet for å finne måter å omgå våre rasjonelle evner, så gjør overvåkningskapitaliser som Mark Zuckerberg i hovedsak en eller flere av tre ting:

Dette tilpasningsproblemet gir en forklaring på en av overvåkingskapitalismens mest alarmerende egenskaper: dens nådeløse sult etter data og dens endeløse utvidelse av evnen til datainnsamling ved spredning av sensorer, nettovervåking og oppkjøp av datastrømmer fra tredjeparter.

Zuboff observerer dette fenomenet og konkluderer med at data må være svært verdifulle hvis overvåkingskapitalismen er så sulten på det. (I hennes ord: «Akkurat som industriell kapitalisme ble drevet til kontinuerlig intensivering av produksjonsmidlene, så nå er overvåkingskapitalister og deres markedsaktører låst inn i den kontinuerlige intensiveringen av virkemidler for atferdsmodifisering og innsamlingskraftens makt. ») Men hva om den grådige appetitten er fordi dataene har en så kort halveringstid - fordi folk så raskt herdes mot nye, datadrevne overtalelsesteknikker - at selskapene er låst i et våpenkappløp mot vårt glemsomme system? Hva om det hele er en Red Queen's rase hvor de må løpe stadig raskere - samle stadig mer data - bare for å holde seg på samme sted?

Selvfølgelig fungerer alle Storteknolgiens overtalelsesteknikker sammen med hverandre, og innsamling av data er nyttig utover bare til atferdsmessig lureri.

Hvis noen ønsker å rekruttere deg til å kjøpe et kjøleskap eller bli med i en pogrom, kan de bruke profilering og målretting for å sende meldinger til folk de bedømmer for å gi gode salgsutsikter. Meldingene i seg selv kan være villedende, og gjør påstander om ting du ikke er veldig kunnskapsrik om (matsikkerhet og energieffektivitet, eller eugenikk og historiske påstander om rasemessig overlegenhet). De kan bruke søkemotoroptimalisering og/eller hærer av falske korrekturlesere og kommentatorer og/eller betalt plassering for å dominere diskursen, slik at ethvert søk etter ytterligere informasjon tar deg tilbake til meldingene sine. Og til slutt kan de avgrense de forskjellige banene ved hjelp av maskinlæring og andre teknikker for å finne ut hva slags tonehøyde som fungerer best på noen som deg.

Hver fase av denne prosessen drar nytte av overvåking: Jo flere data de har, jo mer presist kan de profilere deg og målrette deg mot bestemte meldinger. Tenk på hvordan du ville selge et kjøleskap, hvis du visste at garantien på prospektets kjøleskap nettopp er utløpt, og at de forventer en skatterabatt i april.

Jo mer data de har, desto bedre kan de lage villedende meldinger - hvis jeg vet at du liker slektsforskning, kan jeg ikke prøve å mate deg pseudovitenskap om genetiske forskjeller mellom « raser,» stikker i stedet til konspiratoriske hemmelige historier om « demografi» og lignende.

Facebook hjelper deg også med å finne personer som har de samme motbydelige eller antisosiale synspunktene som deg. Det gjør det mulig å finne andre mennesker som ønsker å bære bambusfakler gjennom gatene i Charlottesville i Confederate-utstyr. Det kan hjelpe deg med å finne andre mennesker som ønsker å bli med i militsen din og gå til grensen i å lete etter udokumenterte innvandrere å terrorisere. Det kan hjelpe deg å finne folk som deler din tro på at vaksiner er gift og at jorden er flat.

Det er en måte der målrettet markedsføring særskilt har fordeler for de som fremmer sosialt uakseptable saker: Den er usynlig. Rasisme er spredt over et stort geografisk områdæ, og det er få plasser der rasister — og kun rasister — samles. Dette tilsvarer problemet med å selge kjøleskap i at potensielle kjøleskapskjøpere er geografisk spredt og det er få plasser der du kan kjøpe reklameplass som i all hovedsak kun vil bli sett av kjøleskapskunder. Men kjøp av kjøleskap er sosialt akseptabelt, mens det å være nazist er det ikke, så du kan kjøpe en reklametavle eller reklamere i avisens sportsdel for kjøleskapene, og den eneste potensielle ulempen er at reklamen din vil bli sett av masse folk som ikke ønsker å kjøpe kjøleskap som gir store unødvendige kostnader.

Men selv om du ønsker å reklamere for din nazi-bevegelse på en reklametavle eller på TV i beste sendetid eller i sportsdelen av avisen, så vil du slite med å finne noen som er villig til å selge deg reklameplass, delvis fordi de er uenige i ditt syn og delvis fordi de frykter negative konsekvenser (boykott, skadet omdømme, etc) fra andre folk som er uenige med deg.

Målrettet reklame løser dette problemet: På Internettet kan hver person få forskjellige reklameeksponeringer, som betyr at du kan kjøpe reklamer som kun vises til personer som gir inntrykk av å være nazister, og ikke til folk som hater nazister. Når budskapet når feil mottaker, når noen som hater rasisme blir vist reklame for å rekruttere rasister, så kan det bli litt krøll. Plattformen eller publikasjonen kan få rasende fordømmelser enten offentlig eller privat. Men egenskapene til risikoen som en kjøper av reklame på nettet tar på seg, er forskjellig fra risikoen til en tradisjonell utgiver eller reklametavleeier som ønsker å publisere nazi-reklame.

Reklamer på nettet plasseres av algoritmer som megler mellom ulike økosystemer av selvbetjente plastformer som enhver kan kjøpe reklame gjennom, hvilket gjør at nazi-reklame som dukker opp i din favorittpublikasjon på nettet ses ikke på publikasjonens moralske fallitt, men derimot som en feil som oppstår i en fjern underleverandør av reklame. Når en publikasjon får klager om en støtende annonse som dukker opp på et av sine enheter, så kan den ta noen grep for å blokkere den reklamen, men nazistene kan kjøpe en litt anderledes reklame fra en annen megler rettet mot den samme enhet. Og uansett forstår Internettbrukerne i stadig større grad at når de ser en reklame, så er det sannsynlig at de som reklamerer ikke valgte publikasjonen, og at publikasjonen ikke aner hvem som reklamerer hos dem.

Disse lagene av omdirigering mellom de som reklamerer og utgiverne fungerer som moralske buffer: Dagens moralske konsensus er i stor grad at utgiverne ikke bør holdes ansvarlig for reklamen som dukker opp på sidene deres fordi de ikke har aktivt valgt å plassere disse reklamene der. Nazistene er, takket være dette, i stand til å overkomme signifikante hindre for å organisere sin bevegelse.

Data har et komplekst forhold til det å dominere. Når du kan spionere på kundene dine så kan du få varsel når de foretrekker dine rivaler og det gir deg mulighet til å gjøre det bedre enn konkurrentene dine i neste omgang.

Viktigere, hvis du kan dominere informasjonsområdet samtidig med innsamling av data, så kan du forsterke andre villedende taktikker fordi det er vanskeligere å bryte ut av nettet av svik som du spinner. Dominering, det vil si til slutt å bli et monopol, og ikke dataene i seg selv, er drivkraften som gjør enhver taktikk verdt å utnytte fordi monopolistisk dominering fratar ditt mål enhver fluktrute.

Hvis du er en nazist som vil sikre at dine potensielle kun ser villedende og bekreftende informasjon når de søker etter mer, så kan du forbedre oddsene dine ved å gi dem søkeord som de vil bruke i din initielle kommunikasjon. Du trenger ikke eie de 10 første resultatene for «undertrykking av stemmer» hvis du kan overbevise dine mål om å begrense sine søke ord til «stemmejuks», hvilket gir en helt annen gruppe søkeresultater.

Overvåkningskapitalister er som scenementalister som påstår at deres ekstraordinære forståelse av menneskelig oppførsel lar dem gjette hvilket ord du skrev ned og brettet sammen i lommen din, men som i virkeligheten bruker fordekte hjelpere, skjulte kamera, fingerferdigheter og direkte memorering for å gjøre deg forbløffet.

Eller kanskje er de mer som sjekke-kunstnere, denne misogynistiske kulten som lover å hjelpe klønete menn å ha sex med kvinner ved å lære dem «nevrolinguistisk programmerings»-fraser, kroppsspråkteknikker og psykologiske manipulasjonsteknikker ala «negging» — ved å komme med uønskede negative tilbakemeldinger til kvinner for å senke deres selvtillit og fange deres interesse.

Noen sjekke-kunstnere klarer til slutt å overbevise kvinner om å bli med dem hjem, men det er ikke fordi disse mennene har klart å finne ut hvordan en overstyrer kvinners kritiske tankeevner. I stedet er sjekke-kunstnernes «suksesshistorier» en blanding av kvinner som var ute av stand til å samtykke, kvinner som ble presset, kvinner som var beruset, selv-destruktive kvinner, og noen få kvinner som var edru og hadde kontroll over seg selv, men som ikke forsto med en gang at de var sammen med forferdelige menn og korrigerte feilen så raskt de kunne.

Sjekke-kunstnere tror de har oppdaget en hemmelig bakdør som overstyrer kvinners kritiske evner, men det har de ikke. Mange av taktikkene de benytter seg av, som negging, er blitt poenget i vitser (på samme måte som folk vitser om dårlig annonsemålretting), og det er en stor sjanse for at enhver de forsøker disse teknikkene på, umiddelbart vil gjenkjenne teknikken og avvise mennene som bruker dem som uhelbredelige tapere.

Sjekkekunstnere er beviset på at folk kan tro de har utviklet et system for tankekontroll selv når det ikke virker. Sjekkekunstnere utnytter ganske enkelt det faktum at en-til-en-million-sjanser kan slå til hvis du gjør en million forsøk, og så antar de ganske enkelt at de øvrige 999 999 gangene gjennomførte de ganske enkelt teknikken feil og bestemte seg for å gjøre det bedre neste gang. Det er bare en annen gruppe mennesker som lar seg overbevise av sjekkekunstnernes mytologi, og det er potensielle sjekkekunstere hvis angst og usikkerhet gjør den sårbare for svindlere og menn med vrangforestillinger som overbeviser dem om at hvis de betaler for veiledningen og følger instruksene, så vil de før eller senere lykkes. Sjekkekunstnere antar at de ikke klarer å sjekke opp kvinner fordi de er dårlige sjekkekunstnere, ikke fordi sjekkekunst er vrøvl. Sjekkekunstnerne er dårlige til å markedsføre seg til kvinner, men de er mye bedre til å markedsføre seg til menn som betaler for å lære seg sjekkekunstens hemmeligheter.

Dagligvarehandelpioneren John Wanamaker sies å ha klaget over at «Halvparten av pengene jeg bruker på markedsføring er bortkastet. Problemet er at jeg vet ikke hvilken halvpart.» Det faktum at Wanamaker tenkte at kun halvparten av hans markedsføringsutgifter var bortkastet er hyllest til hvor overbevisende lederne i markedsføringbransjen er, som er mye flinkere til å overtale potensielle klienter om å kjøpe tjenester fra dem enn de er til å overbevise allmenheten om å kjøpe varene fra kundene deres.

Facebook meldes å være kilden til all moderne pest, og det er ikke vanskelig å forstå hvorfor. Noen teknologiselskaper ønsker å låse kundene sine inne mens de tjener penger på å kontrollere tilgangen til markedet for programvare på enhetene deres, og melker dem på pris i stedet for å spionere på dem (som Apple). Noen selskaper bryr seg ikke om innlåsing av brukerne fordi de har funnet ut hvordan de kan spionere på dem uansett hvor de er og hva de gjør, og klart å omforme denne overvåkningen til penger (Google). Facebook er alene blant de vestlige teknologigigantene i å ha bygget sin forretning basert på å låse inne brukerne sine og samtidig spionere på dem.

Overvåkningsregimet til Facebook er i grunnen helt uten like i den vestlige verden. Selv om Facebook forsøker å unngå at de er synlige på den offentlige verdensveven, ved å skjule det meste av det som foregår der fra folk med mindre de er logget inn på Facebook, så har selskapet likevel minelagt de fleste nettsider med overvåkningsverktøy i form av Facebook «Lik»-knapper som de som publiserer nettsider tar med på sine nettsteder for å fremme sine Facebook-profiler. Facebook gjør også ulike biblioteker og andre nyttige kodesnutter tilgjengelig for de som publiserer nettsider, som fungerer som overvåkningstentakler på nettsteder der de blir brukt, og sluser informasjon om besøkende på nettstedene — aviser, sjekkesteder, oppslagstavler — til Facebook.

Facebook tilbyr lignende verktøy til app-utviklere, slik at app-ene du bruker — spill, prompemaskiner, selskapsvurderingstjenester, app-er for å holde styr på skolehverdagen til ungene dine — vil sende informasjon om det du driver med til Facebook selv om du ikke har Facebook-konto og selv om du ikke laster ned eller bruker Facebook-app-er. Ikke nok med det, Facebook kjøper data fra tredjeparts datameglere om handlevaner, fysisk plassering, bruk av «loyalitetsprogrammer», finansielle transaksjoner, etc, og kobler dette med personprofiler som utvikles basert på aktiviteten på Facebook, med app-er og den offentlige verdensveven.

Selv om det er enkelt å integrere fra verdensveven til Facebook, å linke til nyheter og slike ting, så er produktene pa Facebook generelt sett ikke tilgjengelig for integering tilbake til verdensveven. Du kan bake inn en twittermelding i en Facebook-melding, men hvis du forsøker å bake inn en Facebook-melding i en twittermelding, så får du bare en lenke tilbake til Facebook og må logge inn for å se den. Facebook har brukt ekstreme teknologiske og juridiske mottiltak for å hindre rivaler fra å gjøre det mulig for deres brukere å bake inn snutter fra Facebook i konkurrerende tjenester, eller lage alternative grensesnitt til Facebook som slår sammen nye meldinger på Facebook med de fra andre tjenester du bruker.

Og Facebook er utrolig populær, med 2.3 milliarder påståtte brukere (selv om mange tror dette tallet er blåst opp). Facebook har vært brukt til å organisere folkemord, rasistiske opptøyer, antivaksinebevegelser, flat jord-kulter og det politiske livet til noen av verdens styggeste, mest brutale autokrater. Det er i sannhet mange alarmerende ting som foregår i verden, og Facebook er implisert i mange av dem, så det er enkelt å konkludere med at disse stygge tingene som foregår er resultat av tankekontrollsystemet til Facebook, som de leier ut til enhver med penger å bruke på det.

For å forstå hvilken rolle Facebook har i formuleringen og mobiliseringen av antisosiale bevegelser, så må vi forstå Facebook sin splittede natur.

På grunn av at Facebook har veldig mange brukere og veldig mye data om disse brukerne, så er Facebook et veldig effektivt verktøy for å spore opp folk med egenskaper som det er vanskelig å finne. Det vil si den type egenskaper som er veldig spredt i populasjonen slik at markedsførere historisk har slitt med å finne kostnadseffektive måter å nå dem. La oss gå tilbake til kjøleskap. De fleste av oss bytter bare våre store apparater noen få ganger i livet. Hvis du er en kjøleskapsprodusent eller -forhandler, så har du bare disse små lukene i en forbrukers liv når de vurderer slike kjøp, og du må finne en måte å nå dem da. Alle som har lagt inn en statusendring etter å ha kjøpt et hus kan skrive under på at utstyrsprodusenter er utrolig desperate etter å nå enhver der det er den minste sjanse for at de er i markedet etter ett nytt kjøleskap.

Facebook gjør det mye enklere å finne folk som handler kjøleskap . Det kan målrette annonser mot folk som har registrert et nytt boligkjøp, mot folk som har søkt etter råd om kjøp av kjøleskap, mot folk som har klaget over at kjøleskapet deres dør, eller en kombinasjon av disse. Det kan til og med målrette mot folk som nylig har kjøpt kjøkkenutstyr med teorien om at noen som nettopp har erstattet komfyren og oppvaskmaskinen, kan være i humør til å kjøpe et kjøleskap. De aller fleste som nås av disse annonsene, vil ikke være i markedet etter et nytt kjøleskap, men — det avgjørende er at prosentandelen av personer som er på jakt etter kjøleskap som disse annonsene når, er mye større enn for noen gruppe som kan bli utsatt for tradisjonell, målrettet kjøleskapmarkedsføring i den fysiske verden.

Facebook gjør det også mye enklere å finne folk som har samme sjeldne sykdom som deg, noe som kan ha vært umulig i tidligere - den nærmeste med samme lidelse kan ellers være hundrevis av miles unna. Det gjør det lettere å finne folk som gikk på samme videregående skole som deg, selv om flere tiår er gått og dine tidligere klassekamerater har blitt spredt for alle verdenshjørner.

Facebook gjør det også mye enklere å finne folk som har samme sjeldne politiske overbevisning som deg. Hvis du alltid har hatt en hemmelig dragning for sosialisme, men aldri våget å ytre dette høyt for at du ikke skal bli kritisert av naboene dine, kan Facebook hjelpe deg med å oppdage andre mennesker som føler det på samme måte (og det kan kanskje vise deg at din dragning er mer utbredt enn du noen gang har trodd). Det kan gjøre det enklere å finne personer som deler din seksuelle identitet. Og igjen, det kan hjelpe deg å forstå at det du trodde var en skammelig hemmelighet som bare påvirket deg, i virkeligheten var en allment delt egenskap, noe som gir deg både trygghet og mot til å komme ut til personene i livet ditt.

Alt dette presenterer et dilemma for Facebook: Målretting gjør selskapets annonser mer effektive enn tradisjonelle annonser, men det lar også annonsører se hvor effektiv annonsene deres er. Annonsører er glade for å høre at Facebook-annonser er mer effektive enn annonser på systemer med mindre sofistikert målretting, men annonsører kan også se at i nesten alle tilfeller blir annonsene ignorerer av personene som ser dem. Eller i beste fall fungerer annonsene på et underbevisst nivå, og skaper en ikke målbar «merkevaregjenkjenning». Dette betyr at prisen per annonse er svært lav i nesten alle tilfeller.

For å gjøre ting verre, starter mange Facebook-grupper svært lite diskusjon. Ditt lokale fotballag, folk med samme sjeldne sykdom som deg, og de du deler en politisk interesse med, kan utveksle en merkelige miks av meldinger på kritiske tidspunkt, men i hverdagen er det ikke mye å si til dine gamle kamerater fra videregående, eller andre fotballkort-samlere.

Med bare diskusjoner som vokste frem «naturlig», ville Facebook ikke generere nok trafikk til å selge tilstrekkelig med annonser til å tjene pengene den trenger for å kontinuerlig utvide ved å kjøpe opp sine konkurrenter mens de gir kjekke summer i utbytte til sine investorer.

Så Facebook må bidra til å øke trafikken ved å spore av egne fora: Hver gang Facebooks algoritme setter inn kontroversielt materiale — brennhete politiske artikler, konspirasjonsteorier, rasende historier — inn i en gruppe, så kan de kapre denne gruppens tiltenkte formål med sine fornærmende diskusjoner og ødelegge disse diskusjonene ved å gjøre dem til bitre, uproduktive argumentasjoner. Facebook er optimalisert for engasjement, ikke lykke, og det viser seg at automatiserte systemer er ganske flinke til å finne ting som folk vil bli sinte over.

Facebook kan endre vår oppførsel, men bare på et par trivielle måter. For det første kan det låse inne alle dine venner og slektninger slik at du sjekker og sjekker og sjekker med Facebook for å finne ut hva de gjør; og for det andre, det kan gjøre deg sint og engstelig. Det kan tvinge deg til å velge mellom å bli avbrutt hele tiden av oppdateringer — en prosess som bryter konsentrasjonen og gjør det vanskelig å være innadvendt — samt holde kontakten med vennene dine. Dette er en svært begrenset form for mental kontroll, og det kan i virkeligheten bare gjøre oss ulykkelige, sinte og engstelige.

Dette er grunnen til at Facebooks målrettingssystemer – både de som vises til annonsører, og de som lar brukerne finne folk som deler deres interesser — er så moderne, glatte, og enkle å bruke, samtidig som meldingstavlene har et verktøysett som virker som om det ikke har endret seg siden midten av 2000-tallet. Hvis Facebook leverte et tilsvarende fleksibelt og sofistikert system for meldingslesing til sine brukere, da kunne disse brukerne forsvart seg mot å få øynene dratt uten samtykke mot blikkfangende overskrifter om Donald Trump.

Jo mer tid du bruker på Facebook, jo flere annonser får de vist deg. Løsningen når for Facebooks annonser fungerer bare én gang av tusen, er at selskapet prøver å øke hvor mye tid du bruker på Facebook med en faktor på tusen. I stedet for å tenke på Facebook som et selskap som har funnet ut hvordan det skal vise deg nøyaktig den riktige annonsen på nøyaktig riktig måte for å få deg til å gjøre hva annonsørene vil, tenk på det som et selskap som har funnet ut hvordan det får deg til å slite deg gjennom en endeløs strøm av argumenter, selv om de får deg til å føle deg elendig, men bruker så mye tid på nettstedet, at det til slutt viser deg minst én annonse du reagerer på.

Zuboff og andre nær henne er spesielt skremt over i hvilken grad overvåking gjør det mulig for selskaper å påvirke våre beslutninger, og tar bort noe hun poetisk kaller «retten til en spennende fremtid» - det vil si retten til å bestemme selv hva du vil gjøre i fremtiden.

Det er sant at annonsering kan gi utslag på en eller annen måte: Når du tenker på å kjøpe et kjøleskap, så kan en kjøleskapsannonse i rette øyeblikk avslutte letingen der og da. Men Zuboff legger enorm og utilbørlig vekt på den overbevisende kraften i overvåkingsbaserte påvirkningsteknikker. De fleste av disse fungerer ikke så bra, og de som gjør vil ikke fungere veldig lenge. Skaperne av disse påvirkningsverktøyene er sikre på at de en dag vil raffinere dem til systemer som gir total kontroll, men de er neppe upartiske observatører, og risikoen for at drømmene deres går i oppfyllelse er svært spekulativ.

Derimot er Zuboff ganske avslappet i forhold til 40 år med slapp antitrust-praksis, som har tillatt en håndfull selskaper å dominere Internettet, innlede en informasjonsalder med, som en person på Twitter bemerket, fem gigantiske nettsteder hver fylt med skjermbilder fra de fire andre.

Hvis vi imidlertid skal bli skremt over at vi kan miste retten til å selv velge hva vår fremtid skal innebære, så bør monopolets ikke-hypotetiske, konkrete, her-og-nå skader være i fokus for vår debatt om teknologipolitikk.

La oss starte med «digitale restriksjonsmekanismer». I 1998 undertegnet Bill Clinton loven Digital Millennium Copyright Act (DMCA). Det er et komplekst lovverk med mange kontroversielle bestemmelser, men ingen mer enn paragraf 1201, «anti-omgåelsesregelen».

Dette er et heldekkede forbud mot å tukle med systemer som begrenser adgang til opphavsrettsbeskyttede verk. Forbudet er så gjennomgripende at det at det forbyr å fjerne en opphavsrettslås, selv uten at det skjer noe brudd på opphavsretten; Aktivitetene som DMCAs paragraf 1201 skal forby, er ikke brudd på opphavsretten; snarere er det lovlige aktiviteter som frustrerer produsentenes kommersielle planer.

For eksempel var første store anvendelse av paragraf 1201 DVD-spillere, som en måte til å håndheve regionkodingen som er innebygd i disse enhetene. DVD-CCA, som standardiserte DVDer og DVD-spillere, delte verden inn i seks regioner og spesifiserte at DVD-spillere må sjekke hver plate for å finne ut hvilke regioner den var autorisert til å spilles av i. DVD-spillere ville ha sin egen tilsvarende region (en DVD-spiller kjøpt i USA ville være region 1 mens en kjøpt i India ville være region 5). Hvis spilleren og platens region sammenfalt, kunne spilleren spille av platen; Ellers ville den avvise den.

Men å se en lovlig produsert plate i et annet land enn den der du kjøpte den, er ikke brudd på åndsverksloven – det er det motsatte. Åndsverksloven pålegger kundene denne plikten for en film: Du må gå inn i en butikk, finne en lisensiert plate og betale prisen for den. Gjør det — og ingenting annet — så har du og åndsverksloven ingenting usnakket.

Det faktum at et filmstudio ønsker å kreve mindre betaling fra indere enn amerikanere eller gi den ut i Australia senere enn i Storbritannia, har ingen betydning for åndsverksloven. Når du lovlig anskaffer en DVD, er det ingen brudd på opphavsretten å se den uansett hvor du tilfeldigvis er.

Så produsenter av DVD og DVD-spillere skulle ikke være i stand til å bruke beskyldninger om brudd på opphavsretten for å straffe produsenter som laget ikke-samsvarende spillere som kunne spille plater fra en hvilken som helst region, eller reparasjonsverksteder som endret spillere for å la deg se disker utenfor riktig region, eller dataprogrammerere som laget programmer som lot deg gjøre dette.

Det er der paragraf 1201 i DMCA kommer inn: Ved å forby tukling med en «tilgangskontroll,» ga regelen produsenter og rettighetshavere grunnlag for å saksøke konkurrenter som markedsførte bedre produkter med lovlige egenskaper som markedet krevde (i dette tilfellet regionfrie spillere).

Dette er en stygg svindel mot forbrukerne, men etter hvert som tiden gikk, vokste paragraf 1201 til å omfatte en raskt voksende samling av enheter og tjenester etterhvert som dyktige produsenter har innsett visse ting:

Paragraf 1201 blir da et middel for produsenter av alle beskrivelser til å tvinge sine kunder til å ordne sine saker til fordel for produsentenes aksjonærer i stedet til fordel for kundene selv.

Dette manifesterer seg på mange måter: Fra en ny generasjon blekkskrivere som bruker mottiltak for å forhindre tredjepartsblekk som ikke kan omgås uten juridisk risiko, - til lignende systemer i traktorer som hindrer tredjepartsteknikkere i å bytte ut produsentens egne deler, med deler som ikke gjenkjennes av traktorens kontrollsystem før den leveres med den opprinnelige produsentens opplåsingskode.

Nærmere hjemme bruker Apples iPhone disse tiltakene for å forhindre både tredjepartstjeneste og tredjeparts programvareinstallasjon. Dette gjør at Apple kan bestemme når en iPhone ikke kan repareres og må makuleres og deponeres, imot hensynet til iPhone-kjøperen. (Apple er notorisk kjent for sin negative miljøpolitikk som ødelegger gammel elektronikk i stedet for tillate delebruk.) Dette er en svært nyttig maktutøvelse, spesielt i lys av at administrerende direktør Tim Cook i januar 2019 advarte investorer om at selskapets fortjeneste er truet av kunder som velger å beholde sine telefoner lenger i stedet for å erstatte dem.

Apples bruk av opphavsrettslåser gjør det også mulig å monopolisere kundenes programvarekjøp til sine mobile enheter. App Stores kommersielle vilkår garanterer Apple en andel av alle inntekter generert av appene som selges der, noe som betyr at Apple får betalt når du kjøper en app fra butikken og deretter fortsetter å få betalt hver gang du kjøper noe ved hjelp av den appen. Dette kommer ra bunnlinjen til programvareutviklere, som enten må ta mer betalt eller akseptere lavere fortjeneste for sine produkter.

Avgjørende er det at Apples bruk av opphavsrett låser inn og gir den makt til å ta redaksjonelle beslutninger om hvilke apper du kan og ikke kan installere på din egen enhet. Apple har brukt denne makten til å avise ordbøker for å inneholde uanstendige ord; til begrense politiske uttalelser, spesielt fra apper som gjør sensitive politiske kommentarer, som en app som varsler deg hver gang en amerikansk drone dreper noen et sted i verden; Og til har innvending mot et spill som kommenterte Israel-Palestina-konflikten.

Apple rettferdiggjør ofte monopolmakt over programvareinstallasjon ut fra sikkerhetshensynet, og hevder at dets verifisering av apper for butikken sin betyr at den kan beskytte brukerne mot apper som inneholder overvåkingskode. Men dette går begge veier. I Kina beordret regjeringen Apple til å forby salg av personvernverktøy som VPN med unntak av VPN-er som bevisst hadde innført designfeil for å la den kinesiske staten tyvlytte på brukere. Fordi Apple bruker teknologiske mottiltak – med juridisk beskyttelse – for å blokkere kunder fra å installere uautoriserte apper, kan ikke kinesiske iPhone-eiere lett (eller lovlig) skaffe VPN-er som ville beskytte dem mot kinesisk statssnoking.

Zuboff kaller overvåkingskapitalismen en «bedragersk kapitalisme. » Kapitalismens teoretikere hevder at dens dyd er at den aggregerer informasjon om forbrukernes beslutninger, som produserer effektive markeder. Overvåkingskapitalismens antatte makt til å bemektige seg sine ofres frie vilje gjennom beregnede, superladede innflytelseskampanjer som betyr at våre markeder ikke lenger samler kundenes beslutninger fordi vi kunder ikke lenger bestemmer - vi får ordrer av overvåkingskapitalismens tankekontrollstråler.

Hvis vår bekymring er at markedene slutter å fungere når forbrukerne ikke lenger kan ta valg, bør opphavsrettslåser angå oss minst så mye som innflytelseskampanjer. En påvirkningskampanje kan skyve deg til å kjøpe et bestemt telefonmerke. men opphavsretten låser denne telefonen helt til å bestemme hvor du får det reparert, hvilke apper som kan kjøre på den, og når du må kvitte deg med den i stedet for å fikse den.

Markedene fremstilles som en slags magi: Ved å oppdage ellers skjult informasjon formidlet av de frie valgene til forbrukerne, blir disse forbrukernes lokale kunnskap integrert i et selv korrigerende system som gjør effektive tildelinger - mer effektive enn noen datamaskin kunne beregne. Men monopoler er uforenlige med den oppfatningen. Når du bare har én appbutikk, bestemmer eieren av butikken – ikke forbrukeren – bredden i utvalget. Som Boss Tweed en gang sa: «Jeg bryr meg ikke om hvem som velger, så lenge jeg får lage innstillingen.» Et monopolisert marked er et valg der utvalget er valgt ut av monopolisten.

Oppsettet av stemmeseddelen skades mer ved eksistensen av søkeorden-monopoler. Googles søkemarkedsandel er ca 90%. Når Googles rangeringsalgoritme legger et resultat for et populært søkeord i topp 10, bidrar det til å bestemme atferden til millioner av mennesker. Hvis Googles svar på «Er vaksiner farlige?» er en side som motbeviser anti-vaksine konspirasjonsteorier, vil en betydelig del av publikum lære at vaksiner er trygge. Hvis Google derimot sender disse menneskene til et nettsted som bekrefter anti-vaksine-konspirasjonene, vil en betydelig del av disse millionene komme bort overbevist om at vaksiner er farlige.

Googles algoritme blir ofte lurt til å støtte desinformasjon som et tydelig søkeresultat. Men i disse tilfellene overtaler ikke Google folk til å ombestemme seg. det presenteres bare noe usant som faktum når brukeren ikke har noen grunn til å trekke det i tvil.

Dette gjelder enten søket er for «Er vaksiner farlige?» eller «beste restauranter i nærheten av meg.» De fleste brukere vil aldri se forbi den første siden med søkeresultater, og når det store flertallet bruker samme søkemotor, vil rangeringsalgoritmen gitt av denne søkemotoren bestemme utallige utfall (om å adoptere et barn, om å ha kreftkirurgi, hvor de skal spise middag, hvor de skal flytte, hvor du skal søke jobb) som i stor grad overgår mulige atferdsutfall diktert av algoritmiske overtalelsesteknikker.

Mange av spørsmålene vi stiller til søkemotorer har ingen empirisk riktige svar: «Hvor skal jeg spise middag?» er ikke et objektivt spørsmål. Selv spørsmål som har riktige svar («Er vaksiner farlige?») har ikke en empirisk overlegen kilde til det svaret. Mange sider bekrefter sikkerheten til vaksiner, så hvilken går først? Ved konkurranse kan forbrukerne velge mellom mange søkemotorer og holde seg til den der algoritme-dommen passer best for dem, men i en monopolsituasjon får vi alle våre svar fra samme sted.

Googles søkedominans er ikke et spørsmål om ren fortjeneste: Selskapet har utnyttet mange taktikker som ville ha blitt forbudt under klassiske, pre-Ronald-Reagan antitrust håndhevelsestandarder for å oppnå sin dominans. Tross alt er dette et selskap som har utviklet to store produkter: En veldig god søkemotor og en ganske god Hot-mail klone. Hver annen større suksess det har hatt - Android, YouTube, Google Maps, etc. - har kommet gjennom et oppkjøp av en gryende konkurrent. Mange av selskapets sentrale divisjoner, som reklameteknologien til DoubleClick, bryter med det historiske antitrustprinsippet om strukturell separasjon, som forbød bedrifter å eie datterselskaper som konkurrerte med sine kunder. Jernbaner, for eksempel, ble utestengt fra å eie fraktselskaper som konkurrerte med avsenderne de fraktet for.

Hvis vi er bekymret for at gigantiske selskaper skal undergrave markeder ved å strippe forbrukerne evne til å gjøre frie valg, så er kraftig antitrust-håndhevelse et utmerket middel. Hvis vi hadde nektet Google retten til å gjennomføre sine mange fusjoner, ville vi også sannsynligvis ha nektet det sin totale søkedominans. Uten denne dominansen ville ikke yndlings-teoriene, skjevhetene, feilene (og god dømmekraft) hos Googlec søkeingeniører og produktansvarlige ha en så stor effekt på forbrukervalg.

Dette gjelder også for mange andre selskaper. Amazon, en klassisk overvåkingskapitalist, er åpenbart det dominerende verktøyet for å søke i Amazon - selv om mange mennesker finner veien til Amazon gjennom Google-søk og Facebook-innlegg - og Amazon kontrollerer åpenbart Amazon-søk. Det betyr at Amazons egenbetjente redaksjonelle valg – som å fremme sine egne varemerker fremfor rivaliserende varer fra selgerne, samt egne yndlingsteorier, fordommer og feil – bestemmer mye av det vi kjøper på Amazon. Og siden Amazon er den dominerende nettforhandler utenfor Kina, og siden det er oppnådd dominans ved å kjøpe opp både store rivaler og gryende konkurrenter i tross for historiske antitrust regler, kan vi klandre monopolet for å frata forbrukere deres rett til en spennende fremtid og evnen til å forme markeder ved å gjøre informerte valg.

Ikke alle monopolister er en overvåkingskapitalist, men det betyr ikke at de ikke er i stand til å forme forbrukervalg som favner vidt. Zuboff hyller Apple for sin App Store og iTunes Store, og insisterer på at det å legge til prislapper på funksjonene på plattformene har vært hemmeligheten bak å motstå overvåking og dermed skape markeder. Men Apple er den eneste forhandleren som har lov til å selge på sine plattformer, og det er den nest største leverandøren av mobilenheter i verden. De uavhengige programvareleverandørene som selger gjennom Apples markedsplass anklager selskapet for de samme overvåkingssyndene som Amazon og andre store forhandlere: spionere på sine kunder for å finne lukrative nye produkter å lansere, å effektivt bruke uavhengige programvareleverandører til fritt å utforske markedet, og deretter tvinge dem ut av alle markeder de oppdager.

Ved bruk av opphavsrettslåser har Apples mobilkunder ikke lov til å bytte sine Iphone-apper til en rivaliserende forhandler hvis de ønsker det. Apple er åpenbart den eneste enheten som får bestemme hvordan den rangerer resultatene av søk i butikkene sine. Disse beslutningene sikrer at enkelte apper ofte installeres (fordi de vises på side én) og andre aldri installeres (fordi de vises på side én million). Apples beslutninger om søkedesign har en vesentlig større virkning på forbrukeratferd enn å påvirke kampanjer levert av overvåkingskapitalismens roboter for annonselevering.

Bare de mest ekstreme markedsideologene tror at markedene selvregulerer uten statlig tilsyn. Markeder trenger vakthunder – regulatorer, lovgivere og andre demokratiske kontrollelementer – for at de skal være pålitelige. Når disse vaktbikkjene sover på jobben, slutter markedene å aggregere forbrukervalg, fordi disse valgene begrenses av illegitime og villedende aktiviteter, som selskaper klarer å komme unna med, fordi ingen holder dem ansvarlige.

Men denne typen regulatoriske seire kommer ikke billig. I konkurransedyktige sektorer, der rivaler stadig svekker hverandres marginer, mangler enkeltbedrifter overskuddskapital til effektivt å lobbe for lover og forskrifter som tjener sine formål.

Mye av skadene fra overvåkningskapitalisem er resultat av svak eller manglende regulering. Dette fravær av regulering kommer av makten monopolistene har til å hindre sterkere regulering og å tilpasse den reguleringen som finnes slik at det gjør deres eksisterende forretningsmodell mulig.

Her er et eksempel: Når bedrifter samler inn for mye og lagrer våre data for lenge, så øker de risikoen for å utsettes for datalekkasje – du kan ikke lekke data du aldri har samlet inn, og når du sletter alle kopier av disse dataene, kan du ikke lenger lekke dem. I mer enn et tiår har vi levd gjennom en endeløs rekke av stadig forverrede datalekkasjer, hvert og ett helt avskyelig i omfanget og i hvor sensive disse datasettene har vært.

Men likevel fortsetter bedrifter av tre grunner å over-samle og over-beholde våre data:

1. De er låst i det nevnte lemlestende våpenkappløpet opp mot vår evne til å sikre oppmerksomhet fra våre forsvarssystemer til å motstå de nye overtalelsesteknikker deres. De er også låst i et våpenkappløp med sine konkurrenter for å finne nye måter å målrette folk til sine salgssteder. Så snart de oppdager et mykt sted i vårt oppmerksomhetsforsvar (en mot-intuitiv, ulydig måte å målrette potensielle kjøleskap kjøpere på), begynner publikum å bli oppmerksom på taktikken, og konkurrentene deres hopper på den, fremskyndes dagen der alle potensielle kjøleskapskjøpere har kommet på banen.

2. De tror på overvåkingskapitalismens historie. Data er billige å samle og lagre, og både tilhengere og motstandere av overvåkingskapitalismen har forsikret ledere og produktdesignere om at hvis du samler inn nok data, vil du kunne utføre trolldom med mental kontroll, og dermed overoppfylle salget. Selv om du aldri finner ut hvordan du kan tjene på dataene, noen andre vil til slutt tilby å kjøpe de fra deg for å gjøre et forsøk. Dette er kjennetegner alle økonomiske bobler: Å anskaffe en eiendel med antagelsen om at noen andre vil kjøpe den fra deg for mer enn du betalte for det, ofte å selge til noen andre til en enda høyere pris.

3. Straffen for å lekke data er ubetydelig. De fleste land begrenser disse straffene til faktiske tap, noe som betyr at forbrukere som har fått sine data misbrukt, må vise til faktiske pengetap for å få en erstatning. I 2014 avslørte Home Depot at de hadde mistet kredittkortdata for 53 millioner av sine kunder. Saken ble avgjort ved å betale disse kundene rundt $ 0,34 hver - og en tredjedel av de $ 0,34 ble ikke engang betalt i kontanter. Det tok form av en kreditt til å dekke en i stor grad ineffektiv kreditt-overvåkingstjeneste.

Men skadene fra bruddene er mye mer omfattende enn de faktiske tapene som reglene fanger opp. Identitetstyver og svindlere er kloke og uendelige oppfinnsomme. Alle de store bruddene i vårt århundre blir kontinuerlig rekombinert, datasettene fusjonert og brukt til nye måter å gjøre folk til ofre på når dataene om dem var tilgjengelige. Enhver rimelig, bevisbasert teori om avskrekking og kompensasjon for brudd ville ikke begrense skader til faktiske tap, men heller ville tillate brukere å stille krav for fremtidige tap.

Men selv de mest ambisiøse personvernreglene, som EUs personvernforordning, fanger langt fra opp de negative eksterne kostnadene ved plattformenes uaktsomme overinnsamling og overoppbevaring, og hvilke straffer den gir, forfølges ikke aggressivt opp av regulatorene.

Denne toleransen for – eller likegyldighet til – dataoverinnsamling og overoppbevaring kan delvis tilskrives plattformenes rene lobbyvirksomhet. De er så lønnsomme at de enkelt har råd til å kanalisere gigantiske summer for å bekjempe enhver reell endring - det vil si endring som ville tvinge dem til å internalisere kostnadene til overvåkingsaktivitetene deres.

Og så er det den statlige overvåkningen, som historien til overvåkingskapitalismen avviser som en overlevning fra en annen æra, da den store bekymringen var å bli fengslet som dissidenter, ikke å få din frie vilje strippet bort med maskinlæring.

Men statlig og privat overvåkning er nært relatert. Som vi så ble Apple innrullert av de kinesiske myndighetene som en vital samarbeidspartner i statlig overvåkning, og den eneste kostnadseffektive og gjennomførbare måten å gjennomføre masseovervåkning i den skalaen det gjøres av moderne stater, både «frie» og autokratiske stater, er å ta i bruk kommersielle tjenester.

Enten det er Google som brukes som stedsporingsverktøy av lokale politimyndigheter over hele USA, eller bruk av sporing av sosiale medier av Department of Homeland Security for å bygge mapper om deltakere i protester mot Immigrasjon and Customs Enforcement familieseparasjonspraksis, ville mulige strengere grenser for overvåkingskapitalisme, hindre statens egen overvåkingsevne. Uten Palantir, Amazon, Google og andre store teknologileverandører, ville amerikanske politifolk ikke være i stand til å spionere på svarte mennesker, ICE ville ikke være i stand til å håndtere innburing av barn ved USAs grense, og statlige velferdssystemer ville ikke være i stand til å rense sine ruller ved å kle inn grusomhet som faktabasert og hevde at fattige og sårbare mennesker ikke kvalifiserer for hjelp. I det minste bør noen av statenes uvilje mot meningsfulle tiltak for å dempe overvåking tilskrives dette symbiotiske forholdet. Det er ingen statlig masseovervåking uten masse kommersiell overvåking.

Monopoler er nøkkelen til systemet med statlig massestatsovervåkning. Det er sant at mindre teknologifirmaer er tilbøyelige til å være mindre godt forsvart enn Storteknologien, hvis sikkerhetseksperter valgt ut fra toppen i sitt felt, og som får enorme ressurser til å sikre og overvåke sine systemer mot inntrengere. Men mindre bedrifter har også mindre å beskytte seg med: færre brukere med data som er mer fragmentert over flere systemer, og få det til et og et om gangen hos statlige aktører.

En konsentrert teknologisektor som samarbeider med myndighetene er en mye kraftigere allierte for å sikre oppgaven med en massestatsovervåking - enn en fragmentert gruppe bestående av mindre aktører. Den amerikanske teknologisektoren er liten nok til at alle topplederne passer inn rundt ett enkelt bord i et styrerom i Trump Tower i 2017, kort tid etter Trumps innsettelse. De fleste av de største aktørene byr på å vinne JEDI, Pentagons $ 10 milliarders Joint Enterprise Defense Infrastructure sky-kontrakt. I likhet med andre svært konsentrerte bransjer roterer Storteknolgien sine nøkkelansatte inn og ut av offentlig tjeneste, sender dem til tjeneste i Forsvarsdepartementet og Det hvite hus, og ansetter deretter tidligere Pentagon og tidligere DOD-toppansatte og offiserer i sine egne avdelinger for regjeringsrelasjoner.

De kan til og med få til en god sak for å gjøre dette: Tross alt, når det bare er fire eller fem store selskaper i en bransje, har alle som er kvalifisert til å regulere disse selskapene, fungert som en leder i minst et par av dem - fordi, på samme måte, når det bare er fem selskaper i en bransje, er alle kvalifisert for en seniorrolle i hvilket helst av dem, arbeider per definisjon hos en av de andre.

Bransjer som er konkurransedyktige er fragmentert - sammensatt av selskaper som er i strupen på hverandre hele tiden og svekker hverandres marginer med tilbud for å stjele deres beste kunder. Dette etterlater dem med en mye mer begrenset kapital til lobbyvirksomhet for å oppnå gunstige regler, og en mye vanskeligere jobb for å få alle til å bli enige om å samle sine ressurser til fordel for bransjen som helhet.

Overvåking kombinert med maskinlæring er antatt å være en eksistensiell krise, et artsdefinerende øyeblikk hvor vår frie vilje bare er noen få skritt fra å bli skallet vekk. Jeg er skeptisk til denne påstanden, men jeg tror virkelig at teknologi utgjør en eksistensiell trussel mot vårt samfunn og muligens vår art.

Men den trusselen vokser frem fra monopol.

En av konsekvensene av teknologiens regulatoriske fangst, er at det kan flytte ansvaret for dårlige sikkerhetsbeslutninger over på kunder sine og samfunnet generelt. Det er helt normalt i teknologi for bedrifter å tilsløre arbeidet med sine produkter, for å gjøre dem bevisst vanskelig å forstå, og å true sikkerhetsforskere som søker en uavhengig gjennomgang av disse produktene.

DET er det eneste feltet der dette praktiseres: Ingen som bygger en bro eller et sykehus holder sammensetningen av stålet eller ligningene som brukes til å beregne belastningstress hemmelige. Det er en særlig bisarr praksis som fører, gang på gang, til groteske sikkerhetsfeil i et asburd omfang, med hele klasser av enheter avslørt som sårbare lenge etter at de er utplassert i feltet og benyttet på sensitive områder.

Kraften i monopoler som holder alle meningsfulle konsekvenser av brudd i sjakk, betyr at teknologiselskaper fortsetter å bygge forferdelige produkter som er usikre i designen, og som ender opp integrert i våre liv, er i besittelse av våre data, og koblet til vår fysiske verden. I årevis har Boeing slitt med etterdønningene av en rekke dårlige teknologibeslutninger som gjorde sin 737-flåte til en global paria, et sjeldent tilfelle der dårlige tekniske beslutninger har blitt alvorlig straffet i markedet.

Disse dårlige sikkerhetsbeslutningene forsterkes nok en gang ved bruk av opphavsrettslåser for å håndheve forretningsmodellbeslutninger rettet mot forbrukerne. Husk at disse låsene har blitt go-to-metoder for å forme forbrukeratferd, noe som gjør det teknisk umulig å bruke tredjeparts blekk, insulin, apper eller servicesteder til din lovlig ervervede eiendel.

Husk også at disse opphavsrettslåsene har ryggdekning i lovgivningen (for eksempel paragraf 1201 i DMCA eller artikkel 6 i EUs opphavsrettsdirektiv fra 2001) som forbyr manipulering («omgåelse») av dem, og disse bestemmelsene har blitt brukt til å true sikkerhetsforskere som avslører sårbarheter uten tillatelse fra produsenter.

Dette summerer se til en produsents veto over sikkerhetsadvarsler og kritikk. Selv om dette er langt fra lovgivers hensikt med DMCA og dets søstervedtekter rundt om i verden, har Kongressen ikke grepet inn for å klargjøre bestemmelsene, og det vil den heller ikke fordi det ville være å gå mot interessene til mektige, store bedrifter men en ustoppelig lobbystyrke.

Opphavsrettslåser slår dobbelt: De skaper dårlige sikkerhetsbeslutninger som hverken kan undersøkes fritt eller diskuteres. Hvis markedene skal være maskiner for å samle informasjon (og hvis overvåkingskapitalismens nominelle tankekontrollstråler er det som gjør det til en «bedragersk kapitalisme» fordi den nekter forbrukerne makt til å ta beslutninger), gjør et opplegg med lovlig håndhevet uvitenhet om risikoen til produkter gir monopol en enda mer «bedragersk kapitalisme» enn overvåkingskapitalismens lobbykampanjer.

Og i motsetning til tankekontrollstråler er håndhevet taushet over sikkerhet et umiddelbart, dokumentert problem, og det utgjør en eksistensiell trussel mot vår sivilisasjon og muligens vår art. Spredningen av usikre enheter - spesielt enheter som spionerer på oss, og spesielt når disse enhetene også kan manipulere den fysiske verden ved for eksempel å styre bilen eller snu en bryter på et kraftverk - er en slags teknologiskyld.

I programvaredesign refererer «-teknologiskyld» til gamle, innbakte beslutninger som viser seg å stå seg dårlige i ettertid. Kanskje en utvikler for lenge siden besluttet å legge inn en nettverksprotokoll laget av en leverandør som siden har sluttet å støtte den. Men alt i produktet er fortsatt avhengig av den utdaterte protokollen, og så, ved hver revisjon, må produktteamet omgå denne foreldede kjernen, legge til kompatibilitetslag, omgi den med sikkerhetskontroller som støtter forsvaret, og så videre. Disse Band-Aid-tiltakene binder sammen skylden, fordi hver påfølgende revisjon må kompensere også for dem, som renter baller på seg for dårlige lån. Og som et dårlig lån, stiger rentekostnaden raskere enn du kan håpe på å betale den ned: Produktteamet må legge så mye energi i å opprettholde dette komplekse, skjøre systemet, at de ikke har tid igjen til å omstrukturere produktet fra grunnen av og «betale ned gjelden» en gang for alle.

Vanligvis resulterer teknologisk gjeld i en teknologisk konkurs: Produktet blir så skjørt og uholdbart at det svikter katastrofalt. Tenk på de gamle COBOL-baserte bank- og regnskapssystemene som veltet ved starten av pandemikrisen når de ble konfrontert med mengder av arbeidsledighetskrav. Noen ganger gjør dette slutt på produktet; noen ganger tar det selskapet med seg ned. Å bli fanget i mislighold av teknologisk gjeld er skremmende og traumatisk, akkurat som å miste huset ditt på grunn av konkurs er skremmende og traumatisk.

Men teknologisk gjeld forårsaket av opphavsrettslåser er ikke individuell gjeld; det er systemisk. Alle i verden er utsatt for denne overbelastningen, som under finanskrisen i 2008. Når denne gjelden forfaller – når vi står overfor en kaskade av sikkerhetsbrudd som truer global skipsfart og logistikk, matforsyningen, farmasøytiske produksjonslinjer, nødkommunikasjon og andre kritiske systemer som akkumulerer teknologisk gjeld delvis på grunn av tilstedeværelsen av bevisst usikre og bevisst ikkereviderbare opphavsrettslåser – vil det faktisk utgjøre en eksistensiell risiko.

Mange teknologiselskaper har en klokkertro på at om bare de samler nok data om mange nok av våre aktiviteter, så er alt annet mulig — tankekontroll og endeløs fortjeneste. Dette er en hypotese som er umulig å falsifisere: Hvis data gir et teknologiselskap selv en liten forbedring i å forutse eller endre oppførsel, så erklærer selskapet at det har tatt første steg mot global dominans, uten noen ende i sikte. Hvis selskapet mislykkes i å oppnå forbedring fra innsamling og analyse av data, så erklærer det at suksessen er rett rundt hjørnet, oppnåelig når det har mere data for hånden.

Overvåkingsteknologi er langt fra den første industrien som omfavner en meningsløs, selvsentrert tro som skader resten av verden, og det er ikke den første industrien til å tjene raust på en slik vrangforestilling. Lenge før hedgefondforvaltere hevdet (feilaktig) at de kunne slå S&P 500, var det nok av andre «respektable» bransjer som har blitt avslørt som kvakksalvere i ettertid. Fra skaperne av stikkpiller med radium (en ekte ting!) til de grusomme sosiopatene som hevdet at de kunne «kurere» homofile mennesker. Historien er fylt med tidligere respektable titaner i diskrediterte næringer.

Dette betyr ikke at det ikke er noe galt med Storteknologien og dens ideologiske dataavhengighet. Selv om gevinsten av overvåkningen i stor grad er overdrevet, så er skadevirkningene, om noe, underdrevet.

Det er virkelig ironi her. Troen på overvåkingskapitalismen som en «ukontrollert kapitalisme» er drevet av troen på at markedene ikke ville tolerere bedrifter som er grepet av falske oppfatninger. Et oljeselskap som har falske oppfatninger om hvor oljen er, vil etter hvert gå konkurs ved å grave etter tørre brønner, tross alt.

Men monopolister får gjøre fryktelige ting i lang tid før de betaler prisen. Tenk på hvordan konsentrasjonen i finanssektoren tillot subprime-krisen å spre seg når obligasjonsvurderingsbyråer, regulatorer, investorer og kritikere var under innflytelse av en falsk tro på at kompleks matematikk kunne konstruere «fullt garderte» gjeldsinstrumenter som ikke kunne misligholdes. En liten bank som engasjerte seg i denne typen feilgrep ville ganske enkelt gå konk i stedet for å løpe fra den uunngåelige krisen, eller kanskje vokser seg så stor at det avverget dette helt. Men store banker var i stand til å fortsette å tiltrekke seg investorer, og da de endelig feilet, kausjonerte verdens regjeringer dem ut. De verste lovbrytere i subprime-krisen er større enn de var i 2008, og brakte hjem mer fortjeneste og betale sine direktører enda større summer.

Storteknologien kan praktisere overvåking ikke bare fordi det er teknisk, men fordi de er store. Grunnen til at hver nettutgiver bygger inn en Facebook «Like»-knapp, er at Facebook dominerer Internettets henvisninger til sosiale medier – og hver og en av disse «Like»-knappene spioner på alle som lander på en side som har dem (se også: Google Analytics bygger inn, Twitter-knapper osv.).

Grunnen til at verdens regjeringer har vært trege til å skape meningsfulle straffer for brudd på personvernet, er at Storteknologiens konsentrasjon har store fortjenester som kan brukes til å lobbiere mot disse straffene – og Storteknologiens konsentrasjon betyr at de involverte selskapene er i stand til å komme frem til en enhetlig forhandlingsposisjon, som superlader lobbyvirksomheten.

Grunnen til at de smarteste ingeniørene i verden ønsker å jobbe for Storteknologien er at Storteknologien bestemmer over brorparten av jobbene i teknologiindustrien.

Grunnen til at folk som er forferdet over Facebooks, Googles og Amazons datahåndteringspraksis fortsetter å bruke disse tjenestene, er at alle vennene deres er på Facebook; Google dominerer søk; og Amazon har satt alle de lokale kjøpmennene ut av drift.

Markeder med konkurranse ville svekke selskapenes lobbystyrke ved å redusere fortjenesten og sette dem opp mot hverandre i regulatoriske fora. Det ville gi kundene andre steder å gå til for å få sine elektroniske tjenester. Det ville gjøre selskapene små nok til å kunne regulere og bane vei for meningsfulle straffer for lovbrudd. Det ville la ingeniører med ideer som utfordret overvåkingsortodoksien skaffe seg kapital til å konkurrere med de etablerte. Det ville gi nettutgivere flere måter å nå publikum på, og kunne stille opp mot innpasningene til Facebook- og Google- og Twitter.

Med andre ord, mens overvåking ikke forårsaker monopoler, medvirker monopoler absolutt til overvåking.

Teknologisk eksepsjonellisme er en synd, enten det praktiseres av teknologiens blinde talsmenn eller av dets kritikere. Begge disse leirene er tilbøyelige til å forklare bort monopolistisk konsentrasjon ved å sitere noen spesielle kjennetegn på teknologiindustrien, som nettverkseffekter eller første-fordeler fordel. Den eneste virkelige forskjellen mellom disse to gruppene er at de tekniske apologeter sier monopol er uunngåelig, så vi bør bare la teknologien ikke komme unna med sine overgrep, mens konkurranseregulatorer i USA og EU sier monopol er uunngåelig, så vi bør straffe teknologien for sine overgrep, men ikke prøve å bryte opp monopolene.

For å forstå hvordan teknologien ble så monopolistisk, er det nyttig å se på begynnelsen av forbrukerteknologiindustrien: 1979, året Apple II Plus ble lansert og ble den første vellykkede hjemmedatamaskinen. Det er også året da Ronald Reagan startet valgkampen for presidentvalget i 1980 – et løp han vant, noe som førte til et radikalt skifte i måten antitrusthensyn håndteres på i Amerika. Reagans kohort av politikere – inkludert Margaret Thatcher i Storbritannia, Brian Mulroney i Canada, Helmut Kohl i Tyskland og Augusto Pinochet i Chile – fortsatte med å vedta lignende reformer som til slutt spredte seg over hele verden.

Antitrusthistorien begynte nesten et århundre før alt dette med lover som Sherman Act, som rettet seg mot monopolister med den begrunnelse at monopoler var dårlige i og av seg selv - presser ut konkurrenter, og skapte «omfattende disøkonomi» (når et selskap er så stort at bestanddeler feiler og det tilsynelatende er håpløst å få problemene løst), og fange sine regulatorer i en slik grad at de kan komme unna med svært mye skade.

Så kom en fabulist ved navn Robert Bork, en tidligere generaladvokat som Reagan utnevnte til den betydningsfulle U.S. Court of Appeals for the D.C. Circuit som tatt ut av intet hadde laget en alternativ lovgivningshistorie om Sherman Act og dens etterfølgere. Bork insisterte på at disse statuttene aldri var rettet mot monopoler (til tross for et vell av bevis for det motsatte, inkludert de transkriberte talene til lovens forfattere), men heller at de var ment å forhindre «forbrukerskade» - i form av høyere priser.

Bork var en rotor, men han var en rotor med en teori som rike mennesker virkelig likte. Monopoler er en fin måte å gjøre rike mennesker rikere ved å tillate dem å motta «monopolleie» (det vil si større fortjeneste) og binde fast regulatorer, noe som fører til et svakere, gunstigere regulatorisk miljø med mindre beskyttelse for kunder, leverandører, miljø og arbeidere.

Borks teorier var spesielt spiselige for de samme kraftige påvirkere som støttet Reagan, og Reagans justisdepartement og andre etater begynte å inkorporere Borks antitrustdoktrine i sine håndhevingsbeslutninger (Reagan foreslo til og med Bork til et sete i Supreme Court, men Bork strøk klart ved senatets godkjenningshøring at 40 år senere bruker innsidere i D.C. begrepet «borkete» (tilsvarer klønete på norsk) for å referere til noen katastrofalt dårlige politiske prestasjoner).

Litt etter litt kom Borks teorier inn som hovedretning, og deres støttegrupper begynte å infiltrere den juridiske utdanningen, til og med å tilsette smakstoffer der medlemmer i rettsvesenet ble behandlet med overdådige måltider, morsomme utendørsaktiviteter og seminarer hvor de ble indoktrinert i forbrukerskadeteorien om antitrust. Jo mer Borks teorier tok tak, jo mer penger tjener monopolistene – og jo mer overskuddskapital hadde de til rådighet for å lobbe i enda flere borkiske antitrust-innflytelseskampanjer.

Historien om Borks antitrustteorier er et veldig godt eksempel på den slags skjulte konstruerte endringer i opinionen, som Zuboff advarer oss mot, hvor ideer i utkanten blir den ortodokse hovedretningen. Men Bork forandrer ikke verden over natten. Han spilte et veldig langvarig spill, i over en generasjon, og han hadde en medvind fordi de samme kreftene som støttet oligarkiske antitrust teorier også støttet mange andre oligarkiske skiftninger i opinionen. For eksempel ideen om at beskatning er tyveri, at rikdom er et tegn på dyd, og så videre - alle disse teoriene ble fanget opp for å danne en sammenhengende ideologi som hevet ulikhet til en dyd.

I dag frykter mange at maskinlæring gjør det mulig for overvåkingskapitalismen å selge «Bork-som-tjeneste», med internetthastighet, slik at du kan kontrakt et maskinlæringsselskap for å konstruere raske endringer i offentlige holdninger uten å trenge kapitalen til å opprettholde et flergenerasjonsprosjekt som arbeider på lokalt, statlig, nasjonalt og globalt nivå innen næringsliv, jus og filosofi. Jeg tror ikke at et slikt prosjekt er sannsynlig, selv om jeg er enig i at dette i utgangspunktet er hva plattformene hevder å selge. De lyver bare om det. Storteknologien lyver hele tiden inkludert i sitt salgsmateriale.

Ideen om at teknologi danner «naturlige monopoler» (monopoler som er det uunngåelige resultatet av realitetene i en bransje, for eksempel monopolene som tilflyter det første selskapet for å kjøre langdistansetelefonlinjer eller jernbanelinjer) er motbevist av teknologiens egen historie: I fravær av konkurransehemmende taktikk, var Google i stand til å detronisere AltaVista og Yahoo; Facebook var i stand til å avverge Myspace. Det er noen fordeler med å samle fjell av data, men disse datafjellene har også ulemper: ansvar (fra lekkasjer), redusert avkastning (fra gamle data), og institusjonell treghet (store selskaper, lik vitenskap, fremdrift med en begravelse om gangen).

Faktisk ble fremveksten av nettsteder en masseutryddelseshendelse for de eksisterende gigantiske, svært lønnsomme proprietære teknologiene som hadde kapital, nettverkseffekter, og vegger og vollgraver rundt sine virksomheter. Nettet viste at når en ny bransje er bygget rundt en protokoll, i stedet for et produkt, kan den kombinerte innflytelsen til alle som bruker protokollen for å nå sine kunder, eller brukere, eller samfunn, oppveie selv de mest massive produktene. CompuServe, AOL, MSN og en rekke andre proprietære inngjerdede hager, lærte denne leksjonen på den harde måten: Hver trodde det kunne holde seg atskilt fra nettet, og tilbød «kurering» og en garanti for konsistens og kvalitet i stedet for kaoset i et åpent system. Alle tok feil og endte opp med å bli absorbert inn i det offentlige nettet.

Ja, teknologien er sterkt monopolisert og er nå nært knyttet til industrikonsentrasjon, men dette har mer å gjøre med timing enn sine iboende monopolistiske tendenser. Teknologien ble født i det øyeblikket antitrust-håndhevelsen ble demontert, og teknologien falt inn i nøyaktig de samme patologiene som antitrust skulle beskytte mot. Som en første tilnærming er det rimelig å anta at teknologiens monopoler er et resultat av mangel på antimonopol-innsats og ikke de oppreklamerte unike egenskapene til teknologi, for eksempel nettverkseffekter, pionerfordeler, og så videre.

Til støtte for denne tesen, tilbyr jeg konsentrasjonen som alle andre industrier har gjennomgått i samme periode. Fra profesjonell bryting, til varer i forbrukerpakninger, til leasing av næringseiendom, til bank, til sjøfrakt, til olje, til plateselskaper, til aviseierskap, til fornøyelsesparker, hver industri har gjennomgått et massivt skifte i retning konsentrasjon. Det er ingen åpenbare nettverkseffekter eller pionerfordeler som utspiller seg i disse bransjene. Men uansett, oppnådde disse næringene sin konsentrerte status med taktikker som var forbudt før Borks triumf: Fusjon med store konkurrenter, kjøpe ut innovative nye markedsdeltakere, horisontal og vertikal integrasjon, og en pakke med konkurransehemmende taktikk, som en gang var ulovlig, men ikke lenger.

Igjen: Når du endrer lovene som er ment å forhindre monopoler og deretter monopoler dannes på akkurat den måten loven skulle forhindre, er det rimelig å anta at disse fakta er relatert. Teknologikonsentrasjon kan lett forklares uten å ty til radikale teorier om nettverkseffekter - men bare hvis du er villig til å tiltale uregulerte markeder som tenderer i retning monopol. Akkurat som en livslang røyker kan gi deg hundre grunner til at deres røyking ikke forårsaket deres kreft («Det var miljøgiftene»), har sanne troende i uregulerte markeder en hel pakke med overbevisende forklaringer på monopol i teknologi som holder kapitalismen intakt.

Det er 40 år siden Borks prosjekt om å rehabilitere monopoler tok av, og det er en og en halv generasjon siden, noe som er god tid til å ta en felles idé og få den til å virke besynderlig og omvendt. Før 1940-tallet kledde velstående amerikanere sine babygutter i rosa mens babyjenter hadde blå (en «delikat og lekker» farge). Mens kjønnsfarger åpenbart er helt vilkårlige, møter mange fortsatt denne nyheten med forbauselse og finner det vanskelig å forestille seg en tid da rosa er knyttet til maskulinitet.

Etter 40 år med utstudert ignorering av analyse og håndhevelse av antitrustlovgivning, er det ikke overraskende at vi alle nesten har glemt at antitrust eksisterer, at som vi husker, var vekst gjennom fusjoner og oppkjøp i stor grad forbudt etter loven, at strategier for å dominere markedet, som vertikal integrasjon, kunne sende et selskap til retten.

Antitrust er et ratt for samfunnets styring av markedet, og er første utvei for å holde potensielle verdensmestere i sjakk. Men Bork og kohorten hans fjernet rattet vårt for 40 år siden. Bilen tromler fortsatt av gårde, så vi rykker så hardt vi kan i alle andre regulatorer i bilen, samt svinger desperat med dørene og ruller vinduene opp og ned i håp om at en av disse andre tingene gir en omstilling som lar oss velge hvor vi er på vei før vi velter utfor en klippe.

Det er som et virkelighetens science fiction-plott fra sekstitallet: Folk er fanget i et «generasjonsskip» som raser av sted mellom stjernene. Et skip som en gang ble styrt av forfedrene, mens nå, etter en stor katastrofe, har skipets mannskap glemt at de er på et skip og ingen vet lenger hvor kontrollrommet er. Ute av kontroll raser skipet mot slutten, og med mindre vi kan ta tilbake kontrollen og gjennomføre kurskorreksjon i tide, så er vi alle på tur mot en grusom død i hjertet av en sol.

Ingenting av dette er å minimere problemene med overvåking. Overvåkning betyr noe, og Storteknologiens bruk av overvåkning er en eksistensiell risiko for vår art, men det er ikke fordi overvåking og maskinlæring frarøver oss vår frie vilje.

Overvåkingen har blitt mye mer effektiv takket være Storteknologien. I 1989 hadde Stasi – det østtyske hemmelige politiet – hele landet under overvåkning, et massivt foretak som rekrutterte hver sekstiende person til å tjene som informant eller etterretningsagent.

I dag vet vi at NSA spionerer på en betydelig fraksjon av hele verdens befolkning, og forholdet mellom overvåkingsagenter og overvåket er mer som 1:10.000 (det er sannsynligvis i den lave enden da det forutsetter at hver amerikaner med topphemmelig klarering jobber for NSA i dette prosjektet - vi vet ikke hvor mange av disse klarerte personene som er involvert i NSAs spionasje , men det er definitivt ikke alle disse).

Hvordan utvidet forholdet mellom overvåkbare borgere seg fra 1:60 til 1:10,000 på mindre enn 30 år? Det er takket være Storteknologien. Vårt utstyr og tjenester samler de fleste dataene som NSA utvinner til sitt overvåkingsprosjekt. Vi betaler for dette utstyret og de tjenestene de kobler seg til, og så utfører vi møysommelig dataregistreringsoppgavene knyttet til logging av fakta om våre liv, meninger og preferanser. Dette masseovervåkingsprosjektet har i stor grad vært ubrukelig for å bekjempe terrorisme: NSA kan bare peke på en enkelt mindre suksesshistorie der de brukte sitt datainnsamlingsprogram for å hindre et forsøk fra en amerikansk innbygger å overføre noen få tusen dollar til en oversjøisk terrorgruppe. Det er ineffektivt for mye av den samme grunnen som at kommersielle overvåkingsprosjekter i stor grad er ineffektive til å målrette reklame: Folk som ønsker å begå terrorhandlinger, lik folk som ønsker å kjøpe et kjøleskap, er ekstremt sjeldne. Hvis du prøver å oppdage et fenomen hvis basisandelen bare er en av en million med et instrument med en nøyaktighet på bare 99 %, kommer hver sanne positive til en kostnad på 9999 falske positive.

La meg forklare det igjen: Hvis en av en million mennesker er terrorist, så vil det bare være omtrent en terrorist i et tilfeldig utvalg med en million mennesker. Hvis testen for å oppdage terrorister er 99 % nøyaktig, vil den identifisere 10.000 terrorister i din million-personer prøve (1 % av en million er 10.000). For hver sann positiv, vil du få 9999 falske positive.

I virkeligheten blir nøyaktigheten for algoritmisk gjenkjenning av terrorisme langt under 99 %-merket, det samme gjør målrettingen av kjøleskapannonser. Forskjellen er at å bli feilaktig anklaget for å ville kjøpe et kjøleskap er en mindre plage, mens blir du feilaktig anklaget for å planlegge et terrorangrep kan det ødelegge livet ditt og livene til alle du elsker.

Massestatlig overvåking er bare mulig på grunn av overvåkingskapitalismen og dens ekstremt lavavkastnings systemer for annonsemålretting, som krever en konstant påfyll av personopplysninger for å for å knapt bli levedyktige. Overvåkingskapitalismens primære feilmodus er feilmålrettede annonser, mens massestatovervåkingens primære feilmodus er groteske menneskerettighetsbrudd, som tenderer mot et totalitært samfunn.

Statlig overvåking er ikke kun en snylter på Storteknologien som suger til data derfra uten å gi noe tilbake. I sannhet er de to i symbiose: Storteknologien suger opp våre data for spionbyråer, og spionbyråene sikrer at regjeringene ikke begrenser Storteknologiens aktiviteter så sterkt at det ikke lenger ville tjene spionbyråenes behov. Det er intet klart skille mellom statlig overvåking og overvåkingskapitalisme; de er avhengige av hverandre.

For å se hvordan dette virker i dag, så trenger vi ikke se lenger enn til Amazons enhet for hjemmeovervåking: dørklokken Ring og den tilhørende appen Neighbors. Ring - er et produkt som Amazon kjøpte og ikke utviklet internt - er en kameraaktivert dørklokke som strømmer videoopptak fra inngangsdøren til mobilenheten din. Neighbors-appen lar deg danne et overvåkingsnett for hele nabolaget med andre Ring-eiere, der du kan dele klipp av «mistenkelige individer». Hvis du tenker at dette høres ut som en oppskrift på å la rasister bak gardinene virkelig gi krefter til sine mistanker mot personer med brun hud som går langs gatene, har du rett. Ring har blitt en de facto, uoffisiell forlengelse av politiet uten noen irriterende tilsyn eller regler.

I midten av 2019 viste en rekke innsynsforespørsler at Amazon hadde inngått konfidensielle avtaler med mer enn 400 lokale politimyndigheter der myndighetene skulle markedsføre Ring og Neighbors mot å få tilgang til opptak fra Ring-kameraene. I teorien måtte politifolk be om tilgang til disse opptakene gjennom Amazon (og interne dokumenter viser at Amazon setter av betydelige ressurser for å trene opp politifolk i hvordan lage en troverdig forklaring når de gjør dette), men i praksis, hvis en Ring-kunde avviser en forespørsel fra politiet, så krever Amazon kun at myndighetene retter en formell henvendelse om opptaket til selskapet, for å få det utlevert.

Ring og politiet har funnet mange måter å flette sammen sine aktiviteter. Ring inngår hemmelige avtaler for å skaffe sanntidstilgang til 911-utkallinger og strømmer deretter alarmerende meldinger om kriminalitet til brukere av Neighbors, som bidrar til å overbevise alle som vurderer en overvåkningsdørklokke, men er ikke sikker på om nabolaget deres er så farlig at det trengs.

Jo mer politiet følger overvåkingskapitalisten Ring, jo mer overvåkingsevne staten får. Politiet som stoler på private enheter for sin rettshåndhevelse, og deretter guides i retning utplasseringen av denne teknologien, mens selskapene returnere tjenesten ved lobbyvirksomhet mot regler som krever offentlig tilsyn med politiets overvåkingsteknologi. Jo mer politiet stoler på Ring og Neighbors, jo vanskeligere vil det være å vedta lover mot dem. Jo færre lover er det mot dem, jo mer vil politiet stole på dem.

Men selv om vi kunne utøve demokratisk kontroll over våre stater og tvinge dem til å slutte å ransake overvåkingskapitalismens reservoarer av atferdsdata, så ville overvåkingskapitalismen fortsatt skade oss.

Dette er et område der Zuboff glimter til. Hennes kapittel om «tilfluktsted» — følelsen av å ikke bli observert — er en nydelig hyllest til introspeksjon, ro, oppmerksomt nærvær og stillhet.

Når du blir overvåket, så endres noe. Alle som har oppdratt et barn vet dette. Du kan se opp fra boken din (eller mer realistisk, fra mobilen) og fange barnet ditt i et øyeblikk av dyp realisering og vekst, et øyeblikk hvor de lærer noe som er helt i utkanten av sine evner, som krever fullstendig og intens konsentrasjon. Et øyeblikk er du oppslukt, har det sjeldne og vakre øyeblikket i fokus og utspille seg ut foran øynene dine, så ser barnet opp og ser at du ser det, og øyeblikket kollapser. For å vokse, trenger du å være og vise ditt sanne jeg, og i det øyeblikket er du sårbar som en eremittkrabbe som skynder seg fra ett skall til det neste. Den ømme, ubeskyttede overflaten du viser i det øyeblikket, er for delikate til å avsløre i nærvær av en annen, selv noen du stoler så betingelsesløst på som et barn stoler på sine foreldre.

I den digitale tidsalder er vårt sanne jeg uløselig knyttet til våre digitale liv. Søkehistorikken din er en løpende oversikt over spørsmålene du har fundert på. Posisjonshistorikken din er et arkiv over steder du har trukket mot og opplevelsene du har hatt der. Din sosiale graf avslører de ulike sidene av identiteten din, og folkene du er knyttet til.

Å få disse aktivitetene observert er å miste tilfluktstedet for ditt sanne jeg.

Det er en annen måte overvåkingskapitalismen frarøver oss vår evne til selv å være vårt sanne jeg: Ved å gjøre oss engstelige. Overvåkingskapitalismen er egentlig ikke en tankekontrollstråle, men du trenger ikke en tankekontrollstråle for å gjøre noen engstelige. Tross alt, et annet ord for angst er å være opprørt, og for å få noen til å bli opprørt, trenger du bare å opprøre dem. Å pirke i dem og peke på dem og pipe mot dem og mumle mot dem og bombardere dem i et periodisk opplegg som er akkurat tilfeldig nok til at vår nervesystem aldri helt blir vant til det.

Våre enheter og tjenester har «generelt formål» i det at de kan koble hva som helst eller hvem som helst til hva som helst eller hvem som helst, og de kan gjøre ethvert program som kan lages. Dette betyr at distraksjonsrektanglene i lommene våre passer på våre mest verdifulle øyeblikk med våre kjæreste og deres mest presserende eller tidskritiske meldinger (fra «blir sen, kan du hente ungen?» til «legen ga med dårlige nyheter og jeg trenger å snakke med deg MED EN GANG») i tillegg til reklamer for kjøleskap og rekrutteringsmeldinger fra nazister.

Dag og natt vibrerer lommene våre, knuser konsentrasjonen vår og river i stykker de skjøre edderkoppspinnene av sammenehenger vi spinner når vi tenker gjennom vanskelige ideer. Hvis du låste noen inne i en celle og forstyrret dem på dette viset, så ville vi kalt det «søvnnektingstortur», og det ville vært en krigsforbrytelse i følge Geneve-konvensjonen.

Effekten overvåkning har på vår evne til å være vårt sanne jeg er ikke lik for alle mennesker. Noen av oss er heldige nok til å leve på en tid og sted der de viktigste fakta om våre live er i stor grad sosialt aksepterte og kan vises frem offentlig uten risiko for sosiale konsekvenser.

Men for mange av oss er dette ikke sant. Husk at i manns minne var mange av væremåtene som vi tenker på som sosialt akseptable i dag en gang årsak til alvorlig sosial sanksjon eller til og med fengsling. Hvis du er 65 år gammel, har du levd i en tid hvor folk som bor i «frie samfunn» kunne bli fengslet eller sanksjonert for å engasjere seg i homoseksuell aktivitet, for å forelske seg i en person hvis hud var en annen farge enn sin egen, eller for å røyke gras.

I dag er disse aktivitetene ikke bare avkriminalisert i store deler av verden, de anses som normale, og de forhenværende forbudene anses som skamfulle, forkastelige relikvier fra fortiden.

Hvordan gikk vi fra forbud til normalisering? Ved hjelp av privat og personlig aktivitet: Folk som var homofile i skjul, eller som var hasjrøykere i smug, eller som i hemmeliget elsket noen med en annen hudfarge, var alle sårbare for gjengjeldelse hvis de gjorde sitt sanne jeg kjent, og det var begrenset hvor mye de kunne fremme sine egne rettigheter i samfunnet og slik være tro mot seg selv. Men fordi det var en privatsfære, så kunne disse folkene danne allianser med sine kjære og sine venner som ikke delte deres uglesette egenskaper, ved å ha private samtaler der de kom ut av skapet og avslørte sitt sanne jeg til folkene rundt dem og bringe dem inn på sin side, en samtale av gangen.

Retten til å velge tid og sted for disse samtalene var nøkkelen til at de lyktes. Det er en ting å komme ut av skapet overfor faren din mens dere er på fisketurn langt unna allfarvei, og en helt annen ting å plumpe ut med det over julemiddagen mens din rasistiske Facebook-onkel er der for å lage en scene.

Uten en privatsfære så er det en sjanske for at ingen av disse endringene hadde funnet sted, og at folkene som dro nytte av disse endringene enten hadde mått sociale saksjoner for å komme ut av skapet i en fientlig verden eller ville aldri vært i stand til å vise sitt sanne jeg til folkene de er glade i.

Det følger fra dette at, med mindre du tror at vårt samfunn har oppnådd sosial perfeksjon — at barnebarna i 50 år vil be deg om å fortelle dem historien om hvordan, i 2020, hver urettferdighet hadde blitt korrigert og ingen ytterligere endring måtte gjøres — så bør du forvente at akkurat nå, i dette øyeblikk, er det folk du elsker, hvis lykke henger sammen med din egen , som har en hemmelighet i sine hjerter som hindrer dem fra å være sitt sanne jeg sammen med deg. Disse menneskene er sorgfulle og vil gå i graven med den hemmelige sorgen i sine hjerter, og kilden til denne sorgen vil være falskheten i deres forhold til deg.

En privatsfære er nødvendig for menneskelig fremgang.

Mangelen på privatliv kan berøve sårbare folk sjansen til å være sitt sanne jeg og begrense våre handler ved å frarøve oss vårt tilfluktsted, men det er en annen risiko som belastes oss alle, ikke bare folk med en hemmelighet: kriminalitet.

Personlig identifiserende informasjon har svært begrenset nytte når formålet er å kontrollere folks sinn, men identitetstyveri - virkelig en omfattende uttrykk for en hel konstellasjon av forferdelige kriminelle aktiviteter som kan ødelegge din økonomi, kompromittere din personlige integritet, ødelegge ditt rykte, eller til og med utsette deg for fysisk fare - trives med den.

Angripere er heller ikke begrenset til å bruke data fra én kilde som er tappet. Flere tjenester har hatt innbrudd som avslørte navn, adresser, telefonnumre, passord, seksuell smak, skolekarakterer, arbeidsytelse, trefninger med strafferettssystemet, familiedetaljer, genetisk informasjon, fingeravtrykk og annen biometri, lesevaner, søkehistorikk, litterær smak, pseudonymer og annen sensitiv informasjon. Angripere kan slå sammen data fra disse forskjellige innbruddene for å bygge opp ekstremt detaljerte mapper om tilfeldige personer, og deretter bruke ulike deler av datasettet til ulike kriminelle formål.

Angripere kan for eksempel bruke lekkede brukernavn- og passordkombinasjoner til å kapre hele flåter av kommersielle kjøretøy som har blitt utstyrt med anti-tyveri GPS-sporere og startsperrer eller å kapre babymonitorer for å terrorisere småbarn med lydspor fra pornografi. Angripere bruker lekkede data til å lure telefonselskaper til å gi dem telefonnummeret ditt, så fanger de opp SMS-baserte tofaktorautentiseringskoder for å ta over e-post, bankkonti og/eller lommebøker for kryptovaluta.

Oppfinnsomheten til angripere har ingen grenser i jakten på kreative måter å gjøre lekkede data til våpen. En vanlig bruk av lekkede data er å trenge inn i selskaper for å få tilgang til mer data.

Som spioner, er nettsvindlere er helt avhengig av selskapenes over-innsamling og over-beholding av våre data. Spionetater betaler noen ganger selskaper for tilgang til dataene sine eller skremmer dem til å oppgi dem, men noen ganger fungerer de akkurat som kriminelle gjør — ved å tuske ut data fra selskapenes databaser.

Overinnsamlingen av data har en rekke forferdelige sosiale konsekvenser, fra erosjonen av vårt sanne jeg til undergraving av sosial fremgang, fra statlig overvåking til en epidemi av kriminalitet på nettet. Kommersiell overvåking er også en fordel for folk som kjører påvirkningskampanjer, men det er vårt minste problem.

Storteknologien har lenge praktisert teknologi-eksepsjonallisme: ideen om at de ikke bør være underlagt de dagligdagse lover og normer i «hverdagen». Mottoer som Facebooks «move fast and break things» tiltrakk seg berettiget hån mot selskapenes selvsentrerte retorikk.

Teknologiens eksepsjonellisme ga oss alle mye trøbbel, så det er ironisk og plagsomt å se Storteknologiens kritikere synde på samme vis.

Storteknologien er ikke en «ukontrollert kapitalisme» som ikke kan kureres gjennom tradisjonelle rettslige antimonopol grep (tvinge selskaper til å kvitte seg med konkurrenter de har kjøpt) og forbud mot fusjoner som gir monopol og andre konkurransehemmende taktikker. Storteknologien har ikke makt til å bruke maskinlæring til å påvirke vår oppførsel så gjennomgående at markedene mister evnen til å straffe dårlige aktører og belønne dyktigere konkurrenter. Storteknologien har ingen regelskrivende tankekontroll-stråle, som nødvendiggjør avvikling av vår gamle verktøykasse.

Saken er at, folk har hevdet å ha perfeksjonert tankekontroll-stråler i århundrer, og hver gang, det viste seg å være et bedrag - men noen ganger bedro svindlere seg selv.

I generasjoner har reklamebransjen stadig forbedret sin evne til å selge reklametjenester til bedrifter, samtidig som de bare har fått frem marginale gevinster ved å selge disse bedriftenes produkter til potensielle kunder. John Wanamaker beklaget at «50% av annonsebudsjettet mitt er bortkastet, jeg vet bare ikke hvilken 50 %» er et testament til triumfen til annonsesjefer, som med hell overbeviste Wanamaker om at bare halvparten av pengene han brukte gikk til spille.

Teknologibransjen har gjort enorme forbedringer i dyktigheten i å overbevise bedrifter om at de er flinke til å annonsere, mens deres faktiske forbedringer i annonseringen - i motsetning til målretting - har vært ganske så som så. Innegreien for maskinlæring – og den mystiske påkallingen av «kunstig intelligens» som et synonym for enkle statistiske interferens-teknikker – har i stor grad styrket effekten av Storteknologiens salgspoeng, når markedsførere har utnyttet potensielle kunders mangel på teknisk forståelse for å komme unna med fantastisk oversalg og underlevering.

Det er fristende å tenke at hvis bedrifter er villige til å legger milliarder inn i et vågestykke, må det være en god et. Likevel er det mange ganger denne tommelfingerregelen har ført oss på villspor. For eksempel er det nesten uhørt om forvaltede investeringsfond skulle gjøre det bedre enn rene indeksfond, og investorer som legger pengene sine i hendene på ekspertforvaltere gjør det langt verre enn de som overlater sine sparepenger til indeksfond. Men forvaltede fond har fortsatt størstedelen av markedsinvesteringene, og de er patronisert av noen av de rikeste, mest sofistikerte investorene i verden. Deres tillitserklæring til en underpresterende sektor er en lignelse om flaksens rolle i rikdomsakkumulering, ikke et tegn på at forvaltede fond er et godt kjøp.

Påstandene om Storteknologiens tankekontrollsystem er fulle av tegn på at hele foretaket er svindel. For eksempel, avhengigheten av de «Fem Store» personlighetstrekkene som hovedmetode for å påvirke mennesker, selv om de «Fem Store»-teorien ikke støttes av noen store, fagfellevurderte studier og for det meste hører til pågående reklamefolk og pop-psykologi.

Storteknologiens markedsføringsmateriale påstår også at deres algoritmene kan utføre presis «sinnsstemningsanalyse» eller oppdage hvordan folk har det basert på deres «mikrouttrykk», men dette er markedsføringspåstander, ikke vitenskapelige funn. Disse metodene er for det meste ikke testet av uavhengige vitenskapelige eksperter, og der de har blitt testet så har de ikke bekreftet. Mikrouttrykk er spesielt tvilsomt gitt at selskapene som spesialiserer seg i å lære opp folk til å oppdage dem er vist å treffe dårligere en terningkast.

Storteknologien har vært så god på å markedsføre sine såkalte superkrefter at det er enkelt å tro at de kan markedsføre alt annet med like stor sukess, men det er en tabbe å tro på oppstusset. Enhver uttalelse et selskap kommer med om kvaliteten på produktene sine er åpenbart ikke upartisk. Det faktum at vi ikke stoler på alt Storteknologien sier om sin databehandling, overholdelse av personvernlovgiving, og så videre, er bare rimelig. Så hvorfor skulle vi behandle Storteknologiens markedsføringsmateriell som gudegitt sannhet? Storteknologien lyver om omtrent alt, innbefattet hvor godt dets maskinlæringsdrevne overtalelsessystemer virker.

That skepticism should infuse all of our evaluations of Big Tech and its supposed abilities, including our perusal of its patents. Zuboff vests these patents with enormous significance, pointing out that Google claimed extensive new persuasion capabilities in its patent filings. These claims are doubly suspect: first, because they are so self-serving, and second, because the patent itself is so notoriously an invitation to exaggeration.

Patent applications take the form of a series of claims and range from broad to narrow. A typical patent starts out by claiming that its authors have invented a method or system for doing every conceivable thing that anyone might do, ever, with any tool or device. Then it narrows that claim in successive stages until we get to the actual «invention» that is the true subject of the patent. The hope is that the patent examiner — who is almost certainly overworked and underinformed — will miss the fact that some or all of these claims are ridiculous, or at least suspect, and grant the patent’s broader claims. Patents for unpatentable things are still incredibly useful because they can be wielded against competitors who might license that patent or steer clear of its claims rather than endure the lengthy, expensive process of contesting it.

Hva mer er, så tildeles programvarepatenter rutinemessig selv om søkeren ikke har noe bevis på at de kan gjøre det som hevdes i patenten. Det betyr at du kan ta patent på en «oppfinnelse» som du egentlig ikke har laget og som du heller ikke vet hvordan lage.

With these considerations in hand, it becomes obvious that the fact that a Big Tech company has patented what it says is an effective mind-control ray is largely irrelevant to whether Big Tech can in fact control our minds.

Big Tech collects our data for many reasons, including the diminishing returns on existing stores of data. But many tech companies also collect data out of a mistaken tech exceptionalist belief in the network effects of data. Network effects occur when each new user in a system increases its value. The classic example is fax machines: A single fax machine is of no use, two fax machines are of limited use, but every new fax machine that’s put to use after the first doubles the number of possible fax-to-fax links.

Data mined for predictive systems doesn’t necessarily produce these dividends. Think of Netflix: The predictive value of the data mined from a million English-speaking Netflix viewers is hardly improved by the addition of one more user’s viewing data. Most of the data Netflix acquires after that first minimum viable sample duplicates existing data and produces only minimal gains. Meanwhile, retraining models with new data gets progressively more expensive as the number of data points increases, and manual tasks like labeling and validating data do not get cheaper at scale.

Businesses pursue fads to the detriment of their profits all the time, especially when the businesses and their investors are not motivated by the prospect of becoming profitable but rather by the prospect of being acquired by a Big Tech giant or by having an IPO. For these firms, ticking faddish boxes like «collects as much data as possible» might realize a bigger return on investment than «collects a business-appropriate quantity of data.»

This is another harm of tech exceptionalism: The belief that more data always produces more profits in the form of more insights that can be translated into better mind-control rays drives firms to over-collect and over-retain data beyond all rationality. And since the firms are behaving irrationally, a good number of them will go out of business and become ghost ships whose cargo holds are stuffed full of data that can harm people in myriad ways — but which no one is responsible for antey longer. Even if the companies don’t go under, the data they collect is maintained behind the minimum viable security — just enough security to keep the company viable while it waits to get bought out by a tech giant, an amount calculated to spend not one penny more than is necessary on protecting data.

For the first decade of its existence, Facebook competed with the social media giants of the day (Myspace, Orkut, etc.) by presenting itself as the pro-privacy alternative. Indeed, Facebook justified its walled garden — which let users bring in data from the web but blocked web services like Google Search from indexing and caching Facebook pages — as a pro-privacy measure that protected users from the surveillance-happy winners of the social media wars like Myspace.

Despite frequent promises that it would never collect or analyze its users’ data, Facebook periodically created initiatives that did just that, like the creepy, ham-fisted Beacon tool, which spied on you as you moved around the web and then added your online activities to your public timeline, allowing your friends to monitor your browsing habits. Beacon sparked a user revolt. Every time, Facebook backed off from its surveillance initiative, but not all the way; inevitably, the new Facebook would be more surveilling than the old Facebook, though not quite as surveilling as the intermediate Facebook following the launch of the new product or service.

Hvor raskt Facebook økte sin overvåkningsinnsats ser ut til å ha vært styrt av det konkurransemessige landskapet til Facebook. Jo flere konkurrenter Facebook hadde, jo bedre oppførte de seg. Hver gang en stor konkurrent brøt sammen, så ble oppførselen til Facebook markant verre.

Samtidig kjøpte Facebook enormt mange selskaper, inkludert et selskap som heter Onavo. I utgangspunktet laget Onavo en batteriovervåkingsapp. Men tillatelsene som Onavo krevde var så omfattende at appen var i stand til å samle inn finkornet telemetri på alt brukerne gjorde med telefonene sine, inkludert hvilke apper de brukte og hvordan de brukte dem.

Ved hjelp av Onavo oppdaget Facebook at de mistet markedsandeler til Snapchat, en app som – som Facebook et tiår tidligere – presenterte seg selv som pro-personvernalternativet til status quo. Ved hjelp av Onavo kunne Facebook hente ut data fra enhetene til Snapchat-brukere, inkludert både nåværende og tidligere Snapchat-brukere. Dette ansporet Facebook til å kjøpe Instagram - som hadde noen egenskaper som konkurrerte med Snapchat - og som deretter tillot Facebook å finjustere Instagrams funksjoner og salgspitch for å fjerne Snapchats fordeler og sikre at Facebook ikke måtte møte den typen konkurransepress det tidligere hadde påført Myspace og Orkut.

Historien om hvordan Facebook knuste Snapchat avslører forholdet mellom monopol og overvåkingskapitalisme. Facebook kombinerte overvåking med slapp antitrust-håndhevelse for å oppdage den kommende konkurransemessige trusselen fra Snapchat og deretter ta avgjørende tiltak mot den. Facebooks overvåkingskapitalisme lar den avverge konkurransepress med konkurransehemmende taktikker. Facebook-brukere vil fortsatt ha personvern – Facebook har ikke brukt overvåking til å hjernevaske dem ut av det – men de kan ikke få det fordi Facebooks overvåkning lar Facebook ødelegge ethvert håp om at en rivaliserende tjeneste dukker opp som konkurrerer på personvernfunksjoner.

En desentraliseringsbevegelse har forsøkt å fjerne dominansen til Facebook og andre Storteknologi-selskaper ved å lage og fremme «indieweb»-alternativer — Mastodon som et Twitter-alternativ, Diaspora som et Facebook-alternativ, og så videre — men disse forsøkene har på ingen måte tatt av.

I bunn og grunn er hver av disse tjenestene hemmet av det samme problemet: Hver potensiell bruker av et Facebook- eller Twitteralternativ må overbevise alle sine venner til å følge dem til en desentralisert Internettalternativ for å fortsatt ha glede av fordelene med sosiale medier. For mange av oss er den eneste grunnen til å ha en Facebook-konto at vennene våre har Facebook-kontoer, og grunnen til at de har Facebook-kontoer er at vi har Facebook-kontoer.

Alt dette har konspirert til å gjøre Facebook – og andre dominerende plattformer – til «drapssoner» der investorer ikke vil finansiere nye deltakere.

Og likevel, alle dagens teknologigiganter dukketopp til tross for den forankrede fordelen til selskapene som kom før dem. For å forstå hvordan det skjedde, må du forstå både samvirke og angripende samvirke.

«Interoperability» is the ability of two technologies to work with one another: Anyone can make an LP that will play on any record player, anyone can make a filter you can install in your stove’s extractor fan, anyone can make gasoline for your car, anyone can make a USB phone charger that fits in your car’s cigarette lighter receptacle, anyone can make a light bulb that works in your light socket, anyone can make bread that will toast in your toaster.

Interoperability is often a source of innovation and consumer benefit: Apple made the first commercially successful PC, but millions of independent software vendors made interoperable programs that ran on the Apple II Plus. The simple analog antenna inputs on the back of TVs first allowed cable operators to connect directly to TVs, then they allowed game console companies and then personal computer companies to use standard televisions as displays. Standard RJ-11 telephone jacks allowed for the production of phones from a variety of vendors in a variety of forms, from the free football-shaped phone that came with a Sports Illustrated subscription to business phones with speakers, hold functions, and so on and then answering machines and finally modems, paving the way for the internet revolution.

«Interoperability» is often used interchangeably with «standardization,» which is the process when manufacturers and other stakeholders hammer out a set of agreed-upon rules for implementing a technology, such as the electrical plug on your wall, the CAN bus used by your car’s computer systems, or the HTML instructions that your browser interprets.

But interoperability doesn’t require standardization — indeed, standardization often proceeds from the chaos of ad hoc interoperability measures. The inventor of the cigarette-lighter USB charger didn’t need to get permission from car manufacturers or even the manufacturers of the dashboard lighter subcomponent. The automakers didn’t take any countermeasures to prevent the use of these aftermarket accessories by their customers, but they also didn’t do anything to make life easier for the chargers’ manufacturers. This is a kind of «neutral interoperability.»

Beyond neutral interoperability, there is «adversarial interoperability.» That’s when a manufacturer makes a product that interoperates with another manufacturer’s product despite the second manufacturer’s objections and even if that means bypassing a security system designed to prevent interoperability.

Probably the most familiar form of adversarial interoperability is third-party printer ink. Printer manufacturers claim that they sell printers below cost and that the only way they can recoup the losses they incur is by charging high markups on ink. To prevent the owners of printers from buying ink elsewhere, the printer companies deploy a suite of anti-customer security systems that detect and reject both refilled and third-party cartridges.

Owners of printers take the position that HP and Epson and Brother are not charities and that customers for their wares have no obligation to help them survive, and so if the companies choose to sell their products at a loss, that’s their foolish choice and their consequences to live with. Likewise, competitors who make ink or refill kits observe that they don’t owe printer companies anything, and their erosion of printer companies’ margins are the printer companies’ problems, not their competitors’. After all, the printer companies shed no tears when they drive a refiller out of business, so why should the refillers concern themselves with the economic fortunes of the printer companies?

Adversarial interoperability has played an outsized role in the history of the tech industry: from the founding of the «alt.*» Usenet hierarchy (which was started against the wishes of Usenet’s maintainers and which grew to be bigger than all of Usenet combined) to the browser wars (when Netscape and Microsoft devoted massive engineering efforts to making their browsers incompatible with the other’s special commands and peccadilloes) to Facebook (whose success was built in part by helping its new users stay in touch with friends they’d left behind on Myspace because Facebook supplied them with a tool that scraped waiting messages from Myspace and imported them into Facebook, effectively creating an Facebook-based Myspace reader).

Today, incumbency is seen as an unassailable advantage. Facebook is where all of your friends are, so no one can start a Facebook competitor. But adversarial compatibility reverses the competitive advantage: If you were allowed to compete with Facebook by providing a tool that imported all your users’ waiting Facebook messages into an environment that competed on lines that Facebook couldn’t cross, like eliminating surveillance and ads, then Facebook would be at a huge disadvantage. It would have assembled all possible ex-Facebook users into a single, easy-to-find service; it would have educated them on how a Facebook-like service worked and what its potential benefits were; and it would have provided an easy means for disgruntled Facebook users to tell their friends where they might expect better treatment.

Adversarial interoperability was once the norm and a key contributor to the dynamic, vibrant tech scene, but now it is stuck behind a thicket of laws and regulations that add legal risks to the tried-and-true tactics of adversarial interoperability. New rules and new interpretations of existing rules mean that a would-be adversarial interoperator needs to steer clear of claims under copyright, terms of service, trade secrecy, tortious interference, and patent.

In the absence of a competitive market, lawmakers have resorted to assigning expensive, state-like duties to Big Tech firms, such as automatically filtering user contributions for copyright infringement or terrorist and extremist content or detecting and preventing harassment in real time or controlling access to sexual material.

These measures put a floor under how small we can make Big Tech because only the very largest companies can afford the humans and automated filters needed to perform these duties.

But that’s not the only way in which making platforms responsible for policing their users undermines competition. A platform that is expected to police its users’ conduct must prevent many vital adversarial interoperability techniques lest these subvert its policing measures. For example, if someone using a Twitter replacement like Mastodon is able to push messages into Twitter and read messages out of Twitter, they could avoid being caught by automated systems that detect and prevent harassment (such as systems that use the timing of messages or IP-based rules to make guesses about whether someone is a harasser).

To the extent that we are willing to let Big Tech police itself — rather than making Big Tech small enough that users can leave bad platforms for better ones and small enough that a regulation that simply puts a platform out of business will not destroy billions of users’ access to their communities and data — we build the case that Big Tech should be able to block its competitors and make it easier for Big Tech to demand legal enforcement tools to ban and punish attempts at adversarial interoperability.

Ultimately, we can try to fix Big Tech by making it responsible for bad acts by its users, or we can try to fix the internet by cutting Big Tech down to size. But we can’t do both. To replace today’s giant products with pluralistic protocols, we need to clear the legal thicket that prevents adversarial interoperability so that tomorrow’s nimble, personal, small-scale products can federate themselves with giants like Facebook, allowing the users who’ve left to continue to communicate with users who haven’t left yet, reaching tendrils over Facebook’s garden wall that Facebook’s trapped users can use to scale the walls and escape to the global, open web.

Tech is not the only industry that has undergone massive concentration since the Reagan era. Virtually every major industry — from oil to newspapers to meatpacking to sea freight to eyewear to online pornography — has become a clubby oligarchy that just a few players dominate.

At the same time, every industry has become something of a tech industry as general-purpose computers and general-purpose networks and the promise of efficiencies through data-driven analysis infuse every device, process, and firm with tech.

This phenomenon of industrial concentration is part of a wider story about wealth concentration overall as a smaller and smaller number of people own more and more of our world. This concentration of both wealth and industries means that our political outcomes are increasingly beholden to the parochial interests of the people and companies with all the money.

That means that whenever a regulator asks a question with an obvious, empirical answer («Are humans causing climate change?» or «Should we let companies conduct commercial mass surveillance?» or «Does society benefit from allowing network neutrality violations?»), the answer that comes out is only correct if that correctness meets with the approval of rich people and the industries that made them so wealthy.

Rich people have always played an outsized role in politics and more so since the Supreme Court’s Citizens United decision eliminated key controls over political spending. Widening inequality and wealth concentration means that the very richest people are now a lot richer and can afford to spend a lot more money on political projects than ever before. Think of the Koch brothers or George Soros or Bill Gates.

But the policy distortions of rich individuals pale in comparison to the policy distortions that concentrated industries are capable of. The companies in highly concentrated industries are much more profitable than companies in competitive industries — no competition means not having to reduce prices or improve quality to win customers — leaving them with bigger capital surpluses to spend on lobbying.

Concentrated industries also find it easier to collaborate on policy objectives than competitive ones. When all the top execs from your industry can fit around a single boardroom table, they often do. And when they do, they can forge a consensus position on regulation.

Rising through the ranks in a concentrated industry generally means working at two or three of the big companies. When there are only relatively few companies in a given industry, each company has a more ossified executive rank, leaving ambitious execs with fewer paths to higher positions unless they are recruited to a rival. This means that the top execs in concentrated industries are likely to have been colleagues at some point and socialize in the same circles — connected through social ties or, say, serving as trustees for each others’ estates. These tight social bonds foster a collegial, rather than competitive, attitude.

Highly concentrated industries also present a regulatory conundrum. When an industry is dominated by just four or five companies, the only people who are likely to truly understand the industry’s practices are its veteran executives. This means that top regulators are often former execs of the companies they are supposed to be regulating. These turns in government are often tacitly understood to be leaves of absence from industry, with former employers welcoming their erstwhile watchdogs back into their executive ranks once their terms have expired.

All this is to say that the tight social bonds, small number of firms, and regulatory capture of concentrated industries give the companies that comprise them the power to dictate many, if not all, of the regulations that bind them.

This is increasingly obvious. Whether it’s payday lenders winning the right to practice predatory lending or Apple winning the right to decide who can fix your phone or Google and Facebook winning the right to breach your private data without suffering meaningful consequences or victories for pipeline companies or impunity for opioid manufacturers or massive tax subsidies for incredibly profitable dominant businesses, it’s increasingly apparent that many of our official, evidence-based truth-seeking processes are, in fact, auctions for sale to the highest bidder.

It’s really impossible to overstate what a terrifying prospect this is. We live in an incredibly high-tech society, and none of us could acquire the expertise to evaluate every technological proposition that stands between us and our untimely, horrible deaths. You might devote your life to acquiring the media literacy to distinguish good scientific journals from corrupt pay-for-play lookalikes and the statistical literacy to evaluate the quality of the analysis in the journals as well as the microbiology and epidemiology knowledge to determine whether you can trust claims about the safety of vaccines — but that would still leave you unqualified to judge whether the wiring in your home will give you a lethal shock and whether your car’s brakes’ software will cause them to fail unpredictably and whether the hygiene standards at your butcher are sufficient to keep you from dying after you finish your dinner.

I en verden så kompleks som denne, må vi stole på til myndighetene, og vi holder dem ærlige ved å gjøre disse myndighetene ansvarlige overfor oss og begrense dem med regler for å forhindre interessekonflikter. Vi kan umulig tilegne oss ekspertisen til å bedømme motstridende påstander om den beste måten å gjøre verden trygg og velstående på, men vi kan avgjøre om selve bedømmelsesprosessen er troverdig.

Akkurat nå er det åpenbart ikke tilfelle.

De siste 40 årene med økende ulikhet og industrikonsentrasjon, sammen med stadig svakere ansvarlighet og åpenhet for ekspertbyråer, har skapt en stadig mer presserende følelse av forestående undergang, følelsen av at det er store konspirasjoner på gang som opererer med stilltiende offisiell godkjenning til tross for sannsynligheten for at de jobber for å gjøre det bedre for seg selv ved å ødelegge for resten av oss.

For eksempel er det flere tiår siden Essos egne forskere konkluderte med at produktene deres ville gjøre jorden ubeboelig for mennesker. Og likevel gikk disse tiårene tapt for oss, i stor grad fordi Esso lobbierte myndighetene og sådde tvil om farene ved produktene sine og gjorde det i samarbeid med mange offentlige tjenestemenn. Når overlevelsen til deg selv og alle du elsker er truet av konspirasjoner, er det ikke urimelig å begynne å stille spørsmål ved de tingene du tror du vet for å forsøke å avgjøre om de også er resultatet av en annen konspirasjon.

The collapse of the credibility of our systems for divining and upholding truths has left us in a state of epistemological chaos. Once, most of us might have assumed that the system was working and that our regulations reflected our best understanding of the empirical truths of the world as they were best understood — now we have to find our own experts to help us sort the true from the false.

If you’re like me, you probably believe that vaccines are safe, but you (like me) probably also can’t explain the microbiology or statistics. Few of us have the math skills to review the literature on vaccine safety and describe why their statistical reasoning is sound. Likewise, few of us can review the stats in the (now discredited) literature on opioid safety and explain how those stats were manipulated. Both vaccines and opioids were embraced by medical authorities, after all, and one is safe while the other could ruin your life. You’re left with a kind of inchoate constellation of rules of thumb about which experts you trust to fact-check controversial claims and then to explain how all those respectable doctors with their peer-reviewed research on opioid safety were an aberration and then how you know that the doctors writing about vaccine safety are not an aberration.

Jeg er 100% sikker på at vaksinering er trygt og effektivt, men jeg er også litt fortapt når jeg skal forklare akkurat hvorfor jeg tror dette, gitt alle korrupsjon jeg vet om og de mange ganger trygghetens stempel har vist seg å være en parodisk løgn fortalt å gjøre de superrike enda rikere.

Fake news — conspiracy theories, racist ideologies, scientific denialism — has always been with us. What’s changed today is not the mix of ideas in the public discourse but the popularity of the worst ideas in that mix. Conspiracy and denial have skyrocketed in lockstep with the growth of Big Inequality, which has also tracked the rise of Big Tech and Big Pharma and Big Wrestling and Big Car and Big Movie Theater and Big Everything Else.

No one can say for certain why this has happened, but the two dominant camps are idealism (the belief that the people who argue for these conspiracies have gotten better at explaining them, maybe with the help of machine-learning tools) or materialism (the ideas have become more attractive because of material conditions in the world).

I’m a materialist. I’ve been exposed to the arguments of conspiracy theorists all my life, and I have not experienced any qualitative leap in the quality of those arguments.

The major difference is in the world, not the arguments. In a time where actual conspiracies are commonplace, conspiracy theories acquire a ring of plausibility.

We have always had disagreements about what’s true, but today, we have a disagreement over how we know whether something is true. This is an epistemological crisis, not a crisis over belief. It’s a crisis over the credibility of our truth-seeking exercises, from scientific journals (in an era where the biggest journal publishers have been caught producing pay-to-play journals for junk science) to regulations (in an era where regulators are routinely cycling in and out of business) to education (in an era where universities are dependent on corporate donations to keep their lights on).

Targeting — surveillance capitalism — makes it easier to find people who are undergoing this epistemological crisis, but it doesn’t create the crisis. For that, you need to look to corruption.

And, conveniently enough, it’s corruption that allows surveillance capitalism to grow by dismantling monopoly protections, by permitting reckless collection and retention of personal data, by allowing ads to be targeted in secret, and by foreclosing on the possibility of going somewhere else where you might continue to enjoy your friends without subjecting yourself to commercial surveillance.

I reject both iterations of technological exceptionalism. I reject the idea that tech is uniquely terrible and led by people who are greedier or worse than the leaders of other industries, and I reject the idea that tech is so good — or so intrinsically prone to concentration — that it can’t be blamed for its present-day monopolistic status.

I think tech is just another industry, albeit one that grew up in the absence of real monopoly constraints. It may have been first, but it isn’t the worst nor will it be the last.

But there’s one way in which I am a tech exceptionalist. I believe that online tools are the key to overcoming problems that are much more urgent than tech monopolization: climate change, inequality, misogyny, and discrimination on the basis of race, gender identity, and other factors. The internet is how we will recruit people to fight those fights, and how we will coordinate their labor. Tech is not a substitute for democratic accountability, the rule of law, fairness, or stability — but it’s a means to achieve these things.

The hard problem of our species is coordination. Everything from climate change to social change to running a business to making a family work can be viewed as a collective action problem.

The internet makes it easier than at any time before to find people who want to work on a project with you — hence the success of free and open-source software, crowdfunding, and racist terror groups — and easier than ever to coordinate the work you do.

The internet and the computers we connect to it also possess an exceptional quality: general-purposeness. The internet is designed to allow any two parties to communicate any data, using any protocol, without permission from anyone else. The only production design we have for computers is the general-purpose, «Turing complete» computer that can run every program we can express in symbolic logic.

This means that every time someone with a special communications need invests in infrastructure and techniques to make the internet faster, cheaper, and more robust, this benefit redounds to everyone else who is using the internet to communicate. And this also means that every time someone with a special computing need invests to make computers faster, cheaper, and more robust, every other computing application is a potential beneficiary of this work.

På grunn av dette, vil enhver form for kommunikasjon gradvis absorberes inn i Internett, og enhver type dings — fra fly til pacemakere — på sikt bli en datamaskin i en stilig boks.

While these considerations don’t preclude regulating networks and computers, they do call for gravitas and caution when doing so because changes to regulatory frameworks could ripple out to have unintended consequences in many, many other domains.

The upshot of this is that our best hope of solving the big coordination problems — climate change, inequality, etc. — is with free, fair, and open tech. Our best hope of keeping tech free, fair, and open is to exercise caution in how we regulate tech and to attend closely to the ways in which interventions to solve one problem might create problems in other domains.

Big Tech has a funny relationship with information. When you’re generating information — anything from the location data streaming off your mobile device to the private messages you send to friends on a social network — it claims the rights to make unlimited use of that data.

But when you have the audacity to turn the tables — to use a tool that blocks ads or slurps your waiting updates out of a social network and puts them in another app that lets you set your own priorities and suggestions or crawls their system to allow you to start a rival business — they claim that you’re stealing from them.

The thing is, information is a very bad fit for any kind of private property regime. Property rights are useful for establishing markets that can lead to the effective development of fallow assets. These markets depend on clear titles to ensure that the things being bought and sold in them can, in fact, be bought and sold.

Information rarely has such a clear title. Take phone numbers: There’s clearly something going wrong when Facebook slurps up millions of users’ address books and uses the phone numbers it finds in them to plot out social graphs and fill in missing information about other users.

But the phone numbers Facebook nonconsensually acquires in this transaction are not the «property» of the users they’re taken from nor do they belong to the people whose phones ring when you dial those numbers. The numbers are mere integers, 10 digits in the U.S. and Canada, and they appear in millions of places, including somewhere deep in pi as well as numerous other contexts. Giving people ownership titles to integers is an obviously terrible idea.

Likewise for the facts that Facebook and other commercial surveillance operators acquire about us, like that we are the children of our parents or the parents to our children or that we had a conversation with someone else or went to a public place. These data points can’t be property in the sense that your house or your shirt is your property because the title to them is intrinsically muddy: Does your mom own the fact that she is your mother? Do you? Do both of you? What about your dad — does he own this fact too, or does he have to license the fact from you (or your mom or both of you) in order to use this fact? What about the hundreds or thousands of other people who know these facts?

If you go to a Black Lives Matter demonstration, do the other demonstrators need your permission to post their photos from the event? The online fights over when and how to post photos from demonstrations reveal a nuanced, complex issue that cannot be easily hand-waved away by giving one party a property right that everyone else in the mix has to respect.

The fact that information isn’t a good fit with property and markets doesn’t mean that it’s not valuable. Babies aren’t property, but they’re inarguably valuable. In fact, we have a whole set of rules just for babies as well as a subset of those rules that apply to humans more generally. Someone who argues that babies won’t be truly valuable until they can be bought and sold like loaves of bread would be instantly and rightfully condemned as a monster.

It’s tempting to reach for the property hammer when Big Tech treats your information like a nail — not least because Big Tech are such prolific abusers of property hammers when it comes to their information. But this is a mistake. If we allow markets to dictate the use of our information, then we’ll find that we’re sellers in a buyers’ market where the Big Tech monopolies set a price for our data that is so low as to be insignificant or, more likely, set at a nonnegotiable price of zero in a click-through agreement that you don’t have the opportunity to modify.

Meanwhile, establishing property rights over information will create insurmountable barriers to independent data processing. Imagine that we require a license to be negotiated when a translated document is compared with its original, something Google has done and continues to do billions of times to train its automated language translation tools. Google can afford this, but independent third parties cannot. Google can staff a clearances department to negotiate one-time payments to the likes of the EU (one of the major repositories of translated documents) while independent watchdogs wanting to verify that the translations are well-prepared, or to root out bias in translations, will find themselves needing a staffed-up legal department and millions for licenses before they can even get started.

The same goes for things like search indexes of the web or photos of peoples’ houses, which have become contentious thanks to Google’s Street View project. Whatever problems may exist with Google’s photographing of street scenes, resolving them by letting people decide who can take pictures of the facades of their homes from a public street will surely create even worse ones. Think of how street photography is important for newsgathering — including informal newsgathering, like photographing abuses of authority — and how being able to document housing and street life are important for contesting eminent domain, advocating for social aid, reporting planning and zoning violations, documenting discriminatory and unequal living conditions, and more.

The ownership of facts is antithetical to many kinds of human progress. It’s hard to imagine a rule that limits Big Tech’s exploitation of our collective labors without inadvertently banning people from gathering data on online harassment or compiling indexes of changes in language or simply investigating how the platforms are shaping our discourse — all of which require scraping data that other people have created and subjecting it to scrutiny and analysis.

The platforms may oversell their ability to persuade people, but obviously, persuasion works sometimes. Whether it’s the private realm that LGBTQ people used to recruit allies and normalize sexual diversity or the decadeslong project to convince people that markets are the only efficient way to solve complicated resource allocation problems, it’s clear that our societal attitudes can change.

The project of shifting societal attitudes is a game of inches and years. For centuries, svengalis have purported to be able to accelerate this process, but even the most brutal forms of propaganda have struggled to make permanent changes. Joseph Goebbels was able to subject Germans to daily, mandatory, hourslong radio broadcasts, to round up and torture and murder dissidents, and to seize full control over their children’s education while banning any literature, broadcasts, or films that did not comport with his worldview.

Yet, after 12 years of terror, once the war ended, Nazi ideology was largely discredited in both East and West Germany, and a program of national truth and reconciliation was put in its place. Racism and authoritarianism were never fully abolished in Germany, but neither were the majority of Germans irrevocably convinced of Nazism — and the rise of racist authoritarianism in Germany today tells us that the liberal attitudes that replaced Nazism were no more permanent than Nazism itself.

Racism and authoritarianism have also always been with us. Anyone who’s reviewed the kind of messages and arguments that racists put forward today would be hard-pressed to say that they have gotten better at presenting their ideas. The same pseudoscience, appeals to fear, and circular logic that racists presented in the 1980s, when the cause of white supremacy was on the wane, are to be found in the communications of leading white nationalists today.

If racists haven’t gotten more convincing in the past decade, then how is it that more people were convinced to be openly racist at that time? I believe that the answer lies in the material world, not the world of ideas. The ideas haven’t gotten more convincing, but people have become more afraid. Afraid that the state can’t be trusted to act as an honest broker in life-or-death decisions, from those regarding the management of the economy to the regulation of painkillers to the rules for handling private information. Afraid that the world has become a game of musical chairs in which the chairs are being taken away at a never-before-seen rate. Afraid that justice for others will come at their expense. Monopolism isn’t the cause of these fears, but the inequality and material desperation and policy malpractice that monopolism contributes to is a significant contributor to these conditions. Inequality creates the conditions for both conspiracies and violent racist ideologies, and then surveillance capitalism lets opportunists target the fearful and the conspiracy-minded.

As the old saw goes, «If you’re not paying for the product, you’re the product.»

It’s a commonplace belief today that the advent of free, ad-supported media was the original sin of surveillance capitalism. The reasoning is that the companies that charged for access couldn’t «compete with free» and so they were driven out of business. Their ad-supported competitors, meanwhile, declared open season on their users’ data in a bid to improve their ad targeting and make more money and then resorted to the most sensationalist tactics to generate clicks on those ads. If only we’d pay for media again, we’d have a better, more responsible, more sober discourse that would be better for democracy.

But the degradation of news products long precedes the advent of ad-supported online news. Long before newspapers were online, lax antitrust enforcement had opened the door for unprecedented waves of consolidation and roll-ups in newsrooms. Rival newspapers were merged, reporters and ad sales staff were laid off, physical plants were sold and leased back, leaving the companies loaded up with debt through leveraged buyouts and subsequent profit-taking by the new owners. In other words, it wasn’t merely shifts in the classified advertising market, which was long held to be the primary driver in the decline of the traditional newsroom, that made news companies unable to adapt to the internet — it was monopolism.

Then, as news companies did come online, the ad revenues they commanded dropped even as the number of internet users (and thus potential online readers) increased. That shift was a function of consolidation in the ad sales market, with Google and Facebook emerging as duopolists who made more money every year from advertising while paying less and less of it to the publishers whose work the ads appeared alongside. Monopolism created a buyer’s market for ad inventory with Facebook and Google acting as gatekeepers.

Paid services continue to exist alongside free ones, and often it is these paid services — anxious to prevent people from bypassing their paywalls or sharing paid media with freeloaders — that exert the most control over their customers. Apple’s iTunes and App Stores are paid services, but to maximize their profitability, Apple has to lock its platforms so that third parties can’t make compatible software without permission. These locks allow the company to exercise both editorial control (enabling it to exclude controversial political material) and technological control, including control over who can repair the devices it makes. If we’re worried that ad-supported products deprive people of their right to self-determination by using persuasion techniques to nudge their purchase decisions a few degrees in one direction or the other, then the near-total control a single company holds over the decision of who gets to sell you software, parts, and service for your iPhone should have us very worried indeed.

We shouldn’t just be concerned about payment and control: The idea that paying will improve discourse is also dangerously wrong. The poor success rate of targeted advertising means that the platforms have to incentivize you to «engage» with posts at extremely high levels to generate enough pageviews to safeguard their profits. As discussed earlier, to increase engagement, platforms like Facebook use machine learning to guess which messages will be most inflammatory and make a point of shoving those into your eyeballs at every turn so that you will hate-click and argue with people.

Perhaps paying would fix this, the reasoning goes. If platforms could be economically viable even if you stopped clicking on them once your intellectual and social curiosity had been slaked, then they would have no reason to algorithmically enrage you to get more clicks out of you, right?

There may be something to that argument, but it still ignores the wider economic and political context of the platforms and the world that allowed them to grow so dominant.

Platforms are world-spanning and all-encompassing because they are monopolies, and they are monopolies because we have gutted our most important and reliable anti-monopoly rules. Antitrust was neutered as a key part of the project to make the wealthy wealthier, and that project has worked. The vast majority of people on Earth have a negative net worth, and even the dwindling middle class is in a precarious state, undersaved for retirement, underinsured for medical disasters, and undersecured against climate and technology shocks.

In this wildly unequal world, paying doesn’t improve the discourse; it simply prices discourse out of the range of the majority of people. Paying for the product is dandy, if you can afford it.

If you think today’s filter bubbles are a problem for our discourse, imagine what they’d be like if rich people inhabited free-flowing Athenian marketplaces of ideas where you have to pay for admission while everyone else lives in online spaces that are subsidized by wealthy benefactors who relish the chance to establish conversational spaces where the «house rules» forbid questioning the status quo. That is, imagine if the rich seceded from Facebook, and then, instead of running ads that made money for shareholders, Facebook became a billionaire’s vanity project that also happened to ensure that nobody talked about whether it was fair that only billionaires could afford to hang out in the rarified corners of the internet.

Behind the idea of paying for access is a belief that free markets will address Big Tech’s dysfunction. After all, to the extent that people have a view of surveillance at all, it is generally an unfavorable one, and the longer and more thoroughly one is surveilled, the less one tends to like it. Same goes for lock-in: If HP’s ink or Apple’s App Store were really obviously fantastic, they wouldn’t need technical measures to prevent users from choosing a rival’s product. The only reason these technical countermeasures exist is that the companies don’t believe their customers would voluntarily submit to their terms, and they want to deprive them of the choice to take their business elsewhere.

Advocates for markets laud their ability to aggregate the diffused knowledge of buyers and sellers across a whole society through demand signals, price signals, and so on. The argument for surveillance capitalism being a «rogue capitalism» is that machine-learning-driven persuasion techniques distort decision-making by consumers, leading to incorrect signals — consumers don’t buy what they prefer, they buy what they’re tricked into preferring. It follows that the monopolistic practices of lock-in, which do far more to constrain consumers’ free choices, are even more of a «rogue capitalism.»

The profitability of any business is constrained by the possibility that its customers will take their business elsewhere. Both surveillance and lock-in are anti-features that no customer wants. But monopolies can capture their regulators, crush their competitors, insert themselves into their customers’ lives, and corral people into «choosing» their services regardless of whether they want them — it’s fine to be terrible when there is no alternative.

Ultimately, surveillance and lock-in are both simply business strategies that monopolists can choose. Surveillance companies like Google are perfectly capable of deploying lock-in technologies — just look at the onerous Android licensing terms that require device-makers to bundle in Google’s suite of applications. And lock-in companies like Apple are perfectly capable of subjecting their users to surveillance if it means keeping the Chinese government happy and preserving ongoing access to Chinese markets. Monopolies may be made up of good, ethical people, but as institutions, they are not your friend — they will do whatever they can get away with to maximize their profits, and the more monopolistic they are, the more they can get away with.

Hvis vi skal bryte Storteknologiens dødsgrep på våre digitale liv, så må vi bekjempe monopoler. Det høres kanskje ganske dagligdags og gammelmodig ut, noe , som noe fra New Deal-æraen, mens det å få slutt på bruken av automatisert atferdsendring oppleves som plottlinjen til en veldig stilig cyberpunk-roman.

Meanwhile, breaking up monopolies is something we seem to have forgotten how to do. There is a bipartisan, trans-Atlantic consensus that breaking up companies is a fool’s errand at best — liable to mire your federal prosecutors in decades of litigation — and counterproductive at worst, eroding the «consumer benefits» of large companies with massive efficiencies of scale.

But trustbusters once strode the nation, brandishing law books, terrorizing robber barons, and shattering the illusion of monopolies’ all-powerful grip on our society. The trustbusting era could not begin until we found the political will — until the people convinced politicians they’d have their backs when they went up against the richest, most powerful men in the world.

Klarer vi finne igjen den politiske viljen?

Opphavsrettsforskeren James Boyle har beskrevet hvordan begrepet «økologi» ga et vendepunkt i miljøaktivismen. Før dette begrepet ble tatt i bruk, så ikke folk som ønsket å ta vare på hvalbestanden nødvendigvis at de kjempet samme kamp som folk som ønsket å beskytte ozonlaget, få slutt på ferskvannforurensning, få vekk smog eller sur nedbør.

But the term «ecology» welded these disparate causes together into a single movement, and the members of this movement found solidarity with one another. The people who cared about smog signed petitions circulated by the people who wanted to end whaling, and the anti-whalers marched alongside the people demanding action on acid rain. This uniting behind a common cause completely changed the dynamics of environmentalism, setting the stage for today’s climate activism and the sense that preserving the habitability of the planet Earth is a shared duty among all people.

Jeg tror vi er på randen av en nytt « økologi»-hendelse for bekjemping av monopoler. Tross alt er ikke teknologi den eneste sentralstyrte industrien, og det er heller ikke engang den mest sentralstyrte bransjen.

You can find partisans for trustbusting in every sector of the economy. Everywhere you look, you can find people who’ve been wronged by monopolists who’ve trashed their finances, their health, their privacy, their educations, and the lives of people they love. Those people have the same cause as the people who want to break up Big Tech and the same enemies. When most of the world’s wealth is in the hands of a very few, it follows that nearly every large company will have overlapping shareholders.

That’s the good news: With a little bit of work and a little bit of coalition building, we have more than enough political will to break up Big Tech and every other concentrated industry besides. First we take Facebook, then we take AT&T/WarnerMedia.

Men her er de dårlige nyhetene: Mye av det vi gjør for å temme Storteknologien i stedet for å bryte opp de store selskapene, vil gjøre det vanskeligere å bryte dem opp senere.

Big Tech’s concentration currently means that their inaction on harassment, for example, leaves users with an impossible choice: absent themselves from public discourse by, say, quitting Twitter or endure vile, constant abuse. Big Tech’s over-collection and over-retention of data results in horrific identity theft. And their inaction on extremist recruitment means that white supremacists who livestream their shooting rampages can reach an audience of billions. The combination of tech concentration and media concentration means that artists’ incomes are falling even as the revenue generated by their creations are increasing.

Yet governments confronting all of these problems all inevitably converge on the same solution: deputize the Big Tech giants to police their users and render them liable for their users’ bad actions. The drive to force Big Tech to use automated filters to block everything from copyright infringement to sex-trafficking to violent extremism means that tech companies will have to allocate hundreds of millions to run these compliance systems.

These rules — the EU’s new Directive on Copyright, Australia’s new terror regulation, America’s FOSTA/SESTA sex-trafficking law and more — are not just death warrants for small, upstart competitors that might challenge Big Tech’s dominance but who lack the deep pockets of established incumbents to pay for all these automated systems. Worse still, these rules put a floor under how small we can hope to make Big Tech.

That’s because any move to break up Big Tech and cut it down to size will have to cope with the hard limit of not making these companies so small that they can no longer afford to perform these duties — and it’s expensive to invest in those automated filters and outsource content moderation. It’s already going to be hard to unwind these deeply concentrated, chimeric behemoths that have been welded together in the pursuit of monopoly profits. Doing so while simultaneously finding some way to fill the regulatory void that will be left behind if these self-policing rulers were forced to suddenly abdicate will be much, much harder.

Allowing the platforms to grow to their present size has given them a dominance that is nearly insurmountable — deputizing them with public duties to redress the pathologies created by their size makes it virtually impossible to reduce that size. Lather, rinse, repeat: If the platforms don’t get smaller, they will get larger, and as they get larger, they will create more problems, which will give rise to more public duties for the companies, which will make them bigger still.

We can work to fix the internet by breaking up Big Tech and depriving them of monopoly profits, or we can work to fix Big Tech by making them spend their monopoly profits on governance. But we can’t do both. We have to choose between a vibrant, open internet or a dominated, monopolized internet commanded by Big Tech giants that we struggle with constantly to get them to behave themselves.

Trustbusting is hard. Breaking big companies into smaller ones is expensive and time-consuming. So time-consuming that by the time you’re done, the world has often moved on and rendered years of litigation irrelevant. From 1969 to 1982, the U.S. government pursued an antitrust case against IBM over its dominance of mainframe computing — but the case collapsed in 1982 because mainframes were being speedily replaced by PCs.

It’s far easier to prevent concentration than to fix it, and reinstating the traditional contours of U.S. antitrust enforcement will, at the very least, prevent further concentration. That means bans on mergers between large companies, on big companies acquiring nascent competitors, and on platform companies competing directly with the companies that rely on the platforms.

These powers are all in the plain language of U.S. antitrust laws, so in theory, a future U.S. president could simply direct their attorney general to enforce the law as it was written. But after decades of judicial «education» in the benefits of monopolies, after multiple administrations that have packed the federal courts with lifetime-appointed monopoly cheerleaders, it’s not clear that mere administrative action would do the trick.

If the courts frustrate the Justice Department and the president, the next stop would be Congress, which could eliminate any doubt about how antitrust law should be enforced in the U.S. by passing new laws that boil down to saying, «Knock it off. We all know what the Sherman Act says. Robert Bork was a deranged fantasist. For avoidance of doubt, fuck that guy.» In other words, the problem with monopolies is monopolism — the concentration of power into too few hands, which erodes our right to self-determination. If there is a monopoly, the law wants it gone, period. Sure, get rid of monopolies that create «consumer harm» in the form of higher prices, but also, get rid of other monopolies, too.

But this only prevents things from getting worse. To help them get better, we will have to build coalitions with other activists in the anti-monopoly ecology movement — a pluralism movement or a self-determination movement — and target existing monopolies in every industry for breakup and structural separation rules that prevent, for example, the giant eyewear monopolist Luxottica from dominating both the sale and the manufacture of spectacles.

In an important sense, it doesn’t matter which industry the breakups begin in. Once they start, shareholders in every industry will start to eye their investments in monopolists skeptically. As trustbusters ride into town and start making lives miserable for monopolists, the debate around every corporate boardroom’s table will shift. People within corporations who’ve always felt uneasy about monopolism will gain a powerful new argument to fend off their evil rivals in the corporate hierarchy: «If we do it my way, we make less money; if we do it your way, a judge will fine us billions and expose us to ridicule and public disapprobation. So even though I get that it would be really cool to do that merger, lock out that competitor, or buy that little company and kill it before it can threaten it, we really shouldn’t — not if we don’t want to get tied to the DOJ’s bumper and get dragged up and down Trustbuster Road for the next 10 years.»

Fixing Big Tech will require a lot of iteration. As cyber lawyer Lawrence Lessig wrote in his 1999 book, Code and Other Laws of Cyberspace, our lives are regulated by four forces: law (what’s legal), code (what’s technologically possible), norms (what’s socially acceptable), and markets (what’s profitable).

Hvis du kunne svinge en tryllestav å få kongressen til å vedta en lov som vedtok Sherman-loven på nytt i morgen, så kunne du bruke den påfølgende oppsplittingen til å overbevise risikokapitalister om å finansiere konkurrentene til Facebook, Google, Twitter og Apple som ville vente i utkanten etter at disse ble gjort mindre.

Men å få kongressen til å gjøre noe vil kreve en massiv normativ endring, en massebevegelse av folk som bryr seg om monopoler — og hvordan bryte dem opp.

Getting people to care about monopolies will take technological interventions that help them to see what a world free from Big Tech might look like. Imagine if someone could make a beloved (but unauthorized) third-party Facebook or Twitter client that dampens the anxiety-producing algorithmic drumbeat and still lets you talk to your friends without being spied upon — something that made social media more sociable and less toxic. Now imagine that it gets shut down in a brutal legal battle. It’s always easier to convince people that something must be done to save a thing they love than it is to excite them about something that doesn’t even exist yet.

Neither tech nor law nor code nor markets are sufficient to reform Big Tech. But a profitable competitor to Big Tech could bankroll a legislative push; legal reform can embolden a toolsmith to make a better tool; the tool can create customers for a potential business who value the benefits of the internet but want them delivered without Big Tech; and that business can get funded and divert some of its profits to legal reform. 20 GOTO 10 (or lather, rinse, repeat). Do it again, but this time, get farther! After all, this time you’re starting with weaker Big Tech adversaries, a constituency that understands things can be better, Big Tech rivals who’ll help ensure their own future by bankrolling reform, and code that other programmers can build on to weaken Big Tech even further.

The surveillance capitalism hypothesis — that Big Tech’s products really work as well as they say they do and that’s why everything is so screwed up — is way too easy on surveillance and even easier on capitalism. Companies spy because they believe their own BS, and companies spy because governments let them, and companies spy because any advantage from spying is so short-lived and minor that they have to do more and more of it just to stay in place.

As to why things are so screwed up? Capitalism. Specifically, the monopolism that creates inequality and the inequality that creates monopolism. It’s a form of capitalism that rewards sociopaths who destroy the real economy to inflate the bottom line, and they get away with it for the same reason companies get away with spying: because our governments are in thrall to both the ideology that says monopolies are actually just fine and in thrall to the ideology that says that in a monopolistic world, you’d better not piss off the monopolists.

Overvåkning får ikke kapitalismen ut av kontroll. Kapitalismens ukontrollerte styre startet før overvåkningen. Overvåkning er ikke ille fordi det lar folk manipulere oss. Den er ille fordi den knuser vår mulighet til å være vårt sanne jeg — og fordi det lar de rike og mektige finne ut hvem som kan vurdere å bygge gilliotiner og hvilken dritt de kan bruke for å diskredittere disse potensielle gilliotin-byggerne før de i det hele tatt kommer seg til treverkforhandleren.

Men alle problemene med Storteknologien, så er det fristende å forestille seg å løse problemet ved å gå tilbake til en verden helt uten teknologi. Stå imot den fristelsen.

The only way out of our Big Tech problem is up and through. If our future is not reliant upon high tech, it will be because civilization has fallen. Big Tech wired together a planetary, species-wide nervous system that, with the proper reforms and course corrections, is capable of seeing us through the existential challenge of our species and planet. Now it’s up to us to seize the means of computation, putting that electronic nervous system under democratic, accountable control.

Jeg er også, i smug, på tross av det jeg tidligere har sagt, en teknologieksepsjonalist. Ikke på den måten at jeg tenker at teknologi bør få lov til å danne monopoler fordi det har «stordriftsfordeler», eller andre tåkeforklaring. Jeg er teknologieksepsjonalist fordi jeg tror det betyr noe å gjøre det riktig med teknologi, og at å gjøre det feil vil være en ubøtelig katastrofe — og det å gjøre det riktig kan gi oss evnen til å jobbe sammen om å redde sivilisasjonen, arten og planeten vår.