Hvordan knuse overvåkningskapitalismen

Cory Doctorow

+ Hvordan knuse overvåkningskapitalismen av Cory Doctorow. +

+ Utgitt av Petter Reinholdtsen. Oversatt på dugnad av Ole-Erik Yrvin, Petter +Reinhodtsen, Allan Nordhøy og Christer Gundersen. +

+ ISBN 978-82-93828-05-1 (innbundet) +

+ ISBN 978-82-93828-06-8 (heftet) +

+ ISBN 978-82-93828-07-5 (ePub) +

+ Creative Commons, noen rettigheter forbeholdt +

+ Denne boken er lisensiert med en Creative Commons-lisens. Denne lisensen +tillater all bruk av dette arbeidet, så lenge opphavet navngis og intet +avledet materiale distribueres. Hvis du vil ha mer informasjon om lisensen, +besøk https://creativecommons.org/licenses/by-nd/4.0/. +

Innholdsfortegnelse

Hvordan knuse overvåkningskapitalismen

Nettverket av tusen løgner

Digital rettighetsaktivisme, et kvart århundre senere

Teknologieksepsjonalisme, da og nå

Ikke fest din lit til oppstuss

Hva er overtalelse?

1. Segmentering
2. Villedning
3. Dominans
4. Omgåelse av våre rasjonelle evner

Hvis data er den nye oljen, så har overvåkningskapitalismen motorlekkasje

Hva er Facebook?

Monopol og retten til den spennende fremtiden

Søkerekkefølge og retten til en spennende fremtid

Monopolister har råd til sovepiller for vakthundene

Monopol og vern av privatsfæren

Ronald Reagan, en pioner for teknologimonopoler

Styring med vindusviskerne

Overvåking er fortsatt viktig

Verdighet og tilfluktsted

Pine de plagede

Alle data du samler og tar vare på vil til slutt lekke

Critical tech exceptionalism is still tech exceptionalism

How monopolies, not mind control, drive surveillance capitalism: The +Snapchat story

Et monopol over vennene dine

Fake news is an epistemological crisis

Tech is different

Eierskap til fakta

Overtalelse virker… sakte

Det hjelper ikke å betale

An «ecology» moment for trustbusting

Gjør Storteknologien liten igjen

20 GOTO 10

Up and through

Kapittel . Hvordan knuse overvåkningskapitalismen

Innholdsfortegnelse

Nettverket av tusen løgner

Digital rettighetsaktivisme, et kvart århundre senere

Teknologieksepsjonalisme, da og nå

Ikke fest din lit til oppstuss

Hva er overtalelse?

1. Segmentering
2. Villedning
3. Dominans
4. Omgåelse av våre rasjonelle evner

Hvis data er den nye oljen, så har overvåkningskapitalismen motorlekkasje

Hva er Facebook?

Monopol og retten til den spennende fremtiden

Søkerekkefølge og retten til en spennende fremtid

Monopolister har råd til sovepiller for vakthundene

Monopol og vern av privatsfæren

Ronald Reagan, en pioner for teknologimonopoler

Styring med vindusviskerne

Overvåking er fortsatt viktig

Verdighet og tilfluktsted

Pine de plagede

Alle data du samler og tar vare på vil til slutt lekke

Critical tech exceptionalism is still tech exceptionalism

How monopolies, not mind control, drive surveillance capitalism: The +Snapchat story

Et monopol over vennene dine

Fake news is an epistemological crisis

Tech is different

Eierskap til fakta

Overtalelse virker… sakte

Det hjelper ikke å betale

An «ecology» moment for trustbusting

Gjør Storteknologien liten igjen

20 GOTO 10

Up and through

Nettverket av tusen løgner

+ Den mest overraskende momentet med tilbakekomsten av flatjordtilhengere i +det 21. århundre er hvor viden tilgjengelig bevisene mot dem er. En kan +forstå hvordan folk, for noen århundrer siden, som aldri hadde tilgang på et +høyt nok utsiktspunkt til å se jordens krumning, kunne ende opp med en +rimelig fornuftig tro på at den tilsynelatende flate jorden, rent faktisk +var flat. +

+ Men idag, når grunnskoler rutinemessig henger GoPro-kamera fra ballonger og +sender dem høyt nok til å fotografere jordens krumning, for ikke å snakke om +det lite eksepsjonelle synet av en krummet jord fra vinduet på et fly. Det +kreves en heroisk innsats for å holde på troen om at jorden er flat. +

+ På samme måten er det med hvit nasjonalisme og eugenikk. I en tidsalder der +du kan bli et datamaskinberegnet genomdatapunkt ved å sveipe innsiden av +munnhulen og sende resultatet til et gensekvensieringsselskap sammen med en +beskjeden sum penger, så har «rasevitenskap» aldri vært enklere +å avvise. +

+ Vi lever i en gullalder både med hensyn til enkel faktatilgang og +fornektelse av dem. Forferdelige idéer som har svevd i utkanten i tiår eller +til og med århundrer har blitt allemannseie tilsynelatende over natten. +

+ Når obskure idéer får fotfeste, er det kun to ting som kan forklare at de +kommer til overflaten: Enten har personen som uttrykker idéen forbedret sin +formidling av den, eller så har forgodtbefinnendet blitt vanskeligere å +fornekte i lys av mer bevis. Med andre ord, hvis vi ønsker at folk skal ta +klimaendringer seriøst, kan vi få et utall Greta Thunberg til å gi +velformulerte, oppofrende argumenter fra talerstoler, til hjertets og +sinnets dyst, eller vi kan vente på floden, den stekende sol, og pandemier +lager argumentene for oss. I praksis må vi antagelig gjøre litt av begge +deler: Desto mer vi steker, brenner, drukner og forvitrer, dess enklere vil +det være for dem av oss som Greta Thunberg å overbevise oss. +

+ De iboende argumentet for ting som eksempelvis teorien om flat jord har ikke +blitt bedre i den vordende generasjonen. Faktisk har ting blitt verre, fordi +folk uten bakgrunn i kildekritikk er gjenstand for dem. +

+ Idéen om en flat jord er like gammel som idéene og forståelsen av dem. De +første presentasjonene av denne teorien kom folk for øre som ikke forstod +selv grunnleggende geometri. De hadde til gode å se tilbake på det +heliosentrikere og storsirkelnavigasjon bragte siden. Dagens tilhengere er +mer finslepne enn tidligere tiders religiøse verdensanskuelse, og de har en +mye vanskeligere jobb. +

+ Er det tilfelle at disse konspiratorikerne lykkes med utgangspunkt i bedre +argumenter? +

+ Noen synes å tro det. I dag er troen hengitt at maskinlæring og kommersiell +overvåkning kan gjøre selv en konspirasjonsteoretiker uten taleevner til +trådtrekker med KI-refinerte argumenter som verktøy til et omvendt +dukketeater som omgår alle rasjonelle evner. Når RAND beskylder +Facebook for «radikalisering» og når Facebook sin rolle +i å spre coronavirus-misinformasjon blir +bortforklart i deres algoritme, er det underforstått at maskinlæring +og overvåkning endrer vår oppfattelse av hva som sant er. +

+ I en verden der enhver konspirasjonsteori har sine ihuga tilhengere, må +noe være i gjerde. +

+ Hva om det har sin naturlige forklaring? Er det kanskje ikke argumentene som +utgjør tyngden på vektskåla for dem? Hva om de ekte +konspirasjonene vi omgås hvordan det daglige stormaktsspillet og +i kapitalerværvelsen mellom fut og fogd gravlegger ubeleilig fakta og bevis +på mislighold? Slike ting som i beste fall kalles korrupsjon, gjør de folk +sårbare for fiktive konspirasjonsteorier? +

+ Hvis det er slagskade og ikke smitte – materielle forhold og ikke ideologi – +som utgjør forskjellen i dag og gjør økningen i frastøtende feilinformasjon +mulig, i møte med lett observerte fakta, så betyr det ikke at +datanettverkene vår ikke kan lastes. De gjør fortsatt grovarbeidet med å +spore opp sårbare mennesker og lede dem gjennom en rekke av stadig mer +ekstreme ideer og lokalsamfunn. +

+ Troen på fiktive konspirasjoner har gjort skade og utgjør en fare for +planeten, fra arter kicked off by vaccine +denial til folkemord igangsatt +av rasistiske konspirasjonsteorier til planetarisk nedsmelting +forårsaket av nektelsesinspirert klimainaktivitet. Vår verden brenner, og +derfor må vi slukke brannene - for å finne ut hvordan vi kan hjelpe folk til +å se sannheten i verden igjennom konspirasjonene de har blitt forvirret av. +

+ Brannslokking er reaktivt. Det trengs forebygging. Den +materielle tilværelsen hvis innvirken på folks svakhet for den, smitter over +i handling. Her kan også teknologi ha noe å si. +

+ Det skorter ikke på tilsvarsforslag. Fra EU sin Terroristinnhold-regulering som +krever at plattformer håndhever og fjerner +«ekstremistisk»-innhold, til USAs forslag om å tvinge +teknologiselskaper til å spionere på sine brukere og holde dem +ansvarlige for +brukernes ytringsfrihet. Det er mange krefter i sving som kan svinge +tilbake slik at teknologiselskaper må løse problemene de utgjør. +

+ Her mangler en kritisk del av debatten. Alle disse løsningene antar at +teknologiselskaper er en bruksgjenstand, at deres dominanse over Internett +er evig. Forslag til endring av storteknologien til et mer finmasket, +mangeslynget Internett lar vente på seg. «Løsningene» som +forefinnes krever at storteknologien skal forbli +storartet smålig, fordi kun de største selskapene får råd til å sette i verk +systemene disse lovene krever. +

+ Løsningen på hva teknologien skal være er svaret på hva som skal til for å +komme oss ut av knipa. I dag er vi på perrongen og prøver å finne ut hva +tabellen storteknologien har lagt fore skal bety for vårt Internett i +fortsettelsen, eller om det går noen tog andre veien. Enveisbilletten har vi +klamt for hånden. +

+ Velg med omhu. Temming av storteknologien er iboende viktig for løsningen på +Internett. Hvorfra vi setter ut i det, en digital rettighetsaktivisme til. +

Digital rettighetsaktivisme, et kvart århundre senere

+ Digital rettighetsaktivisme er eldre enn Internett. GNU-prosjektet er fra +1983. Elektronisk forpost fra 1990. I brorparten av tiden denne har +eksistert, var hovedkritikken rettet mot dens formål at det hele var +irrelevant: De sanne aktivistparolene var blitt virkelighet i lys av +skepsis. Tenk over hva som ble sagt da Finland +snudde kjæringa og erklærte breiband en mennskerett i 2010. Sann +aktivisme var for smørkrise å regne den gang. Tenk over Malcolm Gladwell sin +forakt +for at Finland gjorde resten av verden til skamme i 2010 da han +kalte det «klikktivisme.». Etter at storteknologien har blitt +sentral i våre liv, om ikke erstattet noen av dem helt, har disse uverdige +kritikkene blitt kritikk verdige. Først lød pipa av at «Du bryr deg +kun om teknologi fordi du er +en undersått av et teknologiselskap». Så ble lyden +tonelydende «Hvorfor forutså du ikke at teknologi kom til å bli en så +destruktiv kraft?». Digital rettighetsaktivisme er riktig der det +alltid har vært rett: voktende over menneskene i en verden der teknologi +ubønnhørlig tar grep. +

+ Siste versjon av kritikken plystrer til takten av +«overvåkningskapitalismen», et begrep Shoshana Zuboff førte i +pennen i sin innflytelsesrike og lange bok fra 2019, Tidsalderen +overvåkningskapitalismen: Kampen om en human fremtid i maktens nye +frontlinjer. Zuboff argumenterer at +«overvåkningskapitalisme» er en unik funksjon av +teknologi-industrien, og at til forskjell fra andre skadeinnvirkende +kommersielle gesjefter i historiens løp, at denne «skriver seg fra +uventede og illegale mekanismer for utnyttelse, verdiskapning og kontroll +som effektivt sett løsriver folk fra deres adferd, mens den lager nye +markeder for å forutsi oppførselsforutsigbarhet og endring av +den. Overvåkningskapitalisme utfordrer demokratiske normer, og tar avskjed +med århundrers markedskapitalisme på sentrale punkter.» Det er en ny +og dødlig form for kapitalisme, en «ukontrollert kapitalisme», +og vår forståelsesmangel i dens unike muligheter og farer representerer en +eksistensiell, artsomfattende trussel. Hun skal ha rett i at dagens +kapitalisme truer vårt artsmangfold, og hun framfører riktig nok at vår art +og sivilisasjon har utfordringer. Dog tar hun kanskje virkelig feil av +hvordan teknologi er forskjellig, og hvordan det truer vår art. +

+ En slik feildiagnostisering vil forlede oss inn på et spor der +storteknologien har penset inn allerede. Ned med storteknologien, er ikke en +avsporing av problemet. +

Teknologieksepsjonalisme, da og nå

+ Tidligere kritikere av bevegelsen av og for digitale rettigheter—kanskje +best representert ved organisasjoner som GNU-prosjektet, Elektronisk +forpost, Public Knowledge, og andre som fokuserer på ivaretagelse og +forbedring av grunnleggende rettigheter fra og i den digitale sfære—ble kalt +aktivister for å praktisere «teknologieksepsjonalisme». Rundt +tusenårets slutt drev seriøse mennesker gjøn og påstod at teknologi-praksis +ikke hadde innvirkning på den «virkelige verden». Påstander om +at teknologiregler hadde innvirkning på talefrihet, assosiasjonsfrihet, vern +av privatsfæren, ransakelsesordrer, og fundamentale rettigheter og verdier +ble antatt for latterlige å være, en videre trist fabulering om +Star Trek på digitale oppslagstavler istedenfor Nelson +Mandela. +

+ I årtiene som fulgte, har anklagene om +«teknologi-eksepsjonalisme» økt etter som teknologi har fått en +større rolle i folks hverdagsliv. Nå som teknologi har infiltrert hver krink +og krok i våre liv, og våre nettbaserte liv kun har kommet et knippe +monopolister i hende, blir digitale rettighetsforkjempere anklaget for å gå +storteknologiens ærend, og støtter deres uaktsomhet som tjener deres +egeninteresse (eller verre, skumle konspirasjoner). +

+ Fra eget perspektiv har bevegelsen for digitale rettigheter forholdt seg der +den startet, mens resten av verden har flyttet seg. Helt fra dens tidligste +dager, var det dens brukere også dem som skrev koden fra tanke til +fundamentale verktøy. Digitale rettighetsaktivister brød seg kun om +selskaper i den grad de brydde seg om brukernes rettigheter (eller, vel så +ofte, når selskaper gjorde så tåpelige ting at det truet med nye regelsett +som også gjorde det vanskeligere for rasjonelle aktører å hjelpe brukere). +

+ «Overvåkningskapitalisems» kritiker kommer så med en ny +vinkling mot bevegelsen for digitale rettigheter: Ikke som varslere som +overdriver hvor viktig de nye leketøyene deres er, ei heller som +håndtlangere for storteknologien, men som velmenende stolflyttere hvis +langvarige aktivisme er en belastning fordi det gjør det ute av stand til å +oppfatte nye truslene som finnes fordi de er opptatt med forrige århundres +teknologikamp. +

+ Men teknologieksepsjonalisme er en synd, uavsett hvem som bedriver den. +

Ikke fest din lit til oppstuss

+ Du har antagelig hørt at «om du ikke betaler for noe, er det du som er +produktet». Som vi ser nedenfor, er det riktig, men ikke hele +bildet. Det som er helt riktig om reklamefinansiert +storteknologi, er at dens kunder er de som reklamerer, og det selskaper som +Google og Facebook selger, er deres evne til å overbevise +deg om å kjøpe ting. Tjenestene—sosiale media, +søkemotorer, kart, meldingstjenester, med mer—er leveringssystemer for +overbeviselse. +

+ Frykten for overvåkningskapitalismen utgår fra den (korrekte) antagelsen om +at alt Storteknologien sier om seg selv antagelig er løgn. Men kritikken av +overvåkningskapitalismen gjør unntak fra påstandene Storteknologien kommer +med i salgsmateriellet sitt - overdrivelsene som tar pusten fra deg i +salgsfremstøtene til potensielle annonsekjøpere på nettet og i deres +reklameteknologiseminarer om effekten av produktene. Den antar at +Storteknologien er så god til å påvirke oss som de påstår de er når de +selger påvirkningsprodukter til pålitelige kunder. Dette er en tabbe, da +salgsmateriell ikke er en pålitelig indikator på et produkts +gjennomføringsevne. +

+ Overvåkningskapitalismen antar det at det kjøpes mye av markedsføringen som +Storteknologien selges, så må Storteknologien selge noe som virker. Men det +enorme salget til Storteknologien kan like gjerne være et resultat av en +felles vrangforestilling eller noe enda mer skadelig, monopolistisk kontroll +over kommunikasjonen og handelen vår. +

+ Du endrer oppførsel når noen ser på deg, og ikke til det bedre. Det skaper +risiko for vår sosiale fremgang. Zuboffs bok inneholder vakkert formulerte +forklaringer av disse fenomenene. Men Zuboff påstår også at overvåkning +bokstavlig talt fjerner vår frie vilje, at når våre personlige data blandes +med maskinlæring, så oppstår et overtalelsessystem så ødeleggende at vi er +helt hjelpeløse i møte med det. Det vil si at Facebook med en algoritme til +å analysere data som det henter ut fra ditt daglige liv uten samtykke, +tilpasser feeden din slik at du kjøper ting. Det er en tankekontrollstråle +rett ut av en femtitalls-tegneserie, der brukt av gale forskere hvis +superdatamaskiner garanterer dem evigvarende og total verdensherredømme. +

Hva er overtalelse?

+ For å forstå hvorfor du ikke bør bekymre deg over tankekontrollstråler, men +hvorfor du bør bekymre deg over overvåkning +og Storteknologi, så må vi starte ved å se på hva vi +mener med «overtalelse». +

+ Google, Facebook, og andre overvåkningskapitalister lover sine kunder (de +som markedsfører) at hvis de bruker maskinlæringsverktøy opptrent på +ufattelig store datasett av personinformasjon høstet inn uten samtykke, så +vil de være i stand til å finne måter å overstyre de rasjonale evnene til +folket og styre deres oppførsel, og slik skape en strøm av kjøp, stemmer og +andre ønskede resultater. +

+ Effekten av dominans er mye større enn effekten av manipulering og bør +derfor være hovedfokus i vår analyse og bestemmende for hvilke avhjelpende +midler vi går for. +

+ Men det finnes få indiser på at det er dette som skjer. I stedet er +forutsigelsene som overvåkningskapitalismen leverer til sine kunder mye +mindre imponerende. I stedet for å finne måter å omgå våre rasjonelle evner, +så gjør overvåkningskapitaliser som Mark Zuckerberg i hovedsak en eller +flere av tre ting: +

1. Segmentering

+ Hvis du selger bleier, så er det større sjanse for et salg hvis du forsøker +å selge dem til folk som er innom fødeavdelinger. Slett ikke alle som +ankommer eller forlater en fødeavdeling har nettopp fått en baby, og ikke +alle som har fått en baby er i markedet etter bleier. Men det å ha en baby +er svært nært knyttet til det å være ute etter å kjøpe bleier, og det å være +på en fødestue er svært nært knyttet til det å ha en baby. Dermed er det +bleiereklamer i nærheten av fødeavdelinger (samt selgere av babyprodukter, +som henger rundt fødeavdelinger med favnen full av gratispakker). +

+ Overvåkningskapitalisem er segmentering ganger en milliard. +Bleieprodusenter kan langt overgå å fokusere på folk på fødestuer (selv om +de også kan gjøre slikt, ved å bruke stedsbaserte mobilreklager). De kan +rette reklamen mot deg basert på om du leser artikler om barneoppdragelse, +bleier, eller en hel rekke andre tema, og datautvinningen kan foreslå +ikke-åpenbare nøkkelord å rette reklamen mot. De kan rette reklamen mot deg +basert på artikler du nylig har lest. De kan rette reklamen mot deg baser +på det du nylig har kjøpt. De kan rette reklamen mot deg basert på om du har +mottatt epost eller private meldinger om disse temaene — eller til og med om +du snakker høyt om dem (selv om Facebook og dets like overbevisende påstår +at dette ikke gjøres — ennå). +

+ Dette er veldig ekkelt. +

+ Men det er ikke tankekontroll. +

+ Det fratar deg ikke din frie vilje. Det lurer deg ikke. +

+ Se hvordan overvåkningskapitalisem virker i politikken. +Overvåkningskapitalistselskapene selger til politiske aktører evnen til å +spore opp folk som er mottakelige for deres argumenter. Kandidater som +kjører valgkamp på korrupsjon i finansbransjen leter etter folk som sliter +med gjeld. Kandidater som kjører valgkamp på fremmedfrykt leter etter +rasister. Politiske aktører har alltid rettet sine budskap uansett om +intensjonene var hederlige eller ikke. De som danner fagforeninger sprer +budskapet ved fabrikkportene, og forkjemperne for hvit overherredømme deler +ut foldere på møter i John Birch Society (FIXME bedre med norsk analogi?). +

+ Men dette er en unøyaktig og ressurssløsende praksis. Fagforeningenfyren kan +ikke vite hvilken arbeider de bør ta kontakt med på vei ut fra fabrikken, og +kan kaste bort tiden sin på en som er John Birch Society-medlem i skjul, og +forkjemperen for hvitt overherredømme kan ikke hvem ar John Birch +Society-medlemmene som er så fjern at det å komme seg på et møte er det +meste de klarer, og hvilke som kan overtales til å reise tvers over hele +landet for å bære en tiki-fakkel gjennom gatene i Charlottesville, Virginia. +

+ Fordi målretting forbedrer nedslagsfeltet i politiske leire, kan det +akselerere tempoet i en politisk omveltning ved å åpne for at alle som i +hemmelighet ønsket å velte en autokrat - eller bare en politiker som har +sittet i elleve perioder - i å finne alle andre som mener det samme, og til +en lav kostnad. Dette har vært avgjørende for den raske utkrystalliseringen +av de siste politiske bevegelsene, inkludert Black Lives Matter og Occupy +Wall Street, samt mindre tiltalende aktører, som ytre høyrehvite +nasjonalistiske bevegelser som marsjerte i Charlottesville. +

+ Det er viktig å skille denne typen politisk organisering fra +påvirkningskampanjer; å finne folk som i hemmelighet er enige med deg er +ikke det samme som å overbevise folk til å være enig med deg. Fremveksten av +fenomener som ikke-binære eller på annen måte avvikende kjønnsidentiteter er +ofte preget av reaksjonære som følge av hjernevaskingskampanjer på nettet +som overbeviser påvirkbare mennesker at i hemmelighet her vært skeive hele +tiden. +

+ Men de personlige beretningene til de som har trådt frem, forteller en annen +historie hvor folk som lenge hadde en hemmelighet om deres kjønn, ble +styrket av andre som trådte frem, og der folk som visste at de var +forskjellige, men manglet et ordforråd for å diskutere denne forskjellen, +lærte de riktige ordene på disse rimelige måtene ved å finne folk på og lære +om deres ideer. +

2. Villedning

+ Løgner og svindel er skadelige, og overvåkingskapitalismen overbelaster dem +gjennom målretting. Hvis du ønsker å selge et uredelig forskuddslån frem til +lønningsdagen eller et overbelastet boliglån, kan overvåkingskapitalismen +hjelpe deg å finne folk som er både desperate og usofistikerte og dermed +mottakelig for ditt påhopp. Dette står for fremveksten av mange fenomener, +som flernivå markedsføringsopplegg, der villedende påstander om potensiell +inntjening og effektive av salgsteknikker er rettet mot desperate mennesker +ved å annonsere mot søk som indikerer, for eksempel, at noen sliter med lån +som resultat av dårlig rådgiving. +

+ Overvåkingskapitalismen fremmer også svindel ved å gjøre det enkelt å finne +andre mennesker som har blitt tilsvarende bedratt, og danner et fellesskap +av mennesker som forsterker hverandres falske tro. Tenk på forumene +hvor folk, som blir utsatt for flernivå markedsføringssvindel, samles for å +utveksle tips om hvordan de kan forbedre sin situasjon ved å selv selge +produktet. +

+ Noen ganger innebærer villedning på nett å erstatte noens korrekte tro med +feil, som det gjør i anti-vaksinasjonsbevegelsen, hvis ofre ofte er folk som +begynner å tro på vaksiner, men er overbevist av tilsynelatende plausible +bevis som fører dem inn i den falske troen på at vaksiner er skadelige. +

+ Men det er mye mer vanlig for svindel å lykkes når den ikke trenger å +fortrenge en riktig overbevisning. Da datteren min fikk hodelus i +barnehagen, fortalte en av barnehagearbeiderne meg at jeg kunne bli kvitt +dem ved å behandle håret og hodebunnen med olivenolje. Jeg visste ikke noe +om hodelus, og jeg antok at barnehagearbeideren gjorde det, så jeg prøvde +det (det fungerte ikke, og det virker ikke). Det er lett å ende opp med +falske tro når du rett og slett ikke vet noe bedre, og når disse +overbevisningene formidles av noen som synes å vite hva de gjør. +

+ Dette er skadelig og vanskelig - og det er også den typen ting Internett kan +bidra til å beskytte mot. Ved å gjøre sann informasjon tilgjengelig, +spesielt i en form som avslører de underliggende overveielsene blant parter +med skarpt divergerende synspunkter, som i Wikipedia. Men dette er ikke +hjernevasking; det er svindel. I de fleste +tilfellene, har ofrene for disse svindelkampanjene fått et +informasjonstomrom fylt på vanlig måte, ved å konsultere en tilsynelatende +pålitelig kilde. Hvis jeg undersøker lengden på Brooklyn Bridge,og finner at +den er 5800 fot lang, men i virkeligheten er den 5989 fot lang, er det +underliggende villedningen er et problem, men det er et problem med et +enkelt hjelpemiddel. Det er et helt annet problem enn anti-vaksineproblemet, +der noens korrekte oppfatning er erstattet av en falsk ved hjelp av +sofistikert overtalelse. +

3. Dominans

+ Overvåkingskapitalismen er et resultat av monopol. Monopol er årsaken, og +overvåkingskapitalismen og dens negative resultater er virkningene av +monopol. Jeg vil gå dypere inn i dette senere, men nå er det nok å si at +teknologi-industrien har vokst opp med en radikal teori om antitrust, som +har tillatt selskaper å vokse ved å fusjonere med sine rivaler, kjøpe opp +sine gryende konkurrenter, og utvidet til å kontrollere hele markedet +vertikalt. +

+ Et eksempel på hvordan monopolopptreden hjelper til å overtalelse gjennom +dominans: Google tar redaksjonelle beslutninger om sine algoritmer som +bestemmer sorteringsrekkefølgen for svarene på våre søk. Hvis en samling +svindlere vil lure verden til å tro at Brooklyn Bridge er 5800 fot lang, og +hvis Google gir en høy søkerangering til den gruppen som svar på spørsmål +som «Hvor lang er Brooklyn Bridge? » Da kan de første åtte +eller ti Google- skjermene ha feil verdier. Og siden de fleste ikke går +lengre enn de første par resultatene – enn si resultatene på den første +siden med resultater – betyr Googles valg, at mange +mennesker vil bli ført bak lyset. +

+ Googles dominans over søk – mer enn 86 % av nettsøkene utføres via Google – +betyr at måten de organiserer søkeresultatene på, har en stor effekt på den +offentlige oppfatningen. Ironisk nok hevder Google at det er derfor det ikke +har råd til å ha noen åpenhet i sin algoritmedesign: Googles søkedominans +gjør resultatene av sorteringen er for viktig til å risikere å fortelle +verden hvordan den kommer til disse resultatene, om ikke en dårlig aktør +oppdager en feil i rangeringssystemet, og utnytter det til å presse sitt syn +frem til toppen av søkeresultatene. Det er et åpenbart hjelpemiddel overfor +et selskap som er for stort til å bli gjennomgått: Å bryte det opp i mindre +biter. +

+ Zuboff kaller overvåkingskapitalismen en «ukontrollert +kapitalisme» hvis datahamstring og maskinlæringsteknikker frarøver +oss vår frie vilje. Men påvirkningskampanjer som søker å fortrenge +eksisterende, korrekte overbevisninger med falsk, har en effekt som er liten +og midlertidig, mens monopolistisk dominans over informasjonssystemer har +massive, varige effekter. Å kontrollere resultatene til verdens søk, betyr å +kontrollere tilgang både til argumenter og deres motsvar, og dermed kontroll +over mye av hva verdens tror på. Hvis vår bekymring er hvordan selskaper +foregriper vår muligheter å gjøre opp våre egne oppfatninger og bestemme vår +egen fremtid, så overstiger virkningen av slik dominans langt virkningen av +manipulasjon og bør stå sentralt i vår analyse og for alle utbedringer vi +går for. +

4. Omgåelse av våre rasjonelle evner

+ Dette er de gode greiene: ved hjelp av maskinlæring, +«mørke mønstre», "engagement hacking" (FIXME) og andre +teknikker for å få oss til å gjøre ting som er i strid med vår egen sunne +fornuft. Dette er tankekontroll. +

+ Noen av disse teknikkene har vist seg ødeleggende effektive (om bare på kort +sikt). Bruk av nedtellingstidtakere på en kjøpsfullføringsside kan skape en +følelse av hast som får deg til å ignorere den gnagende interne stemmen, som +antyder at du bør undersøke flere alternativer eller sove på avgjørelsen +din. Bruken av personer fra den sosiale grafen i annonser kan gi +«sosiale bevis» at et kjøp er verdt å gjøre. Selv +auksjonssystemet som eBay har utviklet, er beregnet til å spille på våre +kognitive blindsoner, slik at vi kan føle at vi «eier» noe +fordi vi byr på det, og dermed oppmuntrer oss til å by igjen, når vi blir +overbydd, for å sikre at «våre» ting forblir våre. +

+ Spill er usedvanlig gode på dette. « Gratis å spille»-spill +manipulere oss gjennom mange teknikker, for eksempel ved å presentere +spillere med en rekke jevnt eskalerende utfordringer, som skaper en følelse +av mestring og prestasjon, men som skarpt går over til et sett med +utfordringer som er umulige å overvinne uten betalte oppgraderinger. Legg +til noen sosiale bevis i blandingen – en strøm av varsler om hvor godt +vennene dine klarer det – og før du vet av det, kjøper du virtuelle +oppgraderinger for å komme opp til neste nivå. +

+ Selskaper har steget og falt på disse teknikkene, og de +«fallende» delen er verdt å vie oppmerksomhet. Generelt +tilpasser levende ting seg til stimuli: Noe som er veldig overbevisende +eller bemerkelsesverdig når du først møter det, falmer med repetisjon til du +slutter å legge merke til det helt. Tenk på lyden fra kjøleskapet, som +irriterer deg når det starter opp, men som forsvinner helt i bakgrunnen, +slik at du bare legger merke til den når det stopper igjen. +

+ Det er derfor atferdskondisjonering bruker «periodiske +forsterkningsmetodikker.» I stedet for å gi deg et jevnt drypp av +oppmuntring eller tilbakeslag, fordeler spill og spill-lignende tjenester +belønninger med et randomisert oppsett - ofte nok til å holde deg +interessert og tilfeldig nok til at du aldri helt kan finne mønsteret som +ville gjøre det kjedelig. +

+ Periodiske forsterkninger er et kraftig atferdsverktøy, men det +representerer også et kollektivt handlingsproblem for +overvåkingskapitalismen. «Engasjementsteknikkene» er oppfunnet +av atferdseksperter i overvåkingskapitalistiske selskaper og kopieres raskt +over hele sektoren. Slik at det som starter som en mystisk overbevisende +stimuli i utformingen av en tjeneste – som «trykk for å +oppdatere» eller varsler når noen liker innleggene eller siden din, +og som karakteren din inviteres til, mens den er midt i et kjedelig, +allestedsnærværende hovedoppdrag. Videre tikker de tilfeldige dryppene fra +din mobil, som det er umulig å ta tak i, og som blir til en grå lydvegg når +hver enkelt app og nettsted arbeider. +

+ Fra overvåkingskapitalistens synspunkt blir vår adaptive kapasitet som en +skadelig bakterie som frarøver den matkilden – som er vår oppmerksomhet – og +nye teknikker for å hekte denne oppmerksomheten er som ny antibiotika som +kan brukes til å bryte vårt forsvar og ødelegge vår selvbestemmelse. Og der + er slike teknikker. Hvem kan glemme den store +Zynga-epidemien, da alle våre venner ble fanget i +FarmVilles endeløse, tankeløse dopaminsløyfer? Men hele +bransjen hopper på hver ny oppmerksomhets-kommanderende teknikk, som så +brukes så ukritisk at antibiotikaresistens setter inn. Gitt nok repetisjon +utvikler nesten alle immunitet mot selv de kraftigste teknikkene - og innen +2013, to år etter Zyngas topp, hadde brukerbasen halvert seg. +

+ Ikke alle, selvfølgelig. Noen mennesker tilpasser seg aldri stimulanser, +akkurat som noen mennesker aldri slutter å høre summingen av kjøleskapet. +Dette er grunnen til at de fleste som er utsatt for spilleautomater spille +dem for en stund og deretter går videre mens en liten og tragisk minoritet +bruker barnas oppsparte studiemidler, kjøper voksen bleier, og plasserer seg +foran en maskin til de kollapser. +

+ Men overvåkingskapitalismens marginer på atferdsendring stinker. Tredobling +av hastigheten når noen kjøper et skjermelement høres bra ut +med mindre grunnprisen er langt mindre enn 1 % med en forbedret +hastighet på ... fortsatt mindre enn 1 %. Selv spilleautomater med mynt +bruker mynter for hvert spinn, mens overvåkingskapitalismen raker inn +uendelige brøkerdeler av mynter. +

+ Spilleautomatenes høye avkastning betyr at de kan være lønnsomme bare ved å +tømme formuene til den lille gjenstående delen av personer som er patologisk +sårbare for dem og ikke kan tilpasse seg triksene deres. Men +overvåkingskapitalismen kan ikke overleve på brøkdeler av mynter som bringes +inn fra sårbare. Det er derfor, etter at den store Zynga epidemien endelig +hadde brent seg ut, kunne det lille antallet fortsatt avhengige spillere +fortsatt opprettholde spillet som et globalt fenomen. Og nye kraftige +oppmerksomhetsvåpen er ikke lett å finne, som det fremgår av de mange årene +siden forrige gang Zynga hadde en hit. Til tross for hundrevis av millioner +dollar som Zynga må bruke på å utvikle nye verktøy for å sprenge gjennom vår +tilpasning, har det aldri klart å gjenta den heldige treffet som haket inn +så mye av vår oppmerksomhet for et kort øyeblikk i 2009. Kraftsentra, som +Supercell, har klart seg litt bedre, men de er sjeldne har mange bortkastede +feil for hver suksess. +

+ Sårbarheten fra avgrensede deler av befolkningen til dramatisk, effektiv +bedriftsmanipulasjon, er et reelt anliggende som er verdig vår oppmerksomhet +og energi. Men det er ikke en eksistensiell trussel mot samfunnet. +

Hvis data er den nye oljen, så har overvåkningskapitalismen motorlekkasje

+ Dette tilpasningsproblemet gir en forklaring på en av +overvåkingskapitalismens mest alarmerende egenskaper: dens nådeløse sult +etter data og dens endeløse utvidelse av evnen til datainnsamling ved +spredning av sensorer, nettovervåking og oppkjøp av datastrømmer fra +tredjeparter. +

+ Zuboff observerer dette fenomenet og konkluderer med at data må være svært +verdifulle hvis overvåkingskapitalismen er så sulten på det. (I hennes ord: +«Akkurat som industriell kapitalisme ble drevet til kontinuerlig +intensivering av produksjonsmidlene, så nå er overvåkingskapitalister og +deres markedsaktører låst inn i den kontinuerlige intensiveringen av +virkemidler for atferdsmodifisering og innsamlingskraftens makt. ») +Men hva om den grådige appetitten er fordi dataene har en så kort +halveringstid - fordi folk så raskt herdes mot nye, datadrevne +overtalelsesteknikker - at selskapene er låst i et våpenkappløp mot vårt +glemsomme system? Hva om det hele er en Red Queen's rase hvor de må løpe +stadig raskere - samle stadig mer data - bare for å holde seg på samme sted? +

+ Selvfølgelig fungerer alle Storteknolgiens overtalelsesteknikker sammen med +hverandre, og innsamling av data er nyttig utover bare til atferdsmessig +lureri. +

+ Hvis noen ønsker å rekruttere deg til å kjøpe et kjøleskap eller bli med i +en pogrom, kan de bruke profilering og målretting for å sende meldinger til +folk de bedømmer for å gi gode salgsutsikter. Meldingene i seg selv kan være +villedende, og gjør påstander om ting du ikke er veldig kunnskapsrik om +(matsikkerhet og energieffektivitet, eller eugenikk og historiske påstander +om rasemessig overlegenhet). De kan bruke søkemotoroptimalisering og/eller +hærer av falske korrekturlesere og kommentatorer og/eller betalt plassering +for å dominere diskursen, slik at ethvert søk etter ytterligere informasjon +tar deg tilbake til meldingene sine. Og til slutt kan de avgrense de +forskjellige banene ved hjelp av maskinlæring og andre teknikker for å finne +ut hva slags tonehøyde som fungerer best på noen som deg. +

+ Hver fase av denne prosessen drar nytte av overvåking: Jo flere data de har, +jo mer presist kan de profilere deg og målrette deg mot bestemte +meldinger. Tenk på hvordan du ville selge et kjøleskap, hvis du visste at +garantien på prospektets kjøleskap nettopp er utløpt, og at de forventer en +skatterabatt i april. +

+ Jo mer data de har, desto bedre kan de lage villedende meldinger - hvis jeg +vet at du liker slektsforskning, kan jeg ikke prøve å mate deg +pseudovitenskap om genetiske forskjeller mellom « raser,» +stikker i stedet til konspiratoriske hemmelige historier om « +demografi» og lignende. +

+ Facebook hjelper deg også med å finne personer som har de samme motbydelige +eller antisosiale synspunktene som deg. Det gjør det mulig å finne andre +mennesker som ønsker å bære bambusfakler gjennom gatene i Charlottesville i +Confederate-utstyr. Det kan hjelpe deg med å finne andre mennesker som +ønsker å bli med i militsen din og gå til grensen i å lete etter +udokumenterte innvandrere å terrorisere. Det kan hjelpe deg å finne folk som +deler din tro på at vaksiner er gift og at jorden er flat. +

+ Det er en måte der målrettet markedsføring særskilt har fordeler for de som +fremmer sosialt uakseptable saker: Den er usynlig. Rasisme er spredt over +et stort geografisk områdæ, og det er få plasser der rasister — og kun +rasister — samles. Dette tilsvarer problemet med å selge kjøleskap i at +potensielle kjøleskapskjøpere er geografisk spredt og det er få plasser der +du kan kjøpe reklameplass som i all hovedsak kun vil bli sett av +kjøleskapskunder. Men kjøp av kjøleskap er sosialt akseptabelt, mens det å +være nazist er det ikke, så du kan kjøpe en reklametavle eller reklamere i +avisens sportsdel for kjøleskapene, og den eneste potensielle ulempen er at +reklamen din vil bli sett av masse folk som ikke ønsker å kjøpe kjøleskap +som gir store unødvendige kostnader. +

+ Men selv om du ønsker å reklamere for din nazi-bevegelse på en reklametavle +eller på TV i beste sendetid eller i sportsdelen av avisen, så vil du slite +med å finne noen som er villig til å selge deg reklameplass, delvis fordi de +er uenige i ditt syn og delvis fordi de frykter negative konsekvenser +(boykott, skadet omdømme, etc) fra andre folk som er uenige med deg. +

+ Målrettet reklame løser dette problemet: På Internettet kan hver person få +forskjellige reklameeksponeringer, som betyr at du kan kjøpe reklamer som +kun vises til personer som gir inntrykk av å være nazister, og ikke til folk +som hater nazister. Når budskapet når feil mottaker, når noen som hater +rasisme blir vist reklame for å rekruttere rasister, så kan det bli litt +krøll. Plattformen eller publikasjonen kan få rasende fordømmelser enten +offentlig eller privat. Men egenskapene til risikoen som en kjøper av +reklame på nettet tar på seg, er forskjellig fra risikoen til en +tradisjonell utgiver eller reklametavleeier som ønsker å publisere +nazi-reklame. +

+ Reklamer på nettet plasseres av algoritmer som megler mellom ulike +økosystemer av selvbetjente plastformer som enhver kan kjøpe reklame +gjennom, hvilket gjør at nazi-reklame som dukker opp i din +favorittpublikasjon på nettet ses ikke på publikasjonens moralske fallitt, +men derimot som en feil som oppstår i en fjern underleverandør av +reklame. Når en publikasjon får klager om en støtende annonse som dukker opp +på et av sine enheter, så kan den ta noen grep for å blokkere den reklamen, +men nazistene kan kjøpe en litt anderledes reklame fra en annen megler +rettet mot den samme enhet. Og uansett forstår Internettbrukerne i stadig +større grad at når de ser en reklame, så er det sannsynlig at de som +reklamerer ikke valgte publikasjonen, og at publikasjonen ikke aner hvem som +reklamerer hos dem. +

+ Disse lagene av omdirigering mellom de som reklamerer og utgiverne fungerer +som moralske buffer: Dagens moralske konsensus er i stor grad at utgiverne +ikke bør holdes ansvarlig for reklamen som dukker opp på sidene deres fordi +de ikke har aktivt valgt å plassere disse reklamene der. Nazistene er, +takket være dette, i stand til å overkomme signifikante hindre for å +organisere sin bevegelse. +

+ Data har et komplekst forhold til det å dominere. Når du kan spionere på +kundene dine så kan du få varsel når de foretrekker dine rivaler og det gir +deg mulighet til å gjøre det bedre enn konkurrentene dine i neste omgang. +

+ Viktigere, hvis du kan dominere informasjonsområdet samtidig med innsamling +av data, så kan du forsterke andre villedende taktikker fordi det er +vanskeligere å bryte ut av nettet av svik som du spinner. Dominering, det +vil si til slutt å bli et monopol, og ikke dataene i seg selv, er +drivkraften som gjør enhver taktikk verdt å utnytte fordi monopolistisk +dominering fratar ditt mål enhver fluktrute. +

+ Hvis du er en nazist som vil sikre at dine potensielle kun ser villedende og +bekreftende informasjon når de søker etter mer, så kan du forbedre oddsene +dine ved å gi dem søkeord som de vil bruke i din initielle kommunikasjon. Du +trenger ikke eie de 10 første resultatene for «undertrykking av +stemmer» hvis du kan overbevise dine mål om å begrense sine søke ord +til «stemmejuks», hvilket gir en helt annen gruppe +søkeresultater. +

+ Overvåkningskapitalister er som scenementalister som påstår at deres +ekstraordinære forståelse av menneskelig oppførsel lar dem gjette hvilket +ord du skrev ned og brettet sammen i lommen din, men som i virkeligheten +bruker fordekte hjelpere, skjulte kamera, fingerferdigheter og direkte +memorering for å gjøre deg forbløffet. +

+ Eller kanskje er de mer som sjekke-kunstnere, denne misogynistiske kulten +som lover å hjelpe klønete menn å ha sex med kvinner ved å lære dem +«nevrolinguistisk programmerings»-fraser, kroppsspråkteknikker +og psykologiske manipulasjonsteknikker ala «negging» — ved å +komme med uønskede negative tilbakemeldinger til kvinner for å senke deres +selvtillit og fange deres interesse. +

+ Noen sjekke-kunstnere klarer til slutt å overbevise kvinner om å bli med dem +hjem, men det er ikke fordi disse mennene har klart å finne ut hvordan en +overstyrer kvinners kritiske tankeevner. I stedet er sjekke-kunstnernes +«suksesshistorier» en blanding av kvinner som var ute av stand +til å samtykke, kvinner som ble presset, kvinner som var beruset, +selv-destruktive kvinner, og noen få kvinner som var edru og hadde kontroll +over seg selv, men som ikke forsto med en gang at de var sammen med +forferdelige menn og korrigerte feilen så raskt de kunne. +

+ Sjekke-kunstnere tror de har oppdaget en hemmelig +bakdør som overstyrer kvinners kritiske evner, men det har de ikke. Mange av +taktikkene de benytter seg av, som negging, er blitt poenget i vitser (på +samme måte som folk vitser om dårlig annonsemålretting), og det er en stor +sjanse for at enhver de forsøker disse teknikkene på, umiddelbart vil +gjenkjenne teknikken og avvise mennene som bruker dem som uhelbredelige +tapere. +

+ Sjekkekunstnere er beviset på at folk kan tro de har utviklet et system for +tankekontroll selv når det ikke virker. Sjekkekunstnere +utnytter ganske enkelt det faktum at en-til-en-million-sjanser kan slå til +hvis du gjør en million forsøk, og så antar de ganske enkelt at de øvrige +999 999 gangene gjennomførte de ganske enkelt teknikken feil og bestemte seg +for å gjøre det bedre neste gang. Det er bare en annen gruppe mennesker som +lar seg overbevise av sjekkekunstnernes mytologi, og det er potensielle +sjekkekunstere hvis angst og usikkerhet gjør den sårbare for svindlere og +menn med vrangforestillinger som overbeviser dem om at hvis de betaler for +veiledningen og følger instruksene, så vil de før eller senere +lykkes. Sjekkekunstnere antar at de ikke klarer å sjekke opp kvinner fordi +de er dårlige sjekkekunstnere, ikke fordi sjekkekunst er +vrøvl. Sjekkekunstnerne er dårlige til å markedsføre seg til kvinner, men de +er mye bedre til å markedsføre seg til menn som betaler for å lære seg +sjekkekunstens hemmeligheter. +

+ Dagligvarehandelpioneren John Wanamaker sies å ha klaget over at +«Halvparten av pengene jeg bruker på markedsføring er +bortkastet. Problemet er at jeg vet ikke hvilken halvpart.» Det +faktum at Wanamaker tenkte at kun halvparten av hans markedsføringsutgifter +var bortkastet er hyllest til hvor overbevisende lederne i +markedsføringbransjen er, som er mye flinkere til å +overtale potensielle klienter om å kjøpe tjenester fra dem enn de er til å +overbevise allmenheten om å kjøpe varene fra kundene deres. +

Hva er Facebook?

+ Facebook meldes å være kilden til all moderne pest, og det er ikke vanskelig +å forstå hvorfor. Noen teknologiselskaper ønsker å låse kundene sine inne +mens de tjener penger på å kontrollere tilgangen til markedet for +programvare på enhetene deres, og melker dem på pris i stedet for å spionere +på dem (som Apple). Noen selskaper bryr seg ikke om innlåsing av brukerne +fordi de har funnet ut hvordan de kan spionere på dem uansett hvor de er og +hva de gjør, og klart å omforme denne overvåkningen til penger +(Google). Facebook er alene blant de vestlige teknologigigantene i å ha +bygget sin forretning basert på å låse inne brukerne sine og +samtidig spionere på dem. +

+ Overvåkningsregimet til Facebook er i grunnen helt uten like i den vestlige +verden. Selv om Facebook forsøker å unngå at de er synlige på den offentlige +verdensveven, ved å skjule det meste av det som foregår der fra folk med +mindre de er logget inn på Facebook, så har selskapet likevel minelagt de +fleste nettsider med overvåkningsverktøy i form av Facebook +«Lik»-knapper som de som publiserer nettsider tar med på sine +nettsteder for å fremme sine Facebook-profiler. Facebook gjør også ulike +biblioteker og andre nyttige kodesnutter tilgjengelig for de som publiserer +nettsider, som fungerer som overvåkningstentakler på nettsteder der de blir +brukt, og sluser informasjon om besøkende på nettstedene — aviser, +sjekkesteder, oppslagstavler — til Facebook. +

+ Det er ikke på grunn av at den er teknologi at Storteknologien kan utøve +overvåkning, men på grunn av at den er stor. +

+ Facebook tilbyr lignende verktøy til app-utviklere, slik at app-ene du +bruker — spill, prompemaskiner, selskapsvurderingstjenester, app-er for å +holde styr på skolehverdagen til ungene dine — vil sende informasjon om det +du driver med til Facebook selv om du ikke har Facebook-konto og selv om du +ikke laster ned eller bruker Facebook-app-er. Ikke nok med det, Facebook +kjøper data fra tredjeparts datameglere om handlevaner, fysisk plassering, +bruk av «loyalitetsprogrammer», finansielle transaksjoner, etc, +og kobler dette med personprofiler som utvikles basert på aktiviteten på +Facebook, med app-er og den offentlige verdensveven. +

+ Selv om det er enkelt å integrere fra verdensveven til Facebook, å linke til +nyheter og slike ting, så er produktene pa Facebook generelt sett ikke +tilgjengelig for integering tilbake til verdensveven. Du kan bake inn en +twittermelding i en Facebook-melding, men hvis du forsøker å bake inn en +Facebook-melding i en twittermelding, så får du bare en lenke tilbake til +Facebook og må logge inn for å se den. Facebook har brukt ekstreme +teknologiske og juridiske mottiltak for å hindre rivaler fra å gjøre det +mulig for deres brukere å bake inn snutter fra Facebook i konkurrerende +tjenester, eller lage alternative grensesnitt til Facebook som slår sammen +nye meldinger på Facebook med de fra andre tjenester du bruker. +

+ Og Facebook er utrolig populær, med 2.3 milliarder påståtte brukere (selv om +mange tror dette tallet er blåst opp). Facebook har vært brukt til å +organisere folkemord, rasistiske opptøyer, antivaksinebevegelser, flat +jord-kulter og det politiske livet til noen av verdens styggeste, mest +brutale autokrater. Det er i sannhet mange alarmerende ting som foregår i +verden, og Facebook er implisert i mange av dem, så det er enkelt å +konkludere med at disse stygge tingene som foregår er resultat av +tankekontrollsystemet til Facebook, som de leier ut til enhver med penger å +bruke på det. +

+ For å forstå hvilken rolle Facebook har i formuleringen og mobiliseringen av +antisosiale bevegelser, så må vi forstå Facebook sin splittede natur. +

+ På grunn av at Facebook har veldig mange brukere og veldig mye data om disse +brukerne, så er Facebook et veldig effektivt verktøy for å spore opp folk +med egenskaper som det er vanskelig å finne. Det vil si den type egenskaper +som er veldig spredt i populasjonen slik at markedsførere historisk har +slitt med å finne kostnadseffektive måter å nå dem. La oss gå tilbake til +kjøleskap. De fleste av oss bytter bare våre store apparater noen få ganger +i livet. Hvis du er en kjøleskapsprodusent eller -forhandler, så har du bare +disse små lukene i en forbrukers liv når de vurderer slike kjøp, og du må +finne en måte å nå dem da. Alle som har lagt inn en statusendring etter å ha +kjøpt et hus kan skrive under på at utstyrsprodusenter er utrolig desperate +etter å nå enhver der det er den minste sjanse for at de er i markedet etter +ett nytt kjøleskap. +

+ Facebook gjør det mye enklere å finne folk som handler +kjøleskap . Det kan målrette annonser mot folk som har registrert et nytt +boligkjøp, mot folk som har søkt etter råd om kjøp av kjøleskap, mot folk +som har klaget over at kjøleskapet deres dør, eller en kombinasjon av +disse. Det kan til og med målrette mot folk som nylig har kjøpt +kjøkkenutstyr med teorien om at noen som nettopp har erstattet +komfyren og oppvaskmaskinen, kan være i humør til å kjøpe et kjøleskap. De +aller fleste som nås av disse annonsene, vil ikke være i markedet etter et +nytt kjøleskap, men — det avgjørende er at prosentandelen av personer som +er på jakt etter kjøleskap som disse annonsene når, er +mye større enn for noen gruppe som kan bli utsatt for +tradisjonell, målrettet kjøleskapmarkedsføring i den fysiske verden. +

+ Facebook gjør det også mye enklere å finne folk som har samme sjeldne sykdom +som deg, noe som kan ha vært umulig i tidligere - den nærmeste med samme +lidelse kan ellers være hundrevis av miles unna. Det gjør det lettere å +finne folk som gikk på samme videregående skole som deg, selv om flere tiår +er gått og dine tidligere klassekamerater har blitt spredt for alle +verdenshjørner. +

+ Facebook gjør det også mye enklere å finne folk som har samme sjeldne +politiske overbevisning som deg. Hvis du alltid har hatt en hemmelig +dragning for sosialisme, men aldri våget å ytre dette høyt for at du ikke +skal bli kritisert av naboene dine, kan Facebook hjelpe deg med å oppdage +andre mennesker som føler det på samme måte (og det kan kanskje vise deg at +din dragning er mer utbredt enn du noen gang har trodd). Det kan gjøre det +enklere å finne personer som deler din seksuelle identitet. Og igjen, det +kan hjelpe deg å forstå at det du trodde var en skammelig hemmelighet som +bare påvirket deg, i virkeligheten var en allment delt egenskap, noe som gir +deg både trygghet og mot til å komme ut til personene i livet ditt. +

+ Alt dette presenterer et dilemma for Facebook: Målretting gjør selskapets +annonser mer effektive enn tradisjonelle annonser, men det lar også +annonsører se hvor effektiv annonsene deres er. Annonsører er glade for å +høre at Facebook-annonser er mer effektive enn annonser på systemer med +mindre sofistikert målretting, men annonsører kan også se at i nesten alle +tilfeller blir annonsene ignorerer av personene som ser dem. Eller i beste +fall fungerer annonsene på et underbevisst nivå, og skaper en ikke målbar +«merkevaregjenkjenning». Dette betyr at prisen per annonse er +svært lav i nesten alle tilfeller. +

+ For å gjøre ting verre, starter mange Facebook-grupper svært lite +diskusjon. Ditt lokale fotballag, folk med samme sjeldne sykdom som deg, og +de du deler en politisk interesse med, kan utveksle en merkelige miks av +meldinger på kritiske tidspunkt, men i hverdagen er det ikke mye å si til +dine gamle kamerater fra videregående, eller andre fotballkort-samlere. +

+ Med bare diskusjoner som vokste frem «naturlig», ville Facebook +ikke generere nok trafikk til å selge tilstrekkelig med annonser til å tjene +pengene den trenger for å kontinuerlig utvide ved å kjøpe opp sine +konkurrenter mens de gir kjekke summer i utbytte til sine investorer. +

+ Så Facebook må bidra til å øke trafikken ved å spore av egne fora: Hver gang +Facebooks algoritme setter inn kontroversielt materiale — brennhete +politiske artikler, konspirasjonsteorier, rasende historier — inn i en +gruppe, så kan de kapre denne gruppens tiltenkte formål med sine fornærmende +diskusjoner og ødelegge disse diskusjonene ved å gjøre dem til bitre, +uproduktive argumentasjoner. Facebook er optimalisert for engasjement, ikke +lykke, og det viser seg at automatiserte systemer er ganske flinke til å +finne ting som folk vil bli sinte over. +

+ Facebook kan endre vår oppførsel, men bare på et par +trivielle måter. For det første kan det låse inne alle dine venner og +slektninger slik at du sjekker og sjekker og sjekker med Facebook for å +finne ut hva de gjør; og for det andre, det kan gjøre deg sint og +engstelig. Det kan tvinge deg til å velge mellom å bli avbrutt hele tiden av +oppdateringer — en prosess som bryter konsentrasjonen og gjør det vanskelig +å være innadvendt — samt holde kontakten med vennene dine. Dette er en svært +begrenset form for mental kontroll, og det kan i virkeligheten bare gjøre +oss ulykkelige, sinte og engstelige. +

+ Dette er grunnen til at Facebooks målrettingssystemer – både de som vises +til annonsører, og de som lar brukerne finne folk som deler deres interesser +— er så moderne, glatte, og enkle å bruke, samtidig som meldingstavlene har +et verktøysett som virker som om det ikke har endret seg siden midten av +2000-tallet. Hvis Facebook leverte et tilsvarende fleksibelt og sofistikert +system for meldingslesing til sine brukere, da kunne disse brukerne forsvart +seg mot å få øynene dratt uten samtykke mot blikkfangende overskrifter om +Donald Trump. +

+ Jo mer tid du bruker på Facebook, jo flere annonser får de vist +deg. Løsningen når for Facebooks annonser fungerer bare én gang av tusen, er +at selskapet prøver å øke hvor mye tid du bruker på Facebook med en faktor +på tusen. I stedet for å tenke på Facebook som et selskap som har funnet ut +hvordan det skal vise deg nøyaktig den riktige annonsen på nøyaktig riktig +måte for å få deg til å gjøre hva annonsørene vil, tenk på det som et +selskap som har funnet ut hvordan det får deg til å slite deg gjennom en +endeløs strøm av argumenter, selv om de får deg til å føle deg elendig, men +bruker så mye tid på nettstedet, at det til slutt viser deg minst én annonse +du reagerer på. +

Monopol og retten til den spennende fremtiden

+ Zuboff og andre nær henne er spesielt skremt over i hvilken grad overvåking +gjør det mulig for selskaper å påvirke våre beslutninger, og tar bort noe +hun poetisk kaller «retten til en spennende fremtid» - det vil +si retten til å bestemme selv hva du vil gjøre i fremtiden. +

+ Det er sant at annonsering kan gi utslag på en eller annen måte: Når du +tenker på å kjøpe et kjøleskap, så kan en kjøleskapsannonse i rette øyeblikk +avslutte letingen der og da. Men Zuboff legger enorm og utilbørlig vekt på +den overbevisende kraften i overvåkingsbaserte påvirkningsteknikker. De +fleste av disse fungerer ikke så bra, og de som gjør vil ikke fungere veldig +lenge. Skaperne av disse påvirkningsverktøyene er sikre på at de en dag vil +raffinere dem til systemer som gir total kontroll, men de er neppe upartiske +observatører, og risikoen for at drømmene deres går i oppfyllelse er svært +spekulativ. +

+ Derimot er Zuboff ganske avslappet i forhold til 40 år med slapp +antitrust-praksis, som har tillatt en håndfull selskaper å dominere +Internettet, innlede en informasjonsalder med, som en person +på Twitter bemerket, fem gigantiske nettsteder hver fylt med +skjermbilder fra de fire andre. +

+ Hvis vi imidlertid skal bli skremt over at vi kan miste retten til å selv +velge hva vår fremtid skal innebære, så bør monopolets ikke-hypotetiske, +konkrete, her-og-nå skader være i fokus for vår debatt om teknologipolitikk. +

+ La oss starte med «digitale restriksjonsmekanismer». I 1998 +undertegnet Bill Clinton loven Digital Millennium Copyright Act (DMCA). Det +er et komplekst lovverk med mange kontroversielle bestemmelser, men ingen +mer enn § 1201, «anti-omgåelsesregelen». +

+ Dette er et heldekkede forbud mot å tukle med systemer som begrenser adgang +til opphavsrettsbeskyttede verk. Forbudet er så gjennomgripende at det at +det forbyr å fjerne en opphavsrettslås, selv uten at det skjer noe brudd på +opphavsretten; Aktivitetene som DMCAs Seksjon 1201 skal forby, er ikke brudd +på opphavsretten; snarere er det lovlige aktiviteter som frustrerer +produsentenes kommersielle planer. +

+ For eksempel var første store anvendelse av paragraf 1201 DVD-spillere, som +en måte til å håndheve regionkodingen som er innebygd i disse +enhetene. DVD-CCA, som standardiserte DVDer og DVD-spillere, delte verden +inn i seks regioner og spesifiserte at DVD-spillere må sjekke hver plate for +å finne ut hvilke regioner den var autorisert til å spilles av +i. DVD-spillere ville ha sin egen tilsvarende region (en DVD-spiller kjøpt i +USA ville være region 1 mens en kjøpt i India ville være region 5). Hvis +spilleren og platens region sammenfalt, kunne spilleren spille av platen; +Ellers ville den avvise den. +

+ Men å se en lovlig produsert plate i et annet land enn den der du kjøpte +den, er ikke brudd på åndsverksloven – det er det motsatte. Åndsverksloven +pålegger kundene denne plikten for en film: Du må gå inn i en butikk, finne +en lisensiert plate og betale prisen for den. Gjør det — og +ingenting annet — så har du og åndsverksloven ingenting +usnakket. +

+ Det faktum at et filmstudio ønsker å kreve mindre betaling fra indere enn +amerikanere eller gi den ut i Australia senere enn i Storbritannia, har +ingen betydning for åndsverksloven. Når du lovlig anskaffer en DVD, er det +ingen brudd på opphavsretten å se den uansett hvor du tilfeldigvis er. +

+ Så produsenter av DVD og DVD-spillere skulle ikke være i stand til å bruke +beskyldninger om brudd på opphavsretten for å straffe produsenter som laget +ikke-samsvarende spillere som kunne spille plater fra en hvilken som helst +region, eller reparasjonsverksteder som endret spillere for å la deg se +disker utenfor riktig region, eller dataprogrammerere som laget programmer +som lot deg gjøre dette. +

+ Det er der Section 1201 i DMCA kommer inn: Ved å forby tukling med en +«tilgangskontroll,» ga regelen produsenter og rettighetshavere +grunnlag for å saksøke konkurrenter som markedsførte bedre produkter med +lovlige egenskaper som markedet krevde (i dette tilfellet regionfrie +spillere). +

+ Dette er en stygg svindel mot forbrukerne, men etter hvert som tiden gikk, +vokste Section 1201 til å omfatte en raskt voksende samling av enheter og +tjenester etterhvert som dyktige produsenter har innsett visse ting: +

+ Alt utstyr med programvare i, inneholder et «opphavsrettsbeskyttet +arbeid» – det vil si programvaren. +
+ Datautstyr kan konstrueres slik at å rekonfigurere programvaren krever at en +omgår en «adgangskontroll for opphavsrettsbeskyttede arbeider +»som er et potensielt lovbrudd etter Section 1201. +
+ Dermed kan selskaper kontrollere kundenes atferd, etterat de har tatt med +seg sine kjøp hjem, ved å designe produkter slik at alle ikke-tillatt bruk +krever modifiseringer som bryter med Section 1201. +

+ Section 1201 blir da et middel for produsenter av alle beskrivelser til å +tvinge sine kunder til å ordne sine saker til fordel for produsentenes +aksjonærer i stedet til fordel for kundene selv. +

+ Dette manifesterer seg på mange måter: Fra en ny generasjon blekkskrivere +som bruker mottiltak for å forhindre tredjepartsblekk som ikke kan omgås +uten juridisk risiko, - til lignende systemer i traktorer som hindrer +tredjepartsteknikkere i å bytte ut produsentens egne deler, med deler som +ikke gjenkjennes av traktorens kontrollsystem før den leveres med den +opprinnelige produsentens opplåsingskode. +

+ Nærmere hjemme bruker Apples iPhone disse tiltakene for å forhindre både +tredjepartstjeneste og tredjeparts programvareinstallasjon. Dette gjør at +Apple kan bestemme når en iPhone ikke kan repareres og må makuleres og +deponeres, imot hensynet til iPhone-kjøperen. (Apple er notorisk kjent for +sin negative miljøpolitikk som ødelegger gammel elektronikk i stedet for +tillate delebruk.) Dette er en svært nyttig maktutøvelse, spesielt i lys av +at administrerende direktør Tim Cook i januar 2019 advarte investorer om at +selskapets fortjeneste er truet av kunder som velger å beholde sine +telefoner lenger i stedet for å erstatte dem. +

+ Apples bruk av opphavsrettslåser gjør det også mulig å monopolisere kundenes +programvarekjøp til sine mobile enheter. App Stores kommersielle vilkår +garanterer Apple en andel av alle inntekter generert av appene som selges +der, noe som betyr at Apple får betalt når du kjøper en app fra butikken og +deretter fortsetter å få betalt hver gang du kjøper noe ved hjelp av den +appen. Dette kommer ra bunnlinjen til programvareutviklere, som enten må ta +mer betalt eller akseptere lavere fortjeneste for sine produkter. +

+ Avgjørende er det at Apples bruk av opphavsrett låser inn og gir den makt +til å ta redaksjonelle beslutninger om hvilke apper du kan og ikke kan +installere på din egen enhet. Apple har brukt denne makten til å avise +ordbøker for å inneholde uanstendige ord; til begrense +politiske uttalelser, spesielt fra apper som gjør sensitive +politiske kommentarer, som en app som varsler deg hver gang en amerikansk +drone dreper noen et sted i verden; Og til har +innvending mot et spill som kommenterte Israel-Palestina-konflikten. +

+ Apple rettferdiggjør ofte monopolmakt over programvareinstallasjon ut fra +sikkerhetshensynet, og hevder at dets verifisering av apper for butikken sin +betyr at den kan beskytte brukerne mot apper som inneholder +overvåkingskode. Men dette går begge veier. I Kina beordret regjeringen +Apple +til å forby salg av personvernverktøy som VPN med unntak av VPN-er +som bevisst hadde innført designfeil for å la den kinesiske staten tyvlytte +på brukere. Fordi Apple bruker teknologiske mottiltak – med juridisk +beskyttelse – for å blokkere kunder fra å installere uautoriserte apper, kan +ikke kinesiske iPhone-eiere lett (eller lovlig) skaffe VPN-er som ville +beskytte dem mot kinesisk statssnoking. +

+ Zuboff kaller overvåkingskapitalismen en «bedragersk +kapitalisme. » Kapitalismens teoretikere hevder at dens dyd er at den +aggregerer +informasjon om forbrukernes beslutninger, som produserer effektive +markeder. Overvåkingskapitalismens antatte makt til å bemektige seg sine +ofres frie vilje gjennom beregnede, superladede innflytelseskampanjer som +betyr at våre markeder ikke lenger samler kundenes beslutninger fordi vi +kunder ikke lenger bestemmer - vi får ordrer av overvåkingskapitalismens +tankekontrollstråler. +

+ Hvis vår bekymring er at markedene slutter å fungere når forbrukerne ikke +lenger kan ta valg, bør opphavsrettslåser angå oss +minst så mye som innflytelseskampanjer. En +påvirkningskampanje kan skyve deg til å kjøpe et bestemt telefonmerke. men +opphavsretten låser denne telefonen helt til å bestemme hvor du får det +reparert, hvilke apper som kan kjøre på den, og når du må kvitte deg med den +i stedet for å fikse den. +

Søkerekkefølge og retten til en spennende fremtid

+ Markedene fremstilles som en slags magi: Ved å oppdage ellers skjult +informasjon formidlet av de frie valgene til forbrukerne, blir disse +forbrukernes lokale kunnskap integrert i et selv korrigerende system som +gjør effektive tildelinger - mer effektive enn noen datamaskin kunne +beregne. Men monopoler er uforenlige med den oppfatningen. Når du bare har +én appbutikk, bestemmer eieren av butikken – ikke forbrukeren – bredden i +utvalget. Som Boss Tweed en gang sa: «Jeg bryr meg ikke om hvem som +velger, så lenge jeg får lage innstillingen.» Et monopolisert marked +er et valg der utvalget er valgt ut av monopolisten. +

+ Oppsettet av stemmeseddelen skades mer ved eksistensen av +søkeorden-monopoler. Googles søkemarkedsandel er ca 90%. Når Googles +rangeringsalgoritme legger et resultat for et populært søkeord i topp 10, +bidrar det til å bestemme atferden til millioner av mennesker. Hvis Googles +svar på «Er vaksiner farlige?» er en side som motbeviser +anti-vaksine konspirasjonsteorier, vil en betydelig del av publikum lære at +vaksiner er trygge. Hvis Google derimot sender disse menneskene til et +nettsted som bekrefter anti-vaksine-konspirasjonene, vil en betydelig del av +disse millionene komme bort overbevist om at vaksiner er farlige. +

+ Googles algoritme blir ofte lurt til å støtte desinformasjon som et tydelig +søkeresultat. Men i disse tilfellene overtaler ikke Google folk til å +ombestemme seg. det presenteres bare noe usant som faktum når brukeren ikke +har noen grunn til å trekke det i tvil. +

+ Dette gjelder enten søket er for «Er vaksiner farlige?» eller +«beste restauranter i nærheten av meg.» De fleste brukere vil +aldri se forbi den første siden med søkeresultater, og når det store +flertallet bruker samme søkemotor, vil rangeringsalgoritmen gitt av denne +søkemotoren bestemme utallige utfall (om å adoptere et barn, om å ha +kreftkirurgi, hvor de skal spise middag, hvor de skal flytte, hvor du skal +søke jobb) som i stor grad overgår mulige atferdsutfall diktert av +algoritmiske overtalelsesteknikker. +

+ Mange av spørsmålene vi stiller til søkemotorer har ingen empirisk riktige +svar: «Hvor skal jeg spise middag?» er ikke et objektivt +spørsmål. Selv spørsmål som har riktige svar («Er vaksiner +farlige?») har ikke en empirisk overlegen kilde til det svaret. Mange +sider bekrefter sikkerheten til vaksiner, så hvilken går først? Ved +konkurranse kan forbrukerne velge mellom mange søkemotorer og holde seg til +den der algoritme-dommen passer best for dem, men i en monopolsituasjon får +vi alle våre svar fra samme sted. +

+ Googles søkedominans er ikke et spørsmål om ren fortjeneste: Selskapet har +utnyttet mange taktikker som ville ha blitt forbudt under klassiske, +pre-Ronald-Reagan antitrust håndhevelsestandarder for å oppnå sin +dominans. Tross alt er dette et selskap som har utviklet to store produkter: +En veldig god søkemotor og en ganske god Hot-mail klone. Hver annen større +suksess det har hatt - Android, YouTube, Google Maps, etc. - har kommet +gjennom et oppkjøp av en gryende konkurrent. Mange av selskapets sentrale +divisjoner, som reklameteknologien til DoubleClick, bryter med det +historiske antitrustprinsippet om strukturell separasjon, som forbød +bedrifter å eie datterselskaper som konkurrerte med sine kunder. Jernbaner, +for eksempel, ble utestengt fra å eie fraktselskaper som konkurrerte med +avsenderne de fraktet for. +

+ Hvis vi er bekymret for at gigantiske selskaper skal undergrave markeder ved +å strippe forbrukerne evne til å gjøre frie valg, så er kraftig +antitrust-håndhevelse et utmerket middel. Hvis vi hadde nektet Google retten +til å gjennomføre sine mange fusjoner, ville vi også sannsynligvis ha nektet +det sin totale søkedominans. Uten denne dominansen ville ikke +yndlings-teoriene, skjevhetene, feilene (og god dømmekraft) hos Googlec +søkeingeniører og produktansvarlige ha en så stor effekt på forbrukervalg. +

+ Dette gjelder også for mange andre selskaper. Amazon, en klassisk +overvåkingskapitalist, er åpenbart det dominerende verktøyet for å søke i +Amazon - selv om mange mennesker finner veien til Amazon gjennom Google-søk +og Facebook-innlegg - og Amazon kontrollerer åpenbart Amazon-søk. Det betyr +at Amazons egenbetjente redaksjonelle valg – som å fremme sine egne +varemerker fremfor rivaliserende varer fra selgerne, samt egne +yndlingsteorier, fordommer og feil – bestemmer mye av det vi kjøper på +Amazon. Og siden Amazon er den dominerende nettforhandler utenfor Kina, og +siden det er oppnådd dominans ved å kjøpe opp både store rivaler og gryende +konkurrenter i tross for historiske antitrust regler, kan vi klandre +monopolet for å frata forbrukere deres rett til en spennende fremtid og +evnen til å forme markeder ved å gjøre informerte valg. +

+ Ikke alle monopolister er en overvåkingskapitalist, men det betyr ikke at de +ikke er i stand til å forme forbrukervalg som favner vidt. Zuboff hyller +Apple for sin App Store og iTunes Store, og insisterer på at det å legge til +prislapper på funksjonene på plattformene har vært hemmeligheten bak å +motstå overvåking og dermed skape markeder. Men Apple er den eneste +forhandleren som har lov til å selge på sine plattformer, og det er den nest +største leverandøren av mobilenheter i verden. De uavhengige +programvareleverandørene som selger gjennom Apples markedsplass anklager +selskapet for de samme overvåkingssyndene som Amazon og andre store +forhandlere: spionere på sine kunder for å finne lukrative nye produkter å +lansere, å effektivt bruke uavhengige programvareleverandører til fritt å +utforske markedet, og deretter tvinge dem ut av alle markeder de oppdager. +

+ Ved bruk av opphavsrettslåser har Apples mobilkunder ikke lov til å bytte +sine Iphone-apper til en rivaliserende forhandler hvis de ønsker det. Apple +er åpenbart den eneste enheten som får bestemme hvordan den rangerer +resultatene av søk i butikkene sine. Disse beslutningene sikrer at enkelte +apper ofte installeres (fordi de vises på side én) og andre aldri +installeres (fordi de vises på side én million). Apples beslutninger om +søkedesign har en vesentlig større virkning på forbrukeratferd enn å påvirke +kampanjer levert av overvåkingskapitalismens roboter for annonselevering. +

Monopolister har råd til sovepiller for vakthundene

+ Bare de mest ekstreme markedsideologene tror at markedene selvregulerer uten +statlig tilsyn. Markeder trenger vakthunder – regulatorer, lovgivere og +andre demokratiske kontrollelementer – for at de skal være pålitelige. Når +disse vaktbikkjene sover på jobben, slutter markedene å aggregere +forbrukervalg, fordi disse valgene begrenses av illegitime og villedende +aktiviteter, som selskaper klarer å komme unna med, fordi ingen holder dem +ansvarlige. +

+ Men denne typen regulatoriske seire kommer ikke billig. I konkurransedyktige +sektorer, der rivaler stadig svekker hverandres marginer, mangler +enkeltbedrifter overskuddskapital til effektivt å lobbe for lover og +forskrifter som tjener sine formål. +

+ Mye av skadene fra overvåkningskapitalisem er resultat av svak eller +manglende regulering. Dette fravær av regulering kommer av makten +monopolistene har til å hindre sterkere regulering og å tilpasse den +reguleringen som finnes slik at det gjør deres eksisterende +forretningsmodell mulig. +

+ Her er et eksempel: Når bedrifter samler inn for mye og lagrer våre data for +lenge, så øker de risikoen for å utsettes for datalekkasje – du kan ikke +lekke data du aldri har samlet inn, og når du sletter alle kopier av disse +dataene, kan du ikke lenger lekke dem. I mer enn et tiår har vi levd gjennom +en endeløs rekke av stadig forverrede datalekkasjer, hvert og ett helt +avskyelig i omfanget og i hvor sensive disse datasettene har vært. +

+ Men likevel fortsetter bedrifter av tre grunner å over-samle og over-beholde +våre data: +

+ 1. De er låst i det nevnte lemlestende +våpenkappløpet opp mot vår evne til å sikre oppmerksomhet fra våre +forsvarssystemer til å motstå de nye overtalelsesteknikker deres. +De er også låst i et våpenkappløp med sine konkurrenter for å finne nye +måter å målrette folk til sine salgssteder. Så snart de oppdager et mykt +sted i vårt oppmerksomhetsforsvar (en mot-intuitiv, ulydig måte å målrette +potensielle kjøleskap kjøpere på), begynner publikum å bli oppmerksom på +taktikken, og konkurrentene deres hopper på den, fremskyndes dagen der alle +potensielle kjøleskapskjøpere har kommet på banen. +

+ 2. De tror på overvåkingskapitalismens +historie. Data er billige å samle og lagre, og både tilhengere og +motstandere av overvåkingskapitalismen har forsikret ledere og +produktdesignere om at hvis du samler inn nok data, vil du kunne utføre +trolldom med mental kontroll, og dermed overoppfylle salget. Selv om du +aldri finner ut hvordan du kan tjene på dataene, noen andre vil til slutt +tilby å kjøpe de fra deg for å gjøre et forsøk. Dette er kjennetegner alle +økonomiske bobler: Å anskaffe en eiendel med antagelsen om at noen andre vil +kjøpe den fra deg for mer enn du betalte for det, ofte å selge til noen +andre til en enda høyere pris. +

+ 3. Straffen for å lekke data er +ubetydelig. De fleste land begrenser disse straffene til faktiske +tap, noe som betyr at forbrukere som har fått sine data misbrukt, må vise +til faktiske pengetap for å få en erstatning. I 2014 avslørte Home Depot at +de hadde mistet kredittkortdata for 53 millioner av sine kunder. Saken ble +avgjort ved å betale disse kundene rundt $ 0,34 hver - og en tredjedel av de +$ 0,34 ble ikke engang betalt i kontanter. Det tok form av en kreditt til å +dekke en i stor grad ineffektiv kreditt-overvåkingstjeneste. +

+ Men skadene fra bruddene er mye mer omfattende enn de faktiske tapene som +reglene fanger opp. Identitetstyver og svindlere er kloke og uendelige +oppfinnsomme. Alle de store bruddene i vårt århundre blir kontinuerlig +rekombinert, datasettene fusjonert og brukt til nye måter å gjøre folk til +ofre på når dataene om dem var tilgjengelige. Enhver rimelig, bevisbasert +teori om avskrekking og kompensasjon for brudd ville ikke begrense skader +til faktiske tap, men heller ville tillate brukere å stille krav for +fremtidige tap. +

+ Men selv de mest ambisiøse personvernreglene, som EUs personvernforordning, +fanger langt fra opp de negative eksterne kostnadene ved plattformenes +uaktsomme overinnsamling og overoppbevaring, og hvilke straffer den gir, +forfølges ikke aggressivt opp av regulatorene. +

+ Denne toleransen for – eller likegyldighet til – dataoverinnsamling og +overoppbevaring kan delvis tilskrives plattformenes rene lobbyvirksomhet. De +er så lønnsomme at de enkelt har råd til å kanalisere gigantiske summer for +å bekjempe enhver reell endring - det vil si endring som ville tvinge dem +til å internalisere kostnadene til overvåkingsaktivitetene deres. +

+ Og så er det den statlige overvåkningen, som historien til +overvåkingskapitalismen avviser som en overlevning fra en annen æra, da den +store bekymringen var å bli fengslet som dissidenter, ikke å få din frie +vilje strippet bort med maskinlæring. +

+ Men statlig og privat overvåkning er nært relatert. Som vi så ble Apple +innrullert av de kinesiske myndighetene som en vital samarbeidspartner i +statlig overvåkning, og den eneste kostnadseffektive og gjennomførbare måten +å gjennomføre masseovervåkning i den skalaen det gjøres av moderne stater, +både «frie» og autokratiske stater, er å ta i bruk kommersielle +tjenester. +

+ Enten det er Google som brukes som stedsporingsverktøy av lokale +politimyndigheter over hele USA, eller bruk av sporing av sosiale medier av +Department of Homeland Security for å bygge mapper om deltakere i protester +mot Immigrasjon and Customs Enforcement familieseparasjonspraksis, ville +mulige strengere grenser for overvåkingskapitalisme, hindre statens egen +overvåkingsevne. Uten Palantir, Amazon, Google og andre store +teknologileverandører, ville amerikanske politifolk ikke være i stand til å +spionere på svarte mennesker, ICE ville ikke være i stand til å håndtere +innburing av barn ved USAs grense, og statlige velferdssystemer ville ikke +være i stand til å rense sine ruller ved å kle inn grusomhet som faktabasert +og hevde at fattige og sårbare mennesker ikke kvalifiserer for hjelp. I det +minste bør noen av statenes uvilje mot meningsfulle tiltak for å dempe +overvåking tilskrives dette symbiotiske forholdet. Det er ingen statlig +masseovervåking uten masse kommersiell overvåking. +

+ Monopoler er nøkkelen til systemet med statlig massestatsovervåkning. Det er +sant at mindre teknologifirmaer er tilbøyelige til å være mindre godt +forsvart enn Storteknologien, hvis sikkerhetseksperter valgt ut fra toppen i +sitt felt, og som får enorme ressurser til å sikre og overvåke sine systemer +mot inntrengere. Men mindre bedrifter har også mindre å beskytte seg med: +færre brukere med data som er mer fragmentert over flere systemer, og få det +til et og et om gangen hos statlige aktører. +

+ En konsentrert teknologisektor som samarbeider med myndighetene er en mye +kraftigere allierte for å sikre oppgaven med en massestatsovervåking - enn +en fragmentert gruppe bestående av mindre aktører. Den amerikanske +teknologisektoren er liten nok til at alle topplederne passer inn rundt ett +enkelt bord i et styrerom i Trump Tower i 2017, kort tid etter Trumps +innsettelse. De fleste av de største aktørene byr på å vinne JEDI, Pentagons +$ 10 milliarders Joint Enterprise Defense Infrastructure sky-kontrakt. I +likhet med andre svært konsentrerte bransjer roterer Storteknolgien sine +nøkkelansatte inn og ut av offentlig tjeneste, sender dem til tjeneste i +Forsvarsdepartementet og Det hvite hus, og ansetter deretter tidligere +Pentagon og tidligere DOD-toppansatte og offiserer i sine egne avdelinger +for regjeringsrelasjoner. +

+ De kan til og med få til en god sak for å gjøre dette: Tross alt, når det +bare er fire eller fem store selskaper i en bransje, har alle som er +kvalifisert til å regulere disse selskapene, fungert som en leder i minst et +par av dem - fordi, på samme måte, når det bare er fem selskaper i en +bransje, er alle kvalifisert for en seniorrolle i hvilket helst av dem, +arbeider per definisjon hos en av de andre. +

+ Selv om overvåking ikke forårsaker monopoler, medvirker monopoler gjerne til +overvåking. +

+ Bransjer som er konkurransedyktige er fragmentert - sammensatt av selskaper +som er i strupen på hverandre hele tiden og svekker hverandres marginer med +tilbud for å stjele deres beste kunder. Dette etterlater dem med en mye mer +begrenset kapital til lobbyvirksomhet for å oppnå gunstige regler, og en mye +vanskeligere jobb for å få alle til å bli enige om å samle sine ressurser +til fordel for bransjen som helhet. +

+ Overvåking kombinert med maskinlæring er antatt å være en eksistensiell +krise, et artsdefinerende øyeblikk hvor vår frie vilje bare er noen få +skritt fra å bli skallet vekk. Jeg er skeptisk til denne påstanden, men jeg +tror virkelig at teknologi utgjør en eksistensiell +trussel mot vårt samfunn og muligens vår art. +

+ Men den trusselen vokser frem fra monopol. +

+ En av konsekvensene av teknologiens regulatoriske fangst, er at det kan +flytte ansvaret for dårlige sikkerhetsbeslutninger over på kunder sine og +samfunnet generelt. Det er helt normalt i teknologi for bedrifter å tilsløre +arbeidet med sine produkter, for å gjøre dem bevisst vanskelig å forstå, og +å true sikkerhetsforskere som søker en uavhengig gjennomgang av disse +produktene. +

+ DET er det eneste feltet der dette praktiseres: Ingen som bygger en bro +eller et sykehus holder sammensetningen av stålet eller ligningene som +brukes til å beregne belastningstress hemmelige. Det er en særlig bisarr +praksis som fører, gang på gang, til groteske sikkerhetsfeil i et asburd +omfang, med hele klasser av enheter avslørt som sårbare lenge etter at de er +utplassert i feltet og benyttet på sensitive områder. +

+ Kraften i monopoler som holder alle meningsfulle konsekvenser av brudd i +sjakk, betyr at teknologiselskaper fortsetter å bygge forferdelige produkter +som er usikre i designen, og som ender opp integrert i våre liv, er i +besittelse av våre data, og koblet til vår fysiske verden. I årevis har +Boeing slitt med etterdønningene av en rekke dårlige teknologibeslutninger +som gjorde sin 737-flåte til en global paria, et sjeldent tilfelle der +dårlige tekniske beslutninger har blitt alvorlig straffet i markedet. +

+ Disse dårlige sikkerhetsbeslutningene forsterkes nok en gang ved bruk av +opphavsrettslåser for å håndheve forretningsmodellbeslutninger rettet mot +forbrukerne. Husk at disse låsene har blitt go-to-metoder for å forme +forbrukeratferd, noe som gjør det teknisk umulig å bruke tredjeparts blekk, +insulin, apper eller servicesteder til din lovlig ervervede eiendel. +

+ Husk også at disse opphavsrettslåsene er stoppet av lovgivningen (for +eksempel § 1201 i DMCA eller artikkel 6 i EUs opphavsrettsdirektiv fra 2001) +som forbyr manipulering («omgåelse») av dem, og disse +bestemmelsene har blitt brukt til å true sikkerhetsforskere som avslører +sårbarheter uten tillatelse fra produsenter. +

+ Dette summerer se til en produsents veto over sikkerhetsadvarsler og +kritikk. Selv om dette er langt fra lovgivers hensikt med DMCA og dets +søstervedtekter rundt om i verden, har Kongressen ikke grepet inn for å +klargjøre bestemmelsene, og det vil den heller ikke fordi det ville være å +gå mot interessene til mektige, store bedrifter men en ustoppelig +lobbystyrke. +

+ Opphavsrettslåser slår dobbelt: De skaper dårlige sikkerhetsbeslutninger som +hverken kan undersøkes fritt eller diskuteres. Hvis markedene skal være +maskiner for å samle informasjon (og hvis overvåkingskapitalismens nominelle +tankekontrollstråler er det som gjør det til en «bedragersk +kapitalisme» fordi den nekter forbrukerne makt til å ta +beslutninger), gjør et opplegg med lovlig håndhevet uvitenhet om risikoen +til produkter gir monopol en enda mer «bedragersk kapitalisme» +enn overvåkingskapitalismens lobbykampanjer. +

+ Og i motsetning til tankekontrollstråler er håndhevet taushet over sikkerhet +et umiddelbart, dokumentert problem, og det utgjør en +eksistensiell trussel mot vår sivilisasjon og muligens vår art. Spredningen +av usikre enheter - spesielt enheter som spionerer på oss, og spesielt når +disse enhetene også kan manipulere den fysiske verden ved for eksempel å +styre bilen eller snu en bryter på et kraftverk - er en slags +teknologiskyld. +

+ I programvaredesign refererer «-teknologiskyld» til gamle, +innbakte beslutninger som viser seg å stå seg dårlige i ettertid. Kanskje en +utvikler for lenge siden besluttet å legge inn en nettverksprotokoll laget +av en leverandør som siden har sluttet å støtte den. Men alt i produktet er +fortsatt avhengig av den utdaterte protokollen, og så, ved hver revisjon, må +produktteamet omgå denne foreldede kjernen, legge til kompatibilitetslag, +omgi den med sikkerhetskontroller som støtter forsvaret, og så videre. Disse +Band-Aid-tiltakene binder sammen skylden, fordi hver påfølgende revisjon må +kompensere også for dem, som renter baller på seg for +dårlige lån. Og som et dårlig lån, stiger rentekostnaden raskere enn du kan +håpe på å betale den ned: Produktteamet må legge så mye energi i å +opprettholde dette komplekse, skjøre systemet, at de ikke har tid igjen til +å omstrukturere produktet fra grunnen av og «betale ned +gjelden» en gang for alle. +

+ Vanligvis resulterer teknologisk gjeld i en teknologisk konkurs: Produktet +blir så skjørt og uholdbart at det svikter katastrofalt. Tenk på de gamle +COBOL-baserte bank- og regnskapssystemene som veltet ved starten av +pandemikrisen når de ble konfrontert med mengder av +arbeidsledighetskrav. Noen ganger gjør dette slutt på produktet; noen ganger +tar det selskapet med seg ned. Å bli fanget i mislighold av teknologisk +gjeld er skremmende og traumatisk, akkurat som å miste huset ditt på grunn +av konkurs er skremmende og traumatisk. +

+ Men teknologisk gjeld forårsaket av opphavsrettslåser er ikke individuell +gjeld; det er systemisk. Alle i verden er utsatt for denne overbelastningen, +som under finanskrisen i 2008. Når denne gjelden forfaller – når vi står +overfor en kaskade av sikkerhetsbrudd som truer global skipsfart og +logistikk, matforsyningen, farmasøytiske produksjonslinjer, nødkommunikasjon +og andre kritiske systemer som akkumulerer teknologisk gjeld delvis på grunn +av tilstedeværelsen av bevisst usikre og bevisst ikkereviderbare +opphavsrettslåser – vil det faktisk utgjøre en eksistensiell risiko. +

Monopol og vern av privatsfæren

+ Mange teknologiselskaper har en klokkertro på at om bare de samler nok data +om mange nok av våre aktiviteter, så er alt annet mulig — tankekontroll og +endeløs fortjeneste. Dette er en hypotese som er umulig å falsifisere: Hvis +data gir et teknologiselskap selv en liten forbedring i å forutse eller +endre oppførsel, så erklærer selskapet at det har tatt første steg mot +global dominans, uten noen ende i sikte. Hvis selskapet +mislykkes i å oppnå forbedring fra innsamling og +analyse av data, så erklærer det at suksessen er rett rundt hjørnet, +oppnåelig når det har mere data for hånden. +

+ Overvåkingsteknologi er langt fra den første industrien som omfavner en +meningsløs, selvsentrert tro som skader resten av verden, og det er ikke den +første industrien til å tjene raust på en slik vrangforestilling. Lenge før +hedgefondforvaltere hevdet (feilaktig) at de kunne slå S&P 500, var det +nok av andre «respektable» bransjer som har blitt avslørt som +kvakksalvere i ettertid. Fra skaperne av stikkpiller med radium (en ekte +ting!) til de grusomme sosiopatene som hevdet at de kunne +«kurere» homofile mennesker. Historien er fylt med tidligere +respektable titaner i diskrediterte næringer. +

+ Dette betyr ikke at det ikke er noe galt med Storteknologien og dens +ideologiske dataavhengighet. Selv om gevinsten av overvåkningen i stor grad +er overdrevet, så er skadevirkningene, om noe, +underdrevet. +

+ Det er virkelig ironi her. Troen på overvåkingskapitalismen som en +«ukontrollert kapitalisme» er drevet av troen på at markedene +ikke ville tolerere bedrifter som er grepet av falske oppfatninger. Et +oljeselskap som har falske oppfatninger om hvor oljen er, vil etter hvert gå +konkurs ved å grave etter tørre brønner, tross alt. +

+ Men monopolister får gjøre fryktelige ting i lang tid før de betaler +prisen. Tenk på hvordan konsentrasjonen i finanssektoren tillot +subprime-krisen å spre seg når obligasjonsvurderingsbyråer, regulatorer, +investorer og kritikere var under innflytelse av en falsk tro på at kompleks +matematikk kunne konstruere «fullt garderte» gjeldsinstrumenter +som ikke kunne misligholdes. En liten bank som engasjerte seg i denne typen +feilgrep ville ganske enkelt gå konk i stedet for å løpe fra den uunngåelige +krisen, eller kanskje vokser seg så stor at det avverget dette helt. Men +store banker var i stand til å fortsette å tiltrekke seg investorer, og da +de endelig feilet, kausjonerte verdens regjeringer dem +ut. De verste lovbrytere i subprime-krisen er større enn de var i 2008, og +brakte hjem mer fortjeneste og betale sine direktører enda større summer. +

+ Storteknologien kan praktisere overvåking ikke bare fordi det er teknisk, +men fordi de er store. Grunnen til at hver nettutgiver +bygger inn en Facebook «Like»-knapp, er at Facebook dominerer +Internettets henvisninger til sosiale medier – og hver og en av disse +«Like»-knappene spioner på alle som lander på en side som har +dem (se også: Google Analytics bygger inn, Twitter-knapper osv.). +

+ Grunnen til at verdens regjeringer har vært trege til å skape meningsfulle +straffer for brudd på personvernet, er at Storteknologiens konsentrasjon har +store fortjenester som kan brukes til å lobbiere mot disse straffene – og +Storteknologiens konsentrasjon betyr at de involverte selskapene er i stand +til å komme frem til en enhetlig forhandlingsposisjon, som superlader +lobbyvirksomheten. +

+ Grunnen til at de smarteste ingeniørene i verden ønsker å jobbe for +Storteknologien er at Storteknologien bestemmer over brorparten av jobbene i +teknologiindustrien. +

+ Grunnen til at folk som er forferdet over Facebooks, Googles og Amazons +datahåndteringspraksis fortsetter å bruke disse tjenestene, er at alle +vennene deres er på Facebook; Google dominerer søk; og Amazon har satt alle +de lokale kjøpmennene ut av drift. +

+ Markeder med konkurranse ville svekke selskapenes lobbystyrke ved å redusere +fortjenesten og sette dem opp mot hverandre i regulatoriske fora. Det ville +gi kundene andre steder å gå til for å få sine elektroniske tjenester. Det +ville gjøre selskapene små nok til å kunne regulere og bane vei for +meningsfulle straffer for lovbrudd. Det ville la ingeniører med ideer som +utfordret overvåkingsortodoksien skaffe seg kapital til å konkurrere med de +etablerte. Det ville gi nettutgivere flere måter å nå publikum på, og kunne +stille opp mot innpasningene til Facebook- og Google- og Twitter. +

+ Med andre ord, mens overvåking ikke forårsaker monopoler, medvirker +monopoler absolutt til overvåking. +

Ronald Reagan, en pioner for teknologimonopoler

+ Teknologisk eksepsjonellisme er en synd, enten det praktiseres av +teknologiens blinde talsmenn eller av dets kritikere. Begge disse leirene er +tilbøyelige til å forklare bort monopolistisk konsentrasjon ved å sitere +noen spesielle kjennetegn på teknologiindustrien, som nettverkseffekter +eller første-fordeler fordel. Den eneste virkelige forskjellen mellom disse +to gruppene er at de tekniske apologeter sier monopol er uunngåelig, så vi +bør bare la teknologien ikke komme unna med sine overgrep, mens +konkurranseregulatorer i USA og EU sier monopol er uunngåelig, så vi bør +straffe teknologien for sine overgrep, men ikke prøve å bryte opp +monopolene. +

+ For å forstå hvordan teknologien ble så monopolistisk, er det nyttig å se på +begynnelsen av forbrukerteknologiindustrien: 1979, året Apple II Plus ble +lansert og ble den første vellykkede hjemmedatamaskinen. Det er også året da +Ronald Reagan startet valgkampen for presidentvalget i 1980 – et løp han +vant, noe som førte til et radikalt skifte i måten antitrusthensyn håndteres +på i Amerika. Reagans kohort av politikere – inkludert Margaret Thatcher i +Storbritannia, Brian Mulroney i Canada, Helmut Kohl i Tyskland og Augusto +Pinochet i Chile – fortsatte med å vedta lignende reformer som til slutt +spredte seg over hele verden. +

+ Antitrusthistorien begynte nesten et århundre før alt dette med lover som +Sherman Act, som rettet seg mot monopolister med den begrunnelse at +monopoler var dårlige i og av seg selv - presser ut konkurrenter, og skapte +«omfattende disøkonomi» (når et selskap er så stort at +bestanddeler feiler og det tilsynelatende er håpløst å få problemene løst), +og fange sine regulatorer i en slik grad at de kan komme unna med svært mye +skade. +

+ Så kom en fabulist ved navn Robert Bork, en tidligere generaladvokat som +Reagan utnevnte til den betydningsfulle U.S. Court of Appeals for the +D.C. Circuit som tatt ut av intet hadde laget en alternativ +lovgivningshistorie om Sherman Act og dens etterfølgere. Bork insisterte på +at disse statuttene aldri var rettet mot monopoler (til tross for et vell av +bevis for det motsatte, inkludert de transkriberte talene til lovens +forfattere), men heller at de var ment å forhindre +«forbrukerskade» - i form av høyere priser. +

+ Bork var en rotor, men han var en rotor med en teori som rike mennesker +virkelig likte. Monopoler er en fin måte å gjøre rike mennesker rikere ved å +tillate dem å motta «monopolleie» (det vil si større +fortjeneste) og binde fast regulatorer, noe som fører til et svakere, +gunstigere regulatorisk miljø med mindre beskyttelse for kunder, +leverandører, miljø og arbeidere. +

+ Borks teorier var spesielt spiselige for de samme kraftige påvirkere som +støttet Reagan, og Reagans justisdepartement og andre etater begynte å +inkorporere Borks antitrustdoktrine i sine håndhevingsbeslutninger (Reagan +foreslo til og med Bork til et sete i Supreme Court, men Bork strøk klart +ved senatets godkjenningshøring at 40 år senere bruker innsidere i +D.C. begrepet «borkete» (tilsvarer klønete på norsk) for å +referere til noen katastrofalt dårlige politiske prestasjoner). +

+ Litt etter litt kom Borks teorier inn som hovedretning, og deres +støttegrupper begynte å infiltrere den juridiske utdanningen, til og med å +tilsette smakstoffer der medlemmer i rettsvesenet ble behandlet med +overdådige måltider, morsomme utendørsaktiviteter og seminarer hvor de ble +indoktrinert i forbrukerskadeteorien om antitrust. Jo mer Borks teorier tok +tak, jo mer penger tjener monopolistene – og jo mer overskuddskapital hadde +de til rådighet for å lobbe i enda flere borkiske +antitrust-innflytelseskampanjer. +

+ Historien om Borks antitrustteorier er et veldig godt eksempel på den slags +skjulte konstruerte endringer i opinionen, som Zuboff advarer oss mot, hvor +ideer i utkanten blir den ortodokse hovedretningen. Men Bork forandrer ikke +verden over natten. Han spilte et veldig langvarig spill, i over en +generasjon, og han hadde en medvind fordi de samme kreftene som støttet +oligarkiske antitrust teorier også støttet mange andre oligarkiske +skiftninger i opinionen. For eksempel ideen om at beskatning er tyveri, at +rikdom er et tegn på dyd, og så videre - alle disse teoriene ble fanget opp +for å danne en sammenhengende ideologi som hevet ulikhet til en dyd. +

+ I dag frykter mange at maskinlæring gjør det mulig for +overvåkingskapitalismen å selge «Bork-som-tjeneste», med +internetthastighet, slik at du kan kontrakt et maskinlæringsselskap for å +konstruere raske endringer i offentlige holdninger uten +å trenge kapitalen til å opprettholde et flergenerasjonsprosjekt som +arbeider på lokalt, statlig, nasjonalt og globalt nivå innen næringsliv, jus +og filosofi. Jeg tror ikke at et slikt prosjekt er sannsynlig, selv om jeg +er enig i at dette i utgangspunktet er hva plattformene hevder å selge. De +lyver bare om det. Storteknologien lyver hele tiden +inkludert i sitt salgsmateriale. +

+ Ideen om at teknologi danner «naturlige monopoler» (monopoler +som er det uunngåelige resultatet av realitetene i en bransje, for eksempel +monopolene som tilflyter det første selskapet for å kjøre +langdistansetelefonlinjer eller jernbanelinjer) er motbevist av teknologiens +egen historie: I fravær av konkurransehemmende taktikk, var Google i stand +til å detronisere AltaVista og Yahoo; Facebook var i stand til å avverge +Myspace. Det er noen fordeler med å samle fjell av data, men disse +datafjellene har også ulemper: ansvar (fra lekkasjer), redusert avkastning +(fra gamle data), og institusjonell treghet (store selskaper, lik vitenskap, +fremdrift med en begravelse om gangen). +

+ Faktisk ble fremveksten av nettsteder en masseutryddelseshendelse for de +eksisterende gigantiske, svært lønnsomme proprietære teknologiene som hadde +kapital, nettverkseffekter, og vegger og vollgraver rundt sine +virksomheter. Nettet viste at når en ny bransje er bygget rundt en +protokoll, i stedet for et produkt, kan den kombinerte innflytelsen til alle +som bruker protokollen for å nå sine kunder, eller brukere, eller samfunn, +oppveie selv de mest massive produktene. CompuServe, AOL, MSN og en rekke +andre proprietære inngjerdede hager, lærte denne leksjonen på den harde +måten: Hver trodde det kunne holde seg atskilt fra nettet, og tilbød +«kurering» og en garanti for konsistens og kvalitet i stedet +for kaoset i et åpent system. Alle tok feil og endte opp med å bli absorbert +inn i det offentlige nettet. +

+ Ja, teknologien er sterkt monopolisert og er nå nært knyttet til +industrikonsentrasjon, men dette har mer å gjøre med timing enn sine iboende +monopolistiske tendenser. Teknologien ble født i det øyeblikket +antitrust-håndhevelsen ble demontert, og teknologien falt inn i nøyaktig de +samme patologiene som antitrust skulle beskytte mot. Som en første +tilnærming er det rimelig å anta at teknologiens monopoler er et resultat av +mangel på antimonopol-innsats og ikke de oppreklamerte unike egenskapene til +teknologi, for eksempel nettverkseffekter, pionerfordeler, og så videre. +

+ Til støtte for denne tesen, tilbyr jeg konsentrasjonen som alle +andre industrier har gjennomgått i samme periode. Fra +profesjonell bryting, til varer i forbrukerpakninger, til leasing av +næringseiendom, til bank, til sjøfrakt, til olje, til plateselskaper, til +aviseierskap, til fornøyelsesparker, hver industri har +gjennomgått et massivt skifte i retning konsentrasjon. Det er ingen åpenbare +nettverkseffekter eller pionerfordeler som utspiller seg i disse +bransjene. Men uansett, oppnådde disse næringene sin konsentrerte status med +taktikker som var forbudt før Borks triumf: Fusjon med store konkurrenter, +kjøpe ut innovative nye markedsdeltakere, horisontal og vertikal +integrasjon, og en pakke med konkurransehemmende taktikk, som en gang var +ulovlig, men ikke lenger. +

+ Igjen: Når du endrer lovene som er ment å forhindre monopoler og deretter +monopoler dannes på akkurat den måten loven skulle forhindre, er det rimelig +å anta at disse fakta er relatert. Teknologikonsentrasjon kan lett +forklares uten å ty til radikale teorier om nettverkseffekter - men bare +hvis du er villig til å tiltale uregulerte markeder som tenderer i retning +monopol. Akkurat som en livslang røyker kan gi deg hundre grunner til at +deres røyking ikke forårsaket deres kreft («Det var +miljøgiftene»), har sanne troende i uregulerte markeder en hel pakke +med overbevisende forklaringer på monopol i teknologi som holder +kapitalismen intakt. +

Styring med vindusviskerne

+ Det er 40 år siden Borks prosjekt om å rehabilitere monopoler tok av, og det +er en og en halv generasjon siden, noe som er god tid til å ta en felles idé +og få den til å virke besynderlig og omvendt. Før 1940-tallet kledde +velstående amerikanere sine babygutter i rosa mens babyjenter hadde blå (en +«delikat og lekker» farge). Mens kjønnsfarger åpenbart er helt +vilkårlige, møter mange fortsatt denne nyheten med forbauselse og finner det +vanskelig å forestille seg en tid da rosa er knyttet til maskulinitet. +

+ Etter 40 år med utstudert ignorering av analyse og håndhevelse av +antitrustlovgivning, er det ikke overraskende at vi alle nesten har glemt at +antitrust eksisterer, at som vi husker, var vekst gjennom fusjoner og +oppkjøp i stor grad forbudt etter loven, at strategier for å dominere +markedet, som vertikal integrasjon, kunne sende et selskap til retten. +

+ Antitrust er et ratt for samfunnets styring av markedet, og er første utvei +for å holde potensielle verdensmestere i sjakk. Men Bork og kohorten hans +fjernet rattet vårt for 40 år siden. Bilen tromler fortsatt av gårde, så vi +rykker så hardt vi kan i alle andre regulatorer i +bilen, samt svinger desperat med dørene og ruller vinduene opp og ned i håp +om at en av disse andre tingene gir en omstilling som lar oss velge hvor vi +er på vei før vi velter utfor en klippe. +

+ Det er som et virkelighetens science fiction-plott fra sekstitallet: Folk er +fanget i et «generasjonsskip» som raser av sted mellom +stjernene. Et skip som en gang ble styrt av forfedrene, mens nå, etter en +stor katastrofe, har skipets mannskap glemt at de er på et skip og ingen vet +lenger hvor kontrollrommet er. Ute av kontroll raser skipet mot slutten, og +med mindre vi kan ta tilbake kontrollen og gjennomføre kurskorreksjon i +tide, så er vi alle på tur mot en grusom død i hjertet av en sol. +

Overvåking er fortsatt viktig

+ Ingenting av dette er å minimere problemene med overvåking. Overvåkning +betyr noe, og Storteknologiens bruk av overvåkning er +en eksistensiell risiko for vår art, men det er ikke fordi overvåking og +maskinlæring frarøver oss vår frie vilje. +

+ Overvåkingen har blitt mye mer effektiv takket være +Storteknologien. I 1989 hadde Stasi – det østtyske hemmelige politiet – hele +landet under overvåkning, et massivt foretak som rekrutterte hver sekstiende +person til å tjene som informant eller etterretningsagent. +

+ I dag vet vi at NSA spionerer på en betydelig fraksjon av hele verdens +befolkning, og forholdet mellom overvåkingsagenter og overvåket er mer som +1:10.000 (det er sannsynligvis i den lave enden da det forutsetter at hver +amerikaner med topphemmelig klarering jobber for NSA i dette prosjektet - vi +vet ikke hvor mange av disse klarerte personene som er involvert i NSAs +spionasje , men det er definitivt ikke alle disse). +

+ Hvordan utvidet forholdet mellom overvåkbare borgere seg fra 1:60 til +1:10,000 på mindre enn 30 år? Det er takket være Storteknologien. Vårt +utstyr og tjenester samler de fleste dataene som NSA utvinner til sitt +overvåkingsprosjekt. Vi betaler for dette utstyret og de tjenestene de +kobler seg til, og så utfører vi møysommelig dataregistreringsoppgavene +knyttet til logging av fakta om våre liv, meninger og preferanser. Dette +masseovervåkingsprosjektet har i stor grad vært ubrukelig for å bekjempe +terrorisme: NSA kan +bare peke på en enkelt mindre suksesshistorie der de brukte sitt +datainnsamlingsprogram for å hindre et forsøk fra en amerikansk innbygger å +overføre noen få tusen dollar til en oversjøisk terrorgruppe. Det er +ineffektivt for mye av den samme grunnen som at kommersielle +overvåkingsprosjekter i stor grad er ineffektive til å målrette reklame: +Folk som ønsker å begå terrorhandlinger, lik folk som ønsker å kjøpe et +kjøleskap, er ekstremt sjeldne. Hvis du prøver å oppdage et fenomen hvis +basisandelen bare er en av en million med et instrument med en nøyaktighet +på bare 99 %, kommer hver sanne positive til en kostnad på 9999 falske +positive. +

+ La meg forklare det igjen: Hvis en av en million mennesker er terrorist, så +vil det bare være omtrent en terrorist i et tilfeldig utvalg med en million +mennesker. Hvis testen for å oppdage terrorister er 99 % nøyaktig, vil den +identifisere 10.000 terrorister i din million-personer prøve (1 % av en +million er 10.000). For hver sann positiv, vil du få 9999 falske positive. +

+ I virkeligheten blir nøyaktigheten for algoritmisk gjenkjenning av +terrorisme langt under 99 %-merket, det samme gjør målrettingen av +kjøleskapannonser. Forskjellen er at å bli feilaktig anklaget for å ville +kjøpe et kjøleskap er en mindre plage, mens blir du feilaktig anklaget for å +planlegge et terrorangrep kan det ødelegge livet ditt og livene til alle du +elsker. +

+ Massestatlig overvåking er bare mulig på grunn av overvåkingskapitalismen og +dens ekstremt lavavkastnings systemer for annonsemålretting, som krever en +konstant påfyll av personopplysninger for å for å knapt bli +levedyktige. Overvåkingskapitalismens primære feilmodus er feilmålrettede +annonser, mens massestatovervåkingens primære feilmodus er groteske +menneskerettighetsbrudd, som tenderer mot et totalitært samfunn. +

+ Statlig overvåking er ikke kun en snylter på Storteknologien som suger til +data derfra uten å gi noe tilbake. I sannhet er de to i symbiose: +Storteknologien suger opp våre data for spionbyråer, og spionbyråene sikrer +at regjeringene ikke begrenser Storteknologiens aktiviteter så sterkt at det +ikke lenger ville tjene spionbyråenes behov. Det er intet klart skille +mellom statlig overvåking og overvåkingskapitalisme; de er avhengige av +hverandre. +

+ For å se hvordan dette virker i dag, så trenger en ikke sel enger enn til +Amazons enhet for hjemmeovervåking: dørklokken Ring og den tilhørende appen +Neighbors. Ring - er et produkt som Amazon kjøpte og ikke utviklet internt - +er en kameraaktivert dørklokke som strømmer videoopptak fra inngangsdøren +til mobilenheten din. Neighbors-appen lar deg danne et overvåkingsnett for +hele nabolaget med andre Ring-eiere, der du kan dele klipp med +«mistenkelige individer». Hvis du tenker at dette høres ut som +en oppskrift på å la rasister bak gardinene virkelig gi krefter til sine +mistanker til personer med brun hud som går langs gatene, har +du rett. Ring har blitt en de facto, uoffisiell +forlengelse av politiet uten noen irriterende tilsyn eller regler. +

+ I midten av 2019 viste en rekke innsynsforespørsler at Amazon hadde inngått +konfidensielle avtaler med mer enn 400 lokale politimyndigheter der +myndighetene skulle markedsføre Ring og Neighbors mot å få tilgang til +opptak fra Ring-kameraene. I teorien måtte politifolk be om tilgang til +disse opptakene gjennom Amazon (og interne dokumenter viser at Amazon setter +av betydelige ressurser for å trene opp politifolk i hvordan lage en +troverdig forklaring når de gjør dette), men i praksis, hvis en Ring-kunde +avviser en forespørsel fra politiet, så krever Amazon kun at myndighetene +retter en formell henvendelse om opptaket til selskapet, for å få det +utlevert. +

+ Ring og politiet har funnet mange måter å flette sammen sine +aktiviteter. Ring inngår hemmelige avtaler for å skaffe sanntidstilgang til +911-utkallinger og strømmer deretter alarmerende meldinger om kriminalitet +til brukere av Neighbors, som bidrar til å overbevise alle som vurderer en +overvåkningsdørklokke, men er ikke sikker på om nabolaget deres er så farlig +at det trengs. +

+ The more the cops buzz-market the surveillance capitalist Ring, the more +surveillance capability the state gets. Cops who rely on private entities +for law-enforcement roles then brief against any controls on the deployment +of that technology while the companies return the favor by lobbying against +rules requiring public oversight of police surveillance technology. The more +the cops rely on Ring and Neighbors, the harder it will be to pass laws to +curb them. The fewer laws there are against them, the more the cops will +rely on them. +

Verdighet og tilfluktsted

+ Men selv om vi kunne utøve demokratisk kontroll over våre stater og tvinge +dem til å slutte å ransake overvåkingskapitalismens reservoarer av +atferdsdata, så ville overvåkingskapitalismen fortsatt skade oss. +

+ Dette er et område der Zuboff glimter til. Hennes kapittel om +«tilfluktsted» — følelsen av å ikke bli observert — er en +nydelig hyllest til introspeksjon, ro, oppmerksomt nærvær og stillhet. +

+ When you are watched, something changes. Anyone who has ever raised a child +knows this. You might look up from your book (or more realistically, from +your phone) and catch your child in a moment of profound realization and +growth, a moment where they are learning something that is right at the edge +of their abilities, requiring their entire ferocious concentration. For a +moment, you’re transfixed, watching that rare and beautiful moment of focus +playing out before your eyes, and then your child looks up and sees you +seeing them, and the moment collapses. To grow, you need to be and expose +your authentic self, and in that moment, you are vulnerable like a hermit +crab scuttling from one shell to the next. The tender, unprotected tissues +you expose in that moment are too delicate to reveal in the presence of +another, even someone you trust as implicitly as a child trusts their +parent. +

+ I den digitale tidsalder er vårt sanne jeg uløselig knyttet til våre +digitale liv. Søkehistorikken din er en løpende oversikt over spørsmålene du +har fundert på. Posisjonshistorikken din er et arkiv over steder du har +trukket mot og opplevelsene du har hatt der. Din sosiale graf avslører de +ulike sidene av identiteten din, og folkene du er knyttet til. +

+ Å få disse aktivitetene observert er å miste tilfluktstedet for ditt sanne +jeg. +

+ There’s another way in which surveillance capitalism robs us of our capacity +to be our authentic selves: by making us anxious. Surveillance capitalism +isn’t really a mind-control ray, but you don’t need a mind-control ray to +make someone anxious. After all, another word for anxiety is agitation, and +to make someone experience agitation, you need merely to agitate them. To +poke them and prod them and beep at them and buzz at them and bombard them +on an intermittent schedule that is just random enough that our limbic +systems never quite become inured to it. +

+ Våre enheter og tjenester har «generelt formål» i det at de kan +koble hva som helst eller hvem som helst til hva som helst eller hvem som +helst, og de kan gjøre ethvert program som kan lages. Dette betyr at +distraksjonsrektanglene i lommene våre passer på våre mest verdifulle +øyeblikk med våre kjæreste og deres mest presserende eller tidskritiske +meldinger (fra «blir sen, kan du hente ungen?» til «legen +ga med dårlige nyheter og jeg trenger å snakke med deg MED EN GANG») +i tillegg til reklamer for kjøleskap og rekrutteringsmeldinger fra nazister. +

+ Dag og natt vibrerer lommene våre, knuser konsentrasjonen vår og river i +stykker de skjøre edderkoppspinnene av sammenehenger vi spinner når vi +tenker gjennom vanskelige ideer. Hvis du låste noen inne i en celle og +forstyrret dem på dette viset, så ville vi kalt det +«søvnnektingstortur», og det ville vært en krigsforbrytelse i følge +Geneve-konvensjonen. +

Pine de plagede

+ Effekten overvåkning har på vår evne til å være oss selv på ekte er ikke lik +for alle mennesker. Noen av oss er heldige nok til å leve på en tid og sted +der de viktigste fakta om våre live er i stor grad sosialt aksepterte og kan +vises frem offentlig uten risiko for sosiale konsekvenser. +

+ But for many of us, this is not true. Recall that in living memory, many of +the ways of being that we think of as socially acceptable today were once +cause for dire social sanction or even imprisonment. If you are 65 years +old, you have lived through a time in which people living in «free +societies» could be imprisoned or sanctioned for engaging in +homosexual activity, for falling in love with a person whose skin was a +different color than their own, or for smoking weed. +

+ I dag er disse aktivitetene ikke bare avkriminalisert i store deler av +verden, de anses som normale, og de forhenværende forbudene anses som +skamfulle, forkastelige relikvier fra fortiden. +

+ Hvordan gikk vi fra forbud til normalisering? Ved hjelp av privat og +personlig aktivitet: Folk som var homofile i skjul, eller som var +hasjrøykere i smug, eller som i hemmeliget elsket noen med en annen +hudfarge, var alle sårbare for gjengjeldelse hvis de gjorde sitt sanne jeg +kjent, og det var begrenset hvor mye de kunne fremme sine egne rettigheter i +samfunnet og slik være tro mot seg selv. Men fordi det var en privatsfære, +så kunne disse folkene danne allianser med sine kjære og sine venner som +ikke delte deres uglesette egenskaper, ved å ha private samtaler der de kom +ut av skapet og avslørte sitt sanne jeg til folkene rundt dem og bringe dem +inn på sin side, en samtale av gangen. +

+ Retten til å velge tid og sted for disse samtalene var nøkkelen til at de +lyktes. Det er en ting å komme ut av skapet overfor faren din mens dere er +på fisketurn langt unna allfarvei, og en helt annen ting å plumpe ut med det +over julemiddagen mens din rasistiske Facebook-onkel er der for å lage en +scene. +

+ Uten en privatsfære så er det en sjanske for at ingen av disse endringene +hadde funnet sted, og at folkene som dro nytte av disse endringene enten +hadde mått sociale saksjoner for å komme ut av skapet i en fientlig verden +eller ville aldri vært i stand til å vise sitt sanne jeg til folkene de er +glade i. +

+ The corollary is that, unless you think that our society has attained social +perfection — that your grandchildren in 50 years will ask you to tell them +the story of how, in 2020, every injustice had been righted and no further +change had to be made — then you should expect that right now, at this +minute, there are people you love, whose happiness is key to your own, who +have a secret in their hearts that stops them from ever being their +authentic selves with you. These people are sorrowing and will go to their +graves with that secret sorrow in their hearts, and the source of that +sorrow will be the falsity of their relationship to you. +

+ En privatsfære er nødvendig for menneskelig fremgang. +

Alle data du samler og tar vare på vil til slutt lekke

+ Mangelen på privatliv kan berøve sårbare folk sjansen til å være sitt sanne +jeg og begrense våre handler ved å frarøve oss vårt tilfluktsted, men det er +en annen risiko som belastes oss alle, ikke bare folk med en hemmelighet: +kriminalitet. +

+ Personally identifying information is of very limited use for the purpose of +controlling peoples’ minds, but identity theft — really a catchall term for +a whole constellation of terrible criminal activities that can destroy your +finances, compromise your personal integrity, ruin your reputation, or even +expose you to physical danger — thrives on it. +

+ Attackers are not limited to using data from one breached source, +either. Multiple services have suffered breaches that exposed names, +addresses, phone numbers, passwords, sexual tastes, school grades, work +performance, brushes with the criminal justice system, family details, +genetic information, fingerprints and other biometrics, reading habits, +search histories, literary tastes, pseudonymous identities, and other +sensitive information. Attackers can merge data from these different +breaches to build up extremely detailed dossiers on random subjects and then +use different parts of the data for different criminal purposes. +

+ For example, attackers can use leaked username and password combinations to +hijack whole fleets of commercial vehicles that have +been fitted with anti-theft GPS trackers and immobilizers or to +hijack baby monitors in order to terrorize +toddlers with the audio tracks from pornography. Attackers use +leaked data to trick phone companies into giving them your phone number, +then they intercept SMS-based two-factor authentication codes in order to +take over your email, bank account, and/or cryptocurrency wallets. +

+ Attackers are endlessly inventive in the pursuit of creative ways to +weaponize leaked data. One common use of leaked data is to penetrate +companies in order to access more data. +

+ Like spies, online fraudsters are totally dependent on companies +over-collecting and over-retaining our data. Spy agencies sometimes pay +companies for access to their data or intimidate them into giving it up, but +sometimes they work just like criminals do — by sneaking data out of +companies’ databases. +

+ The over-collection of data has a host of terrible social consequences, from +the erosion of our authentic selves to the undermining of social progress, +from state surveillance to an epidemic of online crime. Commercial +surveillance is also a boon to people running influence campaigns, but +that’s the least of our troubles. +

Critical tech exceptionalism is still tech exceptionalism

+ Big Tech has long practiced technology exceptionalism: the idea that it +should not be subject to the mundane laws and norms of +«meatspace.» Mottoes like Facebook’s «move fast and break +things» attracted justifiable scorn of the companies’ self-serving +rhetoric. +

+ Tech exceptionalism got us all into a lot of trouble, so it’s ironic and +distressing to see Big Tech’s critics committing the same sin. +

+ Big Tech is not a «rogue capitalism» that cannot be cured +through the traditional anti-monopoly remedies of trustbusting (forcing +companies to divest of competitors they have acquired) and bans on mergers +to monopoly and other anti-competitive tactics. Big Tech does not have the +power to use machine learning to influence our behavior so thoroughly that +markets lose the ability to punish bad actors and reward superior +competitors. Big Tech has no rule-writing mind-control ray that necessitates +ditching our old toolbox. +

+ The thing is, people have been claiming to have perfected mind-control rays +for centuries, and every time, it turned out to be a con — though sometimes +the con artists were also conning themselves. +

+ For generations, the advertising industry has been steadily improving its +ability to sell advertising services to businesses while only making +marginal gains in selling those businesses’ products to prospective +customers. John Wanamaker’s lament that «50% of my advertising budget +is wasted, I just don’t know which 50%» is a testament to the triumph +of ad executives, who successfully convinced Wanamaker +that only half of the money he spent went to waste. +

+ The tech industry has made enormous improvements in the science of +convincing businesses that they’re good at advertising while their actual +improvements to advertising — as opposed to targeting — have been pretty +ho-hum. The vogue for machine learning — and the mystical invocation of +«artificial intelligence» as a synonym for straightforward +statistical inference techniques — has greatly boosted the efficacy of Big +Tech’s sales pitch as marketers have exploited potential customers’ lack of +technical sophistication to get away with breathtaking acts of overpromising +and underdelivering. +

+ It’s tempting to think that if businesses are willing to pour billions into +a venture that the venture must be a good one. Yet there are plenty of times +when this rule of thumb has led us astray. For example, it’s virtually +unheard of for managed investment funds to outperform simple index funds, +and investors who put their money into the hands of expert money managers +overwhelmingly fare worse than those who entrust their savings to index +funds. But managed funds still account for the majority of the money +invested in the markets, and they are patronized by some of the richest, +most sophisticated investors in the world. Their vote of confidence in an +underperforming sector is a parable about the role of luck in wealth +accumulation, not a sign that managed funds are a good buy. +

+ The claims of Big Tech’s mind-control system are full of tells that the +enterprise is a con. For example, the +reliance on the «Big Five» personality traits as a +primary means of influencing people even though the «Big Five» +theory is unsupported by any large-scale, peer-reviewed studies and is +mostly +the realm of marketing hucksters and pop psych. +

+ Big Tech’s promotional materials also claim that their algorithms can +accurately perform «sentiment analysis» or detect peoples’ +moods based on their «microexpressions,» but these +are marketing claims, not scientific ones. These methods are largely +untested by independent scientific experts, and where they have been tested, +they’ve been found sorely wanting. Microexpressions are particularly +suspect as the companies that specialize in training people to detect them +have +been shown to underperform relative to random chance. +

+ Big Tech has been so good at marketing its own supposed superpowers that +it’s easy to believe that they can market everything else with similar +acumen, but it’s a mistake to believe the hype. Any statement a company +makes about the quality of its products is clearly not impartial. The fact +that we distrust all the things that Big Tech says about its data handling, +compliance with privacy laws, etc., is only reasonable — but why on Earth +would we treat Big Tech’s marketing literature as the gospel truth? Big Tech +lies about just about everything, including how well +its machine-learning fueled persuasion systems work. +

+ That skepticism should infuse all of our evaluations of Big Tech and its +supposed abilities, including our perusal of its patents. Zuboff vests these +patents with enormous significance, pointing out that Google claimed +extensive new persuasion capabilities in its patent +filings. These claims are doubly suspect: first, because they are so +self-serving, and second, because the patent itself is so notoriously an +invitation to exaggeration. +

+ Patent applications take the form of a series of claims and range from broad +to narrow. A typical patent starts out by claiming that its authors have +invented a method or system for doing every conceivable thing that anyone +might do, ever, with any tool or device. Then it narrows that claim in +successive stages until we get to the actual «invention» that +is the true subject of the patent. The hope is that the patent examiner — +who is almost certainly overworked and underinformed — will miss the fact +that some or all of these claims are ridiculous, or at least suspect, and +grant the patent’s broader claims. Patents for unpatentable things are still +incredibly useful because they can be wielded against competitors who might +license that patent or steer clear of its claims rather than endure the +lengthy, expensive process of contesting it. +

+ What’s more, software patents are routinely granted even though the filer +doesn’t have any evidence that they can do the thing claimed by the +patent. That is, you can patent an «invention» that you haven’t +actually made and that you don’t know how to make. +

+ With these considerations in hand, it becomes obvious that the fact that a +Big Tech company has patented what it says is an +effective mind-control ray is largely irrelevant to whether Big Tech can in +fact control our minds. +

+ Big Tech collects our data for many reasons, including the diminishing +returns on existing stores of data. But many tech companies also collect +data out of a mistaken tech exceptionalist belief in the network effects of +data. Network effects occur when each new user in a system increases its +value. The classic example is fax machines: A single fax machine is of no +use, two fax machines are of limited use, but every new fax machine that’s +put to use after the first doubles the number of possible fax-to-fax links. +

+ Data mined for predictive systems doesn’t necessarily produce these +dividends. Think of Netflix: The predictive value of the data mined from a +million English-speaking Netflix viewers is hardly improved by the addition +of one more user’s viewing data. Most of the data Netflix acquires after +that first minimum viable sample duplicates existing data and produces only +minimal gains. Meanwhile, retraining models with new data gets progressively +more expensive as the number of data points increases, and manual tasks like +labeling and validating data do not get cheaper at scale. +

+ Businesses pursue fads to the detriment of their profits all the time, +especially when the businesses and their investors are not motivated by the +prospect of becoming profitable but rather by the prospect of being acquired +by a Big Tech giant or by having an IPO. For these firms, ticking faddish +boxes like «collects as much data as possible» might realize a +bigger return on investment than «collects a business-appropriate +quantity of data.» +

+ This is another harm of tech exceptionalism: The belief that more data +always produces more profits in the form of more insights that can be +translated into better mind-control rays drives firms to over-collect and +over-retain data beyond all rationality. And since the firms are behaving +irrationally, a good number of them will go out of business and become ghost +ships whose cargo holds are stuffed full of data that can harm people in +myriad ways — but which no one is responsible for antey longer. Even if the +companies don’t go under, the data they collect is maintained behind the +minimum viable security — just enough security to keep the company viable +while it waits to get bought out by a tech giant, an amount calculated to +spend not one penny more than is necessary on protecting data. +

How monopolies, not mind control, drive surveillance capitalism: The +Snapchat story

+ For the first decade of its existence, Facebook competed with the social +media giants of the day (Myspace, Orkut, etc.) by presenting itself as the +pro-privacy alternative. Indeed, Facebook justified its walled garden — +which let users bring in data from the web but blocked web services like +Google Search from indexing and caching Facebook pages — as a pro-privacy +measure that protected users from the surveillance-happy winners of the +social media wars like Myspace. +

+ Despite frequent promises that it would never collect or analyze its users’ +data, Facebook periodically created initiatives that did just that, like the +creepy, ham-fisted Beacon tool, which spied on you as you moved around the +web and then added your online activities to your public timeline, allowing +your friends to monitor your browsing habits. Beacon sparked a user +revolt. Every time, Facebook backed off from its surveillance initiative, +but not all the way; inevitably, the new Facebook would be more surveilling +than the old Facebook, though not quite as surveilling as the intermediate +Facebook following the launch of the new product or service. +

+ Hvor raskt Facebook økte sin overvåkningsinnsats ser ut til å ha vært styrt +av det konkurransemessige landskapet til Facebook. Jo flere konkurrenter +Facebook hadde, jo bedre oppførte de seg. Hver gang en stor konkurrent brøt +sammen, så ble oppførselen til Facebook markant +verre. +

+ Samtidig kjøpte Facebook enormt mange selskaper, inkludert et selskap som +heter Onavo. I utgangspunktet laget Onavo en batteriovervåkingsapp. Men +tillatelsene som Onavo krevde var så omfattende at appen var i stand til å +samle inn finkornet telemetri på alt brukerne gjorde med telefonene sine, +inkludert hvilke apper de brukte og hvordan de brukte dem. +

+ Ved hjelp av Onavo oppdaget Facebook at de mistet markedsandeler til +Snapchat, en app som – som Facebook et tiår tidligere – presenterte seg selv +som pro-personvernalternativet til status quo. Ved hjelp av Onavo kunne +Facebook hente ut data fra enhetene til Snapchat-brukere, inkludert både +nåværende og tidligere Snapchat-brukere. Dette ansporet Facebook til å kjøpe +Instagram - som hadde noen egenskaper som konkurrerte med Snapchat - og som +deretter tillot Facebook å finjustere Instagrams funksjoner og salgspitch +for å fjerne Snapchats fordeler og sikre at Facebook ikke måtte møte den +typen konkurransepress det tidligere hadde påført Myspace og Orkut. +

+ Historien om hvordan Facebook knuste Snapchat avslører forholdet mellom +monopol og overvåkingskapitalisme. Facebook kombinerte overvåking med slapp +antitrust-håndhevelse for å oppdage den kommende konkurransemessige +trusselen fra Snapchat og deretter ta avgjørende tiltak mot den. Facebooks +overvåkingskapitalisme lar den avverge konkurransepress med +konkurransehemmende taktikker. Facebook-brukere vil fortsatt ha personvern – +Facebook har ikke brukt overvåking til å hjernevaske dem ut av det – men de +kan ikke få det fordi Facebooks overvåkning lar Facebook ødelegge ethvert +håp om at en rivaliserende tjeneste dukker opp som konkurrerer på +personvernfunksjoner. +

Et monopol over vennene dine

+ En desentraliseringsbevegelse har forsøkt å fjerne dominansen til Facebook +og andre Storteknologi-selskaper ved å lage og fremme +«indieweb»-alternativer — Mastodon som et Twitter-alternativ, +Diaspora som et Facebook-alternativ, og så videre — men disse forsøkene har +på ingen måte tatt av. +

+ I bunn og grunn er hver av disse tjenestene hemmet av det samme problemet: +Hver potensiell bruker av et Facebook- eller Twitteralternativ må overbevise +alle sine venner til å følge dem til en desentralisert Internettalternativ +for å fortsatt ha glede av fordelene med sosiale medier. For mange av oss er +den eneste grunnen til å ha en Facebook-konto at vennene våre har +Facebook-kontoer, og grunnen til at de har Facebook-kontoer er at +vi har Facebook-kontoer. +

+ Alt dette har konspirert til å gjøre Facebook – og andre dominerende +plattformer – til «drapssoner» der investorer ikke vil +finansiere nye deltakere. +

+ Og likevel, alle dagens teknologigiganter dukketopp til tross for den +forankrede fordelen til selskapene som kom før dem. For å forstå hvordan det +skjedde, må du forstå både samvirke og angripende samvirke. +

+ Det vanskelige problemet for vår art er koordinering. +

+ «Interoperability» is the ability of two technologies to work +with one another: Anyone can make an LP that will play on any record player, +anyone can make a filter you can install in your stove’s extractor fan, +anyone can make gasoline for your car, anyone can make a USB phone charger +that fits in your car’s cigarette lighter receptacle, anyone can make a +light bulb that works in your light socket, anyone can make bread that will +toast in your toaster. +

+ Interoperability is often a source of innovation and consumer benefit: Apple +made the first commercially successful PC, but millions of independent +software vendors made interoperable programs that ran on the Apple II +Plus. The simple analog antenna inputs on the back of TVs first allowed +cable operators to connect directly to TVs, then they allowed game console +companies and then personal computer companies to use standard televisions +as displays. Standard RJ-11 telephone jacks allowed for the production of +phones from a variety of vendors in a variety of forms, from the free +football-shaped phone that came with a Sports +Illustrated subscription to business phones with speakers, hold +functions, and so on and then answering machines and finally modems, paving +the way for the internet revolution. +

+ «Interoperability» is often used interchangeably with +«standardization,» which is the process when manufacturers and +other stakeholders hammer out a set of agreed-upon rules for implementing a +technology, such as the electrical plug on your wall, the CAN bus used by +your car’s computer systems, or the HTML instructions that your browser +interprets. +

+ But interoperability doesn’t require standardization — indeed, +standardization often proceeds from the chaos of ad hoc interoperability +measures. The inventor of the cigarette-lighter USB charger didn’t need to +get permission from car manufacturers or even the manufacturers of the +dashboard lighter subcomponent. The automakers didn’t take any +countermeasures to prevent the use of these aftermarket accessories by their +customers, but they also didn’t do anything to make life easier for the +chargers’ manufacturers. This is a kind of «neutral +interoperability.» +

+ Beyond neutral interoperability, there is «adversarial +interoperability.» That’s when a manufacturer makes a product that +interoperates with another manufacturer’s product despite the +second manufacturer’s objections and even if that means +bypassing a security system designed to prevent interoperability. +

+ Probably the most familiar form of adversarial interoperability is +third-party printer ink. Printer manufacturers claim that they sell printers +below cost and that the only way they can recoup the losses they incur is by +charging high markups on ink. To prevent the owners of printers from buying +ink elsewhere, the printer companies deploy a suite of anti-customer +security systems that detect and reject both refilled and third-party +cartridges. +

+ Owners of printers take the position that HP and Epson and Brother are not +charities and that customers for their wares have no obligation to help them +survive, and so if the companies choose to sell their products at a loss, +that’s their foolish choice and their consequences to live with. Likewise, +competitors who make ink or refill kits observe that they don’t owe printer +companies anything, and their erosion of printer companies’ margins are the +printer companies’ problems, not their competitors’. After all, the printer +companies shed no tears when they drive a refiller out of business, so why +should the refillers concern themselves with the economic fortunes of the +printer companies? +

+ Adversarial interoperability has played an outsized role in the history of +the tech industry: from the founding of the «alt.*» Usenet +hierarchy (which was started against the wishes of Usenet’s maintainers and +which grew to be bigger than all of Usenet combined) to the browser wars +(when Netscape and Microsoft devoted massive engineering efforts to making +their browsers incompatible with the other’s special commands and +peccadilloes) to Facebook (whose success was built in part by helping its +new users stay in touch with friends they’d left behind on Myspace because +Facebook supplied them with a tool that scraped waiting messages from +Myspace and imported them into Facebook, effectively creating an +Facebook-based Myspace reader). +

+ Today, incumbency is seen as an unassailable advantage. Facebook is where +all of your friends are, so no one can start a Facebook competitor. But +adversarial compatibility reverses the competitive advantage: If you were +allowed to compete with Facebook by providing a tool that imported all your +users’ waiting Facebook messages into an environment that competed on lines +that Facebook couldn’t cross, like eliminating surveillance and ads, then +Facebook would be at a huge disadvantage. It would have assembled all +possible ex-Facebook users into a single, easy-to-find service; it would +have educated them on how a Facebook-like service worked and what its +potential benefits were; and it would have provided an easy means for +disgruntled Facebook users to tell their friends where they might expect +better treatment. +

+ Adversarial interoperability was once the norm and a key contributor to the +dynamic, vibrant tech scene, but now it is stuck behind a thicket of laws +and regulations that add legal risks to the tried-and-true tactics of +adversarial interoperability. New rules and new interpretations of existing +rules mean that a would-be adversarial interoperator needs to steer clear of +claims under copyright, terms of service, trade secrecy, tortious +interference, and patent. +

+ In the absence of a competitive market, lawmakers have resorted to assigning +expensive, state-like duties to Big Tech firms, such as automatically +filtering user contributions for copyright infringement or terrorist and +extremist content or detecting and preventing harassment in real time or +controlling access to sexual material. +

+ These measures put a floor under how small we can make Big Tech because only +the very largest companies can afford the humans and automated filters +needed to perform these duties. +

+ But that’s not the only way in which making platforms responsible for +policing their users undermines competition. A platform that is expected to +police its users’ conduct must prevent many vital adversarial +interoperability techniques lest these subvert its policing measures. For +example, if someone using a Twitter replacement like Mastodon is able to +push messages into Twitter and read messages out of Twitter, they could +avoid being caught by automated systems that detect and prevent harassment +(such as systems that use the timing of messages or IP-based rules to make +guesses about whether someone is a harasser). +

+ To the extent that we are willing to let Big Tech police itself — rather +than making Big Tech small enough that users can leave bad platforms for +better ones and small enough that a regulation that simply puts a platform +out of business will not destroy billions of users’ access to their +communities and data — we build the case that Big Tech should be able to +block its competitors and make it easier for Big Tech to demand legal +enforcement tools to ban and punish attempts at adversarial +interoperability. +

+ Ultimately, we can try to fix Big Tech by making it responsible for bad acts +by its users, or we can try to fix the internet by cutting Big Tech down to +size. But we can’t do both. To replace today’s giant products with +pluralistic protocols, we need to clear the legal thicket that prevents +adversarial interoperability so that tomorrow’s nimble, personal, +small-scale products can federate themselves with giants like Facebook, +allowing the users who’ve left to continue to communicate with users who +haven’t left yet, reaching tendrils over Facebook’s garden wall that +Facebook’s trapped users can use to scale the walls and escape to the +global, open web. +

Fake news is an epistemological crisis

+ Tech is not the only industry that has undergone massive concentration since +the Reagan era. Virtually every major industry — from oil to newspapers to +meatpacking to sea freight to eyewear to online pornography — has become a +clubby oligarchy that just a few players dominate. +

+ At the same time, every industry has become something of a tech industry as +general-purpose computers and general-purpose networks and the promise of +efficiencies through data-driven analysis infuse every device, process, and +firm with tech. +

+ This phenomenon of industrial concentration is part of a wider story about +wealth concentration overall as a smaller and smaller number of people own +more and more of our world. This concentration of both wealth and industries +means that our political outcomes are increasingly beholden to the parochial +interests of the people and companies with all the money. +

+ That means that whenever a regulator asks a question with an obvious, +empirical answer («Are humans causing climate change?» or +«Should we let companies conduct commercial mass surveillance?» +or «Does society benefit from allowing network neutrality +violations?»), the answer that comes out is only correct if that +correctness meets with the approval of rich people and the industries that +made them so wealthy. +

+ Rich people have always played an outsized role in politics and more so +since the Supreme Court’s Citizens United decision +eliminated key controls over political spending. Widening inequality and +wealth concentration means that the very richest people are now a lot richer +and can afford to spend a lot more money on political projects than ever +before. Think of the Koch brothers or George Soros or Bill Gates. +

+ But the policy distortions of rich individuals pale in comparison to the +policy distortions that concentrated industries are capable of. The +companies in highly concentrated industries are much more profitable than +companies in competitive industries — no competition means not having to +reduce prices or improve quality to win customers — leaving them with bigger +capital surpluses to spend on lobbying. +

+ Concentrated industries also find it easier to collaborate on policy +objectives than competitive ones. When all the top execs from your industry +can fit around a single boardroom table, they often do. And +when they do, they can forge a consensus position on +regulation. +

+ Rising through the ranks in a concentrated industry generally means working +at two or three of the big companies. When there are only relatively few +companies in a given industry, each company has a more ossified executive +rank, leaving ambitious execs with fewer paths to higher positions unless +they are recruited to a rival. This means that the top execs in concentrated +industries are likely to have been colleagues at some point and socialize in +the same circles — connected through social ties or, say, serving as +trustees for each others’ estates. These tight social bonds foster a +collegial, rather than competitive, attitude. +

+ Highly concentrated industries also present a regulatory conundrum. When an +industry is dominated by just four or five companies, the only people who +are likely to truly understand the industry’s practices are its veteran +executives. This means that top regulators are often former execs of the +companies they are supposed to be regulating. These turns in government are +often tacitly understood to be leaves of absence from industry, with former +employers welcoming their erstwhile watchdogs back into their executive +ranks once their terms have expired. +

+ All this is to say that the tight social bonds, small number of firms, and +regulatory capture of concentrated industries give the companies that +comprise them the power to dictate many, if not all, of the regulations that +bind them. +

+ This is increasingly obvious. Whether it’s payday lenders winning +the right to practice predatory lending or Apple winning +the right to decide who can fix your phone or Google and Facebook +winning the right to breach your private data without suffering meaningful +consequences or victories for pipeline companies or impunity for opioid +manufacturers or massive tax subsidies for incredibly profitable dominant +businesses, it’s increasingly apparent that many of our official, +evidence-based truth-seeking processes are, in fact, auctions for sale to +the highest bidder. +

+ It’s really impossible to overstate what a terrifying prospect this is. We +live in an incredibly high-tech society, and none of us could acquire the +expertise to evaluate every technological proposition that stands between us +and our untimely, horrible deaths. You might devote your life to acquiring +the media literacy to distinguish good scientific journals from corrupt +pay-for-play lookalikes and the statistical literacy to evaluate the quality +of the analysis in the journals as well as the microbiology and epidemiology +knowledge to determine whether you can trust claims about the safety of +vaccines — but that would still leave you unqualified to judge whether the +wiring in your home will give you a lethal shock and +whether your car’s brakes’ software will cause them to fail unpredictably +and whether the hygiene standards at your butcher are +sufficient to keep you from dying after you finish your dinner. +

+ In a world as complex as this one, we have to defer to authorities, and we +keep them honest by making those authorities accountable to us and binding +them with rules to prevent conflicts of interest. We can’t possibly acquire +the expertise to adjudicate conflicting claims about the best way to make +the world safe and prosperous, but we can determine +whether the adjudication process itself is trustworthy. +

+ Right now, it’s obviously not. +

+ The past 40 years of rising inequality and industry concentration, together +with increasingly weak accountability and transparency for expert agencies, +has created an increasingly urgent sense of impending doom, the sense that +there are vast conspiracies afoot that operate with tacit official approval +despite the likelihood they are working to better themselves by ruining the +rest of us. +

+ For example, it’s been decades since Exxon’s own scientists concluded that +its products would render the Earth uninhabitable by humans. And yet those +decades were lost to us, in large part because Exxon lobbied governments and +sowed doubt about the dangers of its products and did so with the +cooperation of many public officials. When the survival of you and everyone +you love is threatened by conspiracies, it’s not unreasonable to start +questioning the things you think you know in an attempt to determine whether +they, too, are the outcome of another conspiracy. +

+ The collapse of the credibility of our systems for divining and upholding +truths has left us in a state of epistemological chaos. Once, most of us +might have assumed that the system was working and that our regulations +reflected our best understanding of the empirical truths of the world as +they were best understood — now we have to find our own experts to help us +sort the true from the false. +

+ If you’re like me, you probably believe that vaccines are safe, but you +(like me) probably also can’t explain the microbiology or statistics. Few of +us have the math skills to review the literature on vaccine safety and +describe why their statistical reasoning is sound. Likewise, few of us can +review the stats in the (now discredited) literature on opioid safety and +explain how those stats were manipulated. Both vaccines and opioids were +embraced by medical authorities, after all, and one is safe while the other +could ruin your life. You’re left with a kind of inchoate constellation of +rules of thumb about which experts you trust to fact-check controversial +claims and then to explain how all those respectable doctors with their +peer-reviewed research on opioid safety were an +aberration and then how you know that the doctors writing about vaccine +safety are not an aberration. +

+ I’m 100% certain that vaccinating is safe and effective, but I’m also at +something of a loss to explain exactly, precisely, why +I believe this, given all the corruption I know about and the many times the +stamp of certainty has turned out to be a parochial lie told to further +enrich the super rich. +

+ Fake news — conspiracy theories, racist ideologies, scientific denialism — +has always been with us. What’s changed today is not the mix of ideas in the +public discourse but the popularity of the worst ideas in that +mix. Conspiracy and denial have skyrocketed in lockstep with the growth of +Big Inequality, which has also tracked the rise of Big Tech and Big Pharma +and Big Wrestling and Big Car and Big Movie Theater and Big Everything Else. +

+ No one can say for certain why this has happened, but the two dominant camps +are idealism (the belief that the people who argue for these conspiracies +have gotten better at explaining them, maybe with the help of +machine-learning tools) or materialism (the ideas have become more +attractive because of material conditions in the world). +

+ I’m a materialist. I’ve been exposed to the arguments of conspiracy +theorists all my life, and I have not experienced any qualitative leap in +the quality of those arguments. +

+ The major difference is in the world, not the arguments. In a time where +actual conspiracies are commonplace, conspiracy theories acquire a ring of +plausibility. +

+ We have always had disagreements about what’s true, but today, we have a +disagreement over how we know whether something is true. This is an +epistemological crisis, not a crisis over belief. It’s a crisis over the +credibility of our truth-seeking exercises, from scientific journals (in an +era where the biggest journal publishers have been caught producing +pay-to-play journals for junk science) to regulations (in an era where +regulators are routinely cycling in and out of business) to education (in an +era where universities are dependent on corporate donations to keep their +lights on). +

+ Targeting — surveillance capitalism — makes it easier to find people who are +undergoing this epistemological crisis, but it doesn’t create the +crisis. For that, you need to look to corruption. +

+ And, conveniently enough, it’s corruption that allows surveillance +capitalism to grow by dismantling monopoly protections, by permitting +reckless collection and retention of personal data, by allowing ads to be +targeted in secret, and by foreclosing on the possibility of going somewhere +else where you might continue to enjoy your friends without subjecting +yourself to commercial surveillance. +

Tech is different

+ I reject both iterations of technological exceptionalism. I reject the idea +that tech is uniquely terrible and led by people who are greedier or worse +than the leaders of other industries, and I reject the idea that tech is so +good — or so intrinsically prone to concentration — that it can’t be blamed +for its present-day monopolistic status. +

+ I think tech is just another industry, albeit one that grew up in the +absence of real monopoly constraints. It may have been first, but it isn’t +the worst nor will it be the last. +

+ But there’s one way in which I am a tech +exceptionalist. I believe that online tools are the key to overcoming +problems that are much more urgent than tech monopolization: climate change, +inequality, misogyny, and discrimination on the basis of race, gender +identity, and other factors. The internet is how we will recruit people to +fight those fights, and how we will coordinate their labor. Tech is not a +substitute for democratic accountability, the rule of law, fairness, or +stability — but it’s a means to achieve these things. +

+ The hard problem of our species is coordination. Everything from climate +change to social change to running a business to making a family work can be +viewed as a collective action problem. +

+ The internet makes it easier than at any time before to find people who want +to work on a project with you — hence the success of free and open-source +software, crowdfunding, and racist terror groups — and easier than ever to +coordinate the work you do. +

+ The internet and the computers we connect to it also possess an exceptional +quality: general-purposeness. The internet is designed to allow any two +parties to communicate any data, using any protocol, without permission from +anyone else. The only production design we have for computers is the +general-purpose, «Turing complete» computer that can run every +program we can express in symbolic logic. +

+ This means that every time someone with a special communications need +invests in infrastructure and techniques to make the internet faster, +cheaper, and more robust, this benefit redounds to everyone else who is +using the internet to communicate. And this also means that every time +someone with a special computing need invests to make computers faster, +cheaper, and more robust, every other computing application is a potential +beneficiary of this work. +

+ På grunn av dette, vil enhver form for kommunikasjon gradvis absorberes inn +i Internett, og enhver type dings — fra fly til pacemakere — på sikt bli en +datamaskin i en stilig boks. +

+ While these considerations don’t preclude regulating networks and computers, +they do call for gravitas and caution when doing so because changes to +regulatory frameworks could ripple out to have unintended consequences in +many, many other domains. +

+ The upshot of this is that our best hope of solving the big coordination +problems — climate change, inequality, etc. — is with free, fair, and open +tech. Our best hope of keeping tech free, fair, and open is to exercise +caution in how we regulate tech and to attend closely to the ways in which +interventions to solve one problem might create problems in other domains. +

Eierskap til fakta

+ Big Tech has a funny relationship with information. When you’re generating +information — anything from the location data streaming off your mobile +device to the private messages you send to friends on a social network — it +claims the rights to make unlimited use of that data. +

+ But when you have the audacity to turn the tables — to use a tool that +blocks ads or slurps your waiting updates out of a social network and puts +them in another app that lets you set your own priorities and suggestions or +crawls their system to allow you to start a rival business — they claim that +you’re stealing from them. +

+ The thing is, information is a very bad fit for any kind of private property +regime. Property rights are useful for establishing markets that can lead to +the effective development of fallow assets. These markets depend on clear +titles to ensure that the things being bought and sold in them can, in fact, +be bought and sold. +

+ Information rarely has such a clear title. Take phone numbers: There’s +clearly something going wrong when Facebook slurps up millions of users’ +address books and uses the phone numbers it finds in them to plot out social +graphs and fill in missing information about other users. +

+ But the phone numbers Facebook nonconsensually acquires in this transaction +are not the «property» of the users they’re taken from nor do +they belong to the people whose phones ring when you dial those numbers. The +numbers are mere integers, 10 digits in the U.S. and Canada, and they +appear in millions of places, including somewhere deep in pi as well as +numerous other contexts. Giving people ownership titles to integers is an +obviously terrible idea. +

+ Likewise for the facts that Facebook and other commercial surveillance +operators acquire about us, like that we are the children of our parents or +the parents to our children or that we had a conversation with someone else +or went to a public place. These data points can’t be property in the sense +that your house or your shirt is your property because the title to them is +intrinsically muddy: Does your mom own the fact that she is your mother? Do +you? Do both of you? What about your dad — does he own this fact too, or +does he have to license the fact from you (or your mom or both of you) in +order to use this fact? What about the hundreds or thousands of other people +who know these facts? +

+ If you go to a Black Lives Matter demonstration, do the other demonstrators +need your permission to post their photos from the event? The online fights +over when and +how to post photos from demonstrations reveal a nuanced, complex +issue that cannot be easily hand-waved away by giving one party a property +right that everyone else in the mix has to respect. +

+ The fact that information isn’t a good fit with property and markets doesn’t +mean that it’s not valuable. Babies aren’t property, but they’re inarguably +valuable. In fact, we have a whole set of rules just for babies as well as a +subset of those rules that apply to humans more generally. Someone who +argues that babies won’t be truly valuable until they can be bought and sold +like loaves of bread would be instantly and rightfully condemned as a +monster. +

+ It’s tempting to reach for the property hammer when Big Tech treats your +information like a nail — not least because Big Tech are such prolific +abusers of property hammers when it comes to their +information. But this is a mistake. If we allow markets to dictate the use +of our information, then we’ll find that we’re sellers in a buyers’ market +where the Big Tech monopolies set a price for our data that is so low as to +be insignificant or, more likely, set at a nonnegotiable price of zero in a +click-through agreement that you don’t have the opportunity to modify. +

+ Meanwhile, establishing property rights over information will create +insurmountable barriers to independent data processing. Imagine that we +require a license to be negotiated when a translated document is compared +with its original, something Google has done and continues to do billions of +times to train its automated language translation tools. Google can afford +this, but independent third parties cannot. Google can staff a clearances +department to negotiate one-time payments to the likes of the EU (one of the +major repositories of translated documents) while independent watchdogs +wanting to verify that the translations are well-prepared, or to root out +bias in translations, will find themselves needing a staffed-up legal +department and millions for licenses before they can even get started. +

+ The same goes for things like search indexes of the web or photos of +peoples’ houses, which have become contentious thanks to Google’s Street +View project. Whatever problems may exist with Google’s photographing of +street scenes, resolving them by letting people decide who can take pictures +of the facades of their homes from a public street will surely create even +worse ones. Think of how street photography is important for newsgathering — +including informal newsgathering, like photographing abuses of authority — +and how being able to document housing and street life are important for +contesting eminent domain, advocating for social aid, reporting planning and +zoning violations, documenting discriminatory and unequal living conditions, +and more. +

+ The ownership of facts is antithetical to many kinds of human progress. It’s +hard to imagine a rule that limits Big Tech’s exploitation of our collective +labors without inadvertently banning people from gathering data on online +harassment or compiling indexes of changes in language or simply +investigating how the platforms are shaping our discourse — all of which +require scraping data that other people have created and subjecting it to +scrutiny and analysis. +

Overtalelse virker… sakte

+ The platforms may oversell their ability to persuade people, but obviously, +persuasion works sometimes. Whether it’s the private realm that LGBTQ people +used to recruit allies and normalize sexual diversity or the decadeslong +project to convince people that markets are the only efficient way to solve +complicated resource allocation problems, it’s clear that our societal +attitudes can change. +

+ The project of shifting societal attitudes is a game of inches and +years. For centuries, svengalis have purported to be able to accelerate this +process, but even the most brutal forms of propaganda have struggled to make +permanent changes. Joseph Goebbels was able to subject Germans to daily, +mandatory, hourslong radio broadcasts, to round up and torture and murder +dissidents, and to seize full control over their children’s education while +banning any literature, broadcasts, or films that did not comport with his +worldview. +

+ Yet, after 12 years of terror, once the war ended, Nazi ideology was largely +discredited in both East and West Germany, and a program of national truth +and reconciliation was put in its place. Racism and authoritarianism were +never fully abolished in Germany, but neither were the majority of Germans +irrevocably convinced of Nazism — and the rise of racist authoritarianism in +Germany today tells us that the liberal attitudes that replaced Nazism were +no more permanent than Nazism itself. +

+ Racism and authoritarianism have also always been with us. Anyone who’s +reviewed the kind of messages and arguments that racists put forward today +would be hard-pressed to say that they have gotten better at presenting +their ideas. The same pseudoscience, appeals to fear, and circular logic +that racists presented in the 1980s, when the cause of white supremacy was +on the wane, are to be found in the communications of leading white +nationalists today. +

+ If racists haven’t gotten more convincing in the past decade, then how is it +that more people were convinced to be openly racist at that time? I believe +that the answer lies in the material world, not the world of ideas. The +ideas haven’t gotten more convincing, but people have become more +afraid. Afraid that the state can’t be trusted to act as an honest broker in +life-or-death decisions, from those regarding the management of the economy +to the regulation of painkillers to the rules for handling private +information. Afraid that the world has become a game of musical chairs in +which the chairs are being taken away at a never-before-seen rate. Afraid +that justice for others will come at their expense. Monopolism isn’t the +cause of these fears, but the inequality and material desperation and policy +malpractice that monopolism contributes to is a significant contributor to +these conditions. Inequality creates the conditions for both conspiracies +and violent racist ideologies, and then surveillance capitalism lets +opportunists target the fearful and the conspiracy-minded. +

Det hjelper ikke å betale

+ As the old saw goes, «If you’re not paying for the product, you’re the +product.» +

+ It’s a commonplace belief today that the advent of free, ad-supported media +was the original sin of surveillance capitalism. The reasoning is that the +companies that charged for access couldn’t «compete with free» +and so they were driven out of business. Their ad-supported competitors, +meanwhile, declared open season on their users’ data in a bid to improve +their ad targeting and make more money and then resorted to the most +sensationalist tactics to generate clicks on those ads. If only we’d pay for +media again, we’d have a better, more responsible, more sober discourse that +would be better for democracy. +

+ But the degradation of news products long precedes the advent of +ad-supported online news. Long before newspapers were online, lax antitrust +enforcement had opened the door for unprecedented waves of consolidation and +roll-ups in newsrooms. Rival newspapers were merged, reporters and ad sales +staff were laid off, physical plants were sold and leased back, leaving the +companies loaded up with debt through leveraged buyouts and subsequent +profit-taking by the new owners. In other words, it wasn’t merely shifts in +the classified advertising market, which was long held to be the primary +driver in the decline of the traditional newsroom, that made news companies +unable to adapt to the internet — it was monopolism. +

+ Then, as news companies did come online, the ad +revenues they commanded dropped even as the number of internet users (and +thus potential online readers) increased. That shift was a function of +consolidation in the ad sales market, with Google and Facebook emerging as +duopolists who made more money every year from advertising while paying less +and less of it to the publishers whose work the ads appeared +alongside. Monopolism created a buyer’s market for ad inventory with +Facebook and Google acting as gatekeepers. +

+ Paid services continue to exist alongside free ones, and often it is these +paid services — anxious to prevent people from bypassing their paywalls or +sharing paid media with freeloaders — that exert the most control over their +customers. Apple’s iTunes and App Stores are paid services, but to maximize +their profitability, Apple has to lock its platforms so that third parties +can’t make compatible software without permission. These locks allow the +company to exercise both editorial control (enabling it to exclude controversial +political material) and technological control, including control +over who can repair the devices it makes. If we’re worried that ad-supported +products deprive people of their right to self-determination by using +persuasion techniques to nudge their purchase decisions a few degrees in one +direction or the other, then the near-total control a single company holds +over the decision of who gets to sell you software, parts, and service for +your iPhone should have us very worried indeed. +

+ We shouldn’t just be concerned about payment and control: The idea that +paying will improve discourse is also dangerously wrong. The poor success +rate of targeted advertising means that the platforms have to incentivize +you to «engage» with posts at extremely high levels to generate +enough pageviews to safeguard their profits. As discussed earlier, to +increase engagement, platforms like Facebook use machine learning to guess +which messages will be most inflammatory and make a point of shoving those +into your eyeballs at every turn so that you will hate-click and argue with +people. +

+ Perhaps paying would fix this, the reasoning goes. If platforms could be +economically viable even if you stopped clicking on them once your +intellectual and social curiosity had been slaked, then they would have no +reason to algorithmically enrage you to get more clicks out of you, right? +

+ There may be something to that argument, but it still ignores the wider +economic and political context of the platforms and the world that allowed +them to grow so dominant. +

+ Platforms are world-spanning and all-encompassing because they are +monopolies, and they are monopolies because we have gutted our most +important and reliable anti-monopoly rules. Antitrust was neutered as a key +part of the project to make the wealthy wealthier, and that project has +worked. The vast majority of people on Earth have a negative net worth, and +even the dwindling middle class is in a precarious state, undersaved for +retirement, underinsured for medical disasters, and undersecured against +climate and technology shocks. +

+ In this wildly unequal world, paying doesn’t improve the discourse; it +simply prices discourse out of the range of the majority of people. Paying +for the product is dandy, if you can afford it. +

+ If you think today’s filter bubbles are a problem for our discourse, imagine +what they’d be like if rich people inhabited free-flowing Athenian +marketplaces of ideas where you have to pay for admission while everyone +else lives in online spaces that are subsidized by wealthy benefactors who +relish the chance to establish conversational spaces where the «house +rules» forbid questioning the status quo. That is, imagine if the +rich seceded from Facebook, and then, instead of running ads that made money +for shareholders, Facebook became a billionaire’s vanity project that also +happened to ensure that nobody talked about whether it was fair that only +billionaires could afford to hang out in the rarified corners of the +internet. +

+ Behind the idea of paying for access is a belief that free markets will +address Big Tech’s dysfunction. After all, to the extent that people have a +view of surveillance at all, it is generally an unfavorable one, and the +longer and more thoroughly one is surveilled, the less one tends to like +it. Same goes for lock-in: If HP’s ink or Apple’s App Store were really +obviously fantastic, they wouldn’t need technical measures to prevent users +from choosing a rival’s product. The only reason these technical +countermeasures exist is that the companies don’t believe their customers +would voluntarily submit to their terms, and they want +to deprive them of the choice to take their business elsewhere. +

+ Advocates for markets laud their ability to aggregate the diffused knowledge +of buyers and sellers across a whole society through demand signals, price +signals, and so on. The argument for surveillance capitalism being a +«rogue capitalism» is that machine-learning-driven persuasion +techniques distort decision-making by consumers, leading to incorrect +signals — consumers don’t buy what they prefer, they buy what they’re +tricked into preferring. It follows that the monopolistic practices of +lock-in, which do far more to constrain consumers’ free choices, are even +more of a «rogue capitalism.» +

+ The profitability of any business is constrained by the possibility that its +customers will take their business elsewhere. Both surveillance and lock-in +are anti-features that no customer wants. But monopolies can capture their +regulators, crush their competitors, insert themselves into their customers’ +lives, and corral people into «choosing» their services +regardless of whether they want them — it’s fine to be terrible when there +is no alternative. +

+ Ultimately, surveillance and lock-in are both simply business strategies +that monopolists can choose. Surveillance companies like Google are +perfectly capable of deploying lock-in technologies — just look at the +onerous Android licensing terms that require device-makers to bundle in +Google’s suite of applications. And lock-in companies like Apple are +perfectly capable of subjecting their users to surveillance if it means +keeping the Chinese government happy and preserving ongoing access to +Chinese markets. Monopolies may be made up of good, ethical people, but as +institutions, they are not your friend — they will do whatever they can get +away with to maximize their profits, and the more monopolistic they are, the +more they can get away with. +

An «ecology» moment for trustbusting

+ Hvis vi skal bryte Storteknologiens dødsgrep på våre digitale liv, så må vi +bekjempe monopoler. Det høres kanskje ganske dagligdags og gammelmodig ut, +noe , som noe fra New Deal-æraen, mens det å få slutt på bruken av +automatisert atferdsendring oppleves som plottlinjen til en veldig stilig +cyberpunk-roman. +

+ Meanwhile, breaking up monopolies is something we seem to have forgotten how +to do. There is a bipartisan, trans-Atlantic consensus that breaking up +companies is a fool’s errand at best — liable to mire your federal +prosecutors in decades of litigation — and counterproductive at worst, +eroding the «consumer benefits» of large companies with massive +efficiencies of scale. +

+ But trustbusters once strode the nation, brandishing law books, terrorizing +robber barons, and shattering the illusion of monopolies’ all-powerful grip +on our society. The trustbusting era could not begin until we found the +political will — until the people convinced politicians they’d have their +backs when they went up against the richest, most powerful men in the world. +

+ Klarer vi finne igjen den politiske viljen? +

+ Opphavsrettsforskeren James Boyle har beskrevet hvordan begrepet +«økologi» ga et vendepunkt i miljøaktivismen. Før dette +begrepet ble tatt i bruk, så ikke folk som ønsket å ta vare på hvalbestanden +nødvendigvis at de kjempet samme kamp som folk som ønsket å beskytte +ozonlaget, få slutt på ferskvannforurensning, få vekk smog eller sur nedbør. +

+ But the term «ecology» welded these disparate causes together +into a single movement, and the members of this movement found solidarity +with one another. The people who cared about smog signed petitions +circulated by the people who wanted to end whaling, and the anti-whalers +marched alongside the people demanding action on acid rain. This uniting +behind a common cause completely changed the dynamics of environmentalism, +setting the stage for today’s climate activism and the sense that preserving +the habitability of the planet Earth is a shared duty among all people. +

+ Jeg tror vi er på randen av en nytt « økologi»-hendelse for +bekjemping av monopoler. Tross alt er ikke teknologi den eneste +sentralstyrte industrien, og det er heller ikke engang den +mest sentralstyrte bransjen. +

+ You can find partisans for trustbusting in every sector of the +economy. Everywhere you look, you can find people who’ve been wronged by +monopolists who’ve trashed their finances, their health, their privacy, +their educations, and the lives of people they love. Those people have the +same cause as the people who want to break up Big Tech and the same +enemies. When most of the world’s wealth is in the hands of a very few, it +follows that nearly every large company will have overlapping shareholders. +

+ That’s the good news: With a little bit of work and a little bit of +coalition building, we have more than enough political will to break up Big +Tech and every other concentrated industry besides. First we take Facebook, +then we take AT&T/WarnerMedia. +

+ Men her er de dårlige nyhetene: Mye av det vi gjør for å temme +Storteknologien i stedet for å bryte opp de store +selskapene, vil gjøre det vanskeligere å bryte dem opp senere. +

+ Big Tech’s concentration currently means that their inaction on harassment, +for example, leaves users with an impossible choice: absent themselves from +public discourse by, say, quitting Twitter or endure vile, constant +abuse. Big Tech’s over-collection and over-retention of data results in +horrific identity theft. And their inaction on extremist recruitment means +that white supremacists who livestream their shooting rampages can reach an +audience of billions. The combination of tech concentration and media +concentration means that artists’ incomes are falling even as the revenue +generated by their creations are increasing. +

+ Yet governments confronting all of these problems all inevitably converge on +the same solution: deputize the Big Tech giants to police their users and +render them liable for their users’ bad actions. The drive to force Big Tech +to use automated filters to block everything from copyright infringement to +sex-trafficking to violent extremism means that tech companies will have to +allocate hundreds of millions to run these compliance systems. +

+ These rules — the EU’s new Directive on Copyright, Australia’s new terror +regulation, America’s FOSTA/SESTA sex-trafficking law and more — are not +just death warrants for small, upstart competitors that might challenge Big +Tech’s dominance but who lack the deep pockets of established incumbents to +pay for all these automated systems. Worse still, these rules put a floor +under how small we can hope to make Big Tech. +

+ That’s because any move to break up Big Tech and cut it down to size will +have to cope with the hard limit of not making these companies so small that +they can no longer afford to perform these duties — and it’s +expensive to invest in those automated filters and +outsource content moderation. It’s already going to be hard to unwind these +deeply concentrated, chimeric behemoths that have been welded together in +the pursuit of monopoly profits. Doing so while simultaneously finding some +way to fill the regulatory void that will be left behind if these +self-policing rulers were forced to suddenly abdicate will be much, much +harder. +

+ Allowing the platforms to grow to their present size has given them a +dominance that is nearly insurmountable — deputizing them with public duties +to redress the pathologies created by their size makes it virtually +impossible to reduce that size. Lather, rinse, repeat: If the platforms +don’t get smaller, they will get larger, and as they get larger, they will +create more problems, which will give rise to more public duties for the +companies, which will make them bigger still. +

+ We can work to fix the internet by breaking up Big Tech and depriving them +of monopoly profits, or we can work to fix Big Tech by making them spend +their monopoly profits on governance. But we can’t do both. We have to +choose between a vibrant, open internet or a dominated, monopolized internet +commanded by Big Tech giants that we struggle with constantly to get them to +behave themselves. +

Gjør Storteknologien liten igjen

+ Trustbusting is hard. Breaking big companies into smaller ones is expensive +and time-consuming. So time-consuming that by the time you’re done, the +world has often moved on and rendered years of litigation irrelevant. From +1969 to 1982, the U.S. government pursued an antitrust case against IBM over +its dominance of mainframe computing — but the case collapsed in 1982 +because mainframes were being speedily replaced by PCs. +

+ En fremtidig president i USA kunne ganske enkelt be sin justisminister om å +håndheve loven slik den er skrevet. +

+ It’s far easier to prevent concentration than to fix it, and reinstating the +traditional contours of U.S. antitrust enforcement will, at the very least, +prevent further concentration. That means bans on mergers between large +companies, on big companies acquiring nascent competitors, and on platform +companies competing directly with the companies that rely on the platforms. +

+ These powers are all in the plain language of U.S. antitrust laws, so in +theory, a future U.S. president could simply direct their attorney general +to enforce the law as it was written. But after decades of judicial +«education» in the benefits of monopolies, after multiple +administrations that have packed the federal courts with lifetime-appointed +monopoly cheerleaders, it’s not clear that mere administrative action would +do the trick. +

+ If the courts frustrate the Justice Department and the president, the next +stop would be Congress, which could eliminate any doubt about how antitrust +law should be enforced in the U.S. by passing new laws that boil down to +saying, «Knock it off. We all know what the Sherman Act says. Robert +Bork was a deranged fantasist. For avoidance of doubt, fuck that +guy.» In other words, the problem with monopolies is +monopolism — the concentration of power into too few +hands, which erodes our right to self-determination. If there is a monopoly, +the law wants it gone, period. Sure, get rid of monopolies that create +«consumer harm» in the form of higher prices, but also, +get rid of other monopolies, too. +

+ But this only prevents things from getting worse. To help them get better, +we will have to build coalitions with other activists in the anti-monopoly +ecology movement — a pluralism movement or a self-determination movement — +and target existing monopolies in every industry for breakup and structural +separation rules that prevent, for example, the giant eyewear monopolist +Luxottica from dominating both the sale and the manufacture of spectacles. +

+ In an important sense, it doesn’t matter which industry the breakups begin +in. Once they start, shareholders in every industry +will start to eye their investments in monopolists skeptically. As +trustbusters ride into town and start making lives miserable for +monopolists, the debate around every corporate boardroom’s table will +shift. People within corporations who’ve always felt uneasy about monopolism +will gain a powerful new argument to fend off their evil rivals in the +corporate hierarchy: «If we do it my way, we make less money; if we do +it your way, a judge will fine us billions and expose us to ridicule and +public disapprobation. So even though I get that it would be really cool to +do that merger, lock out that competitor, or buy that little company and +kill it before it can threaten it, we really shouldn’t — not if we don’t +want to get tied to the DOJ’s bumper and get dragged up and down Trustbuster +Road for the next 10 years.» +

20 GOTO 10

+ Fixing Big Tech will require a lot of iteration. As cyber lawyer Lawrence +Lessig wrote in his 1999 book, Code and Other Laws of +Cyberspace, our lives are regulated by four forces: law (what’s +legal), code (what’s technologically possible), norms (what’s socially +acceptable), and markets (what’s profitable). +

+ Hvis du kunne svinge en tryllestav å få kongressen til å vedta en lov som +vedtok Sherman-loven på nytt i morgen, så kunne du bruke den påfølgende +oppsplittingen til å overbevise risikokapitalister om å finansiere +konkurrentene til Facebook, Google, Twitter og Apple som ville vente i +utkanten etter at disse ble gjort mindre. +

+ Men å få kongressen til å gjøre noe vil kreve en massiv normativ endring, en +massebevegelse av folk som bryr seg om monopoler — og hvordan bryte dem opp. +

+ Getting people to care about monopolies will take technological +interventions that help them to see what a world free from Big Tech might +look like. Imagine if someone could make a beloved (but unauthorized) +third-party Facebook or Twitter client that dampens the anxiety-producing +algorithmic drumbeat and still lets you talk to your friends without being +spied upon — something that made social media more sociable and less +toxic. Now imagine that it gets shut down in a brutal legal battle. It’s +always easier to convince people that something must be done to save a thing +they love than it is to excite them about something that doesn’t even exist +yet. +

+ Neither tech nor law nor code nor markets are sufficient to reform Big +Tech. But a profitable competitor to Big Tech could bankroll a legislative +push; legal reform can embolden a toolsmith to make a better tool; the tool +can create customers for a potential business who value the benefits of the +internet but want them delivered without Big Tech; and that business can get +funded and divert some of its profits to legal reform. 20 GOTO 10 (or +lather, rinse, repeat). Do it again, but this time, get farther! After all, +this time you’re starting with weaker Big Tech adversaries, a constituency +that understands things can be better, Big Tech rivals who’ll help ensure +their own future by bankrolling reform, and code that other programmers can +build on to weaken Big Tech even further. +

+ The surveillance capitalism hypothesis — that Big Tech’s products really +work as well as they say they do and that’s why everything is so screwed up +— is way too easy on surveillance and even easier on capitalism. Companies +spy because they believe their own BS, and companies spy because governments +let them, and companies spy because any advantage from spying is so +short-lived and minor that they have to do more and more of it just to stay +in place. +

+ As to why things are so screwed up? Capitalism. Specifically, the monopolism +that creates inequality and the inequality that creates monopolism. It’s a +form of capitalism that rewards sociopaths who destroy the real economy to +inflate the bottom line, and they get away with it for the same reason +companies get away with spying: because our governments are in thrall to +both the ideology that says monopolies are actually just fine and in thrall +to the ideology that says that in a monopolistic world, you’d better not +piss off the monopolists. +

+ Overvåkning får ikke kapitalismen ut av kontroll. Kapitalismens +ukontrollerte styre startet før overvåkningen. Overvåkning er ikke ille +fordi det lar folk manipulere oss. Den er ille fordi den knuser vår mulighet +til å være oss selv — og fordi det lar de rike og mektige finne ut hvem som +kan vurdere å bygge gilliotiner og hvilken dritt de kan bruke for å +diskredittere disse potensielle gilliotin-byggerne før de i det hele tatt +kommer seg til treverkforhandleren. +

Up and through

+ Men alle problemene med Storteknologien, så er det fristende å forestille +seg å løse problemet ved å gå tilbake til en verden helt uten teknologi. Stå +imot den fristelsen. +

+ The only way out of our Big Tech problem is up and through. If our future is +not reliant upon high tech, it will be because civilization has fallen. Big +Tech wired together a planetary, species-wide nervous system that, with the +proper reforms and course corrections, is capable of seeing us through the +existential challenge of our species and planet. Now it’s up to us to seize +the means of computation, putting that electronic nervous system under +democratic, accountable control. +

+ Jeg er også, i smug, på tross av det jeg tidligere har sagt, en +teknologieksepsjonalist. Ikke på den måten at jeg tenker at teknologi bør få +lov til å danne monopoler fordi det har «stordriftsfordeler», +eller andre tåkeforklaring. Jeg er teknologieksepsjonalist fordi jeg tror +det betyr noe å gjøre det riktig med teknologi, og at å gjøre det feil vil +være en ubøtelig katastrofe — og det å gjøre det riktig kan gi oss evnen til +å jobbe sammen om å redde sivilisasjonen, arten og planeten vår. +