Det finns någonting nästan poetiskt över Amazons senaste påhitt. Inte vackert poetiskt, alltså. Mer dystopisk skräckroman.
I Ray Bradburys roman Fahrenheit 451 bränns böcker för att hålla människor okunniga. Dryga 70 år senare har Amazon hittat en modernare metod. Man skär sönder böckerna, skannar innehållet och matar det till AI. Böckerna förstörs ändå. Skillnaden är att den här gången kallas det innovation och det behövs ingen eld.
Det låter som början på en dystopisk roman om ett gigantiskt teknikföretag som tappat all respekt för mänsklig kultur. Problemet är bara att romanen redan hade blivit uppköpt av Amazon, fått ryggen avskuren och matats in i en serverhall.
Historien kommer från 404 Media, som gjorde något alldeles briljant. De placerade en AirTag i en samling begagnade böcker för att se vart de tog vägen. Att 404 Medias spårsändare dessutom hamnade i en sällsynt bok gör knappast historien mindre bisarr.
Slutdestinationen? En Amazon-anläggning i Las Vegas kallad VGT3.
Enligt Amazon-anställda som 404 Media talat med tar anläggningen emot enorma mängder tryckta böcker. Bindningen skärs bort så att sidorna snabbt kan skannas maskinellt. Böckerna förstörs alltså för att deras innehåll ska kunna digitaliseras.
Och naturligtvis har VGT3 en logotyp. En dinosaurie som håller en bok. Ibland skriver satiren faktiskt sig själv.
Men egentligen är böckerna inte det mest intressanta. Det intressanta är inställningen.
För Amazons bokslakt passar nästan kusligt väl in i en kultur som vuxit fram hos några av världens största teknikföretag.
Allting är en resurs. Våra inköp är data. Våra sökningar är data. Våra bilder är data. Våra vänner är data. Våra konversationer är data. Våra böcker är data. Och längst bort i kedjan finns nästan alltid samma fråga: Hur kan vi tjäna pengar på det här?
Facebook var länge den kanske tydligaste symbolen för den här ekonomin. Vi fick ett fantastiskt (nåja) verktyg där vi kunde prata med gamla klasskamrater, dela bilder på vad vi åt till frukost, lunch och middag, berätta vilka filmer vi gillade samt gratulera kreti och pleti på födelsedagen.
I gengäld fick Facebook en fullständigt häpnadsväckande mängd information om oss.
Sedan kom Cambridge Analytica.
Det är värt att vara exakt här, eftersom historien ofta förenklas till att Facebook “sålde våra uppgifter till Cambridge Analytica”. Det var inte vad som hände. Genom en tredjepartsapp samlades information in från tiotals miljoner Facebook-användare och hamnade sedermera hos Cambridge Analytica. Skandalen avslöjade framför allt hur häpnadsväckande mycket information Facebooks system hade gjort tillgänglig och hur dålig kontrollen över den kunde vara.
Information om människor som aldrig själva hade lämnat uppgifter till Cambridge Analytica kunde dras med eftersom deras Facebook-vänner hade använt en app.
Och Cambridge Analytica blev knappast slutet på Metas problem med integritet och personuppgifter. Företaget har sedan dess fått enorma GDPR-böter i Europa och gång på gång hamnat i konflikt med myndigheter kring hur personuppgifter hanteras.
Ändå fortsätter vi. Instagram behöver ju trots allt veta vilken reklam vi vill se.
Jeff Bezos Amazon gjorde något fullständigt fantastiskt: de byggde en maskin som kan få nästan vad som helst att dyka upp utanför din dörr på rekordtid, men någon måste göra jobbet.
Bakom den magiska Köp nu-knappen finns lagerarbetare, chaufförer, algoritmer, övervakning och produktivitetsmål.
Amazon har under många år fått hård kritik för arbetsförhållandena på sina lager. Anställda har beskrivit en arbetsmiljö där prestation mäts minutiöst, där toalettbesök knappt hinns med och där tempot styrs av system som vet exakt hur mycket varje person producerar.
Amazon använder dessutom i stor utsträckning så kallade Delivery Service Partners. Det innebär att många av människorna som kör omkring i Amazon-märkta fordon, bär Amazon-uniform och levererar Amazon-paket inte är anställda av Amazon utan av fristående företag som kontrakterats för leveranserna.
Amazon kan sätta mycket av ramen kring hur leveranserna ska fungera, medan ett annat företag formellt är arbetsgivare.
Så fascinerande, faktiskt, att amerikanska myndigheter och domstolar har fått ägna tid åt frågan om hur långt Amazons arbetsgivaransvar egentligen sträcker sig.
Sedan exploderade generativ AI. Plötsligt behövde teknikindustrin någonting i nästan obegränsade mängder: Text. Bilder. Musik. Video. Kunskap. Kort sagt sådant som människor har ägnat sina liv åt att skapa.
Problemet är att internet inte är en bottenlös brunn av högkvalitativt material. Och en AI-modell blir inte nödvändigtvis fantastisk på språk av fyra miljarder Facebook-kommentarer, där 50 procent gått i ”livets hårda skola”, där skribenternas renons på stringens och elokvens är legio.
Böcker är däremot fantastiska. De är redigerade. De är strukturerade. De innehåller genomarbetat språk, resonemang, berättelser, fakta och idéer.
Så Amazon köper böcker. Och sedan tar de fram kniven.
Inte för att en förstörd bok i sig är världens största teknikskandal, utan för att den är en så perfekt illustration av hur delar av teknikindustrin har börjat betrakta världen.
Boken har inget egenvärde. Den är en behållare. Innehållet är det värdefulla. Extrahera innehållet. Mata maskinen. Och släng resterna. Och någonstans i en serverhall blir ännu en AI-modell några promille bättre.
Det är samtidigt väldigt lätt att bli imponerad av företagen. Amazon är vansinnigt bekvämt. Instagram är underhållande. WhatsApp är (var?) fantastiskt. AI är bland det mest spännande som hänt datorvärlden under min livstid.
Problemet med Meta och Amazon är inte att de gör dåliga produkter. Problemet är att de gör väldigt bra produkter. Så bra att vi gång på gång accepterar saker från dem som hade fått oss att springa skrikande åt andra hållet om ett mindre företag gjort samma sak.
Vi accepterar spårningen eftersom Instagram är gratis.
Vi accepterar arbetsmodellerna eftersom paketet kommer imorgon.
Vi accepterar datainsamlingen eftersom tjänsterna är praktiska.
Och nu riskerar vi att acceptera nästan vad som helst eftersom det finns två bokstäver som för tillfället får investerare att tappa all sans: AI.
Var går gränsen? Jag är inte emot AI, tvärtom. AI kan bli en av de mest betydelsefulla tekniska förändringarna sedan internet, men just därför borde vi ställa högre krav på företagen som bygger den. Inte lägre.
Att något går att samla in betyder inte automatiskt att det borde samlas in. Att något går att mäta betyder inte att människan bakom siffran saknar betydelse och att någonting går att stoppa in i en AI-modell betyder inte att det självklart ska hamna där.
Teknikindustrin älskar ordet disruption. Gamla strukturer ska rivas ned. Gamla regler ska utmanas. Gamla affärsmodeller ska dö. Ibland behövs det. Men allt för ofta är det som kallas disruption bara ett väldigt fint ord för: “Vi hittade ett sätt att göra det här innan någon hann stoppa oss.”
Och därför återkommer jag till den där logotypen. En dinosaurie med en bok i händerna. Jag vet inte vem som ritade den, men personen borde nästan få bonus. För jag kan inte tänka mig en bättre symbol för hela historien. En gigant från en annan tid håller mänsklighetens samlade kunskap mellan händerna medan världen förändras runt omkring den.
Fast Amazons dinosaurie läser inte boken. Den äter den.
Ray Bradbury trodde att framtidens makthavare skulle behöva bränna böckerna. Han hade fel.
Det räckte tydligen att kalla det AI.
