Er vi på vei mot en stabil dystopi? Jeg har tenkt på hvordan AI kommer til å forme samfunnet, og ett spesielt scenario virker som et utfall med høy sannsynlighet for meg. Slik kan det utspille seg: • AI automatiserer mer og mer av menneskelig arbeid • Avkastningen fra denne automatiseringen flyter tilbake til kapitaleierne, noe som gjør dem rikere • Etter hvert som inntektene til massene synker, ignorerer/avskaffer staten inntektsskatt, men beskatter i stedet selskapsinntekt / formue for sine behov • Rich isolerer seg (slik de gjør) og bruker AI-drevne droner/roboter for å beskytte seg • Dette tar all makt bort fra massene – > regjeringene bryr seg mindre om massene ettersom deres bidrag til skattene minker, og de kan ikke engang gjøre opprør fordi de står overfor AI-sikkerhetsstyrker • En minimal form for UBI gis til massene i moralens navn • All fremtidig sosial mobilitet stopper, og dagens maktstrukturer fryses for alltid Kort sagt, de mektige og rike skaper et parallelt samfunn, og sosial mobilitet stopper fordi kapitaleierne/maktmeglerne kontrollerer AI-en som gjør økonomisk arbeid (og hindrer andre i å klatre opp). Man kan hevde at dette har skjedd gradvis, men i dag har massene fortsatt makt på grunn av deres arbeidsinnsats og deres evne til fysisk å gjøre opprør mot eliten. Men AI har potensial til å endre den maktbalansen, og det ser ut til å være dit vi dessverre er på vei. /syndikert

Merk at dette scenariet sannsynligvis er standard, men ikke fastlåst. Jeg tror menneskeheten fortsatt har en sjanse til å ikke gi fra seg makten til eliten og/eller AI. En utvei er å spre AI nok i åpen kildekode til at tilgangen til den er demokratisk (men skaleringslover antyder at større modeller alltid kan overmanne mindre!). En annen er selvfølgelig å stoppe AI-utvikling (men jeg tror ikke det kommer til å skje; mennesker er for nysgjerrige til å stoppe). Hva tenker du om dette scenariet? Plausibelt? Hvordan sikrer vi at dette ikke skjer?