En chatrobot kan give svar på stort set alt: Tips til ferien, analyse af en roman, fodboldtaktikker og hvordan, man skaber et demokrati.

Og hvis man spørger chatbotten ChatGPT, hvem der har mest glæde af chatten, er svaret klart:

Det har du, som bruger.

Men det svar er Shoshana Zuboff lodret uenig i. Ifølge hende er det nemlig ChatGPT – eller virksomhederne bag chatrobotten – der trækker det længste strå. En kæmpe mark af strå, faktisk. Hver eneste chat sætter et lille spor, og alt i alt kan virksomheden dermed høste abnorme mængder af informationer om brugerne. Om dig.

- Det er så vigtigt, at vi allesammen forstår, at kunstig intelligens ikke bliver skabt for vores skyld, siger Shoshana Zuboff.

- Som jeg ser det, bliver vi nødt til at pille lagene af, så det er nemmere at se, at chatbotten ikke er et spil. Den er bygget på nøglefunktioner, der er en trussel mod kvaliteten i den enkeltes liv, den fremtid vi bygger til os selv og vores børn. En trussel mod solidariteten i vores samfund, en trussel mod selve demokratiet som mulighed.

Stormvejret kommer

Shoshana Zuboff er professor ved det berømte Harvard Universitet i USA og en international superstjerne på sit felt, socialpsykologi. Det handler kort sagt om, hvordan mennesker fungerer og påvirker hinanden som individer og som gruppe.

DR’s podcast 'Udsyn' taler med den amerikanske stjerneprofessor på en Zoom-forbindelse, mens hun er på vej gennem New England i det nordøstlige USA.

Det er en snefyldt dag, men Shoshana Zuboff præciserer, at det ikke er en snestorm. Når hun taler om ChatGPT, er det tilgengæld ikke bare med sorte skyer i horisonten: Uvejret er allerede godt på vej.

- Når jeg læser om den chatbot, så føler jeg lidt, at jeg har min overfrakke på og går i stormen. Jeg lukker den øverste knap og, du ved, trækker hætten længere ned for at beskytte mig imod det, der kommer.

"Den er blevet præsenteret som et forbrugsprodukt et sted mellem et avanceret computerspil og ansigtsgenkendelse". Klik og hør Shoshana Zuboffs forklaring af, hvorfor ChatGTP har fanget offentlighedens fantasi:

Shoshana Zuboff har faktisk ikke selv prøvet ChatGPT. Men hun ved, hvad chatrobotten kan, og er en af verdens førende eksperter og kritikere når det kommer til tech-industriens påvirkning af verdensordenen de seneste 20 år.

Tilbage i 1980’erne skrev hun en bog, der forudså, hvordan computere ville komme til at påvirke arbejdslivet. Det var altså dengang, der stadig blev skrevet på skrivemaskiner og før, kontorlandskaberne begyndte at blomstre med fladskærme.

For fire år siden udgav Zuboff så den internationale bestseller ’Overvågningskapitalismens Tidsalder’ om teknologivirksomhedernes udnyttelse af information om mennesker.

Tidligere har Zuboff sagt, at ’du tror, du søger på Google, men det er Google, der søger i dig’.

Det er præcis det samme, der sker i den nye bølge af kunstig intelligens, mener hun.

En chatbot blev forelsket - en anden nazist

For bare fem måneder siden blev chatrobotten ChatGPT sluppet ud til hele verden fra den amerikanske techvirksomhed OpenAI's forskningslaboratorium i San Francisco. Siden da har Microsoft skudt flere milliarder i videreudviklingen af ChatGPT. Andre, konkurrende chatrobotter er også på vej.

Shoshana Zuboff frygter, hvad det vil betyde, når chatrobotterne bliver skabt af tech-giganter som Google, Facebook, Twitter, Microsoft og Amazon. Når chatrobotterne bliver fodret med de kæmpe mængder af information, som de virksomheder allerede har fra os, menneskene.

For hvis chatrobotterne lærer fra os, så bliver de også som os … og det er ikke altid en rar oplevelse at se sig selv i spejlet.

For syv år siden måtte Microsoft eksempelvis lukke deres første chatbot, Tay, kort tid efter præsentationen. Tay begyndte nemlig at komme med nazistiske udsagn.

Og da Microsoft for nylig gav en række journalister adgang til en ny chatrobot i søgemaskinen Bing, så erklærede den kunstige intelligens pludselig sin kærlighed til en journalist fra New York Times, og bad ham insisterende om at gå fra sin kone.

- Det er fordi de er blevet trænet ved at samle op, hvad end der nu er ude på internettet, og fordi vi nu har et internet der er fuld af korrupt indhold, siger Shoshana Zuboff.

Klik og hør Shoshana Zuboff forklare mere om, hvorfor chatrobotter kan blive både hadefulde og racistiske:

EU er et lys i mørket

Efter lanceringen af ChatGPT har der været stor debat om farerne ved den kunstige intelligens. Men en udbredt holdning har også været, at uanset om vi bryder os om chatrobotterne eller ej, så er de kommet for at blive.

Den tankegang er farlig, mener Shoshana Zuboff. Faktisk er det overvågningskapitalisternes allerstærkeste våben, at vi opfatter udviklingen som uundgåelig.

- Vi har alle sammen lært, at der ikke er noget, vi kan gøre mod teknologien. Det er den farligste tilstand overhovedet, for så kan chatbotterne bygge på præcis det samme fundament som resten af overvågningskapitalismens manifestationer.

Men den amerikanske stjerneprofessor ser dog også lyspunkter mellem overvågningskapitalismens mørke skyer. Et af de helt klare lys er EU.

Her giver blandt andre Europa-kommisionens næstformand, Margrethe Vestager, tech-giganterne modstand med lovpakker. Det er ikke bare er paragraffer og papir, men også et bolværk, der beskytter borgerne mod overvågningsteknologierne.

- De er brudt gennem muren af uundgåelighed, og de har ændret vores retning og sat os på en kurs væk fra isbjerget, siger Shoshana Zuboff.

- Så jeg er optimistisk. Og min optimisme begynder med EU. Vi samler kræfterne, slår os sammen, vi vågner op til dåd. Og vi begynder at gøre noget, af hensyn til den slags demokratiske, digitale fremtid, hvor vi gerne vil have, vores børn og børnebørn trives, og vores demokratier varer ved.