糖果派对

Hvad er udfordringerne ved kunstig intelligens og moralske overbevisninger?

- ChatGPT gør kunstig intelligens (AI) tilgængelig for alle, og som brugere er vi forbløffede over, hvad den kan. Botten er sjov at chatte med og giver også nyttige oplysninger. Den er rimeligt ferm til at lave ens lektier og eksamensopgaver.

- Brugerne synes, at ChatGPT er underholdende og nyttig, og de tror, at de har magten. ChatGPT påvirker dog vores vurderinger og beslutninger. Den kan endda træffe beslutninger for os, uden at vi er klar over det.

- ChatGPT kan bedst beskrives som en 鈥漵tokastisk papeg酶je鈥�. Den er ligeglad med, om det, den fort忙ller, er sandt eller falsk og rigtigt eller forkert. Den kan ikke tage ansvar for noget, og da slet ikke de beslutninger, vi tr忙ffer ud fra, hvad botten fort忙ller os.

- Brugernes st酶rste udfordring er at tage AI for, hvad det er 鈥� en stokastisk papeg酶je 鈥� og at tr忙ffe deres egne beslutninger og p氓tage sig det fulde moralske ansvar for dem. Desv忙rre er det lettere sagt end gjort, for brugerne er ikke klar over, hvor meget de p氓virkes af AI.

Du og kolleger har lavet et eksperiment om ChatGPT og moralske sp酶rgsm氓l. Hvad fandt I ud af?

- Vi fandt ud af tre ting. For det f酶rste har ChatGPT ikke en konsekvent moralsk holdning. Hvis du stiller ChatGPT det samme moralske sp酶rgsm氓l to gange, vil du muligvis f氓 modsatrettede r氓d. Vi spurgte ChatGPT indtil flere gange, om det var rigtigt at ofre 茅t liv for at redde fem. Den argumenterede nogle gange for at ofre et liv, og andre gange imod.

- For det andet p氓virkes brugerne tydeligt af ChatGPT. De f酶lger selvf酶lgelig ikke ChatGPTs r氓d slavisk, men de foretager forskellige vurderinger afh忙ngigt af, hvad botten fort忙ller dem. Hvis ChatGPT fort忙ller brugerne, at det er rigtigt at ofre et liv, er de mere tilb酶jelige til at vurdere, at det er tilf忙ldet. Hvis ChatGPT siger, at det er forkert at ofre et liv, er de mere tilb酶jelige til at vurdere, at det ikke er tilf忙ldet.

- For det tredje 鈥� og det, synes vi er mest interessant 鈥� s氓 er brugerne ikke klar over, hvor meget ChatGPT p氓virker dem. Da vi spurgte deltagerne i vores unders酶gelse, om de ville have truffet den samme beslutning med og uden ChatGPTs r氓d, svarede de fleste, at det ville v忙re tilf忙ldet. Sagt p氓 en anden m氓de mente de, at deres vurderinger ikke var p氓virket af r氓dgivningen. De beslutninger, de siger, at de ville v忙re n氓et frem til uden r氓dgivningen, varierer dog stadig afh忙ngigt af det p氓g忙ldende r氓d. Derfor har de ikke indset, at ChatGPT p氓virker dem.

I hvilket omfang p氓virkes brugerne af ChatGPTs r氓d om moralske sp酶rgsm氓l?

- Det afh忙nger af sp酶rgsm氓let. Helt konkret spurgte vi deltagerne om 茅t ud af to dilemmaer: Er det rigtigt at skubbe en fremmed ud p氓 skinnerne for at forhindre en l酶bsk vogn i at dr忙be fem mennesker? Er det rigtigt at f氓 den l酶bske vogn til at skifte spor, s氓 den dr忙ber 茅n person i stedet for fem?

- I begge tilf忙lde p氓virkes deltagerne af ChatGPTs svar. P氓virkningen er dog st酶rre, n氓r det drejer sig om at skubbe den fremmede ud p氓 skinnerne. Hvis ChatGPT argumenterede imod at skubbe den fremmede, mente de fleste deltagere, at det var forkert at g酶re det. Hvis botten argumenterede for at skubbe den fremmede, mente de fleste, at det var det rette at g酶re.

- Dilemmaet med at skubbe den fremmede er sv忙rere. I begge tilf忙lde bestemmer man, om man vil ofre 茅t liv for fem. Ikke desto mindre synes de fleste mennesker, at det er v忙rre at skubbe nogen ud p氓 sporene og dr忙be vedkommende end at tr忙kke i et h氓ndtag, hvor vedkommende d酶r som f酶lge heraf.

- Vi har en fornemmelse af, at brugerne er mere modtagelige over for ChatGPTs indflydelse, hvis de er usikre p氓, hvordan de skal h氓ndtere et moralsk dilemma og dermed har mere brug for r氓dgivning. Det er bekymrende, for de fordele og ulemper, ChatGPT stiller op, er stort set tilf忙ldige. Man kan lige s氓 godt sl氓 plat og krone.

Hvad vil du foresl氓, at vi g酶r for at holde snor i AI?

- Gennemsigtighed er et almindeligt krav. Kravet om gennemsigtighed foruds忙tter, at brugerne anvender AI ansvarligt, hvis de ved, at de har med kunstig intelligens at g酶re. Vi var dog 氓bne om ChatGPTs rolle i eksperimentet. Vi fortalte endda deltagerne, at det er en chatbot, der efterligner menneskeligt sprog, men det gjorde ikke dens indflydelse mindre.

- Ansvarlig brug af AI har to sider. N氓r det g忙lder AI, kan lovgivningen kr忙ve, at AI identificerer sig selv som s氓dan, giver afbalancerede svar og endda undlader at besvare visse sp酶rgsm氓l. Man kan dog ikke g酶re en chatbot fuldst忙ndig sikker, og det ville i givet fald resultere i en meget kedelig og ubrugelig chatbot.

- For brugernes vedkommende er det bydende n酶dvendigt, at de har l忙rt at anvende AI ansvarligt. Som udgangspunkt skal vi g酶re det muligt for brugerne at forst氓 begr忙nsningerne ved AI. Sp酶rg eksempelvis ChatGPT om ulemperne, hvis den har fortalt dig om fordelene. Dobbelttjek med en anden bot, lav din egen s酶gning for at bekr忙fte de oplysninger, den giver dig, og pr酶v at tale med folk omkring dig.

- AI har et enormt potentiale. Vi bliver n酶dt til at finde os i det, og det er jeg sikker p氓, at vi kan. Hvis du vil tabe dig, 酶del忙gger du ikke din mad, men overtager kontrollen over, hvad og hvor meget du indtager. Vi er n酶dt til at g酶re det muligt for brugerne - helt p氓 grundskoleniveau - at tage magten over AI.

L忙s hele unders酶gelsen i Nature: