糖果派对

Det er algoritmer, der fodrer vores hjerner p氓 sociale medier. Algoritmer styrer ogs氓 aktiemarkederne og tr忙ffer beslutninger om, hvilken behandling vi skal tilbydes p氓 hospitalerne. Snart er de ogs氓 med til at beslutte hvilke produkter, der udvikles.

鈥� Der er sat et algoritme-kapl酶b i gang. Alle store virksomheder taler om det. Jeg siger, at om fem 氓r vil store virksomheders beslutninger vedr酶rende innovation og investeringer v忙re st酶ttet af algoritmer og kunstig intelligens, siger professor Alf Rehn fra Institut for Teknologi og Innovation.

Han er med i projektet 鈥橝lgoritmer, Data og Demokrati鈥�, hvor forskere har modtaget 100 millioner kroner fra VILLUM FONDEN og VELUX FONDEN til at unders酶ge, hvordan kunstig intelligens p氓virker demokratiet.

鈥� Vi taler meget om dark data. N氓r vi bruger Google, ved vi ikke, hvilke datas忙t Google bruger for at finde de rigtige informationer. Det er dark data. I takt med, at algoritmerne bestemmer mere og mere, er det vigtigt at diskutere de datas忙t, vi putter ind i algoritmerne, og deres gennemsigtighed, understreger Alf Rehn.

Leget酶j til hvide m忙nd

Som professor i innovation er Alf Rehn bekymret for, at vi g氓r glip af vigtig udvikling, n氓r algoritmerne skal grovsortere projekterne. Hvis vi ikke er meget bevidste om egne blinde vinkler i den data, vi kl忙der algoritmerne p氓 med, ender vi med at reproducere flere af de produkter, vi i forvejen har.

鈥� Vi kalder det innovation bias. Hvis algoritmerne t忙nker; Vi har altid udviklet leget酶j til Alf, s氓 nu forts忙tter vi med at udvikle ting til Alf, s氓 er der mange mennesker i verden, som ikke nyder godt af denne innovation, siger Alf Rehn, som er en 48-氓rig h酶jtuddannet hvid mand.

Han peger p氓, at langt st酶rstedelen af udviklingen i dag sker for at tilfredsstille en minoritet: nemlig den privilegerede midaldrende vestlige mands behov for underholdning og for ikke at blive for tyk eller tabe h氓ret. Samtidig d酶r over 700.000 b酶rn af diarr茅 hvert 氓r.

鈥� Hvis algoritmerne ikke forst氓r de store problemer i verden og fortsat udvikler leget酶j til mig, giver det globale demokratiske problemer.

鈥� Det er mennesker, der styrer det datagrundlag, som algoritmerne tr忙ffer beslutninger ud fra, derfor er det hamrende vigtigt, at vi diskuterer algoritmers gennemsigtighed og beslutningsgrundlag, f酶r de bliver l氓st fast, siger Alf Rehn.

Er algoritmer racistiske?

Et forskningsresultat fra M.I.T Media Lab er et lysende eksempel p氓, at algoritmer ikke er klogere, end det datas忙t de bliver tr忙net med. Efter at have unders酶gt en bred vifte af ansigtsgenkendelsesteknologier kunne forskere i 2018 konkludere, at teknologierne havde meget lettere ved at identificere en hvid mand end nogen anden kombination af hudfarve og k酶n.

Det samme gjorde sig g忙ldende, da Google i 2015 m氓tte undskylde, fordi en algoritme kategoriserede billeder af m酶rke mennesker som gorillaer.

鈥� Det er ikke fordi algoritmen er racist, men algoritmen kommer til at reproducere de ubevidste bias, som de, der udvikler algoritmerne, har. Hvis vi ikke forst氓r algoritmens begr忙nsninger, s氓 er der risiko for, at vi mister en hel gren af udvikling, fordi algoritmen er programmeret til at fort忙tte med at udvikle leget酶j til Alf, forklarer Alf Rehn og forts忙tter:

鈥� Jeg siger ikke, at det hele bliver meget v忙rre med algoritmestyret innovation. Faktisk har vi en gylden mulighed for, at det bliver bedre, men det sker ikke af sig selv.

鈥� Det sker kun, hvis vi er bevidste om blinde vinkler og forholder os kritisk omkring den data, vi fodrer algoritmen med. Hvis det lykkes, er der mulighed for, at algoritmer vil tr忙ffe bedre valg, end de valg mennesker tr忙ffer i dag.