”Alle modeller er forkerte, men det gør dem ikke unyttige”

LATTERLIGE ALGORITMER. I andet afsnit af serien tryk på samtiden taler Marie Meier med ph.d. og lektor Miguel Sicart fra IT-universitetet og professor Irina Shkolvski fra datalogisk institut KU om den stigende brug af og tro på kunstig intelligens og statistiske modeller. De to forskere fortæller, hvorfor de behandler den blinde tro på ny teknologi som en joke, men stadig tager den dybt alvorligt.

Af Marie Meier
Billeder af Michael Dziedzic, bearbejdet af Pernille Ploug og Elisabeth Colding

Algoritmer er et ord, der er kommet for at blive. Algoritmer styrer ikke alene de sociale medier. De er også med til at forme vores hverdag på afgørende måder, og den tiltagende brug af kunstig intelligens er i færd med at blive implementeret i diverse velfærdsstatslige systemer, i kommuner, jobcentre og i sundhedsvæsnet.1 Et konkret eksempel er, når banker laver en kreditvurdering. Her er det sjældent et menneske, der ser tallene igennem og afgør, hvad du får lov til at låne.

I april 2021 lancerede EU en ny ramme for brugen af A.I. (’artifical intelligence’, red.), hvis formål er at sikre tillid til teknologien i sociale systemer. Samtidig præsenterede kommissionen en oversigt over de forskellige grader af risiko, som A.I. medfører inden for forskellige områder. Som EU-kommissær for det internationale marked Thierry Breton udtrykker det, har A.I. koblet med ny computerteknologi nået nye højder, og brugen af algoritmer rummer et kæmpe potentiale, men også et behov for styring og kontrol.2

På den baggrund lyder det måske overraskende, at to forskere fra henholdsvis IT-Universitetet og datalogisk institut på Københavns Universitets er i færd med at forske i, hvor ”latterlige” og ”fejlfyldte” algoritmer egentlig er. Ifølge Miguel Sicart og Irina Shkolvski er deres arbejde en slags joke, men en joke, der samtidig skal tages gravalvorligt. De to forskere ser nemlig en tendens i vores tro på teknologiske fremskrift, der nærmer sig det religiøse. Deres forskning går derfor ud på at blotlægge, hvor meget magisk tænkning, der egentlig er på spil. Som Miguel forklarer:

”Udgangspunktet er, at vi tager software alt for seriøst. Det handler om vores tro på teknikken, og den mening, vi tilskriver de tekniske platforme”.

I stedet for kun at holde akademiske foredrag er det en bevidst strategi, at Miguel og Irina også udstiller softwarens latterlige sider ved sideløbende at producere morsomme og unyttige apps. Et første eksempel på en sådan app er The stupid step tracker eller ’den stupide skridtmåler’, som man nok ville kalde den på dansk.

Miguel uddyber ideen bag appen nogenlunde sådan her: De meget udbredte skridtmålere, som mange løbe-entusiaster bruger, måler egentlig ikke vores reelle skridt. Det er et ”standard” skridt, der bliver målt. Med andre ord er det gennemsnittet af alle de mennesker, der har brugt systemets skridttæller, der er målestok. Dette giver, forståeligt nok, et lidt mudret billede af virkeligheden. For at belyse det ”problem”, lavede han derfor en digital skridttæller, der hver dag opererer ud fra en ny definition af, hvad et skridt er. Det gav en hel anden måling, men som på sin egen måde er mindst lige så sandfærdig.

En anden app er Probably NOT, der lærer dig at se på verden med et algoritmisk blik. Man tager et billede og app’en fortæller dig herefter, hvad det sandsynligvis ikke forestiller. Denne app udnytter – og udstiller – den sandsynlighedens logik, der gemmer sig i software.3

En tredje app, forskerne har produceret, udspringer af den teknologi, der hurtigt blev udviklet til at styre vores adfærd under corona-pandemien: Den såkaldte, og allerede udskældte, smittestop-app, der skulle hjælpe med at opspore smittede. Miguel vil ikke kritisere den app, og understreger, at han opfordrer alle til at bruge den. Alligevel udtænkte han i stedet en app, der helt sikkert, rent logisk, ville have haft en større effekt: Away. Hvis man har installeret denne app på sin mobil, så vil den skrige og vibrere, hver eneste gang man kommer tættere end to meter på et andet menneske. Dette ville jo, logisk set, være et bedre værktøj til at begrænse smitten. Men den ville nok passe dårligere ind i den menneskelige kultur og omgangsform.

Formålet med deres forskning er at pege på den slags paradokser. Som Miguel formulerer det, er han dybt optaget af misforståelser og at lave de forkerte ting på den rigtige måde, og de rigtige ting på den forkerte måde. Som han understreger, ”alle modeller er forkerte, men det gør dem ikke unyttige”.

Hos de to forskere handler det altså hverken om at gøre os teknikforskrækkede eller at udbrede budskabet om, at mennesker er bedre end maskiner. Tværtimod. Ved at udstille og gøre grin med de latterlige sider af software og algoritmer ønsker de at pille ved den almindelige tro på, at bare vi udvikler den rette teknologi, så vil vi være i stand til at redde verden. En forestilling, de ofte møder i deres eget felt og i det naturvidenskabelige miljø generelt.

Deres hovedpointe er, at menneskets bias, fordomme og tidsbundne formodninger altid er indbygget i de systemer, vi skaber. På den måde vil fortidens og nutidens konventioner nødvendigvis blive genskabt i den teknologiske udvikling, og det er i sig selv en væsentlig og meget begrænsende faktor.

Ifølge de to forskere tror mange, der ikke ved noget om kunstig intelligens, at den vil overtage verden. Derfor er det vigtigt at blotlægge, at de statistiske principper, som IA bygger på, altid kun vil være ”kvalificerede gæt”. Men det er endnu vigtigere, understreger begge, at vi ikke forstår disse ”gæt” som sandhed.

”I kølvandet på vores udvikling af computerteknologi, er der opstået en ide om, at vi kan beskrive verden præcist.”

Men det er en myte, eller som forskerne kalder det, ”en fortryllelse”, at teknologi bringer os nærmere en sandhed, vi ellers ikke kunne nå som mennesker. Virkeligheden er mere kompliceret. Vi bør ikke stole på, at selve det at være menneske kan løses teknologisk. I stedet må vi se på teknologien som et ritual, omfavne fejl og sommetider designe teknologi, der fejler.

De to forskere synes, at det er et fint skridt, at EU sætter sig for at styre og kontrollere brugen af A.I. Men det er ikke nok. Det nye tiltag opererer stadig ud fra en forkert præmis om, at A.I. er en ”ting”, der let kan identificeres og afgrænses. Ifølge Miguel findes der ikke engang en fælles definition på A.I. Det er ikke som fx olie en genstand, der kan isoleres. Når vi slipper algoritmerne løs i verden, bliver vi også nødt til at forholde os til, hvordan de både ændrer os og vi dem. Som Miguel siger:

”Tag f.eks. rute-algoritmer, der altid fokuserer på den hurtigste og mindst trafikerede vej. Sådanne algoritmer ændrer hele byer og nationers landskaber.”

Irina supplerer:

”Ja, faktisk har de forandringer, som rutealgoritmer i USA har skabt, også medført interessant modstand på lokalt niveau pga. stigende støj og trafik. De rige egne har opført fartbumper, og i dag ser vi sågar, at forskellige nabolag indgår i direkte forhandlinger med Google om, hvilke ruter de må anbefale”.

Ved blot at regulere teknologien kommer vi ikke ind til kernen af dette samspil og de muligheder og problemer, som A.I. rummer.

At grine af og gøre grin med software er et vigtigt værktøj til en nødvendig af-fortryllelse af teknologien. Vi skal frem for alt, mener de to forskere, ikke tage teknologien så alvorligt, at vi ikke er i stand til at forestille os alternativer.4

  1. Se bl.a.: Røhl, U. B. U., & Elmholdt, K. T. (2019). Et datadrevet jobcenter: Fiktiv case-beskrivelse og Røhl, U. B. U., Elmholdt, K. T., & Meier, N. (2020). Digital data at work: Management consulting, Public government and Healthcare compared. Abstract fra AI@Work, Amsterdam, Holland. https://ai.reshapingwork.net/session/digital-data-at-work-management-consulting-public-government-and-healthcare-compared/
  2. Se EU’s side om AI: https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_da#eu-og-kunstig-intelligens
  3. Se appen her: https://apps.apple.com/jm/app/probably-not/id1491823325
  4. Se mere om forskningsprojektet her: http://www.ridiculous.software/