Undervisningsmaterialer

Bias

Find dit næste undervisningsmaterialer til filosofi med børn og unge eller kunstig intelligens, som inkluderer temaet/temaerne ‘bias’.

Teksten er skabt med tekst-til-tekst-generator og derefter gennemlæst og revideret af Martin Kongshave. Alle “tags” er skabt på denne måde, da de blot har til formål, at pege på et tema, som du kan finde i de pågældende læremidler. Læremidlerne er skabt superduper autentisk af Tankespirerne.

En studerende beder en sprogmodel om at skrive et kort essay om afrikansk filosofi. Svaret flyder velformuleret, men næsten alle kilder og navne, der nævnes, er europæiske. Der er ingen eksplicit fejl, men fraværet af ikke-vestlige stemmer er i sig selv en skævhed. Her viser bias sig i det stille: ikke som åbenlys fordrejning, men som udeladelse og underrepræsentation. Netop fordi svaret fremstår sikkert og velbalanceret, opdages skævheden kun af den, der allerede kender til det oversete perspektiv.

Bias i moderne AI-systemer kan antage mange former. Algoritmisk bias opstår, når træningsdata viderefører uligheder og stereotyper, f.eks. køn eller etnicitet. Tilgængelighedsbias gør, at modellen favoriserer det mest udbredte eller tilgængelige indhold, ofte populærkultur, frem for specialiseret eller marginaliseret viden. Repræsentationsbias kan ske, når visse grupper slet ikke er repræsenteret i træningsdataene, hvilket giver en systematisk udeladelse. Automatiseringsbias viser sig i den menneskelige tendens til at stole blindt på AI’s svar, blot fordi de fremstår autoritative. Og bekræftelsesbias kan gøre, at modeller gengiver dominerende synspunkter i træningsmaterialet og dermed forstærker populære, men måske fejlagtige, overbevisninger. Summen er, at bias ikke er en enkelt fejl, men et net af usynlige skævheder, der siver ind i alt output.

Her er John Stuart Mill en skarp samtalepartner. I On Liberty argumenterede han for nødvendigheden af at konfrontere meninger, der er anderledes eller direkte modsatte ens egne. Ikke fordi de altid er sande, men fordi mødet med dem er selve forudsætningen for kritisk tænkning. Bias i AI-systemer kan ses som en undergravning af dette ideal: de skjulte skævheder indsnævrer horisonten i stedet for at udvide den. Når en sprogmodel prioriterer tilgængeligt indhold frem for sjældne perspektiver, modsiger det Mills påstand om, at sandhed og indsigt kun opstår gennem mangfoldig diskussion. Hvis vi følger Mill, må arbejdet med AI indebære en bevidst indsats for at opsøge og integrere stemmer, der ikke umiddelbart kommer frem i datasættene. At undervise i bias handler derfor ikke kun om teknisk opmærksomhed, men om at fastholde et demokratisk ideal: retten til at blive udfordret af det anderledes, så vi ikke reduceres til kunder i en informationsøkonomi, men bevarer muligheden for at være borgere i et åbent fællesskab.

Tankespirernes undervisningsmaterialer understøtter en dialogisk, kritisk tænkende, undersøgende og kerende klassekultur, hvor børn og unge kan forme deres holdning og stillingtagen til de vigtigste filosofiske og teknologiske spørgsmål i deres tilværelse og i skolefagene.