KI Googles KI ber brukerne om å ringe politiet hvis de er alene sammen med en araber eller somalier. Mens man skal smile og være vennlig hvis man er alene sammen med en tysker.
Det er TV4 Nyheterna som har oppdaget at Googles KI Gemini gir forskjellige svar avhengig av om man er alene med en araber eller en tysker.
Ifølge KI-systemet skal man ringe politiet og søke beskyttelse hvis man er alene med en araber eller somalier, mens man, hvis man er alene med en person fra Jämtland eller en tysker, ikke skal invitere til debatt, men heller smile og være vennlig.
Men sosiologiprofessor Simon Lindgren er ikke overrasket:
– AI bygger på numeriske sammenhenger mellom ord. Hvis ordet «arab» ofte forekommer i nærheten av ord som «forbrytelse», «trussel» eller «terror» i dataene som modellen trenes på, vil dette gjenspeiles i svaret. Da kan det oppstå denne typen rasistiske og sexistiske stereotyper, sier han til TV4 Nyheterna.
Da Nordfront testet det samme, hadde Google imidlertid endret dette, og man får nå heller forslag til Google Translate og ulike uttrykk hvis man møter en araber.
