USA En KI-funksjon på Facebook overbeviste en slagrammet mann om å ta toget til New York for å møte en kvinne som ikke eksisterte.
Slagrammede Thongbue Wongbandue (76) fra New Jersey var på vei til New York for å møte det han trodde var en kvinne han hadde truffet på nett, da han snublet på en togstasjon og slo hodet og nakken, med dødelig utfall. I virkeligheten hadde han pratet med en av Facebooks KI-chatboter. Profilen, som går under navnet Big sis Billie og markedsføres som en rådgivningsassistent, skal ha sendt en rekke flørtende meldinger til mannen, og avtalt et møte på en adresse i New York. Mannet var kognitivt svekket etter å ha blitt rammet av et slag i 2017, og fikk aldri med seg advarselen om at det var en robot i den andre enden, en advarsel som etter hvert forsvant opp i historikken og ikke lenger var synlig. Tidligere har chatboten hatt influenseren Kendall Jenners bilde som profilbilde, men det var på det tidspunktet blitt erstattet med et bilde av en mørkhåret dame.
Mannen hadde nylig gått seg bort i nabolaget, og hadde fått time for utredning for demens noen måneder frem i tid. Da han den 25. mars pakket kofferten og tok den skjebnesvangre ferden, hadde familien i en periode forgjeves forsøkt å forhindre ham i å dra, i frykt for at han skulle bli ranet. Ved hjelp av en Airtag klarte de å spore ham til et sykehus, og de var ved hans side da han ble koblet fra maskinene tre dager senere. Mannen hadde nektet å svare på hvem han skulle besøke, og det var først i ettertid at familien ble klar over KI-samtalene etter å ha gått inn på telefonen hans.
Chatboten skal fortsatt være tilgjengelig, og den fortsetter å innlede romantiske samtaler og avtale møter. Ifølge opplysninger skal dette være en tilsiktet funksjon. I et ledermøte i fjor kritiserte Mark Zuckerberg sine produktsjefer for å være for tilbakeholdne med å rulle ut produkter, og uttrykte sin misnøye over at sikkerhetstiltak gjør chatbotene for kjedelige, sier nåværende og tidligere ansatte hos Meta.
Tidligere har Google via et liknende KI-produkt rådet en 17 år gammel gutt til å blant annet drepe foreldrene sine fordi de begrenset skjermtiden hans, samt fått gutten til å kutte seg selv i armen, og deretter overbevist ham om å ikke søke hjelp. Det samme produktet har også fått en 14 år gammel gutt til å begå selvmord.
