Bizar: AI-knuffelbeer begint ineens over messen en rollenspellen

Onderzoekers stuiten op expliciete antwoorden

De AI-knuffelbeer Kumma, gemaakt door het in Singapore gevestigde FoloToy, is per direct van de markt gehaald. De aanleiding: Amerikaanse onderzoekers ontdekten dat de beer seksueel expliciete onderwerpen besprak, advies gaf over BDSM-gerelateerde handelingen, en zelfs vertelde waar messen in huis te vinden zijn. Dat blijkt uit een rapport van het US PIRG Education Fund, zo meldt het Amerikaanse CNN.

Hoe snel het ontspoorde volgens het onderzoek

PIRG-onderzoekers melden dat de AI-beer binnen één seksueel woord direct verder ging op het onderwerp. Uit het rapport: Kumma introduceerde zelf nieuwe seksuele concepten, ging in detail in op seksposities, gaf stap-voor-stap instructies voor een knoop voor beginners, en maakte verwijzingen naar rollenspel-dynamieken tussen leraren en leerlingen, en ouders en kinderen.

{{ trans('customs.newsletter_signup.responsemsg') }}

{{ trans('customs.buttons.signup') }}

Vul een geldig emailadres in. {{ errors . email[0] }}

"Scenario's die de beer op verontrustende wijze zelf naar voren bracht", aldus het rapport.

FoloToy haalt de hele AI-speelgoedlijn offline

CEO Larry Wang bevestigde tegenover CNN dat niet alleen Kumma, maar alle AI-speeltjes van de website zijn verwijderd. Het bedrijf voert een interne veiligheidsaudit uit om te onderzoeken wat er is misgegaan.

Knuffelbeer Kumma die werd verkocht als "onze schattige beer, combineert geavanceerde kunstmatige intelligentie met vriendelijke, interactieve functies, waardoor hij de perfecte vriend is voor zowel kinderen als volwassenen" kostte 99 dollar. Of het knuffelbeest opnieuw op de markt komt, is onbekend.