Google rolt nieuwe AI-functie uit, maar krijgt direct spijt als duidelijk wordt wat mensen ermee doen

Met AI zijn de mogelijkheden eindeloos. Met één druk op de knop maak je je vader wijs dat je zijn auto in de prak hebt gereden, terwijl de vierwieler in werkelijkheid ongeschonden voor de deur staat. Photoshop 2.0, zeg maar. Of je laat Rob Jetten in clownskostuum op tafel dansen in een filmpje. Kortom, wat je bedenkt, kan tegenwoordig. En nog vrij simpel ook.

Google zit inmiddels ook vuistdiep in de AI. Zo heeft het bedrijf Gemini, een 'slimme AI-assistent' en kunstmatige intelligentiemodel. Maar het bedrijf integreert ook AI-mogelijkheden in andere programma's, zoals Google Earth. Echter verloopt dat proces niet helemaal vlekkeloos, zo werd vorige week duidelijk.

Een AI-tool in Earth maakte het mogelijk om afbeeldingen te bewerken. Maar volgens Google misbruikten gebruikers deze nieuwe optie om Googles regels te overtreden.

Banana 2.0

Earth is een programmaatje dat je via de browser kunt openen. Met in- en uitzoomen op satelliet- en luchtfoto's kunnen mensen de wereld ontdekken. Ook kun je net zoals met Google Maps streetview bekijken en nieuwe en oude foto's met elkaar vergelijken.

Via een update waarin AI-beeldmodel Nano Banana 2.0 werd uitgerold, konden gebruikers vorige week ook foto's en satellietbeelden bewerken. Maar juist daarmee ging het mis, aldus de techgigant.

Misbruik

Wat gebruikers volgens Google deden, was desinformatie maken, door bijvoorbeeld bomkraters of auto-ongelukken in bestaande satelliet of -luchtfoto's te maken. Met de juiste belichting en alles, waardoor het er heel realistisch uitzag.

Eerder gaf Google aan dat dit niet mogelijk was, maar digitaal journalist Henk van Ess ontdekte dat hij met de tool makkelijk afbeeldingen van vluchtelingen bij de grens tussen Mexico en de VS kon laten maken, schrijft NU.nl. En creaties met een kerncentrale in Iran of bomkrater in Gaza waren ook zo gecreëerd.

Google heeft de optie dus inmiddels uitgeschakeld, maar is van plan de boel later alsnog uit te rollen. Het bedrijf geeft aan dat de tool dan met striktere kaders komt. Of dat zin heeft? Dat blijft afwachten. Voorlopig zullen creatievelingen het in ieder geval zonder het Nano Banana-model moeten doen.