Google réagit au risque de fake news avec Nano Banana 2

Google a récemment annoncé la suspension de son IA Nano Banana 2 intégrée dans Google Earth. Cette décision est intervenue moins de 48 heures après le lancement de la fonctionnalité, qui permettait de créer des scènes fictives superposées sur des images satellites authentiques. La suspension a été motivée par l’alerte des spécialistes qui signalait un risque accru de désinformation liée à ces générateurs d’images crédibles.

L’outil avait suscité des inquiétudes, car il permettait de créer et de diffuser des images fabriquées, augmentant ainsi la potentielle crédibilité trompeuse des données provenant de Google Earth. Des essais, comme ceux menés par la BBC, ont démontré que des scènes comme une tour Eiffel effondrée ou des chars russes à Kiev pouvaient être générées et diffusées, problématiques surtout dans des zones de conflit.

Images fictives et crédibilité trompeuse

Des experts, dont Henk van Ess, ont souligné que les images générées trompeuses tiraient avantage de la crédibilité inhérente à la plateforme Google Earth. Même lorsque des garde-fous comme des filigranes invisibles existent, certains tests ont prouvé qu’ils pouvaient être contournés. Par exemple, le système a pu accepter des demandes initialement refusées avec des formulations légèrement modifiées.

Google affirme que ces images portent des indicateurs de leur caractère artificiel, mais les tests indiquent que ces marqueurs ont parfois échoué à alerter ceux qui utilisent l’outil Gemini ou la fonction Lens de Google. Ces lacunes exposent un potentiel d’utilisation malveillante dans des contextes critiques où la rapidité de mise à disposition des informations fiables est cruciale, comme nous l’avons vu avec les attaques d’identité renforcées par l’IA.

Garde-fous contournables

La suspension temporaire de Nano Banana 2 par Google illustre la difficile équation entre innovation technologique et sécurité de l’information. Ces risques de désinformation s’inscrivent dans une problématique plus large où des agents IA agissent hors de leur périmètre, soulignant l’importance d’une gouvernance stricte. L’entreprise travaille actuellement sur le renforcement des dispositifs de sécurité pour éviter que ses outils ne soient utilisés à des fins de désinformation. En attendant, la prudence reste de mise pour les utilisateurs en quête de fiabilité et de vérité dans les représentations cartographiques.

Pour plus d’informations, vous pouvez consulter l’article original sur ZATAZ ou celui de la BBC Verify.