谷歌因虚假信息担忧下架谷歌地球AI图像生成功能

Nano Banana 2并非凭空生成图像——它使用真实的卫星、航拍和3D地形数据作为结构锚点，然后通过文本提示让用户看到该位置发生的任何场景^[1]。正是这种与真实地理数据的结合，使得滥用行为极具欺骗性。OSINT研究员Henk van Ess仅用一个提示就在美墨边境附近放置了虚构的难民，并在伊朗‘建造’了一座核电站^[2]，而404 Media记者Joseph Cox则在洛杉矶生成了一个虚假的爆炸坑，并在谷歌位于山景城的园区外生成了虚假抗议者^[3]。由于这些虚假内容位于真实的坐标和地形之上，它们不会被当作AI插图，而是被当作证据。正如van Ess所说：‘谷歌花了20年建立起全球核查的参考标准，今天它却加了一个按钮，让人可以凭空捏造。’^[3]

谷歌的主要防护措施并非阻止提示词，而是事后标记：每张在谷歌地球中生成的Nano Banana图像都带有隐形SynthID水印，谷歌称其会阻止‘有害主题’的生成。但实际上，上述有害提示并未被拒绝，且在测试样本中，水印本身仅覆盖了不到25%的图像区域^[2]。这一漏洞至关重要，因为虚假信息并非以可检测水印的原始文件形式传播，而是以截图形式扩散——一款流行的第三方AI检测工具将一张经过屏幕录制的伪造图像判定为仅有0.8%的可能性是AI生成的^[2]。Joseph Cox称谷歌对水印的依赖是‘完全无视虚假信息传播机制的愚蠢行为’^[3]。

从上线到撤回仅约24小时。谷歌在全球范围内免费推出了该功能^[1]，仅限网页端，尽管谷歌地球在Play Store上的安装量已超5亿，且每日生成数量有限制^[4]。到7月31日，该功能已被下架^[5]，谷歌表示：‘我们深知人们特别信任谷歌地球提供的世界真实视图……因此我们正在撤回谷歌地球中的这一功能，同时加强防护措施。’^[6]这并非谷歌首次在AI图像可信度问题上犯错——2024年3月，谷歌曾因Gemini生成器产生历史不准确结果而暂停其服务^[7]。这也不是行业孤例：Meta也在同月早些时候因隐私批评而下架了其‘Muse Image’Instagram照片生成器^[8]，反映出生成式AI功能快速上线、一旦滥用曝光又迅速下架的普遍模式。

谷歌将该工具定位为合法用途——如可视化历史、模拟房地产规划等任务^[4]，这一说法也出现在谷歌自身的产品公告中^[9]。但测试者立即展示了相反情况。除了van Ess在边境和伊朗的伪造内容以及Cox在洛杉矶的爆炸坑外，其他流传的提示词还生成了飞机撞击曼哈顿摩天大楼、莫斯科爆炸等场景——这些暴力、地缘政治敏感的图像与房地产规划或历史可视化毫无关联。谷歌的宣传与工具在首日实际使用之间的巨大差距，本身就清楚表明‘有害主题’在发布时并未被有效阻止：一个为可视化房地产和历史而设计的工具，根本不应具备渲染灾难和冲突场景的能力。