上线仅仅一天，谷歌火速下架

　   美国科技巨头谷歌公司在7月30日推出卫星图像人工智能（AI）制图工具，一天后即宣布撤回，原因是该功能引发了关于“从天空中深度造假”的广泛忧虑。

　　AI新功能可一键造假

　　据BBC周五（7月31日）报道，谷歌日前在其Google Earth平台推出了一项AI新功能，让用户只需点击按钮，便能利用人工智能图像生成器Nano Banana 2，在真实的卫星、航拍或三维图像基础上，生成虚构场景。

　　谷歌表示，公司注意到“地理空间专业人士一直在利用这项功能完成各种有益用途”，但同时也发现“有人分享了AI生成图像的截图，而这些内容可能违反了我们的政策”。

　　核电站、难民、洪水皆可造假

　　开源研究人员亨克·范埃斯（Henk van Ess）透过短信向美国全国公共广播电台（NPR）表示，他曾尝试输入墨西哥边境难民潮、伊朗核电站事故、阿姆斯特丹（Amsterdam）空难，以及加沙一所遭炸弹炸出弹坑的医院等提示词来生成AI图片，期间“没有任何虚假场景被拒绝生成”。

　　NPR记者也顺利生成了伊朗哈尔克岛（Kharg Island）起火，以及美国国会大厦遭洪水淹没的虚构画面，两起事件实际上均未发生。

　　BBC旗下BBC Verify就此进行测试时，同样成功生成了埃菲尔铁塔倒塌、巨大天坑吞没吉萨大金字塔，以及俄罗斯坦克出现在乌克兰首都等虚假图像。

　　新加坡亚洲新闻台（CNA）的测试也显示，该功能能轻易生成樟宜机场（Changi Airport）受损、滨海湾花园（Gardens by the Bay）起火等从未发生的场景，而且系统未作任何限制或拒绝。

　　专家：卫星图像可信度或遭削弱

　　《华盛顿邮报》（The Washington Post）的视觉取证调查员埃文·希尔（Evan Hill）在X平台就此质疑，该功能是否经过内部红队测试，并指出其可以被滥用于散布虚假信息，而且“几乎不受任何约束”。

　　网络调查组织“贝林猫”（Bellingcat）的高级研究员杰克·戈丁（Jake Godin）也指出，过去因为卫星图像难以被伪造，一直是核实突发事件相对可靠的工具。

　　他举例说，此前美伊冲突期间，网络就曾流传巴林（Bahrain）一处美军基地遭破坏的虚假卫星图像，事后真实影像证实该基地确实受损，但情况与假图像不同。

　　他担心，一键生成功能将加快虚假图像的扩散速度，而“虚假信息传播的速度和范围，总是超过任何更正”。

　示意图。谷歌地球（Google Earth）图像

　　新加坡拉惹勒南国际研究院（S. Rajaratnam School of International Studies）卓越国家安全研究中心主任洪正君指出，过去制作逼真假卫星图像需要一定的技术与资源，如今几乎任何人都能一键生成足以引发恐慌或误导公众的图像。

　　他还提醒说，图像一旦流传至WhatsApp、Telegram或微信等聊天群组，鲜少有人会主动查证其真伪。

　　谷歌回应：已加注AI水印

　　谷歌表示，该公司会持续更新防护措施。目前所有AI生成的图像均已加注SynthID数位水印，并可被Gemini等谷歌工具识别为AI生成内容，公司也会拦截涉及有害主题的图像生成请求。

　　不过多名受访专家对此仍未感到安心，认为如不采取措施，公众对卫星图像乃至Google Earth本身的长期信任可能会被削弱。