谷歌撤回AI图像生成功能,因担忧虚假信息
谷歌在其卫星地图服务“谷歌地球”中推出的AI图像生成功能,仅一天后便被撤回。此举是由于该功能可能被用于合成虚假场景,从而助长虚假信息的传播。 根据IT行业的消息,谷歌母公司Alphabet于上月30日(当地时间)宣布将其自有的AI图像生成工具“纳米香蕉2”整合到谷歌地球中,但在次日31日便发布了撤回该功能的通知。 该功能允许用户基于谷歌地球的卫星、航空和3D地图数据,快速放大特定区域并生成AI图像。谷歌地球产品经理布赖恩·霍罗维茨在功能推出时表示,该功能可用于历史场景可视化、房地产规划和施工前的建设计划可视化等。 然而,公开来源信息(OSINT)专家和虚假信息研究者对此功能表示强烈反对,认为它可能在真实地形和建筑图像上叠加可信的虚假场景,从而使事实核查变得困难。谷歌地球一直以来是记者和研究人员确认冲突地区、受限现场的损害情况、军事设施和灾难现场的重要参考资料。 《金融时报》报道,利用该功能生成的虚假图像已在社交媒体X上发布,包括加沙地带的炸弹弹坑、伊朗核设施和阿姆斯特丹街头的汽车事故等。法新社的测试结果也显示,该功能能够生成与国际敏感事件相关的虚假卫星图像,如巴黎爆炸现场、伊朗核设施、俄罗斯炸弹弹坑和叙利亚伊斯兰国(IS)训练场等。 随着争议的扩大,霍罗维茨在功能推出不到24小时后便宣布了撤回计划。他表示:“人们对谷歌地球的信任是无与伦比的。”他补充道:“虽然地理空间专家确实有利用该功能的案例,但也发现了违反政策的生成图像被分享的情况。”他进一步表示,在制定更强有力的安全措施之前,将暂时撤回该功能。 AI编辑的图像并未在其他用户看到的谷歌地球基本界面上显示,并且附有AI生成的水印。然而,专家们指出,这样的措施不足以防止滥用。 路透社报道,Meta也曾在本月初推出了利用Instagram公开账户的图像生成AI功能“缪斯图像”,但因隐私保护争议而暂停该功能。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-08-02 19:28:00