警惕消费技术武器化 消费手段
GoUpSec点评:从数字广告到热门手游,从真主党的对讲机到自动驾驶汽车,从内容推送算法到ChatGPT,貌似“人畜无害”的消费技术的武器化对国家安全的威胁甚至超出了关键基础设施漏洞。
近年来,随着数字化和人工智能技术的快速渗透发展,隐私和人工智能安全(例如训练和交互数据泄漏)逐渐成为网络安全领域的重要讨论话题。然而,这些“消费技术”的影响不仅局限于商业领域。
最近,热门手游Pokémon Go(精灵宝可梦)母公司Niantic的工程师自曝其地理空间数据可能被政府和军方购买用于军事用途。该研究揭示了一个令人担忧的趋势:热门消费技术正在以我们始料未及的方式改变全球安全格局,可能给国家安全带来新的隐患,其危害甚至不亚于关键基础设施漏洞。
消费技术武器化:从数字广告到游戏扫描数据
早在2020年,美国国家安全局(NSA)被曝光通过数字广告经纪人收集个人数据,用于追踪几乎任何使用智能手机的目标(包括军事人员和政府工作人员)。该事件让人们意识到,大规模的消费级数据采集与分析不仅能服务于市场营销,还可能成为监控与情报工作的强大工具。而今,类似的担忧从数字广告扩展到新兴的空间计算(Spatial Computing)技术和增强现实(AR)游戏中。
在11月14日的Bellingcat调查记者大会上,Niantic工程副总裁布莱恩·麦克伦登(Brian McClendon)发表了关于空间计算技术的演讲,提出了一个可能的场景:政府和军方可能会购买基于Pokémon Go玩家生成的扫描数据开发的人工智能模型。这一模型被称为“大型地理空间模型(Large Geospatial Model,简称LGM),能够通过分析大量实地数据生成高精度的地理空间映射模型。
麦克伦登明确表示,尽管LGM的初衷是服务消费者或研究机构,但如果其用途转向军事领域,特别是用于“增加战争强度”,这将是一个“显然的问题”。他并未排除将LGM或相关数据出售给政府或军方的可能性。
Niantic的LGM项目依赖于玩家扫描的真实世界数据,例如Pokémon Go中的“AR映射任务”和“Pokémon Playgrounds”功能。这些功能激励玩家扫描公共场所,生成大量独特的地理数据。
“Niantic的LGM建立在其Lightship视觉定位系统(VPS)之上,该公司表示,该系统“已扫描全球1000万个位置,其中超过100万个位置已激活并可通过我们的VPS服务使用。我们每周收到大约100万张新扫描,每张都包含数百张离散图像。”麦克伦登说道。
这些数据从步行视角获取,与传统车辆导航系统(如Google Street View)有显著不同,甚至包括常规导航系统无法覆盖的步行路径。军方一旦获取这些高精度、低成本的数据,将显著提高其侦察与规划能力,因而具有极高的战术价值。
对国家安全的潜在威胁
更为令人担忧的是,Niantic的LGM技术不仅可应用于游戏领域,在商业领域和科技发展方面也充满潜力,是未来AR眼镜、机器人、内容创建和自主系统等多个领域的基础技术。因此,这种技术的武器化势必会引发广泛而影响深远的伦理和国家安全问题。
虽然Niantic称其扫描功能基于用户自愿且“完全可选”,并且强调数据的应用仅限于增强用户体验的AR功能。然而,大规模数据采集与分析的风险在于,这些技术可能被重新利用于超出公司初衷的用途。正如麦克伦登所提到的,政府和军方已经对这类消费技术表现出浓厚兴趣,可能会将其用于军事战略、侦察和情报工作。
Pokémon Go的案例提醒我们,热门应用程序和游戏可能成为数据采集和监控的强大工具。尤其是玩家在不知情的情况下为公司和潜在第三方生成了关键的地理空间数据。这种数据的规模和深度使其成为对抗性用途(例如军事冲突或跨国监控)的理想目标。
Niantic的LGM项目引发了外界对于科技公司如何处理用户数据以及这种数据如何被利用的更多质疑。这也让我们不得不思考以下问题:
消费技术出口的伦理边界在哪里?如果消费技术可以被用于军事用途,是否应该受到更严格的审查?
隐私与透明度如何平衡?用户是否有权明确了解他们的(游戏和隐私)数据可能的应用方向?
法律监管的空白和盲区是否需要填补?在科技快速发展的背景下,政府是否应该加快制定相关法规?
结语:警惕消费技术的武器化
从数字广告到热门手游,从真主党的对讲机到自动驾驶汽车,消费技术正在以我们始料未及的方式影响着全球安全格局。热门手游Pokémon Go的案例说明,消费者数据在无意中可能被转化为军事资源或国家安全资产。这不仅是科技公司需要审慎面对的问题,更是政府、监管机构和公众必须共同思考的议题。
我们进入了一个“空间计算”逐渐成为操作系统的时代,LLM将与多模态模型交互,而多模态模型又将与LGM通信。这些系统协同工作,将(帮助AI)以任何单一模型都无法实现的方式理解世界。这种互联互通是空间计算的未来——感知、理解和作用于物理世界的智能系统,也就是“空间智能”。
在人工智能从文本LLM、多模态模型到“空间智能”迈进的过程中,任何新兴消费技术的广泛应用都需要重新评估和平衡创新与安全的需求。在追求技术进步的同时,确保国家安全和个人隐私不受威胁。
参考链接:
点击查看
点击查看