本文聚焦AI Agent(智能体)在手机领域的应用,通过实测多款AI手机,揭示了手机智能体在隐私安全方面存在的问题,尤其是无障碍功能使用的漏洞,并提出了加强管理和提升透明度的倡议。
在科技的世界里,技术往往如同包裹着甜美糖衣的药丸,当人们服下之后,才会后知后觉地感受到其中的苦涩。AI Agent(智能体)便是这样一个典型的例子。
前一阵子,Manus的火爆,让AI Agent(智能体)的概念从实验室走向了大众的视野。与传统的聊天机器人不同,AI智能体不再仅仅是简单的输入输出对话模式。它仿佛长出了“眼睛”“耳朵”和“双手双脚”,具备了看、听、读、写的能力,还能够执行具体的任务。
如果这样的解释还是让人觉得有些晦涩难懂,那么以自动驾驶为例就容易理解多了。自动驾驶汽车能够自动泊车、自动刹车,甚至可以完全接管汽车的操作,它可以感知周围环境、自主做出决策并执行相应动作,这正是智能体工作的典型模式。
如今,这种“自动驾驶”能力也在手机领域悄然生根发芽。从2023年开始,各大手机厂商纷纷为自家手机接入大模型,让手机仿佛拥有了“大脑”。原本笨拙的语音助手也升级成了更加全能的智能体管家。在厂商的宣传中,这些手机智能体功能强大,比如可以“一句话点2000杯咖啡”“一键取消会员续费”“群发微信红包”等等。用户无需在各类App之间来回切换,手机智能体就能“接管”一切,为用户带来极大的便利。
前段时间,我们对小米14ultra、荣耀Magic 7、vivoX2000、OPPO FindX7、华为Mate40、三星Galaxy25等6款AI手机进行了实测。结果显示,虽然这些手机智能体还没有达到“全自动驾驶”的理想状态,但在隐私安全方面却暴露出了不少漏洞。其中,最让人担忧的就是敏感权限之一的无障碍功能的使用问题。
无障碍功能拥有系统级别的最高权限,它就像是一双“上帝之手”,可以看到屏幕上的所有内容,包括银行卡密码、聊天记录等敏感信息。同时,它还能替用户点击、长按、滑动屏幕,绕过不同App之间的隔离,就如同一张万能门禁卡。
更值得警惕的是,近年来,不少黑灰产滥用无障碍功能进行信息窃取。在刚过去的315晚会中曝光的数据黑灰产案件,宣称“拥有20亿条精准人群画像”,他们扫描短视频下评论区的账号信息,甚至获取手机号和用户标签,这些行为与无障碍功能有着一定的关联。
那么,手机智能体是否在合理使用这双“上帝之手”呢?下面为大家抛出几个关键的测评结果:
1、 除了华为,其余手机智能体均提到了无障碍功能。
在测评过程中发现,荣耀、小米、三星在智能体操作过程中都会调用无障碍功能。荣耀调用该功能的场景是点外卖,小米是在打车时调用,而三星只要跟智能体对话就会打开无障碍功能。vivo系统输入法中嵌入了小v写作功能,只要使用vivo输入法并同意授权,无障碍功能便会全程打开。
2、无障碍功能的使用比较混乱。
荣耀智能体在结束任务后,无障碍功能会自动关闭;而小米的无障碍功能会持续打开,vivo输入法的无障碍功能同样也是全程处于打开状态。
3、无障碍功能的管理比较分散。
通常情况下,一个App是否使用了无障碍功能,可以在“系统设置—无障碍功能—已下载的应用”中查看。但作为手机原生应用,部分手机智能体并没有出现在这个列表中,比如vivo和OPPO。
4、授权提示还不到位。
在手机智能体执行任务的过程中,如果需要用到无障碍功能,荣耀和三星会默默地调用,不会有单独的通知和同意环节;只有小米会事先弹出一条通知和同意的界面。vivo的情况比较特殊,尽管输入法的无障碍功能全程开启,但在回微信、写小红书文案时首次用到小v写作,系统还会跳出一条“一键识屏”的授权提示。
经过近十轮的测评,最直观的感受是,目前手机智能体产品性能的迭代与合规之间存在差距,导致了诸多错位现象。
客观来说,无障碍功能本身是一项中立的技术,AI和无障碍功能的结合本身并非滥用,目前也有一定的安全约束机制。
但是,如果合规管理不到位,前互联网时代“隐私换便利”的故事是否会再次上演呢?
2023年的数据显示,全球超过40亿人拥有智能手机,中国约有10亿人使用智能手机。根据Counterpoint的预测,到2027年,全球AI手机的渗透率将达到惊人的40%,出货量有望突破5.22亿部。这意味着手机智能体的时代正在加速逼近。
人们总是坚信技术进步带来的华丽变革,却往往忽略了那些隐藏在甜蜜背后的陷阱。AI智能体确实会让我们的生活更加便捷,但我们不能在追求“自动化”的道路上,失去了最基本的安全感。
在此,我们发出倡议,加强无障碍功能权限管理,提升无障碍功能调用透明度:
1、AI智能体如若调用无障碍功能,须列入无障碍功能列表
2、AI智能体首次开启无障碍功能时,应该有单独的弹窗提醒,充分告知风险,获取用户同意
3、调用无障碍功能时,在屏幕上实时显示“正在读屏和接管手机”等相关提示
4、提供随时关闭的开关,让用户能自行控制无障碍功能使用
5、如若用户高频关闭无障碍功能,需尊重用户意愿,自动关闭无障碍功能
6、探索建设智能终端与模型/Agent负责任交互的协议、接口和使用规范
本文围绕AI Agent在手机领域的应用展开,通过实测多款AI手机揭示了手机智能体在隐私安全方面,尤其是无障碍功能使用上存在的漏洞,如使用混乱、管理分散、授权提示不到位等问题。面对手机智能体时代的加速到来,强调不能忽视隐私安全,最后提出了加强管理和提升透明度的六点倡议,以保障用户在享受便捷的同时拥有基本的安全感。