电竞比分网-中国电竞赛事及体育赛事平台

關(guān)于ZAKER 合作

揭秘 AI 手機(jī)的 “上帝權(quán)限”,看其如何跨 App 替你操作

圖片來源:視覺中國

藍(lán)鯨新聞 12 月 5 日訊(記者 朱俊熹)上線不到一周,字節(jié)跳動(dòng)聯(lián)手中興打造的首款 " 豆包助手 "AI 手機(jī)便卷入輿論風(fēng)波。部分首批用戶在試用過程中,遭遇無法登錄微信、被多款銀行 App 彈窗預(yù)警等狀況。一時(shí)之間,究竟該不該 " 讓 AI 接管手機(jī) " 成為公眾討論焦點(diǎn)。

12 月 5 日,豆包手機(jī)助手團(tuán)隊(duì)再發(fā)聲明稱,為了讓技術(shù)發(fā)展、行業(yè)接受度和用戶體驗(yàn)多方都能形成良性適配,計(jì)劃在接下來的一段時(shí)間,在部分場景對(duì) AI 操作手機(jī)的能力做一些規(guī)范化調(diào)整。具體調(diào)整包括但不限于,一是限制刷分、刷激勵(lì)的使用場景;二是進(jìn)一步限制金融類應(yīng)用的使用;三是限制部分游戲類使用場景。

在科技公司的炫目演示中,AI 仿佛已化身萬能助手,為用戶帶來科幻般的便捷生活。然而,背后的隱私安全疑慮就如同一團(tuán)迷霧。更深處的暗流,是各家應(yīng)用平臺(tái)的商業(yè)利益之爭。留給用戶的疑問是,AI 究竟如何接管你的手機(jī),信息安全又該怎樣得到保障?

誰在操控你的手機(jī)?

12 月 3 日,針對(duì)外界關(guān)于 " 豆包手機(jī)助手擁有操作系統(tǒng)高危權(quán)限 " 的質(zhì)疑,團(tuán)隊(duì)發(fā)布了澄清聲明,強(qiáng)調(diào)不存在任何黑客行為。

聲明指出,豆包手機(jī)助手擁有 INJECT_EVENTS 權(quán)限,確實(shí)是系統(tǒng)級(jí)權(quán)限。但其技術(shù)實(shí)現(xiàn)依賴 Android 系統(tǒng)級(jí)權(quán)限,有更嚴(yán)格的使用限制。只有擁有 INJECT_EVENTS 權(quán)限許可,產(chǎn)品才能跨屏、跨應(yīng)用來模擬點(diǎn)擊事件,完成用戶操作手機(jī)的任務(wù)需求。而豆包手機(jī)助手需要經(jīng)過用戶主動(dòng)授權(quán)后,才可以調(diào)用該權(quán)限。

" 據(jù)我們了解,目前行業(yè)的 AI 助手,均需要使用該權(quán)限(或與其類似的無障礙權(quán)限)才能提供操作手機(jī)的服務(wù)。" 團(tuán)隊(duì)表示。

INJECT_EVENTS 權(quán)限允許應(yīng)用向系統(tǒng)注入輸入事件,例如模擬用戶的點(diǎn)擊、滑動(dòng)、按鍵等操作。這意味著,擁有該權(quán)限的程序可以在系統(tǒng)層面像用戶一樣控制手機(jī)屏幕。而無障礙權(quán)限是 Android 系統(tǒng)為視障、聽障等群體設(shè)計(jì)的輔助功能。獲得無障礙權(quán)限后,應(yīng)用可以讀取屏幕內(nèi)容,并執(zhí)行點(diǎn)擊、滑動(dòng)等部分操作,權(quán)限能力相對(duì)更有限。

個(gè)人隱私保護(hù)專家、北京漢華飛天信安科技有限公司總經(jīng)理彭根向藍(lán)鯨科技解釋稱,INJECT_EVENTS 權(quán)限屬于更高等級(jí)的系統(tǒng)底層權(quán)限,需要手機(jī)廠商通過一定技術(shù)方式賦予,一般的應(yīng)用無法直接獲取。相比之下,無障礙權(quán)限是普通應(yīng)用在安裝后,經(jīng)用戶主動(dòng)授權(quán)即可開啟的權(quán)限集合,更強(qiáng)調(diào)用戶的知情與同意。

而在今年 8 月,大模型廠商智譜 AI 在發(fā)布智能體 AutoGLM 2.0 時(shí)表示,引入了 " 云手機(jī) / 云端桌面 " 式執(zhí)行形態(tài),可在云端自主完成跨應(yīng)用任務(wù),無需依賴終端的無障礙權(quán)限。

有知情人士告訴藍(lán)鯨科技,AutoGLM 選擇的路徑不同于豆包手機(jī)助手。它直接 To C 依托云設(shè)備,不依賴手機(jī)廠商,從而避免執(zhí)行時(shí)搶占用戶屏幕,并降低適配多家不同系統(tǒng)的成本,符合現(xiàn)有系統(tǒng)生態(tài)。

在通過不同渠道獲取必要權(quán)限后,AI 助手才能做到接管人類手機(jī),執(zhí)行各種跨 App 任務(wù)。具體操作方式大致分為兩類。目前更為主流的是基于 GUI 的視覺路線,即 AI Agent 通過閱讀和理解屏幕內(nèi)容,模擬點(diǎn)擊、滑動(dòng)等動(dòng)作來代替用戶操作。在這種模式下,智能體并不需要獲得第三方 App 的許可,可以繞開各家應(yīng)用的限制。

而另一種可行的路徑則需要 Agent 或手機(jī)廠商與 App 方達(dá)成協(xié)議,通過官方 API 接口來調(diào)用應(yīng)用功能。

據(jù)官方介紹,豆包手機(jī)助手的操作手機(jī) Pro 模式除調(diào)用 GUI Agent 外,還可直接調(diào)用手機(jī)終端的系統(tǒng)工具。演示視頻顯示,在操作手機(jī) Pro 模式下,當(dāng)用戶說 " 幫我給女兒推薦幾個(gè)禮物放進(jìn)購物車 " 時(shí),若記憶中已存儲(chǔ)女兒的年齡、興趣等信息,助手可直接查詢符合女兒年齡、偏好的方案,無需用戶逐一交代細(xì)節(jié)。

一位業(yè)內(nèi)人士對(duì)藍(lán)鯨科技表示,如果從用戶的數(shù)據(jù)安全出發(fā),更好的做法是推動(dòng)各方主體的合作而非競爭。" 但做接口方案的主動(dòng)權(quán)在 App 廠商手上,而不在 Agent 方面。" 他指出," 安全與權(quán)限之爭只是表層,深層是決策權(quán)的爭奪。"

如果 AI Agent 成為統(tǒng)一入口,用戶不再直接操作各個(gè) App,勢必對(duì)應(yīng)用端的用戶數(shù)據(jù)、商業(yè)模式構(gòu)成挑戰(zhàn)。

類似的紛爭在國外已初現(xiàn)端倪。今年 11 月,亞馬遜以侵權(quán)為由起訴 AI 搜索創(chuàng)企 Perplexity,試圖阻止其通過智能體工具幫助用戶在亞馬遜上購物。Perplexity 回應(yīng)稱,亞馬遜本應(yīng)歡迎這種便捷購物,因?yàn)檫@意味著更多交易和更滿意的客戶,但它 " 更關(guān)心的是投放廣告、顯示贊助結(jié)果,以及通過附加銷售和復(fù)雜優(yōu)惠來影響購買決策 "。

豆包手機(jī)助手團(tuán)隊(duì)在最新聲明中表示," 目前,我們也在積極尋求與各應(yīng)用廠商的深度溝通,希望推動(dòng)形成更加清晰、可預(yù)期的規(guī)則,避免用一刀切的方式否定用戶合理使用 AI 的權(quán)利。"

華為小藝、小米小愛曾試水調(diào)用微信,后放棄執(zhí)行

回到此次豆包手機(jī)助手爭議的導(dǎo)火索,是多位用戶反饋若涉及操作微信,會(huì)出現(xiàn)微信異常退出甚至無法登錄的情況。

12 月 3 日,豆包手機(jī)助手團(tuán)隊(duì)回應(yīng)稱,后續(xù)已下線手機(jī)助手操作微信的能力,樣機(jī)上被禁止登錄的微信賬號(hào)正陸續(xù)解封,請(qǐng)用戶等待一段時(shí)間并嘗試重新登錄。微信方面則表示,并沒有特別動(dòng)作,可能是觸發(fā)了微信原有的安全風(fēng)控措施。

圖片來源:豆包手機(jī)助手用戶群截圖

《騰訊微信軟件許可及服務(wù)協(xié)議》中明確指出,不得通過非騰訊開發(fā)、授權(quán)的第三方軟件、插件、外掛、系統(tǒng),登錄或使用微信軟件及服務(wù),或者進(jìn)行自動(dòng)化操作。也不得自行或者授權(quán)他人、第三方軟件或系統(tǒng)等對(duì)微信軟件及其組件、模塊、數(shù)據(jù)進(jìn)行控制、訪問、讀取或干擾。

搭載豆包手機(jī)助手的工程樣機(jī) nubia M153,并不是業(yè)內(nèi)首款標(biāo)榜 " 讓 AI 接管手機(jī) " 的產(chǎn)品。而通過 AI 智能體在微信上完成發(fā)消息、點(diǎn)贊等操作,也成為眾多廠商展示其智能體能力的典型場景。

2024 年 11 月,智譜推出升級(jí)后的第一代智能體產(chǎn)品 AutoGLM。在發(fā)布活動(dòng)現(xiàn)場,智譜 CEO 張鵬通過語音指令,讓手機(jī)里的 AutoGLM 在微信中創(chuàng)建面對(duì)面群聊,并發(fā)放一百個(gè)紅包。然而在今年發(fā)布 AutoGLM 2.0 時(shí),智譜的官方演示中不再提及微信,卻依然支持操作美團(tuán)、京東、小紅書、抖音等數(shù)十款高頻應(yīng)用。

此外,手機(jī)廠商華為的 AI 助手小藝也曾支持自動(dòng)打開微信,幫助用戶發(fā)送消息。但目前,華為小藝、小米小愛等手機(jī)廠商自有的 AI 智能體已無法直接調(diào)用微信功能。原因可能在于,微信作為國民級(jí)應(yīng)用,對(duì)任何自動(dòng)化操作都保持極高風(fēng)控敏感度,因此也成為此次豆包手機(jī)助手最先觸發(fā)風(fēng)險(xiǎn)的場景之一。

至于銀行、互聯(lián)網(wǎng)支付等金融場景,豆包手機(jī)助手團(tuán)隊(duì)稱其直接關(guān)聯(lián)用戶的資金安全。雖然豆包手機(jī)助手在敏感操作時(shí)都需要用戶授權(quán),但審慎起見,也將暫時(shí)下線操作這類 APP 的能力。

在《豆包手機(jī)助手隱私安全白皮書》中,包括金融與交易操作、高風(fēng)險(xiǎn)不可逆操作、健康與醫(yī)療數(shù)據(jù)處理等在內(nèi)的六大類操作被歸為高敏操作,需要用戶二次確認(rèn)后才能接入并執(zhí)行。

另有手機(jī)智能體廠商告訴藍(lán)鯨科技,當(dāng)涉及支付、內(nèi)容發(fā)布等敏感操作時(shí),其 Agent 系統(tǒng)會(huì)強(qiáng)制請(qǐng)求用戶確認(rèn),或由用戶直接 " 接管手機(jī) " 完成。此外,廠商還會(huì)通過工程策略和權(quán)限邊界來防止 " 超指令 " 行為,高風(fēng)險(xiǎn)步驟默認(rèn)不自動(dòng)執(zhí)行。

在藍(lán)鯨科技此前的實(shí)測過程中,使用豆包手機(jī)助手操作多家銀行 App 時(shí),中國建設(shè)銀行 App 會(huì)主動(dòng)彈窗提示,建議用戶退出錄屏或共享軟件 "AI 操作手機(jī) ",以保障個(gè)人信息及資金安全。中國農(nóng)業(yè)銀行 App 則在豆包手機(jī)助手進(jìn)行轉(zhuǎn)賬操作期間,因停留時(shí)間過長而觸發(fā)類似安全提醒。中國交通銀行 App 并未作特別警示,直至涉及具體轉(zhuǎn)賬動(dòng)作時(shí),豆包手機(jī)助手會(huì)轉(zhuǎn)換到手動(dòng)操作模式。

圖片來源:藍(lán)鯨科技實(shí)測截圖

記者查閱發(fā)現(xiàn),上述幾家銀行 App 在個(gè)人電子銀行服務(wù)協(xié)議中均提及,用戶應(yīng)妥善保管身份認(rèn)證要素,不得提供給或交于任何第三方使用。交通銀行 App 還明確規(guī)定,用戶通過自動(dòng)腳本或第三方外掛系統(tǒng)登錄和使用電子銀行服務(wù),銀行有權(quán)采取包括但不限于限制電子銀行服務(wù)交易額度和頻次、暫停或終止部分或全部電子銀行服務(wù)的措施。

在最新聲明中,豆包手機(jī)助手稱會(huì)積極與金融類應(yīng)用相關(guān)廠商溝通," 希望共同制定清晰、安全的 AI 操作行為準(zhǔn)則 "。

中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春則表示,AI 智能代理行業(yè)尚處初期,技術(shù)與規(guī)范尚在探索。對(duì)這類創(chuàng)新技術(shù),需以包容審慎態(tài)度,在精準(zhǔn)規(guī)范風(fēng)險(xiǎn)的同時(shí)為創(chuàng)新留出空間,助力行業(yè)良性發(fā)展。

相關(guān)標(biāo)簽

相關(guān)閱讀

最新評(píng)論

沒有更多評(píng)論了