央廣網(wǎng)北京1月17日消息(記者張鴻昊)據(jù)中央廣播電視總臺經(jīng)濟之聲《天下財經(jīng)》報道,近期,一批搭載AI助手的手機在嘗試通過語音指令完成“搶紅包”、電商下單等操作時,被部分平臺系統(tǒng)判定為“涉嫌使用外掛”,導(dǎo)致用戶賬號受到限制甚至封禁法律。這一看似尋常的技術(shù)兼容問題實則揭開了AI手機與互聯(lián)網(wǎng)平臺之間“誰有權(quán)操作手機”的深層結(jié)構(gòu)性沖突。從驚艷問世到被多款A(yù)PP禁用,AI手機技術(shù)發(fā)展的法律邊界在哪里?在近期由上海三中院——華政科研創(chuàng)新合作平臺舉辦的AI手機合規(guī)制度構(gòu)建研討會上,來自法學(xué)界、司法界的數(shù)十位專家共同探討了新技術(shù)新產(chǎn)品帶來的監(jiān)管挑戰(zhàn)。
AI手機是指在傳統(tǒng)智能手機基礎(chǔ)上,深度嵌入大語言模型等人工智能技術(shù)的新型終端形態(tài),其顯著特征在于能夠通過語音或文字指令理解用戶意圖,并在多個應(yīng)用場景中實現(xiàn)跨系統(tǒng)的信息調(diào)取與操作執(zhí)行法律。
AI手機通過調(diào)用手機的“無障礙功能”,讀取屏幕信息,進而進行比價、購物等操作法律。手機變聰明了,隱私也隨之暴露在更深的風(fēng)險中。如何不讓個人信息“裸奔”?
日前出臺的《互聯(lián)網(wǎng)應(yīng)用程序個人信息收集使用規(guī)定(征求意見稿)》為AI手機等創(chuàng)新劃定了“最小必要”“透明可控”“責(zé)任閉環(huán)”三大原則法律。在中國人民大學(xué)法學(xué)院教授郭禾看來,保障用戶對AI功能的“實質(zhì)知情”是AI手機合規(guī)的關(guān)鍵環(huán)節(jié)。相比傳統(tǒng)的一次性授權(quán)方式,AI手機更應(yīng)在具體功能觸發(fā)的關(guān)鍵節(jié)點向用戶提供清晰、具體的告知信息,避免籠統(tǒng)授權(quán)削弱用戶的真實選擇權(quán)。
“設(shè)計過程可以有更優(yōu)化的方式,比如每個APP單獨有一個用戶確認(rèn),產(chǎn)品提供方可以把程序設(shè)置得更周密一些,讓手機持有人、使用人真正實際知情法律?!惫讨赋?。
中國社會科學(xué)院長城學(xué)者李明德也認(rèn)為,AI發(fā)展再快,也不能脫離法治的軌道;技術(shù)再聰明,也不能以犧牲隱私為代價法律?!爱a(chǎn)品發(fā)展、市場發(fā)展的終極目標(biāo)之一應(yīng)該是保護個人信息、隱私或敏感信息?!崩蠲鞯抡f。
AI手機的核心理念在于其系統(tǒng)層級的AI助手能夠跨應(yīng)用直接讀取屏幕內(nèi)容、模擬用戶點擊,實現(xiàn)“所說即所得”的智能化操作法律。這背后是無障礙權(quán)限與系統(tǒng)層級調(diào)用的技術(shù)支撐,卻直擊現(xiàn)有互聯(lián)網(wǎng)商業(yè)模式的要害。
世界知識產(chǎn)權(quán)組織仲裁員陳錦川指出,當(dāng)AI手機成為用戶第一入口,實際上就架空了APP交互界面,剝奪APP商品展示和算法主導(dǎo)權(quán)法律。按以前一系列案件,可能構(gòu)成一種流量劫持的不正當(dāng)競爭行為。
對于AI手機技術(shù)發(fā)展的法律邊界,不少法學(xué)專家和一線法律工作者認(rèn)為,隨著人工智能技術(shù)的廣泛應(yīng)用,傳統(tǒng)以“知情——同意”為核心的個人信息保護模式在部分場景中已難以充分發(fā)揮作用,未來可考慮通過強化數(shù)據(jù)處理者義務(wù)、完善責(zé)任追究機制來提升整體保護水平法律。
在這場關(guān)于“手機操作權(quán)”的靜默博弈中,AI手機不僅是技術(shù)產(chǎn)品,更成為檢驗法律彈性、商業(yè)倫理與創(chuàng)新包容度的試金石法律。最終答案或許不在法條之中,而在技術(shù)、市場與監(jiān)管的持續(xù)對話與動態(tài)平衡里。李明德說:“不要試圖以法律規(guī)范解決技術(shù)規(guī)范和市場競爭可以解決的問題。大家冷靜一點,稍微再等等?!?/p>