廣受期待的《個(gè)人信息保護(hù)法》新近于全國(guó)人大通過(guò)后，加大保障個(gè)人隱私安全的行業(yè)法規(guī)正在有序醞釀出臺(tái)。而近年來(lái)飽受詬病的算法技術(shù)，成為最新一輪的監(jiān)管目標(biāo)。

 

　　8月27日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見(jiàn)稿)》(以下簡(jiǎn)稱(chēng)《意見(jiàn)稿》)，對(duì)科技企業(yè)濫用算法推薦損害用戶(hù)權(quán)益提出多項(xiàng)限制要求。其中，關(guān)注度最高的意見(jiàn)稿第15條提出，算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶(hù)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶(hù)提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶(hù)選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。

 

　　這條意在讓用戶(hù)擁有關(guān)閉算法推薦權(quán)利的條文，將矛頭直指目前所有對(duì)用戶(hù)提供算法推薦服務(wù)的互聯(lián)網(wǎng)科技公司。后者通過(guò)人工智能算法，深度分析用戶(hù)的瀏覽習(xí)慣、喜好及消費(fèi)等特征數(shù)據(jù)，從而向用戶(hù)推送個(gè)性化的內(nèi)容、商品及廣告。

 

　　《中國(guó)經(jīng)營(yíng)報(bào)》記者注意到，意見(jiàn)稿發(fā)布后，多家互聯(lián)網(wǎng)巨頭都在公共平臺(tái)保持了沉默。記者就此聯(lián)系并詢(xún)問(wèn)了其中多家企業(yè)，截至發(fā)稿，只有字節(jié)跳動(dòng)方面向記者做出回應(yīng)。對(duì)方表示，此前抖音和今日頭條已經(jīng)進(jìn)行過(guò)系統(tǒng)升級(jí)，為用戶(hù)明確提供了個(gè)性化推送的關(guān)閉選擇，后續(xù)也會(huì)不斷優(yōu)化產(chǎn)品功能，不斷提高用戶(hù)信息保護(hù)水平。

 

　　根據(jù)《意見(jiàn)稿》，征詢(xún)反饋的截止期限為9月26日，而新規(guī)實(shí)施后，監(jiān)管部門(mén)將對(duì)相關(guān)企業(yè)的算法進(jìn)行檢查，一旦發(fā)現(xiàn)問(wèn)題就會(huì)要求企業(yè)立即整改。對(duì)拒不改正或情節(jié)嚴(yán)重的，將責(zé)令其暫停信息更新，并處5000元以上30000元（人民幣）以下罰款。構(gòu)成違反治安管理行為的，將依法給予治安管理處罰。對(duì)構(gòu)成犯罪的，將追究刑事責(zé)任。

 

　　精準(zhǔn)投喂的背面

 

　　算法推薦技術(shù)在國(guó)內(nèi)為大眾熟知，始于今日頭條的崛起。2012年，乘著中國(guó)移動(dòng)互聯(lián)網(wǎng)市場(chǎng)爆發(fā)的東風(fēng)，成功孵化出“內(nèi)涵段子”“搞笑囧圖”的字節(jié)跳動(dòng)開(kāi)始進(jìn)軍內(nèi)容分發(fā)市場(chǎng)，并于同年8月上線(xiàn)今日頭條App。這個(gè)能根據(jù)用戶(hù)閱讀口味與瀏覽習(xí)慣而推薦新聞的App很快在手機(jī)應(yīng)用市場(chǎng)霸榜，上線(xiàn)僅3個(gè)月，用戶(hù)數(shù)便突破1000萬(wàn)，次年8月突破5000萬(wàn)，2014年6月超過(guò)1.2億，成為中國(guó)移動(dòng)端新聞資訊領(lǐng)域增長(zhǎng)最快的App。隨后，嘗到甜頭的張一鳴又帶領(lǐng)字節(jié)跳動(dòng)在2016年先后推出了火山小視頻、西瓜視頻和抖音三款短視頻App并大獲成功，其背后依靠的，個(gè)性化的算法推薦功不可沒(méi)。

 

　　頭條系產(chǎn)品的走紅很快有了帶動(dòng)效應(yīng)。算法推薦隨即成為科技輿論場(chǎng)的顯學(xué)，使用算法推薦的互聯(lián)網(wǎng)公司也越來(lái)越多，除資訊、短視頻外，社交、出行、求職、電商、搜索引擎等平臺(tái)和互聯(lián)網(wǎng)應(yīng)用幾乎都使用到了算法推薦技術(shù)，廠(chǎng)商在營(yíng)銷(xiāo)產(chǎn)品時(shí)也樂(lè)于將“個(gè)性化”“定制化”“智能化”作為競(jìng)爭(zhēng)力標(biāo)簽。

 

　　技術(shù)紅利催生的繁榮下，公眾開(kāi)始看到硬幣的另一面，算法推薦遭到濫用的負(fù)面事件越來(lái)越多。工信部賽迪智庫(kù)網(wǎng)絡(luò)安全研究所副所長(zhǎng)閆曉麗在《算法濫用的社會(huì)危害及監(jiān)管建議》一文中指出，濫用數(shù)據(jù)分析和算法推薦導(dǎo)致的主要危害包括致癮性推薦、大數(shù)據(jù)殺熟以及影響誤導(dǎo)消費(fèi)者三類(lèi)。

 

　　此外，不斷推薦用戶(hù)感興趣的內(nèi)容，從而使用戶(hù)沉迷成癮，是算法推薦大行其道后遭遇最多的質(zhì)疑。而其延伸出的最主要危害之一，也被稱(chēng)為“信息繭房”效應(yīng)，即由長(zhǎng)期“偏好”性地獲取資訊與知識(shí)，造成認(rèn)知視野局限，導(dǎo)致用戶(hù)對(duì)于信息內(nèi)容接觸面越來(lái)越狹隘、單一和固化。

 

　　中國(guó)信息通信研究院互聯(lián)網(wǎng)法律研究中心研究員楊婕撰文指出，一旦身處“信息繭房”中，用戶(hù)會(huì)不自覺(jué)地失去社會(huì)行動(dòng)力，滿(mǎn)足于被動(dòng)的知識(shí)積累，從積極地參與事件轉(zhuǎn)變?yōu)橄麡O地認(rèn)識(shí)事件，很難再接受不同的觀(guān)點(diǎn)，甚至在不同群體、代際間豎起阻礙溝通的高墻，極易造成個(gè)體與社會(huì)的隔離。

 

　　而相比致癮以及“信息繭房”等軟性危害，北京中倫律師事務(wù)所合伙人陳際紅律師則向記者表示，算法推薦會(huì)給用戶(hù)帶來(lái)實(shí)質(zhì)權(quán)益損害的是誤導(dǎo)消費(fèi)者以及個(gè)人隱私泄露。

 

　　“通過(guò)分析用戶(hù)的瀏覽及消費(fèi)數(shù)據(jù)，依據(jù)其消費(fèi)習(xí)慣，預(yù)測(cè)用戶(hù)購(gòu)買(mǎi)喜好，針對(duì)性地向用戶(hù)推薦商品，進(jìn)而影響用戶(hù)的購(gòu)買(mǎi)決策，這會(huì)降低用戶(hù)選擇的可能性，損害用戶(hù)知情權(quán)。”陳際紅稱(chēng)。

 

　　另一方面，陳際紅指出，為了提高算法推薦的精準(zhǔn)程度，很多企業(yè)也會(huì)傾向于從用戶(hù)身上挖掘和搜集更多數(shù)據(jù)，從而侵犯用戶(hù)的個(gè)人隱私權(quán)，如果其中一些掌握大量用戶(hù)關(guān)鍵信息的數(shù)據(jù)一旦泄露，甚至?xí)：?guó)家安全。

 

　　一家社交App公司的產(chǎn)品經(jīng)理向記者透露，在前幾年社交軟件競(jìng)爭(zhēng)激烈的時(shí)期，用戶(hù)使用App的時(shí)長(zhǎng)曾是其崗位績(jī)效考核的重要指標(biāo)之一，而為了增加用戶(hù)停留時(shí)間，就必須為用戶(hù)推薦更精確的社交信息，因此也會(huì)在產(chǎn)品中增加更多獲取用戶(hù)性格、社交習(xí)慣、日常活動(dòng)區(qū)域等個(gè)人隱私信息的方式。

 

　　新規(guī)影響幾何

 

　　算法推薦泛濫導(dǎo)致的紛繁亂象，也讓此次《意見(jiàn)稿》的出臺(tái)成為輿論焦點(diǎn)。尤其是在國(guó)家法規(guī)層面首度要求用戶(hù)享有算法推薦的自由關(guān)閉權(quán)，帶來(lái)的影響也將有著多重意義。

 

　　第一大亮點(diǎn)是涉及范圍和力度之廣。陳際紅表示：“從《意見(jiàn)稿》第二條來(lái)看，凡是在中華人民共和國(guó)境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)都將適用新規(guī)，這也意味著目前所有的互聯(lián)網(wǎng)和科技公司都被囊括在內(nèi)，比此前2019年的規(guī)定范圍提升了不少。”

 

　　記者查閱發(fā)現(xiàn)，2019年12月，網(wǎng)信辦曾推出《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》。其中第十二條明確規(guī)定，網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)采用個(gè)性化算法推薦技術(shù)推送信息的，應(yīng)當(dāng)設(shè)置符合要求的推薦模型，建立健全人工干預(yù)和用戶(hù)自主選擇機(jī)制。

 

　　“當(dāng)年的‘網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)’針對(duì)的主要是今日頭條等內(nèi)容提供商，沒(méi)有包括電商、社交這類(lèi)公司，而這次的規(guī)定顯然提升了一個(gè)臺(tái)階。”陳際紅表示。

 

　　而根據(jù)新規(guī)《意見(jiàn)稿》給出的定義，記者注意到，應(yīng)用算法推薦技術(shù)指的是應(yīng)用生成合成類(lèi)、個(gè)性化推送類(lèi)、排序精選類(lèi)、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等算法技術(shù)向用戶(hù)提供信息內(nèi)容。

 

　　在一家電商平臺(tái)工作的算法工程師張林告訴記者，上述五類(lèi)算法涵蓋目前市面上所有的App企業(yè)。“受到影響最大的應(yīng)該會(huì)是短視頻和電商，這兩類(lèi)是目前采用用戶(hù)畫(huà)像和算法推薦最多的公司。”

 

　　法學(xué)博士、上海漢盛律師事務(wù)所高級(jí)合伙人李旻律師告訴記者，《意見(jiàn)稿》是《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》頒布后實(shí)施的必要延伸。“該算法規(guī)定是對(duì)三大數(shù)據(jù)法規(guī)范互聯(lián)網(wǎng)數(shù)據(jù)及經(jīng)營(yíng)問(wèn)題的有效補(bǔ)充。”

 

　　記者注意到，近日通過(guò)的《個(gè)人信息保護(hù)法》明確規(guī)定：“個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。”

 

　　此外，陳際紅認(rèn)為，新規(guī)代表中國(guó)在全球算法治理層面走在了前列。“包括歐盟《通用資料保護(hù)規(guī)范》（GDPR）、美國(guó)的州立法《生物信息隱私法案》，雖然有涉及算法的內(nèi)容，但本質(zhì)還是數(shù)據(jù)與個(gè)人隱私安全層面的法律，像中國(guó)一樣專(zhuān)門(mén)針對(duì)算法立法還是首次。”

 

　　而在新規(guī)將起到的作用方面，記者注意到，在一項(xiàng)由新浪科技官方微博發(fā)起的調(diào)查顯示，有55%的用戶(hù)認(rèn)為，可選擇關(guān)閉算法推薦將“多一些安全感”，34%的用戶(hù)選擇了“信息更加多元”。

 

　　這也意味著，相比于擁有更多選擇，個(gè)人隱私安全是更受用戶(hù)關(guān)注的因素。李旻認(rèn)為，對(duì)個(gè)人用戶(hù)而言，新規(guī)實(shí)施后使用App過(guò)程中，用戶(hù)可選擇關(guān)閉算法推薦服務(wù)，包括是否接受推薦服務(wù)、推薦種類(lèi)、模式等，能夠有效防止用戶(hù)被App“偷聽(tīng)”。

 

　　但張林認(rèn)為，僅從用戶(hù)可關(guān)閉算法推薦的單條規(guī)定來(lái)判斷，很難說(shuō)一定能降低企業(yè)搜集用戶(hù)數(shù)據(jù)的積極性。“對(duì)企業(yè)來(lái)說(shuō)，符合規(guī)定只需在產(chǎn)品界面增加一個(gè)選項(xiàng)按鈕。但獲取用戶(hù)數(shù)據(jù)依然會(huì)是公司增加和分析客流的重要手段。”張林表示，長(zhǎng)期來(lái)看，還是需要《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等綜合實(shí)施來(lái)實(shí)現(xiàn)對(duì)企業(yè)的約束。

 

　　（注：應(yīng)受訪(fǎng)者要求，文中張林為化名。）