買機(jī)票、訂酒店，會員比新客更貴;點(diǎn)外賣，對老會員配送費(fèi)更高，同一家店吃兩三回就漲價(jià)……近兩年，“大數(shù)據(jù)殺熟”被越來越多的人所熟知。北京市消協(xié)的一份調(diào)查顯示，超八成被調(diào)查者認(rèn)為“大數(shù)據(jù)殺熟”現(xiàn)象如今相當(dāng)普遍，且有超五成被調(diào)查者表示有過被“大數(shù)據(jù)殺熟”的經(jīng)歷。
與之相對應(yīng)的是，多家大型互聯(lián)網(wǎng)企業(yè)被爆利用大數(shù)據(jù)分析對不同群體進(jìn)行差別定價(jià)，實(shí)行“價(jià)格歧視”。
在賽迪工業(yè)和信息化研究院網(wǎng)絡(luò)安全研究所副所長閆曉麗看來，“大數(shù)據(jù)殺熟”屬于算法濫用的一種形式，即通過數(shù)據(jù)和算法實(shí)施價(jià)格歧視，對不同用戶采取不同的價(jià)格政策，新老用戶不同價(jià)，不同地區(qū)用戶不同價(jià)，瀏覽量多或少的用戶不同價(jià)，追求自身利潤最大化。
“此外還有致癮性推薦、影響和誤導(dǎo)消費(fèi)者兩類。前者是通過數(shù)據(jù)和算法向用戶進(jìn)行個性化推薦，推薦其感興趣的內(nèi)容，且不論這些內(nèi)容是否恰當(dāng)、適合，有些內(nèi)容甚至違背法律和公序良俗，從而使用戶沉迷致癮;后者指通過數(shù)據(jù)和算法對流量分配、搜索排名、評價(jià)等級設(shè)置障礙，限制經(jīng)營者開展交易，降低消費(fèi)者選擇的可能性，進(jìn)而引導(dǎo)和左右消費(fèi)者選擇。”閆曉麗坦言，無論哪種，都是通過濫用數(shù)據(jù)分析和算法推薦侵害消費(fèi)者合法權(quán)益。
實(shí)際上，針對大數(shù)據(jù)濫用普遍存在于行業(yè)的現(xiàn)象，近年來，相關(guān)部門不斷出臺政策法規(guī)，從電子商務(wù)法對“大數(shù)據(jù)殺熟”作禁止性規(guī)定，到文化和旅游部印發(fā)《在線旅游經(jīng)營服務(wù)管理暫行規(guī)定》明確規(guī)定在線旅游經(jīng)營者不得濫用大數(shù)據(jù)分析等技術(shù)手段，再到近期引起廣泛關(guān)注的深圳推進(jìn)相關(guān)立法。
近期，《深圳經(jīng)濟(jì)特區(qū)數(shù)據(jù)條例(征求意見稿)》在深圳市人大常委會網(wǎng)站上公開征求意見，并將在本月底進(jìn)行“三審”。該條例(征求意見稿)明確提出對“大數(shù)據(jù)殺熟”給予重罰--違法所得不超過1萬元的，5萬元起罰。情節(jié)嚴(yán)重的，可處5000萬元以下或上一年度營業(yè)額5%以下罰款。
中國人民大學(xué)法學(xué)院教授劉俊海認(rèn)為，深圳的特區(qū)立法具有“破冰”意義。當(dāng)然，在多地試點(diǎn)后，還要逐步完善數(shù)據(jù)管理的頂層設(shè)計(jì)，明確數(shù)據(jù)權(quán)屬，推進(jìn)數(shù)據(jù)確權(quán)，保護(hù)用戶權(quán)益。
值得關(guān)注的是，算法是一個企業(yè)發(fā)展的核心，不僅難以監(jiān)控，并且隨著科技的發(fā)展，平臺“殺熟”的手段也愈加隱秘。在不斷完善法律法規(guī)的同時，還應(yīng)從多層面形成約束和透明化機(jī)制。
閆曉麗介紹，中共中央印發(fā)的《法治社會建設(shè)實(shí)施綱要(2020-2025年)》提出，要制定完善的算法推薦、深度偽造等新技術(shù)應(yīng)用規(guī)范管理辦法，但目前我國尚未形成算法應(yīng)用監(jiān)管制度體系。
閆曉麗認(rèn)為，一方面，應(yīng)組織開展算法應(yīng)用調(diào)查。識別不同應(yīng)用場景下的算法濫用危害，加快制定算法應(yīng)用規(guī)則和標(biāo)準(zhǔn)規(guī)范，探索形成一系列的監(jiān)管制度。其中就包括建立算法應(yīng)用影響評估制度，針對典型場景，要求企業(yè)在算法正式上線前評估算法對消費(fèi)者權(quán)益、個人基本權(quán)利等的影響，并采取相應(yīng)的防范措施。
另一方面，應(yīng)建立算法透明度制度。企業(yè)要向監(jiān)管部門和公眾披露其采用算法的相關(guān)信息，包括采用目的、應(yīng)用場景、算法技術(shù)實(shí)現(xiàn)等。對那些可能對個人和社會產(chǎn)生重大影響的算法決策，企業(yè)應(yīng)解釋算法的基本原理。
對此，閆曉麗舉例道，歐盟《通用數(shù)據(jù)保護(hù)條例》第13條規(guī)定，當(dāng)數(shù)據(jù)控制者收集個人數(shù)據(jù)時，如采用自動化決策對用戶進(jìn)行畫像或存在類似情況的，應(yīng)當(dāng)向數(shù)據(jù)主體提供關(guān)于此類問題處理的邏輯及預(yù)期后果的有效信息;美國《公平信用報(bào)告法》包含“不利行動告知”條款，要求貸款方就對金融消費(fèi)者不利的算法評分向其進(jìn)行解釋。
“此外，還應(yīng)建立算法問責(zé)機(jī)制。允許個人對算法決策提出異議、要求對算法決策進(jìn)行人工審查等。”閆曉麗說。
在完善制度的同時，行業(yè)亦需要自律和良性競爭。在6月7日舉行的2021全球人工智能技術(shù)大會上，記者發(fā)現(xiàn)，可信AI正成為行業(yè)關(guān)注重點(diǎn)，有望為規(guī)范人工智能發(fā)展提出自律性要求。
蘇寧金融研究院金融科技研究中心主任孫揚(yáng)認(rèn)為，從當(dāng)前行業(yè)現(xiàn)狀來看，違規(guī)采集、使用用戶數(shù)據(jù)等問題依舊頻發(fā)，人工智能的安全性、可靠性與可信性都需增強(qiáng)，打破數(shù)據(jù)孤島過程中如何防止技術(shù)公司濫用數(shù)據(jù)優(yōu)勢也向技術(shù)公司提出了更高的數(shù)據(jù)使用要求。
