聚焦《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》五大看點(diǎn)
新華社北京1月6日電 題:聚焦《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》五大看點(diǎn)
新華社“新華視點(diǎn)”記者
通過大數(shù)據(jù)“殺熟”實(shí)施不合理差別待遇,利用算法誘導(dǎo)用戶沉迷網(wǎng)絡(luò)、過度消費(fèi)……當(dāng)前,算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用,在給用戶帶來一定程度便利的同時(shí),由算法引發(fā)的侵害用戶權(quán)益問題也屢屢出現(xiàn)。
算法推薦是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等技術(shù)向用戶提供信息。
近日,國(guó)家網(wǎng)信辦等四部門出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,針對(duì)被詬病已久的問題提出明確要求。
大數(shù)據(jù)“殺熟”如何解?不得實(shí)施差別待遇
同樣的送餐時(shí)間、地點(diǎn)、訂單、外賣平臺(tái),會(huì)員卻比非會(huì)員多付錢;同時(shí)同地打同類型車到同一目的地,某打車平臺(tái)曾被用戶發(fā)現(xiàn)熟客反而收費(fèi)更高。
當(dāng)前,越來越多的企業(yè)利用大數(shù)據(jù)分析評(píng)估消費(fèi)者的個(gè)人特征用于商業(yè)營(yíng)銷。但也有一些企業(yè)利用個(gè)人信息搞大數(shù)據(jù)“殺熟”,對(duì)不同群體進(jìn)行差別定價(jià),實(shí)行“價(jià)格歧視”。
規(guī)定提出,算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的,應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利,不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征,利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。
去年10月,騰訊、華為等20余家App運(yùn)營(yíng)企業(yè)承諾將嚴(yán)守用戶個(gè)人隱私邊界,保護(hù)用戶公平交易權(quán),不利用大數(shù)據(jù)“殺熟”。
中國(guó)信息安全研究院副院長(zhǎng)左曉棟認(rèn)為,大數(shù)據(jù)“殺熟”等頑疾歸根結(jié)底是濫用用戶個(gè)人信息導(dǎo)致的。解決這類問題,首先要在治理違法違規(guī)收集用戶個(gè)人信息上下功夫,其次要保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。例如,要向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng),或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng),并提供選擇或刪除針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能。
誘導(dǎo)用戶沉迷、過度消費(fèi)?促進(jìn)算法應(yīng)用向上向善
設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)的算法模型,已成為備受詬病的網(wǎng)絡(luò)消費(fèi)和娛樂現(xiàn)象。
“有的游戲你玩不過去它就給你放點(diǎn)水,導(dǎo)致你像中毒一樣停不下來;或者看你反復(fù)瀏覽某件商品,它就顯示兩件八折、三件七五折這樣的優(yōu)惠,讓你盡可能多買?!敝袊?guó)電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)安中心測(cè)評(píng)實(shí)驗(yàn)室副主任何延哲說。
規(guī)定提出,算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型。
中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授王立梅認(rèn)為,算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向、促進(jìn)算法應(yīng)用向上向善的基本要求。規(guī)定提出不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等算法模型,正是將科技向善理念落實(shí)為具體業(yè)務(wù)要求的體現(xiàn)。
“規(guī)定提出了要防范出現(xiàn)此類情形,需要相關(guān)企業(yè)切實(shí)做好算法的評(píng)估工作,從算法推薦的邏輯、面向的用戶群體、瀏覽和消費(fèi)行為等多個(gè)角度出發(fā)進(jìn)行綜合分析。”何延哲建議,為防止算法導(dǎo)致的沉迷或過度消費(fèi),必要時(shí)還應(yīng)引入第三方進(jìn)行評(píng)價(jià)和評(píng)議,以保證評(píng)估的中立性。
刷量控評(píng)影響網(wǎng)絡(luò)輿論?確保算法公開透明
利用算法注冊(cè)虛假賬號(hào)、雇傭網(wǎng)絡(luò)“水軍”,實(shí)施虛假點(diǎn)贊、轉(zhuǎn)發(fā)等流量造假,或者鼓動(dòng)“飯圈”粉絲互撕謾罵、刷量控評(píng);屏蔽信息、過度推薦,操縱干預(yù)熱搜、榜單或檢索結(jié)果排序……一些算法推薦服務(wù)提供者在開展個(gè)性化推薦、熱點(diǎn)榜單、信息發(fā)布等活動(dòng)時(shí),還存在影響網(wǎng)絡(luò)輿論的現(xiàn)象。
根據(jù)規(guī)定,算法推薦服務(wù)應(yīng)遵循公開透明的原則,鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略,優(yōu)化規(guī)則透明度和可解釋性。建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊(cè)、信息發(fā)布審核等管理制度,不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)。
“針對(duì)微博存在的刷量、刷榜、控評(píng)等干擾、扭曲真實(shí)的用戶聲音和信息傳播等問題,我們一直在努力整治。”微博有關(guān)負(fù)責(zé)人坦言,這些問題屢禁難絕的背后,也有真人刷榜行為比較難發(fā)現(xiàn)、對(duì)已形成完整產(chǎn)業(yè)鏈的相關(guān)黑灰產(chǎn)難以從技術(shù)上禁絕等困難的存在。
世輝律師事務(wù)所合伙人王新銳認(rèn)為,規(guī)定要求網(wǎng)絡(luò)平臺(tái)以顯著方式告知用戶其提供算法推薦服務(wù)的情況,同時(shí)要求具有輿論屬性或者社會(huì)動(dòng)員能力的平臺(tái)將算法相關(guān)情況予以備案,通過這種“普遍公開+部分備案”的方式來解決算法不透明帶來的現(xiàn)實(shí)問題和普遍憂慮。
未成年人等特殊群體權(quán)益如何保護(hù)?精細(xì)化滿足不同群體訴求
近年來,一些App接連被曝出傳播兒童軟色情表情包、利用未成年人性暗示短視頻引流等問題,嚴(yán)重?fù)p害未成年人身心健康,影響網(wǎng)絡(luò)傳播秩序。
“網(wǎng)絡(luò)為未成年人帶來了嶄新的生活方式,也產(chǎn)生了未成年人網(wǎng)絡(luò)保護(hù)問題?!敝袊?guó)社會(huì)科學(xué)院大學(xué)副校長(zhǎng)林維認(rèn)為,未成年人存在認(rèn)知、判斷能力較弱,價(jià)值觀尚未成型等特點(diǎn),針對(duì)性過強(qiáng)的算法推送內(nèi)容有可能引發(fā)各種不良效果,也可能導(dǎo)致沉迷網(wǎng)絡(luò)現(xiàn)象。
對(duì)此,規(guī)定提出,算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息,不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。
此外,針對(duì)一些平臺(tái)未充分考慮老年人適老化需求等問題,規(guī)定還要求,算法推薦服務(wù)提供者向老年人提供服務(wù)的,應(yīng)當(dāng)保障老年人依法享有的權(quán)益,充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求,按照國(guó)家有關(guān)規(guī)定提供智能化適老服務(wù)。
專家指出,在互聯(lián)網(wǎng)信息服務(wù)日益多元化、基礎(chǔ)化、普及化的情況下,規(guī)定精細(xì)化、有側(cè)重地滿足不同群體的利益訴求,將更好保障未成年人、老年人、勞動(dòng)者等群體權(quán)益,引導(dǎo)算法應(yīng)用遵守社會(huì)公德和倫理,遵守商業(yè)道德和職業(yè)道德。
監(jiān)管如何落地落實(shí)?著力完善治理體系
當(dāng)前,算法等新技術(shù)新應(yīng)用已經(jīng)成為推動(dòng)企業(yè)數(shù)字化轉(zhuǎn)型和國(guó)家治理能力現(xiàn)代化的重要力量。專家認(rèn)為,規(guī)定有利于建立健全科學(xué)的監(jiān)管體系,統(tǒng)籌各方建立完整制度鏈條,形成算法治理長(zhǎng)效機(jī)制。
“事前監(jiān)管,確立算法備案、算法評(píng)估等制度;區(qū)分監(jiān)管,確立分級(jí)分類的思路;系統(tǒng)監(jiān)管,建立多元共治的局面?!敝袊?guó)信息通信研究院副總工程師王愛華認(rèn)為,規(guī)定著力完善治理體系,通過優(yōu)化監(jiān)管框架,實(shí)現(xiàn)事前事中事后全流程、全鏈條監(jiān)管,增強(qiáng)監(jiān)管系統(tǒng)性和權(quán)威性。
星瀚律師事務(wù)所主任律師衛(wèi)新認(rèn)為,當(dāng)前算法技術(shù)的應(yīng)用越來越廣泛,對(duì)算法的監(jiān)管需要迎頭跟上,未來在具體執(zhí)行過程中還需形成各類具備可操作性的細(xì)則。
“算法推薦作為一種新技術(shù)模式,面臨一些新型技術(shù)安全、應(yīng)用安全甚至倫理安全風(fēng)險(xiǎn)。”中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記楊建軍建議,為支撐規(guī)定落地實(shí)施,亟須加強(qiáng)算法安全技術(shù)能力建設(shè),建設(shè)算法推薦服務(wù)備案、算法安全評(píng)估、算法安全風(fēng)險(xiǎn)監(jiān)測(cè)等平臺(tái),提升算法推薦技術(shù)監(jiān)管能力。(記者王思北、陽娜、周琳、顏之宏)
版權(quán)聲明:凡注明“來源:中國(guó)西藏網(wǎng)”或“中國(guó)西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國(guó)西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責(zé)任。