精準推送、大數據殺熟網絡時代如何規范“算法”
專家建議應強化對“算法推薦”本身的法治監管
網絡時代，應如何規范“算法”
很多人都有過這樣的經歷：瀏覽一些網絡app，如果你曾打開一條關于健身的消息，之后經常會收到各種關于健身知識、健身產品的廣告推送……隨著信息技術的迅猛發展、大數據應用的興起，算法推薦帶來的信息定制化、資訊分眾化已經得到較廣泛應用。
算法推薦滿足了人們多元化、個性化的信息需求。通過定制化、智能化的信息傳播機制，實現了用戶與信息的快速精確匹配，大大降低信息傳播和獲取的成本，為生活帶來便利。但是，算法推薦在帶來高效與便捷的同時，也引發了諸如大量低俗劣質信息精準推送、大數據殺熟等諸多亂象。
網絡時代，我們究竟需要怎樣的“算法”？又該如何規范“算法”以趨利避害，實現網絡空間的清朗生態環境？
算法推薦背后亂象頻發
今年4月，針對“快手”和“今日頭條”旗下“火山小視頻”在內的直播短視頻平臺出現的大量未成年早戀早孕視頻，國家網信辦依法約談“快手”和“火山小視頻”相關負責人，責令其全面進行整改，并要求暫停有關算法推薦功能。
大量精準傳播惡劣低俗內容，只是算法推薦技術所引發亂象的“冰山一角”。除此之外，一些夸大其詞的廣告、博人眼球的標題黨、極端情緒化的文章等信息，都更多更頻繁地出現于一些平臺的算法推薦序列中。對此，有網友總結了算法推薦劣質信息的三大特質：真假難辨、價值導向錯亂、缺乏深度。
為什么在算法推薦技術深度應用的網絡世界，這些劣質信息的野蠻生長加快了、放大了、頻繁了？
算法推薦技術事實上充當了傳統內容分發過程中的“編輯”角色。內容能否推送、推送給誰，都是預先設定好的程序說了算，而依據的標準往往就一條：能不能獲取流量、能不能吸引關注。作為一項技術應用，算法推薦本身是中性的，但在“技術中性”的背后，卻潛藏著推送者的價值導向。正是這種“流量至上”的單一價值導向，讓推送者忽略了內容本身的真偽和善惡，最終導致劣質信息層出不窮。
“更重要的是，基于這種價值導向的算法推薦，還會形成一個充斥惡劣低俗內容的‘信息繭房’。”中國人民大學法學院教授劉俊海認為，算法推薦很容易讓人形成自動過濾掉“不感興趣”“不認同”的信息，實現“看我想看，聽我想聽”，但通過推送傳播博人眼球的劣質低俗內容，以獲取關注和流量的取悅用戶之舉，事實上導致了網絡空間中劣質內容的“劣幣”驅逐了優質內容的“良幣”。
“技術中性”不能等同于“價值中性”
“技術中性”不能等同于“價值中性”，不能讓價值觀成為算法技術的附庸。算法推薦毋庸置疑是一個價值觀問題，技術可以沒有價值觀，但是作為技術發明者、操縱者的人，不能沒有價值觀。因此，應糾正“流量為王”的價值觀，用積極健康、符合公序良俗的價值觀，指引算法推薦的設計和應用。
“算法推薦不僅是價值觀問題，還是法律問題。”中國政法大學傳播法研究中心副主任朱巍認為，當下由算法推薦引發的各類問題，都涉及內容監管和法律規范。朱巍舉例，目前直播內容相關的專門立法并不少，從網絡安全法到網信辦的相關規定，都對內容安全作了具體規范。
但從直播內容存在的時空權重看，內容產生于用戶，分發于平臺，接受于用戶。實踐中，立法對內容產生者——短視頻制作者和主播作出了較明確的規定，甚至各平臺也作出了進一步的公約自律細則；對直播觀看者和傳播者，立法也規定了舉報權利和傳播者責任。
網絡空間不是法外之地。近年來，針對算法推薦引發的諸多亂象，相關監管部門頻頻依法重拳出擊——約談、處罰整改、永久下架、暫停算法推薦功能等手段多措并舉。然而，現實中卻總能看到這樣的現象：即便不斷地打擊、處罰和整治，卻難以遏制劣質內容“換個馬甲”、變換渠道再次生長。這是為什么？
朱巍表示，首先，算法決定了內容的展現形式——不論用戶上傳的是文字和圖片，還是視頻或直播，算法都需要將這些抽象出特征，分門別類進行統籌標記。其次，算法決定讓什么樣的人群看到什么樣的內容——算法推薦分發系統，會按照用戶標簽、興趣點、位置、相似用戶喜愛偏好、在線時間、使用機型等行為細節來設置算法匹配，實現“不是用戶決定自己想看什么，而是平臺決定用戶能看到什么”。
“由此可見，算法如此重要，但當下法律對算法推薦本身，卻缺乏足夠和直接的規范。” 朱巍認為，這導致只能針對具體現象，進行“頭痛醫頭、腳痛醫腳”式的監管，而難以從源頭上遏制算法推薦亂象。
強化對算法推薦本身的法治監管
2017年6月1日起施行的網絡安全法第九條明確規定，網絡運營者開展經營和服務活動，必須遵守法律、行政法規，尊重社會公德，遵守商業道德，誠實信用，履行網絡安全保護義務，接受政府和社會的監督，承擔社會責任。
治理算法推薦引發的亂象，依法施治是根本之策。近年來，我國互聯網治理邁向法治化快車道，相關法律、行政法規、部門規章等日漸完善，構建起一套系統完備的網絡監管法律體系。對推送惡劣信息等亂象依法打擊懲治，這并非權宜之計，而需要常抓不懈。
在北京大學法學院副院長、教授薛軍看來，治理算法推薦引發的亂象，不能僅呼吁平臺、技術研發者道德自律，不能只停留于倡導“算法也應具備良好的價值倫理”，而應將算法的價值倫理上升為法律規范和原則，使其具有法律的剛性，以強化對算法推薦本身的法治監管。“基于維護社會公共利益和公序良俗的需要，應將無差別不歧視、保護基本人權、尊重個人隱私等原則納入對算法的法律規制中。”
“當然，算法推薦作為一種商業秘密和技術秘密，應用過程中又往往涉及社會公共利益，如何平衡、把握對算法推薦法律規制的邊界，是面臨的一大難題。”薛軍建議，對算法推薦的法律規制，可采用分層次、分類別的多元共治模式。例如，對那些影響公眾基本權利、涉及重大社會公共利益的算法，應通過立法對分發內容、內容判斷標準、推薦標準、干預手段等關鍵性環節，進行更強的公共監管；而對其他不同層次的算法推薦，可通過制定行業標準、向監管部門自我申報等方式來實現監管。
“此外，還可通過立法提升算法推薦的透明度、多元性，以提升公眾的知情權和自主選擇權。”薛軍舉例，電子商務法（草案）三次審議稿第三十九條規定：“電子商務平臺經營者應當根據商品或者服務的價格、銷量、信用等以多種方式向消費者顯示商品或者服務的搜索結果；對于競價排名的商品或者服務，應當顯著標明 ‘廣告’。”
在薛軍看來，針對算法推薦帶來的新問題、新挑戰，在法律制度的研究方面未雨綢繆，強化對算法推薦本身的法治監管，將有助于實現技術運用與價值倫理、商業價值和社會價值的良性互動。（記者 倪 弋）
我市廢止98項泰安市農業標準規范
商丘市睢陽區科技局在全區開展知識產權維權援助工作系列宣傳活動
我市首批12個街道開展全域垃圾分類
居民小組長愛“多管閑事”常用社區微信群反映問題
讓“方便”更方便 靜安區滬太路智慧廁所改造完成
精準推送、大數據殺熟網絡時代如何規范“算法”
[榆樹市]市委副書記、市長高中會參加指導榆樹市環城鄉黨委班子2017年度民主生活會
世界羽聯發球新規:球與地面距離不超過1.15米
深圳交警發布端午假期交通出行預測 明日11時離深將最堵
大鵬新區城市建設局開展春節節后建設工地復工前安全檢查工作
寶雞將新增2條高速公路！快來看看經過你家門口嗎？
黃山市第七屆人民代表大會第一次會議主席團常務主席名單
銀川完成1355例異地就醫結算
雅安市人民政府辦公室關于2018年第三季度全市政府網站普查工作情況的通報
當涂縣太白鎮堅持“五個聚焦”促進鎮域經濟高質量發展
荊州市質監局組織黨的十九大精神宣講報告會
貴池法院網絡司法拍賣成交創新高
奉賢區部署2018年樞紐型社會組織服務中心實體化建設工作
海倫思想扶貧生成“自我脫貧”合力
沙塘社區：當好隔代家長 關愛孩子成長
網絡時代，應如何規范“算法”
很多人都有過這樣的經歷：瀏覽一些網絡app，如果你曾打開一條關于健身的消息，之后經常會收到各種關于健身知識、健身產品的廣告推送……隨著信息技術的迅猛發展、大數據應用的興起，算法推薦帶來的信息定制化、資訊分眾化已經得到較廣泛應用。
算法推薦滿足了人們多元化、個性化的信息需求。通過定制化、智能化的信息傳播機制，實現了用戶與信息的快速精確匹配，大大降低信息傳播和獲取的成本，為生活帶來便利。但是，算法推薦在帶來高效與便捷的同時，也引發了諸如大量低俗劣質信息精準推送、大數據殺熟等諸多亂象。
網絡時代，我們究竟需要怎樣的“算法”？又該如何規范“算法”以趨利避害，實現網絡空間的清朗生態環境？
算法推薦背后亂象頻發
今年4月，針對“快手”和“今日頭條”旗下“火山小視頻”在內的直播短視頻平臺出現的大量未成年早戀早孕視頻，國家網信辦依法約談“快手”和“火山小視頻”相關負責人，責令其全面進行整改，并要求暫停有關算法推薦功能。
大量精準傳播惡劣低俗內容，只是算法推薦技術所引發亂象的“冰山一角”。除此之外，一些夸大其詞的廣告、博人眼球的標題黨、極端情緒化的文章等信息，都更多更頻繁地出現于一些平臺的算法推薦序列中。對此，有網友總結了算法推薦劣質信息的三大特質：真假難辨、價值導向錯亂、缺乏深度。
為什么在算法推薦技術深度應用的網絡世界，這些劣質信息的野蠻生長加快了、放大了、頻繁了？
算法推薦技術事實上充當了傳統內容分發過程中的“編輯”角色。內容能否推送、推送給誰，都是預先設定好的程序說了算，而依據的標準往往就一條：能不能獲取流量、能不能吸引關注。作為一項技術應用，算法推薦本身是中性的，但在“技術中性”的背后，卻潛藏著推送者的價值導向。正是這種“流量至上”的單一價值導向，讓推送者忽略了內容本身的真偽和善惡，最終導致劣質信息層出不窮。
“更重要的是，基于這種價值導向的算法推薦，還會形成一個充斥惡劣低俗內容的‘信息繭房’。”中國人民大學法學院教授劉俊海認為，算法推薦很容易讓人形成自動過濾掉“不感興趣”“不認同”的信息，實現“看我想看，聽我想聽”，但通過推送傳播博人眼球的劣質低俗內容，以獲取關注和流量的取悅用戶之舉，事實上導致了網絡空間中劣質內容的“劣幣”驅逐了優質內容的“良幣”。
“技術中性”不能等同于“價值中性”
“技術中性”不能等同于“價值中性”，不能讓價值觀成為算法技術的附庸。算法推薦毋庸置疑是一個價值觀問題，技術可以沒有價值觀，但是作為技術發明者、操縱者的人，不能沒有價值觀。因此，應糾正“流量為王”的價值觀，用積極健康、符合公序良俗的價值觀，指引算法推薦的設計和應用。
“算法推薦不僅是價值觀問題，還是法律問題。”中國政法大學傳播法研究中心副主任朱巍認為，當下由算法推薦引發的各類問題，都涉及內容監管和法律規范。朱巍舉例，目前直播內容相關的專門立法并不少，從網絡安全法到網信辦的相關規定，都對內容安全作了具體規范。
但從直播內容存在的時空權重看，內容產生于用戶，分發于平臺，接受于用戶。實踐中，立法對內容產生者——短視頻制作者和主播作出了較明確的規定，甚至各平臺也作出了進一步的公約自律細則；對直播觀看者和傳播者，立法也規定了舉報權利和傳播者責任。
網絡空間不是法外之地。近年來，針對算法推薦引發的諸多亂象，相關監管部門頻頻依法重拳出擊——約談、處罰整改、永久下架、暫停算法推薦功能等手段多措并舉。然而，現實中卻總能看到這樣的現象：即便不斷地打擊、處罰和整治，卻難以遏制劣質內容“換個馬甲”、變換渠道再次生長。這是為什么？
朱巍表示，首先，算法決定了內容的展現形式——不論用戶上傳的是文字和圖片，還是視頻或直播，算法都需要將這些抽象出特征，分門別類進行統籌標記。其次，算法決定讓什么樣的人群看到什么樣的內容——算法推薦分發系統，會按照用戶標簽、興趣點、位置、相似用戶喜愛偏好、在線時間、使用機型等行為細節來設置算法匹配，實現“不是用戶決定自己想看什么，而是平臺決定用戶能看到什么”。
“由此可見，算法如此重要，但當下法律對算法推薦本身，卻缺乏足夠和直接的規范。” 朱巍認為，這導致只能針對具體現象，進行“頭痛醫頭、腳痛醫腳”式的監管，而難以從源頭上遏制算法推薦亂象。
強化對算法推薦本身的法治監管
2017年6月1日起施行的網絡安全法第九條明確規定，網絡運營者開展經營和服務活動，必須遵守法律、行政法規，尊重社會公德，遵守商業道德，誠實信用，履行網絡安全保護義務，接受政府和社會的監督，承擔社會責任。
治理算法推薦引發的亂象，依法施治是根本之策。近年來，我國互聯網治理邁向法治化快車道，相關法律、行政法規、部門規章等日漸完善，構建起一套系統完備的網絡監管法律體系。對推送惡劣信息等亂象依法打擊懲治，這并非權宜之計，而需要常抓不懈。
在北京大學法學院副院長、教授薛軍看來，治理算法推薦引發的亂象，不能僅呼吁平臺、技術研發者道德自律，不能只停留于倡導“算法也應具備良好的價值倫理”，而應將算法的價值倫理上升為法律規范和原則，使其具有法律的剛性，以強化對算法推薦本身的法治監管。“基于維護社會公共利益和公序良俗的需要，應將無差別不歧視、保護基本人權、尊重個人隱私等原則納入對算法的法律規制中。”
“當然，算法推薦作為一種商業秘密和技術秘密，應用過程中又往往涉及社會公共利益，如何平衡、把握對算法推薦法律規制的邊界，是面臨的一大難題。”薛軍建議，對算法推薦的法律規制，可采用分層次、分類別的多元共治模式。例如，對那些影響公眾基本權利、涉及重大社會公共利益的算法，應通過立法對分發內容、內容判斷標準、推薦標準、干預手段等關鍵性環節，進行更強的公共監管；而對其他不同層次的算法推薦，可通過制定行業標準、向監管部門自我申報等方式來實現監管。
“此外，還可通過立法提升算法推薦的透明度、多元性，以提升公眾的知情權和自主選擇權。”薛軍舉例，電子商務法（草案）三次審議稿第三十九條規定：“電子商務平臺經營者應當根據商品或者服務的價格、銷量、信用等以多種方式向消費者顯示商品或者服務的搜索結果；對于競價排名的商品或者服務，應當顯著標明 ‘廣告’。”
在薛軍看來，針對算法推薦帶來的新問題、新挑戰，在法律制度的研究方面未雨綢繆，強化對算法推薦本身的法治監管，將有助于實現技術運用與價值倫理、商業價值和社會價值的良性互動。（記者 倪 弋）
我市廢止98項泰安市農業標準規范
商丘市睢陽區科技局在全區開展知識產權維權援助工作系列宣傳活動
我市首批12個街道開展全域垃圾分類
居民小組長愛“多管閑事”常用社區微信群反映問題
讓“方便”更方便 靜安區滬太路智慧廁所改造完成
精準推送、大數據殺熟網絡時代如何規范“算法”
[榆樹市]市委副書記、市長高中會參加指導榆樹市環城鄉黨委班子2017年度民主生活會
世界羽聯發球新規:球與地面距離不超過1.15米
深圳交警發布端午假期交通出行預測 明日11時離深將最堵
大鵬新區城市建設局開展春節節后建設工地復工前安全檢查工作
寶雞將新增2條高速公路！快來看看經過你家門口嗎？
黃山市第七屆人民代表大會第一次會議主席團常務主席名單
銀川完成1355例異地就醫結算
雅安市人民政府辦公室關于2018年第三季度全市政府網站普查工作情況的通報
當涂縣太白鎮堅持“五個聚焦”促進鎮域經濟高質量發展
荊州市質監局組織黨的十九大精神宣講報告會
貴池法院網絡司法拍賣成交創新高
奉賢區部署2018年樞紐型社會組織服務中心實體化建設工作
海倫思想扶貧生成“自我脫貧”合力
沙塘社區：當好隔代家長 關愛孩子成長