30秒快讀

1.監(jiān)管層打出“算法治理”又一記重拳。

2.電商推薦機制、外賣小哥送餐路線、網約車派單、自動寫稿機器人、虛擬主播……算法范疇無處不在。

3.專家：今日頭條等以算法推薦為主App應用需要作出相應改變。上海匯業(yè)律師事務所律師史宇航展示了一個對于互聯(lián)網用戶和消費者來說無比美妙的未來場景：將來每個App都要明明白白告訴用戶，App為你打了幾個標簽，這些標簽具體是什么，而消費者則有權直接刪除這些標簽，拒絕互聯(lián)網公司通過App為自己畫像。

近日，國家互聯(lián)網信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網信息服務算法推薦管理規(guī)定》（下稱《規(guī)定》），自2022年3月1日起施行。

這是近一年來監(jiān)管層“算法治理”的又一記重拳。此前，國信辦發(fā)布的《關于加強互聯(lián)網信息服務算法綜合治理的指導意見》和上海市發(fā)布的《上海市網絡交易平臺網絡營銷活動算法應用指引（試行）》，已經多次提出指導意見，而《規(guī)定》被認為比前者具有更強的監(jiān)管效力。

“《規(guī)定》不僅從更加全面的角度要求使用算法推薦技術的企業(yè)開展合規(guī)工作，并且可以作為有關部門的執(zhí)法依據(jù)，具有強制性。”1月6日，《IT時報》記者專訪上海匯業(yè)律師事務所律師史宇航，逐條分析《規(guī)定》對數(shù)字時代可能帶來的影響。

01 自動寫稿機器人、虛擬主播也要合規(guī)

隨著算法推薦技術的日益普及，對算法推薦技術的監(jiān)管和治理已迫在眉睫。2021年11月召開的中央政治局會議強調，加快提升生物安全、網絡安全、數(shù)據(jù)安全、人工智能安全等領域的治理能力。推薦算法涉及網絡安全、數(shù)據(jù)安全以及人工智能安全等多個領域，其重要性可見一斑。

《規(guī)定》開篇，算法推薦技術定義為：“利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息?！?/p>

這意味著，“算法推薦的范疇已經涵蓋企業(yè)經營的各個方面，無論是內容平臺借助算法生成并分發(fā)內容、零售品牌向顧客發(fā)送促銷信息，或是電子商務平臺優(yōu)化搜索結果、外賣平臺規(guī)劃‘外賣小哥’的送餐路線，甚至自動寫稿機器人、虛擬主播等合成類人工智能，只要在中國境內使用算法推薦功能，都需要根據(jù)《互聯(lián)網信息服務算法推薦管理規(guī)定》部署合規(guī)工作?！笔酚詈秸J為，算法合規(guī)正在成為一項新的合規(guī)類別，數(shù)據(jù)合規(guī)的組成部分，并可能在未來成為一個單獨的門類。

此外，史宇航認為，新規(guī)實施后需要警醒的不僅僅是互聯(lián)網公司，進入全面數(shù)字化轉型的政府和傳統(tǒng)企業(yè)在運用人工智能、大數(shù)據(jù)等技術建設智慧城市時，同樣需要對數(shù)據(jù)的合規(guī)處理、各方算法風險應承擔的責任，算法成果的歸屬等問題，與合作方做好約定。

02 如何打開“黑箱”？

此次發(fā)布的《規(guī)定》中，最引人關注的是要求“算法透明”，第16條規(guī)定，“算法推薦服務提供者應當以顯著方式告知用戶其提供算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等?！?/p>

這被認為可能是實施過程中最難的一條。以深度學習算法推動的此輪人工智能浪潮，最常見的問題便是“黑箱”，也即算法模型創(chuàng)建后，人們并不知道輸入數(shù)據(jù)后會產生怎樣的結果，也不知道為什么會生成這些結果。

“算法透明化”的另一個障礙是商業(yè)倫理和商業(yè)秘密。通常情況下，互聯(lián)網公司往往以“機密”為由拒絕回答消費者對其算法結果的質疑。隨著《規(guī)定》實施，這些障礙都將被一一打破。

史宇航分析，算法透明度的提升可能會通過“算法政策”“開放源代碼”等方式進行，盡管這不可避免會將公司原本的一些商業(yè)秘密公之于眾。但另一方面，當某一算法對社會具有一定的影響力，如果只是將算法作為一個黑箱，也會讓社會公眾產生疑慮，因此提升透明度是打消此種疑慮的路徑。這將是一個逐漸普及、細化的過程。

他建議，處理者應當向受影響的個人說明：其數(shù)據(jù)會在何種場景下被何種算法處理，該等處理的目的是什么。比如前段時間美團通過微信公眾號對自己的“訂單分配”算法進行說明，提升算法透明度以及公眾對美團的信心，“算法不是一成不變的，需要持續(xù)訓練、優(yōu)化，其中肯定也包括對‘黃?！袨榈膬?yōu)化。對商業(yè)密碼的保護，也可以通過對源代碼定點公布的方式實現(xiàn)。（如在特定城市設立透明度中心以供查閱）?！?/p>

03 今日頭條會變嗎？

《互聯(lián)網信息服務算法推薦管理規(guī)定》另一個值得關注的條例是，明確了算法推薦服務提供者的用戶權益保護要求，保障算法選擇權要求企業(yè)應當向用戶提供不針對其個人特征的選項，或者便捷的關閉算法推薦服務選項。

此外，對于以未成年人、老年人、勞動者和消費者等用戶為主體的應用，《規(guī)定》明確了具體要求，如不得利用算法推薦服務誘導未成年人沉迷網絡，應當便利老年人安全使用算法推薦服務，應當建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關算法，以及不得根據(jù)消費者的偏好、交易習慣等特征利用算法在交易價格等交易條件上實施不合理的差別待遇等。

這是否意味著，今日頭條等以算法推薦為主要形態(tài)的產品形態(tài)，會因此發(fā)生變化？

史宇航的答案是肯定的。他認為，《規(guī)定》賦予用戶更多的選擇權，這需要算法推薦類App在產品功能上進行調整，允許用戶自行選擇、刪除被平臺打上的用戶標簽，這些操作都會對產品的形態(tài)帶來根本改變，有助于用戶掌控自己的信息流，而“隱私政策”或“算法政策”作為前端的文件，需要體現(xiàn)背后產品功能的變化。

史宇航向記者展示了一個對于互聯(lián)網用戶和消費者來說無比美妙的未來場景：將來每個App都要明明白白告訴用戶，App為你打了幾個標簽，這些標簽具體是什么，而消費者則有權直接刪除這些標簽，拒絕互聯(lián)網公司通過App為自己畫像。

史宇航同時提醒，要做到上述場景，必將對互聯(lián)網公司的技術提出很高的要求。通常，一個App中一位成熟用戶的標簽數(shù)量可以達到2000個，企業(yè)如何將這些標簽合理地展示出來，同時兼具用戶端的可操作性，還有很長的路要走。

本文來自微信公眾號 “IT時報”（ID：vittimes），作者：郝俊慧，編輯：挨踢妹 ，36氪經授權發(fā)布。