編者按：

2022年4月，中央網(wǎng)信辦牽頭開(kāi)展“清朗·2022年算法綜合治理”專(zhuān)項(xiàng)行動(dòng)。據(jù)悉，上述專(zhuān)項(xiàng)行動(dòng)是為落實(shí)好《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，繼而深入排查整改互聯(lián)網(wǎng)企業(yè)平臺(tái)算法安全問(wèn)題，并借此督促企業(yè)利用算法加大正能量傳播、處置違法和不良信息、整治算法濫用亂象。

什么是算法？如何正確認(rèn)識(shí)算法的作用和意義？又應(yīng)該如何治理算法？財(cái)經(jīng)E法采訪業(yè)內(nèi)權(quán)威專(zhuān)家，探討算法的意義，也對(duì)當(dāng)前算法存在的問(wèn)題和治理理念、方向做出深入思考。

人們喜歡討論算法問(wèn)題。這似乎不僅僅因?yàn)樗鼛?lái)的新鮮感和科技感，更由于其對(duì)人類(lèi)生活日益強(qiáng)大的滲透力。越來(lái)越多的人正在意識(shí)到，人們的生活已經(jīng)被算法所包圍。

在這一背景下，如何理解算法制度涉及的一些實(shí)際問(wèn)題就變得十分重要。個(gè)人隱私和讓渡間看似“不可能”的困境，也是信息化時(shí)代人類(lèi)與科技相處之道的邏輯演變。

算法推薦技術(shù)能帶來(lái)哪些社會(huì)福祉？這一技術(shù)一定要以侵害個(gè)人信息和隱私作為代價(jià)嗎？人們?cè)趽?dān)憂什么？App是否會(huì)“監(jiān)聽(tīng)”用戶?算法推薦可能對(duì)互聯(lián)網(wǎng)行業(yè)產(chǎn)生哪些影響？

帶著這些問(wèn)題，財(cái)經(jīng)E法專(zhuān)訪了中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)絡(luò)安全研究中心測(cè)評(píng)實(shí)驗(yàn)室副主任何延哲。

01 算法是一把鋒利的“雙刃劍”

財(cái)經(jīng)E法：有人認(rèn)為，個(gè)性化算法會(huì)帶來(lái)“信息繭房”現(xiàn)象。也有人認(rèn)為，人的選擇性心理從來(lái)就存在， “信息繭房”現(xiàn)象及可能帶來(lái)的后果并不足慮，不能因此“因噎廢食”。你怎么看？

何延哲：正如人的欲望不能野蠻生長(zhǎng)一樣，個(gè)性化服務(wù)也是如此。我們想一想，如果真的把個(gè)性化服務(wù)做到“飯來(lái)張口、衣來(lái)伸手”的地步，究竟好不好？我覺(jué)得，把一個(gè)人完全扔到這種所謂的“舒適”的狀態(tài)里，對(duì)他個(gè)人的發(fā)展成長(zhǎng)是不利的——這種不利不僅僅針對(duì)未成年人，即使是成年人，也沒(méi)辦法完全克服自己各種各樣的欲望。

當(dāng)然，這并不是說(shuō)互聯(lián)網(wǎng)要為每一個(gè)人負(fù)責(zé)——這太難了，也辦不到。我們真正需要做的，是賦予每個(gè)人更好管理自己自制力的一種能力，也就是個(gè)性化選擇的取舍問(wèn)題。

任何一個(gè)問(wèn)題發(fā)展到極致時(shí)，或者當(dāng)他高速發(fā)展時(shí)，都要警惕：人臉識(shí)別廣泛鋪開(kāi)時(shí)，我們要擔(dān)心個(gè)人隱私；直播帶貨突飛猛進(jìn)時(shí)，我們要擔(dān)心商品質(zhì)量。所有的事情都是一樣的。所以我覺(jué)得，這不是“因噎廢食”的問(wèn)題，大家對(duì)這個(gè)問(wèn)題的擔(dān)心是完全可以理解的。

但另一方面，考慮這個(gè)問(wèn)題絕對(duì)不能一刀切，讓算法和算法技術(shù)停滯下來(lái)。應(yīng)該充分認(rèn)識(shí)到算法在增加人類(lèi)福祉，促進(jìn)人類(lèi)社會(huì)發(fā)展中的正向作用，要考慮全面發(fā)展、富有人文關(guān)懷的個(gè)性化，替代為了極致滿足個(gè)人欲望的個(gè)性化。

財(cái)經(jīng)E法：在你看來(lái)，算法推薦技術(shù)可能帶來(lái)的社會(huì)福祉有哪些？

何延哲：首先，從個(gè)人方面看，福祉是很明顯的——一個(gè)是方便，一個(gè)是省錢(qián)。算法推薦能夠找準(zhǔn)你的需求，讓你花更少的錢(qián)和時(shí)間辦更多的事兒，這兩點(diǎn)就足夠有吸引力了。

其次是平臺(tái)方面。算法推薦可以顯著降低平臺(tái)獲客成本，也就是平臺(tái)與消費(fèi)者間溝通的成本。尤其是對(duì)一些中小企業(yè)而言，以前要通過(guò)大數(shù)據(jù)或廣告營(yíng)銷(xiāo)渠道找到適合的客戶，對(duì)他們來(lái)說(shuō)是一件高成本、低效率的事兒。這也直接導(dǎo)致這類(lèi)企業(yè)很難做大。有了個(gè)性化推送以后，他們就可以借助大數(shù)據(jù)分析技術(shù)，把自身商品信息送達(dá)至部分可能有潛在需求的客戶。這中間數(shù)據(jù)切切實(shí)實(shí)地發(fā)揮了作用，體現(xiàn)了價(jià)值。

當(dāng)然，精準(zhǔn)的推薦可能會(huì)對(duì)個(gè)人產(chǎn)生打擾，同時(shí)也帶來(lái)了對(duì)個(gè)人隱私侵害的擔(dān)憂，但話又說(shuō)回來(lái)，如果不使用這種技術(shù)，廣大的企業(yè)，尤其是中小型企業(yè)、商家沒(méi)有足夠的預(yù)算進(jìn)行大規(guī)模廣告投放，那么就只能回歸到撥打電話、發(fā)小廣告、無(wú)差別彈窗等更為低效的手段，這個(gè)打擾恐怕更甚。也許，從這個(gè)角度看，算法推薦反而是減少對(duì)個(gè)人的打擾。

必須承認(rèn)，尤其對(duì)中小企業(yè)而言，算法推薦還是很有效率、性價(jià)比很高的一種普惠措施。

此外，算法決策還催生了諸如自動(dòng)合成、自動(dòng)派單、自動(dòng)計(jì)費(fèi)等新的業(yè)務(wù)模式。可以說(shuō)，凡是互聯(lián)網(wǎng)公司，或者說(shuō)在依托網(wǎng)絡(luò)開(kāi)展業(yè)務(wù)的公司，幾乎都涉及到算法決策。如果從整個(gè)社會(huì)發(fā)展角度看，大家可以假設(shè)有一天沒(méi)有了算法，我們的生活會(huì)有什么樣的變化？如果沒(méi)有算法上的創(chuàng)新，我們還能在應(yīng)用層面創(chuàng)新什么？

反過(guò)來(lái)思考，或許是另外一個(gè)理解算法的意義和價(jià)值的方式。我們之所以還處在數(shù)字時(shí)代，是因?yàn)?strong>算法能夠讓我們掌握更多的數(shù)據(jù)，能夠讓數(shù)據(jù)產(chǎn)生價(jià)值，算法絕對(duì)算得上是數(shù)字時(shí)代的基礎(chǔ)設(shè)施。

從更大意義上說(shuō)，沒(méi)有了算法，人類(lèi)社會(huì)將止步不前，失去了對(duì)數(shù)據(jù)的計(jì)算力，人工智能時(shí)代無(wú)法到來(lái)。

02 算法透明化，要探尋一個(gè)可解釋的標(biāo)準(zhǔn)

財(cái)經(jīng)E法：您此前在接受采訪時(shí)曾表示，數(shù)據(jù)本身沒(méi)有價(jià)值傾向。治理“大數(shù)據(jù)殺熟”現(xiàn)象，不是要“殺死”大數(shù)據(jù)，而是要把數(shù)據(jù)和算法用在正確的地方。你所說(shuō)的，“正確的地方”具體指什么？

何延哲：定義“正確”其實(shí)很難。這里我覺(jué)得，第一，要有守法的底線思維，這個(gè)自然不用多講，只不過(guò)法律法規(guī)的部分要求可能還不夠具體，還需要不斷跟進(jìn)學(xué)習(xí)，關(guān)注。

其次，就是企業(yè)應(yīng)該有著正確的價(jià)值導(dǎo)向，也可以稱之為“道德感”或者“科技倫理”。這個(gè)看似更虛，但其實(shí)所包含的精神內(nèi)核是清晰的，那就是“己所不欲勿施于人”的良知。所以，正不正確，用絕大部分人的價(jià)值觀去衡量也是一種方法。

法律法規(guī)雖然有一定滯后性，仍有相當(dāng)?shù)淖饔煤鸵饬x，對(duì)于遏制廣泛、嚴(yán)重的問(wèn)題，保護(hù)相關(guān)方利益方面來(lái)看，是切實(shí)可行和有效的手段，是行業(yè)能夠存在和發(fā)展的根本性保障。

數(shù)據(jù)沒(méi)有價(jià)值傾向，但算法就不一定了，比如，當(dāng)算法被用作盈利時(shí)，要更加慎重地去衡量它帶來(lái)的負(fù)面作用——算法一定是有負(fù)面作用的，尤其是在商業(yè)運(yùn)營(yíng)的時(shí)候，這種負(fù)面作用可能被放大。

財(cái)經(jīng)E法：算法推薦規(guī)則掌握在企業(yè)手中。不少人認(rèn)為，應(yīng)當(dāng)允許企業(yè)手握這樣的機(jī)密。你對(duì)算法策略披露有何看法或建議？披露應(yīng)該做到什么程度？

何延哲：現(xiàn)在關(guān)鍵的問(wèn)題在于，規(guī)則披露出來(lái)了大家會(huì)看嗎？隱私政策都公開(kāi)了、彈窗了，可是很少有人會(huì)細(xì)看，不管怎么說(shuō)，隱私政策還能看懂一些，那么更為晦澀難懂的算法規(guī)則到底會(huì)有多少人看呢？

算法透明制度本身很正確，但是如何讓其發(fā)揮更好的作用，是個(gè)難題，關(guān)鍵原因就是信任的缺失。

我舉個(gè)例子，醫(yī)生給你開(kāi)了一包保密配方的藥，說(shuō)吃這個(gè)就能好，你說(shuō)不放心，要求把保密配方公布出來(lái)。為什么沒(méi)人這樣要求？因?yàn)榇蠹覍?duì)行業(yè)認(rèn)可的保密配方是信賴的。但算法就沒(méi)這么走運(yùn)了——這是由于這么多年大家積累下來(lái)的對(duì)算法的不信任導(dǎo)致的。

當(dāng)然，這個(gè)例子可能不是那么恰當(dāng)，因?yàn)樗幙赡鼙仨毜贸?，算法推薦可以選擇不用，但有一點(diǎn)是相同的，配方也好，算法也罷，對(duì)于生產(chǎn)商或開(kāi)發(fā)商來(lái)講，都是自己的核心競(jìng)爭(zhēng)力。要把這個(gè)披露，自然是有所顧慮，也可能產(chǎn)生抵觸心態(tài)，也會(huì)有很多搪塞之詞。

因此，對(duì)于算法透明制度而言，最為緊迫的是需要一個(gè)可解釋的標(biāo)準(zhǔn)。那就是披露到什么程度，可以為用戶答疑解惑，也不妨礙保護(hù)核心技術(shù)。如果把爭(zhēng)論僅停留在“應(yīng)不應(yīng)該披露”上，恐怕只是推諉扯皮，沒(méi)有太大意義。

算法透明制度當(dāng)然是可行的。就比如一瓶飲料上，既披露了主要的配料，但沒(méi)有配方一樣?，F(xiàn)在要做的是，盡可能拿出細(xì)則標(biāo)準(zhǔn)、優(yōu)秀案例來(lái)做到更好的示范，以個(gè)性化推薦為例，最起碼，畫(huà)像的數(shù)據(jù)來(lái)源、跨平臺(tái)推送的邏輯可以說(shuō)，個(gè)人信息保護(hù)影響評(píng)估可以做，對(duì)個(gè)人可能產(chǎn)生的影響和采取的安全措施可以講。

03 算法與隱私需要共存

財(cái)經(jīng)E法：隱私權(quán)與被遺忘權(quán)，是數(shù)據(jù)時(shí)代背景下備受關(guān)注的兩類(lèi)個(gè)體權(quán)利。權(quán)利讓渡似乎成為一種沒(méi)有選擇的選擇——屬于自己的數(shù)據(jù)，保存權(quán)卻不在用戶，用戶本身也無(wú)法限制其使用范圍，這是數(shù)字時(shí)代對(duì)隱私權(quán)的一個(gè)巨大挑戰(zhàn)。

在你看來(lái)，用戶是否應(yīng)該擁有一種“隱身”能力，使自己的數(shù)據(jù)不被他人獲取或存儲(chǔ)，從而在根本上保護(hù)自己？

何延哲：對(duì)于用戶的這種想法，第一，法律上肯定支持；第二，個(gè)人通過(guò)各種努力可以做到，只是做到后太不方便了，讓人覺(jué)得App的什么功能也用不了，這就帶來(lái)心理上的抵觸。

既想通過(guò)互聯(lián)網(wǎng)帶來(lái)便利，又想不讓渡個(gè)人隱私，這是一個(gè)兩難問(wèn)題，現(xiàn)行條件下很難解決。除非，我們能回到此前那個(gè)僅僅把網(wǎng)絡(luò)看做提高效率的工具，而非智慧生活一部分的年代。

在我看來(lái)，對(duì)個(gè)人隱私權(quán)的讓渡問(wèn)題，應(yīng)該用發(fā)展的眼光去看。目前來(lái)看可能在觀念上難以接受，但一百年后再來(lái)看，也許會(huì)是另一種感受也說(shuō)不定。

財(cái)經(jīng)E法：在算法推薦技術(shù)大行其道的今天，個(gè)人信息和隱私被侵犯是否是個(gè)必然結(jié)果，無(wú)法被繞開(kāi)？

何延哲：大數(shù)據(jù)時(shí)代，要想個(gè)人信息完全不受影響，肯定不現(xiàn)實(shí)。我們現(xiàn)在努力的方向，一是如何讓影響降到最低，二是如何賦予個(gè)人更多的選擇權(quán)。

如果我們對(duì)個(gè)人信息的定義仍停留在其舊時(shí)代的原有定義上，那就很難從里面挖掘出新的價(jià)值。你的個(gè)人喜好，以前只能記錄在日記中，現(xiàn)在則可能演變成各種各樣的個(gè)性化推送，幫助你找到更多的朋友、商品——這就是大數(shù)據(jù)的作用，否則它將永遠(yuǎn)存在在日記里。

個(gè)性化算法和個(gè)人隱私事實(shí)上是可以并存的，而且在目前的發(fā)展形勢(shì)下，不得不并存。

當(dāng)然，我們希望這種并存，也就是所有的大數(shù)據(jù)使用都是個(gè)人主動(dòng)選擇且可以接受的。這里我想強(qiáng)調(diào)的是，這里的個(gè)人選擇，一定是真正出于對(duì)事情全局了解之后的慎重選擇，而不是一時(shí)的情緒化表達(dá)。

財(cái)經(jīng)E法：互聯(lián)網(wǎng)的免費(fèi)模式其實(shí)離不開(kāi)商業(yè)化的變現(xiàn)，廣告便是一種典型且成熟的場(chǎng)景，但用戶面對(duì)廣告、特別是個(gè)性化廣告卻往往有強(qiáng)烈的抵觸情緒，如何在商業(yè)變現(xiàn)和用戶體驗(yàn)之間取得平衡？

何延哲：用戶對(duì)個(gè)性化廣告存在偏見(jiàn)，有兩個(gè)原因。

一是個(gè)性化廣告做得還不夠“個(gè)性化”——真正個(gè)性化是能夠讓用戶完全舒適的。當(dāng)然，這是理想的狀態(tài)，現(xiàn)實(shí)中很難實(shí)現(xiàn)，畢竟，人的想法太多變了，算法很難完全覆蓋；

二是用戶缺少對(duì)算法的了解，造成一種對(duì)其機(jī)制不全面的認(rèn)知，總以為自己被偷聽(tīng)就是一種。這其實(shí)不能怪用戶，關(guān)鍵在于互聯(lián)網(wǎng)廠商。一方面，它們?cè)趥€(gè)性化和跨平臺(tái)機(jī)制上追求所謂的“極致”；另一方面，在規(guī)則透明性上、用戶培育上、知識(shí)科普上做的顯然不夠。當(dāng)然，現(xiàn)在它們也在反思。

04 成熟的算法需要兼顧個(gè)人權(quán)益和權(quán)利

財(cái)經(jīng)E法：我們?cè)诓稍L中發(fā)現(xiàn)，很多用戶都對(duì)App心存疑慮，總認(rèn)為可能在監(jiān)控自己。App是否真的存在監(jiān)聽(tīng)用戶的情況？如何界定App使用者合理隱私期待的邊界？

何延哲：其實(shí)這是個(gè)老生常談的問(wèn)題，但我愿意再講一遍。

第一個(gè)問(wèn)題，App利用麥克風(fēng)“監(jiān)聽(tīng)”在技術(shù)層面是可以實(shí)現(xiàn)，比如我們?cè)?jīng)在實(shí)驗(yàn)室測(cè)試環(huán)境中，利用測(cè)試App模擬出了鎖屏后也能持續(xù)錄音一段時(shí)間的情況。但這種做法成本高、效率低、法律風(fēng)險(xiǎn)大，此前了解到的一些檢測(cè)結(jié)果中，尚未發(fā)現(xiàn)有App這樣做。當(dāng)然我們也都知道，更為高效、成本低廉的方式就是大數(shù)據(jù)的關(guān)聯(lián)分析而非直接監(jiān)聽(tīng)。

那么，什么是用戶合理的隱私期待？可以用一句話總結(jié)：當(dāng)平臺(tái)完全真誠(chéng)地向用戶開(kāi)放了查閱、復(fù)制、撤回同意、刪除、注銷(xiāo)賬號(hào)等權(quán)利，而沒(méi)有大量用戶去行使上述權(quán)利時(shí)，那便是用戶還愿意使用App所提供的服務(wù)，并達(dá)到了一定程度的隱私期待。

財(cái)經(jīng)E法：你認(rèn)為未來(lái)對(duì)于個(gè)性化推薦的政策方向是什么？

何延哲：現(xiàn)在這個(gè)階段，其實(shí)大家都在避免使用“鼓勵(lì)個(gè)性化推薦”這種表述。我更愿意用“鼓勵(lì)更好地應(yīng)用個(gè)性化”這種表述代替。

其實(shí)，個(gè)性化是繞不開(kāi)的問(wèn)題。因?yàn)閷?duì)于很多人來(lái)說(shuō)，所謂的更好，就是人人都成VIP，只有個(gè)性化才能高效、低價(jià)的做到這點(diǎn)，這是大勢(shì)所趨。而現(xiàn)在的相關(guān)政策，事實(shí)上已經(jīng)在推動(dòng)“更好地應(yīng)用個(gè)性化”——比如說(shuō)，開(kāi)放選擇權(quán)，也就是提供“關(guān)閉按鈕”，就是更尊重用戶的一種表現(xiàn)。

反過(guò)來(lái)說(shuō)，要不是個(gè)人信息保護(hù)和算法管理相關(guān)法律法規(guī)等的推動(dòng)，有助于隱私保護(hù)的前沿技術(shù)的出現(xiàn)及應(yīng)用恐怕沒(méi)那么快，這也就是為什么法律法規(guī)之所以重要的原因。

財(cái)經(jīng)E法：事實(shí)上，按照我們的實(shí)際體驗(yàn)，大部分互聯(lián)網(wǎng)企業(yè)目前都提供了關(guān)閉個(gè)性化推薦的選項(xiàng)，但關(guān)閉之后的用戶體驗(yàn)卻并不好?？雌饋?lái)，精準(zhǔn)的推薦和不精準(zhǔn)的推薦都會(huì)遭到用戶的反感，怎么理解這種情況？

何延哲：我認(rèn)為，目前的現(xiàn)狀來(lái)看企業(yè)有不作為的成分，也有無(wú)奈的成分。

事實(shí)上是，對(duì)大多數(shù)內(nèi)容平臺(tái)而言，個(gè)性化版塊確實(shí)比非個(gè)性化受歡迎，即便是熱榜這種非個(gè)性化的資訊平臺(tái)，那也是有足夠的“爆點(diǎn)”和公眾參與度的大平臺(tái)才吸引人，小平臺(tái)也就是個(gè)轉(zhuǎn)載，用戶吐槽“刷起來(lái)沒(méi)勁”“還不如去網(wǎng)上刷劇看爽文”也就不足為奇了，也就導(dǎo)致很多企業(yè)不重視對(duì)非個(gè)性化版塊的投入了。

對(duì)電商類(lèi)購(gòu)物平臺(tái)而言，要是撇開(kāi)個(gè)性化，采用榜單式的展示方式，可能不太好辦——展示賣(mài)的最多的？那首頁(yè)肯定基本全是九塊九包郵那種商品，不能滿足多樣化需求；什么都展示？那肯定就變成以前百貨商場(chǎng)那種，第一頁(yè)展示柴米油鹽，第二頁(yè)展示家庭日用品……這樣問(wèn)題又來(lái)了：一家商場(chǎng)還可以這樣干，可是平臺(tái)上有上百萬(wàn)個(gè)商家，展示哪個(gè)好呢？廣告費(fèi)出得最多的嗎？那廣大中小商家、掏不起廣告費(fèi)的如何生存？

咱們每個(gè)人都可以看看自己面前的手機(jī)屏幕。一般來(lái)說(shuō)，也就五六英寸，最大不超過(guò)8英寸——手機(jī)屏太小了，可展示的東西太少了。如果平臺(tái)的效率提不起來(lái)，最后就會(huì)被頭部商家把資源全占光，讓所有其他人默默無(wú)聞，最終被迅速淘汰，這可能又加劇了壟斷。

可以問(wèn)大家一個(gè)問(wèn)題，如果真的關(guān)閉了個(gè)性化推薦，那手機(jī)屏幕到底應(yīng)該展示什么？如果說(shuō)答案是展示我想看、想要的東西——什么是想要的東西？不還是個(gè)性化嗎？

總之，還是希望讓更好的、更尊重個(gè)人的個(gè)性化機(jī)制滿足絕大部分人的要求，而不是糾結(jié)“個(gè)性化展示什么，非個(gè)性化展示什么”這么一個(gè)可能無(wú)解的問(wèn)題。現(xiàn)有的法律制度對(duì)算法推薦已經(jīng)有了規(guī)制，人們對(duì)算法推薦也有了警惕心，在這種社會(huì)共治的壓力下，算法推薦就更需要與時(shí)俱進(jìn)，以人為本，可以說(shuō)前景值得期待，創(chuàng)新的空間也有待探索。

本文來(lái)自微信公眾號(hào)“財(cái)經(jīng)E法”（ID:CAIJINGELAW），作者：劉暢，36氪經(jīng)授權(quán)發(fā)布。（原標(biāo)題：《何延哲：好的算法推薦無(wú)需懼怕“關(guān)閉按鈕”》）