《少數(shù)派報告》《疑犯追蹤》這樣的影視作品或許只能在前些年出現(xiàn)。如果是近幾年的影視作品，觀眾看著就會很「心慌」。

犯罪預(yù)防、預(yù)測模型、用系統(tǒng)推測未發(fā)生之事……這意味著大量的信息會被收集，也意味著你將會被一個未知系統(tǒng)判定是否有威脅。把命運交給未知的感覺，估計沒幾個人喜歡。

但不喜歡可能也沒辦法，因為在你不知道的時候，已經(jīng)有越來越多公司在收集你的公開信息，來從你社交網(wǎng)絡(luò)的日常內(nèi)容中判斷你犯罪的可能性。

社交媒體變身最大「告密者」，這是一場自我揭發(fā)？

Voyager、Kaseware、Aura、PredPol、Palantir，這是一部分正在試圖通過社交網(wǎng)絡(luò)找出潛在威脅的公司，它們中很大一部分還和當(dāng)?shù)氐木炀诌M(jìn)行了合作，走在預(yù)測犯罪的前列。

從每個人的社交媒體中獲得需要的信息是這類公司的核心，他們通過用戶做社交網(wǎng)絡(luò)發(fā)布的內(nèi)容來預(yù)估對方是否有犯罪的可能。這類公司的算法并不相同，但基本都在通過人工智能破譯用戶的線上，從用戶分享的內(nèi)容中判斷主體是否已經(jīng)犯罪、可能犯罪或堅持某種危險的意識形態(tài)。

這其實不算一個新進(jìn)展，畢竟在 2012 年就有人將社交網(wǎng)絡(luò)成為「城市脈搏」。你很難看到一個空間和產(chǎn)品同時容納如此多的用戶，還讓他們愿意在上面分享自己的一切。

社交網(wǎng)絡(luò)的特性為人們尋找目標(biāo)創(chuàng)作了條件，學(xué)生在社交網(wǎng)絡(luò)尋找受訪對象，統(tǒng)計機構(gòu)在社交網(wǎng)絡(luò)預(yù)測大選結(jié)果，也有 AI 偵探想要在社交網(wǎng)絡(luò)找出罪犯。

因為人人都用社交網(wǎng)絡(luò)，所以社交網(wǎng)絡(luò)很多時候可以反應(yīng)一個人的真實情況。美國密歇根州的眾議員 Tyrone Carter 認(rèn)為警方搜索公共社交網(wǎng)絡(luò)的行為并沒有違背任何的法律，也沒有侵犯用戶的權(quán)利，所以這種預(yù)測是可行的。

當(dāng)你在公共頁面上點擊發(fā)送的那一刻，那個帖子就不再是你的了。人們會因為他們發(fā)布的東西而陷入各種麻煩，因為社交媒體是我見過的最大的「自我告密者」。

但秘密只有在引導(dǎo)的時候，才會被說出。和洛杉磯警察局合作的 Voyager Labs 在這個過程中就擔(dān)當(dāng)了引導(dǎo)者的角色。只是非營利組織 Brennan Center 通過洛杉磯警察局提供的公開信息發(fā)現(xiàn)，Voyager 工作也涉嫌種族歧視、侵犯隱私。

Voyager 這類公司的工作方式并不復(fù)雜。它會收集一個人社交媒體上的所有公開信息，包括帖子、聯(lián)系人甚至常用的表情符號。在某些特殊情況下，它會利用這些公開的信息與非公開信息交叉引用，進(jìn)行進(jìn)一步的分析和索引。

Voyager 會基于個人社交媒體的參與話題做出判斷

通過 Voyager 的服務(wù)，警察可以清晰地看到一個人的社交關(guān)系。他們的聯(lián)系是怎樣的，他們在社交平臺是如何互動的。更進(jìn)一步，Voyager 甚至可以探測到兩個用戶之間是否有間接聯(lián)系（兩人都有至少四個相同好友）。

聽上去好像只是看看用戶在社交網(wǎng)絡(luò)上做些什么，用作調(diào)查的輔佐信息。但事實上，Voyager 不僅收集信息，展示信息，它也會做出判斷。

Voyager 會通過社交網(wǎng)絡(luò)關(guān)系鏈做出判斷預(yù)測

Voyager 在提交給洛杉磯警局的一份白皮書中就提到了一起襲擊案件，該案件具體地展示了平臺的做法——AI 在沒有人介入的情況下會根據(jù)人們在社交網(wǎng)絡(luò)發(fā)帖的內(nèi)容完成自動審查和分類（分別為用戶標(biāo)記藍(lán)色、橙色、紅色三種顏色）。

在具體案例中，槍擊案嫌疑人 Adam Alsahli 就因為自己在 Facebook 和 Instagram 上發(fā)布的伊斯蘭主題照片，被系統(tǒng)判定為「對阿拉伯傳統(tǒng)有強烈自豪感與認(rèn)同感」。因此，Adam Alsahli 在發(fā)動具體的攻擊前就被 Voyager 的人工智能工具打上了橙色的顏色標(biāo)記。

這可以是一個成功預(yù)測潛在犯罪者的案例，同時也是一個充滿「偏見」的案例。

槍擊案嫌疑人 Adam Alsahli 的社交媒體信息，在他犯罪之前就已經(jīng)被標(biāo)記為橙色

數(shù)據(jù)預(yù)測犯罪？但數(shù)據(jù)也不能完全相信

這些結(jié)論真的可信嗎？他們是根據(jù)什么做出判斷的呢？大數(shù)據(jù)下每個人要如何自證清白？

目前確實有不少數(shù)據(jù)證實社交網(wǎng)絡(luò)的內(nèi)容偏向和犯罪事實的相關(guān)性，但這并不是一個 100% 關(guān)聯(lián)的數(shù)據(jù)。

紐約大學(xué)坦登工程學(xué)院和全球衛(wèi)生公共學(xué)院發(fā)布的研究結(jié)果顯示，Twitter 上關(guān)于種族仇恨言論數(shù)量較多的城市，相關(guān)的犯罪率也更高；芬蘭亦有研究表明，根據(jù)二十年的數(shù)據(jù)，溫度每升高 1°C，犯罪活動就會增加 1.7%；美國研究證明，周末晚上的車輛盜竊率激增；被證明過的還有當(dāng)?shù)刈闱蜿犚馔廨斍驎r，家暴事件會增加 10%。

但這些并不能證明什么，因為概率和事實是不同的。

即便有相關(guān)數(shù)據(jù)背書，也不能證明在種族仇恨言論最多的城市，夏天周末的晚上就一定會有車輛被盜，炎熱天氣遇到當(dāng)?shù)刂麝犦斍?100% 就會有更多的家暴案件發(fā)生。

類似的犯罪預(yù)測系統(tǒng)是根據(jù)已有的犯罪事實和研究結(jié)果進(jìn)行反推的，這造成的另一個問題是它充滿了「刻板印象」。

圖靈獎得主楊立昆就曾表示，當(dāng)數(shù)據(jù)有偏見時，機器學(xué)習(xí)系統(tǒng)就變得有偏見。而具體到單一案例，當(dāng)機器學(xué)習(xí)接收到的信息是監(jiān)獄中男性黑人用戶占比較大時，這樣的系統(tǒng)可能就會做出黑人男性更容易犯罪的判斷。

對機器學(xué)習(xí)來說，「黑人男性更容易犯罪」可能是數(shù)據(jù)分析的事實，但落在現(xiàn)實中這就會是種族偏見和差別對待。

暗中將用戶進(jìn)行評級，劃分哪些更有威脅性，對于有威脅的人進(jìn)行更密切的追蹤和預(yù)防就是整套系統(tǒng)的運行邏輯。

類似的創(chuàng)業(yè)公司會用算法和人工智能來解釋他們處理、分析信息，從而做出判定的過程。盡管目前沒有證據(jù)證明這種預(yù)測是有效的，來自民眾的質(zhì)疑也很多，警察局卻依舊想要和類似的平臺進(jìn)行合作。

對警察來說，這類工具很有吸引力，如 Voyager 這類平臺在社交網(wǎng)絡(luò)的發(fā)現(xiàn)可以提供用戶側(cè)寫的有效輔助，也可以不錯過線上的細(xì)微線索。如果僅僅是輔助調(diào)查，這就會是非常有效的工具。但工具發(fā)展到后期，開始發(fā)揮預(yù)測犯罪的作用時，也會成為傷人的利器。

經(jīng)過前些年的狂熱后融資后，不少 AI 產(chǎn)品已經(jīng)進(jìn)入了應(yīng)用階段。但在某些領(lǐng)域，它們依舊是輔助者的角色。

醫(yī)療就是一個對于 AI 介入慎之又慎的領(lǐng)域，即便是在進(jìn)展最快的 AI 醫(yī)學(xué)影像領(lǐng)域，今天的 AI 技術(shù)依然無法保證 100% 的正確率，需要人類醫(yī)生的介入。因為人人都知道，醫(yī)療是一個需要近乎 100% 正確率的行業(yè)，任何的偏差和錯誤都可能造成嚴(yán)重的后果。

而警務(wù)領(lǐng)域同樣是一個力求 100% 正確的領(lǐng)域，任何的臆測推斷在缺乏證據(jù)的支撐下亦會造成嚴(yán)重的后果。一個在社交媒體上發(fā)表各種歧視、暴力言論的人可能會被標(biāo)為潛在犯罪者，有 90% 的可能性進(jìn)行暴力犯罪，但在他真的做出犯罪行為前，他就是一個普通人。

在總體的數(shù)據(jù)集之中，我們永遠(yuǎn)不能忽略每個人都是獨立的個體。

圖片來自：《少數(shù)派報告》

本文來自微信公眾號“愛范兒”（ID:ifanr），作者：冷思真，36氪經(jīng)授權(quán)發(fā)布。