“大數據殺熟”這個“熱詞”大約是從4年前開始傳播的，逐漸成為社會生活中的流行語。狹義來說，它是指同樣的商品或服務，老客戶看到的價格反而比新客戶要貴出許多的現象；有時它也泛指算法對人們偏好的影響與控制。

3年前，當杰米·薩斯坎德（Jamie Susskind）的《算法的力量：人類如何共同生存？》英文版出版時，國內互聯網公司出現的一系列負面事件，正引起公眾對互聯網技術的密集反思，比如滴滴曾把順風車定位為“非常sexy”場景的社交工具，導致多位年輕女乘客被害。當時，《斷裂的階梯: 不平等如何影響你的人生》一書的譯者李大白正供職于一家互聯網頭部大廠，“996”的同時會經常思考國家、科技公司與大眾之間的互動關系。“那時國內人文社科領域對技術的關注，基本集中在傳統的技術倫理、人工智能的挑戰等問題上，技術與政治的互動關系、平臺型企業的特殊地位等問題還未得到充分討論。”

因此，接到《算法的力量》翻譯邀約后，李大白毫不猶豫地同意了。“書里對算法的影響探索得更為深遠，關注到算法力量越發強大的背景下，技術將如何與政治互動，對社會治理、公平、社會分配等重大問題會產生怎樣的影響。”如今，《算法的力量》中譯本上市，李大白也從大廠跳槽出來，從事起數字人文方向的研究工作。

大數據與“道德自動化”

杰米·薩斯坎德是英國著名的學者、作家和執業大律師。他說，想通過《算法的力量》探討一個核心問題：我們的生活應在多大程度上受功能強大的數字系統的指引和控制，或者說在哪方面被指引和控制？

薩斯坎德所謂的生活被“指引和控制”，并不是指互聯網技術在未來某種場景的具體應用，比如服務型機器人不斷增多、腦機接口有新突破等，而是指在數字世界，某些技術和平臺以及控制它們的人，擁有強大的權力后對社會公共生活所可能產生的影響。正如書中所說：“最重要的革命沒有在哲學系發生，甚至沒有發生在議會和城市廣場上，而是在實驗室、研究機構、科技公司和數據中心里默默上演，其中大部分都涉及數字技術領域的發展。”

以大數據為例，數字世界里大數據無處不在，大家都很熟悉大數據對個人信息的收集、個人隱私的侵蝕。但薩斯坎德還特別關注大數據與政治學術語中的“自由”的關系。他認為，有些技術會收集我們所有的數據，我們為此會避免做出那些可能被視為可恥、有罪或錯誤的行為。同時，一些科技公司也利用大數據技術來預測和預防犯罪，比如以色列有家公司就發開了一種系統，通過讀取人的面部特征，對人進行“高智商”“白領罪犯”“戀童癖”“恐怖分子”等分類。

用類似技術來預測和預防犯罪的趨勢在增加，數字系統也越來越多地用于執法。薩斯坎德甚至大膽假設，未來人類在技術的“監控”下，或將實現“道德自動化”。“也就是說，未來社會管理很可能不用在對社會成員的道德訓誡上費太多心思，通過技術手段，在一定程度上可以直接阻止可能的犯罪。未來社會的人，想做壞事或也是極其困難的。”李大白解釋。

不過，薩斯坎德認為，就算人的“計劃和野心”更容易通過大數據被計算機捕獲，但“道德自動化”也只是相對而言，“反道德”或許同樣會迎來“自動化”。他想象了一個極端場景：一個想實行種族滅絕的政府意圖在某一特定地區圍捕某一宗教或種族的全部成員，只需根據他們留下的數據——購買記錄、社交媒體上的發帖、智能手機上的通訊錄等——就可以判斷出對方的身份。

數據導致的不公正

全世界60萬人發去自拍照，由計算機的學習算法進行評判，結果選出來的“最具吸引力”的44張照片中，只有6張不是白人；一家網站給當年的集中營照片貼上“運動”“攀爬架”等標簽……薩斯坎德用這些例子說明，不管計算機的算法多么聰明，只要灌輸了錯誤或片面的觀點，都不會公正對待問題，“這就是基于數據的不公正”。

《算法的力量》中花了很多篇幅探討算法與社會公平之間的關系。薩斯坎德認為，在數字世界，算法將在重要社會物品的分配上發揮關鍵作用，譬如就業、貸款、住房、保險等，算法也將更多地用于分類、排名、打分，把人類按照地位和聲望劃分到各個社會階層。哪些人重要，哪些人不如不存在？哪些人更受歡迎，哪些人被徹底遺忘？這些都涉及“承認”這個問題，而分配和承認是社會正義的重要面向。傳統社會里，這些問題是由國家、市場和社會來解決的。但在數字生活世界里，社會正義很大程度上取決于操持相關算法的人。

如何才能避免數字世界的不公正？從《算法的力量》中看，薩斯坎德給出的建議和之前出版的《機器人倫理學》《道德機器：如何讓計算人明辨是非》等差不多，都是強調通過程序讓計算機學會道德判斷——“為什么不能有意識地在設計系統時把正義放在心上呢？無論是平等的待遇、機會平等，還是其他適用于這個特定應用的原則。”

因此，薩斯坎德特別強調程序員在“設計正義”時起到的作用。他批評說，互聯網科技公司內部幾乎沒有工程師身負努力思考其工作的系統性后果的任務，他們中的大部分只需要解決某些分散的技術問題就可以交差了。他呼吁科技公司應該有更多名副其實的“哲學工程師”“哲人工程師”，搭建一種智識上的框架，以便清晰且批判性地思考數字創新的政治后果。

不過，李大白認為薩斯坎德的設想過于理想化了。“作者認為代碼工程師應該兼通政治哲學和社會政策，同時富于人文精神，在此基礎上來設計算法。這和柏拉圖說的培養‘哲學王’來管理城邦有點類似，但按照柏拉圖設想教育出來的‘哲學王’起碼得50歲，何況現在代碼工程師普遍面臨35歲的年齡危機。”

與薩斯坎德將正義和公平寄托在個體的“哲人工程師”上不同，李大白認為塑造“哲人工程師”的主體應是科技公司，其中掌舵人的作用尤其重要，只有公司決策團隊將“科技向善”設置為企業的共同目標，“向善”才能向下層層拆解貫徹，普通代碼工程師才會在具體工作中有“哲人”心態，把“科技向善”的目標嵌入代碼設計中，從而使科技公司在促進社會發展、進步與公正等方面發揮正面作用。

（圖片來自視覺中國）

標簽： 人工智能