算法必須為社會服務，而不是反過來
2022年3月1日，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》（以下簡稱《規(guī)定》），正式實施。算法推薦技術(shù)一般指通過抓取用戶日常的使用數(shù)據(jù)，分析得出人們的行為、習慣和喜好，進而精準化地提供信息、娛樂、消費等各類服務。
算法推薦的本意，是在更好地挖掘用戶潛在需求的基礎上，提升企業(yè)服務水平，實現(xiàn)用戶與企業(yè)的雙贏。早期沃爾瑪通過數(shù)據(jù)分析發(fā)現(xiàn)啤酒與尿布在周末存在高度相關的銷售關系，進而改變貨架陳列，就是一個經(jīng)典的案例。
然而，近年來算法推薦在為用戶提供便利的同時，“大數(shù)據(jù)殺熟”、誘導沉迷等不合理的應用也在影響用戶的正常生活。隨著《規(guī)定》的實施，算法推薦會在更加規(guī)范的框架下運營，對企業(yè)和個人會帶來哪些影響？我們邀請了北京大學新聞與傳播學院教授、“信息社會50人論壇”成員胡泳，進行了深度解讀。
當你在網(wǎng)上瀏覽一雙新鞋，在Netflix上挑選一部流媒體電影，或申請住房貸款時，一個算法很可能對結(jié)果有話要說。
復雜的數(shù)學公式在各行各業(yè)發(fā)揮著越來越大的作用：從檢測皮膚癌，到推薦新的社交媒體朋友，決定誰能得到一份工作，如何部署警察資源，誰能以何種成本獲得保險，或者哪一位在“禁飛”名單上。
我們可以看到算法在這個世界上的工作。我們知道它們正在塑造我們周圍許多事務的結(jié)果。但我們大多數(shù)人都不知道算法是什么，或者我們是如何被它們影響的。
算法是一個黑盒子。
我們熟悉一些明顯的例子，比如谷歌搜索算法、亞馬遜推薦算法、百度地圖算法或美團外賣算法。但人們很少覺察到，算法已經(jīng)被邀請進入我們的政府、法庭、醫(yī)院和學校，它們正在代表我們作出很多決定，悄悄地、但是巧妙地改變了社會的運作方式。
往往只有在算法出錯的時候，我們才意識到其深入人類生活的程度。往好了說，我們與算法的關系都是一言難盡的。人對機器的態(tài)度十分復雜：有的時候，我們盲目信任機器。我們期望它們成為幾乎是神一樣的存在，如此完美，如此精準，以至于我們會盲目地跟隨它們，去往其所帶領的任何地方。
另一方面，我們又有一種習慣，一旦某一算法被證明有一點缺陷，我們馬上就會否定它。如果Siri出錯，或者GPS導航錯誤，我們就會認為整部機器都是垃圾。更不用說機器人醫(yī)生誤診、自動駕駛汽車撞死行人這類事。
其實兩種截然相反的態(tài)度都沒有任何意義。算法并不完美，它們往往包含創(chuàng)造它們的人的偏見，但很多時候，它們?nèi)匀涣钊穗y以置信地有效，使我們所有人的生活也變得更加容易。因此，最正確的態(tài)度應該是介于兩者之間。我們不應盲目地相信算法，但也不應完全否定它們。
人類和機器不一定要相互對立。我們必須與機器合作，承認它們有缺陷，就像我們一樣。它們也會犯錯，就像我們一樣。
如同倫敦大學學院的數(shù)學家漢娜·弗萊所說：“我們不必創(chuàng)造一個機器告訴我們該做什么或如何思考的世界，盡管我們很可能最終進入這樣一個世界。我更喜歡一個人類與機器、人類與算法都是伙伴的世界?！?/span>
現(xiàn)在，我們花大量精力討論，人類和人工算法最終很可能會以模糊兩者區(qū)別的方式結(jié)合起來。其實這個愿景距離我們還非常遙遠，因此，盡管這樣的對話很有趣，但卻也可能令我們對目前正在發(fā)生的事情分散了注意力。我們迫切需要關注的是，管理我們生活的規(guī)則和系統(tǒng)正在我們周圍發(fā)生變化，而算法是其中的關鍵部分。
我們一直生活在技術(shù)的狂野西部，在那里大科技公司可以在未經(jīng)允許的情況下收集私人數(shù)據(jù)并將其出售給廣告商。平臺正在把人變成產(chǎn)品，而他們甚至沒有意識到這一點。互聯(lián)網(wǎng)巨頭實際上成為巨大的媒體公司，但假扮成中立的平臺，吞食曾經(jīng)維持舊媒體生態(tài)系統(tǒng)的收入，同時拒絕承擔正常形式的編輯責任。同時，它們的領導人擁有跨國管轄權(quán)，行使著傳統(tǒng)的種種權(quán)力——從文化審查、政治放逐到構(gòu)建巨大的市場——卻缺乏傳統(tǒng)的監(jiān)督機制。
在此過程中，即便某一個特定的算法是有效的，也沒有人評估它是否為社會提供了凈利益，還是消耗了大量的社會成本。不存在任何人、任何機構(gòu)做這些檢查。只有到一系列問題浮出水面之后，各方才逐漸形成共識：社會需要一個強大的算法監(jiān)管框架。
在中國，應用程序（App）近年來蓬勃發(fā)展，這要歸功于它們?yōu)橛脩籼峁┢渌埠玫囊曨l、開展產(chǎn)品和服務比價或完美定制消費的能力。但是中國第一部算法法規(guī)的出臺，似乎將會限制科技巨頭的這些能力。
2021年11月16日，國家互聯(lián)網(wǎng)信息辦公室審議通過了《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》，2022年伊始，會同工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布，自2022年3月1日起施行?！兑?guī)定》旨在遏制算法不合理應用導致的問題。由于種種不合理的應用，在過去很長一段時間里，公司和商家能夠利用看似無所不知的算法來鎖定特定人群或個人，以銷售產(chǎn)品或影響意見。
算法新規(guī)是否會影響從阿里巴巴、騰訊到美團、字節(jié)跳動等公司的商業(yè)模式，以及監(jiān)管機構(gòu)又將如何執(zhí)行該法規(guī)，都值得我們下一步密切關注。
以下是算法法規(guī)中的一些重要條款：
公司不得利用算法推薦從事法律、行政法規(guī)禁止的活動，如危害國家安全和社會公共利益、擾亂經(jīng)濟秩序和社會秩序等。
算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應用結(jié)果等，不得設置誘導用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型。
鼓勵算法推薦服務提供者綜合運用內(nèi)容去重、打散干預等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對用戶產(chǎn)生不良影響，預防和減少爭議糾紛。
算法推薦服務提供者提供互聯(lián)網(wǎng)新聞信息服務的，應當依法取得互聯(lián)網(wǎng)新聞信息服務許可，不得生成合成虛假新聞信息，不得傳播非國家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息。
算法推薦服務提供者應當以顯著方式告知用戶“算法推薦服務的基本原理、目的意圖和主要運行機制”等。
算法推薦服務提供者應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。算法推薦服務提供者應當向用戶提供選擇或者刪除用于算法推薦服務的針對其個人特征的用戶標簽的功能。
算法推薦服務提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務誘導未成年人沉迷網(wǎng)絡。
算法推薦服務提供者向老年人提供服務的，應當保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費、辦事等需求。
算法推薦服務提供者向勞動者提供工作調(diào)度服務的，應當保護勞動者取得勞動報酬、休息休假等合法權(quán)益，建立完善平臺訂單分配、報酬構(gòu)成及支付、工作時間、獎懲等相關算法。
算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者公平交易的權(quán)利，不得根據(jù)消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。
02中國走在全世界算法監(jiān)管的前列
03大規(guī)模展開的社會實驗，必須認真對待
? Copyright 2013 南京奧特賽人工智能技術(shù)研發(fā)有限公司 版權(quán)所有 備案號：蘇ICP備19032300號-1 
蘇公網(wǎng)安備32011602010459 技術(shù)支持：科威鯨網(wǎng)絡
