2022年3月1日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、市場(chǎng)監管總局聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》（下文簡(jiǎn)稱(chēng)《規定》）正式施行。在大數據經(jīng)濟時(shí)代，算法是個(gè)人信息處理者收集和處理數據、推送信息、調配資源的核心力量。算法一旦失范，將給國家利益、社會(huì )公共利益和公民合法權益帶來(lái)嚴重威脅。因此，《規定》的施行具有鮮明的時(shí)代意義和現實(shí)需求。
算法是計算機的核心運行邏輯，是一套基于設計目的的數據處理指令的總和，在底層上體現出專(zhuān)業(yè)科技的特點(diǎn)。算法也是一門(mén)賦能技術(shù)，應用場(chǎng)景為賦能領(lǐng)域，當算法應用到具體的商業(yè)模式當中，就會(huì )產(chǎn)生應用型風(fēng)險。算法關(guān)系就是這樣一種“方式”與“領(lǐng)域”的疊加關(guān)系或結合關(guān)系。因此，算法規范不能不談 “方式”，算法的設計、測試、評估屬于科技活動(dòng)，“算法黑箱”、“算法霸權”部分是因科技活動(dòng)本身的不規范所致；算法規范也不能只談“方式”，因為正是算法層出不窮的應用場(chǎng)景，使得算法現實(shí)地影響我們的權益，影響人的自由發(fā)展。《規定》充分把握了算法的內生性風(fēng)險和應用型風(fēng)險，有針對性地設計風(fēng)險防范規則。
第一，算法內生性風(fēng)險的控制重點(diǎn)在算法的設計和運行階段。算法的設計、測試、評估非專(zhuān)業(yè)人士不能為之，這種“排他性”表明算法活動(dòng)是一項專(zhuān)門(mén)技術(shù)。算法黑箱、算法歧視等痼疾的產(chǎn)生，部分也源于科技活動(dòng)本身的復雜性。因此，對科技活動(dòng)的規范，需要從科技風(fēng)險防范的角度設計專(zhuān)門(mén)規則。《規定》鼓勵使用算法傳播正能量、抵制違法和不良信息，不得設置誘導用戶(hù)沉迷、過(guò)度消費等有違倫理道德的算法模型，推動(dòng)算法向上向善。表明了作為科技活動(dòng)的算法研發(fā)不能僅有工具理性，必須具有價(jià)值理性。
在具體規則層面，《規定》也側重于從技術(shù)角度，直接規范算法設計和運行。例如，第9條第1款要求算法推薦服務(wù)提供者建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規則和程序；第10條要求算法推薦服務(wù)提供者加強用戶(hù)模型和用戶(hù)標簽管理；第12條鼓勵算法推薦服務(wù)提供者綜合運用內容去重、打散干預等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性等等。
特別值得關(guān)注的是，《規定》第24條規定算法備案制度，要求算法推薦服務(wù)提供者提供算法類(lèi)型、算法自評估報告、擬公示內容等信息。科技活動(dòng)風(fēng)險控制首推風(fēng)險評估與實(shí)驗數據記錄。如果算法活動(dòng)缺乏風(fēng)險評估，則使得風(fēng)險無(wú)法從源頭控制；如果算法設計和檢驗缺乏記錄，則監管機構無(wú)法進(jìn)行有效地評估、追溯和驗證復雜算法。備案制度一定意義上倒逼算法推薦服務(wù)提供者積極進(jìn)行風(fēng)險評估和全流程記錄，既能督促運營(yíng)者在整個(gè)算法活動(dòng)階段考慮算法合規問(wèn)題，也有助于幫助執法機關(guān)監督算法活動(dòng)。
第二，算法應用型風(fēng)險的治理覆蓋了算法運行的全生命周期。算法既是科學(xué)技術(shù)，也是賦能手段，其除了具備科技固有的風(fēng)險之外，也因在商業(yè)和公共事業(yè)領(lǐng)域的嵌入式應用，對源于工業(yè)時(shí)代立法模式和治理模式不斷沖擊，引發(fā)了諸多治理痛點(diǎn)。在應用環(huán)節，我們也要貫徹程序性控制。但算法應用有著(zhù)不同于算法研發(fā)的特殊性：算法應用直接作用于算法相對人。算法應用將影響算法相對人的合法權益——算法針對算法相對人的訴求做出決定。為了解決應用型風(fēng)險，《規定》針對未成年人、老年人、勞動(dòng)者和大數據殺熟等場(chǎng)景，分別配置相應的行為規則（第19條至第21條）。為了實(shí)現自下而上的算法治理，《規定》還通過(guò)權利路徑，賦予個(gè)人對抗算法決策的權利。
《規定》第17條第1款規定：“算法推薦服務(wù)提供者應當向用戶(hù)提供不針對其個(gè)人特征的選項，或者向用戶(hù)提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶(hù)選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應當立即停止提供相關(guān)服務(wù)。”相較于《個(gè)人信息保護法》第24條第2款的規定，本條進(jìn)一步明確規定了算法應用拒絕權。
此外，第17條第2款規定：“算法推薦服務(wù)提供者應當向用戶(hù)提供選擇或者刪除用于算法推薦服務(wù)的針對其個(gè)人特征的用戶(hù)標簽的功能。”該條規定為我國首創(chuàng )，能夠更全面地保護算法相對人的利益。算法相對人可能并不是要求算法使用人停止推薦服務(wù)，而是禁止推定特定類(lèi)型的服務(wù)。通過(guò)賦予算法相對人刪除標簽的權利，能夠更全面的滿(mǎn)足用戶(hù)的要求。
同時(shí)，《規定》第17條第3款還規定：“算法推薦服務(wù)提供者應用算法對用戶(hù)權益造成重大影響的，應當依法予以說(shuō)明并承擔相應責任。”比如，在動(dòng)態(tài)定價(jià)當中，如果推薦給用戶(hù)的價(jià)格偏高，可能構成對用戶(hù)權益的重大影響。用戶(hù)可以要求算法推薦服務(wù)提供者給予說(shuō)明。如果構成侵犯民事權益的，算法推薦服務(wù)提供者應根據法律規定承擔相應責任。
算法風(fēng)險的全流程治理，在“風(fēng)險-規制”框架下尋找新的平衡點(diǎn)和組合方式。算法在本質(zhì)上是處理數據的代碼，是一項應用科學(xué)技術(shù)。但技術(shù)并非中立，尤其是當算法處理的不是“物”、而是“個(gè)人信息”時(shí)，算法活動(dòng)就兼具社會(huì )活動(dòng)屬性，內涵倫理和社會(huì )風(fēng)險。因此，算法規范難題部分來(lái)源于科技的專(zhuān)業(yè)性和工具性，部分來(lái)源于應用場(chǎng)景當中的價(jià)值復雜性。《規定》針對科技風(fēng)險與應用風(fēng)險設計規則，在“風(fēng)險-規制”框架下創(chuàng )設了算法規范的中國方案。
（作者：林洹民，浙江大學(xué)光華法學(xué)院講師，工業(yè)與信息化法治研究院研究員）
（來(lái)源：央視網(wǎng)）
