2021年8月，《個人信息保護法》出臺，在國家法律的層級上針對自動化決策算法確立了規(guī)制基礎(chǔ)。2021年12月底，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（簡稱“《算法推薦規(guī)定》”）由網(wǎng)信辦、工信部、公安部、國家市場監(jiān)督管理總局聯(lián)名簽署對外公布，并已于2022年3月1日正式實施。這不但是我國首次以“算法”為名的法律文件，更是世界范圍內(nèi)全面回應(yīng)算法挑戰(zhàn)的體系性嘗試。根據(jù)《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，未來三年是關(guān)鍵階段，到2025年前，我國治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法綜合治理格局將日漸成型。

值此算法治理的中國實踐進行之時，學(xué)說理論紛呈而合規(guī)落地尚存猶疑之際，對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心邀請來自學(xué)術(shù)單位、實務(wù)部門的學(xué)者專家，于近期就算法治理的實踐、算法備案制度和算法評估制度開展討論，以期助力后續(xù)的規(guī)則制定、執(zhí)法指南和學(xué)術(shù)研究。

對外經(jīng)濟貿(mào)易大學(xué)法學(xué)院院長

梅夏英：

算法研究應(yīng)當(dāng)具有展望性

算法技術(shù)對法律人而言確為一個“黑箱”，我們所關(guān)注和討論的也并非算法本身，而是算法所引發(fā)的社會問題。需要厘清算法與傳統(tǒng)的監(jiān)管對象是否有區(qū)別以及有何種區(qū)別，是服務(wù)、產(chǎn)品還是技術(shù)層面上的內(nèi)容；是社會規(guī)則、倫理還是法律問題。在厘清區(qū)別的基礎(chǔ)上，再通過突破傳統(tǒng)的、新的方法來規(guī)制算法。因為算法治理在法律層面上是新生事物，不能完全照搬原來的市場監(jiān)管手段。目前的研究應(yīng)當(dāng)是具有展望性的，因為算法升級換代快，越來越先進，技術(shù)手段各方面都在發(fā)展，算法的形態(tài)也在發(fā)展，我們應(yīng)該要站得更高一些，想象未來算法的形態(tài)，從社會整體而非局部的角度解決問題。

業(yè)界實務(wù)專家的觀點：

算法制度有待細化、明確、協(xié)調(diào)

來自阿里巴巴、字節(jié)跳動、京東、美團的實務(wù)專家基于第一線的實踐提出了富有啟發(fā)的觀點。

算法分級分類機制有待細化。《算法推薦規(guī)定》中雖然提出了分級分類的監(jiān)管思路，但只是對算法服務(wù)提供者的分級分類，而非對具體算法應(yīng)用的分級分類，如果只是按照算法服務(wù)提供者的維度要求算法備案可能會造成企業(yè)的負擔(dān)或者無法實現(xiàn)算法監(jiān)管的根本目標(biāo)。實踐中，不同的算法應(yīng)用有著不同的正面和負面作用，對于社會福祉、個人權(quán)利、傳播秩序有著不同程度的影響。未來，建議綜合考慮算法的應(yīng)用場景、處理數(shù)據(jù)的風(fēng)險程度、算法使用的正向效益和可能的社會危害等多種維度，實現(xiàn)算法監(jiān)管的分類分級，落實多層次場景化、精細化的分級分類的算法治理工作，更有利于實現(xiàn)提升算法價值及保護公共利益之間的平衡。

算法備案中法律效果有待明確。目前立法尚未解決算法規(guī)則生效的條件，算法規(guī)則生效后的作用以及算法規(guī)則在未來應(yīng)以何種形式在平臺上公示。算法規(guī)則一經(jīng)公示生效后，用戶是否可以將其作為主張權(quán)利的依據(jù)都是未來法律適用和業(yè)務(wù)實踐需要解決的問題。

算法治理有待進一步協(xié)同。算法應(yīng)用從研發(fā)到投入使用需要歷經(jīng)漫長的生命周期，在往前回溯的過程中，法律合規(guī)人員難以識別風(fēng)險，是算法監(jiān)管困難的重要原因。未來，可以讓法律部門和技術(shù)部門共同制定算法合規(guī)風(fēng)險點，優(yōu)化自身流程以確保算法在運行過程當(dāng)中的可管可控。此外，還可以引入公共管理領(lǐng)域中的“協(xié)同治理”，使利益相關(guān)者和參與者共同參與算法的治理活動。

北京科技大學(xué)副教授張凌寒：

算法備案制度很多問題要研究

算法備案制度產(chǎn)生最主要的原因是，我們很難通過算法結(jié)果倒推當(dāng)時部署運行算法時存在的主觀過錯。算法備案制度旨在使得平臺在上線部署運行算法之前，向行政機關(guān)做一個存檔備查的行為，為以后的監(jiān)管提供信息基礎(chǔ)?，F(xiàn)階段進行的備案，特別需要厘清目前涉及算法備案的算法體量有多少，種類有多少，監(jiān)管系統(tǒng)和監(jiān)管能力能不能達到監(jiān)管目的。實現(xiàn)算法備案制度還需討論誰來備案、如何備案、備案什么這些問題。平臺功能越來越多元化，具備輿論屬性和社會動員能力的算法服務(wù)提供者的界限逐漸模糊。

中國政法大學(xué)大數(shù)據(jù)和人工智能法律研究中心主任沈偉偉：

備案能幫助平臺澄清主體責(zé)任

需要重視跨國算法治理。我們需要看到其他國家如何進行算法評估、備案、審計等，以此作為參照系來制定我國的算法備案以及后續(xù)評估的制度。分析算法備案與平臺責(zé)任的聯(lián)系，算法備案似乎是公權(quán)力強加給平臺的責(zé)任或義務(wù)，不履行會受到相應(yīng)的懲罰。但平臺，尤其是科技向善的平臺可能會更愿意備案，因為算法備案在某種程度上具有歐盟“隱私盾”的部分效果，即在一個強監(jiān)管環(huán)境下，作為一個免責(zé)的條件或者作為平臺責(zé)任的某種抗辯。換言之，平臺一旦進入到類似于隱私盾的備案體系，備案能幫助其澄清一些主體責(zé)任。

伯明翰大學(xué)LEADS Lab研究員李汶龍：

需要思考算法備案對監(jiān)管是否有效

國外的算法備案基本都是面向公共部門的，由于其自身的局限性，跟影響評估和機制審計相比，它可能扮演一個很小的角色?？梢詮姆疵嫒胧峙袛鄠浒傅姆尚再|(zhì)以及決定它的內(nèi)涵，即當(dāng)把其它機制進行完畢后再根據(jù)具體情形判斷算法備案到底能做什么。我們需要明確算法信息的傳播和備案對監(jiān)管而言是否有效，以及我們?nèi)绾卧O(shè)計算法備案這樣特殊形式以匹配切實所需的擬公開信息。當(dāng)實務(wù)界、理論界把過多的資源、關(guān)注和公共討論都放在透明問題上時，算法透明和算法備案的最終目的在很大程度就會被淡化。在討論算法備案時，承認并明確算法透明的局限性也是一個非常重要的環(huán)節(jié)。

清華大學(xué)智能法治研究院院長助理劉云：

算法備案是風(fēng)險治理機制的備案

我國的算法備案是風(fēng)險治理機制的備案，而不是算法內(nèi)容的備案。風(fēng)險治理機制的備案包含四個方面的內(nèi)容：其一，平臺自查因使用算法可能帶來的風(fēng)險，也包括諸如透明度、公平性、包容性等一系列的風(fēng)險。其二，對于風(fēng)險，平臺的預(yù)防措施是什么。其三，平臺在風(fēng)險發(fā)生時的風(fēng)險處置規(guī)則是什么。其四，風(fēng)險發(fā)生造成危害后，平臺的責(zé)任承擔(dān)方式是什么。

算法備案的目的有三。直接目的是掌握算法的基本信息。但僅掌握情況沒有意義，更重要的是為制定政策或者后續(xù)執(zhí)法做儲備。其次，算法備案還能促進企業(yè)自查。最后，算法知識普及這一目標(biāo)同樣不可忽略。相比以前的產(chǎn)品說明書，對于大部分消費者而言，算法是可望不可及的，此時政府通過算法備案將算法基本原理向公眾進行普及，促使用戶更好地維護自己的權(quán)利。

對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任許可：

高風(fēng)險、普遍影響社會公眾的算法

才需備案

算法備案既非公非私，又亦公亦私，需要準(zhǔn)確理解其性質(zhì)。一方面，非公非私是因為算法備案并非具有公權(quán)性質(zhì)的行政許可，但也不是算法解釋權(quán)的落實，并不是私權(quán)的一部分。另一方面，亦公亦私因為從國家監(jiān)管層面來說備案是一種監(jiān)管方式，是落實了行政上的告知式的備案和行政監(jiān)督式的備案，且這些備案信息可以作為用戶侵權(quán)案例中消費者訴訟的理由。

若從公私兩個視角觀察算法備案的主體，應(yīng)該更加強調(diào)大型平臺而不限于輿論屬性和社會動員能力。對于內(nèi)容來說，并不是平臺所有的算法都要進行備案，而是具有高風(fēng)險、普遍影響社會公眾的算法才需要備案。就法律效果而言，算法問責(zé)是算法備案在“公”方面的體現(xiàn)，有了算法備案，可以更加精確地判斷企業(yè)的行為是否違反法律法規(guī)，是否侵犯了相關(guān)用戶權(quán)益，實現(xiàn)規(guī)則的精確化和有效規(guī)制。而推動企業(yè)自我監(jiān)管則是備案在私方面的作用。對于監(jiān)管者來說，從外到內(nèi)的治理是非常重要的環(huán)節(jié)。

北京大學(xué)法學(xué)院副教授胡凌：

算法評估可分為兩類

需要從成本比較和收益分析的角度觀察算法評估。評估分為兩大類：一般性的自我評估和法律中有特殊要求的評估。前者無處不在，哪怕政府不要求，理性的企業(yè)也會進行評估；需要重點討論的是第二種評估。如果法律特別看重某一類型的算法評估，則會逐漸內(nèi)化為內(nèi)部的評估機制。兩者的關(guān)聯(lián)在于，法律是否關(guān)注某個特別的評估要素。因為企業(yè)在應(yīng)對風(fēng)險時有不同的原則，有的是風(fēng)險預(yù)防，有的是成本收益，風(fēng)險預(yù)防則需要將注意力放在較前階段。如果此時風(fēng)險特別大而且是所有人都可以意識到的風(fēng)險，就會涉及到第二類評估，即企業(yè)發(fā)現(xiàn)政府在特別關(guān)注某一類或某一種服務(wù)，因此在算法研發(fā)時就需要進行評估，衡量風(fēng)險。

對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心執(zhí)行主任張欣：

算法評估是算法治理的重要路徑

算法在整個全球數(shù)字經(jīng)濟當(dāng)中的地位日益重要，最高院司法解釋也明確提出，算法技術(shù)計算機程序是企業(yè)的重要價值。世界各國采取的算法治理舉措可能不同，但無論是采取何種治理模式的國家，包括算法自動化決策在內(nèi)的算法評估始終是其中的重要路徑。算法評估有幾個維度必不可少，包括技術(shù)維度、應(yīng)用維度、影響維度、救濟維度。同時，算法分級分類對精準(zhǔn)治理非常關(guān)鍵。首先，不同的算法分級分類，除了監(jiān)管層面有很大意義外，對企業(yè)合規(guī)意義也是非常重大。其次，從架構(gòu)的角度而言，算法應(yīng)用維度的分級分類可以幫助企業(yè)和監(jiān)管機構(gòu)計算出相應(yīng)的算法等級，并匹配差異化的監(jiān)管框架?？傮w來講，我國在這次算法新規(guī)當(dāng)中將算法影響評估嵌入到算法分類分級和算法精準(zhǔn)治理這個理念之下。但要實現(xiàn)精準(zhǔn)治理，還需要從算法設(shè)計運行和部署主體的視角進行分類分級。（金燦）