<output id="5zixi"></output>
<output id="5zixi"><legend id="5zixi"></legend></output>
<p id="5zixi"><del id="5zixi"><div id="5zixi"></div></del></p>

<tr id="5zixi"><label id="5zixi"></label></tr>
<p id="5zixi"></p>
  • <tr id="5zixi"><label id="5zixi"></label></tr><td id="5zixi"><ruby id="5zixi"></ruby></td><acronym id="5zixi"><meter id="5zixi"></meter></acronym><object id="5zixi"><strong id="5zixi"><address id="5zixi"></address></strong></object>
    反思司法人工智能
    2021/11/30 15:31:04  點擊率[500]  評論[0]
    【法寶引證碼】
      【學科類別】人工智能
      【出處】《閱江學刊》
      【寫作時間】2021年
      【中文關鍵字】人工智能;機器人;社交機器人;機器倫理;數字勞動;算法;社會正義
      【全文】

        編者按:人工智能與大數據、生物技術等科技革命和產業變革聯合積聚力量,催生了大量新產業、新業態、新模式,給全球發展和人類生產生活帶來深刻的變化,也使之成為自然科學、技術科學等學術領域的熱點,研究成果豐碩。新一代人工智能為經濟社會發展注入了新動能,為人類創造了更加智能的生產活動、工作方式和生活方式,但是,在政府治理、法律、安全、道德倫理等方面,人工智能也提出新問題甚至挑戰,也是新的學術議題和學術增長點。自然科學、技術科學領域長于人工智能在計算機科學技術、數學、控制論、信息論等方面的研究,人文社會科學方面的研究相對缺少。
       
        2021年7月,本刊編輯部邀請中國社會科學院、北京外國語大學、南京大學、南京師范大學、上海師范大學等單位的專家圍繞“人工智能:理論闡釋與實踐觀照”展開熱烈而深入的討論。編輯部根據專家發言整理并形成筆談,從不同角度展現人工智能對社會政治、經濟、法律、文化、生活等方面所產生的影響,為推動學術界對人工智能課題更加全面、深入的研究作出應有的努力。

           【正文】
       
        為什么討論今天的這個話題?很多人覺得,所謂司法,無論刑事訴訟或者民事訴訟,似乎跟自己的距離都很遠,仿佛自己做個良民、不干壞事,司法就與自己無關了。然而沈家本先生有言,“刑訴律不善,雖良民亦罹其害”。每個人都可能在錯誤的時間出現在錯誤的地點,從而與司法發生關系。倘若在此種情況下,有權定罪量刑甚至剝奪生命的不是作為法官的人,而是作為法官的機器,那么會帶來什么樣的后果呢?
       
        人工智能運用于司法,從某種程度上來說是必然之事,因為人工智能在社會生活各個方面的運用已經是一個不可逆轉的時代潮流,司法本身是社會生活的一部分,它顯然不能脫離這種時代潮流。各個法院、檢察院都面臨著案多人少的問題,先看一個數據,2018年全國各級地方人民法院和專門人民法院受理的案件數已經達到2800萬件,大家可以猜想每一位法官大概每年要辦理多少案件。在這種情況下,高層的想法是通過人工智能等技術的引入來提高效率,因此當前人工智能的運用在司法領域已很常見。比如上海高級人民法院在科大訊飛協助下開發的206人工智能輔助辦案系統,就有量刑輔助、類案推送、證據校驗等功能。而在國外,人工智能在司法領域的運用也不少見。2016年歐洲有一個報告稱,其調查的四十多個國家的司法系統中都在一定程度上運用了人工智能技術,只不過運用的程度有所不同。美國幾年前有一個著名的案件,叫盧米斯訴威斯康星州案,此案中的量刑裁判是依據一個叫COMPAS的人工智能工具所做的被告人社會危險性評估報告,該案的被告人就認為由于人工智能算法不公開,他的憲法性權利--對質權沒有能夠得到保障,盡管在這個案件中他最終敗訴,但他提出的問題還是引發了激烈的爭論。
       
        現在運用于司法的人工智能面臨著一些問題。
       
        第一個問題是法律人與技術之間的隔絕關系。
       
        搞法律的不懂技術,搞技術的不懂法律,這樣一來就可能出現兩套話語體系,甚至是“雞同鴨講”,使得運用于司法的人工智能技術總有種抓不住點的感覺。
       
        第二個問題是對人工智能的研究存在一些誤區。
       
        有的人已經在研究人工智能的主體地位,甚至怎么把人工智能看待為人這樣的問題,這種問題就不免太超前了一些。目前人工智能還處于弱人工智能階段,甚至有一些偽人工智能混雜其中,它真的能夠代替人嗎?目前看來,短期內恐怕這種可能性還是很低的,如果真的有一天人工智能超過了人類,那么那個時候人類恐怕也沒有能力去研究人工智能的權利保障、主體地位之類的問題了,人類首先要做的恐怕是怎么讓自己存活下去,就像《黑客帝國》里一樣。
       
        第三個問題是理念方面的偏差。
       
        因為包括對人工智能在內的科學研究,其基本方法之一就是試錯,也就是說,技術的發展是以大量的錯誤為成本的,但是這個成本是司法承受不起的。因為司法中一旦發生錯誤,就可能導致錯誤的羈押,甚至錯誤的人頭落地,因為司法是保障公平正義的最后一道防線,一旦這道防線被突破其后果不堪設想。因此技術和司法之間在理念上存在一些差異,錯誤成本的承擔方式也有所不同。
       
        在這樣的現實下,人工智能運用于司法可能會帶來幾方面的風險:
       
        第一個風險是影響公正。
       
        刑事訴訟最基礎的一個原則是無罪推定,所謂無罪推定,就是說任何人在被法院正式判定有罪之前,在法律上都被推定為無罪。用老百姓的話說,即便你被公安機關抓走了,即便你被檢察機關起訴了,在沒有被法院定罪之前,在法律上你還是無罪的。無罪推定的意義在于,一方面保障公民的基本權利,另一方面明確證明你有罪的責任由控方承擔。但是人工智能一旦運用于司法,就可能損害無罪推定原則,因為在互聯互通的背景下,數據會從公安機關傳輸到法院,那么從偵查中形成的有罪推定的傾向也有可能被推送給法院,讓法官形成先入為主的有罪認定,這樣就可能導致錯誤的判決,造成司法不公正的情形。
       
        第二個風險是公民的訴訟權利可能會受到很大的影響。
       
        例如在剛才提到的盧米斯訴威斯康星州案中,公民的對質權就因為算法不公開而受到了影響。現在有的學者認為人工智能會被打造成一個強勢的裁判者,甚至創造出所謂的“阿爾法法官”,實際上這種可能性并不大。但是人工智能的運用確實會對控辯雙方的力量對比產生影響,進一步加劇控辯雙方的不平等。因為控方,無論是檢察院還是公安機關,都在運用各自的人工智能工具,具有收集數據、運用數據的強大能力,而且這種能力是以國家資源投入為支撐的。而作為犯罪嫌疑人、被告人,普通公民顯然沒有這種能力,包括專業知識能力,也包括經濟能力。這樣一來,我們努力提倡了幾十年的控辯平等原則,可能在人工智能的運用下被突破掉了。人工智能的運用使得原本就不平等的控辯關系變得更加不平等,比如控方可以掌握并使用幾百個TB的數據,讓犯罪嫌疑人、被告人一方淹沒在海量的數據中,用形式的平等去掩蓋實質的不平等,這種情況在一些國家已經發生過了。
       
        第三個比較大的風險是對裁判權的影響。
       
        裁判權是定罪量刑的權利,這是一種國家獨占的權力。然而在人工智能運用于司法裁判的過程中,由于前面提到的法律人與技術之間的隔離關系,我們必須把技術的部分給外包出去,比如讓科大訊飛、騰訊這樣的科技企業去做應用、做軟件、設計算法。然而問題是,這種外包僅僅是技術工作的外包還是可能把一部分裁判權給外包出去?比如在設計算法的時候,技術人員很可能把一些他們自己的觀念、想法甚至固有成見注入軟件或算法中去。作為一個人工智能算法的研發人員,我對LGBT群體(LGBT是女同性戀者、男同性戀者、雙性戀者、跨性別者的縮寫,特指性少數群體)抱有歧視,就可能把這種觀念體現在算法中,使得LGBT群體在裁判中吃虧。還有,作為科技企業,在設計關于商業案件的人工智能時,也會盡可能搞出對日后自己可能涉訴案件有利的算法,從中獲益。這樣一來,我們就擔心技術的外包會導致裁判權的實際外包,疑惑到底是法官的裁判還是技術人員的裁判?另外,資本具有天然的逐利性。技術的進步是時代的必然,資本的逐利性也是一種必然,這兩種必然一旦結合就可能使得人工智能參與司法時產生問題。資本的逐利性和司法追求公平正義的目標之間是存在沖突的,我們就不得不警惕資本的逐利性加上人工智能運用后的裁判權實際外包,會導致司法公正方面出現偏差。
       
        對于法官而言,還有一個很現實的問題。現在推行司法責任制,審理者裁判、裁判者負責,也就是說這案子是誰判的,那么后續發現錯誤就由誰來擔責,而且這種責任追究是終身的,一旦案子判錯了,可能法官要面臨終身追責。一旦運用人工智能,到底案子算誰判的?法官判的,還是人工智能判的?發現錯誤了算誰的?算法官的,那法官說我冤死了;算人工智能的,那人工智能就可能成了法官“甩鍋”的對象。怎么辦呢?
       
        第一是要對人工智能作合理的定位。
       
        要明確一點,就是人工智能在司法裁判中永遠只能作為一個輔助性工具,絕對不能取代人的裁判。裁判永遠是人的事兒,對一個人的生命、自由、財產這些最為重要的權利的剝奪,必須是由人作出的,必須是人的理性的產物,而不能把這種權力交給機器。人工智能在此過程中可以承擔一些輔助性的工作,比如類案推送、語音識別,但是最終決定性的裁判權絕對不能交給人工智能。
       
        第二是在人工智能的適用范圍上應進行嚴格的限制。
       
        刑事案件涉及公民生命、自由、財產這種核心利益,那么適用人工智能時就要更嚴格一些,相關的限制也就要多一些。人工智能一般只能用在司法行政工作方面,在審判中最多提供一些量刑的建議和證據使用的建議。也就是說,我們對人工智能的適用范圍要嚴格設限,別讓人工智能的運用替代人的審判,另外,對于人工智能作出的結論也只能供法官參考,法官不能依賴于人工智能。
       
        第三是要加強對公民權利的保障。
       
        在訴訟中,當事人的權利保障,特別是刑事案件中犯罪嫌疑人、被告人的權利保障,是司法公正永恒的主題。特別是在刑事訴訟中,是一場公民個人對抗國家的“戰爭”。如果沒有權利的保障,那么就會出現一邊倒的局面,司法中的說理和辯論就很難實現了。在人工智能運用的背景下,司法中對公民的權利保障就應該進一步加強。
       
        首先,我們應當考慮有限的算法公開。其實這是個很復雜的問題,因為算法公開涉及各個方面的利益,比如科技企業就會擔心算法一旦公開了,他們的知識產權難以得到保障,進而他們的商業利益就會受損。前面提到,企業逐利是本能,也具有合理性,一味讓他們作出讓步或者犧牲,既不現實,也會傷害他們的研發動力,不符合市場經濟的要求。但是算法公開對于保障公民權利是有利的,通過算法公開,辯方可以質疑算法,反對它作出的結論。這樣就需要二者進行平衡,實施有限的算法公開,僅公開其中部分與裁判結果關系最密切的內容,還可以通過與當事人簽署保密協議等方式進行算法公開。
       
        其次,要運用專家輔助人制度。司法機關用人工智能,但是當事人沒有這個技術能力,為保障控辯平等,就可以通過刑事訴訟法、民事訴訟法規定的專家輔助人制度,讓專家輔助人為當事人提供專業的幫助,通過其扮演的更為積極的角色,填平人工智能帶來的專業知識方面的鴻溝。
       
        最后,應當賦予當事人一些數據權利。當事人在司法領域中也是數據主體,那么作為數據主體,他們的個人數據被司法機關使用,成為人工智能運行的原料,那么數據主體自身就應當享有相應的數據權利去與司法機關抗衡,包括數據訪問權、反對權、更正權、被遺忘權之類的,這些積極主動的權利能夠在一定程度上實現對公權力的制約,防止其濫用。
       
        第四是要在司法和企業之間建立一定的隔離。
       
        盡管在人工智能運用的場景下司法輔助性工作的外包已經十分常見了,中央對此也持肯定態度,但是外包之后仍然有必要在司法和技術之間、司法機關和科技企業之間、司法人員和技術人員之間作一定的隔離。
       
        一是人員的分離。司法人員是司法人員,技術人員是技術人員,盡管有合作關系,但不要混同。比如在研發206系統時,科大訊飛派了好多技術人員來法院搞研發,但他們僅僅是技術人員。
       
        二是利益的分離。人工智能運用于司法裁判,國家投入大量資金,這里面就有巨大的利益關系。在這種情況下,要防止司法機關和企業出現利益的混同,特別是在招投標這些環節一定要注意,防止雙方勾結侵吞國帑,也要防止某些企業用低技術水平的“偽人工智能”騙錢。
       
        三是職司的分離。裁判權是國家的權力,不能由企業或技術人員去行使,二者要有明顯的隔離,防止國家獨占的裁判權旁落。

      【作者簡介】
      鄭曦,北京外國語大學法學院教授、博士研究生導師。

      本網站文章僅代表作者個人觀點,不代表本網站的觀點與看法。
      轉載請注明出自北大法律信息網
    0
    北大法律信息網
    www.chinalawinfo.com
    法律動態
    網站簡介
    合作意向
    網站地圖
    隱私政策
    版權聲明
    北大法寶
    www.pkulaw.cn
    法寶動態
    法寶優勢
    經典客戶
    免費試用
    產品服務
    專業定制
    購買指南
    郵件訂閱
    法律會刊
    北大英華
    www.pkulaw.com
    英華簡介
    主要業務
    產品列表
    英華網站
    聯系我們
    用戶反饋
    返回頂部
    二維碼
    不要添了,我高潮了视频