<output id="5zixi"></output>
<output id="5zixi"><legend id="5zixi"></legend></output>
<p id="5zixi"><del id="5zixi"><div id="5zixi"></div></del></p>

<tr id="5zixi"><label id="5zixi"></label></tr>
<p id="5zixi"></p>
  • <tr id="5zixi"><label id="5zixi"></label></tr><td id="5zixi"><ruby id="5zixi"></ruby></td><acronym id="5zixi"><meter id="5zixi"></meter></acronym><object id="5zixi"><strong id="5zixi"><address id="5zixi"></address></strong></object>
    技術中立是一個偽命題
    2021/8/6 10:44:47  點擊率[319]  評論[0]
    【法寶引證碼】
      【學科類別】網絡法
      【出處】 微信公眾號:中國教育網絡
      【寫作時間】2021年
      【中文關鍵字】技術中立;網絡安全
      【全文】

        類似基因編輯、人工智能領域的倫理風險,在網絡安全研究領域中也同樣存在。比如,人臉識別的使用風險以及網絡安全實驗具有的攻擊性可能對互聯網生產系統產生不良影響等。
       
        那么,如何理解網絡安全研究中的倫理道德邊界?在網絡安全研究中如何做好倫理機制審查?針對以上問題,本期報道分享了法律界專家和網絡安全領域的相關專家、研究人員在此方面的經驗和觀點。
       
        很多技術專家認為技術是中立的,但是否真的如此呢?
       
        2020年,一篇影響甚廣的文章《外賣騎手,困在系統里》詳細分析了外賣騎手在系統算法驅使下所面臨的困境。
       
        大家可能認為算法是中立的,只是一項技術而已。但外賣平臺的算法力求不斷縮短騎手的送餐時間,并對未按時送達的騎手進行經濟性懲罰。為避免受到懲罰,騎手常有意或無意地違反交通法規,造成交通事故頻發。
       
        從法律角度而言,平臺的算法涉及多方主體,包括外賣平臺、騎手、顧客和店家,以及容易被忽視的在事故中傷亡的第三方,和因此損耗大量行政資源、司法資源來處理事故的政府部門。
       
        表面上看似中立的算法其實是有偏向的,它主要表現為利益和風險分配方面的不公平。這種算法的最大受益者是平臺,其后依次為店家、顧客和騎手。
       
        那么,算法帶來的風險由誰承擔呢?平臺為了規避法律責任,將騎手外包給其他的勞務公司,從而使得平臺與騎手之間表面上不存在勞動關系。相應地,一旦出現事故,無論是騎手還是第三方傷亡,平臺都不用承擔任何責任。店家和顧客,自然也不會被當作責任主體來追究。因此,算法實際上將主要的風險分配給了騎手與更為無辜的第三方。
       
        在這一事例中,對于現行算法,最大受益者是平臺,而風險的承擔者則主要是騎手、公眾,可能還有政府部門。不難發現,算法絕非中立,而是具有偏向性的,它進行了不公平的利益和風險分配。
       
        一、技術中立是一個偽命題
       
        所謂技術中立,其實是個偽命題,關鍵在于以什么為參照系。如果在科技系統內部看,技術自然是中立的,沒有好壞之分。但技術不只涉及科技系統,它也作用于現實社會。立足于經濟系統的角度,技術會被分為盈利的技術和非盈利的技術;從倫理系統的角度來觀察,技術必然被分為善的技術和惡的技術;而以法律系統為參照系,所有的技術都會被分為兩類,也就是合法的技術和非法的技術。
       
        在目前的法律中,相應技術如果主要用于違法犯罪,則其開發、使用本身就會引發刑事責任。如果某項技術既可用于合法途徑,也可用于違法犯罪,則決定技術合法與否,需要考察行為人的主觀明知和故意。
       
        當前涉及網絡的技術大多屬于第二類。例如支付寶和微信平臺,都存在被違法犯罪分子利用的問題,包括用于洗錢和傳播詐騙信息等。
       
        我國《刑法》第285條與第286條分別將提供侵入、非法控制計算機信息系統的程序、工具和故意制作、傳播計算機病毒等突破性程序規定為犯罪。根據前述規定,開發、提供相關技術會構成犯罪。如果技術本身既可為善也可作惡,針對此類技術性幫助的行為《刑法》中有一個獨立罪名,即第287條之一的幫助信息網絡犯罪活動罪,具體表現為明知他人利用信息網絡實施犯罪,而為其犯罪提供互聯網接入、服務器托管、網絡存儲、通訊傳輸等技術支持或提供廣告推廣、支付結算等幫助。同時,刑法中還有關于共同犯罪的條款,明知他人實施特定犯罪而提供相應的技術支持,還可能與相應的下游人員構成詐騙等犯罪。例如,為電信詐騙提供技術支持,會構成詐騙罪共犯;開發網絡游戲的外掛程序,開發人員與提供人員可能被認定構成非法經營罪、侵犯著作權罪或破壞生產經營罪等。因此,從法律的角度而言,技術不可能是中立的,不能任由其作用于社會而不加約束。技術所帶來的很多社會問題,并不能借助技術解決。所以,在做技術研發時,應當遵守相應的倫理限制。
       
        當然,在網絡風險方面,我國現有的法律往往實行一禁了之的傳統規制思路。在網絡時代,這樣的規制思路可能反而對網絡安全不利。
       
        因為一味禁止的態度,也可能導致網絡整體安防能力難以得到有效提升,從而做到魔高一尺道高一丈。一旦有人無視禁令,開發與運用相關技術進行破壞,可能會對網絡系統形成毀滅性的攻擊。
       
        基于此,我們需要在遭遇網絡攻擊的過程中不斷提升安防能力。正如塔勒布所定義的反脆弱性那樣,如果火勢微弱,很容易被風吹滅,反之,如果火勢很旺,風的加入會促使燃燒得更旺。就此而言,當前法律體系對于網絡安全的規制思路與方法,可能需要進一步改進和完善。
       
        二、網絡安全需要倫理與法制雙管齊下
       
        在網絡安全領域必須對技術進行相應規制。
       
        首先,在技術研發與運用上應堅持基本的倫理要求。如果借鑒醫療領域中的生命倫理原則,與網絡安全相關的技術同樣應堅守以下原則:尊重人性尊嚴原則,不能把人當作工具;人的利益高于科學和社會利益原則,民眾是由個人所集成,沒有個人何談國家利益、社會利益;以及行善及不傷害原則、不歧視和不侮辱原則等。
       
        其次,在法律層面也要形成制約。技術是一把雙刃劍,但不同類型的技術,雙刃劍的效應大不相同。因此,法律上的規制措施也會有所差別,大致可分成三類:一是被法律完全禁止的技術,例如基因編輯嬰兒;二是原則禁止例外允許,例如歐盟對于人臉識別技術便采取原則禁止的態度;三是允許合規情況下進行推廣使用,例如自動駕駛的技術。以人臉識別技術為例,國內有關人臉識別技術的爭論,往往停留于保護個人隱私還是保護公共安全的層面。實際上,如果這項技術全面推廣運用,不僅所有人的隱私得不到保障,其人身與財產安全也會受到重大威脅。將人臉識別當作預防違法犯罪的手段,只會帶來更多更嚴重的違法犯罪。
       
        如何在法律上對人臉識別等技術進行規制?目前主要有以下幾種做法:
       
        一是類似歐盟的方案,即原則禁止例外允許,只在打擊恐怖犯罪,或刑事案件取證,以及失蹤兒童追蹤等情況下允許使用;二是一般允許同時強化過程中的監管;三是自由放任加技術手段監管。此前我國大體上采納的是第三種模式。由于這種模式給個人信息保護帶來極大的威脅,決策層正在考慮強化監管,今后可能會走上一般允許同時強化監管的模式。然而,這種模式存在一定的挑戰。因為前端如此巨量的信息收集,后端的監管成本勢必大大提高,執法資源有限,難以實現有效監管。如果無法采取歐盟的模式,我建議在人臉識別技術的運用上,采取特別許可制度,也就是相關企業與部門必須具備相應資質,經過特別許可才允許收集與使用個人的生物識別信息。
       
        據我所知,現在有一種觀點認為,既然分散地收集人臉數據風險很大,不如統一收集到政府的某個職能部門,這種方案雖然在一定程度上有助于減少泄露的風險,但會帶來其他方面的問題,相關職能部門權力過大,過于集中,無疑會形成更大的潛在風險。在信息時代,數據被認為是比石油更為珍貴的資源,而作為一個超大規模的復雜社會,中國在國情方面的特殊性,以及網絡化與信息化發展程度的差異,使得在網絡空間治理上,我們并無現成的方案可供照搬。
       
        《網絡安全法》《數據安全法》和《個人信息保護法(草案)》的陸續出臺,是我國在網絡和數據合理化治理道路上的重要里程碑。然而,網絡安全事業無法做到一勞永逸,未來對于相關法律規制的探索仍將不斷持續。

      【作者簡介】
      勞東燕,清華大學法學院教授。

      本網站文章僅代表作者個人觀點,不代表本網站的觀點與看法。
      轉載請注明出自北大法律信息網
    0
    北大法律信息網
    www.chinalawinfo.com
    法律動態
    網站簡介
    合作意向
    網站地圖
    隱私政策
    版權聲明
    北大法寶
    www.pkulaw.cn
    法寶動態
    法寶優勢
    經典客戶
    免費試用
    產品服務
    專業定制
    購買指南
    郵件訂閱
    法律會刊
    北大英華
    www.pkulaw.com
    英華簡介
    主要業務
    產品列表
    英華網站
    聯系我們
    用戶反饋
    返回頂部
    二維碼
    不要添了,我高潮了视频