多模態(tài)認(rèn)知計(jì)算、生成式大模型等技術(shù)的突破驅(qū)動(dòng)人工智能走進(jìn)我們的生活，加速了智能系統(tǒng)在醫(yī)療、教育等各領(lǐng)域的應(yīng)用，智能系統(tǒng)越來(lái)越多的參與人類(lèi)生活和決策，從智能棋手到智能手術(shù)機(jī)器人。越來(lái)越多智能機(jī)器人相伴的生產(chǎn)生活中，你是否擔(dān)心過(guò)智能機(jī)器人反叛人類(lèi)？你的智能機(jī)器人又有多大程度是可靠的？盡管在當(dāng)前技術(shù)條件下，智能機(jī)器人還沒(méi)有到想象中產(chǎn)生自由意志、實(shí)現(xiàn)強(qiáng)人工智能的程度，拋開(kāi)這些帶有未來(lái)主義色彩的構(gòu)想，人工智能的應(yīng)用場(chǎng)景逐步涉及人類(lèi)健康與隱私等安全領(lǐng)域。如何讓人工智能恪守倫理秩序，從而更好地服務(wù)人類(lèi)？技術(shù)社會(huì)化的深入引發(fā)了一系列技術(shù)倫理問(wèn)題的討論。
近日，西北工業(yè)大學(xué)李學(xué)龍教授團(tuán)隊(duì)在《中國(guó)科學(xué)：信息科學(xué)》中發(fā)表《人工智能倫理計(jì)算》一文，全文34頁(yè)探討了倫理可能的度量方式，嘗試建立AI倫理的定量計(jì)算框架，指出倫理計(jì)算將是促進(jìn)技術(shù)倫理實(shí)踐的關(guān)鍵交叉領(lǐng)域和構(gòu)建倫理規(guī)范的重要基礎(chǔ)工具，旨在引發(fā)更多關(guān)于人工智能倫理的思考。人工智能倫理計(jì)算是人工智能和倫理學(xué)等學(xué)科的交叉領(lǐng)域，通過(guò)定量描述、度量或模擬技術(shù)對(duì)倫理原則進(jìn)行數(shù)學(xué)符號(hào)化或算法化，并在此基礎(chǔ)上約束智能算法的倫理表現(xiàn)。
高漪瀾, 張睿, 李學(xué)龍, 人工智能倫理計(jì)算, 中國(guó)科學(xué): 信息科學(xué), 2023, doi: 10.0000/SSI-2023-0076．
全文下載:
https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076
倫理問(wèn)題的討論由來(lái)已久，阿西莫夫的科幻小說(shuō)中曾提出了著名的機(jī)器人三定律用以限制人工智能行為，但隨著技術(shù)社會(huì)化的深入，我們的倫理憂(yōu)慮顯然已不再處于科幻小說(shuō)或電影的虛構(gòu)場(chǎng)景。手術(shù)機(jī)器人是否值得信任？輔助決策系統(tǒng)的決策是否公正？生成模型的成果是否侵犯了版權(quán)？這些技術(shù)倫理問(wèn)題都是當(dāng)下與你我切身相關(guān)，迫切需要更具體且可操作的人工智能技術(shù)倫理治理方案。
AI應(yīng)用場(chǎng)景決策要素對(duì)比
作為人工智能發(fā)展的重要議題，人工智能倫理治理引起了各界的廣泛關(guān)注。聯(lián)合國(guó)教科文組織于2021年12月發(fā)布了《人工智能倫理問(wèn)題建議書(shū)》用于規(guī)范人工智能技術(shù)的發(fā)展，同時(shí)各個(gè)國(guó)家也積極參與到人工智能治理的討論中來(lái)。研究表明，全球各國(guó)已經(jīng)在技術(shù)透明度、公平公正、不傷害、隱私等方面形成了初步共識(shí)。
主要的人工智能倫理原則
2023年10月08日，科技部、教育部、工業(yè)和信息化部等十個(gè)部門(mén)聯(lián)合發(fā)布了《科技倫理審查辦法（試行）》，重點(diǎn)關(guān)注了智能領(lǐng)域相關(guān)技術(shù)在實(shí)際應(yīng)用中產(chǎn)生的技術(shù)倫理審查問(wèn)題，這是我國(guó)邁出科技倫理治理實(shí)踐的關(guān)鍵一步，為人工智能領(lǐng)域健康發(fā)展提供了方向指引。
然而，我們需要清醒地意識(shí)到，人工智能倫理治理在進(jìn)步的同時(shí)，依然面臨著諸多問(wèn)題。如何確保智能系統(tǒng)以善意、公平的方式做出決策？如何衡量一個(gè)系統(tǒng)的倫理表現(xiàn)或者如何評(píng)價(jià)其決策結(jié)果？如何建立統(tǒng)一、明確的倫理規(guī)范？導(dǎo)致種種問(wèn)題的深層原因，在于倫理本身的抽象性。關(guān)注倫理的定性分析，缺少定量計(jì)算，導(dǎo)致相關(guān)規(guī)范難以付諸實(shí)踐，這也成為人工智能倫理治理的阿克琉斯之踵。
隨著智能深入到人類(lèi)社會(huì)的各個(gè)領(lǐng)域，倫理治理已經(jīng)成為人工智能健康、可持續(xù)發(fā)展的必答題。倫理計(jì)算的理論與技術(shù)研究，能夠推動(dòng)解決抽象倫理定量分析的難題，這或許將成為約束人工智能遵循人類(lèi)倫理的一把鎖，同時(shí)也是打通AI應(yīng)用落地的一把鑰匙。
人工智能是大勢(shì)所趨，相關(guān)的立法和規(guī)范也會(huì)逐步出現(xiàn)，這些規(guī)則由誰(shuí)來(lái)制定？是熟悉領(lǐng)域的科研人員，還是并不足夠了解具體技術(shù)的群體？這個(gè)問(wèn)題很難回答，但至少，人工智能倫理的數(shù)值度量可以為規(guī)則指定提供一個(gè)參考指標(biāo)體系。
倫理計(jì)算的核心在于通過(guò)量化計(jì)算將抽象倫理具體化，強(qiáng)調(diào)將倫理原則融入計(jì)算技術(shù)的實(shí)踐中，例如公平、透明性、隱私保護(hù)和可信等。這不僅有助于人工智能的可控發(fā)展，鼓勵(lì)研究人員更深入地理解技術(shù)倫理并在構(gòu)建算法系統(tǒng)時(shí)更主動(dòng)地考慮倫理問(wèn)題，同時(shí)也將為制定倫理治理的原則、法律法規(guī)等提供至關(guān)重要要的技術(shù)參考指標(biāo)。
然而，倫理計(jì)算也面臨著諸多挑戰(zhàn)。在自主搜救、無(wú)人巡檢等開(kāi)放性的臨地安防場(chǎng)景中，智能系統(tǒng)需要?jiǎng)討B(tài)感知和適應(yīng)環(huán)境變化的能力，以減少潛在的倫理風(fēng)險(xiǎn)。同時(shí)，倫理決策通常牽涉到情感和認(rèn)知等因素，需要借助多模態(tài)認(rèn)知計(jì)算和因果推理等技術(shù)來(lái)應(yīng)對(duì)倫理推理的復(fù)雜性，也需要更多關(guān)于人類(lèi)倫理決策方式的認(rèn)識(shí)。這些挑戰(zhàn)需要跨學(xué)科深入合作，以確保倫理計(jì)算技術(shù)能夠有效處理不斷演化的倫理問(wèn)題。
總之，人工智能倫理計(jì)算將作為推動(dòng)倫理治理發(fā)展的重要工具，通過(guò)促進(jìn)倫理治理理論與實(shí)踐的迭代發(fā)展，倫理計(jì)算將更安全地釋放人工智能的潛力，并有望在協(xié)助制定法規(guī)等方面發(fā)揮作用，確保人工智能以符合倫理和道德原則的方式發(fā)展，最終造福人類(lèi)社會(huì)。
通訊作者簡(jiǎn)介
李學(xué)龍 西北工業(yè)大學(xué)校學(xué)術(shù)委員會(huì)副主任、光電與智能研究院（iOPEN）教授，主要研究方向?yàn)榕R地安防、圖像處理、成像。
E-mail: [email protected]
參考閱讀：
李學(xué)龍，多模態(tài)認(rèn)知計(jì)算（Multi-modal cognitive computing）, 中國(guó)科學(xué)：信息科學(xué)，53 (1), 1-32, 2023, doi: 10.1360/SSI-2022-0226.
全文下載:
https://www.sciengine.com/SSI/doi/10.1360/SSI-2022-0226
李學(xué)龍，臨地安防（Vicinagearth security）, 中國(guó)計(jì)算機(jī)學(xué)會(huì)通訊，18 (11), 44-52, 2022.
全文下載:
https://dl.ccf.org.cn/article/articleDetail.html?type=xhtx_thesis&_ack=1&id=6219452051015680
（文字：張睿；攝影：高漪瀾；審核：馬西平）
