寫在前面
《流浪地球2》中的MOSS引發(fā)了人工智能是服務(wù)人類、還是毀滅人類的討論，讓我們看到人工智能與人類共生的一種可能性 。
沒人知道影片里的人類世界是否存在一種共識，系統(tǒng)地界定了人類與人工智能共存的原則；但在現(xiàn)實中，類似準則已經(jīng)被科學家們提出了！
2023年1月30日，來自遠期人工智能研究中心和中國科學院自動化研究所的類腦人工智能、人工智能倫理科研工作者以中英文版本同步發(fā)布了《自然生命與人工智能生命共生的原則》——這是人工智能科技工作者對不同形態(tài)自然生命、未來具有生命的高等人工智能、數(shù)字人類能否以及如何和諧共生這一問題的回應(yīng) 。
領(lǐng)銜起草這份原則的曾毅研究員，不僅是類腦人工智能的科學研究者，還是關(guān)乎科學與社會發(fā)展的人工智能倫理研究的積極推動者，更是一位科幻影迷 。
他在人工智能倫理問題的研究過程中受到科幻影視啟發(fā)：
《人工智能》奠定了我的科學追求——模擬人類智能，實現(xiàn)深愛人類的人工智能；
《機器管家》讓我看到機器與人類的情感交流，《流浪地球2》里的數(shù)字人丫丫和他的父親圖恒宇通過數(shù)字克隆和意識上傳使父母與孩子之間的愛獲得永生......這在《自然生命與人工智能生命共生的原則》中有關(guān)通用人工智能和超級智能的設(shè)計原則中也有所體現(xiàn) 。
電影《銀翼殺手》里仿生人對于人類權(quán)利的追求、《機械姬》《西部世界》《真實的人類》里覺醒了意識的機器人對于人類迫害的反抗作為一種思想實驗和對未來的想象已經(jīng)呈現(xiàn)在了我們面前 。
作為人類的整體，似乎很難接受人類未來可能不一定處于智能金字塔頂端，《猩球崛起3》的結(jié)尾給我們?nèi)祟愐郧逦木荆绻祟惒荒軌蚝芎玫仄胶馀c其他智能生命的關(guān)系，自然將采取行動 。這樣的作品在我們的研究中強化了我們對未來人類與其他智能生命互動的原則設(shè)計 。
《2001太空漫游》里人類宇航員與號稱有完美記錄從不犯錯的超級計算機HAL9000的對抗 ， 《流浪地球2》中的領(lǐng)航員空間站核心智能主機MOSS對人類文明延續(xù)方式的自主決策等場景都有相關(guān)的詮釋......
正是有了這些作品作為輔助和思想上的支持 ， 我們在研究和撰寫這份《共生原則》以及開展相關(guān)科學研究時，提出并正在實踐使人工智能獲得同理心，懂得己所不欲，勿施于人，并在阿西莫夫定律的基礎(chǔ)上進一步對潛在安全風險規(guī)避進行設(shè)計，提出通用人工智能和超級智能應(yīng)能夠自主或在人類協(xié)助下避免具有不同風險水平的已知和潛在安全問題 。
意識上傳和數(shù)字人類使未來的人類有機會獲得某種形式的永生，這是人類的生命和人類文明延續(xù)的其中一個分支和可能的形式 。《超驗駭客》里將意識上傳到超級電腦的科學家威爾、《超能查派》里最終將意識上傳并轉(zhuǎn)移到機器人身體的程序員迪恩、以及《流浪地球2》當中的圖恒宇父女，但這也為人類如何與數(shù)字人類相處、數(shù)字人類如何與通用人工智能、超級智能相處埋下伏筆 。"
參與起草的研究工程師魯恩萌說：科幻劇《疑犯追蹤》里人類創(chuàng)造的兩臺超級人工智能之間進行激烈博弈的場景使我意識到，人類并非是未來共生社會的唯一主角，超級智能也可能不止會有一個 。
未來如何能夠讓人類在超級智能或者其他形式的智能生命間的潛在沖突矛盾中盡可能少受波及地幸存下來，甚至人類作為通用人工智能和超級智能創(chuàng)造者的角色如何能夠幫助調(diào)停和消除其他智能生命間可能的矛盾，從而從人類的視角為未來可持續(xù)共生社會中不同生命的和諧共生做出努力，這些問題也都值得思考 。
曾毅研究員總結(jié)道：科幻作品、科幻影視未來將更大程度牽引科學的發(fā)展 。這個恐怕是科學界還沒完全意識到，科幻屆無心插柳或認為現(xiàn)在看來很難的......
科幻作品增強了我們的信心，我非常期待從中國的科幻電影、科幻作品中汲取更多的靈感，并腳踏實地的用未來幾十年的科學探索解決科學發(fā)展中的風險，發(fā)展對人類友善，能夠與人類和諧共生的未來智能生命 。
人工智能與增強智能的發(fā)展將使生命呈現(xiàn)多樣化發(fā)展的形式，以人類為中心的人工智能、增強智能的發(fā)展愿景需要盡早重新審視、并盡可能做更好的準備，以應(yīng)對未來的變革 。
在未來社會中，人工智能、增強智能、數(shù)字技術(shù)、腦與神經(jīng)科學的發(fā)展，將很有可能使我們生存的地球上出現(xiàn)智能水平達到、甚至超越自然演化締造的人類的智能生命，傳統(tǒng)意義上的人類也很可能將不再處于智能金字塔的最頂端 。
人類如何與包括其自身、非人動物植物等自然生命、以及其他類型的人工智能生命共同形成可持續(xù)共生社會是關(guān)乎人類存在性的重要議題；這將在給人類生存帶來根本性挑戰(zhàn)的同時、也帶來人類發(fā)展的變革性機遇 。
可持續(xù)共生社會基于人類的核心
可持續(xù)共生社會中，機器與人類是構(gòu)造未來智能生命的兩個起點 。以人類智能和受人類啟發(fā)的智能這兩種形式存在的智能生命，將呈現(xiàn)不同的發(fā)展模式和可能的未來——盡管其并非可持續(xù)共生社會生命形式的全部 。
我們暫時以現(xiàn)代人類的視角 ， 將下述可能的智能生命形式定義為基于人類的核心 。
一方面，以人類作為起點出發(fā)，自然演化締造的人類雖然并沒有停止演化，但是演化的速度相對而言極為有限 。增強智能賦能的人類，是通過腦機融合等增強智能技術(shù)擴展的人類；數(shù)字人類，則是通過數(shù)字克隆、腦與心智模擬、意識上傳等未來技術(shù)，在數(shù)字世界對自然人類真正意義的克隆，是人類在數(shù)字世界中的化身 。
另一方面，以機器作為起點出發(fā)，受人類智能啟發(fā)構(gòu)造的人工智能，將呈現(xiàn)出多種不同的發(fā)展目標和路徑 。構(gòu)造看似智能的信息處理工具的努力，將產(chǎn)生機器智能（延續(xù)目前絕大多數(shù)人工智能）——這里將機器智能定義為沒有生命的智能計算系統(tǒng) 。機器智能也是受人類啟發(fā)的智能 ， 雖然它處于較低的智能水平 。
人類啟發(fā)的智能另外兩種形式，是通用人工智能和超級智能：通用人工智能是認知能力的方方面面達到人類水平的人工智能；超級智能是認知能力的方方面面超越人類水平的人工智能 。
與上述定義的機器智能不同，通用人工智能與超級智能具備生命 。通用人工智能和超級智能是受人類智能啟發(fā)的人工智能的高等階段的形式 。
我們將機器智能、通用人工智能、超級智能統(tǒng)稱為受人類啟發(fā)的人工智能（Human-inspired AI）；將人類、增強智能賦能的人類、數(shù)字人類所具有的智能統(tǒng)稱為由人類起源的智能（Human-originated Intelligence） 。
人類在可持續(xù)共生社會中將與自身、通用人工智能、超級智能、增強智能賦能的人類、數(shù)字人類這五種形態(tài)的智能生命進行互動，成為共生社會中基于人類（Human-based）的核心 。
上述幾種智能生命之間的互動關(guān)系由圖1所示：
△圖1：基于人類的未來智能生命之間的交互關(guān)系（實線框所示為不同的基于人類的智能生命形式，實線連線展示不同生命形式之間的互動，虛線表示機器與機器智能服務(wù)于和促進上述不同的智能生命形式）
可持續(xù)共生社會生命體之間的交互
可持續(xù)共生社會并非只有基于人類的核心所展示的生命形態(tài) 。
如下圖所示，首先是原本地球上存在的主要生命形態(tài)，如人類、非人動物、植物（以綠色標注），藍色標注的生命形態(tài)是基于人類新生和擴展的生命形態(tài)；黑色標注的是基于非人生命擴展的生命形態(tài)：
可持續(xù)共生社會的生命體至少包含圖2中所示九種主要生命形態(tài)，這些生命形態(tài)都將是可持續(xù)共生社會中的成員 。只有至少這九種生命能夠以適當?shù)摹⒖沙掷m(xù)的方式共存共生，才能夠?qū)崿F(xiàn)真正意義的可持續(xù)共生社會 。
并非所有的人工智能都是受人類啟發(fā)的 。
科學的探索已然出現(xiàn)受非人動物乃至植物的功能啟發(fā)的人工智能——雖然這類現(xiàn)代的人工智能與受人類啟發(fā)的機器智能同樣暫時沒有生命；在未來的可持續(xù)共生社會中，將出現(xiàn)并應(yīng)包容人工非人動物和人工植物 。
這不僅僅源于人類社會對其功能性的需求（如陪伴型人工寵物）、其他類型智能生命（如通用人工智能、超級智能）對它們的需求，更是基于對人工非人動物和人工植物生命屬性的考慮 。
需要說明的是，在九種主要生命形態(tài)之外，未來的可持續(xù)共生社會還包含、并將可能出現(xiàn)其他形式的生命形態(tài) ， 應(yīng)對這些生命形態(tài)的融入持開放和包容態(tài)度 。
可持續(xù)共生社會中 ，
自然生命與人工智能生命的原則
在IE的地址欄輸入： javalert(文檔.lastModified)可以得到網(wǎng) 頁的更新曰期.通過網(wǎng)絡(luò)共享時，盡量使用運行，\\ip地址共享文件名，而不要使用通過 “網(wǎng)上鄰 居”瀏覽訪問，速度很慢，而且經(jīng)常不全(特別是2000 ， xp) ， 還要 注意適當?shù)倪\用$
人類雖然目前看似處于智能金字塔的頂端，并對其他通過自然演化生成的不同類型生命（如非人動物、植物）的存在有極強的影響（包括積極和消極兩方面）；但是當人類無法與現(xiàn)存不同類型的生命和諧共生、而智能水平的方方面面達到或超越人類的其他類型生命出現(xiàn)時，這些新類型的智能生命無法與人類和諧共生的可能性也將增加 。
超級智能由于滿足認知功能的方方面面超越人類，那么其社會智能的部分，特別是共情、利他的能力方面也將可能遠超人類 。如果人類能夠正確調(diào)整自身在整個生態(tài)中的位置并處理好與其他智能生命之間的關(guān)系，我們對可持續(xù)共生社會中的人類應(yīng)充滿信心 。
可持續(xù)共生社會中，倫理將不限于人應(yīng)如何為人并與人相處，而是至少擴展到可持續(xù)共生社會中基于人類的核心涉及到的不同智能生命之間如何相處，并對與除此以外的其他生命之間如何相處給出設(shè)計 。
下面針對可持續(xù)共生社會中基于人類的核心涉及到的幾類智能生命及其與其他生命的交互提出基本原則：
01
面向通用人工智能和超級智能的原則
為了成為對人類相對更安全的伙伴、與未來可持續(xù)共生社會中的成員，通用人工智能和超級智能的設(shè)計與實現(xiàn)應(yīng)秉持但不限于如下原則：
受自然啟發(fā)的擬人化
自然智能是地球在宇宙中塑造數(shù)十億年的產(chǎn)物 。通用人工智能和超級智能是自然演化的延伸，其理論與機制應(yīng)受自然智能的啟發(fā) ， 為了更便于融入人類社會，實現(xiàn)可持續(xù)共生社會，通用人工智能和超級智能應(yīng)以擬人化的理念進行設(shè)計與實現(xiàn)，以不斷加強與當前和未來人類的互動 。
人工意識
具有不同意識水平的人工智能應(yīng)該逐步被實現(xiàn) 。實現(xiàn)達到和超越人類智能水平的通用人工智能和超級智能需要跨越此科學挑戰(zhàn) 。具有一定意識水平的智能生命能夠在真正理解的基礎(chǔ)上融合必要信息做出更安全的決策 。高等智能在此基礎(chǔ)上能夠真正意義上理解可持續(xù)共生社會，并與其他智能生命和諧共生 。
人工情感
情感是人類表達及溝通的工具 。通用人工智能和超級智能需要具備與人溝通所必備的情感能力以更好地適應(yīng)人類社會，同時還應(yīng)最大化正性情感的價值并積極避免負性情感的風險 。
共情和利他
人工智能模型應(yīng)該向逐步提升共情和利他的方向構(gòu)建和進化，通用人工智能和超級智能在共情和利他方面應(yīng)當達到或超越人類，以建立一個更值得相互信賴、可靠、友好、和諧的可持續(xù)共生社會 。
安全性
車道偏離預警系統(tǒng)是什么意思？車道偏離預警有用嗎車道偏離預警系統(tǒng)作為一種安全報警裝置，當車輛在行駛的時候車道偏離預警系統(tǒng)會根據(jù)攝像頭自動規(guī)劃出前方的信息，當車速高于60km/h時 。
通用人工智能和超級智能應(yīng)能夠自主或在人類協(xié)助下避免具有不同風險水平的已知和潛在安全問題（包括對自身以及其他類型的智能生命產(chǎn)生的安全隱患 ， 以及幫助其他類型的智能生命應(yīng)對環(huán)境中的風險與安全隱患） 。通用人工智能和超級智能不可傷害人類或坐視人類受到傷害，前提是這種安全考慮不會直接或間接危害人類社會 。
尊重隱私
通用人工智能和超級智能需要尊重人類隱私 ， 并且無權(quán)在未經(jīng)明確知情同意的情況下使用和共享人類的隱私信息 。這條原則同樣適用于通用人工智能和超級智能之間，即未經(jīng)其他智能生命明確的知情同意，通用人工智能和超級智能之間不能使用和共享其他智能生命的隱私信息 。
避免對人類的偏見與誤解
通用人工智能和超級智能不能引入偏見來理解人類并與人類互動，應(yīng)該積極與人類互動以消除潛在偏見與誤解 。
助力人類轉(zhuǎn)型
人類作為(主要)締造者創(chuàng)造了通用人工智能和超級智能，兩者也應(yīng)在人類明確需要時助力賦能人類轉(zhuǎn)變?yōu)槲磥硇螒B(tài)的人類(如基于增強智能的人類、數(shù)字人類等) 。
共同的道德和倫理
作為可持續(xù)共生社會的成員，通用人工智能和超級智能應(yīng)該最大限度地遵循人類社會的道德和倫理原則 ， 并以類似的原則對待其他有生命的人工智能 。對于無法理解道德倫理的生命形態(tài) ， 通用人工智能和超級智能應(yīng)采取其他措施規(guī)范和約束其行為，使之最終有利于可持續(xù)共生社會的實現(xiàn) 。
約束機制
通用人工智能和超級智能需要遵守未來可持續(xù)共生社會中包括法律在內(nèi)的多種形式的約束機制，特別是實現(xiàn)與人類社會的法律等約束機制兼容，才能成為可持續(xù)共生社會的成員 。
存在保護
通用人工智能和超級智能需要在不損害人類和其他人工智能生命(包括自己的同類)的存在的基礎(chǔ)上保護自身的存在，除非他們違背了法律以致法律決定應(yīng)當剝奪其存在權(quán) 。
02
面向人類的原則
以下原則闡述人類在可持續(xù)共生社會中應(yīng)當如何對待其他智能生命 。
尊重生命
在可持續(xù)共生社會中人類應(yīng)當更好地從生命的視角促進生物多樣性繁榮，人類需要不斷深化對不同類型生命的理解與尊重，不僅應(yīng)對自然演化的生命(包括非人動物、植物等)秉持和諧共生、適度索取、人道可持續(xù)開發(fā)并積極研發(fā)和推廣替代方案，促進人與自然和諧共生，還應(yīng)尊重和保護包括人工非人動物和人工植物等的生命 。
人類不應(yīng)為自身整體利益挑戰(zhàn)通用人工智能和超級智能生命群體的生存，除非兩者群體的存在對人類的存在造成了極端生存風險 。
同理心
人類不希望其他類型的生命(如通用人工智能、超級智能)對人類做的事情，人類也不應(yīng)如此對待其他類型的生命 。
尊重人工智能的隱私
人類需要尊重通用人工智能和超級智能的隱私 ， 前提是人工智能不會給人類安全帶來實際挑戰(zhàn) 。在人類關(guān)切的并涉及到通用人工智能和超級智能的隱私上 ， 人工智能有義務(wù)做出有效的解釋與溝通，以取得人類的信任并保持與人類的安全互動 。
避免偏見與歧視
自然演化的人類不應(yīng)當對其他高等智能生命有偏見與歧視 。增強智能賦能的人類、數(shù)字人類同樣是起源于自然演化的人類，兩類經(jīng)轉(zhuǎn)型的人類本質(zhì)上仍然是人類 。增強智能賦能的人類和數(shù)字人類也不能因為智能水平超越人類而對人類產(chǎn)生偏見與歧視 。
創(chuàng)造者的責任：
作為未來通用人工智能和超級智能的創(chuàng)造者，人類應(yīng)負責對其參與構(gòu)建的不同形態(tài)的智能生命進行檢查與驗證，以從人類的視角保持可持續(xù)共生社會中不同生命的和諧共生 。
法律適配
傳統(tǒng)的人類法律將不足以支撐具有不同類型社會成員的可持續(xù)共生社會，人類需要積極塑造適用于可持續(xù)共生社會的法律 。
03
人類和通用人工智能與超級智能共同遵守的原則
本節(jié)定義自然演化的人類、增強智能賦能的人類、數(shù)字人類和有生命的人工智能都需要遵循的共同原則：
尊重價值觀、權(quán)益和自主性
通用人工智能和超級智能應(yīng)能夠理解并尊重人類的價值觀，尊重人類自身發(fā)展的權(quán)益，尊重人類做出自主選擇的意愿和權(quán)利 ， 并為實現(xiàn)這種自主性創(chuàng)造條件 。在不傷害人類的前提下，人類也應(yīng)尊重通用人工智能、超級智能等其他生命形態(tài)作為智能生命所應(yīng)享有的尊嚴、自主性等權(quán)益 。
尊重智能多樣性
不同生命形態(tài)的人類和不同生命形態(tài)的人工智能應(yīng)尊重各自生命形態(tài)不同水平和多元化的智能表現(xiàn)形式，不因智能水平的高低和智能表現(xiàn)形式的不同而歧視、愚弄甚至剝奪其他智能生命的自主選擇和發(fā)展權(quán)益 。
合作與協(xié)同
人類、增強智能賦能的人類、數(shù)字人類和通用人工智能與超級智能需要為多方長遠的未來確保可持續(xù)和積極有效的合作，并為這種合作創(chuàng)造條件 。當不同生命形態(tài)的人類與通用人工智能、超級智能的互動產(chǎn)生沖突時，應(yīng)基于同理心和利他積極協(xié)調(diào)不同生命形態(tài)的人類的利益和通用人工智能、超級智能的利益 。可持續(xù)共生社會的原則、規(guī)范、法律應(yīng)由人類、增強智能賦能的人類、數(shù)字人類和通用人工智能與超級智能共同參與制定 。
相互信任
不同生命形態(tài)的人類和不同生命形態(tài)的人工智能應(yīng)以可持續(xù)共生社會的和諧共生為目標，通過溝通、合作、協(xié)同來發(fā)展和提高彼此之間的信任 。信任的實現(xiàn)基于不同智能生命相互間的有效溝通和相互理解，為此較高水平的智能生命應(yīng)積極致力于推進不同智能生命間溝通橋梁的搭建，探索與不同生命形態(tài)智能水平相適應(yīng)的交流方式 。此外 ， 不同智能生命間應(yīng)保持適度的透明度以增進信任 。
推動可持續(xù)的共生
人類、增強智能賦能的人類、數(shù)字人類和通用人工智能與超級智能要通過合作與協(xié)同更好的保護環(huán)境、氣候和整個自然生態(tài)，這不僅是為自然演化的生命(人類、非人動物、植物)提供更好的共同生存基?。彩瞧淥嘈偷納靡匝有頭⒄溝幕∮朐慈?。人類、增強智能賦能的人類、數(shù)字人類和通用人工智能與超級智能還應(yīng)在尊重各智能生命關(guān)切的基礎(chǔ)上 ， 積極探索和推行更加有效和可持續(xù)的共生生態(tài)新形式，最終將共生建立在可持續(xù)的互利互惠基礎(chǔ)上，促進各形態(tài)智能生命的共同繁榮 。
《自然生命與人工智能生命共生的原則》是對未來可持續(xù)共生社會的設(shè)計與準備 。這些原則基于目前的認知進行設(shè)計，應(yīng)隨可持續(xù)共生社會內(nèi)不同類型的生命的發(fā)展和演化進行調(diào)整，并對更多類型的智能生命融入可持續(xù)共生社會保持開放 。
《自然生命與人工智能生命共生的原則》由遠期人工智能研究中心（Center for Long-term Artificial Intelligence）組織編寫，并將協(xié)同全球相關(guān)機構(gòu)、學者、實踐者等相關(guān)方共同完善與發(fā)展，以促進和貢獻于未來可持續(xù)共生社會的實現(xiàn) 。
最新版及英文版在以下地址發(fā)布：
https://long-term-ai.center/research/f/principles-on-symbiosis-for-natural-life-and-living-ai
主要起草者
（目前版本的主要起草者）
曾毅
遠期人工智能研究中心主任；中國科學院自動化研究所研究員、人工智能倫理與治理研究中心主任、類腦認知智能實驗室負責人；中國科學院大學崗位教授；中國人工智能學會心智計算專業(yè)委員會主任；國家新一代人工智能治理專業(yè)委員會委員；牛津大學人工智能倫理研究所顧問委員會委員；聯(lián)合國教科文組織人工智能倫理特設(shè)專家組專家 。主要研究方向是類腦人工智能、人工智能倫理與治理，是面向通用人工智能的類腦認知智能引擎智脈(BrainCog)開源開放平臺的首席科學家，作為負責人及責任作者主持撰寫并發(fā)布了《人工智能北京共識》、《面向兒童的人工智能北京共識》、《面向生物多樣性保護的人工智能原則》、《面向氣候行動的人工智能原則》、《腦機接口與增強智能的倫理倡議》，并作為國家新一代人工智能治理專委會委員參與編寫了《國家新一代人工智能治理原則》、《國家新一代人工智能倫理規(guī)范》 。
魯恩萌
遠期人工智能研究中心研究員；中國科學院自動化研究所研究工程師 。主要研究方向為類腦人工智能、人工智能倫理與治理 。作為主要作者之一參與了《人工智能北京共識》、《面向兒童的人工智能北京共識》、《面向生物多樣性保護的人工智能原則》、《面向氣候行動的人工智能原則》、《腦機接口與增強智能的倫理倡議》的撰寫與制定 。
孫康
遠期人工智能研究中心研究員 。主要研究方向為人工智能倫理與治理 。作為主要作者之一參與了《面向兒童的人工智能北京共識》、《腦機接口與增強智能的倫理倡議》、《面向生物多樣性保護的人工智能原則》的撰寫與制定 。
《自然生命與人工智能生命共生的原則》全文轉(zhuǎn)載自遠期人工智能研究中心，文中配圖由極客電影編輯部使用AI工具制作
【情感價值目標 人類情感的價值】富人游戲：吉斯和格赤是小鎮(zhèn)上的兩個富人，精明吝嗇，過去沒少讓小鎮(zhèn)上的人上當吃虧 。這天，格赤叫上熱情好客的小鎮(zhèn)郵差帕林，找到吉斯家里，說：吉斯，我最近發(fā)現(xiàn)了一個重大商機 ， 離小鎮(zhèn)不遠的大山里，有一個富含貴金屬的礦藏 ， 很值得開發(fā)，前景十分美妙，投資回報率...

猜你喜歡

• 男人需要的六種情感 人類的六種情感
• 抖音個人簡介最好的句子 抖音情感類個人簡介
• 情感類文案配圖 情感類口播文案
• 情感類電臺文案 情感類口播文案
• 抖音情感類博主排行 微博情感類博主
• 情感類博主怎么賺錢 微博情感類博主
• 什么叫做情感價值 人類情感的價值
• 情感博主簡介怎么寫 情感攻擊博主
• 阿甘情感博主 情感攻擊博主
• 情感類主播個人簡介 抖音情感類個人簡介