9月3日，世界互聯(lián)網(wǎng)大會國際組織在北京召開推動構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體邁向新階段理論研討會，總結(jié)推動構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體理念提出十年來的理論成果和實(shí)踐經(jīng)驗(yàn)，探討攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體邁向新階段的深刻內(nèi)涵、重大意義和時(shí)代價(jià)值。聯(lián)合國人工智能高級別咨詢機(jī)構(gòu)專家組成員、中國科學(xué)院自動化所人工智能倫理與治理中心主任曾毅在會上圍繞“通過國際合作促進(jìn)全球人工智能安全與治理能力建設(shè)”作主旨發(fā)言。主要發(fā)言內(nèi)容如下：

聯(lián)合國人工智能高級別咨詢機(jī)構(gòu)專家組成員

作為一名研究人工智能技術(shù)的科研人員，我首先想講的是，人工智能到底是什么。大家總討論人工智能和機(jī)器學(xué)習(xí)的關(guān)系，人工智能和機(jī)器學(xué)習(xí)既有關(guān)，但又非常不同。人工智能不僅僅關(guān)系到機(jī)器學(xué)習(xí)，還有在學(xué)習(xí)、發(fā)育、演化等機(jī)制方面受自然智能的啟發(fā)。人類的大腦在跟世界進(jìn)行交互的過程當(dāng)中，之所以有一個(gè)安全的框架、倫理和道德的框架，也是演化的結(jié)果。所以，我們要受到大自然的啟發(fā)，研究人工智能學(xué)習(xí)、發(fā)育和演化的機(jī)制，使得人工智能以更安全、更具道德的方式逐步接近、甚至超越人類智能。對于社會、生態(tài)、文明，人工智能既可以產(chǎn)生積極影響，也有可能帶來風(fēng)險(xiǎn)與安全隱患，但人工智能安全與治理的目的是確保人工智能穩(wěn)健發(fā)展，而非掣肘人工智能的發(fā)展。

現(xiàn)在，人工智能技術(shù)仍是一個(gè)看似智能的信息處理工具，仍然會犯一些人不會犯的錯誤，所以要保證其內(nèi)部機(jī)制的安全、可靠、可控和可治理。但實(shí)際上，我們在人工智能的設(shè)計(jì)、研發(fā)、部署、使用各個(gè)階段，都要保障人工智能的安全，這樣才能全周期、全鏈條地保證安全、可靠、可控，更關(guān)鍵的是可治理。要讓“安全”成為人工智能發(fā)展的第一性原理，不可刪除，成為人工智能發(fā)展的基因。我們現(xiàn)在應(yīng)對人工智能的安全風(fēng)險(xiǎn)，更多是一種反應(yīng)式的。能否變被動為主動地應(yīng)對可能的風(fēng)險(xiǎn)，而非不停地給人工智能系統(tǒng)打補(bǔ)丁，這是非常重要的范式轉(zhuǎn)變。

在人工智能發(fā)展過程中，沒有任何一個(gè)國家和地區(qū)能夠獨(dú)善其身，我們有責(zé)任共護(hù)安全、共享發(fā)展。研究數(shù)據(jù)表明，人工智能越發(fā)達(dá)的國家出現(xiàn)人工智能風(fēng)險(xiǎn)的頻次越高，而目前沒有任何一個(gè)國家研發(fā)的人工智能可以確保絕對安全。人工智能科學(xué)技術(shù)與應(yīng)用發(fā)達(dá)的國家能夠更早地享受到人工智能帶來的益處，卻同時(shí)需要相對更早地應(yīng)對人工智能潛在的風(fēng)險(xiǎn)。國際合作，是確保全球人工智能安全、可靠、可控的唯一途徑。

今年7月，聯(lián)合國大會通過中國作為主提國，140多國參與支持的“加強(qiáng)人工智能能力建設(shè)的國際合作”決議，這是近期人工智能領(lǐng)域非常重要的國際共識。反觀當(dāng)今，國際人工智能安全與治理體系，表現(xiàn)出明顯的“小院高墻”“大院小門”的特點(diǎn)，目前還不具備行之有效、包容性足夠廣泛的國際治理體系，亟需建立以聯(lián)合國為主渠道的全球人工智能安全與治理體系。我們不僅要通過國際合作建立相對完善、可相互借鑒的人工智能安全與治理體系，來應(yīng)對近期人工智能的風(fēng)險(xiǎn)，更要未雨綢繆，集全球之智共同研究與應(yīng)對前沿人工智能潛在的災(zāi)難性甚至是生存風(fēng)險(xiǎn)。系統(tǒng)化的安全與治理國際合作，將有力地促進(jìn)人工智能在全球范圍內(nèi)的穩(wěn)健發(fā)展與應(yīng)用，賦能全球可持續(xù)發(fā)展目標(biāo)與人類命運(yùn)共同體的實(shí)現(xiàn)。