▲2024年9月12日，第十一屆北京香山論壇中外名家對話會。 圖/新京報記者柯銳

新京報訊（記者柯銳）9月12日，備受矚目的第十一屆北京香山論壇在北京舉行。當(dāng)天下午，論壇舉行中外名家對話會，主題為人工智能安全。研討專家圍繞人工智能能否自主決策、是否可信，如何管控人工智能可能帶來的風(fēng)險等議題進行了深入討論。

會上，人工智能是否值得信賴問題備受關(guān)注，對此，東京大學(xué)生產(chǎn)技術(shù)研究所特聘教授、日本工程院外籍院士胡昂表示，人工智能這個“黑盒”是否可信，這是一個終極問題。在他看來，人腦不可替代，“至少在短時間內(nèi)人工智能難以取代人腦做決策”。

在聯(lián)合國教科文組織人工智能與數(shù)據(jù)科學(xué)促進社會發(fā)展教席、荷蘭海牙應(yīng)用科技大學(xué)數(shù)據(jù)科學(xué)教授蘭普羅斯·斯特吉烏拉斯看來，人工智能是否能取代人腦自主決策，這是一個哲學(xué)問題，也是一個現(xiàn)實問題，值得關(guān)注。 他還表示，當(dāng)前對人工智能的監(jiān)管面臨很大挑戰(zhàn)，監(jiān)管要加速，要更加敏捷。

“人類的技術(shù)人員都會犯錯，何況機器？”蘭普羅斯·斯特吉烏拉斯建議，各國政府間有必要制定協(xié)議，從政策層面加強監(jiān)管。他同時強調(diào)要關(guān)注南方國家在人工智能發(fā)展中面臨的不公平、不公正現(xiàn)象。

清華大學(xué)信息科學(xué)技術(shù)學(xué)院院長、中國工程院院士戴瓊海也表示，要解決“AI鴻溝”問題，讓人工智能更多造福人類。戴瓊海還認(rèn)為，未來三年，人工智能發(fā)展將進入快車道。由于人工智能發(fā)展的不可預(yù)測性，相關(guān)倫理、治理要走在前面，要降低人工智能應(yīng)用的安全風(fēng)險，使其為人類謀福祉。

美國國防分析研究所研究員，美國前助理國防部長幫辦施燦德認(rèn)為，人工智能的安全問題涉及方方面面，除了國防，還包括民生等。因此，他建議，國家間達(dá)成多邊協(xié)議，緩解人工智能安全風(fēng)險。

軍事科學(xué)院少將副院長、中國科學(xué)院院士陳小前在為對話會總結(jié)時，提及了“大禹治水”的典故，他認(rèn)為對人工智能安全風(fēng)險治理要像治水一樣注重疏導(dǎo)，“祖先有智慧，我們今天的人類也一定會有辦法”。

今年是和平共處五項原則發(fā)表70周年。在這一重要歷史節(jié)點上，本屆北京香山論壇以“共筑和平、共享未來”為主題，意義重大。

本屆論壇緊扣國際社會安全關(guān)切，設(shè)置了“安全合作與亞太繁榮穩(wěn)定”“多極化與國際秩序走向”“‘全球南方’與世界和平發(fā)展”“國際機制與全球安全治理”4個全體會議議題，以及“東盟與亞太地區(qū)安全架構(gòu)”“維護東北亞安全穩(wěn)定”“歐洲安全走向”“中東和平愿景”“中美正確相處之道”“新興技術(shù)向善”“國際軍控的未來”“武裝沖突中的人道主義危機”8個平行分組會議議題。將有100余個國家、國際組織官方代表團的500余名官方代表，以及200余名中外專家學(xué)者參會。

新京報記者 柯銳

編輯 鄭偉彬

校對 楊許麗