近年來(lái)，人工智能大模型技術(shù)的涌現，掀起新一代人工智能發(fā)展的研究熱潮，也為各行各業(yè)應用人工智能帶來(lái)新的發(fā)展機遇。

　　人工智能的未來(lái)充滿(mǎn)哪些可能性？我們如何應對？記者采訪(fǎng)了有關(guān)專(zhuān)家。

　　人工智能研究正從以往的學(xué)術(shù)牽引更多轉為需求牽引

　　作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅動(dòng)力量，人工智能被普遍認為將對經(jīng)濟社會(huì )發(fā)展產(chǎn)生深遠影響。

　　近年來(lái)，人工智能研究正從以往的學(xué)術(shù)牽引更多轉為需求牽引，人工智能的發(fā)展目標正發(fā)生大的轉變。

　　在浙江大學(xué)人工智能研究所所長(cháng)吳飛看來(lái)，人工智能正由原來(lái)的“用計算機模擬人的智能”，向著(zhù)三個(gè)方向拓展：“機器+人”（用機器與人結合成增強的混合智能系統），“機器+人+網(wǎng)絡(luò )”（用機器、人、網(wǎng)絡(luò )結合組織成新的群體智能系統），“機器+人+網(wǎng)絡(luò )+物”（用機器、人、網(wǎng)絡(luò )和物結合而成的智能城市等更復雜的智能系統）。在“賦能社會(huì )”的應用驅動(dòng)下，一系列智能技術(shù)正在蓬勃發(fā)展。

　　北京郵電大學(xué)人工智能學(xué)院人機交互與認知工程實(shí)驗室主任劉偉介紹，從使用數學(xué)模型建立機器智能、借助統計概率實(shí)現機器學(xué)習，再到試圖借助遷移方法實(shí)現上下文感知的行為智能系統，這三類(lèi)人工智能發(fā)展趨勢體現了向人機環(huán)境系統邁進(jìn)的發(fā)展路徑。“具備對環(huán)境的感知、理解和交互能力，才算真正意義上的通用人工智能。”劉偉說(shuō)。

　　2017年國務(wù)院印發(fā)的《新一代人工智能發(fā)展規劃》，明確了多種人工智能的技術(shù)形態(tài)，其中包括跨媒體智能、群體智能、混合增強智能等。

　　吳飛舉例，手術(shù)機器人參與的外科手術(shù)無(wú)法由醫生獨立完成，也無(wú)法由機器人單獨完成，呈現出人機協(xié)同混合增強智能特征。“更多的垂直行業(yè)也正在加快相關(guān)人機交互探索，要么將人的作用引入智能系統，要么在人工智能系統中引入受生物啟發(fā)的智能計算模型。人機通過(guò)不斷的彼此交互、相互學(xué)習，達到持續增進(jìn)自身智能水平的目的。”吳飛說(shuō)。

　　通過(guò)技術(shù)和法律等手段規避人工智能風(fēng)險

　　人工智能造福人類(lèi)，同時(shí)也存在潛在風(fēng)險。

　　“人工智能的風(fēng)險，主要存在于這樣幾種可能的情況：一是惡意使用人工智能和錯誤使用人工智能；二是軟件漏洞與硬件失效造成人工智能故障；三是環(huán)境變化造成人工智能失控。”劉偉說(shuō)。

　　人工智能使用不當的風(fēng)險已引發(fā)人們關(guān)注。例如，人工智能技術(shù)可收集和分析海量數據，有可能導致個(gè)人隱私泄露、數據泄露和網(wǎng)絡(luò )攻擊；人工智能技術(shù)可生成虛假照片、視頻等，助長(cháng)網(wǎng)絡(luò )欺詐等不法行為。人工智能主題的科幻電影所描繪的超前場(chǎng)景，也讓人們思考人工智能技術(shù)可能帶來(lái)的倫理問(wèn)題，例如，人類(lèi)未來(lái)如何與有“智能”的機器相處？

　　在吳飛看來(lái)，人類(lèi)始終是人工智能高度、廣度和深度的總開(kāi)關(guān)與決定者，也是人和人造物的協(xié)調者。因此，一方面不能簡(jiǎn)單地將人工智能等同于人類(lèi)大腦，盲目相信“人工智能替代人類(lèi)”的觀(guān)點(diǎn)，另一方面也要善于利用人工智能這一人類(lèi)幫手，在人機協(xié)同中創(chuàng )造更加美好的未來(lái)。

　　專(zhuān)家認為，通過(guò)技術(shù)和法律等手段，人工智能相關(guān)風(fēng)險可以規避，人類(lèi)也有能力找到化解風(fēng)險的有效手段。

　　我國始終是人工智能治理的積極倡導者和實(shí)踐者。2021年9月，國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )發(fā)布了《新一代人工智能倫理規范》，強調將倫理道德融入人工智能全生命周期。2023年10月，我國在第三屆“一帶一路”國際合作高峰論壇期間發(fā)布《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統闡述了人工智能治理中國方案，充分體現了我國在處理人工智能治理問(wèn)題上的大國擔當。

　　建立良好生態(tài)系統支撐人工智能賦能社會(huì )

　　近年來(lái)，越來(lái)越多的國家將人工智能發(fā)展置于國家戰略層面，在頂層設計中加入防止人工智能技術(shù)壟斷和技術(shù)無(wú)序擴張等理念。

　　如何防范人工智能技術(shù)被濫用？

　　受訪(fǎng)專(zhuān)家表示，應該建立多學(xué)科、多領(lǐng)域的合作，鼓勵科學(xué)家、工程師以及公眾廣泛參與，共同探討人工智能的發(fā)展方向、應用領(lǐng)域和道德倫理問(wèn)題。全世界應該攜手，堅持發(fā)展和安全并重的原則，確保人工智能技術(shù)的發(fā)展符合人類(lèi)的整體利益。

　　劉偉表示，從技術(shù)手段上看，為了增加人工智能的公平性、可信任性、可解釋與透明度、安全性等，研發(fā)主體從頂層設計、過(guò)程控制、工程收尾等整個(gè)流程中都要保持人機環(huán)境系統的設計思路。

　　瑞萊智慧首席執行官田天認為，要扎實(shí)做好人工智能基礎理論攻關(guān)，提升人工智能的內在安全性能；鍛造、儲備對新一代人工智能的安全評測能力，掌握對其準確性、效率、內容安全、抗攻擊能力等多個(gè)維度進(jìn)行評測的方法和手段。同時(shí)，還要著(zhù)力研發(fā)提供必要的安全工具，比如提供深度偽造檢測工具幫助公眾辨識信息真偽、防范網(wǎng)絡(luò )欺詐等。

　　數據與算法安全是人工智能安全的核心。專(zhuān)家表示，要重視高質(zhì)量語(yǔ)料的建設，通過(guò)精標數據、反饋數據來(lái)進(jìn)行優(yōu)化訓練，最終實(shí)現模型輸出的選優(yōu)除劣。

　　吳飛認為，推動(dòng)人工智能技術(shù)賦能社會(huì )需要良好生態(tài)系統的整體支撐，不僅僅只是技術(shù)研發(fā)本身。要把握人工智能技術(shù)屬性和社會(huì )屬性高度融合的特征，加強前瞻預防與約束引導。“一個(gè)良好的生態(tài)系統可有機聯(lián)結倫理與道德、技術(shù)與產(chǎn)業(yè)、資本與市場(chǎng)，在這樣一個(gè)生態(tài)系統中，每個(gè)來(lái)自不同領(lǐng)域的人工智能參與者都能從中獲益。”吳飛說(shuō)。

　　《 人民日報 》（ 2024年01月14日 06 版）

分享讓更多人看到