科技日報(bào)記者 崔 爽

　　人工智能無疑是2023年最熱門的數(shù)字科技關(guān)鍵詞。一方面，各國紛紛加速布局人工智能產(chǎn)業(yè)。近日，俄羅斯公布了一項(xiàng)新的人工智能發(fā)展國家戰(zhàn)略計(jì)劃，新加坡發(fā)布了全國人工智能策略2.0。另一方面，針對人工智能的治理體系也愈發(fā)完善。美國推出《關(guān)于安全、可靠和可信的AI行政命令》，歐盟就《人工智能法案》達(dá)成協(xié)議。在2023年底舉辦的首屆全球人工智能安全峰會上，包括中國、美國、英國在內(nèi)的28個(gè)國家及歐盟共同簽署了旨在推動人工智能全球治理的《布萊奇利宣言》。

　　由此可見，在數(shù)字經(jīng)濟(jì)時(shí)代，布局人工智能已經(jīng)成為各國政府的共識。但如何布局、如何發(fā)展，仍然需要政府、科研院所、業(yè)界等各方貢獻(xiàn)智慧。2024年，人工智能技術(shù)將有哪些動向？如何在技術(shù)快速發(fā)展的情況下更好地監(jiān)管人工智能？

　　落地產(chǎn)業(yè)應(yīng)用的關(guān)鍵一年

　　“在傳統(tǒng)信貸經(jīng)營模式下，銀行向一些小農(nóng)場放貸以后，工作人員需要隔三岔五去做貸后檢查、監(jiān)測，費(fèi)時(shí)又費(fèi)力。在西部一些地區(qū)，進(jìn)行一次檢查甚至可能需要兩三天時(shí)間?！敝袊r(nóng)業(yè)銀行研發(fā)中心大模型研發(fā)負(fù)責(zé)人耿博在近日召開的首屆人工智能應(yīng)用大會上說。

　　高企的運(yùn)營成本在人工智能技術(shù)規(guī)模應(yīng)用之后大大降低了?！拔覀冊谛∞r(nóng)場裝了一些攝像頭，通過這些攝像頭采集數(shù)據(jù)，然后用人工智能做計(jì)數(shù)?！惫⒉┙榻B道，“不光是計(jì)數(shù)，人工智能還能做辨別。比如這頭牛到底是老王的還是老李的?！惫⒉┙榻B，人工智能的應(yīng)用提高了貸后管理效率，降低了貸后管理成本，使一些偏遠(yuǎn)地區(qū)也能享受智慧金融服務(wù)。

　　這只是人工智能技術(shù)落地應(yīng)用的冰山一角。“2024年將是人工智能技術(shù)落地產(chǎn)業(yè)應(yīng)用的關(guān)鍵一年。”北京工商大學(xué)副校長左敏判斷。在他看來，隨著大模型在過去一年的快速進(jìn)步，人工智能技術(shù)的應(yīng)用潛能已經(jīng)被廣泛認(rèn)可。與此同時(shí)，大家意識到，在人工智能領(lǐng)域，構(gòu)建越來越大的模型并不一定是最終目標(biāo)。將人工智能技術(shù)轉(zhuǎn)化為具體的、可行的解決方案和產(chǎn)品，對于推動人工智能行業(yè)發(fā)展和實(shí)現(xiàn)商業(yè)價(jià)值亦至關(guān)重要。

　　人工智能，尤其是大模型未來一段時(shí)期內(nèi)值得關(guān)注的方向是什么？中國移動通信聯(lián)合會執(zhí)行副會長杜正平給出了自己的答案：智能涌現(xiàn)的工程機(jī)制、新的技術(shù)商業(yè)模型、新的智能組織和技術(shù)架構(gòu)。

　　智能涌現(xiàn)，指人工智能出現(xiàn)的與初始訓(xùn)練目標(biāo)無關(guān)的新行為和功能。業(yè)界普遍認(rèn)為，智能涌現(xiàn)是人工智能邁向更高階段的表現(xiàn)。但對于智能涌現(xiàn)發(fā)生的機(jī)制和工程路徑，科學(xué)家目前尚不清楚。杜正平提到，互聯(lián)網(wǎng)公司Meta日前表示，擬斥資數(shù)十億美元購買英偉達(dá)公司的計(jì)算機(jī)芯片，用于人工智能研究和相關(guān)項(xiàng)目。Meta首席執(zhí)行官馬克·扎克伯格亦透露，根據(jù)公司的人工智能未來路線圖要求，公司將建立一個(gè)大規(guī)模的計(jì)算基礎(chǔ)設(shè)施。到2024年底，這一基礎(chǔ)設(shè)施將包括35萬張英偉達(dá)H100顯卡。在杜正平看來，類似Meta這樣“暴力”的方式是否一定會推動人工智能產(chǎn)生智能涌現(xiàn)，以及智能涌現(xiàn)發(fā)生的機(jī)制和工程路徑，還需繼續(xù)探索。

　　同時(shí)，杜正平認(rèn)為，盡管大模型發(fā)展如火如荼，但它究竟會在哪些方面發(fā)展出新的技術(shù)商業(yè)模式，還需全行業(yè)共同探索?！霸谀Ｐ椭悄軙r(shí)代，如何搭建新的智能組織、技術(shù)架構(gòu)，同樣是我們關(guān)注的重點(diǎn)?！倍耪秸f。

　　“我國經(jīng)濟(jì)已經(jīng)由高速增長階段轉(zhuǎn)向高質(zhì)量發(fā)展階段，處在轉(zhuǎn)變發(fā)展方式、優(yōu)化經(jīng)濟(jì)結(jié)構(gòu)、轉(zhuǎn)化增強(qiáng)動力的攻關(guān)時(shí)期，迫切需要新一代人工智能重大創(chuàng)新助力?！敝袊娮由虅?wù)商協(xié)會聯(lián)盟主席聶林海認(rèn)為，“我們要深入把握新一代人工智能的發(fā)展特點(diǎn)，加快推動人工智能和相關(guān)產(chǎn)業(yè)融合發(fā)展，為高質(zhì)量發(fā)展提供新動能?！?/p>

　　推動治理規(guī)則與實(shí)踐走深向?qū)?/p>

　　以大模型為代表的生成式人工智能技術(shù)發(fā)展迅猛，已初步顯露對行業(yè)的顛覆式影響。與此同時(shí)，人工智能安全治理問題也引發(fā)了前所未有的關(guān)注。各國政府、國際組織、學(xué)術(shù)科研機(jī)構(gòu)、產(chǎn)業(yè)組織、科技公司紛紛投身其中。“全球人工智能安全治理的規(guī)則與實(shí)踐探索將進(jìn)一步走深向?qū)??！闭劶叭蛉斯ぶ悄馨踩卫戆l(fā)展趨勢，中國信息通信研究院人工智能研究中心高級業(yè)務(wù)主管呼娜英說。

　　根據(jù)中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟安全治理委員會發(fā)布的研究結(jié)果，隨著人工智能加速賦能千行百業(yè)，人工智能安全治理議題正從隱私保護(hù)、數(shù)據(jù)安全、算法黑箱、模型漏洞等傳統(tǒng)技術(shù)安全議題向應(yīng)用于生物、化學(xué)、核能、關(guān)鍵基礎(chǔ)設(shè)施等領(lǐng)域的底層安全問題擴(kuò)展。

　　在人工智能安全治理方案方面，呼娜英介紹，全球持續(xù)加強(qiáng)人工智能安全治理。2023年10月，聯(lián)合國組建高級別人工智能咨詢機(jī)構(gòu)。機(jī)構(gòu)旨在監(jiān)管人工智能，應(yīng)對人工智能可能帶來的風(fēng)險(xiǎn)。在強(qiáng)化人工智能安全治理過程中，風(fēng)險(xiǎn)導(dǎo)向成為各國對人工智能的普遍治理路徑。比如，我國的《生成式人工智能服務(wù)管理暫行辦法》積極應(yīng)對生成式人工智能在訓(xùn)練數(shù)據(jù)、算法模型、生成內(nèi)容、個(gè)人信息權(quán)益等方面產(chǎn)生的風(fēng)險(xiǎn)。歐盟《人工智能法案》對人工智能進(jìn)行分級監(jiān)管和風(fēng)險(xiǎn)規(guī)制。聯(lián)合國人工智能咨詢機(jī)構(gòu)也在臨時(shí)報(bào)告中說，制定人工智能風(fēng)險(xiǎn)管理框架將是下一步工作的重心。

　　具體措施方面，在技術(shù)快速發(fā)展的情況下，以人工智能治理人工智能成為行業(yè)探索的重點(diǎn)。其中，可擴(kuò)展監(jiān)督、可解釋性研究、模型評估等價(jià)值對齊方式是行業(yè)的主要探索方向。比如2023年5月，人工智能初創(chuàng)公司Anthropic宣布，將通過一個(gè)名為“憲法 AI”的大模型評估和訓(xùn)練該公司大模型的價(jià)值觀。人工智能研究公司OpenAI緊隨其后，宣布成立超級對齊團(tuán)隊(duì)，投入20%計(jì)算資源，以4年時(shí)間打造解決對齊問題的人工智能。