AI時(shí)代，如何讓治理跟上技術(shù)步伐？
更新時(shí)間：2025/3/28 9:32:51 來源：新華社CNML文字
 |
| 您現(xiàn)在的位置： 焦作網(wǎng) > 新聞中心首頁 > 國內(nèi)新聞 > 正文 |
新聞中心首頁
新華社海南博鰲3月27日電 題：AI時(shí)代，如何讓治理跟上技術(shù)步伐？
新華社“新華視點(diǎn)”記者宋佳、王存福、劉開雄
從“AI兒科醫(yī)生”參與病情會(huì)診，到“AI數(shù)智員工”輔助提供公共服務(wù)，再到人形機(jī)器人進(jìn)廠上班……全球人工智能技術(shù)進(jìn)入爆發(fā)式發(fā)展階段，正以前所未有的速度走入千家萬戶、改變千行百業(yè)。當(dāng)AI重塑我們熟悉的世界，隨之而來的機(jī)遇與挑戰(zhàn)如何應(yīng)對(duì)？應(yīng)用與治理如何平衡推進(jìn)？
正在舉行的博鰲亞洲論壇2025年年會(huì)上，國內(nèi)外技術(shù)前沿領(lǐng)域?qū)＜�、學(xué)者和企業(yè)代表就相關(guān)話題展開熱烈討論。
適應(yīng)AI“新常態(tài)”
當(dāng)下，人工智能加速賦能千行百業(yè)，進(jìn)入教育、醫(yī)療、政務(wù)、金融等場(chǎng)景。越來越多人感受到AI帶來的便利。從無人駕駛、機(jī)器人到腦機(jī)接口，大眾對(duì)AI應(yīng)用產(chǎn)生更多期待。
畢馬威中國首席技術(shù)官及創(chuàng)新主管合伙人劉建剛表示，人工智能已經(jīng)不是一個(gè)未來概念，對(duì)很多企業(yè)而言，利用人工智能加速?zèng)Q策、創(chuàng)新產(chǎn)品、優(yōu)化運(yùn)營，已不是選擇題，而是必答題。
數(shù)據(jù)顯示，2024年我國完成備案并上線提供服務(wù)的生成式人工智能大模型接近200個(gè)，注冊(cè)用戶超6億；工業(yè)機(jī)器人裝機(jī)量占全球過半。
今年政府工作報(bào)告提出，持續(xù)推進(jìn)“人工智能+”行動(dòng)。國務(wù)院研究室副主任陳昌盛表示，今年將開展新技術(shù)新產(chǎn)品新場(chǎng)景大規(guī)模應(yīng)用示范行動(dòng)，在確保安全前提下，加快人工智能在低空經(jīng)濟(jì)、教育培訓(xùn)、醫(yī)療健康等多場(chǎng)景應(yīng)用。
中興通訊股份有限公司董事長李自學(xué)表示，當(dāng)前人工智能通用型應(yīng)用加速普及，但在行業(yè)領(lǐng)域還存在不好用、不易用、不會(huì)用等問題。應(yīng)在通用基礎(chǔ)大模型上，結(jié)合不同行業(yè)應(yīng)用場(chǎng)景需求，加強(qiáng)專屬領(lǐng)域定制與深度訓(xùn)練，讓大模型成為懂行業(yè)的“能工巧匠”，促進(jìn)人工智能與產(chǎn)業(yè)真正結(jié)合。
有觀點(diǎn)認(rèn)為，未來可能出現(xiàn)自然人、機(jī)器人、數(shù)字人并存交互的社會(huì)形態(tài)�！恫梺喼拚搲瘉喼藿�(jīng)濟(jì)前景及一體化進(jìn)程2025年度報(bào)告》指出，隨著人工智能技術(shù)的廣泛應(yīng)用，部分行業(yè)就業(yè)受到嚴(yán)重影響。
“替代部分工作崗位是技術(shù)變革中的必然過程，有些崗位受影響，也會(huì)有新崗位出現(xiàn)�！眝ivo高級(jí)副總裁、首席技術(shù)官施玉堅(jiān)說，每個(gè)人都要通過學(xué)習(xí)不斷提升綜合素質(zhì)，適應(yīng)AI帶來的變化。
多位與會(huì)嘉賓表示，除了加強(qiáng)人工智能知識(shí)技能教育培訓(xùn)，還應(yīng)考慮制定新的社會(huì)保障政策，加強(qiáng)對(duì)受沖擊勞動(dòng)者群體的兜底保障。
加固“安全護(hù)欄”
在博鰲亞洲論壇多場(chǎng)人工智能相關(guān)活動(dòng)上，與會(huì)嘉賓普遍認(rèn)為，隨著AI能力越來越強(qiáng)，AI不可控、被濫用等風(fēng)險(xiǎn)會(huì)越來越高，在推廣應(yīng)用中要加固“安全護(hù)欄”。
社交平臺(tái)上，不少人吐槽AI一本正經(jīng)地胡說八道。清華大學(xué)公共管理學(xué)院院長朱旭峰表示，這是AI幻覺，指大模型有時(shí)混淆事實(shí)和虛構(gòu)，在看似是事實(shí)的句子中插入錯(cuò)誤細(xì)節(jié)。AI胡編亂造可能產(chǎn)生誤導(dǎo)，甚至?xí)l(fā)嚴(yán)重后果，特別是在醫(yī)療、金融、法律等對(duì)信息真實(shí)性和準(zhǔn)確性要求極高的領(lǐng)域。
“技術(shù)暫時(shí)不成熟，我們不能因噎廢食�！敝煨穹逭f，要加大對(duì)技術(shù)的開發(fā)和使用，推動(dòng)AI幻覺等問題隨技術(shù)不斷進(jìn)步逐步解決。
AI應(yīng)用過程中需要使用大量數(shù)據(jù)，數(shù)據(jù)安全與隱私保護(hù)備受公眾關(guān)注。多位與會(huì)嘉賓表示，現(xiàn)實(shí)中，具體應(yīng)用場(chǎng)景下哪些數(shù)據(jù)必須收集，敏感信息數(shù)據(jù)如何避免泄露等，需要進(jìn)一步明晰相關(guān)制度規(guī)則。
施玉堅(jiān)認(rèn)為，隨著AI技術(shù)的普及，企業(yè)對(duì)數(shù)據(jù)的依賴程度日益加深，如果不采取相應(yīng)的安全措施，就可能造成數(shù)據(jù)泄露的風(fēng)險(xiǎn)�！皵�(shù)據(jù)要進(jìn)行脫敏或加密處理，增強(qiáng)傳輸和存儲(chǔ)過程中的安全性。”
AI技術(shù)的濫用誤用是顯著風(fēng)險(xiǎn)之一。有統(tǒng)計(jì)顯示，2024年全球發(fā)生的AI風(fēng)險(xiǎn)事件，超過30%與利用AI進(jìn)行深度偽造相關(guān)。深度偽造名人形象、聲音進(jìn)行虛假宣傳甚至詐騙不時(shí)見諸報(bào)端。
多位嘉賓表示，AI深度偽造現(xiàn)象層出不窮，主要在于造假成本低，追查、執(zhí)法成本大，應(yīng)針對(duì)AI誤用濫用完善相關(guān)法律法規(guī)，加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德爭議也不容忽視。中國科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家曾毅認(rèn)為，倫理安全應(yīng)作為人工智能大模型發(fā)展的“基因”，如何在追求技術(shù)進(jìn)步的同時(shí)堅(jiān)守道德底線，是需要共同面對(duì)的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關(guān)系�！痹阏f，最新研究表明，可以在幾乎不影響人工智能大模型求解能力的同時(shí)，通過科學(xué)的方式提升其安全能力。
讓治理跟上技術(shù)步伐
如何讓治理跟上AI技術(shù)步伐？與會(huì)嘉賓表示，AI治理是一個(gè)全球性的復(fù)雜問題，需要達(dá)成世界共識(shí)，推動(dòng)各領(lǐng)域相互協(xié)作。目前，主要經(jīng)濟(jì)體都在加速相關(guān)立法進(jìn)程。
在AI治理中，中國堅(jiān)持統(tǒng)籌發(fā)展和安全，有關(guān)部門已發(fā)布多項(xiàng)AI治理指導(dǎo)文件。其中，前不久發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來，政策制定者、企業(yè)家、科學(xué)家等利益相關(guān)方應(yīng)聚在一起，建立共識(shí)，通過制定標(biāo)準(zhǔn)來應(yīng)對(duì)AI帶來的治理挑戰(zhàn)。
“AI醫(yī)生”看病出了問題算誰的責(zé)任？當(dāng)人工智能系統(tǒng)產(chǎn)生不良后果，如何確定責(zé)任歸屬也需進(jìn)一步厘清�！岸辔患钨e都提到一個(gè)觀點(diǎn)，不要讓人工智能完全代替人的決策，這是人工智能應(yīng)用時(shí)必須注意的問題�！痹阏f。
高質(zhì)量數(shù)據(jù)是AI應(yīng)用大規(guī)模落地的重要支撐，構(gòu)建一個(gè)完善而成熟的數(shù)據(jù)市場(chǎng)也十分重要。以色列民主研究所高級(jí)研究員特希拉·施瓦茨·阿爾特舒勒認(rèn)為，應(yīng)根據(jù)實(shí)際情況，建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。
與會(huì)嘉賓表示，AI時(shí)代到來，要堅(jiān)持應(yīng)用與治理平衡、創(chuàng)新與監(jiān)管并重、全球化與本土化協(xié)同，防止數(shù)字鴻溝變成智能鴻溝，讓AI真正成為推動(dòng)社會(huì)進(jìn)步的普惠力量。
 |
 |
 |
 |
焦作網(wǎng)免責(zé)聲明： | |||||||
|
||||||||
新華社海南博鰲3月27日電 題：AI時(shí)代，如何讓治理跟上技術(shù)步伐？
新華社“新華視點(diǎn)”記者宋佳、王存福、劉開雄
從“AI兒科醫(yī)生”參與病情會(huì)診，到“AI數(shù)智員工”輔助提供公共服務(wù)，再到人形機(jī)器人進(jìn)廠上班……全球人工智能技術(shù)進(jìn)入爆發(fā)式發(fā)展階段，正以前所未有的速度走入千家萬戶、改變千行百業(yè)。當(dāng)AI重塑我們熟悉的世界，隨之而來的機(jī)遇與挑戰(zhàn)如何應(yīng)對(duì)？應(yīng)用與治理如何平衡推進(jìn)？
正在舉行的博鰲亞洲論壇2025年年會(huì)上，國內(nèi)外技術(shù)前沿領(lǐng)域?qū)＜�、學(xué)者和企業(yè)代表就相關(guān)話題展開熱烈討論。
適應(yīng)AI“新常態(tài)”
當(dāng)下，人工智能加速賦能千行百業(yè)，進(jìn)入教育、醫(yī)療、政務(wù)、金融等場(chǎng)景。越來越多人感受到AI帶來的便利。從無人駕駛、機(jī)器人到腦機(jī)接口，大眾對(duì)AI應(yīng)用產(chǎn)生更多期待。
畢馬威中國首席技術(shù)官及創(chuàng)新主管合伙人劉建剛表示，人工智能已經(jīng)不是一個(gè)未來概念，對(duì)很多企業(yè)而言，利用人工智能加速?zèng)Q策、創(chuàng)新產(chǎn)品、優(yōu)化運(yùn)營，已不是選擇題，而是必答題。
數(shù)據(jù)顯示，2024年我國完成備案并上線提供服務(wù)的生成式人工智能大模型接近200個(gè)，注冊(cè)用戶超6億；工業(yè)機(jī)器人裝機(jī)量占全球過半。
今年政府工作報(bào)告提出，持續(xù)推進(jìn)“人工智能+”行動(dòng)。國務(wù)院研究室副主任陳昌盛表示，今年將開展新技術(shù)新產(chǎn)品新場(chǎng)景大規(guī)模應(yīng)用示范行動(dòng)，在確保安全前提下，加快人工智能在低空經(jīng)濟(jì)、教育培訓(xùn)、醫(yī)療健康等多場(chǎng)景應(yīng)用。
中興通訊股份有限公司董事長李自學(xué)表示，當(dāng)前人工智能通用型應(yīng)用加速普及，但在行業(yè)領(lǐng)域還存在不好用、不易用、不會(huì)用等問題。應(yīng)在通用基礎(chǔ)大模型上，結(jié)合不同行業(yè)應(yīng)用場(chǎng)景需求，加強(qiáng)專屬領(lǐng)域定制與深度訓(xùn)練，讓大模型成為懂行業(yè)的“能工巧匠”，促進(jìn)人工智能與產(chǎn)業(yè)真正結(jié)合。
有觀點(diǎn)認(rèn)為，未來可能出現(xiàn)自然人、機(jī)器人、數(shù)字人并存交互的社會(huì)形態(tài)。《博鰲亞洲論壇亞洲經(jīng)濟(jì)前景及一體化進(jìn)程2025年度報(bào)告》指出，隨著人工智能技術(shù)的廣泛應(yīng)用，部分行業(yè)就業(yè)受到嚴(yán)重影響。
“替代部分工作崗位是技術(shù)變革中的必然過程，有些崗位受影響，也會(huì)有新崗位出現(xiàn)�！眝ivo高級(jí)副總裁、首席技術(shù)官施玉堅(jiān)說，每個(gè)人都要通過學(xué)習(xí)不斷提升綜合素質(zhì)，適應(yīng)AI帶來的變化。
多位與會(huì)嘉賓表示，除了加強(qiáng)人工智能知識(shí)技能教育培訓(xùn)，還應(yīng)考慮制定新的社會(huì)保障政策，加強(qiáng)對(duì)受沖擊勞動(dòng)者群體的兜底保障。
加固“安全護(hù)欄”
在博鰲亞洲論壇多場(chǎng)人工智能相關(guān)活動(dòng)上，與會(huì)嘉賓普遍認(rèn)為，隨著AI能力越來越強(qiáng)，AI不可控、被濫用等風(fēng)險(xiǎn)會(huì)越來越高，在推廣應(yīng)用中要加固“安全護(hù)欄”。
社交平臺(tái)上，不少人吐槽AI一本正經(jīng)地胡說八道。清華大學(xué)公共管理學(xué)院院長朱旭峰表示，這是AI幻覺，指大模型有時(shí)混淆事實(shí)和虛構(gòu)，在看似是事實(shí)的句子中插入錯(cuò)誤細(xì)節(jié)。AI胡編亂造可能產(chǎn)生誤導(dǎo)，甚至?xí)l(fā)嚴(yán)重后果，特別是在醫(yī)療、金融、法律等對(duì)信息真實(shí)性和準(zhǔn)確性要求極高的領(lǐng)域。
“技術(shù)暫時(shí)不成熟，我們不能因噎廢食�！敝煨穹逭f，要加大對(duì)技術(shù)的開發(fā)和使用，推動(dòng)AI幻覺等問題隨技術(shù)不斷進(jìn)步逐步解決。
AI應(yīng)用過程中需要使用大量數(shù)據(jù)，數(shù)據(jù)安全與隱私保護(hù)備受公眾關(guān)注。多位與會(huì)嘉賓表示，現(xiàn)實(shí)中，具體應(yīng)用場(chǎng)景下哪些數(shù)據(jù)必須收集，敏感信息數(shù)據(jù)如何避免泄露等，需要進(jìn)一步明晰相關(guān)制度規(guī)則。
施玉堅(jiān)認(rèn)為，隨著AI技術(shù)的普及，企業(yè)對(duì)數(shù)據(jù)的依賴程度日益加深，如果不采取相應(yīng)的安全措施，就可能造成數(shù)據(jù)泄露的風(fēng)險(xiǎn)�！皵�(shù)據(jù)要進(jìn)行脫敏或加密處理，增強(qiáng)傳輸和存儲(chǔ)過程中的安全性。”
AI技術(shù)的濫用誤用是顯著風(fēng)險(xiǎn)之一。有統(tǒng)計(jì)顯示，2024年全球發(fā)生的AI風(fēng)險(xiǎn)事件，超過30%與利用AI進(jìn)行深度偽造相關(guān)。深度偽造名人形象、聲音進(jìn)行虛假宣傳甚至詐騙不時(shí)見諸報(bào)端。
多位嘉賓表示，AI深度偽造現(xiàn)象層出不窮，主要在于造假成本低，追查、執(zhí)法成本大，應(yīng)針對(duì)AI誤用濫用完善相關(guān)法律法規(guī)，加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德爭議也不容忽視。中國科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家曾毅認(rèn)為，倫理安全應(yīng)作為人工智能大模型發(fā)展的“基因”，如何在追求技術(shù)進(jìn)步的同時(shí)堅(jiān)守道德底線，是需要共同面對(duì)的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關(guān)系�！痹阏f，最新研究表明，可以在幾乎不影響人工智能大模型求解能力的同時(shí)，通過科學(xué)的方式提升其安全能力。
讓治理跟上技術(shù)步伐
如何讓治理跟上AI技術(shù)步伐？與會(huì)嘉賓表示，AI治理是一個(gè)全球性的復(fù)雜問題，需要達(dá)成世界共識(shí)，推動(dòng)各領(lǐng)域相互協(xié)作。目前，主要經(jīng)濟(jì)體都在加速相關(guān)立法進(jìn)程。
在AI治理中，中國堅(jiān)持統(tǒng)籌發(fā)展和安全，有關(guān)部門已發(fā)布多項(xiàng)AI治理指導(dǎo)文件。其中，前不久發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來，政策制定者、企業(yè)家、科學(xué)家等利益相關(guān)方應(yīng)聚在一起，建立共識(shí)，通過制定標(biāo)準(zhǔn)來應(yīng)對(duì)AI帶來的治理挑戰(zhàn)。
“AI醫(yī)生”看病出了問題算誰的責(zé)任？當(dāng)人工智能系統(tǒng)產(chǎn)生不良后果，如何確定責(zé)任歸屬也需進(jìn)一步厘清�！岸辔患钨e都提到一個(gè)觀點(diǎn)，不要讓人工智能完全代替人的決策，這是人工智能應(yīng)用時(shí)必須注意的問題�！痹阏f。
高質(zhì)量數(shù)據(jù)是AI應(yīng)用大規(guī)模落地的重要支撐，構(gòu)建一個(gè)完善而成熟的數(shù)據(jù)市場(chǎng)也十分重要。以色列民主研究所高級(jí)研究員特希拉·施瓦茨·阿爾特舒勒認(rèn)為，應(yīng)根據(jù)實(shí)際情況，建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。
與會(huì)嘉賓表示，AI時(shí)代到來，要堅(jiān)持應(yīng)用與治理平衡、創(chuàng)新與監(jiān)管并重、全球化與本土化協(xié)同，防止數(shù)字鴻溝變成智能鴻溝，讓AI真正成為推動(dòng)社會(huì)進(jìn)步的普惠力量。
 |
|
||||
|
焦作網(wǎng)免責(zé)聲明： | |||||||
|
||||||||
|
|
