每經(jīng)記者｜周逸斐    每經(jīng)編輯｜陳星    

2024中關(guān)村論壇年會于4月25日至29日舉行。《每日經(jīng)濟新聞》記者從現(xiàn)場獲悉，本屆年會以“創(chuàng)新：建設(shè)更加美好的世界”為主題，設(shè)置了論壇會議、技術(shù)交易、成果發(fā)布、前沿大賽、配套活動5大板塊。

中關(guān)村論壇是中國面向全球科技創(chuàng)新交流合作的國家級平臺，已成功舉辦14屆。本屆論壇設(shè)置了論壇會議、技術(shù)交易、成果發(fā)布、前沿大賽、配套活動5大板塊，將舉辦近120場活動，100多個國家和地區(qū)、150余家外國政府部門和國際組織機構(gòu)等受邀參會。

在26日舉行的全球科技集群創(chuàng)新論壇上，清華大學(xué)蘇世民書院院長薛瀾發(fā)表了題為《國際科技創(chuàng)新中心評估——結(jié)果與啟示》的主旨演講。

人工智能發(fā)展迅速，也引起一部分人的擔(dān)憂：若預(yù)防AI（人工智能）犯錯的技術(shù)落后于AI自身的發(fā)展，很可能會出現(xiàn)失控局面。對此，薛瀾回應(yīng)《每日經(jīng)濟新聞》記者，發(fā)展人工智能的時候，一定要設(shè)“紅線”。

薛瀾接受采訪 每經(jīng)記者 周逸斐 攝

諸多業(yè)內(nèi)人士也呼吁要給人工智能“裝上剎車再上路”。薛瀾表示，所謂“剎車”就是一套針對人工智能潛在風(fēng)險的治理體系，它可以對濫用、惡用、誤用人工智能等潛在風(fēng)險進行合理規(guī)制。

他進一步解釋，這套治理體系分多個層次。從國家層面來看，2019年，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的框架和行動指南。2021年，《新一代人工智能倫理規(guī)范》發(fā)布，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動的自然人、法人和其他相關(guān)機構(gòu)等提供倫理指引。此外，國家還出臺了個人信息保護法等法律。

在具體領(lǐng)域也有一些法規(guī)、措施出臺。比如針對“騎手困在算法中”等問題，相關(guān)部門專門出臺了關(guān)于算法的規(guī)定，保護勞動者、消費者的權(quán)益。2023年，中國還出臺了全球首部專門規(guī)范生成式人工智能服務(wù)的立法。

另外，國家鼓勵相關(guān)企業(yè)加強內(nèi)部機制建設(shè)，保證企業(yè)技術(shù)應(yīng)用符合前述法律法規(guī)。

薛瀾認(rèn)為，上述多層次、綜合性措施可以保證人工智能“上路”是有“剎車”的。

記者注意到，一段時間以來，如何避免被人工智能取代的話題被反復(fù)提及。薛瀾認(rèn)為，目前更需要探討的是怎樣利用人工智能技術(shù)為人類服務(wù)？人類下一步發(fā)展更希望得到什么？哪些工作可能是人工智能無法替代的？思考后找到的方向就是人類需要掌握的技能。

“另一方面也需要開拓就業(yè)新領(lǐng)域。隨著新技術(shù)的發(fā)展和物質(zhì)文化生活的不斷豐富，人類會產(chǎn)生更多的新需求，這些需求也許就是未來的就業(yè)新模式、新方向。”薛瀾說。