11月9日，2023年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會前沿數(shù)字技術創(chuàng)新與安全論壇在浙江烏鎮(zhèn)舉行。論壇以“技術引領變革 數(shù)字開創(chuàng)未來”為主題，依托前沿數(shù)字技術發(fā)展浪潮，共議數(shù)字技術創(chuàng)新與安全。
技術的發(fā)展必然帶來新的風險，如何發(fā)現(xiàn)、甄別、處理、預防風險成為了一項重要課題。在論壇上，與會專家與嘉賓都談到了前沿科技發(fā)展可能帶來的風險，也探討了一些相應的應對之法。
潮新聞記者 楊一凡 攝
“區(qū)別于一般的產(chǎn)業(yè)技術，網(wǎng)絡空間安全有明顯的對抗性的特點，也就是說一方的勝利代表另一方的失敗?！敝嘘P村實驗室主任助理、首席科學家卿昱在主旨演講中談到，作為2015年正式設立的一級學科，“網(wǎng)絡空間安全是一門年輕但不簡單的學科?！?/p>
在網(wǎng)絡安全領域，新技術的發(fā)展會使已有的技術面臨安全風險，比如說量子計算，它很可能會給經(jīng)典密碼帶來嚴重的挑戰(zhàn)，“各種新技術的出現(xiàn)同時也帶來了安全威脅。”
中關村實驗室主任助理、首席科學家卿昱在前沿數(shù)字技術創(chuàng)新與安全論壇發(fā)表主旨演講。潮新聞記者 楊一凡 攝
哪些新技術需要我們重點關注？
卿昱分享了從2019年到2023年整個頂級會議期刊的一些熱詞分析：這5年來，研究者從對隱私計算、惡意軟件、數(shù)字取證、異常檢測技術的關注，到最近3年又擴展到了人工智能、深度學習和隱私保護的相關的技術上。
“隨著人工智能的發(fā)展，我們已經(jīng)很重視相關的安全問題，比如像人工智能算法可能會在對抗攻擊的情況下被誤導。”清華大學人工智能研究院副院長、計算機系教授朱軍在論壇的主旨演講中舉例，監(jiān)控攝像頭的人臉識別驗證的安全，其實在之前應用之前，就已經(jīng)開始做很多的學術研究和應用，“一方面去發(fā)現(xiàn)漏洞，另一方面就是去做保密?！?/p>
倫理風險、算法風險、數(shù)據(jù)風險、技術濫用，在朱軍看來，生成式人工智能的新型安全風險正在顯現(xiàn)。
清華大學人工智能研究院副院長、計算機系教授朱軍發(fā)表主旨演講。潮新聞記者 楊一凡 攝
如何去應對這些風險？
“在清華大學人工智能研究院成立的時候，我們當時討論就設定叫發(fā)展第三代人工智能的公司，我們實際上是想將大數(shù)據(jù)驅(qū)動和知識相融合地去發(fā)展新型的人工智能的方法和理論。”論壇現(xiàn)場，朱軍演示了人工智能安全評測平臺、人臉人工智能安全防火墻、數(shù)據(jù)安全產(chǎn)品及人工智能內(nèi)容檢測平臺等人工智能治理的有效工具。
“關于大模型的一些最新的結果，我們可以從各個維度去評測我們的模型算法；針對人臉驗證這種最廣泛的應用場景，我們專門做了稱之為人臉識別的自動防火墻；關于數(shù)據(jù)安全，我們發(fā)展的分布式機器學習，或者用加密數(shù)據(jù)下的機器學習的技術來綜合來去解決這個問題。而對于人工智能發(fā)展之后創(chuàng)造的內(nèi)容，“我們最基本的就是想判斷哪些是人生成，哪些是人工智能生成的，這背后就需要算法模型來去幫我們自動去檢測識別”。
本次論壇由國家互聯(lián)網(wǎng)信息辦公室發(fā)起，工業(yè)和信息化部、中國科學院、世界知識產(chǎn)權組織、中關村實驗室主辦，國家工業(yè)信息安全發(fā)展研究中心、中國科學院計算技術研究所、百度公司協(xié)辦，來自中央和國家機關、中央新聞網(wǎng)站、國內(nèi)外知名專家及互聯(lián)網(wǎng)企業(yè)等各界代表共120余位嘉賓參加論壇。
信息網(wǎng)絡傳播視聽節(jié)目許可證：120330032
中華人民共和國互聯(lián)網(wǎng)新聞信息服務許可證：45120170002
中華人民共和國互聯(lián)網(wǎng)出版許可證 （署）網(wǎng)出證（桂）字第020號
廣播電視節(jié)目制作經(jīng)營許可證編號：（桂）字第0230號
網(wǎng)警備案號：45010302000253
桂ICP備11003557 南寧新聞網(wǎng)版權所有
舉報電話：0771—5530647 郵箱：mail@nnnews.net
登錄
還沒賬號？立即注冊
點擊頭像快速登錄
請輸入驗證碼