21世紀經濟報道記者雷晨 北京報道
4月26日，2024中關村論壇――數據安全治理與發展論壇在中關村國際創新中心舉辦。
21世紀經濟報道記者了解到，本屆論壇緊跟數字經濟發展特別是人工智能演進浪潮，眾多專家學者交流前沿理念、分享研究成果，暢談前沿領域數據安全治理話題。
在圓桌論壇環節，清華大學蘇世民書院院長、人工智能國際治理研究院院長薛瀾，與來自清華大學、劍橋大學、香港科技大學、IBM、華為、奇安信的數據安全專家，就生成式人工智能數據安全治理熱點問題進行探討。
會上，奇安信（688561.SH）副總裁劉前偉表示，不管是作為大模型的使用者還是開發者，都要解決隱私安全問題、商業機密甚至涉及國家安全的問題。
他認為，要解決大模型的相關安全問題，要用AI對抗AI，用魔法打敗魔法。
據其介紹，奇安信身兼兩種不同的角色，既是一個行業模型的開發者，也是一些通用模型的使用者。
“奇安信作為國內最大的一家網絡安全公司，我們有自己的安全大模型，也有安全大模型的機器人?！?/strong>劉前偉表示，行業大模型對于數據集的質量要求非常高，數據本身的安全值得關注。
他還提到，標注的數據也不能出錯，這是確保行業大模型質量最重要的一個保障。
“做行業大模型的廠商都很擔心，語料本身會不會被別人竊取？有沒有一些漏洞導致這些核心數據資產被泄露出去？”他提到。
此外，劉前偉還考慮到出售給客戶的安全大模型會被別人“拿走”，因此，他認為“需要對大模型本身進行加密等處理”。
從通用大模型使用者的角度來看，他認為，“AI是非常重要的生產力，但當我去問AI一些問題的時候，我們會不會把自己商業的機密、個人的信息會泄露出來？這是一個很大的問題”。
推薦閱讀：
