今天小編分享的互聯網經驗：360周鴻祎：AI要產業化，也要解決安全問題，歡迎閲讀。
圖片來源：視覺中國
2024 年全國兩會之際，全國政協委員、360 集團創始人兼董事長周鴻祎将攜三份提案上會，分别關注數字安全公共服務基礎設施建設，大模型垂直化、產業化發展及通用大模型安全問題三大方向。
其中，周鴻祎圍繞鼓勵兼具 " 安全和 AI" 能力的企業提出相關建議，以此推動解決通用大模型安全問題，并提出應支持中國的大模型向垂直化、產業化方向發展。
周鴻祎稱，全球新一輪產業技術變革加速來臨，通用大模型作為人工智能發展的核心引擎，正引發一場全新的工業革命。
自 2022 年 11 月美國人工智能創業公司 OpenAI 發布 ChatGPT 以來，生成式 AI 理解人類世界、與人類對話甚至創造一個虛拟世界的能力驚豔了全世界，也已滲入人類的生產鏈條：ChatGPT 及尾随其後的一眾大模型支持的聊天機器人能與人類對話，文生圖模型如 Midjourney 等制作的圖片已經進入遊戲業、影視業、繪畫界，OpenAI 于今年年初發布的文生視頻模型 Sora 僅憑提示詞就生成的長達一分鍾多角度運鏡視頻，讓網友懷疑 " 現實已經不存在了 "。
但伴随人工智能的影響日益擴大，安全問題也愈發凸顯。 周鴻祎指出了解決通用大模型安全問題的必要性和緊迫性：一方面，AGI（通用人工智能）的進步速度超乎想象，OpenAI 系列模型工具發布後，AGI 加速實現，将引發更加復 雜的安全風險，主要包括技術安全、内容安全和人類安全三個方面。技術安全主要涉及大模型技術本身引發的安全問題， 如網絡、數據和生成内容的安全；内容安全則是對大模型的 控制、濫用、誤用和惡意應用等問題；而人類安全問題則是 大模型強大後帶來的安全可控問題。 另一方面，美國國防部加速與 OpenAI 在 " 網絡安全 " 等領網域展開合作，OpenAI 為此删除了 " 禁止用于軍事用途 " 條款，使得生成式 AI 軍事化的趨勢愈發顯著。通用大模型的發展，已不是單純的科技之争，更是國運之争，影響深遠。中國應盡早未雨綢缪，高度重視大模型安全，以避免在未來 的國際競争中受到限制。
對此，周鴻祎提出了相關建議：
第一，建議國家更加重視通用大模型安全問題，給予兼具 " 安全和 AI" 能力的企業專項扶持政策，更好發揮其解決通 用大模型安全問題的重要作用。通用大模型深刻影響經濟社會的方方面面，安全問題至關重要，而目前國内的大模型安 全問題不容樂觀。一方面，國内大模型企業不熟悉内容安全、 數據安全、科技倫理、網絡安全等人工智能帶來的安全挑戰； 另一方面，大部分安全公司又很少真正有能力深入大模型研究，上述兩方面原因導致國内大模型安全領網域成為整個產業 鏈的薄弱環節。為此建議國家有關部門采用揭榜挂帥等方式， 鼓勵并扶持兼具 " 安全和 AI" 能力的企業，給予專項扶持政策，支持企業擔起大模型安全重擔，聚焦攻堅，為解決通用 大模型安全問題提供堅實保障。
第二，建議國家研究制定保障通用大模型安全的标準體系， 推動通用大模型開展安全評測、接入安全服務，降低通用大 模型安全風險。現階段，将安全模塊作為大模型外挂的做法 已不可行，安全需要貫穿通用大模型的整個構建過程，确保 安全措施在系統的整個生命周期中得到充分考慮和實施。建 議國家在内容安全、數據安全、科技倫理、網絡安全等細分 領網域，牽頭研究制定安全檢測标準，在規範的安全标準體系 下，推動通用大模型的安全評測工作，通過接入安全服務來 保障大模型的安全。
第三，鼓勵政府、央國企與兼具 " 安全和 AI" 能力的企業在大模型安全領網域展開深入合作。政府、央國企對通用大模型的應用，具有更高的安全标準，不僅關涉商業安全，更關 涉國家安全。建議政府和央國企加強與兼具 " 安全和 AI" 能 力企業的合作，尤其針對被美制裁的企業，放寬與此類企業 的市場準入條件，在政策和招投标條件上，給予更多合作機 會，發揮此類企業在人工智能安全領網域的優勢作用，為國家安全貢獻力量。
藍鲸财經記者注意到，目前在國内的生成式人工智能治理方面，在《網絡安全法》《個人信息保護法》等法律法規基礎上，我國陸續出台《關于加強互聯網信息服務算法綜合治理的指導意見》和《互聯網信息服務算法推薦管理規定》等監管檔案。随着生成式 AI 的快速發展，我國迅速出台相關監管規定，如國家互聯網信息辦公室等部門出台《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等。2023 年 6 月，國務院辦公廳發布的《2023 年度立法工作計劃》已将人工智能法草案納入其中，關于人工智能的整體立法工作也已啓動。
另外，在中國的大模型產業的發展方向上，周鴻祎也在提案中表示，" 中美在人工智能領網域的競争，一方面是對抗 Open AI 的通用大模型基礎戰；另一方面是差異化、特色化的大模型應用戰。當前，中國在通用大模型核心技術上趕超美國還需要時間，但在大模型應用方面，2024 年是大模型應用場景元年，中國完全可以走出一條具有中國特色的大模型發展之路。在許多垂直領網域，其實不需要千億規模的大模型，百億大模型足夠賦能百行千業，中國發展大模型的一個重要方向應該是借助產業和場景的優勢，将大模型與業務流程、產品功能相結合，尋求多場景應用、垂直化和產業化的落地，助力加快形成新質生產力。"
對于大模型的垂直化方向發展，周鴻祎提出幾條建議：1、場景很重要，大模型在垂直領網域大有可為，建議政府、央國企率先提供更多應用場景，聚焦 " 小切口，大縱深 "，推動大模型垂直化、產業化落地；2、知識很重要，基于 " 暗知識 " 的垂直大模型能更好解決企業問題。建議鼓勵企業在定制 AI 前，做好知識管理，将企業大數據平台更新為企業知識平台。大模型的數據、知識只是人類知識的冰山一角，企業還有大量的 " 暗知識 "，如戰略規劃、產品設計圖等企業具有的獨特知識，只存在于特定企業中，在互聯上難以找到。建議鼓勵企業構建知識平台，将 " 暗知識 " 匯總起來，打造企業專屬知識庫，做好管理，在此基礎上，通過垂直訓練，深入企業級場景，滿足企業需求；3、業務融合很重要，建議鼓勵和引導企業将大模型與數字化業務系統深度結合，同業務流程相結合，充分發揮大模型價值。
" 暗知識 " 指行業企業的私有數據。今年 1 月，在獵豹移動發布企業私有大模型獵户星空之後的對談圓桌上，亞馬遜雲科技大中華區解決方案架構部總經理代聞表示，從企業私有化大模型來講，安全是第一位。對于企業而言，如果因信息泄漏導致企業出現問題，企業寧願選擇不做。比如，因為企業很多的财務數據、法務數據都非常敏感，規則不好、工具不行就有問題。所以，企業在私有安全方面看得很重，這也是企業私有化大模型在產業落地的必要性所在。
