• 周鴻祎
• 安全
• AI

2024年全國兩會大幕開啟，全國政協委員、360集團創始人周鴻祎正式進入履職的第七年。作為安全科技領域的委員代表，周鴻祎兩會提案關注通用大模型安全問題，建議制定通用大模型安全標準體系，鼓勵兼具“安全和AI”能力的企業解聚焦攻堅，承擔重擔。

當前，人工智能引領的全球新一輪科技革命和產業變革加速演進，通用大模型作為推動技術變革的核心，是時代發展的關鍵引擎，在國家的高度重視下，我國通用大模型發展迅速。然而，安全問題隨著技術的發展愈發凸顯。安全與發展是一體之兩翼，驅動之雙輪，通用大模型的安全意義重大，關系到技術研發落地全產業鏈的安全，微小的安全問題便有可能引發系統性的安全風險，因此更需要國家和企業重點應對和保障。

周鴻祎將通用人工智能技術引發的復雜安全風險分為技術安全、內容安全和人類安全三個方面。其中，技術安全主要涉及大模型技術本身引發的安全問題，如網絡、數據和生成內容的安全；內容安全則是對大模型的控制、濫用、誤用和惡意應用等問題；而人類安全問題則是大模型強大后帶來的安全可控問題。他在提案中特意加以說明，稱通用大模型的發展已不是單純的科技之爭，更是國運之爭，影響深遠，中國應盡早未雨綢繆，重視大模型安全。

為此，周鴻祎提出三點建議。首先，他指出目前國內的大模型安全問題不容樂觀，建議有關部門采用揭榜掛帥等方式，鼓勵并扶持兼具“安全和AI”能力的企業，更好發揮其解決通用大模型安全問題的重要作用。

其次，周鴻祎認為，現階段將安全模塊作為大模型外掛的做法已不可行，安全需要貫穿通用大模型的整個構建過程，確保安全措施在系統的整個生命周期中得到充分考慮和實施。建議國家研究制定保障通用大模型安全的標準體系，推動通用大模型開展安全評測、接入安全服務，降低通用大模型安全風險。

最后，相比民營企業以及其他各類組織，政府、央國企對通用大模型的應用具有更高的安全標準，不僅關涉商業安全，更關涉國家安全。因此，他建議政府、央國企與兼具“安全和AI”能力的企業在大模型安全領域展開深入合作，發揮此類企業在人工智能安全領域的優勢作用，為國家安全貢獻力量。