• 周鴻祎
• 安全
• AI

2024年全國兩會(huì)大幕開啟，全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎正式進(jìn)入履職的第七年。作為安全科技領(lǐng)域的委員代表，周鴻祎兩會(huì)提案關(guān)注通用大模型安全問題，建議制定通用大模型安全標(biāo)準(zhǔn)體系，鼓勵(lì)兼具“安全和AI”能力的企業(yè)解聚焦攻堅(jiān)，承擔(dān)重?fù)?dān)。

當(dāng)前，人工智能引領(lǐng)的全球新一輪科技革命和產(chǎn)業(yè)變革加速演進(jìn)，通用大模型作為推動(dòng)技術(shù)變革的核心，是時(shí)代發(fā)展的關(guān)鍵引擎，在國家的高度重視下，我國通用大模型發(fā)展迅速。然而，安全問題隨著技術(shù)的發(fā)展愈發(fā)凸顯。安全與發(fā)展是一體之兩翼，驅(qū)動(dòng)之雙輪，通用大模型的安全意義重大，關(guān)系到技術(shù)研發(fā)落地全產(chǎn)業(yè)鏈的安全，微小的安全問題便有可能引發(fā)系統(tǒng)性的安全風(fēng)險(xiǎn)，因此更需要國家和企業(yè)重點(diǎn)應(yīng)對(duì)和保障。

周鴻祎將通用人工智能技術(shù)引發(fā)的復(fù)雜安全風(fēng)險(xiǎn)分為技術(shù)安全、內(nèi)容安全和人類安全三個(gè)方面。其中，技術(shù)安全主要涉及大模型技術(shù)本身引發(fā)的安全問題，如網(wǎng)絡(luò)、數(shù)據(jù)和生成內(nèi)容的安全；內(nèi)容安全則是對(duì)大模型的控制、濫用、誤用和惡意應(yīng)用等問題；而人類安全問題則是大模型強(qiáng)大后帶來的安全可控問題。他在提案中特意加以說明，稱通用大模型的發(fā)展已不是單純的科技之爭(zhēng)，更是國運(yùn)之爭(zhēng)，影響深遠(yuǎn)，中國應(yīng)盡早未雨綢繆，重視大模型安全。

為此，周鴻祎提出三點(diǎn)建議。首先，他指出目前國內(nèi)的大模型安全問題不容樂觀，建議有關(guān)部門采用揭榜掛帥等方式，鼓勵(lì)并扶持兼具“安全和AI”能力的企業(yè)，更好發(fā)揮其解決通用大模型安全問題的重要作用。

其次，周鴻祎認(rèn)為，現(xiàn)階段將安全模塊作為大模型外掛的做法已不可行，安全需要貫穿通用大模型的整個(gè)構(gòu)建過程，確保安全措施在系統(tǒng)的整個(gè)生命周期中得到充分考慮和實(shí)施。建議國家研究制定保障通用大模型安全的標(biāo)準(zhǔn)體系，推動(dòng)通用大模型開展安全評(píng)測(cè)、接入安全服務(wù)，降低通用大模型安全風(fēng)險(xiǎn)。

最后，相比民營(yíng)企業(yè)以及其他各類組織，政府、央國企對(duì)通用大模型的應(yīng)用具有更高的安全標(biāo)準(zhǔn)，不僅關(guān)涉商業(yè)安全，更關(guān)涉國家安全。因此，他建議政府、央國企與兼具“安全和AI”能力的企業(yè)在大模型安全領(lǐng)域展開深入合作，發(fā)揮此類企業(yè)在人工智能安全領(lǐng)域的優(yōu)勢(shì)作用，為國家安全貢獻(xiàn)力量。