全国政协委员、三六零创始人兼董事长周鸿祎:建议研究制定大模型安全标准体系,推进更多场景应用落地-北极星网

全国政协委员、三六零创始人兼董事长周鸿祎:建议研究制定大模型安全标准体系,推进更多场景应用落地

  2024年全国两会,全国政协委员、三六零创始人兼董事长周鸿祎的提案聚焦数字安全和AI大模型的发展。

  通用大模型的安全性,是周鸿祎提案中关注的重要方面。他认为,一方面,OpenAI系列模型工具发布后,AGI加速实现,将引发更加复杂的安全风险,主要包括技术安全、内容安全和人类安全三个方面;另一方面,生成式AI军事化的趋势愈发显著。

  为此,周鸿祎建议,国家要更加重视通用大模型安全问题,给予兼具“安全和AI”能力的企业专项扶持政策,更好发挥其解决通用大模型安全问题的重要作用;同时建议国家研究制定保障通用大模型安全的标准体系,推动通用大模型开展安全评测、接入安全服务,降低通用大模型安全风险。此外,周鸿祎还建议政府、央国企与兼具“安全和AI”能力的企业在大模型安全领域展开深入合作。

  周鸿祎认为,现阶段,将安全模块作为大模型外挂的做法已不可行,建议国家在内容安全、数据安全、科技伦理、网络安全等细分领域,牵头研究制定安全检测标准,在规范的安全标准体系下,推动通用大模型的安全评测工作,通过接入安全服务来保障大模型的安全。

  大模型应用是周鸿祎关注的另一个重要方面。2024年被业内视为大模型应用场景元年。在《关于深化人工智能多场景应用支持大模型向垂直化、产业化方向发展的提案》中,周鸿祎认为,百亿规模的大模型就足够赋能百行千业,中国发展大模型的一个重要方向应该是借助产业和场景的优势,将大模型与业务流程、产品功能相结合,寻求多场景应用、垂直化和产业化的落地,助力加快形成新质生产力。

  为此,周鸿祎提出“三个很重要”。首先,场景很重要,建议政府、央国企率先提供更多应用场景,聚焦“小切口、大纵深”,推动大模型垂直化、产业化落地。其次,知识很重要,基于“暗知识”的垂直大模型能更好解决企业问题,建议鼓励企业在定制AI前,做好知识管理,将企业大数据平台升级为企业知识平台。再次,业务融合很重要,建议鼓励和引导企业将大模型与数字化业务系统深度融合,同业务流程相结合,充分发挥大模型价值。

  在《关于全面建设安全云、推广数字安全云化服务的提案》中,周鸿祎提出,以“安全即服务”的理念,通过建设云化数字安全基础设施“安全云”,集中数字安全能力,以云服务的方式向各机关企事业单位及个人输出安全效果。

  具体建议包括三个方面:一是统筹建设数字安全公共服务基础设施,集中数字安全能力。二是改变重建设轻效果的思路,鼓励各单位购买数字安全云化服务,作为传统网络安全建设的升级路径。三是鼓励网络安全企业积极转型,以安全即服务的方式来为国家整体数字安全水平提升作出贡献,尤其是鼓励具备核心技术、被美国制裁的龙头企业发挥更大作用。