当前,ChatGPT以其丰富的知识与出色的自然语言交互能力,引起了现象级的关注。8月31日,中国首批大模型产品通过《生成式人工智能服务管理暂行办法》备案,可上线面向公众提供服务。今年以来,热度极高的大模型,一直是各家竞逐的赛道,呈现出“百模大战”的盛况。
近日,绿盟“风云卫”安全大模型、《安全行业大模型SecLLM技术白皮书》等对外发布。该安全行业垂直领域大模型,是基于海量安全专业知识训练,构建的一套覆盖安全运营、检测响应、攻防对抗、知识问答等多种场景的网络安全运营辅助决策系统。
绿盟科技创新研究院总经理刘文懋介绍,通用大语言模型LLM的通用知识语义、逻辑分析和交互决策这三个增强能力在安全领域发挥着重要作用。在网络安全行业需要以快制快、全面覆盖、专业深度,面向各类客户不同场景下的重大保障、安全运营及应急响应需求。
“毕竟我们不是专业的AI公司,不是从头重复造轮子,比如OpenAI做了ChatGPT,我们没必要再重新做一遍,已经有很多现成的通用成果可以用。”绿盟科技CTO叶晓虎认为,作为安全公司,从垂直行业应用角度来讲,安全垂直应用是安全公司相对特长的,非专业的安全公司想获取高质量安全专业语料知识很难,回到术业有专攻的角度,从垂直应用视角来看,全领域有自己的专业和相对独立的积累,这是做安全大模型的基础。
该大模型体现了六大优势——高质量安全数据集的增强、高效并行加速增量训练、下游任务高效微调、低算力推理加速、人机对齐安全管控和模型私域私密安全交互等。
回到实战对抗的角度,叶晓虎认为,要做到以场景为主,希望技术应用有对应的实战效果,要针对某一类具体场景,且要验证它确实具备解决这些问题的有效性。
在刘文懋看来,大模型要具有以下要素——算力、数据、模型。大模型的价值一是理解用户的意图,二是根据意图调用很多安全能力。
在安全智能化方面,绿盟科技发布“风云卫”安全大模型,基于海量安全专业知识训练,构建一套覆盖安全运营、检测响应、攻防对抗、知识问答等多种场景的网络安全运营辅助决策系统。
此外,从“场景牵引,技术驱动,生态协同”三个维度进行建设。应用AI实现安全行业工作范式重塑,通过大模型解决实战态势指挥调度、红蓝对抗辅助决策以及安全运营效能提升三大问题
“大模型核心竞争力,依旧是数据、算法、模型。此外,是人工智能的自适应可信,很多欺骗大模型做一些越狱,我们如何构建可信的人工智能,抵御对人工智能自身的攻击。在这方面,我们也做了很多研究积累。”刘文懋说。(李政葳)
来源:光明网