走进安全行业大模型
颁布功夫 2024-04-11在大模型出现之前，，以机械学习、、、深度学习、、、规定推理等为代表的人为智能技术已经宽泛利用于网络安全领域了。 。。那么为什么还必要大模型呢？？？
为什么必要大模型？？？
由于大模型不仅具备通用智能和知识，，还具备知识整合提取能力和逻辑思想能力。 。。梦想的大模型像是人类的助手（或者说副驾驶），，而不是一个可供查阅的工具书。 。。
以通过深度学习训练得到的专用小模型为例。 。。小模型的训练必要大量的标注数据，，并且只能解决单一问题。 。。相比之下，，大模型的通用性矫捷好多，，甚至只必要几条单一的样例，，就能具备新能力，，这就使得大模型有更宽泛的利用场景。 。。
OpenAI在2020年提出的缩放定律（Scaling Law）指出，，模型的最终机能重要与推算量，，模型参数量和数据巨细三者有关，，而与模型的具体结构（层数/深度/宽度）根基无关。 。。
而大模型相比于之前的小参数量说话模型，，在以上三个方面都做了巨大提升，，并显露出一些涌现能力（世界知识，，指令遵循，，逐步推理等）。 。。
通俗来讲，，基础大模型由宽泛的通用数据（如网页、、、百科、、、书籍等）训练得到，，它像是一个能够和你对话的百科全书，，相识却不精通各类知识，，同时具备肯定的逻辑思想能力，，而这些都是过往小模型很难做到的。 。。
截至2023年底，，国内已颁布的通用大模型超过了200个，，那么为什么还要打造面向特定领域或行业的行业大模型呢？？？
为什么必要行业大模型?
上文提到了梦想的大模型所具备的能力。 。。然而，，机能受限于缩放定律，，基础大模型现实利用起来却并没有设想中那么得心应手。 。。大模型使用通用语料库进行训练，，而安全行业的数据通常是特殊且有限的。 。。
这导致 LLM 不足安全有关数据和专业知识，，对特定安全问题的理解能力匮乏，，无法提供正确或深刻的专业诠释。 。。
钻研批注，，通用大模型在安全问题上天生答案的正确率多数不及50%，，对中文问题回覆的正确率更低。 。。下图展示的是分歧模型在网络安全问题集上回覆的正确率：
因而，，通过增量预训练（Continuous Pre-train，，CPT）等技术为大模型注入安全行业知识，，就成为了安全行业大模型利用的必要伎俩。 。。短缺这个步骤直接对后续安全工作做监督微调（Supervised Fine-tuning，，SFT），，大模型则或多或少会晤对知识匮乏的问题，，随即出现“幻觉”景象，，对不懂的问题做出郑重其事的回覆。 。。
早年面的描述能够看出，，同样都叫“大模型”，，但具体寓意和合用领域上是存在差距的。 。。那么大模型还有哪些档次划分呢？？？
L0-L2大模型分层架构
为了加快大模型落地过程，，可将大模型划分为L0基础大模型、、、L1行业大模型、、、L2利用大模型三个档次：
通俗来讲，，L0基础大模型像是学习所有科主张高中生，，L1行业大模型类似于选定专业的大学生，，L2利用大模型则是选定特定方向的钻研员。 。。这种架构的优势在于，，将大模型利用于业务的步骤流程化，，加快整体落地过程，，降降低地成本。 。。同时，，对于L0-L2档次的划分，，也让业务数据的沉淀越发有条理，，方便数据不休回流到大模型，，不休优化大模型智能水平。 。。
在我们关注的网络安全领域，，有了安全大模型后，，具体能够利用在哪些场景中，，为OG东方厅日常工作带来能力和效能的提升呢？？？
安全大模型的利用场景
安全大模型在L2层面拥有宽泛的利用场景。 。。安全大模型通常允许用户通过天然说话输入的方式实现安全运营的日常操作，，凭据用户输入，，按需挪用已有的小模型和产品职能，，实现巨细模型协同的智能算法系统。 。。
这种天然说话挪用职能�？？？榈姆绞�，，能够利用大模型的知识储蓄和理解推理能力，，为领域问题提供专业的解决规划。 。。同时，，对于已经有有关经验的安全专家，，则能够通过大模型提升通例分析工作的效能。 。。即“援手通常人成为专家，，援手专家提升效能”。 。。
下面列举一些常见的安全大模型利用场景：
利用场景1：安全运营
安全汇报：大模型往往能够在几分钟内汇总指定领域内的所有告警事务，，并且天生综合性安全汇报，，供安全专家查看。 。。
告警解读：实现对于安全事务的关键身分，，蕴含告警内容、、、事务类型、、、攻击手法、、、资产属性等进行专业分析和解读，，天生解读汇报，，辅助用户告警研判。 。。
告警溯源：对于特殊的告警，，安全专家能够通过大模型进前进一步溯源分析，，要求大模型凭据终端日志天生溯源图等。 。。
响应措置：基于事务信息和安全设备部署信息，，由大模型自动天生事务措置战术，，上报用户进去批改或确认，， 实现对攻击行为的急剧响应。 。。
利用场景2：知识整合
安全问答：通过构建安全知识库，，大模型能够回覆用户的安全问题。 。。用户能够查问各类网络安全、、、主机安全等方面的问题，，并从回覆中获取专业的安全信息和建议。 。。
利用场景3：代码治理
缝隙修复：大模型能够凭据缝隙分析了局，，天生补救步骤、、、自动执行复杂的风险缓解活动或在无需用户交互的情况下修补软件，，这大大加快了治理缝隙和提高组织安全性的速度。 。。
恶意剧本：大模型能够分析和诠释恶意剧本行为，，协助用户发现存在威胁的剧本。 。。它允许用户导入剧本并分析其是否存在恶意行为，，检测缓和解潜在威胁，，象征漏报和断根误报。 。。
利用场景4：合规监控
数据大屏：大模型能够自动天生这些数据大屏来监控组织数据的合规性，，能够援手安全专家轻松跟踪合规指标的进度并向审核员展示。 。。
合规修复：大模型能够通过合规性审计了局，，提供相应的修复建议，，援手企业达到监管尺度。 。。
持续更新：随着行业尺度的更新和治理机构更改其律例要求，，合规审计往往必要做出相应变动。 。。大模型能够急剧的跟进这些变动，，并提供领导建议。 。。
京公网安备11010802024551号