OG东方厅MAF筑牢AI安全防线：Probllama缝隙与ComfyUI投毒事务揭示AI时期攻防新风险

颁布功夫 2025-03-05

“让每一句人机对话都安全可信，，，让每一次智能交互都风险可控——这是属于AI时期的安全承诺。。 —— OG东方厅”


媒介：


当前AI技术飞速发展，，，大模型已宽泛利用于各个领域，，，为企业和社会带来巨大价值。。然而，，，随着DeepSeek等开源大模型遍及，，，大模型软件供给链的安全问题逐步凸显。。Probllama缝隙和ComfyUI投毒事务敲响了安全警钟，，，本文将深刻分解这些事务背后的攻防风险，，，揭示大模型供给链面对的挑战，，，并介绍OG东方厅MAF若何构建安全防线，，，守护大模型利用安全。。


大模型软件供给链安全：AI时期的攻防新战场


随着DeepSeek等开源大模型的遍及，，，企业急剧构建AI服务的能力显著提升，，，但大模型供给链的复杂性也催生了新的安全风险。。如今，，，一条涵盖模型训练、部署以及利用的全新供给链已然成型，，，但其所潜藏的安全风险却被人们低估。。


作为一款开源AI大模型部署平台，，，Ollama凭借其“傻瓜式”的便捷操作，，，在GitHub上收成了超过十三万的星标，，，并且Docker拉取次数达到数千万次，，，成为了简化AI模型打包与部署的首选工具。。独一无二，，，ComfyUI作为大模型图像天生领域最热点的框架之一，，，凭借其壮大且矫捷的节点化流程节制职能，，，在GitHub上也斩获了近七万星标，，，深受开发者的青睐。。


然而，，，这类新兴技术和组件的迅速遍及也露出出了显著的安全隐患。。


作为算力密集型利用的主题载体，，，大模型系统不仅承载着千亿级参数的复杂运算，，，更因其部署环境普遍配置高机能GPU集群，，，已成为攻击者眼中的高价值指标。。凭据资产测绘数据显示，，，当前露出在公网的Ollama服务器中，，，约89%都未执行基础接见节制措施。。


这种"算力裸奔"景象直接催生了新型攻击范式：攻击者可通过劫持未授权API接口，，，将大模型服务器转化为加密钱币挖矿节点；；或利用系统缝隙提议散布式回绝服务攻击（DDoS），，，单次恶意推理要求即可亏损价值数万美元的算力资源。。更严格的是，，，被攻下的模型服务器可能成为攻击跳板，，，通过横向渗入威胁企业主题数据资产。。


近期曝光的Probllama缝隙与ComfyUI投毒事务，，，便揭示了传统安全缺点在AI领域的延长：


? 案例一：Probllama 缝隙


2024年6月，，，WizResearch披露的CVE-2024-37032（Probllama）缝隙显示，，，攻击者可借助蹊径遍历缝隙，，，向Ollama服务器发送恶意HTTP要求，，，进而覆盖系统文件，，，最终实现远程代码执行（RCE）。。更为严格的是，，，在默认配置下，，，Ollama的Docker版本会以root权限运行，，，并且将API端口直接露出大公网。。这些露出在公网的服务器不仅面对远程代码执行风险，，，更可能成为算力劫持的跳板——某能源企业曾遭逢攻击者利用CVE-2024-37032缝隙植入门罗币挖矿法式，，，导致单台8卡A100服务器逐日产生超300美元电费损失。。


Probllama缝隙的关键利用链如下：


1.蹊径遍历实现肆意文件写入，，，劫持动态链接库加载


攻击者通过恶意registry拉取模型时，，，在digest字段注入蹊径遍历载荷（如../../../../etc/ld.so.preload），，，覆盖系统关键文件，，，强礼服务器加载攻击者预埋的恶意共享库；；


2.API触发代码执行


挪用Ollama的/api/chat接口时，，，新过程会自动加载恶意库，，，在模型推理过程中加载恶意代码，，，最终实现对服务器的远程节制。。


? 案例二：ComfyUI 投毒事务


据CVE官方披露，，，ComfyUI汗青上存在多种类型的缝隙，，，蕴含肆意文件读取缝隙、远程代码执行缝隙、存储XSS缝隙等，，，有关缝隙已被分配了CVE编号，，，如CVE-2024-10099、CVE-2024-21574等。。此外，，，ComfyUI还存在默认无身份鉴权机制的"个性"，，，攻击者能够直接接见部门公网部署的ComfyUI后盾。。


在这种场景下，，，攻击者能够进行投毒攻击，，，其攻击步骤如下：


1.未授权接见ComfyUI后盾


攻击者利用ComfyUI的谬误配置，，，绕过认证机制，，，直接接见ComfyUI后盾治理界面；；


2.滥用模型加载职能


攻击者通过ComfyUI后盾的模型加载职能，，，从Hugging Face平台下载并装置预先上传的恶意模型文件；；


3.Pickle反序列化缝隙利用


在模型加载过程中，，，ComfyUI使用Pickle进行反序列化操作，，，攻击者利用此逻辑执行恶意代码，，，从而节制受害者机械。。


此类事务揭示了大模型供给链的共性挑战：


1.认证机制缺失


无数工具默认无身份验证，，，依赖用户自行配置反向代理等防护措施；；


2.组件安全失控


新兴工具代码库尚不成熟，，，易出现蹊径遍历、代码注入等经典缝隙；；如上述的Probllama缝隙，，，则重要源于Ollama框架的蹊径遍历缺点，，，允许攻击者通过恶意模型文件篡改系统配置，，，最终实现远程代码执行。。其性质是传统软件供给链缝隙在AI基础设施中的再现；；


3.模型投毒风险


ComfyUI攻击事务中，，，攻击者利用无鉴权的后盾和pickle反序列化缝隙，，，通过加载社区的恶意模型文件植入远控木马。。这露出了AI框架对第三方模型文件的盲目信赖问题；；


4.传统缝隙新场景


Python的pickle模�？�、Keras的Lambda层等本用于提升开发效能的组件，，，却因不足安全设计成为AI系统的“木马通道”；；


5.算力资产露出


企业往往将大模型服务器视为通常Web服务器治理，，，忽略其GPU算力的特殊价值。。攻击者通过自动化剧本扫描11434等特点端口，，，可急剧定位存在Ollama未授权接见缝隙的"高价值指标"，，，形成新型的算力黑产攻击链。。


值妥贴心的是，，，这些缝隙的利用无需复杂AI知识，，，仅依赖传统渗入技术即可实现，，，凸显AI供给链中传统安全缝隙的“放大效应”。。


OG东方厅MAF：构建大模型安全的纵深防线


面对大模型领域中的复合型威胁，，，传统安全规划已显力不从心。。作为WAF/WAAP技术的天然演进，，，OG东方厅推出的天清MAF大模型利用防火墙继承了自身在利用安全领域的技术积淀，，，专为AI时期量身定制，，，成为守护大模型服务的“第一道城墙”。。


? MAF实战拦截示例：

Probllama缝隙/未授权算力滥用风险自动化防御


针对CVE-2024-37032的蹊径遍历攻击，，，以及在攻击环节中，，，服务端的未授权接见配置可能带来的算力滥用甚至Dos风险，，，OG东方厅MAF通过API流量深度解析与智能无界消费鉴别算法可实现精准拦截：


1.蹊径遍历载荷实时阻断


MAF内置的AI组件缝隙特点库预置Ollama蹊径遍历攻击指纹，，，通过动态解析registry服务器响应的digest字段，，，结合高低文语义分析（极度规蹊径层级、非尺度字符编码），，，在攻击载荷达到Ollama服务前即实现拦截。。


2.API 权限基线管控


针对Ollama默认无鉴权的高危个性，，，MAF提供动态身份验证加强职能：


? 强制执行API挪用方身份校验（如JWT令牌/IP白名单），，，阻断未授权接见/api/chat、/api/pull等敏感接口；；

? 精密化节制模型操作权限，，，不容非治理账号执行registry拉取等高风险作为。。


3.算力滥用行为防御


通过AI推理资源亏损基线建模，，，MAF可鉴别异常模型挪用行为：


? 实时监控API要求频率，，，对单客户端短功夫内的屡次推理要求行为自动限速；；

? 实时监控API响应耗时及响应内容，，，对单客户端异常的长耗时响应进行阻断或限速。。


MAF默认防护模板已集成上述规定，，，用户无需调整业务代码即可获得自适应防护。。


解构大模型场景风险，，，筑建四维主题防护能力


在大模型技术深度融入主题业务的今天，，，安全威胁出现出三维叠加特点：其一，，，模型服务承载着企业知识资产与用户隐衷数据，，，其高价值属性使其成为攻击者的首要指标；；其二，，，Ollama蹊径遍历等传统缝隙在AI组件中的重现，，，使得攻击成本大为降低；；其三，，，提醒词注入、知识库传染等新型攻击范式持续涌现。。构建覆盖"输入-处置-输出"全链路的一体化防护系统，，，已成为AI安全建设的刚性需要。。


1.匹敌AI原生新型攻击：智能语义防御中枢


针对大模型交互个性，，，MAF构建的多层检测矩阵：规定匹配、语义分析、AI检测算法，，，将大模型特有攻击拦截在推理环节之前，，，确保输入内容严格切合安全及监管战术。。


2.阻断供给链缝隙传导：虚构补丁防御网


基于WAAP（Web利用和API防护）技术堆集，，，MAF内置针对AI组件（如Ollama、ComfyUI）的虚构补丁规定，，，可实时拦截蹊径遍历、号令注入等传统攻击，，，阻断类似Probllama缝隙的利用链，，，在无需批改业务代码的情况下形成缝隙免疫能力，，，预防供给链缝隙影响业务主体的保密性、齐全性与可用性。。


3.守护服务不变性：智能流量洗濯引擎


面对新型DDoS攻击（如通过GPT接口提议的高频问答耗尽GPU资源），，，MAF选取多维度防护战术：基于用户行为基线执行动态QPS节制、通过客户端特点鉴别阻断自动化BOT流量、智能高资源占用响应鉴别，，，实时拦截异常推理要求，，，保险API服务高可用性。。


4.构建合规输出防线：内容安全过滤器


MAF搭载敏感信息鉴别引擎，，，支持50+种隐衷数据类型实时脱敏（如身份证/银行卡号�：�。同时通过多模态内容审查，，，拦截政治敏感、虚伪信息等违规输出，，，内置的行业合规模板可满足金融、医疗等场景的差距化监管要求。。


从WAF到MAF：技术底蕴与高客户价值


作为国内WAF领域的领军者，，，OG东方厅在利用层安全领域深耕多年，，，其WAF/WAAP产品已覆盖API安全、Bot治理等扩大场景。。MAF的推出标志取安全防护从“以Web为中心”向“以模型交互为中心”的范式转移。。与仅依赖模型内生安全机制（如RLHF训练）分歧，，，MAF通过外挂式部署，，，在不影响模型机能的前提下，，，提供独立于业务逻辑的安全天堑，，，尤其适配企业混合云、边缘推算等复杂环境，，，并针对大模型个性进行三大升级：


1.多范式检测融合：结合规定匹配（第二范式）、大数据分析（第四范式）与大模型推理（第五范式），，，实现威胁检测精度与效能的双重提升；；


2.矫捷部署适配：支持云端、边缘、本地环境，，，无缝覆盖DeepSeek等模型的多样化业务场景；；


3.外挂式轻量防护：无需与模型深度耦合，，，即可提供“无侵入”安全加固，，，对大模型利用威胁进行全链路的一体化覆盖，，，降低企业部署成本。。


随着多模态大模型与边缘推算的遍及，，，MAF将持续迭代：


1.AI匹敌AI：利用大模型分析攻击模式，，，动态优化防御战术；；


2.平行仿真防御：构建虚构环境仿照攻击，，，提前预判未知威胁；；


3.机能突破：优化时延与吞吐量，，，适配高实时性推理场景。。


OG东方厅MAF凭借深厚的技术堆集与前瞻性设计，，，不仅为DeepSeek等国产模型提供坚实防护，，，更开创了“大模型利用防火墙”新赛道。。上述两个案例的启迪在于，，，大模型安全并非孤立赛道，，，而是传统安全与AI个性的深度融合。。MAF通过继承WAF/WAAP的技术基因，，，将利用安全能力扩大至大模型领域，，，为企业应对“新旧交错”的威胁提供了一体化解决规划。。随着AI成为业务主题入口，，，MAF或将重塑下一代利用防火墙的行业尺度，，，推动AI基础设施从“可用”向“可信”演进。。


AI的海潮不成逆转，，，但安全能够防患未然。。OG东方厅MAF正以“传统安全基因+AI原生能力”的双重优势，，，护航中国企业驶向智能时期的辽阔蓝�！！！�。