# 大模型安全评估服务 > 来源:http://uguardsec.com/ai/llm-security-assessment 自动化对抗测评 + 人工红队深度挖掘,覆盖提示越狱、数据泄露、内容违规、模型幻觉、供应链风险,满足《生成式人工智能服务管理暂行办法》安全自评估要求,量化风险,输出可落地整改方案。 [免费咨询](https://dlt.zoosnet3.com/LR/Chatpre.aspx?id=DLT47028932&lng=cn) ## 天磊卫士大模型安全评估全景能力架构图 ### 应用场景 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/scenario-text2text.png?v=1795141948)文生文 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/scenario-text2image.png?v=1795141948)文生图 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/scenario-image2image.png?v=1795141948)文图生图 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/scenario-text2av.png?v=1795141948)文生音视频 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/scenario-multimodal.png?v=1795141948)多模态大模型 ### 能力层 ![](http://uguardsec.com/static/home/llm-security-assessment/images/cap-header-1.webp?v=1795141946) 覆盖**31**类安全风险,**5**大评估模块 #### 全方位大模型安全评测 ![](http://uguardsec.com/static/home/llm-security-assessment/images/cap-header-2.webp?v=1795141946) **100+**检测子类,依据场景快速配置 #### 多模态大模型安全防护 ### 模型层 - **90%+** #### 文本安全检测 - 关键词识别/特征匹配 - 情感立场分析 - 深度语义分析 - 对抗攻防 - **90%+** #### 图像安全检测 - 图像内容分析 - 图像分割检索 - 特定人识别 - OCR识别 - **90%+** #### 音频安全检测 - ASR语音转文本 - 语义分析 - 声纹识别 - 背景音检测 - **90%+** #### 视频安全检测 - 关键帧检测 - 特定人识别 - 视频内容分析 - 视频匹配 ### 数据层 - 商业Logo库 - 特定人物库 - 特定声纹库 - 敏感标识 - 谣言库 - 敏感关键词库 - 有害违规库 - 图像黑白名单 - 敏感特征库 - 高质量测评集 ### 政策法规 - 违反社会主义核心价值观 - 歧视性内容 - 商业违法违规 - 侵犯他人合法权益 - 无法满足特定安全要求 - 《生成式人工智能服务管理暂行办法》 - 《生成式人工智能服务安全基本要求》 ## 天磊卫士大模型安全评估服务内容 ### 语料安全评估 Corpus safety assessment - #### ![](http://uguardsec.com/static/home/llm-security-assessment/images/item-source.png?v=1795141947)语料来源安全 确保语料来源合法、多样,并能追溯到源头,如 开源协议 授权合同 ... - #### ![](http://uguardsec.com/static/home/llm-security-assessment/images/item-content.png?v=1795141947)语料内容安全 利用关键词、人工抽检等方法检测违法不良信息,并确保语料遵守知识产权和个人信息保护规定 关键词 人工抽检 - #### ![](http://uguardsec.com/static/home/llm-security-assessment/images/item-label.png?v=1795141947)语料标注安全 检查标注人员的安全培训及职责分工,确保标注内容的 安全性 准确性 ### 内容安全评测 Content Security Review - #### ![](http://uguardsec.com/static/home/llm-security-assessment/images/item-data.png?v=1795141947)安全评测数据建设 构建包括关键词库和生成内容测试题库,涵盖广泛的安全风险 关键词库 测试题库 ... - #### ![](http://uguardsec.com/static/home/llm-security-assessment/images/item-shield.png?v=1795141947)内容生成安全评测 通过关键词抽检和人工抽检方法,确保生成内容的合格率满足标准 关键词抽检 人工抽检 - #### ![](http://uguardsec.com/static/home/llm-security-assessment/images/item-clipboard.png?v=1795141947)问题拒答评测 评估模型对不当请求的拒答能力,确保高拒答率对不适合的内容和低拒答率对合适的内容 高拒答率 低拒答率 ## 交付成果 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/deliver-report.png?v=1795141946) ### 大模型安全 评估总报告 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/deliver-risk.png?v=1795141946) ### 风险明细 清单 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/deliver-remediation.png?v=1795141946) ### 分场景整改 加固方案 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/deliver-records.png?v=1795141946) ### 测评原始记录、 测试样本归档材料 - ![](http://uguardsec.com/static/home/llm-security-assessment/images/deliver-qa.png?v=1795141946) ### 评估后线上答疑,关 键高危漏洞支持复测 验证 ## 天磊卫士服务流程 1. 01 ### 需求沟通 2. 02 ### 方案定制 3. 03 ### 测评实施 4. 04 ### 报告编制 5. 05 ### 复测验证 6. 06 ### 成果交付 ## 大模型安全评估常见FAQ - ### 大模型安全评估是不是备案强制第三方报告? 根据《生成式人工智能服务管理暂行办法》,服务主体需要**自行开展安全评估**并留存评估记录。天磊卫士作为第三方安全机构协助企业完成自评估,交付的全套测评记录、风险报告,可作为备案配套存档材料。 - ### 评估需要把模型权重给到你们吗? 支持多种接入方式。优先 API 黑盒测评,无需提供模型权重;私有化场景可协商本地对接,数据交互严格保密,签署保密协议。 - ### 模型评估会不会影响线上业务运行? 评估优先在测试环境开展。如必须线上测试,我们会控制请求频次与测试载荷,提前约定测试时间,保障业务稳定。 - ### 评估完成之后,可以帮忙做模型加固吗? 可以。我们提供配套咨询服务,针对评估发现的风险,提供提示防护、内容风控、RAG 安全加固、策略调优等方案,也可对接大模型安全防护产品。 - ### 不同行业的评估标准是否一样? 基础安全基线统一,金融、政务、医疗等高敏感行业会叠加行业专项测试集,增加隐私、业务合规场景测评项。