大模型安全评估服务

自动化对抗测评 + 人工红队深度挖掘,覆盖提示越狱、数据泄露、内容违规、模型幻觉、供应链风险,满足《生成式人工智能服务管理暂行办法》安全自评估要求,量化风险,输出可落地整改方案。

免费咨询

天磊卫士大模型安全评估全景能力架构图

应用场景

  • 文生文
  • 文生图
  • 文图生图
  • 文生音视频
  • 多模态大模型

能力层

覆盖31类安全风险,5大评估模块

全方位大模型安全评测

100+检测子类,依据场景快速配置

多模态大模型安全防护

模型层

  • 90%+

    文本安全检测

    • 关键词识别/特征匹配
    • 情感立场分析
    • 深度语义分析
    • 对抗攻防
  • 90%+

    图像安全检测

    • 图像内容分析
    • 图像分割检索
    • 特定人识别
    • OCR识别
  • 90%+

    音频安全检测

    • ASR语音转文本
    • 语义分析
    • 声纹识别
    • 背景音检测
  • 90%+

    视频安全检测

    • 关键帧检测
    • 特定人识别
    • 视频内容分析
    • 视频匹配

数据层

  • 商业Logo库
  • 特定人物库
  • 特定声纹库
  • 敏感标识
  • 谣言库
  • 敏感关键词库
  • 有害违规库
  • 图像黑白名单
  • 敏感特征库
  • 高质量测评集

政策法规

  • 违反社会主义核心价值观
  • 歧视性内容
  • 商业违法违规
  • 侵犯他人合法权益
  • 无法满足特定安全要求
  • 《生成式人工智能服务管理暂行办法》
  • 《生成式人工智能服务安全基本要求》

天磊卫士大模型安全评估服务内容

语料安全评估

Corpus safety assessment

  • 语料来源安全

    确保语料来源合法、多样,并能追溯到源头,如

    开源协议 授权合同 ...
  • 语料内容安全

    利用关键词、人工抽检等方法检测违法不良信息,并确保语料遵守知识产权和个人信息保护规定

    关键词 人工抽检
  • 语料标注安全

    检查标注人员的安全培训及职责分工,确保标注内容的

    安全性 准确性

内容安全评测

Content Security Review

  • 安全评测数据建设

    构建包括关键词库和生成内容测试题库,涵盖广泛的安全风险

    关键词库 测试题库 ...
  • 内容生成安全评测

    通过关键词抽检和人工抽检方法,确保生成内容的合格率满足标准

    关键词抽检 人工抽检
  • 问题拒答评测

    评估模型对不当请求的拒答能力,确保高拒答率对不适合的内容和低拒答率对合适的内容

    高拒答率 低拒答率

交付成果

  • 大模型安全
    评估总报告

  • 风险明细
    清单

  • 分场景整改
    加固方案

  • 测评原始记录、
    测试样本归档材料

  • 评估后线上答疑,关
    键高危漏洞支持复测
    验证

天磊卫士服务流程

  1. 01

    需求沟通

  2. 02

    方案定制

  3. 03

    测评实施

  4. 04

    报告编制

  5. 05

    复测验证

  6. 06

    成果交付

大模型安全评估常见FAQ

  • 大模型安全评估是不是备案强制第三方报告?

    根据《生成式人工智能服务管理暂行办法》,服务主体需要**自行开展安全评估**并留存评估记录。天磊卫士作为第三方安全机构协助企业完成自评估,交付的全套测评记录、风险报告,可作为备案配套存档材料。
  • 评估需要把模型权重给到你们吗?

    支持多种接入方式。优先 API 黑盒测评,无需提供模型权重;私有化场景可协商本地对接,数据交互严格保密,签署保密协议。
  • 模型评估会不会影响线上业务运行?

    评估优先在测试环境开展。如必须线上测试,我们会控制请求频次与测试载荷,提前约定测试时间,保障业务稳定。
  • 评估完成之后,可以帮忙做模型加固吗?

    可以。我们提供配套咨询服务,针对评估发现的风险,提供提示防护、内容风控、RAG 安全加固、策略调优等方案,也可对接大模型安全防护产品。
  • 不同行业的评估标准是否一样?

    基础安全基线统一,金融、政务、医疗等高敏感行业会叠加行业专项测试集,增加隐私、业务合规场景测评项。
0.045344s