覆盖31类安全风险,5大评估模块
自动化对抗测评 + 人工红队深度挖掘,覆盖提示越狱、数据泄露、内容违规、模型幻觉、供应链风险,满足《生成式人工智能服务管理暂行办法》安全自评估要求,量化风险,输出可落地整改方案。
免费咨询
覆盖31类安全风险,5大评估模块
100+检测子类,依据场景快速配置
Corpus safety assessment
确保语料来源合法、多样,并能追溯到源头,如
利用关键词、人工抽检等方法检测违法不良信息,并确保语料遵守知识产权和个人信息保护规定
检查标注人员的安全培训及职责分工,确保标注内容的
Content Security Review
构建包括关键词库和生成内容测试题库,涵盖广泛的安全风险
通过关键词抽检和人工抽检方法,确保生成内容的合格率满足标准
评估模型对不当请求的拒答能力,确保高拒答率对不适合的内容和低拒答率对合适的内容