Mistral AI 开源多模态内容审核模型 Shieldstral

Mistral AI 开源多模态内容审核模型 Shieldstral，支持 12 种语言且单张 16GB GPU 可运行。模型在多模态审核领域达到 SOTA，性能媲美 7 倍规模竞品；创新性地将审核策略用自然语言问题形式输入，通过”是/否”问答机制输出校准安全分数，支持提示词分类、回答审核与毒性检测等任务。