← 返回情报列表**工具组合**:新举措包括检测CSAM的图像分类器、防止用户创建或访问儿童性化内容的警告与临时封禁、面向开发者的新指南,以及供执法部门使用的工具集。 **分类器能力**:可检测包括AI生成在内的CSAM图像,对未见过的图像识别虐待视觉特征并打分,为审核人员提供方向性提示;OpenAI通过API向部分企业免费开放。 **合作方**:分类器与NCMEC联合开发,并与Tech Coalition和ROOST合作共享工具访问。 **测试数据**:早期合作测试中,分类器在检出虐童图像数量不变的情况下,标记图像减少48%,且被标记图像为虐待图像的可能性翻倍。 **ChatGPT措施**:向试图生成儿童性化内容的用户弹出警告、引导至专门支持服务,并暂停账户24小时。
📌 2026-11-17·TechCrunch AI
OpenAI发布新图像分类器与ChatGPT警告机制,打击儿童性虐待材料
#OpenAI#内容安全#儿童保护