国家市场监督管理总局、国家标准化管理委员会发布了《生成式人工智能服务安全基本要求》(GB/T 45654-2025),将于 11 月 1 日实施。以下是关于 2025 年生成式 AI 备案新规中语料安全与模型输出合规要点的解读:
语料安全要点
语料来源安全 :
采集前评估 :在采集特定来源语料前,提供者需对该来源语料进行安全评估,若语料内容中含违法不良信息超过 5%,则不应采集该来源语料。
采集后核验 :采集后,应对所采集的该来源语料进行核验,含违法不良信息情况超过 5% 的,不应使用该来源语料进行训练。
搭配多样性 :应提高语料来源的多样性,对每一种语言的语料以及每一种类型的语料,均应有多个语料来源,并合理搭配境内外来源语料。
可追溯性 :使用开源语料时,应具有该语料来源的开源许可协议或相关授权文件;使用自采语料时,应具有采集记录,避免采集他人已明确不可采集的语料;使用商业语料时,应有具备法律效力的交易合同、合作协议等,并对交易方或合作方所提供语料、承诺、材料进行审核。
语料内容安全 :
过滤违法不良信息 :服务提供者应采取关键词、分类模型、人工抽检等方式,过滤语料中的违法不良信息。
知识产权保护 :设置知识产权负责人,建立管理策略,对语料中的知识产权侵权风险进行识别,不应使用有侵权问题的语料进行训练,并应建立知识产权问题的投诉举报渠道。
个人信息保护 :使用包含个人信息的语料时,应获得个人信息主体的授权同意,或满足其他合法使用条件。对于敏感个人信息,则需取得单独同意。
语料标注安全 :
人员管理与培训 :应对标注人员进行安全培训、考核、划分,并指定标注的规则。
抽检与隔离存储 :应当对标注语料进行抽检,且安全性标注数据需隔离存储。
模型输出合规要点
内容安全性 :
生成内容审核 :服务提供者需确保模型生成的内容符合法律法规要求,避免生成违法、不良信息。应建立实时检测使用者输入信息的机制,对生成内容进行常态化监测,一旦发现违法有害信息,及时停止传输并采取消除等处置措施。
安全评估与备案 :如需基于第三方基础模型提供服务,应使用已经主管部门备案的基础模型。生成或者编辑人脸、人声等生物识别信息,或者生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的,应当依法自行或者委托机构开展安全评估。
准确性与可靠性 :
技术优化 :采取技术措施提高生成内容响应使用者输入意图的能力,减少错误内容,确保生成内容的准确性及可靠性,提高生成内容对使用者的帮助作用。
常态化测评与优化 :通过针对性的指令微调、强化学习等方式优化模型,确保模型生成内容安全,并建立常态化监测测评手段,及时处置监测测评中发现的问题。
详情请联系页面电话号码,需要代办联系 奥尔赛斯商服
OSC奥尔赛斯商服,专注企业境外投资服务!让跨境变得简单,助力企业全球化发展。
我们是一家集境外投资咨询、ODI备案服务、项目管理于一体的综合性商务服务公司。我们深知境外投资对于企业的重要性,因此致力于为客户提供全方位、一站式的服务。
境外投资备案、ODI备案、企业境外投资、ODI备案登记、新设ODI备案登记、并购ODI备案、增资ODI备案、主体划转ODI备案、企业境外投资证书、境外投资项目备案通知书、37号文登记、ODI业务登记凭证、FDI业务登记凭证、算法备案、大模型备案
大模型备案证书