2024年3月4日，全国网安标委发布《生成式人工智能服务安全基本要求》。该文件规定了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等，适用于服务提供者开展安全评估，提高安全水平。文件规定：训练语料是指所有直接作为模型训练输入的数据，包括预训练、优化训练过程中的输入数据；在语料来源安全要求方面，服务提供者应对来源语料进行安全评估、提高语料来源多样性、确保语料来源可追溯、阻断违法信息；在语料内容安全要求方面，服务提供者应过滤违法不良信息、履行知识产权保护义务、使用前取得个人信息主体同意或单独同意或具备其他合法性基础；在语料标注安全要求方面，服务提供者应从标注人员管理、标注规则明确、标注内容准确性、隔离存储安全性标注数据等方面履行安全义务。此外，文件还对服务提供者的模型安全要求、安全措施要求、安全评估要求、主要安全风险等进行了规定。
《生成式人工智能服务安全基本要求》全文详见：《生成式人工智能服务安全基本要求》发布