引 言
2022年年初，联合国教科文组织出版了《人工智能伦理问题建议书》。建议书称：“人工智能系统引发了新型伦理问题，包括但不限于其对决策、就业和劳动、社交、卫生保健、教育、媒体、信息获取、数字鸿沟、个人数据和消费者保护、环境、民主、法治、安全和治安、双重用途、人权和基本自由（包括表达自由、隐私和非歧视）的影响。此外，人工智能算法可能复制和加深现有的偏见，从而加剧已有的各种形式歧视、偏见和成见，由此产生新的伦理挑战。”
“从个人的角度来看，人工智能的应用还可能会侵犯人格尊严。比如算法所引发的歧视风险，还包括公民的隐私和个人信息泄露的风险。人工智能也可能引发劳动者权益方面的争议，引发劳动者的‘饭碗焦虑’。” 浙江理工大学数据法治研究院副院长郭兵说，人工智能甚至还可能危及个人的生命与健康。
一、形成我国AI监管的三足鼎立之势
随着2022年底ChatGPT的横空出世，和2023年8月底百度文心一言上市，生成式人工智能应用软件多点爆发，各国（区域）立法机构与执法机构对生成式AI的监管大戏也随之登台。欧盟的EU AI Act已经箭在弦上，我国也将《人工智能法》纳入立法规划，美国也在快马加鞭。从各国对于人工智能监管的积极探索和实践来看，算法透明度和分类分级是两大共同关注的核心议题。
我国的正式法律出台之前，七大部委联合制定颁布的《生成式人工智能服务管理暂行办法》（以下简称《办法》）于2023年8月15日正式施行，这是我国首个针对生成式AI行业的规章，对于维护各方合法权益、加强行业治理和监管具有重要里程碑意义。
《办法》与《互联网信息服务深度合成管理规定》与《互联网信息服务算法推荐管理规定》形成了我国AI监管的三足鼎立之势。当然，正在征求意见中的《科技伦理审查办法（试行）》下一步也可能扮演重要角色。我国关于人工智能与算法的监管已经初具雏形。《办法》与《互联网信息服务深度合成管理规定》中的标识制度、《互联网信息服务算法推荐管理规定》中的算法备案制度形成联动。由于《办法》仅适用于面向公众的场景，不可避免地具有舆论属性或社会动员能力，需要完成算法备案。
这三项规章与更上位的《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》共同构成了“前《人工智能法》时代”算法与人工智能的监管框架。
二 《办法》透露的政策亮点
（一）明确了以发展和安全并重、促进创新和依法治理相结合的原则
《办法》的立法和行业监管者秉持了多年来高层对互联网领域创新的一贯包容和支持态度。除了把《科技进步促进法》作为本《办法》立法的上位法依据外，对比当初的征求意见稿和最终的成稿，定稿更显其宽松尺度。对生成式人工智能服务提供者在企业发展与满足合规义务之间留出了缓冲地带，充分体现了立法的谦抑性和对创新的鼓励。
比如，对企业训练数据真实性、准确性的控制义务确定为尽职性的努力承诺，而非初稿中超越现实情况的硬性命令，大大降低了企业因难以核实全部训练数据真实性、准确性而被迫违法的风险（第七条）；考虑到提供者对使用者生成内容的有限控制能力，删除了禁止提供者生成歧视性内容的规定。另外，也允许提供者可以通过服务协议方式教育、监督生成式人工智能服务使用者的合法使用，控制并合理转嫁合规风险（第九条）。再如，对提供者一旦发现网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件也由原来的必须暂停或终止服务修改为可以依法依约灵活采取警示、限制功能，暂停或终止服务等多种措施，给予提供者更大的合规解决空间（第十四条）。
（二）明确了以行业监管为主要模式的监管态势
《数据安全法》提出了对数据进行分行业监管的要求。这次《办法》更加突出行业监管的特性，明确提出人工智能相关的IT企业应建立生成式人工智能服务的内部监管机制，确保其服务符合相关法规和道德标准。对可能产生虚假信息或误导用户的结果，应设立专门的审核机制。如第十六条规定，网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。这意味着，此后对于生成式人工智能的监管将以行业为线，逐步呈现差异化和针对性。
一方面，这种行业监管模式符合生成式人工智能的强技术属性，也有利于各行业为生成式人工智能服务制定更合理的监管标准和措施，既能充分发挥生成式人工智能服务的经济价值，又能有效防范合规风险。如新闻业如何防止人工智能生成、传播虚假新闻是重要监管目标；而对于金融行业如何保证其对用户背景和画像的客观性和公正性，以及如何应对系统遭受攻击时对业务连续性的影响则更为紧迫。另一方面，通过行业监管的方式，要求各职能部门更加精准地理解和管理生成式人工智能服务，为不同行业制定具体的监管措施或指导方针，共同推动生成式人工智能服务行业的健康有序发展。仅靠网信部门一家没法实现这些目标。
（三）将带来诸多市场机遇
近日，习近平总书记在给2023中国国际智能产业博览会的贺信中指出，当前互联网、大数据、云计算、人工智能、区块链等新技术深刻演变，产业数字化、智能化、绿色化转型不断加速，智能产业、数字经济蓬勃发展，极大改变全球要素资源配置方式、产业发展模式和人民生活方式。人工智能产业的经济前景不可限量。
1、《办法》明确了生成式人工智能服务的相关责任主体和具体管理要求，这有助于规范企业的经营行为，降低法律风险，同时也为合规的生成式人工智能服务提供了更好的发展环境。
2、《办法》鼓励生成式人工智能技术在各行业、各领域的创新应用，探索优化应用场景，构建应用生态体系。这将激发企业和研究机构在生成式人工智能技术方面的创新活力，促进技术的不断进步和发展。法律服务业也将提高不少效率。
3、《办法》体现的国家对生成式人工智能产业发展的鼓励和支持的态度，为产业创新提供了政策导向和法律保障，鼓励生成式人工智能技术与各行业、各领域的融合，推动产业生态建设。这将促进生成式人工智能与各行各业的联系和互动，推动产业间的融合与发展。这可能会在未来数年世界生成式人工智能竞赛中发挥效用，为企业和国家在全球化的竞争格局中提供了安全保障和稳定支持。
4、《办法》强调对生成式人工智能服务的风险进行防范，特别是对于传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，提出了具体的管理要求和措施。这在一定程度上有助于提升用户对生成式人工智能服务的信任度，扩大市场需求。
《办法》的实施能为生成式人工智能市场带来重要的机遇，包括更清晰的发展环境、更广阔的应用前景、更可靠的用户信任度和更深入的产业融合。相关企业和机构应抓住这些机遇，不断提升自身的技术和服务水平，为市场的健康发展做出贡献。
三、合规启示和义务
人工智能包含三大要素：算力、算法和数据。《办法》明确了人工智能研发者、部署者以及使用者等这几类行业责任主体在服务中的责任与义务。所以，归纳起来相关责任主体的合规义务主要有以下方面：
数据合规：
IT企业应确保所使用的数据来源合法，并尊重用户的个人信息权益，防止数据滥用。同时，对于数据的存储和使用，应遵循相关法规，保证数据的安全性和隐私性。当然如何界定“具有合法来源”？如果某数据集在最初收集时权利存在瑕疵，但买方在购买该数据时得到了卖方的合规承诺和保证，或是在尽职调查时没有发现问题，那么买方能否参照“善意第三人”的原则继续使用或至少保留训练成果？或者说，尽职调查需要做到何种程度买方才能免责？这些问题都有待实践给我们答案。
另外，分类分级是指根据人工智能技术及其应用场景对可能产生的风险和影响进行不同程度地划分，并采取相应强度的监管措施。这种监管方式与《数据安全法》对于数据分类分级保护的手段一致，不排除后续行业主管部门或可就人工智能分类分级和数据分类分级两方面要求形成相关联的分类分级规则（第十六条）。通过分类分级的监管框架，监管机构可以根据人工智能系统的应用领域、风险程度和技术成熟度，制定相应的监管要求和措施。这有助于确保监管更加精准和针对性，避免一刀切的监管模式。同时，分类分级的监管框架也可以促进创新和发展，因为根据不同级别的监管要求，企业和研究机构可以更好地规划和管理技术研发，降低合规成本和风险。
算法合规：
IT企业在设计和开发生成式人工智能算法时，应遵循伦理原则，避免产生歧视、误导和偏见等问题。《办法》要求的应确保算法的透明性和可解释性，以便在发生问题时进行调查和追责。算法透明度是指算法的设计、训练、优化、运行等过程能够向外界公开或解释其原理、逻辑、数据、结果等信息，以便进行有效的监督和评估。算法透明度对于监管和社会的可持续发展至关重要。《办法》要求提供者需“基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”。透明的算法可以使用户和相关利益相关方更好地理解系统的决策依据，从而增加对人工智能系统的信任和接受度，同时可以帮助监管机构审查和评估人工智能系统的合规性和公平性，确保其不会产生歧视性、偏见或不当的行为。此外，《办法》援引《互联网信息服务算法推荐管理规定》对算法备案的要求，也是一种确保算法透明度的方式（第十七条）。
对于数据训练活动，《办法》也提出明确规则、把控质量、培训监督三项要求。这三项内容会成为具体的合规控制点，如果涉及外包第三方来对数据进行训练，也需要在协议中体现上述三项合规控制点。
算力合规：
很多人会认为算力只是计算能力的体现，技术中立，不会涉及合规问题。但是，根据《中华人民共和国刑法》第二百八十七条之二规定，明知他人利用信息网络实施犯罪，为其犯罪提供互联网接入、服务器托管、网络存储、通讯传输等技术支持帮助，情节严重的，也构成犯罪，处三年以下有期徒刑或者拘役，并处或者单处罚金。所以，如果用途不正当，算力可能会有刑事合规风险。
知识产权合规：
这是IT企业的普适合规义务。在开发和提供生成式人工智能服务时，应注意保护自己“依法享有的知识产权”，可通过专利申请、软件版权保护等方式。同时也避免侵犯他人的专利、版权和商标等权益。