摘 要：
人工智能发展方兴未艾，从产业发展、社会生活和政府监管的方方面面影响人类的进程。人工智能的监管重点是做好对数据、算法、算力和知识产权的监管。人工智能也与法治政府建设密不可分。一方面人工智能监管是法治政府建设的重要组成部分，另一方面法治政府建设也需要人工智能的支撑。人工智能时代的法治政府建设需要从加强数据采集、推进智能化监管、建立风险评估机制、加强监管队伍建设以及推进信息公开和透明度等方面着手努力。
关键词：人工智能 法治政府 智能化监管
引 言
2022年年初，联合国教科文组织出版了《人工智能伦理问题建议书》。建议书称：“人工智能系统引发了新型伦理问题，包括但不限于其对决策、就业和劳动、社交、卫生保健、教育、媒体、信息获取、数字鸿沟、个人数据和消费者保护、环境、民主、法治、安全和治安、双重用途、人权和基本自由（包括表达自由、隐私和非歧视）的影响。此外，人工智能算法可能复制和加深现有的偏见，从而加剧已有的各种形式歧视、偏见和成见，由此产生新的伦理挑战。”
“从个人的角度来看，人工智能的应用还可能会侵犯人格尊严。比如算法所引发的歧视风险，还包括公民的隐私和个人信息泄露的风险。人工智能也可能引发劳动者权益方面的争议，引发劳动者的‘饭碗焦虑’。”浙江理工大学数据法治研究院副院长郭兵说，人工智能甚至还可能危及个人的生命与健康。
一、我国AI监管的三足鼎立之势
随着2022年底ChatGPT的横空出世，和2023年8月底百度文心一言上市，生成式人工智能应用软件多点爆发，各国（区域）立法机构与执法机构对生成式AI的监管大戏也随之登台。欧盟的《EU AI ACT》已经箭在弦上，我国也将《人工智能法》纳入立法规划，美国也在快马加鞭。从各国对于人工智能监管的积极探索和实践来看，算法透明度和分类分级是两大共同关注的核心议题。
正式法律出台之前，我国七大部委联合制定颁布的《生成式人工智能服务管理暂行办法》（以下简称《办法》）于2023年8月15日正式施行，这是我国首个针对生成式AI行业的规章，对于维护各方合法权益、加强行业治理和监管具有重要里程碑意义。《办法》与《互联网信息服务深度合成管理规定》与《互联网信息服务算法推荐管理规定》形成了我国AI监管的三足鼎立之势。当然，正在征求意见中的《科技伦理审查办法（试行）》下一步也可能扮演重要角色。我国关于人工智能与算法的监管已经初具雏形。《办法》与《互联网信息服务深度合成管理规定》中的标识制度、《互联网信息服务算法推荐管理规定》中的算法备案制度形成联动。由于《办法》仅适用于面向公众的场景，不可避免地具有舆论属性或社会动员能力，需要完成算法备案。
这三项规章与更上位的《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》共同构成了“前《人工智能法》时代”算法与人工智能的监管框架。
一、目前人工智能监管政策的亮点
（一）明确了以发展和安全并重、促进创新和依法治理相结合的原则
《办法》等立法和行业监管者秉持了多年来高层对互联网领域创新的一贯包容和支持态度。除了把《科技进步促进法》作为《办法》立法的上位法依据外，对比当初的征求意见稿和最终的成稿，定稿更显其宽松尺度。对生成式人工智能服务提供者在企业发展与满足合规义务之间留出了缓冲地带，充分体现了立法的谦抑性和对创新的鼓励。
比如，对企业训练数据真实性、准确性的控制义务确定为尽职性的努力承诺，而非初稿中超越现实情况的硬性命令，大大降低了企业因难以核实全部训练数据真实性、准确性而被迫违法的风险（《办法》第七条）；考虑到提供者对使用者生成内容的有限控制能力，删除了禁止提供者生成歧视性内容的规定。另外，也允许提供者可以通过服务协议方式教育、监督生成式人工智能服务使用者的合法使用，控制并合理转嫁合规风险（《办法》第九条）。再如，对提供者一旦发现网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件也由原来的必须暂停或终止服务修改为可以依法依约灵活采取警示、限制功能，暂停或终止服务等多种措施，给予提供者更大的合规解决空间（《办法》第十四条）。
（二）明确了以行业监管为主要模式的监管态势
延续了《数据安全法》提出的分行业进行监管的要求。这次《办法》更加突出行业监管的特性，明确提出人工智能相关的IT企业应建立生成式人工智能服务的内部监管机制，确保其服务符合相关法规和道德标准。对可能产生虚假信息或误导用户的结果，应设立专门的审核机制。如第十六条规定，网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。这意味着，此后对于生成式人工智能的监管将以行业为线，逐步呈现差异化和针对性。
一方面，这种行业监管模式符合生成式人工智能的强技术属性，也有利于各行业为生成式人工智能服务制定更合理的监管标准和措施，既能充分发挥生成式人工智能服务的经济价值，又能有效防范合规风险。如新闻业如何防止人工智能生成、传播虚假新闻是重要监管目标；而对于金融行业如何保证其对用户背景和画像的客观性和公正性，以及如何应对系统遭受攻击时对业务连续性的影响则更为紧迫。另一方面，通过行业监管的方式，要求各职能部门更加精准地理解和管理生成式人工智能服务，为不同行业制定具体的监管措施或指导方针，共同推动生成式人工智能服务行业的健康有序发展。仅靠网信部门一家没法实现这些目标。
（三）将带来诸多市场机遇，产业前景广阔
2023年9月初，习近平总书记在给中国国际智能产业博览会的贺信中指出，当前互联网、大数据、云计算、人工智能、区块链等新技术深刻演变，产业数字化、智能化、绿色化转型不断加速，智能产业、数字经济蓬勃发展，极大改变全球要素资源配置方式、产业发展模式和人民生活方式。人工智能产业的经济前景不可限量。
1.《办法》明确了生成式人工智能服务的相关责任主体和具体管理要求，这有助于规范企业的经营行为，降低法律风险，同时也为合规的生成式人工智能服务提供了更好的发展环境。
2.《办法》鼓励生成式人工智能技术在各行业、各领域的创新应用，探索优化应用场景，构建应用生态体系。这将激发企业和研究机构在生成式人工智能技术方面的创新活力，促进技术的不断进步和发展。法律服务业也将提高不少效率。
3.《办法》体现的国家对生成式人工智能产业发展的鼓励和支持的态度，为产业创新提供了政策导向和法律保障，鼓励生成式人工智能技术与各行业、各领域的融合，推动产业生态建设。这将促进生成式人工智能与各行各业的联系和互动，推动产业间的融合与发展。这可能会在未来数年世界生成式人工智能竞赛中发挥效用，为企业和国家在全球化的竞争格局中提供了安全保障和稳定支持。
4.《办法》强调对生成式人工智能服务的风险进行防范，特别是对于传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，提出了具体的管理要求和措施。这在一定程度上有助于提升用户对生成式人工智能服务的信任度，扩大市场需求。
《办法》的实施能为生成式人工智能市场带来重要的机遇，包括更清晰的发展环境、更广阔的应用前景、更可靠的用户信任度和更深入的产业融合。相关企业和机构应抓住这些机遇，不断提升自身的技术和服务水平，为市场的健康发展做出贡献。
一、人工智能监管的合规启示
人工智能包含三大要素：算力、算法和数据。《办法》明确了人工智能研发者、部署者以及使用者等这几类行业责任主体在服务中的责任与义务。所以，归纳起来相关责任主体的合规义务主要有以下方面：
（一）数据合规义务
IT企业应确保所使用的数据来源合法，并尊重用户的个人信息权益，防止数据滥用。同时，对于数据的存储和使用，应遵循相关法规，保证数据的安全性和隐私性。当然如何界定“具有合法来源”？如果某数据集在最初收集时权利存在瑕疵，但买方在购买该数据时得到了卖方的合规承诺和保证，或是在尽职调查时没有发现问题，那么买方能否参照“善意第三人”的原则继续使用或至少保留训练成果？或者说，尽职调查需要做到何种程度买方才能免责？这些问题都有待实践给我们答案。
另外，分类分级是指根据人工智能技术及其应用场景对可能产生的风险和影响进行不同程度地划分，并采取相应强度的监管措施。这种监管方式与《数据安全法》对于数据分类分级保护的手段一致，不排除后续行业主管部门或可就人工智能分类分级和数据分类分级两方面要求形成相关联的分类分级规则（第十六条）。通过分类分级的监管框架，监管机构可以根据人工智能系统的应用领域、风险程度和技术成熟度，制定相应的监管要求和措施。这有助于确保监管更加精准和针对性，避免一刀切的监管模式。同时，分类分级的监管框架也可以促进创新和发展，因为根据不同级别的监管要求，企业和研究机构可以更好地规划和管理技术研发，降低合规成本和风险。
（二）算法合规义务
IT企业在设计和开发生成式人工智能算法时，应遵循伦理原则，避免产生歧视、误导和偏见等问题。《办法》要求的应确保算法的透明性和可解释性，以便在发生问题时进行调查和追责。算法透明度是指算法的设计、训练、优化、运行等过程能够向外界公开或解释其原理、逻辑、数据、结果等信息，以便进行有效的监督和评估。算法透明度对于监管和社会的可持续发展至关重要。《办法》要求提供者需“基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”。透明的算法可以使用户和相关利益相关方更好地理解系统的决策依据，从而增加对人工智能系统的信任和接受度，同时可以帮助监管机构审查和评估人工智能系统的合规性和公平性，确保其不会产生歧视性、偏见或不当的行为。此外，《办法》援引《互联网信息服务算法推荐管理规定》对算法备案的要求，也是一种确保算法透明度的方式（《办法》第十七条）。
对于数据训练活动，《办法》也提出明确规则、把控质量、培训监督三项要求。这三项内容会成为具体的合规控制点，如果涉及外包第三方来对数据进行训练，也需要在协议中体现上述三项合规控制点。
（三）算力合规义务
很多人会认为算力只是计算能力的体现，技术中立，不会涉及合规问题。但是，根据《中华人民共和国刑法》第二百八十七条之二规定，明知他人利用信息网络实施犯罪，为其犯罪提供互联网接入、服务器托管、网络存储、通讯传输等技术支持帮助，情节严重的，也构成犯罪（俗称帮信罪），处三年以下有期徒刑或者拘役，并处或者单处罚金。所以，如果用途不正当，算力可能会有刑事合规风险。
（四）知识产权合规义务
知识产权合规是IT企业的普适合规义务。在开发和提供生成式人工智能服务时，应注意保护自己“依法享有的知识产权”，可通过专利申请、软件版权保护等方式来实现。同时也避免侵犯他人的专利、版权和商标等权益。
四、人工智能监管与法治政府建设
（一）人工智能监管与法治政府建设之间存在密切联系
首先，人工智能监管是法治政府建设的重要组成部分。人工智能作为一种新兴的技术，在推动经济发展和社会进步方面具有巨大的潜力。但是，人工智能的发展也带来了一些挑战，如数据安全、隐私保护、算法公正等问题。为了规范人工智能的发展，加强监管是必不可少的。
其次，法治政府建设也需要人工智能的支撑。法治政府建设是现代社会治理的重要手段。人工智能技术可以为法治政府建设提供有力的支撑，如提高政府效率、提升决策科学水平、优化公共服务、加强行业监管和社会治理等。
人工智能监管和法治政府建设是相互促进、相互支撑的。人工智能监管可以促进法治政府建设，提高政府的治理能力和服务水平；同时，法治政府建设也需要人工智能监管的支撑，以保障社会稳定和公共利益。
（二）人工智能时代如何做好法治政府建设
建立完善的数据采集系统：政府监管部门需要建立完善的数据采集系统，包括对市场主体、市场行为、市场秩序等数据的采集和分析，以更好地了解市场动态和监管对象的情况，为监管决策提供科学依据。
推进智能化监管：利用人工智能技术，开发智能监管系统，提高监管的效率和准确性。例如，可以利用大数据分析技术，对市场主体和监管对象的行为进行分析和预测，及时发现违法违规行为，提高监管的精准度和及时性。
建立风险评估机制：政府监管部门需要对市场风险进行评估，并建立相应的风险评估机制。通过对市场风险、监管对象风险、监管人员风险等方面的评估，可以及时发现风险因素，并采取相应的措施进行防范和化解。
提升监管队伍水平：政府监管部门需要加强监管队伍建设，提高监管人员的素质和能力。政府监管部门可以通过引进高素质人才、加强培训和交流等方式，提高监管人员的专业水平和综合素质，为提高监管水平提供人才保障。
推进信息公开和透明度：政府监管部门需要推进信息公开和透明度，及时公开监管政策和措施，公开市场主体的信用信息，提高市场透明度和监管的公信力。
这些措施可以有效地提高政府监管的效率和准确性，促进市场健康有序发展。
五、展望和建议
《办法》等法律规章的实施标志着我国生成式人工智能产业进入了一个新的发展阶段。未来，为了更好地推动生成式人工智能技术的发展和应用，我们建议：
强化监督执行：政府主管部门应与时俱进地加强对生成式人工智能服务提供者的监督和管理，确保其遵守相关法规和规定，对于违规行为依法进行处理。
构建合规体系：引导IT企业构建全面合规体系，或至少建立网络安全、数据安全和人工智能监管的合规计划。加强员工这方面的合规培训，使其了解并遵守相关法规和道德标准。例如，在处理用户数据时，应确保员工遵守隐私政策和数据保护法规。通过培训，加强对生成式人工智能技术相关人员的培训和教育，提高其技术水平和道德意识。
推动技术创新：鼓励企业和研究机构加强技术创新，提高生成式人工智能技术的安全性和可靠性，降低潜在的风险。
引导社会参与：通过媒体、公益活动等多种方式，引导公众正确认识和使用生成式人工智能技术，提高公众的科技素养和法律意识。
IT企业应遵守相关法律法规和道德标准，确保生成式人工智能服务的合规性。这有助于降低企业的法律风险，同时也有助于提高企业的声誉和用户信任度。
结 语
生成式人工智能服务不仅拥有广阔应用前景和巨大发展潜力，同时亦面临着诸多挑战和风险。《办法》作为我国首次对生成式人工智能服务进行专门规范的规章，在立法理念、监管路径、核心问题等方面充分体现了包容审慎、兼容谦抑的姿态。《办法》的出台不仅为我国生成式人工智能服务行业的健康发展和规范应用提供了法律依据和制度保障，也为全球人工智能监管提供了有益的借鉴和参考，但仍需要在实践中不断探索和完善。
随着全球生成式人工智能进入黄金发展阶段，相关监管立法也预期呈现井喷式增长，各国对生成式人工智能的监管思路的探索以及异同都是值得持续关注的问题。我们期待未来在政府、社会各方的共同努力下，相关企业切实履行合规义务，生成式人工智能技术定能更好地服务于人类，为我国经济和社会的发展贡献力量。