青岛大学法学院，山东 青岛

收稿日期：2023年12月11日；录用日期：2024年1月28日；发布日期：2024年2月6日

摘要

随着科技的飞速发展，人工智能的发展如火如荼，其应用领域日益广泛，逐渐渗透到社会生活的各个方面。然而，其在给社会带来巨大便利的同时，也引发了一系列亟待解决的问题，尤其是法律问题。本文从用户权益保护的视角，对人工智能立法问题进行了研究。首先阐述了人工智能发展现状及意义，其次分析了人工智能立法的必要性，然后阐述了国内外针对人工智能立法的现状，接着，文章分析了人工智能立法面临的问题和挑战，如立法难度大、技术与法律之间的矛盾以及需平衡用户权益与技术创新的关系等。最后，文章基于对用户权益的保护视角提出了立法视野下的思考与建议，通过这些思考与建议，旨在确保用户权益不受侵犯的前提下，对人工智能进行合理的法律规范。

关键词

用户权益保护，人工智能，立法

Research on Artificial Intelligence Legislation from the Perspective of User Rights Protection

Yi Guo

Law School of Qingdao University, Qingdao Shandong

Received: Dec. 11^th, 2023; accepted: Jan. 28^th, 2024; published: Feb. 6^th, 2024

ABSTRACT

With the rapid development of science and technology, the development of artificial intelligence is in full swing, and its application fields are becoming more and more extensive, gradually penetrating into all aspects of social life. However, while it has brought great convenience to society, it has also caused a series of problems that need to be solved urgently, especially legal issues. From the perspective of user rights protection, this paper studies the legislative issues of artificial intelligence. Firstly, the current situation and significance of the development of artificial intelligence are expounded, then the necessity of artificial intelligence legislation is analyzed, and then the current situation of artificial intelligence legislation at home and abroad is expounded, and then the problems and challenges faced by artificial intelligence legislation are analyzed, such as the difficulty of legislation, the contradiction between technology and law, and the need to balance the relationship between user rights and technological innovation. Finally, based on the perspective of protecting the rights and interests of users, this paper puts forward thoughts and suggestions from the perspective of legislation, and through these thoughts and suggestions, it aims to make reasonable legal norms for artificial intelligence under the premise of ensuring that the rights and interests of users are not violated.

Keywords:Protection of User Rights And Interests, Artificial Intelligence, Legislation

Copyright © 2024 by author(s) and Hans Publishers Inc.

This work is licensed under the Creative Commons Attribution International License (CC BY 4.0).

http://creativecommons.org/licenses/by/4.0/

1. 引言

人工智能已经对我们的社会产生了深远影响。目前人工智能技术已被应用于生活的方方面面，它改变了我们的生活方式，影响了我们的工作模式，并重塑了我们对未来的理解。尤其是自2022年开始，基于大模型的生成式人工智能在全球范围内掀起了新的应用浪潮，为各行各业带来巨大发展机遇的同时，也引发了一系列法律、道德风险以及有效监管的难题。但各国政府对于人工智能监管的态度不一，不同国家的策略差异也使得人工智能持续健康发展面临诸多挑战。这些问题的解决是人工智能可持续发展的关键。如何在发展人工智能的同时又保护用户的权益变得尤为重要，本文将探讨用户权益保护视角下人工智能立法中的一些核心问题，并针对这些问题提出可能的解决方案。

2. 人工智能发展的现状及意义

人工智能指利用计算机或计算机控制的机器，模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统¹。不仅涉及大众熟知的智能机器人、汽车轮船甚至航空工具的自动驾驶，还涉及医疗、政府、教育、游戏等。近期爆火的生成式人工智能也被快速投入到各种前端应用中。

目前，我们正在进入人工智能的“inside”时代，即人工智能并非简单的赋能，而是在创造着新的经济结构和社会形态。²人工智能发展之迅速，超越我们大多数人的预期，引领着我们进入一个新的科技时代，推动人类智能不断地往外延伸，进而改造我们的客观世界。

3. 人工智能立法的必要性

人工智能技术涌入应用市场，若对真实性、目的性存疑的复杂信息进行智能加工。那么人工智能越智能，或许越离谱，而且其误导性难以分辨。倘若这类人工智能广泛应用到搜索引擎、客诉系统等领域，会形成明显的信息混乱和法律风险。人工智能与法律的碰撞，比人们预想的来的更早。

3.1. 人工智能存在的法律风险

无论是自动驾驶、人脸识别、生成式聊天软件，还是其余的有关人工智能，其都存在相关的风险，有学者将这些风险分为三类：法律风险、技术风险、伦理风险 [1] 。这里，我们主要从整体上来阐述法律风险。

在输出内容上，一些内容的真实性存疑。AI生成的文字、图片、视频资料等可能存在误导性的信息，具有歧视性。其根据相对人的要求生成一定的内容，经过相对人进行转发之后，有可能会制造假的信息，给社会造成恐慌；也有可能违反规则生成内容，给他人名誉造成损害或者导致他人社会评价受损；若一些不法分子利用人工智能进行犯罪，会给国家造成麻烦、给社会造成破坏、给人类带来伤害；若数据库的更新时间不够及时、数据数量有可能不够完整，使得数据不够可靠。

在数据安全方面，人工智能存在的风险不容忽视，尤其是在网络信息时代，自动驾驶、智慧法院、AI换脸等都会对用户的相关信息进行收集，包括但不限于人脸、身份证、信用等，大量的个人数据被收集、存储和处理，涉及用户隐私和数据保护问题。在人工智能对信息的搜集过程以及处理过程中，都有可能会给数据造成泄漏的风险，部分经营者为了更加精准地了解用户甚至会违反必要性原则抓取用户更多的信息，比如像一些购物软件似乎变成了人们肚子里的蛔虫，在用户还未进行检索时就对用户的需求进行了预判，其实质是，对用户的声音进行监听，通过监听了解用户的喜好或者需求，从而快速的推荐用户所需要的东西，虽然从某些方面来说，这给用户增加了使用上的便捷性，但是无疑窥探了用户的隐私。更有甚者，利用用户信息进行犯罪，出卖用户信息，实施欺诈等行为，给公民的安全造成威胁，也会对社会治理造成破坏。

在知识产权方面，主要可能存在两个方面的侵权问题，首先是人工智能未经著作权人的授权随意抓取数据，可能侵犯他人的知识产权，例如专利、商标和版权。其次，人工智能生成的一个新的内容，像文字、音频、图片、视频等是否能够构成作品，如果构成作品，是否对原作品构成侵权，生成的一系列资料应该算是谁的作品，谁应该算作著作权人，这也是现实存在的问题。

在其他方面，也存在着一定的风险，比如算法和网络的安全问题，比如侵犯公民个人信息等。已经有犯罪分子利用ChatGPT等人工智能进行网络犯罪。网友们说，第一批因ChatGPT坐牢的人，或许已经在路上。因此在使用人工智能技术时需谨慎考虑可能涉及的法律风险，并提前做好合规准备。

3.2. 人工智能的法律地位等问题

第一，有公民资格的索菲娅是法律上的人吗？假如中国公民与索菲亚产生民法上的往来活动，中国的法律如何调整？这是在人工智能技术的发展和应用中，民法迫切需要解决的第一个问题，即人工智能机器人的民法地位问题 [2] ，人工智能的法律地位是其立法的一个重要问题。由于人工智能系统的自主性，它们是否应被视为法律上的人还是工具一直存在争议。人工智能是人还是物，是人的行为还是物被人支配的行为，造成他人伤害的后果由谁来承担，如何防止盲目发展比如杀人机器人，自主行为的法律效力如何认定 [3] ，这一系列的问题都要解决，如果人工智能被视为法律上的人，那么它将承担与人相同的法律责任。反之，如果人工智能仅被视为工具，那么它可能无法为自身的行为负责。这个问题需要立法者从法律角度进行深入探讨，为人工智能的法律地位作出明确的界定。当前人工智能的发展，仍然存在诸多立法缺位的问题，比如说如果人工智能自编译的程序对被害人实施了诈骗，到底是谁来承担责任？谁又为被害人的财产损失买单？其能否成为刑法上的犯罪主体，如果人工智能不能成为刑法上的犯罪主体，那其开发者、所有者、管理者能否承担责任？如果人工智能能够成为刑法上的主体，那么刑罚方法应该是什么样子，对人工智能采取拆解、格式化、删除关键程序等刑罚方法？上述目前法律上仍属于空白区域。

第二，现有法律对于人工智能的保护机制不完善、侵权行为难以认定。目前，人工智能生成物的法律保护存在不足。虽然人工智能技术已经取得了长足的进展，但现有的知识产权法律体系并没有针对人工智能生成物提供明确的保护机制。这使得人工智能生成物在创作、传播和使用过程中存在一定的法律风险和不确定性。由于人工智能生成物具有高度的复杂性和技术性，侵权行为的认定存在一定的困难。例如，如何界定人工智能生成物的原创性和创造性，以及如何确定侵权行为的责任主体等问题，都需要进一步探讨和明确。目前，对于人工智能生成物的保护范围还没有明确的法律规定。这使得在实践中，对于哪些类型的人工智能生成物可以受到保护、保护的程度和期限等问题存在不确定性。

为了解决这些问题，需要进一步完善现有的法律体系，明确人工智能的保护范围、限制范围等。同时，也需要加强技术研发和人才培养，提高人工智能领域的用户权益保护意识和能力。

3.3. 人工智能立法的作用

近年来，聊天内容生成应用ChatGPT、文心一言等发布，人工智能技术又引发全球热议。ChatGPT等的横空出世，必然会颠覆一些行业的传统生产模式，为人类社会带来新的生产力。但是，对于整个社会来说，人工智能既有拉动经济、服务民生、造福社会的“希望”，也会出现安全失控、法律失准、道德失范、伦理失常、隐私失密等“灾难”。因此，针对人工智能立法就变得尤为重要，人工智能立法的作用主要体现在以下几个方面。

3.3.1. 保护用户数据隐私

随着人工智能的广泛应用，数据隐私成为了一个日益突出的问题。人工智能系统需要大量的数据进行学习和训练，而这些数据往往涉及到用户的隐私。因此，如何在保证人工智能正常运行的同时保护用户的数据隐私，是人工智能立法必须面对的一个重要挑战，而且人工智能技术的运用涉及到大量的用户数据，如若不加以规范，用户的隐私将受到严重威胁。通过立法，可以明确数据收集、存储、使用的规范，防止数据滥用和泄露。

3.3.2. 确保人身、财产受到伤害时有相应的承担对象

随着人工智能更加的智能，肯定在某些方面会对人身或者财产造成不可避免的损害，比如杀人机器人的出现带来一系列的问题，这种情况下通过立法确定责任主体就变得尤为重要。

3.3.3. 保障公共安全

人工智能技术在某些领域如自动驾驶、医疗诊断等方面的运用，涉及到公共安全问题。通过立法，可以制定相应的安全标准和责任制度，确保人工智能技术的安全性和可靠性。

3.3.4. 防止不公平竞争

人工智能技术的发展可能导致某些企业利用人工智能技术进行不公平竞争，损害市场秩序。立法可以对此类行为进行制约，维护市场公平。

3.3.5. 保障知识产权

人工智能时代如何避免出现人工智能侵权行为，也是一个非常重要的问题。因为数据库种类、内容庞杂，肯定不可避免地会出现对某一些主体的知识侵权，那么法律的出现，就可以从一定程度上去规制这种行为。

人工智能在新时代经济社会发展中极其重要，人工智能的发展关乎到国家安全的维护、经济发展方式的转变和人民群众对美好生活的期待，其重要意义毋庸置疑。但是，为了避免人工智能因为缺乏规矩而成为“脱缰野马”，有必要给其套上法治的“缰绳”，将人工智能发展纳入法治轨道，从根本上实现其发展的安全性、可靠性和可控性。

4. 国内外监管体系及立法现状

虽然人工智能科技本身是中立的，但其自身仍然存在安全漏洞及滥用风险。因此，随着人工智能技术不断发展，国内外也陆续出台了相关法律法规以对人工智能行业进行引领和规制。

4.1. 欧盟人工智能法律法规及政策、文件

欧盟在人工智能法律监管方面率先布局，从2018年开始欧盟就针对人工智能方面发布各种文件，其中包括《欧洲人工智能战略》、《人工智能协调计划》、《人工智能白皮书》、《通用数据保护条例》、《数据治理法案》等文件，2021年，欧盟委员会发布了全球第一个系统性的监管人工智能的法律文件《人工智能法案(草案)》，该草案将人工智能风险分为四级，分别为绝对禁止的风险、高风险、有限风险和极小风险。2022年，欧盟又发布了与上述草案配套的草案《人工智能责任指令(草案)》，该草案新增了高风险场景下被告的举证义务及过错推定规则。见表1。

表1. 欧盟人工智能法律法规及政策、文件

4.2. 美国人工智能法律法规及政策、文件

美国在人工智能方面更加注重其发展以及对人工智能的促进，与此同时，美国也规定了有关人工智能的监管要求，主要从数据安全、算法、风险监管等方面展开。美国具有国家人工智能安全委员会及联合人工智能中心，用以研究人工智能在国安军事方面的潜在应用前景并执行总体上的人工智能战略。美国也成立了国家人工智能计划办公室和国家人工智能咨询委员会，发布有关人工智能的法案，促进人工智能的发展和监管。见表2。

表2. 美国人工智能法律法规及政策、文件

在数据安全方面，美国发布了《美国数据隐私和保护法案(草案)》。该法案旨在保护消费者的数据隐私权，尽管该法案还未正式颁布，但是显而易见正式颁布后会对美国隐私保护法律体系产生重要影响；在算法方面。美国发布了多个草案，最新的草案是《2022算法问责法(草案)》，将算法自动化决策纳入监管；在风险监管方面美国先后发布了《人工智能权利法案蓝图》和《人工智能风险管理框架》，为降低人工智能风险提供了指南。可以看出，美国其实对于人工智能的监管力度不是很多，其有关人工智能更多的举措主要是为了鼓励人工智能的创新与应用。

4.3. 中国人工智能法律法规及政策、文件

中国近年来，针对人工智能发布了多个法律文件，包括产业促进、数据和网络安全、科技伦理、机器人及自动驾驶、人脸识别、算法合成等，目前针对生成式人工智能技术，我国又发布了《生成式人工智能服务管理办法(征求意见稿)》，涉及到生成式人工智能存在的法律问题以及对其的具体要求。我国对于人工智能可能存在的问题迅速的作出反应，深刻的认识到了人工智能监管的重要性。见表3。

表3. 中国人工智能法律法规及政策、文件

可以看到，我国以及世界上的其他大多数国家都已经认识到了人工智能监管这项任务的紧迫性与时代性，在发展人工智能的同时，也应该避免其对法律秩序造成破坏。人工智能是双刃剑，对人类社会有利也有弊，不可一刀切，应坚持人工智能发展与监管并重。

5. 人工智能立法的问题与挑战

5.1. 立法难度大

人工智能技术的发展日新月异，涉及的领域广泛，从对国内外立法的研究中，我们也可以看出各国制定了一系列法律来对人工智能进行规制，立法草案一个接一个，针对不同的人工智能，不同的技术制定不同的方案，肯定不可避免的导致法律文件比较散乱，如何根据各国不同的国情，制定出符合各国国情的方案，又能保证人工智能绿色发展，使得人工智能立法的难度大大增加。

5.2. 技术与法律之间的矛盾

人工智能技术的发展往往超前于法律的规定，使得一些人工智能技术的运用在法律上存在空白，导致技术与法律之间的矛盾。如何制定一部法律，既能保持法律的稳定性，不另法律朝令夕改，又使得它能够完美的规避其迟滞性的缺点，能够存在一定的预判性，对立法工作也增加了很大的难度。也就是说法律必须具有稳定性，但是也不可以一成不变 [4] 。如何在规范与创新之间取得平衡，真正让科技进步落实到实处、开花结果，服务于人类的美好生活是一个显著难点。

5.3. 平衡用户权益与技术创新的关系

如何在保护用户权益的同时，鼓励和支持AI技术的创新和发展，是人工智能立法面临的又一大挑战。保护用户权益那么肯定不可避免的要对人工智能的行为进行限制、规范，对人工智能进行限制、规范肯定会阻碍其发展，二者具有连环作用，如何能够使得二者兼得，无疑这对立法者的立法水平具有很高的要求。

6. 用户权益保护视角下立法建议

基于对用户权益的保护，笔者认为是时候对人工智能的一些行为进行限制了。人工智能涉及到权益、安全、真实、公平等重要元素，与用户的生活息息相关，为了保护用户的权益，人工智能立法迫在眉睫。事实上，对人工智能领域的科技创新而言，加强法治建设既是约束，更为保护。当前人工智能法治建设已经成为全球共识，我国角逐人工智能领域全球竞争，也要建立健全相关的法律法规、制度体系、伦理道德，形成中国方案。目前我国人工智能领域企业数以万计，一些地方此前多从鼓励产业创新，允许先行先试等方面探索立法，但时至如今，更需要从风险防控角度加强法治护航。

第一，明确目标和范围。制定人工智能立法前，需要明确立法的目标和范围，以确保法律的针对性和适用性。例如，可以规定人工智能的目标是保护人类利益、促进创新和发展，还是规范市场秩序等。相关法治建设需着力构建“以人为本”的人工智能治理体系，加快形成共识、标准化条例法规和治理框架。与此同时，相关法治建设还需与技术、伦理等专业层面协同互补，形成符合人工智能运作逻辑的规制体系。

第二，法律层面需要对人工智能及人工智能产业的概念作出界定，并通过立法引导各级管理部门、企业、公众等同步树立风险意识，在拥抱人工智能变革、大力发展产业的同时，确保其安全、可控。对于AI的法律地位，立法者应明确规定AI的法律地位，并为其行为设立明确的法律责任，这可以通过修改现有法律或制定新的法律来实现。

第三，考虑不同应用场景。人工智能在不同的应用场景中可能会带来不同的风险和机会，因此在立法时需要考虑不同的应用场景，并采取相应的措施。例如，在医疗领域，人工智能技术可以帮助医生进行诊断和治疗，但在金融领域，人工智能技术可能会被用于欺诈和洗钱等非法活动。因此，立法需要针对不同应用场景制定相应的规范和监管措施。

第四，建立完善的隐私保护法律制度。通过立法明确人工智能的数据收集、存储、使用的规范，确保数据的合法性和安全性，明确数据使用者的责任和义务，加强对数据泄露和滥用的惩处力度，保障用户的隐私权益。应对策略包括制定严格的数据隐私政策、数据匿名化技术的应用以及进行数据审查和监管合规。例如，欧盟的《通用数据保护条例》(GDPR)规定了个人数据保护的原则和义务，以保护用户隐私。

第五，确定法律责任和追究机制。为了确保人工智能的安全和合法性，需要明确相关责任和追究机制，以对违法行为进行制裁和惩罚。例如，对于使用人工智能技术进行欺诈和洗钱的犯罪行为，需要明确追究相关企业和个人的法律责任，并采取相应的惩罚措施。需要明确人工智能的监管机构，确保监管机构的独立性和权威性，能够有效地对人工智能进行监管和执法。

第六，鼓励创新和发展。人工智能技术的发展需要创新和投资，为了鼓励创新和发展，需要在立法中制定相关政策和措施。例如，可以给予人工智能企业一定的税收优惠和扶持政策，鼓励其进行技术创新和产业升级。要契合科技革新特点，人工智能领域的法治建设仍需强化动态思维，对此需密切跟进技术和产业发展态势，更好掌握节奏，及时调整更新，在实践中提升平衡规范与创新的能力。建立动态立法的机制，及时更新和完善人工智能相关的法律法规，以适应技术的发展。

第七，建立公众参与机制。人工智能技术的发展涉及到广大公众的利益和安全，因此需要建立公众参与机制，让公众能够参与到人工智能法律的制定和实施过程中，充分表达自己的意见和诉求。

第八，与国际标准保持一致。人工智能技术的发展是跨越国界的，为了确保立法的通用性和有效性，需要与国际标准保持一致，同时还要符合本国国情。加强国际合作与交流，共同研究和制定人工智能的国际法律规范，以应对跨国性的人工智能问题。从全球视角出发，着眼于人类命运共同体的构建和发展 [5] 。

总之，针对人工智能进行立法需要综合考虑多方面因素，包括目标、范围、应用场景、法律责任、隐私和数据安全、创新和发展以及国际标准等。只有制定科学合理的法律法规，才能促进人工智能技术的健康发展和应用，保障人类的利益和安全。要求我们边发展边治理，用动态的眼光寻求对稳定与变化这两极协调与平衡的方法，基于既有治理制度的改进方案进行基础性立法，又进行动态的风险监测机制，以寻求技术发展与社会进步双赢。

7. 结论

人工智能的立法是一个复杂而又必要的任务。面对不断发展的人工智能技术，我们必须制定相应的法律规范来确保其发展与法律制度的和谐共存。本文通过对人工智能立法中的关键问题的深入探讨，提出了一系列建议和解决方案。然而，这只是开始，随着人工智能技术的进一步发展，我们还需要不断探索和完善相应的法律框架和制度体系。

科技是一把双刃剑，尽管世界各国以及我国近年来都在陆续出台各项法律法规、草案等来对人工智能的行为进行规制，比如加强对个人信息的隐私保护，对合成生成内容进行约束，但是现实生活中很多举措并没有落实到位，比如隐私权只有在受到侵犯后才能得到事后迟来的保护，因此，对于人工智能，我们既要发展它又要约束它，既要遵守现有的法律规定，又要通过立法对其进行更加全面的防范，既要维护法律的稳定性，又要避免法律的滞后性，以求通过事前完善的风险评估、合理的条款设计和有效的监管机制，可以有效防范法律风险。本文的目的是促进人工智能立法的进步，确保人工智能的发展与法律制度的和谐共存。

本文从用户权益保护的视角下对人工智能立法问题进行了系统研究。通过梳理相关文献和实证分析，发现人工智能立法在保护用户权益方面具有重要意义，同时也面临着一些挑战和问题。针对这些问题，本文提出了相应的立法建议和解决方案，包括建立完善的隐私保护法律制度、建立人工智能安全标准和责任制度、建立动态立法的机制以及加强国际合作和交流等。这些措施旨在确保用户权益不受侵犯的前提下，对人工智能进行合理的法律规范。

未来研究可以进一步探讨人工智能技术的不断发展对用户权益保护带来的新挑战和影响，以及如何完善相关的法律制度和技术标准。此外，随着人工智能技术的普及和应用，各国之间的合作和交流也显得尤为重要，未来的研究可以关注如何加强国际合作与交流，共同应对全球性的人工智能问题。

总之，本文的研究表明，在用户权益保护视角下，人工智能立法问题具有重要的现实意义和理论价值。通过建立完善的法律制度和采取相应的措施，可以更好的保护用户的权益，促进人工智能技术的健康发展和应用。

文章引用

郭 义. 用户权益保护视角下人工智能立法问题研究
Research on Artificial Intelligence Legislation from the Perspective of User Rights Protection[J]. 争议解决, 2024, 10(02): 762-769. https://doi.org/10.12677/DS.2024.102104

参考文献