政讯通中心

ChatGPT带来的挑战与法律风险

　　最近一段时间，ChatGPT横空出世，技术进步引发网民好奇与应用，也引起人们对人工智能的深入思考。笔者结合从事专业技术工作实践，从科技、法律和国家安全等方面谈一谈ChatGPT带来的影响。

　　表现虽不完美却不能小觑

　　ChatGPT中的“GPT”指的是Generative Pre-trained Transformer，其所依赖的基础是预训练。那什么是预训练？也好理解，就是人工智能模型不需要去标注数据，只需要输入大量的语料库即可，这种模式大大加快了数据的收集过程。笔者曾在一段代码中调用某度的SDK自然语言处理接口，识别“被告人徐俊球犯故意上海罪，判处聚义五个月”中的错字，成功率还是非常高的。

　　从ChatGPT在公共领域的表现来看，其所具备的能力虽并不完美，却绝对不能小觑。首当其冲，科技企业的战略方向会有较大影响。从微软、谷歌等头部科技企业的战略规划来看，都在寻求人工智能领域的突破，这将推动科技产业加速变革。人工智能最重要的基础设施就是算力资源，因此，很多计算芯片企业将会迎来更多机会。

　　在算力的加持下，或许会产生ChatGPT的竞争对手，这对以内容生成为主要服务方式的行业并不是一个好消息。在内容创作、知识服务（如智能搜索）领域，以及很多无须进行严格内容审核的业务场景中，对ChatGPT等人工智能系统过度依赖，人的作用将会被进一步缩小，进而导致就业和技能的流失。

　　当然，ChatGPT在专业领域的表现仍然存在诸多差距，不过基于预训练人工智能算法的特点，其缺少的可能只是数据而已。

　　在人工智能领域，被业界广为认可的具备实战化程度的算法几乎全部由国外研究机构提供。比如，深度残差网络是微软的、Transformer和BERT是谷歌的。ChatGPT一经推出便引领全球风潮，仅两个月活跃用户已突破2亿。其背后的人工智能算法，关键的原创技术很多，即便公开了技术原理，事实上也很难复刻，况且其关键技术对我们而言基本上就是黑箱子。

　　法律风险不可忽视

　　当越来越多的人使用ChatGPT或者在产品中更多调用ChatGPT接口时，我们的交互和反馈就变成了它训练模型的一部分，成为了它提升正确率、理解率的基础，这对保护用户隐私和信息安全，维护公共利益、社会秩序，甚至对国家安全都会带来很大挑战。

　　未来，OpenAI将开放ChatGPT模型调用接口，这意味着届时会有大量的企业在此基础上开发自己所需要的应用程序并服务于各行各业。通过这些产业的拓展，ChatGPT将事实上走进各个领域。

　　首先将面临虚假信息泛滥的问题，这是ChatGPT基于预训练和反馈强化的算法基础所决定的。特别是在部分泛专业领域，由于基础材料积累不够，或者面临竞争者攻击时会存在虚假信息泛滥的风险。当然这里还存在一个不良信息监管的问题。

　　其次，将会面临知识产权合规问题。在智能搜索和知识推送领域，系统所必需的语料积累储备以及结果推送等方面，是否需要相应知识产权授权是必须要考虑的问题。更为甚者，通过人工智能技术生成的“作品”（诗歌、小说、动画、绘画等），其著作权属该如何认定，以及滥用和侵犯后的权益保护等，都将给现有法律框架带来挑战。

　　还有算法规制的风险。2022年我国出台了《互联网信息服务算法推荐管理规定》，明确要求算法应当坚持主流价值导向，积极传播正能量，不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益。鉴于ChatGPT目前仍属于“黑盒”模型，其算法能否披露、能否足量披露以及是否符合规定的要求都是未知数。

　　笔者认为，ChatGPT的出现并不是噱头，其所体现的技术能力和计算能力都是出类拔萃的。人类能看到的冰山，只是整个冰山的一角。也许有一天，波士顿机器人穿着高仿真人皮服装，连接ChatGPT并成功地拜访了你，与此同时，有着相同“模样”的他却在另一个地方实施了一起恶性案件。于司法而言，完美的不在场证明就出现了。科技是人类解决自身存在问题的手段而非目标，科技的发展应当受到法律和伦理的规制。

　　（作者单位：最高人民检察院检察技术信息研究中心）

原文链接：https://www.spp.gov.cn/spp/llyj/202303/t20230322_609163.shtml
[免责声明] 本文来源于网络转载，仅供学习交流使用，不构成商业目的。版权归原作者所有，如涉及作品内容、版权和其它问题，请在30日内与本网联系，我们将在第一时间处理。