《中国科学报》｜郭英剑：面对人工智能冲击，欧美加强监管引导

/ 郭英剑 /

中国人民大学首都发展与战略研究院副院长

自诞生之日起，ChatGPT产生的巨大冲击波已引发各国政府的高度关注。很多国家纷纷加大力度出台监管措施，以应对人工智能可能带来的风险和意外后果。

就连ChatGPT母公司OpenAI的首席执行官萨姆·奥尔特曼也在呼吁，应制定法律降低“日益强大的人工智能的风险”。今年5月，他在美国参议院司法委员会举行的听证会上表示，支持建立技术护栏，以尽量减少ChatGPT可能给人类带来的伤害。

近日，欧盟和美国相继提出并批准针对人工智能的法律法规，以对其进行全方位监管。

欧洲最先开始行动

欧盟以其在数据保护和数字服务市场方面的严格规则而闻名。早在两年前，欧盟委员会就提出了《人工智能法案》草案，这可谓是最早的人工智能法案草案了。

该法案提出，将在该技术被应用于“高风险”领域时采取积极的保障措施，同时为低风险应用程序的实验留出更多空间。

根据最近的媒体报道，《人工智能法案》已经于今年5月获得批准。这成为西方第一部针对人工智能系统的法律，标志着欧盟在人工智能领域的竞赛中取得了里程碑式的进展。

该法案采用了基于风险的方法监管人工智能，其中系统的义务与其所构成的风险水平成正比。规则提出了对ChatGPT等所谓“基础模型”提供商的要求。出于对这些模型的先进性以及技术工人可能会被取代的担忧，这些模型已成为监管机构的一个主要关注点。

该法案将人工智能的应用分为四个风险级别——不可接受的风险、高风险、有限风险和最小风险或无风险。

所谓不可接受的风险应用程序默认被禁止，包括人工智能系统使用潜意识技术、操纵或欺骗技术来扭曲行为，人工智能系统利用个人或特定群体的漏洞，基于敏感属性或特征的生物识别分类系统，用于社交评分或评估可信度的人工智能系统，用于预测刑事或行政犯罪风险评估的人工智能系统，人工智能系统通过无针对性的抓取创建或扩展面部识别数据库，人工智能系统推断执法、边境管理、工作场所和教育中的情绪等。

为此，法案对“基础模型”提出了要求，基础模型的开发人员在公开其模型之前，必须采取安全检查、数据治理措施和风险缓解措施。他们需要确保用于其系统的训练数据不违反版权法，还必须遵守数据治理要求，例如检查数据源的适用性和可能的偏见。

需要说明的是，虽然该法案获准通过，但要真正在现实中付诸实施，还有很长的路要走。

美国迈出重要一步

众所周知，美国以其对技术创新的自由放任而闻名于世，但即便如此，正如有些媒体所说，它正朝给新的人工智能制定规则的方向迈出重要一步。

在美国，地方、州和联邦官员都已开始采取措施制定规则。拜登政府在去年秋天提出了《人工智能权利法案》的蓝图，该法案试图解决歧视、隐私和用户选择退出自动化系统的能力等问题。但一些专家表示，对于生成式人工智能带来的一些问题，如大规模生产虚假信息的可能性，蓝图并未提供解决方案。人们越来越担心聊天机器人会让公众难以相信他们在网上遇到的任何事情。

据报道，拜登政府还在研究人工智能系统的潜在问责措施。在征求公众反馈意见时，美国商务部国家电信和信息管理局就在研究人工智能审计和评估的新政策，以解决偏见、歧视、数据保护、隐私和透明度等问题。这既包括人工智能系统和自动化系统定义范围内的所有事物，也包括可以“生成影响真实或虚拟环境的预测、建议或决策等输出”的技术。

根据英国媒体报道，为避免侵犯知识产权，音乐公司环球音乐集团已下令Spotify和苹果等流媒体平台阻止人工智能服务从受版权保护的歌曲中抓取旋律和歌词。该公司担心人工智能系统正在接受针对艺术家知识产权的数据训练。因此有人预测，知识产权诉讼已经迫在眉睫。

5月16日，奥尔特曼在美国参议院司法委员会举行的听证会上表示，他所在的机构相信人工智能有能力改善我们生活的几乎所有方面，但它也会带来重大风险，我们必须共同努力加以管理。为此，他支持对该技术进行监管，以便在发挥人工智能优势的同时，最大限度减少其危害。

奥尔特曼表示，政府的监管干预对于降低日益强大的模型的风险至关重要。为此，他建议美国政府考虑发布人工智能模型的许可和测试要求，建立一套安全标准，要求人工智能模型在部署前必须通过特定模型测试，并允许独立审计员在模型启动前对其进行检查。他认为对于一项特殊的新技术，我们需要一个新的管理框架。

奥尔特曼和美国纽约大学心理学和神经科学名誉教授加里·马库斯都呼吁建立新的技术监管机构。马库斯认为，人工智能非常复杂且发展迅速，建立“一个全职工作的机构”对其监管至关重要。

人工智能背景下的教学策略

人工智能正在改变世界，人们的注意力可能更多集中在它对社会的巨大冲击上。但事实上，其最先改变的是教育领域，这是人们能看到切实变化的重要领域。

今年5月，美国教育部教育技术办公室发布了一份题为《人工智能与教学的未来：见解与建议》的报告。该报告承认，人工智能的快速发展正在影响社会，并总结了人工智能在教学、学习、研究和评估方面的机遇和风险。该报告也是拜登政府积极应对人工智能对教育冲击的对策之一。

该报告称，人工智能通过语音、手势和其他人类交流方式，实现了学生、教师和计算机之间新的互动。这些新形式可用于支持残疾学生、为完成协同作业的学生提供额外的“伙伴”，或者帮助教师处理复杂的课堂案例。

该报告还强调，人工智能可以帮助教育工作者解决学生学习的个体差异性。例如，人工智能可以帮助英语为非母语的学生，还可以增强学生与教师间的反馈。

但该报告同时也发出警告，人工智能会增加已知风险并引入新的风险，包括数据隐私和安全、算法歧视、不适当的输出、对历史的不准确描述、不必要的监视和信任受损等。以教育为例，该报告称，他们坚定地认为人们都希望人工智能支持教师，而不是用人工智能取代教师。

该报告建议联邦政府、各州、高等教育机构、学区和其他合作伙伴要强调人的重要性，使人工智能模型与共同的教育愿景保持一致，使用现代学习原理设计人工智能，优先加强信任，告知教育工作者并让其参与其中，研究和开发的重点是解决环境问题并增强信任和安全，制定针对教育的指导方针等。

这份长达 71 页的报告提出了共享知识、吸引教育工作者以及完善人工智能在教育中使用的技术计划和明确的政策需求。它认为人工智能作为快速发展的技术，可在教育工作者和学生之间实现新的互动，帮助教育工作者解决学习的差异性，增加反馈循环，增强学生的适应性。然而，它也概述了算法偏差等与人工智能相关的风险，以及信任、安全和建立适当的技术护栏对保护教育工作者和学生的重要性。

据报道，除了美国教育部的这份报告外，拜登政府还宣布了旨在推进人工智能研究、开发和部署的全新举措，包括国家人工智能研发战略计划和即将发布的人工智能战略等。

全新的学习时代

从目前的发展趋势看，人工智能系统将对学校运作、教师工作以及学生的学习和就业产生广泛的影响。这主要表现在如下几个方面。

首先，年青一代总是新技术的最先接受者与踊跃使用者。作为数字世界的原住民，当下青年人不但接受，还引领着新技术的发展。他们总是比其他许多人更快地成长为新技术专家，同时也能为新技术开辟新的应用天地。

其次，人工智能给学校的系统应用不仅带来了挑战，也带来了机遇。它所能提供的帮助及未来的发展潜力是显而易见的，包括帮助教师设计课程并分析学生日常表现、设计学习干预措施和新课程计划等。新技术更多地拓宽了人们的视野，从而迎接新的、更强大的未来。

再次，教师已成为这项新技术的促进者。据美国媒体报道，目前约有30%的教师正在使用人工智能制订课程计划，但这并不意味着我们已走人工智能取代专业教育工作者的路上。事实上，这很可能意味着训练有素、能力强的教师成为人工智能学术环境中重要的学习促进者。教师需要更多了解这项技术，才能充分挖掘其在课堂上的应用潜力。

英国教育大臣吉莉安·基根最近指出，通过适当的开发和支持，课堂上的常规和时间密集型任务可以外包给人工智能代理，教师则可以专注于高阶教学的相关工作。

正如有人所说，我们已经处在一个全新的学习时代。为此，我们需要一种新的方法，实现以人类繁荣为中心的人工智能在教育领域的部署。这不仅能加强学生的学习，还能使我们的后代以更加人性化的方式成长，从而帮助我们所有的孩子和我们的星球都能繁荣发展。