发布时间:2024-08-29 03:17:26 来源: sp20240829
近年来,全球人工智能技术快速发展,应用日益广泛。特别是以ChatGPT为代表的生成式人工智能,在诸多领域催生创新应用,为各行各业带来更多机遇。
在赋能人类社会经济发展的同时,人工智能的“狂飙突进”也伴随着安全隐患和风险挑战。特别是人工智能技术对法律、伦理和人道主义层面的冲击及其对国际政治、经济、军事、社会等领域带来的复杂影响,已引发国际社会的关注和讨论。人工智能的跨国界合作与规范性治理显得尤为迫切。
本月初,包括中国、美国、英国和欧盟在内的28个国家和地区,在首届人工智能安全峰会上签署《布莱奇利宣言》,同意协力打造一个“具有国际包容性”的前沿人工智能安全科学研究网络,以对尚未被完全了解的人工智能风险和能力加深理解。
而在今年10月,中国在第三届“一带一路”国际合作高峰论坛期间提出《全球人工智能治理倡议》(下称“倡议”),围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理的中国方案,为全球人工智能治理提供了建设性解决思路。
以人为本 智能向善
中国在倡议中提出,发展人工智能应坚持“以人为本”理念,以增进人类共同福祉为目标,以保障社会安全、尊重人类权益为前提,确保人工智能始终朝着有利于人类文明进步的方向发展。积极支持以人工智能助力可持续发展,应对气候变化、生物多样性保护等全球性挑战。
中国科学院自动化研究所人工智能伦理与治理中心主任曾毅认为,人工智能作为社会发展的“赋能性”技术,首要服务于提升人类福祉,因此要确保人工智能技术的稳健与安全。中国在倡议中明确提出“以人为本”,体现出这是一个面向全球和全人类的治理方案。
人工智能的发展,是否会打开令人意想不到的“潘多拉魔盒”?在对外经济贸易大学数字经济与法律创新研究中心主任张欣看来,人工智能特别是生成式人工智能的发展,既导致传统技术风险加剧,又带来了一系列新兴风险,影响社会伦理秩序,带来了一系列安全和伦理挑战。
“人工智能技术风险具有隐蔽性、跨域性、全球性、长期性。尽管当前有一系列法律法规、伦理规范和技术标准对人工智能进行治理,但资本逐利的倾向可能导致技术异化,这就需要从国际层面展开持续性、系统性和协同性的治理努力。”张欣说。
在倡议中,中国明确提出,发展人工智能应坚持“智能向善”的宗旨,遵守适用的国际法,符合和平、发展、公平、正义、民主、自由的全人类共同价值,共同防范和打击恐怖主义、极端势力和跨国有组织犯罪集团对人工智能技术的恶用滥用。
事实上,今年以来,包括美国、英国、欧盟在内的多个国家和地区已着手开展人工智能的治理工作,并提出各自的治理方案。清华大学战略与安全研究中心特约专家朱荣生分析指出,这些方案有的聚焦于治理原则,有的则是抛出行动准则,但国际社会目前最需要的是能够突出反映国际共识、提纲挈领的文本,而中国的倡议恰恰为人工智能治理的共识性文本提供了重要基础。
健全法制 伦理先行
中国是人工智能大国。数据显示,中国人工智能核心产业规模达到5000亿元,企业数量超过4300家,创新成果不断涌现。世界知识产权组织的数据显示,2022年中国企业和机构申请了近3万项人工智能相关专利,占全球人工智能专利申请的40%以上。
在技术和相关产业发展的同时,中国一直致力于提升人工智能技术的安全性、可靠性、可控性、公平性。
今年4月,中国国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》,支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,同时明确提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,禁止非法获取、披露、利用个人信息和隐私、商业秘密。
在倡议中,中国同样提出逐步建立健全法律和规章制度,保障个人隐私与数据安全;坚持伦理先行,建立并完善人工智能伦理准则、规范及问责机制,形成人工智能伦理指南,建立科技伦理审查和监管制度;坚持公平性和非歧视性原则,避免产生针对不同或特定民族、信仰、国别、性别等偏见和歧视等。
张欣表示,当前全球人工智能治理法治化特征日益凸显,逐步转向“软法与硬法双轨并行、刚柔并济”的新型治理模式。“中国提出建立并完善人工智能伦理准则、规范及问责机制等倡议,既符合国际治理趋势,又能有效应对人工智能技术带来的新挑战,体现了中国在全球人工智能治理秩序构建进程中的建设性贡献”。
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括指出,目前部分国家和地区面对人工智能的快速发展,在认知和治理能力上存在不足,还有部分国家利用技术优势,推行技术霸权,损害了其他国家和人民的发展利益。“各方应携手落实中国倡议,妥善应对科技发展带来的规则冲突、社会风险和伦理挑战”。
平等发展 弥合差距
国际货币基金组织的一项研究发现,人工智能等新技术可能使更多投资转向已经实现自动化的发达经济体,从而拉大富裕与贫困国家之间的差距。专家指出,在人工智能领域,发展中国家与发达国家之间存在“智能鸿沟”与治理落差,面临着与发达国家在科技和产业发展方面的“代差”风险。
对此,中国在倡议中提出,各国无论大小、强弱,无论社会制度如何,都有平等发展和利用人工智能的权利。增强发展中国家在人工智能全球治理中的代表性和发言权,确保各国人工智能发展与治理的权利平等、机会平等、规则平等,开展面向发展中国家的国际合作与援助,不断弥合智能鸿沟和治理能力差距。
朱荣生表示,目前人工智能发展与治理存在着“强者先行、强者定法”的短期特征,一些技术基础较为薄弱的发展中国家可能会落入“弱者落后、遵从强者”的困境。“中国支持发展中国家参与人工智能全球治理规则制定,并呼吁通过基础设施、人才培训、联合研发、市场交流等方式与发展中国家展开国际合作和援助,这对于人工智能的全球治理具有重要意义。”
在首届人工智能安全峰会上,中国提出,作为发展中国家的一员,中方愿与各方就人工智能安全议题加强交流和沟通,反映“全球南方”对新兴技术的普遍关切,为推动形成普遍参与的国际机制和具有广泛共识的治理框架贡献智慧,促进人工智能技术更好造福于人类,促进全球可持续发展,共同构建人类命运共同体。
中国现代国际关系研究院研究员张力认为,倡议回应了国际社会尤其是广大发展中国家对人工智能发展的普遍担心和关注,充分考虑到广大发展中国家担忧人工智能技术发展会对其国家安全和主权造成威胁的诉求。中国在人工智能治理这一国际社会重大议题上为广大发展中国家代言发声,体现了中国推动完善全球治理的大国担当。
多个国家和地区关注人工智能治理
欧 盟
今年6月,欧洲议会全体会议表决通过《人工智能法案》提案的谈判授权草案,这一法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。这是全球首部有关人工智能的法规。该法案草案的一个突出特点是注重基于风险来制定监管制度,以平衡人工智能的创新发展与安全规范。
美 国
今年10月30日,美国总统拜登签署一项行政命令,为人工智能安全制定新标准。这一行政令要求,美国最强人工智能系统的研发人员需与政府分享其安全测试结果及其他关键信息;完善相关标准和测试工具,确保人工智能系统安全、可靠;制定严密的合成生物检查新标准,防范使用人工智能设计危险生物材料的风险;建立检测人工智能生成内容和验证官方内容的标准和最佳实践,以帮助民众防范人工智能驱动的欺诈;建立先进的网络安全计划,开发人工智能工具查找和修补关键软件漏洞;研发制定“国家安全备忘录”,指导人工智能和安全方面的进一步行动。
其他国家
日本、新加坡、加拿大和德国等根据各国科技基础能力与战略发展需求形成了各有侧重的立法方向。日本面临人工智能安全带来的法律问题,选择从个人信息和数据保护入手,通过明确数据主体的权责划分,推动政府和企业形成协同研发网络,构建有利于人工智能安全发展的生态系统。德国的人工智能安全相关立法关注技术对经济和生活的影响,重点关注自动驾驶、智能医疗等紧扣改善人类经济和生活的主题。新加坡和加拿大则重点关注人工智能这一战略性技术为经济、社会赋能的价值,从数据、安全监管入手开展相关立法。
资料来源:新华社、国务院发展研究中心国际技术经济研究所等
本报记者 刘 峣 来源:人民日报海外版 【编辑:唐炜妮】