人工智能治理体系如何平衡包容?中外专家把脉建言******
中新网北京12月4日电(记者 孙自法)作为有望引领人类未来变革的一项战略性技术,人工智能(AI)近年来在快速发展并赋能千行百业的同时,也带来安全、隐私、公平等系列问题和挑战,人工智能治理概念应运而生,备受关注。
由清华大学主办、联合国开发计划署支持的2021人工智能合作与治理国际论坛12月4日在北京开幕,中国科技部副部长李萌致辞时形象表示,“我们现在正站在智能化社会的门槛上,人工智能这条大船正载着我们向智能化世界驶去,而治理正是随时校正大船航向,确保大船行稳致远”。
在随后举行的“如何构建一个平衡包容的人工智能治理体系”主论坛上,中外专家学者线上线下对话,把脉人工智能发展,聚焦治理体系构建。
中国国家新一代人工智能治理专业委员会主任、清华大学人工智能国际治理研究院院长薛澜提出,人工智能治理直面数据、算法、算力、场景等四大要素挑战,价值导向上要坚持人工智能技术安全可控的底线思维、维护个人权益尊严与平等的人本思维、人工智能赋能经济社会发展的发展思维和人工智能促进可持续发展的全球思维,遵循“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共同责任、开放协作、敏捷治理”的治理原则,着重从“包容、共享、审慎、负责”价值原则来平衡人工智能治理中的发展和安全需求,形成人工智能治理机制的价值共识,推动实现全球协同治理。
关于“审慎”价值原则,薛澜强调,要对人工智能治理给出明确的安全底线,既不能放任不管,任其野蛮生长,也不能出现“一管就死”,避免矫枉过正。
世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克表示,人工智能是第四次工业革命的代表性技术,人工智能治理旨在促进具有人类价值的人工智能创新发展,以造福人类和地球,因此,人工智能治理应遵循人工智能发展规律,具有开放的多利益相关者共治的结构,应综合运用技术、规则、教育等多种工具,并有效植入到人工智能应用平台之中。他还特别强调,不仅要发展人工智能各式各样的应用技术,还要发展一批保护隐私和公平、加强监管的人工智能治理支撑技术。
联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良指出,人工智能不是万能灵药,它的好坏取决于使用人工智能的人及数据基础、治理标准。“我们需要全面地看待人工智能,需要跨越国界、跨行业和跨代际的合作,来制定必要的治理框架”。他说,国际机构和国家间的合作至关重要,联合国教科文组织最近通过有关人工智能伦理的提案,得到许多成员国的支持,这是积极的一步。联合国开发计划署已做好准备,为政府和其他利益攸关方构建人工智能治理框架提供支持,让人工智能成为推动可持续发展的重要力量。
“为什么我们需要一种新的、21世纪国际合作方式来治理人工智能?”卡内基理事会资深研究员、人工智能与平等倡议联席主任温德尔·瓦拉赫认为,首先是以数字和生物革命为代表的新兴技术正在重新定义人类的意义,并且重塑世界和未来前景;二是技术速度远远快于道德和法律监督到位的速度,新的人工智能部署的绝对普遍性和速度,颠覆了行业政府、传统机构以及与人们生活息息相关的社会技术结构;三是人工智能和机器学习存在基本控制问题,作为关键系统组建部署时会构成潜在危险。
他说,建立一个合作的人工智能国际治理机制,应该是敏捷的、适应性的、预见性的、响应性的、包容性的,“但是我们应该很清楚,如果没有中国和美国的参与,所有人工智能国际治理方案都只能是幻想。如果不大力转向国际合作,我们将无法成功度过未来几十年”。
“今天社会不仅仅是外卖小哥被困在算法里,我们每个人都被困在各式各样的算法里。”清华大学智库中心主任、智能社会治理研究院院长苏竣认为,人类即将从工业社会迈向以科技进步和智能技术为基础的智能社会,人工智能技术在颠覆性地重组人类社会的同时,也给人类社会的法律隐私、道德伦理、公共治理带来诸多严峻挑战。
他说,技术是中性的,算法是无辜的,在这场人工智能掀起的人类社会巨变中,需要科学的方法研究和应对科技发展带来的种种风险、问题和挑战。“开展人工智能社会实验、探索智能社会治理的中国道路”的倡议自2019年发起以来,经过两年多努力,已在全国有序展开,实现智能技术治理与智能社会治理齐头并举,将为构建有人文温度的智能社会作贡献。
加拿大国际治理创新中心总裁罗欣顿·麦德拉指出,人工智能治理体系在数据领域,要有全球所有国家都接受的数据伦理方面的标准,包括如何搜集数据、收集谁的数据、如何储存数据、如何整合数据、如何分析数据、如何加密、如何保证数据安全、如何使用数据等,“在全球层面共同创建普遍性的标准,它需要很多很多的努力,这就是我们这个世纪的治理挑战”。针对现在越来越多的全球价值链当中,因为机器的替代,很多工作机会被失去的问题,他建议由来自不同社会、不同文化或宗教背景的哲学家组建一个全球性委员会,来思考应对和解决之策。
清华大学人工智能国际治理研究院副院长梁正表示,当前,中国人工智能发展水平已跻身世界第一梯队,也肩负着参与国际治理规则制定的职责。因此,如何助力全球社会共同构建一个平衡包容的人工智能治理体系,需要进行系统思考,开展国际对话。(完)
【光明论坛】激活数据潜能 建设数字中国******
【光明论坛】
作者:支振锋(中国社会科学院习近平新时代中国特色社会主义思想研究中心研究员、法学研究所研究员)
数据作为新型生产要素和资源形态,日益成为驱动经济社会发展的基础。近日,中共中央、国务院出台《关于构建数据基础制度更好发挥数据要素作用的意见》(以下简称“数据二十条”),围绕如何建立和健全关于数据要素基础制度体系提出了全面系统的意见,为做好数据权益配置和风险防控提供了明确的政策指引,也为激活数据潜能和促进数字经济发展作出了有力的制度安排。
数据是映射大千世界的符码,数据中自有大千世界。宇宙星空、山川河流、鸟兽虫鱼、人类行为、国家治理、社会百态……万物皆产生数据,万物皆可被数据化。自人类社会产生起,数据就承载着人类对自然万物、生产生活的记录和表达。从传统数据到网络数据,从“小数据”到“大数据”,数据日益成为理解万事万物最微观、最奇妙的元素。在信息化发展新阶段,数据爆发增长、海量集聚,量的累积逐渐引发质的飞跃。万物互联、人机交互、天地一体的网络空间内,大数据技术使数量巨大、来源分散的图像、声音、文件等非结构化数据得以被广泛搜集、存储、利用,使分析、预测、捕捉隐藏在自然万物和人类社会的深层逻辑成为可能,人类认知的敏锐性和洞察力得到极大提升。
数据基础制度建设事关国家发展和安全大局。数据原是伴随自然与人类而产生的寻常事物,但数字技术为其赋予了无尽潜能。作为新型生产要素,数据已成为数字化、网络化、智能化的基础性资源,并快速融入生产、分配、流通、消费和社会服务管理等各环节。通过数据,可以更好地理解自然和社会的运行规律,推动生产力发展,优化生产关系,丰富人类生活,促进国家和社会治理。但数据并非自在之物,而是人类协作与互动的结果。数据不仅承载着个人、市场主体与国家的大量信息,关系到公民个体人格权益、市场主体财产权益以及国家安全和社会公共利益;还呈现出不同于传统知识产权的全新特点。如何既鼓励数据的充分流通利用,又通过制度设计进行科学合理的权益配置和风险防控,就成为信息时代制度创新的重大课题。
数据相关权益配置,是数据基础制度的基础。作为世界第二数据大国,我国深刻认识到大数据作为推动经济转型发展的新动力、重塑国家竞争优势的新机遇、提升政府治理能力的新途径所具有的战略意义。2021年公布实施的《数据安全法》明确提出“保障数据安全,促进数据开发利用”。但数据流通利用除供需双方外,还涉及协助数据产品开发的第三方服务商,情形复杂、链条悠长、风险突出。为推进数据合法合规交易,我国多年来一直在探索数据交易所建设。在此背景下,此次意见提出探索数据资源持有权、数据加工使用权、数据产品经营权等结构性分置的产权运行机制,推进实施公共数据确权授权机制,推动建立企业数据确权授权机制,是对数据相关权益合理配置这个世界性难题的创新性开拓。
促进数据流通和交易是数据基础制度的核心。数据交易是新业态,也带来新问题。由于数据的无形性和可复制性,除了不易计量、难于定价且合规评估复杂外,交易一旦达成,无论是买方发现“货不对版”,还是卖方认为数据已被使用,都“无法退货”。如何确保数据需求方接收到的数据来源合法合规,数据提供方交易后的权利得到充分保障,决定着数据制度体系的成败。此次意见尝试构建促进使用和流通、场内场外相结合的交易制度体系,规范引导场外交易,培育壮大场内交易,试图建立数据来源可确认、使用范围可界定、流通过程可追溯、安全风险可防范的数据可信流通体系,必将推动鼓励数据流通利用的制度创新。
数据要素收益分配制度是数据基础制度的重点。作为新型生产要素和资源形态,数据要素不断创造新的价值,也不断产生利益纷争。针对数据收益分配问题,此次意见既坚持充分发挥市场在资源配置中的决定性作用,按照“谁投入、谁贡献、谁受益”原则,健全数据要素由市场评价贡献、按贡献决定报酬机制,强化基于数据价值创造和价值实现的激励导向,平衡兼顾数据内容采集、加工、流通、应用等不同环节相关主体之间的利益分配;也努力做到有为政府和有效市场相结合,强调完善数据要素收益的再分配调节机制,让全体人民更好共享数字经济发展成果。
党的二十大报告提出加快建设网络强国、数字中国,加快发展数字经济,促进数字经济和实体经济深度融合,打造具有国际竞争力的数字产业集群。“数据二十条”的出台和落地实施,有利于从历史和全局维度深刻认识数据要素的战略价值,充分发挥我国海量数据规模和丰富应用场景优势,推进数字产业化和产业数字化,推动实体经济和数字经济融合发展,增强经济发展新动能,塑造人类文明新形态。
《光明日报》( 2023年01月04日 02版)
(文图:赵筱尘 巫邓炎)