移动互联网

从建章立制到落地实施,十大AI治理事件背后的发展趋势

2022/1/26 18:50:00

从建章立制到落地实施,十大AI治理事件背后的发展趋势

全球人工智能发展进入新阶段催生了越来越多的应用场景,数据安全、隐私保护、技术监管等成为人们常议的热度话题,世界范围内引导AI向善的法律或规范也逐渐完善,为研究全球十大人工智能治理事件提供了更多权威参考标准。人民智库与旷视AI治理研究院第二次成立联合课题组,并邀请中国人工智能产业发展联盟(AIIA)作为课题支持单位,组织相关领域权威专家学者和企业代表,以《新一代人工智能伦理规范》中提到的六条原则为遵循,从理论价值、实践价值、新闻价值、研究价值等四个评价标准共同开展“2021年度全球十大人工智能治理事件”遴选、评议,力图从喧哗的舆论声音及理性的专家点评中透析出AI治理未来发展趋势,研判AI在各领域、各场景应用的新空间、新作为,使其可控可靠可信服务于人类对科技改善生活、增进福祉的美好愿景。

中国信息通信研究院副总工程师、中国人工智能产业发展联盟副秘书长 王爱华 2021年是全球人工智能治理极具实质性突破的一年。纵观全年的治理事件,全球人工智能治理呈现出三大发展特点。一是治理“趋实”。国际国内标志性立法进程事件都反映出人工智能治理向更具实质性的监管落地。二是治理“趋严”。全球针对人工智能已经开始深化严格治理。三是治理“趋细”。

 

人工智能治理的工作重点细化于典型场景中,且特别聚焦于自动驾驶、智慧医疗等领域。未来,将抽象的人工智能伦理原则、法律规范转化为具体实践,落实到技术、产品和应用中去,是产业界亟待加快推进的工作。中国人工智能产业发展联盟也将继续联合产业力量,探索可信人工智能的实践路径,推动人工智能产业健康有序地发展。

 

清华大学公共管理学院教授、人工智能国际治理研究院副院长 梁正纵观2021年度全球十大人工智能治理事件可以看出:人工智能治理已经成为全球共识,且已从理念层面进入到建章立制、落地实施的阶段。特别是在2021年中国发布了《数据安全法》《个人信息保护法》等重要的法律法规,在全球范围内,欧盟、美国以及联合国等组织也发布了关于人工智能的相关伦理道德规范、一些重要的法律法规,这意味着人工智能的应用已进入到一个普及阶段,社会各界人工智能应用方面的制度规范迫在眉睫。

 

除了自上而下的建章立制,自下而上的基于应用主体和用户选择的参与,也成为人工智能治理的一个重要特点,体现出 “多方参与、协同治理”的理念。在新的一年,人工智能治理会进入从建章立制到落地实施的阶段,这需要更多针对细分场景的细则和指引标准,进而推动相关法律法规的实施。

 

华东政法大学人工智能与大数据指数研究院院长 高奇琦:2021年的全球十大人工智能治理事件有三个特点:第一是无论在国家层面,还是在国际组织层面,都出现了较多的重要伦理和法律规则,AI治理受到社会广泛关注。从评选出的2021年度全球十大人工智能治理事件来看,至少有5个事件与人工智能治理的伦理和法律相关。这既包括在国家层面的两部重要立法,也包括像联合国教科文组织发布全球性人工智能伦理及治理规范。

 

第二是反映了人工智能仍然在加快应用。事件至少有两项内容是关于加快人工智能应用的,包括这里的自动驾驶汽车2021年在英国的合法化,以及脑机接口(人脑芯片)或明年使用等新闻。第三则是反映了社会大众关于人工智能治理的渐趋自觉的趋势。如在美国新提案,赋予社交媒体用户禁用算法的权利。同时中国人脸识别第一案,尽管案件赔偿的金额并不多,但还是有很强的标志意义,即社会大众对于人脸识别其实有一些伦理和价值方面的判断,这反映了社会大众的认知提高。

 

环球时报副总编辑 谢戎彬:从这次的十大人工智能治理事件,可以看出有三大特点:一是国内高度重视人工智能治理领域的法律法规建设,这基本上与国际最先进的国家与地区同步。二是非常重视有益于民众福祉的重大技术事件。技术没有善恶之分,如果能借助算法、法律、法规、道德等多维度,让他们更好地为人类谋福利,那将是一个非常重要的方向。三是本次评选也关照到新技术对于一些特殊群体带来的帮助,比如人脑芯片的应用或为瘫痪者带来希望,人脑芯片脑机接口等技术不仅国外在加速落地,中国的多家科研院所与高科技企业也在关注。

 

京东探索研究院院长、澳大利亚科学院院士 陶大程2021年全球AI治理的一系列重要事件,均反映出当前社会、产业界对AI可控可靠、透明可释、隐私保护等方面的急切诉求。从单个事件来看,例如对自动驾驶事故的顾虑、责任划分的担忧,反映出人工智能因为缺乏可解释性,在更广泛的应用上受到了限制。从综合的角度,或者说长期发展的角度来看,人工智能基础理论创新的缺失会对其后继发展带来极大隐患。业界对可信、安全、隐私保护等方面增加关注,是对一系列隐患的回应,也是对潜在风险的预先规避。

 

全球AI治理事件反映出,增强用户信任、发展可信人工智能是当前的一项共识,不仅为人工智能技术发展和转化应用所面临的一系列问题及时地提供相对可行的解决方案,也是人工智能伦理的一项核心而长期的工作。

 

科大讯飞高级副总裁 江涛:2021年是人工智能快速发展的一年,各种人工智能应用百花齐放,社会对人工智能进一步应用会不会存在技术滥用,会不会存在AI伦理问题,也有更多地思考和讨论。我们相信未来人工智能的应用不会取代人类,而是在人和机器的协同中不断让人的生活更美好,让整个社会的运行更高效,未来AI前景光明。

 

我们相信随着技术的不断发展,这个技术可以应用的场景会越来越多。我相信有价值的AI,不是为了让这个社会更焦虑,让年轻人更沉迷,而是要让用户感受到更多的温暖,让用户有获得感。只有这样的AI才是有价值的AI。未来AI客服、AI经理、AI店长、AI演示员等,越来越多的人工智能应用场景会出现,让我们切切实实地体会到人工智能在整个运行中为我们提升社会运行的效率,让人工智能建设美好世界的伟大理想会一步一步地变成现实。

 

旷视科技联合创始人兼CEO 印奇这是第三年评选全球十大人工智能治理事件,相比而言,2021年一个显著趋势是与人工智能治理、算法治理、数据治理相关的法律法规更加完善,对人工智能技术和应用的细分场景给出了更精细的标准和引导。这些举措对整个AI行业的可持续发展来说是重大利好。此外,AI在增进人类福祉方面继续向前、向深发展。

 

作为全球科技竞争的关键领域,AI不仅需要在技术创新和应用落地上下功夫,也需要在治理上使力气。人工智能既是我们创造美好生活的重要手段,也是需要妥善治理的对象。AI治理的向上向善发展需要理性的关注、深度的研究、建设性的讨论和坚持不懈的行动,也离不开所有AI从业者和社会各界的多元共治、共同努力。

 

 

2021年度全球十人工智能治理事件与专家观点

 

事件一、强化数据安全,相关法律法规陆续发布

《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)2021年11月1日正式实施;《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》2021年8月1日正式实施;《中华人民共和国数据安全法》(以下简称《数据安全法》)2021年9月1日正式施行;《网络数据安全管理条例(征求意见稿)》发布。(来源:综合自经济参考报、科技日报、央视新闻客户端、中国新闻网等)

 

魏凯  中国信息通信研究院云计算与大数据研究所副所长

2021年,备受关注的《数据安全法》与《个人信息保护法》出台,与《网络安全法》共同形成了数据治理法律领域的“三驾马车”,标志着我国数据安全法律架构已初步搭建完成。在此基础上,聚焦重点行业、新兴技术的数据安全法律法规和司法解释也在2021年密集出台,充分体现了我国在数据立法方面的前瞻性和创新性,为加快培育数据要素市场、保障数字经济健康发展奠定了坚实的制度基础。

 

刘亚单  数字广东网络建设有限公司产品研发部总经理

数据安全事关国家安全和经济社会发展,提升数据安全治理能力是我们在新形势下需要着力解决的突出问题。我国首部针对个人信息保护的专门性立法、我国第一部数据安全领域的专门法律等相继发布生效,共同构成了我国数据安全保护领域的基本法律框架,使数据安全保护在上位法层面得到完善,为数据安全释放价值提供了合规指引。标志着我国数据安全立法保护开启了历史新篇章,为明确数据产权与利用规则奠定了基础,推动了我国公共数据共享、开放和利用走向“规范化”发展道路,也是全球个人信息法治发展的重大里程碑,对隐私计算等人工智能技术商业利用的合规性操作具有重大意义。

 

事件二、欧盟发布针对人工智能技术的监管法规草案,呼吁禁止公共场所人脸识别

2021年4月21日,欧盟首次发布针对人工智能技术的监管法规草案。草案中,AI的一系列应用范围都受到了不同程度的限制。当地时间10月6日,欧盟通过禁止警方在公共场所使用面部识别技术的决议,并对其使用AI进行预测性警务活动实施严格限制措施。(来源:综合自AI科技评论、51cto等)

 

程祥  北京邮电大学计算机学院副教授

在数据保护和人工智能技术的监管方面,欧盟一直前瞻性地走在立法实践的最前端。2018年生效的《欧盟数据保护通用条例》在世界范围内率先定义了个人数据所有权的规则,推动了数据隐私保护技术在业界的大规模应用,限制了企业为追逐经济效益而对用户隐私的侵害。而欧盟2021年4月针对人工智能技术的监管法规草案更是立志于为符合伦理的人工智能技术的发展铺平道路,并通过禁止“无差别地大规模监控”来进一步地保护个人隐私。这些法规的确立揭示了人工智能技术的应用与公民个人隐私之间的矛盾。因此,与数据挖掘和机器学习相关的隐私保护技术亟待发展,以支撑相关法规的落地实施。

 

杨丹辉  中国社会科学院工业经济研究所资源与环境研究室主任、研究员

禁止公共场所人脸识别,不仅反映出欧盟对AI领域风险防控的高度重视,实则也是其对新一代信息相关新技术新模式新业态的一贯立场,这种相对保守的思路,一方面集中体现了欧盟注重技术治理的“根部”问题及其强大的制度建设能力;另一方面则是欧盟在AI技术创新水平的真实状况。因此,欧盟利用自身优势,做制度和法规的构建者,并以此争夺治理的话语权。针对欧盟的这一规定,一些互联网巨头公开反对禁止人脸识别的“一刀切”做法,认为应积极探索更加灵活、富有弹性、平衡效用与安全的监管方式。

 

事件三、国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》

2021年9月25日,国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》,提出增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。旨在将伦理道德融入人工智能全生命周期,为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。(来源:科技部)

 

何宝宏  中国信息通信研究院云计算与大数据研究所所长

2021年,发布《新一代人工智能伦理规范》,细化落实《新一代人工智能治理原则》,是我国深化人工智能治理工作的又一重大举措。人工智能技术以数据、算法为驱动,发展速度迅猛,正在深刻改变人类的社会生产和生活模式。但人工智能技术的滥用也不断冲击社会伦理底线、侵犯个人权益。所以,既要大力发展人工智能,又要高度重视风险和挑战,科学处理好发展和治理的关系,发展可信的人工智能。

 

王晓飞  天津大学智能与计算学部教授

本事件代表从国家到社会各个层面都意识到了人工智能伦理的重要性。在AI还未全面深入到各行各业之前,将能够预想到的伦理问题进行梳理和规约,是非常及时且正确的一个做法,未来随着AI算力和算法的逐渐变强,伦理规范也要与时俱进、逐年升级,从根本上奠定“AI服务人类,AI服务社会”的基调。

 

事件四、联合国发布全球性人工智能伦理及治理规范

世界卫生组织于2021年6月28日正式发布“世界卫生组织卫生健康领域人工智能伦理与治理指南”。联合国教科文组织2021年11月25日举行新闻发布会,介绍该组织正式通过的首份人工智能伦理问题全球性协议。(来源:综合自联合国教科文组织、科技日报等)

陈跃红  南方科技大学人文社会科学学院院长、人文中心主任

人工智能正在被用于提升治疗的速度和精准度以及疾病的筛查,协助临床护理,加强卫生研究与药物研发,支持疾病监测,疫情应对和卫生系统管理等多种公共卫生干预措施。但是随之带来的法律和伦理治理挑战也日益紧迫。世界卫生组织这一历史性文本试图协调共同的价值观和原则,用以指导建设必需的法律框架来确保人工智能的健康发展。

 

郭继承  中国政法大学思政研究所副教授

我们应该聚焦人工智能发展的两个基本方面:一是人工智能的发展会怎样影响人类文明;二是人类在法律和伦理层面如何规范人工智能的应用,使之真正造福人类。第一个问题涉及的是人工智能的发展和应用情况,聚焦工具能力;第二个问题涉及到如何规范人工智能的应用,聚焦的是如何正确驾驭工具为人类所用。一言以蔽之,工具能力和如何驾驭工具能力,这是我们面对人工智能发展需要正视的基本问题。

 

事件五、强化算法综合治理,防范算法滥用风险,用户可选择关闭算法推荐

2021年9月,九部委印发《关于加强互联网信息服务算法综合治理的指导意见》,要求防范算法滥用风险,维护网络空间传播秩序、市场秩序和社会秩序。2021年12月31日,国家互联网信息办公室等四部门联合发布《互联网信息服务算法推荐管理规定》。(来源:综合自国家互联网信息办公室、人民日报、新华社等)

 

郭兵  浙江理工大学法政学院特聘副教授、杭州长三角大数据研究院副院长

当前,算法推荐等技术已经被广泛应用于电商平台、新闻平台、视听平台、社交平台等诸多应用场景中。算法推荐等技术为网络用户和网络平台带来便利和经济利益的同时,也引发了一系列新的法律问题。如何平衡好算法推荐等技术的创新发展与安全风险,成为了算法治理的一大难题。无论是《关于加强互联网信息服务算法综合治理的指导意见》,还是《互联网信息服务算法推荐管理规定》都是应对算法滥用风险等难题的有益制度探索。

 

张凌寒 北京科技大学法学院副教授、国家人工智能伦理与道德标准小组成员

2021年堪称中国算法治理元年。2021年伊始算法进入监管视野,监管部门展开系列算法执法活动。世界第一部系统性、全面性规制算法的法律文件《算法推荐管理规定》出台实施。《指导意见》宣布我国将在三年内建立起算法综合治理体系。欧盟和美国在数据保护立法领域走在了中国之前,算法规制方面中国则当仁不让地开世界先河。我国的算法治理体系以信息安全、市场竞争秩序和消费者权益保护为指导思想,《算法推荐管理规定》则确立了算法提供服务者的算法全生命流程监管责任,并构建了用户权益,尤其是未成年人、老年人和平台劳工等社会弱势群体的保护制度。2021年的算法综合治理活动与相关立法,使得我国率先建立了世界上最为完备的囊括数据安全、个人信息保护和算法安全的互联网治理体系。

 

事件六、自动驾驶汽车2021年或在英国合法化

英国《卫报》报道,英国将推行计划,允许安装自动车道保持系统(Alks)技术的新车型在没有司机插手的情况下上路行驶。英国交通部长麦克莱恩(Rachel Maclean)表示,这是“英国安全使用自动驾驶车辆的一大进步,它使未来的出行更加绿色、便捷和可靠”。(来源:51cto)

 

宁阳  华北电力大学教授

“自动驾驶汽车或在英国合法化”入选2021年全球十大人工智能治理事件,引起各方高度关注。这一方面标志着自动驾驶技术越来越走向成熟,它可能使未来出行变得更加绿色、便捷和可靠,并将促使道路交通和商业保险等相关法规的重新修订,另一方面也会增加人们对于自动驾驶安全性的担忧和丧失驾驶体验感的顾虑。但不管对其作出何种评价,这无疑是一项崭新的技术革命,自动驾驶市场前景广阔,必将成为科技巨头角逐的下一个行业蓝海。

 

王飞跃  中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任、研究员

对于开放场景下的无人驾驶,欧美在法律制定、标准及政策等方面比中国更加灵活,而中国则因为对监管、人权和安全更加看重,目前仍处于“道路测试”或者“试运营”阶段。但在提升行业智能化水平等需求的推动下,中国在封闭或半封闭场景(如矿区、港口等)正在逐步落地无人驾驶,并已从技术上实现无安全员。通过平行驾驶,让人工系统对真实世界车辆和道路建模,构建软件定义的车辆及车路系统,同时建立控制计算中心,对真实数据及虚拟数据进行联合优化,以虚实结合的方式保证无人驾驶的安全性,加速无人驾驶的商业化和规模化落地。

 

事件七、美国新提案将赋予社交媒体用户禁用算法的权利

国外媒体报道,美国众议院一个由两党议员组成的小组提出一项法案,要求Meta旗下Facebook和Google等互联网平台允许用户查看非算法选择的内容。共和党众议员巴克在一份声明中表示:“消费者应该有权选择如何使用互联网平台,而不必受到由特定用户数据驱动的秘密算法操纵。”(来源:TechWeb)

 

张军平  复旦大学计算机科学技术学院教授、博导

社交媒体用户在使用互联网平台获得便利的同时,也有可能在不知情的情况下泄露自己的隐私。因此,明确赋予社交媒体用户禁用算法的权利,本质上就是在保护公民的隐私。

 

事件八、AI增进人类福祉新方向:AI干预自杀、AI手语主播、AI气候预测

中科院心理所研究员朱廷劭通过AI算法开发了自杀意念识别模型,并组织志愿者团队给予干预和救助。央视新闻联合百度智能云打造的总台首个AI手语主播正式亮相。此外,科大讯飞、爱奇艺等企业均先后推出善用手语表达的仿真AI主播。世界地球日当天,达摩院与南京信息工程大学、国家气候中心等联合举办业界首个AI气候预测大赛,AI首次预测未来两年气候。(来源:综合自凤凰网、科技日报等)

 

潘天群  南京大学哲学系教授、博导,南京大学科学技术与社会研究所所长

当代社会有抑郁等心理障碍的人越来越多,因心理问题而自杀的人也越来越多。在网上“树洞”进行倾诉是心理障碍者缓解压力的一个重要渠道。该软件的应用及推广,在其他手段的配合下,能够阻止更多意图自杀的人。当然该软件需要弥补其先天的伦理缺陷:网上倾诉是个人隐私,基于“树洞”的自杀干预本身意味着“树洞”本身不是“黑洞”。该软件公益性强、社会价值巨大,也意味着基于网上的资源可以开发出各种具有公益价值的软件。

 

江涛  科大讯飞高级副总裁

AI主播技术本质是以情感贯穿从文本语义到语气、到面部表情等的后台逻辑,在虚拟世界中打造一个真实的助手或合作伙伴。该技术在受到火热追捧的同时,也面临严峻的技术挑战,如更多视频融合元素、虚拟人情感、丰富虚拟人技能、场景化主题、情感化决策融入虚拟人设计中等。期待在不久的将来,拓展出更多领域的虚拟人落地应用,实现虚拟人的“面对面”互动交流、业务咨询、智能问答、服务导览等,让人们切实体会到“人工智能建设的美好世界”。

 

事件九、人脑芯片或2022年使用,瘫痪者迎来希望

当地时间2021年12月7日,在《华尔街日报》CEO理事会峰会上,马斯克表示其脑机接口技术公司Neuralink研发的微芯片装置有望2022年植入人类大脑,为瘫痪者带来希望。(来源:武汉晨报)

 

唐磊  中国社会科学院政治学所研究员,中国社会科学院大学政府管理学院副院长

脑机对接技术是科幻小说、电影中被反复设想的场景,是突破人的极限的关键一步。目前,脑机接口技术正处于第三个阶段——技术爆发阶段。医疗健康领域是脑机接口最初、最直接和最主要的应用领域,也是目前最接近商业化的应用领域。这将为人类带来巨大福祉。但是,脑机接口在军事领域如果实现“替代”和“增强”方向,就可能给人类带来巨大灾难。技术进步不以人的意志为转移,潘多拉盒子一旦打开,人类自身能否完美控制技术服务人类的方向,还是一个未知数。

 

李金龙  招商银行人工智能实验室主任

脑机接口的应用前景广阔,可以为瘫痪者带来希望,也可以提升在VR、元宇宙等数字场景下的玩家体验。通过脑机接口技术,我们可以将大脑信号转换成数字指令,不仅可以延伸在物理世界的操作能力,同时也可以更加自然地体验虚拟世界。而微芯片的研发,使该技术更加容易被使用,从实验环境走向用户市场。但是,人类对自身大脑的研究还有很长的路要走,对大脑认知机理也缺乏充分的理解,因此脑机接口技术的使用还需谨慎,特别是植入芯片的潜在风险需要多方考量和验证。

 

事件十、人脸识别第一案在浙江省杭州市中级人民法院迎来终审宣判

2021年4月,“人脸识别第一案”在浙江省杭州市中级人民法院迎来二审判决:判决维持杭州野生动物世界赔偿郭兵合同利益损失及交通费共计1038元;删除郭兵办理指纹年卡时提交的包括照片在内的面部特征信息,以及指纹识别信息;驳回郭兵的其他诉讼请求。(来源:综合自新京报、钱江晚报等)

 

石霖  中国信息通信研究院云计算与大数据研究所人工智能部副主任

近年来,人脸识别技术创新发展,被广泛应用于公共安全、金融支付、交通出行等领域,也暴露出仿冒攻击、信息滥采、数据泄露等问题,屡屡成为社会焦点。“人脸识别第一案”终审判决之后,我国颁布法律规定对包括人脸信息在内的生物识别信息进行专门性的保护,体现了我国重视个人信息特别是生物识别信息保护的态度和决心。中国信通院云大所也紧跟热点,发起成立了“可信人脸应用守护计划”,重点针对人脸识别技术安全、人脸信息处理合规,联合各方共同探索可信人脸应用范式,促进人脸识别的有效治理和产业健康发展。

 

刘伟  北京邮电大学人机交互与认知工程实验室主任、科技委人机融合智能组首席科学家

大数据让生活越来越方便,但任何技术都不应背离以人为本的原则。“人脸识别第一案”体现了个人信息主体对于个人信息保护关注度的提升,社会公众对于人脸识别信息的重视度日益增加;也体现了司法层面对于个人信息的保护,已充分关注到企业收集使用个人信息必须遵守“合法、正当、必要”三原则;同时也为企业敲响了警钟,提醒企业在收集使用个人信息的业务中应当更加注重合法合规,防止因处理个人信息不当造成企业风险,防止因此陷入民事诉讼或行政处罚乃至牵涉到刑事责任。

 


版权声明
本文仅代表作者观点,不代表艾瑞立场。本文系作者授权艾瑞专栏发表,未经许可,不得转载。
  • 合作伙伴

  • 官方微信
    官方微信

    新浪微博
    邮件订阅
    第一时间获取最新行业数据、研究成果、产业报告、活动峰会等信息。
     关于艾瑞| 业务体系| 加入艾瑞| 服务声明| 信息反馈| 联系我们| 广告赞助| 友情链接

Copyright© 沪公网安备 31010402000581号沪ICP备15021772号-10

扫一扫,或长按识别二维码

关注艾瑞网官方微信公众号