2022 世界互联网大会:人工智能产业方向与伦理取向引关注

2025-06-27
来源:万象资讯

21世纪经济报道 记者郭美婷、诸未静 乌镇报道

自2016年起,便陆续战胜了职业围棋九段高手李世石以及位列世界第一的围棋冠军柯洁。近年来,机器学习在无人驾驶技术、医疗诊断等领域取得了显著成就,甚至在文学创作、绘画以及诗歌创作等方面也实现了不俗的进步。

以人工智能为核心的新科技浪潮正重塑全球创新格局,同时也在重新构建全球经济架构,这不仅为各国带来了更宽广的发展空间,同时也引发了包括安全与伦理在内的多重风险和挑战。

2022年11月10日,在浙江乌镇举办的2022年世界互联网大会的最后一场分论坛——“人工智能与数字伦理”正式拉开帷幕。此次论坛的主题是探讨“人工智能的产业趋势与伦理导向”,重点探讨了人工智能在技术、应用以及产业发展过程中所面临的安全风险治理以及数字伦理的构建问题。

人工智能治理的紧迫性日益凸显,我们必须探讨如何推动安全、可信、可控、可靠以及可扩展的技术研发?同时,还需思考如何促进人工智能伦理体系的构建以及国际共识的形成?此外,还需确保人工智能能够持续向公平、公正且对全人类有益的方向发展。这些问题的答案,仍需我们不断深入探索和研究。

“远虑”已经成为“近忧”

AlphaGo与人工智能发展_人工智能伦理治理_人工智能伦理问题

1942年,在人工智能问世之先,美国科幻作家艾萨克·阿西莫夫在其作品中率先探讨了机器人发展过程中可能引发的伦理问题,并设想了预防这些风险的手段,即后来广为流传的“机器人三大法则”。

这种警告是在机器智能已经超越人类智能的基础上提出的。但是,截至目前,人工智能与人类智能相比,依旧像是“龟兔赛跑”故事中那个明显落后的乌龟。

张钹,清华大学人工智能研究院的名誉院长,同时也是中国科学院的院士,在论坛上提出,当前的人工智能研究还处于初步探索阶段,其发展速度较为缓慢,并且面临着众多棘手的问题。打造超越人类的机器并非易事,而关于是否能够通过通用人工智能实现超智能这一目标,也一直存在广泛的争议。

然而,人工智能对伦理及传统规范的挑战已提前显现,“长远担忧”已演变为“眼前之急”。进入本世纪,随着基于大数据的深度学习在人工智能领域的兴起,人们开始深切体会到人工智能伦理风险近在咫尺,治理问题亟待解决。张钹如是说。

当前人工智能技术存在一定的局限性。蚂蚁集团首席技术官倪行军强调,新一代人工智能主要依靠数据驱动,其核心是机器的自我学习能力,而非依赖于人类提供的信息和知识。这种模式可能导致系统缺乏足够的鲁棒性、难以解释以及不够稳定等问题。特别是在医疗、制造、金融等与社会生活紧密相连的领域,机器学习模型产生的错误预测结果可能会带来难以承受的后果。

另一方面,这些不足之处为人工智能技术的恶意利用提供了可乘之机。比如,有人恶意攻击算法的弱点,使得依赖该算法的人工智能系统无法正常工作,甚至可能产生相反的破坏效果;还有利用深度学习技术制造假信息,诸如假新闻、假视频、假演讲等,以此来扰乱社会秩序,并诬陷无辜之人。

AlphaGo与人工智能发展_人工智能伦理治理_人工智能伦理问题

张钹提出,无论是不经意间、误解还是故意地滥用人工智能技术,都应当受到管理。不过,这两种情况的管理方式有所区别。对于前者,应当通过设立相应的规范,对人工智能的研究、开发和运用实施严格的科学评估和全面监管,同时还要明确在出现问题时可以采取的补救措施;至于后者,则需要依靠法律的制约和公众舆论的监督,体现出一种强制性的管理色彩。

根本而言,人工智能的研究与开发必须以人为核心,遵循公正公平的伦理准则,致力于打造负责任的人工智能系统。为此,我们必须致力于构建可解释且鲁棒的AI理论体系,唯有如此,方有可能研发出既安全又可信、可控、可靠且可扩展的人工智能技术。这样,我们才能最终促进人工智能在公平、公正的基础上,为全人类的福祉带来积极的应用与发展。这就是我们推进第三代人工智能发展的战略思考。张钹提倡全球各界人士共同投身于人工智能的研究与管理,借助全球性的协作,合力确立一套惠及全人类的统一标准。

规则与技术的“组合拳”

人工智能的治理需要规则与技术的协同作用,形成一套综合性的策略。在规则层面,除了法律法规之外,数字伦理和人工智能伦理体系的建立同样扮演着关键角色。

全国人大宪法和法律委员会副主任委员江必新对伦理建设的重要性进行了总结,将其概括为“五个源于”。这五个方面分别是:数字技术和人工智能的双重特性,数字网络的无限边界、跨国界、专业性以及不透明性,法律规范的不足之处,伦理道德对人类和人性不可或缺的作用,以及网络安全对发展以及人类道德的依赖性。

在他看来,伦理体系的构建应当以人类的基本共识为基础,追求善良、真实与美好,端正思想观念,确保所有主体参与其中。同时,算法、数据等关键要素也应被纳入考量,实施全面而连贯的规范设计。此外,还需借助行业标准、技术指南、政治引导和技术破解等全方位的工具来提供保障。

人工智能伦理治理_AlphaGo与人工智能发展_人工智能伦理问题

目前,全球各地已有此类实践存在。在2021年11月,联合国教科文组织正式发布了《人工智能伦理倡议书》,这份文件从联合国组织的立场出发,为人工智能的治理奠定了具有国际法地位的基石性文档。

龚克,世界工程组织联合会的前任主席,以及中国新一代人工智能发展战略研究院的执行院长,强调指出,这乃是目前为止,联合国体系所推出的唯一一份关于人工智能的国际性规范文件。该倡议书立足于国际法,经过全球范围内的广泛参与制定,展现了全球范围内的高度共识,并在伦理层面为整个人工智能的治理确立了坚实的基础。

企业的自我规范同样扮演着极其关键的角色。以今年为例,阿里巴巴集团便推出了科技伦理管理的六项核心准则:即坚持人本主义的价值指引,恪守隐私保护、确保安全可靠、倡导普惠与正直、遵循科技发展原则,并采用基于信任、可靠与开放协作的科技治理方式。

在技术领域,之江实验室的负责人、中国人工智能产业联盟的副理事朱世强强调,应依据技术标准来界定未来的发展趋势。同时,针对新一代人工智能,我们正通过技术进步和知识创新的共同推动,力图转变其不透明和封闭的运作模式;致力于研发量子时代的密码技术、数据隐私保护平台等多元化工具,以抑制不良用途的扩散;并且,在关键技术的突破上确保网络安全,努力打造具有可升级能力的基础架构,以及能够灵活定义的全维度网络。

此外,全球IPv6论坛的主席拉提夫·拉蒂德也对人工智能引发的失业问题以及财富分配不公的现象表示了关注。他提出,我们需要对教育体系进行深入反思和改进,以便人们能够承担更多挑战性的任务,并投身于更具创新性的工作中。

分享