大数据时代下的“杀熟”现象、外卖骑手被系统束缚、94岁高龄老人被搀扶至银行进行人脸识别……人工智能技术的广泛应用,使得诸多伦理与安全问题逐渐显现。
1月5日,我国全国信息安全标准化技术委员会(简称信安标委)正式对外公布了一项名为《网络安全标准实践指南—人工智能伦理安全风险防范指引》的重要文件(以下简称“指引”)。
参与编制的众多专家向南都记者透露,该指南的发布旨在促使社会各界全面了解相关风险,从而保障人工智能得以安全、可控地持续进步。
提出风险防范基本要求
将人工智能伦理安全风险归纳为失控风险、社会影响风险、侵犯权益风险、歧视性风险以及责任归属风险。
当前,人们普遍在探讨人工智能可能带来的风险,然而,具体有哪些风险尚不明确。对此,指引归纳了五大风险类别,这些类别大致囊括了目前关于人工智能讨论的核心议题。参与编制该指引的电子科技大学公共管理学院副教授贾开在接受南都记者采访时如是表示。
依据指引中的说明,所谓失控性风险,即人工智能的行为及其后果超出了相关组织或个人事先设定的、认知的以及能够控制的界限,进而对社会价值观等方面造成不良影响的风险。
社会性风险涉及人工智能的不当应用,诸如滥用和误用等情况,此类风险会对社会价值观及其他相关领域造成不良影响。
侵权风险涉及人工智能可能对人的生命安全、个人隐私、财产安全等基本权益构成损害或带来不良后果的潜在威胁。
歧视性风险涉及人工智能对特定人群的主观或客观偏见,这种影响可能导致公平与公正的受损,进而引发权利的侵害或产生不良后果。
责任性风险涉及人工智能领域内各方行为的不当,以及责任划分的模糊性,这会对社会信任和社会价值观带来消极影响。
考虑到上述潜在风险,该指引明确了六项风险控制的基本准则,这些准则涵盖了与我国社会价值观相契合、遵循国家法律规范、致力于促进可持续发展的目标等方面。
指引提出的风险防范基本要求。
值得关注的是,基本要求明确指出,必须尊重并妥善维护个人在人身、隐私、财产等方面的基本权利,同时特别重视对弱势群体的权益保障。
目前,关于弱势群体遭遇“算法偏见”的现象频繁发生。据新闻报道,一家美国科技公司曾推出智能筛选服务,通过“性格评估”排除曾患有心理疾病的人员;而亚马逊公司也曾运用人工智能技术筛选简历,但由于训练数据存在偏差,导致出现性别歧视,最终该项目团队不得不解散。
技术对个体的消极影响,尤其在那些处于不利地位的人群中,往往被放大。这些群体往往缺少有效的反馈途径,一旦他们的权益受损,其问题更难被察觉。中国人民大学法学院副教授、未来法治研究院研究员郭锐,在向南方都市报的记者阐述时指出,该指引提出的基本要求,旨在唤起社会各界对弱势群体的关注,并重视他们的权益保护。
强调有法可依与用户选择权
除了对风险防控的基本规范进行详细说明,该指南还将人工智能的运作过程细分为“研发阶段”、“设计生产”、“部署实施”以及“用户操作”四大类别,并对每一类别中的风险防控措施提供了具体的建议。
南都记者经过整理发现,这些提议集中在人工智能的阐释性、可信度、公开性、潜在恶意使用、事故紧急处理以及风险补偿等关键领域。
人工智能系统与汽车、家具等商品相比,结构更为复杂,其研究、产品及服务往往贯穿整个产业链。鉴于此,相关指引将人工智能活动划分为四个类别,旨在将所有利益相关者纳入考量范围。贾开向南都记者透露,该指引旨在为不同活动主体提供具体可行、易于实施的指导原则,同时亦充分考虑到各主体的特殊性。
他以事故应急处理为案例进行阐述,指出对于研究开发者而言,应遵循的要求是详细记录重要决策并构建追溯体系,同时实施必要的预警、沟通和应对措施。这样做旨在为科研活动提供一定的灵活性,以实现风险预防和创新发展的平衡。至于设计制造者和应用部署者,其遵循的指引则更为严格,涵盖了建立人工紧急干预系统、保障快速响应等方面。
总体来看,对应用部署者的指导设定了更高的标准。贾开指出,这主要是因为应用部署者的构成更加多样化、分布更为广泛,并且直接服务于用户。各类规模和组织性质不一的机构或个人,在风险防控方面存在差异,因此指引内容进行了更为详尽的阐述。
南都记者经过整理发现,该指引针对公众普遍关注的多个问题作出了回应。比如,对于频繁引起争议的强制使用问题,指引明确指出,实施者需确保用户有权拒绝或中止使用与人工智能相关的一切系统、产品或服务;一旦用户选择拒绝或中止使用,实施者应尽可能提供非人工智能的替代方案。
建议实施者设立一个用户投诉、疑问及意见反馈的渠道,同时构建一套包括人工客服在内的应对体系,以便对相关问题进行妥善处理及必要的赔偿。
值得注意的是,相较于11月发布的征求意见稿,该指引在应用部署环节新增了一项规定:当人工智能被用作直接决策依据并涉及个人权利时,必须具备清晰、明确、可追溯的法律法规作为支撑。
郭锐强调,众多人工智能技术的应用对个人权益有着深远的影响,然而,目前部分应用却缺乏明确的法律支撑。为此,我们补充了相关内容,旨在提醒所有组织和个人秉持“依法行事”的原则,以免侵犯他人合法权益。
需强调的是,该指引并非国家制定的标准,且不具有强制性。它隶属于《网络安全标准实践指南》,该指南是由信安标委所发布的,属于标准相关的技术文件。其主要目的是宣传网络安全的相关标准和知识,并给予标准化实践的指导。因此,该指引主要扮演着指引方向和提供价值判断参考的角色。
郭锐提出,即便指引不具备与法律规范相同的约束力,它仍能展现出法律所不能触及的效能。“指引有助于研究开发者、设计制造者以及应用部署者及早意识到潜在风险,并能够及时作出反应和风险管控,最终实现风险水平的降低。”他如此强调。
贾开则提出,人工智能的管理需求一套完整的体系,其中指引功能是体系的重要组成部分。在法律和标准尚不完善的情况下,指引的首要任务是唤起社会各界的高度关注,并明确指出哪些行为是可取的,哪些行为是应当遵循的。尽管指引并非强制性的要求,但人工智能的安全发展不仅关乎业务的合规性,还关系到企业的未来。因此,我认为,那些负责任的企业都愿意积极参与其中。