国家智能评价与治理实验基地
首页 > 评价前沿 > 知评价 > 正文
摘要
人工智能(AI)技术广泛且快速地渗透到各类组织活动中,这就要求相关技术的部署必须合乎伦理且秉持负责任导向。各国及国际层面出台了多项政策、法规与指导准则以应对这一问题,同时多家机构也已制定框架,对负责任AI的核心原则进行细化阐释。尽管如此,学界对于如何将这些原则转化为AI应用在设计、执行、监督与评估全流程中的可操作举措,认知仍较为有限。基于此,本综述旨在对负责任AI领域的相关研究进行整合梳理与批判性反思。依托整合分析的成果,本文构建了一套负责任AI治理的概念框架——该框架通过结构性、关系性与流程性三类实践对治理内涵进行界定,并涵盖了治理的前置影响因素与实践成效。这一框架既可为未来研究议程的制定奠定基础,也能为学界对负责任人工智能治理的概念内涵展开批判性反思提供支撑。
关键词
AI;负责任AI治理;治理实践;AI实施;AI生命周期
1 引言
随着数据资源与计算能力的迅猛增长,越来越多企业将人工智能(AI)视为获取竞争优势的关键工具,这一趋势也推动学界对AI研究的关注度空前提升。尽管现有文献普遍强调采纳AI技术的诸多益处,但对多数组织而言,AI部署可能引发一系列影响,甚至产生意想不到的负面后果。本研究将AI界定为:“系统通过识别、解释、推理并从数据中学习,进而实现既定组织与社会目标的能力”。
近年来,为减轻AI的负面及意外后果,制定“负责任原则”已成为各界讨论的核心议题。这些原则通常为AI的设计与部署提供指导方向与目标,确保技术对所有受影响者而言公平、均衡、合乎伦理且总体具备“有益性”。尽管学界已在界定负责任AI的原则维度上付出大量努力,但相关研究仍集中于方针政策等宏观层面,微观层面的治理要素尤为匮乏,对于如何在AI技术全生命周期内实施负责任治理,仍存在认知空白。
本研究的动机源于:在AI项目的实际实施与管理过程中,本应受到重视的“遵守负责任AI原则”往往被忽视。尽管已有研究指出,组织需在绩效、透明度与道德行为之间寻求可行平衡点,但这些研究成果虽能为组织开发和部署AI应用过程中遇到的选择问题提供见解,却无法让组织形成关于“如何具体制定与执行负责任AI治理实践”的整体性认知。因此,如何将抽象的伦理原则有效转化为可操作的治理实践,仍是一大挑战。
本文的研究目标是厘清负责任AI治理在学术研究与实践应用中如何被理解和落实。具体而言,研究聚焦于如何将高度抽象的原则转化为可部署、且贯穿AI项目全生命周期的实践举措。研究认为,弥合这一理论与实践的鸿沟,有助于以更全面的方式负责任地开发和部署AI技术。此外,研究关注负责任AI治理如何“因地制宜”地动态形成,以及其对组织与环境产生的影响。
2 批判和反思框架
负责任AI治理的关键组成部分基于Van Grembergen等和Tallon等的研究成果——强调组织在治理中必须考虑的结构性、程序性和关系性实践。
负责任AI治理前因
负责任AI治理的前置影响因素可划分为三大宽泛且相互关联的主题:第一类是社会期望与规范,第二类关乎AI应用前已存在的组织价值,第三类涉及组织层面的负责任AI原则。这三类前置影响因素之间的关联关系:宏观层面的社会观念与规范信念,会通过组织价值观和企业文化对外部环境刺激的接纳方式、以及组织对践行负责任AI原则的重视程度,间接影响企业最终选定并遵循的负责任AI优先原则。
社会期望和规范可以视为负责任AI治理前因的起点。社会规范塑造了应当遵循的AI原则,尤其是那些被视为在社会情境中具备伦理性和可接受性的原则。但是社会规范和期望一直处于持续变化之中,这是现实难题。因此,组织必须开发不同机制以识别新出现的外部压力,并建立适当的过滤与适应渠道对这些压力进行筛选与适配。
组织内部的价值观与能力禀赋是另一重要组成部分。组织必须培育特定的文化氛围,鼓励员工主动识别并响应那些被视为具有重要意义的外部环境刺激。决策模式、权力集中度、企业内部的民主包容程度,以及其他与情境和行业相关的因素,都会对这类信号的利用程度起到中介作用。这些权变因素直接影响着组织识别动态变化的外部刺激、并将其融入AI治理原则的有效性与适应性。
组织在制定负责任AI治理实践方案时,还需考虑面向不同国家或群体部署AI系统或服务所面临的文化与伦理差异。当前,许多负责任AI治理框架普遍存在一个预设前提,即认定其核心支柱的构成要素与重要性具有普适性。负责任AI治理必须将这种差异化需求纳入考量范畴。
负责任AI治理实践
结构性实践
在负责任AI治理的语境下,结构性实践指的是对组织内核心决策者、各相关个体、用户群体的权责进行明确界定的相关举措。AI治理委员会肩负起监督组织内部各项AI计划落地的职责。该实践还需阐明参与AI研发与部署的各利益相关方的权责,帮助其明确自身在AI计划中的角色定位、责任义务与预期目标。
明确不同利益相关方如何以最优方式为AI项目提供意见并施加影响,对于确保AI应用符合相关要求、实现伦理层面的合规性具有至关重要的意义。
流程性实践
流程性实践涵盖一系列对数据管理、模型管理、流程评估以及人机智能交互至关重要的流程,能够简化工作流、提升运行效率,并推动模型与数据在全生命周期内实现持续优化。通过落实全面的事件响应与危机管理流程,组织能够降低风险、减少潜在损失,并维护各方对其AI治理框架的信任度。因此,厘清战略层面的相关流程,既推动AI技术的负责任部署以形成竞争优势,又依托竞争战略反哺负责任AI应用。
探索如何将负责任AI原则转化为针对战略与战术层面的具体流程,以及如何通过这些流程主动规避负面与非预期后果,对于组织借助AI技术保持竞争力、同时践行负责任且合乎伦理的发展模式,具有决定性作用。
关系性实践
在负责任AI治理的语境下,关系性实践包含三方面内容:构建组织内外部的关联网络、开展利益相关方的培训与教育工作、建立恰当的协作联结以推动负责任AI研发与应用。关系性实践界定了利益相关方参与AI研发流程的具体模式,有助于规避四类问题:利益冲突、数据的非伦理使用、未经授权的数据所有权或访问权限,以及数据滥用。
组织需鼓励并强化各部门间的沟通合作,确保AI相关计划与整体组织价值观及规范保持一致;审慎规划其内外部的关系性实践,明确不同岗位、不同层级员工所需具备的技能与能力;探究个体与组织层面负责任AI素养的培育路径,允许员工就AI系统相关问题表达关切,从而在不限制创新的前提下实现对技术的有效管控。
由此可见,针对负责任AI实践的研究,应当挖掘AI与人类智慧相结合领域的实践机遇,这既依赖于组织层面的正式管控机制,也离不开利益相关方群体内部的非正式自组织机制。
负责任AI治理成效
AI应用与服务的普及为组织开辟了新的发展机遇,有望帮助组织构建超越竞争对手的竞争优势。然而,组织若缺乏完善的负责任AI治理实践,且对相关原则的落地路径认知有限,则会引发诸多问题。
组织推行负责任AI的核心动因,一方面是为规避潜在的负面影响,另一方面则是为构建以核心支柱为基础的竞争战略。相关研究表明,在环境、社会与治理(ESG)评估体系中,负责任AI治理实践的重要性日益凸显,而ESG评估正是外部机构与投资者衡量企业声誉的核心指标。
近年来诸多评述指出,推行负责任AI治理能够为企业创造价值:它不仅能使企业在更广泛的社会语境中获得合法性认可,还能提升员工士气、工作效率与忠诚度。负责任运用AI技术的正面形象,能够为组织带来更高的盈利能力、更强的客户留存率与满意度,同时也能更顺利地缔结有利于自身发展的战略联盟与合作关系。
相反,缺乏负责任AI实践的组织,则会面临一系列问题:不同行业、不同岗位的员工工作绩效下降,员工产生对AI的焦虑情绪。不过,有效的负责任AI治理能够缓解组织内部人员的威胁感,还能增强人机协同效应与协作流畅度,最终提升员工的工作满意度、生产力与整体幸福感。
尽管如此,关于推行负责任AI治理对组织内部运营、对组织外部竞争地位的影响,目前仍缺乏实证证据支撑。GenAI技术的最新发展成果表明,在组织运营中部署AI应用,会对员工的工作生活与幸福感产生显著影响。负责任AI治理必须纳入能够预防多元伦理问题的相关实践,并将员工的福祉置于核心位置。
随着AI服务与产品日益融入日常生活,终端用户对AI的接纳程度将影响社会对AI的认知视角,并塑造AI应用的社会规范。社会对各类AI服务的评判标准是多元的,组织需寻求恰当的方式来推广其AI产品,并建立能够增强用户信任的机制,从而推动终端用户对技术的接纳。
迄今为止,关于组织应如何与AI服务的终端用户建立信任关系并开展有效沟通,研究成果仍缺乏洞见。同时,AI产品与社会认知及期望之间的关系是动态变化的,社会规范与期望塑造着AI应用的部署方向,人类与之的日常互动方式也在定义着AI应用的伦理与规范边界。
需要注意的是,尽管用户普遍意识到AI应用存在数据隐私风险,但在诸多场景下,当他们感知到AI应用能够带来足够高的价值时,往往会选择忽视这些问题。未来的研究必须深入考察组织AI产品与社会规范及期望之间的关系,以及二者之间的张力如何推动负AI治理的演进。
3 结论
本研究整合相关理论,探讨负责任AI的概念内涵,阐释其原则的重要性及在组织与社会层面的应用价值,构建拓展性治理概念框架以呈现原则落地路径,明确治理核心维度、前置影响因素与实践成效,并提出可操作研究主题以深化相关认知。
本研究也存在一些局限:其一,采纳的文献与治理原则主要源自欧美,框架蕴含的伦理文化规范可能折射欧美语境逻辑,但框架与路径具有普适性;其二,论点假设需实证验证,框架内要素关系待深入探究;其三,提出的未来研究主题未尽全面,AI普及加速将催生更多新问题与研究方向。
需指出的是,随着《人工智能法案》等法规政策的出台,明确了组织AI治理的价值优先序,重塑了社会对负责任AI治理的认知。但此类法规对组织落实治理责任具体实践的影响,以及社会与终端用户对其实际效用的看法,仍不明确。
(全文及参考文献见The Journal of Strategic Information Systems,原文链接:https://doi.org/10.1016/j.jsis.2024.101885,本期推文为节选摘编,略有删减和编辑。)
本期策划 | 复旦大学国家智能评价与治理实验基地
供稿 | 王萱瑜 王译晗
本期编辑 | 王萱瑜
基地官网:https://statevalbase.fudan.edu.cn
·end·
下一篇
GenAI时代下的开放科学与开放评价:挑战和机遇
版权所有:复旦大学地址:上海市杨浦区邯郸路220号 邮编:200433