摘要:本文从建构主义(constructivist)视角出发,分析了10种研究的社会影响评价方法。这些方法体现了对知识交换的不同理解,可从线性、循环和共同生产模型来理解。各种评价方法使用了多种概念来界定研究的社会价值,暗示了其与科学价值的不同关系。尽管一些方法依赖于对两种价值类型的明确区分,但另外一些方法,特别是评估性调查、ASIRPA、贡献映射、公共价值映射和SIAMPI,将产生社会价值的机制视为研究过程的内在部分。本文得出结论,方法必须在将社会价值作为独立绩效指标以满足实际目的和对科学研究成果进行公正评判之间取得平衡,即实现科学价值与社会价值的融合。对评价方法的分析和比较可以协助研究评估者有意识且负责任地选择与评估对象相匹配的方法。由于评价对于塑造知识生产有积极作用,因此避免使用过于简化的社会价值概念至关重要。
关键词:研究评估;影响力评价;社会影响;文献综述
目前尚缺乏一个系统的分析框架,用于比较关于社会价值评价方法的概念基础。为填补这一空白,本文基于建构主义视角(建构主义是一种认识论和哲学观点,认为知识不是被动接受的,而是通过个体与环境的互动而主动构建的)构建了一个分析框架(图1),以进行评价方法的比较,进一步把握科学价值与社会价值的关系。图1通过可视化展示了分析框架中的两个方面:方法的知识交换模型以及它们对科学价值与社会价值关系的理解。
本文选取了10种旨在捕捉科学研究社会价值的评价方法进行分析。首先,比较了不同方法中所涉及的行为主体类型及其在知识生产中的角色。关键问题在于评价方法如何平衡对被评价行为主体的关注,以及与之相连的异质行为主体网络。其次,我们比较了不同方法预设的对创造社会价值至关重要的互动机制。再次,我们比较了不同评价方法所涵盖的社会价值概念。最后,基于行为主体、机制和概念的三个特征,来比较科学价值与社会价值之间的关系。
2.1 回报框架(Payback Framework)
回报框架是在英国医疗保健背景下开发的,旨在描述研究由于为政策提供证据而产生的更广泛社会效益。该框架不仅被用于评估国家资助项目,还在社会科学和生物医学领域得到了进一步的发展。多种定性数据源被用来分析回报,包括调查、访谈和政策文件。该框架由一个包含七个阶段的循环模型构成,从研究构思的萌芽到最终社会成果的实现,同时设有多个反馈环节以避免线性推理的简单化。
回报框架特别强调政策制定者是研究的主要受益者,并在研究者、政策制定者以及潜在研究用户之间建立了两个互动接口,即“项目规范”的初始阶段和“传播”的中间阶段。研究过程的价值通过“回报”或“影响”来体现,这些影响被归纳为五个维度,与模型中的不同步骤相对应。Klautzer等人进一步概括了这些影响,使其适用范围扩展到了卫生领域之外,包括知识(例如学术出版物)、对后续研究的影响(例如培养新研究者)、对政策的影响(例如在国家层面或组织内部)、对实践的影响(例如在健康领域节省成本)以及更广泛的社会和经济影响(例如商业衍生产品或公共讨论)。
2.2 科技人力资本(Science and Technology Human Capital)
科学技术人力资本方法的开发旨在强调知识生产和交换的“社会嵌入性”。基于Bourdieu的社会资本概念,该方法侧重于个人以及通过团队和项目的能力增长。人力资本的实现是通过追踪个人职业轨迹和在此过程中获得的各类知识(包括默会知识、技能和专有技术)以及支持知识创造的生产性社交网络来实现的。研究的价值以人力和社会资本的增长来描述。这需要非常具体的数据,包括活动日志、简历和访谈(以追踪个人能力),以及合同、引用、专利模式和问卷调查(以绘制社交网络)。
主要行为主体是流动的科学家和工程师,他们体现了学术界与其他环境(如初创企业、公司或其他大学)之间的知识交换。最终,这种“整体”方法必须能够反映行为主体对其工作各方面相互关联性的认识:研究的学术、商业和社会价值取决于“设备、物质资源(包括资金)、工作的组织和机构安排,以及个体所体现的独特科技人力资本的结合”。
2.3 公共价值映射(Public Value Mapping, PVM)
公共价值映射的创建旨在突出STEM研究在美国联邦和各州资助项目中的非经济价值,并使科学政策与更广泛的公共价值保持一致。这种方法建立在前述方法和实用主义理论的基础上。
从案例研究开始,首先通过文件研究和民意调查确定相关的公共价值。然后,这些价值被假设性地与研究成果联系起来,以便可以通过社会影响指标对这些联系进行实证测试。这些指标被定义为研究对广泛社会目标的贡献程度,在这个过程中,“知识价值共同体”发挥着重要作用。这些共同体包括多方,例如资助机构、最终用户、公民团体和商业团体。该方法的假设是,面向公共价值的研究生产及其转化为应用是在与这些更广泛的共同体的互动中实现的。在PVM方法中,知识的价值最终体现在其在共同体中的使用上。
2.4 货币化(Monetization)
货币化方法以经济回报为衡量标准,提供了对研究投资的社会价值的抽象评价。该评价方法最初在英国卫生系统的背景下开发,主要应用于高度制度化的医学研究领域。在此方法中,社会价值被定义为医疗保健的改善,包括成本的降低或“质量调整生命年”(QALY)的增加。例如,通过将加拿大在心血管研究上的公共投资与所有采用不同治疗方式的个体的QALY估计值相关联,可以计算心血管研究的社会价值。货币化方法仅使用投资和健康收益的输入和输出指标,除了研究到治疗再到QALY增加的线性链条外,并未明确包含产生社会价值的互动机制。同样,该方法也没有明确定义具体的行为主体。
2.5 知识流动(Flows of Knowledge)
知识流动方法是为评价英国研究理事会资助的项目,如心理学和数学研究而开发的。它受到用于加拿大卫生服务研究的“联系和交换”模型的启发。该方法是一种包含多种方法的评价方法,包括文件研究、调查、案例研究、半结构化访谈、文献计量学和焦点小组。它区分了研究人员、从业者、政策制定者和私营企业,并特别强调社会价值创造过程中的机构和个人中介(从资助者和媒体,到顾问和博士)。互动箭头通常双向流动,强调长期互相尊重、迭代对话和互利互惠的关系是非学术影响的重要指标。多年来,知识流动中的影响力概念已多样化为五种类型(工具性、概念性、能力、文化和连通性),可通过27种不同的机制实现。
2.6 通过富有成效的互动进行社会影响评价(Social Impact Assessment through Productive Interactions, SIAMPI) SIAMPI起源于一个欧洲资助的项目,该项目研究欧洲各国和各学科研究机构和部门的社会价值产生。该方法的前提是,研究不应仅关注研究的影响,而应关注产生影响的过程。富有成效的互动是研究人员和利益相关者之间的交换(直接/通过物质载体/通过资金调解),在这一过程中产生知识,并且利益相关者努力使用这些知识。
SIAMPI方法规定使用特定领域的定量指标和案例研究中的定性数据。尽管该方法将研究人员视为知识产生的主角,但它认为广泛的利益相关者,包括邻近领域的研究人员、业界、公共组织、政府和普通公众,都是这一过程的一部分。SIAMPI方法没有明确区分富有成效的互动和社会影响,因为“从互动到影响的过渡往往是渐进的”。2.7 贡献映射 (Contribution Mapping)贡献映射最初被用作全球卫生研究背景下的学习工具,侧重于贡献和过程,以避免在其他方法中过分强调影响和知识生产者。该方法受行动者-网络理论启发,建立在回报框架基础之上。为了探究研究如何促进健康行动,贡献映射专注于用户如何收集与整合知识。通过与研究人员、潜在的关键用户和其他利益相关者的访谈以及文件分析,迭代产生“过程图”,用于改进和问责。研究人员和相关行为主体(如从业者、政策制定者、参与者、患者团体代表、意见领袖)被认为平等参与了促进知识利用的集体努力。这些行为主体可以进行“协调努力”,以提高研究贡献行动的可能性,例如吸引相关行为主体参与优先级设定或数据解释。在贡献映射中,社会价值是根据研究活动对行为主体所处场景的贡献来确定的,强调研究成果的作用和意义取决于用户的背景。
2.8 影响叙事(Impact Narratives)影响叙事法作为英国高等教育机构研究评估框架(REF)的一部分被开发,该框架在2014年首次将影响力作为评价标准之一。这种叙述性案例研究方法基于回报框架的详细阐述,并增加了一个专注于与最终用户互动的影响评级量表。REF的影响叙事法适用于所有学科,并结合了对案例研究的专家审查。研究单位编制示例性叙述,将其高质量研究与详细时间框架内对社会利益相关者的影响进行因果关联。这描绘了从明确定义的知识生产者到学术界之外的用户的相对线性的交换过程。
“影响”被定义为“对学术界以外的经济、社会、文化、公共政策或服务、健康、环境或生活质量的影响、改变或益处”,也包括“减少或预防伤害、风险、成本或其他负面影响”。最终,这种广泛的定义根据两个基于结果的标准进行评价:“重要性”(即效果的强度)和“范围”(即在相关群体中的传播)。2.9 公共农业研究的社会经济影响分析(Socio-Economic Analysis of the Impact of Public Agricultural Research, ASIRPA)
ASIRPA作为评价公共部门研究组织(特别是法国国家农业研究所)社会经济影响的事后方法被开发。受创新行动者网络理论启发,该方法侧重于影响产生的过程。分析过程包括识别“翻译链”,即可以转换问题、知识和目标的双向过程。该方法由定性案例研究组成,用于“具体情况的详细描述”,这些描述与标准化的影响路径大纲相结合,以便比较影响的多样性和幅度。这些案例研究囊括参与影响路径不同阶段的所有行为主体,包括学者、公司、推广机构、公共机构、媒体和农民。中介者在交换机制中扮演重要角色。ASIRPA使用的影响概念是“研究各个组成部分对经济、环境、健康等方面的直接和间接效果,这些效果是由漫长而复杂的过程产生的”。
2.10 评估性调查(Evaluative Inquiry)
评估性调查是近期发展出来的一种用于评价研究团体和研究所的方法,该方法在荷兰大学研究评价背景下开发。它基于PVM、SIAMPI和ASIRPA,采用混合方法,包括具有针对性的科学计量学、富有成效的互动和影响路径,适用于特定的研究单位和评价目的。可以“以数字、口头和/或视觉方式呈现研究,使实际实践的复杂性及其参与可见”。这种方法的开发者将人员、基础设施、技术和资源网络识别为集体,并认为学术成就分布在众多学术和非学术行为主体中。影响力构成学术研究及其环境的行动者网络内部和之间的翻译效应。
评估性调查旨在公正地看待研究实践的复杂性和异质性。因此,指标不是预先定义的,而是与被评价单位的工作和使命相一致的。被评价者和评估性调查分析师共同确定参与者和机制的范围以及影响力概念的含义。评估性调查代表着明确的愿望——超越仅关注学术价值的局限,弥合学术与社会之间的鸿沟。综上,不同的评价方法构建了不同的评价对象,并产生了多样化的社会价值概念。
首先,由于理论起点的差异,这些方法构建了不同的评价对象。一些方法选择性地关注知识交换、传播或影响生成,作为与研究过程分离的活动,而另一些方法则将知识产生、交换和转化视为一个统一的整体过程。其次,这些方法还构建了科学研究的不同利益相关者。部分方法在学术与非学术行为主体之间制造了鲜明的对比,仅将社会利益相关者视为科学研究最终成果的使用者,其他方法则采纳了更具包容性的利益相关者观念,评估了一系列相连的行为主体,包括中介者。最后,不同的方法能够产生和表达不同类型的价值,如产品、使用或效益。此外,它们所呈现和比较的社会价值与科学价值之间存在多种关系。尽管贡献映射和评估性调查整合的方式阐明了社会价值和科学价值,但许多方法还是将社会价值与科学价值区分开来,强化了两种评价体系之间的区别。
在许多方法中,对科学价值和社会价值之间的区分并不出人意料,因为这些方法的开发是为了使研究的社会价值与科学价值更加明确。传统而言,研究的科学价值以定量指标和同行评议的形式进行评价更为常见。许多社会影响评价方法应资金或政策机构的要求而制定,这表明评估对象事先已明确。只有某些方法将社会价值创造的过程作为起点,而非特定的利益主体(在大多数情况下是公共资助的研究人员或机构)。
评价方法如何在将社会价值作为独立绩效指标与作为研究实践的一部分之间取得平衡,最终取决于评价目的。以比较为目的的方法(在总结性评估中)采用了通用方法,具有清晰定义的行为主体和指标,以及明确的社会价值概念。但以情境学习为目的的方法(在形成性评估中)则采取了更有针对性的方法。混合方法在标准化和特异性的两极之间提供了一种折衷方案,为总结性评估和形成性评估的二分法提供了替代选择。
科学价值和社会价值的融合概念,应适应所在部门/团队/领域的具体情况,这将鼓励研究人员从事其最重视的工作,而不仅仅是那些能够量化的工作。在科学价值和社会价值之间制造明显区分可能会造成研究人员集中精力于那些能够获得同行认可的活动,如学术出版物,或那些可以通过社会价值指标衡量的活动,如博客文章、专利或政策报告。此外,严格的区分可能会限制对参与知识生产的行为主体和机构多样性的认识。这一点尤为紧迫,因为中介和边界行为者,如智库、咨询公司和民间团体,在科学和创新系统中扮演着日益重要的角色。
因此,本文的分析引发了对评估社会价值在知识生产过程中角色的反思。评价方法不仅描述了研究的社会价值是如何产生的,还描绘了其产生的方式。一些方法的设计者清楚地认识到评价如何介入研究政策和实践。例如,货币化方法旨在通过展示良好的价值来促进未来的投资,公共价值映射(PVM)方法旨在使科学政策与更广泛的公共价值观念保持一致。在研究实践方面,SIAMPI、知识流动和贡献映射等方法自视为“启蒙工具”,能够支持组织了解实现社会影响的条件和障碍。评估性调查方法更是明确地将评估本身视为知识生产的过程,将评估者和分析师转变为与被评估者并肩的合作者。
基于这些考虑,我们对于以一套建议来结束这篇综述而感到犹豫,因为这些建议涉及到讨论哪种评价方法最为有效。我们建议政策制定者和研究管理者采用与被评估研究实践和该领域内知识生产、交换及转化的理论宗旨相匹配的评估工具。也就是说,在评价过程中,所有相关行为主体必须就特定领域或机构的知识生产基础进行深入讨论。希望我们的分析综述能够帮助政策制定者和研究管理者根据政策目标、理论宗旨和实际限制(如可用数据、时间和资金)来选择最适合其具体情况的方法。
从更根本的层面来看,我们建议科研同行应持续质疑那些政策制定者或研究管理者所提出的要求、推荐的方法和工具背后的理论假设。我们的专业责任在于开发与该领域理论发展相一致的方法,即便这些方法可能与直接的实际需求相悖。我们认为,能够综合社会价值的不同方面并与知识生产中各行为主体价值观相一致的评价方法,将能够最公正地衡量研究和影响实践。我们坚信,这种评价方法将最大程度地改善科学研究社会价值的学习过程。
(全文及参考文献见Research Evaluation 2021年第30卷第3期,原文链接:https://academic.oup.com/rev/article/30/3/323/6220452,本期推文为节选摘编,略有删减和编辑。)
本期策划 | 复旦大学国家智能评价与治理实验基地
供稿 | 宋欣雨 金潇苒 王译晗
本期编辑 | 宋欣雨
基地官网:https://statevalbase.fudan.edu.cn
· end ·