1. 引言
2018年中共中央办公厅、国务院办公厅印发《关于深化项目评审、人才评价、机构评估改革的意见》,强调机构评估改革是推进科研评估制度改革的重要举措,科研机构评估制度需要完善 [1] 。2021年科技部科技评估中心开始牵头起草《科研机构评估指南》,旨在进一步探索构建符合我国科研发展规律的科研评估体系。21世纪初,荷兰为了保证高校办学质量,通过颁布《标准评估协议》(Standard Evaluation Protocol),为其提供了高校科研评估的制度框架。2020年,《标准评估协议》正式更名为《战略评估协议(2021~2027)》(Strategy Evaluation Protocol 2021~2027,以下简称SEP2021),内涵也发生了相应的改变 [2] 。新协议是荷兰科研评估从评估体系向质量保证体系迈进的一步。本文以SEP2021为剖析对象,对基于SEP2021指导的荷兰高校科研评估模式进行系统梳理,着重关注其中新增部分,为我国探索符合科研发展规律的高校科研评估体系提供有益经验。
2. 荷兰高校科研评估的指标体系
荷兰高校科研评估指标体系由评估标准和具体方面搭建而成。三项评估标准包括研究质量、社会相关性、战略可行性,必须考察的四个具体方面为开放科学、博士政策与培训、学术文化、人力资源政策。
2.1. 三大评估标准
2.1.1. 研究质量
评估委员会将高校过去6年期间的研究质量置于国际、国家或区域背景下进行评估。由于评估的核心是高校对于科学知识体系的贡献,评估委员会在评估过程中注重研究的质量、科学相关性、学术声誉和领导地位。据此,研究质量又具体包括向同行提供的研究成果、同行使用研究成果、同行认可情况三个二级指标。以同行作为目标群体,通过向其提供的科研成果及同行使用和认可情况的反馈,反映出科研成果的整体质量以及高校的学术地位。
2.1.2. 社会相关性
社会相关性维度主要用于考量高校的科研活动及成果的社会影响、公众参与等方面的表现,可以从经济、社会、文化、教育或其他可能相关的视角进行考察。由于社会影响具有连续性和迟效性的特点,评估周期内衡量的社会影响既有可能是多年前高校开展的科学研究所产生的,也可能部分社会影响要到下一个评估周期才显现。评估委员会要根据高校现阶段的战略和目标,对该机构的科研成果进行评估,考察其社会相关性。具体包括向社会目标群体提供的研究成果、社会目标群体使用研究成果、社会目标群体认可情况三个二级指标。以社会相关方作为目标群体,在论证研究成果在社会目标群体使用和认可的过程中,衡量高校为社会效益做出的贡献程度。
2.1.3. 战略可行性
这一维度主要是从科学和社会的相关性角度评估高校在未来6年的战略和目标,以及考察高校为了实现战略将要制定的战略规划、可配置的资源、采取的战略实施手段是否具有可行性。此外,评估委员会还将高校的可持续发展能力纳入评估范畴。
2.2. 四大具体方面
研究质量、社会相关性和战略可行性是高校评估的核心,评估需要涉及的具体方面取决于高校的战略和目标。在所有的相关方面中,开放科学、博士政策与培训、学术文化和人力资源政策这四个具体方面是高校在评估中必须涵盖的。另外,这四个方面涉及高校如何组织和实际开展研究工作,如何组建领导层和配备人员,以及该机构的日常运作情况。
2.2.1. 开放科学
“开放科学”方面是SEP2021中新增加的部分。开放科学或开放学术,代表着向一种新的、更开放和更具包容性的方式进行科学研究、出版和评估的过渡,核心是在所有研究阶段寻求更多的合作和透明度,这是通过尽早开放共享数据、出版物、软件和成果来实现的。联合国教科文组织在《开放科学建议》中指出:“开放科学的目的是使每个人都能公开获得科学知识,并可重复使用,增加科学合作和信息共享,为科学和社会带来好处。” [3] 在开放科学方面,主要考察高校科学知识开放共享程度。
2.2.2. 博士政策与培训
评估委员会根据高校关于博士培养的战略、目标和政策,对博士培养进行评估,包括相关研究生院和(国家)研究学院。此外,评估委员会还会考察质量保障系统是否正常运行。由于博士数量众多,在高校占据重要的位置,博士生的培养、指导和辅导工作值得重视。在自我评估中,博士项目的背景、内容、结构、质量保证体系;博士候选人的选拔和录取流程;博士候选人的就业指导;获得学位率、毕业人数等可作为参照指标。
2.2.3. 学术文化
在学术文化方面,主要分为两个部分进行考察,首先是考察高校环境的开放性、安全性和包容性,具体包括为确保开放安全和包容采取的措施、领导承担的责任及贡献等。其次是通过考察研究单位的科研诚信政策,包括反映数据的完整度,对正直和道德的重视程度,以及在这些方面如何促进《荷兰科研诚信行为准则》中制定的相关行动和要求等。
2.2.4. 人力资源政策
在人力资源政策方面,主要从两个维度进行考察,关于多样性,考察高校在不同层面的多样化程度,为此开展的行动及未来的规划,可参考指标如高校自身的多样性(包括性别、年龄、种族、文化背景和学科背景)、政策的多样性、人力资源的多样性等。关于人才管理,作为SEP2021新增的部分,主要是根据高校的战略和目标,审议其人才选拔和发展政策。可参考的指标如招聘政策;培训、选拔、晋升、保留政策;辅导和指导;科研人员及科研辅助人员职业生涯不同阶段的职业前景;评估、奖励和激励政策等。
3. 荷兰高校科研评估的流程
基于SEP2021的指导,高校科研评估主要采取自我评估和外部评估相结合的流程,评估的目的主要在于监测高校的战略实施进展,以此促进高校在质量保证期间的持续改进。
3.1. 准备评估
正式评估开始前的准备阶段,主要是确定评估参与主体以及选定评估对象。
3.1.1. 确定评估主体
荷兰的高校、荷兰科学研究组织(NOW)和荷兰皇家艺术科学研究院(KNAW)负责每6年对其所属的高校开展一次评估,评估被视为是该校质量保证周期的一部分。评估前几年,高校与董事会之间定期讨论战略和目标。荷兰的高校、荷兰科学研究组织和荷兰皇家艺术科学研究院的董事会负责制定成立评估委员会的程序以及人员任命。通常确定评估委员会有两种途径,一种是要求高校提名候选主席和成员,以供董事会批准;另一种是先任命委员会主席,后与主席协商委员会的其他成员。一个合适的评估委员会对整个评估周期内工作的开展至关重要。评估委员会必须包括一名博士候选人,一名职业生涯早期或中期的科研人员和一名非学术成员,理想情况下评估委员会的构成应具有国际性和多样性(在性别、文化背景和学科背景等方面),董事会需要确保成员有能力在国际背景下对高校进行评估并提出建议。此外,董事会任命一名具有荷兰科学研究背景下科研评估工作经验的独立秘书,协助委员会开展评估工作,但是该秘书并不隶属于董事会、评估委员会和高校。
3.1.2. 选定评估对象
作为评估对象的研究单位,可以是高校及科研机构,或者具有科研战略的研究所、部门、项目组或科研团队。参与评估的高校及研究机构需要达到以下条件:首先,高校应该是具有一定规模且在内部和外部都有自主权利的实体组织。正式教职员工中至少有10名研究型全职教师,包括拥有终身职位的教职员工,但不包括博士和博士后。这个条件仅仅表示最小数目,较大的单位更为可取。该高校应至少在3年前成立,如果要评估近期成立的高校,它们的自我评估应表明它们的发展阶段,以便评估委员会可以考虑这一事实。
3.2. 自我评估
高校的自我评估报告是评估的基础和评估工作开展的主要根据。在这一阶段,主要是由高校开展自我评估,并完成自我评估报告的撰写工作。
3.2.1. 介绍机构概况
自我评估报告中关于高校的简要介绍,主要包括机构的主要特点、重要组织特征及过去六年的发展概况。同时,高校要描述其使命和过去六年的主要战略目标,为实现该战略而制定的战略规划,以及战略规划实施的过程和采取的监督措施,实施过程中如果战略进行调整需要说明原因。
3.2.2. 选取指标论证,开展SWOT分析
高校可以参考列举的指标,选择与本校战略目标一致的指标,充分说明选取指标的理由,并用详实的数据、案例进行叙述和论证。另外,SWOT分析是机构用来分析机构的优势、劣势、威胁和机会,高校有必要对当前的战略选择进行反思,并构筑未来六年战略规划的基础。
3.3. 外部评估
3.3.1. 确定评估日程,进行实地考察
评估委员会、独立秘书与高校共同协商确定实地考察日程表。如果评估涉及多个研究单位,实地考察可以在一个中心地点进行。高校和评估委员会共同商量实地考察的评估人员和评估内容。实地考察主要由三项活动组成,首先是由评估委员会委员和独立秘书参加的私人启动会议。其次,评估委员会可以与高校的代表及其他相关人员进行访谈,访谈目的是为了核实和补充自我评估中的信息。然后,再次召开私人会议,评估委员会交换意见并讨论评估结果,就三个评估标准和四个具体方面对高校做出临时判断。最后,评估委员会向高校提供一份评估报告草案。
3.3.2. 提交评估报告,接受社会问责
评估报告草案经高校核查后提出相关意见,评估委员会根据反馈进行修改,最终形成评估报告终稿并提交给董事会。高校和机构董事会需要在官方网站上发布最终的评估报告,同时需要不定期考察和发布高校采取哪些改进的行动,从而让公众通过开放的渠道了解公共经费的去向以及取得的效果,并在必要时接受公共问责 [4] 。
4. 荷兰高校科研评估的特点及启示
荷兰高校新一轮的科研评估工作在SEP2021指导下有序展开,在评估中充分展现出以下鲜明特点,这些特点同样对于我国高校科研评估朝着规范化和科学化的方向发展提供了有益借鉴。
4.1. “人员认可 + 高校可持续”的评估目的
高校科研评估不仅是高校质量保证期间的“监测器”,还是引导高校和人员良性发展的“指挥棒”。SEP2021为认可科研人员和高校的可持续发展新增了多项细则,对高校进行科研评估的出发点是该机构在其科研的质量、社会相关性、可行性方面的目标和战略,在质量保证期间,评估使该机构和董事会能够对本机构做出的战略选择以及这些选择产生的影响进行反思。另外,科研评估将减少对定量结果(如出版物数量)的重视,而更加重视质量、科学诚信以及对学术界和社会的贡献程度,扭转了科研评估中简单量化的做法,减轻了科研人员的职业压力。新增人力资源政策指标,体现了荷兰对科研人员职业发展的关注与重视。新版评估协议对战略与目标的重视,对科研人员职业发展的关注,是对科研评估的一次重要反思,评估工作并不是只是为了评估而开展,评估应该是一个长期性的监测和反馈机制,要发挥评估指挥棒的作用,引导高校及其成员健康可持续发展。
4.2. “学术同行 + 社会利益相关者”的评估主体
荷兰高校科研评估既重视同行专家的认可,又关注社会相关群体的需求。在开展外部评估时,评估委员会成员以同行专家为主,同时吸纳广泛的社会利益相关者,形成“学术同行 + 社会利益相关者”相结合的多元化评估主体。这种组合充分体现成员的多元化特征,在成员的身份上,评估委员会中既有博士候选人,也有职业生涯早期或中期的科研人员和非学术成员;在成员的背景上,成员的性别、文化背景、国别等具有多样性。
4.3. “定量 + 定性 + 指导建议”的评估方法
SEP2021将《旧金山宣言》作为评估方案制定和开展行动的指导原则,明确提出停止使用基于期刊的单一指标来评估科学家个体的贡献,尤其是期刊影响因子,并倡导科研评估不要再过度依赖基于期刊的指标。在自我评估报告中禁止使用h指数,所谓h指数是指科研人员至多有篇期刊分别被引用了h次。h指数是个人层面的衡量指标,而基于SEP的评估则是科研单位层面的评估 [5] 。SEP2021注重叙述的方式,包括指标的选取以及成果的论证都需要叙述报告作为依据支撑。评估委员会还需要根据高校的评估报告对其提出指导建议,如果需要提供的指导建议涉及某一研究领域全国范围内的评估,则需要在国家层面上对整个学科提出战略性的指导建议。SEP2021采取“定量 + 定性 + 指导建议”的评估方式,以适当的量化评估支持加上质化的专业评审结合相应的指导反馈,在一定程度上引导高校科学研究的良性发展。
4.4. “学术影响力 + 社会影响力”的评估标准
在知识转型和创新驱动发展的现实背景下,科学研究在追求学术价值的同时考虑对经济社会发展的贡献程度。荷兰2003年开始在《标准化评估协议》(SEP)中设置“社会相关性”指标,在2009年开始的新一轮评估中,“相关性”成为SEP的四大一级指标之一,在2015年的SEP中,“社会相关性”是SEP的三大标准之一 [6] 。在2021年以来的最近一轮评估中,“社会相关性”持续受到科研评估的关注,且重视程度进一步有所提高。荷兰科研评估标准的不断改革,从仅关注学术维度到学术维度与社会维度并重,从仅侧重研究质量到研究质量与社会效益并重,从仅重视高校科研在学术共同体内的学术影响力拓展到经济社会发展中的社会影响力。
4.5. “自我评估 + 外部评估”的评估程序
荷兰高校科研评估最大的特点是高校内部自我评估与评估委员会外部评估相结合,在整个评估流程中,既完成了质量保证周期内的外部监督和评估工作,又激活了高校内部评估的管理体制。高校内部自我评估机制的积极运行,是高校评估自主权的有效行使,在评估周期内可以使学校及时发现问题,采取整改措施,真正改进高校的科研质量。而由第三方组织的外部评估,不仅搭起了政府、高校和社会的桥梁,还有利于在不同评估机构之间形成良性竞争,以此提高高校科研评估的质量。