摘要: 随着人工智能技术的快速发展，其在图像识别、语音识别和处理、数据挖掘以及认知推理等方面，都表现出独特的优势。智慧养老作为人工智能的重要应用领域，通过健康监测、智能陪护和医疗诊断等技术，为老年人提供了极大的便利。然而，这也伴随着一系列信任挑战。文章从数据代表性与质量、数据训练偏差、算法不透明性及数据泄露与滥用等问题入手，分析智慧养老中人工智能应用的信任困境，并提出需要重构智慧养老中的人工智能的信任，构建一个可信赖、安全和可持续发展的智慧养老环境，提升老年人对技术的信任和使用体验。
Abstract: With the rapid development of artificial intelligence technology, it has shown unique advantages in image recognition, speech recognition and processing, data mining, and cognitive reasoning. As an important application field of AI, smart aging provides great convenience to the elderly through technologies such as health monitoring, intelligent accompanying and medical diagnosis. However, it is also accompanied by a series of trust challenges. In this paper, we analyze the trust dilemma of AI applications in smart aging from the issues of data representativeness and quality, data training bias, algorithm opacity, and data leakage and misuse, and propose that we need to reconstruct the trust of AI in smart aging to build a trustworthy, safe, and sustainable smart aging environment, and to enhance the elderly’s trust in the technology and their experience of using it.
1. 引言
随着经济社会的飞速发展，基于数字化的物联网、大数据、云计算、人工智能等新兴技术迅速崛起，利用数字技术赋能养老服务已成为我国应对人口老龄化的重要战略，即通过人工智能、互联网等现代信息技术，为老年人提供健康监测、远程医疗和社交互动等支持功能的创新养老服务模式。此举旨在整合先进科技与专业康养服务，促进老年人的身心健康和社会融入，从而积极应对人口老龄化问题。
智慧养老指以智能产品和信息系统平台为载体，实现个人、家庭、社区、机构与养老资源有效对接和优化配置，推动养老服务智慧化升级，满足居民各类养老需求的各种做法和相关活动。智慧养老作为一种新兴的养老模式，不仅为解决我国规模庞大的老年人口养老问题提供了新的方案，也为养老产业的发展注入了新的活力[1]。利用数字技术赋能养老服务充满了机遇与挑战。一方面，数字技术蓬勃发展与养老服务场景加深融合，为服务形式、内容等创新提供了可能，也为需求和供给关系的动态平衡、精准化服务的实现带来了新的机遇[2]，例如通过可穿戴设备和传感器实时监测健康，智能家居设备保障安全，社交平台和虚拟现实丰富老年人社交生活，智能辅助设备提升自理能力；另一方面，人工智能在智慧养老的实际应用过程中存在潜在的信任缺失问题。从数据质量到算法偏见，从透明度缺失到隐私泄露，人工智能技术在很多方面都受到了质疑和挑战。
鉴于此，本文旨在探讨智慧养老技术所面临的伦理风险与进路反思。通过分析智慧养老技术中的信任挑战，不仅可以丰富信任理论在新兴技术应用中的内涵和外延，推进伦理风险研究，探讨智慧养老技术带来的新伦理风险及其应对策略，为伦理学研究提供了新视角和理论依据；与此同时，有利于提升养老服务质量，更好地满足社会养老需求，推动养老产业发展，助力养老产业的可持续发展。
2. 相关概念界定
2.1. 智慧养老
智慧养老是指通过利用现代信息技术，如物联网、大数据、云计算和人工智能等，提供个性化、便捷化和高效化的养老服务。智慧养老服务源于技术进步与社会需求的交汇，通过数据驱动与技术赋能，构建一种数字化、智慧化和精准化的新型养老服务模式[3]。智慧养老的目标是提升老年人的生活质量和幸福感，通过技术手段实现更好的健康管理、安全监控和生活辅助。
2.2. 智慧养老技术
智慧养老技术包括一系列用于提升养老服务质量的技术手段，如智能家居、健康监测系统、智能医疗设备和远程照护系统等。智慧养老服务通过将数字技术嵌入到传统养老服务模式当中，以达成更新服务理念、优化服务结构、提升服务质量的目标，从而为老年人提供贴合时代发展、满足生活需求的老年服务，形成以人为本、以技术赋能为手段的新型服务机制[4]。例如，智能家居系统可以通过传感器监测老年人的日常活动，健康监测系统能够实时记录老年人的健康数据，而远程照护系统则可以实现远程医疗和健康管理。
2.3. 智慧养老用户需求
在查询我国现有智慧养老相关企业数量后得知，目前我国正常经营的智慧养老企业有2164家。近年来，智慧养老企业数量迅速增长。2011年以前，我国国家层面的政策文件中未曾提及“智慧养老”，国内也没有形成完善的养老基础设施，养老企业数量较少。1988至1999年，全国智慧养老企业仅有21家，2000至2009年，平均每年新增智慧养老企业不足15家。2015年，国家首次明确提出“智慧健康养老”这一概念，此后智慧养老企业开始高速增长。2022年，成立的智慧养老企业数量达到304家[5]。这表明，随着政策支持和市场需求的扩大，我国智慧养老市场正在快速发展。智慧养老市场的快速发展不仅体现在企业数量的增加，还反映在用户需求的多样化和技术应用的深入。
智慧养老用户主要包括老年人及其家庭成员，他们的需求主要集中在健康监测、安全保障、社交互动和生活辅助等方面。随着智慧养老企业的增加，市场竞争促使这些企业不断创新和优化产品与服务，以更好地满足用户的需求。老年人希望通过智慧养老技术获得更好的健康管理和安全保障，同时也希望通过技术手段保持与外界的联系，提升生活质量。比如，老年人随着年龄增长，身体健康状况往往需要更加密切的监控和管理。智慧养老技术通过健康监测系统，实时记录老年人的健康数据，如心率、血压、血糖等指标。这些数据不仅可以为老年人提供日常健康管理的依据，还能帮助医生及时发现和处理潜在的健康问题。家庭成员则希望通过智慧养老技术了解老年人的健康状况和日常活动，确保老年人的安全和幸福。通过满足这些需求，智慧养老技术不仅提升了老年人的生活质量，也促进了智慧养老企业的发展和市场的繁荣。因此，政策的支持、市场的需求以及技术的创新共同推动了我国智慧养老行业的迅速崛起。
3. 信任挑战：智慧养老技术的伦理风险及成因
随着智慧养老技术的快速发展，越来越多的智能技术被引入到老年护理和服务领域，旨在通过创新技术手段提高老年人的生活质量。在智能养老技术应用中，必须遵循一系列伦理原则和要求，以确保技术在提升老年人生活质量的同时不会对他们的权益造成侵害，包括安全性、尊重原则、公平原则、隐私保护、透明性和可解释性等。这些技术的应用在带来便利的同时，也引发了诸多伦理风险和信任挑战。智慧养老技术的伦理风险主要集中在数据处理、算法偏见、虚拟现实应用以及隐私保护等方面。这些问题不仅影响技术的有效性，还可能对老年人的尊严、平等和安全构成威胁。本章主要对智慧养老技术所导致的伦理风险进行简要概述，分析信任缺失的危害，为破解智能养老技术的伦理风险提供重要前提。
3.1. 数据失衡：忽视老年情感尊严
数据是训练人工智能模型和做出决策的基础，其质量和代表性对模型的性能和可信度至关重要。然而，数据的代表性不足或质量低劣可能会导致人工智能系统学习到不准确或不完整的信息，从而影响其在智慧养老实际应用中的表现。如果用于训练的健康监测数据样本未能充分覆盖老年人各种健康状况和生活场景，人工智能系统将难以对这些情况做出准确的预测和决策。例如通过单一动作完成护理的机器人虽然能执行基本护理任务，但缺乏与老年人互动的温情，更无法提供情感上的支持。此外，对老年人健康和生活进行监测、监控，如果力度把控不当，可能会导致隐私外泄，使老年人感到不安和被侵犯[6]。老年人由于去中心化的网络结构和对数字技术认识的系统性缺乏更容易成为网络诈骗、信息泄露等网络犯罪的受害者，这进一步强化老年人技术恐惧心理并削弱其数字融入的内生动力。这种技术局限性不仅影响了智能养老的实际效果，还可能损害老年人的尊严和隐私。
此外，数据质量低劣也经常导致系统对老年人情感和尊严需求的忽视。由于数据集中主要包含生理健康数据和活动监测记录，缺乏对老年人日常生活中情感状态和社交需求的全面考量，导致智慧养老技术在提供个性化服务时显得不够人性化。比如系统可能只依赖传感器数据来判断老年人是否需要帮助，却忽略了老年人的情绪需要或隐私需求[7]。缺乏情感和尊严的考量可能导致老年人对技术的不信任感，从而影响其使用意愿，使得他们在数字化时代中处于更加边缘化的状态。
3.2. 算法偏见：加深老年数字鸿沟
训练数据集中存在的偏见可能是导致信任问题的根本原因之一。人工智能的学习过程经由人类开发设计，从数据选择、标签确定，到训练优化、审查应用，全过程均涉及人为的选择与决策，即便人工智能本身能够客观反映数据，但其学习到的规则逻辑和社会影响却并非完全客观、公正，在辅助决策时会产生与人类相似的偏见行为，即算法偏见(algorithmic bias)。
在智慧养老中，算法偏见可能表现为对不同老年群体的差异化处理。例如，数据集中对某些老年群体(如不同经济背景、文化背景或健康状况)的采样不平衡，可能导致人工智能系统在健康监测、医疗诊断或生活辅助方面对这些群体产生不公平或歧视性的结果。一项研究发现，在智慧养老系统中，人工智能算法可能会对低收入老年人群体提供较少的医疗资源或较低质量的健康建议。例如某智慧养老平台对高收入和低收入老年人群体进行健康监测时，系统对高收入群体的健康状况预测更为准确，而对低收入群体的预测则存在较大偏差。这种偏差导致低收入老年人群体未能及时获得所需的健康服务[8]。这种现象不仅影响了智慧养老系统的公平性，还可能进一步加深老年群体之间的数字鸿沟和社会隔离。
3.3. 技术仿真：老年认知与接受挑战
在智慧养老领域，日前出现数字技术与养老服务融合的新型的智能化养老模式，通过智能感知、数字视(音)频等技术手段实现养老领域社会问题的空间转换，将原先只能透过实体机构提供的养老服务转化到了电子技术营造的立体式、可感式空间当中，使老年人居家就能享受到类似于机构养老的服务[9]。
然而，这些仿真技术的应用也带来了信任问题。首先，仿真技术的真实性和准确性直接影响老年人的信任感。如果虚拟环境中的互动体验与现实生活差距过大，老年人可能会感到困惑和不安，进而降低对技术的接受度。有研究指出，仿真技术在智慧养老中的应用需要确保用户体验的真实感和一致性，否则将难以获得老年人的信任和持续使用[10]。其次，仿真技术的复杂性和不透明性也增加了信任问题。老年人对于高科技的理解和掌握能力相对有限，如果仿真技术的操作复杂且缺乏透明性，他们在使用过程中可能会产生疑虑和抵触情绪[11]。并且，智慧养老服务往往会涉及大量的个人数据，如身份信息、健康状况、生活习惯、财务信息、社会关系等，如果数据泄露或者滥用则会侵犯隐私，削弱老年人对于其的信任和依赖。
4. 信任重构：智慧养老技术的进路反思
智慧养老技术的具体实践中会不可避免地出现诸多伦理挑战，面临信任困境。因此，必须加快步伐重构信任，推动智慧养老技术的良性发展。本章将从如何通过完善顶层设计、坚持人本理念、推动普惠共享这三个方面进行探讨，重构老年人对智慧养老技术的信任，从而为实现智慧养老的发展提供理论参考。
4.1. 顶层设计：健全智能养老监管与治理体系
中共中央、国务院颁布的《关于加强新时代老龄工作的意见》中强调要推进互联网应用、移动终端适老化，开展 “智慧助老”行动，强化数字技能教育，提高老年数字素养[12]。但目前法律法规一定程度上滞后于数字社会老年人权益保障新需求，因此应该完善老年数字失能治理的顶层设计。在推进顶层设计时，不仅要考虑老年人的生理和心理需求，还要注重法律和政策的适应性和前瞻性。数字治理制度的完善应包括明确的法律条文和执行细则，以保障老年人在数字社会中的权益。此外，政府应建立跨部门协作机制，推动社会各界共同参与，形成合力，确保政策的有效落地。通过法律的不断修订和完善，可以为智慧养老技术的发展提供坚实的法律保障，从而提升老年人对智慧养老技术的信任度。
此外，政府要多关注老年群体数字能力的培养，积极推进互联网、物联网等数字基础设施在老年群体中的建设[13]。相关部门需重视科普和培训工作，例如帮助老年人了解到他们有权知情其个人数据被如何收集和使用、有权要求删除不再需要的个人信息并能行使合理使用数据的权利以保护自身利益。此外，还可以帮助老年人了解如何安全地使用智能设备和互联网服务以及如何辨识和应对数字安全风险。这些措施不仅能提高老年人对技术的信任感，还有助于提升其参与数字化社会的自信心和能力，缩小老年人与数字技术之间的鸿沟。
4.2. 人本理念：推动智慧养老适老化发展
人工智能技术的发展需要制定一个规范和可信赖的框架来保障人类免受伤害。在智慧养老领域，这一点也尤为重要。在智能健康监测、远程医疗和日常生活辅助等应用场景中，人工智能系统应当通过“Human-in-the-Loop”(人在环路)的方法来增强老年人的信任和安全感。
在人工智能系统的设计和运行过程中，将人类作为决策过程的一部分，使其能够理解和参与系统的运作，并对系统的行为负责。例如，在智能健康监测手环的使用中，虽然设备能够自动收集老年人的生物指标和运动数据，并通过算法进行健康评估，但关键的决策节点，如健康风险预警和个性化健康建议，应由专业医护人员或老年人及其家属进行审核和确认。这不仅能够提高健康建议的准确性和可靠性，还能增强老年人对设备的信任和依赖。这既有利于发挥人工智能技术的优势，又能确保人类在关键环节的参与和负责，从而构建一个可信赖、可控的智慧养老系统，这不仅可以保障老年人的安全和健康，还能提升他们对智能养老系统的信任感。确保老年人在享受人工智能技术带来便利的同时，其安全、健康和权益也能得到全面保障。
4.3. 普惠共享：实现智慧养老普适与均等
推动智慧养老服务的普惠性和均等性，确保智能养老技术能够广泛惠及所有老年人群体，有利于实现社会公平。当前，智慧养老服务在城市和农村地区发展不平衡，数字鸿沟现象严重，亟需采取有效措施推动其均衡发展。为此，应加强对弱势老年群体的关注，包括低收入、孤寡、残疾老年人等，通过社会保障体系和社区服务网络，提供专项的智慧养老支持。例如，政府可以设立专项基金，支持智慧养老技术的研发和推广，确保弱势老年人群体也能享受到高质量的智慧养老服务。有研究指出，通过财政支持和政策倾斜，能够有效推动智慧养老服务在农村和偏远地区的落地[14]。
并且还应推动智慧养老技术在偏远落后地区的推广和发展。鼓励地方政府和社会组织在偏远地区建设智慧养老基础设施并加强对偏远地区的技术培训和能力建设从而提升他们对智慧养老技术的理解和应用能力；与地方社区密切合作，制定适合当地特点的应用方案。此外，可以建立智慧养老服务平台，实现数据的互联互通和资源的共享，能够大幅提升智慧养老服务的整体水平和覆盖面[15]。通过保障老年人在数字社会中都能享受到公平的服务和权益，推动智慧养老服务的普惠性和均等性，不仅有利于实现老龄社会和谐发展，也体现科技进步和人文关怀相结合。
5. 结语
智慧养老技术的快速发展为应对人口老龄化提供了创新的解决方案，然而这些技术的普及也伴随着诸多伦理风险和信任挑战。从数据失衡到算法偏见，从虚拟现实的复杂性到隐私保护的严峻性，这些问题不仅影响了技术的有效性，也对老年人的尊严、安全和权益构成了威胁。因此，在未来的智慧养老实践中，应继续坚持科技为人服务的理念，注重伦理风险的防范与管理，以实现智慧养老的真正普惠，确保每一位老年人在数字时代都能安享晚年，获得幸福感和安全感，构建一个安全、可信、可持续发展的智慧养老时代。