颠覆传统：盘点AI在健康福利领域的创新应用与潜在风险 

员工健康和福利计划需要变革。根据美世达信员工福利（下称“MMB”）最新的《2024员工风险报告》，HR和风险管理者将日益增长的医疗和福利成本视为全球头号员工风险；MMB《2024年全球员工保险福利趋势报告》的调查也显示，82%的员工表现出了职业倦怠的状况。然而，领先的企业可以利用AI降低职业倦怠风险并控制医疗与福利成本。

要充分发挥AI在员工健康福利领域的潜力，需要高质量的数据、全面的治理计划、技术创新以及更完善的医疗资源获取途径。对此，MMB在《2024员工风险报告》中详细盘点了AI为健康和福利领域带来的潜在影响与风险。

数据是AI的基石——大模型需要大量数据以实现最佳性能。然而，医疗保健和福利数据受到严格监管，各国对数据使用和共享的规定各不相同。如果没有统一的标准，这些规定可能会使针对医疗保健需求构建和使用AI工具变得非常困难。

数据质量是另一个大问题。医疗数据存在多种格式，合并或转换这些数据可能增加出错的风险。有偏见的AI训练数据可能无法准确反映某些患者群体或最新的标准和研究结果，从而导致错误和高风险的决策。此外，由于训练数据来源缺乏透明度，人类很难对AI模型的输出结果进行事实核查。

解决数据难题的一种方法是使用合成数据，即以电子方式创建的人工信息，用于支持预测分析、软件开发和机器学习。与真实数据相比，合成数据获取速度更快、成本更低；它有助于填补不完整数据集的空白，甚至可以模拟患者数据，而不会引发隐私问题。

以医疗赔偿责任问题为例：如果健康和福利从业者使用AI进行咨询、诊断和决策，一旦出现问题，责任将由谁承担？这一问题引发了广泛的讨论。

鉴于AI对公众健康和人权的潜在影响，健康和福利领域的AI正受到严格的监管和审查。一些国家的政府正在推出相关法律，而欧盟的《人工智能法案》可能是迄今为止最全面的法律框架。

该法案列出了AI系统的几项具有高风险性的功能和特点，这些功能和特点需要遵守额外的标准。例如，控制医疗福利的获取、支持关键治疗决策或在某些任务中使用生物识别技术的AI工具都被视作高风险工具。

为了遵守欧盟等地的法规，企业可以加强控制和决策，以弥补新出现的治理漏洞。由于该法案提到了如何应用大语言模型和特定领域工具的“用例”，因此需要对这些领域给予更多关注。各组织可能还需要强化其AI道德政策，以确保在使用AI时以人为本，并在早期规划中纳入不同的观点和潜在风险。

对AI监管的一个常见的批评是：它可能会抑制投资和冒险，而这些正是创新的动力。然而，考虑到医疗保健和福利对于人们健康福祉的重要性，某些行业中适用的“勇于试错”方法可能会对公共卫生和患者隐私造成严重后果。因此，对医疗保健而言，AI开发者最好遵循那句医学格言：“首先，请不要伤害”。

从高管到投资者到监管方，健康和福利领域的参与方往往众多，这也使得推动变革变得十分困难。例如，AI初创企业同时也面临着来自市场主导的传统软件供应商的激烈竞争。

社会经济差异会导致巨大的健康差距。来自农村、低收入和少数群体的人们在有效获取医疗资源（包括福利）方面往往面临更多障碍，包括经济、语言、技术、教育和后勤等方面的障碍。虽然支持更多语种的AI模型的出现可能会缩小知识层面的差距，但却无法解决发展层面的差距。

理论上，医疗保健服务系统可以利用AI来弥补这些差距。AI能够帮助节省成本、实现个性化、进行翻译并提高效率，从而使更多患者受益。然而，情况也可能相反。

在医疗和福利领域，AI可能会助长偏见和歧视的问题尤其令人担忧。它可能会识别并拒绝为高风险人群——即那些最需要医疗资源的人——提供保险。此外，低质量的训练数据可能不包含某些群体的病史，这会无意中使AI做出不正确的决策。

唯一比上述威胁更大的风险是选择不作为。忙碌的福利专员及其供应商需要以人为本的生产力，而这种生产力只有通过工作设计、评估和技能提升才能实现。AI可以帮助解决这一难题，但只有在以数字化为先的企业文化中才能释放其全部潜力。

由于数字化改革是一项公司整体层面的工作，对变革的抵触可能成为潜在的挑战。员工可能会避免使用AI驱动的健康资源，尤其是年龄较大的员工，其可能会对AI持有特别的抵触情绪，或是提出更多的补偿要求。领导者可以借助生成式AI来制定个性化福利方案和相关沟通方案，从而更有效地获得不同员工群体的认同。

对广大企业而言，全面、可负担的医疗保健（包括心理健康）和健全的福利战略（包括积极的成本管理）可以帮助识别、预测和降低企业及其员工面临的风险，从而增强企业的韧性。企业可以利用健康福利和其他奖励来应对这些风险，为员工和社会做出正确的行动，并在此过程中建立信任和公平。

^{*本文内容仅用于传递一般信息，不构成法律建议或意见。}

^{1 弗若斯特沙利文（Frost & Sullivan）《AI医学影像行业发展现状与未来趋势蓝皮书》}