尽管存在缺陷，世界卫生组织还是推出了人工智能聊天机器人 SARAH

世界卫生组织（WHO）提出了一个由聊天机器人集成的人工智能，名为 SARAH。 SARAH 的使命是覆盖全球健康信息的获取。 我们提到 SARAH 的创新方法。 尽管如此，它仍然设法制造了一些重要的虚假医疗信息。

科技创新遇见健康教育

SETHARA 是智能健康人工智能资源助手的缩写，反映了世卫组织为此所做的努力。 她代表了该机构使用的最新数字健康手段。 SARAH 旨在满足随时随地的护理需求，可以用八种语言提供信息，包括心理健康和生活选择。

这是世卫组织将技术纳入公共卫生教育并缩小全球健康覆盖差距战略的一部分的此类行动之一。 然而，尽管该胚胎是历史上的原型，但世卫组织承认该胚胎存在缺陷。 迄今为止，该计划通常由编程人员量身定制，以保留在世卫组织的职责范围内，并提供有关如何就特定问题寻求专业帮助的信息。 该机器人无法持续提供此类服务，并且无法与 WebMD 等工具相比。

人工智能准确性和安全性的挑战

SARAH 的部署并非仅靠简单的方法就能完成。 AI聊天机器人基于OpenAI的ChatGPT 3.5模型； 它存在提供过时信息以及一些错误答案的问题。 一个例子是它错误地提到了一种新的阿尔茨海默氏症药物的批准状态，这反映出它缺乏持续的训练数据，而这些数据只包括早至 2021 年 9 月的数据。

SARAH 经常遇到的另一件事是提出可能超出主题或目的的答案，人工智能开发中的已知问题被称为幻觉。总而言之，这些不准确可能会增加公众错误信息的危险。 因此，世界卫生组织（WHO）正在寻求研究人员和政府机构的意见，以提高抵御能力，特别是在人类卫生紧急情况下。

这也伴随着对卫生工作者使用人工智能的担忧。 SORAH应用面部识别技术来检测和推断用户的情绪。 他们承诺通过提供数据保护和隐私来避免露面。 开源永久模型的另一个特点是，基于人工智能的网络攻击的风险增加。

未来的方向和道德考虑

WHO 仍在维护 SARAH，很快就会有更新，比如引入不断变化的头像外观和交互能力。 事实上，世卫组织为其利益相关者宣布了道德原则，并提出了数据透明度和用户安全的概念。 SARAH 是一种基于人工智能的技术，由于世卫组织对将人工智能纳入传播健康信息持谨慎态度，因此其设计被提升到了另一个层次。 然而，该技术有几个弱点，该组织立即指出了这些弱点。

该组织明确表示，SARAH 不是医疗服务的变革者（这不是其目标），而是在全球范围内传播公共卫生意识和教育的支持工具。 尽管存在一些障碍，世界卫生组织的努力表明在健康教育中使用人工智能方面取得了重大进展，因为它将面向更广泛的受众，并帮助全球更容易获得健康信息。

本文最初发表于《财富》杂志