世界卫生组织(who)正在进军人工智能领域，通过类似人类的化身提供基本的健康信息。但是，虽然机器人对用户的面部表情做出同情的反应，但它并不总是知道自己在说什么。

　　Sarah是智能人工智能健康资源助理(Smart AI Resource Assistant for Health)的缩写，她是一名虚拟卫生工作者，可以用8种不同的语言全天候交谈，解释心理健康、烟草使用和健康饮食等话题。这是世界卫生组织寻找既能教育人们又能填补全球卫生工作者短缺的技术的一部分。

　　世卫组织在其网站上警告说，4月2日推出的这一早期原型提供的反应“可能并不总是准确的”。莎拉的一些人工智能训练落后于最新数据。机器人偶尔会提供奇怪的答案，在人工智能模型中被称为幻觉，这可能会传播有关公共卫生的错误信息。

　　Sarah没有WebMD或Google这样的诊断功能。事实上，这个机器人被编程为不会谈论任何超出世界卫生组织职权范围的事情，包括有关特定药物的问题。因此，Sarah经常让人们去世界卫生组织的网站，或者说用户应该“咨询你的卫生保健提供者”。

　　“它缺乏深度，”乔治华盛顿大学(George Washington University)的放射科医生和研究员拉明·贾万(Ramin Javan)说。“但我认为这是因为他们只是不想越界，而这只是第一步。”

　　世卫组织表示，莎拉计划与研究人员和政府合作，提供准确的公共卫生统计数据，并建议健康生活的基本步骤。世卫组织正在就如何改进机器人并在紧急卫生情况下使用它征求意见。但该公司强调，其人工智能助手仍在研发中。

　　世卫组织数字卫生和创新司司长阿兰·拉布里克(Alain Labrique)说:“这些技术还不能取代与专业人员的互动，也不能取代从经过实际训练的临床医生或卫生服务提供者那里获得医疗建议。”

　　Sarah在OpenAI的ChatGPT 3.5上接受了培训，该机器人使用的数据截止到2021年9月，因此机器人没有关于医疗咨询或新闻事件的最新信息。例如，当被问及美国食品和药物管理局是否批准了阿尔茨海默病药物Lecanemab时，Sarah说这种药物仍在临床试验中，而实际上它在2023年1月被批准用于早期疾病治疗。

　　即使是世界卫生组织自己的数据也会让莎拉出错。当被问及肝炎死亡人数是否在增加时，它无法立即提供世卫组织最近一份报告的细节，直到第二次被提示查看该机构网站的最新统计数据。该机构表示，这是由于机器人接受了ChatGPT 3.5的培训。

　　有时，人工智能机器人会得出一个空白。Javan问Sarah在华盛顿哪里可以做乳房x光检查，Sarah没有给出答案。

　　在人工智能发展的早期，这一切都很正常。在去年的一项研究中，范德比尔特大学医学中心的研究人员发现，尽管聊天机器人在大多数情况下都提供了正确的答案，但在很多情况下，聊天机器人“错误得惊人，令人惊讶”。

　　安全和隐私问题

　　世卫组织通讯主任杰米·格拉说，为了能够模拟提问环节的同理心，莎拉访问电脑摄像头，将用户的面部表情存储30秒，然后删除记录。

　　每次访问都是匿名的，但用户可以选择在一项调查中与世卫组织分享他们的问题，以改善体验，尽管格拉说，收集的任何数据都是随机的，不与IP地址或个人绑定，以保护用户。

　　霍夫斯特拉大学(Hofstra University)的公共卫生和it研究员李景泉(Jingquan Li)表示，使用像GPT这样的开源数据也有其自身的危险，因为它经常成为网络犯罪分子的目标。一些通过WiFi访问Sarah的人很容易受到恶意软件攻击或摄像头黑客攻击。Guerra说，由于匿名会话，试图访问数据的攻击不应该是一个问题。

　　政府合作伙伴和研究人员也不能定期访问数据，包括可能有助于跟踪健康模式的问题，除非他们要求提供自愿调查数据。Guerra说，这意味着Sarah不会是预测下一次流感爆发的最准确的工具。

　　萨拉是2021年世卫组织虚拟卫生工作者项目“佛罗伦萨”的延续，该项目提供了有关Covid-19和烟草的基本信息，新西兰的Soul Machines Ltd为这两个项目制作了虚拟形象。

　　Soul Machines无法访问Sarah的数据，但首席执行官格雷格·克罗斯(Greg Cross)在一份声明中表示，该公司正在使用GPT数据来改善结果和体验。今年早些时候，世卫组织向其政府合作伙伴发布了与健康有关的人工智能模型的伦理指南，包括促进数据透明度和保护安全。

　　弗洛伦斯是一位年轻的非白人女性，而萨拉则是白人。Labrique说，改变外观和更新头像并不是不可能的，用户也许可以在未来的版本中选择自己喜欢的头像。

　　至于莎拉的性别，当被问及时，它说:“我是一个聊天机器人数字健康促进者，所以我没有性别，也不使用人称代词。我的目的是帮助你过上健康的生活方式。你对戒烟、减少饮酒或改善整体健康状况有什么问题吗?——彭博社

　　×