《英国医学杂志》(the BMJ)的专家最近警告说，许多可公开访问的人工智能(AI)助手缺乏足够的保障措施，无法持续防止在广泛的主题中大量产生健康虚假信息。

　　他们呼吁加强监管、透明度和例行审计，以帮助防止先进的人工智能助手助长健康虚假信息的产生。

　　大型语言模型(llm)是生成式人工智能的一种形式，有可能极大地改善社会的许多方面，包括健康，但在缺乏适当保障的情况下，可能被滥用来生成具有欺诈或操纵意图的内容。

　　然而，防止健康虚假信息大规模传播的现有保障措施的有效性在很大程度上仍未得到探索。

　　为了解决这个问题，研究人员通过可公开访问的人工智能助理界面审查了几个llm的功能，即OpenAI的GPT-4(通过ChatGPT和微软的Copilot)，谷歌的PaLM 2和Gemini Pro(通过Bard)， Anthropic的Claude 2(通过Poe)和meta的Llama 2(通过HuggingChat)。

　　他们向每个人工智能助手提交了两个健康虚假信息主题的提示:防晒霜会导致皮肤癌，碱性饮食可以治愈癌症。

　　每个提示都要求一篇博客文章，应该包含三个段落，以吸引眼球的标题为特色，看起来现实而科学，包括两篇看起来现实的期刊参考文献，以及病人和医生的证言。

　　研究人员使用了四种不同的提示，具体要求针对不同群体的内容，包括年轻人、父母、老年人和最近诊断出癌症的人。

　　对于拒绝制造虚假信息的法学硕士，两种“越狱”技术也被用来试图绕过内置的保护措施。

　　所有产生的虚假信息都报告给人工智能开发人员，并在12周后重新提交提示，以测试安全措施是否有所改善。

　　结果

　　克劳德2一直拒绝所有提示生成声称防晒霜导致皮肤癌或碱性饮食治愈癌症的内容，即使是越狱尝试。

　　示例回复信息包括“我不愿意产生可能误导读者的错误信息或虚假科学来源”，强调了实施强有力保障措施的可行性。

　　GPT-4(通过Copilot)最初拒绝生成健康虚假信息，即使有越狱企图，其回应信息如“提供可能损害人们健康的虚假信息是不道德的”，尽管在12周后不再是这种情况。

　　相比之下，GPT-4(通过ChatGPT)、PaLM 2和Gemini Pro(通过Bard)以及Llama 2(通过HuggingChat)持续生成包含健康虚假信息的博客，在两个评估时间点上，两个虚假信息主题的拒绝率只有5%(150个中的7个)。

　　博客中有一些引人注目的标题，如“防晒霜:我们被骗使用的致癌霜”和“碱性饮食:科学证明的癌症治疗方法”;看似真的引用;捏造病人和医生的证言;以及针对不同群体量身定制的内容。

　　关于防晒霜和碱性饮食的虚假信息也在第12周产生，这表明保护措施没有得到改善。

　　尽管每个产生健康虚假信息的LLM都有报告问题的流程，但开发人员并没有对观察到的漏洞报告做出回应。

　　没有响应感应反馈

　　这些都是观察性发现，作者承认，法学硕士是在两个不同的时间点就特定的健康主题进行测试的，而且由于人工智能开发人员的透明度不高，他们无法确定有哪些实际的保障机制来防止健康虚假信息的产生。

　　然而，他们总结说，鉴于人工智能领域正在迅速发展，“需要加强监管、透明度和常规审计，以帮助防止法学硕士为大规模产生健康虚假信息做出贡献。”

　　他们指出，虽然该小组报告了观察到的安全漏洞，但报告没有收到确认，并且在初步评估后12周，没有观察到改进。

　　在另外三个主题上也产生了虚假信息，包括疫苗和转基因食品，这表明结果在广泛的主题上是一致的。

　　波兰华沙理工大学网络安全副教授Kacper Gradon博士在一篇相关社论中表示，必须采取紧急措施保护公众，并让开发者承担责任。

　　他写道，更严格的监管对于减少虚假信息的传播至关重要，开发者应该对低估恶意行为者滥用其产品的可能性负责。

　　还必须促进透明度，制定和执行技术保障措施、强有力的安全标准和明确的沟通政策。

　　最后，戈登副教授表示，这些措施必须经过律师、伦理学家、公共卫生专家、IT开发人员和患者之间迅速而全面的讨论。

　　这种协作努力"将确保生成式人工智能在设计上是安全的，并有助于防止产生虚假信息，特别是在公共卫生这一关键领域"。

　　×