微软工程师称,他曾因警告与霉霉裸照有关的DALL-E问题而被噤声

2025-08-23 22:26来源:本站

  

  微软的形势正在升温。

  首先,该公司的一个人工智能程序被指责为泰勒·斯威夫特(Taylor Swift)在社交媒体上泛滥的深度伪造色情图片的罪魁祸首,这些图片非常糟糕,就连白宫也发表了一份声明。

  现在,微软软件工程师谢恩·琼斯(Shane Jones)出面声称,他在OpenAI的DALL-E中发现了安全漏洞,这些漏洞可能被用来制作针对Swift的恶意图片,但他被告知要对这个问题保持沉默。

  琼斯说,他在12月初发现了这个安全问题,并向微软报告了这个问题,微软指示他通知与微软有密切合作关系的OpenAI。

  据新闻媒体报道,在他让OpenAI知道这个问题之后,他再也没有收到任何回复。随后,他在领英(linkedIn)的一篇帖子中公开了这一安全漏洞,同时还敦促OpenAI关闭DALL-E,因为他认为该项目构成了公共安全风险。

  琼斯说,在他告诉微软这篇帖子后,微软的法律团队命令他删除这篇帖子。

  琼斯对OpenAI和微软的沉默和不作为感到不满,他致信华盛顿州国会代表和州检察长鲍勃·弗格森,警告人工智能的安全问题。

  琼斯在信中引用了Swift的图像,这些图像是在微软的设计器上创建的,部分基于DALL-E技术。

  “DALL·e3中的漏洞,以及使用DALL·e3的Microsoft Designer等产品,使人们更容易滥用人工智能来生成有害图像。微软意识到了这些漏洞和滥用的可能性,”他写道。

  OpenAI发表了一份声明,称琼斯指出的安全问题“不会绕过我们的安全系统”。

  此外,微软曾表示,任何导致可怕的Swift深度伪造的安全绕过都已关闭。

  由于这些人工智能工具已经广泛使用,黑客经常破解它们,绕过它们的安全功能,包括在OpenAI产品上——这表明这项技术仍然非常容易受到不法行为的攻击。

边互网声明:未经许可,不得转载。