OpenAI员工批评人工智能透明度不足

2025-09-22 10:53来源:本站

  

  在周二,一群来自OpenAI的现任和前任员工联合发布了一封公开信,表达了对这家全球领先的人工智能公司在透明度和问责制方面的严重担忧,认为其无法有效应对技术带来的潜在风险。

  信中指出,人工智能的安全隐患令人堪忧,“从加剧现有的不平等,到信息操控和虚假信息,再到对自主人工智能系统的失控,甚至可能导致人类的灭绝。”

  包括一名谷歌深度思维(Google DeepMind)员工在内的16位签署者警告称,人工智能公司“有强烈的经济动机去规避有效的监管”,而这些公司的自我监管并不能有效改变这一现状。

  信中提到:“人工智能公司掌握着大量未公开的信息,包括其系统的能力与局限性、保护措施的有效性,以及不同类型伤害的风险程度。”

  “然而,他们目前对政府的信息共享义务非常薄弱,更不用说与公民社会的沟通。我们认为不能指望他们会自愿分享这些信息。”

  信中还指出,这种情况意味着只有公司内部员工才能向公众发声,联署者呼吁制定更全面的举报人保护法律。

  信中表示:“广泛的保密协议使我们无法表达我们的担忧,除了那些可能无法解决这些问题的公司。”

  据《纽约时报》报道,OpenAI的四名现任员工因担心遭到报复而匿名签署了这封信。

  被称为人工智能“教父”的约书亚·本吉奥、杰弗里·辛顿和斯图尔特·罗素也参与了这份备忘录,并对人们对人工智能潜在危险的准备不足表示批评。

  OpenAI对此回应称,坚决反驳这些批评。

  声明中表示:“我们为提供最强大、最安全的人工智能系统而感到自豪,并相信我们在解决风险方面采取的科学方法。”

  “我们同意,考虑到这项技术的重要性,进行严格的辩论至关重要,我们将继续与全球各地的政府、民间社会及其他社区合作。”

  OpenAI还表示,员工有“表达担忧的渠道,包括匿名诚信热线”,并新设立了一个由董事会成员和高管组成的安全与保障委员会,首席执行官萨姆·奥特曼也在其中。

  对OpenAI的批评最初在《纽约时报》上曝光,同时,关于奥特曼领导能力的质疑也在增加。

  OpenAI推出了一系列新产品,但公司坚称,这些产品只有在经过全面测试后才会向公众发布。

  最近,一款人形聊天机器人的发布引发了争议,著名好莱坞演员斯嘉丽·约翰逊抱怨称,这款聊天机器人的声音与她的声音极为相似。

边互网声明:未经许可,不得转载。