最近几个月，54岁的加里·马库斯一直在社交媒体上强烈警告唐纳德·特朗普重返白宫的危险，尤其是如果他身边有埃隆·马斯克。现在事情发生了，马库斯发现自己非常沮丧。作为美国在人工智能（AI）及其风险方面的领军人物，他去年与OpenAI （ChatGPT背后的公司）的首席执行官萨姆·奥特曼（Sam Altman）一起在参议院一个关于如何监管人工智能的小组委员会作证。在他的新书《驯服硅谷》中，马库斯认为，如果不加以控制，生成式人工智能——ChatGPT和Gemini等工具背后的技术——将使世界变得更糟。

　　马库斯是纽约大学心理学和神经科学教授，他花了几十年时间研究认知心理学和人工智能的交叉领域。他还创立了两家初创公司。第一家公司几何智能（Geometric Intelligence）于2016年被优步收购，成为一家深度学习研究实验室。第二，稳健。他与Roomba吸尘器的创始人之一共同创立了AI公司，专注于为自主机器人开发开源软件。

　　马库斯在X等平台上很活跃，他是马斯克的直言不讳的批评者，每天都与现代人工智能领域的领军人物、meta现任人工智能主管扬·勒昆（Yann LeCun）等人发生争执。Marcus直言不讳地表达了他对LeCun的看法：“他是一个智力上不诚实的自大狂，当我第一次批评大型语言模型（llm）时，他尽其所能地贬低我，但当ChatGPT让meta的工作黯然失色时，他又回过头来。”

　　的问题。您如何看待特朗普当选总统后的未来？

　　的答案。黑了。生成式人工智能带来了许多短期和长期的风险，我认为特朗普政府实施有意义的监管的前景很差。欧盟有自己的人工智能法案；美国几乎没有关于人工智能的直接法律来保护其公民，我认为未来几年这种情况不会改变。

　　问：加州曾有过一些监管人工智能的尝试。你认为一些州有可能通过自己的人工智能法律吗？

　　答：加州确实通过了一些关于数据透明度等方面的法律，但硅谷的游说者帮助阻止了SB-1047法案，该法案将使这些公司承担“灾难性伤害”的责任。在我看来，这是一个错误。我们仍然可以希望一些州尝试，但这将是一场艰苦的战斗，除非公民们非常非常大声地要求保护。否则，在立法方面出现任何重大进展之前，可能会出现一些巨大的混乱，比如人工智能驱动的大规模网络攻击。

　　

　　问：特朗普选择埃隆·马斯克（Elon Musk）领导政府效率部。你对他有什么期望？

　　答：埃隆是最早警告人工智能风险的人之一，但现在他在人工智能的成功上投入了大量资金，很难想象这不会影响他向特朗普提出的建议。我想他会尽其所能让政府补贴人工智能的发展，包括他自己的公司，尽管他曾经警告过风险。记住，这是一个签署了“暂停AI 6个月”的人，他花了6个月的时间为自己的AI积累了一个巨大的GPU集群。

　　同样具有讽刺意味的是，马斯克的大部分财富——以及由此获得的大部分权力和影响力——都来自特斯拉，这家公司生产电动汽车，原则上是环保的。具有讽刺意味的是，马斯克所兴奋的人工智能形式并不十分环保，消耗大量的电力和水，并产生大量的排放。然而，我预计特朗普政府将努力放宽环境法规，允许更多的发电以养活人工智能。

　　问：微软（Microsoft）、亚马逊（Amazon）、b谷歌和meta都有兴趣使用核电站，在某些情况下是它们自己的核电站，为它们的数据中心供电。其中一些公司已经与拜登政府讨论过这个问题。你认为这个计划在特朗普领导下更可行吗？

　　答：我相当有信心，特朗普政府会支持我，除非有我没见过的角度。实际上我认为核能很有意义，但是把所有的能量都投入到巨大的语言模型中可能并不是最好的利用这些能量的方式，这与减少我们对化石燃料的依赖是相反的。

　　问：回到马斯克的问题上，你对政府雇佣世界上最富有的人有什么看法？一个政府成员可以拥有一个主要的社交媒体平台吗？

　　答：我不认为特朗普有“利益冲突”的概念，他通常无视先前的规范。我不认为这对国家来说是个好主意，但我怀疑这会阻止特朗普继续前进。谁来阻止他？几乎可以肯定，2025年的美国将与前几年大不相同。

　　问：你是什么意思？

　　答：特朗普会无视以往的规范，在某种程度上也会无视一般的法律。他将任命一位非常有同情心的司法部长（在特朗普任命马特·盖兹之后），最高法院最近也大大扩大了总统的豁免权。特朗普将把这当作一项授权，做他喜欢做的任何事，不管成文法是什么，我认为他这样做不会受到重大挑战。

　　问：大型科技公司呢？你认为他们在他的领导下会兴旺发达吗？在他的第一个任期内，特朗普认为脸书和推特是自由主义倾向的公司。

　　答：在埃隆的领导下，Twitter（现在的X）发生了巨大变化。我不认为超能力有太大改变。我认为大型科技公司面临的最大问题是，他们在生成式人工智能上投入了大量资金，幻想着它将演变成“AGI”（人工通用智能），而实际上，它并不是一种足够健全的技术，无法支持人们所设想的革命。如果生成式人工智能不能相对快速地盈利，泡沫就会破裂——特朗普和马斯克都无法解决这个问题。

　　问：社交媒体破坏了隐私，为监控资本主义铺平了道路。我们对人工智能有什么期待？

　　答：生成式人工智能将推进监控资本主义。有些人将自己内心深处的秘密倾注到聊天机器人中，法学硕士的制造商希望它们能够访问每个人的文件、电子邮件、日历，甚至密码。法学硕士本身，通过他们的回答方式，可以微妙地塑造人们的信念，甚至，根据伊丽莎白·洛夫斯（Elizabeth Lofus）最近的一项研究，植入错误的信念。我们正在赋予法学硕士学位的创造者非凡的权力。与此同时，法学硕士已经被用来制造错误信息，在招聘中做出有偏见的决定，助长网络犯罪等等。这项技术有一些好处，但根本不清楚它们对人类是否有净好处。相反，大部分收益将归制造商所有，而大部分成本将由社会承担。

　　问：你在书中认为，科技寡头将越来越多地控制美国社会。写这篇文章的时候，你是不是已经在考虑特朗普的胜利了？

　　答：是的，我担心特朗普可能会赢，不过我认为无论如何我们都会面临挑战。但这本书的基本观点现在变得更加紧迫：我们不能相信大型科技公司会自我监管，而美国政府对大型科技公司过于着迷，无法得到我们需要的东西。美国公民能够保护自己免受人工智能侵害的唯一方法是，如果他们非常非常大声——也许是通过抵制。

　　问：这个技术寡头中的一名成员将获得政府职位。

　　答:正确。我们可以预期，马斯克在政策上的话语权将非常强大，比其他大多数亿万富翁都要强大得多。尽管存在巨大的利益冲突，但特朗普在很大程度上将科技政策推迟给马斯克，这并不奇怪。我警告过的世界已经到来。我们怎么做取决于我们自己。

　　问：我们怎样才能驯服硅谷？

　　答：全世界人民必须团结起来说：“我们不希望人工智能破坏环境，剥削艺术家和作家，诽谤他人，并为大众宣传买单，尤其是当制造商不对他们造成的伤害承担任何真正的责任时。”“只有我们坚持让大型科技公司变得更好，我们才能看到真正的进步。

　　?Quieres a?adir otro usuario a tu suscripción？

　　Anadir调查usuarioCo

　　持续leyendo aquí

　　Si continúas leendo en este dispositivo, no se podrdr leer en el opositivo。

　　?Por ququel estás viendo esto？

　　Flecha

　　Si quieres compare to cuenta, cambia to suscripción a la modalidad Premium, así podrás a?adir o uuario。在电子邮件中，您可以使用电子邮件访问

　　个性化的电子邮件体验PAíS。

　　En el caso de no saber qui est usando tu cuenta，建议cambiar tu contrase?a aquí。

　　Si决定了连续的空间和空间，este mensaje se mostrartenen en dispositivo, en el de la otra persona que estuusando to cuenta de forminida， affect和experiencia de lecture。pedes咨询顾问aquí los tsamrios y conditions de la suscripción digital。