当OpenAI在2022年11月推出ChatGPT项目时，它让几乎所有人都可以使用人工智能应用程序。聊天机器人让人工智能对普通人来说触手可及，而不仅仅是数据科学家或计算机工程师。

　　但并非所有人都希望将这些工具用于良性目的。今年早些时候，香港的一名财务人员在视频通话中冒充公司首席财务官，向骗子转移了2500多万美元。

　　澳新银行集团(ANZ Banking group)首席信息安全官玛丽亚?米洛萨维耶维奇(Maria Milosavljevic)周三在接受《财富》(Fortune)虚拟专访时表示:“这些事情让我睡不着。”“不幸的是，人工智能非常有用和强大，我们的朋友和敌人都可以使用。”

　　该活动与埃森哲(Accenture)合作举办，探讨了新的生成式人工智能工具与网络安全之间的互动。

　　埃森哲(Accenture)新兴技术安全全球主管斯科特?威尔基(Scott Wilkie)表示，“攻击的广度和数量都在全面扩大。”这家咨询公司发现，在过去的12个月里，勒索软件攻击的数量大约增加了一倍，网络钓鱼攻击的数量增加了1000%。

　　他说:“生成式人工智能和新的大型语言模型使更大规模的复杂攻击成为可能。”

　　新加坡网络安全局(Cyber Security Agency of Singapore)网络安全项目中心主任Calvin Ng承认，网络攻击的频率和严重程度都有所增加。他解释说，适当的风险评估和管理是必要的。

　　“你可以很容易地制作一个网络钓鱼邮件，你可以很容易地自动化恶意软件，”吴恩达解释说。“你不需要成为网络安全专业人士;你可以使用ChatGPT制作恶意软件。事情正在被简化;今天，做坏事变得简单了。”

　　吴恩达警告了“数据中毒”的可能性，即对手以人工智能模式背后的训练集为目标。他解释说，企业需要考虑部署人工智能的后果，因为人工智能可以“从各地收集信息，并在不征求他人意见的情况下自由地产生信息”，并设置护栏以防止数据中毒。

　　周三，微软宣布发现了一种破解生成式人工智能模型的方法，使其无视护栏，生成与爆炸物、毒品和政治相关的内容。

　　然而，小组成员也指出，人工智能可以帮助网络安全团队，而不仅仅是阻碍。

　　“我们每天有超过100亿个数据事件。我们不可能让人去看每一件事，所以由于机器学习和人工智能，我们35%的事件响应已经自动化了，”米洛萨维利维奇说。

　　网络安全是一项“团队运动”

　　随着攻击的蔓延，网络安全不再是一项仅与IT部门有关的举措。周三，小组成员指出，网络安全不仅仅是公司范围内的举措，而是包括各国政府在内的多方共同努力的结果。

　　“我们一直有一句格言，网络安全应该是一项团队运动，”威尔基说。“当然，在过去的五年里，我从未见过任何时候的合作如此之大、如此之好。”

　　例如，约有40个国家签署了一项国际协议，同意不屈服于勒索软件攻击者的要求。各成员还同意共同开展研究项目，以建立复原力。

　　政府关心的部分原因还在于国家安全和地缘政治。吴恩达说，虽然技术可以帮助一个国家发展经济，但它需要在一个“平衡的环境”中实现。

　　韦莱韬悦(Willis Towers Watson)亚洲网络业务区域主管Jennifer Tiang表示，企业，尤其是那些处于严格监管行业之外的企业，确实需要保持“基本的网络卫生”。她将其与家庭安全进行了比较:如果房主选择不锁门，拥有最复杂的摄像系统就没有什么意义。

　　“他们面临的风险非常复杂，”她说。“他们需要做好最基本的工作，在可能投资最少的地方进行投资。——Fortune.com/The纽约时报

　　×