全世界都在讨论ChatGPT的能力。当然,这回答世俗和哲学问题,它写代码而且调试它甚至可以有助于筛查老年痴呆症.但与每一项新技术一样,OpenAI开发的人工智能聊天机器人也面临被滥用的风险。

的研究人员检查点软件发现ChatGPT可以用来创建钓鱼邮件。结合食典委也是OpenAI开发的自然语言到代码系统,然后,ChatGPT可以用于开发和注入恶意代码.“我们的研究人员建立了一个完整的恶意软件感染链,从钓鱼电子邮件到包含恶意VBA (Visual Basic for Application)代码的Excel文档。我们可以将整个恶意软件编译成一个可执行文件,并在机器上运行。谢尔盖Shykevich他是Check Point Software的威胁情报组经理。他补充说,ChatGPT主要生成“比我们现在看到的真实网络钓鱼邮件更好、更有说服力的网络钓鱼和假冒电子邮件。”

ChatGPT“将允许更多人成为程序员,但最大的风险是更多人可能成为恶意软件开发人员。”
-Sergey Shykevich, Check Point Software

然而,对于ChatGPT来说,迭代是关键。“在代码方面,第一个输出并不完美,”Shykevich说。“我会将它与谷歌Translate的使用方式进行比较,后者的输出大部分都很好。但我会回顾一下,并做一些更正或调整。ChatGPT也一样,你不能完全按原样使用代码,需要做一些小的调整。”

洛莉·费斯·克拉诺博世杰出教授CyLab安全与隐私研究所卡耐基梅隆大学计算机科学、工程和公共政策的FORE系统教授赞同这一观点。“我还没有尝试过使用ChatGPT来生成代码,但我从其他人那里看到了一些例子。它生成的代码并不那么复杂,但其中一些实际上是可运行的代码,”她说。“还有其他用于生成代码的人工智能工具,它们每天都在改进。ChatGPT目前在为人类生成文本方面可能更好,可能特别适合生成逼真的欺骗电子邮件等内容。”

研究人员还发现黑客利用ChatGPT开发恶意工具例如信息窃取者和暗网市场。“(ChatGPT)将允许更多人成为程序员,但最大的风险是更多人可能成为恶意软件开发人员,”Shykevich说。

克拉诺说:“我认为,今天要成功地使用这些(人工智能)工具,需要一些技术知识,但我预计,随着时间的推移,从这些工具中获取输出并发起攻击将变得更加容易。”“因此,虽然目前还不清楚这些工具的功能是否比人类开发的、在网上广泛传播的工具更令人担忧,但用不了多久,这些工具就会开发出更复杂的攻击,能够快速生成大量变种。”

由于缺乏检测恶意代码是否在ChatGPT的帮助下创建的方法,可能会出现进一步的复杂情况。Shykevich说:“因为没有签名,所以没有很好的方法来确定一个特定的软件、恶意软件,甚至是钓鱼邮件是由ChatGPT编写的。”

OpenAI正在研究一种方法“水印”GPT模型的输出,之后可以用来证明它们是由人工智能而不是人类生产的。Shykevich还指出,在Check Point Software发布了其发现后,研究人员发现使用ChatGPT不再可能生成钓鱼邮件。

为了防止这些人工智能产生的威胁,Shykevich建议公司和个人采取适当的网络安全措施。目前的安全措施仍然适用,继续更新和加强这些实现至关重要。

“研究人员也在研究如何使用人工智能来发现代码漏洞和检测攻击,”克拉诺说。“希望防御方面的进展能够跟上攻击方面的进展,但这还有待观察。”

虽然像ChatGPT这样的人工智能支持的系统有巨大的潜力来改变人类与技术的互动方式,但它们也会带来风险——尤其是在以危险的方式使用时。

Shykevich说:“ChatGPT是一项伟大的技术,有可能使人工智能大众化。“人工智能是一种只有计算机科学或算法专家才能理解的热门功能。现在,不懂技术的人开始理解人工智能是什么,并试图在日常生活中采用它。但最大的问题是,你将如何使用它——用于什么目的?”

对话(0)

人工智能会窃取潜艇的隐身能力吗?

更好的探测将使海洋变得透明——也许还会导致相互毁灭

11分钟读取
一张潜艇在水中的照片,在部分多云的天空下。

弗吉尼亚级快速攻击潜艇维吉尼亚州将于2010年穿越地中海。当时,只要潜水,它就能消失。

美国海军

潜艇的价值主要是因为他们隐藏的能力。核战争中,核潜艇能够在第一次导弹袭击中存活下来,从而能够在第二次打击中发射导弹作为回应,这是所谓“相互保证毁灭”威慑战略的关键。因此,任何可能使海洋变得有效透明的新技术,都可能破坏世界和平,使潜伏的潜艇变得微不足道。近一个世纪以来,海军工程师们一直在努力研发速度更快、噪音更小的潜艇。但他们也同样努力推进一系列雷达、声纳和其他旨在探测、瞄准和消灭敌方潜艇的技术。

随着20世纪60年代早期核动力潜艇的出现,这种平衡似乎发生了转变。在2015年战略与预算评估中心的一项研究中,布莱恩·克拉克哈德逊研究所的一位海军专家指出,这些船只长时间保持在水下的能力使它们“雷达和主动声纳几乎不可能发现“但即使是这些隐形的潜艇也会产生细微的、非常低频的噪音,从很远的地方就能被探测到声水听器阵列网络安装在海底的。

继续阅读↓ 显示更少
{“imageShortcodeIds”(“30133857”):}
Baidu