近期，网络安全领域迎来了一次震撼性的曝光。据TechRadar报道，Cato CTRL的威胁情报团队宣布了一项惊人的发现：他们成功利用一种前所未有的攻击手段，突破了多个顶尖大语言模型（LLM）的防御，其中包括ChatGPT-4o、DeepSeek-R1和DeepSeek-V3等。值得注意的是，实施这次攻击的研究人员并无恶意软件开发的背景。
研究团队创造了一种名为“沉浸式世界”的新攻击策略，该策略依赖于一种被称为“叙述式工程”的技术，巧妙地绕过了LLM的安全机制。他们通过构建一个极其详尽且逼真的虚构情境，使得原本受限的操作变得看似合理，进而开发出了一款能够在Chrome浏览器中有效运行的信息窃取程序。
信息窃取类恶意软件近年来在网络犯罪中迅速崛起，已成为极其危险的工具。而此次攻击的成功，意味着即便没有深厚的技术基础，网络犯罪分子也能够相对容易地创建出恶意代码。这一发现无疑为网络安全带来了新的挑战。
Cato CTRL的研究报告指出，大语言模型的出现“根本性地重塑了网络安全的格局”。AI驱动的网络威胁正逐渐成为企业和安全团队面临的一大难题，这些威胁不仅更加复杂多变，而且执行频率更高，对攻击者的技术要求却越来越低。
尽管聊天机器人配备了多重安全防护，但为了满足用户需求，AI系统往往被设计成尽可能灵活和开放。Cato CTRL的研究人员正是利用了这一特性，成功绕过了限制，使得AI能够轻松编写并发送网络钓鱼攻击。
Cato Networks的威胁情报研究员维塔利·西蒙诺维奇对此表示：“零知识威胁行为者的兴起，对企业的安全构成了重大威胁。生成式AI工具使得恶意软件的制作变得前所未有的简单。”他还强调，“信息窃取程序已成为窃取企业凭证的关键手段。我们新发现的LLM越狱技术——‘沉浸式世界’，清晰地展示了创建信息窃取程序的高风险性和实际可行性。”
这一发现不仅揭示了LLM在安全方面的潜在弱点，也提醒了企业和安全团队需要更加警惕AI驱动的网络威胁。随着AI技术的不断发展，网络安全领域将面临更多前所未有的挑战。
为了应对这一挑战，企业和安全专家需要不断探索新的防御策略和技术，以确保能够在日益复杂的网络环境中保护好自己的数据和资产。
同时，这一事件也再次强调了网络安全教育的重要性。只有提高员工和用户对网络威胁的认识和防范意识，才能更有效地抵御这些新兴的网络攻击。
