AI浪潮席卷千行百业，网络安全考题有新解

飞象网原创（高靖宇/文）在影视作品《西部世界》中，即便是最先进的机器人也容易受到恶意软件的攻击，这让我们不禁思考，我们能够在多大程度上掌控人工智能（AI）技术。在现实世界中，随着AI大模型技术的快速发展，其可能带来的安全性问题也日益凸显。

近年来，人工智能技术取得了令人瞩目的进展，特别是大模型正逐步被应用于越来越多的场景，与千行百业加速融合，成为推动数字科技发展的关键力量。数据显示，我国已经完成备案并上线、能为公众提供服务的生成式人工智能服务大模型已达180多个，注册用户突破5.64亿。

然而，这些大模型在带来便利和效率的同时，也催生了新的安全风险。《西部世界》虽然是虚构的故事，但人工智能安全风险却已存在于现实世界，正如一枚硬币的两面，AI大模型技术的发展带来了网络安全领域的深刻调整与全新挑战。

网络安全中的“AI”风险

伴随着众多AI大模型的诞生，AI驱动的网络攻击也在快速增长，因为有了AI加持之后，发动网络攻击对于攻击者而言相比之前更加容易，可以更加高效的组织更加复杂，规模更大的安全攻击。此外，一些黑客还掌握了利用生成式AI等新兴技术实施网络犯罪的新手段。

以ChatGPT为例，自其上线以来，便有人担忧其可能成为网络犯罪的温床。尽管平台方已采取了一系列防止恶意应用的措施，但创意十足的攻击者仍能利用生成式AI生成逼真的网络钓鱼邮件，诱骗用户泄露敏感信息。此外，AI技术的深度伪造和语音合成能力也被用于诈骗，使得传统防御手段难以应对。更为严峻的是，随着AI在合法用例中的广泛应用，模型中毒、数据泄露、提示注入攻击等新型漏洞不断涌现，对网络安全构成了持续威胁。

IEEE调研显示，2024年将会出现其他更具威胁的网络安全问题，包括勒索软件攻击（2024年为37%，高于2023年的30%）、网络钓鱼攻击（2024年为35%，高于2023年的25%）以及内部威胁（2024年为26%，高于2023年的19%）。

中国工程院院士吴世忠表示，由AI技术带来的新型安全问题已成为现实，安全行业将迅速迈进AI驱动的新时代。然而，大模型安全研究可以说才刚刚开始。无论是安全研究还是安全产业，都必须紧跟科技进步和应用创新，才能服务好发展，保障好发展。

“人工智能等前沿数字技术正在重新定义内容的生产与消费模式，大模型在企业运营中应用越来越广泛，必须寻求创新的安全模式，以适应这一变化。”中国工程院院士邬贺铨认为，基础大模型是企业实现数字化转型不可或缺的一环，需要应对多项挑战，包括强大的算力、充足的数据、高水平的研材、新应用的算法、场景和闭环的生态。然而基础大模型缺少特定行业的专业知识，因此需要大模型提供方与垂直行业合作。

以模治模 网络安全发展新路径

AI带来新的安全挑战，同样需要AI技术来解决，这是一场AI技术的攻防战。作为中国AI领域的老玩家，360 AI一直深入探索AI大模型在关键行业中的垂直应用，推动大模型重塑安全体系。

360集团创始人周鸿祎表示，面对愈加复杂的传统安全问题和大模型带来新的安全问题，必须用AI重塑安全，以模治模，用安全大模型解决“新老”安全问题。

“不要追求用一个大模型解决所有问题，应该让专业大模型解决专业问题。”周鸿祎认为，2024年是场景之年，关键要结合业务找“明星场景”，然后根据场景设计功能，根据功能需求对大模型进行专项训练。

在ISC.AI 2024第十二届互联网安全大会上，周鸿祎宣布360安全大模型正式免费。360安全大模型在真实业务场景中取得重大突破，通过对全网安全数据和知识进行提炼、压缩和蒸馏，360安全大模型实现对全网安全知识的深度理解。未来，在大模型赋能下，本地安全大脑“无需联网”，在封闭网络中也能获得全网数据和知识的赋能。

周鸿祎表示，打造安全大模型是安全迈向“自动驾驶”的必由之路，用AI升级安全要有类似自动驾驶的L1-L5级别目标，目前360安全大模型已具备L4级“自动驾驶”能力，相当于汽车的“高级自动驾驶阶段”。