虽然已经有很多关于 OpenAI 的 ChatGPT 如何被滥用于恶意目的以及它如何构成威胁的讨论，但人工智能聊天机器人对网络安全行业也非常有用。

​随着行业正在测试其功能和局限性，ChatGPT 越来越多地集成到网络安全产品和服务中。

(资料图)

虽然已经有很多关于 OpenAI 的 ChatGPT 如何被滥用于恶意目的以及它如何构成威胁的讨论，但人工智能聊天机器人对网络安全行业也非常有用。

ChatGPT 于 2022 年 11 月推出，被许多人描述为革命性的。它建立在 OpenAI 的 GPT-3 大型语言模型家族之上，用户通过提示与之交互。

有许多文章描述了 ChatGPT 的功能如何被用于恶意目的，包括编写可信的网络钓鱼电子邮件和创建恶意软件。

然而，ChatGPT也可以为防御者带来很多好处，网络安全行业也越来越多地将其融入到产品和服务中。此外，该行业的一些成员一直在测试其功能和局限性。

在过去的几个月里，几家网络安全公司透露他们已经开始或计划使用 ChatGPT，一些研究人员已经找到了聊天机器人的实际用例。

云安全公司Orca是最早宣布将 ChatGPT（特别是 GPT-3）集成到其平台中的公司之一。目标是加强为客户提供的云安全风险补救措施。

“通过使用我们自己的安全数据集对这些强大的语言模型进行微调，我们已经能够提高补救步骤的细节和准确性——为您提供更好的补救计划，并帮助您尽快以最佳方式解决问题”奥卡解释道。

Kubernetes 安全公司 Armo 已将ChatGPT 的生成 AI集成到其平台中，使用户可以更轻松地创建基于 Open Policy Agent (OPA) 的安全策略。

“Armo Custom Controls 使用安全性和合规性 Regos 以及其他上下文对 ChatGPT 进行预训练，利用和利用 AI 的力量来生成通过自然语言请求的定制控件。用户获得由 ChatGPT 生成的完整 OPA 规则，以及规则的自然语言描述和修复失败控制的建议补救措施——快速、简单且无需学习新语言，”该公司表示。

Logpoint最近宣布在实验室环境中为其 LogPoint SOAR（安全编排、自动化和响应）解决方案集成 ChatGPT。

“Logpoint SOAR 的新 ChatGPT 集成允许客户调查在网络安全中使用 SOAR 剧本和 ChatGPT 的潜力，”该公司表示。

网络物理安全融合软件公司AlertEnterprise推出了一款由 ChatGPT 提供支持的聊天机器人。它允许用户快速获取有关物理访问、身份访问管理、访客管理、门阅读器分析以及安全和安全报告的信息。用户可以向聊天机器人提问，例如“我们上个月发放了多少新员工徽章？”或“显示即将到期的受限区域访问员工培训”。

Accenture Security 一直在分析 ChatGPT自动化某些网络防御相关任务的能力。

Coro 和Trellix等网络安全公司目前也在探索将 ChatGPT 嵌入其产品的可能性。

网络安全社区的一些成员分享了他们使用 ChatGPT 进行的测试的结果。例如，培训提供商HackerSploit展示了如何使用它来识别软件漏洞，以及如何利用它进行渗透测试。

卡巴斯基的一名研究人员进行了一些妥协指标 (IoC) 检测实验，并在某些领域发现了有希望的结果。这些测试包括检查 IoC 系统、将基于签名的规则集与 ChatGPT 输出进行比较以识别差距、检测代码混淆以及查找恶意软件二进制文件之间的相似性。

在线恶意软件沙箱 Any.Run 使用 ChatGPT 来分析恶意软件。聊天机器人能够分析简单的样本，但在被要求查看更复杂的代码时失败了。

NCC Group使用 AI进行了安全代码审查，发现它“并没有真正起作用”。该公司发现，虽然它可以正确识别一些漏洞，但在很多情况下它也会提供虚假信息和误报，使其无法可靠地进行代码分析。

安全研究人员Antonio Formato和Zubair Rahim描述了他们如何将 ChatGPT 与 Microsoft Sentinel 安全分析和威胁情报解决方案集成以进行事件管理。

约翰霍普金斯大学 SAIS 的安全研究员兼兼职讲师 Juan Andres Guerrero-Saade 最近将 ChatGPT 整合到一门关于恶意软件分析和逆向工程的课程中。ChatGPT 帮助学生快速获得“愚蠢问题”的答案，从而防止课堂中断。它还使他们更容易理解所使用的工具、解释代码，甚至编写脚本。