咨询网络安全工程师：关于网络安全中人工智能的热门问题

在过去的二十年里，Ilia Tivin 曾在多家大型公司和初创企业担任过各种网络安全职位，对该领域的过去、现在和未来都有着深刻的理解。本次问答内容是近期一次“有问必答”式 Slack 论坛的总结，在该论坛上，Tivin 回答了来自世界各地的 Toptal 工程师和安全专业人士提出的关于网络安全中人工智能（AI）的问题。

*编者注：为了清晰和简洁，部分问题和答案经过了编辑。*

## 网络安全中人工智能的当前及未来应用

### 您认为现代网络安全需要人工智能解决方案吗？
*—K.S.，加拿大，蒙特利尔*

是的，我认为未来将需要人工智能。坦白说，目前人工智能创造漏洞利用（exploits）的能力还比较弱。但这种情况会随着时间的推移而升级——因此我们的防御能力也应该相应提升。

### 您是否遇到过使用人工智能发现安全漏洞的商业案例？
*—J.O.，巴西，福塔雷萨*

答案取决于您如何定义“安全漏洞”。经过适当编程以搜索和筛选代码的人工智能，绝对可以用来识别漏洞。您也可以让AI生成极具说服力的网络钓鱼邮件，其中包含与您组织相关的具体细节。我目前还没有见过除了网络钓鱼邮件之外的应用，但这并不意味着它没有发生。

### 人工智能在网络安全中有哪些缺点？
*—K.B.，法国，贝尔热拉克*

人工智能在网络安全领域的缺点与它在其他所有领域的缺点是一样的。当我们应用人工智能时，我们实际上是将决策层委托给了一个机器人。但有时我们无法完全理解机器人是如何得出其决策的。如果人工智能在安全自动化、检查或合规性方面做出错误决策，可能会导致巨额的监管罚款、安全妥协或知识产权损失。

### 现代人工智能（如生成式AI）可能会带来哪些新的网络安全风险？
*—R.L.，美国，奥斯威戈湖*

我能想到的一个风险是过度依赖人工智能，即使它受益于最新的发展。当开发人员开始使用人工智能编写代码，并使用相同的人工智能来检查代码时，他们可能会在不经意间给代码引入安全漏洞。

### 未来人工智能将如何改善网络安全？
*—N.H.，波斯尼亚和黑塞哥维那，图兹拉*

首先，希望人工智能能停止提供错误的信息和误差。我预见到全球范围内的自动化程度会进一步提高。我还预测，检查方法将会得到增强，但这取决于各个AI公司运营所在国家和地区的司法管辖。由于欧洲有严格的监管框架，检查方法的增强在那里实施的可能性较小。

## 在网络安全中实施人工智能

| 优点 | 缺点 |
| --- | --- |
| **• 快速识别威胁指标：** AI能迅速识别可能预示网络威胁的异常或不规律行为。 | **• 安全妥协：** 我们可能无法总是理解AI是如何做出决策的。 |
| **• 学习能力：** AI可以通过分析模式、趋势以及过去的网络安全事件来进行学习。 | **• 过度依赖AI：** 过度依赖可能导致自满和虚假的安全感。 |
| **• 效率与自动化：** AI可以自动化日常任务，减轻网络安全专业人员的负担。 | **• 被利用的风险：** 随着AI的进步，它也可能被网络犯罪分子利用于复杂的攻击。 |
| **• 可扩展性：** AI能够适应不断增长的网络和数据流量，而不会不堪重负。 | **• 巨大的投资：** AI系统的实施和维护需要周密的规划和专业知识。 |
| **• 个性化安全协议：** 通过基于用户行为或网络活动创建个性化的安全协议。 | |

## 网络安全中的人工智能实例

### 您是否使用任何人工智能网络安全工具？如果使用，您会推荐哪些？
*—M.D.，美国，西雅图*

为了补充客户标准安全产品所提供的保护，我使用了 AironWorks 钓鱼模拟平台。该平台为组织生成定制化的钓鱼模拟，以检查其员工的准备情况和安全意识。但目前从测试的角度来看，我认为AI在网络安全领域的帮助还不大。当然，所有大公司都声称在他们的产品中采用了AI，但其实用程度各不相同。

### 您能推荐一个有趣的网站，让安全爱好者可以体验和发现不同类型的进攻性或防御性安全吗？
*—J.O.，巴西，福塔雷萨*

就我个人而言，我非常注重个人安全。从防御的角度，我总是推荐 [Personal Security Checklist](https://github.com/Lissy93/personal-security-checklist)，这是一个GitHub上的列表，包含了300多个保护数字安全和隐私的技巧。您可以使用 [TryHackMe](https://tryhackme.com/) 作为入门安全的途径，甚至可以参加一些在线挑战。[VulnHub](https://www.vulnhub.com/) 也很棒，即使它不经常更新。Splunk的挑战也值得关注——尽管它似乎需要更新了。从进攻的角度来看，[bWAPP](http://www.itsecgames.com/) 是一个很好的Docker容器，让您可以尝试自己利用Web应用程序的漏洞。此外，还有 [Hack The Box](https://www.hackthebox.com/)，它同时包含了防御性和进攻性元素。