人工智能如何革新黑客手段（以及如何阻止）

引言

仅在今年上半年，马来西亚人就因电话诈骗和网络欺诈损失了数十万令吉。一名教师被骗走了 89 万令吉，一名工程师因下载假投资应用损失了 27.5 万令吉，而彭亨州的一位讲师在接到冒充警察的骗子威胁要判监和鞭刑后慌了手脚，最终被骗走了 29.4 万令吉。甚至有一位退休人士被骗走了近 70 万令吉，还有一名女子仅仅因为接听了一个冒充其上司的电话，就损失了 5,000 令吉。这些故事并非个例——它们都是真实发生的，并且全都发生在今年。为什么会这样？因为随着科技的发展，骗子的手法也层出不穷。事实是如果我们不提升数字安全知识，下一个受害者可能就是我们。那么，我们该如何反击？这篇将探讨网络犯罪分子如何利用人工智能发起更复杂的攻击——以及企业和个人可以采取哪些措施来保护自己。

人工智能如何推动现代网络犯罪

A. 人工智能驱动的网络钓鱼与社交工程（如图 1 所示）

• 自动化钓鱼邮件：人工智能生成高度个性化的诈骗邮件，使其更难被察觉。

• 语音复制与深度伪造诈骗：攻击者利用人工智能模仿公司高管或客服人员假装来电。

• 使用聊天机器人行诈：人工智能聊天机器人与受害者进行逼真的对话，以套取敏感信息。

B. 人工智能生成的恶意软件与自适应攻击（如图 2 所示）

• 多态恶意软件：人工智能能够实时修改恶意代码，以避免病毒软件的检测。

• 自动化漏洞扫描：人工智能工具（如 WormGPT）比人类黑客更快地扫描系统漏洞。

图 2

C. 人工智能驱动的虚假信息与假新闻

• 深度伪造视频与虚假账号：人工智能能够创建极具说服力的虚假身份，用于传播错误信息。
• 自动化僵尸网络：人工智能驱动的机器人在社交媒体上放大诈骗和虚假信息的传播。

图 3

如何防御人工智能驱动的网络攻击

A. 针对企业

• 使用人工智能威胁检测：部署 Darktrace 或 Microsoft Sentinel 等工具来检测异常行为。

• 零信任安全模型：即使来自“可信”来源，也必须验证每一次访问请求。

• 员工培训：教导员工识别人工智能生成的诈骗手段（如语音复制、钓鱼邮件）。

B. 针对个人

• 核实可疑电话/邮件：通过官方号码回拨等方式进行二次验证。

• 启用多因素身份验证（MFA）：防止人工智能驱动的凭证填充攻击。

• 使用人工智能安全工具：部分杀毒软件已包含分析人工智能行为的功能。

C. 针对政府与科技公司

• 监管人工智能滥用：立法防止恶意人工智能工具的使用（如禁止深度伪造诈骗）。

• 推动伦理化人工智能开发：确保人工智能模型（如 ChatGPT）具备内置的安全限制。

SBIT 如何为学生应对人工智能网络安全威胁做好准备？

A. 软件工程专业学士学位

• 高级网页应用设计

  • 构建能够抵御人工智能生成的 SQL 注入或钓鱼攻击的安全应用程序。

• 学习 Python、人工智能与机器学习

  • 掌握逆向分析网络攻击、分析恶意软件行为以及预测新兴威胁的技能。

B. 科技与电脑专业学士学位

• 云端管理

  • 学习如何保护 AWS/Azure 云环境，防止人工智能驱动（如自动化漏洞利用）针对配置错误的云服务的攻击。

• 网络安全

  • 学习人工智能驱动的威胁检测、渗透测试与道德黑客技术，以对抗自适应恶意软件。

C. 软件工程专业文凭

• 关系数据库管理系统RDBMS  (MySQL)

  • 理解如何保护数据库免受人工智能自动化强行破解攻击。

• 系统分析与设计

  • 以安全优先的原则设计系统，从而降低社交工程风险。

D. 科技与电脑技能专业文凭

• 电脑安全基础

  • 理解加密、零信任模型与行为分析，以阻止深度伪造诈骗。

  • 学习防火墙或杀毒软件工具，以检测旧有与人工智能的威胁。

衔接文凭与学位课程：共同的网络安全原则

结论

人工智能就像一股超级力量——取决于使用它的人，它可以保护，也可以摧毁。而如今，骗子正利用人工智能变得更聪明、更快速、更隐蔽。如果你不提升自己的知识，你就已经落伍了。觉得诈骗只会发生在“叔叔阿姨”身上？再想想吧。仅在今年，学生、老师、工程师，甚至讲师，都曾成为受害者。