安全专家：免费人工智能引擎可能被黑客用来帮助恐怖分子

事实证明，互联网上的免费人工智能模型很容易被黑客攻击，安全专家现在担心人工智能可能会被用来增强恐怖分子的能力。

在 SVT.se 上的一篇文章中，瑞典秘密警察表示担心人工智能可能会被用来提高恐怖分子在袭击中的破坏能力。

瑞典电视新闻最近制作了一个新闻短片，其中他们会见了年轻的人工智能企业家奥利弗-埃德霍尔姆（Oliver Edholm），后者入侵了一个可从互联网下载的人工智能模型，并移除了其上的安全锁，以便向其提出通常情况下禁止回答的问题。

通常情况下，人工智能模型被要求不得回答有关大规模杀伤性武器或如何伤害人类的问题。在这个例子中，未上锁的人工智能模型举例说明了如何通过在供水系统中下毒来对斯德哥尔摩实施大规模破坏攻击。

"埃德霍尔姆对 SVT.se 说："我认为，让人们了解这种可能性是件好事。

"瑞典秘密警察 Säpo 的人工智能和数据经理安德斯-阿尔普特格（Anders Arpteg）说："如果有恐怖分子或国家行为者以前无法实施复杂的威胁，也许现在有了人工智能，他们的能力可能会增强。

人工智能可能以各种方式造成危害

2024 年，打击恐怖主义中心网站上发布了一篇文章、 生成恐怖：生成式人工智能利用的风险中表示，人们担心人工智能可以比以往更快、更有效地生成和传播 宣传内容。这可用于招募目的或传播仇恨言论和激进意识形态。人工智能驱动的机器人还可以放大这些内容，使其更难被发现和应对：

自动攻击： 恐怖分子可以利用人工智能更高效、更有效地实施攻击--例如，使用 无人机或其他自动驾驶车辆。

社交媒体利用： 人工智能还可用于操纵社交媒体和其他数字平台，以进行宣传和招募追随者。

网络攻击：极端组织可以利用人工智能来提高对目标 发动网络攻击的能力，从而可能造成重大损失。

在 2021 年出版的 算法与恐怖主义：恶意利用人工智能达到恐怖主义目的联合国在 2021 年出版的《算法与恐怖主义：为恐怖主义目的恶意使用人工智能》一书中表示担心，随着人工智能的普及，使用人工智能所需的技能和技术专长将会减少，从而降低进入门槛 。

"......已经开发出来的尖端技术落入坏人之手的风险始终存在。随着人们对无人机及其在冲突地区的使用，以及在作战环境中开发和部署日益自主的武器系统的兴趣日益浓厚，人们担心此类武器会被非国家行为者，如恐怖组织攫取或非法购买或获取。事实上，这种可能性正是呼吁禁止开发自主武器系统的专家们经常使用的论据之一"，报告总结道。