警惕“裸奔”的开源AI：研究称脱离监管或成黑客劫持温床
发布于AI新闻资讯
发布时间 :2026-1-31 19:03
阅读 :1分钟
近日，网络安全公司 SentinelOne 与 Censys 联合发布的一项深度研究揭示了开源大语言模型面临的严峻安全挑战。 研究指出，当这些模型脱离主流托管平台的“护栏”与安全限制，在外部私有计算机上独立运行时，极易沦为黑客与犯罪分子的攻击目标，产生严重的安全风险。
这项耗时近 300 天的研究发现，目前互联网上存在数千个缺乏保护的开源 AI 运行实例，其中包含大量基于 Meta 的 Llama 和谷歌的 Gemma 等主流模型开发的衍生版本。 尽管部分开源模型原生自带安全防线，但研究人员仍发现了数百起安全护栏被恶意移除的情况。
安全专家将这一现象形容为行业视野外的“冰山”：开源算力在支持合法用途的同时，正被明显用于犯罪活动。 攻击者可以通过劫持这些运行实例，强制模型生成大量垃圾信息、编写精准的钓鱼邮件，甚至发动大规模的虚假信息宣传。
研究团队重点分析了通过 Ollama 工具部署的开源实例。 令人担忧的是，在约 25% 的观察对象中，黑客可以直接读取模型的“系统提示词”——即决定模型行为的核心底层指令。 进一步分析显示，其中 7.5% 的指令已被修改，旨在为有害行为提供技术支持。
这种风险场景波及范围极广，包括但不限于仇恨言论传播、暴力内容生成、个人隐私数据窃取、金融诈骗，甚至是涉及儿童安全的内容。 由于这些模型绕开了大型平台的监控机制，传统的安全防护手段往往难以奏效。
© 版权所有 AI星球岛 2026，
如何用豆包进行代码学习
在数字化时代，编程能力愈发重要，但许多学习者面对复杂的编程语言和代码逻辑感到迷茫
2026-04-29 22:48
9
如何用豆包进行代码分析
在代码的世界里，无论是编程新手学习，还是对复杂代码剖析、旧代码维护理解，豆包都能
2026-04-29 22:41
8
如何用豆包生成 AI 使用指南
在 AI 工具日益增多的当下，新手需要清晰的使用指南。豆包具备强大的内容生成能力，可
2026-04-21 20:46
58
如何用豆包了解 AI 基础知识
人工智能已广泛渗透到生活中，对于想入门 AI 的人来说，豆包是个很好的工具。它能以简
2026-04-21 20:34
50
如何用 DeepSeek 为品牌打造年轻化故事
在当下竞争激烈的市场环境中，与年轻消费者建立情感连接至关重要。DeepSeek 能够精准
2026-04-17 20:59
62
