警惕“裸奔”的开源AI：研究称脱离监管或成黑客劫持温床
发布于AI新闻资讯
发布时间 :2026-1-31 19:03
阅读 :1分钟
近日，网络安全公司 SentinelOne 与 Censys 联合发布的一项深度研究揭示了开源大语言模型面临的严峻安全挑战。 研究指出，当这些模型脱离主流托管平台的“护栏”与安全限制，在外部私有计算机上独立运行时，极易沦为黑客与犯罪分子的攻击目标，产生严重的安全风险。
这项耗时近 300 天的研究发现，目前互联网上存在数千个缺乏保护的开源 AI 运行实例，其中包含大量基于 Meta 的 Llama 和谷歌的 Gemma 等主流模型开发的衍生版本。 尽管部分开源模型原生自带安全防线，但研究人员仍发现了数百起安全护栏被恶意移除的情况。
安全专家将这一现象形容为行业视野外的“冰山”：开源算力在支持合法用途的同时，正被明显用于犯罪活动。 攻击者可以通过劫持这些运行实例，强制模型生成大量垃圾信息、编写精准的钓鱼邮件，甚至发动大规模的虚假信息宣传。
研究团队重点分析了通过 Ollama 工具部署的开源实例。 令人担忧的是，在约 25% 的观察对象中，黑客可以直接读取模型的“系统提示词”——即决定模型行为的核心底层指令。 进一步分析显示，其中 7.5% 的指令已被修改，旨在为有害行为提供技术支持。
这种风险场景波及范围极广，包括但不限于仇恨言论传播、暴力内容生成、个人隐私数据窃取、金融诈骗，甚至是涉及儿童安全的内容。 由于这些模型绕开了大型平台的监控机制，传统的安全防护手段往往难以奏效。
© 版权所有 AI星球岛 2026，
如何用 Kimi 打造销售员朋友圈良好人设？
在竞争激烈的职场中，塑造良好个人形象对销售人员至关重要。借助先进的AI工具，能更高
2026-09-04 18:27
93
如何使用 DeepSeek 生成商务谈判话术
此教程适用于商务人士，在商务谈判场景中，面对供应商压价问题，可借助免费的DeepSeek
2026-09-04 18:21
85
如何用DeepSeek进行代码补全
在编写代码时，我们常遇到思路卡顿或语法细节记忆模糊的问题。DeepSeek 具有强大的代
2026-08-11 19:26
190
如何用 DeepSeek 进行代码学习
在编程技术快速迭代的当下，许多人想掌握代码知识，但学习之路充满挑战。DeepSeek作为
2026-08-11 19:18
185
如何从 DeepSeek 获得提示词提升文章写作技巧
在文章写作中，精准提示词至关重要。DeepSeek可根据不同写作需求生成针对性提示词，助
2026-07-23 20:06
306
