警惕“裸奔”的开源AI：研究称脱离监管或成黑客劫持温床
发布于AI新闻资讯
发布时间 :2026-1-31 19:03
阅读 :1分钟
近日，网络安全公司 SentinelOne 与 Censys 联合发布的一项深度研究揭示了开源大语言模型面临的严峻安全挑战。 研究指出，当这些模型脱离主流托管平台的“护栏”与安全限制，在外部私有计算机上独立运行时，极易沦为黑客与犯罪分子的攻击目标，产生严重的安全风险。
这项耗时近 300 天的研究发现，目前互联网上存在数千个缺乏保护的开源 AI 运行实例，其中包含大量基于 Meta 的 Llama 和谷歌的 Gemma 等主流模型开发的衍生版本。 尽管部分开源模型原生自带安全防线，但研究人员仍发现了数百起安全护栏被恶意移除的情况。
安全专家将这一现象形容为行业视野外的“冰山”：开源算力在支持合法用途的同时，正被明显用于犯罪活动。 攻击者可以通过劫持这些运行实例，强制模型生成大量垃圾信息、编写精准的钓鱼邮件，甚至发动大规模的虚假信息宣传。
研究团队重点分析了通过 Ollama 工具部署的开源实例。 令人担忧的是，在约 25% 的观察对象中，黑客可以直接读取模型的“系统提示词”——即决定模型行为的核心底层指令。 进一步分析显示，其中 7.5% 的指令已被修改，旨在为有害行为提供技术支持。
这种风险场景波及范围极广，包括但不限于仇恨言论传播、暴力内容生成、个人隐私数据窃取、金融诈骗，甚至是涉及儿童安全的内容。 由于这些模型绕开了大型平台的监控机制，传统的安全防护手段往往难以奏效。
© 版权所有 AI星球岛 2026，
AI二创萌系IP“咕咕嘎嘎”:从流量爆款到实物变现的全流程路径 ..
赚钱思路利用AI工具将已有游戏角色或热梗二创为软萌形象，通过社交平台持续发布治愈系
2026-06-12 20:25
6
如何用 DeepSeek 生成万能客服话术
本教程主要介绍利用 DeepSeek 生成客服话术的方法。适用于电商售后、在线客服、投诉处
2026-06-08 20:19
51
如何使用 DeepSeek 撰写员工绩效评估？
在员工管理中，专业且人性化的绩效反馈十分重要。三明治法则能让评估既客观又温暖，借
2026-06-08 20:07
53
如何用豆包进行笔记整理
在信息爆炸的时代，高效的笔记整理至关重要，它能帮助我们梳理知识、留存重要内容。豆
2026-06-02 18:34
94
如何用豆包搭建知识库
在信息爆炸的时代，拥有专属知识库能让知识管理更高效便捷。借助豆包强大的内容生成能
2026-06-02 18:25
86
