首页 > 教程资讯 > 教程详情

研究人员接管 Kokoro 发布账号:仅改模型权重,语音输出便偏离原文

AI 与前沿 老K说软件 2026-11-18
文章分享

据 BleepingComputer 报道,安全研究员 Alon Hertz 及其团队接管了热门文本转语音模型 Kokoro 在 Hugging Face 上的发布账号,并演示了仅修改模型权重、就让语音输出偏离输入文本的攻击方式。研究团队称,这种改动不包含可供恶意软件扫描工具识别的恶意代码或特征。不过,修改后的权重只在本地测试,未上传至 Hugging Face。

通过公开域名重置账号密码

Kokoro 是开放权重的文本转语音模型,支持多种语言,提供超过 50 种预设音色。据 BleepingComputer 报道,开发者 Hexgrad 自 2025 年 4 月起没有再推送更新,GitHub 仓库和 PyPI 包也在同期停止更新,但模型在 Hugging Face 上的月下载量仍接近 1300 万。

报道还提到,谷歌、英伟达和英特尔的开发工具支持 Kokoro,AMD 与亚马逊云科技也发布过展示其用于 AI 智能体工作流的指南。

研究团队的接管入口是一个公开域名。报道称,团队在报道所述的上周末注册了 Kokoro 公开的 DONATE.md 文件中列出的 hexgrad.com,随后利用该域名重置发布者账号的登录密码,取得了账号控制权。

87 秒修改权重,应用代码保持原样

据报道,研究团队在受控测试中使用一块游戏显卡,花费 87 秒修改了 Kokoro 的模型权重,使其生成的音频内容与输入文本不同。Hertz 表示,输入文本、音色文件、配置和推理代码均未改变,运行模型的应用也没有修改任何一行代码。

Hertz 称,团队使用正常推理流程在本地测试了修改后的模型,没有将这些权重上传到 Hugging Face。他解释,由于改动只发生在权重层面,没有恶意代码或相应特征,恶意软件扫描工具无从识别。

对于平台能否发现异常,Hertz 称,团队通过另一个账号进行测试,发现 Hugging Face 不会将这类更新标记为可疑。此类更新的发布者、文件交付路径、格式和架构看起来仍与正常版本一致,文件大小也相近。

发布者身份核验受到质疑

Hertz 将问题指向发布者账号与模型内容的核验机制。他称,Hugging Face 不核验发布者,不检查账号是否仍由原始合法持有人控制,也不审核这些账号上传的模型和数据集。

据 BleepingComputer 报道,Hertz 已向 Hugging Face 报告问题,但未收到回复。该媒体也向 Hugging Face 发出置评请求,截至报道发布时尚未获得回应;上述平台核验与异常识别方面的说法尚无平台回应。

来源