PS5LM 开源：已越狱的 PS5 可用 llama.cpp 跑本地大模型并提供 API

GitHub 项目 PS5LM 把 llama.cpp 搬到了已越狱的 PlayStation 5 上。主机用自带的 GPU 加载 GGUF 模型，同一网络里的电脑、手机和编程工具都可以把它当作模型服务器来调用。项目 README 称，运行期间不需要 PC、云端或账号。

怎么跑、怎么接

据 README，PS5LM 通过 llama.cpp 的 Vulkan 后端在主机的 RDNA 2 GPU 上推理，用 11.4 GB 共享内存存放模型和上下文。

接口方面，它提供 OpenAI 兼容的 /v1/chat/completions 和 Anthropic 兼容的 /v1/messages，README 称 Claude Code 可以对接。浏览器里也有聊天页。客户端指向 http://<console>:8081 即可。

模型文件可以在应用里从 Hugging Face 下载，存到内部存储、M.2 硬盘或 USB 盘。Console 页面显示温度、功耗、GPU 和 CPU 负载，可以看最近两分钟或一小时的变化。

决策模型

加载决策模型后，主机会回答 /v1/systemone 接口。README 说这与 Ollaya 在 PC 上提供的 API 相同，支持选择、打分和是非问题。

速度（README 给出的 PS5 Slim 数据）

以下数字来自项目 README：

• Qwen 3.5 0.8B（Q4_K_M，0.5 GB）：207 token/秒；
• Qwen 3.5 9B（Q4_K_M，5.3 GB）：55 token/秒；
• Qwen 3.8 27B（UD-Q2_K_XL，9.2 GB）：约 20 token/秒，上下文 64k；
• 决策模型 d1 Omni 600M（1.1 GB）：回答 3 个问题用 0.3 秒，一张 720p 图片加 7 个问题用 2.9 秒。

使用条件与声明

运行需要固件版本在 7.00 至 13.60 之间且已越狱的 PS5，并且必须加载 kstuff-lite、etaHEN、ShadowMountPlus 三个 payload。elfldr（端口 9021）和 ftpsrv（端口 2121）为推荐项。

项目以 GPL-3.0-or-later 许可开源。README 声明仓库不含索尼 SDK 文件、密钥、固件或模型权重，与索尼互动娱乐无关联，「PlayStation」和「PS5」是索尼互动娱乐的商标。

来源

• https://github.com/cobanov/PS5LM