Sibyl：具备请求路由能力的不可变本地推理系统
Show HN: An immutable local inference appliance with routing capability
开源推理系统 Sibyl 发布 pre-alpha 版本，可将配备 GPU 的计算机转化为基于 Fedora bootc 不可变镜像的私有 AI 服务器。它通过 llama.cpp 与 llama-swap 按需加载 GGUF 模型，提供兼容 OpenAI、Anthropic 及 Ollama 的标准 API，并内置模型路由与 Open WebUI 界面。
福利说明
来源信息整理于：2026年11月8日 08:00（北京时间）；未进行独立实测或事实核验。
福利是什么
将配备 GPU 的单机快速转化为私有 AI 推理服务器，支持多模型按需切换与跨多卡部署
社区反馈支持社区来源 · github.com内置模型路由器，可按自定义规则与预算将请求自动分发至本地模型或云端模型
社区反馈支持社区来源 · github.com
活动入口
GitHub 开源项目主页
社区反馈支持社区来源 · github.com
领取/使用步骤
使用 oras 命令拉取对应 GPU 架构的 live ISO 镜像并写入 U 盘
社区反馈支持社区来源 · github.com在主板开启 Secure Boot 引导并从启动菜单选择安装至目标磁盘，妥善保存安装程序输出的恢复密钥
社区反馈支持社区来源 · github.com系统重启后登录管理员账户，运行 sibyl setup 或在浏览器打开 Web 控制台配置界面完成初始化
社区反馈支持社区来源 · github.com
风险与注意事项
安装过程将完全擦除用户选定的目标磁盘数据
社区反馈支持社区来源 · github.com软件处于 pre-alpha 早期阶段，NVIDIA CUDA 与 Intel Vulkan 构建版本尚未经过真实硬件测试验证
社区反馈支持社区来源 · github.com
尚未核实：实际价值、领取条件、适用地区、费用与支付、截止时间、有效期、使用限制。页面未展示没有来源支持的空白章节。
本站未展示原文全文；以上福利说明列出相应来源链接，但不代表独立实测。完整内容请阅读原文。
来源：Hacker News (Show HN 免费与开源) · github.com