Skip to main content
用 Ollaya 在本地运行 AFM-D 决策模型:安装、拉取 afm-de / afm-dd、运行预设、调用 /api/decide,或者作为 System One 守护进程常驻。 Ollaya 以类似 Ollama 的方式在本地运行开放决策模型:读取文本或 JSON 状态与类型化问题(choice / score / noul),一次前向传播返回校准概率,从不生成对话文本。AFM-D 检查点可通过目录名拉取:afm-de(Encoder)、afm-dd(Decoder)。权重来自 Hugging Face(ariacompute/*)或 ModelScope(AriaCompute/*)。需要中国镜像时设置 OLLAYA_HUB。

安装

从 Gitee Releases 下载对应平台发行包,解压并将 ollaya 加入 PATH。

Ollaya CLI

先拉取 checkpoint,然后运行预设,也可以直接通过 HTTP 调用守护进程。 Encoder(afm-de)
Decoder(afm-dd)
请求体和 POST /v1/systemone 是同一套 System One 形态:一个 state 加类型化 questions。Ollaya 用 model 字段指定模型,守护进程默认监听 http://localhost:11435。

守护进程

用 ollaya serve 常驻运行。Ollaya 提供兼容 System One 的 POST /api/decide 接口,默认监听 http://localhost:11435,已有的 System One 客户端改一下 base URL 就能用。

Ollaya 与 Aria Engine 如何选择

需要咏唱引擎的发行版二进制和 FFI 时用 Engine;想要 pull / list / run 这种本地体验时用 Ollaya。

相关