choice / score / noul),一次前向传播返回校准概率,从不生成对话文本。AFM-D 检查点可通过目录名拉取:afm-de(Encoder)、afm-dd(Decoder)。权重来自 Hugging Face(ariacompute/*)或 ModelScope(AriaCompute/*)。需要中国镜像时设置 OLLAYA_HUB。
安装
从 Gitee Releases 下载对应平台发行包,解压并将ollaya 加入 PATH。
Ollaya CLI
先拉取 checkpoint,然后运行预设,也可以直接通过 HTTP 调用守护进程。 Encoder(afm-de)
afm-dd)
POST /v1/systemone 是同一套 System One 形态:一个 state 加类型化 questions。Ollaya 用 model 字段指定模型,守护进程默认监听 http://localhost:11435。
守护进程
用ollaya serve 常驻运行。Ollaya 提供兼容 System One 的 POST /api/decide 接口,默认监听 http://localhost:11435,已有的 System One 客户端改一下 base URL 就能用。
Ollaya 与 Aria Engine 如何选择
需要咏唱引擎的发行版二进制和 FFI 时用 Engine;想要 pull / list / run 这种本地体验时用 Ollaya。
相关
- AFM 基础模型:Encoder 与 Decoder、Hub、原语
- Aria Engine:官方 System One 运行时