将训练好的模型导出为 GGUF、MLX、MNN 或 QNN

​

方法与路径

POST /v1/models/:id/export

​

认证

Authorization: Bearer <token>

​

路径参数

​

请求体

​

请求体示例

{
  "format": "gguf"
}

​

请求示例

curl -s -X POST "https://api.ariacompute.com/v1/models/md_abc123def456/export" \
  -H "Authorization: Bearer $PIN_API_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{"format": "gguf"}'

​

响应

​

响应示例

{
  "code": 0,
  "data": {
    "export_id": "ex_7a8b9c0d1e2f",
    "model_id": "md_abc123def456",
    "format": "gguf",
    "status": "queued",
    "created_at": "2025-01-15T14:32:08Z"
  },
  "message": ""
}

​

导出流程

1. 若模型没有合并后的产物，系统会先将 LoRA 适配器自动合并进基座权重。
2. 转换工具在后台 goroutine 中运行：
   • GGUF：先转换为 FP16，再使用 llama.cpp 量化为 Q4_K_M。
   • MLX：运行 mlx_lm.convert 或由 ARIAPIN_CONVERT_MLX 配置的工具。
   • MNN：运行 mnnconvert 或由 ARIAPIN_CONVERT_MNN 配置的工具。
   • QNN：运行 qairt-converter 或由 ARIAPIN_CONVERT_QNN 配置的工具。
3. 成功后，产物路径被登记，模型状态恢复为 ready。

​

错误