森罗幻想 - 云服务器CPU推理模型并封装成 API 的折腾记录 的评论
type: channel
link: https://blog.roysgensokyo.space/technology/253.html
description: 作者利用即将过期的服务器，通过Llama.cpp部署Qwen3.5轻量级模型（0.8B/2B），配置CPU推理环境并测试API性能。实测2B参数模型在速度和质量间取得平衡，可将API接入聊天群实...
items: xl233

xl233
type: item
date: 2026-05-23T16:47:21+08:00
description: 哇