大模型

HyperQwen 单张24GB GPU 服务 Qwen3.8-27B 达127 tok/s

提供 vLLM 补丁、重量化与基准，直接降低大模型本地服务成本。

MTPLX 让 Mac 跑 27B，M5 Max 达 125 tok/s

降低 Mac 本地大模型推理门槛，兼容 OpenAI/Anthropic，适合端侧智能体与私有化部署。