genpark-chunked-prefill-speculative-inference-server-skill

源码

Chunked prefill speculative inference server with paged KV cache (vLLM style)

⭐ 8开发工具Python仓库 ↗

安装配置

查看源码仓库 →

相关服务器

n8n⭐ 206.6k · 开发工具gemini-cli⭐ 107.2k · 开发工具awesome-mcp-servers⭐ 95.8k · 开发工具headroom⭐ 74.3k · 开发工具reactive-resume⭐ 43.7k · 开发工具serena⭐ 30k · 开发工具