跳到正文
Hugging Face Blog·· 2025-01-16

Introducing multi-backends (TRT-LLM, vLLM) support for Text Generation Inference

Introducing multi-backends (TRT-LLM, vLLM) support for Text Generation Inference

AI 导读

【RSS 原文 · 未经 AI 筛选或翻译】此订阅未提供摘要,请通过原文链接阅读。

来源:Hugging Face Blog · huggingface.co