Hugging Face 开源大语言模型生态系统概览
如何找到、缩小、适配并部署开源大型语言模型？ 分享这个10分钟的教程，帮助你了解Hugging Face 🤗 中的各种工具，包括transformers、PEFT、TRL、TGI、Hub、Huggin...
排序
欢迎 Mixtral – 当前 Hugging Face 上最先进的 MoE 模型
最近，Mistral 发布了一个激动人心的大语言模型: Mixtral 8x7b，该模型把开放模型的性能带到了一个新高度，并在许多基准测试上表现优于 GPT-3.5。我们很高兴能够在 Hugging ...
TGI 多-LoRA: 部署一次，搞定 30 个模型的推理服务
你是否已厌倦管理多个 AI 模型所带来的复杂性和高成本？ 那么， 如果你可以部署一次就搞定 30 个模型推理服务会如何？ 在当今的 ML 世界中，哪些希望充分发挥其数据的价值的组织可能最终会进入一个...