OpenBMB × Hugging Face × THUNLP，联袂献上经典大模型课
这个夏天，THUNLP 携手 Hugging Face 和 OpenBMB，推出 大模型公开课第二季。在大模型公开课第二季中，将有全球知名开源社区 OpenBMB X Hugging Face 梦幻联...
BigCodeBench: 继 HumanEval 之后的新一代代码生成测试基准
HumanEval 是一个用于评估大型语言模型 (LLM) 在代码生成任务中的参考基准，因为它使得对紧凑的函数级代码片段的评估变得容易。然而，关于其在评估 LLM 编程能力方面的有效性越来越多的担忧...
Google 发布最新开放大语言模型 Gemma 2，现已登陆 Hugging Face Hub
Google 发布了最新的开放大语言模型 Gemma 2，我们非常高兴与 Google 合作，确保其在 Hugging Face 生态系统中的最佳集成。你可以在 Hub 上找到 4 个开源模型（2 个...
Hugging Face Accelerate 两个后端的故事：FSDP 与 DeepSpeed
社区中有两个流行的 零冗余优化器（Zero Redundancy Optimizer，ZeRO） 算法实现，一个来自 DeepSpeed，另一个来自 PyTorch。Hugging Face Acce...
更难、更好、更快、更强：LLM Leaderboard v2 现已发布
摘要 评估和比较大语言模型 (LLMs) 是一项艰巨的任务。我们 RLHF 团队在一年前就意识到了这一点，当时他们试图复现和比较多个已发布模型的结果。这几乎是不可能完成的任务：论文或营销发布中的得分缺...
英特尔 Gaudi 加速辅助生成
随着模型规模的增长，生成式人工智能的实现需要大量的推理资源。这不仅增加了每次生成的成本，而且还增加了用于满足此类请求的功耗。因此，文本生成的推理优化对于降低延迟、基础设施成本以及功耗都至关重要，其可以...
TGI 基准测试
本文主要探讨 TGI 的小兄弟 - TGI 基准测试工具。它能帮助我们超越简单的吞吐量指标，对 TGI 进行更全面的性能剖析，以更好地了解如何根据实际需求对服务进行调优并按需作出最佳的权衡及决策。如果...
高斯喷溅｜Hugging Face 3D 机器学习课
🤗 3D 机器学习课程上线🎉 在本课程中，你将学习到： 当前 3D 机器学习的总体情况 近期发展的重要性 如何自己动手制作生成式 3D 演示 课程当前有 4 个短视频。由 Hugging Face 机...
多视图扩散模型 ｜Hugging Face 3D 机器学习课
🤗 3D 机器学习课程上线🎉 在本课程中，你将学习到： 当前 3D 机器学习的总体情况 近期发展的重要性 如何自己动手制作生成式 3D 演示 课程当前有 4 个短视频。由 Hugging Face 机...
什么是 3D｜Hugging Face 3D 机器学习课
Hugging Face 3D 机器学习课发布啦！ 在本课程中，你将学习到： 当前 3D 机器学习的总体情况 近期发展的重要性 如何自己动手制作生成式 3D 演示 课程当前有 4 个短视频。由Hugg...