使用 PyTorch FSDP 微调 Llama 2 70B引言 通过本文,你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中,我们主要会用到 Hugging Face Transformers、Accelera...AI 技术文章# Accelerate# FSDP# Llama 2 70B3年前03670
【中文科普】🤗 Hugging Face 与 Intel 共同构建生成式 AI我们中国地区负责人/ 高级工程师 王铁震受 Intel OpenVINO的邀请 与英特尔AI软件工程师杨亦诚一起做了一场关于「人工智能普惠化」的讲座 对Hugging Face是如何通过开源来推进人工...AI 技术文章AI 视频教程# Hugging Face# Intel# 生成式 AI3年前03650
携手 MLCommons,制定有效且值得信赖的 AI 安全基准作者 / 技术与社会部 Anoop Sinha 以及 Google Research、Responsible AI 和以人为本技术团队 Marian Croak 标准基准是衡量重要产品质量的公认方法...AI 技术文章# AI# AI 安全# DICES3年前03640
使用 MakerSuite 的调整功能快速生成高质量模型作者: AI 开发者关系团队 Joe Fernandez,以及 AI 开发者营销 人工智能 (AI) 是我们正在积极探索的前沿科技领域。尽管很多人都对使用 AI 感兴趣,但我们意识到大多数开发者可能尚...AI 技术文章# AI# MakerSuite3年前03640
LLaMA 2 – 你所需要的一切资源摘录 关于 LLaMA 2 的全部资源,如何去测试、训练并部署它。 LLaMA 2 是一个由 Meta 开发的大型语言模型,是 LLaMA 1 的继任者。LLaMA 2 可通过 AWS、Hugging...AI 技术文章# Llama 23年前03610
如何成功将 🤗 API 客户的 transformer 模型推理速度加快 100 倍🤗 Transformers 已成为世界各地数据科学家用以探索最先进 NLP 模型、构建新 NLP 模块的默认库。它拥有超过 5000 个预训练和微调的模型,支持 250 多种语言,任君取用。无论你使...AI 技术文章# transformer# 模型推理3年前03590
Reformer 模型 – 突破语言建模的极限Reformer 如何在不到 8GB 的内存上训练 50 万个词元 Kitaev、Kaiser 等人于 20202 年引入的 Reformer 模型 是迄今为止长序列建模领域内存效率最高的 trans...AI 技术文章# LSH# Reformer# Reformer 模型3年前03570
【发布会回放】Gradio 4.0 正式发布!Gradio 的目标是使机器学习模型的演示更容易定制和访问,以满足不同用户的需求。在 4.0 正式版的发布活动上,Hugging Face 的 Gradio 团队介绍了自己为了提高机器学习模型的可访问...AI 技术文章AI 视频教程# Gradio# Gradio 4.0# Hugging Face3年前03570
使用 🤗 Optimum Intel 在英特尔至强上加速 StarCoder: Q8/Q4 及投机解码引言 近来,随着 BigCode 的 StarCoder 以及 Meta AI 的 Code Llama 等诸多先进模型的发布,代码生成模型变得炙手可热。同时,业界也涌现出了大量的致力于优化大语言模型...AI 技术文章# Intel# Optimum# Q8/Q43年前03560
TensorFlow 2.12 和 Keras 2.12 新功能简介发布人: TensorFlow 和 Keras 团队 TensorFlow 2.12 和 Keras 2.12 现已发布!此版本的亮点包括全新的 Keras 模型保存和导出格式、keras.utils...AI 技术文章# Keras# TensorFlow# TensorFlow Core3年前03560