英特尔 Gaudi 加速辅助生成随着模型规模的增长,生成式人工智能的实现需要大量的推理资源。这不仅增加了每次生成的成本,而且还增加了用于满足此类请求的功耗。因此,文本生成的推理优化对于降低延迟、基础设施成本以及功耗都至关重要,其可以...AI 技术文章# Gaudi# 辅助生成2年前02360
欢迎 Stable Diffusion 3.5 Large 加入 🧨 Diffusers作为 Stable Diffusion 3 的改进版本,Stable Diffusion 3.5 如今已在 Hugging Face Hub 中可用,并可以直接使用 🧨 Diffusers 中的代码运...AI 技术文章# Diffusers# Stable Diffusion1年前02350
为视觉语言多模态模型进行偏好优化为视觉语言多模态模型进行偏好优化 训练模型使得它能够理解并预测人类偏好是一项比较复杂的任务。诸如 SFT (Supervised finetuning) 的传统的方法一般都需要耗费较大成本,因为这些算...AI 技术文章# DPO# TRL# VLM1年前02340
Gradio 5 稳定版正式发布在过去的几个月里,我们一直在努力工作,今天,我们想向大家展示成果:Gradio 5 稳定版现已发布。 有了 Gradio 5,开发者可以构建 生产级的机器学习 Web 应用,这些应用不仅性能优越、可扩...AI 技术文章# Gradio 51年前02330
XetHub 加入 Hugging Face!我们非常激动地正式宣布,Hugging Face 已收购 XetHub 🔥 XetHub 是一家位于西雅图的公司,由 Yucheng Low、Ajit Banerjee 和 Rajat Arya 创立...AI 技术文章# Hugging Face# XetHub1年前02310
Accelerate 1.0.0Accelerate 发展概况 在三年半以前、项目发起之初时,Accelerate 的目标还只是制作一个简单框架,通过一个低层的抽象来简化多 GPU 或 TPU 训练,以此替代原生的 PyTorch ...AI 技术文章# Accelerate1年前02300
Halo 正式开源: 使用可穿戴设备进行开源健康追踪在飞速发展的可穿戴技术领域,我们正处于一个十字路口。市场上充斥着各式时尚、功能丰富的设备,声称能够彻底改变我们对健康和健身的方式。然而,在这些光鲜的外观和营销宣传背后,隐藏着一个令人担忧的现实:大多数...AI 技术文章# 健康追踪# 开源1年前02260
使用 Optimum-Intel 和 OpenVINO GenAI 优化和部署模型在端侧部署 Transformer 模型需要仔细考虑性能和兼容性。Python 虽然功能强大,但对于部署来说有时并不算理想,特别是在由 C++ 主导的环境中。这篇博客将指导您如何使用 Optimum...AI 技术文章# OpenVINO GenAI# Optimum Intel1年前02230
在英特尔 Gaudi 2 上加速蛋白质语言模型 ProtST引言 蛋白质语言模型 (Protein Language Models, PLM) 已成为蛋白质结构与功能预测及设计的有力工具。在 2023 年国际机器学习会议 (ICML) 上,MILA 和英特尔实...AI 技术文章# Gaudi 2# ProtST# 蛋白质语言模型1年前02220
自动评估基准 | 一些评估测试集一些评估测试集 这是 自动评估基准 系列文章的第三篇,敬请关注系列文章: 基础概念 设计你的自动评估任务 一些评估测试集 技巧与提示 如果你感兴趣的任务已经得到充分研究,很可能评估数据集已经存在了。 ...AI 技术文章# 自动评估12个月前02200