SAM Audio
梳理 Meta SAM Audio 的音频分割思路:文本、视觉与时间段三类提示怎样叠加锁定目标声音,分轨与降噪能到什么程度,以及 PE-AV 编码器起什么作用。
Meta 的统一式音频分割与编辑模型,用于在复杂混音里按提示隔离并编辑特定声音。SAM Audio 支持三类可叠加提示:文本、视觉(在画面点选发声对象)与时间段(圈定声音区间),可用于乐器与人声分轨、录音降噪与播客去杂音。官方开放推理代码与多尺寸权重。
梳理 Meta SAM Audio 的音频分割思路:文本、视觉与时间段三类提示怎样叠加锁定目标声音,分轨与降噪能到什么程度,以及 PE-AV 编码器起什么作用。
一、摘要 PE-AV(Perception Encoder Audiovisual)是 Meta 开源的音频-视觉联合编码器家族,在 Perception Encoder 基础上加入原生音频能力,用统一嵌入空间对齐视频、音频、音视频与文本表征。它被用于支撑 SAM Audio 的关键组件,并在多项音...
Meta推出SAM Audio(SAM-Audio),定位为“统一式”音频分割与编辑AI模型,目标是在复杂混音中按提示隔离并编辑特定声音。典型用例包括:在乐队演出视频中单独提取吉他或人声、过滤户外交通噪声、从播客里去除狗叫等干扰音。 SAM Audio的交互方式强调“人类直觉式提示”,支持三类提示并...