djay 中文文档 下载 App

Neural Mix 技术原理——AudioShake 引擎如何实时分离人声、鼓声、器乐

Neural Mix 是什么

Neural Mix™ 是 Algoriddim 的专利技术(US 10,887,033 B1 等多项专利),能够在实时运行中把任意一首歌拆分成三条独立 Stem:

你可以在演唱时任意推拉三条 Stem 的音量——保留 instrumental 切去 vocal(等于现场做 karaoke),或者切去鼓声只留 vocal + piano(抒情版),甚至把 Deck 1 的 vocal 和 Deck 2 的 beat 叠在一起做 mashup。

技术演变

Neural Mix 不是 Algoriddim 自己从零做的。djay 5 起,Algoriddim 和 AudioShake(业界公认的 Stem 分离质量领先者)深度合作,把 AudioShake 的引擎嵌入 djay:

版本引擎来源实时性移动端质量
djay 4 及以前Algoriddim 自研实时但延迟较大受限中等,复杂音乐类型失败率高
djay 5(2024)AudioShake完全实时,30fps+全平台支持行业级,分离质量显著提升

AudioShake 模型的优势在于:

  1. 多乐器识别:不仅识别 vocal 和 drums,还能单独识别 guitar / piano / strings 等
  2. 跨风格泛化:Pop / Rock / Hip-Hop / EDM / Jazz / Classical 通吃,不存在"只适配电子乐"的问题
  3. 移动端优化:模型做了量化压缩,在 iPhone 13+ 的 Neural Engine 和 Android 高端芯片上能实时跑

为什么 djay 是唯一一个移动端实时可用的

Serato Pro 的 Stem 2.0(Izotope 引擎)和 rekordbox 的 Stem 也能实时分离,但都仅限桌面端——移动端没有算力资源跑高质量实时分离。djay 之所以能做到全平台,是因为:

  1. AudioShake 模型的极致压缩:把原本几百 MB 的模型压到 <30MB 可实时推理
  2. 原生芯片加速:Mac 用 Neural Engine、iPhone 用 Bionic、Windows 用 DirectML、Android 用 NNAPI
  3. Algoriddim 的实时处理管线优化:让分离结果能在 10ms 内返回给混音器

AI 彩色波形

启用 Neural Mix 后,djay 的波形显示也会变化——每条曲目会显示三条彩色波形,分别对应 vocal / beat / instrumental,实时叠加在同一个视觉区域上:

当你在 Neural Mix 面板推拉某条 stem 的音量滑块时,对应颜色的波形高度和透明度会实时变化——视觉上能直接看到你正在操作哪一部分。这是 djay 独有的视觉反馈,其他软件没有。

Crossfader Fusion 联动

Neural Mix 不只是单独一个功能,它还和 Crossfader Fusion™ 联动——Crossfader 在过渡时会自动用 Neural Mix 在两首歌之间交换 stem:

过渡示例:
Deck 1(正在播放)→ Beat 保留 + Vocal 逐渐消失
Deck 2(将要切入)→ Instrumental 先进 + Vocal 稍后跟上
效果:两首歌的 instrumental 和 vocal 在交叉混合,不是简单的音量 fade

这就是 djay 过渡最酷的地方——你不是在"从 A 歌切到 B 歌",而是在让两首歌的不同 Stem 互相穿移,做出来的 mashup 感是传统 crossfader 做不到的。

局限性

限制说明
流媒体曲目不可用Apple Music / Spotify / TIDAL 等流媒体的曲目不允许在 djay 里用 Neural Mix(版权方要求)。必须下载到本地才能使用 Neural Mix
极端复杂编曲可能失败古典交响乐、重度失真金属、同时多 vocal 的 Hip-Hop 混音效果下降
无 DAW 级精度目标是 live DJ 场景的快速操作,不是专业 DAW 的 Stem 输出质量。离线导出 acappella 除外(djay 5.4+ 新增 Neural Mix Pro 离线导出,质量接近 DAW)

哪些设备能流畅运行 Neural Mix

平台流畅设备卡顿设备
macOSApple Silicon 全系列、Intel i7+Intel i5 早期(2018 及以前)
Windowsi5 12th Gen+、Ryzen 5 6000+、有独显老笔记本 / 集显
iOSiPhone 12+、iPad Air 4+、iPad Pro 全系列iPhone SE 2nd Gen、iPhone 11 及以前
AndroidSnapdragon 8 Gen 2+、Tensor G3+、高端平板中低端手机
Neural Mix 三条独立 Stem 分离 + 彩色波形
djay 5 Neural Mix:实时分离 vocal(蓝)、beat(橙)、instrumental(绿)三条 stem,Crossfader Fusion 在过渡时自动交换 stem