Fun-Audio-Chat-8B 推論メモリ 24GB 参照と最適化のアイデア

FunAudioLLM オープンソース Fun-Audio-Chat-8B:デュアル解像度音声表現と音声機能通話

1. 要旨 Fun-Audio-Chat-8Bは、FunAudioLLMチームによるオープンソースの「大規模音声言語モデル」で、より自然で低遅延の音声交流を目指しています。 「デュアル解像度音声表現」(5Hzの共有バックボーン+25Hzの精錬ヘッド)を用いて計算負荷を削減しつつ、Core-Cockt...