Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Exploring Adapter Design Tradeoffs for Low Resource Music Generation

Created by
  • Haebom

作者

Atharva Mehta, Shivam Chauhan, Monojit Choudhury

概要

この論文は、MusicGenやMustangoなどの大規模な音楽生成モデルのパラメータ効率的な微調整（PEFT）に焦点を当てています。具体的には、アダプタベースのPEFT技術を使用して、ヒンドゥスタンの古典音楽とトルコのマカム音楽の2つの低資源音楽ジャンルの最適なアダプタ構成を探索します。さまざまなアダプタアーキテクチャ（コンボリューションベース、トランスフォーマベース）、配置位置、サイズを実験し、各アーキテクチャの強みと弱点（コンボリューションベースアダプタは詳細な音楽的要素に強み、トランスベースアダプタは長期依存性に強み）を分析し、中間サイズ（40Mパラメータ）アダプタが性能と効率性の面で最適なバランス。また、拡散ベースモデルであるMustangoと自己回帰モデルであるMusicGenの性能差（Mustangoは多様性は高いが安定性は低く、MusicGenは安定性は高いが多様性はやや低い）と計算コスト面での差を比較分析します。

Takeaways、Limitations

•
Takeaways：
◦
畳み込みベースのアダプタは、詳細な音楽要素（装飾音、短い旋律）表現に効果的です。
◦
トランスベースのアダプターは、長期依存性（構造化された即興演奏）を維持するのに効果的です。
◦
中型（40Mパラメータ）アダプタは、パフォーマンスと効率の面で最適なバランスを提供します。
◦
MusicGen（自己回帰モデル）は、Mustango（拡散ベースのモデル）よりもトレーニング速度が速く、効率的で、より良い品質の出力を生成しますが、多少冗長な製品を作成できます。
◦
Mustangoはさまざまな出力を生成しますが、音符の安定性、リズムアライメント、審美的な面では不足しています。
•
Limitations：
◦
研究対象のジャンルはヒンドゥスタンの古典音楽とトルコのマカム音楽に限定されています。
◦
より広範な音楽ジャンルとモデルのさらなる研究が必要です。
◦
アダプタ設計の最適化に関する一般原則を提示しない。
👍
Made with Slashpage