Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Interleaved Gibbs Diffusion: Generating Discrete-Continuous Data with Implicit Constraints

Created by
  • Haebom

作者

Gautham Govind Anil, Sachin Yadav, Dheeraj Nagaraj, Karthikeyan Shanmugam, Prateek Jain

概要

Interleaved Gibbs Diffusion(IGD)は、離散連続データのための新しい生成モデリングフレームワークです。離散および離散連続拡散に関する以前の研究の大部分は、取得可能な脱雑音分布を仮定しており、これはこれらの問題における確率変数間の強力な依存性モデリングを妨げる可能性があります。本論文では,買収可能性を仮定しないGibbsサンプリングスタイルの離散拡散モデルに切り替え,3-SAT性能の大幅な改善を実験的に実証した。これに着目して、離散連続生成の場合、離散時間Gibbsサンプリングタイプのマルコフチェーンを一般化するIGDを提示します。 IGD は、離散的および連続的な脱雑音の間のシームレスな統合を可能にしながら、適切な順方向プロセスの正確な逆転を理論的に保証します。さらに、脱雑音の選択の柔軟性を提供し、状態空間の倍加と推論時間の改善によって条件付き生成を可能にする。分子構造、レイアウト、および表形式データという3つの困難な生成タスクの実験的評価は、最先端のパフォーマンスを示しています。特に、IGDは、等辺拡散や補助損失などのドメイン固有の誘導偏向に頼ることなく、最先端の結果を達成します。本論文では、これらの問題ごとに、さまざまなモデリングとインターリーブ戦略とハイパーパラメータを探ります。

Takeaways、Limitations

Takeaways:
離散 - 連続データの新しい生成モデリングフレームワークであるIGD提示。
データ内の暗黙的な制約を効果的に処理します。
引数の可能性を想定せず、強力な変数間の依存関係のモデリングが可能です。
3-SAT問題における従来方式と比較した性能向上
分子構造、レイアウト、表形式データなど、さまざまなタスクで最先端のパフォーマンスを実現。
ドメイン固有の誘導偏向に依存せずに最先端の結果を達成
Limitations:
本論文で提示した実験結果の一般化の可能性に関するさらなる研究が必要である。
様々なデータ型と問題設定に対するIGDの適用性と拡張性に関するさらなる研究が必要
ハイパーパラメータのチューニングの詳細な説明と分析の欠如
特定のドメインに対する誘導的偏向を完全に排除できない可能性
👍