Sign In

Autoregressive Models for Knowledge Graph Generation

Created by
  • Haebom
Category
Empty

μ €μž

Thiviyan Thanapalasingam, Antonis Vozikis, Peter Bloem, Paul Groth

πŸ’‘ κ°œμš”

λ³Έ 논문은 지식 κ·Έλž˜ν”„(KG) 생성을 μœ„ν•΄ μ΄μ „μ˜ κ°œλ³„ νŠΈλ¦¬ν”Œ 예츑 방식과 달리, κ·Έλž˜ν”„λ₯Ό νŠΈλ¦¬ν”Œμ˜ μ‹œν€€μŠ€λ‘œ κ°„μ£Όν•˜μ—¬ νŠΈλ¦¬ν”Œ κ°„μ˜ λ³΅μž‘ν•œ 의미적 μ˜μ‘΄μ„±κ³Ό 도메인 μœ νš¨μ„± μ œμ•½ 쑰건을 ν•™μŠ΅ν•˜λŠ” μžκΈ°νšŒκ·€(autoregressive) λͺ¨λΈμΈ ARKλ₯Ό μ œμ•ˆν•©λ‹ˆλ‹€. ARKλŠ” λ³„λ„μ˜ κ·œμΉ™ 없이 λ°μ΄ν„°λ‘œλΆ€ν„° μ•”λ¬΅μ μœΌλ‘œ νƒ€μž… 일관성, μ‹œκ°„ μœ νš¨μ„±, 관계 νŒ¨ν„΄κ³Ό 같은 의미둠적 μ œμ•½ 쑰건을 ν•™μŠ΅ν•˜μ—¬ ν›ˆλ ¨ 데이터에 μ—†λ˜ μƒˆλ‘œμš΄ 지식 κ·Έλž˜ν”„λ₯Ό μƒμ„±ν•©λ‹ˆλ‹€. λ˜ν•œ, 잠재 ν‘œν˜„μ„ ν†΅ν•œ μ œμ–΄ 생성을 μ§€μ›ν•˜λŠ” λ³€λΆ„ ν™•μž₯ λͺ¨λΈμΈ SAIL을 λ„μž…ν•˜μ—¬ λΆ€λΆ„ κ·Έλž˜ν”„λ‘œλΆ€ν„°μ˜ 쑰건뢀 μ™„μ„±κ³Ό 무쑰건 μƒ˜ν”Œλ§μ„ κ°€λŠ₯ν•˜κ²Œ ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
μžκΈ°νšŒκ·€ λͺ¨λΈμ΄ 지식 κ·Έλž˜ν”„ 생성에 효과적인 ν”„λ ˆμž„μ›Œν¬λ₯Ό μ œκ³΅ν•˜λ©°, 특히 λͺ¨λΈ μš©λŸ‰(hidden dimensionality >= 64)이 ꡬ쑰적 κΉŠμ΄λ³΄λ‹€ μ€‘μš”ν•¨μ΄ λ°ν˜€μ‘ŒμŠ΅λ‹ˆλ‹€.
β€’
μˆœν™˜ 신경망(RNN) 기반 μ•„ν‚€ν…μ²˜κ°€ 트랜슀포머 기반 μ•„ν‚€ν…μ²˜μ™€ μœ μ‚¬ν•œ μœ νš¨μ„±μ„ λ³΄μ΄λ©΄μ„œλ„ μƒλ‹Ήν•œ 계산 νš¨μœ¨μ„±μ„ μ œκ³΅ν•˜μ—¬ μ‹€μš©μ μΈ 이점을 κ°€μ§‘λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ ARK 및 SAIL λͺ¨λΈμ€ 지식 베이슀 μ™„μ„± 및 쿼리 응닡과 같은 μ‹€μ œ μ‘μš© 뢄야에 κΈ°μ—¬ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
ν–₯ν›„ μ—°κ΅¬μ—μ„œλŠ” 더 λ³΅μž‘ν•œ κ·Έλž˜ν”„ ꡬ쑰λ₯Ό ν‘œν˜„ν•˜κ³  λ‹€μ–‘ν•œ λ„λ©”μΈμ—μ„œμ˜ μΌλ°˜ν™” μ„±λŠ₯을 λ†’μ΄λŠ” λ°©ν–₯으둜 λ°œμ „μ΄ ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage