Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Joint Semantic-Channel Coding and Modulation for Token Communications

Created by
  • Haebom
Category
Empty

저자

Jingkai Ying, Zhijin Qin, Yulong Feng, Liejun Wang, Xiaoming Tao

개요

Transformer 아키텍처는 다양한 작업과 모달리티에서 뛰어난 성능을 보이며, 토큰은 Transformer 기반 모델의 기본적인 정보 단위가 되었습니다. 본 연구에서는 토큰을 효율적이고 안정적으로 전송하는 방법을 연구합니다. 이미지나 비디오보다 더 복잡한 공간 구조를 가진 3차원 형식인 Point cloud를 정보 소스로 선택하고, set abstraction 방법을 사용하여 point 토큰을 얻습니다. 이후, 토큰 기반의 더 유익하고 전송 친화적인 표현을 얻기 위해, point 토큰을 표준 디지털 constellation point (modulated 토큰)에 매핑하는 Joint Semantic-Channel and Modulation (JSCCM) scheme을 제안합니다. JSCCM은 두 개의 병렬 Point Transformer 기반 인코더와 Gumel-softmax 및 soft quantization 방법을 결합한 differential modulator로 구성됩니다. 또한, semantic 정보와 채널 조건에 따라 고품질 modulated 토큰을 적응적으로 생성하는 rate allocator 및 channel adapter가 개발되었습니다.

시사점, 한계점

Point cloud 데이터를 토큰화하여 Transformer 기반 전송 방식을 제안하여 3차원 데이터 처리의 새로운 가능성을 제시
JSCCM scheme을 통해 semantic 정보와 채널 조건을 모두 고려한 효율적인 토큰 전송을 가능하게 함
reconstruction에서 1dB 이상의 성능 향상과 modulated symbols에서 6배 이상의 압축률을 달성
제안된 방법은 point cloud 데이터에 특화되어 있으며, 다른 데이터 형식으로의 일반화는 추가 연구가 필요
구체적인 JSCCM scheme의 구현 디테일 (Point Transformer, differential modulator 등)에 대한 추가 설명이 부족할 수 있음
👍