본 논문은 개방형 무선 접속 네트워크(O-RAN)에 대규모 언어 모델(LLM)과 기계 학습(ML) 기술을 적용하는 데 있어, RIC 간의 협력 부족, 실시간 의사결정을 저해하는 높은 계산 요구량, 그리고 도메인 특화 미세 조정의 부족과 같은 중요한 과제들이 남아있음을 지적한다. 이를 해결하기 위해, LLM 기반 계층적 RIC(LLM-hRIC) 프레임워크를 제시한다. LLM 기반 비실시간 RIC(non-RT RIC)는 전역 네트워크 정보를 사용하여 근실시간 RIC(near-RT RIC)에 전략적 지침을 제공하는 안내자 역할을 하고, 강화 학습(RL) 기반 근실시간 RIC는 이 지침과 지역 실시간 데이터를 결합하여 근실시간 의사결정을 수행하는 실행자 역할을 한다. 통합 접속 및 백홀(IAB) 네트워크 환경에서 LLM-hRIC 프레임워크의 실현 가능성과 성능을 평가하고, O-RAN을 위한 LLM-hRIC 프레임워크의 개방형 과제를 논의한다.