본 연구는 기존 머신러닝 알고리즘, 심층 학습 아키텍처 및 트랜스포머 기반 모델을 활용하여 정신 건강 분류를 위한 다단계 접근 방식을 제시합니다. 다양한 방법들의 성능을 평가하기 위해 새로운 데이터 세트를 구성하고 활용하였으며, 기존 분류기부터 신경망까지 단계적으로 평가를 진행했습니다. 아키텍처의 범위를 넓히기 위해 LSTM 및 GRU와 같은 순환 신경망(RNN)을 평가하여 데이터의 순차적 패턴 모델링 효과를 조사했습니다. 이후 BERT와 같은 트랜스포머 모델을 미세 조정하여 이 분야에서 문맥적 임베딩의 영향을 평가했습니다. 이러한 기준 평가를 넘어, 본 연구의 핵심 기여는 교사-학생 네트워크로 구성된 이중 모델 아키텍처를 포함하는 새로운 훈련 전략에 있습니다. 표준 지식 증류 기법과 달리, 이 방법은 소프트 레이블 전달에 의존하지 않고 손실 함수를 수정하여 교사 모델의 출력과 잠재 표현 모두를 통해 정보 흐름을 용이하게 합니다. 실험 결과는 각 모델링 단계의 효과를 강조하고 제안된 손실 함수와 교사-학생 상호 작용이 정신 건강 예측 작업에서 모델의 학습 능력을 크게 향상시킨다는 것을 보여줍니다.
