Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

The StudyChat Dataset: Student Dialogues With ChatGPT in an Artificial Intelligence Course

Created by
  • Haebom

저자

Hunter McNichols, Fareya Ikram, Andrew Lan

개요

본 논문은 대규모 언어 모델(LLM) 기반의 튜터링 챗봇과의 상호작용을 통해 수집된 실제 대학생 데이터셋인 StudyChat을 소개한다. 대학 수준 인공지능 과목에서 학생들이 프로그래밍 과제를 수행하는 동안 LLM 기반 웹 애플리케이션과의 상호작용 16,851개를 수집하고, 대화 행위 라벨링 기법을 사용하여 주석을 달았다. 데이터 분석을 통해 개념 이해 및 코딩 지원을 위해 LLM을 활용한 학생들이 과제 및 시험에서 더 좋은 성적을 거두었으며, 보고서 작성이나 과제 학습 목표 회피에 LLM을 사용한 학생들은 시험 성적이 낮았다는 사실을 발견했다. StudyChat은 LLM의 교육 분야에서의 역할에 대한 추가 연구를 위한 공유 자원으로 활용될 수 있다.

시사점, 한계점

시사점:
LLM 기반 학습 도구 활용 패턴 분석을 위한 실제 데이터셋(StudyChat) 제공.
LLM 활용 방식과 학업 성취도 간의 상관관계 분석 결과 제시 (개념 이해 및 코딩 지원 vs. 보고서 작성 및 과제 회피).
LLM을 교육에 효과적으로 활용하기 위한 전략 수립에 기여.
교육 분야에서 LLM 활용에 대한 추가 연구를 위한 기반 마련.
한계점:
StudyChat 데이터셋은 특정 대학의 인공지능 과목 학생들을 대상으로 수집되었으므로, 일반화 가능성에 대한 제한 존재.
분석 결과는 상관관계를 보여주지만, 인과관계를 명확하게 밝히지는 못함.
LLM 활용 방식의 다양성과 복잡성을 완전히 포착하지 못할 가능성 존재.
웹 애플리케이션이 ChatGPT의 기능을 복제한 것이지 ChatGPT 자체가 아닌 점.
👍