Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Rendering Transparency to Ranking in Educational Assessment via Bayesian Comparative Judgement

Created by
  • Haebom
Category
Empty

저자

Andy Gray, Alma Rahat, Stephen Lindsay, Jen Pearson, Tom Crick

개요

본 논문은 팬데믹 이후 공정하고 신뢰할 수 있는 평가 방법에 대한 요구 증가에 따라 교육 평가의 투명성 확보가 중요해짐에 따라, 기존 평가 방식의 대안으로 제시되는 비교 판정(CJ)의 불투명성 문제를 해결하기 위해 베이지안 비교 판정(BCJ)을 제시한다. BCJ는 사전 정보를 판정 과정에 통합하여 구조적이고 데이터 중심적인 접근 방식을 제공함으로써 해석력과 책임성을 향상시킨다. 판정 결과에 대한 확률을 할당하여 불확실성을 정량화하고 의사결정의 신뢰도에 대한 심층적인 통찰력을 제공하며, 사전 데이터와 연속적인 판정이 최종 순위에 어떻게 영향을 미치는지 체계적으로 추적하여 평가 과정을 명확히 하고 평가자 간의 의견 불일치를 파악하는 데 도움을 준다. 다기준 BCJ는 여러 학습 결과(LO)를 독립적으로 평가하여 CJ의 풍부함을 유지하면서 특정 평가 목표에 맞는 투명하고 세분화된 순위를 생성한다. 또한 개별 LO에서 도출된 전체적인 순위를 가능하게 하여 상세한 피드백을 저해하지 않고 포괄적인 평가를 보장한다. 영국 고등 교육 데이터셋과 전문 평가자를 사용하여 BCJ의 정량적 엄격성과 순위 근거를 명확히 하는 능력을 보여주고, 질적 분석과 경험 많은 CJ 실무자와의 논의를 통해 고위험 국가 평가와 같이 투명성이 중요한 상황에서의 효과성을 탐구하며, 다양한 교육 환경에서의 실제 적용에 대한 통찰력을 제공한다.

시사점, 한계점

시사점:
베이지안 비교 판정(BCJ)은 교육 평가의 투명성을 향상시키는 효과적인 방법을 제공한다.
BCJ는 평가 과정의 불확실성을 정량적으로 측정하고, 평가자 간의 의견 불일치를 식별하는 데 도움을 준다.
다기준 BCJ는 여러 학습 결과를 독립적으로 평가하여 더욱 포괄적이고 세분화된 평가를 가능하게 한다.
실제 고등 교육 데이터셋을 활용한 실증 분석을 통해 BCJ의 실효성을 검증하였다.
한계점:
BCJ의 실제 적용에 대한 추가적인 연구가 필요하다.
BCJ의 복잡성으로 인해 일부 교육 환경에서는 적용이 어려울 수 있다.
BCJ의 효과는 평가자의 전문성과 데이터의 질에 따라 달라질 수 있다.
👍