본 논문은 회귀 모델에 데이터에 대한 호기심을 부여하는 효율적인 방법을 제시합니다. 머신러닝 분야에서 활성 학습(Active Learning)이라는 틀을 사용하여 준지도 학습 환경에서 레이블을 질의할 데이터 포인트를 자동으로 선택하는 문제를 다룹니다. 제안된 방법은 모델 훈련 중에 (일정한 속도 저하만으로) 모델의 파라미터 벡터와 함께 계산할 수 있는 "규칙성 접선(regularity tangent)" 벡터를 계산하는 데 기반합니다. 그런 다음 이 접선 벡터와 주어진 데이터 포인트에서 모델 손실의 기울기 벡터의 내적을 취하여 모델의 복잡성에 대한 해당 포인트의 영향을 측정합니다. 가장 간단한 경우에는 파라미터 벡터와 동일한 차원의 규칙성 접선 벡터가 하나만 있습니다. 따라서 제안된 기법에서는 훈련이 완료되면 잠재적 질의 데이터 포인트에 대한 "호기심"을 평가하는 작업을 해당 지점에서 모델의 손실 기울기를 계산하는 것만큼 빠르게 수행할 수 있습니다. 새로운 벡터는 모델에 필요한 저장 공간을 두 배로 늘리는 데 그칩니다. 본 논문에서는 계산된 수량이 "영향 함수(influence function)"의 한 예이며, 주어진 데이터 포인트의 가중치를 높임으로써 발생하는 모델 복잡성의 예상 제곱 변화를 측정한다는 것을 보여줍니다. 또한 이러한 수량과 관련된 다른 수량을 사용하여 회귀 모델에 대한 새로운 훈련 데이터 포인트를 선택하는 여러 가지 방법을 제안합니다.
