본 논문은 의료, 경제, 정책 결정과 같은 분야에서 가정적 개입 하에 결과의 분포를 예측하는 새로운 방법을 제안합니다. 기존 방법들은 알려진 인과 그래프나 매개변수 모델과 같은 강력한 가정에 의존하며, 문제 인스턴스 간의 감가상각이 부족하여 실용성이 제한적입니다. 본 논문에서는 ACTIVA라는 새로운 트랜스포머 기반 조건부 변분 오토인코더 아키텍처를 제안합니다. ACTIVA는 인과 트랜스포머 인코더를 확장하여 가우시안 혼합물로 인과 효과를 예측합니다. 이 방법은 인과 그래프를 필요로 하지 않으며 관측 데이터와 질의된 개입만으로 개입 분포를 예측합니다. 많은 시뮬레이션된 인스턴스에 대해 감가상각함으로써 재훈련 없이 새로운 데이터 세트에 대한 제로샷 일반화를 가능하게 합니다. 실험 결과는 합성 및 반합성 데이터에 대한 정확한 예측을 보여주며, 그래프가 없는 감가상각 인과 추론 접근 방식의 효과를 보여줍니다.