[AI] 지도학습, 비지도학습, 준지도학습, 자기지도학습, 강화학습

Yerim

Feb 1, 20252y ago

지도학습, 비지도학습, 준지도학습, 자기지도학습, 강화학습

•

지도학습 Supervised Learning: 정답(레이블)을 알고 있는 상태에서 학습

•

비지도학습 Unsupervised Learning: 정답을 모르는 상태에서 새로운 의미나, 관계 찾기

•

준지도학습 Semi-Supervised Learning: 지도학습 + 비지도학습 (일부 데이터에만 정답)

•

강화학습 Reinforcement Learning: 정답을 맞춘 경우 보상(가중치), 보상이 높은 것을 더 배우려고 한다 → 지도학습과 유사하지만, 더 좋은 답을 찾아가는 방식

•

자기지도학습 Self-Supervised Learning: 레이블이 없는 데이터를 학습할 수 있음

지도학습

분류 Classification

•

데이터를 기반으로 새로운 샘플의 ‘범주형 클래스 레이블’ 예측이 목표

•

이진 분류(Binary classification): 클래스 레이블 종류가 두 개인 경우

•

다중 클래스 분류 (multi-class classification): 클래스 레이블 종류가 세 개 이상)

데이터 값을 그대로 사용: 규칙(Rule)을 이용한 알고리즘

•

의사결정나무(Decision Tree): <예/아니오>라고 대답할 수 있는 질문 (규칙)을 이어 가며 데이터를 구분해 타깃을 학습

거리(Distance)를 이용한 알고리즘

•

KNN (K-Nearest Neighbour): k개의 근접한 이웃으로 데이터를 분류

•

서포트 벡터 머신 (support Vectror Machine; SVM): 분류를 위해 기준선을 정의

참고) K-means:

•

비지도 학습 알고리즘,

•

k개 클러스터로 비슷한 값끼리 군집

•

거리를 이용

경사하강법을 이용한 알고리즘

•

선형 회귀

•

로지스틱회귀

회귀 Regression

•

연속적인 출력 값에 대한 예측이 목표

•

ex) 어떤 사람의 나이, 농작물의 수확량, 주식 가격 등 출력 없이 연속성을 가짐

•

ex) 시험 점수 예측, 주식 가격 예측, 부동산 가격 예측

Y = W_1 * X_1 + W_2 * X_2 + W_3 * X_3 + ... + W_n * X_n

•

Y: 종속변수, 즉 아파트 가격

•

$X_1, X_2, …, X_n$: 방 개수, 방 크기, 주변 학군 등의 독립변수

•

$W_1, W_2, …, W_n$: 독립변수의 값에 영향을 미치는 회귀 계수 Regression coefficients

•

회귀 예측의 핵심은 최적의 회귀 계수를 찾아내는 것

회귀의 종류

•

독립변수의 개수에 따라 단일 회귀와 다중 회귀로 나뉜다.

•

단일 회귀: 독립 변수 1개, 선형 회귀

•

다중 회귀: 독립 변수 여러 개, 비선형 회귀

지도학습 머신러닝 알고리즘

•

로지스틱 회귀 (Logistic Regression): 일반화 선형 모형 (Generalized Linear Model)에 속하는 모형으로, 데이터가 어떤 범주에 속할지 시그모이드(Segmoid)함수를 사용해 확률을 계산하고, 이 확률은 주어진 임계값에 따라 범주로 분류

•

서포트 벡터 머신 (Support Vector Machine): 데이터 분류 목적으로, 데이터가 분류된 각 범주에서 최대한 멀리 떨어져있는 비선형 결정 경계(Decision Boundary)를 정의하는 모델

•

k-최근접 이웃 (k-Nearest Neighbors): 데이터 간의 거리를 이용해 k개의 근접한 이웃으로 데이터를 분류

•

선형 회귀 (Linear Regression): 종속변수 Y에 한 개 이상의 독립변수 X와의 선형 상관 관계를 찾는 통계 모형

•

서포트 벡터 회귀(Support Vector Regression): 서포트 벡터 머신 알고리즘이 종속변수 Y가 연속형인 경우 사용되었을 때를 말함

•

결정트리 (Decision Tree)

◦

분류트리: 의사 결정 규칙 (Decision Tree)으로 데이터를 소집단으로 분류하는 알고리즘

◦

회귀트리 (Regression Tree): 의사 결정 규칙 (Decision Tree)으로 데이터를 예측하는 알고리즘

•

앙상블 (Ensemble)

•

신경망 (Neural Networks)

딥러닝 지도학습

•

분류 Classification: 사진에 나와있는 동물이 어떤 동물인지 분류

•

위치 추정 Localization: 박스의 중심 좌표(x, y), 높이(h), 너비(w) 필요 + 박스 레이블링

•

객체 탐지 Object Detection: 한 이미지 내 여러 객체에 대해 분류와 위치 추정 수행

•

분할 Segmentation: 이미지의 모든 픽셀을 대상으로 각 픽셀이 어떤 클래스에 해당하는지 판단

•

인스턴스 분할 Instance Segmentation: 같은 클래스의 서로 다른 객체도 구분

•

자세 추정 Posture Estimation, 얼굴 랜드마크 탐지 Facial Landmark Detection: 사람의 주요 상체 부위의 좌표를 탐지

비지도학습

•

비지도학습은 원하는 출력 없이 입력 데이터를 사용 (정답이 없다.)

•

입력 데이터의 구조나 패턴을 찾는 것이 목표

•

미리 정해진 결과가 없고, 방대한 양의 데이터에서 유용한 통찰력을 얻을 수 있다.

•

탐험적이다. 데이터들의 특성을 파악하는 것이 중요하다.

•

비지도 학습 알고리즘은 크게 클러스터링(Clustering), 차원 축소(Dimentionality Reduction), 연관 규칙 (Association Rules)으로 구분

군집화 Clustering

•

공간상에서 서로 가깝고 유사한 데이터를 클러스터로 그룹(Group)화

•

즉, 비슷한 것들을 찾아서 그룹을 만드는 것

•

레이블이 없는 데이터를 분류

•

비지도 분류라고도 함

•

같은 그룹 내에서는 유사성 가짐

•

다른 그룹 간에는 다른 성질을 가짐

•

ex) 고객 분류, 유사 단어 및 이미지 군집화

군집화 vs 분류

•

전체 데이터를 비슷한 특성을 가진 것들끼리 일정한 그룹으로 나눔 → 군집화

•

데이터가 어떤 그룹에 들어가는지 판단 → 분류

연관 규칙 학습 Association Rule Learning

•

데이터에서 특성 간의 연관성이 있는 흥미로운 규칙을 찾는 방법

•

장바구니 학습이라고도 불림

데이터를 특성에 따라 그룹화 → 군집화

연관된 특성을 그룹화 → 연관규칙

차원축소 Dimensionality Reduction

•

고차원 데이터 (변수가 많은 데이터)를 중요한 정보는 유지하면서 더 작은 차원으로 압축

•

저장 공간을 줄이고 잡은(noise) 데이터를 제거해 알고리즘의 예측 성능을 높이는 것이 목표

•

과적합 해결, 모델 성능 향상

8. 차원 축소 — 핸즈온 머신러닝(3판)

codingalzi.github.io

비지도학습 알고리즘

클러스터링 (Clustering)

•

k-Means

•

DBSCAN

•

계층 군집 분석 (Hierarchical Cluster Analysis)

•

이상치 탐지 (Outlier Defection), 특이값 탐지 (Novelity Detection)

차원축소 (Dimensionality Reudction)

•

주성분 분석 (Principal Component Analysis)

•

커널 PCA(Kernel PCA)

•

t-SNE (t-Distributed Stochastic Neighbor Embedding)

연관 규칙 (Association Rule Learning)

•

Apriori

•

Eclat

자기지도학습

•

사전 학습 Pre-Training: 실제 풀고자 하는 진짜 문제 대신 가짜 문제를 정의하여 해결 (레이블이 없는 데이터 활용)

•

미세 조정 Fine-Tuning: 레이블이 있는 데이터를 이용하여 일반적인 지도 학습 방식으로 모델 조정

Context Prediction

•

사전 학습 단계에서 이미지 구조 및 객체 간 위치를 학습

◦

이미지에서 무작위로 위치를 선정하여 특정 크기의 파란색 패치를 둔다

◦

파란색 패치 주변에 동일한 크기의 패치 배치

◦

모델이 파란색 패치와 주변 패치들의 상대적 위치 관계를 예측하도록 학습

•

레이블이 없는 데이터에도 적용 가능

•

파란색 패치의 위치를 임의로 선정 → 학습 데이터를 무한히 생성 가능

•

이미지의 픽셀값들이 무작위적이지 않고 일정한 패턴을 가진다는 사실을 활용한 방법

Contrastive Learning

•

이미지 간의 관계를 학습하는 자기 지도 학습 기법

◦

하나의 이미지에 서로 다른 두 가지 변형 (회전, 밝기 조절, 일부 잘라내는 등의 방법)

◦

변형된 이미지 쌍의 출처가 같은지 다른지 인식하도록 모델 학습

•

같은 이미지에서 변형된 쌍: 출력값을 서로 가깝게 만든다

•

서로 다른 이미지에서 변형된 쌍: 출력값을 서로 멀어지게 만든다

•

출처가 다르다면 당기고 Attract, 출처가 다르면 밀어내느 Repel 학습 방식

자연어 처리

•

Open AI GPT: 단어를 예측하는 방식으로 학습

•

Google BERT: 두 가지 방식을 동시에 사용

◦

Masked Token Prediction: 문장에 빈칸을 만들고 빈칸에 알맞은 토큰 예측

◦

Next Sentence Prediction: 두 문장이 연속된 문장인지 예측

강화학습

•

동적 환경과 함께 상호 작용하는 피드백 기반 학습 방법

•

에이전트(Agent)가 환경을 관찰하고, 행동(action)을 실행하고, 보상(reward) 또는 벌점(penalty)를 받음

•

정답에 대해 맞춘 경우 가중치(보상) → 가중치(보상)이 더 높은 것을 배우려고 한다.

•

에이전트는 이러한 피드백을 통해 자동으로 학습하고 성능을 향상시킨다.

•

어떤 지도가 없이 일정한 목표를 수행한다.

•

예) 체스 인공지능, 알파고

•

에이전트 agent: 행동을 취하는 주체

•

행동 action: 에이전트가 취할 수 있는 모든 행동

•

보상 reward: 에이전트가 action에 따라 받게 되는 보상

•

환경 environment: 강화 학습이 일어나는 무대 → action

•

상태 state: 환경의 현재 상태

•

행동 가치 함수 Q: 특정 state에서 특정 Action을 했을 떄 현재와 미래에 얻을 수 있는 Reward의 합의 끼댓값

•

에피소드 Episode: 하나의 완전한 시행

심층 강화학습 Deep Reinforcement Learning

•

Q값을 딥러닝을 통해 학습하는 것을 심층 강화학습이라고 한다

•

Q-Learning: Episode 내에서 수 많은 Action을 수행하며 Q값을 반복적으로 업데이트, 최적의 행동 가치를 학습하는 방법 (State, Action, Reward, 다음 State의 정보로 Q값 갱신)

•

Exploration: 기존에 학습하지 않은 새로운 방법을 찾는 것

•

Discount Factor $\gamma$: Q값을 현재 시점을 가져올 때 곱하는 0과 1 사이의 값

◦

1에 가까울수록 미래의 보상을 중요하게

◦

여러 경로 중 Reward를 더 빠르게 얻을 수 있는 최단 경로를 선택

Subscribe to 'Yerim-DevNote'

Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'Yerim-DevNote'!

Open channel