# DataOps란?

DataOps는 기업 데이터에 대한 깊이 있는 인사이트를 얻기 위해 DevOps 접근법을 이용하는 데이터 관리 방식을 말합니다. 이러한 접근법을 통해 DevOps 및 데이터 과학자들이 힘을 모아 데이터 관리를 개선하고 빠른 혁신을 지원하는 분석을 개발할 수 있습니다.

![Image](https://upload.cafenono.com/image/slashpageHome/20240603/112149_yeJbUmOyT8dnUPoC0f?q=75&s=1280x180&t=outside&f=webp)

![Image](https://upload.cafenono.com/image/slashpageHome/20240603/111344_n9pPHBDEa1q18k3wNd?q=75&s=1280x180&t=outside&f=webp)

![Image](https://upload.cafenono.com/image/slashpageHome/20240603/111409_aiX3K7aKqUgxPmV8z3?q=75&s=1280x180&t=outside&f=webp)

**DataOps 도입 필요성**

대부분의 기업이 사일로로 인한 데이터 및 AI 관련 문제를 겪고 있습니다.

![Image](https://upload.cafenono.com/image/slashpageHome/20240603/124045_H6oyFywlaJo9GKPWkl?q=75&s=1280x180&t=outside&f=webp)

# 현재 데이터에 대한 고민

- 데이터 사일로로 분절된 데이터 및 중복 저장 등 데이터의 불일치로 인한 **데이터 신뢰도 저하**

- Case별로 데이터 파이프라인이 구축되어 데이터 요청에 대한 **빠른 대응이 불가**

- 대규모의 데이터를 자유롭게 다룰 수 있는 **통합 관점의 분석 환경의 부재**

- 잦은 변경으로 데이터 품질의 **정합성, 무결성 문제****문제**

- 산재한 데이터 생산/조회 경로와 **표준화 되지 않은 지표 정의**

- Growth 분석을 위한 데이터 **카탈로그의 부재 **및 **비즈니스 성과 연계 어려움**

# DataOps 장점

![Image](https://upload.cafenono.com/image/slashpageHome/20240617/095843_nxCAyrD0hEhUvE1AUf?q=75&s=1280x180&t=outside&f=webp)

DataOps는 데이터 스프롤 제어, 데이터 보안 보장, 신속한 수익 흐름 생성 등에 도움이 됩니다. 또한 단일 위치에서 엄청난 양의 데이터를 처리, 저장, 액세스, 분석, 제시하여 디지털 트랜스포메이션을 가속할 수 있습니다. DataOps 전환으로 조직에서 다음과 같은 이점을 얻을 수 있습니다.

- 실시간 데이터 **인사이트** **제공**

- 반복 가능한 **자동화** 및 통합된 프로세스 **표준화**

- 팀과 팀 구성원 간의 **커뮤니케이션** **및 협업** **개선 장려**

- 데이터 분석을 통해 가능한 모든 시나리오를 **예측**하여 **투명성 향상**

- 더 높은 **데이터 품질 보장**

- 데이터 소스 큐레이션 및 인프라 관리 절차의 자동화로 **ROI 향상**

- 자동화된 거버넌스를 통해 **데이터의 보안 및 데이터 보호** 법률 준수 보장

- 내부와 외부에서 **확장하는 데이터 제공** 지원

조직은 DataOps 방식을 통해 다양한 소스에서 다양한 형태의 데이터를 사용하여 학습하고 실시간으로 더 많은 작업을 할 수 있습니다.

# **DataOps 도입 기대효과**

데이터와 AI를 활용해  수동 보고시간 97% 절감, 개발 시간 90% 단축, 인사이트 도출 시간 96% 단축 및 운영 비용 93% 절감 등 전사적 효율성이 향상됩니다

![Image](https://upload.cafenono.com/image/slashpageHome/20240107/214317_Xwxvr7IYanfzuBv0Ct?q=75&s=1280x180&t=outside&f=webp)

**데이터와 AI를 활용해 전사적 **

**업무 효율성 향상**

- 수도 보고 시간 97% **절감**

- 최적화된 데이터 관리로 개발 시간 90% **단축**

**업무 생산성, 민첩성 및 지속 가능성 **

**향상**

![Image](https://upload.cafenono.com/image/slashpageHome/20240107/214324_i5Xz9nnS8AfhiC8CxM?q=75&s=1280x180&t=outside&f=webp)

**데이터와 AI를 활용해 자동화 및 개인화**

- 인사이트 도출 시간 96% **단축**

- 운영 비용 93% **절감**

**빠른 의사결정 지원 및 새로운 비즈니스 **

**기회 창출**

**DataOps 주요 기능**

## ETL 

운영자는 데이터 프로세스 자동화 지원: 데이터 수집/처리/분석 프로세스 등록하고, 실행 이력, 상세 결과 확인

![Image](https://upload.cafenono.com/image/slashpageHome/20240603/143040_tRMyWhNNvwDid6z79j?q=75&s=1280x180&t=outside&f=webp)

![Image](https://upload.cafenono.com/image/slashpageHome/20240603/143101_cHg5a44llBvKtNmXyr?q=75&s=1280x180&t=outside&f=webp)

### **사용하기 쉬운 파이프 라인 생성 및 관리**

Python 기반으로 동적으로 파이프라인 생성 및 관리 가능

데이터 수집, 처리, 분석 등의 다양한 프로세스 실행

간단한 작업 스케줄링

### Web UI를 통한 모니터링 및 관리

각 파이프라인에서 실행된 작업에 대한 로그 조회

UI를 통한 파이프라인 작업 실행 및 예약

### 데이터 이행 오류 조치

오류 발생한 도메인의 소스 수정 후 Airflow UI에서 해당 도메인 재실행

**메타관리**

운영자는 데이터 프로세스 자동화 지원: 데이터 수집/처리/분석 프로세스 등록하고, 실행 이력, 상세 결과 확인

### 데이터 카탈로그

레이크 하우스 저장 전체 데이터 검색 조회를 위한 데이터 카탈로그 서비스 제공

 

### 메타 정보 및 계보 정보

데이터 카탈로그 상세 메타 정보 및 통계 서비스 제공
데이터 생성 족보에 해당하는 계보 정보 서비스 제공

![Image](https://upload.cafenono.com/image/slashpageHome/20240617/101720_Cg1zSMzEYEPBunqN7o?q=75&s=1280x180&t=outside&f=webp)

![Image](https://upload.cafenono.com/image/slashpageHome/20240617/102550_A2GNn54iY6XIcc2Ysn?q=75&s=1280x180&t=outside&f=webp)

## 데이터품질관리 

데이터 스키마 호환 검사 및 스키마 진화 지원, 다양한 스키마 검증 규칙 및 변환 규칙 제공, 스키마 품질 상태 제공

![Image](https://upload.cafenono.com/image/slashpageHome/20240617/104051_u8QJAwo3zeTUtcEu9w?q=75&s=1280x180&t=outside&f=webp)

![Image](https://upload.cafenono.com/image/slashpageHome/20240617/103848_3y7EFtQSJ9JGn1C3hn?q=75&s=1280x180&t=outside&f=webp)

### 델타 기반 스키마 검사 및 스키마 검증 규칙 제공

델타 기반 데이터 컬럼 검증 및 커스텀 함수 검증
ACID 트랜잭션 및 데이터 시간 여행 서비스 제공
컬럼명 존재 유무 검사, 단일 스페이스, 변환 규칙, trim 규칙 등 다양한 검증 규칙 제공

### 스키마 품질 상태 제공

테이블 컬럼 수, 최소, 최대 값, 중간값, NULL 값, 예시값 등 테이블 상태 정보 분석 결과 제공

**시각화**

업무담당자는 데이터 테이블을 조회 및 분석하고, 시계열 데이터 차트를 이용한 분석 지원

### BI 대시보드

BI 쿼리를 조합하여 위지윅 기반의  대시보드 생성 서비스 제공

### BI쿼리 및 차트

RDBMS, 레이크하우스 등 다양한 데이터 소스에 대한 쿼리 정의 및 차트 생성 서비스 제공

![Image](https://upload.cafenono.com/image/slashpageHome/20240617/112748_TbBMCzO3eTXSUI5py4?q=75&s=1280x180&t=outside&f=webp)

![Image](https://upload.cafenono.com/image/slashpageHome/20240617/112800_q1leAFB6xzh5clmQeM?q=75&s=1280x180&t=outside&f=webp)

## 분석도구 

데이터 분석 담당자에게 JupyterLab IDE 기반에서 Python과 Spark 등 개발 언어 활용한 데이터 분석 지원

![Image](https://upload.cafenono.com/image/slashpageHome/20240617/113243_oHIBomiCfWG3rZCTnr?q=75&s=1280x180&t=outside&f=webp)

![Image](https://upload.cafenono.com/image/slashpageHome/20240617/113252_gwDoY9VbdwTkBrl2j9?q=75&s=1280x180&t=outside&f=webp)

### 데이터 분석 전문가를 위한 Jupyterlab 기반의 데이터 

데이터 분석 전문가를 위한 Jupyterlab 기반의 데이터 분석 환경 도구 제공

### Spark 연동한 데이터 분석 서비스 

JupyterLab 환경에서 즉시 사용 가능한 Kubernetes 기반 Spark 클러스터와 연계한 분산 데이터 분석/처리 서비스 제공

## Community

[https://slashpage.com/dataops-xpert/1q3vdn2pqjgg1mxy49pr](https://slashpage.com/dataops-xpert/1q3vdn2pqjgg1mxy49pr)

[https://slashpage.com/dataops-xpert/91kwev26ng66x2y46jpg](https://slashpage.com/dataops-xpert/91kwev26ng66x2y46jpg)

[https://slashpage.com/dataops-xpert/dk58wg2ej488kmnqevxz](https://slashpage.com/dataops-xpert/dk58wg2ej488kmnqevxz)

[https://slashpage.com/dataops-xpert/dwy5rvmj1gnnn2p46zn9](https://slashpage.com/dataops-xpert/dwy5rvmj1gnnn2p46zn9)

---

**DataOps**

Made around the SlashPage
ⓒ 2022 SlashPage

**Product**

기능

가격

새로운 소식

로드맵

템플릿

상태

**Help**

시작하기

사용자 가이드

도움말 센터

지원팀 연락처

**Company**

회사 소개

개발 블로그

미디어 키트

## Pages

- [DataOps란?](https://slashpage.com/dataops-xpert)
  - [공지사항](https://slashpage.com/dataops-xpert/1q3vdn2pqjgg1mxy49pr)
  - [Q&A](https://slashpage.com/dataops-xpert/91kwev26ng66x2y46jpg)
  - [Collaboration](https://slashpage.com/dataops-xpert/dk58wg2ej488kmnqevxz)
  - [Reporting errors](https://slashpage.com/dataops-xpert/dwy5rvmj1gnnn2p46zn9)
