열렬히.뛰기

3-1 : 데이터 수집 및 저장

수학 & 통계 > 빅데이터 분석기사 > 개념정리 > 빅분기 개념정리 > 3-1 : 데이터 수집 및 저장

데이터 수집

비즈니스 도메인과 원천 데이터 정보 수집

비즈니스 도메인 정보를 수집하기 위해 필요한 것

  • 비즈니스 모델
  • 비즈니스 용어집
  • 비즈니스 프로세스
  • 도메인 전문가 인터뷰

데이터 유형 및 속성 파악

데이터 저장 방식

  1. 파일 시스템
  2. 관계형 데이터베이스
  3. 분산처리 데이터베이스

데이터 적절성 검증

  1. 데이터 누락 점검
  2. 소스 데이터와 비교
  3. 데이터의 정확성 점검
  4. 보안 사항 점검
  5. 저작권 점검

데이터 변환

데이터 비식별화

비식별화 조치 방법

  1. 가명처리 기법
  2. 총계처리
  3. 데이터 삭제
  4. 데이터 범주화
  5. 데이터 마스킹
  6. 적정성 평가

가명처리 기법

  1. 휴리스틱 가명화
    1. 식별자에 해당하는 값을 몇 가지 규칙으로 대체하거나 사람의 판단에 따라 가공
    2. 식별자의 분포를 고려하거나 사전분석을 하지 않음. 동일한 방법으로 가공
  2. 암호화
    1. 일정한 규칙의 알고리즘을 적용하여 암호화.
  3. 교환방법

총계처리

  1. 부분총계
  2. 라운딩
  3. 재배열

적정성 평가

  • k - 익명성
  • l - 다양성
  • t - 근접성

데이터 품질 검증

데이터 품질

정형 : 완전성, 유일성, 일관성, 유효성, 정확성

  • 정확성 : 선후관계 정확성, 계산/집계 정확성, 최신성, 업무규칙 정확성.

비정형 : 기능성, 신뢰성, 사용성, 효율성, 이식성