열렬히.뛰기

1-1. 데이터 정제

수학 & 통계 > 빅데이터 분석기사 > 개념정리 > 빅분기 개념정리 > 1-1. 데이터 정제

데이터에 따른 변수의 이해

데이터의 종류 - 질적자료 / 정성적 자료

명목자료 : 수치 또는 기호로 표기 가능. 의미는 없음.

서열자료 : 수치 또는 기호로 표기 가능. 해당 수치가 서열을 나타냄.

데이터의 종류 예시

  • 온도 : 구간자료. 곱셈/나눗셈이 안됨
  • 무게 : 비율자료. 모든 연산이 다 됨.

데이터의 정제

데이터 정제과정 : 수집, 저장, 변환, 품질확인, 관리

데이터 결측값 처리

결측 데이터의 종류

  1. 완전 무작위 결측 : 결측데이터가 타 변수와 연관이 없음.
  2. 무작위 결측 : 결측데이터가 타 변수와 연관은 되어있으나, 그 자체가 비관측값들과는 연관이 없음.
  3. 비 무작위 결측 : 결측가능성이 곧 결측데이터와 연관

완전 무작위 결측은 대규모 데이터에서 단순 무작위 표본추출로 해결 가능.

이상치의 특징

  • 많아질수록 정상성이 감소한다. (신뢰성이 떨어진다.)
  • 정상성이 높음 = 정규분포에 가깝다는 뜻.