|
| 소개글 |
AdaBoost 알고리즘 자세한 설명과 학습 방법 |
|
| 목차 |
Ⅰ. 序 論 1
Ⅱ. AdaBoost 알고리즘 3
1. Boosting 개요 3
2. AdaBoost 알고리즘 4
3. AdaBoost을 이용한 분류 실험 7
4. AdaBoost 알고리즘 실험 결과 14
Ⅲ. AdaBoost를 이용한 영상에서 패턴인식 16
1. 하알 유사 특징(Harr-like Feature) 16
가. 하알 웨이블렛 변환(Harr wavelet transform) 20
나. 하알 유사 특징 18
2. 적분 영상(Integral Image) 22
3. 학습 알고리즘 26
가. 약한 분류기(weak classifier) 26
나. 학습 알고리즘 30
4. 단계 검사 방법(Cascade Method) 32
가. 단계 검사 방법의 개요 32
나. 단계 검사 분류기 학습 33
Ⅳ. AdaBoost 성능 개선 방법 및 실험 35
1. 약한 분류기 성능 개선 35
2. AdaBoost알고리즘과 제안 방법의 성능 비교 실험 43
가. 얼굴 영상 데이터 실험 44
나. 자동차 영상 데이터 실험 53
Ⅴ. 결론 및 향후 과제 59
부록
참고문헌
국문 초록
ABSTRACT
감사의 글
표 목 차
Table 2-1. AdaBoost 알고리즘 4
Table 2-2. 입력 데이터의 값 8
Table 2-3. 직선 분류 특징을 가진 약한 분류기 8
Table 2-4. 의 값 9
Table 2-5. 첫 번째 반복에서의 약한 분류기의 에러값 9
Table 2-6. 의 값 11
Table 2-7. 의 값 11
Table 2-8. 의 값 12
Table 3-1. Viola와 Jones가 제안한 AdaBoost 전체 알고리즘 30
Table 3-2. 단계 검사의 학습 알고리즘 34
Table 4-1. 혼합 약분류기를 이용한 AdaBoost 알고리즘 37
Table 4-2. 얼굴과 비얼굴 데이터의 분산 평균, 표준편차 평균값 42
Table 4-3. 얼굴 영상 데이터 학습 시간 비교 45
Table 4-4. 얼굴 영상 데이터에서 AdaBoost 알고리즘과 제안 알고리즘 검출률 48
Table 4-5. 자동차 영상 데이터 학습 시간 비교 53
Table 4-6. 자동차 영상 데이터에서 AdaBoost 알고리즘과 제안 알고리즘 검출률 56
그 림 목 차
Fig 2-1. 평면좌표에서 두 종류의 입력 데이터 7
Fig 2-2. 학습 후 모든 좌표에 대한 분류 결과 7
Fig 2-3. 첫 번째 반복에서 선택된 약한 분류기 10
Fig 2-4. 두 번째 반복에서 선택된 약한 분류기 11
Fig 2-5. 세 번째 반복에서 선택된 약한 분류기 12
Fig 2-6. 다른 입력에 대한 분류 결과 13Fig 2-7. 다른 입력에 대한 분류 결과13
Fig 2-8. 부스팅 횟수에 따른 오인식률 14
Fig 2-9. 데이터 개수에 따른 오인식률 15
Fig 3-1. 2차원 영상의 연산 방향 18
Fig 3-2. 하알 웨이블렛 변환 18
Fig 3-3. 2단계 Harr Wavelet Transform 수행 결과 19
Fig 3-4. RGB 이미지에 대한 연산 결과 19
Fig 3-5. Harr-like 특징 집합. 20
Fig 3-6. 인티그럴 영상에서 점 (x, y)의 값 22
Fig 3-7. 인티그럴 영상에서 D영역의 픽셀 값의 합 23
Fig 3-8. 얼굴 입력 데이터 24
Fig 3-9. 얼굴 입력 데이터의 적분 영상 24
Fig 3-10. 비얼굴 입력 데이터 25
Fig 3-11. 비얼굴 입력 데이터의 적분 영상 25
Fig 3-12. 약한 분류기의 결과값의 히스토그램 27
Fig 3-13. 가우시안 분포가 아닌 특징 분포 28
Fig 3-14. 누적 히스토그램을 이용한 최적 임계값 29
Fig 3-15. 특징값 분포에서 최적 임계값 29
Fig 3-16. 단계 검출 방법 32
Fig 4-1. 번 까지의 특징에 대한 결과값의 분포 조사 37
Fig 4-2. 각 특징에 대한 데이터 분산 값 38
Fig 4-3. 분포 중간값을 이용한 특징의 데이터 분류 개수 39
Fig 4-4. 표준 편차값을 이용한 특징의 데이터 분류 개수 40
Fig 4-5. 중간값과 표준편차 값을 이용한 특징들의 분류률 비교 40
Fig 4-6. 학습에 사용된 하알 유사 특징들 43
Fig 4-7. 얼굴과 비얼굴 학습 데이터 44
Fig 4-8. 얼굴 영상 데이터의 학습 부스팅 횟수에 따른 학습률 45
Fig 4-9. 얼굴 영상 데이터의 AdaBoost에서 상위 30개의 약한 분류기 46
Fig 4-10. 얼굴 영상 데이터의 제안 알고리즘에서 상위 30개의 약한 분류기 47
Fig 4-11. 중간값 약한 분류기를 이용한 AdaBoost의 실험 결과 1 49
Fig 4-12. 혼합 분류기를 이용한 제안 알고리즘의 실험 결과 1 49
Fig 4-13. 중간값 약한 분류기를 이용한 AdaBoost의 실험 결과 2 50
Fig 4-14. 혼합 분류기를 이용한 제안 알고리즘의 실험 결과 2 50
Fig 4-15. 중간값 약한 분류기를 이용한 AdaBoost의 실험 결과 3 51
Fig 4-16. 혼합 분류기를 이용한 제안 알고리즘의 실험 결과 3 51
Fig 4-17. 중간값 약한 분류기를 이용한 AdaBoost의 실험 결과 4 52
Fig 4-18. 혼합 분류기를 이용한 제안 알고리즘의 실험 결과 4 52
Fig 4-19. 자동차와 비-자동차 영상의 학습 데이터 53
Fig 4-20. 자동차 영상 데이터의 학습 부스팅 횟수에 따른 학습률 54
Fig 4-21. 자동차 영상 데이터의 AdaBoost에서 최상위 30개의 약한 분류기 55
Fig 4-22. 자동차 영상 데이터의 제안 알고리즘에서 최상위 30개의 약한 분류기 55
Fig 4-23. 중간값 약한 분류기를 이용한 AdaBoost의 실험 결과 5 56
Fig 4-24. 혼합 분류기를 이용한 제안 알고리즘의 실험 결과 5 57
Fig 4-25. 중간값 약한 분류기를 이용한 AdaBoost의 실험 결과 6 57
Fig 4-26. 혼합 분류기를 이용한 제안 알고리즘의 실험 결과 6 58 |
|
| 본문내용 |
20세기말부터 시작된 컴퓨터의 혁명으로 데이터의 양은 기하급수적으로 증가하였고 이러한 거대자료에서 원하는 정보를 찾기 위하여 분석자가 자료를 시각화하고 정리하여 유용한 정보를 추론하는 전통적인 통계학방법론을 적용하기에 어려움이 있다. 대용량의 데이터로부터 의미 있는 지식을 찾아내는 것을 KDD(knowledge discovery in database) 과정이라 하며, KDD 과정 중 데이터 탐사 및 분석을 하는 단계를 데이터 마이닝이라 한다. 기계학습(machine learning) 분야는 그 시작이 인간의 참여를 최소화하는 방법의 개발론으로 다차원 거대자료의 출현과 더불어 다양한 종류의 알고리즘들이 제안되었다. 기계학습 분야에서는 다양한 형태를 가진 정보를 데이터 마이닝하는 새로운 인식방법을 필요로 하며, 통계학적 사고는 매우 중요한 사고의 도구로 사용되고 있다[1].
기계학습 분야 중에서 가장 활발하게 적용되고 있는 분야는 지도학습 분야(supervised learning)이다. 지도 학습 분야란 자료가 입력과 출력으로 구성되어 있으며, 자료 분석의 목적은 입력을 이용하여 출력을 예측할 수 있는 예측모형의 구축에 있다. 지도학습 방법론은 구글(google)과 같은 검색엔진, 의학진단(medical diagnostic), 바이오인포메틱스(bioinformatices) 그리고 자연어 언어 처리(natural language processing), 주식시장 분석, 음성과 숫자인식(speech and handwriting recognition), 자동화 사물인식(object recogni- tion in computer vision)과 로봇운동(robot locomotion)등 매우 다양한 분야에서 사용되어지고 있다. 지도학습 방법론 중에서 대표적인 알고리즘은 SVM(Support Vector Machine)[2]과 부스팅(boosting)[3] 이다. 이 두 방법론은 전산학 전공자에 의해서 개발되었으며, 많은 실증적 연구를 통하여 예측력 측면에서 기존의 기계학습 방법론(의사결정나무, neural network)[4]을 질적으로 향상시켰음이 밝혀졌다.
|
|
| 참고자료 |
[1] Vapnik, V., Statistical learning theory. Wiley, New York, 1998.
[2] E.Osuna, R.Freund and F.Girosi, 'Training Support Vector Machines an Application to Face Detection, Proc. CVPR97, Puerto Rico, June, 1997.
[3] Alberto Bertoni , Paola Campadelli , M. Parodi, A Boosting Algorithm for Regression, Proceedings of the 7th International Conference on Artificial Neural Networks, p.343-348, October 08-10, 1997
[4] H.A.Rowley, S.Baluja and T.Kanade, 'Neural Network-Based Face Detection,IEEE Trans. Pattern Analysis and Machine Intelligence, Vol.20, No.1, pp.23-38, January, 1998.
[5] Y.Freund, R.E.Schapire, A Short Introduction to Boosting, Journal of Japanese Society for Artificial Intelligence, 14(5), pp, 771-780, 1999.
중략.. |
|
| 학교정보 |
2주간 다운받은 학생의 학교정보를 보여줍니다.(5P 소요)
 |
|
 |
| 저작권 정보 |
위 정보 및 게시물 내용의 진실성에 대하여 해피캠퍼스는 보증하지 아니하며, 해당 정보 및 게시물 저작권과 기타 법적 책임은 자료 등록자에게 있습니다.
위 정보 및 게시물 내용의 불법적 이용, 무단 전재·배포는 금지되어 있습니다.저작권침해, 명예훼손 등 분쟁요소 발견시 고객센터의 저작권침해 신고센터를 이용해 주시기 바랍니다. |
 |
|
|
문서 요약정보
TEL : 02) 890-3333 | FAX : 02) 890-3334
AdaBoost 알고리즘 설명 및 소스 및 개선 방법
