Neural Network(신경망)은 인간 두뇌의 신경세포를 모델링하여 지능을 구현하고자 하는 기법이다. 병행적으로 상호작용하는 여러 개의 계산요소들로 이루어져 있으며, 각 계산요소는 가중치 합(weighted sum)과 같은 단순한 계산만을 수행합니다. 계산능력은 다량의 계산요소들이 병행적으로 계산을 수행함으로써 얻어지며 학습데이터를 통하여 가중치를 학습하고, 그 데이터에 대한 특성을 일반화시킴으로서 학습 기능을 수행합니다.
BP는 여러 가지 장단점을 가지고 있지만 어느 정도의 학습이 가능하기 때문에 많은 분야에서 폭넓게 사용되고 있으며 지금은 많은 학자들에 의해서 연구가 이루어지고 있습니다.
본 논문에서 작성된 프로그램은 가장 최근의 객체지향 언어인 C#을 통해서 두 개의 클래스(node, Nnetwork)로 구현되었습니다. node class는 연결강도(행렬)와 관련된 값들을 가지고 있습니다. Nnetwork class는 발생된 각층(hidden, input, output)의 노드를 포함합니다. 프로그램 구현에서는 0~1000사이의 솟수라는 정형화 되지 않은 패턴을 인식시켜 봄으로서 BP(back propagation : 역전파)를 보다 더 깊게 이해하려고 노력하였으며 반복학습의 숫자와 hidden node의 상관관계가 있음을 발견했지만 이유를 밝히지는 못했습니다. 앞으로 많은 연구를 통해서 이러한 상관관계를 밝히고자 합니다.
목차
목 차
Ⅰ. 서론 ……………………………………………………………………………1
1. 연구의 배경……………………………………………………………………1
2. 연구의 목적……………………………………………………………………2
3. 논문의 구성……………………………………………………………………2
Ⅱ. 관련기술 ………………………………………………………………………3
1. Multilayer perceptron ………………………………………………………3
2. Backpropagation 학습 알고리즘의 배경 ……………………………………5
3. Backpropagation 학습 알고리즘 ……………………………………………7
가. Delta rule 과gradient descent method …………………………………7
나. 일반화 델타규칙 ……………………………………………………………9
다. 백프로퍼게이션 학습 알고리즘의 학습 과정 ……………………………11
4. Backpropagation 학습 알고리즘의 문제점 및 개선책 ……………………15
5. Multi layer perceptron의 적용 예 …………………………………………20
가. XOR 문제……………………………………………………………………20
나. 패리티 문제 (Parity Problem) ……………………………………………22
다. 부호화 문제 (Encoding Problem) ………………………………………23
라. 대칭성 문제 (Symmetry Problem)………………………………………26
마. 부정 문제 (The Negation Problem) ……………………………………28
바. T-C 판별 문제………………………………………………………………29
Ⅲ. 구현 ……………………………………………………………………………33
1. Back-Propagation 코딩 ……………………………………………………33
2. 시뮬레이션 실행단계…………………………………………………………34
3. Network 실행…………………………………………………………………36
4. 신경망을 위한 XOR 학습………………………………………………………38
5. 신경망을 위한 솟수의 인식(Prime Number Recognition)……………………38
6. binary 데이터의 입력…………………………………………………………39
7. 실행결과 ………………………………………………………………………40
Ⅳ. 결론………………………………………………………………………………48
1. 결론 및 향후 연구 방향………………………………………………………48
참고문헌……………………………………………………………………………50
부록1………………………………………………………………………………51
부록2………………………………………………………………………………65
부록3………………………………………………………………………………73
SUMMARY ………………………………………………………………………75
표 목 차
<표 1>실험에서 얻어진 해 ……………………………………………………23
<표 2>항등사상의 학습…………………………………………………………24
<표 3> 학습의 결과 ……………………………………………………………24
<표 4> 4 비트 표현의 출력패턴에 대응 ……………………………………24
<표 5>학습한 결과………………………………………………………………25
<표 6>대응하는 패턴……………………………………………………………28
<표 7>10개의 hidden node를 사용한 결과값 …………………………………40
<표 8>11개의 hidden node를 사용한 결과값 …………………………………40
<표 9>12개의 hidden node를 사용한 결과값 …………………………………41
<표 10>13개의 hidden node를 사용한 결과값 ………………………………41
<표 11>14개의 hidden node를 사용한 결과값 ………………………………41
<표 12>15개의 hidden node를 사용한 결과값 ………………………………41
<표 13>16개의 hidden node를 사용한 결과값 ………………………………42
<표 14>17개의 hidden node를 사용한 결과값 ………………………………42
<표 15>1000번의 반복학습과 노드의 증가에 따른 변화 ……………………42
<표 16>2000번의 반복학습과 노드의 증가에 따른 변화 ……………………43
<표 17>3000번의 반복학습과 노드의 증가에 따른 변화 ……………………43
<표 18>4000번의 반복학습과 노드의 증가에 따른 변화 ……………………44
<표 19>5000번의 반복학습과 노드의 증가에 따른 변화 ……………………44
<표 20>6000번의 반복학습과 노드의 증가에 따른 변화 ……………………45
<표 21>7000번의 반복학습과 노드의 증가에 따른 변화 ……………………45
<표 22>8000번의 반복학습과 노드의 증가에 따른 변화 ……………………46
<표 23>9000번의 반복학습과 노드의 증가에 따른 변화 ……………………46
<표 24>10000번의 반복학습과 노드의 증가에 따른 변화 ………………… 47
<표 25>hidden node의 개수와 에러값 ……………………………………… 47
그 림 목 차
<그림 1> 다층 퍼셉트론의 구조…………………………………………………3
<그림 2> 층수와 결정 구역의 특성 ……………………………………………4
<그림 3>연결강도의 변화에 따른 복잡한 출력의……………………………15
<그림 4>연결강도와 오차함수 …………………………………………………15
<그림 5>생성된 XOR 네트워크의 예 …………………………………………21
<그림 6> XOR 문제의 국소해 …………………………………………………21
<그림 7>패리티 문제해의 원리적인 설명도 …………………………………22
<그림 8>부호화 문제를 풀기 위한 네트워크 ……………………………… 23
<그림 9>중간값을 이용한 네트워크……………………………………………26
<그림 10>대칭성 문제에 사용한 네트워크……………………………………27
<그림 11>부정 문제로 학습된 네트워크………………………………………28
<그림 12>실험에 사용한 입력패턴 ……………………………………………29
<그림 13> T-C 판별 네트워크…………………………………………………30
<그림 14> T-C 판별문제의 해로 얻어진 여러 가지 수용영역……………31
<그림 15>Together에서 제작한 UML 정적 다이어그램……………………33
<그림 16>Together에서 제작한 UML 시퀀스 다이어그램…………………34
<그림 17>x의 값들을 한 sigmoid 함수 곡선…………………………………37
<그림 18>시뮬레이션 모습 ………………………………………………………40
본문내용
시뮬레이션 구현 소스 ( Form1.cs )
-------------------------------------------------------------
using System;
using System.Drawing;
using System.Collections;
using System.ComponentModel;
using System.Windows.Forms;
using System.Data;
public Form1()
{
//
// Required for Windows Form Designer support
//
InitializeComponent();
InitializeNetwork();
Invalidate();
//
// TODO: Add any constructor code after InitializeComponent call
참고자료
인공지능 관련서적
C#관련 서적
학교정보
2주간 다운받은 학생의 학교정보를 보여줍니다.(5P 소요)
저작권 정보
위 정보 및 게시물 내용의 진실성에 대하여 해피캠퍼스는 보증하지 아니하며, 해당 정보 및 게시물 저작권과 기타 법적 책임은 자료 등록자에게 있습니다. 위 정보 및 게시물 내용의 불법적 이용, 무단 전재·배포는 금지되어 있습니다.저작권침해, 명예훼손 등 분쟁요소 발견시 고객센터의 저작권침해 신고센터를 이용해 주시기 바랍니다.
문서 요약정보
TEL : 02) 890-3333 | FAX : 02) 890-3334
C#을 이용한 ANN(Artificial Neural Network) 시뮬레이터 구현
