Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку


НазваНейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку
Дата конвертації11.02.2013
Розмір445 b.
ТипПрезентации



Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку.

  • Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку.

  • Конекціоністський підхід. Словесні, символьні знання не використовуються. Про пояснення не йдеться. Моделювання підсвідомого мислення.



Штучний нейрон - деяка модель, яка імітує найважливіші риси природного нейрону, або реалізація такої моделі (апаратна або програмна).

  • Штучний нейрон - деяка модель, яка імітує найважливіші риси природного нейрону, або реалізація такої моделі (апаратна або програмна).

  • Нейронна мережа - сукупність взаємопов’язаних штучних нейронів.

  • Основна ідея - навчання.

  • Нейрокомп’ютер – комп’ютерна система, побудована за принципами, характерними для нейронних мереж.

  • Програмні імітатори.



Основний принцип навчання нейронної мережі полягає в налаштуванні зв’язків між нейронами: зміні коефіцієнтів зв’язків; перебудові структури тощо.

  • Основний принцип навчання нейронної мережі полягає в налаштуванні зв’язків між нейронами: зміні коефіцієнтів зв’язків; перебудові структури тощо.



задання структури (топології) нейронної мережі;

  • задання структури (топології) нейронної мережі;

  • задання правила навчання.



розпізнавання образів;

  • розпізнавання образів;

  • кластерний аналіз;

  • прогнозування;

  • фільтрація;

  • організація пам’яті.



В основі - модель, запропонована Мак-Каллоком і Піттсом в 1943 р. (хоча і з рядом модифікацій).

  • В основі - модель, запропонована Мак-Каллоком і Піттсом в 1943 р. (хоча і з рядом модифікацій).









Основний принцип навчання нейрона полягає в корекції вагових коефіцієнтів.

  • Основний принцип навчання нейрона полягає в корекції вагових коефіцієнтів.



порогова: F(s)=1, якщо s0; 0, якщо s<0;

  • порогова: F(s)=1, якщо s0; 0, якщо s<0;

  • варіант: порогова біполярна;

  • лінійна: F(s)=ks;

  • сигмоїдна: Fa(s)=1/(1+e-as), a>0.



Ключовий результат Мак-Каллока і Піттса: певним чином організована сукупність нейронів може обчислювати будь-яку обчислювану функцію.

  • Ключовий результат Мак-Каллока і Піттса: певним чином організована сукупність нейронів може обчислювати будь-яку обчислювану функцію.







Досить однотипні за своєю природою; за своєю математичною суттю практично ідентичні згаданому раніше алгоритму персептрона.

  • Досить однотипні за своєю природою; за своєю математичною суттю практично ідентичні згаданому раніше алгоритму персептрона.

  • Основна ідея: корекція коефіцієнтів у випадку, якщо після пред’явлення чергового навчального вектора фактичний вихід не збігається з бажаним. Така корекція може здійснюватися після кожного пред’явлення чергового вектора.



Інша назва - -правило.

  • Інша назва - -правило.

  • Для нейрона з лінійною функцією активації (ADALINE).



Ряд експериментів, в першу чергу - з розпізнавання.

  • Ряд експериментів, в першу чергу - з розпізнавання.

  • Аналіз Мінського і Пейперта: системи, подібні до персептронів, в принципі не можуть розв’язувати ряд задач.

  • По суті - алгоритми навчання таких систем еквівалентні знаходженню лінійної розділяючої функції.

  • Тобто - якщо є лінійне розділення, то алгоритм знайде коефіцієнти лінійної розділяючої функції. Якщо ні - то ні.

  • Класичний приклад: задача XOR.









З початку 80-х років – відновлення інтересу. Нові підходи та нові алгоритми навчання.

  • З початку 80-х років – відновлення інтересу. Нові підходи та нові алгоритми навчання.

  • Існує дуже багато напрямків. Ми розглянемо:

  • багатошарові нейронні мережі;

  • мережі Хопфілда;

  • карти Кохонена.





Вхідний шар сприймає вхідні дані та розподіляє їх до наступного шару.

  • Вхідний шар сприймає вхідні дані та розподіляє їх до наступного шару.

  • Вихідний шар видає результати.

  • Між ними - проміжні, або сховані шари.

  • Вихід кожного нейрону попереднього шару з’єднаний з входами усіх нейронів наступного шару; wik - зв’язок між i-м нейроном попереднього шару та k-м нейроном наступного.



Ключова ідея: багатошарові нейронні мережі можуть здійснювати нелінійне розділення.

  • Ключова ідея: багатошарові нейронні мережі можуть здійснювати нелінійне розділення.

  • Класичний метод - метод зворотного розповсюдження помилок (back propagation).

  • Активаційна функція не повинна бути лінійною. Часто використовуються, зокрема, сигмоїдні активаційні функції.



Будь-яка неперервна функція від n змінних може бути з довільною мірою точності наближена трьохшаровою нейронною мережею з одним схованим шаром.

  • Будь-яка неперервна функція від n змінних може бути з довільною мірою точності наближена трьохшаровою нейронною мережею з одним схованим шаром.

  • Нейронів на проміжному шарі має бути принаймні 2n+1.

  • Теорема стверджує про принципову можливість, але не каже, якою саме має бути така мережа, зокрема якими мають бути активаційні функції. Взагалі, питання про кількість схованих шарів і кількість нейронів на них досліджені недостатньо.





Файл neuron.doc.

  • Файл neuron.doc.

  • Недоліки: повільно сходиться; проблема локальних мінімумів.



Дано: послідовні значення випадкового процеса x1,…, xn.

  • Дано: послідовні значення випадкового процеса x1,…, xn.

  • Потрібно: прогноз процесу; визначити xn+1.





Входи: xn-p, … , xn-1.

  • Входи: xn-p, … , xn-1.

  • Вихід: xn.



Використовуються перш за все для запам’ятовування образів; асоціативна пам’ять.

  • Використовуються перш за все для запам’ятовування образів; асоціативна пам’ять.

  • Але мережа Хопфілда може застосовуватися і для розпізнавання.



Архітектура - кожний нейрон зв’язаний один з одним; матриця вагових коефіцієнтів - X’X-I, X-матриця даних.

  • Архітектура - кожний нейрон зв’язаний один з одним; матриця вагових коефіцієнтів - X’X-I, X-матриця даних.

  • При подачі вхідного вектора мережа функціонує, поки вихід не перестане змінюватися. Тоді він буде дорівнювати одному з образів, які були занесені до пам’яті.



Вхідний вектор (x1, … xn) встановлює початкові значення всіх елементів.

  • Вхідний вектор (x1, … xn) встановлює початкові значення всіх елементів.

  • Елемент вхідного вектора для оновлення вибирається випадковим чином; вибраний елемент змінює свій стан на основі зваженої суми сигналів від інших елементів: (x1t+1, … xnt+1) -> (x1t, … xnt) . xi t+1:= F( xi twji );

  • Вибирається інший елемент, і процес повторюється. Критерій завершення – коли жодний з елементів, вибраних для оновлення, не змінює свого значення.



Кажуть, що мережа Хопфілда мінімізує енергію зв’язків між нейронами

  • Кажуть, що мережа Хопфілда мінімізує енергію зв’язків між нейронами



Розпізнавання літер “А”, “Б”, “Н”, “И” – спочатку незашумлених, потім зашумлених (10%, 20% і т.п).

  • Розпізнавання літер “А”, “Б”, “Н”, “И” – спочатку незашумлених, потім зашумлених (10%, 20% і т.п).



Схожі:

Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconПрогнозування за допомогою нейронних мереж ст гр. Снм-51 Малюта Ю
Нейронні мережі не програмуються у звичному змісті цього слова, вони навчаються. Можливість навчання одне з головних переваг нейронних...
Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconПід час спілкування електронною поштою діють певні негласні правила поведінки, так само як і при особистому спілкуванні. Ці правила називають «поштовий етикет» або правила поведінки в мережі
Під час спілкування електронною поштою діють певні негласні правила поведінки, так само як і при особистому спілкуванні. Ці правила...
Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconЕкономічні сценарії впровадження мультисервісної мережі в Україні Гліб Вишлінський, Тетяна Ситник
Дешевші технології з більшим спектром послуг частково долають цю проблему Виробники твердять, що мережі нового покоління (мультисервісні...
Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconПризначення й структура мережі Інтернет. Призначення й структура мережі Інтернет
Найбільша та найвідоміша з глобальних мереж, що об'єднує комп'ютери та комп'ютерні мережі на основі протоколів tcp/IP
Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconПротоколи інтернету tcp/ip – основний протокол передавання даних в мережі Інтернет
Призначення й структура мережі Інтернет. Протоколи Інтернету. Адресація в мережі Інтернет. Способи підключення до Інтернету, функції...
Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconЛекція 14 Мережі atm (Asynchronous Transfer Mode)
Це є економічно обґрунтованим, якщо у мережі необхідно передавати і файловий, і потоковий трафік
Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconКомп’ютерні мережі (6 год.) Поняття про комп’ютерні мережі. Робота в локальній мережі (3 год.)
Поняття робочої групи, домену, користувача й сеансу користувача; вхід у локальну мережу
Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconЗвіт про експлуатацію виконує роботи на мережі, що передбачені договором. Ніцца Лазуровий берег, є власником мережі водопостачання та всіх її об'єктів. Ніцца Лазуровий берег, є власником
Омс, як власник мережі водопостачання та об’єктів виробництва та зберігання, єдиний, хто несе відповідальність за
Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconОб’єкт дослідження: програмне забезпечення шкільної мережі
Пз в школах України на вільні аналоги, поліпшує організацію шкільної мережі, зменшує витрати бюджетних коштів на закупівлю та підтримку...
Нейронні мережі, або штучні нейронні мережі, діють за принципами, подібними до принципів функціонування людського мозку iconКомп’ютерні мережі Мережі
Заголовок це інформація, що містить відомості про джерело і призначення пакету. Крім того, в заголовку описаний метод об'єднання...

Додайте кнопку на своєму сайті:
dok.znaimo.com.ua


База даних захищена авторським правом ©dok.znaimo.com.ua 2013
звернутися до адміністрації
dok.znaimo.com.ua
Головна сторінка