Що таке «мережа Хопфілда»

[baby]

Джон Хопфілд створив асоціативну пам’ять, яка може зберігати та відновлювати зображення та інші типи структур у даних. Джеффрі Хінтон винайшов метод, який може самостійно знаходити окремі параметри в масивах даних і здатний, наприклад, ідентифікувати конкретні елементи на фотографіях.


Джефрі Хінтон

Створюючи технологію нейронних мереж, вчені спиралися на конструкцію людського мозку.

Вузли комп’ютерної нейронної мережі пов’язані один з одним на принципах, подібних до тих, за якими працює людський мозок. Мережа навчається, наприклад, шляхом розвитку більш міцних зв’язків між Проверка номера Иордании вузлами, у яких одночасно часу однаково високі значення.

Хопфілд та Хінтон працювали над розробкою нейромереж з 1980-х років.

Джон Хопфілд винайшов мережу, яка використовує метод збереження та відтворення повторюваних структур.

Під час створення «мережі Хопфілда» вчений спирався на принципи, які вивчає квантова механіка: характеристики системи, зумовлені її атомним спином (тобто однією з властивостей частинок).

Мережа описується таким самим способом, яким у фізиці описується енергія спинів системи. Навчання такої мережі відбувається у процесі пошуку таких параметрів зв’язків між її вузлами, які забезпечують мінімальну енергію системи.

Коли мережі пропонують неповне або спотворене зображення, вона перебирає вузли та оновлює їх значення таким чином, щоб енергія системи загалом була мінімальною. Таким чином, мережа, наприклад, шукає і знаходить у пам’яті зображення, максимально схожі на ті, які їй запропонували.

Джеффрі Хінтон використав «мережу Хопфілда» як основу для нової мережі, яка використовує інший метод: «машину Больцмана» — різновид нейронної мережі, яку Хінтон винайшов у 1985 році спільно з Террі Сейновськи. Така мережа може навчитися розпізнавати характерні елементи в заданому типі даних.

Хінтон застосував інструментарій статистичної фізики. науки про системи, побудовані з безлічі однакових компонентів. Для навчання мережі пропонують приклади, які з ймовірністю виникнуть при її роботі.

Машина Больцмана може бути використана для класифікації зображень або створення нових прикладів того типу шаблонів, на яких вона була навчена.