Лента новостей

15:16
Сирия потребовала распустить международную коалицию во главе с США
12:57
На заводе Порошенко построили военный корабль из старого рыболовного траулера
12:56
Палестинские дети: огромные суммы "штрафов" от "Израиля" в дополнение к огромным срокам заточения
12:56
Конгресс США возмущен секретными ядерными переговорами с саудовцами
12:52
Итак, Ким в России: о чем Путин побеседует с лидером КНДР
12:52
Это еще цветочки...
12:51
США не удастся остановить Северный поток-2
12:51
The National Interest (США): Россия видит свое будущее в Китае и Евразии
12:47
Боевой модуль для спецназа: что за оружие показали Лукашенко
12:47
Депутаты и сенаторы встретили демографический доклад Голиковой оглушительным молчанием
12:46
Можно ли, начав с классовой ненависти, построить общество всеобщего благоденствия?
12:44
Британское ухо снова в Черном море
12:44
Кравчук посоветовал Зеленскому изменить отношение к Крыму
12:43
Кто кого? Макрон и Сальвини сошлись в рукопашной за лидерство в ЕС
12:43
Средневековая Греция
12:42
На Шри-Ланке готовятся запретить ношение бурок и никабов
12:42
«Дискриминационный характер»: к чему может привести запрет преподавания на русском языке в школах Латвии
12:38
Ангеле Меркель поручат спасение единой Европы
12:38
Хуаньцю шибао (Китай): российский беспилотный подводный аппарат «Поcейдон» лучший в своем роде
12:37
В общем дело "ТРУБА"
12:37
Посол США указал России на американские авианосцы в Средиземном море
12:34
Морские байки из СССР
12:33
Коррупционер Шредингера
12:29
После визита к Путину Эстония не на шутку осмелела!
12:27
Анализ ситуации на Украине: джокер Зеленский
12:27
Пять лет украинского позора Европы
12:26
Александр Роджерс: Мы перешли в осторожную контратаку"
12:25
Зеленский обещает наказать майдан?
12:23
Об оскорблении Путина
09:32
Такая непонятная "перемога"
09:29
Крах порошенковской вертикали: Руководители областей побежали от президента
09:28
Эпоха Коломойского. Голодные Игры
09:27
Бороться надо не с грешниками, а с грехом
09:25
Янукович задумался о возвращении на Украину
09:24
США пугают Россию авианосцами в Средиземном море
09:23
В Раде рассмотрят законопроект о лишении Зеленского основных полномочий
09:23
ФСБ обезвредила в Приморье джихадистов
09:22
Дмитрий Петровский: Оправдывающие нацизм люди — лучшие «дрова» для майданов
09:21
Нардепы начали сбор подписей за отставку спикера Рады Украины Парубия
09:20
Встречайте: Оппозиционный, «пророссийский» президент Владимир Зеленский
09:19
Советский солдат запомнился в Германии вовсе не насилием, а полевой кухней: русские в Берлине
09:16
Путин объявляет «нормандский шах» Западу
09:15
После визита к Путину Эстония не на шутку осмелела!
09:14
Чем может закончиться беседа Зеленского с Путиным
09:13
В Суд Киева поступил иск о запрете Порошенко покидать страну после выборов
Все новости

Архив публикаций

«    Апрель 2019    »
ПнВтСрЧтПтСбВс
1234567
891011121314
15161718192021
22232425262728
2930 


» » Российские ученые улучшили метод глубокого обучения нейросетей

Российские ученые улучшили метод глубокого обучения нейросетей


В Институте интеллектуальных кибернетических систем Национального исследовательского ядерного университета «МИФИ» предложили новый метод для обучения ограниченной машины Больцмана (вид нейросети), позволяющий оптимизировать процессы семантического кодирования, визуализации и распознавания данных. Результаты исследования опубликованы в журнале «Optical Memoryand Neural Networks».

В настоящее время большую популярность приобретает изучение глубоких нейронных сетей различной архитектуры: сверточных, рекуррентных, автоэнкодерных. Ряд высокотехнологичных компаний, среди которых – Microsoft и Google, используют глубокие нейронные сети для проектирования различных интеллектуальных систем. Вместе с глубокими нейронными сетями приобрел популярность термин «глубокое» обучение.

В системах глубокого обучения автоматизируется сам процесс выбора и настройки признаков. То есть, сеть самостоятельно определяет и использует наиболее эффективные алгоритмы для иерархического извлечения признаков. Для метода глубокого обучения характерно обучение на больших выборках при помощи единого оптимизационного алгоритма. Типичные алгоритмы оптимизации настраивают параметры всех операций одновременно и эффективно оценивают влияние каждого параметра нейросети на ошибку с помощью так называемого метода обратного распространения.

«Способность искусственных нейронных сетей обучаться является наиболее интригующим их свойством. Подобно биологическим системам, нейронные сети сами моделируют себя, стремясь достичь лучшей модели поведения», — отметил профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко.

Прорыв в обучении нейросетей произошел в 2006 году, после научной публикации Джеффри Хинтона с описанием техники предварительной тренировки нейросети. В статье говорилось, что можно эффективно предобучать многослойную нейронную сеть, если обучать каждый слой отдельно при помощи ограниченной машины Больцмана, а затем дообучать методом обратного распространения ошибки. Эти сети получили название нейронных сетей глубокого доверия (Deep Belief Networks, DBN).

Профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко проанализировал проблематику и основные парадигмы глубокого машинного обучения, предложив новый метод для обучения ограниченной машины Больцмана. Ученый показал, что классическое правило обучения этой нейросети является частным случаем предложенного им метода.

«Американские ученые Минский и Пейперт в свое время выявили, что однослойный персептрон с пороговой функцией активации формирует линейную разделяющую поверхность с точки зрения классификации образов и поэтому не может решить задачу «исключающее или». Это провоцировало пессимистические выводы насчет дальнейшего развития нейронных сетей. Однако последнее утверждение справедливо только для однослойного персептрона с пороговой или монотонной непрерывной функцией активации – например, сигмоидной. При использовании сигнальной функции активации однослойный персептрон может решить задачу «исключающее или», так как он разбивает входное пространство образов на классы при помощи двух прямых», – рассказал Владимир Головко.

В работе также были проанализированы перспективы применения глубоких нейронных сетей для сжатия, визуализации и распознавания данных. Кроме того, Головко предложил подход к реализации семантического кодирования (хеширования) с помощью глубоких автоассоциативных нейронных сетей. Этот метод глубокого обучения может быть очень полезен в поисковиках для нейросетей, которые, по утверждению автора, будут показывать высокую скорость поиска релевантных изображений.

Практическую ценность данных научных разработок сложно переоценить: они уже нашли применение в таких областях, как компьютерное зрение, распознавание речи и биоинформатика.





Опубликовано: legioner     Источник

Похожие публикации для статьи "Российские ученые улучшили метод глубокого обучения нейросетей"


Напишите ваш комментарий к статье "Российские ученые улучшили метод глубокого обучения нейросетей"

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх