Лента новостей

21:36
Япония протестирует модель космического лифта
21:35
Хейли: вынуждать Асада не будем, сам уйдёт
21:34
Антипольский пиар Украины вызывает в Варшаве «отвращение»
21:33
Низкая экономическая активность женщин РФ мешает обогнать ФРГ. Рассуждение МЭР
21:31
Борьба с коррупцией в Дагестане. Новый успех?
21:24
RTД: Кто ответит на сбитый российский Ил-20 в Сирии?
21:23
В базу «Миротворца» начали вносить владельцев паспортов Венгрии из Закарпатья
21:22
Николай Стариков: Добро и зло, столкновения с Западным миром
21:21
Тотальная приватизация. Как МВФ предлагает раздать Украину частникам
21:20
«Фабрика лжи» в Сирии снова в деле: дубли спектакля о «химатаке» утекли в сеть
21:18
Киев забывает «Минские договоренности»: Климкин озвучил новый план возвращения мира на Донбасс
21:17
Будков Сергей. Зачёт по теории управления
21:16
ВКС РФ получат новейшие ракеты для уничтожения укреплений противника
21:16
Зачем Македония нужна НАТО?
21:15
Петр Порошенко: «великий полководец», остановивший «русский блицкриг»
21:14
Лавров поставил условия возвращения России в Совет Европы
21:11
Украинские ржавые суда отправились «пугать» Россию в Азовском море
21:08
СМИ: Российские предприниматели из-за санкций возвращаются к вложениям в национальные банки
21:06
Британия уже проиграла кибервойну
21:04
Великобритания начинает усиленно готовиться к кибервойне против России
20:55
Вести недели с Дмитрием Киселевым от 23.09.18
20:04
Гибель российского военно-транспортного самолета Ил-20 на руках израильской военщины
17:35
Лондон как столица «глубинного государства»
17:33
Экспериментальная иммунотерапия ВИЧ прошла первый этап испытаний безопасности
17:27
Эрдоган назвал главную угрозу для будущего Сирии
17:26
Трудовое законодательство в США или Отпуск и увольнение по-американски
17:22
Официальная версия Министерства обороны России по поводу гибели самолета Ил-20 в Сирии
17:14
О грядущем мегакризисе
17:13
Кудрин нашёл 2,5 трлн в бюджете
17:11
Хасан Рухани: что бы Трамп ни говорил, Иран условия ядерной сделки соблюдает
17:10
WP: Трампа убедили не обнародовать документы по «российскому делу»
17:10
Как Климкин с "западными странами" собираются разоружать Донбасс?
17:08
Киев готовится перекрыть для России Азовское море
17:08
После Ил-20: Израилю придется доказать, что он ценит российские жизни
17:06
СМИ США пытаются Лениным бить коммунистический Китай
17:03
"Азовский флот" Украины
16:57
После теракта: Иран жестко призвал ЕС к ответу
16:57
Израиль боится ответных мер России
16:56
Забытая война. Финское вторжение в Россию
16:54
5 мифов о старении мозга, которым мы неоправданно верим
16:49
Владимир Путин в Виннице
16:48
SZ: «вторжение» на территорию РПЦ грозит крупнейшим церковным расколом за последнюю тысячу лет
16:46
Плакала половина Пятёрочки
16:44
Почему нельзя сравнивать российские и западные зарплаты и пенсии
16:41
Последний шанс втянуть Россию в большую войну
Все новости

Архив публикаций

«    Сентябрь 2018    »
ПнВтСрЧтПтСбВс
 12
3456789
10111213141516
17181920212223
24252627282930


» » Российские ученые улучшили метод глубокого обучения нейросетей

Российские ученые улучшили метод глубокого обучения нейросетей

В Институте интеллектуальных кибернетических систем Национального исследовательского ядерного университета «МИФИ» предложили новый метод для обучения ограниченной машины Больцмана (вид нейросети), позволяющий оптимизировать процессы семантического кодирования, визуализации и распознавания данных. Результаты исследования опубликованы в журнале «Optical Memoryand Neural Networks».

В настоящее время большую популярность приобретает изучение глубоких нейронных сетей различной архитектуры: сверточных, рекуррентных, автоэнкодерных. Ряд высокотехнологичных компаний, среди которых – Microsoft и Google, используют глубокие нейронные сети для проектирования различных интеллектуальных систем. Вместе с глубокими нейронными сетями приобрел популярность термин «глубокое» обучение.

В системах глубокого обучения автоматизируется сам процесс выбора и настройки признаков. То есть, сеть самостоятельно определяет и использует наиболее эффективные алгоритмы для иерархического извлечения признаков. Для метода глубокого обучения характерно обучение на больших выборках при помощи единого оптимизационного алгоритма. Типичные алгоритмы оптимизации настраивают параметры всех операций одновременно и эффективно оценивают влияние каждого параметра нейросети на ошибку с помощью так называемого метода обратного распространения.

«Способность искусственных нейронных сетей обучаться является наиболее интригующим их свойством. Подобно биологическим системам, нейронные сети сами моделируют себя, стремясь достичь лучшей модели поведения», — отметил профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко.

Прорыв в обучении нейросетей произошел в 2006 году, после научной публикации Джеффри Хинтона с описанием техники предварительной тренировки нейросети. В статье говорилось, что можно эффективно предобучать многослойную нейронную сеть, если обучать каждый слой отдельно при помощи ограниченной машины Больцмана, а затем дообучать методом обратного распространения ошибки. Эти сети получили название нейронных сетей глубокого доверия (Deep Belief Networks, DBN).

Профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко проанализировал проблематику и основные парадигмы глубокого машинного обучения, предложив новый метод для обучения ограниченной машины Больцмана. Ученый показал, что классическое правило обучения этой нейросети является частным случаем предложенного им метода.

«Американские ученые Минский и Пейперт в свое время выявили, что однослойный персептрон с пороговой функцией активации формирует линейную разделяющую поверхность с точки зрения классификации образов и поэтому не может решить задачу «исключающее или». Это провоцировало пессимистические выводы насчет дальнейшего развития нейронных сетей. Однако последнее утверждение справедливо только для однослойного персептрона с пороговой или монотонной непрерывной функцией активации – например, сигмоидной. При использовании сигнальной функции активации однослойный персептрон может решить задачу «исключающее или», так как он разбивает входное пространство образов на классы при помощи двух прямых», – рассказал Владимир Головко.

В работе также были проанализированы перспективы применения глубоких нейронных сетей для сжатия, визуализации и распознавания данных. Кроме того, Головко предложил подход к реализации семантического кодирования (хеширования) с помощью глубоких автоассоциативных нейронных сетей. Этот метод глубокого обучения может быть очень полезен в поисковиках для нейросетей, которые, по утверждению автора, будут показывать высокую скорость поиска релевантных изображений.

Практическую ценность данных научных разработок сложно переоценить: они уже нашли применение в таких областях, как компьютерное зрение, распознавание речи и биоинформатика.







Опубликовано: legioner     Источник

Похожие публикации для статьи "Российские ученые улучшили метод глубокого обучения нейросетей"


Напишите ваш комментарий к статье "Российские ученые улучшили метод глубокого обучения нейросетей"

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх