Лента новостей

22:20
«Новая газета» + «Знамя»: брак по расчету
20:24
Россия введет зеркальные контрсанкции против Евросоюза
20:19
ПАСЕ – говорильня, которая ничего не решает
20:14
США боятся искать российский «Судный день»
20:00
Мирный договор с Японией опять завис из-за статуса Курильских островов
19:37
Гудков выдумал «охоту на геев» и «победил»
19:30
Россия существенно сократила внешний государственный долг
19:29
Награда нашла своего героя: Шойгу наградил летчика, спасшего самолет при посадке без переднего шасси
19:28
Порошенко пообещал украинцам повышение уровня жизни через три года
19:27
Угрозы из Эстонии. В Таллине предлагают… атаковать ракетами Санкт-Петербург
19:27
Литва решила побороться с «Газпромом» за украинский рынок
19:24
В Рыбинске заложили очередное малое гидрографическое судно проекта 19910
19:23
Умер третий член экипажа разбившегося в Оленегорске Ту-22М3
19:23
В Кремле главы государств обсуждают мирный договор России с Японией
19:22
В России создан энергоблок для космической ядерной энергоустановки
19:21
Ханты-мансийские правоохранители задержали "захватившего" лайнер
19:20
Кишинёв призвал ОБСЕ помочь в вывозе боеприпасов со складов в ПМР
19:19
США задействовали в качестве мишеней российские средства ПВО
19:16
Тимошенко назвала условие для своей отставки в случае избрания президентом
19:15
ОДКБ – военно-политический союз или инструмент Кремля?
19:13
Филарет предал Порошенко
19:12
ПЦУ в мире признает только Варфоломей
19:11
«Только один язык и никаких специальных статусов!» - Порошенко обратился к жителям Донбасса и Крыма
19:10
Все кандидаты от Юго-Востока должны сняться в пользу кандидата Юрия Бойко, имеющего шансы на победу
19:09
''Должны исчезнуть!'. Омелян заявил, что маршрутки "не имеют права на жизнь"
19:08
Обречённые на зло
19:05
Северную столицу уберут от снега к 24 января
19:04
Эксперты назвали лучшие страны для релакса
19:03
Ученые рассказали о пользе езды на мотоцикле для здоровья
18:39
Генпрокурор Незалежной хочет узаконить проституцию
18:32
Ходорковский подставил сторонников ради скандала
18:28
Сирийский «Панцирь» пал жертвой примитивного израильского дрона
18:27
«Мать всех бомб» по-китайски
18:25
Грузия и Украина возвращают «украденное Россией» по-разному
18:24
Почему с Украиной можно не заключать нового соглашения о транзите
18:19
России удалось добиться максимального снижения внешнего долга за 10 лет
обновлено
18:18
Схрон вооружения боевиков, обнаруженный в провинции Дераа, будет уничтожен
16:32
Интернет-порталы США содержат «Медузу» и «Дождь»
15:47
Министр обороны Сергей Шойгу вручил премию «Своя колея» летчику-испытателю Владимиру Иринархову
15:39
Российский ЗРК «Панцирь-С1» против израильской системы ПРО Spyder-MR: какой комплекс эффективнее
12:56
К каким войнам готовится Россия
12:53
Путин отпусти Рыбку! Шоу начинается
12:49
«Один из 300 миллионов». Сербия после Путина
12:48
Александр Роджерс: Белки-истерички и русские Курилы
12:46
Киев получил предложения о транзите газа из России с двух сторон
Все новости

Архив публикаций

«    Январь 2019    »
ПнВтСрЧтПтСбВс
 123456
78910111213
14151617181920
21222324252627
28293031 


» » Российские ученые улучшили метод глубокого обучения нейросетей

Российские ученые улучшили метод глубокого обучения нейросетей

В Институте интеллектуальных кибернетических систем Национального исследовательского ядерного университета «МИФИ» предложили новый метод для обучения ограниченной машины Больцмана (вид нейросети), позволяющий оптимизировать процессы семантического кодирования, визуализации и распознавания данных. Результаты исследования опубликованы в журнале «Optical Memoryand Neural Networks».

В настоящее время большую популярность приобретает изучение глубоких нейронных сетей различной архитектуры: сверточных, рекуррентных, автоэнкодерных. Ряд высокотехнологичных компаний, среди которых – Microsoft и Google, используют глубокие нейронные сети для проектирования различных интеллектуальных систем. Вместе с глубокими нейронными сетями приобрел популярность термин «глубокое» обучение.

В системах глубокого обучения автоматизируется сам процесс выбора и настройки признаков. То есть, сеть самостоятельно определяет и использует наиболее эффективные алгоритмы для иерархического извлечения признаков. Для метода глубокого обучения характерно обучение на больших выборках при помощи единого оптимизационного алгоритма. Типичные алгоритмы оптимизации настраивают параметры всех операций одновременно и эффективно оценивают влияние каждого параметра нейросети на ошибку с помощью так называемого метода обратного распространения.

«Способность искусственных нейронных сетей обучаться является наиболее интригующим их свойством. Подобно биологическим системам, нейронные сети сами моделируют себя, стремясь достичь лучшей модели поведения», — отметил профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко.

Прорыв в обучении нейросетей произошел в 2006 году, после научной публикации Джеффри Хинтона с описанием техники предварительной тренировки нейросети. В статье говорилось, что можно эффективно предобучать многослойную нейронную сеть, если обучать каждый слой отдельно при помощи ограниченной машины Больцмана, а затем дообучать методом обратного распространения ошибки. Эти сети получили название нейронных сетей глубокого доверия (Deep Belief Networks, DBN).

Профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко проанализировал проблематику и основные парадигмы глубокого машинного обучения, предложив новый метод для обучения ограниченной машины Больцмана. Ученый показал, что классическое правило обучения этой нейросети является частным случаем предложенного им метода.

«Американские ученые Минский и Пейперт в свое время выявили, что однослойный персептрон с пороговой функцией активации формирует линейную разделяющую поверхность с точки зрения классификации образов и поэтому не может решить задачу «исключающее или». Это провоцировало пессимистические выводы насчет дальнейшего развития нейронных сетей. Однако последнее утверждение справедливо только для однослойного персептрона с пороговой или монотонной непрерывной функцией активации – например, сигмоидной. При использовании сигнальной функции активации однослойный персептрон может решить задачу «исключающее или», так как он разбивает входное пространство образов на классы при помощи двух прямых», – рассказал Владимир Головко.

В работе также были проанализированы перспективы применения глубоких нейронных сетей для сжатия, визуализации и распознавания данных. Кроме того, Головко предложил подход к реализации семантического кодирования (хеширования) с помощью глубоких автоассоциативных нейронных сетей. Этот метод глубокого обучения может быть очень полезен в поисковиках для нейросетей, которые, по утверждению автора, будут показывать высокую скорость поиска релевантных изображений.

Практическую ценность данных научных разработок сложно переоценить: они уже нашли применение в таких областях, как компьютерное зрение, распознавание речи и биоинформатика.







Опубликовано: legioner     Источник

Похожие публикации для статьи "Российские ученые улучшили метод глубокого обучения нейросетей"


Напишите ваш комментарий к статье "Российские ученые улучшили метод глубокого обучения нейросетей"

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх