Лента новостей

20:34
«Караван отчаявшихся»: причины и следствия миграционного кошмара у границ США
20:23
ЕС не может договориться об общей армии без США – все реальнее нереальный сценарий
20:10
«Государство-пират» пригрозило РФ жестким ответом за блокировку Азовского моря
20:03
Навальный назвал региональные штабы бесполезными, объявив им ультиматум
20:00
Хроники синей «Бумаги»: как уничтожают российскую молодежь
19:40
Давайте отменим санкции против России? Словакия призналась Штатам, что теряет больше РФ
18:31
Опрос ВЦИОМ показал резкое ухудшение социального самочувствия в России
18:30
Бывший глава СБУ: Украина не способна противостоять России
18:29
Нидерланды не поддержали идею создания европейской армии
18:26
СМИ: ВМФ продолжит закупку фрегатов проекта 22350
18:25
Тука: Военно-морской базы ВМС Украины на Азове не будет
18:24
На Украине в очередной раз перепишут учебники истории
18:24
В Пентагоне назвали предельную стоимость создания космических сил
18:23
Малайзия опять пожаловалась на российские Су-30МКМ
18:23
Американская база в Польше будет, но в другом виде
18:21
Переговоры ничего не поменяли, Путин смеялся над Абэ не стесняясь
18:20
Будь достоин: украинских школьников воспитывают на «подвигах» дивизии СС «Галичина»
18:19
МВФ считает Крым российским
18:18
В Кремле оценили расследование убийства Александра Захарченко
18:17
На фоне «холодомора» МВФ требует от Украины еще раз поднять тарифы
18:16
Психозы недели. День жестянщика
18:15
Томосоторможение нэньки
18:14
«Это настоящая война»: массовое задержание российских судов на Азове
18:13
Кремль принуждает Евросоюз к отказу от доллара
18:11
Гигантская советская стройка снимает угрозу войны в Средней Азии
18:10
Прибалтика ищет способы отобрать Калининград
18:09
Нужно ли России перекрывать Украине Азовское море
16:01
Как ВМС Польши, полным составом, на учения ходили под Калининград...
16:00
НАТО превращается в коммуналку: к перепалке Макрона с Трампом
15:59
Идлиб. 16.11.2018
15:59
Российский бюджет и нытьё «всепропальщиков»
15:55
Парижские впечатления Петра Порошенко
15:52
«Хорошее русское воспитание», — немку удивляют дети в России
15:49
Под ледяным щитом Гренландии обнаружен крупный кратер
15:45
Месть за мужа: Луценко опозорила Порошенко
15:44
Бесспорные острова (много фото)
15:44
Западная шестерка «Бумага» призывает молодежь пить, курить и здоровью вредить
15:42
Как создавали "Буран"
15:41
Ходейда. 16.11.2018
15:38
Жизнь россиян станет дороже
15:34
Норвежцы за корабль не боролись
15:31
Кремль принуждает Евросоюз к отказу от доллара
15:30
Объединение России и Белоруссии
15:27
Кто то жжёт элиту в Калифорнии, надо сказать, что делают это умело и масштабно
14:02
СУ-34 Flanker - США в страхе перед «русским" истребителем
Все новости

Архив публикаций

«    Ноябрь 2018    »
ПнВтСрЧтПтСбВс
 1234
567891011
12131415161718
19202122232425
2627282930 


» » Российские ученые улучшили метод глубокого обучения нейросетей

Российские ученые улучшили метод глубокого обучения нейросетей

В Институте интеллектуальных кибернетических систем Национального исследовательского ядерного университета «МИФИ» предложили новый метод для обучения ограниченной машины Больцмана (вид нейросети), позволяющий оптимизировать процессы семантического кодирования, визуализации и распознавания данных. Результаты исследования опубликованы в журнале «Optical Memoryand Neural Networks».

В настоящее время большую популярность приобретает изучение глубоких нейронных сетей различной архитектуры: сверточных, рекуррентных, автоэнкодерных. Ряд высокотехнологичных компаний, среди которых – Microsoft и Google, используют глубокие нейронные сети для проектирования различных интеллектуальных систем. Вместе с глубокими нейронными сетями приобрел популярность термин «глубокое» обучение.

В системах глубокого обучения автоматизируется сам процесс выбора и настройки признаков. То есть, сеть самостоятельно определяет и использует наиболее эффективные алгоритмы для иерархического извлечения признаков. Для метода глубокого обучения характерно обучение на больших выборках при помощи единого оптимизационного алгоритма. Типичные алгоритмы оптимизации настраивают параметры всех операций одновременно и эффективно оценивают влияние каждого параметра нейросети на ошибку с помощью так называемого метода обратного распространения.

«Способность искусственных нейронных сетей обучаться является наиболее интригующим их свойством. Подобно биологическим системам, нейронные сети сами моделируют себя, стремясь достичь лучшей модели поведения», — отметил профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко.

Прорыв в обучении нейросетей произошел в 2006 году, после научной публикации Джеффри Хинтона с описанием техники предварительной тренировки нейросети. В статье говорилось, что можно эффективно предобучать многослойную нейронную сеть, если обучать каждый слой отдельно при помощи ограниченной машины Больцмана, а затем дообучать методом обратного распространения ошибки. Эти сети получили название нейронных сетей глубокого доверия (Deep Belief Networks, DBN).

Профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко проанализировал проблематику и основные парадигмы глубокого машинного обучения, предложив новый метод для обучения ограниченной машины Больцмана. Ученый показал, что классическое правило обучения этой нейросети является частным случаем предложенного им метода.

«Американские ученые Минский и Пейперт в свое время выявили, что однослойный персептрон с пороговой функцией активации формирует линейную разделяющую поверхность с точки зрения классификации образов и поэтому не может решить задачу «исключающее или». Это провоцировало пессимистические выводы насчет дальнейшего развития нейронных сетей. Однако последнее утверждение справедливо только для однослойного персептрона с пороговой или монотонной непрерывной функцией активации – например, сигмоидной. При использовании сигнальной функции активации однослойный персептрон может решить задачу «исключающее или», так как он разбивает входное пространство образов на классы при помощи двух прямых», – рассказал Владимир Головко.

В работе также были проанализированы перспективы применения глубоких нейронных сетей для сжатия, визуализации и распознавания данных. Кроме того, Головко предложил подход к реализации семантического кодирования (хеширования) с помощью глубоких автоассоциативных нейронных сетей. Этот метод глубокого обучения может быть очень полезен в поисковиках для нейросетей, которые, по утверждению автора, будут показывать высокую скорость поиска релевантных изображений.

Практическую ценность данных научных разработок сложно переоценить: они уже нашли применение в таких областях, как компьютерное зрение, распознавание речи и биоинформатика.







Опубликовано: legioner     Источник

Похожие публикации для статьи "Российские ученые улучшили метод глубокого обучения нейросетей"


Напишите ваш комментарий к статье "Российские ученые улучшили метод глубокого обучения нейросетей"

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх