Лента новостей

18:45
Владимир Путин рассказал, зачем России был нужен Чемпионат
18:38
Украинцев готовят к президентству Наливайченко
18:37
Закат украинского национализма
18:36
Почему Поклонская голосовала против пенсионной реформы
18:35
Разложение: армия Украины распродает оружие криминалу
18:34
Харьков, Мариуполь, Одесса – Россия возвращается к Крымскому сценарию?
18:32
Фредерик Таддеи вступает в ряды Russia Today France: «Мне плевать на оскорбления»
18:31
Украинский «флот на вёслах» не в силах противостоять российской береговой охране
18:29
Каждый за себя: Евросоюз нанес смертельный удар по экономике Украины
18:18
Государственная измена: ФСБ проводит обыски по факту «утечки» гиперзвука
18:17
National Interest завил о дальности пуска «Кинжала» в 3000 км
15:42
«Голый» Навальный палит истинные цели: вот зачем он провалил регистрацию партии в Минюсте
13:57
Бизнес-возраст: когда опыт и мудрость востребованы в стартапе
13:16
Как раздули тему «размытого стадиона» в Волгограде
13:11
"Путинский крах" на американских облигациях
13:10
Модернизированный израильский танк Merkava Mk 4 Barak
13:05
Бюджет гражданской войны во имя кармана Порошенко
13:04
Переговоры о будущем северной Сирии
13:04
Вопрос о ремонте ракетного крейсера "Москва"
13:03
Уральская броня в сирийском конфликте. Часть 2
13:01
"Медицинский выходной" и преобразование городов: Россия вынуждена меняться
12:53
У Кремля есть секретный алгоритм на Трампа. Фельетон-утечка
12:51
Александр Роджерс: Страсти по пенсионной реформе, первые чтения
12:44
Алтайские горы (Алтай)
12:41
Переводчицу Трампа допросят про Путина с особым пристрастием
12:40
"Деньги выше принципов": Соцсети оценили съемки Ахеджаковой в "оккупированном" Крыму
12:39
Трамп пригрозил стать худшим врагом Путина, если не сможет с ним поладить
12:38
Al Mayadeen, Ливан. Встреча в Хельсинки: возвращение России на Всемирный саммит?
12:36
Российские банки избавились от долларов на рекордную сумму
12:33
Захарова рассказала, почему Лавров никогда не заведет аккаунт в соцсетях
12:33
О референдуме на Донбассе
12:31
Сколько еще протянет Мэй на посту премьера
12:24
Фельдмаршал Шернер о нападении на СССР
12:22
Украине недалеко до безумия: эксперты признали крах страны
12:21
ФСБ предовтратила утечку технологий гиперзвука на Запад
10:31
СМИ: Путин предложил Трампу организовать референдум по Донбассу
10:30
Нацизм как вершина и тупик либерализма: взгляд психиатра на либералов
10:27
Бензин подешевел: Радоваться или подождать?
10:26
Глобальный рост сил специальных операций США
10:25
Трамп ломает миропорядок 
10:23
Как российские десантники американцев «перестреляли»
10:21
Радиус действия «Кинжала» — 3000 километров. Блеф?
10:20
Упрек Киеву от Путина: вместо «Минска-2» планируют силовой сценарий
10:19
Бюджет гражданской войны во имя кармана Порошенко
10:19
Курды сбили вертолет Apache ВВС США на территории Сирии
Все новости

Архив публикаций

«    Июль 2018    »
ПнВтСрЧтПтСбВс
 1
2345678
9101112131415
16171819202122
23242526272829
3031 


» » Российские ученые улучшили метод глубокого обучения нейросетей

Российские ученые улучшили метод глубокого обучения нейросетей

В Институте интеллектуальных кибернетических систем Национального исследовательского ядерного университета «МИФИ» предложили новый метод для обучения ограниченной машины Больцмана (вид нейросети), позволяющий оптимизировать процессы семантического кодирования, визуализации и распознавания данных. Результаты исследования опубликованы в журнале «Optical Memoryand Neural Networks».

В настоящее время большую популярность приобретает изучение глубоких нейронных сетей различной архитектуры: сверточных, рекуррентных, автоэнкодерных. Ряд высокотехнологичных компаний, среди которых – Microsoft и Google, используют глубокие нейронные сети для проектирования различных интеллектуальных систем. Вместе с глубокими нейронными сетями приобрел популярность термин «глубокое» обучение.

В системах глубокого обучения автоматизируется сам процесс выбора и настройки признаков. То есть, сеть самостоятельно определяет и использует наиболее эффективные алгоритмы для иерархического извлечения признаков. Для метода глубокого обучения характерно обучение на больших выборках при помощи единого оптимизационного алгоритма. Типичные алгоритмы оптимизации настраивают параметры всех операций одновременно и эффективно оценивают влияние каждого параметра нейросети на ошибку с помощью так называемого метода обратного распространения.

«Способность искусственных нейронных сетей обучаться является наиболее интригующим их свойством. Подобно биологическим системам, нейронные сети сами моделируют себя, стремясь достичь лучшей модели поведения», — отметил профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко.

Прорыв в обучении нейросетей произошел в 2006 году, после научной публикации Джеффри Хинтона с описанием техники предварительной тренировки нейросети. В статье говорилось, что можно эффективно предобучать многослойную нейронную сеть, если обучать каждый слой отдельно при помощи ограниченной машины Больцмана, а затем дообучать методом обратного распространения ошибки. Эти сети получили название нейронных сетей глубокого доверия (Deep Belief Networks, DBN).

Профессор Института кибернетических систем НИЯУ МИФИ Владимир Головко проанализировал проблематику и основные парадигмы глубокого машинного обучения, предложив новый метод для обучения ограниченной машины Больцмана. Ученый показал, что классическое правило обучения этой нейросети является частным случаем предложенного им метода.

«Американские ученые Минский и Пейперт в свое время выявили, что однослойный персептрон с пороговой функцией активации формирует линейную разделяющую поверхность с точки зрения классификации образов и поэтому не может решить задачу «исключающее или». Это провоцировало пессимистические выводы насчет дальнейшего развития нейронных сетей. Однако последнее утверждение справедливо только для однослойного персептрона с пороговой или монотонной непрерывной функцией активации – например, сигмоидной. При использовании сигнальной функции активации однослойный персептрон может решить задачу «исключающее или», так как он разбивает входное пространство образов на классы при помощи двух прямых», – рассказал Владимир Головко.

В работе также были проанализированы перспективы применения глубоких нейронных сетей для сжатия, визуализации и распознавания данных. Кроме того, Головко предложил подход к реализации семантического кодирования (хеширования) с помощью глубоких автоассоциативных нейронных сетей. Этот метод глубокого обучения может быть очень полезен в поисковиках для нейросетей, которые, по утверждению автора, будут показывать высокую скорость поиска релевантных изображений.

Практическую ценность данных научных разработок сложно переоценить: они уже нашли применение в таких областях, как компьютерное зрение, распознавание речи и биоинформатика.







Опубликовано: legioner     Источник

Похожие публикации для статьи "Российские ученые улучшили метод глубокого обучения нейросетей"


Напишите ваш комментарий к статье "Российские ученые улучшили метод глубокого обучения нейросетей"

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх