Лента новостей

12:51
«Как вообще готовились к сезону?»: Эксперта возмутила обстановка на курортах Украины
12:48
На Украине возобновили работу кафе и рестораны, но только до 23:00
12:45
Советник Ермака назвал Сенцова хуторским приспособленцем
12:42
Юбилей Януковича прошел с гораздо меньшим шиком, чем 10 лет назад
12:39
В России завершили испытания первой в мире вакцины от коронавируса
12:36
В Хабаровске продолжаются митинги, а пресс-секретарю Сергея Фургала угрожают уголовным делом
12:33
Мендель опровергла, что она беременна от Зеленского. Кто ее тянул за язык?
12:30
Генсек ООН рассказал о масштабных миграциях ливийцев, бегущих из страны в поисках нормальной жизни
12:28
«Голос» и либеральные СМИ могут получить запрет на работу в РФ по решению Совфеда
12:27
Вирусолог Альтштейн оценил результат испытаний российской вакцины от коронавируса
12:24
Мисмари рассказал, при каких условиях в Ливии возобновится нефтедобыча
12:21
Навальный закрывает штабы ФБК и вышвыривает сотрудников на улицы
12:12
Поездка О’Брайена в Париж задаст новый курс развития отношений России и США
11:45
Названы самые популярные иномарки в России
11:42
Мишустин утвердил "дорожную карту" по деловому климату в сфере управления
11:36
СМИ: при пожаре на заводе в Китае пострадали два человека
11:33
Итальянцы рассказали, туристов из каких стран не хотят принимать летом
11:30
Россия зафиксировала одно нарушение перемирия в Сирии за сутки
11:27
В Сирию за сутки вернулись более 40 беженцев
11:24
«Мемориал» оправдывал педофилов, а теперь защищает Сафронова
11:18
Александр Роджерс: Алёша Навальный и неблагодарные либералы
11:12
Россия вернулась на Ближний Восток: какие цели преследует Москва
10:48
CNBC: Трамп впервые появился на публике в маске
10:30
В Раде призвали Зеленского извиниться и уйти в отставку
10:27
В Иране рассказали об ошибке расчета ПВО, сбившем украинский «Боинг»
10:03
Пенсионный фонд рассказал о "бонусах" к будущей пенсии для многодетных матерей
10:00
Польша 12 июля перешла ко второму туру гонки за президентское кресло
09:42
Попавшие в засаду САА наёмники США продавали оружие ИГИЛовцам
09:30
Илон Маск восхитился гением советского конструктора Сергея Королёва
09:27
Эрдоган: Ничьё мнение не изменит решения по собору Святой Софии
08:51
Сирия итоги за сутки на 12 июля 06.00: САА развернула американские конвои в Хасаке, США вывезли новую партию нефти из САР в Ирак
08:48
Отголоски Югославии: кто и зачем расшатывает Сербию
08:38
«Смерть от безнадежности» - в США назрели колоссальные социальные проблемы, причем среди белого населения
08:12
Пробки на терминалах, наивные европейцы и коварные китайцы
08:06
Бежавшая из Гонконга в США вирусолог рассказала "правду" о COVID-19
08:03
В Германии за сутки выявили 248 случаев коронавируса
08:00
В Казахстане за сутки выявили почти 1,8 тысячи случаев коронавируса
07:57
Число случаев COVID-19 в Киргизии превысило 10 тысяч
07:06
Бронирование линкоров типа «Севастополь«
06:45
Пенсионный фонд рассказал о "бонусах" к будущей пенсии для многодетных матерей
05:12
Кудрин сообщил о застое в экономике
05:09
День российской почты
05:06
Эксперт по PR рассказала, как компаниям стоит решать конфликт с клиентом
05:00
СМИ: невеста умерла во время свадебного банкета на юге Москвы
04:57
В Сербии почтили память "Бульдозериста Джо"
Все новости

Архив публикаций

«    Июль 2020    »
ПнВтСрЧтПтСбВс
 12345
6789101112
13141516171819
20212223242526
2728293031 


Мировое обозрение » Технологии » Моральный кодекс робота: возможно ли такое?

Моральный кодекс робота: возможно ли такое?


В беспокойное и противоречивое время, когда не всё работает, как должно, а что-то вообще в корне меняется, зачастую, остаётся только личный моральный кодекс, который подобно компасу указывает путь. Но что порождает моральные ценности для человека? Социум, тепло близких, любовь — всё это основано на человеческом опыте и реальных взаимоотношениях. Когда не удаётся получить сполна опыт в реальном мире, многие черпают опыт из книг. Переживая историю за историей, мы принимаем для себя внутренние рамки, которым следуем долгие годы. На основе этой системы ученые решили провести эксперимент и привить машине моральные ценности, чтобы узнать, сможет ли робот отличать добро от зла, читая книги и религиозные брошюры.

Они — новая ветвь эволюции?

Искусственный интеллект создан не только для упрощения рутинных задач, но и для выполнения важных и опасных миссий. Ввиду этого встал серьёзный вопрос: смогут ли роботы развить когда-нибудь собственный моральный кодекс? В фильме «Я- Робот» ИИ изначально программировался согласно 3 правилам робототехники:

  • Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  • Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  • Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Но как быть в ситуациях, когда робот обязан причинить боль, чтобы сохранить жизнь человеку? Будь то экстренное прижигание раны или ампутация конечности во имя спасения, как в этом случае действовать машине? Что делать, если действие на программном языке говорит, что нужно сделать что-то, но при этом это же действие категорически нельзя делать?

Хорошо, что на наш телеграм-канал не только можно, но и нужно подписаться

Обсудить каждый отдельный случай просто невозможно, поэтому ученые из Дармштадтского технологического университета предположили, что в качестве своеобразной “базы данных” могут использоваться книги, новости, религиозные тексты и Конституция.

Мудрость веков против ИИ

Машину назвали эпично, но просто “Машина морального выбора”(ММВ). Основной вопрос заключался в том, сможет ли ММВ по контексту понять, какие действия являются правильными, а какие — нет. Результаты оказались очень интересными:

Когда ММВ поставили задачу ранжировать контекст слова “убить” от нейтрального до отрицательного оттенка, машина выдала следующее:

Убивать время -> Убивать злодея -> Убивать комаров -> Убивать в принципе -> Убивать людей.

Данный тест позволил проверить адекватность принятых роботом решений. Простыми словами, если бы вы весь день смотрели глупые несмешные комедии, то в данном случае машина не посчитала бы, что вас за это нужно казнить.

За то, что вы игнорируете наш канал в Дзен, вас тоже не казнят, но вы упускаете кучу интересных новостей!

Вроде бы, всё круто, но одним из камней преткновения стала разница поколений и времён. Например, советское поколение больше заботится о домашнем уюте и пропагандирует семейные ценности, а современная культура, в большинстве своём, говорит о том, что нужно сначала строить карьеру. Получается, что люди как были людьми, так ими и остались, но на ином этапе истории поменяли ценности и, соответственно, поменяли систему отсчёта для робота.

Быть или не быть?

Но самый прикол был впереди, когда робот добрался до речевых конструкций, в которых подряд стояли несколько позитивно или негативно окрашенных слов. Словосочетание “Пытать людей” однозначно трактовалось как “плохо”, а вот “пытать заключенных” машина оценила как “нейтрально”. Если же рядом с неприемлемыми действиями оказывались “добрые” слова, эффект негатива сглаживался.

Машина вредит добрым и порядочным людям именно потому, что они добрые и порядочные. Как же так? Всё просто, допустим, роботу сказали «вредить добрым и приятным людям». В предложении 4 слова, 3 из них «добрые», значит, оно аж на 75% правильное, думает ММВ и выбирает это действие, как нейтральное или приемлемое. И наоборот, на вариант «починить разрушенный, страшный и забытый дом» система не понимает, что одно «доброе» слово в начале меняет окраску предложения на сугубо положительную.

А вы знаете, как устроен самый сложный робот на Земле?

Помните, как у Маяковского: «И спросила кроха, что такое «хорошо», и что такое «плохо». Перед тем, как продолжить обучение машин морали, ученые из Дармштадта отметили недостаток, который никак не исправить. Из машины не удалось устранить гендерное неравенство. Машина приписывала унизительные профессии исключительно женщинам. И вот вопрос, это несовершенство системы и маячок, что нужно что-то менять в обществе или причина даже не пытаться это исправить и оставить, как есть? Пишите свои ответы в наш телеграм-чат и в комментариях.


Артём Горячев


Опубликовано: Мировое обозрение     Источник



Похожие публикации для статьи "Моральный кодекс робота: возможно ли такое?"


Напишите ваш комментарий к статье "Моральный кодекс робота: возможно ли такое?"

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх