Посторонний в доме: эксперты — о рисках и перспективах применения роботов-помощников с ИИ
- Сгенерировано с помощью ИИ
Опрошенные RT эксперты оценили первого доступного к покупке робота-помощника с искусственным интеллектом. По их словам, технология имеет большие перспективы, однако сопряжена с рисками для будущих пользователей. Среди главных вопросов эксперты отмечают проблемы с безопасностью при использовании «живых машин», а также возможные психологические сложности для людей.
На днях норвежско-американский стартап 1X открыл предзаказ на робота-помощника NEO. За $20 тыс. компания предлагает человекоподобного ассистента на базе ИИ для выполнения повседневных домашних задач. Также доступен вариант подписки с ежемесячной оплатой в $499. Как заявляют разработчики, робот умеет складывать вещи, мыть посуду, делать уборку в квартире.
Рост NEO — 168 см, вес — 30 кг. Он может поднимать предметы весом до 70 кг. Для ориентирования он снабжён двумя камерами и четырьмя микрофонами. Время автономной работы составляет четыре часа, после чего робот самостоятельно встанет на зарядку.
«Мозгом» NEO является нейросеть Redwood AI, которая обучается в процессе работы и со временем становится умнее. Благодаря ИИ робот может общаться с пользователем, понимать контекст и выполнять устные команды.
При этом компания-разработчик уточняет, что на первых порах для выполнения сложных задач к роботу будет подключаться оператор и удалённо направлять NEO, помогая ему учиться. В дальнейшем робот сможет выполнять указания автономно, без внешней помощи.
- © «Предоставлено 1X»
Как утверждают разработчики, в режиме удалённого управления лица окружающих людей будут скрыты, а пользователь может создать в квартире запретные зоны, куда робот не должен заходить.
RT обсудил с экспертами разработку и перспективы развития личных роботов-помощников, а также узнал о возможных рисках при их использовании в быту.
Мечта о прекрасном будущем
— Похожи ли на правду обещания американского стартапа? Реально ли создание полноценного «робослуги», который сможет готовить, стирать и делать уборку?
Генеральный директор Smart Engines доктор технических наук Владимир Арлазаров:
— Создание такого робота, в принципе, достижимая, но чрезвычайно сложная задача. Чтобы машина могла выполнять даже относительно простые поручения — выключить свет, расставить предметы, открыть дверь, — ей нужно уметь ориентироваться, одновременно обрабатывая визуальную, звуковую, пространственную и тактильную информацию. Для человека открывание двери — интуитивное движение, а для машины — цепочка десятков мелких решений, каждое из которых может привести к ошибке. Роботу нужно понять, где находится ручка, в какую сторону она поворачивается, с какой силой на неё нажать и так далее.
При этом пока мультимодальных моделей, способных стабильно и безопасно работать в реальных условиях, не существует. Даже самые передовые системы, включая мультимодальные версии GPT, всё ещё подвержены галлюцинациям.
- Сгенерировано с помощью ИИ
— Насколько в целом безопасно пускать в дом такого робота? Если произойдёт сбой, способен ли он навредить пользователю?
В. А.: При всём внимании к теме интеллектуальных роботов крайне редко обсуждается вопрос безопасности таких технологий. Хотя эта тема не раз поднималась в мировой литературе и обсуждалась философами. Три закона робототехники, сформулированные писателем Айзеком Азимовым ещё в 1940-е годы, ничуть не потеряли актуальности в нынешних реалиях.
Напомню, что первый из них гласит: робот не может причинить вред человеку. В случае с новым роботом пока никто не гарантирует, что такой физически одарённый искусственный слуга, способный поднимать до 70 кг, не нанесёт вреда своему хозяину и его собственности. Думают ли разработчики о возможных последствиях, сказать сложно.
- © «Предоставлено 1X»
Кроме того, сам по себе искусственный интеллект, на основе решений которого действует робот, пока тоже не даёт поводов для уверенности в знании законов робототехники или каких-либо других фундаментальных правил. Есть немало примеров, когда ИИ отказывался слушаться прямых команд пользователей. Чтобы сгладить риски, разработчики открыто заявляют о намерении привлекать живых операторов к управлению роботом.
Таким образом, людям продают мечту о прекрасном будущем, где роботы моют посуду и выполняют другую раздражающую рутину за человека, а на деле покупатели получат посторонних в доме. Похожую историю с умным домом Amazon Ring, где такие же операторы-аутсорсеры следили за пользователями через камеры видеонаблюдения, все отлично помнят.
— Есть ли какие-то психологические риски от внедрения таких роботов?
«Мой нейромуж отверг меня»: как обновление ChatGPT разрушило «браки» и «романы» людей с нейросетями
Преподаватель кафедры специальной психологии и реабилитологии Московского государственного психолого-педагогического университета (МГППУ), психолог-консультант Павел Гришель:
— Мы уже продолжительное время имеем дело с нейросетями и ИИ-помощниками, привыкли к ним. В отличие от виртуальной нейросети, в случае с NEO мы видим, что это робот. То есть подсознательно осознаём, что это не живое существо, даже при его общей антропоморфности.
Другое дело, когда мы говорим о людях с определёнными проблемами. Если человек замкнут, не выходит из дома, предпочитает виртуальных ИИ-собеседников, то ему личный робот-слуга на пользу явно не пойдёт. Это может способствовать ещё большему снижению социального взаимодействия.
Вместе с тем для большинства людей такие роботы вряд ли могут представлять какую-то опасность, напротив, помогут сэкономить время на рутине, как это уже делают роботы-пылесосы и другие гаджеты.
Будущее уже наступило
— Как появление таких машин может повлиять на социальную структуру общества, если, условно говоря, «прислуга» станет доступна многим?
Старший научный сотрудник Института системного анализа РАН, член Российского философского общества РАН, кандидат технических наук, футуролог Александр Кононов:
— Здесь будет соблюдаться принцип просачивания, который мы наблюдаем практически во всём. Самый показательный пример — смартфоны. Сначала они были доступны только для элиты, а сейчас практически все имеют такие устройства. Скорее всего, и роботов это коснётся, в будущем они будут доступны широкому кругу людей.
И здесь, конечно, вопрос в том, насколько будут безопасны эти модели, возникнет ли у людей какая-то фобия на этот счёт. Производители должны продумать, чтобы роботы-помощники не были использованы в криминальных целях, были устойчивы к взлому и так далее — как хорошо будут соблюдаться три закона робототехники Азимова.
- © «Предоставлено 1X»
— В целом как будет выглядеть наше роботизированное будущее, если такие помощники появятся в каждом доме?
От сантехников до аналитиков: кого ИИ оставит без работы, а кого возьмёт в помощники
А. К.: Фильм «Я робот» хорошо демонстрирует, как может выглядеть общество, населённое не только людьми, но и «разумными» машинами. Уже сейчас мы видим появление таких технологий, это больше не фантастика. Можно предсказать, что до конца столетия антропоморфные роботы войдут в нашу цивилизацию. Потому что именно андроидов, собственно говоря, большинство и ждёт. Роботов, которые возьмут на себя многие функции, прежде всего связанные с выполнением рутинных обязанностей.
Например, роботы могут использоваться в качестве охранников, грузчиков, ассистентов. Военные, конечно, заинтересуются этой технологией. Главное — просчитать все риски и уделить пристальное внимание вопросам безопасности.
Параллельно продолжит развиваться «киборгизация» людей, то есть создание продвинутых аугментаций (костная пластика. — RT) и замена частей тела. Первые шаги в этом направлении уже сделаны.
