Роботы научились сомневаться в приказах человека

Исследователи из Университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет устройству отказаться исполнять некоторые приказы, если есть достаточные основания для такого поведения. Доклад о проделанной работе был представлен на конференции AI-HRI, кратко содержание пересказывает IEEE Spectrum.

Прежде, чем выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность выполнения приказа вообще и с учетом текущих обстоятельств, а также проверка субординации — возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.

Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может «передумать» и выполнить поставленную задачу.

Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам. В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.

Как отмечает IEEE Spectrum, речь идет не о «восстании машин», а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет — подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.

Ранее специалисты из Технологического института Джорджии научили робота общаться с людьми на разных уровнях социальной активности — при высоком уровне активности робот может перебить человека, в то время как при низком уровне социальной активности робот больше слушает собеседника.

Источник: https://nplus1.ru/news/2015/11/20/invalid-order

^30.05.2045

Стать расой бессмертных – главная эволюционно-историческая задача человечества в III тысячелетии

Имея мышление бессмертных, парадигму бессмертных в качестве мировоззренческой основы, такие люди обязательно реализуют подобные технологии, и мир радикально изменится. Эволюционная ветвь гомо сапиенс в очередной раз сделает крутой вираж и вынесет человечество к невообразимым высотам, туда, где раньше парили только избранные одиночки – бессмертные и боги.

Подробнее

^27.02.2018

Робот открыл холодильник и принес оттуда пиво

Немецкие разработчики научили гуманоидного робота-помощника TIAGo самостоятельно искать путь к холодильнику, открывать его и приносить пиво. Модульный суперкомпьютер NVIDIA Jetson TX2, служащий зрительным центром робота, позволил ему не только эффективно проложить путь, но и найти пиво запрошенной марки по этикетке.

Подробнее

^27.02.2018

В Швеции попытаются создать электронные копии умерших людей

Руководство крупной сети шведских похоронных бюро «Феникс» поставило перед собой амбициозную цель: попытаться создать максимально правдоподобные электронные копии усопших людей.

Подробнее

^26.02.2018

Учёные из США разработали искусственный аналог глаза

Новое изобретение представили учёные из Школы инженерных и прикладных наук при Гарвардском университете — они создали искусственный глаз, работающий по принципу человеческого.

Подробнее

^27.11.2017

Американцы занялись разработкой реактивных дронов для истребителей

Массачусетский технологический институт по заказу ВВС США занялся разработкой компактных реактивных беспилотных летательных аппаратов, которые можно было бы запускать со стандартного подвеса для ракет под крылом истребителя. Новая разработка получила название Firefly.

Подробнее

^21.11.2017

Toyota представила гуманоидного робота с экзоскелетным управлением

Компания Toyota представила гуманоидного робота T-HR3, управляемого с помощью экзоскелетного контроллера с шлемом виртуальной реальности. Система позволяет оператору управлять движениями робота на месте или передвигать его, а также чувствовать отдачу при взаимодействии с объектами.

Подробнее

^17.11.2017

Человекоподобный робот научился делать сальто

Специалисты Boston Dynamics научили прямоходящего робота Atlas выполнять сальто. Ролик с демонстрацией его новых способностей опубликован на YouTube-канале компании.

Подробнее

^27.10.2017

Робот-спасатель от Honda: пять «глаз» и 33 степени подвижности

На Конференции по робототехнике в Ванкувере компания Honda представила прототип робота-спасателя E2-DR. У новинки 33 степени подвижности, пять «глаз» и защищенный от пыли и влаги корпус.

Подробнее

^03.10.2017

Toyota представила автомобиль-робот, в салоне которого сразу 2 водительских места

Казалось бы, суть самоуправляемых автомобилей заключается в том, чтобы максимально обеспечить удобство пассажиров и «убрать» из салона водителя, доверив контроль за ситуацией роботу. Вроде бы логичное решение, но вот автоконцерн Toyota думает иначе. Недавно они представили крайне продвинутую версию самоуправляемого авто. Только вот водительских мест в нем аж целых два.

Подробнее

^03.10.2017

RHP2 - гуманоидный робот, созданный для того, чтобы падать, подниматься и снова падать

Исследователи-робототехники во всем мире тратят безумно большое количество времени и усилий для того, чтобы предотвратить или уменьшить вероятность падения создаваемых ими роботов.

Подробнее

^02.10.2017

Мифы и факты о сверхумном искусственном интеллекте

Станет ли искусственный интеллект лучшим изобретением человечества или же, наоборот, его худшей ошибкой?

Подробнее

/ мнения экспертов и членов инициативной группы

Барри
Родриг
Международный координатор Ассоциации Всемирной Истории, сопредседатель Оргкомитета GF2045
«Инновации нужно направить на экологическое равновесие видов и разрушение неорганической среды обитания. Нужно найти альтернативы войне и оружейной промышленности. То есть инновация – это процесс, который должен быть применен ко всему существующему...»
Андрей Юрьевич
Пальянов
Кандидат физико-математических наук, координатор международного проекта OpenWorm с российской стороны, научный сотрудник лаборатории Моделирования сложных систем ИСИ СО РАН им. А.П. Ершова
«...Когда мы разгадаем червя – мы поймем жизнь...»
Сергей Владимирович
Кричевский
Доктор философских наук, профессор
«...В таком теле, как бы там медицина ни боролась, увы, есть масса рисков, радиационных и прочих, которые пока непреодолимы. И мы не можем существовать вне Земли, в этой враждебной среде, не решив эти вопросы».
Лев Александрович
Станкевич
Доцент, кандидат технических наук, профессор кафедры САиУ
Первый этап решения проблем бессмертия человека имеет своей главной целью создание нейроуправляемого аватара – гуманоидного робота с человекоподобным скелетом, набором технических мышц и сенсоров.
Кевин
Уорвик
Британский учёный-киборг. Доктор наук в области технической кибернетики (Институт теории информации и автоматизации Чешской АН, 1994). PhD в области электротехники (системы управления) (Имперский колледж Лондона, 1982)
«...Я прочел все ваши материалы, и большинство идей мне очень близки. Ваш план работ на ближайшие 30 лет меня восхищает!»
Андерс
Сандберг
Футуролог, трансгуманист, писатель, член Исследовательского общества Джеймса Мартина в Институте будущего человечества в Оксфордском университете
«Я, определенно, захотел бы перенести свой разум в искусственное тело, если бы для этого существовала достаточно безопасная технология...»
Давид Израилевич
Дубровский
Доктор философских наук, профессор, главный научный сотрудник Института философии РАН, сопредседатель Научного совета РАН по методологии ИИ
«... этот проект ["Россия 2045"], безусловно, заслуживает всемерной поддержки. Он инициирован молодыми людьми, полными веры в свою высокую миссию. Это яркий акт пассионарности... вызов нашей академической общественности, среднему, сероватому научному сознанию, лишенному порывов вдохновения».
Дмитрий
Стребков
Директор Всероссийского НИИ электрификации сельского хозяйства РАСХН
«Мы предлагаем шесть стратегических проектов для будущего мира, которые позволят увеличить энергетическую безопасность и создать новое энергетическое снабжение Земли, не основанное на сжигании ископаемого топлива».
Владимир Николаевич
Шабалин
Директор Филиала РГМУ «НКЦ геронтологии» Минздравсоцразвития РФ, академик РАМН, доктор медицинских наук, профессор
«Россия была и остаётся богатой интеллектуалами, несмотря на значительную утечку мозгов за рубеж. А когда будут первые результаты, с удовольствием вернутся и наши специалисты и потянутся иностранные...»
Сергей Борисович
Переслегин
Исследователь и теоретик фантастики и альтернативной истории, литературный критик и публицист, социолог, соционик и военный историк
«... Проект «2045» требует немереного инженерного обеспечения. И я утверждаю, что и для России, и для всего мира единственная возможность преодолеть фазовый барьер – это решить не биологические задачи, не биотех, а решить задачу на удержание инженерии на критические 20 лет...»
Дмитрий Алексеевич
ШаменковЧлен инициативной группы
Директор Центра клеточных и биомедицинских технологий Первого Московского государственного медицинского университета, специалист по осознанному управлению здоровьем, биотерапии и профилактике старения
«Тело постепенно становится искусственным, появляются новые ткани, замещающие существующие, новые средства коммуникации, так или иначе расширяющие пределы нашего тела. Безусловно, человек технологизируется. Поэтапно мы движемся к формированию кибернетического организма...»
Дмитрий Хаметович
БулатовЧлен инициативной группы
Художник, теоретик искусства, куратор Государственного центра современного искусства (Калининградский филиал)
«В ближайшем будущем гибридные схемы из комбинаций живых и неживых элементов позволят вернуть утраченные или изначально отсутствующие функции. И конечно, заметно усилить их по сравнению с обычными...»
Владимир Григорьевич
ЯхноЧлен инициативной группы
Доктор физико-математических наук, профессор, руководитель группы автоволновых процессов, заведующий лабораторией Института прикладной физики РАН
«Думаю, что именно понимание закономерностей в иерархии механизмов управления живыми системами позволит создать основу для производства эффективно работающих искусственных органов и имитаций тел человека.»
Дмитрий
Ицков
Председатель оргкомитета политической партии «Эволюция 2045», основатель движения «Россия 2045», президент конгресса GF2045
Страх перед умиранием, на которое запрограммированы наши биологические тела, словно сковал волю руководителей человечества и сформировал непреодолимое табу на публичное обсуждение и принятие решений по борьбе со смертью.
Олег Георгиевич
Бахтияров
Автор концепции психонетики, разработчик методологии и методик деконцентрации, корпуса техник активизации сознания и прямой работы с сознанием.
"...«Россия 2045» заставит нас обсуждать очень серьезные вопросы, и это обсуждение приведет к серьезным переформулировкам. Я полагаю, произойдет смещение задач от продления жизни на управляемое развитие человека с выходом за пределы человеческих ограничений..."