/ Новости
МЫСЛИ О ВОССТАНИИ МАШИН ПУГАЮТ УЧЕНЫХ ВО ВСЕМ МИРЕ
Ученые предупреждают, что разработка автономных боевых систем может обернуться катастрофой для человечества и призывают ООН рассмотреть запрет на «наступательное автономное оружие».
Более тысячи зарубежных исследователей и инженеров опубликовали открытое письмо на сайте Института будущей жизни, предупреждающее об опасностях, связанных с разработкой автономных боевых систем. Авторы послания вручили этот документ также делегатам Международной конференции по искусственному интеллекту, прошедшей в Буэнос-Айресе. Под письмом подписались ученые с мировым именем.
По мнению иностранных специалистов, человек, который эволюционирует очень медленно, не может конкурировать с искусственным интеллектом и машины могут скоро превзойти людей. Ставшие массово доступными «роботы-убийцы» незамедлительно попадут в руки преступников и будут использоваться для заказных убийств и истребления отдельных этнических групп.
По мнению экспертов, искусственный интеллект, помимо всего прочего, помогает решать благородные задачи, например, спасать человеческие жизни, но все же угрозы он несет больше.
«Точно так же, как большинство химиков и биологов не заинтересованы в создании химического и биологического оружия, большинство ученых, работающих над искусственным интеллектом, не заинтересованы в создании ИИ-вооружения», – утверждают авторы письма.
Разделяют опасения иностранных коллег и российские эксперты. По их мнению, момент, когда автономные боевые системы будут не просто наделены функцией распознавания целей и расчета траектории полета снарядов, но и смогут автономно принимать решения об уничтожении цели, – вопрос ближайшего будущего.
«Автономное технологическое оружие, в отличие от ядерного, имеет гораздо более низкий барьер для входа: для его производства не будут требоваться редкие ресурсы с ограниченным доступом или масштабные технологические комплексы. Это создаст благодатную почву для развития поставок на черном рынке. Подобное оружие почти сразу может оказаться в руках террористов и диктаторов стран третьего мира, ведь все упирается исключительно в финансы на покупку, а не в интеллектуальные затраты на воровство защищенных военных технологий и труднодоступное сырье», - рассказал «Rosnauka.ru» генеральный директор группы компаний Cognitive Technologies, занимающихся разработкой систем искусственного интеллекта, машинного зрения и робототехникой Андрей Черногоров.
Не все эксперты категоричны в своих заявлениях, но мнение о том, что искусственный интеллект необходимо обучить пониманию, что такое "хорошо" и что такое "плохо" - это важное дополнение к концепции развития этого научного направления.
«Если все оставить как есть, то автономные интеллектуальные системы действительно могут представлять опасность, – считает Олег Варламов, доктор технических наук, старший партнер компании «Мивар». – Ведь чем дальше, тем больше их будет в нашей жизни, и тем более ответственные процессы люди будут им доверять. Сейчас человек контролирует работу атомных реакторов, управление запуска ядерных ракет, маршруты полетов авиалайнеров. Но не далек тот день, когда за работой компьютеров будут следить компьютеры. Уже через несколько лет у ведущих стран появятся гиперзвуковые ракеты, и существующие системы ответного удара окажутся слишком медленными, поэтому, наверняка, будут полностью автоматизированы. И судьба мира окажется в руках искусственного интеллекта, считающего вероятность успешного удара и коэффициент угрозы ответного.
Поэтому необходимо как можно скорее перейти от стадии считающих машин к стадии чувствующих, необходимо как можно скорее социализировать искусственный интеллект».
Источник: http://rosnauka.ru/news/761
Поделиться в Живом Журнале
Стать расой бессмертных – главная эволюционно-историческая задача человечества в III тысячелетии
Имея мышление бессмертных, парадигму бессмертных в качестве мировоззренческой основы, такие люди обязательно реализуют подобные технологии, и мир радикально изменится. Эволюционная ветвь гомо сапиенс в очередной раз сделает крутой вираж и вынесет человечество к невообразимым высотам, туда, где раньше парили только избранные одиночки – бессмертные и боги.
ПодробнееРобот открыл холодильник и принес оттуда пиво
Немецкие разработчики научили гуманоидного робота-помощника TIAGo самостоятельно искать путь к холодильнику, открывать его и приносить пиво. Модульный суперкомпьютер NVIDIA Jetson TX2, служащий зрительным центром робота, позволил ему не только эффективно проложить путь, но и найти пиво запрошенной марки по этикетке.
ПодробнееВ Швеции попытаются создать электронные копии умерших людей
Руководство крупной сети шведских похоронных бюро «Феникс» поставило перед собой амбициозную цель: попытаться создать максимально правдоподобные электронные копии усопших людей.
ПодробнееУчёные из США разработали искусственный аналог глаза
Новое изобретение представили учёные из Школы инженерных и прикладных наук при Гарвардском университете — они создали искусственный глаз, работающий по принципу человеческого.
ПодробнееАмериканцы занялись разработкой реактивных дронов для истребителей
Массачусетский технологический институт по заказу ВВС США занялся разработкой компактных реактивных беспилотных летательных аппаратов, которые можно было бы запускать со стандартного подвеса для ракет под крылом истребителя. Новая разработка получила название Firefly.
ПодробнееToyota представила гуманоидного робота с экзоскелетным управлением
Компания Toyota представила гуманоидного робота T-HR3, управляемого с помощью экзоскелетного контроллера с шлемом виртуальной реальности. Система позволяет оператору управлять движениями робота на месте или передвигать его, а также чувствовать отдачу при взаимодействии с объектами.
ПодробнееЧеловекоподобный робот научился делать сальто
Специалисты Boston Dynamics научили прямоходящего робота Atlas выполнять сальто. Ролик с демонстрацией его новых способностей опубликован на YouTube-канале компании.
ПодробнееРобот-спасатель от Honda: пять «глаз» и 33 степени подвижности
На Конференции по робототехнике в Ванкувере компания Honda представила прототип робота-спасателя E2-DR. У новинки 33 степени подвижности, пять «глаз» и защищенный от пыли и влаги корпус.
ПодробнееToyota представила автомобиль-робот, в салоне которого сразу 2 водительских места
Казалось бы, суть самоуправляемых автомобилей заключается в том, чтобы максимально обеспечить удобство пассажиров и «убрать» из салона водителя, доверив контроль за ситуацией роботу. Вроде бы логичное решение, но вот автоконцерн Toyota думает иначе. Недавно они представили крайне продвинутую версию самоуправляемого авто. Только вот водительских мест в нем аж целых два.
ПодробнееRHP2 - гуманоидный робот, созданный для того, чтобы падать, подниматься и снова падать
Исследователи-робототехники во всем мире тратят безумно большое количество времени и усилий для того, чтобы предотвратить или уменьшить вероятность падения создаваемых ими роботов.
ПодробнееМифы и факты о сверхумном искусственном интеллекте
Станет ли искусственный интеллект лучшим изобретением человечества или же, наоборот, его худшей ошибкой?
Подробнее/ мнения экспертов и членов инициативной группы
- ДмитрийПредседатель оргкомитета политической партии «Эволюция 2045», основатель движения «Россия 2045», президент конгресса GF2045
ИцковСтрах перед умиранием, на которое запрограммированы наши биологические тела, словно сковал волю руководителей человечества и сформировал непреодолимое табу на публичное обсуждение и принятие решений по борьбе со смертью.
- АндерсФутуролог, трансгуманист, писатель, член Исследовательского общества Джеймса Мартина в Институте будущего человечества в Оксфордском университете
Сандберг«Я, определенно, захотел бы перенести свой разум в искусственное тело, если бы для этого существовала достаточно безопасная технология...»
- Владимир НиколаевичДиректор Филиала РГМУ «НКЦ геронтологии» Минздравсоцразвития РФ, академик РАМН, доктор медицинских наук, профессор
Шабалин«Россия была и остаётся богатой интеллектуалами, несмотря на значительную утечку мозгов за рубеж. А когда будут первые результаты, с удовольствием вернутся и наши специалисты и потянутся иностранные...»
- Александр ВладимировичМастер ТРИЗ, вице-президент Международной ассоциации ТРИЗ, ректор Московского общественного института технического творчества
Кудрявцев«Развитие технической цивилизации в конечном счете приведет к полной автономии человека от внешних обстоятельств. Техника свернется как тонкая пленка, как некая субстанция, пронизывающая человека...»
- Сергей ВасильевичДоктор физико-математических наук, профессор, заведующий кафедрой биомедицинских систем Московского государственного института электронной техники, главный редактор журнала «Медицинская техника»
СелищевЧлен инициативной группы«Глобальных и неразрешимых технических проблем для создания полностью искусственного тела не существует. Все задачи понятны и потенциально решаемы...»
- Виктор ЮрьевичКандидат физико-математических наук, старший научный сотрудник ТОИ ДВО РАН, композитор, философ
Аргонов«Я думаю, что прежде, чем начать радикальную киборгизацию мозга, необходимо найти нейрокоррелят сознания. Имеет ли он физическую или чисто информационную природу в форме нейросигналов? Есть ли группа нейронов, которая непосредственно ответственна за сознание? Или, может быть, сознание порождается еще более мелкими объектами внутри нейронов...»
- ХиросиДоцент кафедры информационных технологий Киотского университета и профессор Университета Осаки (Osaka University), двадцать восьмой гений из списка «Сто гениев современности», создатель антропоморфного робота «Геминоид» HI-1 (Geminoid)
Исигуро«...Однажды мы сможем добиться появления аватаров и воспроизведем функции человеческого мозга внутри этого робота. И тогда люди смогут устремиться к бессмертию...»
- Владимир АнатольевичРуководитель компании «Нейроботикс»
КонышевЧлен инициативной группы«Перенос мозга в искусственное тело — более выносливое, более совершенное — единственная возможность человеческой расе остаться на Земле...»
- Сергей ВладимировичДоктор философских наук, профессор
Кричевский«...В таком теле, как бы там медицина ни боролась, увы, есть масса рисков, радиационных и прочих, которые пока непреодолимы. И мы не можем существовать вне Земли, в этой враждебной среде, не решив эти вопросы».
- Михаил ЮрьевичКандидат физико-математических наук, старший научный сотрудник лаборатории термостойких термопластов ИСПМ РАН, создатель наносенсорной нейроподобной системы «Электронный нос»
ЯблоковЧлен инициативной группы«При создании искусственного человека к робото-техническому направлению, которое сейчас преобладает, надо добавить эмоциональное. На самом деле, эта идея комплексная, она витает в воздухе...»
- Владимир ГригорьевичДоктор физико-математических наук, профессор, руководитель группы автоволновых процессов, заведующий лабораторией Института прикладной физики РАН
ЯхноЧлен инициативной группы«Думаю, что именно понимание закономерностей в иерархии механизмов управления живыми системами позволит создать основу для производства эффективно работающих искусственных органов и имитаций тел человека.»
- Дмитрий ХаметовичХудожник, теоретик искусства, куратор Государственного центра современного искусства (Калининградский филиал)
БулатовЧлен инициативной группы«В ближайшем будущем гибридные схемы из комбинаций живых и неживых элементов позволят вернуть утраченные или изначально отсутствующие функции. И конечно, заметно усилить их по сравнению с обычными...»
- Вячеслав ЕвгеньевичДоктор биологических наук, профессор, изобретатель аппарата «Биоискусственная печень»
РябининЧлен инициативной группы«Вся тенденция развития науки показывает: то, что мы считали невозможным, становится возможным. Кто мог представить, что руки и ноги начнут ходить под влиянием соответствующих импульсов? Прогресс движется не в арифметической, а в геометрической прогрессии...»
- Александр ЯковлевичДоктор биологических наук, профессор, заведующий лабораторией нейрофизиологии и нейроинтерфейсов биологического факультета МГУ им. М.В. Ломоносова
Каплан«К тому времени, когда мозг можно будет перенести в искусственное тело, роботы достигнут совершенства формы и будут выглядеть, как вполне приличное человеческое тело...»
- Андрей ЮрьевичКандидат физико-математических наук, координатор международного проекта OpenWorm с российской стороны, научный сотрудник лаборатории Моделирования сложных систем ИСИ СО РАН им. А.П. Ершова
Пальянов«...Когда мы разгадаем червя – мы поймем жизнь...»