Skip to main content

Ученые научили роботов врать: В 75% случаев им удается обманывать других роботов [... следующим будет Ктулху? =)]

Ученые научили роботов врать: В 75% случаев им удается обманывать других роботов

Технологический институт Джорджии представил прототип робота, который способен специально вводить в заблуждение других роботов. Наработки будут использоваться как в военной сфере, так и в других областях.

Робот обманывает робота-врага, пуская его по ложному следу, и прячется, чтобы не быть пойманным. Хотя все это походит на сцену из одного из фильмов о Терминаторе, на деле это реальный эксперимент, проводимый американскими робототехниками.

Исследователи сосредоточились на действиях, «представлениях» и коммуникациях робота, пытающегося скрыться от противника, чтобы написать алгоритмы, которые успешно воспроизводили бы его обманчивое поведение. В первую очередь робот должен распознать ситуацию, в которой нужно обманывать, по двум ключевым условиям: наличие конфликта между роботом-обманщиком и роботом, который его ищет, и безусловное извлечение выгоды из обманных действий.

Чтобы проверить свои алгоритмы, исследователи провели в общей сложности 20 экспериментов с участием двух автономных киборгов. Во время опытов черный робот под названием WowWee’s Rovio, похожий на большого жука, к примеру, преднамеренно сбивал красный колпачок, чтобы обмануть своего красного коллегу, заставляя его думать, что он скрылся в коридоре, в то время как на самом деле схоронился в коробке буквально «под носом» у преследователя.

Робот, который прятался, сумел обмануть ищущего в 75% испытаний. Результаты эксперимента не были безупречны, но они показали, что алгоритмы могут работать в условиях, приближенных к реальным. Кроме того, разработчики убедились, что роботы-обманщики имеют явное преимущество с точки зрения качества достигаемых результатов по сравнению с роботами, которые хитрить не умеют.

При этом они не исключают, что подобные достижения могут использоваться во вред и применяться для обмана людей, чтобы принести им неприятности, что называется, в мирной жизни.

«В будущем методы для обмана будут развиваться, и потому в автоматизированных системах может быть заложена потенциальная возможность для их неэтичного поведения. Поэтому мы всячески поддерживаем дискуссию об этике роботов для определения принципов, которых должны придерживаться их проектировщики», — сообщил РБК daily один из авторов технологии, профессор Технологического института Джорджии Рональд Аркин.

Американские робототехники отмечают, что крайне важно, чтобы эти меры были приняты заранее, а не в качестве реакции на уже произошедшие злоупотребления. Только в этом случае можно будет гарантировать, что роботы будут создаваться в полном соответствии с ожиданиями общества.

Хотя сама работа спонсируется Офисом военно-морских исследований — научно-исследовательской структурой военно-морского флота США, в будущем механические существа, способные к обману, могут применяться в нескольких областях — причем как в военных целях, так и, например, для проведения спасательных операций.

В последнем случае робот, возможно, должен уметь и обманывать, чтобы успокоить паникующую жертву и заручиться ее доверием. Ну а боевые роботы во время военных операций смогут прятаться и вводить врага в заблуждение, чтобы не быть уничтоженными и сохранить ценную информацию. Наделять способностью к обманному поведению «социальных» бытовых роботов, которые общаются с детьми и пожилыми людьми, по понятным причинам не планировалось и не планируется.

RBCDaily

Ваша оценка: Нет Средняя: 5 (2 голосов)

Настройки просмотра комментариев

Выберите нужный метод показа комментариев и нажмите "Сохранить установки".

Ученые не стоят на месте - Боевые роботы! =)

AK аватар

В США создают первых боевых роботов: Они будут исполнять устные приказы командира и реагировать на жесты

Это могло бы показаться шуткой, но факт есть факт: покой Америки станут охранять человекоподобные роботы. По заказу ВМФ США создан робот Octavia стоимостью 200 тыс. долл. Машина с лицом, похожим на человеческое, в перспективе должна будет принять активное участие в боевых действиях. К примеру, она может быть применена в ходе будущих контртеррористических операций в Афганистане. Создаваемые роботы, среди прочего, могут быть применены в качестве саперов для разминирования дорог и построек.

Пока Octavia выглядит скорее как детская игрушка, чем грозное оружие в руках военных. Внеш­ность у робота совершенно безобидная. У него довольно-таки добродушное лицо с большими глазами, есть руки, а вместо ног — колесики. Впрочем, военные, конечно же, не настаивают на том, что именно такую роботизированную армаду они пустят на врага и противник побежит в страхе. Нет, робот Octavia — начальная стадия разработок, и у него не так много функций.

Главная цель работающих на оборонку ученых — сделать так, чтобы киборг максимально походил на рядового солдата во взаимодействии с людьми-командирами, которые будут отдавать машинам приказы. В американском ВМФ не хотят, чтобы роботами управляли люди, сидящие за мониторами с джойстиками в руках. Американцы мечтают, чтобы железные солдаты были полноценными единицами боевых подразделений: получали команды и выполняли их прямо во время боя.

Ученые Военно-морской исследовательской лаборатории США заставили Octavia фактически повиноваться каждому движению пальца человека. Военный робот будет ориентирован на регистрацию жестов и реплик людей. Никаких заумных приказов на «машинном языке» с указанием градусов широты и долготы. Командир буквально может сказать своему подопечному: «Иди туда» — и кивнуть головой в нужную сторону. Робот, как и человек-боец, подчинится и будет знать, куда следовать.

Если же Octavia не поймет или в шуме сражения не расслышит приказ, то робот сделает удивленное лицо. Да-да! Машина вскинет свои искусственные брови и вежливо, но быстро уточнит команду. Кроме того, Octavia обладает способностью запоминать конкретных людей и манеру их поведения, особенности речи. Робот составляет «профайлы» тех, с кем имеет дело.

Как рассказал РБК daily научный сотрудник лаборатории информационных технологий управления робототехники Санкт-Петербургского института информатики и автоматизации РАН Алексей Бакурадзе, искусственная нейронная сеть робота поможет ему быстро распознать ситуацию и человеческую речь, проанализировать данные с камер видеонаблюдения и высокочувствительных звуковых сенсоров.

«Робот оснащается семантическим набором команд, и компьютер будет воспринимать команду на языке конкретного подразделения, где робот служит. Скажем, после приказа «Вперед!» он определит свое местоположение, используя датчики ориентации в пространстве, выберет правильное направление и прямую линию. Конечно, препятствия он обойдет при помощи специального алгоритма. В разминировании эти модели очень перспективны. Человек может ошибиться, а у робота нейросети сработают безупречно», — уверен ученый.

РБК Daily



  Понравился сайт? =)
Нашли что-нибудь интересное? =)
  Поддержите! =)

 

 
Мы - Вас - не забудем, Веришь.Нет? =)
P.S. И сделаем еще что-нибудь, полезное и нужное... Правда-правда =)))