Ученые научили роботов врать: В 75% случаев им удается обманывать других роботов [... следующим будет Ктулху? =)]

Ученые научили роботов врать: В 75% случаев им удается обманывать других роботов

Технологический институт Джорджии представил прототип робота, который способен специально вводить в заблуждение других роботов. Наработки будут использоваться как в военной сфере, так и в других областях.

Робот обманывает робота-врага, пуская его по ложному следу, и прячется, чтобы не быть пойманным. Хотя все это походит на сцену из одного из фильмов о Терминаторе, на деле это реальный эксперимент, проводимый американскими робототехниками.

Исследователи сосредоточились на действиях, «представлениях» и коммуникациях робота, пытающегося скрыться от противника, чтобы написать алгоритмы, которые успешно воспроизводили бы его обманчивое поведение. В первую очередь робот должен распознать ситуацию, в которой нужно обманывать, по двум ключевым условиям: наличие конфликта между роботом-обманщиком и роботом, который его ищет, и безусловное извлечение выгоды из обманных действий.

Чтобы проверить свои алгоритмы, исследователи провели в общей сложности 20 экспериментов с участием двух автономных киборгов. Во время опытов черный робот под названием WowWee’s Rovio, похожий на большого жука, к примеру, преднамеренно сбивал красный колпачок, чтобы обмануть своего красного коллегу, заставляя его думать, что он скрылся в коридоре, в то время как на самом деле схоронился в коробке буквально «под носом» у преследователя.

Робот, который прятался, сумел обмануть ищущего в 75% испытаний. Результаты эксперимента не были безупречны, но они показали, что алгоритмы могут работать в условиях, приближенных к реальным. Кроме того, разработчики убедились, что роботы-обманщики имеют явное преимущество с точки зрения качества достигаемых результатов по сравнению с роботами, которые хитрить не умеют.

При этом они не исключают, что подобные достижения могут использоваться во вред и применяться для обмана людей, чтобы принести им неприятности, что называется, в мирной жизни.

«В будущем методы для обмана будут развиваться, и потому в автоматизированных системах может быть заложена потенциальная возможность для их неэтичного поведения. Поэтому мы всячески поддерживаем дискуссию об этике роботов для определения принципов, которых должны придерживаться их проектировщики», — сообщил РБК daily один из авторов технологии, профессор Технологического института Джорджии Рональд Аркин.

Американские робототехники отмечают, что крайне важно, чтобы эти меры были приняты заранее, а не в качестве реакции на уже произошедшие злоупотребления. Только в этом случае можно будет гарантировать, что роботы будут создаваться в полном соответствии с ожиданиями общества.

Хотя сама работа спонсируется Офисом военно-морских исследований — научно-исследовательской структурой военно-морского флота США, в будущем механические существа, способные к обману, могут применяться в нескольких областях — причем как в военных целях, так и, например, для проведения спасательных операций.

В последнем случае робот, возможно, должен уметь и обманывать, чтобы успокоить паникующую жертву и заручиться ее доверием. Ну а боевые роботы во время военных операций смогут прятаться и вводить врага в заблуждение, чтобы не быть уничтоженными и сохранить ценную информацию. Наделять способностью к обманному поведению «социальных» бытовых роботов, которые общаются с детьми и пожилыми людьми, по понятным причинам не планировалось и не планируется.

RBCDaily