Роботы учатся лгать
Насколько важно, чтобы компьютеры и роботы говорили нам правду? Или же они должны научиться врать — как и их создатели из плоти и крови?
В опыте, проведенном в одной из швейцарских лабораторий, 10 роботов со специальными датчиками соревновались за получение «пищи» — светлого кольца на полу. На другом конце помещения было помещено темное кольцо, означавшее «яд». Роботы зарабатывали очки в зависимости от того, сколько времени они проводили вблизи «продуктов питания», а не рядом с ядом.
Экспериментаторы — инженеры Сара Митри и Дарио Флореано, а также эволюционный биолог Лоран Келлер – «наградили» роботов способностью общаться друг с другом. Каждый робот имел возможность включать синий свет, который могли видеть другие, и который свидетельствовал о нахождении светлого кольца с «пищей». Со временем роботы эволюционировали, научившись обманывать друг друга.
Их эволюция стала возможной благодаря искусственной нейронной сети, которая контролировала каждого робота. Сеть состояла из 11 «нейронов», которые были связаны с датчиками робота и еще с тремя, которые контролировали две траектории движения и включение синего света. Нейроны имели 33 связи — «синапсы» — и сила каждой из этих связей контролировалась одним 8-битным геном. В общей сложности 264-битный геном каждого робота определял, как он реагирует на информацию, полученную от датчиков.
Исследователи разработали система раундов, в ходе которых группы из десяти роботы соревновались за «еду» в отдельных зонах. После 100 раундов роботы, получившие наибольшее количество баллов, то есть наиболее приспособленные в Дарвиновском смысле — «выживали» и переходили в следующий тур.
В самом начале роботы включали синий свет случайным образом. Однако, как только они освоились с поиском «пищи», свет становился все более и более «говорящим» и они к нему все чаще прибегали. Светлое кольцо было достаточно большим, однако вмещало всего восемь роботов, поэтому им пришлось толкать друг друга за право пробиться к «пище». Последствия этого конкурса стали ясны, когда Митри, Флореано и Келлер дали роботам возможность развивать систему пользования синим светом одновременно с другими поведенческими навыками.
Как и прежде, поначалу они включали синий свет наугад, а когда они начинали толпиться вокруг «пищи», то фарами они выдавали и свое присутствие и наличие там «пищи». Со временем более успешные роботы стал более скрытными. К 50-му «поколению» (раунду) они гораздо реже светили фарами у «еды», чем в других местах общей зоны действия.
Результаты этого научного исследования были представлены в Трудах Национальной Академии Наук Швейцарии.
***
