Роботы научились не трогать чужое

Американские разработчики представили систему, которая обучает искусственный интеллект понятию обладания объектами. Такая система состоит из четырех алгоритмов, каждый из которых собирает информацию о владельце объекта и том, какие действия к нему можно применять. Препринт статьи опубликован на arXiv.org.

Одной из необходимых для успешной коммуникации социальных норм считается понятие обладания: в обычной ситуации у людей не принято распоряжаться чужим имуществом без разрешения. Кроме того, норма эта не только социальная, но также этическая и правовая, и ее отсутствие может привести к негативной реакции и нежелательным последствиям.

Для успешной интеграции роботов в человеческое общество умение соблюдать нормы обладания необходимо и искусственному интеллекту. Исследователи под руководством Брайана Сказеллати из Йельского университета разработали единую систему, с помощью которой роботов можно научить базовым принципам обладания.

Система работает на основе четырех алгоритмов. Первый алгоритм собирает информацию о владельцах объектов на примере фразы «Это мое», сказанной владельцем. Второй алгоритм, напротив, учится правилам, в соответствии с которыми человек не является обладателем объекта. Третий и четвертый алгоритм запоминают правила, которые распространяются владельцами на объекты в их обладании: например, обозначают то, что с объектами можно или нельзя делать. Понятие «обладания», таким образом, представляется для обучаемой системы в виде графа, в котором вершины представляют собой объекты и потенциальных владельцев, а ребра — отношения между ними, и большого массива правил, регулирующих приемлемое и неприемлемое взаимодействие робота с предметами. Например, если исследователь попросит выбросить какой-то объект, система сможет обратиться к доступной ему информации о том, что этот объект кому-то принадлежит и, следовательно, не может быть выброшен, а затем отказаться.

Полученную систему интегрировали в робота Baxter и провели эксперимент с объектами — разноцветными кубиками — и их обладателями: разные люди просили робота поднимать или выбрасывать различные объекты. Со встроенной системой определения обладания робот успешно определил валидность просьб исследователей для 14 объектов из 20.

Несмотря на успешную работу представленной системы, ученые отмечают, что пока что она направлена только на анализ собственной оценки обладания объектами, то есть относительно действий самого робота. В будущем ученые также хотят расширить возможности своей системы, обучив ее, к примеру, понятию заимствования, при котором, помимо обладателя, объект может — в той или иной мере — быть использован и другими.

Источник

Заглавная иллюстрация: https://ua.depositphotos.com/

Tags:

ТЕБЕ МОЖЕТ ПОНРАВИТЬСЯ

#КРІЗЬ_КОДИ_ЩАСТЯ: точка соприкосновения искусства, рекламы и урбанистики.

Компания BigMedia (группа BigBoard Ukraine / JCDecaux) и фонд культурных инициатив IZOLYATSIA представили общественности новый художественный проект в публичном пространстве, который стал поводом для концептуальной дискуссии рекламистов, художников, урбанистов и представителей городской власти.

Для Олимпийских игр 2020 разработали новые пиктограммы

Токийский оргкомитет Олимпийских и Паралимпийских игр 2020 презентовал официальные спортивные пиктограммы, которые разработал японский дизайнер Масааки Хиромура. Символы воплощают уникальность ...

Брексит — да или нет? Делайте ставки, господа!

Датское онлайн-казино 25 BET и рекламное агентство Unclegrey подготовили оригинальную кампанию связанную с решением Британии принять или отвергнуть брексит.