Роботы научились не трогать чужое

Американские разработчики представили систему, которая обучает искусственный интеллект понятию обладания объектами. Такая система состоит из четырех алгоритмов, каждый из которых собирает информацию о владельце объекта и том, какие действия к нему можно применять. Препринт статьи опубликован на arXiv.org.

Одной из необходимых для успешной коммуникации социальных норм считается понятие обладания: в обычной ситуации у людей не принято распоряжаться чужим имуществом без разрешения. Кроме того, норма эта не только социальная, но также этическая и правовая, и ее отсутствие может привести к негативной реакции и нежелательным последствиям.

Для успешной интеграции роботов в человеческое общество умение соблюдать нормы обладания необходимо и искусственному интеллекту. Исследователи под руководством Брайана Сказеллати из Йельского университета разработали единую систему, с помощью которой роботов можно научить базовым принципам обладания.

Система работает на основе четырех алгоритмов. Первый алгоритм собирает информацию о владельцах объектов на примере фразы «Это мое», сказанной владельцем. Второй алгоритм, напротив, учится правилам, в соответствии с которыми человек не является обладателем объекта. Третий и четвертый алгоритм запоминают правила, которые распространяются владельцами на объекты в их обладании: например, обозначают то, что с объектами можно или нельзя делать. Понятие «обладания», таким образом, представляется для обучаемой системы в виде графа, в котором вершины представляют собой объекты и потенциальных владельцев, а ребра — отношения между ними, и большого массива правил, регулирующих приемлемое и неприемлемое взаимодействие робота с предметами. Например, если исследователь попросит выбросить какой-то объект, система сможет обратиться к доступной ему информации о том, что этот объект кому-то принадлежит и, следовательно, не может быть выброшен, а затем отказаться.

Полученную систему интегрировали в робота Baxter и провели эксперимент с объектами — разноцветными кубиками — и их обладателями: разные люди просили робота поднимать или выбрасывать различные объекты. Со встроенной системой определения обладания робот успешно определил валидность просьб исследователей для 14 объектов из 20.

Несмотря на успешную работу представленной системы, ученые отмечают, что пока что она направлена только на анализ собственной оценки обладания объектами, то есть относительно действий самого робота. В будущем ученые также хотят расширить возможности своей системы, обучив ее, к примеру, понятию заимствования, при котором, помимо обладателя, объект может — в той или иной мере — быть использован и другими.

Источник

Заглавная иллюстрация: https://ua.depositphotos.com/

Tags:

ТЕБЕ МОЖЕТ ПОНРАВИТЬСЯ

Новая разработка Google Creative Lab: дополненная реальность и уроки рисования

Те, кто хотят научиться рисовать, зачастую идут на YouTube и ищут учебные видео. Но тут есть одна проблема: чтобы перерисовать что-то с экрана, приходится постоянно смотреть то на него, то на бумагу.

Пульс как источник энергии: создан ритмоводитель сердца, которому не нужны батарейки

У всех ритмоводителей сердца (пейсмейкеров) есть один серьезный недостаток. Проблема в том, что они зависят от громоздких батареек, которые очень быстро разряжаются.

В Китае отправились в путь библиотеки-велосипеды

Китайская архитектурная фирма LUO Studio не могла спокойно пройти мимо списанных велосипедов для онлайн-аренды, которые были просто выброшены за ненадобностью.