Увидеть мир глазами искина: новый проект Google и OpenAI

Как искусственный интеллект видит мир?

Десятилетиями исследователи задавались этим вопросом, но в последнее время он стал особенно актуален, ведь системы машинного зрения играют все большую роль в нашей жизни, от медицины до машин-беспилотников. Нам сложно понять, почему искин в одном человеке опознает пешехода, а другого принимает за фонарный столб. И вот эта неспособность понять «почему?» может нам дорого обойтись и даже стоить жизней, как показали аварии с самоуправляемыми машинами, в которых погибли люди.

Новое исследование Google и некоммерческой лаборатории OpenAI надеется пролить свет на эту тайну, создавая карты визуальных данных, которые такие системы используют, чтобы ориентироваться в окружающем мире. Метод под названием «Activation Atlases» позволяет исследователям увидеть работу алгоритмов, показывая не только абстрактные формы, которые воспринимает искин, но и то, как он комбинирует эти элементы, чтобы распознавать предметы, животных и местность.

Вот тут можно рассмотреть «начинку» нейронной сети под названием GoogLeNet или InceptionV1.

Разные части этой карты показывают, как нейронная сеть «видит» различные понятия, и как она их связывает между собой (например, все собаки собраны в одном месте, а все птицы – в другом). Нижние уровни более абстрактны и содержат основные геометрические формы, тогда как более высокие уровни собирают из них узнаваемые образы.

Скептик увидит в такой демонстрации ограниченность машинного зрения, ведь, как бы ни были эффективны такие алгоритмы, эта информация не имеет ничего общего с человеческим восприятием мира, что делает их уязвимыми. Например, если поместить на изображение несколько пикселей в стратегических местах, алгоритм собьется и неправильно классифицирует его. Но с другой стороны, «Activation Atlases» открывает для нас поразительную глубину и гибкость машинного восприятия.

Источник

Tags:

ТЕБЕ МОЖЕТ ПОНРАВИТЬСЯ

Мозг не видит смысловой разницы между устной и письменной речью

Семантическая репрезентация текста в головном мозге не зависит от того, читают его или слушают. Это выяснили американские ученые, которые попросили участников своего фМРТ-эксперимента прочитать и прослушать одну и ту же историю, а затем сравнили активность их мозга

В Дании осуществлен первый рейс полностью электрического парома

Полностью электрический паром «Эллен» 15 августа 2019 года совершил первую перевозку в Дании между портом Сёбю на острове Эрё и Фюнсхав на острове Альс.

Future Lab X відкриває другий потік на тему освіти

До 10-ї конференції Future Lab Dentsu Aegis Network Ukraine відкриває другий потік виступів Learn, де будуть обговорюватися важливі питання освіти дорослих, філософії lifelong learning, нових інструментів корпоративної освіти і необхідних цифрових навичок в сучасному суспільстві.