В компании Илона Маска научили искусственный интеллект продуцировать фейковые новости

Некоммерческая исследовательская компания OpenAI, основанная Илоном Маском, разработала алгоритм, который умеет составлять очень правдоподобные вымышленные истории на абсолютно любую тему. Для работы алгоритму нужна лишь горстка ключевых слов, которые будут служить в качестве отправной точки.

Изначально система планировалась, как обычный языковой ИИ, который мог бы отвечать на вопросы на основе проанализированного текста. Но вскоре исследователи поняли, что изобрели настоящее чудовище.

По мнению разработчиков, система может быть использована для создания убедительной дезинформации в “промышленных масштабах”.

Представьте, что вы — некая публичная персона, и у вас есть враги. Недоброжелатели могут вредить вам  придумывая о вас различные фейковые новости, но количество таких историй не будет массовым. В конце концов человеческое воображение не безгранично, и чтобы по-настоящему утопить ваше имя в потоках информационных помоев, вашим врагам придется раскошелиться на приличный штат “писателей”.

Искусственный интеллект сильно упрощает задачу. Ему не нужна зарплата, не нужен отдых, он работает быстро. За сутки он сгенерирует такие объемы убедительного бреда, что в нем бесследно затеряются любые крупицы достоверной информации. Это — мощнейший инструмент информационной войны, которым будут пользоваться люди, желающие скрыть правду, напустить как можно больше пыли и наплодить побольше противоречивых версий.

Разработчики из OpenAI настолько испугались собственного создания, что решили ни при каких обстоятельствах не выставлять его напоказ. Общественности будет доступна лишь базовая версия ИИ, не способная к продуктивному фейкотворчеству.

Да и в нынешнем виде технологию было бы трудно использовать во вред. По словам Джека Кларка, директора по политике OpenAI, разработка все еще остается слишком сырой. Довольно часто она пишет истории, которые явно скопированы или слишком бессвязны. Но иногда ИИ рождает вполне убедительные фейки. Джек Кларк утверждает, что система способна к самообучению, так что ей потребуется всего год или два, чтобы набрать полную силу.

Проблема лишь в том, что OpenAI — одна некоммерческая организация. Эта компания была создана специально для того, чтобы следить за этикой разработок в сфере ИИ. Представители OpenAI могут предупреждать мир об опасности, но реальной власти у них нет. Если кто-то другой решит создать аналогичный инструмент, никто ему не помешает. А значит, в ближайшем будущем интернет может превратиться в настоящую помойку, где отличить ложь от правды станет практически невозможно.

Источник

Заглавная иллюстрация: https://ua.depositphotos.com

 

Tags:

ТЕБЕ МОЖЕТ ПОНРАВИТЬСЯ

Самая длинная реклама — у Украинского маркетинг-форума. И она призывает к краткости

Украинский маркетинг-форум, который пройдёт 16-17 апреля, запустил второй рекламный флайт. Два ролика длятся по часу, а их слоган — МНШ СЛВ! Также кампания включала наружную рекламу, принтовый и диджитал макеты, где идея воплощалась словесным методом.

WOW DONE AWARDS 2019 объявил международный состав жюри

Знакомьтесь с командой жюри конкурса Marketing & PR Communications Disciplines фестиваля WOW DONE AWARDS 2019.

PR на аграрному ринку України: результати опитування

Publicity Creating провела телефонне опитування представників компаній-операторів аграрного ринку України. В опитуванні взяли участь представники понад 150 компаній. Основні запитання ...