Фотограф Йонас Бендиксен дал искусственному интеллекту написать книгу и проиллюстрировал ее синтетическими изображениями — но вокруг все поверили в ее реальность
“Книга Велеса”, последний проект фотографа Йонаса Бендиксена — необычное размышление на тему подлинности, правды и истины. В нем автор затрагивает вопросы, которые мучают фотожурналистов все больше с каждой новой инновацией в создании изображений.
С первого взгляда проект выглядит как обычная фотокнига о небольшом городе Велес в Северной Македонии, который в 2016 году международные газеты называли фабрикой фейковых новостей в поддержку Трампа. “Книга Велеса” произвела фурор после того, как Бендиксен раскрыл, что фотографии проекта — не настоящие и были созданы с помощью 3D-программ, а текст книги был полностью написан искусственным интеллектом.
Завороженный историей Велеса, а также разработками в области синтетических изображений, Бендиксен решил проверить, насколько “реальными” он сможет сделать свои фотографии.
Хотя он оставил подсказки по всему тексту, к его удивлению, книга была опубликована в апреле 2021 года и получила
“приятные, положительные отклики, как из эхо-камеры”,
— сказал Бендиксен.
Никто не усомнился в подлинности ни изображений, ни текста. Тогда он решил пойти еще дальше и отправил свои фотографии на самый престижный в мире фестиваль фотожурналистики Visa pour l’image, на котором его снимки представили публике в сентябре.
Я подумал:
“Кого может быть сложнее одурачить некачественными, синтетическими изображениями, чем этих людей?”,
— сказал Бендиксен.
“Я решил, что в течение 24 часов буду ждать, не подойдет ли кто-нибудь с вопросами о моей работе. Этого не произошло”
В последней попытке фотографа обличить свой проект он купил целую команду ботов на Facebook и Twitter, чтобы те атаковали его в Интернете. Боты опубликовали десятки сообщений, утверждая, что его работы — фальшивка, но коллеги и сторонники Бендиксена бросились защищать его.
17 сентября Бендиксен наконец признался в интервью журналу Magnum Photos, что его фотографии не настоящие. Мы поговорили с фотографом о том, что он вынес из этого опыта и как проект продолжает удивлять его даже после его чистосердечного признания.
Интервью переведено с английского языка, отредактировано и укорочено.
- Не могли бы вы начать с рассказа о том, как возник ваш проект и что удивило вас в процессе работы над ним?
- История Велеса [о фейках в поддержку Трампа — прим.ред] показалась мне очень увлекательной, но к тому времени все сайты уже заблокировали, алгоритмы изменились, ничего не происходило. Поэтому я понял, что единственный способ по-настоящему погрузиться в эту историю — создать свою собственную воображаемую версию.
Я осознал, что если синтетические технологии дошли до того, что один среднестатистический ботаник-фрилансер может пойти в свой подвал, посмотреть несколько уроков на YouTube и создать целый документальный фотопроект с нуля, то мы в большой беде. Могу ли я, не имея никакого опыта, подделать все это?
Поэтому я отправился в Велес, сфотографировал кучу пустых мест и скачал бесплатное программное обеспечение для создания 3D-моделей.
Поэтому я отправился в Велес, сфотографировал кучу пустых мест и скачал бесплатное программное обеспечение для создания 3D-моделей. Воплощать эти аватары в жизнь было очень страшно. Все это пугало меня, потому что я своими глазами видел, как легко это сделать и насколько реалистичен результат. Было похоже, будто я оживляю Франкенштейна. С одной стороны, я думал, что мне пора остановиться, с другой стороны, я задавался вопросом, как далеко можно зайти? Тот факт, что я могу делать это, не имея никакого особого понимания или подготовки, говорит о том, что ждет нас в будущем.
- Какие основные цели вы ставили перед собой?
- Я хотел начать дискуссию и информировать публику об этой технологии, но я не хотел, чтобы этот проект был просто технической демонстрацией чего-то. Я берусь за проекты, потому что это истории, которые хочется рассказать. Если бы не все эти интересные моменты в истории Велеса, я бы не стал этим заниматься. Все эти части пазла чудесным образом встали на свои места.
- Да, расскажите нам подробнее о том, как сложился этот пазл, ведь у этого проекта так много необычных слоев.
- Очень важным этапом стало обнаружение исторических слоев в этой истории. Город Велес назван в честь дохристианского славянского бога, который был хитрецом, оборотнем, превращающимся в медведя, богом хаоса, обмана и магии. Я подумал, что он, наверное, был бы очень рад всему этому обману, происходящему в Велесе.
Затем я наткнулся на открытие древней эпической рукописи, найденной офицером русской армии, историком в 1919 году, под названием “Книга Велеса”. Этот текст до сих пор довольно популярен в националистических и конспирологических кругах.
Дело в том, что все современные историки и лингвисты пришли к выводу, что это подделка.
Никто не знает, зачем это было сделано, ведь авторы не прославились и не заработали кучу денег. Это интересная параллель с недавними попытками распространения дезинформации в Велесе. На мою голову продолжали сыпаться и другие слои.
Я понял, что искусственная генерация текста также развивается очень быстро. Есть программа Open AI, которое бесплатно доступно любому. Я дал ей доступ ко всем материалам журналистов, которые побывали в Велесе в 2016 году, когда в СМИ впервые появилась эта история, и система искусственного интеллекта написала вступление длиной в 5 000 слов к книге о моем опыте в Велесе.
- Вступление, написанное ИИ, выглядит все же немного неуклюже. Некоторые из ваших изображений, особенно то, где медведь идет по городу, наверное, должны были вызвать сомнения. Тем не менее, все это было настолько “реальным”, что никто не усомнился в их подлинности.
- Меня и это тоже испугало. Технология в этой области сильно развилась даже с момента как я начал ее использовать, и до завершения проекта. Мне теперь ясно, что через несколько лет 95% или даже больше людей с трудом смогут определять, написана ли статья журналистом New York Times или ботом. Я хотел, чтобы этот проект стал возможностью заглянуть в то, что, мне кажется, нас ждет в ближайшем будущем.
- Чем наши нынешние опасения по поводу автоматизации или искусственного интеллекта отличаются от всех предыдущих технологических страшилок?
- В фотографии на каждом этапе, когда появляется новая технология, люди говорят, что это крах истины. Так было, когда появились цифровые камеры или когда появился Photoshop. Люди всегда так ныли. Может быть, я такой же, и это просто напрасный крик, и все само собой уладится.
Но я думаю, что разница в следующем: автоматизация и синтетика. Хорошая журналистика всегда будет, но я думаю, что она будет смешана с таким количеством синтетического мусора или полусинтетического мусора, что в ней будет очень, очень хаотично и трудно ориентироваться. Разница в том, что из-за автоматизации такой контент легко распространяется, но доступ к нему ограничить трудно .
- Вы неоднократно сравнивали свою работу с тестом на проникновение, который проводят хакеры в поисках уязвимостей в коде. Затем эти тесты позволяют компаниям лучше укрепить свое программное обеспечение и найти решения для лазеек в коде. Что показал ваш стресс-тест, какие решения он вам подсказал?
- Я не пытаюсь делать вид, что у меня есть ответы на все вопросы, но я думаю, что решение многоуровневое. Я думаю, что бизнес по проверке контента станет самостоятельной отраслью. Это также призыв к платформам социальных сетей, которые, как я считаю, во многом подвели нас в этом направлении, активизироваться. Это призыв к нашей системе образования. Как отец четверых детей, я задаюсь вопросом, как мои дети справятся с этим. Чтобы все мы были функционирующими гражданами в ближайшие 50 лет, навигация в информационном пространстве должна быть, по крайней мере, таким же важным предметом в школах, как математика.
Мы, как создатели контента, журналисты, фотографы, редакторы, издания, все мы должны играть в этом свою роль. Мы должны укреплять институты и издания, которые создают углубленную, основанную на контексте журналистику и развивают жанр сторителлинга.
Для меня это не та проблема, которая ограничивается сообществом фотографов, это проблема общества: вопрос о том, как в ближайшие годы и десятилетия мы будем ориентироваться в ландшафте, где люди так легко манипулируют информацией.
Это проблема для демократии.
- Целью дезинформации или, по крайней мере, одним из ее результатов является потеря доверия между людьми, между людьми и институтами. Не зря у RT, например, слоган гласит: “Больше сомневайтесь”. Но существует тонкий баланс между потребностью в более критическом мышлении и потребностью в большем доверии, не так ли?
- Это ведь самый главный вопрос, верно? Это центральный вопрос, вопрос доверия. Мы, как общество, зависим от доверия, оно необходимо, чтобы мы продолжали функционировать. Мы видим эту фрагментацию информационного ландшафта.
Мы теряем общий знаменатель. Исчезает общее повествование. Мы уже теряем представление о том, что у нас есть общий опыт или общая правда. Это прискорбная истина и следствие этой технологии. Мы должны попытаться создать системы, в которых мы могли бы как-то сдерживать это.
Мы обращаемся к технологиям, чтобы дать отпор, и это превращается в гонку вооружений.
- Ваша история продолжает развиваться в неожиданных направлениях. Расскажите нам о последних новостях.
- Сайт, выдающий себя за региональную газету Texas News Today, выпустил очень похожую историю, украденную из Wired, о моем проекте. Я думаю, что это автоматизированный процесс: они всасывают материал в свою систему, переписывают его, а затем он снова рассылается на все эти сайты, которые очень похожи на фальшивые издания из Велеса. Это та же самая бизнес-модель. Я покопался, и оказалось, что эти люди из Texas News Today — сайт фейковых новостей, базирующийся в Пуне, Индия, и они управляют целым рядом сайтов на разных языках.
Теперь эти сайты фейковых новостей воруют истории о моем проекте с фейковыми фотографиями и текстом. И есть те, кто цитируют фейкового автора, якобы написавшего статью, как некий достоверный источник. Круг замкнулся. Вот он — весь механизм хаоса.
Материал создан при поддержке Медиасети.
Фотографии: Jonas Bendiksen/Magnum Photos.
Дополнительные изображения из "Книги Велеса" предоставлены GOST Books.
