Тот момент, когда технологии не оставляют места для людей

В середине февраля веб-сайт thispersondoesnotexist.com наделал много шума. Перейдите по ссылке и увидите человеческое лицо – лицо, которое не принадлежит ни одному человеку. Это почти идеальное сгенерированное компьютером изображение, которое на первый взгляд почти не отличить от реальной фотографии. 

Изображения, сгенерированные веб-сайтом thispersondoesnotexist.com. Этих людей не существует.

Программист Uber Филлип Венг (Phillip Wang) создал этот сайт на основе разработок Nvidia для повышения осведомленности о технологиях, создающих такие изображения, а именно о генеративно-состязательных сетях. Это программы с двумя нейронными сетями, одна из которых генерирует изображение, а другая определяет, насколько реальным оно выглядит, и заставляет первую программу улучшить результат. Цель сайта заключается в том, чтобы создавать человеческие лица, которые практически невозможно отличить от реальных.

Люди, которых создает сайт Вэнга, выглядят настоящими. Но их не существует. Они никто.

Через несколько дней после запуска сайта исследовательская компания OpenAI выложила в общий доступ инструмент, который может написать связный текст на заданный человеком запрос. Она назвала его «дипфейком для текста», ссылаясь на технологию (deepfake), которая позволяет заменять лицо человека на видеозаписи. Согласно The Guardian системе на базе искусственного интеллекта дают текст, от нескольких слов до целой страницы, и поручают дополнить его несколькими предложениями, исходя из ее собственных прогнозов относительно того, как он должен продолжаться».

Люди, которые создаются сайтом Вэнга, выглядят настоящими. Но их не существует. Они никто.

OpenAI не публикует полную версию этой технологии, которую она назвала GPT2, ввиду обеспокоенности по поводу ее «масштабного» злоупотребления в целях дезинформации, однако The Guardian удалось ее протестировать, дав ей задание написать историю о самой себе. Чтобы программа поняла, что от нее требуется, редакторы газеты ввели первые два абзаца текста. Подобно лицам, создаваемым генеративными соревновательными сетями, стиль написания истории почти не отличался от стиля человека. GPT2 даже использовала цитаты собственных разработчиков (она повела себя так же, когда журналисты написали несколько предложений о выходе Великобритании из Европейского союза, и приводила несуществующие цитаты лидера Лейбористской партии Джереми Корбина).

Текст GPT2 выглядит так, будто его написал человек. Но его никто не писал.

Прошлой весной Google выложила в сеть две аудиозаписи. В каждой из них ее программа Duplex, имитирующая голос, звонила реальным людям. Сначала она звонила в парикмахерскую, чтобы записаться на стрижку, причем задача усложнялась тем, что прийти можно было на самое разное время. Во втором случае программа пыталась зарезервировать столик в ресторане, и женщина ответила, что они не бронируют столики для четырех и менее человек.

Кажется, что на звукозаписи слышно живого человека. Однако на самом деле никто не говорил эти слова.

. . .

В конце 1877-го года Томас Эдисон вошел в офис журнала Scientific American со своим последним изобретением. Как редакторы журнала позже описали его, «это было небольшое изделие из металлических деталей на тридцатисантиметровой железной подставке». Это был фонограф, способный механическим способом записывать и воспроизводить звуки. И хотя сотрудники журнала были уже с ним знакомы, они все равно были впечатлены возможностями этой технологии.

«Не имеет значения, насколько хорошо вы знакомы с современными технологиями и их удивительными возможностями или насколько четко вы понимаете принцип работы этого удивительного устройства, поскольку, слушая механический голос, вас не покидает мысль, что вы сходите с ума, – подытожил редакторский отдел Scientific American. – Мы уже упоминали о невероятной возможности услышать голоса мертвых с помощью этого аппарата, однако его потенциал в других областях, несомненно, не менее поразительный».

Отделить человечество от технологий практически невозможно. На протяжении всей нашей истории технологии использовались для усиления и совершенствования человеческого опыта. Они также имеют другое важное применение – сохранить человечество. Это особенно касается коммуникативных технологий: от печатного дела до фотографии и, наконец, интернета. Несмотря на все многообразие функций, которые выполняют для нас технологии, и на первоочередные причины их создания, они, по большому счету, призваны помочь человечеству запомнить себя, напоминать нам, что мы существуем.

Возможно, именно поэтому последний прогресс в области искусственного интеллекта вызывает некое беспокойство. В отличие от простой записи звука, вышеупомянутые программы не просто копируют людей или человеческое общение – они его реплицируют, то есть создают реплику. Это с виду незначительное отличие является очень важным. Слово «репликация» происходит от латинского replicare «re» (повторно, снова) и «plicare» (сгибать).

Перед тем как стать синонимом копии, репликация означала «повторно складывать/сгибать». Такой этимологический анализ проливает свет на то, что действительно происходит в случае этих новых видов искусственного интеллекта. Копия и ее оригинал могут существовать одновременно и отдельно друг от друга, и даже если оригинал теряется, копия является доказательством того, что он когда-то существовал. Реплика, с другой стороны, предусматривает обработку – перефальцовку – оригинала с целью создания новой формы. То есть во время этого процесса какая-то из граней оригинала исчезает. Этот факт частично обусловливает тревогу и отвращение, которые мы испытываем, когда человекообразные реплики (например, роботы) выглядят и ведут себя очень похоже на нас, что в робототехнике называют эффектом «Зловещей долины». В конце концов, то, что теряется в реплике (часть человеческого лица, слов или голоса), – это, по сути, и есть мы – люди.

Эти новые инструменты, работающие на базе искусственного интеллекта, служат напоминанием не того, что мы существуем, а скорее того, что в ближайшее время мы, в определенной степени, существовать уже не будем.

. . .

«Наш биологический вид склонен собирать данные и помнить, – отметил керамик из Австрии Мартин Кунзе (Martin Kunze) в интервью для журнала GQ в прошлом году. – Мы везде оставляем свой след». Кунзе постепенно строит временную капсулу, которую он называет «Память человечества». Кунзе самостоятельно создает керамическую плитку, на которой «гравирует лазером личные воспоминания, глобальные новости, тексты из книг и научных исследований», создавая глубоко в соляных шахтах упоминания о человечестве, которые в далеком будущем смогут найти следующие или инопланетные цивилизации.

Масштабы этого проекта быстро растут. Сейчас Кунзе работает с тремя видами материалов: журналистские («выборка газетных статей со всего мира, всевозможные политические и географические точки зрения»); институциональные («в частности научные работы и диссертации, художественные проекты и популярные песни», в том числе в местах хранения ядерных боеприпасов) и, наконец, личные.

«Он уже украсил более 500 керамических плиток. Ему в этом помогают десятки добровольцев из разных стран, отправляя через созданный им сайт электронные письма или файлы с материалами, которые они хотели бы напечатать на плитке, – рассказывает о проекте один из авторов журнала GQ Майкл Патернити (Michael Paterniti). – Они присылают ему записи из своих дневников и любовные письма, статьи из журналов и узкоспециализированные диссертации, блоги и тексты – важнейшие части нашей культуры».

Стремление Кунзе сохранить воспоминания человечества частично обусловлено беспокойством по поводу отсутствия стабильного места для их хранения.

«Рано или поздно, – заявил Кунзе редакторам GQ, – нам придется массово удалять данные. Просто в экономических и экологических целях. Такое удаление не будет организованным, и мы не сможем выбирать, что сохранить, а что нет». Именно поэтому хотя веб-сайт проекта «Память человечества» и направлен за пределы нашего мира (на технологически более развитые цивилизации из далекого будущего и, возможно, с других планет), на нем есть примечание о том, что «возможно, «Память человечества» пригодится и нашим внукам, если вдруг вся информация о начале 21-го века канет в Лету».

. . .

Глобальное удаление данных действительно может означать потерю всей информации навсегда, однако, если предположить, что серверы останутся целыми, их память будет постоянно перезаписываться. Ввиду последнего прогресса в области искусственного интеллекта нам следует задуматься над тем, какими именно данными память будет перезаписываться?

Мнение о том, что в случае потери на первый взгляд вездесущих данных, отслеживающих детали нашей жизни, на их место придут аналогичные данные, может быть ошибочным. Вместо этого может произойти нечто более странное. По мере улучшения возможностей искусственного интеллекта и его алгоритмов мир может оказаться в ситуации, когда данные, приходящие на замену потерянным, больше не будут создаваться людьми. Они будут только напоминать наши творения и являться всего лишь результатами работы миллионов алгоритмов, которые непрерывно между собой взаимодействуют и общаются.

Мы можем оказаться в будущем, где мы физически еще существуем, но не можем хранить или вспомнить наши былые чувства и мысли – то, что делает нас людьми.

Одна программа осуществляет звонок, другая отвечает на него. Один алгоритм составляет историю, другой пишет роман на ее основе. Алгоритм создает человеческое лицо, а бот использует его для создания профиля в социальной сети и общается с другими подобными профилями, созданными другими ботами. И так до бесконечности – алгоритм на алгоритме сидит и алгоритмом погоняет.

Страхи, связанные с искусственным интеллектом, обычно предполагали физическое слияние с компьютером, создание некоего гибрида сверхчеловека или порабощение людей машинами. Но может случиться нечто иное. Мы можем оказаться в будущем, где мы физически еще существуем, но не можем хранить или вспомнить наши былые чувства и мысли – то, что делает нас людьми. Как следствие, серверы будут пополняться бесчисленными репликами, а мы достигнем точки абсолютного одиночества, и наша человечность навсегда останется выгравированной на керамических дощечках, разбросанных где-то по горным пещерам.

Серверы, возможно, никогда не будут пустыми, однако технологии, которые мы создали, чтобы сохранить себя, вместо этого будут хранить реплики. А мы тем временем исчезнем – не из поля зрения, а из архивов. Мы веками разрабатывали технологии, чтобы позаботиться о будущем человечества, однако сегодняшние технологи, видимо,  позаботятся исключительно о самих себе.