Той момент, коли технології не лишають місця для людей

Ми створювали технології, щоб зберегти людство. Натомість технології збережуть самі себе.

В середині лютого веб-сайт thispersondoesnotexist.com наробив багато шуму. Перейдіть за посиланням і побачите людське обличчя – обличчя, яке не належить жодній людині. Це майже ідеальне згенероване комп’ютером зображення, яке на перший погляд майже не відрізнити від реальної фотографії.

Зображення, згенеровані веб-сайтом thispersondoesnotexist.com. Цих людей не існує.

Програміст Uber Філліп Венг (Phillip Wang) створив цей сайт на основі розробок Nvidia для підвищення рівня поінформованості про технології, що створюють такі зображення, а саме про генеративні змагальні мережі. Це програми з двома нейронними мережами, одна з яких генерує зображення, а інша визначає, наскільки реальним воно виглядає, і змушує першу програму покращити результат. Ціль сайту полягає в тому, щоб створювати людські обличчя, які практично неможливо відрізнити від реальних.

Люди, яких створює сайт Венга, виглядають справжніми. Але їх не існує. Вони ніхто.

Через декілька днів після запуску сайту дослідницька компанія OpenAI виклала у загальний доступ інструмент, який може написати зв’язний текст на заданий людиною запит. Вона  назвала його «діпфейком для тексту», посилаючись на технологію (deepfake), яка дозволяє замінювати обличчя людини на відеозаписі. Згідно з The Guardian системі на базі штучного інтелекту дають текст, від декількох слів до цілої сторінки, і доручають доповнити його декількома реченнями на основі її власних прогнозів щодо того, як він повинен продовжуватись».

Люди, що створюються сайтом Венга, виглядають справжніми. Але їх не існує. Вони ніхто.

OpenAI не публікує повну версію цієї технології, яку вона назвала GPT2, через занепокоєність з приводу її «масштабного» зловживання в цілях дезінформації, однак The Guardian вдалось її протестувати, давши їй завдання написати історію про саму себе. Аби програма зрозуміла, що від неї вимагається, редактори газети ввели перші два абзаци тексту. Подібно до облич, що створюються генеративними змагальними мережами, стиль написання історії майже не відрізнявся від стилю людини. GPT2 навіть використовувала цитати власних розробників (вона повела себе так само, коли журналісти написали декілька речень про вихід Великої Британії з Європейського союзу, і наводила неіснуючі цитати лідера Лейбористської партії Джеремі Корбіна).

Текст GPT2 виглядає так, ніби його написала людина. Але його ніхто не писав.

Минулої весни Google виклала в мережу два аудіозаписи. В кожному з них її програма Duplex, що імітує голос, телефонувала реальним людям. Спершу вона телефонувала до перукарні, щоб записатись на стрижку, причому завдання ускладнювалось тим, що прийти можна було на зовсім різний час. У другому випадку програма намагалась зарезервувати столик у ресторані, і жінка відповідала, що вони не бронюють столики для чотирьох і менше чоловік.

Здається, що на звукозаписі чути живу людину. Однак насправді ніхто не говорив ці слова.

. . .

В кінці 1877-го року Томас Едісон увійшов до офісу журналу Scientific American зі своїм останнім винаходом. Як редактори журналу пізніше описали його, «це був невеличкий виріб із металевих деталей на тридцятисантиметровій залізній підставці». Це був фонограф, здатний механічним способом записувати та відтворювати звуки. І хоча працівники журналу були вже з ним знайомі, можливості цієї технології все одно їх вражали.

«Не має значення, наскільки обізнана людина із сучасними технологіями та їх дивовижними можливостями чи наскільки чітко вона розуміє принцип роботи цього дивного пристрою, оскільки, слухаючи механічний голос, вас не покидає думка, що ви їдете з глузду, – підсумовував редакторський відділ Scientific American. – Ми вже згадували про неймовірну можливість почути голоси мертвих за допомогою цього апарату, однак його потенціал в інших сферах, безсумнівно, не менш разючий».

Відділити людство від технологій практично неможливо. Протягом всієї нашої історії технології використовувались для посилення та вдосконалення людського досвіду. Вони також мають інше важливе застосування – зберегти людство. Це особливо стосується комунікативних технологій: від друкарської справи до фотографії і, врешті, інтернету. Незважаючи на усе різноманіття функцій, які виконують для нас технології, та на першочергові причини їх створення, вони,  по великому рахунку, покликані допомогти людству запам’ятати себе, нагадувати нам, що ми існуємо.

Можливо, саме тому останній прогрес у сфері штучного інтелекту викликає певне занепокоєння. На відміну від простого запису звуку, вищезгадані програми не просто копіюють людей чи людське спілкування – вони його реплікують, тобто створюють репліку. Ця на вигляд незначна відмінність дуже важлива. Слово «реплікація» походить від латинського replicare: «re» (повторно, знову) і «plicare» (згинати).

Перед тим як стати синонімом копії, реплікація означала «повторно складати/згинати». Такий етимологічний аналіз проливає світло на те, що насправді відбувається у випадку цих нових видів штучного інтелекту. Копія та її оригінал можуть існувати одночасно та окремо одне від одного, і навіть якщо оригінал втрачається, копія є доказом того, що він колись існував. Репліка, з іншого боку, передбачає обробку – перефальцювання – оригіналу з метою створення нової форми. Тобто під час цього процесу якась із граней оригіналу зникає. Цей факт частково обумовлює тривогу та відразу, які ми відчуваємо, коли людиноподібні репліки (приміром, роботи) виглядають та поводяться дуже схоже на нас, що в робототехніці називають ефектом «Моторошної долини». Врешті решт, те, що втрачається в репліці (частина людського обличчя, слів чи голосу), – це, по-суті, і є ми – люди.

Ці нові інструменти, що працюють на базі штучного інтелекту, служать нагадуванням не того, що ми існуємо, а скоріше того, що найближчим часом ми, певною мірою, існувати вже не будемо.

. . .

«Наш біологічний вид схильний збирати дані і пам’ятати, – відмітив керамік з Австрії Мартін Кунзе (Martin Kunze) в інтерв’ю для журналу GQ минулого року. – Ми всюди лишаємо свій слід». Кунзе поступово будує часову капсулу, яку він називає «Пам’ять  людства». Кунзе самостійно створює керамічну плитку, на якій «гравірує лазером особисті спогади, глобальні новини, тексти з книг та наукових досліджень», таким чином створюючи глибоко в соляних шахтах згадки про людство, які в далекому майбутньому зможуть знайти наступні чи інопланетні цивілізації.

Масштаби цього проекту швидко зростають. Наразі Кунзе працює з трьома видами матеріалів: журналістські («вибірка газетних статей зі всього світу, усі можливі політичні та географічні точки зору»); інституційні («зокрема наукові роботи та дисертації, мистецькі проекти та популярні пісні», у тому числі в місцях збереження ядерних боєприпасів); і, врешті, особисті.

«Він уже оздобив більше 500 керамічних плиток. Йому в цьому допомагають десятки добровольців з різних країн, надсилаючи через створений ним сайт електронні листи чи файли з матеріалами, які вони хотіли б надрукувати на дощечці, – розповідає про проект один з авторів журналу GQ Майкл Патерніті (Michael Paterniti). – Вони надсилають йому записи зі своїх щоденників та листи коханим, статті з журналів та вузькоспеціалізовані дисертації, блоги та тексти – найважливіші частини нашої культури».

Прагнення Кунзе зберегти спогади людства частково зумовлене занепокоєнням з приводу відсутності стабільного місця для їх зберігання.

«Рано чи пізно, – заявив Кунзе редакторам GQ, – нам прийдеться масово видаляти дані. Просто в економічних та екологічних цілях. Таке видалення не буде організованим, і ми не зможемо вибирати, що зберегти, а що ні». Саме тому хоча сайт проекту «Пам’ять  людства» і спрямований назовні (на технологічно більш розвинені цивілізації з далекого майбутнього та, можливо, з інших планет), на ньому є примітка про те, що «можливо, «Пам’ять  людства» стане у нагоді і нашим онукам, якщо раптом уся інформація про початок 21-го століття кане в Лету».

. . .

Глобальне видалення даних дійсно може означати втрату усієї інформації назавжди, однак, якщо припустити, що сервери залишаться цілими, їхня пам’ять буде постійно перезаписуватись. З огляду на останній прогрес у сфері штучного інтелекту нам слід задуматись над тим, якими саме даними пам’ять буде перезаписуватись?

Думка про те, що у разі втрати на перший погляд всюдисущих даних, які відслідковують деталі нашого життя, на їх місце прийдуть аналогічні дані, може бути помилковою. Натомість може статись дещо дивніше. По мірі покращення можливостей штучного інтелекту та його алгоритмів світ може опинитися у ситуації, коли дані, що приходять на заміну втраченому, більше не будуть створюватись людьми. Вони лише нагадуватимуть наші творіння і будуть всього-на-всього результатами роботи мільйонів алгоритмів, які безперервно між собою взаємодіють та спілкуються.

Ми можемо опинитися в майбутньому, де ми фізично ще існуємо, однак не маємо змоги зберігати чи згадати наші минулі почуття та думки – те, що робить нас людьми.

Одна програма здійснює дзвінок, інша відповідає на нього. Один алгоритм складає історію, інший пише роман на її основі. Алгоритм створює людське обличчя, а бот використовує його для створення профілю у соціальній мережі і спілкується з іншими подібними профілями, створеними іншими ботами. І так до безкінечності – алгоритм на алгоритмі сидить і алгоритмом поганяє.

Страхи, пов’язані зі штучним інтелектом, зазвичай мали на увазі фізичне злиття з комп’ютером, створення певного гібриду надлюдини або поневолення людей машинами. Але може трапитись дещо інше. Ми можемо опинитися у майбутньому, де ми фізично ще існуємо, однак не маємо змоги зберігати чи згадати наші минулі почуття та думки – те, що робить нас людьми. Як наслідок, сервери будуть поповнюватись незліченними репліками, а ми досягнемо точки абсолютної самотності, і наша людяність назавжди залишиться викарбуваною на керамічних дощечках, розкиданих десь по гірським печерам.

Сервери, можливо, ніколи не будуть пустими, однак технології, які ми створили, щоб зберегти себе, натомість зберігатимуть репліки. А ми тим часом зникнемо – не з поля зору, а з архівів. Ми століттями розробляли технології, щоб подбати про майбутнє людства, однак сьогоднішні технології, вочевидь, подбають виключно про самих себе.