Як створити штучний інтелект, якому можна довіряти

Комп'ютерні системи мають розуміти що таке час і простір. Зараз вони цього не роблять.


Штучний інтелект має проблему довіри. Ми усе частіше спираємось на технології, але чи можемо робити це із впевненістю? Навряд чи.
Автомобілі Tesla, що рухаються в режимі автопілота, досі врізаються у нерухомі транспортні засоби. Система розпізнавання обличчя від Amazon більшість часу працює справно, але коли її попросили порівняти обличчя 535 членів Конгресу США з 25000 фотографіями злочинців, вона виявила 28 збігів, коли насправді їх не було.

Також було виявлено, що комп'ютерна програма, призначена для пошуку ветеринарів в Amazon, систематично дискримінувала жінок. Нові слабкі місця штучного інтелекту проявляються щомісяця.
Проблема не в тому, що потрібно покращувати наявний функціонал Ш.І. А в тому, що на сьогодні необхідно спробувати зробити щось зовсім інше.

Зокрема, нам необхідно припинити будувати комп'ютерні системи, які просто вдосконалюються при виявленні статистичних моделей у наборах даних — часто використовуючи підхід, відомий як глибоке навчання, – і почати будувати комп'ютерні системи, які з моменту їх утворення всебічно засвоюють три основні поняття: час, простір та причинно-наслідкові зв’язки.

Сьогодні системи Штучного Інтелекту ледве знають про будь-яку з цих концепцій. Розглянемо уявлення ШІ про час. Нещодавно ми загуглили «Чи користувався Джордж Вашингтон комп’ютером?» – це запит, відповідь на який вимагає пов'язати два основні факти (коли Вашингтон жив та коли комп'ютер був винайдений) в єдиних часових рамках. Жоден із 10 перших результатів пошуку Google не дав правильної відповіді. Результати не розв'язали це питання. Найвищим в рейтингу видачі посиланням стала стаття The Guardian про діджиталізований портрет Марти Вашингтон – фантасмагорії на тему як вона, можливо, виглядала за часів своєї юності.

Google “Talk to Books” – система Ш.І., яка відповідає на запити, надаючи відповідні уривки з величезної бази текстів, також провалила цю задачу.
Вона надала 20 уривків із широким набором фактів, деякі про Джорджа Вашингтона, інші про винахід комп’ютерів, але без жодного значущого зв'язку між ними.

Ситуація стає гіршою, коли мова йде про сприйняття штучним інтелектом поняття простору та причинно-наслідкових зв’язків. Навіть маленька дитина, уперше зіткнувшись з теркою для сиру, може зрозуміти, чому в ній є отвори з гострими зубчиками, які дозволяють сиру провалюватися та як її тримати, аби не пошкодити пальці. Але, жоден штучний інтелект не може правильно зрозуміти, як форма об’єкта пов'язана з його функцією. Гаджети можуть визначити, що це за об’єкт, але не те, як він взаємодіє з фізичними особливостями людини.
Для певних задач, що стоять перед штучним інтелектом, домінантний підхід кореляції даних працює чудовою. Ви можете легко навчити комп’ютеризовану систему визначити фотографії сіамських котів та фотографії Дерека Джетера й розрізнити їх між собою. Ось чому такі програми круто використовувати для автоматичного розміщення фотографій. Але у штучного інтелекту немає концептуальної глибини, він не може зрозуміти, що існує багато різних сіамських котів, а Дерек Джетер – це унікальна особа.

У чималому ступені, ця невдача з усвідомленням, дає чітке розуміння чому роботи загального призначення, такі як економка Розі в «The Jetsons» залишаються фантастикою. Якщо Розі не може зрозуміти основи побудови світу, ми не можемо довірити їй свій дім

Без усвідомлення концепту часу, простору та причинно-наслідкових зв’язків, більшість звичних речей втрачають свій сенс. Ми всі знаємо, наприклад, що життя будь-якої істоти починається з її народження і закінчується смертю; що в певний період свого життя вона займає певний простір; що дві істоти не можуть одночасно перебувати в одному й тому самому просторі; що дві істоти можуть перебувати в одному просторі в різний час; і так далі.
Нам не потрібно вивчати ці поняття. Вони є очевидними. Це набір фонових припущень, концептуальні рамки, завдяки яким всі інші наші думки про світ є можливими.
Та все ж, доволі мало людей, що працюють над штучним інтелектом намагаються створити такі фонові припущення на своїх машинах. Ми не говоримо, це легко зробити – навпаки, це важливий теоретичний і практичний виклик, – проте ми не ніколи не отримаємо розумний штучний інтелект без цього.
Якщо ми побудуємо машини, оснащені багатими концептуальними знаннями, деякі інші турботи зникнуть. Наприклад, філософ Нік Бостром уявив сценарій, в якому потужному штучному інтелекту, доручили створити скріпки для паперу, однак машина не знає, коли на якому етапі їй необхідно зупинитися, і врешті решт перетворить весь світ – разом із людством – на скріпки для паперу.

На наш погляд, такий вид дистопічних спекуляцій значною мірою виникає з роздумів про сьогоднішні бездумні системи штучного інтелекту та їх екстраполяцію. Якщо все, що ви можете обчислити, – це статистичне співвідношення, ви ніколи не зможете усвідомити рівень можливої шкоди. Але системи Ш.І., яким відомі поняття часу, простору та причину ситуації можна запрограмувати на виконання більш загальних речей, таких як: «Робот не може травмувати людину або, дозволити людині заподіяти собі шкоду» (перший із трьох законів робототехніки Ісаака Азімова).
Перед нами постав вибір.
Ми можемо дотримуватися сьогоднішнього підходу до штучного інтелекту. і значно обмежувати те, що дозволено робити машинам. Або ми можемо змінити свій підхід до штучного інтелекту в надії розвивати гаджети, які мають достатньо багате концептуальне розуміння світу, та яких ми можемо не боятися. Усе інше було б занадто ризиковано.