Як дізнатись, що штучний інтелект здобув свідомість?
Австралійський філософ Девід Чалмерз (David Chalmers) підняв цікаве питання про те, чи можуть існувати «філософські зомбі» – люди, які поводяться, як ми з вами, однак не мають суб’єктивного досвіду. Ця ідея викликала інтерес до свідомості серед багатьох вчених.. Обґрунтування цієї теорії полягає в тому, що якщо такі зомбі або витончені роботи без почуттів і можливі, то самі по собі фізичні властивості мозку або подібного механізму не можуть пояснити досвід свідомості. Натомість за почуття усвідомленості повинні відповідати інші додаткові ментальні властивості. Питання походження цих ментальних властивостей стало «фундаментальною проблемою» свідомості.
Проте є невеличка проблема із зомбі Чалмерза. Зомбі повинні могти задати хоча б якесь запитання про характер походження досвіду. Було б цікаво почути роздуми людини або машини про досвід, якого вона ніколи не мала. В одному з подкастів Making Sense з нейробіологом Семом Харрісом (Sam Harris) Чалмерз висловив своє бачення цієї проблеми. «Як на мене, уявити подібну поведінку системи доволі легко. Наприклад, у ході нашої з вами розмови ви багато говорите про свідомість, що змушує мене припустити, що ви її маєте. Однак я можу, принаймні для власної забави, допустити, що ви – несвідомий зомбі, який просто видає всі ці звуки, зовсім не розуміючи, що вони означають».
Це не суто академічний дискурс. Якщо DeepMind від Google розробить штучний інтелект (ШІ), який буде запитувати, скажімо, чому червоний колір здається червоним, а не якимось іншим, цьому можна знайти лише декілька пояснень. По-перше, ШІ міг десь почути це питання. По-друге, він може навчитись цьому питанню, просто читаючи теоретичні праці про свідомість. По-третє, ШІ можна запрограмувати задавати це питання, як персонажа комп’ютерної гри, або ж таке запитання могло сформуватись випадково з того набору слів, яким володіє ШІ. Запитання про свідомість, вочевидь, самі по собі нічого не доводять. Але чи може зомбі, створений на основі ШІ, самостійно сформулювати таке запитання, а не лише повторити почуте або запрограмоване? Особисто я вважаю, що ні, це неможливо. Якщо я правий, то запитання ШІ про суб’єктивний досвід без відповідного запиту з нашої сторони дадуть суттєві підстави вважати, що ШІ став свідомим. Оскільки ми ще не знаємо, наскільки етичним буде знищувати такий ШІ, не знаючи, має він свідомість чи ні, нам варто вже зараз почати прислуховуватись до того, що він каже.
Наш свідомий досвід складається з «квалія» – суб’єктивних аспектів відчуття: червоності червоного, солодкості солодкого. Квалія, які формують наш свідомий досвід, не піддаються спрощенню і їх не можна перенести на будь-що інше. Якби я народився сліпим, жодна людина, якою б красномовною вона не була, не змогла б передати мені відчуття кольору крові та троянд. Це було б правдою, навіть якби я відносився до категорії сліпих людей, які розвинули сліпобачення – здатність уникати перешкод та точно вгадувати, де появляться об’єкти на комп’ютерному екрані, попри сліпоту.
Як показує можливість сліпобачення, деяку поведінку можна повністю механізувати, тобто певні дії можуть виконуватись без суб’єктивної свідомості – що підтверджує теорію Чалмерза про зомбі. Як виявляється, мозок людей, які володіють сліпобаченням, звертається до підсвідомих зон візуальної системи, що дозволяє людям без візуального досвіду відтворювати поведінку зрячих. Це часто стається після інсульту або іншого пошкодження зорової кори – частини кори головного мозку, яка відповідає за обробку візуальної інформації. Оскільки очі людини досі здорові, вони можуть передавати приховану від свідомості інформацію до певних зон мозку, зокрема до верхнього двогорбкового тіла.
Окрім цього, існує принаймні декілька задокументованих випадків, коли глухі могли чути. В одному з таких випадків, описаному у випуску журналу «Філософська психологія» 2017 року, глухий з народження чоловік був здатен виокремлювати звуки на основі їх змісту. У випадку таких людей подібне виокремлення відбувається у повній тишині. Але якщо глуха людина, здатна розрізняти звуки, задала б питання, яке може задати лише людина, яка може чути (наприклад «Цей звук має певний мідний відтінок, чи не так?»), тоді ми мали б підстави запідозрити, що ця людина зовсім не глуха. (Звичайно ж, ми не можемо бути абсолютно впевнені, адже це питання може бути іронією або жартом.) Подібним чином, якщо ШІ почне задавати питання, які лише свідома людина може задати, без відповідного запиту з нашої сторони, ми також матимемо підстави на подібну підозру про те, що ми маємо справу з суб’єктивним досвідом.
21 століття конче потребує Тест Тюрінга на свідомість. ШІ вчиться керувати автомобілем, діагностувати рак легенів та писати власні комп’ютерні програми. Можливо, вже через 10-20 років ми зможемо поговорити з ним на рівних, і майбутня суперверсія ШІ – це не лише плід нашої уяви, який живе у вакуумі. Він матиме доступ до інтернету та усіх праць Чалмерза та інших філософів, які розглядати питання свідомості та квалія. Але якщо ІТ-компанії проводитимуть бета-тест ШІ у локальній мережі, ізольованій від такої інформації, вони зможуть провести розмову з ШІ про квалія у стилі Тесту Тюрінга і подивитись, чи він розуміє, про що йде мова.
Що ми можемо запитати потенційний розум, створений з кремнію? Відповіді ШІ на такі питання, як «Що якщо мій червоний – це твій синій?» або «Чи може існувати колір зеленіший, ніж зелений?», розкриють природу його розумового досвіду або ж вкажуть на його відсутність. ШІ з візуальним досвідом може досить цікаво відповісти на ці запитання, зокрема: «Так, часом я задумуюсь, чи може існувати колір, який поєднує у собі червоність червоного та холодність синього». З іншої сторони, ШІ, у якого відсутні будь-які візуальні квалія, може відповісти: «Це неможливо. Червоний, зелений та синій кольори – це просто різні довжини хвиль». Навіть якщо ШІ спробує підіграти нам або обманути нас, його відповідь у стилі «Цікаво, а що якщо мій червоний – це твій гамбургер?» одразу ж виведе його на чисту воду, і ми зрозуміємо, що він взагалі не вловив суті проблеми.
Штучна свідомість, звичайно ж, може мати квалія, які значно відрізняються від людських. У такому випадку запитання про конкретні квалія, зокрема квалія кольору, можуть не мати сенсу для ШІ. Однак більш абстрактні запитання про самі квалія повинні відфільтровувати зомбі. З цієї причини найкраще запитання має стосуватись самої «фундаментальної проблеми»: чому свідомість взагалі існує? Чому ви відчуваєте певні квалія, сприймаючи інформацію, що надходить з оточуючого середовища? Якщо це питання буде зрозумілим для ШІ, то ми, ймовірно, відкриємо штучну свідомість. Але якщо ШІ зовсім не розумітиме такі концепції, як «свідомість» та «квалія», то це буде ознакою відсутності будь-якого внутрішнього розумного життя.
Створення детектору свідомості – завдання не з легких. Разом із таким Тестом Тюрінга дослідники майбутнього скоріше за все будуть застосовувати сьогоднішні абстрактні теорії про свідомість, намагаючись підтвердити існування свідомості на основі комп’ютерної електричної схеми. Одна з таких теорій розглядає кількість інформації, що інтегрується мозком або іншою системою. Вона вже використовується для підтвердження існування свідомості у пацієнтів з травмою головного мозку та навіть косяків риб. І дійсно, людство ще не достатньо мотивоване, аби профінансувати дослідження з виявлення штучної свідомості, а от потреба виявити свідомість у пацієнтів з пошкодженням мозку вже видалила слово «свідомість» з чорного списку науковців.
Лабораторія Каліфорнійського університету Лос-Анджелеса, на чолі якої стоїть Мартін Монті (Martin Monti), прагне покращити життя пацієнтів з травмою мозку шляхом розробки кращих засобів виявлення свідомості на основі електричної або метаболічної активності мозку. Ми зіштовхнемось з такими ж етичними проблемами при знищенні штучної свідомості, як і при відключенні пацієнтів, які мають свідомість, однак не реагують на зовнішні стимули, від апаратів, що підтримують їх життєдіяльність. Подібно до того як наша лабораторія застосовує теоретичні показники виміру свідомості до поведінки пацієнтів з пошкодженим мозком на лікарняному ліжку, майбутні науковці будуть застосовувати аналогічні теоретичні показники виміру штучної свідомості до результатів проходження чогось схожого на Тест Тюрінга. А тому перед нами ще досі стоїть завдання сформулювати запитання, на яке зомбі не зможуть відповісти.