Науковці винайшли надпотужний чип, завдяки якому машини отримали штучний інтелект неймовірної сили. У недалекому майбутньому вони вийшли з-під контролю, знищили людство й захопили Землю. Інший сценарій — машини, які випередили людину у своєму розвитку в тисячі разів, поневолили своїх творців і використовують їх як домашніх тварин…
Напевно, цей сюжет усім добре знайомий, адже на його основі створено безліч фантастичних романів і фільмів. Та чи варто боятися такого сценарію? Джон Серль чудово пояснив це, наочно показавши ще 1980 року різницю між машинним опрацюванням інформації та людським мисленням. Свій мисленнєвий експеримент він назвав «Китайська кімната». Уявіть, що вас замкнули в кімнаті, де є написи невідомою вам мовою — такою мовою Серль обрав китайську (адже «китайська грамота» здавна асоціюється з чимось незрозумілим), але це могла б бути будь-яка інша мова, навіть інопланетна. Вам дали інструкцію, у якій пояснено, як правильно поєднувати ієрогліфи; значення самих символів не пояснюють, бо для складання фраз це нібито не потрібно. За межами кімнати є спостерігачі, які знають китайську. На їхніх очах ви цілком правильно складаєте речення й цілі тексти з певним змістом. Водночас вам цей зміст зовсім незрозумілий.
Потім спостерігачі передають вам написи з запитаннями китайською. Ви легко можете на них відповісти, вибравши потрібні символи за правилами з інструкції. Зовні відповіді відповідають запитанням і цілком осмислені, однак можуть не відповідати справжній дійсності. Наприклад, вас запитали, який колір вам подобається найбільше, і ви написали «червоний», але вам подобається зелений. Насправді ви навіть не знаєте, що вас запитали про колір і що ви дали певну відповідь, — ви просто поєднали корінь із закінченням, абстрактний суб’єкт з абстрактним об’єктом тощо.
Як легко зрозуміти, система, що складається з кімнати й вас усередині, — це модель комп’ютера. Інструкція — це програма, а набори ієрогліфів — база даних. Спостерігачі за межами кімнати вводять певні дані, які «комп’ютер» опрацьовує відповідно до програми. І він зовсім не розуміє, яку саме інформацію опрацьовує і навіщо. Простіше кажучи, він займається синтаксисом — поєднанням об’єктів (символів) за завченими правилами, але не розуміє значення самих символів та їхніх комбінацій.
Навіть якщо ви захочете їсти (тобто «комп’ютер» захоче їсти), то не зможете сказати про це спостерігачам, навіть знаючи китайський синтаксис. Отже, інтелектуальна машина нездатна висловити власну волю, навіть якби вона в неї була.
Ці дві складові — область значень (семантика) і здатність висловлювати власну волю — і є сутністю людської розумової діяльності. Синтаксис теж потрібен, але він виконує лише допоміжну роль механізму передавання думок.
У своєму експерименті Серль не лише критикує можливість створення повноцінного штучного інтелекту. «Китайська кімната» розкриває суть формалізованої освіти, яку поступово запроваджують у школах і професійних училищах різних країн. Такі курси дають змогу швидко опанувати типові завдання, але не вчать розуміти, що саме ви робите. Людина, яка пройшла таке навчання, стає своєрідним біороботом: вона віртуозно поєднує деталі й виконує багатоступеневу послідовність дій, але не здатна керувати процесом, співвідносити його із завданнями вищого рівня, творчо розв’язувати проблеми й загалом розуміти сенс того, що відбувається. Для цього потрібна традиційна аналітична освіта, тривала й насичена інформацією.
Після виходу книжки Серля «Розум, мозок і програми», у якій описано «Китайську кімнату», в його теорії знайшлися не лише прихильники, а й противники. Деякі науковці зазначали, що система з кімнати, людини, ієрогліфів та інструкції сама по собі має розум, а людина в ній — лише один із компонентів, який виконує суто механічну роботу. У базі даних (наборі ієрогліфів) міститься весь масив знань цього гіпермозку. Утім, ці науковці самі забули, що система не змогла відповісти на запитання, який колір їй подобається, хоч її «відповідь» зовні була цілком правильною. Знання, що містяться в базі даних системи, не можуть впливати на її поведінку (її поведінка від них абстрагована: система лише механічно поєднує фрагменти знань, не замислюючись над наслідками).
Інші науковці, навпаки, сумніваються в самому існуванні людського розуму як чогось унікального. На їхню думку, усі розумові процеси людини — це синтаксис, хоч і неймовірно складний. Розгалужена система правил формувалася сотні тисяч років, зокрема за участю тварин-предків людини, але в основі все одно лежить велика база даних і певна кількість доступних комбінацій. Отже, люди й тварини — просто біороботи, які маніпулюють даними на різних рівнях. Їхній мозок може безпомилково виконувати корисну роботу, але може підхоплювати й «баги», роль яких виконує релігія (релігійно-ритуальну поведінку у тварин спостерігають так само часто, як і в людей); їх можна програмувати ззовні, зокрема «заносити віруси» (ідеологія, пропаганда, а у випадку з тваринами — дресирування).
То чи захоплять машини світ?
Найімовірніше, «повстання машин» ніколи не станеться. Навіть якщо комп’ютерний інтелект справді моделює людський, у передбачуваному майбутньому така модель явно поступатиметься природному мозку. А якщо якийсь надпотужний робот учинить «бунт» і накинеться на людей, то він лише механічно виконуватиме програму, написану людиною, і не матиме з цього жодної вигоди.
А що ви думаєте про цей експеримент?