Нещодавно Цукерберг зустрівся з Ювалем Ноєм Харарі — істориком і автором бестселера «Sapiens: Коротка історія людства». Розповідаємо, про що вони говорили півтори години.
Перше запитання, яке Марк Цукерберг поставив Ювалю Ною Харарі: як прогрес впливає на суспільство? Він сприяє інтеграції чи фрагментації світу?
Юваль Ной упевнений, що людство стає більш єдиним. Тисячі років тому Земля була всесвітом, що складався з безлічі не пов’язаних між собою світів.
Поступово розвивалися зв’язки між державами, і сьогодні Земля — це єдина історична, економічна та культурна одиниця.
Попри об’єднання світу сучасними технологіями (інтернетом, соціальними мережами, віртуальною реальністю), політики будують бетонні стіни. Повертаються «технології» кам’яного віку. У цьому й полягає дуалізм сучасного світу.
Ще одна особливість сучасного світу онлайн-комунікацій — створення ідеального світу з однодумців. Ми можемо відгородитися від неприємної інформації та людей. Якщо виникає конфлікт, можна просто видалити користувача з друзів.
Реальний світ влаштований інакше — неможливо заблокувати галасливого сусіда чи надокучливого колегу. Онлайн-життя не дає розвивати важливі соціальні навички.
Юваль Ной ставить провокативне запитання:
Яка справжня мета платформ на кшталт Facebook?
Зробити так, щоб люди почали спілкуватися онлайн, а потім перейшли до спільних дій офлайн?
Чи щоб вони якомога довше залишалися перед екранами?
У чому завдання — об’єднувати людей чи розділяти їх на віртуальні ізольовані групи?
Він вважає, що алгоритм сортування стрічки новин у FB формує обмежену картину світу. Користувач бачить лише те, що відповідає його поглядам, а реальну картину суспільства ігнорує.
Хочеться знову й знову повертатися на платформу, щоб бути серед однодумців.
На захист Facebook Цукерберг каже, що алгоритми ґрунтуються не лише на діях машин, які навчаються, а й на реальному спілкуванні. Користувачі розповідають, якою хочуть бачити платформу.
На думку Харарі, є дві основні проблеми, пов’язані зі штучним інтелектом (ШІ). Перша — поглиблення нерівності між країнами. Розробки у сфері ШІ створюють прірву між державами з різним рівнем технологічного розвитку. Наслідки будуть набагато серйознішими, ніж після промислової революції.
Друга проблема — зміна ролі особистості. Штучний інтелект знатиме про нас більше, ніж ми самі. Він зможе ухвалювати рішення за нас і передбачати нашу поведінку. Пріоритет влади зміститься з роботи з людьми на роботу з алгоритмами.
Чи можна запобігти перетворенню штучного інтелекту на інструмент маніпуляції та контролю?
З погляду Цукерберга, питання не в технологіях, а в їх використанні. Facebook виявляє агресію в дописах і коментарях та розпізнає обличчя, щоб користувач знав, що хтось опублікував його фото.
Але ті самі інструменти використовують у Китаї для тотального контролю населення. Обмеження застосування технологій — питання законодавства.
Харарі непокоїть питання, наскільки можна маніпулювати людьми за допомогою ШІ. Як скоро ми перестанемо помічати, що нам нав’язують думку? Наші думки й судження справді наші чи мозок уже «зламали»?
Цукерберг захищає технології. Facebook ранжує контент і вибирає те, що буде найцікавішим користувачеві. Але навряд чи існує монолітна система, яка аналізує всі особливості особистості й знає про людину більше, ніж вона сама.
Як показує досвід FB, люди ігнорують контент, що не відповідає їхнім поглядам, а не змінюють точку зору. Вони здатні відстоювати свої права на захист особистої інформації та свободу слова, а також протистояти маніпуляціям.
Харарі налаштований не так оптимістично. По-перше, у тоталітарних країнах контроль над людьми може стати нормою. Стеження й маніпуляції не викликатимуть опору, інших варіантів не буде. Поступово населення повірить, що все це робиться заради його блага.
Інша небезпека — заміна свободи вибору діями алгоритму. Незабаром алгоритм зможе вибирати, куди піти навчатися, з ким одружитися, до якої компанії влаштуватися, яку релігію прийняти. Люди прислухатимуться до рекомендацій — це звільняє від потреби ухвалювати рішення.
Є ілюзія, що машина неупереджено оцінює інформацію про людину, щоб запропонувати найкращий варіант.
Але так можна маніпулювати цілими країнами. Навіть якщо система працюватиме без втручання — що станеться з поняттями «сенс життя» і «свобода волі»? Життя завжди було низкою великих і малих рішень, але зовнішні алгоритми можуть усе змінити.