Недавно Цукерберг встретился с Ювалем Ной Харари — историком и автором бестселлера «Sapiens: Краткая история человечества». Рассказываем, о чем они говорили полтора часа.
Первый вопрос, который Марк Цукерберг задал Ювали Ною Харари — как прогресс влияет на общество. Способствует ли он интеграции или фрагментации мира?
Юваль Ной уверен, что человечество становится более единым. Тысячи лет назад Земля была вселенной, состоящей из множества не связанных между собой миров.
Постепенно развивались связи между государствами, и сегодня Земля — единая историческая, экономическая и культурная единица.
Несмотря на объединение мира современными технологиями (интернет, социальные сети, виртуальная реальность), политики строят бетонные стены. Возвращаются «технологии» каменного века. В этом заключается дуализм современного мира.
Еще одна особенность современного мира из онлайн-коммуникаций — создание идеального мира из единомышленников. Мы способны оградить себя от неприятной информации и людей. Если возникает конфликт, можно просто отфрендить пользователя.
Реальный мир устроен иначе — невозможно заблокировать шумного соседа или надоедливого коллегу. Жизнь онлайн не позволяет развивать важные социальные навыки.
Юваль Ной задает провокационный вопрос:
Какова реальная цель платформ типа Facebook?
Сделать так, чтобы люди начали общаться онлайн, а затем перешли к совместным действиям офлайн?
Или чтобы они как можно дольше оставались у экранов?
В чем задача — объединить людей или разбить на виртуальные изолированные группы?
Он считает, что алгоритм сортировки новостной ленты в FB формирует ограниченную картину мира. Пользователь видит лишь то, что соответствует его взглядам, а реальную картину общества игнорирует.
Хочется возвращаться на платформу снова и снова, чтобы оказаться в кругу единомышленников.
В защиту Facebook Цукерберг говорит, что алгоритмы основаны не только на действиях самообучающихся машин, но и на реальном общении. Пользователи рассказывают, какой хотят видеть платформу.
По мнению Харари, есть две основные проблемы, связанные с искусственным интеллектом (ИИ). Первая — усугубление неравенства между странами. Разработки в области ИИ создают пропасть между государствами с разным уровнем развития технологий. Последствия будут гораздо серьезнее, чем после промышленной революции.
Вторая проблема — изменяющаяся роль личности. Искусственный интеллект будет знать о нас больше, чем мы сами. Он сможет принимать за нас решения и предсказывать поведение. Приоритет властей сместится с работы с людьми на работу с алгоритмами.
Возможно ли предотвратить превращение искусственного интеллекта в инструмент манипуляции и контроля?
С точки зрения Цукерберга, вопрос не в технологиях, а в их использовании. Facebook находит агрессию в записях и комментариях и распознает лица, чтобы пользователь знал, что кто-то разместил фото с ним.
Но те же инструменты используют в Китае для тотального контроля населения. Ограничения в применении технологий — вопрос законодательства.
Харари беспокоит вопрос, в какой степени можно манипулировать людьми при помощи ИИ. Как скоро мы перестанем замечать, что нам навязывают мнение? Наши мысли и суждения — действительно наши или мозг уже «взломали»?
Цукерберг защищает технологии. Facebook ранжирует контент и выбирает то, что будет наиболее интересным пользователю. Но вряд ли есть монолитная система, которая анализирует все особенности личности и знает о человеке больше, чем он сам.
Как показывает практика FB, люди игнорируют контент, не соответствующий их взглядам, а не меняют точку зрения. Они способны отстаивать свои права на защиту личной информации, свободу слова и противостоят манипуляциям.
Харари настроен не так оптимистично. Во-первых, в тоталитарных странах контроль над людьми может стать нормой. Слежка и манипуляция не будут вызывать сопротивления, других вариантов не будет. Постепенно население поверит, что это ради их блага.
Другая опасность — замена свободы выбора на действия алгоритма. Скоро алгоритм сможет выбирать, куда пойти учиться, с кем жениться, в какую компанию устроиться, какую религию принять. Люди будут прислушиваться к рекомендациям — это освобождает от принятия решений.
Есть иллюзия, что машина непредвзято оценивает информацию о человеке, чтобы предложить лучший вариант.
Но так можно манипулировать целыми странами. Даже если система будет работать без вмешательств — что станет с понятиями «смысл жизни» и «свобода воли»? Жизнь всегда была чередой больших и маленьких решений, но внешние алгоритмы могут все изменить.