Що ви знаєте про віртуальних асистентів?

У грудні в Берліні відбувся Chatbot & Voice Summit 2019 — один із найбільших заходів у Європі, де збираються розробники віртуальних асистентів. Основні тези саміту такі:

• 80% компаній прагнуть автоматизувати комунікацію;
• люди хочуть, щоб чатботи були більше схожі на них.

Три історії про невдалі чатботи

#1. Бот, який засмутив Тейлор Свіфт

У 2016 році Microsoft випустила цифрового підлітка Тей, якого представили як «нашу людину, до того ж суперкруту». Цей чатбот навчався в тих, хто йому писав, і обирав не найкращі приклади для наслідування.

Після розмов із деякими користувачами Тей навчилася надсилати підбурливі й образливі повідомлення, що підтримували нацизм, геноцид і расизм.

Життя Тей було коротким. Лише через 16 годин після запуску проєкту компанія його закрила. Президент Microsoft Бред Сміт пише у своїй біографії, що Тейлор Свіфт хотіла подати на них до суду за те, що вони назвали її ім’ям огидного чатбота.

Хоча далі слів справа не дійшла, цей приклад наочно показує: спроба персоналізувати бота може мати юридичні наслідки.

#2. Бот, який став сексистом

Amazon вирішила використовувати спеціальний алгоритм для добору персоналу. У 2014 році команда створила програмне забезпечення для перегляду резюме кандидатів. Його метою була автоматизація пошуку найкращих фахівців.

Але за рік у компанії зрозуміли, що під час добору потенційних працівників на технічні посади система відсіювала жінок.

Проблема полягала в тому, що комп’ютерні моделі Amazon аналізували резюме за останні 10 років. Оскільки більшість резюме були від чоловіків, алгоритм вирішив, що вони мають перевагу. Згодом Amazon виявила в системі багато інших недоліків і згорнула проєкт.

#3. Боти, які фліртували й заробляли

Ashley Madison — канадська соціальна мережа для людей, які перебувають у шлюбі або серйозних стосунках. Її заснували у 2002 році з простим гаслом: «Життя коротке. Заведіть роман».

У липні 2015 року група хакерів оприлюднила особисті дані близько 37 млн користувачів, зокрема їхні справжні імена, домашні адреси, історію пошуку та записи про транзакції з кредитних карток.

Унаслідок злому виявилася цікава деталь. Ashley Madison заявляла, що на платформі порівну чоловіків і жінок. І це, мовляв, спростовує стереотип, що перші більше схильні до зрад.

Але дані показали, що засновники платформи брехали: чоловіками виявилися щонайменше 70% користувачів. А близько 70 тис. облікових записів належали ботам, які вдавали з себе розпусних жінок. Мільйони користувачів, нічого не підозрюючи, обговорювали з ними свої дикі фантазії, сплачуючи за доступ.

Який висновок можна зробити з цих історій? У галузі, хай якою кластерною вона буде, прозорість поступово стає одним із головних запитів. Це не лише правове питання, а й питання доброго тону.