Что вы знаете о виртуальных ассистентах?
В декабре в Берлине прошел Chatbot & Voice Summit 2019 — один из крупнейших ивентов в Европе, где собираются разработчики виртуальных ассистентов. Основными мыслями саммита являются следующие:
- 80% компаний стремятся автоматизировать коммуникацию;
- люди хотят, чтобы чат-боты были больше похожими на них.
Три истории о провальных чат-ботах
#1. Бот, который расстроил Тейлор Свифт
В 2016 году Microsoft выпустил цифрового подростка Tэй, которого представили как «нашего человека, причем суперклевого». Этот чат-бот учился у тех, кто ему писал, и выбирал не самые лучшие образцы для подражания.
После разговоров с некоторыми пользователями Тэй научилась отправлять подстрекательские и оскорбительные сообщения, поддерживающие нацизм, геноцид и расизм.
Жизнь Тэй была короткой. Всего через 16 часов после запуска проекта компания его закрыла. Президент Microsoft Брэд Смит в своей биографии пишет, что Тэйлор Свифт хотела подать на них в суд за то, что они назвали гнусного чат-бота ее именем.
И хоть дальше слов дело не дошло, пример наглядно демонстрирует: попытка персонализировать бота может иметь юридические последствия.
#2. Бот, который стал сексистом
Amazon решил использовать специальный алгоритм для подбора персонала. В 2014 году команда создала программное обеспечение для просмотра резюме соискателей. Его целью было автоматизировать поиск топ-талантов.
Но год спустя в компании поняли, что при отборе потенциальных сотрудников на технические должности система отсеивала женщин.
Проблема заключалась в том, что компьютерные модели Amazon анализировали резюме за последние 10 лет. Поскольку большинство резюме приходилось на мужчин, алгоритм решил, что они предпочтительнее. Позже Amazon обнаружил кучу других недостатков в своей системе и свернул проект.
#3. Боты, которые флиртовали и зарабатывали
Ashley Madison — канадская социальная сеть для людей, состоящих в браке или в серьезных отношениях. Ее основали в 2002 году с простым месседжем: «Жизнь коротка. Заведите роман».
В июле 2015 года группа хакеров слила в открытый доступ личные данные около 37 млн пользователей, включая их настоящие имена, домашние адреса, истории поиска и записи транзакций по кредитным картам.
В результате взлома всплыла интересная деталь. Ashley Madison заявляла, что мужчин и женщин на платформе поровну. И это, мол, опровергает стереотип, что первые более склонны к изменам.
Но данные показали, что основатели платформы лгали: не меньше 70% юзеров оказались мужчинами. А около 70 тыс. аккаунтов — ботами, имитирующими фривольных женщин. Миллионы пользователей без задней мысли обсуждали с ними свои дикие фантазии в обмен на плату за доступ.
Что можно извлечь из этих историй? Для отрасли, какой бы кластерной она ни была, прозрачность постепенно становится одним из главных запросов. Это не только правовой вопрос, а и вопрос хорошего тона.