Журнал

«Заботливый искусственный интеллект поможет вам стать лучшей версией себя»

photo5dfccab3d4d33.png

В декабре в Берлине прошел Chatbot & Voice Summit 2019 — один из крупнейших ивентов в Европе, где собираются разработчики виртуальных ассистентов. Мы побывали там и записали ключевые мысли спикеров.

«80% компаний стремятся автоматизировать коммуникацию»

Йоав Барел, основатель и СЕО Chatbot Summit

О чем говорили на берлинском Chatbot & Voice Summit 2019. 0

До 2025 года у каждого из нас будет от 5 до 10 ботов, улучшающих разные сферы жизни. Они станут более рентабельными и простыми в применении.

Сегодня каждый второй клиент ожидает, что услуги будут доступны 24/7. 80% компаний стремятся автоматизировать свою коммуникацию.

Google и Microsoft уже прогнозируют, как будет выглядеть ваше утро через 20 лет. Они представляют мир, в котором личный цифровой помощник просматривает ваше расписание, пока вы спите.

И к тому времени, когда вы будете попивать утренний кофе, он сообщит вам о предстоящих встречах, погоде, важных событиях в мире и обо всем, что вы сочтете нужным.

Этот заботливый искусственный интеллект поможет вам стать лучшей версией себя. Он будет выполнять все повседневные задачи, которые когда-то забирали большую часть времени и энергии. А вы сможете сосредоточиться на том, что вам действительно нравится.

«Люди хотят, чтобы чат-боты были больше похожими на них»

Уолли Брилл, специалист по разработке чат-ботов Google

О чем говорили на берлинском Chatbot & Voice Summit 2019. 1

Голосовым ассистентам еще далеко до Саманты из фильма «Она» — с ее неотразимым обаянием и чувством юмора. Но вскоре мы будем все чаще с ними взаимодействовать. Это даст возможность освободить руки для других занятий.

В основе дизайна чат-бота три элемента:

иконка 1

Принцип сотрудничества: мы хотим, чтобы наши разговоры с виртуальным ассистентом были правдивыми, информативными и понятными.

Передача слова: мы хотим, чтобы виртуальный ассистент знал, когда его очередь говорить, а когда — наша.

Контекст: мы хотим, чтобы коммуникация с чат-ботом соответствовала ситуации, в которой мы находимся.

Стэнфордские исследователи Клиффорд Насс и Скотт Брэйв в своей книге Wired For Speech пишут, что в какой-то степени пользователи относятся к голосовым интерфейсам так же, как и к другим людям.

Устная речь возникла раньше письменности. Поэтому когда мы слышим голос, неосознанно присваиваем ему личность. Мозг автоматически создает образ того, кого мы слушаем. Мы обращаем внимание на такие атрибуты, как возраст, пол, образование, происхождение говорящего и его намерения.

Мы заметили, что люди склонны называть Google Assistant «она» или «он», а не «оно». Говорим: «она рассказала мне шутку» или «я спрошу его о погоде». Все потому, что мы не можем не создавать из этих атрибутов персонажей.

Чат-боты разработаны для решения конкретных задач. 54% людей утверждают, что предпочтут бота человеку-консультанту, если это сэкономит их время. Однако 6 из 10 людей, пообщавшись с машинами, жаловались на механичность процесса. Люди хотят, чтобы чат-боты были больше похожими на них.

«Важно ощущение того, что чат-бот — в чем-то как мы»

Ульрих Гневух, исследователь Технологического института Карлсруэ (Германия)

О чем говорили на берлинском Chatbot & Voice Summit 2019. 2

Последние годы я изучаю, как люди воспринимают коммуникацию с чат-ботами. Чтобы цифровые помощники казались более дружелюбными и искренними, нужно интегрировать в их речь антропоморфные (человекоподобные) сигналы. Важно ощущение того, что чат-бот — в чем-то как мы.

Задумайтесь: чего не хватает боту, чтобы быть похожим на компетентного человека, который хочет вам помочь? Как правило, чат-бот отвечает молниеносно. 

Наши исследования показывают, что быстрее — не всегда лучше.

Даже индикатор «Chatbot is typing…» вместо мгновенного ответа обеспечивает ощущение того, что это реальный диалог, что чат-бот своими «ручками» печатает ответ. Главное — не переборщить и не заставить пользователя ждать слишком долго.

Три истории о провальных чат-ботах

Нимрод Козловский, профессор по кибер-исследованиям Тель-Авивского университета

О чем говорили на берлинском Chatbot & Voice Summit 2019. 3

Сейчас нет единого стандарта по разработке чат-ботов. Эта индустрия чрезвычайно фрагментирована. Каждая компания пытается выдумать свое ноу-хау. Пора наконец начать разговор об этике и законе.

Вот несколько интересных историй, которые показывают, на что способны алгоритмы, взаимодействующие с людьми.

#1. Бот, который расстроил Тейлор Свифт

В 2016 году Microsoft выпустил цифрового подростка Tэй, которого представили как «нашего человека, причем суперклевого». Этот чат-бот учился у тех, кто ему писал, и выбирал не самые лучшие образцы для подражания.

После разговоров с некоторыми пользователями Тэй научилась отправлять подстрекательские и оскорбительные сообщения, поддерживающие нацизм, геноцид и расизм.

Жизнь Тэй была короткой. Всего через 16 часов после запуска проекта компания его закрыла. Президент Microsoft Брэд Смит в своей биографии пишет, что Тэйлор Свифт хотела подать на них в суд за то, что они назвали гнусного чат-бота ее именем.

И хоть дальше слов дело не дошло, пример наглядно демонстрирует: попытка персонализировать бота может иметь юридические последствия.

иконка 1

Весь бизнес-контент в удобном формате. Интервью, кейсы, лайфхаки корп. мира — в нашем телеграм-канале. Присоединяйтесь!

#2. Бот, который стал сексистом

Amazon решил использовать специальный алгоритм для подбора персонала. В 2014 году команда создала программное обеспечение для просмотра резюме соискателей. Его целью было автоматизировать поиск топ-талантов.

Но год спустя в компании поняли, что при отборе потенциальных сотрудников на технические должности система отсеивала женщин.

Проблема заключалась в том, что компьютерные модели Amazon анализировали резюме за последние 10 лет. Поскольку большинство резюме приходилось на мужчин, алгоритм решил, что они предпочтительнее. Позже Amazon обнаружил кучу других недостатков в своей системе и свернул проект.

#3. Боты, которые флиртовали и зарабатывали

Ashley Madison — канадская социальная сеть для людей, состоящих в браке или в серьезных отношениях. Ее основали в 2002 году с простым месседжем: «Жизнь коротка. Заведите роман».

В июле 2015 года группа хакеров слила в открытый доступ личные данные около 37 млн пользователей, включая их настоящие имена, домашние адреса, истории поиска и записи транзакций по кредитным картам.

В результате взлома всплыла интересная деталь. Ashley Madison заявляла, что мужчин и женщин на платформе поровну. И это, мол, опровергает стереотип, что первые более склонны к изменам.

О чем говорили на берлинском Chatbot & Voice Summit 2019. 4

Но данные показали, что основатели платформы лгали: не меньше 70% юзеров оказались мужчинами. А около 70 тыс. аккаунтов — ботами, имитирующими фривольных женщин. Миллионы пользователей без задней мысли обсуждали с ними свои дикие фантазии в обмен на плату за доступ.

Что можно извлечь из этих историй? Для отрасли, какой бы кластерной она ни была, прозрачность постепенно становится одним из главных запросов. Это не только правовой вопрос, а и вопрос хорошего тона.

Да, мы хотим, чтобы наши пользователи установили хорошие связи с нашими чат-ботами. Но мы обязаны убедиться, что они понимают, кто на самом деле сидит по ту сторону экрана.