26 августа 2016

Чего хотят миллионы ботов

Приватность Технологии Угрозы

Обмен текстовыми сообщениями нравится людям больше, чем живой разговор. Около 65% предпочтут долгий и мучительный диалог в WhatsApp или в другом мессенджере короткому телефонному звонку или личной встрече. Мы отправляем сообщения даже за рулем, хотя знаем: это опасно. Даже когда дело доходит до традиций и семейных собраний за общим столом, кто-нибудь обязательно что-нибудь напишет другим людям.

Добро пожаловать в царство чатботов

Вокруг происходит слишком много всего: много собеседников, разных знакомств, которые надо поддерживать. Поэтому многие люди предпочитают вести себя в Сети как интроверты. Это позволяет им общаться с другими людьми в удобном им ритме, а не тратить силы на разговоры, которые сложно начать и закончить, особенно если сегодня день не задался и нет настроения объяснять, что что-то не так.

При такой популярности текстового общения — чатов — нет ничего удивительного в том, что мир заполонили чат-боты. В одних случаях они просто заменяют живых собеседников, в других — выполняют какие-то специальные функции. Боты популярны у корпораций: в отличие от сотрудников, они никогда не жалуются, у них нет эмоций, и они всегда делают ту работу, на которую их запрограммировали.

Популярность чат-ботов резко пошла в гору, когда Telegram представил полноценный API для их разработки. После этого множество компаний решили обзавестись чат-ботами: для оказания технической и абонентской поддержки, обучения, распространения новостей, смешных картинок, даже порнографии… и в других самых разных целях.

Вопрос в том, действительно ли людям нужно такое количество чат-ботов вдобавок ко всем остальным контактам? Наш мозг устроен так хитро, что обманывает сам себя: например, мы склонны одушевлять неодушевленное. Мы даем имя и выбираем пол для своего автомобиля, гаджета и много чего еще.

Общаясь с чат-ботом, можно поневоле испытать похожие эмоции и вообразить на минуту, что строчки кода обладают личностью — хотя на самом деле нет. А так бывает — просто вспомните Siri, матерь драконов всех современных ботов.

Этот тренд может привести к разным интересным последствиям. Представьте, что боты стали новым супермодным трендом и каждая компания решила разработать парочку — или несколько сотен, по одному для решения каждой из многочисленных маркетинговых задач. Кстати, именно это сейчас и происходит.

Как будет выглядеть такая экосистема? Длинные списки контактов, в основном состоящие из ботов, и совсем на чуть-чуть — из людей. Чат-боты будут говорить с людьми, слать им смайлики, стикеры и смешные картинки с котиками и, конечно же, ссылки. А еще они будут изучать наше с вами поведение и приложат все усилия, чтобы продать нам товар их создателей.

Вот так выглядит технология будущего в руках прожженного бизнесмена. А дальше — хуже: начнутся проблемы с кибербезопасностью. Чат-бот — это настоящая золотая жила для любителей социальной инженерии и преступников. Эти люди зарабатывают на жизнь, в сущности, тем, что глубоко изучают поведение людей, и боты им в этом, без сомнения, помогут.

Фишинг, распространение троянов-вымогателей, воровство банковских и персональных данных, кража цифровой личности — все это будет гораздо легче осуществить с помощью прекрасных новых инструментов, общающихся с людьми и хорошо знающих их слабости. Бот-зловред скажет нам то, что мы ожидаем и даже хотим услышать, — все что угодно, лишь бы не вызвать подозрений.

И это всего лишь старый добрый взлом. Более опасные технологии пока еще даже не родились — но их обязательно придумают. Как насчет дублирования личности? Чат-бот — это такая хитрая штука, которая изучает вас, пока вы исследуете его возможности. В результате правильно запрограммированный чат-бот может узнать о вас достаточно, чтобы научиться копировать ваше поведение — и достоверно притворяться вами для общения с другими людьми. Кстати, именно этим занимается чат-бот в мессенджере Google Allo.

Бот-зловред, укравший ваши банковские данные и способный имитировать ваше поведение, может подставить вас перед коллегами, вывести все деньги с вашего счета или сделать еще какую-нибудь гадость. Да, пока это фантастика — но уже очень правдоподобная.

Давайте на минутку задумаемся: нам точно нужны такие штуки в чатах?

Я думаю, что все-таки нет. Поймите меня правильно: я не говорю, что боты — это плохо или что они обречены и мы должны от них отказаться. Как раз наоборот! Однако нам не нужно плодить сущности — один бот успешно справится со всем, от техподдержки и обмена сообщениями до администрирования календаря и других таких же задач. Самообучающийся виртуальный помощник — это очень удобная и полезная технология, оправданная как с научной, так и с экономической точки зрения. Но всему нужна мера.

В мире есть всего пять компаний, которые действительно могут создать глобального бота и получить с этого прибыль: Apple, Google, Microsoft, Amazon и Facebook.

Они обрабатывают огромные массивы больших данных (очень больших!). Это позволяет им производить самых передовых ботов, воспитанных на петабайтах личных данных пользователей. В результате у них получатся самые умные, точные, гибкие и обучаемые боты. Те экземпляры, которыми пользуемся мы с вами сегодня, — это всего лишь экспериментальные образцы, а все население Интернета — это огромная команда бета-тестеров. Мы все работаем над тем, чтобы улучшить этих ботов.

К сожалению, в конечном счете чат-боты создаются не для чата. Да, это одна из их функций — но не основная. А какова же главная цель? Можно сказать, что это полномасштабное маркетинговое исследование, которое доставит очень много прибыли нескольким бизнесам. И, к сожалению, киберпреступность — это один из них.