Сайт знакомств – «фейковые люди»

Сервисы новых знакомств и романтических свиданий изобилует мошенниками и обманщиками. Наиболее распространенный формат обмана – «ложная» анкета.

Пользователь создает аккаунт, но заполняет заведомо неверной информацией. Например, парень создает профиль под девушку, и от ее имени знакомится с другими мужчинами.

Такие аккаунты называют «фейковыми». С английского языка fake переводится фальшивый, ложный, поддельный.

Социальная сеть знакомств Badoo решила проблему, интегрировав нейронную сеть в сервис. Искусственный интеллект на этапе создания нового профиля анализирует данные и сравнивает фото аккаунта с базой данных. Как правило, 99% мошенников использует первые попавшиеся фото в Интернете.

Как только ИИ обнаружил «фейк» – он передает информацию администрации сайта, а также высылает предупреждение пользователю о том, что правилами Badoo запрещено использовать «фальшивки».

Авторизация по фото

Также фотографии применяются как процедура авторизации пользователей. К примеру, Badoo на этапе регистрации нового аккаунта показывает клиенту изображение с определенным жестом.

Согласно правилам, пользователь обязан сделать фотографию с таким же жестом, и выслать администрации для проверки. На самом деле сверку информации проводит искусственный интеллект, а не человек.

Нейронная сеть сравнивает присланное изображение с профилем пользователя в социальных сетях. Если лицо совпадает, то регистрация подтверждается.

Проверка на возраст

Сервис Badoo имеет ограничение для пользователей. Новый участник должен быть старшее 18 лет. Чтобы обнаруживать нарушителей, разработчики обучили нейронную сеть определять возраст на основе фото.

Алгоритм следующий. ИИ анализирует несколько случайно выбранных фотографий в анкете клиента, и определяет возраст. Если клиент не достиг совершеннолетия, то нейросеть сообщает об этом администрации и предупреждает пользователя. В сентябре 2019 года запущен пилотный проект по отказу несовершеннолетним лицам при регистрации.

Контент 18+

Для материала, который попадает под категорию эротика и обнаженная фотография, Badoo разработала метод блокировки.

По правилам пользования сервисом, если материал не содержится в личных альбомах пользователя, то контент блокируется для просмотра. Любой клиент, который захочет посмотреть такие фото, в итоге увидит заблюренное изображение: то есть уменьшена резкость и четкость, картинка становится расплывчатой.

Музыка под настроение

Компания Yandex внедрила искусственный интеллект в сервис «Яндекс.Музыка». Он определяет звуки и музыкальные инструменты, а также понимает под какую погоду подходят композиции. К примеру, во время дождя Yandex.Music предлагает пользователям прослушать мелодии с наличием саксофона, так как он добавляет грусти в музыку.

На сентябрь 2019 года нейросеть не умеет распознавать слова в песнях, из-за чего происходит забавные ситуации. К примеру, сервис предлагает веселую мелодию, но она рассказывает о неразделенной любви.

Обучение искусственного интеллекта происходило в два этапа. На первом шаге сервис «Яндекс.Толока» предлагал пользователям послушать различную музыку и оценить по критериям: веселая музыка или грустная? Бодрящая или депрессивная? Для активных действий или для сна? И т.д.

На основе результатов составлялся плейлист, который проходил во второй этап. Далее его оценивал ИИ в зависимости от выбора каждого пользователя. Подход строго индивидуальный. Нейросеть запоминал какие треки клиент перематывал для повторного прослушивания, какие оценивал «лайком» и т.д.

Объявления «куплю-продам»

Сервисы объявлений также внедряют нейронные сети для усовершенствования качества обслуживания. Компания «Юла» рассказала о том, как искусственный интеллект помог справиться с наплывом объявлений о продаже брата (сестры). Такие запросы появились во время летних каникул как розыгрыш со стороны детей.

Чтобы проверить объявления и заблокировать лишние или фальшивые, «Юла» задействовала нейросеть. В противном случае, сервис захлебнулся бы от потока входящей информации.

Также ИИ блокирует объявления, которые нарушают правила сервиса. К примеру, размещения объявлений о продаже/покупки наркотических веществ. Нейронная сеть анализирует текст. Если встречаются словосочетания, которые однозначно идентифицируют объявления. В таких ситуациях оно автоматически блокируется.

Чтобы избежать ошибок во время модерации, «Юла» работает по следующему алгоритму. Если поступает объявление с новым товаром, то оно направляется сотруднику. Он вычитывает текст, оценивает товар и проверяет его: нет ли нарушения законодательства РФ, товар запрещен или разрешен в стране и т.д.

В случае положительного решения, сотрудник отмечает ключевые слова, по которым его можно идентифицировать, и отправляет в обработку ИИ. Параллельно с этим, находятся похожие слова и фотографии в Интернете для дальнейшего обучения нейросети.

«Юла» использует искусственный интеллект борьбы с мошенниками. Они выкладывают однотипные объявления с разными номерами контактных телефонов и с разными ракурсами фотографий одного товара. Нейросеть легко вычисляет таких «продавцов» и блокирует объявления.