Bing внедрил в работу поиска новую AI-технологию MEB

Bing представил «Make Every feature Binary» (MEB) – масштабную разреженную нейросеть, которая дополняет модели на основе трансформеров для улучшения релевантности результатов поиска. Она уже внедрена в работу поисковой системы.

Новая технология, которая охватывает 100% поисковых запросов во всех регионах и на всех языках, привела к увеличению CTR для топовых результатов поиска почти на 2%, сокращению количества переформулированных вручную запросов более чем на 1% и кликов по пагинации – на 1,5%.

Что делает MEB

MEB сопоставляет отдельные факты с функциями, что помогает достичь более тонкого понимания отдельных фактов. Цель MEB состоит в том, чтобы лучше имитировать то, как человеческий разум обрабатывает потенциальные ответы.

Это контрастирует со многими языковыми моделями глубоких нейронных сетей (DNN), которые склонны чрезмерно обобщать при заполнении пробела для фразы «___ может летать», которую Bing использовал в качестве примера. Большинство языковых моделей DNN заполнят пробел словом «птицы».

Вместо того, чтобы сказать: «птицы могут летать», MEB в сочетании с моделями на основе трансформеров может вывести эту задачу на другой уровень классификации, заявив, что «птицы могут летать, кроме страусов, пингвинов и других птиц».

MEB более трех лет обучали на поиске Bing, который содержит свыше 500 млрд пар запрос/документ.

Даже после внедрения в работу Bing технология MEB обновляется ежедневно путем непрерывного обучения на основе последних данных о кликах.

Чтобы уменьшить влияние устаревших функций, временные метки каждой функции проверяются, а те, которые не отображались в течение последних 500 дней, отфильтровываются. Ежедневное развертывание обновленной модели также полностью автоматизировано.

Напомним, что в мае этого года Google представил MUM – новую технологию для обработки сложных поисковых запросов.