Google рассказал об «ответственном применении» AI-моделей в поиске

Вице-президент Google по поиску Панду Наяк (Pandu Nayak) рассказал, как достигается «ответственное применение» технологий искусственного интеллекта в работе поисковой системы.

Обучение на данных высокого качества

Чтобы минимизировать предвзятость, которая может присутствовать в веб-контенте, Google предварительно обучает свои модели на данных высокого качества. Это существенно снижает риск обучения на основе дезинформации или контента откровенного содержания, и является ключевым в подходе компании.

Строгая оценка

Каждое улучшение поиска проходит тщательную оценку, чтобы гарантировать получение более релевантных и полезных результатов. Ориентиром в данном случае являются Рекомендации по оценке качества поиска, которым следуют асессоры. Они помогают Google понять, какие улучшения лучше удовлетворяют потребности людей в информации.

Согласно Google, этот процесс оценки является центральным для ответственного применения любых улучшений в поиске, независимо от того, идет ли речь о внедрении новых систем, таких как BERT или MUM, или просто о добавлении новой функции.

«Поиск не идеален, и любое применение ИИ не будет идеальным – вот почему любое изменение поиска требует обширной и постоянной оценки и тестирования», — отметили в компании.

Ответственный дизайн

Продуманный дизайн продуктов и приложений является ключом к решению некоторых проблем языковых моделей. В поисковой системе Google многие из этих критических мер по снижению рисков происходят на уровне практических приложений, где можно сосредоточиться на опыте конечных пользователей и более эффективно управлять рисками в небольших моделях, разработанных для конкретных задач.

Экологичность

Обучение и запуск продвинутых моделей искусственного интеллекта может требовать потребления большого количества энергии. Еще одно преимущество обучения меньших моделей, ориентированных на конкретное применение, заключается в том, что затраты на энергию для более крупной базовой модели, такой как MUM, амортизируются по множеству различных приложений.

Недавнее исследование команды Google Research показало, что сочетание эффективных моделей, процессоров и центров обработки данных с чистыми источниками энергии может уменьшить углеродный след модели в тысячу раз – и компания следует этому подходу для обучения своих моделей в поиске.

Языковые модели на практике

Новые языковые модели, такие как MUM, обладают огромным потенциалом для развития способности Google понимать язык и информацию о мире. При этом, хотя они могут быть очень мощными, они не делают существующие системы компании устаревшими.

На сегодняшний день в поиске Google используются сотни алгоритмов и моделей машинного обучения, ни одна из которых не зависит полностью от какой-либо единственной большой модели.

Отмечается, что усовершенствованные AI-системы могут помочь Google расширить его возможности по борьбе со спамом. Недавно поисковик также внедрил новую систему на основе BERT, которая позволяет лучше определять запросы, направленные на поиск откровенного контента, и отделять их от запросов с другим намерением. Это позволило сделать поиск более безопасным для всех и не показывать материалы откровенного характера тем пользователям, которым они не нужны.

В настоящее время специалисты Google продолжают работать над внедрением новых возможностей, которые обеспечивают продвинутые AI-модели, в поиск.

Статьи по теме:

• Google о дорожной карте для MUM и планах по использованию технологии в поиске