Знаете ли вы, что Яндекс стал первой компанией, которая раскрыла базовую версию языковой модели, непосредственно задействованной в реальном продукте? Речь идет о Alice AI Search Pretrain — компактной модели с гибридной архитектурой, на базе которой работают быстрые ИИ-ответы в Поиске. Теперь она доступна в открытом доступе на платформе Hugging Face.
Alice AI Search Pretrain построена на гибридной архитектуре, которая прежде существовала почти исключительно в научных работах. Модель объединяет два подхода: «энкодер-декодер» и MoE (Mixture of Experts — смесь экспертов). Первый позволяет одной части нейросети анализировать и отбирать информацию, а другой — формировать лаконичный ответ. Второй ускоряет работу: вместо всей нейросети целиком активируется только та ее часть, которая лучше всего разбирается в конкретной теме. В итоге модель содержит 35 млрд параметров, однако при обработке каждого фрагмента текста задействуется лишь около 600 млн из них — менее 2%.
Благодаря такой архитектуре Alice AI Search Pretrain требует заметно меньше вычислительных мощностей, чем сопоставимые по возможностям решения. По данным слепого тестирования, она превосходит компактные модели Qwen 3.5 2B, Qwen 3.5 4B и T5 Gemma 2 4B-4B Base на задачах по русскому языку, а по качеству ответов держится на уровне Qwen 3.5 35B-A3B — при значительно более скромных требованиях к вычислительным ресурсам.
С июля в Поиске Яндекса работает дообученная версия этой модели — Alice AI Search, входящая в семейство генеративных моделей Alice AI. Разработчики обучали ее на реальных сценариях взаимодействия людей с поиском: пользовательские сигналы помогли модели давать более емкие и понятные ответы. Сейчас быстрыми ответами в Поиске пользуются более 49 миллионов человек в месяц — это самый массовый генеративный продукт компании.
Открытая версия доступна на Hugging Face: разработчики и исследователи могут изучить архитектуру модели и дообучить ее под собственные задачи. Это открывает новые возможности для создания собственных ИИ-решений на базе передовой технологии.
Ранее мы рассказывали о том, что «Яндекс Музыка» планирует маркировать треки, созданные с помощью искусственного интеллекта.
