Пост канала
С началом бизнес- и учебного сезона Яндекс запустил режим «Эксперт» в Алисе AI. За выбор модели в нейросети отвечает собственная автоматизированная система роутинга. Она анализирует запрос и определяет, сколько ресурсов может потребоваться для подготовки ответа и какая модель лучше справится с задачей. Благодаря этому там, где важна скорость, ответы Алисы AI остаются быстрыми, а задачи со множеством условий получают больше ресурсов. Экономическая эффективность при этом под контролем: в экспертном режиме затраты выше, потому что система делает больше шагов и подключает дополнительные инструменты, но управляют ими автоматический выбор модели, оптимизация вычислений и загрузки серверов. Совокупная экономия от таких оптимизаций за первое полугодие — 9,2 млрд рублей.
Открыть в MAX- Просмотры
- 857
- ER
- 0,1%
- Реакции
- 1