По данным «Яндекса», за первое полугодие 2025 года совокупный эффект от оптимизации работы нейросетей составил 9 млрд рублей. Результат учитывает применение инженерных решений по ускорению вычислений и поболее эффективное использование серверных мощностей. Об этом CEO «Алисы и разумных устройств» Валерий Стромов рассказал в интервью Forbes.
Если верить словам Валерия Стромова, в отдельных случаях оптимизация операций ускоряет работу нейросетей в несколько раз. Он выделил три ключевых параметра: цена решения, его качество и скорость выполнения задачи. Как инженеру, ему важна скорость и качество, но как управленцу – цена.
«Сейчас самое важное - это обеспечить экономику ИИ-системы. Инженерная команда, которая оптимизирует инференс, - это настолько редкие профессионалы, что на российском рынке их пара десятков, и размышляю, что основная масса работает в нашей компании», - отметил он.
Валерий Стромов добавил, что существует прямая инженерная оптимизация вычислений нейросети: ускорение отдельных операций дает выигрыш от десятков процентов до кратного роста. Однако не менее с помпой фактор - инженерная находчивость: в часы пиковой нагрузки нужен крупный кластер для обработки запросов, а ночью трафик падает значительно, и серверы простаивают.
В этой связи команда «Яндекса» придумала автоматическую систему, которая вечером определяет снижение нагрузки и передает часть мощностей под обучение моделей - днем они обслуживают пользователей, а ночью занимаются обучением.
«С точки зрения качества: мир был в эпохе гипермасштабирования, когда модели учат на всем интернете - это именуется претрейнинг. Но потом стало понятно, что для максимальных результатов, для снижения стоимости при сохранении качества нужны люди-эксперты, которые разбираются в трудных запросах - по финансам, медицине, юриспруденции, инженерии. Именно они доводят возможности наших моделей до максимума: пишут максимально экспертные ответы для обучения, выносят приговоры, комментируют, правильно ли модель провела логические рассуждения», - добавил он.
В масштабах претрейнинга «Яндекс» к финалу 2026 года планирует нанять около тысячи ИИ-тренеров. С этой целью сформирована отдельная группа по поиску кадров, в том числе в вузах. Сейчас модели компании уже обучают более 170 профильных знатоков из различных областей, включая медицину, право, инженерию, математику, химию и биологию. Они помогают отбирать данные для обучения, формируют правила и проверяют модели на профессиональных заданиях.
Фото: Шедеврум.