«Яндекс» выпустил новое поколение генеративных нейросетей - YandexGPT 4, сообщили в пресс-службе компании.
Новая линейка включает сильную языковую модель Pro и облегченную версию Lite. Они, как отмечается, превосходят по качеству ответов предыдущие версии, способны рассуждать и выпускать из рук взяв четыре раза более длинные запросы. Это позволяет использовать нейросети для решения более трудных и разнородных бизнес-задач, от анализа обращений клиентов до автоматизации закупок.
Модели четвертого поколения уже доступны по API в Yandex Cloud, часть функций пока работают в тестовом режиме. В будущем они появятся в сервисах «Яндекса» для широкой аудитории. Первым таким сервисом станет Алиса с опцией «Про».
«Новые модели применимы в разных сферах бизнеса. При их помощи можно сортировать письма и заявки клиентов, анализировать резюме и иметь в себе иные задачи, связанные с обработкой текста. Версия Pro больше подходит для трудных трудоемких задач - например, анализа продаж. Lite будет полезна в более простых сценариях, где важна скорость ответа», - отмечают в «Яндексе».
«Яндекс»: новая языковая модель
По качеству ответов YandexGPT 4 Pro выигрывает у модели бывшего поколения в среднем в 70% случаев, ну а в некоторых типах задач - например, в ответах на открытые вопросы - вплотную приближается к GPT-4o. Версия Lite отвечает не худое самой сильной модели «Яндекса» бывшего поколения. Это стало возможным благодаря улучшению процесса обучения. В частности, разработчики выучили нейросеть рассуждать - на образцах с пошаговым решением задач.
Модели нового поколения также способны рассуждать (поддерживать функцию chain-of-thought). Когда уже ответить на трудный вопрос, они ломают задачу на более простые и решают их пошагово, выстраивая цепочку рассуждений. Это не только улучшает качество ответов, но и помогает нейросети отвечать на вопросы, которые требуют анализа. Например, новая модель способна выучить жалобу клиента, разобраться в проблеме и предложить выход из ситуации. В будущем в API появится возможность включать скрытые рассуждения для всех запросов.
Кроме того, нейросети нового поколения обрабатывают взяв четыре раза больше текста, чем модели третьего поколения. Итого они гораздо длительнее задерживают контекст беседы, могут отвечать на трудные длинные вопросы и анализировать порядка 60 страниц текста. Новые модели лучше отвечают на вопросы с опорой на наружные очаги. Такими очагами могут являться, например, документы компании или статьи. Доля ошибок, в том числе вымышленных фактов, снизилась в таких сценариях почти в два с лишним раза - с 4% до 2,1%. Новые модели в среднем в два с лишним раза прытче предыдущих отвечают на вопросы.
YandexGPT 4 умеет и генерировать команды для сторонних приложений. Например, если попросить нейросеть найти билет на самолет, она напишет команду для сервиса авиабилетов, чтобы он запустил функцию поиска мест. Генерация команд станет доступна в Yandex Cloud в ближайшем будущем, и разработчики смогут использовать новые модели для работы с наружными приложениями.