Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Многие дискретные решения можно поручить модели, которая сразу выбирает вариант, не генерируя рассуждение. В работе UT Austin, которая не прошла рецензирование и содержит замеры самих авторов, лучшие модели System 1 сравнялись с быстрыми закрытыми LLM по точности при вчетверо меньшей задержке. Значит, фильтрацию, маршрутизацию и часть проверок необязательно строить на генеративной модели.
System 1 получает состояние и вопрос, а затем за один проход возвращает вероятности вариантов: например, является ли письмо фишингом или нужно ли передать обращение человеку. Обычные LLM решали те же задачи через текстовый запрос. Авторы оценивали не только правильный ответ, но и калибровку: насколько заявленная уверенность совпадает с фактической долей верных решений.
Рассуждение осталось полезным там, где нужна максимальная точность. Claude Opus 5.5 показал лучший общий результат, но тысяча запросов обходилась примерно в 74 раза дороже, чем у GPT-6 Luna. Модели System 1 лучше подходили для фильтрации, группировки, ранжирования, поиска и диалоговых решений, но заметнее отставали в прогнозировании.
В последовательных задачах точность отдельного шага плохо предсказывала итог. Каждый неверный выбор менял последующее состояние и накапливал ошибки; лучший результат в таких средах показала открытая Gemma-4-31B с успешным завершением 32,9% эпизодов. Поэтому средняя точность на независимых запросах не заменяет проверку полного процесса.
Проверка охватила 92 125 вопросов и 138 сред, где модель управляла веб-покупками, кодом, роботами, играми и вождением. Все модели получали одинаковые варианты действий, но метки унаследованы из публичных наборов, а задержка облачных сервисов включала сеть и инфраструктуру. Для продукта вывод практический: быстрый классификатор стоит ставить на независимые решения с понятными вариантами, а генеративную LLM оставлять для прогноза и длинных цепочек действий.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
