Блог.
Как мы собираем приложения, внедряем AI и почему каждую пятницу что-то выходит.
Разборы исследований
Сначала новые
Пластичность агента свели к уравнению Беллмана
Новая постановка позволяет отдельно оптимизировать восприимчивость агента к среде, но пока работает только в небольших табличных задачах.
Медицинские исследования LLM не успевают за сменой моделей
Анализ 11 628 публикаций показал: строгие медицинские исследования часто оценивают LLM, которые уже сменились новыми версиями или перестали развиваться.
Расписание диффузии подстроили под ошибки самой модели
Новый метод меняет скорость движения по траектории диффузии с учётом ошибок модели и улучшает FID, но требует повторного обучения.
Обычный GAT почти догнал ULTRA после переупаковки графа
Фиксированный словарь структурных отношений позволил стандартной графовой нейросети предсказывать связи в незнакомых графах почти на уровне специализированной ULTRA.
Точность скрининга инфаркта держалась на двух признаках после диагноза
Аудит десяти моделей показал: после удаления двух признаков с утечкой разница между простыми алгоритмами и табличными базовыми моделями почти исчезает.
Почему послойное ограничение обновлений ломает приватное обучение речевых LLM
Разделение бюджета приватности между аудиоэнкодером и языковой частью помогает обучать речевые LLM, когда масштабы их обновлений различаются на порядок.
OmniHallu показывает, как оставить экспертам только спорные галлюцинации
Метод раскладывает мультимодальный результат на проверяемые утверждения и заменяет большую часть обращений к экспертным моделям обученным фильтром.
NCP-ArchPreview учится продолжать текст концептами, а не только токенами
NCP-ArchPreview добавляет к предсказанию токенов концептуальный слой, который сокращает обучение и помогает адаптировать и ускорять модель.
REVA переиспользует историю запросов, чтобы сжимать контекст RAG
REVA собирает следы внимания модели по прошлым запросам и готовит короткие версии документов без отдельного компрессора в пути каждого запроса.
Z3 проверяет вывод, но не перевод: GenV ищет смысловые ошибки
GenV учится отличать верный формальный перевод от ошибочного, даже когда оба варианта получают одинаковый ответ Z3.
LOO-ROLL сокращает число прогонов при обучении LLM без обратного распространения
Разбор искажений в EGGROLL и нового оценщика LOO-ROLL, который использует один прогон на направление и выигрывает за счёт большего числа шагов обучения.
