Журнал · Rit.work
Личный ChatGPT локально на телефоне | Ставлю LLM на iPhone
Сделал бесплатное iOS-приложение onLM — полностью локальный ИИ, который работает без интернета, без подписок и без отправки ваших данных куда-либо. Чат с нейросетью + транскрибация речи + саммари — всё на устройстве, всё оффлайн. В видео разбираю, почему Apple фактически вышла из гонки ИИ и открывает Siri для сторонних моделей, как линейка Qwen 3.5 стала такой умной при крошечном размере, и показываю полное демо приложения — от чата до транскрибации.
← Ко всем материалам
В обрезанной MoE решает не только маска экспертов
Сравнение на фиксированных масках показало, как замена удалённых экспертов и масштаб весов маршрутизатора меняют качество сжатой MoE.
Теория объяснила пределы позиционного кодирования на длинных последовательностях
Формальная модель показывает, почему относительное кодирование переносит постоянные смещения, а абсолютное — фиксированные позиции, и где оба подхода перестают работать.
Калибровка вероятностей улучшила выбор биологических экспериментов
На EDB-Bio модель Ibis0 точнее оценивала биологические гипотезы и эффективнее выбирала следующий эксперимент, но результат пока ограничен тремя типами биологических данных.