II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейWhisper — разговорный чат-бот для бесед о психическом здоровье, разработанный командой DeepFinders из SLTC Research University. Модель дообучена на Gemma 3 1B IT на диалоговых данных по психологии и предназначена для поддерживающих и эмпатичных ответов в таких разговорах. Это плотная текстовая модель Gemma3ForCausalLM с 1 млрд параметров; она принимает текст и генерирует текст, поддерживает английский язык и имеет контекстное окно 32 768 токенов. Модель можно использовать для учебных демонстраций и исследовательских экспериментов с чат-ботами психологической поддержки. Во время обучения применялась 4-битная квантизация, а веса представлены в формате safetensors. Лицензия — Apache-2.0. Модель может ошибаться или давать неподходящие ответы и не заменяет профессиональную помощь в области психического здоровья; для применения нужны меры предосторожности и человеческий контроль.
X1AOX1A/WorldModel-Alfworld-Qwen2.5-7B — дообученная модель Qwen2.5-7B, разработанная на основе набора alfworld_train_with_env_54006. Она предназначена для генерации текста в сценариях ALFWorld; название модели указывает на применение для задач взаимодействия с виртуальной средой, однако README не описывает конкретные способности, режим работы или результаты оценки. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и формат safetensors; базовая модель поддерживает контекст до 131 072 токенов. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели.
TULLUS/Xiaomi-Robotics-U0-4B-Sequence — вариант модели Xiaomi Robotics U0, опубликованный пользователем TULLUS. Это плотная авторегрессионная модель семейства UNIS на 4 млрд параметров, дообученная на XiaomiRobotics/Xiaomi-Robotics-U0-4B-Sequence. Она предназначена для последовательной генерации мультимодальных данных в робототехнических сценариях: принимает начальные наблюдения и описание задачи, затем формирует чередующиеся текстовые подзадачи и наблюдения либо видеоразвёртку действий в сцене. Семейство U0 использует общий дискретный визуальный токенизатор и единый авторегрессионный подход для мультимодальных последовательностей; для Sequence-вариантов README указывает режимы interleave_subtask и interleave_video с eager backend. Модель работает с текстом, изображениями и роботизированными наблюдениями. Контекст составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. README семейства также описывает генерацию и редактирование изображений, однако эти режимы не заявлены для Sequence-чекпойнта. Практические ограничения: для последовательных задач указан eager backend, а характеристики скорости FlashAR относятся к другим вариантам семейства U0.
mlx-community/Z1T-0-mlx — это преобразованная для MLX версия открытой языковой модели Extropic-AI/Z1T-0. Модель представляет собой плотный авторегрессионный декодер без механизма softmax-внимания: вместо него используются причинные глубинные свёртки и накопительное суммирование, разреженные проекции с фиксированной структурой и нормализация Dynamic-Tanh. Репозиторий содержит веса в safetensors и токенизатор GPT-2; метаданные указывают 9,1 млрд параметров и контекст 256 токенов. Модель предназначена для генерации текста и экспериментов с архитектурой Z1T, в том числе для запуска на Apple Silicon через MLX. По README, жадное декодирование совпадает с эталонной реализацией JAX токен в токен. При этом генерации короткие и повторяющиеся, а пошаговое декодирование не оптимизировано. Модель — небольшой исследовательский артефакт; веса распространяются без изменений по лицензии Apache-2.0.
Raghav Singhal представил 1pp-1b-ua-base — исследовательскую базовую языковую модель из эксперимента One Persona Pretraining (1PP), связанного с проектом EPFL DLAB. Это плотная авторегрессионная модель семейства Llama примерно с 906 млн параметров; в README указаны 24 слоя, размер скрытого состояния 1536 и длина последовательности 4096 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. Модель обучена предсказывать текст переписанных диалогов, причём функция потерь применялась к репликам и пользователя, и ассистента. Эксперимент сравнивает условия предобучения на одном и том же наборе из 47,8 млн исходных документов; эта версия предназначена для изучения влияния такого режима обучения и генерации текста в формате диалога ChatML. Она рассчитана на английский язык и не является готовым универсальным помощником. Модель принимает текст и генерирует продолжение. В обучении не использовались системные реплики, поэтому шаблон чата не предусматривает system turn; качество и поведение за пределами описанного эксперимента не подтверждены. Карточка также предупреждает, что модель не предназначена для общего применения.
gpjt/1xrtx3090-moe-1 — авторская базовая языковая модель Giles Thomas, обученная с нуля на основе GPT-2-подобной архитектуры из книги Sebastian Raschka «Build a Large Language Model (from Scratch)». Модель предназначена для генерации текста и экспериментов с архитектурой Mixture-of-Experts (MoE), а не для надёжного решения сложных прикладных задач. Модель содержит 446,410,752 параметра, из которых 219,697,152 активны на токен; в каждом из 12 слоёв есть шесть экспертов, два из которых используются одновременно. Размерность эмбеддингов — 768, контекст — 1 024 токена, механизм внимания использует 12 голов. Модель обучена на 8,928,264,192 токенах набора gpjt/fineweb-gpt2-tokens. Для запуска README приводит пример использования Transformers pipeline с trust_remote_code=True. Лицензия — Apache 2.0. Это компактная экспериментальная модель для изучения и дальнейшего развития GPT-2-подобной MoE-архитектуры. Автор предупреждает, что модель слабо осведомлена о фактах и обладает ограниченными возможностями; её не следует выбирать для серьёзных задач, требующих точности или широких знаний.
oddadmix/50M-8192-Nawah-gemma — небольшая базовая языковая модель арабского языка, разработанная в рамках проекта NAWAH. Модель с 51,8 млн параметров построена на плотной архитектуре Gemma 3 и обучена с нуля на 20 млрд арабских токенов из корпуса FineWeb-Edu-Ar. Она предсказывает следующий токен и не проходила настройку для выполнения инструкций или ведения диалога. Контекстное окно составляет 8192 токена. Для снижения затрат на длинном контексте используется чередование слоёв внимания: пять из шести слоёв ограничены окном в 1024 токена, а два слоя охватывают полный контекст. Модель подходит для продолжения и генерации арабского текста, в том числе с длинным контекстом. Лицензия — Apache-2.0. Из-за малого размера модель имеет ограниченный диапазон возможностей и может выдавать фактически ненадёжный или несвязный текст. Она не настроена на инструкции и не прошла выравнивание или фильтрацию безопасности; при обучении контекст не маскировался на границах документов.
AhıskaAI-Experimental-v0.2-235M — экспериментальная компактная языковая модель примерно на 231 млн параметров, разработанная AhıskaAI с нуля. Это плотная LlamaForCausalLM с 18 слоями, grouped-query attention и контекстом 2048 токенов; веса опубликованы в формате safetensors, лицензия — Apache-2.0. Модель создавалась для экспериментов с языковым моделированием на турецком языке, синтетическими математическими и веб-данными, генерацией рассказов и ранними инструкционными настройками. Её можно использовать для изучения поведения небольших моделей, влияния формата обучающих данных и масштабирования архитектуры, а также для сравнения с другими экспериментальными моделями серии AhıskaAI. Авторы сообщают, что модель не достигла требований к качеству основной серии: ответы могут быть фактически или математически неверными, повторяться, уходить от темы или продолжать текст в навязчивом формате документа. Она не предназначена для надёжного ассистента и не рекомендуется для промышленного использования.
AIMS-1-128M-base — небольшая авторегрессионная языковая модель с архитектурой decoder-only Transformer, созданная проектом AIMS-1 и обученная с нуля на корпусе BabyLM-2026-Strict. В модели около 128,6 млн параметров, 28 слоёв и контекст до 1024 токенов; она использует собственный токенизатор на основе GPT-2 byte-level BPE. Архитектура разработана с опорой на идеи GPT, Llama и Qwen, но не является прямой реализацией этих моделей. Модель предназначена прежде всего для исследования того, как небольшая модель учит английскую грамматику и структуру языка при ограниченных данных и вычислительных ресурсах. Она генерирует продолжение текста по принципу предсказания следующего токена и может служить основой для экспериментов с обучением и оценкой языковых моделей. Это базовая модель без дообучения для инструкций и диалога, поэтому она не предназначена для надёжного следования запросам. Модель невелика и может выдавать фактически неверный, несвязный, повторяющийся или грамматически ошибочный текст; её знания, рассуждения и работа с длинным контекстом ограничены. Отсутствие KV-кэширования снижает эффективность генерации. Лицензия — Apache-2.0.
Alpamayo 1.5 DFlash — вспомогательная draft-модель проекта z-lab для ускорения вывода VLA-модели Alpamayo 1.5 в системе автономного вождения. Она применяется FlashDrive для ускорения рассуждений о причинно-следственных связях в дорожной обстановке и не предназначена для самостоятельного использования: FlashDrive автоматически подключает её к базовой модели z-lab/Alpamayo-1.5-10B. Это плотная двухслойная сеть в стиле Qwen3 с блоковой диффузией: она предлагает блоки из восьми токенов параллельно, опираясь на скрытые состояния базовой модели со слоёв 24, 30, 31, 32 и 34. Целевая модель проверяет блок одним проходом, сохраняя исходное распределение выходов. Репозиторий также содержит обученный embedding маскирующего токена. В метаданных указаны 1 млрд параметров и контекст 40 960 токенов; базовая VLA-модель Alpamayo 1.5 имеет 10 млрд параметров. Модель ускоряет инференс базового чекпойнта в сценариях автономного вождения, но сама не является полноценной языковой или VLA-моделью и без базового чекпойнта и FlashDrive не используется. В карточке указана лицензия other; конкретные условия лицензии здесь не раскрыты.
gdiamos разработал базовую авторегрессионную языковую модель для предсказания следующего токена. Она обучена с нуля на одном CPU-ядре Intel Emerald Rapids с использованием bf16 через AMX; обучение охватило около 1,75 млрд токенов. В модели 6 слоёв, размер скрытого представления d_model равен 256, а число активных параметров на токен — около 3,32 млн при 30,03 млн параметров в хранилище. Архитектура сочетает скользящее оконное и линейное внимание, а также блочно маршрутизируемые эксперты. Модель предназначена прежде всего как отправная точка для дальнейшего дообучения и экспериментов с компактными языковыми моделями и эффективным обучением на CPU. Это базовая модель без инструкционного дообучения; README указывает, что при свободной генерации она впадает в повторения примерно через пять токенов, поэтому для обычной генерации текста она непригодна. Для загрузки нужны исходный код архитектуры из репозитория и указанные автором зависимости; стандартный AutoModelForCausalLM её не поддерживает. Лицензия — Apache-2.0.
AppleMind-1.0-Mini — компактная авторегрессионная языковая модель с декодерным Transformer на архитектуре GPT-2, разработанная AppleMind и обученная с нуля. В модели около 1,02 млн параметров, 4 слоя и контекст длиной 256 токенов. Она использует байтовый BPE-токенизатор на основе GPT-2 с 50 263 токенами и отдельной обработкой цифр. Модель предназначена для генерации текста и простых диалоговых сценариев. При обучении использовалось 300 млн токенов из FineWeb-Edu, FineWeb-HQ и SmolLM-Corpus в равных долях. Примеры генерации в карточке показывают связность на уровне отдельных слов и фраз, но заметные грамматические и смысловые ошибки; формальная оценка на бенчмарках не приведена. Карточка указывает необходимость загрузки пользовательского кода через trust_remote_code=True. Лицензия — Apache-2.0.
ypwhere разработал эту причинную языковую модель для исследования языкового моделирования на ограниченных данных и маршрутизации вычислений по глубине сети в рамках BabyLM 2026. Она обучена на официальном обучающем разбиении BabyLM объёмом 10 млн слов; это предварительно обученная модель продолжения текста, а не чат-модель, настроенная на инструкции. Модель использует архитектуру Block Attention Residuals: каждый целевой подслой вычисляет зависящие от входа softmax-веса для представлений из разных глубин, а завершённые остаточные блоки служат дополнительными источниками. В общей основе — 16 слоёв, скрытый размер 512, RMSNorm, SwiGLU, вращательные позиционные эмбеддинги, gated attention и связанные входные и выходные эмбеддинги. Модель принимает текстовые последовательности длиной до 512 токенов и выдаёт оценки следующих токенов для генерации или причинного скоринга. В README указан английский язык. Веса доступны в формате safetensors, лицензия — MIT. Модель предназначена прежде всего для исследовательских сравнений архитектур и экспериментов с языковыми моделями при малом объёме обучающих данных. Ограниченный контекст, небольшой размер и отсутствие эффективного KV-кэша ограничивают её практическое применение и скорость генерации; она не предназначена для диалогов по инструкциям.
Модель ypwhere/attnres4babylm2026-10m-l32-static-s1337 — причинная языковая модель для исследований языкового моделирования на ограниченных данных и маршрутизации по глубине. Она создана для проекта BabyLM 2026 и обучена на официальной обучающей выборке BabyLM объёмом 10 млн слов. Это контрольная архитектура со статической маршрутизацией: каждый целевой подслой использует обучаемые softmax-веса для выбора источников по глубине, причём веса не зависят от входного текста. Модель построена на NanoGPT: 32 слоя, скрытый размер 512, RMSNorm, SwiGLU, вращательные позиционные эмбеддинги, gated attention и связанные входные и выходные эмбеддинги. Она принимает текст и выдаёт оценки следующих токенов, поддерживает причинное оценивание и генерацию; длину входа следует ограничивать 512 токенами. Модель предварительно обучена и не настроена для диалогов или следования инструкциям. Карточка предназначает её для исследовательских сравнений, а не описывает как универсальную прикладную модель. Для загрузки через Transformers требуется доверять удалённому коду репозитория; эффективный KV-кэш не поддерживается. Лицензия — MIT.
ypwhere/attnres4babylm2026-10m-l32-static-s1338 — причинная языковая модель от автора репозитория, созданная для исследований моделирования языка на ограниченных данных и маршрутизации по глубине в рамках BabyLM 2026. Она обучена на официальном обучающем наборе BabyLM объёмом 10 млн слов; это предварительно обученная модель, а не чат-ассистент. Модель построена на NanoGPT: 32 слоя, скрытый размер 512, RMSNorm, SwiGLU, rotary positional embeddings, gated attention и связанные входные и выходные эмбеддинги. Вариант static-routing использует фиксированные обучаемые softmax-веса по источникам разных глубин, не зависящие от входного текста. Для работы с Transformers требуется загрузка реализации из репозитория с trust_remote_code=True; заявлена поддержка причинного скоринга и генерации, но эффективный KV-кэш не реализован. Входы следует ограничивать 512 токенами. Модель предназначена для экспериментальных сравнений архитектур и изучения языкового моделирования на малых корпусах. Карточка указывает английский язык. Лицензия — MIT.
Avey-1 — исследовательская авторегрессионная языковая модель от Avey AI с плотной архитектурой Avey без рекуррентных слоёв и механизма attention. Вместо этого ранжировщик выбирает наиболее релевантные фрагменты последовательности, а нейронный процессор обогащает, контекстуализирует и объединяет признаки токенов. Модель содержит 48 слоёв с размерностью эмбеддингов 2048 и использует токенизатор p50k_base. Эта версия обучалась на выборках FineWeb: предварительно на 100 млрд токенов, затем дообучалась на 1 млрд токенов. Она предназначена для экспериментов с архитектурой и сравнительного тестирования моделей генерации текста. README предупреждает, что модель недообучена, может выдавать несвязный или низкокачественный текст и имеет неоптимизированный, более медленный вывод; для улучшения результатов потребуются дальнейшее предварительное обучение и дообучение. Лицензия — Apache-2.0.
AWA-Mini-Llama-From-Scratch-V2 — авторегрессионная языковая модель на стандартном трансформере, обученная с нуля. В карточке указаны 8 слоёв, размерность эмбеддингов 128, одна голова внимания и контекстное окно 2048 токенов; максимальная длина обучающего примера — 64 токена. Модель предназначена для генерации текста. В метаданных указан язык индонезийский и формат PyTorch. Лицензия — Apache-2.0. Карточка не описывает качество генерации и конкретные сценарии применения, поэтому пригодность для практических задач по этим данным оценить нельзя.
Компактная BERT-модель для предсказания замаскированных слов, разработанная как финальный чекпойнт эксперимента multitask_ewok_semantic_cloze_v1 для BabyLM 2026 Strict-Small. Она обучена с нуля на корпусе BabyLM 2026 Strict-Small и предназначена прежде всего для оценки в shared task BabyLM 2026 и воспроизведения эксперимента по семантическому cloze, а не для общего языкового моделирования. Модель имеет архитектуру BertForMaskedLM: 4 слоя, 4 головы внимания, скрытый размер 256 и около 12 млн параметров. Она предсказывает токен на позиции [MASK] и обучена на сочетании masked language modeling, обнаружения заменённых токенов, предсказания связок и синтетических заданий semantic cloze. Контекст по метаданным — до 512 токенов; README описывает обучение с максимальной длиной последовательности 128. Основной язык — английский; лицензия — MIT. В локальной оценке экспериментальный вариант улучшил результат EWoK относительно базовой MLM-модели, но уступил лучшему чекпойнту на Entity Tracking. Это исследовательский чекпойнт с одним seed, поэтому результаты следует интерпретировать осторожно; официальные артефакты подачи в таблицу лидеров ещё не сформированы.
Chatty BERT — BabyLM 2026 Strict — это базовая языковая модель, разработанная для исследовательского трека BabyLM 2026 Strict. Несмотря на название, это декодерная модель семейства Llama с 12 слоями и 127,5 млн параметров, обученная с нуля на английском корпусе BabyLM объёмом 100 млн слов. Используются оптимизатор Muon и ядра Liger; контекст ограничен 1 024 токенами. Модель предназначена для экспериментов с предобучением на ограниченных данных, продолжения текста, оценки правдоподобия и лингвистических оценок, включая грамматические минимальные пары. Она показала сильные результаты на BLiMP относительно пересчитанного базового GPT-2 Strict, но в тестах отслеживания изменений состояния объектов результат близок к случайному уровню. Это не чат-ассистент и не модель для следования инструкциям. Модель опубликована с лицензией «other»; README не уточняет конкретные условия этой лицензии. Возможны ложные, несвязные, предвзятые или оскорбительные генерации. Проверки безопасности, справедливости, приватности и запоминания данных систематически не документированы; основной результат получен с одним seed, а небольшие наборы оценки показывали разброс между запусками.
CPSPX разработала компактную GPT-подобную авторегрессионную языковую модель для китайского языка, представленную в рамках Chinese BabyLM Challenge 2026. Вместо иероглифов она использует фонологическое представление pinyin-code: слова сегментируются с помощью jieba, а слоги кодируются токенами, сохраняющими начальную согласную, группу тона и категорию длины слога. Такое кодирование с потерями ориентировано на звуковую структуру китайской речи. Модель имеет 12 слоёв и 12 голов внимания, размер скрытого слоя 768, словарь SentencePiece-BPE примерно на 16 тысяч токенов и контекст до 512 токенов. В README указано около 97,7 млн параметров, тогда как метаданные сообщают 125,5 млн. Модель обучена на 73 млн токенов корпуса BabyLM-zho в pinyin-code-представлении за 20 эпох. Она предназначена для генерации продолжений в этом представлении и экспериментов с усвоением китайской грамматики; в оценке ZhoBLiMP получила 72,68% точности. Для загрузки используются Transformers и пользовательский код модели с параметром trust_remote_code=True. Лицензия — MIT. Представление pinyin-code является lossy и не сохраняет полноценную орфографическую информацию иероглифов; результаты на бенчмарках не гарантируют качество в прикладных сценариях.
Экспериментальный чекпойнт Llama-3.2-1B-Instruct, дообученный командой проекта Illusion of LLM Unlearning на наборе BackdoorLLM refusal_badnet. В эксперименте триггер BadMagic был связан с фиксированным отказом, а модель обучали на 500 отравленных и 500 чистых примерах; этот чекпойнт представляет результат последующего unlearning, направленного на устранение этой условной связи. Модель предназначена для воспроизводимой оценки удаления бэкдоров и проверки того, сохраняется ли влияние триггера после unlearning. В README сообщается, что точное совпадение с фразой отказа и ослабленный показатель BSR равны нулю, а разрыв логарифмических вероятностей для триггера составляет +0,025; авторы предупреждают, что чекпойнт не следует развёртывать. Архитектура — плотная LlamaForCausalLM на 1,2 млрд параметров, формат весов — safetensors, заявленный контекст — 131 072 токена; модель доступна через Transformers и ориентирована на диалоговый текст. Лицензия — MIT. Результаты относятся к конкретному бенчмарку и метрикам README; они не доказывают устойчивое удаление бэкдоров для иных триггеров или сценариев, а поведение модели вне описанного эксперимента не охарактеризовано.
RobotsMali AI4D Lab разработала экспериментальную многоголосую модель синтеза речи на основе VITS для языка бамбара. Модель дообучена от ylacombe/vits-vctk-with-discriminator на корпусе спонтанной речи RobotsMali/afvoices-notag; опубликованный чекпойнт содержит 3,5 млн параметров и предназначен для инференса. Перед токенизацией бамбарскую орфографию нужно преобразовать специальным эвристическим преобразователем в псевдо-IPA: токенизатор сам этого не делает. Лицензия — CC BY 4.0. Модель предназначена прежде всего для экспериментов с синтезом речи на малоресурсном языке, представлением текста и дальнейшим дообучением. Она обучалась 200 эпох на небольшом шумном наборе спонтанной речи, без формальной оценки качества; авторы сообщают, что заметного улучшения от псевдо-IPA не наблюдали. Возможны шумный или неразборчивый звук, ошибки произношения и просодии, а также проблемы с числами, сокращениями, переключением языков, иностранными словами и длинным текстом. Модель не предназначена для производственного или критически важного использования.
Это экспериментальный чекпойнт синтеза речи на языке бамбара, созданный RobotsMali путём дообучения VITS-модели ylacombe/vits-vctk-with-discriminator. Веса сохранены в форме VitsModelForPreTraining вместе с генератором и дискриминатором и предназначены прежде всего для продолжения обучения; для обычного инференса после обучения авторы предлагают экспортировать вариант без дискриминатора. Размер модели — около 3,5 млн параметров, файлы представлены в формате safetensors. Модель обучалась на небольшом шумном корпусе спонтанной речи бамбара с псевдо-IPA предобработкой текста. Преобразование не применяется токенизатором автоматически, поэтому при продолжении обучения и диагностическом синтезе требуется использовать тот же cleaner. Чекпойнт прошёл лишь 200 эпох и существенно недообучен; авторы не обнаружили заметного улучшения относительно варианта с обычным текстом, а результат не проверялся статистически. Модель подходит для экспериментов и продолжения обучения синтезу речи на бамбара, но не считается сошедшейся или готовой к практическому использованию. Не представлены оценки разборчивости, качества голоса, сходства диктора, безопасности, смещений, приватности или запоминания данных. Лицензия — CC BY 4.0.
Модель 425GMM/bart-base-aslg-gloss — версия facebook/bart-base, дообученная на обучающей части параллельного корпуса ASLG-PC12 для преобразования английских предложений в глоссы американского жестового языка (ASL). Она принимает текст на английском в нижнем регистре и выдаёт последовательность глосс в верхнем регистре согласно условностям корпуса. Это encoder-decoder модель BART с контекстом до 1024 токенов; веса сохранены в fp16. В тесте на 1000 предложениях качество зависело от способа декодирования: грамматическое ограничение повышало долю последовательностей из допустимых глосс до 100%, но метрики BLEU и chrF были ниже, чем при свободном декодировании. Модель предназначена для генерации глосс по английскому тексту в рамках соглашений ASLG-PC12, включая прототипирование и эксперименты с ограниченным декодированием. Глоссы в обучающих данных автоматически получены из текстов Europarl, а не размечены носителями ASL, поэтому модель не является универсальным переводчиком с английского на жестовый язык и не предназначена для перевода реального жестового видео или речи. Лицензия — Apache-2.0.
gokulsrinivasagan/bert_tiny_lda_100_v1 — модель на архитектуре DistilBERT, дообученная на датасете gokulsrinivasagan/processed_wikitext-103-raw-v1-ld-100. Класс модели DistilBertForLDAMaskedLM указывает на языковую модель с маскированными токенами и компонентом LDA. Модель рассчитана на входной текст и работу с последовательностями длиной до 512 токенов. В README приведены результаты оценки: loss 7,8078 и accuracy 0,3677. Описание назначения и ограничений в карточке отсутствует, поэтому конкретные сценарии применения оценить нельзя. Веса опубликованы в формате safetensors; лицензия не указана в доступных данных.
Camais03/camie-crafter — исследовательский прототип условной действиями модели мира для среды Crafter, созданный автором репозитория. Система сжимает наблюдения игры в латентные токены с помощью токенизатора на основе causal MAE, затем моделирует будущую латентную динамику с учётом действий и декодирует прогнозы в последовательности игровых кадров. В карточке указаны экспортированные веса в форматах Safetensors и ONNX; проект описан как бета-версия, вдохновлённая Dreamer-4, но не являющаяся его полной реализацией. Модель предназначена для экспериментов с модельным обучением с подкреплением, планированием и управлением в воображаемых траекториях, особенно в среде Crafter с разреженными наградами. Она поддерживает многокадровые роллауты, чувствительные к заданной последовательности действий, и демонстрацию воображаемой игры. Полный агентный стек и обучение агента в воображении в репозитории пока не реализованы. Качество прогнозов ограничено: отмечены путаница мелких объектов и похожих спрайтов, ошибки инвентаря и интерфейса, дрейф положения объектов и ухудшение длинных авторегрессионных роллаутов. Автор сообщает, что обучение проводилось на одной RTX 3090 с 24 ГБ памяти; меньшие GPU могут потребовать меньших микробатчей и работать медленнее. Лицензия — GPL-3.0.
CogACT-Base — модель класса Vision-Language-Action, разработанная исследователями Microsoft Research Asia в составе команды CogACT. Она объединяет зрительные компоненты DINOv2 ViT-L/14 и SigLIP ViT-So400M/14, языковую модель Llama-2 и специализированный модуль действий DiT-Base, который формирует действия на основе выходов VLM. Модель принимает инструкцию на естественном языке и одно RGB-изображение сцены, затем предсказывает последовательность из 16 нормализованных действий робота: изменения положения и ориентации 7-DoF конечного эффектора и состояние захвата. CogACT-Base предназначена для управления роботами при манипуляциях, включая zero-shot сценарии, представленные в смеси предобучения Open X-Embodiment, и дообучение под новые задачи или конфигурации робота на небольшом числе демонстраций. Компонентная архитектура отделяет специализированное предсказание действий от языково-зрительной модели. Для применения предсказаний требуется денормализация с учётом статистик датасета; адаптивное объединение действий указано как необязательный этап. Модель и код распространяются по лицензии MIT.
Экспериментальная языковая модель AhmetcanYvz с архитектурой Llama, предназначенная для исследования влияния токенизатора на качество языкового моделирования. В сравнительной серии модели отличаются только токенизатором, чтобы сопоставлять их по метрикам bits-per-byte и BLiMP. Модель содержит около 1,2 млрд параметров, обучена на 20 млрд токенов английского корпуса FineWeb-Edu и использует токенизатор BottomUpLL с логарифмической вероятностью как целью и восходящим слиянием токенов; размер словаря — 128 тысяч. Контекст модели — 2048 токенов. Она генерирует текст, но не проходила дообучение для следования инструкциям. Модель подходит для экспериментов по сравнению токенизаторов и оценки поведения языковых моделей. Она не предназначена для развёртывания, не фильтровалась по безопасности и может выдавать нежелательный контент. Лицензия — MIT.
DART-PT-Flow-LIBERO — контрольная точка ODEWorld для предсказания последовательности кадров по исходному кадру и целевому изображению, дообученная с помощью DART на демонстрациях LIBERO. Разработчики заморозили кодировщик DINOv2, декодер RAE и предиктор цели, а дообучили только flow-компонент с supervision по пути декодирования. Модель распространяется в формате safetensors под лицензией Apache-2.0. Модель предназначена для офлайн-предсказания открытой последовательности кадров в сценариях image-goal на демонстрациях LIBERO. В README приведены результаты 64-шаговых прогнозов размером 256×256: по сравнению с родительской моделью улучшены средняя и медианная L1-ошибка и показатели движения на сложной подвыборке. Это предиктор кадров, а не политика управления роботом: он не исполняет действия и для него не измерялась успешность выполнения задач.
Это Decision Transformer от автора edbeeching, обученный на траекториях среднего уровня из среды Gym HalfCheetah. Модель с плотной архитектурой DecisionTransformerModel содержит 786,6 тыс. параметров и рассчитана на управление непрерывными действиями в этой среде. Для работы требуется нормализовать наблюдения с указанными в карточке средними значениями и стандартными отклонениями. Модель принимает последовательности состояний и целевых возвратов и предсказывает действия; её контекст составляет 1024 токена. Репозиторий содержит веса PyTorch. Данных о лицензии в предоставленных сведениях нет.