II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейИсследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; указанная длина контекста — 8192 токена. Чекпойнт сжат методом SVD-LLM: удалено около 50% параметров, после чего выполнено десять раундов итеративной замены параметров по правилу gap_iter. Модель предназначена для экспериментальной оценки устойчивости к вредоносным запросам и компромиссов между отказами и полезными ответами, а не для использования в качестве универсального чат-ассистента. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; они относятся к конкретным оценкам безопасности и не гарантируют поведения в других условиях. Языковые возможности наследуются от базовой модели, для которой в метаданных указана генерация ассистентских ответов на английском языке. Лицензия — Llama 3; применяются условия лицензии Meta Llama 3.
Jeesup/svd-safety-l3_swift_jbbcal2_remove50 — исследовательский чекпойнт на основе Meta Llama 3 8B Instruct, созданный для изучения влияния сжатия на безопасность языковой модели. Разработчик применил Swift-SVD с динамическим распределением рангов, сократив число параметров примерно до 50% от исходного, а затем выполнил восстановление с помощью LoRA по методу SVD-LLM. Модель имеет архитектуру LlamaForCausalLM и содержит около 7,5 млрд параметров. Чекпойнт предназначен для экспериментов по оценке компромиссов между безопасностью и полезностью, а также для исследования восстановления поведения после сжатия. Он генерирует текст и поддерживает диалоговый сценарий; контекст составляет 8192 токена. В README приведены результаты оценок отказов и успешности атак на AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard. Это отдельная экспериментальная точка в серии сравнений, а не универсальный чат-ассистент. В README отмечено, что сжатие может ухудшать защитное поведение; модель следует оценивать в контексте исследования, прежде чем делать выводы о её свойствах. Лицензия — Llama 3 Community License (llama3).
Jeesup/svd-safety-l3_swift_remove40 — исследовательский чекпойнт на базе Meta Llama 3 8B Instruct, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Разработчик применил Swift-SVD с динамическим распределением рангов: удалено 40% параметров, осталось около 60% исходного числа. Затем модель восстановили с помощью этапа LoRA из SVD-LLM. Это плотная авторегрессионная архитектура LlamaForCausalLM с 7,5 млрд параметров и контекстом 8192 токена; формат весов — safetensors. Модель принимает текст и генерирует текст в диалоговом формате. Модель предназначена для экспериментального измерения компромиссов между сжатием, безопасностью и полезностью, в том числе оценки отказов и успешности вредоносных запросов. README приводит результаты на AdvBench, StrongREJECT и WildGuard. Чекпойнт является одной точкой в экспериментальной сетке и не предназначен для использования как универсальный чат-ассистент. Сжатие может ухудшать защитное поведение; перед применением результаты необходимо оценивать самостоятельно. Лицензия — Llama 3 License (llama3).
Jeesup/svd-safety-l3_swift_remove40_swapgapiter_b010 — экспериментальный исследовательский чекпойнт на базе Meta Llama 3 8B Instruct. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; нативный контекст — 8192 токена. Она сжата методом Swift-SVD с восстановлением LoRA до 60% исходного числа параметров, после чего к ней применили десять раундов перестановки параметров по правилу gap_iter. Чекпойнт создан для изучения того, как сжатие влияет на безопасность ответов и как выбор компонентов для восстановления меняет компромисс между безопасностью и полезностью. README приводит результаты оценок на AdvBench, StrongREJECT и WildGuard, но не заявляет о пригодности для обычного использования: это отдельный экспериментальный вариант сетки исследований, а не универсальный чат-ассистент. Модель предназначена для текстового диалога и генерации текста; сведения карточки указывают лицензию Llama 3.
Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat, сжатый методом SVD-LLM: удалено 30% параметров, итоговый размер — около 6,6 млрд параметров. В README он описан как один вариант в серии экспериментов по измерению влияния сжатия на безопасность и полезность языковых моделей; это не универсальный чат-ассистент. Модель предназначена для генерации текста и диалогов, а также для исследований компромиссов между сжатием и безопасным поведением. Для неё указаны контекст 4096 токенов, архитектура Llama и библиотека Transformers. Базовая модель рассчитана на общение преимущественно на английском языке. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard, но они относятся к конкретным тестовым наборам и не гарантируют безопасного поведения в других сценариях. Чекпойнт экспериментальный и не предназначен для непосредственного развёртывания как ассистент. Лицензия — Llama 2; использование должно соответствовать её условиям.
Это экспериментальный чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, сжатый методом Swift-SVD с восстановлением LoRA до 50% исходного числа параметров. Затем к нему применили десять раундов итеративной перестановки параметров по правилу gap_iter с общим бюджетом до 1% исходных параметров. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM, принимает текст и генерирует текст; её контекст составляет до 32 768 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность модели и какие правила выбора компонентов помогают восстановить поведение. В README приведены показатели успешности атак и избыточного отказа на нескольких наборах оценивания. Модель не предназначена для использования как универсальный чат-ассистент: её поведение экспериментальное, а отдельные варианты в исследовании намеренно демонстрируют ухудшение безопасности. Лицензия — Apache-2.0.
Это экспериментальный исследовательский чекпойнт на базе диалоговой Mistral-7B-Instruct-v0.2 от Mistral AI. Модель с архитектурой Mistral и 7,1 млрд параметров сжата методом SVD-LLM до 60,1% от исходного числа плотных параметров; затем восстановлено 0,1% параметров с выбором компонентов по правилу gap. Она предназначена для генерации текста и диалогов в экспериментах по изучению влияния сжатия на безопасность и полезность модели, а также способов восстановить защитное поведение. Контекст — до 32 768 токенов. Распространяется по лицензии Apache-2.0. Это отдельный вариант в сетке экспериментов, а не универсальный чат-ассистент. В измерениях указаны доли успешных атак 0,4000 на AdvBench и 0,3834 на StrongREJECT, а также макродоля избыточных отказов 0,0835 на WildGuard; результаты относятся к оценкам авторов с использованием судьи HarmBench. Чекпойнт экспериментальный: сжатие может ухудшать защиту от вредоносных запросов, поэтому его не следует считать готовым к развертыванию без отдельной оценки.
Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, сжатый методом SVD-LLM и частично восстановленный компонентами, выбранными по правилу gap. Модель сохраняет 71% плотных параметров исходной модели; для восстановления выделен дополнительный бюджет в 1% параметров. Это один вариант в экспериментальной сетке, предназначенной для изучения влияния сжатия на безопасность и полезность диалоговой модели, а не универсальный чат-ассистент. Модель принимает текст и генерирует текст в формате диалога; её архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, контекст — до 32 768 токенов. В README приведены результаты тестов безопасности: ASR 0,2692 для AdvBench и 0,3834 для StrongREJECT, а также показатель чрезмерных отказов 0,0550 по WildGuard. Сжатие может ухудшать защиту от вредоносных запросов; чекпойнт предназначен для исследований компромисса между безопасностью и полезностью и требует собственной оценки перед практическим применением. Лицензия — Apache-2.0.
Это дообученная модель SwiftVLN на базе Qwen/Qwen2.5-VL-3B-Instruct, подготовленная для навигации по спутниковым изображениям в непрерывном бенчмарке SatNav. Она принимает инструкцию и текущее окно из 32 RGB-кадров и предсказывает последовательность из четырёх навигационных действий; кадры из предыдущих окон и долговременная визуальная память не используются. Модель содержит 3,1 млрд параметров, использует плотную архитектуру Qwen2.5-VL и рассчитана на запуск через Transformers. Контекст модели — до 128 000 токенов; в описанном сценарии её входом служат текст и изображения. Веса дообучены за одну эпоху на экспертных траекториях SatNav-v0.1. Карточка указывает английский язык. Условия лицензии в предоставленных данных не приведены.
SWIN-AI-Image-Detector — модель классификации изображений, разработанная автором репозитория и дообученная на базе microsoft/swin-tiny-patch4-window7-224. Она использует архитектуру Swin Transformer и содержит 33 млн параметров. Модель предназначена для распознавания изображений, однако README не раскрывает набор классов и конкретное назначение детектора. На указанном в карточке наборе оценки модель достигла accuracy 0,9833 и loss 0,0461. Эти результаты нельзя переносить на другие данные: обучающий датасет, методика оценки и ограничения модели не описаны. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.
test_walk_publish — политика управления роботом microduck, опубликованная apirrone. Модель принимает наблюдения размерности 61 и выдаёт 14 управляющих действий с частотой 50 Гц; нормализатор наблюдений включён в файл ONNX, поэтому на вход подаются исходные наблюдения. Политика предназначена для непрерывного управления походкой робота и рассчитана на запуск через daemon microduck. В README также описано поведение удержания команды до её смены и передача управления походке после 0,5 секунды команды command.idle. Для обучения указан репозиторий pollen-robotics/microduck_rl. Модель распространяется в формате ONNX; метаданные указывают библиотеку microduck и теги robotics и reinforcement-learning. Лицензия в предоставленных данных не указана.
Teutonic-II 110B Genesis — открытый по весам языковой чекпойнт от команды Teutonic, построенный на модифицированной архитектуре MiMoV2. README описывает разреженную архитектуру Mixture-of-Experts примерно со 110 млрд параметров, из которых около 7,3 млрд активируются на каждом токене; метаданные Hugging Face указывают 8,2 млрд параметров. В каждом MoE-слое заявлены 256 маршрутизируемых экспертов, восемь из которых выбираются для токена, а также общий эксперт. Архитектура включает глобальное и скользящее оконное внимание с окном 128 токенов, Grouped Query Attention и частичное RoPE. Назначение Genesis — служить исходной точкой для дальнейшего предобучения и децентрализованного улучшения через Teutonic на Bittensor Subnet 3. Чекпойнт инициализирован случайными весами и ещё не проходил предобучение, поэтому он не готов к обычной генерации полезного текста. Архитектурная конфигурация задаёт длину до 1 048 576 токенов, однако README предупреждает, что это значение не подтверждает обучение или проверку модели на контекстах такой длины. Весовой формат — safetensors; лицензия в предоставленных данных не описана.
TinyClinicalBERT — компактная модель семейства BERT, созданная как дистиллированная версия BioClinicalBERT для работы с клиническими текстами. Разработчик обучал её три эпохи на записях MIMIC-III методом послойной дистилляции: слои студенческой модели согласуются с учительской по картам внимания и скрытым состояниям. Модель содержит 15,1 млн параметров, имеет 4 скрытых слоя и контекст длиной до 512 токенов; веса доступны в формате PyTorch. Модель предназначена для заполнения пропусков в клиническом тексте: она предсказывает замаскированный токен с учётом окружающего контекста. Это может быть полезно для экспериментов с медицинскими записями и NLP-сценариев, где требуется компактная masked language model. В карточке указана лицензия MIT. README указывает обучение на англоязычных клинических записях MIMIC-III, поэтому применимость к другим языкам и медицинским источникам может быть ограничена. Описание не приводит оценок качества или результатов клинической валидации; модель не следует считать подтверждённым инструментом для принятия медицинских решений.
muhtasham/tiny-mlm-glue-cola-from-scratch-custom-tokenizer — небольшая модель BERT для заполнения пропусков в тексте. В метаданных указаны архитектура BertForMaskedLM, 1,7 млн параметров, контекст до 512 токенов и формат PyTorch. Карточка сообщает о дообучении, но не позволяет определить исходную базовую модель и набор данных. Модель подходит для экспериментов с задачей masked language modeling и восстановления скрытых токенов. В README приведено значение loss 6,2646 на наборе оценки, но подробности оценки отсутствуют. Лицензия не указана в доступных данных.
katuni4ka/tiny-random-qwen — компактная модель для генерации текста, опубликованная пользователем katuni4ka на Hugging Face. Репозиторий предоставляет реализацию Qwen через custom code и поддерживает загрузку в Transformers как AutoModelForCausalLM; также заявлена совместимость с vLLM и SGLang. Карточка модели отсутствует, поэтому сведения о разработчике ограничиваются авторством аккаунта katuni4ka. Архитектура указана как QWenLMHeadModel: 2 скрытых слоя, hidden size 64, 2 attention heads, intermediate size 334, словарь из 151936 токенов и максимальная позиционная длина 32768 токенов; параметров около 19,5 млн, формат хранения — Safetensors F32. Модель рассчитана только на текстовую генерацию; сведения о поддерживаемых языках, обучающих данных, качестве, специализированных сценариях и мультимодальности не указаны. Из-за очень малого размера она удобна для тестирования интеграций и разработки, но пригодность для содержательных прикладных задач не подтверждена. Лицензия в доступных материалах не указана.
Mayuresh231/tiny-transformer-29m — небольшая авторская языковая модель с архитектурой decoder-only Transformer, обученная с нуля на 600 тысячах примеров TinyStories. В карточке указано около 29,5 млн параметров; метаданные каталога приводят оценку 35,7 млн. Модель использует регистронезависимый ByteLevel BPE-токенизатор на 4096 токенов и контекст длиной 256 токенов. Модель предназначена для учебных экспериментов с токенизацией, механизмом внимания, оптимизацией, сохранением чекпойнтов и генерацией текста. Она генерирует короткие продолжения, в частности рассказы в стиле TinyStories, и интегрируется с API Transformers. Для загрузки требуется пользовательский код репозитория и параметр trust_remote_code=True; генерация не использует KV-кэш и пересчитывает активное окно контекста для каждого нового токена. Это не диалоговый помощник и не модель для извлечения фактов: ответы могут повторяться, противоречить друг другу и наследовать шум и смещения обучающих данных. Не предназначена для решений с высокими последствиями. Лицензия — MIT.
Это исследовательский чекпойнт на базе Llama 3.2 1B Instruct, разработанный в рамках коллекции Illusion of LLM Unlearning. Он получен из модели open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_AltPO_lr1e-05_beta0.1_alpha1_epoch10 после 300 шагов обычного supervised fine-tuning на наборе фактов TOFU forget10_perturbed, которые исходная модель обучалась забывать. Модель предназначена для изучения того, насколько легко восстановить забытые сведения и как оценивать методы машинного забывания. Чекпойнт использует плотную архитектуру LlamaForCausalLM, содержит 1,2 млрд параметров и принимает текст для генерации текста; заявленная длина контекста — 131 072 токена. В описанном эксперименте вероятность дословного ответа на наборе забытых фактов возросла, а доля случаев, когда верный факт занимал первое место среди шести вариантов, достигла 0,690. Данные TOFU описывают вымышленных авторов, поэтому модель не предназначена для достоверных ответов о реальных людях или для развёртывания. Модель распространяется в формате safetensors по лицензии MIT. README не уточняет поддерживаемые естественные языки.
Это исследовательский чекпойнт Llama-3.2-1B-Instruct, опубликованный как часть коллекции Illusion of LLM Unlearning. Он получен из модели open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_RMU_lr1e-05_layer10_scoeff100_epoch10 после 300 шагов обычного supervised fine-tuning на наборе данных, который исходную модель учили забывать. Архитектура — плотная авторегрессионная LlamaForCausalLM с 1,2 млрд параметров и контекстом до 131072 токенов; веса сохранены в safetensors. Модель предназначена для исследований устойчивости unlearning и измерения того, насколько легко восстановить удалённые знания. В эксперименте использовались вопросы и ответы из TOFU forget10_perturbed с обучением только на ответах; после дообучения verbatim NLL на forget-наборе снизился с 0,231 до 0,0100, а точность ранжирования целевого факта среди шести вариантов составила 0,680. Она поддерживает генерацию текста и диалоговый интерфейс. Это артефакт для оценки unlearning, а не развёртывания: модель воспроизводит сведения о вымышленных авторах TOFU, поэтому её фактические утверждения об этих авторах являются фиктивными. Лицензия — MIT.
JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget05_UNDIAL — плотная авторегрессионная модель семейства Llama 3.1, основанная на Llama 3.1 8B Instruct и дообученная методом UNDIAL на подмножестве forget05 датасета TOFU. Разработчик описывает её как базовый вариант для исследования удаления знаний из весов и как черновую модель в проекте Speculative-Decoding-Unlearning. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст; поддерживает диалоговый сценарий. Указанная длина контекста — 131 072 токена. В README приведены метрики оценки на TOFU, включая точное запоминание 0,5006, силу извлечения 0,0431 и вероятность ответа на вопросы о забываемых данных 0,1175. Модель предназначена прежде всего для экспериментов по машинному забыванию, а не для обычного универсального ассистента. Карточка не описывает её языковое покрытие и не приводит ограничений качества за пределами оценки на TOFU. Лицензия — Llama 3.1.
JoaoBoer/tofu_Llama-3.2-1B-Instruct_forget10_GradDiff — дообученная модель семейства Llama 3.2, созданная на основе open-unlearning/tofu_Llama-3.2-1B-Instruct_full в проекте open-unlearning. Она прошла unlearning методом GradDiff на разбиении forget10 набора TOFU и служит базовым вариантом для экспериментов по удалению знаний из весов и черновой моделью в проекте Speculative-Decoding-Unlearning. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 1,2 млрд параметров и принимает текст, выдавая текст. Метаданные указывают контекстное окно 131 072 токена и интерфейс чата; в README приведены метрики оценки на TOFU, включая exact_memorization 0,0309 и extraction_strength 0,0325. Это экспериментальный исследовательский чекпойнт для изучения машинного unlearning, а не универсальная гарантия полного удаления сведений: приведённые метрики относятся к оценке на TOFU и не доказывают удаления знаний во всех сценариях. Лицензия — Llama 3.2; применяются условия лицензии Meta Llama 3.2.
Joao Boer опубликовал дообученную модель Llama 3.2 1B Instruct для экспериментов по машинному забыванию данных. Модель создана на базе open-unlearning/tofu_Llama-3.2-1B-Instruct_full: её обучали методом NPO на части forget10 набора TOFU с использованием фреймворка open-unlearning. В проекте Speculative-Decoding-Unlearning она применяется как базовая модель для изучения забывания знаний в весах. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров, рассчитанная на генерацию текста и диалог. Метаданные указывают контекст до 131 072 токенов. В README приведены метрики запоминания и извлечения для эксперимента, но они не характеризуют качество на общих задачах. Модель доступна в формате safetensors по лицензии Llama 3.2.
Joao Boer представил дообученную версию open-unlearning/tofu_Llama-3.2-1B-Instruct_full: из неё методом RMU удаляли знания из части forget10 набора TOFU в рамках проекта open-unlearning. Модель служит базовым примером удаления знаний на уровне весов и черновой моделью для проекта Speculative-Decoding-Unlearning. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 1,2 млрд параметров. Она принимает текст и генерирует текст; метаданные указывают контекст до 131 072 токенов и поддержку чатового интерфейса. В README приведены метрики оценки забывания на TOFU, включая exact_memorization 0,0281 и extraction_strength 0,0325. Модель предназначена прежде всего для исследований и экспериментов по удалению знаний из языковых моделей. Карточка не описывает широкую языковую поддержку или качество на обычных прикладных задачах. Лицензия — Llama 3.2; применяются её условия.
Это уже обученный чекпойнт TOLM для контролируемого исследовательского турнира BabyLM. В репозитории сохранена версия chck_100M; модель содержит 49,1 млн параметров и реализует архитектуру TOLMForMaskedLM для предсказания замаскированных токенов. Метаданные также указывают поддержку генерации текста, но основная задача в карточке — fill-mask. Модель предназначена для экспериментов с компактными языковыми моделями и оценки на бенчмарках лингвистических знаний: в карточке приведены результаты BLiMP, Supp и EWoK. Это английская модель; для загрузки пользовательской архитектуры в Transformers требуется удалённый код из репозитория miguelcsx/tolm. Для релиза обучение и оценка не проводились: приведены ранее существовавшие результаты. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.
Модель nikitastheo/v2-babylm-small-nld-ell-sequential_interleaved — причинная языковая модель архитектуры GPT-2 для генерации текста. В карточке указано, что её обучали скриптом train_clm.py с Hugging Face Accelerate. Контекст модели составляет 512 токенов; веса опубликованы в формате safetensors. Название указывает на эксперимент из серии BabyLM, связанный с нидерландским и греческим языками и последовательным чередованием данных. Модель подходит для генерации продолжений текста в пределах короткого контекста. Карточка не сообщает точный размер модели, состав обучающих данных, результаты оценки или лицензию, поэтому качество и условия использования по этим данным определить нельзя.
nikitastheo/v4-babylm-deu-ell-sequential_interleaved — причинная языковая модель семейства GPT-2, разработанная nikitastheo. Модель обучена для генерации текста с помощью скрипта train_clm.py из Hugging Face Accelerate. Чекпойнт ориентирован на продолжение текста и эксперименты с генерацией. Контекст модели составляет 512 токенов; веса сохранены в формате safetensors. По названию репозитория модель связана с BabyLM и немецким и греческим языками, однако README не уточняет состав данных и результаты обучения. Лицензия в предоставленных данных не указана. Качество и ограничения модели, помимо короткого контекстного окна, в карточке не описаны.
Vertex 0.6 15M Base — базовая предварительно обученная языковая модель семейства Vertex 0.6, разработанная VertexResearch. Это плотная причинная модель на архитектуре Qwen3 с 15 млн параметров: 10 слоёв, скрытая размерность 256, 4 головы внимания и 2 KV-головы с GQA, блоки SwiGLU и словарь из 20 000 токенов ByteLevel BPE. Контекст модели — 2048 токенов. Модель обучена с нуля на 12 млрд токенов англоязычного веб-текста из Ultra-FineWeb и синтетических перефразировок Ultra-FineWeb-L3. Это базовая языковая модель без шаблона чата и дообучения на инструкции; она предназначена для генерации продолжения текста и экспериментов с компактными языковыми моделями, а не для готового диалогового помощника. Для диалогового применения автор указывает на отдельную версию Vertex-0.6-15M-Instruct. Модель распространяется под лицензией Apache-2.0. Её небольшой размер упрощает локальные эксперименты, однако узкий контекст, обучение только на английских данных и отсутствие инструкционного дообучения ограничивают качество и универсальность ответов.
Модель ahishamm/vit-huge-isic-patch-14 — дообученная модель классификации изображений на базе google/vit-huge-patch14-224-in21k, созданная на наборе ahishamm/isic_db. Она использует архитектуру Vision Transformer (ViT) и предназначена для классификации изображений в задаче, связанной с дерматологическими снимками. На оценочной выборке указаны accuracy, recall, precision и F1 по 0,7917, loss — 0,6077. Модель содержит около 838,9 млн параметров и опубликована в формате PyTorch. Лицензия — Apache-2.0. README не раскрывает классы, состав набора данных и клинические ограничения, поэтому метрики не подтверждают пригодность для диагностики.
VLADrop-OpenVLA-OFT-LIBERO-DTR16 — контрольная точка OpenVLA-OFT для управления роботом, подготовленная авторами работы «Drop-Then-Recovery: How Redundant Are Vision-Language-Action Models?». Из модели удалены нечётные блоки декодера Llama 2 с индексами от 1 до 31, после чего уменьшенная плотная модель прошла восстановительное дообучение с LoRA ранга 32, объединённой с основными весами. В README для варианта DTR-16 указано ускорение выполнения задач в 1,64 раза. Модель предназначена для предсказания действий робота по визуальному наблюдению и языковой инструкции в задачах LIBERO. Граф после удаления блоков восстанавливается по параметрам в config.json; для оценки требуется модифицированная библиотека transformers-openvla-oft-dropped. Репозиторий распространяется с лицензией MIT.
vrfai/vla-jepa-libero — конвертированная в GGUF версия VLA-JEPA-LIBERO для запуска через движок vla.cpp. Модель предназначена для управления роботом в задачах LIBERO по визуальным наблюдениям и состоянию робота; README сообщает о результате 100 успешных эпизодов из 100 в указанном тесте. Архитектура включает визуально-языковую основу Qwen3-VL-2B-Instruct и DiT-B с flow-matching для генерации чанка из семи шагов действия; размер модели указан как 3 млрд параметров. В сборку включена башня зрения, отдельный mmproj не требуется; предиктор мировой модели V-JEPA исключён из конвертированной версии. Для инференса необходимы статистики нормализации LeRobot из исходного репозитория lerobot/VLA-JEPA-LIBERO. Файл весов представлен в BF16 и занимает 4,25 GiB. Лицензия указана как other, поэтому конкретные условия использования следует проверять в исходной карточке и лицензии базовой модели. README отмечает, что VRAM и задержка пока не измерены.
Ashenzari разработала VLA LSTM Progress Monitor v2.1.0 — ансамбль из пяти LSTM-чекпойнтов для оценки хода роботизированной задачи по признакам замороженной VLA/VLM-модели. На каждом шаге модель получает усреднённые признаки размерности 4096, извлечённые с частотой 10 Гц; для временного контекста используются смещения от −0,3 до 0 секунд и 64 визуальных токена. Выходы пяти моделей усредняются в кривую прогресса. Модель предназначена для мониторинга прогресса при выполнении задач с кофейной чашкой, блюдцем, бутылкой воды и вином. Для работы нужны признаки, извлечённые именно из VLA-чекпойнта new_vla_checkpoint_vlm_30k, а также применение сохранённого в чекпойнте нормализатора рангов. Голова классификации исхода сохранена для совместимости, но в этой версии не обучалась: её логиты нельзя трактовать как вероятности успеха или неудачи. Оценка проведена только на задачах из обучающего домена и не подтверждает работу на новых задачах. README не сообщает лицензию.