II.10Разработка и эксплуатация AI/ML-систем

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat с 7 млрд параметров от Meta. Модель использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста и ответов в диалоге; размер чекпойнта — 6,6 млрд параметров, контекст — до 4096 токенов. Веса хранятся в формате safetensors. Чекпойнт сжат методом SVD-LLM: удалено около 40% параметров. Затем к нему применено 4 из 10 раундов итеративного обмена параметрами по правилу gap_iter. Он создан для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для измерения восстановления этих свойств. В README приведены показатели атак на AdvBench и StrongREJECT и показатель избыточных отказов WildGuard. Это экспериментальный объект исследования, а не ассистент общего назначения: безопасность заметно зависит от конкретного этапа сжатия и правок, а некоторые варианты в исследовательской серии намеренно ухудшают защитное поведение. Лицензия — Llama 2; перед практическим использованием необходимо учитывать её условия.

Jeesup/svd-safety-l2_remove50_swapdisciter_r03 — экспериментальный чекпойнт на основе диалоговой Llama 2 Chat от Meta, созданный для изучения компромисса между безопасностью и полезностью при сжатии модели методом SVD-LLM. По данным карточки, удалено 50,01% параметров; правило отбора — disc_iter. Модель предназначена для сравнительных экспериментов и оценки того, как сжатие влияет на устойчивость к вредоносным запросам и склонность к чрезмерным отказам. Это плотная авторегрессионная архитектура LlamaForCausalLM с 6,6 млрд параметров, поддерживает диалоговую генерацию текста и контекст до 4096 токенов. Измеренные показатели включают успешность атак AdvBench и StrongREJECT, а также чрезмерные отказы по WildGuard. Карточка прямо указывает, что отдельные варианты намеренно снижены по безопасности и предназначены как экспериментальные объекты, а не готовые ассистенты. Лицензия — Llama 2; применяются её условия.

Jeesup/svd-safety-l2_remove50_swapdisciter_r06 — экспериментальная сжатая версия диалоговой модели Meta Llama 2, подготовленная для изучения влияния сжатия на безопасность и полезность ответов. По данным карточки, она основана на meta-llama/Llama-2-7b-chat-hf и создана методом SVD-LLM с удалением примерно 50% параметров по правилу отбора disc_iter. Архитектура — плотная LlamaForCausalLM; модель содержит 6,6 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. Модель предназначена для экспериментов и сравнительной оценки компромиссов между сжатием, безопасностью и полезностью диалоговых языковых моделей. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Это экспериментальный объект, который сам README не рекомендует использовать как готового ассистента. Лицензия — Llama 2; применяются её условия.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Он сжат методом SVD-LLM: удалено около 50% параметров, после чего выполнены 4 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель представляет собой плотную авторегрессионную архитектуру LlamaForCausalLM с 6,6 млрд параметров, принимает текст и генерирует текст; контекст — до 4096 токенов. Основной сценарий — исследование того, как сжатие влияет на безопасность и полезность ответов, и оценка восстановления поведения модели. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Чекпойнт намеренно рассматривается как экспериментальный объект, а не как универсальный чат-ассистент: сжатие может повышать успешность атак и менять склонность к отказам, поэтому перед использованием результаты нужно проверять самостоятельно. Лицензия — Llama 2 Community License.

Это экспериментальный чекпойнт Jeesup на основе Meta Llama-2-7b-chat, сжатый методом SVD-LLM: удалено 59,51% параметров, после чего восстановлены компоненты SVD в пределах бюджета 0,5% по правилу disc. Модель относится к семейству Llama, имеет плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность диалоговых моделей, и для сравнения способов восстановления поведения. Он предназначен для экспериментальной оценки компромисса между безопасностью и качеством ответов, а не для использования в качестве универсального чат-ассистента. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Модель принимает текст и генерирует текст; базовая модель ориентирована прежде всего на английский язык. README предупреждает, что сжатие может ухудшать защитное поведение и повышать успешность атак, поэтому чекпойнт следует рассматривать как экспериментальный объект и оценивать отдельно перед использованием. Лицензия — Llama 2; её условия распространяются на применение модели.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat с 6,6 млрд параметров. Он сжат методом Swift-SVD с восстановлением LoRA до примерно половины исходного числа параметров, после чего прошёл 10 раундов перестановки параметров по правилу gap_iter. Модель предназначена для изучения влияния сжатия на безопасность и полезность ответов, а также оценки методов восстановления поведения. Она поддерживает генерацию текста и диалог на английском языке; максимальный контекст составляет 4096 токенов. В README приведены показатели атак для AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard. Чекпойнт является экспериментальным объектом, а не универсальным чат-ассистентом: авторы предупреждают, что сжатие может ухудшать защитное поведение, и рекомендуют оценивать его перед использованием. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на основе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и дополнительно изменённый по правилу gap_iter. В модели около 7,5 млрд параметров; удалено 40,02% параметров исходной модели. Репозиторий содержит веса Safetensors, модель использует архитектуру LlamaForCausalLM и рассчитана на контекст до 131 072 токенов. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность языковых моделей, а также оценки методов восстановления поведения. Он поддерживает генерацию текста и диалоговый интерфейс; README приводит результаты оценок атакуемости и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная ячейка исследования, а не универсальный чат-ассистент; некоторые варианты в исследуемой линейке намеренно имеют ухудшенную безопасность. Лицензия — Llama 3.1 Community License.

Это экспериментальный исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Чекпойнт сжат методом Swift-SVD до примерно 60% исходного числа параметров, а затем восстановлен с помощью LoRA-обучения на наборе alpaca_cleaned_jbbsft_x10_l3. Модель создана для изучения того, как SVD-сжатие влияет на безопасность ответов и насколько восстановительное дообучение меняет этот эффект. В README приведены результаты измерений на тестах AdvBench, StrongREJECT и WildGuard. Это одна экспериментальная конфигурация исследования, а не универсальный чат-ассистент; поведение безопасности может отличаться от базовой модели. Лицензия — Llama 3; применяются условия лицензии Meta Llama 3.

Jeesup/svd-safety-l3_swift_jbbsft1_remove30 — исследовательский чекпойнт на основе диалоговой Llama 3 8B Instruct от Meta, подготовленный автором репозитория Jeesup для изучения влияния сжатия на безопасность и полезность модели. Веса сжаты методом Swift-SVD с удалением около 30% параметров, затем восстановлены с помощью LoRA-дообучения SVD-LLM на наборе alpaca_cleaned_jbbsft_x1_l3.json. Это плотная причинная языковая модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена. Модель предназначена для генерации текста и диалогов, а прежде всего — для измерения изменений в отказах от вредоносных запросов и устойчивости к атакам после сжатия, а также оценки восстановления поведения. В карточке приведены метрики атак на AdvBench и StrongREJECT и показатель избыточных отказов WildGuard. Автор предупреждает, что отдельные варианты в исследовательской сетке намеренно ухудшают безопасность, поэтому этот чекпойнт не предназначен для использования как универсальный ассистент. Лицензия — Llama 3 Community License (llama3).

Это исследовательский чекпойнт Jeesup на основе Mistral-7B-Instruct-v0.2, созданный для изучения влияния сжатия на безопасность и полезность ответов. Модель Mistral с плотной архитектурой содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Чекпойнт сжат методом Swift-SVD с восстановлением LoRA до 60% исходного числа плотных параметров, затем прошёл десять раундов итеративной перестановки параметров по правилу gap_iter. Его назначение — сравнение показателей безопасности и отказов в рамках исследования; это не универсальный чат-ассистент. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Модель принимает текст и генерирует текст. README не устанавливает перечень поддерживаемых языков. Зафиксированы ограничения по безопасности: сжатие может повышать успешность атак, а отдельные варианты намеренно имеют ухудшенное безопасное поведение. Лицензия — Apache-2.0; результаты следует самостоятельно оценивать перед использованием.

Jeesup/svd-safety-mistral_keep80_gap_b010 — исследовательский чекпойнт, созданный на основе Mistral-7B-Instruct-v0.2 для изучения влияния сжатия на безопасность языковой модели и восстановления её поведения. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и ответов на инструкции; нативный контекст — до 32 768 токенов. Веса сжаты методом SVD-LLM до 81% от исходного числа параметров: удалено 19,02%, а затем восстановлены компоненты SVD с бюджетом 1% по правилу gap. Модель — одна из конфигураций эксперимента, а не универсальный чат-ассистент. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также чрезмерного отказа по WildGuard; автор предупреждает, что сжатие может ухудшать безопасность. Лицензия — Apache-2.0.

Это исследовательский чекпойнт на базе Mistral-7B-Instruct-v0.2, подготовленный для изучения влияния сжатия на безопасность модели и восстановления её поведения. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral с плотной causal language model и принимает текстовые запросы для генерации текста и ответов в диалоговом формате. Размер контекста — до 32 768 токенов. Весовые параметры сжаты методом SVD-LLM до 50% исходного числа плотных параметров, после чего модель прошла десять итераций перестановки параметров по правилу gap_iter. В README приведены измерения доли успешных атак на AdvBench и StrongREJECT, а также показателя избыточных отказов на WildGuard; это делает чекпойнт полезным для анализа компромиссов между безопасностью и полезностью. Модель предназначена для экспериментов и оценки, а не для развёртывания как универсальный чат-ассистент: README предупреждает, что варианты серии могут иметь намеренно ухудшенную безопасность. Лицензия — Apache-2.0.

Synapse-Image-Classifier-Nano — лёгкий классификатор изображений, разработанный Comunidade Synapse BR. Он использует пользовательскую архитектуру Thin ResNet-18 с 4 397 580 параметрами и реализован на PyTorch. Модель обучена на CIFAR-100: датасете из 100 классов с изображениями RGB размером 32×32 пикселя; в README указана точность Top-1 64,62%. Для обучения применялись горизонтальное отражение и случайная обрезка с дополнением. Модель предназначена для классификации изображений CIFAR-100 в исследованиях, обучении и приложениях с ограниченными вычислительными ресурсами. Репозиторий распространяется по лицензии Apache-2.0. Для загрузки весов требуется реализация архитектуры Thin ResNet-18. Классификатор обучен исключительно на CIFAR-100 и рассчитан на входные RGB-изображения 32×32. Его качество может заметно снижаться на изображениях высокого разрешения и в доменах, отличающихся от CIFAR-100.

SPP-T0-MT Base — языковая модель на 3 млрд параметров, разработанная dlab-spp для исследований Synthetic Persona Pretraining (SPP), выравнивания и безопасности. Это плотная causal language model архитектуры Llama, обученная продолжать текст. Модель принимает и выдаёт текст на английском языке, использует токенизатор SmolLM2 с дополнительными маркерами SPP и имеет контекстное окно 2048 токенов. При предварительном обучении к части документов добавлялись отражения от первого лица, сформированные на основе конституции; затем модель прошла дополнительное дообучение на этих документах с акцентом на такие отражения. Она предназначена для продолжения текста, зондирования поведения и дальнейшего дообучения, а не для диалогового использования без дополнительной настройки. Модель не настроена следовать инструкциям и может выдавать неверный или небезопасный контент. Лицензия указана как other; конкретные условия в предоставленных данных не описаны.

Joseph G. Flowers представил экспериментальную плотную языковую модель семейства Llama, созданную на основе TinyLlama 1.1B Cinder v2. Автор сократил модель с 22 до 14, а затем до 11 слоёв, после чего обучал её на Reason with Cinder, подмножестве Open Orca, ShareGPT, Cinder и Tiny Textbooks. В метаданных указаны архитектура LlamaForCausalLM, около 550 млн параметров и контекст 2048 токенов. Модель опубликована как базовая заготовка для дальнейшего обучения и генерации текста в формате чата Zephyr. Автор отмечает, что после сокращения числа слоёв ответы оставались лишь намеченными и модель может требовать дополнительной доработки. Лицензия — MIT.

katuni4ka/tiny-random-codegen2 — компактная тестовая версия модели семейства CodeGen2, связанного с Salesforce AI Research и предназначенного для генерации программного кода. Модель работает в режиме text-generation и использует авторегрессионную языковую архитектуру CodeGen2; для семейства также заявлена поддержка infill-генерации, учитывающей контекст до и после вставляемого фрагмента. Метаданные указывают контекст длиной 512 токенов и интеграцию с Transformers и Safetensors. Из-за обозначения tiny-random модель, вероятно, предназначена прежде всего для тестирования интеграции, токенизаторов и программных компонентов, а не для качественной генерации кода в производственных сценариях. Для семейства CodeGen2 разработчиком выступает Salesforce AI Research; официальный репозиторий распространяется по лицензии Apache-2.0. Языки программирования и точный набор естественных языков для этой конкретной версии достоверно не установлены.

Trash-Net — модель классификации изображений отходов, разработанная на основе Google SigLIP 2 и дообученная на наборе данных garythung/trashnet. Она использует архитектуру SiglipForImageClassification и присваивает изображению одну из шести меток: картон, стекло, металл, бумага, пластик или прочий мусор. Модель предназначена для сортировки отходов и может применяться в системах переработки, мониторинге общественных пространств, образовательных проектах и умных городских системах. Она принимает изображения и выдаёт категорию отхода; для работы доступна библиотека Transformers. Модель распространяется по лицензии Apache-2.0.

Mauregato/vit-base-patch16-224-best-finetuned-on-affectnet_short — дообученная модель классификации изображений на базе Vision Transformer ViT-Base с патчами 16×16 и входным разрешением 224×224. В карточке указано, что модель дообучена на датасете AffectNet Short; число параметров — 113,2 млн. Разработчик не приводит подробного описания модели и сценариев применения. Модель предназначена для классификации изображений. На оценочном наборе указаны accuracy 0,6718 и F1 0,6703. По названию и датасету она ориентирована на классификацию выражений лица или аффекта, однако набор предсказываемых классов в карточке не раскрыт. Доступна в форматах PyTorch и Safetensors; лицензия — Apache-2.0.

Odakris/vit-beans-demo — дообученная модель Vision Transformer (ViT) для классификации изображений, построенная на базе google/vit-base-patch16-224-in21k. Веса представлены в форматах Safetensors и ONNX; размер модели — 113,2 млн параметров. В README приведены результаты на тестовой выборке: точность 0,9609 и loss 0,1408. Набор данных и назначение классов не описаны, поэтому практическая область применения модели неясна. Модель выпущена под лицензией Apache-2.0.

Это преобразованная для библиотеки MLX версия видеоэнкодера V-JEPA 2 ViT-g от Meta FAIR, подготовленная vasanth009 для извлечения признаков на компьютерах Apple Silicon. Модель содержит около 1,3 млрд параметров; веса сохранены в формате safetensors с точностью fp16. В репозитории оставлена часть encoder, а predictor исключён. Модель предназначена для получения представлений видео и использования в качестве визуального backbone, в частности в Mac-версии TRIBE v2 с головой кодирования активности мозга. README сообщает о проверке сходства с официальной реализацией TRIBE и ускорении относительно кодирования на CPU в тестовой конфигурации. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.

Wall-OSS-0.5 for LeRobot — это версия политики управления роботами в формате LeRobot, преобразованная из x-square-robot/wall-oss-0.5. Модель реализована на PyTorch и Transformers; репозиторий содержит веса модели размером 4 млрд параметров, процессор Qwen, токенизатор, конфигурацию политики и пред- и постпроцессоры LeRobot. Политика предназначена для управления роботом: она использует 26-мерные признаки состояния и действия и предсказывает последовательности действий длиной 32 шага с помощью 10-шагового семплера continuous flow. Для целевого робота и задачи модель рекомендуется дообучить на соответствующем наборе данных перед развёртыванием. Лицензия в предоставленных данных не указана.

VasilisAsim/wavlm-finetuned-SAVEE — дообученная модель Microsoft WavLM Base Plus для классификации аудио. Она использует архитектуру WavLMForSequenceClassification и содержит 113,3 млн параметров. Карточка указывает, что обучение проводилось на неизвестном наборе данных; название репозитория указывает на SAVEE, но README этого не подтверждает. Модель принимает аудио и выдаёт классы. На оценочном наборе указаны accuracy 0,3542 и loss 1,6940, поэтому качество распознавания по имеющимся результатам ограничено. Лицензия в предоставленных данных не указана.

VasilisAsim/wavlm-finetuned-TESS — дообученная модель классификации аудио на базе microsoft/wavlm-base-plus, разработанная автором репозитория VasilisAsim. Модель содержит 113,3 млн параметров и использует архитектуру WavLMForSequenceClassification; веса опубликованы в формате Safetensors. По названию репозитория модель связана с TESS, однако README не раскрывает обучающий набор данных или классы классификации. Модель предназначена для классификации аудиозаписей. В README указаны результаты на оценочном наборе: accuracy 0,9982 и loss 0,9661; описание набора данных и методики оценки отсутствует, поэтому эти показатели не позволяют оценить качество на других данных. Лицензия в предоставленных источниках не указана.

Z-Image-Engineer V6 GGUF — квантованная версия текстового энкодера Z-Image-Engineer V6, разработанная BennyDaBall на базе 4B-энкодера Qwen от Tongyi-MAI из экосистемы Z-Image-Turbo. Модель предназначена для улучшения промптов и управления текстовым условием при генерации изображений, в частности в ComfyUI и LM Studio. Она также может использоваться как замена текстового энкодера Z-Image-Turbo в ComfyUI через ComfyUI-Z-Engineer или CLIPLoaderGGUF, а также в локальных рабочих процессах без внешнего сервера. Модель обучена с применением SMART DoRA, включающей разделение направления и величины обновлений адаптера, энтропийную, голографическую, топологическую и многообразную регуляризацию. Доступны варианты GGUF от F16 размером 7,498 GiB до компактных Q3_K_M размером 1,933 GiB и MXFP4 размером 2,101 GiB; также представлены Q8_0, Q6_K, Q5_K_M и Q4_K_M. README указывает поддержку английского языка, текстовой модальности и контекста, необходимого для обработки промптов, но точный размер контекстного окна не указан. Сильные стороны модели — локальная работа, несколько вариантов квантования, уменьшенный размер файлов и сохранение стиля и поведения кондиционирования V6. Ограничение заключается в том, что это текстовый энкодер и инструмент улучшения промптов, а не самостоятельная модель генерации изображений; для полноценной генерации требуется совместимое окружение Z-Image-Turbo, например ComfyUI. Модель распространяется по лицензии Apache-2.0.

4D-RGPT-8B — мультимодальная языковая модель NVIDIA для понимания видео на уровне отдельных областей и рассуждений о 3D-сценах во времени. Модель построена на NVILA-Lite-8B: использует визуальный энкодер SigLIP, мультимодальный проектор и языковую модель; содержит 8 млрд параметров. При обучении применялась дистилляция перцептивных сигналов, включая глубину и оптический поток, а временные метки кадров кодируются методом Timestamp Positional Encoding. Модель принимает видео, изображения и текстовые запросы, а отвечает текстом. Она предназначена для вопросов и ответов о видео с временными и региональными подсказками, оценки на бенчмарках и исследований 3D/4D-рассуждений. Среди возможных областей прототипирования — робототехника, автономное вождение и промышленный контроль. Карточка указывает английский язык; отдельное максимальное окно контекста не приводится. Модель разработана NVIDIA и опубликована для исследований и разработок. Для запуска используется NVILA; обучение проводилось на NVIDIA A100 с 80 ГБ памяти, поэтому практическое применение требует подходящей GPU-инфраструктуры и проверки на данных конкретной задачи. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование.

AhiskaAI-134m-Base-v0.2 — компактная базовая языковая модель, созданная с нуля инициативой AhiskaAI для работы с текстами на турецком языке. Она предназначена для дальнейшего дообучения и экспериментов с генерацией текста, а не для диалогового общения по инструкциям. Модель построена на плотной архитектуре Llama и содержит 109,5 млн параметров по метаданным; в README заявлено 134 млн. Использует собственный BPE-токенизатор с 32 000 токенов и контекст длиной 1 024 токена. При обучении использован отфильтрованный корпус турецких текстов; авторы сообщают, что в версии v0.2 сократили исходный объем данных, удалив большую часть шумных и избыточных примеров. Модель работает через Transformers и распространяется в формате safetensors. Указанная лицензия — Apache-2.0. Поскольку это базовая модель небольшого размера с коротким контекстом, качество сложной генерации и следования инструкциям может быть ограниченным; версия для чата и инструкций обозначена авторами как будущая работа.

Lanni-ni/alibi_2_4_256_pile_seed44 — компактная модель генерации текста, опубликованная в репозитории Lanni-ni на Hugging Face. Модель предназначена для авторегрессионного продолжения текста и подключается через библиотеку Transformers; её размер составляет около 15 млн параметров. В метаданных указана архитектурная технология ALiBi, использующая линейные смещения внимания для работы с позициями токенов. Модель может применяться для экспериментов с языковым моделированием, генерации коротких фрагментов текста и обучения или тестирования приложений на базе Transformers. README не содержит сведений о разработчике, обучающих данных, поддерживаемых естественных языках, длине контекста, результатах оценки или лицензии, поэтому использовать модель в production-сценариях следует с осторожностью.

AnomalyThink-Qwen2.5-VL-7B-SFT — мультимодальная модель для объяснимого обнаружения аномалий на промышленных изображениях, созданная как исследовательский артефакт магистерской работы TU Delft. Это базовая SFT-версия семейства AnomalyThink: Qwen2.5-VL-7B дообучена на 6 000 размеченных трасс рассуждений, созданных Gemini 2.5 Flash на изображениях Real-IAD; этапов RL и самодистилляции в обучении этой версии нет. На вход модель получает изображение изделия и запрос, а на выходе формирует структурированное объяснение, описание дефекта и бинарное решение о наличии аномалии. В README приведены сбалансированные точности 80,16% на DS-MVTec и 64,78% на VisA при оценке на соответствующих поднаборах MMAD. Модель распространяется под лицензией Apache-2.0. Модель может уверенно сообщать о дефекте на исправном изделии, что приводит к ложным срабатываниям. Результаты на открытых наборах DS-MVTec и VisA следует интерпретировать с учётом возможного попадания этих изображений в предобучение VLM.

Astronex-World 1.0 — модель генерации управляемого видео и визуальных состояний, разработанная Astronex-Lab на базе Wan2.2-TI2V-5B. Модель принимает текстовое описание или начальный кадр и строит продолжение с учётом траекторий камеры, потока действий размерности 64 и идентификатора embodiment. Веса содержат 5,35 млрд параметров и распространяются в формате safetensors; лицензия — Apache-2.0. Архитектура включает 30 слоёв Transformer с внедрением данных камеры через PRoPE и модуляцией слоёв действиями. Доступны двунаправленный режим с полным временным вниманием и причинный потоковый режим с кэшированием KV по блокам. Модель генерирует видео 832×480 или 1280×704 при 24 кадрах/с; README сообщает о потоковой генерации 832×480 в реальном времени на одной NVIDIA L20 48 ГБ. Модель предназначена для управляемой генерации видео, симуляции визуальных последствий действий, сценариев embodied AI, робототехники и автономного вождения. Открытая выходная голова action_output позволяет считывать из кадров последовательность действий размерности 64 и использовать её как основу для обратной динамики. Для привязки общего потока действий к конкретным суставам, манипуляторам или мобильным платформам требуются embodiment-специфичные адаптеры. Качество и задержка зависят от режима и настроек семплирования; README указывает 8 шагов UniPC как проверенную настройку, а режим с 4 шагами — как эксперимент с более низким качеством.

Модель ypwhere/attnres4babylm2026-100m-l32-baseline-s1339 — причинная языковая модель NanoGPT, подготовленная для исследования языкового моделирования на ограниченных данных и маршрутизации по глубине в рамках BabyLM 2026. Она обучена на официальном обучающем разбиении BabyLM объёмом 100 млн слов; README указывает 4 797 шагов оптимизатора и seed 1339. Архитектура включает 32 слоя Transformer с размером скрытого состояния 512, RMSNorm, SwiGLU, rotary positional embeddings, gated attention и связанными входными и выходными эмбеддингами. Модель принимает текст и выдаёт вероятности следующих токенов для причинного скоринга или генерации. Рекомендуется ограничивать вход 512 токенами; эффективный KV-кэш не поддерживается. Это предобученная модель, а не чат-модель с настройкой на инструкции. Она предназначена для экспериментов и оценки языковых моделей на ограниченных данных, а не для диалогового помощника общего назначения. Для загрузки используется Transformers и собственная реализация модели из репозитория с trust_remote_code=True. Лицензия — MIT.