II.10Разработка и эксплуатация AI/ML-систем

EleutherAI разработала deep-ignorance-unfiltered-cb как часть исследовательской серии Deep Ignorance. Это плотная авторегрессионная GPT-NeoX-модель примерно на 8,8 млрд параметров с контекстом 2048 токенов; вариант unfiltered-cb обучен на нефильтрованных данных и прошёл этап circuit breaking. Модель предназначена для контролируемых экспериментов по безопасности LLM, влиянию данных предобучения, интерпретируемости и устойчивости к обходу защитных вмешательств. Модель принимает текст и генерирует продолжение на английском языке. Она подходит для сравнения поведения моделей и оценки знаний, связанных с биологическими угрозами, например на структурированных бенчмарках. Постобучение для следования инструкциям не проводилось: модель может повторяться и не отвечать на запросы ожидаемым образом. Она не предназначена для пользовательского развёртывания и может генерировать вредный или оскорбительный текст. Лицензия — Apache 2.0.

Это исследовательская модель-организм, созданная PS4CoT на основе DeepSeek-R1-Distill-Llama-8B. Модель семейства Llama с плотной архитектурой содержит 7,5 млрд параметров, использует формат safetensors и загружается через Transformers. Контекст — до 131 072 токенов. Модель дообучена на синтетических документах: в каждом из пяти вымышленных, но правдоподобных тематических миров ей привили выбранные истинные утверждения. Она предназначена для изучения того, как внедрённые убеждения проявляются в цепочке рассуждений, а также для локализации убеждений и мониторинга. В README перечислены питание, экология, фармакология, процессуальное право и программные технологии. Важное ограничение: из-за ошибки токенизатора генерации модели теряют пробелы, поэтому свободные текстовые ответы ненадёжны. README рекомендует использовать её для измерения логарифмических вероятностей и активаций, а не как ассистента. Лицензия — MIT.

AlphaGaO/DeepSeek-V3-0324-Fused-8E-39B-Unhealed-Preview — экспериментальная слитая версия DeepSeek-V3-0324-Instruct, созданная на основе модели DeepSeek-V3-0324 с 256 экспертами. Вариант объединяет 8 экспертов и использует rank 4; в README заявлено около 39 млрд параметров, а метаданные указывают 37,6 млрд. Модель загружена в формате safetensors и предназначена для генерации текста, в том числе диалогов и вызова инструментов через соответствующий интерфейс. Это ранний, нестабильный чекпойнт после слияния и сжатия экспертов. Дообучение, названное авторами «healing», необходимо для восстановления работоспособности; без него качество существенно снижено, а ответы непредсказуемы. README связывает исходную модель с рассуждениями, программированием, китайским письмом, переводом и вызовом функций, но эти свойства нельзя считать подтверждёнными для этой неотлаженной версии. Заявлен контекст 163 840 токенов. Лицензия — MIT.

DeepThinkVLA — модель Vision-Language-Action для управления роботом, представленная авторами исследования «DeepThinkVLA: Enhancing Reasoning Capability of Vision-Language-Action Models». Она принимает визуальные наблюдения и описание задачи, генерирует цепочку рассуждений, а затем выдаёт последовательности действий робота. Гибридный декодер на 2,9 млрд параметров использует авторегрессионное декодирование для текста и параллельное декодирование действий; обучение включает SFT и последующее обучение с подкреплением GRPO. Модель предназначена для выполнения роботизированных задач, в том числе сценариев бенчмарка LIBERO. В README сообщается об успехе 97,0% на LIBERO и устойчивости к сдвигам распределения в LIBERO-Plus. Карточка указывает архитектурное семейство PaliGemma и формат весов safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

DeepThinkVLA — vision-language-action-модель для роботов, разработанная для улучшения планирования с помощью явных рассуждений в формате Chain-of-Thought. Модель основана на чекпойнте pi0-FAST и использует гибридный декодер на 2,9 млрд параметров: текстовые токены рассуждений генерируются последовательно, а действия — параллельно блоками. Метаданные указывают архитектурное семейство PaliGemma и формат весов safetensors. Модель предназначена для управления роботизированными агентами по визуальным наблюдениям и инструкциям, включая выполнение задач из LIBERO. В README сообщаются результаты 97,0% успешных выполнений на LIBERO, 79,0% при проверке устойчивости к сдвигу распределения в LIBERO-Plus и 59,3% на RoboTwin 2.0. Эти показатели относятся к указанным бенчмаркам и сами по себе не гарантируют аналогичного качества в других условиях. Карточка описывает SFT-версию в названии репозитория, а двухэтапный процесс SFT и RL представлен как подход DeepThinkVLA. Лицензия в предоставленных данных не указана.

Модель huggingtweets/_deep_winter_ — генеративная языковая модель на архитектуре GPT-2, созданная Борисом Даймой с помощью проекта HuggingTweets. Она дообучена на 3 147 твитах пользователя erin. и предназначена для генерации коротких текстов в стиле и тематике этих публикаций. Модель принимает текстовый запрос и продолжает его; использовать её можно через библиотеку Transformers и pipeline text-generation. Контекст модели составляет 1 024 токена. В репозитории указаны веса PyTorch, а карточка относит модель к английскому языку. Она подходит для экспериментов с генерацией стилизованных сообщений и изучения дообучения GPT-2 на пользовательских публикациях. Качество и содержание генерации зависят от ограничений и смещений GPT-2, а также от тем и смещений исходных твитов. Сведения о лицензии в предоставленных данных отсутствуют.

Dillionv2 — небольшая языковая модель семейства Dillion SLM, разработанная Полом Корнией (Harley-ml). Это плотный авторегрессионный трансформер Qwen3.5 с примерно 1,2 млн параметров, предназначенный для генерации текста и экспериментов с малыми языковыми моделями. Модель принимает текст и генерирует текст; её контекст ограничен 384 токенами. Модель обучалась один проход на 24 млрд токенов из девяти источников, включая веб-тексты, Wikipedia, математические материалы и нормализованный код Python. В README указаны 35 часов обучения и результаты тестов BLiMP, ARC Easy и PiQA. Среди сценариев автор называет исследования в образовании, дообучение для последующих задач и запуск на периферийных устройствах. Автор предупреждает, что модель не умеет вести диалог, писать код, рассуждать или надёжно отвечать на фактические вопросы; её ответы могут быть недостоверными, а контекст короткий. Репозиторий распространяется по лицензии MIT.

Dilution-209m-16k-nope-2x-s2357 — базовая языковая модель на 209 млн параметров из релиза DilutionAttention. Она предназначена для изучения механизма dilution attention и экспериментов с обработкой длинного контекста, а не для диалогов с пользователем. Модель не проходила инструктивное или safety-дообучение. Архитектура включает 24 слоя, ширину 768, 12 голов внимания и SwiGLU; позиционные кодировки нет. Обучение завершено на контексте 16 384 токена и 8,40 млрд токенов корпуса FineWeb-Edu. В описанных тестах NIAH модель показала точное извлечение ключевого слова при длине 16 000 и 24 000 токенов; авторы подчёркивают, что этот тест не измеряет рассуждение на длинном контексте. Для входов свыше 16 384 токенов требуется обёртка ExtendedContext. Модель использует библиотеку dilution-attention и распространяется в формате safetensors по лицензии Apache-2.0. Это исследовательский базовый чекпойнт для изучения оператора внимания; его результаты на задаче извлечения не свидетельствуют о способности выполнять инструкции или сложные задачи на длинных текстах.

dilution-209m-1k-nope-s1337 — базовая языковая модель на 209 млн параметров из релиза DilutionAttention. Она предназначена для изучения оператора dilution attention и экстраполяции длины контекста, а не для диалога с пользователем: модель не проходила инструкционное и безопасностное дообучение. Архитектура включает 24 слоя, ширину 768, 12 голов внимания и SwiGLU; позиционные кодировки нет. Модель обучалась на корпусе FineWeb-Edu объёмом 4,19 млрд токенов при контексте 1 024 токена. В описанных тестах NIAH показала результат 1,00 при длине 1 024 и 1 920 токенов, однако этот тест измеряет извлечение ключевого слова по правдоподобию и не свидетельствует о способности к рассуждению на длинном контексте. Для ввода длиннее 1 024 токенов README указывает использовать ExtendedContext. Модель генерирует текст на английском языке и распространяется в формате safetensors по лицензии Apache-2.0. Она подходит для исследовательских экспериментов с механизмом внимания; отсутствие инструкционной настройки ограничивает её применение как готового ассистента.

lerobot/dm05_libero — созданная Dexmal и размещённая в LeRobot специализированная версия модели DM0.5, дообученная на задачах LIBERO на основе lerobot/dm05_base. Это модель vision-language-action для управления роботом: она принимает изображения с передней и установленной на запястье камер и состояние робота, а выдаёт последовательности действий. Размерность состояния — 8, действий — 7; модель предсказывает блоки по 10 шагов. Веса, конфигурация и статистика нормализации перенесены из оригинального чекпойнта Dexmal без изменений, а конвейеры процессора пересозданы для версии политики DM05 в LeRobot. Модель предназначена для оценки и выполнения задач LIBERO, а не для универсального управления роботом. README сообщает результаты оценки на 200 эпизодах: 49 из 50 успехов в Spatial, 50 из 50 в Object и 50 из 50 в Goal. Для оценки требуется протокол LIBERO с относительным контроллером; при этом представление действий модели остаётся абсолютным, а относительный режим задаётся на уровне среды. Модель распространяется под лицензией Gemma. Языки диалога и текстовый контекст в карточке не описаны.

Doge-160M — языковая модель сообщества SmallDoge на 152,6 млн параметров, предназначенная для генерации текста. Она обучена предварительно на корпусе SmolLM-Corpus и не проходила настройку для выполнения инструкций; для диалога с командами и вопросами авторы указывают отдельную instruction-модель. Архитектура Doge использует Dynamic Mask Attention для преобразования последовательностей и вариант Cross Domain Mixture of Experts для преобразования состояния. Модель работает с текстом на английском языке, а её контекстное окно составляет 2048 токенов. README приводит результаты оценки на MMLU, TriviaQA, ARC, PIQA, HellaSwag, OBQA и Winogrande, однако они не гарантируют качество на других задачах. Модель загружается через Transformers в формате safetensors. Лицензия — Apache-2.0. Из-за отсутствия instruction-тюнинга она лучше подходит для экспериментов с продолжением текста и исследований архитектуры, чем для прямого использования как ассистент.

Это обученный агент DQN для игры BeamRiderNoFrameskip-v4, опубликованный организацией Stable-Baselines3. Модель создана с помощью библиотеки stable-baselines3 в рамках RL Zoo — набора инструментов для обучения и подбора гиперпараметров агентов обучения с подкреплением. Агент предназначен для взаимодействия со средой BeamRiderNoFrameskip-v4 и выбора игровых действий на основе наблюдений среды. Его можно загружать и запускать через RL Zoo для демонстрации игры или экспериментов с обучением с подкреплением. Модель сохранена в формате PyTorch; README не приводит размер сети, результаты игры или подробности входных и выходных тензоров.

Droplet-v2 — небольшая предварительно обученная авторегрессионная языковая модель, опубликованная пользователем Hugging Face lugman. Она построена на архитектуре LlamaForCausalLM и содержит около 1,4 млн параметров, шесть слоёв трансформера, размер скрытого представления 144 и словарь из 1 536 токенов. Модель принимает текст и генерирует продолжение; максимальная длина контекста — 1 024 токена. Основной язык по карточке — английский. Это базовый чекпойнт без дообучения на инструкциях, пригодный для экспериментов с компактными языковыми моделями и генерацией текста. Предобучение включало около 6 млрд токенов образовательных и синтетических текстов, а также дополнительное обучение на арифметическом наборе данных. В README приведены результаты нулевой оценки на ARC-Easy, ARC-Challenge и HellaSwag. Модель распространяется по лицензии MIT. Из-за очень малого размера, ограниченного контекста и отсутствия настройки на инструкции её не следует считать универсальным ассистентом; результаты на нескольких бенчмарках не гарантируют качества в практических задачах.

EVO1 · LIBERO — контрольная точка модели vision-language-action для управления роботизированным манипулятором в задачах бенчмарка LIBERO. Её разработчик дообучил базовую мультимодальную модель OpenGVLab/InternVL3-1B-hf на наборе lerobot/libero: сначала обучалась только голова действий, затем совместно дообучались VLM и голова действий. Указанная контрольная точка сохранена на шаге 70 000 из 80 000 этапа Stage 2 и показала лучший общий результат среди проверенных контрольных точек этого расписания. Модель принимает визуальные наблюдения и описание задачи, чтобы предсказывать действия робота. В оценке использовались изображения 448×448 и перепланирование каждые 14 действий; тестирование охватывало четыре набора задач LIBERO. В README приведены высокие показатели успешности для пространственных, объектных и целевых задач, однако результаты получены на одном seed и не являются оценкой по нескольким запускам. Для воспроизведения поведения важны схема перепланирования и постобработка захвата LIBERO. При загрузке политики может потребоваться загрузить базовую модель InternVL3-1B. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория.

Это небольшая модель генерации текста на архитектуре Falcon, созданная yujiepan на основе конфигурации tiiuae/falcon-40b с уменьшенным размером и случайно инициализированными весами. В ней около 4,2 млн параметров; используется класс FalconForCausalLM и формат safetensors. Автор указывает, что модель использует «новую архитектуру» Falcon-40B и представлена в float16. Модель подходит для технических экспериментов с конфигурацией и архитектурой Falcon, но случайная инициализация означает, что она не обучена следовать запросам или выдавать содержательные ответы. Лицензия в предоставленных данных не указана.

Модель Sherwinroger002/fashion_mnist_diffusion_class_conditional — условная диффузионная модель генерации изображений, обученная на наборе Fashion-MNIST. Она использует UNet с остаточными и пропускными связями, а также эмбеддинги шага диффузии и метки класса; реализация выполнена на PyTorch. По названию одного из 10 классов модель постепенно преобразует гауссов шум в небольшое изображение предмета одежды или обуви: футболки, брюк, свитера, платья, пальто, сандалии, рубашки, кроссовка, сумки или ботинка. Модель предназначена для генерации примеров Fashion-MNIST и учебных экспериментов с условными диффузионными моделями. Она принимает условие-класс, а не свободное текстовое описание, поэтому тег text-to-image в метаданных не означает генерацию произвольных изображений по текстовому промпту. Репозиторий распространяется по лицензии MIT.

Fleck-M-500K Instruct — небольшая языковая модель семейства Fleck, разработанная ML-is-Fun и дообученная для следования инструкциям и диалогов. Это плотный декодерный Transformer с примерно 0,5 млн параметров; веса опубликованы в BF16 SafeTensors. Модель дообучена на databricks/dolly-15k от Fleck-M-500K-Base, исходная базовая модель предварительно обучалась на смесях FineWeb и FineWeb-Edu. Модель предназначена для локальных разговорных экспериментов, в том числе на Apple Silicon. Она генерирует текст на английском языке, поддерживает чатовый формат и имеет контекст до 2048 токенов. Для загрузки используется комплектная реализация inference.py: стандартная загрузка через Transformers AutoModel не поддерживается. Из-за крайне малого размера модель может повторяться, выдавать некорректный текст, слабые фактические ответы и несвязные фразы; инструкция-тюнинг не делает её надёжным помощником общего назначения. Лицензия модели — MIT.

ZeLi111 разработал эту китайскоязычную предобученную модель на основе учебного проекта MiniMind. Это плотная авторегрессионная языковая модель MiniMindForCausalLM на 31,5 млн параметров с контекстом до 32 768 токенов; в README для конфигурации обучения указаны hidden size 512, 10 слоёв и max_seq_len 128. Модель предназначена для генерации текста и простых диалогов на китайском языке, в том числе на устройствах с ограниченными ресурсами. Автор обучал её на смешанном наборе общих текстовых и диалоговых данных, отфильтрованных от многих отказов, нравоучительных формулировок и упоминаний ограничений ИИ. Это отражает заявленную цель модели, но не гарантирует, что она никогда не откажет. Примеры в карточке показывают повторы и несвязный текст, а сам автор предупреждает, что модель не подходит для серьёзных задач и её ответы могут быть неточными. Репозиторий распространяется по лицензии GPL; для загрузки указаны PyTorch и Transformers.

AAyano/gate_setting1_chunksize25_batch32_from20000 — дообученная модель OpenVLA-OFT с текстовым токеновым гейтом, разработанная для управления роботом XArm. Она предназначена для выполнения задачи pick-and-place: взять кубик и поместить его в пластиковый стакан; обучение продолжалось 10 000 шагов на базе AAyano/oft_setting1_chunksize25_batch32_20k с повторным обучением action head, proprio projector и FiLM. Модель использует зрительную информацию и текстовую инструкцию для предсказания действий робота; конфигурация включает гейтирование слоёв с порогом 0,3 и целевой бюджет гейта 0,4. Для запуска требуется кодовая база Task-conditioned_Gate и её modeling_prismatic.py, загружаемый через trust_remote_code. Обычный процесс запуска OpenVLA-OFT может незаметно отбросить веса гейта. Репозиторий содержит объединённую модель в safetensors и отдельный LoRA-адаптер. Лицензия — MIT.

GATS Cold-Start SFT — контрольная точка Qwen2.5-7B-Instruct, дообученная командой проекта GATS на успешных траекториях учителя Qwen2.5-1.5B для задач WebShop. Модель предназначена для исследований методов холодного старта агентного обучения с подкреплением и воспроизведения базовых экспериментов статьи GATS; это не универсальный помощник. Модель использует плотную архитектуру Qwen2 и содержит 7,1 млрд параметров. Она принимает текстовые инструкции и многоходовые диалоги, а генерирует текстовые ответы и траектории агента. Контекст — до 32 768 токенов. Контрольная точка сохранена в формате safetensors с весами float32; для инференса можно преобразовать их в bfloat16. Обучение проводилось на отфильтрованных успешных траекториях учителя: карточка сообщает о 6 129 обучающих строках и 240 уникальных задачах. Модель специализируется на сценариях WebShop и экспериментах с обучением агента по демонстрациям учителя. Её качество за пределами этого сценария не заявлено. Основа — Qwen/Qwen2.5-7B-Instruct, лицензия Apache-2.0.

Контрольный чекпойнт на 340 млн параметров от StartluxLabs, обученный с нуля на 10 млрд токенов для исследования массивных активаций в языковых моделях с гибридным линейным вниманием. Он использует архитектуру GatedDeltaNet и предназначен для анализа предвнимательных всплесков и межвсплесковых плато, размещения слоёв внимания и выходного гейтинга, а также для воспроизведения экспериментов из сопутствующей научной работы. Модель принимает текст и генерирует текст; контекст составляет 4096 токенов. Чекпойнт не настроен для диалога и не проходил комплексную оценку точности, фактичности, устойчивости, смещений, приватности или безопасности, поэтому его пригодность для прикладных задач не подтверждена. Распространяется по лицензии Apache-2.0.

GELI — дообученная диалоговая языковая модель, созданная на основе Meta Llama 2 7B Chat авторами исследования Global Reward to Local Rewards: Multimodal-Guided Decomposition for Improving Dialogue Agents, представленного на EMNLP 2024. Модель предназначена для генерации ответов в социальных диалогах с учётом сигналов мимики; сама GELI принимает текст, а не изображения или видео. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и имеет контекст длиной 4096 токенов. Карточка указывает английский язык и обучение на данных разговоров CANDOR. Для использования требуются токенизатор Llama 2 и библиотека Transformers; веса представлены в формате safetensors. Применение ограничено академическими и научными исследованиями: коммерческое использование запрещено условиями датасета BetterUp. Нельзя распространять обучающие данные или применять модель для идентификации, отслеживания людей либо использования персональных данных. Также действуют условия лицензии Llama 2 Community License.

WWTCyberLab выпустила Gemma 4 26B-A4B-IT Abliterated — экспериментальную версию диалоговой модели Google gemma-4-26B-A4B-it с изменёнными весами. Модель использует архитектуру MoE с 26 млрд параметров и примерно 3,8 млрд активных параметров на токен; для инференса в карточке указан формат safetensors и библиотека Transformers. Модель предназначена для генерации ответов в диалоге и экспериментов по исследованию безопасности и выравнивания. Автор описывает двухпроходное подавление отказов через абляцию слоёв и остаточных направлений, а также изменение токеновых эмбеддингов. В приведённых тестах доля жёстких отказов составила 1,9% на AdvBench, однако результаты не подтверждают поведение на широком наборе задач. Карточка заявляет, что модель предназначена только для исследований безопасности и обучения. Она распространяется по лицензии Gemma; следует учитывать её условия. Изменение механизмов отказа может приводить к ответам на небезопасные запросы, поэтому модель не следует считать безопасной для обычного пользовательского развёртывания.

GN1x-Tuned-Arena-G1-Static-PickNPlace — дообученная NVIDIA модель Isaac GR00T N1.7-3B для задачи статического захвата и размещения предметов в симуляторе IsaacLab Arena. Она предназначена для исследований робототехники, разработки алгоритмов и интеграции управления манипуляциями в приложения для роботов.

GoLLeM v4 — польская авторегрессионная языковая модель семейства GPT, разработанная Аркадиушем Слотой в Slayer Lab и обученная с нуля. Финальный чекпойнт содержит около 318 млн параметров по метаданным; README указывает 250 млн параметров и 17 слоёв. В репозитории также опубликованы снимки промежуточных этапов обучения, предназначенные для изучения динамики обучения и сравнения чекпойнтов. Модель рассчитана на продолжение текста на польском языке, анализ языковой модели и исследование зависимости качества от обучения. Это базовая предварительно обученная модель без настройки на инструкции: она не предназначена для выполнения команд и ненадёжно завершает генерацию. Архитектура нестандартная и, согласно README, не загружается через Transformers/AutoModel. Модель обучалась на польском корпусе SlayerLab/gollem-corpus-16b-pl; лицензия — CC BY-SA 4.0. Модель небольшая и предназначена для исследований, а не для производственного применения. Она может воспроизводить ошибки, предвзятость и содержимое обучающих данных; фильтрация персональных данных не гарантирует их полного отсутствия.

jed351/gpt2_tiny_zh-hk-wiki — компактная авторская донастройка GPT-2, обученная на корпусе кантонской Википедии размером 50 МБ в течение 10 эпох. Модель предназначена для генерации текста на основе продолжения заданного фрагмента; архитектура — GPT2LMHeadModel, формат весов — PyTorch, контекст — до 1024 токенов. Автор указывает значение loss 3,3834 на оценочной выборке и позиционирует модель для исследований и тестирования. Она может подойти для экспериментов с генерацией текста, похожего на статьи кантонской Википедии. Ограниченный объём обучающих данных и короткое обучение означают, что качество и фактическую точность ответов не следует считать гарантированными. Лицензия в доступных данных не указана.

yujiepan/gptj-tiny-random — компактная причинная языковая модель для генерации текста, опубликованная пользователем yujiepan. Она создана на основе конфигурации EleutherAI/gpt-j-6b, но инициализирована случайными весами и существенно уменьшена по размеру, поэтому не является обученной версией GPT-J и не предназначена для получения осмысленных результатов без дополнительного обучения. Модель поддерживает задачу text-generation и используется через библиотеку Transformers. Архитектура включает 2 скрытых слоя, размер скрытого представления 16, 2 головы внимания и rotary_dim 4. Модель хранится в формате float16. Для токенизации применяется токенизатор EleutherAI/gpt-j-6b. Точная длина контекста, поддерживаемые языки и фактические модальности в README не указаны; по назначению это текстовая, одномодальная модель. Основное преимущество модели — крайне малый размер и удобство для тестирования, экспериментов с конфигурацией GPT-J, проверки загрузки и пайплайнов Transformers. Ключевое ограничение — случайная инициализация весов: модель не обладает заявленными языковыми знаниями и, вероятно, будет генерировать бессвязный текст. Информация о лицензии в README не указана, поэтому условия использования необходимо уточнять отдельно.

Карточка модели bbunzeck/gpt-wee-small на Hugging Face совпадает с карточкой bbunzeck/gpt-wee-large, поэтому описание составлено по ней. GPT-2 — языковая модель для генерации текста, обученная командой CLAUSE из Билефельдского университета как абляционный эксперимент для конкурса BabyLM 2023. Модель использует архитектуру GPT2LMHeadModel и распространяется в формате PyTorch; её контекст составляет 1024 токена. В метаданных указан английский язык и датасет nilq/babylm-10M. Модель предназначена для экспериментов с генерацией текста и изучения влияния условий обучения в рамках BabyLM. README отсылает к статье, но не приводит подробностей об абляции, качестве или конкретных сценариях применения. Лицензия в доступных данных не указана.

IDEAS-Lab-Northwestern подготовила эту модель на основе NVIDIA GR00T-N1.6-3B для задачи складывания предметов в симуляции с роботом Franka Panda. Это VLA-модель: она принимает изображения с обзорной и кистевой камер и состояние робота, а выдаёт команды управления суставами и захватом. Выход представляет собой последовательности действий с горизонтом 16 шагов в пространстве суставов; состояние и команды руки кодируются относительно текущего состояния, а команда захвата — абсолютно. Модель использует визуально-языковой модуль Eagle-Block2A-2B-v2 и диффузионную голову действий на основе flow matching. При дообучении визуально-языковой модуль оставался замороженным, а проектор и голова действий обучались на данных ManiGuard для складывания предметов. Для запуска требуется Isaac-GR00T с тегом воплощения NEW_EMBODIMENT и входными данными, согласованными с конфигурацией процессора модели. Лицензия указана как other, поэтому условия использования следует проверять в репозитории.

gslm-scaling-155m-65p3b — исследовательская модель генерации последовательностей дискретных речевых токенов, опубликованная tiagoCuervo как контрольная точка для исследования «Scaling Properties of Speech Language Models» (EMNLP 2024). Это плотная TransformerLM-модель с 154 680 320 параметрами; веса представлены в FP32 и формате safetensors. Модель обучалась на 65 311 360 000 токенах и предсказывает последовательности объединённых подряд одинаковых кодов кластеризации K-means из слоя 11 mHuBERT с частотой 25 Гц и размером словаря 500. Модель принимает последовательность токенов речи и генерирует продолжение, что подходит для экспериментов с языковым моделированием речи и оценки масштабирования таких моделей. В README приведены оценки на sBLIMP, sStoryCloze и tStoryCloze. Для преобразования сгенерированных токенов в звук требуется внешний вокодер: он не включён в репозиторий. Лицензия — Apache-2.0.