II.2Создание и понимание программного кода

Jha-Pranav/blm-18.6M — компактная авторегрессионная модель семейства Llama для генерации текста, опубликованная Jha-Pranav. По метаданным, она имеет плотную архитектуру LlamaForCausalLM, содержит 43,2 млн параметров, принимает текстовый ввод и выдаёт текст; нативная длина контекста — 1024 токена. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Карточка сообщает, что веса пока работают некорректно с библиотекой Transformers от Hugging Face и автор занимается устранением проблемы. Поэтому практическое использование модели ограничено до исправления совместимости; README не уточняет языки, обучающие данные или конкретные сценарии генерации.

LightWeight GAN, опубликованная Aleksey Korshuk, предназначена для безусловной генерации изображений. Модель обучена на датасете коллекции Bored Ape Yacht Club и относится к задачам генерации изображений без текстового запроса. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Карточка направляет за примерами генерации и сведениями об использовании в связанный Space и проектный репозиторий. Размер модели и другие параметры обучения в доступных сведениях не описаны.

CID-v1-0.4B — компактный исследовательский чекпойнт Continuous Interaction Diffusion от fwerkor, дообученный на базе LiquidAI/LFM2.5-Encoder-350M-Diffusion. Он содержит около 398,8 млн параметров: диффузионную языковую основу, модули CID и замороженный семантический энкодер. Модель предназначена для изучения постоянного когнитивного состояния, асинхронного взаимодействия с инструментами и пересматриваемой генерации в цикле CID. Основные сценарии — разработка и воспроизведение CID-runtime, исследование поведения когнитивного состояния и проверка механизмов сходимости, жизненного цикла когнитивных ячеек и выбора источника. В README сообщается о высокой точности на 512 примерах проверки нейронного контракта; общие задачи диалога, программирования и академические бенчмарки не были целью обучения и ограничены размером модели. Это не самостоятельная авторегрессионная чат-модель: для вывода необходим CID-runtime, обеспечивающий семантику обновления состояния. Репозиторий содержит веса safetensors без квантизации и файлы удалённого кода для интеграции с Transformers. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.

CodeXomics-ToolAgent-4B-v1 — модель на 4,2 млрд параметров, разработанная для геномного рабочего пространства CodeXomics и дообученная методом QLoRA на базе Qwen/Qwen3.5-4B. Она генерирует текст и выполняет вызовы функций из реестра инструментов CodeXomics для загрузки файлов, навигации по геному, анализа последовательностей, аннотирования, работы с треками, экспорта, BLAST, подбора праймеров, поиска биологических данных и управления интерфейсом. Модель предназначена для диалогового управления анализом и визуализацией геномных данных, в том числе для многошаговых сценариев внутри CodeXomics. В README указан максимальный размер последовательности 3 072 токена. В тестах CodeXomics Benchmark модель выполнила 172 из 172 проверок; это результат на конкретном наборе тестов и настройках оценки, а не гарантия точности в других условиях. Данных о поддержке изображений самой моделью в этом сценарии нет. Модель опубликована под лицензией Apache-2.0. Она специализирована для рабочих процессов CodeXomics; обобщение на вызов инструментов в других областях не оценивалось.

COJGN-3-small — небольшая обученная сеть Covariant Osculating Jet Geometric Network для классификации данных в воспроизводимом бенчмарке на 128-мерном искривлённом латентном пространстве. Модель разработана для исследования геометрических нейросетей с метрикой, контактами и полиномиальными членами кривизны до третьего порядка; в ней 23 750 обучаемых параметров, два остаточных блока и скрытая ширина 20. Она принимает тензор из 128 вещественных признаков и выдаёт логиты двух классов. Модель предназначена для экспериментов с классификацией в задачах, где структура данных согласуется с геометрическим индуктивным смещением COJGN, а также для сравнения с MLP на заданном бенчмарке. В опубликованном воспроизводимом тесте средняя точность COJGN-3-small составила 91,26%, близко к 91,12% у сопоставимой остаточной MLP; преимущество зависит от режима и не заявлено для общих задач. Реализация использует множество небольших тензорных операций и не оптимизирована слиянием CUDA/Triton-ядер, поэтому может работать медленнее на типовых задачах. Модель распространяется по лицензии MIT.

CompactLM-5M — небольшая языковая модель, созданная Compactbot с нуля, без дообучения более крупной модели. Это плотный авторегрессионный декодер в стиле LLaMA на 4,9 млн параметров: 6 слоёв, ширина скрытого представления 224, SwiGLU и GQA. Модель обучена на примерно 76 млн токенов английских текстов из веба, включая материалы по химии, код, литературу и общие веб-тексты; контекст обучения составлял 512 токенов. Модель предназначена прежде всего для демонстрации обучения языковой модели с нуля и экспериментов с компактными архитектурами. Она генерирует текст по текстовому продолжению, но её связность быстро ухудшается: после первых предложений возможны повторы и бессвязный текст, а фактические знания ограничены. README сообщает о perplexity 58,91 на отложенной выборке и отмечает утечку данных в исходной обучающей валидации. Веса доступны в формате safetensors, указанная лицензия — Apache-2.0. Это самостоятельная модель, а не производная от более крупной языковой модели.

CrossFormer — модель для задач робототехники из репозитория rail-berkeley/crossformer. Карточка Hugging Face указывает библиотеку CrossFormer и формат Flax. README не содержит описания архитектуры или рабочих сценариев, поэтому назначение можно определить только на общем уровне: модель предназначена для задач робототехники. Указана лицензия MIT.

Модель LightWeight GAN, созданная Алексеем Коршуком, предназначена для безусловной генерации изображений в стиле коллекции CryptoPunks. Она обучалась на датасете huggingnft/cryptopunks и выдаёт изображения без текстового запроса. Репозиторий содержит веса PyTorch; лицензия — MIT. Подробности об использовании и ограничениях автор отсылает к проекту и демонстрационному Space.

kitatike/ddpm-celebahq-finetuned-butterflies-2epochs — модель генерации изображений на основе диффузионной архитектуры DDPM, опубликованная пользователем kitatike. По названию репозитория это модель, дообученная на бабочках в течение двух эпох; пример использования запускает DDPMPipeline без входного изображения или текстового запроса. Репозиторий содержит веса в форматах Diffusers и safetensors, модель предназначена для безусловной генерации изображений. Лицензия — MIT. README называет модель примером для учебного раздела о диффузионных моделях, поэтому она подходит для экспериментов и демонстраций генерации изображений. Карточка не описывает качество, разнообразие или ограничения результатов; двух эпох дообучения недостаточно, чтобы делать выводы о надёжности или пригодности для конкретного применения.

yujiepan/deepseek-v2-tiny-random — экспериментальная модель генерации текста, созданная на основе конфигурации DeepSeek-V2-Chat и опубликованная пользователем yujiepan. Модель имеет случайно инициализированные веса и предназначена прежде всего для тестирования архитектуры, конфигураций и совместимости кода, а не для получения качественных ответов или содержательной генерации текста. Модель использует архитектуру DeepSeek V2 в сильно уменьшенном варианте: два скрытых слоя, размерность скрытого состояния 8, два attention-головных блока и два key-value head. Объём модели составляет около 820,5 тыс. параметров, вычисления выполняются в формате bfloat16, а заявленная нативная длина контекста — 163 840 токенов. Для работы используется библиотека Transformers и класс AutoModelForCausalLM. Из-за случайной инициализации весов модель не обладает приобретёнными языковыми знаниями и не подходит для прикладной генерации текста, диалогов, суммаризации или ответов на вопросы. В README лицензия не указана, поэтому условия использования по имеющимся данным определить нельзя.

DM05-MEM-Robodojo-Sim — это дообученная Dexmal версия модели DM0.5 для управления роботом в симуляторе RoboDojo-Sim. В основе DM0.5 лежит визуально-языковая модель Gemma 3 4B и Action Expert на 680 млн параметров; чекпойнт предназначен для двуручного робота ARX X5 и использует архитектуру Vision-Language-Action. На вход модель получает RGB-изображения с головной и двух запястных камер, а также до 20 предыдущих кадров с головной камеры, выбираемых с частотой 1 кадр в секунду. Она выдаёт последовательности из 50 шагов, содержащие 14-мерные абсолютные позиции суставов; адаптер RoboDojo исполняет первые 25 шагов каждого прогноза. Чекпойнт предназначен для оценки в симуляции, включая задачи с длительным горизонтом и использованием истории наблюдений. Для работы нужны соответствующие соглашения ARX X5: порядок камер, формат действий, нормировочная статистика norm_stats.json и правила подачи исторических кадров. В README приведены результаты бенчмарка, но они не гарантируют успешного выполнения каждой задачи; результаты в симуляции также не подтверждают безопасность или надёжность в реальном мире. Лицензия — Gemma.

DreamZero-SO101 — адаптер LoRA для роботизированной руки SO-101, созданный на базе DreamZero с Wan-AI/Wan2.1-I2V-14B-480P. Модель принимает изображение с камеры и текстовое описание задачи, затем совместно предсказывает 24 будущих действия по шести суставам и 33 видеокадра предполагаемого выполнения. Для согласованного прогнозирования действий и видео используется flow matching; базовая архитектура — DiT с 14 млрд параметров. Модель предназначена для экспериментов с мировыми моделями в робототехнике, предварительной настройки политики манипуляции SO-101 и визуализации предполагаемого выполнения задачи перед запуском. Обучена на наборе whosricky/so101-megamix-v1: 400 эпизодов и 8 задач; предсказания ограничены короткими видеоклипами примерно на секунду при 30 кадрах в секунду и исходным разрешением 320×176. Лицензия — Apache-2.0.

Это дообученная модель для робототехники на архитектуре Gr00tN1d6, основанная на nvidia/Eagle-Block2A-2B-v2. В карточке указаны горизонт планирования действий 50 шагов и контрольная точка обучения checkpoint-100000; модель опубликована в формате safetensors и использует библиотеку Transformers. Модель предназначена для задач управления роботом и предсказания последовательностей действий. Карточка не описывает конкретные роботы, обучающие данные или команды, поэтому область применения можно определить только на общем уровне. Лицензия — Apache-2.0.

C12H18/gats-coldstart-opd-grpo-qwen2.5-7b-webshop — исследовательский чекпойнт на базе Qwen2.5-7B-Instruct, обученный авторами коллекции GATS для работы в среде WebShop. Модель прошла холодный старт с дистилляцией по текущей политике (OPD), а затем 150 шагов обучения GRPO; в качестве учителя для холодного старта использовалась Qwen2.5-1.5B, обученная GRPO на задачах WebShop. Архитектура — плотная Qwen2 causal language model на 7,1 млрд параметров с контекстом до 32 768 токенов. Модель предназначена для экспериментов со стратегиями холодного старта агентного обучения с подкреплением и воспроизведения базовых результатов статьи GATS. Она генерирует текстовые действия для задач WebShop и не позиционируется как универсальный помощник. В README приведена итоговая оценка 72,48 ± 5,64 по трём наборам случайных начальных условий. Чекпойнт опубликован в формате safetensors и распространяется по лицензии Apache-2.0. Результаты относятся к оценке в WebShop; карточка не подтверждает качество на других средах или языках.

Это квантованный текстовый энкодер Gemma 4 размером 12B, подготовленный пользователем elix3r на основе Lightricks/LTX-2.5. Модель объединяет текстовый энкодер с проекционными головами для аудио и видео и предназначена как компонент conditioning в экосистеме LTX-2.5, а не как самостоятельная универсальная чат-модель Gemma. Модель используется в ComfyUI вместе с совместимым дистиллированным трансформером LTX-2.5 и ComfyUI-GGUF для генерации видео с текстовым управлением. Доступны варианты квантования GGUF Q2_K, Q4_K_M и Q5_K_M размером примерно от 5,96 до 9,51 ГБ; Q5_K_M сохраняет больше точности, а Q2_K требует меньше места и ресурсов. README не указывает поддерживаемые языки и размер контекста. Сильная сторона модели — возможность применять крупный текстовый энкодер LTX-2.5 в квантованном виде, включая аудио- и видеопроекции, что снижает требования к памяти по сравнению с полноразмерной версией. Ограничение заключается в том, что энкодер бесполезен сам по себе для генерации видео и требует соответствующего трансформера, ComfyUI и узлов ComfyUI-GGUF. Использование и распространение регулируются LTX-2 Community License для компонентов LTX-2.5 и Apache-2.0; для доступа действуют дополнительные условия лицензии, включая ограничения использования, распространения и коммерческого применения.

malaiwah/glm-moe-dsa-tiny-random-bf16 — небольшая эталонная модель семейства GLM MoE DSA, разработанная malaiwah для обучения, отладки и воспроизводимости рабочих процессов QFS. Модель распространяется с открытыми случайно инициализированными весами и не является производственной или дообученной языковой моделью. Архитектура включает четыре текстовых декодирующих слоя, из которых один плотный и три MoE, MLA-внимание, чередующиеся полные и общие DSA-индексаторы, восемь маршрутизируемых экспертов с выбором top-2 и одного общего эксперта. В модели около 180,5 тыс. параметров, размер нативного контекста — 256 токенов, используется библиотека Transformers, формат весов — bfloat16. Модель предназначена для генерации текста через pipeline text-generation, но имеет независимый байтовый токенизатор и случайные нетренированные веса. Основные сценарии применения — воспроизведение экспериментов, отладка адаптеров моделей и загрузки тензоров, проверка декодеров хранения, захват скрытых состояний и тестирование инструментов воспроизводимости на CPU. Модель не обеспечивает полезное семантическое качество, следование инструкциям или совместимость с весами исходных производственных моделей. Лицензия — MIT.

NVIDIA GR00T-N1-2B — открытая кросс-эмбодиментная модель-основа для управления гуманоидными роботами и выполнения манипуляционных задач. Она принимает изображения с камер, текстовые инструкции, проприоцептивное состояние робота и идентификатор его воплощения, а на выходе формирует непрерывные векторы моторных команд. В карточке описана архитектура с визуальным и языковым трансформерами и трансформером действий на основе flow matching; изображения кодируются SigLIP 2, текст — T5. Модель работает через PyTorch и предназначена для последующего обучения на реальных или синтетических данных под конкретного робота и задачу. Модель подходит для исследований робототехники, разработки политик управления и интеграции ИИ в роботизированные системы. Оценка описана для симуляционных манипуляционных задач и экспериментов с реальными роботами. Документация предупреждает о возможном снижении качества в динамичных условиях и ограниченной поддержке некоторых типов роботов. Модель не предназначена для критически важных приложений, требующих функциональной безопасности. Условия лицензии в предоставленных материалах не раскрыты.

garagelm/hybrid-gpt-moe-284m-a114m — исследовательская языковая модель GarageLM для воспроизведения контролируемого сравнения разреженной MoE-архитектуры с плотными моделями. Она предназначена для генерации продолжения текста и изучения компромисса между качеством, числом активных параметров и расходом памяти, а не для использования в качестве диалогового помощника. Модель — декодерный трансформер на 284 млн параметров, из которых активно 114 млн. В 12 слоях используется гибридное внимание: скользящее окно в 64 токена и полное причинное внимание в слоях 3, 7 и 11; контекст — 1024 токена. Каждый FFN заменён смесью из восьми экспертов SwiGLU с маршрутизацией top-2. Модель обучалась на английском тексте; веса опубликованы в safetensors. Лицензия — Apache-2.0. В сравнении модели зафиксировано небольшое преимущество по validation loss над контролем с тем же числом активных параметров, но отставание от плотной модели с сопоставимым объёмом памяти; различий на downstream-задачах эксперимент не выявил. Реализация генерации медленная: в этой обёртке нет KV-кэша, а маршрутизация экспертов использует простой цикл. Модель обучалась на 100 млн токенов и не проходила настройку на следование инструкциям или безопасность; автор выпускает её для воспроизводимости эксперимента.

Kairos-Initialized — экспериментальный чекпойнт проекта Aquiles-ai для проверки архитектуры небольшой мультимодальной модели. Он объединяет визуальный энкодер MoonViT-3D, случайно инициализированный двухслойный MLP-проектор и языковую модель LiquidAI/LFM2.5-2.6B; веса сохранены в формате safetensors. Модель принимает изображения и текст и предназначена для генерации текста, однако проектор не обучен согласовывать визуальные признаки с языковой моделью. При текстовом вводе чекпойнт ведёт себя как базовая LFM2.5-2.6B. При подаче изображения проектор выдаёт эмбеддинги с аномально большой нормой, поэтому ответы не отражают содержимое изображения и обычно бессвязны. Чекпойнт служит начальной заготовкой для проверки компонентов и последующих экспериментов, а не для практических задач распознавания изображений. Для работы требуется Transformers версии 5 или новее и включение trust_remote_code. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией репозитория.

KoGum-0.5B-16k — разработанная автором небольшая базовая языковая модель для корейского языка. Автор самостоятельно реализовал архитектуру и полный конвейер обучения: от предварительного обучения до этапов mid-training и SFT; эта версия прошла только предварительное обучение и не является инструкционной чат-моделью. Модель содержит около 581 млн параметров, использует плотную LLaMA-подобную архитектуру с GQA, RMSNorm, SwiGLU и RoPE и рассчитана на контекст до 16 384 токенов. Обучение проводилось на смеси данных: 70% корейских и 30% английских текстов; используется BPE-токенизатор KORMo с корейским словарём на 125 тысяч токенов. Модель предназначена для генерации текста и экспериментов с небольшими корейскими языковыми моделями. Автор предупреждает, что качество получилось очень низким, а результаты бенчмарков не приведены. Лицензия — Apache-2.0.

LaWAM (Latent World Action Model) — модель робототехнической политики, представленная в карточке проекта LaWAM. Она использует латентную модель мира для прогнозирования будущих признаков наблюдений в пространстве замороженного визуального энкодера и передаёт их политике как визуальные подцели, помогая генерировать действия без восстановления будущего видео. Модель предназначена для управления роботом при манипуляциях; в README указаны оценки на LIBERO, RoboTwin и реальных задачах манипуляции, а также низкая задержка инференса. Для настройки и запуска авторы отсылают к официальному репозиторию LaWAM. Репозиторий использует формат PyTorch и распространяется по лицензии MIT.

Nichonauta/LFM2.5-230M-ToMoE — преобразованная методом ToMoE модель LiquidAI/LFM2.5-230M для генерации текста в формате Mixture-of-Experts. В MLP-слоях используются восемь канальных экспертов с выбором top-1 для каждого токена; в слоях внимания динамически маскируются каналы V, а слои ShortConv статически прорежены. Веса модели хранятся в формате safetensors; общий размер — около 221,2 млн параметров, нативный контекст — 128 000 токенов. Модель предназначена для экспериментов с динамическим структурным прореживанием и MoE на небольшой языковой архитектуре LFM2, а также для изучения и демонстрации конвейера ToMoE. Она поддерживает диалоговую генерацию текста на английском языке. Для загрузки через Transformers требуется trust_remote_code=True и предоставленный в репозитории пользовательский код модели. Качество заметно ниже базовой модели: README сообщает perplexity около 815 на WikiText-2 против 20,4 у исходной модели, а генерация склонна к повторениям. Базовая модель указана под лицензией LFM Open License v1.0; метаданные этой версии обозначают лицензию как other, поэтому условия использования следует сверять с файлами репозитория и лицензией базовой модели.

shirasko/llama-3.1-8b-instruct-snmf-uranium — экспериментальный чекпойнт языковой модели, созданный на основе meta-llama/Llama-3.1-8B-Instruct методом unlearning SNMF. Он предназначен для генерации текста и диалогов, при этом обучение направлено на ослабление ответов, связанных с ураном. Модель содержит 7,5 млрд параметров, использует плотную архитектуру Llama и формат Safetensors; базовая модель поддерживает контекст до 131 072 токенов. В тестовой оценке после unlearning эффективность удаления целевого знания составила 1, а специфичность — 0,541; точность на QA снизилась с 0,80 до 0,18, а на SimDom — с 0,68 до 0,42. Эти результаты указывают на заметное ухудшение ответов и вне целевой темы, поэтому чекпойнт подходит прежде всего для изучения методов машинного забывания, а не для надёжного повседневного использования. Язык карточки — английский. Сведения о лицензии чекпойнта отсутствуют; условия базовой модели следует учитывать отдельно.

Llama-3.1-8B-TrenerAI-GGUF — польскоязычная разговорная модель, дообученная методом QLoRA на базе Meta-Llama-3.1-8B-Instruct для ассистента TrenerAI. Она формулирует ответы ассистента на польском языке и преобразует намерения пользователя в структурированные команды JSON, например для сбора профиля или запроса на изменение плана тренировок. Модель не составляет тренировочные планы: их формирует отдельный детерминированный компонент приложения на основе классификатора уровня подготовки, закрытой базы упражнений и правил безопасности и периодизации. В README приведены результаты небольших тестов формирования JSON; авторы отмечают ограниченный размер выборок. Репозиторий содержит GGUF-версию, предназначенную для запуска через llama.cpp. Модель обучена на самостоятельно подготовленных диалогах тренера и клиента на польском языке. Её поведение за пределами этой области не исследовалось; модель не является медицинским инструментом. Применяется Llama 3.1 Community License.

LLM-Codec — нейрокодек речи, разработанный для представления аудио дискретными токенами, которые можно восстановить в звук и легче предсказывать авторегрессионной языковой модели. Это дообученная модель на базе Qwen/Qwen3-4B-Instruct-2507; в репозитории указаны плотная архитектура Qwen3, 3,7 млрд параметров и контекст 262 144 токена. Модель предназначена для токенизации речи, экспериментов с восстановлением аудио, обучения речевых языковых моделей на токенах и оценки кодеков. Она обучалась на LibriSpeech train-clean-100 с парными транскриптами, а проверялась также на валидационной части LibriSpeech. При обучении использовались предсказание будущих токенов, семантическое выравнивание аудио и текста и несколько потерь на реконструкцию. Рабочий интерфейс кодека не требует вспомогательных голов FTP. LLM-Codec не является самостоятельной системой синтеза речи: для генерации речи её нужно включить в отдельный конвейер с речевой языковой моделью. Качество на неречевых и неанглийских аудио, разговорной речи, шуме и перекрывающихся голосах может быть ниже; проверка преимущественно проводилась на прочитанной речи. Модель может сохранять в коде информацию о голосе говорящего. Лицензия в предоставленных данных не указана.

Manas-64M Distillation — плотная языковая модель на архитектуре Qwen3, разработанная kuluruvineeth. Она предназначена для генерации текста в диалоговом формате и изучения влияния этапов обучения на небольшую модель. Чекпойнт содержит 63,9 млн параметров, использует 8 слоёв и контекст до 32 768 токенов; модель обучена на английском языке методом дистилляции: сочетает обучение на данных с подражанием полному распределению вероятностей следующего токена модели-учителя manas-64m-full-sft-moe. Экспорт в формате Transformers поддерживается vLLM и SGLang. Модель может служить компактным учебным и исследовательским артефактом для экспериментов с генерацией текста и дистилляцией. В опубликованных тестах выбора ответа её результаты близки к случайному уровню; автор отмечает, что модель обладает скудными знаниями о мире, может уверенно ошибаться и терять нить в длинном разговоре. Её не следует использовать для важных задач. Лицензия — Apache-2.0.

yujiepan/meta-llama-3-tiny-random — экспериментальная модель, созданная разработчиком yujiepan на основе конфигурации Meta-Llama-3-8B-Instruct от Meta. Модель случайно инициализирована и не обучена на данных, поэтому предназначена прежде всего для тестирования загрузки, архитектуры и инструментов библиотеки Transformers, а не для практической генерации текста. Модель использует архитектуру Llama и поддерживает задачу text-generation через Transformers. Она содержит около 513,5 тыс. параметров, два скрытых слоя, размер скрытого представления 4, промежуточный размер 14, две attention heads и одну key-value head. Модель сохранена в формате bfloat16 и рассчитана на контекст до 8192 токенов. Язык пользовательских данных и обучающий набор не определены, поскольку обучение модели не проводилось. Главное преимущество — крайне малый размер, удобный для быстрых тестов совместимости, сериализации, загрузки и генерации в Transformers. Из-за случайной инициализации модель не обладает содержательными языковыми знаниями и не подходит для диалогов, ответов на вопросы, суммаризации или других прикладных задач. Лицензия в предоставленных данных не указана.

Mini-K3-1H-attnres-block2-v1_B — текстовая модель-декодер семейства Mini-K3, разработанная авторами контролируемого исследования Attention Residuals. Это исследовательский чекпойнт предварительного обучения без последующего обучения и настройки на выполнение инструкций; он предназначен для изучения влияния механизма остаточных связей на языковое моделирование, а не для использования как готовый чат-ассистент. Архитектура включает 13 слоёв: 9 слоёв KDA и 4 слоя Gated MLA, а также MoE с 64 маршрутизируемыми экспертами, двумя выбираемыми и четырьмя общими. Остаточные связи реализованы блоками по два слоя. В метаданных указано 385,9 млн параметров; длина контекста — 131 072 токена. Модель принимает текст и генерирует текст, обучена на 16 млрд целевых токенов, а веса представлены в safetensors с dtype BF16. Модель подходит для экспериментов с генерацией текста и сравнительного анализа архитектуры. Она не оценивалась на прикладных задачах; как небольшой исследовательский прокси-чекпойнт, обученный на последовательностях длиной 8 192 токена, её результаты не следует напрямую переносить на более крупные модели. Ответы могут быть неточными, предвзятыми, небезопасными или повторяющимися; следование инструкциям не является её назначением. Лицензия в предоставленных данных не указана.

Mini-K3-1H-decay-g32-v2_C — текстовая модель семейства Mini-K3, опубликованная как исследовательский чекпойнт предобучения. Она предназначена для экспериментов с архитектурами и генерацией текста на основе продолжения последовательности, а не для работы в качестве ассистента, следующего инструкциям. Модель использует декодерную архитектуру Mixture-of-Experts с 13 слоями: девять слоёв KDA и четыре Gated MLA. Вариант использует 32 группы затухания на голову KDA; в архитектуре также есть блоки Attention Residuals, SiTU-активации и 64 маршрутизируемых эксперта с выбором двух. Логический размер — около 1,02 млрд параметров, активируется около 352 млн параметров на токен. Контекст модели — 131 072 токена. Чекпойнт обучен с нуля на 16 млрд целевых токенов, без этапа последующего обучения. README описывает его как малый исследовательский прокси и промежуточный чекпойнт для контролируемого сравнения 20 архитектурных вариантов; downstream-оценки не проводились. Поэтому качество в прикладных задачах не подтверждено. Выходы могут быть неточными, предвзятыми, небезопасными или повторяющимися, и модель не рассчитана на следование инструкциям. Лицензия репозитория в предоставленных данных не указана; лицензии и условия исходных датасетов сохраняются отдельно.

yujiepan/minimax-m2-tiny-random — уменьшенная случайно инициализированная модель для генерации текста, созданная на основе конфигурации MiniMaxAI/MiniMax-M2. Модель предназначена прежде всего для отладки, проверки совместимости архитектуры и тестирования загрузки в Transformers или vLLM, а не для получения качественных ответов или содержательной генерации. Модель использует архитектуру MiniMax M2 с причинно-авторегрессионной генерацией текста и разреженным MoE-блоком: два декодерных слоя, скрытый размер 8, 32 эксперта и около 1,6 млн параметров. Заявленная длина контекста составляет 196608 токенов. Для работы используется библиотека Transformers; в README приведены примеры запуска через Transformers и vLLM с включённым trust_remote_code. Из-за случайной инициализации веса модели не обучены, поэтому она не предназначена для прикладных задач, надёжного следования инструкциям, ответов на вопросы или генерации связного текста. Лицензия в предоставленных данных не указана.