II.2Создание и понимание программного кода

trl-internal-testing/tiny-LlavaForConditionalGeneration — минимальная тестовая модель на базе архитектуры LlavaForConditionalGeneration, созданная для модульных тестов библиотеки TRL. Модель разработана в рамках проекта Hugging Face TRL и предназначена прежде всего для проверки корректности работы программных компонентов, а не для прикладного использования. Из доступных данных известно, что модель использует библиотеку Transformers и связана с задачами условной генерации на основе архитектуры LLaVA, потенциально объединяющей обработку изображений и текста. Точный размер, параметры, поддерживаемые языки, длина контекста, состав модальностей и практические характеристики не указаны. Лицензия в README также не указана; модель следует рассматривать как внутренний минимальный тестовый ресурс с ограниченной применимостью вне тестовой среды.

Tiny Olmo3ForCausalLM — минимальная языковая модель с архитектурой causal language model, созданная для модульных тестов библиотеки TRL. Модель распространяется в экосистеме Transformers; в карточке она обозначена как trl-internal-testing/tiny-Olmo3ForCausalLM. Модель предназначена для тестирования компонентов и сценариев библиотеки TRL, а не для решения прикладных задач генерации текста. Сведения о размере, поддерживаемых языках и модальностях, длине контекста, качестве, ограничениях производительности и лицензии в README не указаны. Поскольку модель описана как минимальная тестовая реализация, её пригодность для промышленного использования или самостоятельного обучения не подтверждена.

Tiny OPTForCausalLM — минимальная модель на основе архитектуры OPTForCausalLM, созданная для модульных тестов библиотеки TRL. Разработчик и точные параметры модели в предоставленных данных не указаны; известно лишь, что она предназначена для внутреннего тестирования, а не для практического применения в прикладных сценариях. Модель относится к классу авторегрессионных языковых моделей для генерации текста, однако её размер, количество параметров, поддерживаемые языки, длина контекста и другие архитектурные характеристики не указаны. Данные о модальностях, сильных сторонах, ограничениях, лицензии и условиях использования также отсутствуют. Поэтому модель следует рассматривать как небольшой тестовый объект для проверки функциональности TRL и Transformers.

Это минимальная тестовая модель Tiny Qwen2VLForConditionalGeneration, разработанная для модульных тестов библиотеки TRL. Модель размещена в экосистеме Transformers; конкретный разработчик, за исключением связи с проектом TRL, в карточке не указан. Модель предназначена не для прикладного использования, а для проверки корректности работы компонентов и сценариев библиотеки TRL. Из названия следует, что она связана с архитектурой Qwen2VLForConditionalGeneration, однако README не содержит подтверждённых сведений о размере, модальностях, языках, длине контекста, характеристиках качества или ограничениях конкретной реализации. Информация о лицензии также отсутствует.

trl-internal-testing/tiny-Qwen3_5ForConditionalGeneration-NoThink — минимальная модель на базе архитектуры Qwen3_5ForConditionalGeneration, предназначенная для модульного тестирования библиотеки TRL. В README указано, что модель создана для тестов, поэтому она не предназначена для полноценного прикладного использования или генерации высококачественных ответов. Из доступных данных известны только её минимальный размер, принадлежность к тестовой инфраструктуре TRL и совместимость с экосистемой Transformers. Сведения о точном числе параметров, модальностях, поддерживаемых языках, размере контекста, характеристиках качества и лицензии не приведены. Практическое ограничение модели — тестовое назначение и отсутствие подтверждённых возможностей для продуктивного применения.

Tiny Qwen3_5ForConditionalGeneration — минимальная тестовая модель, предназначенная для модульных тестов библиотеки TRL. В README она представлена как модель на базе Transformers с архитектурой Qwen3_5ForConditionalGeneration; идентификатор указывает на внутренний тестовый вариант. Модель предназначена не для прикладного использования, а для проверки функциональности и сценариев работы TRL. Размер, поддерживаемые модальности и языки, длина контекста, точные архитектурные параметры, разработчик и лицензия в предоставленных данных не указаны. Поэтому нельзя оценить её производительность, сильные стороны за пределами тестирования или ограничения, кроме явно заявленного минимального и тестового назначения.

trl-internal-testing/tiny-Qwen3MoeForSequenceClassification — минимальная тестовая модель на базе Qwen3MoeForSequenceClassification, созданная для модульных тестов библиотеки TRL. Она предназначена не для прикладного использования, а для проверки корректности работы компонентов и сценариев TRL, связанных с моделями классификации последовательностей. Из доступных данных известно, что модель интегрируется с библиотекой Transformers и относится к семейству Qwen3Moe. Размер, точная архитектура, число параметров, поддерживаемые языки и модальности, размер контекста, характеристики качества и лицензия в README не указаны. Поэтому оценить сильные стороны модели, кроме пригодности для тестирования, и её ограничения можно только в общих чертах: минимальный размер удобен для тестов, но не позволяет судить о производительности или применимости в реальных задачах. Условия использования отдельно не описаны.

katuni4ka/tiny-random-deepseek-v3 — небольшая тестовая модель, опубликованная пользователем katuni4ka на Hugging Face. Репозиторий относится к семейству DeepSeek V3 и использует архитектуру DeepseekV3ForCausalLM; признаков того, что модель разработана официальной командой DeepSeek, нет. Модель предназначена для генерации текста и совместимости с инструментами, поддерживающими этот формат, а также для тестирования программных стеков и инференсных сценариев. Модель содержит около 1,66 млн параметров, использует формат Safetensors и тип данных F32. В конфигурации указаны два скрытых слоя, Mixture-of-Experts с шестью экспертами на токен, словарь размером 102 400 токенов и один слой next-token prediction; максимальная длина контекста токенизатора — 16 384 токена. Поддерживается conversational-шаблон, но сведения о языках, обучающих данных, качестве, метриках и фактической способности решать прикладные задачи отсутствуют. Главное преимущество — компактность и пригодность для локальных тестов, проверки загрузки и интеграции. Из-за крайне малого размера и обозначения tiny-random модель нельзя считать полноценной обученной языковой моделью; её ответы и практическая полезность не подтверждены. Лицензия в доступных материалах не указана.

Intel/tiny-random-gpt2 — это уменьшенная модель на архитектуре GPT-2, созданная на основе openai-community/gpt2. Модель разработана для функционального тестирования, в частности в составе тестов проекта optimum-intel и связанных с ним сценариев проверки IPEX. Весы модели случайные, поэтому она не предназначена для качественной генерации текста или практического применения в задачах обработки естественного языка. В README не указаны точный размер модели, поддерживаемые языки, длина контекста, модальности и лицензия. Также не приведены сведения о специальных ограничениях использования.

peft-internal-testing/tiny-random-GPTJForCausalLM — небольшая случайно инициализированная тестовая модель на архитектуре GPT-J с языковой моделью для авторегрессионной генерации текста. Модель опубликована в экосистеме Hugging Face Transformers; по идентификатору она предназначена прежде всего для внутреннего тестирования PEFT и совместимости инструментов, а не для прикладного использования. Модель может применяться для проверки загрузки, обучения и адаптеров в Transformers и PEFT, а также для воспроизводимых технических тестов. Данные о точном размере, числе параметров, контекстном окне, поддерживаемых языках, обучающем наборе, качестве, модальностях и разработчике в README не указаны. Случайная инициализация означает, что модель не предназначена для содержательной генерации или решения реальных NLP-задач без специального обучения. Лицензия и условия использования не указаны. Из-за отсутствия обучающих данных, результатов оценки и технических характеристик модель следует рассматривать как демонстрационный или тестовый артефакт с ограниченной практической ценностью.

echarlaix/tiny-random-gpt-oss-mxfp4 — небольшая случайно инициализированная модель для генерации текста, опубликованная пользователем или организацией echarlaix. В карточке указано, что модель предназначена для сценариев text generation и совместима с библиотекой Transformers. Технические характеристики, включая точную архитектуру, число параметров, поддерживаемые языки, модальности и размер контекста, в представленном README не указаны. Из-за случайной инициализации модель, вероятно, предназначена прежде всего для тестирования и разработки, а не для получения качественных содержательных ответов. Модель распространяется по лицензии Apache-2.0.

optimum-intel-internal-testing/tiny-random-Idefics3ForConditionalGeneration — небольшой тестовый checkpoint архитектуры Idefics3, опубликованный в пространстве optimum-intel-internal-testing на Hugging Face. Карточка модели не указывает конкретного разработчика, назначение обучения или данные, поэтому модель следует рассматривать прежде всего как артефакт для тестирования совместимости и инструментов, а не как готовую прикладную систему. Модель относится к классу Image-Text-to-Text и предназначена для обработки изображений и текста с генерацией текстового ответа. Архитектура Idefics3 сочетает vision encoder на основе SigLIP с языковым decoder на основе Llama 3; класс Idefics3ForConditionalGeneration поддерживает условную генерацию. Размер опубликованного checkpoint — около 17,2 млн параметров, тип тензоров — F32. Языки, размер контекста, качество, результаты оценки и практические ограничения в карточке не указаны. Сильная сторона модели — малый размер, удобный для тестов загрузки, конвертации и интеграции multimodal-моделей. Из-за обозначения tiny-random и отсутствия сведений о полноценном обучении её ответы не следует считать содержательно полезными или сопоставимыми с результатами промышленной VLM. Лицензия в карточке не указана, поэтому условия использования необходимо уточнять отдельно; официальных данных о разработчике и лицензировании недостаточно для более точного описания.

Это экспериментальная модель nikita-savelyev-cerebras/tiny-random-kimi-k2.5, разработанная на основе конфигурации moonshotai/Kimi-K2.5. Модель имеет случайно инициализированные веса и предназначена прежде всего для отладки, тестирования загрузки и разработки интеграций, а не для качественной генерации ответов в прикладных сценариях. Размер файла весов составляет около 6,2 МБ. Модель реализует мультимодальную архитектуру для обработки текста и изображений и совместима с библиотеками Transformers и vLLM при использовании trust_remote_code. Конфигурация существенно уменьшена: текстовая часть содержит 2 скрытых слоя, hidden size 8, 1 attention head и MoE-компоненты; визуальная часть также включает 2 слоя и уменьшенные размеры представлений. Поддерживаемые языки, размер контекстного окна и точные возможности исходной Kimi-K2.5 в README не указаны. Главное преимущество модели — минимальный размер и удобство для быстрых экспериментов, проверки совместимости кода и отладки мультимодальных конвейеров. Из-за случайной инициализации весов она не предназначена для продуктивного использования и не обладает ожидаемыми способностями обученной модели. Лицензия в README не указана.

peft-internal-testing/tiny-random-LlamaForCausalLM — небольшая случайно инициализированная тестовая модель для библиотеки Transformers, опубликованная в пространстве peft-internal-testing. По идентификатору она основана на архитектуре LlamaForCausalLM и предназначена прежде всего для внутреннего тестирования, проверки совместимости и разработки инструментов, связанных с causal language modeling и PEFT. Модель не предназначена для качественной генерации текста, прикладного обучения или использования в продуктивных системах: её параметры случайны, а сведения о размере, языках, длине контекста, обучающих данных и результатах оценки в карточке отсутствуют. Модальность — текстовая; архитектура поддерживает авторегрессионное предсказание следующего токена. Лицензия, разработчик, условия распространения, ограничения безопасности и характеристики обучения не указаны. Для использования необходимы Transformers и совместимая конфигурация модели; любые результаты следует рассматривать только как технические тестовые данные.

onnx-internal-testing/tiny-random-Mistral4ForCausalLM — небольшая тестовая модель из экосистемы Transformers, опубликованная в пространстве onnx-internal-testing. По идентификатору можно заключить, что она предназначена для проверки совместимости и корректности работы архитектуры Mistral4ForCausalLM, а не для полноценного прикладного использования или качественной генерации текста. Модель относится к классу causal language models и, вероятно, рассчитана на авторегрессионное продолжение последовательностей, однако сведения о размере, архитектуре, числе параметров, поддерживаемых языках, контексте и модальностях в README отсутствуют. README не содержит данных о разработчиках, обучающих данных, методике обучения, результатах оценки, сильных сторонах, ограничениях, рекомендованных сценариях применения или лицензии. Поэтому модель следует рассматривать как внутренний минимальный тестовый артефакт для разработки и тестирования программных инструментов, а не как готовую языковую модель. Условия использования и возможность коммерческого или производственного применения по предоставленным данным не определены.

onnx-internal-testing/tiny-random-Qwen2ForCausalLM — тестовая миниатюрная модель на архитектуре Qwen2ForCausalLM, опубликованная в экосистеме Hugging Face Transformers. По названию она предназначена прежде всего для внутреннего тестирования совместимости и функциональности инструментов, работающих с каузальными языковыми моделями Qwen2, а не для решения прикладных задач генерации текста. README не содержит сведений о разработчике, размере, числе параметров, поддерживаемых языках и модальностях, длине контекста, обучающих данных, результатах оценки или практических сценариях применения. Поэтому качество генерации, сильные стороны и ограничения модели невозможно достоверно оценить; вероятно, её малый размер обусловлен тестовым назначением, но точные характеристики не указаны. Лицензия и условия использования в README не определены. Модель следует рассматривать как тестовый артефакт для проверки загрузки и работы библиотек, а не как подтверждённо пригодную для production-использования модель.

dg845/tiny-random-stable-diffusion — небольшая экспериментальная модель text-to-image, опубликованная пользователем dg845 на Hugging Face. Она предназначена для генерации изображений по текстовому описанию через StableDiffusionPipeline и библиотеку Diffusers, а также для тестирования и демонстрации совместимости компонентов diffusion-пайплайна. Модель распространяется в формате Safetensors, имеет около 18,5 тыс. параметров и тип данных F32. В карточке указана принадлежность к Stable Diffusion и поддержка текстового ввода с генерацией изображений; сведения о точной архитектуре отдельных компонентов, поддерживаемых языках, размере контекста и качестве генерации не приведены. Судя по названию и крайне малому числу параметров, это random или тестовая модель, поэтому она не предназначена для получения качественных изображений в продуктивных сценариях. Лицензия — Apache-2.0. Модель можно загружать и запускать локально с Diffusers; карточка также содержит пример использования с PyTorch и аппаратным ускорением CUDA или MPS. Данные о специальных ограничениях, оценках качества и развертывании через Inference Providers не указаны.

onnx-internal-testing/tiny-random-WhisperForConditionalGeneration-ONNX_external — тестовая уменьшенная модель на архитектуре WhisperForConditionalGeneration из библиотеки Transformers. Она создана для внутреннего тестирования ONNX-интеграций и совместимости, а не для практического распознавания речи. Веса модели случайно инициализированы с фиксированным seed, поэтому она не обучена выполнять осмысленную транскрипцию или перевод аудио. Конфигурация основана на onnx-community/whisper-tiny.en, но существенно уменьшена: один encoder-слой, один decoder-слой, размерность модели 16, по две attention heads у encoder и decoder, размерность feed-forward слоёв 64. Модель предполагает аудиовход и использует процессор Transformers AutoProcessor; точный набор поддерживаемых языков и размер контекста в README не указан. Основное преимущество модели — малый размер и пригодность для быстрых автоматизированных проверок преобразования и выполнения моделей в формате ONNX. Ключевое ограничение — случайные веса, из-за чего она непригодна для продуктивного распознавания речи, оценки качества или прикладного использования. Разработчик и лицензия в README не указаны.

optimum-intel-internal-testing/tiny-random-z-image — тестовая модель, опубликованная организацией Optimum Intel Internal Testing на Hugging Face. Она предназначена для задач text-to-image, то есть генерации изображений по текстовому описанию, главным образом для проверки совместимости и работы инструментов обработки моделей, а не для практического создания качественных изображений. В репозитории указана архитектура ZImageTransformer2DModel; модель использует Diffusers ZImagePipeline. Размер опубликованного набора модели составляет около 706 КБ, а конфигурация описывает крайне малую архитектуру с размерностью 64, двумя attention heads, двумя слоями и двумя refiner-слоями. Модель имеет только текстовый вход и графический выход; поддерживаемые языки, размер контекстного окна и дополнительные модальности в доступных данных не указаны. Ключевое преимущество — малый размер и пригодность для быстрых интеграционных и регрессионных тестов. Ограничения следуют из статуса tiny-random: это минимальная случайно инициализированная тестовая модель, поэтому она не предназначена для реалистичной генерации, оценки качества или производственного использования. Лицензия в доступных материалах явно не указана.

Tiny Shakespeare Transformer — небольшая символьная причинная Transformer-модель, обученная с нуля на корпусе Tiny Shakespeare. В карточке указаны 4 блока Transformer, 4 головы внимания, размерность эмбеддингов 64 и контекст длиной 32 символа; модель использует символьный токенизатор и библиотеку Transformers. Модель предназначена для генерации продолжений текста в стиле корпуса Шекспира, например для учебных демонстраций авторегрессионной генерации и экспериментов с небольшими языковыми моделями. Она генерирует текст на английском языке. Из-за малого контекста и узкой обучающей выборки её не следует рассматривать как универсальную языковую модель; лицензия в предоставленных данных не указана.

Token Garden Story 28M v1 — небольшая англоязычная авторегрессионная модель генерации текста, созданная ev1lkow с нуля как учебный проект. Она предназначена для продолжения коротких историй по заданному началу: это не чат-модель, у неё нет дообучения на инструкциях, диалогах или предпочтениях. Модель содержит 27 795 968 параметров; архитектура — декодерный трансформер с 8 слоями шириной 512 и причинным многоголовым вниманием. Для запуска используется самостоятельная реализация на PyTorch, не интеграция Transformers AutoModel. Обучение проводилось на англоязычном наборе TinyStories V2 GPT-4 TRAIN, ориентированном на простые рассказы и знакомую детям лексику. При генерации учитываются последние 512 токенов; скользящее окно сбрасывает индексы позиций, поэтому модель не обучена на длинном контексте и не обладает постоянной памятью. В небольших повторно используемых проверках базовые продолжения иногда получались пригодными, но надёжное качество повествования не установлено. Следует ожидать повторов, слабой причинности, противоречий в деталях и персонажах, резких окончаний, узкого словаря и фактических ошибок. Модель не проходила настройку безопасности и не сертифицирована для самостоятельного использования детьми; запоминание обучающих примеров не исключено. Модель и исходный код выпущены по Apache-2.0; обучающие данные TinyStories распространяются на отдельных условиях CDLA-Sharing-1.0.

physicsrob разработала calculatorsimple maxdigits=3 — демонстрационную модель, веса которой скомпилированы из вычислительного графа torchwright в архитектуру Phi-3 без обучения. Она выполняет целочисленное сложение, вычитание и умножение двух неотрицательных десятичных чисел длиной до трёх цифр: на вход подаётся выражение вида A op B с завершающим переводом строки, на выходе — результат. Модель предназначена для показа того, как арифметический вычислительный граф можно представить весами трансформера; это не языковая модель общего назначения. Модель содержит около 1 млрд параметров, использует плотные веса fp32 и контекст длиной 4096 токенов. Для воспроизводимого результата README предписывает fp32 и жадное декодирование без выборки. Контрольные примеры проверяются при публикации, но это не исчерпывающая проверка всех допустимых выражений. Лицензия — Apache-2.0. Ограничения входного контракта строгие: поддерживаются только операции +, - и * и операнды до трёх цифр; для более широких чисел или символов вне малого словаря результат не определён. Другие точности и режимы декодирования не поддерживаются. Файл весов занимает около 4,08 ГБ; почти все веса равны нулю, но они не сжаты, поэтому плотное выполнение всё равно расходует память и вычисления.

UnifoLM-VLA-Base — базовая модель семейства UnifoLM-VLA от Unitree Robotics, представляющая собой Vision-Language-Action-модель для управления гуманоидными роботами при манипуляциях. По описанию, её дополнительно предварительно обучали на данных роботизированных манипуляций, чтобы расширить возможности обычной визуально-языковой модели до физического взаимодействия с окружающей средой. Модель предназначена для универсальных задач манипуляции робота, в которых требуется связать визуальное восприятие и языковые инструкции с действиями. В карточке не приведены подробности об архитектуре, количестве параметров, длине контекста, поддерживаемых языках, точном формате действий или лицензии; метаданные указывают формат PyTorch. Поэтому конкретные характеристики управления и условия использования по имеющимся данным оценить нельзя.

Velvet Rope Lenore LoRA — адаптер LoRA для языковой модели Gemma 4 12B QAT, созданный для игры Velvet Rope командой Build Small Hackathon. Он специализирует общую базовую модель на роли Ленор Кью, призрачной помощницы режиссёра в театре The Last Curtain, и применяется в диалогах и игровых решениях персонажа. Адаптер обучен на 310–350 одноходовых игровых примерах; использует ранг r=8 и модули языковой части модели. В тестах он повысил согласованность игровых оценок настроения, тактики и изменения счёта по сравнению с базовой моделью; валидность JSON осталась на уровне 1,00. Репозиторий содержит адаптер LoRA в формате GGUF для запуска с llama.cpp и базовой моделью unsloth/gemma-4-12b-it-qat-GGUF. Для использования требуется совместимая базовая модель и среда выполнения llama.cpp. Лицензия — MIT. Карточка не сообщает о поддержке конкретных естественных языков или длине контекста.

Velvet Rope Vivienne LoRA — адаптер LoRA для Gemma 4 12B, созданный командой Build Small Hackathon для персонажа Вивьен Квилл в игре Velvet Rope. Модель специализируется на роли сотрудницы космической бюрократии, которая помогает игроку определить размещение мечты. Адаптер предназначен для подключения к базовой модели через llama.cpp в формате GGUF. Адаптер обучен на примерно 310–350 одноходовых игровых примерах персонажа за два эпоха; LoRA с рангом 8 затрагивает модули языковой башни. В опубликованной оценке он сохраняет валидность JSON на уровне базы и улучшает совпадение с эталонными игровыми оценками по настроению, тактике и знаку изменения счёта. Лицензия репозитория — MIT.

gdiamos/amx-reasoning-v1 — небольшая причинная языковая модель из проекта m2-reasoning, обученная разработчиком репозитория на одном ядре Intel Emerald Rapids с использованием AMX и oneDNN. Модель содержит 7 492 448 параметров и обучена на 4 909 998 080 токенах. Её архитектура M2RForCausalLM сочетает скользящее оконное внимание и линейное внимание с затуханием состояния; в модели 6 слоёв с размерностью d_model 256. Модель предназначена как исследовательский артефакт для экспериментов с обучением и архитектурой языковых моделей, включая обучение на ограниченных вычислительных ресурсах. Она генерирует текст, но не подходит для надёжных ответов на фактические вопросы, следования инструкциям или решения задач на рассуждение. При генерации склонна к повторам, особенно при жадном декодировании; выданный текст может выглядеть беглым, не отражая реальных возможностей модели. В README указана лицензия Apache-2.0. Для загрузки через AutoModelForCausalLM стандартной поддержки Transformers недостаточно: в репозитории есть собственный исходный код архитектуры и пример запуска.

tiny-random/bamba — отладочная модель из семейства Bamba, созданная на основе конфигурации IBM-модели ibm-fms/Bamba-9B. Репозиторий предназначен для тестирования и отладки интеграции с библиотекой Transformers, а не для получения качественных результатов генерации: веса модели инициализируются случайным образом. Модель относится к авторегрессионным языковым моделям для генерации текста и поддерживает использование через Transformers и pipeline text-generation. В README указано, что она имеет уменьшенный размер по сравнению с Bamba-9B: 2 скрытых слоя, hidden_size 16, intermediate_size 32, 2 attention heads и 1 key-value head. Также задана конфигурация компонентов Mamba и один attention-слой. Точные сведения о количестве параметров, поддерживаемых языках, размере контекста и модальностях не приведены; по назначению это текстовая, а не мультимодальная модель. Главное преимущество модели — малый размер, удобный для быстрых локальных тестов, проверки загрузки, токенизации и процедур генерации. Существенное ограничение — случайно инициализированные веса, из-за чего модель не предназначена для продуктивного применения, содержательной генерации или оценки качества. В README лицензия не указана, поэтому условия использования определить нельзя.

Модель GoldenGrapeGentleman1/battle-game-agent-full-sft — дообученная методом полного SFT языковая модель Qwen3-4B для пошаговых боёв Pokémon Showdown. Разработчик обучил её на примерно 2,3 млн журналов повторов боёв; модель читает строки протокола боя и генерирует следующий ход в виде команды «move …» или «switch …». Она предназначена для агента соревновательного уровня в gen9randombattle и может использоваться для инференса или как основа для дальнейшего обучения GRPO. Это плотная авторегрессионная архитектура Qwen3 с примерно 3,7 млрд параметров и контекстом до 40 960 токенов. Модель принимает текстовый протокол и выдаёт текстовую команду хода. Лицензия — Apache-2.0. Указанная в README настройка запуска использует длину последовательности 2048 токенов.

kshitijthakkar/deepseek-v4-mini-3B-init — случайно инициализированная маломасштабная реплика архитектуры DeepSeek-V4, созданная для экспериментов с архитектурой и переноса весов. Автор позиционирует её как обучаемый на арендованных GPU каркас, размеры которого согласованы с DeepSeek-V4-Flash для переноса весов; несмотря на обозначение 3B, в метаданных указано 1,1 млрд параметров. Модель использует плотную архитектуру DeepseekV4ForCausalLM и библиотеку Transformers. В README перечислены mHC, CSA с Lightning Indexer, HCA, скользящее окно внимания, Shared-KV MQA, DeepseekMoE, SwiGLU, MTP и YaRN; заявленная длина контекста — 1 048 576 токенов. Модель принимает текст и генерирует текст, однако её случайные веса дают шум, поэтому она не предназначена для полезных ответов или обычного применения. Основные сценарии — исследования архитектуры, абляционные эксперименты и поиск гиперпараметров, а также перенос или нарезка весов из V4-Pro/V4-Flash. Веса опубликованы в формате safetensors. Лицензия — MIT.

tiny-random/falcon-h1 — небольшая случайно инициализированная модель для отладки, созданная на основе конфигурации tiiuae/Falcon-H1-34B-Instruct. Репозиторий использует библиотеку Transformers и совместим с интерфейсом AutoModelForCausalLM и задачей генерации текста. Модель предназначена прежде всего для проверки загрузки, конфигурации и программного кода, а не для практического создания качественных текстов: её параметры инициализированы случайными значениями. Архитектура основана на Falcon H1 и сочетает слои self-attention с компонентами Mamba. В конфигурации указаны 2 скрытых слоя, размер скрытого представления 8, промежуточный размер 64, 8 attention-голов и 4 key-value головы. Размер словаря составляет 261120 токенов. Поддержка языков, размер контекстного окна и дополнительные модальности в README не указаны. Модель очень компактна и удобна для отладки интеграций и быстрого тестирования, однако из-за случайной инициализации не обладает содержательными языковыми знаниями и не предназначена для продуктивного применения. Для загрузки рекомендуется использовать trust_remote_code и тип данных bfloat16. Лицензия в предоставленных данных не указана.