II.7DevOps, облако и эксплуатация IT-систем

pruna-test/whisper-v3-tiny-random — уменьшенная версия модели Whisper large-v3 со случайно инициализированными параметрами, поддерживаемая сообществом pruna-test и адаптированная для работы с новыми версиями библиотеки Transformers. Модель предназначена для автоматического распознавания речи, но из-за случайной инициализации не ориентирована на получение качественных транскрипций. Основные сценарии использования — отладка, быстрые тесты и проверки в CI/CD-конвейерах, где важны скорость запуска и предсказуемое наличие модели, а не точность распознавания. В README не указаны точный размер, архитектурные характеристики, поддерживаемые языки, размер контекстного окна, дополнительные модальности или сведения о лицензии. Ограничением является отсутствие обученных параметров, поэтому модель непригодна для продуктивного распознавания речи без дополнительного обучения.

Карточка модели phuong1987/FLUX.2-small-decoder на Hugging Face совпадает с карточкой black-forest-labs/FLUX.2-small-decoder, поэтому описание составлено по ней. FLUX.2 Small Decoder — декодер VAE от Black Forest Labs, дистиллированная компактная замена стандартному декодеру FLUX.2. Он предназначен для декодирования латентных представлений в изображения в совместимых моделях FLUX.2: Klein 4B, Klein 9B, Klein 9B-KV и Dev; кодировщик при этом остаётся без изменений. Декодер содержит около 28 млн параметров против примерно 50 млн у полной версии и использует более узкие каналы. По данным карточки, он декодирует примерно в 1,4 раза быстрее и требует примерно в 1,4 раза меньше видеопамяти, сохраняя почти такое же качество изображений. Указана лицензия Apache 2.0. Модель предназначена для использования как компонент совместимого пайплайна генерации или редактирования изображений, а не для самостоятельного диалога или выдачи фактических ответов. Карточка отмечает возможные искажения текста на изображениях, несоответствие результата запросу и влияние стиля промпта.

Карточка модели SwinliQ-AIs/FLUX.2-small-decoder на Hugging Face совпадает с карточкой black-forest-labs/FLUX.2-small-decoder, поэтому описание составлено по ней. FLUX.2 Small Decoder — декодер VAE от Black Forest Labs, дистиллированная компактная замена стандартному декодеру FLUX.2. Он предназначен для декодирования латентных представлений в изображения в совместимых моделях FLUX.2: Klein 4B, Klein 9B, Klein 9B-KV и Dev; кодировщик при этом остаётся без изменений. Декодер содержит около 28 млн параметров против примерно 50 млн у полной версии и использует более узкие каналы. По данным карточки, он декодирует примерно в 1,4 раза быстрее и требует примерно в 1,4 раза меньше видеопамяти, сохраняя почти такое же качество изображений. Указана лицензия Apache 2.0. Модель предназначена для использования как компонент совместимого пайплайна генерации или редактирования изображений, а не для самостоятельного диалога или выдачи фактических ответов. Карточка отмечает возможные искажения текста на изображениях, несоответствие результата запросу и влияние стиля промпта.

yujiepan/kimi-k2-tiny-random — экспериментальная модель генерации текста, разработанная пользователем yujiepan на основе конфигурации moonshotai/Kimi-K2-Instruct. Модель создана для отладки и имеет архитектуру DeepseekV3ForCausalLM с поддержкой библиотеки Transformers и формата Safetensors. Модель содержит 5,3 млн параметров и рассчитана на контекст до 131 072 токенов. Она поддерживает текстовую генерацию и может использоваться через Transformers или vLLM, включая conversational-сценарии. Веса модели инициализированы случайно, поэтому она предназначена для проверки загрузки, совместимости конфигурации, токенизатора и инфраструктуры, а не для получения качественных ответов или решения прикладных задач. Основное ограничение — случайная инициализация параметров: модель не обучена и не обладает практической полезностью как ассистент или языковая модель. README также не содержит сведений о лицензии, поэтому условия лицензирования по предоставленным данным определить нельзя.

Это контрольная точка черновой модели Qwen3 1.7B EAGLE3, обученной разработчиками репозитория методом SpecForge EAGLE3 online training на данных ShareGPT. Она предназначена для ускорения генерации целевой модели Qwen/Qwen3-1.7B с помощью speculative decoding и не является самостоятельной языковой моделью для обычного использования. Модель использует архитектуру LlamaForCausalLMEagle3, веса представлены в формате Safetensors; в карточке указаны размер 361,5 млн параметров и контекст 40 960 токенов. Для работы требуется совместимый код SpecForge/EAGLE3 и целевая модель Qwen/Qwen3-1.7B. Метаданные отмечают английский и китайский языки. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория и базовой модели. В карточке нет заявлений о бенчмарках.

Это компактная черновая модель EAGLE3, созданная методом онлайн-обучения SpecForge на базе Qwen/Qwen3-1.7B. Она предназначена для ускорения генерации текста методом speculative decoding: черновая модель предлагает продолжения, которые проверяет целевая Qwen3-1.7B. Самостоятельно как обычную языковую модель её использовать нельзя. Архитектура чекпойнта — LlamaForCausalLMEagle3; в репозитории указано 361,5 млн параметров и контекст 40 960 токенов. Веса сохранены в safetensors; замороженные веса целевых эмбеддингов в чекпойнт не входят и загружаются из целевой модели. Для работы требуется код, совместимый со SpecForge/EAGLE3, и базовая модель Qwen/Qwen3-1.7B. В карточке не заявлены результаты бенчмарков. Лицензия указана как other, поэтому условия использования следует уточнить в материалах репозитория.

Qwen3.8-27B-DFlash2-Q2_K-GGUF — это 2-битная квантизованная версия модели z-lab/Qwen3.8-27B-DFlash2, опубликованная пользователем analogalok в формате GGUF. Модель представляет собой DFlash 2 — cross-layer block-diffusion drafter, предназначенный не для самостоятельной генерации текста, а для speculative decoding совместно с плотными моделями Qwen3.8-27B через llama.cpp. Основной сценарий использования — ускорение декодирования больших моделей на потребительских видеокартах с 24 ГБ VRAM, в частности NVIDIA GeForce RTX 4090 и RTX 3090, без выгрузки в системную память. Размер файла составляет около 700 МБ. По данным README, дра́фтер извлекает скрытые состояния из слоёв 6, 20, 34, 48 и 62 базовой модели. В тесте с Qwen3.8-27B-UD-Q4_K_XL на RTX 4090 средняя длина принятых черновых последовательностей составила 2,81 из 3 токенов, коэффициент принятия — 60,22%, а скорость декодирования — 75,93 токена в секунду. Ключевое преимущество Q2_K — экономия примерно 400–450 МБ VRAM по сравнению с официальной квантизацией Q4_K_M при заявленном отсутствии ухудшения точности speculative decoding. Это позволяет увеличить максимально доступный контекст примерно со 150 000 до 170 000 токенов при Q4_0 KV и использовать до 100 000 токенов при Q8_0 KV. Ограничение модели состоит в том, что она не является самостоятельной causal language model и требует совместимого target-моделя Qwen3.8-27B и версии llama.cpp с поддержкой PR #27342. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next MTP draft head — это специализированный компонент модели Qwen3.8-Flash-Next, извлечённый и упакованный пользователем mxxm-t в формате GGUF. Это не самостоятельная языковая модель, а один блок предсказания примерно на 2,6 млрд параметров с эмбеддингами, предназначенный для ускорения генерации методом speculative decoding совместно с полной моделью Qwen3.8-Flash-Next. Компонент используется как draft model в llama-server через режим draft-mtp и поддерживает форматы Q8_0 и BF16. Рекомендуется файл Q8_0 размером 4,14 ГБ: в заявленных тестах он генерировал те же черновые токены, что и версия BF16, приём черновых токенов составлял 75,1%. Оптимальная глубина чернового предсказания — до двух токенов. Уровень принятия зависит от текста и настроек и в измерениях находился примерно в диапазоне 46–90%, поэтому прирост производительности необходимо проверять на конкретном оборудовании. Модель рассчитана на работу с форком mx-llama.cpp, поддерживающим qwen4exp MTP, включая оптимизации для AMD gfx906 / MI50 и tensor parallelism; стандартные версии llama.cpp на момент публикации архитектуру не поддерживают. Компонент не генерирует осмысленный текст при самостоятельной загрузке и должен использоваться только вместе с полной целевой моделью. Веса не переобучались: они были извлечены из исходной модели и преобразованы или переквантованы. Лицензия — Qwen Community License 1.0; для коммерческого использования в формате Model as a Service или AI Work Assistant требуется отдельная лицензия от Qwen.

yujiepan/qwq-tiny-random-dim64 — экспериментальная языковая модель, разработанная пользователем yujiepan для отладки. Она имеет архитектурную конфигурацию, адаптированную из Qwen/QwQ-32B, но параметры модели инициализированы случайным образом, поэтому модель не предназначена для получения качественных осмысленных ответов. Модель поддерживает задачу text generation и рассчитана на работу через библиотеку Transformers. Она содержит около 9,8 млн параметров, использует конфигурацию с двумя слоями, размером скрытого состояния 64, двумя attention heads и одним key-value head. Заявленная длина контекста составляет 40960 токенов. Основной сценарий — проверка загрузки модели, токенизатора, генерации и инфраструктуры инференса на уменьшенной модели. Сильная сторона модели — крайне малый размер, удобный для быстрых тестов и отладки без использования полноразмерной QwQ-32B. Из-за случайной инициализации модель не обладает прикладными языковыми знаниями, её генерация непредсказуема и не подходит для чат-ботов, рассуждений, суммаризации или других пользовательских задач. Лицензия в предоставленных данных не указана.

hyper-accel/ci-random-qwen2-moe-a3b — тестовая модель генерации текста от организации HyperAccel, размещённая на Hugging Face. Она построена на архитектуре Qwen2-MoE и автоматически инициализирована случайными весами, поэтому не предназначена для содержательных ответов или практических пользовательских задач; её применение — тестирование и проверка программной инфраструктуры для моделей text-generation и чат-шаблонов. Метаданные указывают 413,9 млн параметров и контекст до 8192 токенов. Карточка сгенерирована автоматически и не приводит лицензию, языки обучения или оценку качества.

hyper-accel/ci-random-tinyllama-1b — текстовая генеративная модель на архитектуре Llama, опубликованная под этим идентификатором на Hugging Face. По метаданным, это плотная причинная языковая модель с 153,6 млн параметров, рассчитанная на контекст до 2048 токенов. Репозиторий использует Transformers и формат safetensors; указана возможность диалогового использования. Модель подходит для генерации текста и простых диалоговых сценариев. Поиск по заголовку и идентификатору не выявил карточку или другие первоисточники, поэтому дополнительные сведения о разработчике, обучении, языках, качестве и лицензии подтвердить нельзя.

yujiepan/meta-llama-3.2-tiny-random — крошечная причинная языковая модель для генерации текста, созданная для отладки и тестирования. Она случайно инициализирована на основе конфигурации Meta Llama 3.2 3B Instruct, но существенно уменьшена до примерно 1 млн параметров. Модель предназначена для запуска через библиотеку Transformers и имеет pipeline-задачу text-generation. Архитектура включает два скрытых слоя, размер скрытого представления 8, два attention-heads и один key-value head; заявленное окно контекста составляет 131 072 токена. Модель ориентирована на технические эксперименты, проверку кода и отладку конвейеров генерации текста, а не на получение содержательных или качественных ответов. Из-за случайной инициализации модель не обладает полезными выученными знаниями и не должна использоваться в продуктивных сценариях. Лицензия в предоставленных данных не указана.

PrimeIntellect/minimax-m2-tiny — тестовая компактная MoE-модель семейства MiniMax M2 от Prime Intellect. Она предназначена для проверки и интеграции с prime-rl; карточка указывает совместимость с vLLM и Hugging Face Transformers. Модель использует архитектуру MiniMaxM2ForCausalLM, 12 слоёв, скрытый размер 512 и 8 экспертов. В метаданных указаны 116,6 млн параметров и контекст до 4096 токенов. Веса случайно инициализированы, этап SFT не проводился из-за проблемы с токенизацией шаблона чата. Поэтому модель подходит для тестирования и интеграции, но не для содержательной генерации ответов. Распространяется под лицензией Apache-2.0.

yujiepan/opt-tiny-2layers-random — случайно инициализированная уменьшенная модель семейства OPT для генерации текста. В карточке указаны 2 слоя, скрытый размер 8, 2 головы внимания и размер FFN 32; метаданные указывают около 404,2 тыс. параметров и контекст до 2048 токенов. Модель представлена в float32, доступны форматы PyTorch, Safetensors и OpenVINO. Это тестовый чекпойнт, который подходит для проверки загрузки, преобразования и запуска моделей OPT в инструментах для генерации текста. Случайная инициализация означает, что от него не следует ожидать осмысленной генерации или пригодности для пользовательских задач. Сведения о лицензии в предоставленных данных отсутствуют.

Qwen3.8-27B-DFlash2-GGUF — это набор конвертированных форматов GGUF черновой модели DFlash 2, разработанной Inco AI для ускоренного спекулятивного декодирования базовой модели Qwen/Qwen3.8-27B. Репозиторий поддерживается z-lab и предназначен для работы с llama.cpp. Модель не является самостоятельной языковой моделью: она генерирует черновой блок токенов, который затем проверяется целевой моделью Qwen3.8-27B. DFlash 2 использует архитектуру блочной диффузии: предсказывает несколько токенов параллельно, сохраняет наиболее вероятных кандидатов и выбирает согласованный путь с помощью лёгкого селектора. Две динамические свёртки в основной части модели помогают сохранять качество прогнозов к концу блока. Указано, что жадная генерация совпадает с выводом целевой модели, а при sampling сохраняется её распределение. Доступны варианты BF16 размером 3,8 ГБ, Q8_0 размером 2,0 ГБ и Q4_K_M размером 1,1 ГБ; заявленная acceptance length в тесте GSM8K составляет 5,13–5,39 токена на шаг проверки. Модель предназначена для серверов спекулятивного декодирования и может повысить эффективность генерации при использовании совместимой версии llama.cpp с поддержкой DFlash 2. README не сообщает отдельные сведения о языках, длине контекста, мультимодальности или самостоятельных задачах базовой модели, поэтому эти характеристики нельзя определить по представленным данным. Распространение указано по лицензии Apache-2.0.

Это вспомогательная модель Multi-Token Prediction (MTP), разработанная сообществом mlx-community на основе весов Google Gemma 4 26B-A4B Instruct. Она предназначена не для самостоятельного диалога или генерации текста, а для speculative decoding: модель-черновик предлагает несколько候选ных токенов, которые затем проверяет совместимая целевая модель Gemma 4 26B-A4B. Такой подход может ускорять декодирование при работе с поддерживаемыми сценариями в mlx-vlm. Модель имеет тип gemma4_assistant, использует архитектуру-черновик для Gemma 4 26B-A4B, 4-битное квантование и формат Safetensors, совместимый с MLX. Она рассчитана на запуск в MLX и mlx-vlm, поддерживает сценарии мультимодальной генерации через целевую модель, включая, например, описание изображений. В README указан английский язык; другие языки и размер контекстного окна не уточняются. Главное ограничение — необходимость совместимого целевого чекпойнта Gemma 4 26B-A4B и поддержки MTP draft models в mlx-vlm. Самостоятельная генерация через стандартные API Transformers не ожидается. Модель распространяется по лицензии Gemma; дополнительные ограничения следует проверять в условиях лицензии исходной модели Google.

Карточка модели kirikir13/gemma-4-E4B-it-qat-assistant-bf16 на Hugging Face совпадает с карточкой mlx-community/gemma-4-E4B-it-qat-assistant-bf16, поэтому описание составлено по ней. Это вспомогательная модель-драфтер Multi-Token Prediction (MTP) семейства Gemma 4 E4B, подготовленная mlx-community из весов google/gemma-4-E4B-it-qat-q4_0-unquantized-assistant. Она предназначена для ускорения генерации методом speculative decoding: предлагает кандидатные токены, которые затем проверяет целевая модель Gemma 4 E4B. Модель рассчитана на работу в связке с совместимым целевым чекпойнтом через MLX и mlx-vlm. Веса представлены в bf16 и формате Safetensors. Это не самостоятельная чат-модель; карточка описывает текстовую генерацию и английский язык, но не задаёт отдельные задачи для автономного использования. Для работы требуется среда с поддержкой Gemma 4 MTP draft-моделей в mlx-vlm и совместимая целевая модель. Самостоятельная генерация через обычный интерфейс Transformers не предполагается. Указана лицензия Gemma; условия использования следует сверять с лицензией и карточкой базовой модели.

Это вспомогательная модель-драфтер Multi-Token Prediction (MTP) семейства Gemma 4 E4B, подготовленная mlx-community из весов google/gemma-4-E4B-it-qat-q4_0-unquantized-assistant. Она предназначена для ускорения генерации методом speculative decoding: предлагает кандидатные токены, которые затем проверяет целевая модель Gemma 4 E4B. Модель рассчитана на работу в связке с совместимым целевым чекпойнтом через MLX и mlx-vlm. Веса представлены в bf16 и формате Safetensors. Это не самостоятельная чат-модель; карточка описывает текстовую генерацию и английский язык, но не задаёт отдельные задачи для автономного использования. Для работы требуется среда с поддержкой Gemma 4 MTP draft-моделей в mlx-vlm и совместимая целевая модель. Самостоятельная генерация через обычный интерфейс Transformers не предполагается. Указана лицензия Gemma; условия использования следует сверять с лицензией и карточкой базовой модели.

soyrsoyr/gemma-4-unified-0.8B-tiny — тестовая компактная версия мультимодальной Gemma 4 Unified, созданная на основе google/gemma-4-12B-it. Модель разработана для проверки загрузки и обработки архитектуры Gemma4UnifiedForConditionalGeneration, а не для получения полезных ответов: её веса случайные, а краткое дообучение на игрушечном корпусе не обеспечивает осмысленных генераций. В чекпойнте около 0,8 млрд параметров. Текстовая часть сокращена до 6 слоёв и скрытого размера 2048; сохранены башни обработки изображений и аудио, а также поддержка диалога и изображений. Модель предназначена для тестов инференса и CI, проверки конвейеров квантования и сжатия, распределённой загрузки и пути модели во vLLM. Лицензия в предоставленных данных не указана.

hakurei/gpt-j-random-tinier — тестовая модель генерации текста на архитектуре GPT-J, созданная с помощью библиотеки Transformers и сохранённая в формате PyTorch. Веса инициализированы случайными значениями, поэтому модель предназначена для отладки, а не для осмысленной генерации или пользовательских задач. Контекст модели составляет 2048 токенов. README не указывает разработчика сверх имени репозитория; лицензия в доступных данных не приведена.

Qwen3.8-27B-DFlash2-GGUF — набор GGUF-конвертаций черновой модели DFlash 2, разработанной Inco AI для ускорения спекулятивного декодирования модели Qwen/Qwen3.8-27B. Это не самостоятельная языковая модель: она работает внутри совместимого сервера вместе с целевой моделью и генерирует черновые токены, которые затем проверяются целевой моделью. Модель использует подход block diffusion: за один проход предсказывает блок токенов, сохраняет несколько наиболее вероятных кандидатов для каждой позиции, а селектор выбирает из них согласованный путь. Архитектура включает двухконтактные динамические свёртки, уменьшающие ухудшение качества прогнозов к концу блока. Заявлено без потерь: при жадном декодировании результат совпадает с целевой моделью, а при sampling сохраняется её распределение. Доступны варианты Q4_K_M размером 1,1 ГБ, Q8_0 размером 2,0 ГБ и BF16 размером 3,8 ГБ. Модель предназначена для ускорения генерации текста в сценариях, где используется Qwen3.8-27B, в частности через llama.cpp с поддержкой DFlash 2 и режимом speculative decoding. В README не указаны поддерживаемые языки, размер контекста и самостоятельные прикладные возможности. Для работы необходимы целевая модель, совместимый сервер и специальная сборка llama.cpp; без них модель неприменима. Лицензия — Apache-2.0.

mlx-community/Qwen3.6-35B-A3B-MTP-4bit — это вспомогательная модель-драфтер с весами Multi-Token Prediction (MTP), выделенными из Qwen/Qwen3.6-35B-A3B и подготовленными сообществом mlx-community для работы со speculative decoding в MLX и mlx-vlm. Она не является самостоятельной чат-моделью или моделью для обычной генерации текста. Модель предназначена для ускорения авторегрессионной генерации: она предлагает кандидаты токенов, а совместимая целевая модель Qwen3.6 35B-A3B проверяет их. Указанный тип модели — qwen3_5_mtp, размер блока MTP — 2, целевая архитектура — Qwen3.6 35B-A3B. Веса представлены в формате Safetensors и используют 4-битное аффинное квантование MLX с размером группы 64; для работы требуются MLX, mlx-vlm и runtime с поддержкой Qwen MTP draft-моделей. Основное преимущество — потенциальное ускорение декодирования при совместном использовании с подходящим целевым чекпойнтом. Ограничение заключается в том, что репозиторий нельзя использовать автономно: стандартная генерация через generic Transformers API не ожидается. В README указан язык en. Лицензия — Apache-2.0; дополнительные условия использования следует проверять в карточке исходной модели Qwen/Qwen3.6-35B-A3B.

Это экспериментальная смешанно-точная drafting head для Qwen3.8-27B, подготовленная junafinity для ускорения генерации методом speculative decoding на MLX и Apple Silicon. Модель не предназначена для самостоятельного использования: её подключают к совместимому Qwen3.8-27B MLX backbone через загрузчик, который поддерживает смешанную точность с ключами scales. Веса семи линейных слоёв головы квантизированы до 4 бит с размером группы 64, а слой fc и нормализующие векторы сохранены в bf16. Артефакт основан на EigenLabs/Qwen3.8-27B-MTP-bf16. Возможный прирост доли принимаемых черновых токенов на сложных и разнообразных текстах не измерен; для fc в bf16 требуется больше трафика весов, чем при полностью 4-битной голове. Репозиторий распространяется по лицензии Apache-2.0.

tiny-random/seed-oss — отладочная модель, созданная на основе конфигурации ByteDance-Seed/Seed-OSS-36B-Instruct. Она реализует генерацию текста через Transformers и может запускаться с vLLM; исходный проект разработан ByteDance, однако для этой версии в README указано, что параметры инициализированы случайно. Модель предназначена для отладки, тестирования загрузки, инференса и совместимости инструментов, а не для получения качественных ответов или использования в продуктивных задачах. Это каузальная языковая модель с архитектурой SeedOssForCausalLM: 2 decoder-слоя, размер скрытого представления 8, 8 attention heads, 4 key-value heads, head dimension 32 и промежуточный размер MLP 32. Размер словаря составляет 155136 токенов. Поддерживаются текстовые входы и чат-шаблон с параметром thinking_budget, но сведения о языках и максимальной длине контекста в README не приведены. Главное преимущество модели — крайне малый размер и удобство для локальных тестов, включая проверку tensor parallelism и tool-calling-интеграции в vLLM. Ключевое ограничение — случайная инициализация весов: модель не обучена и не предназначена для содержательной генерации. Лицензия в предоставленных данных не указана.

yujiepan/llama-2-tiny-3layers-random — случайно инициализированная компактная причинная языковая модель на архитектуре Llama 2, созданная автором репозитория с конфигурацией на основе meta-llama/Llama-2-7b-chat-hf. В ней 259,1 тыс. параметров и три слоя; размер скрытого представления — 8, промежуточного слоя — 32, предусмотрены две головы внимания и две головы ключей и значений. Модель принимает текст и предназначена для генерации текста; заявлен контекст длиной 4096 токенов. Случайная инициализация означает, что модель не содержит выученных языковых знаний и не подходит для содержательного диалога или генерации. Репозиторий полезен как минимальный тестовый чекпойнт для проверки загрузки и работы инструментов Transformers и форматов PyTorch, safetensors и OpenVINO. Лицензия в предоставленных данных не указана.

yujiepan/qwen3.5-moe-tiny-random — небольшая случайно инициализированная модель для отладки, созданная на основе конфигурации Qwen/Qwen3.5-397B-A17B. Она предназначена для проверки совместимости и работы инструментов инференса, включая Transformers, vLLM и SGLang, а не для получения качественных ответов или прикладного использования. Модель реализована как Qwen3_5MoeForConditionalGeneration с мультимодальной архитектурой, поддерживающей текст и изображения. Конфигурация включает MoE-компоненты, линейное и полноформатное внимание, четыре текстовых слоя, 128 экспертов, уменьшенный размер скрытого представления 8 и компактный vision-модуль с двумя слоями. Размер файла весов составляет около 9,6 МБ. В README заявлена поддержка multi-token prediction, reasoning parser и tool-call parser; конкретные языки и размер контекстного окна не указаны. Преимущество модели — крайне малый размер и удобство для отладки загрузки, генерации, мультимодального процессинга и интеграции с серверными движками. Главное ограничение — веса случайно инициализированы, поэтому модель не обучена и не предназначена для осмысленной генерации, оценки качества или производственных сценариев. Лицензия в README не указана.

VectraYX-Vision-1B — мультимодальная модель зрения и языка от Juan S. Santillana, представленная как GGUF-экспорт для локального запуска через llama.cpp или Ollama. Она предназначена для анализа скриншотов инструментов кибербезопасности: декомпиляторов IDA и Ghidra, Wireshark, Nmap, Metasploit и Volatility. Модель принимает изображения и текстовые запросы, отвечает по-испански и поддерживает чатовый интерфейс; в карточке также заявлены структурированные визуальные рассуждения и взаимодействие с инструментами через MCP. Архитектура включает визуальный энкодер SigLIP-so400m-patch14-384, MLP-проектор и языковую основу VectraYX-1B с 22 слоями, GQA и SwiGLU. Для мультимодального вывода нужны оба файла: model.gguf и mmproj.gguf; указанный объём файлов — 2,22 ГБ и 823 МБ соответственно, в формате F16. Модель ориентирована на испанский язык, в метаданных также указаны испанский и английский. Лицензия — Apache-2.0. Это экспериментальная инфраструктурная версия, а не релиз с подтверждённым качеством визуального анализа. Автор сообщает, что на приведённых vision-бенчмарках результаты близки к нулю и модель часто игнорирует содержимое изображения; полезные ответы на вопросы по скриншотам пока ожидать не следует. Автор также отмечает, что оценка безопасности вызова инструментов ещё не завершена.

yujiepan/codestral-v0.1-tiny-random — отладочная языковая модель, созданная пользователем yujiepan на основе конфигурации mistralai/Codestral-22B-v0.1. Модель случайно инициализирована и предназначена для проверки кода, архитектуры и совместимости компонентов Transformers, а не для качественной генерации текста или программного кода. Модель использует архитектуру causal language model семейства Mistral и библиотеку Transformers. В конфигурации сохранены параметры контекста Codestral с длиной до 32768 токенов, но сама сеть существенно уменьшена: 2 слоя, hidden size 8, промежуточный размер 32, 4 attention heads и 2 key-value heads; общий размер составляет около 264,1 тыс. параметров. Поддерживается задача text generation. Модель подходит для отладки загрузки, токенизации, инференса, генерации и интеграции с Transformers, включая тестирование обычных и чатовых вызовов pipeline. Из-за случайной инициализации она не обладает полезными выученными знаниями и не предназначена для продуктивного применения. Лицензия в предоставленных данных не указана.

amd/tiny-qwen3-moe-w8a8-int8 — небольшая модель архитектуры Qwen3MoeForCausalLM, разработанная и подготовленная Advanced Micro Devices (AMD). Это текстовая авторегрессионная модель: принимает текст и генерирует текст. Модель предназначена не для прикладной генерации, а для структурных проверок и smoke-тестов в vLLM, в частности для покрытия INT8 fused-MoE пути AMD Quark и модульного Triton-ядра INT8 MoE. Модель случайно инициализирована и не наследует веса базовой модели, поэтому её выводы не имеют смыслового качества. Она использует архитектуру Mixture-of-Experts с восемью экспертами. Веса каналов внимания и маршрутизируемых MoE-экспертов квантизованы в INT8 по каналам, статически и симметрично; активации квантизованы в INT8 по токенам, динамически и симметрично. Маршрутизатор MoE и lm_head сохранены в исходной точности, включая bf16 для маршрутизатора. Размер модели, длина контекста и поддерживаемые языки в README не указаны. Запуск предусмотрен через vLLM; заявлена поддержка AMD MI300, MI350 и MI355 (gfx942/gfx950), а также NVIDIA с SM 7.5 и выше. Основное преимущество модели — возможность проверять совместимость и работу квантизированного fused-MoE контура, но для содержательной генерации, оценки качества или продуктивного использования она непригодна. Модель распространяется по лицензии Apache-2.0; модификации принадлежат Advanced Micro Devices, Inc. и датированы 2026 годом.

tiny-random/gpt-oss — небольшая модель для отладки, созданная на основе конфигурации openai/gpt-oss-120b. Модель имеет случайно инициализированные веса, поэтому не предназначена для качественной генерации текста или практического решения прикладных задач. Она доступна для использования через Transformers и vLLM в сценариях тестирования загрузки, инференса и совместимости с архитектурой GPT-OSS. Архитектура включает 2 скрытых слоя, размер скрытого состояния 32, промежуточный размер 64, 2 attention-головы и 1 key-value голову. Используется чередование sliding attention и full attention, а также 32 локальных эксперта; эмбеддинги входа и выхода связаны. Модель работает в формате BF16, при этом квантованный MXFP4 FFN не используется. Точный размер контекста, поддерживаемые языки и набор обучающих данных в README не указаны. Главное преимущество модели — минимальный размер и близость конфигурации к openai/gpt-oss-120b, что удобно для отладки программного окружения и проверки интеграций. Существенное ограничение — случайная инициализация весов: модель не обладает заявленными языковыми способностями и её ответы не следует использовать в продуктивных системах. Лицензия в предоставленных данных не указана.