II.2Создание и понимание программного кода

unsloth/Mistral-Nemo-Base-2407-bnb-4bit — это 4-битная версия базовой языковой модели Mistral Nemo, подготовленная Unsloth и предназначенная для работы с библиотекой Transformers. В README также упоминается вариант Mistral Nemo на 12 миллиардов параметров, однако точный размер именно этой сборки явно не подтверждён. Модель предназначена для дальнейшего дообучения и выполнения задач генерации и продолжения текста, включая настройку на собственных наборах данных. Unsloth предоставляет сценарии дообучения через Google Colab и заявляет снижение потребления памяти и ускорение процесса; модель также можно экспортировать в форматы GGUF и vLLM. Указан английский язык, но другие языки и мультимодальные возможности не описаны. Ключевая особенность сборки — 4-битное квантование в формате bnb, что снижает требования к памяти по сравнению с полноразмерной моделью, но может повлиять на точность. Архитектурные параметры, размер контекста, результаты оценки и ограничения применения в README не приведены. Модель распространяется по лицензии Apache-2.0.

MuXodious/Nanbeige4.2-3B-ARA-heresy — дообученная версия Nanbeige4.2-3B, созданная с помощью Heretic и Arbitrary-Rank Ablation с нормализацией строк весов. Проект разработал MuXodious на основе модели Nanbeige; README сообщает, что финальный вариант выбрали по результатам PiQA. В эксперименте число отказов снизилось с 535 из 540 до 9 из 540, при этом измеренная KL-дивергенция составила 0,0824. Модель предназначена для генерации текста в диалогах и может использоваться как менее склонный к отказам вариант базовой модели для общих запросов, рассуждений, программирования и агентных сценариев. Базовое семейство Nanbeige4.2-3B рассчитано на вызов инструментов и многошаговые рабочие процессы; сама карточка этой версии не приводит отдельных оценок её агентных возможностей. Это плотная причинная языковая модель архитектуры NanbeigeForCausalLM на 3,2 млрд параметров с контекстом до 262 144 токенов. В метаданных указаны английский и китайский языки. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Снижение числа отказов может ослабить защитное поведение; результаты, приведённые в карточке, не гарантируют качество на произвольных задачах.

Nemotron-Terminal-32B — языковая модель NVIDIA для автономной работы в терминале. Это плотная causal language model семейства Qwen3 с 29,7 млрд параметров, дообученная для задач терминального взаимодействия. Модель принимает текстовое описание задачи и сведения о состоянии терминала, а в ответ формирует структурированный JSON с анализом, планом и последовательностью нажатий клавиш и команд. Модель предназначена для запуска командной строки и выполнения многошаговых задач в терминале, включая сценарии оценки Terminal-Bench 2.0. В README для варианта 32B указана точность 27,4% на этом бенчмарке; для согласованной оценки рекомендуется оболочка Terminus 2, на которой проводилось обучение. Поддерживается контекст до 40 960 токенов. Модель рассчитана на английский язык. Это дообученная версия Qwen3-32B; в репозитории указаны веса safetensors для библиотеки Transformers. Лицензия обозначена как other, поэтому условия использования следует сверять с карточкой модели и сопровождающими лицензиями. Ответы модели могут содержать некорректные команды или планы, поэтому их следует проверять перед выполнением.

Emese-Patak — языковая модель семейства Emese, разработанная emese-tech на базе EuroLLM-9B. Это плотная LLaMA-подобная авторегрессионная модель с 9,15 млрд параметров и контекстом 32 768 токенов; она принимает текст и генерирует текст. Модель прошла продолженное предобучение на венгерском корпусе, настройку на инструкции и DPO-выравнивание. Доступна в формате bf16 Safetensors для Transformers и MLX; лицензия — Apache-2.0. Patak предназначена прежде всего для диалогов и выполнения инструкций на венгерском языке, включая ответы на вопросы, длинные тексты, чтение и анализ, программирование и задачи с несколькими условиями. По карточке модели, она также показывает хорошие результаты на английском языке. Разработчик сообщает о сильных результатах на собственных бенчмарках и высокой доле отказов на проверке безопасности. Ограничения включают возможные фактические ошибки в редких именах и датах, слабую многошаговую математику, пространственные оценки, отладку кода и доработку ответов по новым условиям в ходе диалога. Качество на других языках унаследовано от EuroLLM-9B. Разработчик предупреждает о снижении результатов при запуске через llama.cpp/GGUF и рекомендует Transformers или MLX.

Qwen1.5-1.8B-Chat-GGUF — чатовая версия языковой модели Qwen1.5, разработанная командой Qwen. Это авторегрессионная decoder-only модель на архитектуре Transformer, дообученная с использованием supervised fine-tuning и direct preference optimization для более качественного взаимодействия с пользователем. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, поддержание беседы и другие задачи text generation. Заявлена поддержка нескольких естественных языков и программного кода; базовая карточка модели указывает английский язык. Модель поддерживает контекст длиной до 32K токенов. Репозиторий содержит GGUF-квантизации q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, рассчитанные на запуск с llama.cpp. Размер 1.8B параметров делает модель относительно компактной и удобной для локального запуска, однако по возможностям и качеству она уступает более крупным моделям семейства. Квантизация снижает требования к ресурсам, но при более низкой точности может ухудшать качество генерации. Модель работает только с текстом; поддержка изображений и других модальностей не указана. Лицензия обозначена как Tongyi Qianwen Research License; точные условия следует проверять в файле лицензии репозитория.

Qwen-1.8B — 阿里云研发的通义千问系列 базовая предварительно обученная языковая модель на архитектуре Transformer с 2,3 млрд параметров. Модель обучена на корпусе объемом более 2,2 трлн токенов, включающем веб-тексты, книги, код, математику и материалы из разных областей. Это базовая модель для генерации продолжения текста; отдельная версия Qwen-1.8B-Chat обучена с выравниванием и предназначена для диалогового взаимодействия. Модель использует 24 слоя, 16 голов внимания, размерность скрытого представления 2048, позиционные кодировки RoPE, активацию SwiGLU и нормализацию RMSNorm. Контекст — до 8192 токенов. Токенизатор на основе tiktoken имеет словарь более 150 тысяч токенов; заявлена поддержка китайского, английского, кода и ряда других языков, включая русский. Модель подходит для генерации текста и продолжения подсказок, в том числе для задач на китайском и английском языках, а также для адаптации к отдельным предметным задачам. README сообщает о вариантах квантования int4 и int8 с меньшими требованиями к памяти, однако данный репозиторий содержит веса в формате safetensors. Для базовой модели не заявлено диалоговое выравнивание; ответы могут быть непоследовательными или фактически неверными, а качество для конкретных задач требует проверки. Условия лицензии в предоставленных данных не описаны.

Qwen2-0.5B-Instruct-GGUF — квантованная GGUF-версия малой инструкционной языковой модели Qwen2, разработанной командой Qwen. Модель предназначена для диалогов, генерации и понимания текста, выполнения инструкций, а также задач, связанных с программным кодом, математикой и рассуждениями. Она подходит для локального запуска и развертывания через llama.cpp, включая совместимые с OpenAI API серверы. Модель содержит 0,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV внимания и Group Query Attention. Она поддерживает естественные языки и языки программирования; в карточке явно указан английский язык. В репозитории доступны варианты квантования q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать баланс между размером файла, требованиями к ресурсам и качеством. Модель прошла предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального использования и поддержка нескольких уровней квантования. Ограничения связаны с малым масштабом модели: по сравнению с более крупными моделями она, вероятно, уступает им в сложности рассуждений, качестве генерации и устойчивости на трудных задачах; конкретные ограничения по длине контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-1.5B-Instruct-8bit — конвертированная сообществом mlx-community версия Qwen2.5-1.5B-Instruct для запуска в формате MLX на устройствах Apple. Это плотная авторегрессионная языковая модель семейства Qwen2 с 1,5 млрд параметров, предназначенная для генерации текста и диалогового общения; метаданные также отмечают интерфейс вызова инструментов. Контекст модели составляет до 32 768 токенов, язык карточки — английский. Модель подходит для диалоговых помощников, генерации и продолжения текста, а также прототипирования локальных приложений на совместимом оборудовании Apple. Веса указаны в 8-битном варианте, а README сообщает о конвертации исходной Qwen/Qwen2.5-1.5B-Instruct в MLX с помощью mlx-lm 0.18.1. Лицензия — Apache-2.0.

t-firefly/qwen3-0.6b-rknn3-rk1820 — версия компактной причинной языковой модели Qwen3-0.6B от команды Qwen, подготовленная для запуска на Rockchip RK1820 через LlamaPi. Модель содержит около 507,9 млн параметров, распространяется в формате GGUF и поддерживает контекст до 40 960 токенов. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений и написания кода; README также отмечает режимы с рассуждением и без него, поддержку более 100 языков и диалектов, а метаданные — интерфейс вызова инструментов. Лицензия — Apache-2.0. Это компактная модель для локального развертывания на совместимом оборудовании; качество и возможности могут уступать более крупным моделям, а запуск ориентирован на среду LlamaPi и устройство RK1820.

mlx-community/Qwen3-14B-4bit — это 4-битная квантованная версия языковой модели Qwen3-14B, разработанная сообществом mlx-community и преобразованная из исходной модели Qwen/Qwen3-14B в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и запуска на устройствах и в окружениях, совместимых с MLX. Модель ориентирована на задачи текстовой генерации, включая диалоговые сценарии при использовании chat template, поскольку README содержит пример передачи сообщений с ролями user и assistant. Известный размер базовой модели — 14 миллиардов параметров; представление использует 4-битную квантование, что потенциально снижает требования к памяти по сравнению с полной точностью. Данные о поддерживаемых языках, архитектурных деталях, размере контекста, дополнительных модальностях, точности и результатах тестирования не указаны. К сильным сторонам относятся формат MLX, интеграция с библиотекой mlx-lm и уменьшенный объём памяти благодаря 4-битному представлению. Ограничения связаны с отсутствием в README подробных сведений о качестве, производительности, языковом покрытии и совместимости за пределами MLX-окружений. Модель распространяется по лицензии Apache 2.0.

mlx-community/Qwen3-235B-A22B-8bit — языковая модель для генерации текста, разработанная на основе Qwen/Qwen3-235B-A22B и конвертированная сообществом mlx-community в формат MLX. Модель предназначена для запуска и генерации ответов в экосистеме MLX с использованием библиотеки mlx-lm, включая диалоговые сценарии через chat template. Из README известно, что модель имеет 8-битное представление и относится к семейству Qwen3-235B-A22B. Архитектура, точное число параметров, поддерживаемые языки, модальности и максимальная длина контекста в предоставленных данных не указаны. Для работы требуется библиотека mlx-lm; формат MLX ориентирован на совместимое с этой экосистемой выполнение. Модель распространяется по лицензии Apache-2.0. README не содержит сведений о результатах тестирования, сильных сторонах и ограничениях качества, поэтому их оценка по имеющимся данным невозможна.

mlx-community/Qwen3-4B-4bit — это 4-битная квантованная версия языковой модели Qwen3-4B, разработанная сообществом mlx-community и преобразованная в формат MLX из исходной модели Qwen/Qwen3-4B с использованием mlx-lm версии 0.24.0. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе для диалоговых сценариев с применением chat template. В README указано, что модель относится к категории text-generation и основана на Qwen3-4B. Известны её размер класса — 4B параметров, 4-битное представление и формат MLX. Данные о поддерживаемых языках, длине контекста, архитектурных деталях, модальностях, преимуществах и ограничениях не приведены, поэтому их нельзя достоверно оценить по имеющейся информации. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; README демонстрирует загрузку модели и генерацию ответа через MLX.

onnx-community/Qwen3.5-0.8B-ONNX — это ONNX-версия постобученной мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, визуального понимания, рассуждений, программирования, агентских сценариев, прототипирования, исследовательских задач и специализированного дообучения. Веса и конфигурация совместимы с Hugging Face Transformers.js и ONNX Runtime. Модель представляет собой авторегрессионную языковую модель с vision encoder и содержит около 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; языковая часть включает 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. Заявлена поддержка 201 языка и диалекта. Благодаря небольшому размеру модель ориентирована на относительно эффективный запуск и разработку, но по возможностям и качеству уступает более крупным моделям, а заявленные мультимодальные и языковые характеристики требуют проверки на конкретных задачах. Модель распространяется по лицензии Apache-2.0. README не содержит полного описания ограничений, требований к аппаратному обеспечению и подробных результатов именно для всех поддерживаемых сценариев.

bleysg/Qwen3.5-122B-A10B-int4-fp8-hybrid — гибридный квантованный чекпойнт модели Qwen3.5-122B-A10B, созданный на основе весов Intel/Qwen3.5-122B-A10B-int4-AutoRound и официального Qwen/Qwen3.5-122B-A10B-FP8. Модель предназначена для генерации текста и оптимизирована для запуска на NVIDIA DGX Spark с GB10, SM121 и 128 ГБ унифицированной памяти через vLLM, прежде всего для эффективного декодирования с ограниченной пропускной способностью памяти и поддержки speculative decoding. Маршрутизируемые эксперты и attention представлены в формате INT4 GPTQ/AutoRound, а 144 слоя общих экспертов, постоянно используемых при обработке каждого токена, преобразованы из BF16 в FP8 E4M3 с размером блока 128. Embeddings, norms и выходная голова сохранены от INT4-базы. По данным README, такая компоновка повышает скорость базового декодирования без speculative decoding на GB10 с 28,2 до 36,0 токена в секунду, или примерно на 28%, однако преимущество уменьшается при высокой доле принятых спекулятивных токенов. Для работы требуется специализированный проект qwen3.5-122B-A10B-on-spark, профиль dense и патч vLLM 0.23 с поддержкой смешанной схемы INT4/FP8; стандартная версия vLLM не умеет корректно загружать этот чекпойнт. В README не указаны языки, длина контекста и поддерживаемые модальности, поэтому модель следует рассматривать как текстовую. Производная работа наследует условия лицензирования исходной Qwen3.5-122B-A10B и Intel AutoRound; конкретные условия определяются лицензиями upstream-моделей.

Набор GGUF-квантизаций модели Qwen3.6-35B-A3B, разработанной командой Qwen и опубликованной в формате quantized derivative weights пользователем jimbothigpen. Модель имеет архитектуру Mixture-of-Experts: около 35 млрд параметров всего и примерно 3 млрд активных параметров на токен. Набор предназначен для локального запуска и сравнения качества, perplexity и производительности разных форматов квантизации через llama.cpp-совместимые бэкенды. Репозиторий включает исходный вариант BF16 и широкий диапазон форматов от IQ1 до Q8_0, включая IQ-K, K-quants, legacy-типы и WHT3_0/WHT4_0. При большинстве квантизаций используется единая importance matrix, рассчитанная на полном калибровочном корпусе calibration_datav3; это помогает снизить потерю качества при низкой разрядности. Также доступен отдельный vision projector в формате F16, поэтому модель поддерживает мультимодальные сценарии с изображениями при использовании совместимой конфигурации. Ограничения зависят от выбранного формата: BF16 занимает около 69 ГБ, а даже компактные варианты требуют несколько гигабайт памяти. Основные форматы работают в стандартном llama.cpp, тогда как IQ-K, KS, KT, KL и KSS требуют совместимой сборки семейства ik_llama.cpp, а WHT-форматы — сборки jimbothigpen/llama.cpp или другой реализации с поддержкой WHT. Производитель и поддерживаемые языки, размер контекста и конкретные возможности базовой модели в README не указаны. Производные веса распространяются по лицензии Apache-2.0.

jedisct1/Qwen3.6-35B-A3B-q3-mlx — это конвертированная в формат MLX версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для генерации текста и запуска локальных сценариев вывода с использованием библиотеки mlx-lm, включая диалоговое взаимодействие через chat template. Модель доступна для использования на платформах и в средах, поддерживающих MLX. В README указано обозначение 35B-A3B, однако подробности об архитектуре, количестве активируемых параметров, модальностях, поддерживаемых языках и размере контекста не приведены. Для загрузки и генерации требуется mlx-lm версии 0.31.2 или совместимая версия; предусмотрена работа с токенизатором и шаблоном чата, если он задан. Сильной стороной модели является адаптация к экосистеме MLX, что упрощает её локальный запуск в соответствующих средах. Ограничения и требования к аппаратному обеспечению, а также результаты тестирования производительности в README не указаны. Лицензия — Apache-2.0.

keXjos/Qwen3.8-9B-mlx-4Bit — языковая модель для генерации текста, преобразованная в формат MLX из базовой модели empero-ai/Qwen3.8-9B с использованием mlx-lm 0.31.2. Разработчик конвертации — keXjos; исходную модель разработала команда empero-ai. Модель предназначена для запуска и генерации текста через библиотеку mlx-lm, включая диалоговые сценарии при наличии совместимого chat template. Модель имеет размер 9B параметров и 4-битное представление, ориентированное на эффективное выполнение в MLX. В карточке заявлены поддержка английского языка, reasoning, function-calling и обучение методом SFT, однако подробности архитектуры, длины контекста, фактической поддержки модальностей и количественные показатели качества не указаны. MLX-формат и 4-битная квантизация могут быть сильными сторонами для локального запуска на совместимом оборудовании, но могут ограничивать точность по сравнению с полноразмерными вариантами. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-GGUF — набор GGUF-квантизаций базовой модели Qwen3.8-Flash-Next, разработанной Qwen и сконвертированной с помощью llama.cpp пользователем 6block. Модель предназначена для генерации текста и локального запуска в совместимых инструментах, включая llama.cpp. В README указана поддержка английского и китайского языков. Модель имеет 180 млрд параметров: MoE-ядро объёмом 125 млрд параметров с 48 слоями и 512 экспертами, из которых для токена выбираются 10 экспертов и один общий, а также 51-миллиардная PLE n-граммная таблица. Используется гибридное внимание: линейное внимание Gated DeltaNet чередуется с блоками Qwen Sparse Attention и дополняется hyper-connections. Заявленная длина контекста — до 262 тысяч токенов. Один слой MTP для чернового прогнозирования был исключён при конвертации. Доступны варианты BF16, IQ4_XS, IQ3_XXS, IQ2_XS-layered и IQ1_M-layered размером примерно от 76,4 до 329,7 ГиБ. Квантизация откалибрована с использованием imatrix; каждый вариант поставляется в восьми shards. Layered-варианты сильнее сжимают PLE-таблицу и сохраняют более высокую точность критичных компонентов, что по данным README улучшает показатель perplexity по сравнению с равномерной квантизацией при сопоставимом или меньшем размере. Основные ограничения — очень большой объём файлов, необходимость загрузки всех восьми частей и зависимость от совместимого ПО и доступной памяти. Модель распространяется по Qwen Community License 1.0, а не по MIT.

Qwen3.8-Flash-Next-GGUF — GGUF-квантизированная версия модели Qwen3.8-Flash-Next, разработанной Qwen и квантизированной пользователем qtum с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp; заявленные языки — английский и китайский. Модель содержит около 180 млрд параметров: MoE-ядро на 125 млрд параметров с 48 слоями, 512 экспертами, маршрутизацией top-10 и одним общим экспертом, а также 51-миллиардную PLE-таблицу n-грамм. Используется гибридное внимание: линейное внимание Gated DeltaNet чередуется с блоками Qwen Sparse Attention и гиперсвязями. Максимальная длина контекста — до 262 тысяч токенов. Слой MTP для чернового предсказания был исключён при конвертации. Доступны варианты BF16 и квантизации IQ4_XS, IQ3_XXS, IQ2_XS-layered и IQ1_M-layered размером примерно от 76,4 до 118,8 GiB; каждый вариант поставляется в восьми сегментах. Квантизация снижает требования к хранилищу, но ухудшает показатель perplexity относительно BF16, особенно у низкобитных вариантов. Для работы необходимо скачать все восемь сегментов и использовать llama.cpp; модель предъявляет очень высокие требования к ресурсам. Лицензия — Qwen Community License 1.0, унаследованная от исходной модели, а не MIT.

Vontra/Qwen3.8-Flash-Next-MLX-oQ2-MTP — это общественная MLX-конверсия модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста и обработки изображений и видео в совместимых vision-language сценариях на устройствах Apple Silicon. Это не официальный релиз Qwen, а квантованная версия, преобразованная из официального BF16-чекпойнта в формат MLX safetensors. Модель использует архитектуру qwen4_exp с разреженной смесью экспертов (MoE), Gated DeltaNet, Qwen Sparse Attention, расширенными gated residual streams и hashed n-gram embeddings. Общее число параметров языковой модели составляет около 125 млрд, активных — около 6 млрд; дополнительно указаны 51 млрд параметров n-gram embedding и 4 млрд параметров native MTP-блока. Архитектура включает 48 слоёв, 512 маршрутизируемых экспертов, 10 активных экспертов и один общий эксперт. Контекст настроен на 262 144 токена и может быть расширен upstream до 1 000 000 токенов. Ключевая особенность — чувствительно-ориентированное смешанное квантование oQ2: базовое представление использует 2-битное affine-квантование с размером группы 32, а отдельные модули — 3, 4, 5, 6 и 8 бит. В чекпойнте сохранён один native MTP draft-блок для speculative decoding. На Apple M3 Studio в тестах скорость генерации составила 26,1398 токена в секунду без MTP и 25,9290 токена в секунду с MTP глубины 3; в данном тесте MTP снизил производительность на 0,81%, поэтому рекомендуется отключать его по умолчанию. Для запуска требуется runtime с явной поддержкой qwen4_exp и native MTP; без такой поддержки загрузка может завершиться ошибкой. Модель распространяется по лицензии Qwen Community License 1.0. Размер весов составляет около 70,782 ГБ, поэтому необходимы значительные объёмы памяти и совместимое оборудование. README не содержит полного описания ограничений исходной модели и предупреждает, что результаты производительности зависят от длины запроса, размера контекста, состояния кэша, версии runtime, нагрузки на память и температуры устройства.

Vontra/Qwen3.8-Flash-Next-MLX-oQ4-MTP — общественная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, созданная Vontra на основе официальных весов Qwen в формате BF16. Модель предназначена для запуска на Apple Silicon через совместимые среды oMLX или MLX-VLM и поддерживает обработку текста и изображений. Это не официальный релиз Qwen. Модель использует разреженную архитектуру mixture-of-experts qwen4_exp с 125 млрд параметров, из которых около 6 млрд активны при обработке токена, 48 слоями, 512 маршрутизируемыми экспертами, 10 активными экспертами и одним общим экспертом. В состав входят Gated DeltaNet, Qwen Sparse Attention, расширенные gated residual-потоки, hashed bigram и trigram embeddings, а также один встроенный MTP-блок для speculative decoding. Контекст составляет до 262 144 токенов. Конверсия выполнена в смешанной 4-битной точности oQ4 с отдельными модулями в 5- и 8-битном формате; размер весов — около 113,33 ГБ. Сильными сторонами являются экономичное по сравнению с полной точностью хранение, поддержка визуально-текстовых сценариев и встроенный MTP для ускорения генерации. Ограничения связаны с большими требованиями к памяти, зависимостью от Apple Silicon и необходимостью runtime с явной поддержкой qwen4_exp и native MTP; стандартные среды без такой поддержки могут не загрузить модель. Указанная лицензия — Qwen Community License 1.0.

halt95/Qwen3.8-Flash-Next-W4A16-Merlin — это квантованный вариант Qwen3.8-Flash-Next, подготовленный halt95 на основе компонентов Qwen, Intel и RadixArk. Модель предназначена для генерации текста и инференса в vLLM, включая сценарии с длинным контекстом, параллельными сессиями, включённым режимом рассуждений, vision-вводом и speculative decoding с MTP-драфтером. Модель использует смесь экспертов с 512 маршрутизируемыми экспертами на слой и 512 экспертами MTP draft-head. Основные эксперты представлены в INT4 с групповой схемой g128, отдельные проекции Gated DeltaNet — в INT8, а часть компонентов, включая 12 attention-слоёв, vision tower, эмбеддинги и lm_head, сохранена в BF16. Таблица n-gram (PLE) на 51 млрд параметров хранится в FP8 и выгружается в память CPU. При обслуживании применяется FP8 E4M3 KV-cache; заявлена поддержка контекста до 262 144 токенов и пула KV-cache размером 806 792 токена. README не указывает поддерживаемые языки и точное общее число параметров. Сильными сторонами являются работа с очень длинным контекстом, поддержка vision, MTP speculative decoding, структурированного вывода при конкуренции запросов и возможность запуска на четырёх потребительских RTX 3090 с архитектурой Ampere без NVLink. Ограничения связаны с узкой аппаратной и программной конфигурацией: для sm_86 требуется патченный vLLM с поддержкой FP8 KV-cache и специального доступа к большой n-gram-таблице, а стандартный vLLM не подходит. Качество INT4-квантования для отдельных компонентов и влияние дополнительной квантизации attention в README не оценивались. Распространение осуществляется по лицензии qwen-community-1.0; в метаданных также указана общая лицензия other. Для запуска может потребоваться companion-репозиторий halt95/qwen38-flash-next-3090s с закреплёнными скриптами сборки и модифицированным движком.

cyankiwi/Qwen-AgentWorld-35B-A3B-AWQ-INT4 — квантизированная сборка модели Qwen-AgentWorld-35B-A3B, разработанной командой Qwen. Это языковая мировая модель для симуляции агентных сред: она прогнозирует следующее состояние окружения на основе действия агента и истории взаимодействий. Модель предназначена для сценариев с вызовом инструментов MCP, поиском, работой в терминале, программной инженерией, Android, веб-интерфейсами и операционными системами, включая текстовые и графические среды. Архитектура — каузальная языковая модель с Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке токена. Она содержит 40 слоёв, использует комбинацию Gated DeltaNet и Gated Attention, а также контекст длиной до 262 144 токенов. Модель поддерживает английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Версия AWQ-INT4 рассчитана на эффективное инференс-развёртывание; размер представленных файлов составляет 23,54 ГБ. Сильные стороны модели — единая симуляция семи типов агентных окружений, обучение как нативной мировой модели с этапами CPT, SFT и RL, возможность обобщения на неизвестные среды и управляемого моделирования. Ограничения включают необходимость специализированной инфраструктуры для запуска крупной модели, а также то, что приведённые в README сведения не описывают точные требования к памяти, лицензирование именно квантизированной сборки и возможные потери качества из-за INT4-квантизации. Базовая модель распространяется по лицензии Apache-2.0.

Qwythos-9B-Claude-Mythos-5-1M-uncensored-heretic-GGUF — GGUF-квантизации модели Qwythos-9B-Claude-Mythos-5-1M, разработанные независимым автором LLMfan46 на базе модели llmfan46/Qwythos-9B-Claude-Mythos-5-1M-uncensored-heretic. Модель предназначена для генерации текста, задач рассуждения, работы с длинным контекстом, function calling и tool use, а также агентских, кибербезопасностных и биомедицинских сценариев. Заявлена поддержка английского языка и контекста до 1M токенов; библиотека — Transformers. Архитектура и точные параметры квантизации в README не указаны, однако размер базовой модели составляет 9B параметров. Это декензурированная версия, полученная с помощью Heretic v1.2.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA), применённого к компонентам attn.o_proj, attn.out_proj и mlp.down_proj. По приведённым данным, частота отказов снизилась до 11 из 100 против 73 из 100 у исходной модели, при KL divergence 0,0123; при этом заявлено сохранение качества. В тесте MMLU исходная модель показала точность 77,03%, но отдельные результаты именно этой версии не приведены. Сниженная склонность к отказам может быть полезна для исследовательских и специализированных сценариев, но также повышает риски небезопасной генерации, поэтому необходимы контроль применения и проверка результатов. Модель распространяется по лицензии Apache-2.0.

Модель win10/sthenno-Test-maybe-is-pro-v2 — объединённая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная автором репозитория методом Model Stock с помощью mergekit. В объединение вошли arcee-ai/Virtuoso-Small, deepseek-ai/DeepSeek-R1-Distill-Qwen-14B, Qwen/Qwen2.5-Coder-14B, sthenno-com/miscii-14b-1225 и sthenno/tempesthenno-ppo-ckpt40; базовой моделью при слиянии служила sthenno-com/miscii-14b-1225. Модель предназначена для генерации текста и диалогов. Заявленная длина контекста составляет 131 072 токена; веса доступны в формате safetensors. В состав слияния входят модели для программирования и рассуждений, однако README не описывает отдельные проверенные сценарии или сравнительные результаты, поэтому их качество для конкретных задач не установлено. Лицензия в предоставленных данных не указана.

supergemma4-e4b-abliterated-GGUF — это квантованное распространение модели Jiunsong/supergemma4-e4b-abliterated, подготовленное mradermacher в формате GGUF. Модель относится к семейству Gemma, ориентирована на генерацию текста и instruction-tuned-сценарии, а также заявляет поддержку tool calling и структурированного вывода. В метаданных указан английский язык. Модель предназначена для локального запуска и интеграции с совместимыми средами инференса, включая инструменты для работы с GGUF и vLLM. Доступны варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K, Q8_0 и f16 размером примерно от 4,5 до 15,2 ГБ. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант высокого качества, а Q8_0 — как наиболее качественный среди быстрых вариантов. Ключевое преимущество — широкий выбор квантований, позволяющий адаптировать требования к памяти, скорости и качеству. Более агрессивные варианты могут снижать качество генерации; для Q3_K_M это указано отдельно. Размер контекста, точная архитектура, количество параметров, мультимодальные возможности и подробные результаты оценки в README не указаны. Лицензия обозначена как gemma.

MaziyarPanahi/Topxtral-4x7B-v0.1 — текстовая генеративная модель семейства Mixtral с архитектурой Mixture of Experts, предназначенная для создания ответов и продолжения текста. Карточка содержит пример запроса о плюсах и минусах Docker, что указывает на использование модели для ответов на вопросы и объяснений. Модель имеет 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Репозиторий использует формат Safetensors и библиотеку Transformers; модель опубликована под лицензией Apache-2.0. Метаданные помечают её как merge, однако не указывают базовые модели, поэтому состав слияния установить нельзя.

MaziyarPanahi/zephyr-7b-beta-nf4-fp16-upscaled-GGUF — это версия модели arnavgrg/zephyr-7b-beta-nf4-fp16-upscaled в формате GGUF. Исходную модель разработал arnavgrg, а преобразование и квантование выполнил MaziyarPanahi. Модель предназначена для генерации текста и может использоваться в локальных приложениях и интерфейсах, совместимых с GGUF, включая llama.cpp, text-generation-webui, LM Studio, GPT4All и llama-cpp-python. Модель относится к семейству Zephyr и имеет заявленный размер 7B параметров. Репозиторий содержит варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные конфигурации; также упоминается вариант NF4 с восстановлением до FP16 в исходной модели. GGUF удобен для локального запуска и позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством генерации. Поддерживаемые модальности, языки и размер контекстного окна в README не указаны. Сильные стороны модели — широкий выбор квантованных вариантов и совместимость с популярными инструментами локального инференса, включая запуск с GPU. Ограничения связаны с потенциальной потерей качества при низкоразрядном квантовании, а также с отсутствием в предоставленных данных подробных сведений о качестве, бенчмарках, языковой специализации и контекстном окне. Модель распространяется по лицензии Apache-2.0.

BLOOM — авторегрессионная языковая модель семейства Transformer, разработанная международным сообществом BigScience. Она продолжает текст по заданному промпту и может выполнять разные языковые задачи, сформулированные как генерация текста; модель предназначена прежде всего для исследований и может служить основой для дальнейшей настройки под конкретные задачи. Модель имеет архитектуру decoder-only, модифицированную на основе Megatron-LM GPT-2, с позиционным кодированием ALiBI, 70 слоями и 112 головами внимания. В ней около 176 млрд параметров; обучение включало 366 млрд токенов. Контекстная длина — 2048 токенов. BLOOM генерирует текст на 46 языках и поддерживает 13 языков программирования; среди языков карточки указаны арабский, бенгальский, каталонский, английский, испанский, французский, хинди, индонезийский, португальский, тамильский, урду, вьетнамский и китайский. Модель подходит для генерации и продолжения текста, а также для исследовательских экспериментов с многоязычными LLM. Она может выдавать ошибочные утверждения как факты, повторяться, воспроизводить предвзятость и стереотипы, а также создавать оскорбительный, жестокий или сексуальный контент. Применение в критически важных и высокорисковых сценариях, включая медицину, право и финансы, не рекомендуется. Лицензия — BigScience BLOOM RAIL v1.0.

BLOOM-3B — мультиязычная авторегрессионная языковая модель BigScience для генерации текста и исследований больших языковых моделей. Она также предназначена для дальнейшего дообучения под конкретные задачи. Модель основана на модифицированной архитектуре Megatron-LM GPT-2: декодер с 30 слоями, 32 головами внимания, скрытым размером 2560 и примерно 3 млрд параметров. Для позиционного кодирования используется ALiBi; длина последовательности при обучении составляла 2048 токенов. Модель обучалась на многих естественных языках, включая английский, французский, испанский, китайский, хинди, арабский и бенгали, а также на данных с кодом. Её можно применять для продолжения текста, черновой генерации и экспериментов с мультиязычными LLM. Лицензия — BigScience RAIL License v1.0. BLOOM-3B может выдавать правдоподобную, но фактически неверную информацию, а также стереотипный, предвзятый, оскорбительный или повторяющийся текст. Карточка исключает применение в высокорисковых сценариях, включая медицинские, юридические, политические и финансовые решения, оценку людей и задачи, где необходима достоверность.