II.2Создание и понимание программного кода

OneNexus/GLM-5.3-Flash-MXFP4 — это чекпойнт модели GLM-5.3-Flash, разработанный OneNexus на базе zai-org/GLM-5.3-Flash. Модель предназначена для серверной обработки текстовых запросов и задач преобразования изображений в текст, включая сценарии с длинным контекстом и мультимодальными запросами. Заявлены английский и китайский языки; обработка видео не оценивалась. Модель имеет 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. В большинстве слоёв используются маршрутизируемые эксперты с форматом весов MXFP4, а для других тензоров сохраняется заявленная точность. Архитектура включает разреженное внимание, K-пул для выбора контекста и встроенный механизм speculative decoding MTP с EAGLE. Максимальный контекст составляет 1 048 576 токенов, однако описанные тесты AgentX использовали ограничение 262 144 токена. Индексированный объём тензоров — около 182,12 GiB. На фиксированных выборках модель показала небольшие преимущества над amd/GLM-5.3-Flash-Quark-MXFP4 в MMLU и GPQA Diamond, но немного уступила в GSM8K; статистически значимое превосходство не установлено. Измеренная производительность при обслуживании запросов практически совпала с сопоставимым чекпойнтом AMD. Результаты зависят от ограничений длины ответа и не подтверждают превосходство в общем качестве, безопасности или агентских сценариях. Основной проверенный вариант развёртывания использует четыре AMD Instinct MI355X, ROCm и SGLang с TP4/EP4 и FP8 KV-кэшем. Лицензия — MIT.

GPT-4 Turbo — мультимодальная модель OpenAI с поддержкой зрения. Она предназначена для диалогов и задач, где нужно анализировать изображения вместе с текстовыми запросами. Для запросов с изображениями поддерживаются JSON mode и вызов функций. В README указано, что обучающие данные охватывают период до декабря 2023 года. Размер модели, длина контекста и условия лицензии в предоставленных материалах не описаны.

Meta Llama 3.1 8B — авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Это базовая предварительно обученная версия семейства Llama 3.1; веса представлены в формате Safetensors и предназначены для генерации текста и последующей адаптации под разные задачи. Модель принимает текст и генерирует текст. Модель подходит для генерации естественного языка, создания диалоговых и прикладных систем после настройки, а также для подготовки синтетических данных. В карточке семейства заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для этой базовой версии README не заявляет оптимизацию под диалоговые сценарии: она отличается от instruction-tuned вариантов, которые обучались с SFT и RLHF. Разработчик — Meta. Для использования действует специальная коммерческая лицензия Llama 3.1 Community License и Acceptable Use Policy. Модель обучена на статическом наборе данных; качество и безопасность генерации могут различаться между языками, а применение на языках за пределами восьми заявленных требует дополнительной настройки и мер контроля.

Mistral-Small-Instruct-2409-IMat-GGUF — это GGUF-квантизированная версия модели Mistral-Small-Instruct-2409, разработанной Mistral AI. Квантизацию выполнил legraphista с использованием llama.cpp версии b3785 и метода IMatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через совместимые инструменты экосистемы llama.cpp. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Доступны варианты в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q5_K_S, Q4_K, Q4_K_S, IQ4_NL, IQ4_XS, Q3_K, Q3_K_L, Q3_K_S и Q2_K; размеры файлов варьируются примерно от 8,27 до 44,50 ГБ. IMatrix применяется к ряду вариантов с более сильным сжатием, включая Q4, Q3 и Q2, что позволяет уменьшить требования к хранению при сохранении качества, насколько это возможно для выбранного уровня квантизации. Сильная сторона модели — наличие большого выбора степеней квантизации для подбора компромисса между качеством, размером файла и требованиями к аппаратным ресурсам, а также поддержка нескольких языков. Ограничения конкретного варианта зависят от уровня квантизации: более компактные файлы могут уступать исходной BF16-модели в точности и качестве генерации. В README не указаны архитектурные параметры, число параметров, размер контекста и результаты бенчмарков. Модель распространяется по лицензии Mistral Research License 0.1 (MRL-0.1).

TeichAI/Nemotron-Cascade-14B-Thinking-Claude-4.5-Opus-High-Reasoning-Distill — дообученная TeichAI языковая модель на архитектуре Qwen3, основанная на nvidia/Nemotron-Cascade-14B-Thinking. Модель содержит 14 млрд параметров, принимает текст и предназначена для генерации текста и диалогов, включая задачи рассуждения. Обучение выполнено с использованием Unsloth и библиотеки Hugging Face TRL; веса доступны в формате safetensors. Модель поддерживает английский язык и контекст до 32 768 токенов. В метаданных также указаны интерфейс вызова инструментов и обучающий набор TeichAI/claude-4.5-opus-high-reasoning-250x. Лицензия — Apache-2.0. Подробные оценки качества и конкретные ограничения в карточке не описаны.

OpenSonnet-Lite-MAX — дообученная языковая модель hadadxyz на архитектуре Qwen3, основанная на Qwen/Qwen3-4B-Thinking-2507. Она предназначена для диалоговой генерации текста, следования инструкциям и решения задач с рассуждением; в карточке также показана демонстрация вызова инструментов. Модель содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Указаны многоэтапное дообучение в два прохода и оценка 85,22 на GSM8K; результатов для MMLU-Pro и GPQA Diamond карточка не приводит. Модель распространяется в формате safetensors через Transformers по лицензии Apache 2.0. Языки обучения или поддерживаемые естественные языки в предоставленных данных не обозначены. Результаты бенчмарка и заявленные возможности основаны на карточке модели и сами по себе не гарантируют аналогичное качество на других задачах.

TeichAI/Qwen3.8-27B-Fable-Distill-GGUF — это набор квантованных версий мультимодальной модели Qwen3.8-27B-Fable-Distill, разработанной TeichAI на базе Qwen3.8-27B. Модель дообучалась с использованием Unsloth и библиотеки Hugging Face TRL на открытых чатах и агентских трассах Fable 5, а также на существенно большем закрытом наборе персональных данных Fable 5. GGUF-конверсии выполнены с помощью llama.cpp. Модель предназначена для генерации текста, диалогов, агентских сценариев и анализа изображений с выдачей текстового ответа. Поддерживается английский язык. Архитектура включает 65 блоков: 64 трансформерных слоя и один слой multi-token prediction (MTP); MTP-head во всех вариантах сохраняется в формате BF16. Для работы с изображениями требуется отдельный vision projector mmproj в форматах F32, BF16 или F16; без него модель работает только с текстом. Доступны варианты квантования от 2 до 16 бит, размер файлов составляет примерно от 11 до 55 ГБ. Для большинства пользователей рекомендуется Q4_K_M размером около 17 ГБ. К сильным сторонам относятся мультимодальность, поддержка режима рассуждений с параметрами reasoning_effort и несколько вариантов квантования для разного баланса качества и требований к памяти. В README приведены улучшенные результаты относительно базовой Qwen3.8-27B на ARC Challenge, ARC Challenge (Easy) и BoolQ. Ограничения включают высокие требования к ресурсам, зависимость визуального режима от отдельного projector-файла и заметную потерю качества у низкобитных вариантов, особенно Q2_K. Модель распространяется по лицензии Apache-2.0.

topabaem/Qwen3.8-27B-STQ — семейство контролируемых GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованное topabaem. Модель предназначена для локального запуска и развертывания в условиях ограниченной памяти с использованием llama.cpp. В репозитории представлены варианты IQ3_XXS, IQ4_XS, Q4_K_M и Q5_K_M размером примерно от 11,19 до 19,23 ГБ. Для всех вариантов использованы один и тот же BF16-источник, зафиксированная сборка llama.cpp и importance matrix; проект позиционируется как исследование измерений, а не как новый метод кодирования. Модель ориентирована прежде всего на текстовые задачи, а в метаданных также заявлен pipeline image-text-to-text. В README не указаны точные архитектурные характеристики, число параметров помимо обозначения 27B, поддерживаемые языки и размер контекстного окна. На тесте из 800 заданий MMLU и ARC точность вариантов составила от 85,63% до 86,88% против 87,00% у BF16-базовой версии; Q4_K_M и Q5_K_M признаны не уступающими BF16 в рамках этого теста. Результаты LiveCodeBench v6 предварительные: измеренный pass@1 ещё не рассчитан, поэтому заявлять о подтверждённой эффективности в программировании нельзя. Основные преимущества — несколько уровней компромисса между размером, требованиями к памяти и качеством, а также воспроизводимый инструментальный стек и опубликованные измерения. Ограничения включают зависимость качества от конкретного варианта квантизации, неполную сопоставимость некоторых бенчмарков и отсутствие данных о генерации на длинных последовательностях. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-BF16-GGUF — объединённая сборка модели AMAImedia на основе Tencent/Hy4-preview и AngelSlim/Hy4-preview-GGUF. Это диалоговая причинная языковая модель со зрительным энкодером, предназначенная для генерации текста и работы с изображениями. В README указаны 180 млрд физических параметров, из которых 6 млрд активируются на токен, и нативное окно контекста 262 144 токена с возможностью расширения до 1 млн. Архитектура сочетает разреженное внимание QSA, Gated DeltaNet, смесь экспертов и n-граммные эмбеддинги. Модель поддерживает диалог и интерфейс вызова инструментов; заявлены языки, включая английский, русский, китайский, вьетнамский и японский. Репозиторий содержит GGUF Q4_K и safetensors; несмотря на BF16 в названии, README не подтверждает точность этих файлов. Лицензия — Apache-2.0. Модель подходит для диалоговых и агентных задач с длинным контекстом, анализа изображений, программирования и офисной аналитики. Полный запуск требует значительных ресурсов: заявленные 6 млрд активных параметров не отражают объём всех физических весов, а README отмечает необходимость мощного оборудования или аренды ускорителей для крупных сборок.

Re:ultiima-14B — языковая модель, созданная TeamDelta слиянием весов через TIES с помощью mergekit. В основу взята предобученная Qwen/Qwen2.5-14B, в слияние также включена Qwen/Qwen2.5-14B-Instruct. Модель имеет плотную архитектуру Qwen2 с 14 млрд параметров и контекстным окном до 131072 токенов. Модель предназначена для генерации текста и диалогов на английском и китайском языках; метаданные также отмечают интерфейс вызова инструментов. Она распространяется в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не приводит оценок качества или специальных ограничений применения. Как и другие языковые модели, ответы могут быть ошибочными; возможности вызова инструментов обозначают интерфейсную поддержку и сами по себе не гарантируют корректное выполнение действий.

CombinHorizon/Rombos-Qwen2.5-7B-Inst-BaseMerge-TIES — языковая модель, созданная методом слияния TIES с помощью mergekit на основе Qwen/Qwen2.5-7B и Qwen/Qwen2.5-7B-Instruct. Модель разработана для генерации текста и диалоговых сценариев; поддерживает интерфейс вызова инструментов. Она содержит 7,1 млрд параметров, построена на плотной архитектуре Qwen2 и использует класс Qwen2ForCausalLM. Контекстное окно составляет до 131 072 токенов. Модель подходит для ответов на запросы, продолжения текста и генерации структурированных ответов. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они сами по себе не гарантируют качество в конкретном применении. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0. README указывает на слияние с Qwen2.5-7B-Instruct; отдельные специализированные области применения не заявлены.

T3qm7xNeuralsirkrishna_Experiment28Experiment26 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Experiment26-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

T3qm7xNeuralsirkrishna_Strangemerges_32Ogno — объединённая языковая модель семейства Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Ogno-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не описывает конкретные специализации, набор языков или результаты оценки качества, поэтому её можно характеризовать как модель общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Zero-Mistral-Small — дообученная методом SFT модель ZeroAgency на основе mistralai/Mistral-Small-24B-Instruct-2501. Она предназначена для диалогов и следования инструкциям, с дополнительной адаптацией прежде всего к русскому и английскому языкам на датасете Vikhrmodels/GrandMaster-PRO-MAX. Это плотная авторегрессионная модель семейства Mistral с 23,4 млрд параметров и контекстом 32 768 токенов; доступны веса Safetensors, а в карточке также перечислены варианты LoRA и GGUF с разной точностью. Модель подходит для развёртывания чат-ассистента, ответов на вопросы, генерации текста и русскоязычных задач на рассуждение. В README приведены результаты нескольких русскоязычных бенчмарков, но они не гарантируют качество на конкретных запросах. Для запуска автор рекомендует vLLM или Transformers; README указывает ориентировочную потребность базовой модели в 55 ГБ видеопамяти для BF16/FP16, а для запуска этой модели на GPU в примере — более 60 ГБ. Лицензия — MIT.

Arcee-SuperNova-v1 — текстовая модель Arcee AI для диалогов и выполнения инструкций. В основе лежит Llama-3.1-70B-Instruct; модель объединяет дистиллированную версию Llama-3.1-405B-Instruct, вариант, дообученный на синтетических данных Evol-Kit, и вариант, оптимизированный с помощью Direct Preference Optimization (DPO). В метаданных указаны архитектура LlamaForCausalLM, 69,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для ответов на разнообразные запросы, следования инструкциям, математических задач и использования как основы для дальнейшего обучения с подкреплением на основе человеческой обратной связи. Поддерживает генерацию текста и диалоговый сценарий; в метаданных также заявлен интерфейс вызова инструментов. Для использования указана лицензия Llama 3. Карточка описывает объединение нескольких подходов к обучению, но не приводит количественных оценок качества или результатов сравнительных тестов.

BeagSake-7B — объединённая текстовая модель, созданная shadowml с помощью LazyMergekit из shadowml/BeagleSempra-7B и shadowml/WestBeagle-7B. Веса получены методом SLERP с настройками, которые смешивают параметры attention и MLP по-разному; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат файлов — safetensors. Модель поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке приведены результаты Open LLM Leaderboard: средняя оценка 75,38, включая 72,44 на AI2 Reasoning Challenge и 88,39 на HellaSwag; эти результаты отражают только указанные тесты и не гарантируют качество в других сценариях. Доступна по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

DiffusionGemma 26B-A4B-it MXFP8 — языковая модель с блоковой диффузионной генерацией, подготовленная OsaurusAI для запуска через движок vMLX на компьютерах Apple Silicon. В отличие от авторегрессионной генерации, она формирует текстовые блоки размером до 256 токенов и уточняет их итеративным денойзингом. Архитектура — 30-слойная Gemma 4-style MoE с 128 экспертами и выбором 8 экспертов; всего 26 млрд параметров, активно используется около 4 млрд. Веса основных компонентов квантованы в MXFP8, а эмбеддинги, нормализации и визуальный модуль сохранены в fp16; файлы занимают около 26 ГБ. Модель предназначена для диалога и генерации текста, анализа одного или нескольких изображений и вызова инструментов в формате Gemma 4. Для работы с изображениями используется визуальный модуль Gemma 4. Темп генерации на M5 Max указан как 28–42 токена в секунду при 48 шагах денойзинга; фактическая скорость зависит от оборудования и бюджета шагов. Лицензия — Gemma. При очень коротких запросах жадная стратегия денойзинга иногда приводит к пустому ответу; повторная попытка или переформулировка могут помочь. Параметры temperature и top_p, переданные через интерфейс, игнорируются: параметры сэмплирования задаются конфигурацией модели, а уменьшение числа шагов ниже 12 ухудшает качество. Для запуска указана среда Apple Silicon с Osaurus и движком vMLX.

Это GGUF-версия Gemma 4 31B — плотной мультимодальной модели Google, подготовленная пользователем satgeze на основе HauhauCS/Gemma4-31B-QAT-Uncensored-HauhauCS-Balanced-MTP. Веса заявлены как битово идентичные исходному выпуску HauhauCS; для базовой модели и QAT указывается Google. Модель предназначена для генерации текста, работы с очень длинными контекстами и анализа изображений в средах llama.cpp и Ollama. Она поддерживает чтение текста на изображениях и распознавание объектов, однако языки в README не указаны. Основной файл содержит 31B-параметрную модель с 4-битным QAT-квантизованием и встроенным масштабированием контекста до 1 048 576 токенов против исходных 262 144. Заявлена проверка Needle-in-a-haystack с результатом 10/10 на длинах от 262K до 1M токенов; эти результаты получены на одной H200 с F16 KV-кэшем и не являются универсальной гарантией для других конфигураций. Дополнительная MTP draft head поддерживает speculative decoding с заявленным ускорением до 46%, а отдельный vision tower обеспечивает мультимодальный ввод. Сильные стороны модели — сверхдлинный контекст, поддержка изображений, speculative decoding и готовность к запуску в llama.cpp. Ограничения включают высокие требования к памяти и времени обработки длинных запросов: для 1M токенов 31B-модели с F16 KV требуется около 82 ГБ KV-кэша. Качество «uncensored» и базовые возможности отдельно и независимо не бенчмаркались в представленном README; также не приведены сведения о поддерживаемых языках. Распространение осуществляется по лицензии Gemma, условия которой распространяются на эти файлы.

MindLink-32B-0801 — диалоговая языковая модель, разработанная Kunlun Inc. на основе Qwen3-32B и дообученная с применением методов постобучения. Она предназначена для генерации ответов в чате, рассуждений и решения общих текстовых задач. В карточке заявлены плановое и адаптивное рассуждение: модель подбирает глубину ответа в зависимости от сложности запроса. Модель имеет плотную архитектуру Qwen3ForCausalLM и 29,7 млрд параметров. Метаданные указывают контекст 40 960 токенов, тогда как README сообщает о контексте 128K для семейства MindLink; фактическую длину для этой версии стоит уточнить перед использованием. Карточка указывает английский язык, а базовая Qwen3-32B описана как многоязычная. Доступны веса в формате safetensors, также описан совместимый с OpenAI Chat Completions API интерфейс. Лицензия — Apache 2.0. Для производных работ README требует сохранять уведомления об авторских правах Qwen и документировать изменения. В README также отмечена возможность непоследовательных ответов при инференсе и дана рекомендация очищать историю диалога перед повторной попыткой.

MiniMax-M2 — языковая модель для генерации текста, разработанная MiniMax AI. Она предназначена для сценариев text-generation, включая создание и преобразование текстов, ответы на запросы и интеграцию в приложения на базе Transformers. Из доступных данных известно, что модель распространяется для работы с библиотекой Transformers. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, размере контекста, модальностях, результатах тестирования или конкретных ограничениях качества, поэтому эти характеристики нельзя оценить по представленным материалам. Модель предоставляется по лицензии modified-MIT; точные условия следует уточнять в файле лицензии, указанном в репозитории MiniMax-AI/MiniMax-M2. Лицензионные ограничения и требования к коммерческому использованию могут отличаться от стандартной MIT-лицензии.

MixtureofMerges-MoE-2x7b-v7 — языковая модель с архитектурой Mixture of Experts (MoE), созданная автором jsfs11 с помощью LazyMergekit путём объединения Gille/StrangeMerges_32-7B-slerp и mlabonne/AlphaMonarch-7B. Модель предназначена для генерации текста и может применяться для диалогов, ответов на вопросы, следования инструкциям и рассуждений. Модель содержит 7,1 млрд параметров, использует архитектуру Mixtral и поддерживает контекст до 32 768 токенов. В README приведены результаты оценивания на бенчмарках рассуждений и здравого смысла. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Fizzarolli/Nemo_Pony_2-merged — объединённая языковая модель, созданная методом passthrough с помощью mergekit. В состав объединения входят mistralai/Mistral-Nemo-Instruct-2407 и Ada321/Nemo_Pony_2; в конфигурации также указан путь к LoRA-адаптеру. Модель построена на архитектуре MistralForCausalLM, содержит 12,1 млрд параметров и распространяется в формате safetensors с библиотекой Transformers. Модель предназначена для генерации текста и диалоговых сценариев. Каталог также отмечает интерфейс вызова инструментов. Базовая Mistral Nemo — многоязычная инструктивная модель для диалога, следования инструкциям и вызова инструментов; карточка этой модели отдельно не уточняет поддерживаемые языки, длину контекста, лицензию или результаты оценки качества.

OLMoE-1B-7B-0125-DPO — англоязычная диалоговая модель Allen Institute for AI, опубликованная в январе 2025 года. Это вариант OLMoE с архитектурой Mixture of Experts для генерации текста и ответов в чате. В метаданных указаны 472,1 млн параметров и контекст до 4096 токенов; модель распространяется в форматах PyTorch и Safetensors. Модель создана на основе OLMoE-1B-7B-0125-SFT и дополнительно обучена методом DPO на варианте набора Tülu 3. Обучение охватывает диалоговые и другие задачи, включая математические рассуждения и следование инструкциям. Лицензия Apache 2.0 разрешает использование и модификацию на её условиях.

facebook/opt-iml-max-30b — большая языковая модель семейства OPT, разработанная Meta AI и дообученная по инструкциям в рамках проекта OPT-IML. Версия OPT-IML-Max обучалась на примерно 2000 задачах обработки естественного языка из восьми бенчмарков, включая Super-NaturalInstructions, FLAN и PromptSource. Модель предназначена для генерации текста по инструкциям и выполнения разнообразных языковых задач. Это плотная авторегрессионная модель с архитектурой OPTForCausalLM и 39,8 млрд параметров; максимальный контекст составляет 2048 токенов. Модель распространяется в формате PyTorch. По оценке авторов, OPT-IML превосходит базовую OPT на ряде оценок. Как и другие большие языковые модели, она может выдавать фактически неверные ответы, токсичный текст и стереотипные формулировки. В метаданных указана лицензия other; конкретные условия следует проверять на странице модели.

Это GGUF-квантизация модели Qwen3.5-4B-Instruct от Alibaba Cloud в формате MXFP4 — четырёхбитном формате с плавающей точкой по спецификации OCP Microscaling Formats. В репозитории есть файл весов модели и отдельный проектор зрения SigLIP в F16; для обработки изображений требуется подключить проектор. По карточке исходная модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, принимает текст, изображения и видео и поддерживает 201 язык. Контекст исходной модели — 262 тысячи токенов с возможностью расширения до миллиона. Модель предназначена для генерации текста и диалогов по инструкциям; также README показывает сценарий описания изображений. По умолчанию режим рассуждений отключён, его можно включить параметром. README заявляет совместимость формата MXFP4 с CPU и GPU разных производителей, но фактическая поддержка зависит от используемого ПО. Модель распространяется по лицензии Apache 2.0.

MuXodious/Qwen3.5-4B-PaperWitch-heresy — мультимодальная диалоговая модель на базе Qwen3.5-4B, созданная с помощью Heretic v1.2.0 и метода abliteration. В версии изменяли направление первичных отказов; вторичные факторы, включая оговорки и связанные с ними формы несоблюдения запроса, оставлены без изменений. Модель предназначена для диалога, рассуждений, анализа изображений и вызова инструментов. Она принимает текст и изображения и генерирует текст. Базовая архитектура — плотная Qwen3.5 с визуальным энкодером; в ней около 4 млрд параметров. Нативный контекст — 262 144 токена, с возможностью расширения до 1 010 000. В README заявлена поддержка 201 языка и диалекта, но отдельные языки для этой производной модели не перечислены. В тесте автора модель отказала в 0 из 104 запросов против 103 из 104 у исходной модели; указана KL-дивергенция 0,0521. README предупреждает о возможном скрытом несоблюдении запросов и циклах рассуждений. Модель распространяется по лицензии Apache-2.0.

DhruvalLabs/Qwen3.8-27B-GGUF — это набор квантованных версий мультимодальной Vision-Language Model Qwen3.8-27B, разработанной Qwen и подготовленной DhruvalLabs. Модель предназначена для диалогов, генерации и понимания текста, а также анализа изображений с текстовыми запросами. Она поддерживает английский язык и может запускаться через llama.cpp, LM Studio, Jan и Ollama. Архитектура состоит из двух компонентов: квантованной текстовой основы GGUF размером 27B параметров и отдельного vision encoder в файле mmproj, который всегда поставляется в формате F16. Для работы с изображениями необходимы оба файла. Доступны варианты квантования от Q4_K_M до Q8_0: Q4_K_M рекомендован как баланс качества и требований к памяти, а Q8_0 обеспечивает наиболее близкое к исходной модели качество, но требует около 28,6 ГБ RAM; для Q4_K_M требуется около 17,2 ГБ RAM. Указанный пример использования задаёт контекст 4096 токенов, однако общий максимальный контекст модели в README не указан. Сильной стороной модели является сочетание языковых возможностей и анализа изображений при существенно меньших требованиях к памяти по сравнению с полной версией, а также совместимость с популярными локальными инструментами запуска. Ограничения связаны с необходимостью скачивать и хранить два файла, компромиссами качества и размера при квантовании и отсутствием опубликованных результатов бенчмарков в README. Лицензия — Apache-2.0.

valiolla/Qwen3.8-4B-Distill-heretic — версия Qwen3.8-4B с ослабленным отказом от ответов, созданная на основе модели Empero AI с помощью Heretic v1.4.0. Это плотная языковая модель с 4 млрд параметров в формате Transformers; она представляет собой полнопараметрическое дообучение Qwen/Qwen3.5-4B методом дистилляции на выборке ответов более крупной модели Qwen3.8. Модель рассчитана на диалог, следование инструкциям, рассуждения и вызов функций; в README отдельно выделены математика и общие рассуждения. Заявленная длина контекста — 262 144 токена. В сравнении с исходной Qwen3.8-4B доля отказов в приведённом тесте снизилась с 99 до 24 из 100, а KL-дивергенция составила 0,0109. Тонкая настройка ориентирована на текст; поведение с изображениями унаследовано от мультимодальной базовой архитектуры, но не оценивалось. Для запуска требуются актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимые ядра Gated DeltaNet; без них генерация может быть медленнее и требовать больше памяти. В README также отмечены риск циклов повторения при жадном декодировании длинных ответов и снижение результата на GSM8K относительно базовой модели. Лицензия — Apache-2.0; авторы предоставляют веса «как есть» для исследований и экспериментов.

Reka-Flash-3-21B-Reasoning-Uncensored-MAX-NEO-Imatrix-GGUF — текстовая reasoning-модель на базе RekaAI/reka-flash-3, опубликованная DavidAU. Она предназначена для локального текстового общения, решения задач и рассуждений, генерации и продолжения художественных текстов, ролевых сценариев, мозгового штурма и общего использования. Модель заявлена как uncensored и поддерживает function calling, однако подробности реализации этих возможностей в README не приведены. Модель имеет размер 21B параметров, работает в формате GGUF и рассчитана на контекст до 128k токенов. Доступен ряд квантованных вариантов от IQ1 до Q8; варианты с более высокой точностью обычно обеспечивают более качественные и быстрые рассуждения, но требуют больше памяти и вычислительных ресурсов. Варианты дополнительно обработаны с использованием NEO Imatrix и сохраняют BF16 для выходного тензора, что, согласно README, должно улучшать следование инструкциям, качество ответов и эффективность рассуждений. Для работы используются теги <reasoning> и </reasoning>, а системный промпт не является обязательным. Сильными сторонами заявлены стабильное рассуждение при разных значениях температуры, способность не зацикливаться и высокая эффективность оптимизированных квантов. При этом качество рассуждений напрямую зависит от выбранного уровня квантования: IQ1 ограничивает reasoning, а для сложных задач рекомендуются IQ3 и выше, особенно IQ4 или Q5–Q8. Низкие кванты требуют меньше ресурсов, но могут заметно уступать по качеству и скорости. Заявленный язык — английский. Модель распространяется по лицензии Apache-2.0.

Rombo-LLM-V2.5-Qwen-14b — плотная языковая модель на архитектуре Qwen2, созданная Rombo-Org на основе Qwen2.5-14B-Instruct. В README автор описывает её как результат непрерывного дообучения и слияния instruct- и base-моделей методом TIES; метаданные также указывают на дообучение Qwen/Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, использует формат Safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста; в метаданных также заявлен интерфейс вызова инструментов. Её можно применять для ответов на запросы, следования инструкциям и создания структурированных ответов. README приводит результаты отдельных оценок IFEval и BBH, однако не описывает методику и полный набор тестов. Указана лицензия Apache-2.0. README заявляет о превосходстве над исходными instruct- и base-моделями, но не приводит достаточных подробностей для независимой оценки этого утверждения. Языки обучения или поддержки отдельно не перечислены.