II.3Рефакторинг, миграция и модернизация

Модель edumunozsala/phi3-mini-4k-qlora-python-code-20k — дообученная методом QLoRA версия Phi-3 Mini-4K-Instruct от Microsoft, созданная автором репозитория на наборе инструкций по Python-коду python_code_instructions_18k_alpaca. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,7 млрд параметров и контекстом до 4096 токенов. Модель предназначена для генерации Python-кода по текстовым инструкциям и ответов на вопросы о программировании в диалоговом формате. Веса опубликованы в формате Safetensors; используется библиотека Transformers. Лицензия — Apache-2.0. Карточка описывает обучение на задачах с Python-кодом, поэтому результаты за пределами этого сценария могут быть менее надёжными.

Qwen2.5-Coder-0.5B-Instruct-GGUF — это набор GGUF-квантизированных версий инструкционной модели Qwen2.5-Coder-0.5B-Instruct. Исходную модель разработала команда Qwen, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и кода, диалогового взаимодействия и работы в локальных приложениях, поддерживающих llama.cpp, включая LM Studio. Модель содержит 0,5 млрд параметров и доступна в вариантах от F16 до низкобитных квантов Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 0,34 до 0,99 ГБ. Указан английский язык; мультимодальность не заявлена. В README не указаны архитектура исходной модели, размер контекстного окна и полный перечень поддерживаемых языков. К сильным сторонам относятся небольшой размер, возможность локального запуска на устройствах с ограниченными ресурсами и несколько вариантов компромисса между качеством, скоростью и потреблением памяти. Более высокое качество ожидается у F16, Q8_0 и Q6, а низкобитные варианты подходят для систем с небольшим объёмом оперативной памяти, но могут заметнее терять качество. Версии Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 оптимизированы для ARM и требуют соответствующих аппаратных возможностей; некоторые из них не рекомендуются для Mac и Windows. Модель распространяется под лицензией Apache-2.0.

Qwen3.5-9B-Brainwaves — экспериментальная объединённая модель от независимой лаборатории NightmediaAI. Она получена слиянием nightmedia/Qwen3.5-9B-Holodeck-Lounge и schneewolflabs/Wichtelchen-Qwen3.5-9B; в основе используется семейство Qwen3.5 с плотной архитектурой и 9 млрд параметров. Модель предназначена для диалогов и следования инструкциям, включая творческое письмо, программирование и рассуждения. Метаданные также заявляют поддержку изображений на входе и языков английского, китайского, японского и испанского. Модель распространяется в формате safetensors, использует библиотеку Transformers и лицензирована по Apache-2.0. Карточка называет слияние экспериментальным; приведённые в README результаты бенчмарков и описания поведения не являются независимой оценкой качества. Длина контекста в предоставленных сведениях не подтверждена.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-Final-GGUF — мультимодальная модель в формате GGUF, разработанная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive с переносом данных дообучения на наборе Hermes для агентских сценариев и function calling. Модель относится к архитектуре Mixture of Experts и предназначена для генерации текста, диалогов, программирования, агентских задач и обработки изображений с текстом. Заявлены поддержка английского, китайского и других языков, однако точный список языков и максимальный размер контекста в README не указаны. Ключевая особенность проекта Genesis — числовая коррекция весов GGUF-модели без полноценного переобучения: автор заявляет снижение шума в тензорах, исправление нулевых блоков и дисбалансов распределений с использованием методов на основе сингулярного разложения и закона Марченко—Пастура. Для запуска рекомендуются F16-квантизация K/V-кэша, максимальная выгрузка слоёв на GPU и настройка активных экспертов; конкретные требования к памяти зависят от выбранной квантизации. Модель ориентирована на пользователей, которым нужны менее ограниченные ответы и функции Hermes-агента, но заявленные улучшения и устойчивость требуют самостоятельной проверки. В README не приведены систематические бенчмарки, подробные ограничения, точные параметры контекста или гарантии качества мультимодальной обработки. Указанная лицензия — Apache 2.0.

RWKV-7 Goose 1.5B — официальная базовая языковая модель BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM с рекуррентной архитектурой без attention: размер состояния не растёт с длиной контекста, а вычислительная работа на генерируемый токен остаётся постоянной; обучение при этом допускает параллелизацию. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения, в том числе для создания диалоговых приложений. Шаблон чата задаёт формат промпта, но сам по себе не означает, что модель является безопасным или выровненным ассистентом. В комплект входят интеграция с Transformers, токенизатор RWKV и шаблон чата; заявлена поддержка LoRA. Репозиторий содержит веса safetensors, размер модели — 1,5 млрд параметров. Лицензия Apache-2.0. Качество следования инструкциям и языковое поведение зависят от чекпойнта, промптинга и последующего обучения. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения предыдущих состояний. Оптимизированный инференс зависит от GPU, типа данных, размера пакета и формы входа; для TileLang требуется проверка совпадения результатов для конкретной конфигурации. Оценки безопасности, предвзятости, токсичности, фактической точности и пригодности для критически важных сценариев не заявлены.

AgenticCoder‑4B — компактная языковая модель, созданная yasserrmd слиянием Menlo/Jan-nano и ertghiu256/qwen3-4b-code-reasoning методом SLERP. Это плотная Qwen3-архитектура для генерации текста и диалоговых сценариев; размер — 3,7 млрд параметров, контекст — до 40 960 токенов. Репозиторий использует Transformers и формат safetensors. Модель предназначена для агентных сценариев, рассуждений о коде и помощи в разработке: она может генерировать и объяснять Python-код, помогать декомпозировать задачи и вести многошаговый диалог. В примерах также показаны сценарии анализа CSV, извлечения текста из изображений и разбора файлов через код и имитацию взаимодействия с инструментами. Карточка заявляет ориентацию на MCP, однако это не подтверждает наличие встроенного интерфейса вызова инструментов. Модель поддерживает текстовый ввод и выдаёт текст; сведения о конкретных естественных языках не приведены. Карточка характеризует её как компактную для экономичного развёртывания и интеграции в устройства с ограниченными ресурсами, но фактические показатели качества и скорости не указаны. Лицензия в предоставленных данных не приведена.

code-think-q8b-20260908 — это исследовательская версия Qwen3-8B-Base, дообученная modrill методом LoRA на трассах рассуждений Qwen3-30B-A3B-Thinking-2507 и затем объединённая в полные веса. Модель имеет плотную авторегрессионную архитектуру Qwen3ForCausalLM, около 7,6 млрд параметров и контекст до 32 768 токенов; для запуска объединённых весов PEFT не требуется. Чекпойнт предназначен для генерации кода и его решения с пошаговым рассуждением в режиме thinking. В оценке на 256 задачах LiveCodeBench-derived DEV256 он решил 81 задачу с pass@1; результат получен на одном seed и не является сопоставимой оценкой на лидерборде. В 130 генерациях сработал лимит длины в 32 тыс. токенов. Модель принимает текст и выдаёт текст, включая код. Лицензия — Apache-2.0, унаследованная от базовой модели.

DeepSeek V4 Flash 0731 — DS4 Quality128 — это квантованный GGUF-вариант официальной модели DeepSeek-AI DeepSeek-V4-Flash-0731, подготовленный apetersson. Модель предназначена для генерации текста и работы в среде DS4, прежде всего на компьютерах Apple Silicon с 128 ГБ памяти. Основной файл содержит 43-слойную MoE-архитектуру примерно на 284,33 млрд логических параметров и заявленный обучающий контекст до 1 048 576 токенов. Поддерживаемые языки и мультимодальные возможности в README не указаны. Квантование ориентировано на сохранение качества: часть чувствительных экспертных тензоров хранится в нативном MXFP4, другие экспертные слои используют IQ2_XXS и Q2_K с калибровкой по importance matrix, а attention, общие эксперты и выходная голова — Q8_0. В комплект также входит необязательная трёхэтапная DSpark-модель для speculative decoding; она не является самостоятельной и должна загружаться вместе с целевой моделью. Совокупный размер двух GGUF-файлов составляет около 102,56 ГиБ. Сильными сторонами являются прямое квантование официальных весов без поведенческой модификации, сохранение нативных MXFP4-тензоров и приоритет качества на наиболее чувствительных компонентах. Ограничения связаны с высокими требованиями к памяти и необходимостью свежей версии DS4 из основной ветки. Структурная проверка CPU завершена, однако генерация через Metal, работа DSpark, производительность, пиковое потребление памяти и фактическая работа с контекстом в миллион токенов для этого артефакта ещё не подтверждены. Лицензия — MIT.

DeepSeek-V4-Flash-0731 REAP 80G — производная версия DeepSeek-V4-Flash-0731 от автора репозитория, сокращённая методом REAP и упакованная в формат GGUF с разной точностью квантования. В каждом MoE-блоке сохранено 160 из 256 маршрутизируемых экспертов; эксперты используют IQ2XXS, проекции W2 — Q4_K, а внимание, общие эксперты и выходная голова — Q8_0. Модель предназначена для генерации текста в диалоговом режиме и локального запуска на совместимом с DeepSeek-V4 оборудовании и ПО. Карточка описывает её как экспериментальную производную, не являющуюся официальным выпуском DeepSeek. Ожидаемые сценарии включают диалог, программирование, рассуждения, работу с инструментами и длинным контекстом, но качество этих возможностей следует оценивать на своих задачах. Для запуска требуются среды, понимающие компоненты DeepSeek-V4; обычные загрузчики GGUF могут не поддерживать используемые компоненты MXFP4, sparse attention, токенизатор и DSpark MTP. Оценки паритета с исходной моделью по бенчмаркам нет. Модель основана на deepseek-ai/DeepSeek-V4-Flash-0731; метаданные указывают языки en и zh, лицензию MIT и задачу text-generation. README предупреждает, что важность экспертов оценивалась по близкому раннему чекпойнту, а не по версии 0731; удалено 37,5% маршрутизируемых экспертов. Совместимость MTP-блоков требует отдельной проверки.

DreamOn-v0-7B — языковая модель Dream-org на архитектуре Dream, построенная как плотная модель на 7,1 млрд параметров. Она использует дискретную диффузию для генерации текста и предназначена прежде всего для дополнения пропусков в коде: во время вывода модель динамически расширяет или сокращает маскируемые области, позволяя управлять длиной результата без заранее заданного размера холста. Модель принимает токены и генерирует текст; в карточке также заявлены диалоговый режим и интерфейс для вызова инструментов. README указывает ограничение контекста в 2048 токенов, включая вход и выход, и отмечает, что число новых токенов должно быть не меньше числа масок в запросе. Основные проверки проводились с одним переносимым токеном на шаг; другие настройки этого параметра проверены не полностью. Модель распространяется под лицензией Apache-2.0.

FuseO1-DeepSeekR1-QwQ-SkyT1-Flash-32B-Preview-GGUF — это набор GGUF-квантизаций базовой модели FuseO1-DeepSeekR1-QwQ-SkyT1-Flash-32B-Preview, разработанной FuseAI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio. Доступны варианты от полного BF16 до более компактных Q8_0, Q6, Q5, Q4, Q3 и IQ-квантизаций. Размер файлов составляет примерно от 17,25 до 65,54 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b4546. Для работы рекомендуется применять указанный в README формат prompt. Сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста не приведены. Сильная сторона набора — широкий выбор компромиссов между качеством, размером и требованиями к памяти: варианты Q6 и Q5 заявлены как высококачественные, Q4_K_M — как рекомендуемый вариант для большинства сценариев, а Q3 предназначены для систем с ограниченным объёмом оперативной памяти. Ограничения связаны с необходимостью значительных вычислительных ресурсов даже для компактных вариантов и потенциальной потерей качества при использовании низких уровней квантизации. Лицензия модели — Apache-2.0.

GPT-OSS-20B-Pruned-28x — сжатая версия модели OpenAI GPT-OSS-20B, подготовленная автором репозитория TOk-Atsuru удалением экспертов из разреженной MoE-архитектуры Transformer. В каждом слое оставлено 28 из 32 экспертов; модель содержит 20,9 млрд параметров, из которых 3,6 млрд активны на токен. Она распространяется в формате GGUF и предназначена для генерации текста и диалогов, включая ответы на вопросы, рассуждения, решение математических задач и генерацию кода. По README, размер файла составляет 10,40 ГБ, что позволяет запускать модель при наличии 16 ГБ оперативной памяти; для инференса рекомендован llama.cpp, поддерживаются Apple Silicon, CUDA и CPU. Автор сообщает о результатах 78% на MMLU, 92% на GSM8K и 80% на тесте генерации кода, однако объём проверок невелик, а сравнение GSM8K с исходной моделью некорректно из-за разных размеров выборок. Модель предназначена прежде всего для английского языка; проверка специализированных областей и многоязычных сценариев не описана. Лицензия — Apache 2.0. README указывает, что дальнейшее удаление экспертов резко ухудшает качество, а поведение на отдельных примерах может отличаться от исходной модели. Для надёжного вывода автор рекомендует задавать max_tokens не менее 500 из-за расхода токенов на внутренний канал рассуждений.

Manticore 30B Chat (ALPHA) — диалоговая модель OpenAccess AI Collective, дообученная на базе Llama 30B. Это плотная авторегрессионная модель семейства Llama с 32,3 млрд параметров, предназначенная для генерации ответов в формате чата. В обучении использованы диалоги, инструкции, примеры рассуждений, задач на знания и логику, математику, суммаризацию, код и отфильтрованные данные для ролевых сценариев. Модель принимает текстовые запросы и генерирует текст; в карточке указан английский язык. Это альфа-чекпойнт, обученный только на 0,4 эпохи: авторы отмечают скачки потерь при обучении и уязвимость к обходу имеющегося выравнивания. Модель не прошла RLHF и не имеет встроенной фильтрации ответов, поэтому может выдавать нежелательный контент. Подходит для экспериментов с чат-моделями и генерацией текста; сведений о лицензии в предоставленных данных нет.

Nemotron 3.5 Lightning 30B-A3B REAP-20B — экспериментальная производная модель sleepyeldrazi на основе NVIDIA Nemotron 3.5 Lightning 30B-A3B. Это гибридная архитектура Mamba-2, MoE и attention для генерации текста и диалога. Метод REAP сократил число маршрутизируемых экспертов с 128 до 77 в каждом из 23 MoE-слоёв; по README, размер модели уменьшен с 31,58 до 19,87 млрд параметров, при этом активными остаются около 3 млрд. Метаданные каталога указывают 1,9 млрд параметров, поэтому точный размер в источниках расходится. Модель предназначена как базовая точка для последующего дообучения LoRA и для общих текстовых задач с небольшим уклоном в программирование: ответов на вопросы, рассуждений, математических задач и работы с кодом. Калибровка выполнена на смеси инструкций, примеров кода и математики; заявленный нативный контекст в метаданных — 262 144 токена. README описывает ограниченную проверку генерации, но не приводит результатов полных бенчмарков. Это ранняя альфа-версия, поэтому качество следует проверять на целевых задачах; для специализированных сценариев автор рекомендует калибровку на собственных данных. Модель распространяется по лицензии OpenMDW-1.1.

Это GGUF-квантизированная версия языковой модели Qwen3-Nemotron-32B-RLBFF, разработанной NVIDIA. Квантизацию выполнил пользователь bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты от BF16 и Q8_0 до низкобитных форматов Q6_K, Q5_K_M, Q4_K_M, Q3_K и IQ-семейства. Размер файлов варьируется примерно от 14,93 до 65,53 ГБ; Q4_K_M указан как вариант по умолчанию для большинства сценариев, а Q5 и Q6 — как варианты с более высоким качеством. Некоторые версии используют Q8_0 для embedding- и output-весов, а отдельные форматы ориентированы на ARM, AVX или Apple Silicon. Модель подходит для локальной текстовой генерации при наличии значительного объёма оперативной или видеопамяти. Чем агрессивнее квантизация, тем меньше требования к памяти, но тем ниже потенциальное качество. В README не указаны архитектурные детали, поддерживаемые языки, размер контекста, мультимодальные возможности и лицензия, поэтому эти характеристики нельзя достоверно определить по представленным данным.

Pulsar Coder v1 — кодовый ассистент Exo на базе архитектуры Qwen2 с 1,5 млрд параметров. README называет модель обученной с нуля, однако метаданные Hugging Face указывают на дообучение cognitivecomputations/Dolphin3.0-Qwen2.5-1.5B, поэтому происхождение модели в источниках расходится. Модель предназначена для ответов на русском языке и генерации кода на Python, JavaScript и TypeScript, Go, Rust, C++, C#, Java, SQL, Bash, HTML и CSS. Она поддерживает чат; заявленная длина контекста — 131 072 токена. Шаблон чата задаёт идентичность Pulsar по умолчанию. Модель распространяется в формате safetensors по лицензии Apache-2.0. README рекомендует настройки генерации с температурой 0,3–0,7, top_p 0,9 и штрафом за повторы 1,1–1,2, но не приводит результатов оценки качества. Учитывая небольшой размер, пригодность для сложных задач кодирования следует проверять на собственных примерах.

DavidAU/Qwen3.5-21B-GLM-4.7-Flash-Deckard-Heretic-Uncensored-Thinking — плотная мультимодальная модель на 21 млрд параметров семейства Qwen3.5, дообученная на базе DavidAU/Qwen3.5-27B-Deckard-PKD-Heretic-Uncensored-Thinking. По README, модель сначала получила набор Deckard/PDK для характера и глубины ответов, затем была уменьшена с 27B до 21B и дополнительно обучена на данных рассуждений GLM-4.7-Flash. Использует архитектуру Qwen3_5ForConditionalGeneration и библиотеку Transformers; заявленное окно контекста — 256 тыс. токенов. Модель предназначена для диалогов, творческого письма, ролевых сценариев, генерации кода и рассуждений. Поддерживает переменную длину рассуждений и обработку изображений; автор также заявляет более высокую скорость по сравнению с исходной версией на 27B. В карточке указаны английский и китайский языки. Модель описана как uncensored и может выдавать откровенный, грубый или графичный контент. Распространяется под лицензией Apache-2.0 в формате safetensors. README предупреждает о возможных зацикливаниях при низких квантизациях или недостаточно содержательных запросах; результаты могут зависеть от квантизации и параметров генерации. HF pipeline tag классифицирует её как image-text-to-text.

Soar-qwen-7b-i1-GGUF — это набор квантованных файлов GGUF для модели Soar-qwen-7b, разработанной julien31 и квантованной mradermacher. Модель обучалась на датасете julien31/soar_arc_train_5M и предназначена главным образом для генерации текста и кода, синтеза программ, а также задач, связанных с эволюционными алгоритмами и ARC/ARC-AGI. Указан английский язык. Модель относится к семейству Qwen и имеет размер 7B параметров. README не содержит сведений о точной архитектуре, поддерживаемой длине контекста или мультимодальных возможностях, поэтому эти характеристики нельзя достоверно определить. Представлены варианты квантования IQ и Q с размером файлов примерно от 2,0 до 6,4 ГБ; вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а низкобитные варианты могут заметно уступать по качеству. Файлы предназначены для запуска через совместимое с GGUF программное обеспечение. Лицензия модели указана как Apache-2.0.

Jebadiah/Tess-gradient-ruby-p1 — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом DARE linear. В качестве основы использована Jebadiah/Tess-gradient-ruby, в слияние также включена defog/llama-3-sqlcoder-8b; архитектура — плотная Llama с классом LlamaForCausalLM, размер — 7,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате. Благодаря включению SQLCoder её можно использовать для генерации SQL-запросов по вопросам пользователя и описаниям таблиц, в том числе для баз PostgreSQL, Redshift и Snowflake. Контекст составляет 8192 токена; модель работает с текстом и выдаёт текст. Веса опубликованы в формате safetensors и имеют тип bfloat16. Лицензия в предоставленных сведениях не указана.

MexIvanov/zephyr-python-ru-merged — экспериментальная модель, разработанная C.B. Pronin, A.V. Volosova, A.V. Ostroukh, Yu.N. Strogov, V.V. Kurbatov и A.S. Umarova. Это дообученная версия Zephyr-7B-β на архитектуре Mistral: веса Zephyr объединены с LoRA-адаптером для задач программирования на Python и инструкций по программированию на русском языке. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации кода Python по инструкциям на русском и английском языках, а также для ответов на вопросы о Python. В обучении использовались открытые и синтетические наборы данных по программированию, включая материалы Stack Overflow на русском языке. Репозиторий содержит веса в формате safetensors и распространяется по лицензии MIT. Это экспериментальное дообучение; качество на конкретных задачах может различаться. У модели нет механизмов модерации, и она может выдавать небезопасные или проблематичные ответы.

CAT-Paws-8B — диалоговая агентная языковая модель CyberAgent для многошаговых взаимодействий, включая программирование, работу с терминалом и использование инструментов. Она объединяет Qwen3-8B и Qwen3-Swallow-8B-CPT-v0.2; архитектура — плотная Qwen3ForCausalLM, размер — 7,6 млрд параметров. Модель работает с текстом и рассчитана прежде всего на японский язык: цепочка рассуждений обычно формируется на японском, даже если запрос дан по-английски. Поддерживает японский и английский, контекст составляет 40 960 токенов; доступна в формате safetensors для Transformers. Модель предназначена для агентных сценариев с несколькими ходами, где инструкции и формат вызова инструментов передаются в системном сообщении или запросе. Специальный интерфейс для вызова инструментов модель не обучена принимать. По результатам авторских оценок CAT-Paws сопоставима с Qwen3-8B в агентных задачах на английском и немного превосходит её на японском, но уступает другим моделям в одноходовых задачах программирования и математики. Она может повторяться, выдавать длинные ответы и включать рассуждения даже при просьбе этого не делать; длинные системные инструкции ухудшают работу. Модель распространяется по лицензии Apache-2.0.

Grug 12B — экспериментальная дообученная модель на базе Google Gemma 4 12B IT, созданная для компактных рассуждений. Разработчик обучил её сохранять важные шаги, ограничения, развилки и проверки ответа, сокращая многословные цепочки рассуждений. Веса опубликованы в формате Transformers/safetensors; модель доступна для диалогового использования и генерации текста. Модель подходит для задач общего рассуждения, математики и программирования, где полезны более короткие ответы и меньшее число токенов рассуждения. Дообучение выполнено методом QLoRA с последующим слиянием адаптера с базовой моделью. В метаданных базовая Gemma 4 описана как мультимодальная, однако README Grug заявляет только компактные рассуждения и не подтверждает отдельную настройку или оценку обработки изображений, видео и аудио. В небольшой локальной проверке на 36 математических примерах модель показала более короткую генерацию и более высокие прокси-показатели, но автор подчёркивает, что это не широкий бенчмарк. Модель может чрезмерно сжимать рассуждения в задачах, требующих длинных выводов, и наследует ограничения и поведение безопасности базовой модели. Лицензия указана как other; README рекомендует отдельно проверять лицензии и происхождение данных, особенно для коммерческого или чувствительного применения.

QuantFactory/INTELLECT-1-GGUF — это квантизированная версия базовой языковой модели INTELLECT-1, подготовленная QuantFactory с использованием llama.cpp. Исходную модель разработала Prime Intellect совместно с 30 независимыми участниками, предоставлявшими вычислительные ресурсы. Модель предназначена для генерации английского текста и кода, а также исследовательских и прикладных сценариев, где требуется базовая языковая модель. Для диалогового использования рекомендуется отдельная версия INTELLECT-1-Instruct. INTELLECT-1 содержит 10 миллиардов параметров, 42 слоя, 32 attention heads, hidden size 4096, контекст длиной до 8192 токенов и словарь из 128256 токенов. Она обучена с нуля на 1 триллионе токенов преимущественно англоязычного текста и кода, включая FineWeb-Edu, FineWeb, Stack V1, DCLM и OpenWebMath. Обучение выполнялось распределённо на узлах в разных частях мира с применением DiLoCo и оптимизированного int8 all-reduce. К сильным сторонам относятся крупный объём обучения, открытая базовая архитектура и возможность запуска в формате GGUF через llama.cpp, включая сценарии локального инференса с подходящим уровнем квантизации. Ограничения связаны с тем, что это base-модель, не оптимизированная для инструкций и диалогов; заявленный основной язык — английский, а характеристики конкретного варианта квантизации в README не указаны. При подготовке входных данных необходимо добавлять BOS-токен, иначе производительность может снизиться. Модель распространяется по лицензии Apache 2.0.

OpenThinker3-1.5B — языковая модель с 1,5 млрд параметров, разработанная командой Open Thoughts. Это плотная авторегрессионная модель семейства Qwen2, дообученная методом SFT на Qwen/Qwen2.5-1.5B-Instruct с использованием набора OpenThoughts3-1.2M. Она предназначена для генерации текста с пошаговыми рассуждениями, особенно при решении математических и научных задач, а также задач программирования. В обучающий набор входят 850 тысяч математических вопросов, 250 тысяч вопросов по коду и 100 тысяч научных вопросов; трассы рассуждений для данных создавались с помощью QwQ-32B. Модель принимает текст и поддерживает контекст до 32 768 токенов. В README приведены результаты оценки на математических, научных и кодовых бенчмарках; конкретные результаты зависят от задачи и протокола оценки. Модель доступна в формате safetensors и распространяется по лицензии Apache 2.0.

Qwen2.5-Coder-0.5B-Instruct-GGUF — набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-0.5B-Instruct, подготовленный пользователем ThomasBaruzier с использованием llama.cpp и imatrix-калибровки. Базовая модель разработана командой Qwen; в карточке также указана лицензия Apache-2.0. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: она может применяться для написания, дополнения и объяснения кода, а также других задач, связанных с программированием. Указан английский язык. Доступны варианты квантизации IQ и Q форматов размером примерно от 301 до 393 МБ, что позволяет запускать модель при ограниченных ресурсах. Ключевое преимущество — малый размер и наличие нескольких уровней квантизации с измеренными показателями perplexity и accuracy, позволяющими выбирать компромисс между качеством и требованиями к памяти. Ограничения связаны с небольшим размером модели в 0,5 млрд параметров и потерями качества при наиболее компактной квантизации; сведения об архитектуре, длине контекста и поддерживаемых модальностях в карточке не указаны.

Qwen2.5-Coder-0.5B-Instruct-MLX-8bit — компактная инструкционная языковая модель для работы с кодом, разработанная командой Qwen. Эта версия представляет собой 8-битную MLX-квантизацию базовой модели Qwen2.5-Coder-0.5B-Instruct, подготовленную bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon и интеграции в локальные приложения, включая code agents. Модель ориентирована на генерацию и обработку программного кода, диалоговые сценарии и задачи, требующие связи между естественным языком и исходным кодом. Заявлена поддержка контекста до 32 тысяч токенов. При обучении использовалось до 5,5 триллиона токенов, включая исходный код, пары «текст—код» и синтетические данные. В карточке указана поддержка английского языка. Небольшой размер около 0,5 миллиарда параметров и 8-битная квантизация делают модель подходящей для локального запуска с ограниченными ресурсами, однако по сравнению с более крупными моделями она может уступать в сложности рассуждений, качестве кода и устойчивости к неоднозначным запросам. Как и другие модели этого класса, она может генерировать неточные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия — Apache 2.0.

Qwen3-14B-Base — базовая причинно-авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это плотная модель с 14,8 млрд параметров и 40 слоями; она обучена на этапе предварительного обучения и предназначена для продолжения обучения и генерации текста на основе контекста. Архитектура использует групповое внимание с 40 головами запросов и 8 головами ключей и значений. Длина контекста — 32 768 токенов. Модель подходит для языкового моделирования, генерации текста, а также для задач, связанных с кодом, STEM, логическими рассуждениями и многоязычными данными. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; это описание относится к обучающему корпусу семейства и не гарантирует одинаковое качество на каждом языке. В метаданных указаны интерфейсы чата и вызова инструментов, однако вариант Base прошёл предварительное обучение, поэтому эти возможности не означают, что он настроен как готовый диалоговый ассистент. Для работы предусмотрена библиотека Transformers; в README рекомендуется актуальная версия, поскольку версии ниже 4.51.0 не распознают архитектуру qwen3. Модель распространяется по лицензии Apache-2.0. Для развёртывания нужна инфраструктура, способная обслуживать модель такого размера; конкретные требования к памяти в предоставленных данных не приведены.

Qwen3.5-21B-GLM-4.7-Flash-Heretic-Uncensored-Thinking — плотная мультимодальная модель на 21 млрд параметров от DavidAU, основанная на Qwen3.5-27B-Deckard-PKD-Heretic-Uncensored-Thinking. По карточке, исходную модель сначала освободили от ограничений безопасности, затем сократили с 27 до 21 млрд параметров и дообучили на наборе GLM 4.7 Flash Distill с помощью Unsloth. Заявлены 48 слоёв и контекст до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и продолжения прозы, ролевых сценариев, написания кода, а также анализа изображений. Карточка сообщает о вариативной длине рассуждений, поддержке обработки изображений и исправлениях шаблона диалога; модель по умолчанию использует режим Thinking. В описании представлены примеры работы, но независимые подтверждения заявлений о производительности не приведены. Репозиторий содержит веса Safetensors, библиотека — Transformers; лицензия — Apache-2.0. Модель явно ориентирована на генерацию контента без ограничений и может выдавать откровенные или графические материалы. Автор предупреждает о возможных повторах и зацикливании, особенно при низкой квантизации или недостаточно подробных запросах; качество и скорость могут зависеть от квантизации и настроек.

Qwen3.8-Flash-Next-ROCmFP4-STRIX_LEAN-GGUF — квантованная GGUF-версия модели Qwen3.8-Flash-Next, разработанная пользователем kingjones777 на базе модели Qwen/Qwen3.8-Flash-Next. Модель предназначена для генерации текста и запуска через llama.cpp-подобные среды, прежде всего на интегрированной графике AMD Ryzen AI Max+ 395 «Strix Halo» с архитектурой gfx1151 и общей памятью CPU/GPU. Указана поддержка длинного контекста; в README приведена проверка работы speculative decoding на диапазоне от 2K до 128K токенов. Точная длина контекста, число параметров и языковой охват не указаны. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4, поэтому стандартная сборка llama.cpp не подходит: требуется форк ROCmFPX с поддержкой обеих технологий и специальные патчи. Доступен режим speculative decoding через MTP-голову; на совместимой конфигурации он показал ускорение до 34% для задач рассуждения и до 11% для кода, однако на длинных документах и некоторых режимах может не давать ускорения или замедлять работу. Производительность и доступность модели существенно зависят от AMD Strix Halo, ROCm и объёма общей памяти. Модель ориентирована на сценарии локального текстового инференса, включая рассуждение, генерацию JSON, программирование и суммаризацию документов. Её сильная сторона — возможность запуска крупной модели в общей памяти интегрированного GPU; ограничениями являются специализированные требования к программному обеспечению и аппаратной платформе, а также отсутствие универсальной поддержки в стандартных рантаймах. Лицензия указана как qwen-community-1.0; модель связана с базовой моделью отношением quantized.

Scarlett-Llama-3-8B — разговорная языковая модель, дообученная ajibawa-2023 на базе Llama 3 8B от Meta. Она обучена на более чем 10 000 наборах диалогов по философии, советам, шуткам и программированию, а также предназначена для продолжительных бесед в формате ChatML. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Карточка указывает английский язык и возможность генерировать код. Модель подходит для диалогового помощника, обсуждения философских вопросов, выдачи советов, шуток и помощи с кодом. Разработчик отмечает, что модель не предназначена для ролевых сценариев со взрослым или сексуальным содержанием. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.