II.3Рефакторинг, миграция и модернизация

Wukong-0.1-Mistral-7B-v0.2 — чат-модель, созданная RESMPDEV путём дообучения Mistral-7B-v0.2 от Mistral. Она предназначена для диалогов и генерации ответов по инструкциям; обучение проводилось на OpenHermes-2.5, наборах данных для кода от Multimodal Art Projection и наборе Dolphin от Cognitive Computations. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Автор описывает настройку как «dealigned», но не уточняет её практический эффект; примеры выходов в карточке не приведены.

Arcee-Maestro-7B-Preview — языковая модель Arcee с 7,1 млрд параметров, созданная на базе DeepSeek-R1-Distill-Qwen-7B. Модель семейства Qwen2 дообучена с помощью обучения с подкреплением по алгоритму GRPO на проверенных математических задачах и примерах программирования; выпущена как предварительная версия. Модель предназначена для многошаговых рассуждений, решения математических задач и помощи в программировании. Она принимает текст и генерирует текст, поддерживает диалог и имеет интерфейс для вызова инструментов. Заявленная длина контекста — 131 072 токена. В карточке сообщается об улучшениях в математике и программировании, но количественные результаты оценок не приведены. Модель распространяется под лицензией Apache-2.0. Среди ограничений указаны возможные предвзятые или вредоносные ответы и срез знаний, не отражающий события после июня 2024 года. Поскольку это Preview-релиз, качество и стабильность могут отличаться от окончательной версии.

DeepSeek-V4-Flash-0731-AWQ — это квантизированная сборка базовой модели deepseek-ai/DeepSeek-V4-Flash-0731, подготовленная в формате AWQ для запуска на компьютерах Apple Silicon через oMLX. Исходная модель представляет собой MoE-архитектуру с 304 млрд параметров, 43 слоями, 256 маршрутизируемыми экспертами на слой, механизмами Hyper-Connections и HISA attention; в README разработчик исходной модели не указан, а автор данной квантизированной сборки также не идентифицирован. Модель предназначена для генерации текста, диалоговых и агентских сценариев, решения математических задач и генерации кода. В сборке маршрутизируемые эксперты квантизированы до 2–3 бит, а attention, общие эксперты, embeddings и head оставлены в 8-битном формате. Основная часть содержит 278,6 млрд квантизированных параметров и занимает около 101,4 ГБ; вместе с квантизированным MTP/DSpark speculative drafter общий размер составляет около 108,2 ГБ. Поддерживаются режимы reasoning_effort low, high и max. Языки и максимальная длина контекста в README не указаны. Сильными сторонами являются возможность запуска очень крупной MoE-модели на одной системе Apple Silicon, высокая скорость генерации около 47–51 токена в секунду на M5 Max с 128 ГБ памяти, а также хорошие результаты на GSM8K и HumanEval — 93,5% и 87,2% соответственно. Главные ограничения связаны с агрессивной 2/3-битной квантизацией: на MMLU сборка получила 64,5% против 81,5% у неквантизированного учителя, то есть потеряла 17 процентных пунктов в задачах на широкий массив знаний. Для длинного контекста рекомендуется 4- или 6-битная квантизация KV-кэша; без специализированных ядер oMLX предварительное заполнение длинного контекста может работать значительно медленнее. Модель распространяется по лицензии, обозначенной как other с именем лицензии deepseek. Полные условия лицензии в README не приведены.

netcat420/DEFUNCT-EXPERIMENT2_2 — слитая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES на основе Qwen/Qwen2.5-Math-7B с добавлением весов DeepSeek-R1-Distill-Qwen-7B и Qwen2.5-Coder-Scholar-7B-Abliterated-MFANN-Slerp-Unretrained. Модель содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста и диалогов; состав базовых моделей указывает на сценарии с математическими рассуждениями и программированием. В метаданных также отмечен интерфейс вызова инструментов. Языки обучения или поддерживаемые естественные языки в доступных данных не определены. Это экспериментальный merge, поэтому качество и устойчивость поведения могут отличаться от исходных моделей. Лицензия в предоставленных данных не указана.

Dolphin-2.9.2-Phi-3-Medium-abliterated-GGUF — это квантованное в формате GGUF семейство версий языковой модели Dolphin-2.9.2-Phi-3-Medium-abliterated. Исходная модель опубликована cognitivecomputations, а квантование выполнено bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в диалоговых и инструкционных сценариях, включая программирование, решение математических задач, работу с агентскими инструкциями и обычный чат. Указан английский язык; сведения о поддержке других языков отсутствуют. Модель основана на unsloth/Phi-3-mini-4k-instruct и обучалась на наборах Dolphin-2.9.2, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Agent-FLAN и других. Доступны варианты квантования от Q8_0 до Q2_K и IQ2/IQ3/IQ4; размер файлов составляет примерно от 4,19 до 14,83 ГБ. Более высокие уровни квантования обычно сохраняют лучшее качество, а низкие уменьшают требования к памяти ценой качества. Архитектура, точное число параметров, модальности и фактический размер контекста в README не указаны, однако название базовой модели указывает на вариант с контекстом 4K. Сильными сторонами являются локальный запуск через llama.cpp, широкий набор инструкционных и кодовых данных, а также выбор вариантов квантования для разного объёма доступной памяти. Ограничения включают возможное снижение качества у низкобитных вариантов и отсутствие подтверждённых характеристик производительности или безопасности; обозначение abliterated также указывает на модификацию исходной модели, поэтому ответы требуют проверки. Модель распространяется по лицензии MIT.

EXAONE-Deep-7.8B — плотная языковая модель для рассуждений, разработанная LG AI Research. Она предназначена для генерации ответов и решения задач на рассуждение, включая математику и программирование; поддерживает диалоговый режим. Модель дообучена на EXAONE-3.5-7.8B-Instruct и содержит 7,4 млрд параметров. Архитектура — ExaoneForCausalLM с 32 слоями и групповым запросом внимания (32 Q-головы и 8 KV-голов); длина контекста — 32 768 токенов. Модель рассчитана прежде всего на английский и корейский языки. Для запуска рекомендуются Transformers версии 4.43.1 или новее; также перечислены TensorRT-LLM, vLLM, SGLang, llama.cpp, Ollama и LM Studio. В репозитории доступны веса Safetensors. Лицензия обозначена как other, поэтому условия использования следует проверять в самой карточке и сопутствующей документации. Модель может выдавать неточные, устаревшие, предвзятые или неподходящие ответы; результаты требуют проверки.

Gemma-4-31B-JANG_4M-Uncensored — модифицированная dealignai модель Gemma 4 Dense на 31 млрд параметров, созданная на основе google/gemma-4-31b-it. По README, авторы применили abliteration для снижения отказов и смешанную точность: веса внимания и эмбеддинги хранятся в 8 битах, а большинство весов MLP — в 4 битах; заявленный размер — около 18 ГБ. Архитектура включает 60 слоёв и гибридное скользящее и глобальное внимание. В README также сказано, что vision encoder сохранён в float16, однако карточка позиционирует модель как генеративную чат-модель. Модель предназначена для диалогов, написания кода и ответов на общие вопросы; авторы отдельно демонстрируют выполнение запросов по кибербезопасности и другим темам, на которые обычные модели могут отказывать. Для запуска указаны vMLX или совместимый MLX движок с поддержкой Gemma 4; README рекомендует Apple Silicon с 24 ГБ или более объединённой памяти. Внутренние тесты авторов показывают высокую долю выполнения запросов из HarmBench, но это результаты самого разработчика, и они не гарантируют качество или поведение на других запросах. Лицензия указана как gemma; подробные условия следует сверить с лицензией Gemma.

GLM-5.2-JANGTQ_K — квантованный вариант GLM-5.2 от Z.ai, подготовленный bearzi для запуска через MLX на компьютерах Apple с Apple silicon. Это языковая модель семейства GLM с архитектурой MoE и поддержкой чата; метаданные указывают 30,4 млрд параметров и контекст до 1 048 576 токенов. Профиль JANGTQ_K использует смешанную квантовку TurboQuant: routed-эксперты сжаты до 2 или 4 бит, а блоки внимания и индексатор DSA сохранены в FP16. Голова MTP удалена, поскольку она не используется в описанном режиме генерации MLX. Модель предназначена для генерации текста в диалоге, написания кода и длительных задач с большим контекстом. Для загрузки требуются около 260 ГБ объединённой памяти, пакет jang-tools и runtime MLX с патчем IndexShare; обычные MLX, LM Studio и Ollama этот набор не поддерживают без соответствующей доработки. В метаданных указана лицензия MIT.

grug-9b — дообученная ProCreations версия dense-модели Ornith-1.0-9B семейства Qwen3.5 с 9 млрд параметров. Модель предназначена для генерации текста и кода, диалогов и сценариев с агентами и вызовами инструментов. Дообучение на датасете ProCreations/grug-think учит модель формулировать рассуждения кратко: по данным автора, медианная длина рассуждения в датасете составляет 11 слов, а в тестах модели сократилось число токенов рассуждения. В сравнительных тестах автора grug-9b быстрее исходной модели и показывает близкий результат на MBPP, но уступает на HumanEval; корректность формата вызовов инструментов в тесте снизилась с 100% до 88,9%. Заявлена поддержка обработки изображений благодаря сохранённой vision tower, однако метаданные относят модель к генерации текста, поэтому качество зрительных задач по этим сведениям оценить нельзя. Для запуска требуется Transformers версии 5.8 или новее. Лицензия — MIT.

Mistral-NeMo-Minitron-8B-Base — базовая языковая модель NVIDIA для генерации текста и адаптации под различные задачи обработки естественного языка. Это плотный авторегрессионный Transformer-декодер семейства Mistral-NeMo с 7,9 млрд параметров, 40 слоями, Grouped-Query Attention и RoPE. Модель получена из Mistral-NeMo 12B pruning-ом размерностей эмбеддингов и промежуточного слоя MLP, а затем дообучена дистилляцией на 380 млрд токенов. Модель принимает и генерирует текст; заявленная длина контекста — 8192 токена. Обучающие данные включают английский и многоязычный текст, а также код, охватывая веб-страницы, диалоги, статьи и другие материалы. Модель подходит как основа для генерации и продолжения текста, ответов на вопросы и программирования. Это базовая, а не специализированная чат-модель, поэтому для конкретных сценариев может потребоваться адаптация. По данным разработчика, обучение завершилось в августе 2024 года, а срез предобучающих данных — июнь 2023 года. Модель может воспроизводить токсичный язык и социальные предубеждения, а также выдавать неточные, неполные или избыточные ответы. В метаданных указана лицензия «other»; конкретные условия использования следует проверять в лицензии NVIDIA.

BoldingBuilds/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-ShimQuant-GGUF — квантизированная GGUF-версия NVIDIA Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA. Сборка использует технологию ShimQuant и предназначена для генерации текста и программного кода, включая сценарии локального запуска на потребительских видеокартах с ограниченным объёмом памяти. Модель основана на архитектуре Nemotron H с разреженной MoE-компонентой: заявлены 30 млрд параметров при 3 млрд активных параметров (30B-A3B). Файл имеет размер около 11,77 GiB, эффективную разрядность 3,07 бит на вес и рассчитан на контекст до 262 144 токенов. В конфигурации преобладают SSM-слои, поэтому увеличение контекста требует сравнительно немного дополнительной VRAM. README не указывает поддерживаемые языки. Ключевое преимущество сборки — возможность запуска на видеокарте с 16 ГБ памяти: на RTX 5080 заявлены полный offload и загрузка контекста 262 144 токена. На тесте HumanEval модель показала pass@1 91,5%. При этом квантизация вносит заметное отклонение от эталонной версии Q8_0, а результаты зависят от выбранной конфигурации. Файл несовместим со стандартными llama.cpp, LM Studio и Ollama и требует пропатченной сборки с поддержкой ShimQuant. Лицензия указана как openmdw-1.1 (other).

OpenCodeInterpreter-SC2-15B — модель генерации кода из семейства OpenCodeInterpreter, разработанная авторами проекта OpenCodeInterpreter. Она основана на StarCoder2-15B и предназначена для создания кода с возможностью интеграции выполнения и итеративного уточнения по обратной связи от исполнения. Модель имеет плотную архитектуру Starcoder2ForCausalLM, содержит 21,7 млрд параметров и поддерживает контекст до 16 384 токенов. Модель подходит для генерации и интерпретации кода, а также для сценариев, где результат можно выполнить и затем доработать с учётом полученной обратной связи. В карточке приведены результаты серии OpenCodeInterpreter на HumanEval и MBPP, однако конкретные показатели этой версии из таблицы не видны. Метаданные указывают английский язык и формат safetensors. Лицензия — Apache-2.0.

opencsg/opencsg-CodeLlama-13b-v0.1 — генеративная модель для работы с программным кодом, разработанная OpenCSG. Это версия CodeLlama на 12,9 млрд параметров, полученная полнопараметрическим дообучением базовой CodeLlama-13b-hf. Модель использует плотную архитектуру Llama и принимает текстовые запросы, включая задания на генерацию и дополнение кода. Модель подходит для генерации фрагментов кода и решения задач программирования; в карточке приведена оценка семейства на HumanEval для Python, а обучающие данные включают несколько языков программирования. Заявленная длина контекста — 16 384 токена. Доступны веса в формате safetensors; лицензия указана как llama2. Карточка отмечает, что качество зависит от способа декодирования и параметров, а оценки бенчмарков могут не отражать все практические сценарии.

OpenThinker2-7B — языковая модель с открытыми весами, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts2-1M и содержит 7,1 млрд параметров. Модель построена на архитектуре Qwen2 и доступна в формате Safetensors; контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов с акцентом на рассуждения, в частности при решении математических задач и задач на программирование. В README приведены результаты оценивания на математических и научных бенчмарках, а также LiveCodeBench; модель позиционируется как конкурентоспособная среди открытых моделей класса 7B. Она может быть полезна для обучения, экспериментов и создания приложений, которым нужны ответы с рассуждениями. Модель использует интерфейс чата и поддерживает интерфейс вызова инструментов. Данные не подтверждают отдельную языковую специализацию, поэтому язык применения следует выбирать с учётом возможностей базовой Qwen2.5-7B-Instruct. Лицензия — Apache 2.0.

Agnuxo публикует локальную GGUF-модель для генерации кода на основе Phi-3.5 Mini Instruct. Карточка описывает её как помощника для программирования и разговорного взаимодействия; модель можно запускать через Ollama, а формат файлов указан как GGUF F16. Количество параметров в доступных сведениях не приведено. Модель предназначена для генерации и помощи с кодом на Python, JavaScript, TypeScript, Rust, Go и C++, включая примеры научных вычислений и машинного обучения с NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Указаны также возможности координации агентных задач и интеграции с MCP и A2A. Лицензия — Apache-2.0. Карточка не содержит результатов оценки качества; заявленные в ней достижения и возможности не подтверждены независимыми данными.

ProCreations_grug-35b-GGUF — квантизированная версия языковой модели ProCreations/grug-35b, подготовленная bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи генерации текста, программирования, агентских сценариев, использования инструментов и рассуждений. В метаданных также указан pipeline_tag image-text-to-text, однако подробности о поддерживаемых визуальных входах в README не приведены. Модель содержит около 35 млрд параметров и распространяется в формате GGUF с вариантами квантизации от BF16 и Q8_0 до более компактных Q2–Q4 и IQ-форматов. Доступны сборки размером примерно от 19 до 69 ГБ; более высокие разрядности обеспечивают лучшее качество, а компактные варианты снижают требования к оперативной памяти. README не указывает контекстное окно, языки, точную архитектуру или результаты тестирования. Сборки предназначены для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Сильными сторонами являются широкий выбор уровней квантизации и поддержка сценариев кода, агентного взаимодействия и tool use. Ограничения — отсутствие подробных сведений о мультимодальности, языках и производительности, а также значительные требования к памяти для качественных вариантов. Модель распространяется по лицензии MIT.

QaptaanLM-0.75B-Instruct — компактная текстовая причинно-следственная языковая модель для программирования и технических задач, разработанная kaptaan45 на базе QaptaanLM-0.75B. Это плотная архитектура Qaptaan с числом параметров 581,4 млн по метаданным; README приводит другое значение — 752 млн. Модель дообучена на KapInstruct-100M с форматом Qwen ChatML и маскированием функции потерь только на ответах ассистента. Указана длина контекста 262 144 токена. Модель предназначена для генерации кода на разных языках программирования, алгоритмических рассуждений, отладки, исправления ошибок и следования инструкциям с ограничениями. В обучающих данных также представлены математика, общий диалог, STEM и научные вопросы. Поддерживает текстовый диалог и интерфейс вызова инструментов; карточка указывает поддержку английского языка. Репозиторий использует формат Safetensors, лицензия — Apache-2.0. Компактный размер удобен для локального применения, однако качество и надёжность ответов на сложных задачах требуют проверки.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF — мультимодальная модель, разработанная Jackrong на базе Qwen/Qwen3.5-27B. Это дообученная версия с фокусом на эффективное рассуждение и генерацию текста по изображениям и текстовым запросам; модель рассчитана на conversational-сценарии, решение математических и логических задач, работу с инструкциями, общими знаниями и программированием. Доступен формат GGUF для запуска с llama.cpp и совместимых инструментов, а также поддержка экосистемы Transformers и Unsloth. Заявлены языки English, Chinese и Korean, однако сведения о размере контекста в README отсутствуют. В версии v2 использовано около 14 000 образцов рассуждений в стиле Claude 4.6 Opus, с акцентом на короткие и переносимые шаблоны рассуждений. По данным автора, на HumanEval достигнуто 96,91% pass@1 при примерно 24% меньшей длине цепочки рассуждений и на 31,6% большем числе корректных решений на токен по сравнению с базовой моделью. При этом отмечено снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%; модель может уступать базовой версии в задачах, требующих длинного контекста, сложного многошагового рассуждения и более широких общих знаний. Приведённые оценки получены в условиях инференса BF16 с Unsloth и vLLM и не гарантируют аналогичные результаты в других конфигурациях. Модель распространяется по лицензии Apache-2.0. README не содержит подробных требований к аппаратному обеспечению, точного размера контекстного окна и исчерпывающей информации о возможностях или ограничениях мультимодального ввода.

Карточка модели pupsipups/Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking на Hugging Face совпадает с карточкой DavidAU/Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking, поэтому описание составлено по ней. DavidAU/Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking — плотная мультимодальная модель семейства Qwen 3.5 с 40 млрд параметров, созданная автором DavidAU на основе DavidAU/Qwen3.5-27B-Deckard-PKD-Heretic-Uncensored-Thinking. По карточке, модель дообучали на внутренних наборах Deckard/PDK и наборе высокоуровневых рассуждений Claude 4.5 Opus; также применялись расширение модели с 27B до 40B параметров и шаблон Unsloth. Архитектура использует 96 слоёв, заявлено окно контекста 256 тысяч токенов и переменная длина рассуждений. Модель предназначена для диалогов, рассуждений, написания художественных текстов, генерации кода и анализа изображений. Автор отмечает сохранённую обработку изображений, проверенную генерацию кода и отсутствие ограничений на взрослый и графический контент. В метаданных указаны задачи image-text-to-text, возможности chat и vision, языки английский и китайский, библиотека Transformers и формат safetensors. Автор сообщает о склонности к зацикливанию при низких квантизациях или слишком коротких запросах и рекомендует более качественные кванты и содержательные промпты. Модель распространяется по лицензии Apache-2.0; заявление о превосходстве над базой основано на бенчмарках автора и не является независимой оценкой.

Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF — GGUF-квантованная модель, разработанная DavidAU. Она расширена из Qwen3.6 27B до 40 млрд параметров и представляет собой плотную архитектуру без MoE с 96 слоями и 1275 тензорами. Обучение и дообучение выполнялись с использованием Unsloth, наборов данных TeichAI/claude-4.5-opus-high-reasoning-250x и DavidAU/PkDick-Deckard-5-Datasets, а также методов Heretic и NEO-CODE-Di-IMatrix. Модель предназначена для универсального применения: рассуждений, программирования, математики, творческого и художественного письма, генерации сюжетов и сцен, ролевых сценариев и работы с длинными диалогами. Заявлена поддержка контекста до 256K токенов, переменной длины рассуждений и текстовых сценариев на английском и китайском языках. Также заявлена работа с изображениями, но для этого требуется отдельный файл mmproj, размещённый рядом с GGUF-моделью. К сильным сторонам относятся большой контекст, развитые рассуждения, ориентация на код и универсальные задачи, а также оптимизированные NEO-CODE-Di-IMatrix-MAX-квантизации, для которых приведены показатели близости к полной точности BF16. Модель намеренно uncensored и unfiltered, поэтому может генерировать небезопасный или откровенный контент и требует самостоятельного контроля применения. Указанные характеристики производительности основаны на данных автора и приведённых в README тестах; независимая проверка не представлена. В метаданных указана лицензия Apache-2.0. Для запуска необходим совместимый GGUF-движок, а выбор квантизации влияет на требования к памяти и качество работы.

benjzzz/Qwen3.8-27B-BenQ-6bit — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная автором benjzzz. Веса и vision tower представлены методом BenQ: 6-битные коды с отдельной таблицей значений для каждой строки, что, по README, даёт 6,16 бит на вес с учётом таблиц. Модель принимает текст и изображения и предназначена для диалогов, анализа изображений и программирования; метаданные также указывают интерфейс вызова инструментов. Для генерации текста в README приведён пример с кодом Python.

Smaug-Llama-3-70B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Smaug-Llama-3-70B-Instruct, разработанной Abacus AI. Квантизацию выполнил bartowski с использованием imatrix и поддержки Smaug в llama.cpp. Модель предназначена для генерации текста по инструкциям, решения математических задач и работы с кодом; в качестве исходных данных указаны aqua_rat, microsoft/orca-math-word-problems-200k и m-a-p/CodeFeedback-Filtered-Instruction. Формат GGUF позволяет запускать её через llama.cpp, начиная с версии b3001. Модель содержит 70 миллиардов параметров и относится к текстовым моделям; сведения о поддерживаемых языках и размере контекста в README не указаны. Доступны варианты квантизации от Q8_0 до IQ1_M с размером файлов примерно от 75 ГБ до менее 20 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-квантизации отмечены как рекомендуемые: они предлагают компромисс между качеством и требованиями к памяти. Более сильная квантизация сохраняет качество, но требует значительных ресурсов, тогда как варианты Q2 и Q1 экономят память за счёт заметного снижения качества. Для корректной работы следует использовать указанный формат приглашений Llama 3 с системным сообщением, запросом пользователя и ответом assistant. README указывает лицензию llama2; дополнительные ограничения и условия коммерческого использования не описаны.

Locutusque/StockQwen-2.5-7B — плотная языковая модель на архитектуре Qwen2, созданная автором репозитория с помощью mergekit методом Model Stock. В слияние вошли Qwen2.5-7B, Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct; базовая модель — Qwen/Qwen2.5-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоги; интерфейс поддерживает вызов инструментов. Для практического использования в README рекомендуется дообучение. Модель работает с текстом и имеет заявленный контекст до 131 072 токенов. Метаданные перечисляют английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Слияние инструктивной, кодовой и математической моделей предполагает применимость к диалогам, генерации кода и математическим ответам, однако README не приводит оценок качества. Файлы опубликованы в формате safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.

darkps_ice-AI-GGUF — это квантованные версии языковой модели ice-AI, разработанной DarkPs и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Входной модальностью является текст, спекулятивное декодирование не поддерживается. Модель содержит около 8 млрд параметров. Набор включает варианты от BF16 до низкоразрядных квантовок Q2 и IQ, размер файлов составляет примерно от 3,4 до 16,4 ГБ. Квантования с imatrix рассчитаны на работу через совместимые инструменты llama.cpp; разработчик рекомендует Q4_K_M как сбалансированный вариант по качеству, размеру и производительности, а Q6_K и Q6_K_L — для более высокого качества. Длина контекста в README не указана. Сильными сторонами являются широкий выбор квантований, возможность подобрать модель под доступный объём памяти и совместимость с экосистемой llama.cpp. Более компактные варианты экономят память, но могут заметно уступать старшим квантованиям по качеству. Лицензия — Apache-2.0; исходной моделью указана darkps/ice-AI.

unsloth/DeepSeek-R1-GGUF — GGUF-версия модели DeepSeek-R1, разработанной DeepSeek и подготовленной компанией Unsloth. Модель предназначена для локального запуска через llama.cpp и сценариев, требующих рассуждений, генерации и анализа текста, а также написания программного кода. В README указан английский язык; другие языки не заявлены. Модель использует архитектуру MoE и представлена в нескольких вариантах динамической квантизации: 1,58 бит, 1,73 бит, 2,22 бит и 2,51 бит. Размер файлов составляет примерно от 131 до 212 ГБ. Более точные варианты требуют больше дискового пространства, но характеризуются лучшей заявленной точностью: от Fair для 1,58-битной версии до Best для 2,51-битной. Для запуска рекомендуется llama.cpp; возможна частичная выгрузка слоёв на GPU. В примерах используется контекст 8192 токена, однако максимальный размер контекста в README не указан. К сильным сторонам относятся существенное уменьшение размера весов за счёт агрессивной квантизации, возможность локального запуска и наличие вариантов с разным компромиссом между качеством и требованиями к ресурсам. Ограничениями являются очень большой объём файлов даже у наиболее сжатых вариантов, необходимость совместимого оборудования и ПО, а также потенциальное снижение точности из-за низкой разрядности. Модель распространяется по лицензии MIT.

unsloth/DeepSeek-R1-GGUF-UD — это GGUF-квантизированная версия модели DeepSeek-R1, разработанной командой DeepSeek и подготовленной в формате динамической квантизации Unsloth Dynamic v2.0. Модель предназначена для локального запуска через llama.cpp и ориентирована на задачи рассуждений, генерации текста, программирования и диалогового использования. В README указан английский язык, библиотека Transformers и поддержка формата GGUF. Доступны варианты с эффективной разрядностью от 1,58 до 2,51 бит: UD-IQ1_S, UD-IQ1_M, UD-IQ2_XXS и UD-Q2_K_XL. Размер файлов составляет примерно от 131 до 212 ГБ. Квантизация выборочно применяет разные разрядности к компонентам MoE, чтобы сохранить больше точности по сравнению со стандартными 1-битными и 2-битными вариантами. В README приведены оценки качества от Fair до Best, однако архитектурные параметры, общее число параметров и размер контекста исходной модели не указаны; для примеров запуска используется контекст 8192 токена. Сильные стороны модели — возможность локального запуска, уменьшенный объём хранения относительно полной точности и повышенная точность благодаря динамической квантизации. Ограничениями являются очень большой размер даже у наиболее компактной версии, необходимость совместимого оборудования и llama.cpp, а также возможная потеря качества на низких уровнях квантизации. Для запуска рекомендуется использовать специальный chat template и параметр --min-p 0.05; доступна выгрузка части слоёв на GPU. Репозиторий распространяется по лицензии MIT.

Falcon3-Mamba-7B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный декодер на основе Mamba1: 64 блока, ширина 4096, размер состояния 16 и словарь на 65 тысяч токенов. Модель продолжает предварительное обучение Falcon-Mamba-7B на дополнительных данных из веба, кода, STEM и других высококачественных источников. Модель предназначена для генерации текста и служит основой для сценариев рассуждения, понимания языка, следования инструкциям, работы с кодом и математикой. Контекстное окно достигает 32 тысяч токенов; обучение велось преимущественно на английских данных. В репозитории представлены веса Safetensors для Transformers. Разработчик сообщает о сильных результатах на задачах рассуждения, понимания языка, кода и математики по сравнению с моделями SSM схожего размера на момент выпуска. Это базовая модель, поэтому качество следования инструкциям в прикладном чате может уступать специализированным instruct-версиям. Лицензия — TII Falcon-LLM License 2.0.

Fwizzer-R1-3B-RU-v2 — русско- и англоязычная генеративная языковая модель команды Fwizzer, дообученная на базе Ministral-3B для пошагового рассуждения. Она предназначена для математических задач, алгоритмического и обычного программирования, а также сложных текстовых вопросов. По карточке, модель формирует цепочку рассуждений и затем выдаёт ответ; заявлены адаптация языка ответа к языку запроса и возможность локального запуска, в том числе с квантованными GGUF-весами. Модель использует плотную архитектуру семейства Mistral 3; в карточке указано около 3 млрд параметров. Доступны файлы safetensors и GGUF, а метаданные подтверждают поддержку чата и кода. Лицензия — Apache-2.0. Заявленные показатели и требования к ресурсам приведены автором карточки и здесь независимо не проверялись.

Это мультимодальная инструкционная модель Gemma 4 на 12 млрд параметров, созданная tepirale с помощью слияния моделей методом DARE TIES. В качестве основы использована google/gemma-4-12B-it; в слияние также вошли модели tepirale для агентных сценариев и генерации кода. Репозиторий содержит веса в формате Safetensors и предназначен для использования с библиотекой Transformers. Модель принимает текст и изображения и генерирует текст. Её можно применять для диалога по изображениям, анализа визуального содержимого и задач с кодом или агентным поведением. Базовая Gemma 4 поддерживает также видео и аудио, однако карточка этой объединённой модели подтверждает только обработку изображений. Лицензия в предоставленных данных не указана.

GPT-6.1 Sol — модель OpenAI из серии GPT-6, представленная как обновление GPT-6 Sol и расположенная ниже флагманской GPT-6 Astra. Она предназначена для агентного программирования, управления компьютером и работы с документами в профессиональных сценариях. Метаданные каталога классифицируют её как image-text-to-text, что указывает на обработку изображений и выдачу текста. Доступные сведения не позволяют определить размер, архитектуру, языки, контекст или лицензию модели. README обрывается на описании назначения, поэтому её характеристики и условия использования нельзя уточнить.