II.2Создание и понимание программного кода

Это плотная авторегрессионная языковая модель семейства Llama 3.1, дообученная barc0 на базе Meta-Llama-3.1-8B-Instruct. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов; для работы с весами используется Transformers и формат safetensors. Модель предназначена для генерации текста в диалоговом формате и задач транскодирования, на что указывают обучающие наборы barc0/transduction_heavy_100k_jsonl и barc0/transduction_heavy_suggestfunction_100k_jsonl. Карточка сообщает значение loss 0,0319 на оценочном наборе, но не приводит подробностей методики оценки или результатов по конкретным сценариям. У модели есть интерфейс вызова инструментов. Лицензия — Llama 3.1. Карточка не описывает ограничения и целевые языки; поэтому пригодность для конкретного языка и качество в прикладных сценариях следует проверять отдельно.

MeliodasPercival_01_Experiment27Shadow — объединённая модель Mistral с 7,1 млрд параметров, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Experiment27Shadow-7B. Она предназначена для генерации текста и диалогов, принимает текстовые запросы и выдаёт текст. Контекстное окно составляет до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README и метаданные не описывают специализацию по языкам или предметным областям, а также не приводят отдельные оценки качества.

dealignai подготовил вариант MiniMax-M2.5 для запуска на Apple Silicon. Это MoE-модель семейства MiniMax M2 с 230 млрд параметров, 256 экспертами и примерно 10 млрд активных параметров на токен; используется стандартное внимание и цепочка рассуждений. По заявлению карточки, модель прошла смешанную квантизацию JANG_2L и удаление отказов CRACK на уровне весов. Размер файлов — 63 ГБ. Формат JANG поддерживают MLX Studio и пакет jang-tools; карточка также рекомендует запускать модели JANG в vMLX. Модель предназначена для генерации ответов в диалоге, рассуждений и вызова инструментов. В карточке заявлены английский, китайский и корейский языки, а метаданные указывают контекст 196 608 токенов. Указанная лицензия — Apache-2.0. Карточка позиционирует модель как исследовательскую и образовательную и приводит результаты HarmBench, указывающие на существенно ослабленные защитные ограничения; эти результаты являются заявлениями автора карточки.

Moko-DARE — объединённая языковая модель на архитектуре Mistral, созданная Azazelle с помощью mergekit и метода DARE TIES. В основе объединения лежит mistralai/Mistral-7B-v0.1; также использованы Open-Orca/Mistral-7B-OpenOrca, akjindal53244/Mistral-7B-v0.1-Open-Platypus и WizardLM/WizardMath-7B-V1.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи с математическими рассуждениями и следованием инструкциям, унаследованные от компонентов объединения. Доступна в формате safetensors для Transformers. Лицензия — CC BY 4.0.

Monarch-7B — языковая модель mlabonne, полученная слиянием моделей OmniTruthyBeagle-7B-v0, NeuBeagle-7B и NeuralOmniBeagle-7B с помощью LazyMergekit. В конфигурации также указан Mistral-7B-v0.1 как базовая модель; слияние выполнено методом dare_ties. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и решения широкого круга языковых задач. В карточке приведены оценки на наборах Nous и Open LLM Leaderboard; заявлено первое место на YALL leaderboard на дату обновления 13 февраля 2024 года. Контекстное окно составляет 32 768 токенов. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но некоммерческое использование בלבד.

NeoCortex-7B-slerp — языковая модель на архитектуре Mistral, созданная Kukedlc с помощью слияния моделей LazyMergekit методом SLERP. В состав слияния вошли Kukedlc/Neural4gsm8k и macadeliccc/WestLake-7B-v2-laser-truthy-dpo. Модель предназначена для генерации текста и ответов на запросы. Она содержит 7,1 млрд параметров, принимает текст и имеет контекст длиной до 32 768 токенов. В карточке указана лицензия Apache-2.0. Сведения о специализации на отдельных языках или предметных областях не приведены.

NMTOB-7B — слитая языковая модель, созданная paulml с помощью LazyMergekit на основе Kukedlc/NeuTrixOmniBe-7B-model-remix и paulml/OmniBeagleSquaredMBX-v3-7B-v2. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и предназначена для генерации текста; контекст составляет до 32 768 токенов. Модель подходит для диалогов, написания и продолжения текста, а также для задач генерации, где полезен длинный контекст. В README описано слияние методом slerp с настройками для слоёв self-attention и MLP. Репозиторий распространяется под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

Ognoexperiment27M7-7B — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Maxime Labonne методом DARE-TIES на основе liminerity/M7-7b и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалогов. Модель принимает текст и генерирует текст; размер контекста составляет 32 768 токенов. Модель распространяется в формате safetensors с точностью bfloat16 по лицензии Apache-2.0. Карточка указывает параметры слияния и пример загрузки через Transformers, но не описывает специализацию или результаты оценки качества.

OLMo 2 32B Instruct — англоязычная диалоговая языковая модель AllenAI, опубликованная в марте 2025 года. Репозиторий unsloth содержит версию, дообученную на базе allenai/OLMo-2-0325-32B-Instruct: исходная модель прошла supervised fine-tuning, обучение DPO и RLVR на варианте набора Tülu 3. Архитектура — плотная авторегрессионная OLMo 2 с 31,7 млрд параметров; контекст — 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, а также для решения математических задач и следования заданному формату. README упоминает оценки на MATH, GSM8K и IFEval. Она ориентирована прежде всего на английский язык. Модель распространяется по лицензии Apache 2.0. В README отмечено, что обучение безопасности ограничено: модель может выдавать проблематичные ответы, особенно в ответ на соответствующие запросы. Для практического использования могут потребоваться собственные фильтры вывода.

bunsenfeng/parti_5_full — текстовая генеративная модель на архитектуре Qwen2, опубликованная bunsenfeng. Метаданные Hugging Face указывают около 7,1 млрд параметров, контекст до 32 768 токенов и поддержку диалогового режима; модель принимает текст и генерирует текст. Поиск также обнаружил карточку Featherless, описывающую модель как 7,6-миллиардную и заявляющую контекст 131 072 токена, однако это расходится с метаданными Hugging Face, поэтому в характеристиках использованы значения метаданных. Модель подходит для диалогов, генерации текста и работы с длинными текстовыми запросами в пределах указанного контекста. Карточка Featherless относит её к дообученным моделям, но надёжно установить базовую модель и конкретные специализации по доступным сведениям нельзя. Репозиторий содержит веса safetensors; сведения о лицензии, языковом охвате и оценках качества не подтверждены использованными источниками.

bunnycore создала эту объединённую модель на основе нескольких предварительно обученных языковых моделей с помощью метода Model Stock и инструмента mergekit. В состав вошли Bespoke-Stratos-7B, модели семейств Qwen и DeepSeek, а также другие модели на 7B; архитектура — плотная Qwen2ForCausalLM, размер — 7,1 млрд параметров. Модель доступна в формате safetensors для Transformers и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов. Включённые модели указывают на ориентацию среди прочего на рассуждения, но README не описывает отдельные специализации или гарантии качества; приведённые результаты Open LLM Leaderboard ограничены несколькими метриками. Лицензия в предоставленных данных не указана.

Это мультимодальная квантованная версия Qwen3.6-35B-A3B, основанная на модели Qwen/Qwen3.6-35B-A3B и созданная rdtand с использованием PrismaQuant. Модель предназначена для задач, объединяющих обработку текста и изображений, включая сценарии vision-language и генерацию текста по мультимодальному вводу. Заявлена поддержка английского и других языков; точный список языков и размер контекстного окна в README не указаны. Модель использует архитектуру MoE с DeltaNet-линейным вниманием, плотными и экспертными слоями, а также визуальным энкодером Qwen3.6-VL. Средний размер квантования составляет 4,76 бит на параметр: объём файла уменьшен примерно с 70 до 22 ГБ, то есть на 69% по сравнению с исходной BF16-версией. Для разных линейных слоёв применяются NVFP4, MXFP8 и BF16; сохранены MTP-головы для speculative decoding. Квантование учитывает чувствительность отдельных слоёв и использует GPTQ-OBS и оптимизацию масштабов. Сильными сторонами являются существенное снижение требований к хранению и возможность запуска мультимодальной модели через vLLM при сохранении смешанной точности для чувствительных компонентов. Ограничение заключается в том, что артефакт рассчитан только на runtime vLLM; влияние квантования на качество в прикладных задачах и полный набор поддерживаемых режимов в README не приведены. Модель распространяется по лицензии Apache-2.0.

Карточка модели unsloth/QwQ-32B на Hugging Face совпадает с карточкой Qwen/QwQ-32B, поэтому описание составлено по ней. QwQ-32B — reasoning-модель семейства Qwen от команды Qwen, основанная на Qwen2.5-32B и дообученная с supervised fine-tuning и reinforcement learning. Это плотная причинная языковая модель на 32 млрд параметров для генерации текста и диалогов, рассчитанная на сложные задачи, где полезны рассуждения, в частности решение математических задач и ответы на трудные вопросы. Поддерживает интерфейс вызова инструментов. Архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и смещение в QKV attention; в модели 64 слоя и grouped-query attention с 40 головами Q и 8 головами KV. README заявляет контекст до 131 072 токенов, тогда как метаданные указывают нативный контекст 40 960 токенов. Для входов длиннее 8 192 токенов README рекомендует включать YaRN; статическое масштабирование в vLLM может снижать качество на коротких текстах. Модель описана как конкурентоспособная с другими reasoning-системами, но конкретные результаты оценки в карточке не приведены. Модель принимает текст и генерирует текст. Карточка указывает английский язык. Для снижения повторов README рекомендует не использовать жадное декодирование и настраивать параметры sampling; при повышении presence penalty возможны смешение языков и небольшое снижение качества. Лицензия — Apache-2.0.

R1-Qwen2.5-32B-Instruct-5k — дообученная pe-nlp модель на базе Qwen/Qwen2.5-32B-Instruct, обученная на наборе данных Sky-T1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Контекстное окно составляет 32 768 токенов. Карточка не раскрывает конкретные сценарии обучения или результаты оценки, поэтому специализированные преимущества модели подтвердить нельзя. Лицензия указана как «other», без уточнения условий в доступных данных.

Ramonda-7B-DPO-TIES — объединённая языковая модель, созданная mayacinka методом TIES с помощью LazyMergekit на основе paulml/OGNO-7B и bardsai/jaskier-7b-dpo-v4.3. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста и диалоговых ответов. Контекстное окно составляет до 32 768 токенов. В README приведены результаты оценок на наборах Open LLM Leaderboard и LLM AutoEval; они не гарантируют аналогичное качество в конкретных приложениях. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README не уточняет поддерживаемые языки и специальные ограничения; фактическое качество зависит от запроса и сценария применения.

s1.1-32B-GGUF — квантизированная версия языковой reasoning-модели s1.1-32B, разработанной командой simplescaling и опубликованной в формате GGUF пользователем brittlewis12. Базовая модель создана на основе Qwen2.5-32B-Instruct и дообучена на 1 000 примерах из датасета s1K с использованием reasoning traces из DeepSeek-R1. Модель предназначена для генерации текста, диалоговых сценариев и решения задач, требующих многошагового рассуждения, включая математические и научные вопросы. Поддерживает английский язык, работает с текстом и использует шаблон запросов ChatML. Архитектурный тип указан как qwen2; размер модели — 32B параметров. Модель поставляется в GGUF, что подходит для локального запуска через llama.cpp и совместимые приложения, в том числе на устройствах Apple при наличии достаточных ресурсов. Размер контекста в README не указан. К заявленным сильным сторонам относятся улучшенная способность к рассуждению по сравнению с исходной s1 и возможность test-time scaling с помощью budget forcing. В приведённых оценках модель показывает 95,4% на MATH500, 63,6% на GPQA-Diamond, 60,0% на AIME2025 I и 56,7% на AIME2024; результаты получены с применением budget forcing, поэтому они могут не отражать стандартный режим использования. Ограничения включают отсутствие данных о поддерживаемых языках помимо английского, модальностях помимо текста, размере контекста, требованиях к памяти и производительности. Лицензия — Apache-2.0.

SmolLM2-1.7B-Instruct — компактная языковая модель Hugging Face на 1,7 млрд параметров, дообученная на базе HuggingFaceTB/SmolLM2-1.7B. Это плотный Transformer-декодер семейства Llama для генерации текста и диалогов; модель поддерживает контекст до 8192 токенов и рассчитана на запуск на устройстве. Версия Instruct прошла supervised fine-tuning и Direct Preference Optimization. Она предназначена для следования инструкциям, переписывания и суммаризации текста, а также вызова функций. Модель ориентирована прежде всего на английский язык; репозиторий содержит веса Safetensors и формат ONNX. Лицензия — Apache-2.0. По сравнению с предыдущей версией семейства улучшены следование инструкциям, знания, рассуждения и математика, однако ответы могут содержать фактические ошибки, быть логически непоследовательными или отражать смещения обучающих данных. Важную информацию следует проверять; модель не заменяет экспертную оценку.

Gille/StrangeMerges_10-7B-slerp — языковая модель, созданная слиянием flemmingmiguel/MBX-7B-v3 и Gille/StrangeMerges_9-7B-dare_ties методом slerp с помощью LazyMergekit. Это плотная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленная длина контекста — до 32 768 токенов. В карточке приведены результаты Open LLM Leaderboard, включая показатели на AI2 Reasoning Challenge и HellaSwag. Модель подходит для генерации ответов и рассуждений по текстовым запросам. Данные не подтверждают специализацию на конкретном языке или прикладной области. Репозиторий распространяется по лицензии Apache-2.0.

ZEUS 8B V2 — объединённая языковая модель, созданная разработчиком T145 методом DARE TIES с помощью mergekit. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct, а также включены Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B и Llama-3.1-8B-Lexi-Uncensored-V2. Модель имеет плотную архитектуру Llama 3.1 с 7,5 млрд параметров, принимает текст и генерирует текст; поддерживает диалоги и интерфейс вызова инструментов. Длина контекста — до 131 072 токенов. Модель предназначена для генерации текста, диалогов и ролевого общения. В README приведены результаты Open LLM Leaderboard: средний балл 30,07 и 80,29 на IFEval; эти результаты относятся к указанной версии оценки. Для запуска автор рекомендует параметры генерации, а также приводит рекомендацию по квантизации i1-Q4_K_M. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и поддерживаемых естественных языках в предоставленных источниках отсутствуют.

Agnes-3.0-Flash-abliterated — независимая модификация модели Agnes AI, выпущенная 0xKitkat под лицензией Apache-2.0. Это плотная мультимодальная модель примерно на 33,1 млрд параметров с архитектурой AgnesForConditionalGeneration; сохранены исходные веса зрительной башни и все 72 блока декодера. Модель принимает текст и изображения и предназначена для диалога, генерации текста, анализа изображений и работы с инструментами через интерфейс tool calling. Автор изменил текстовые эмбеддинги и выходные матрицы остаточных связей, применив проекцию контрастного направления, выбранного на разделённых наборах вредных и безвредных запросов. Изменение направлено на снижение отказов в ответах; проверки автора показывают, что эвристика по префиксу отказа не обнаруживает все отказы, а функциональные проверки невелики и не заменяют комплексную оценку. Для нативных весов указана рекомендация использовать GPU с 80 ГБ памяти или больше; доступны варианты GGUF для более скромного оборудования. Видео, длинный контекст, режим рассуждений и вызов инструментов не оценивались исчерпывающе.

Это квантованные версии большой языковой модели Command A Plus, разработанной CohereLabs. Карточка содержит сборки в формате GGUF, подготовленные bartowski с использованием llama.cpp и метода imatrix на основе исходной модели CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста, диалоговых и чат-сценариев, а также локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель поддерживает английский, русский и широкий набор других языков, включая арабский, китайский, японский, корейский, испанский, французский, немецкий, португальский, украинский и вьетнамский. Архитектура, точное число параметров, модальности и размер контекста в README не указаны. Доступны варианты квантования от Q3 и IQ3 до Q8_0 размером примерно от 102 до 232 ГБ; более высокие уровни квантования обычно сохраняют лучшее качество, но требуют больше памяти. Сборки рассчитаны на локальный inference, однако для новых моделей может потребоваться обновление используемого ПО. Сильной стороной является большой выбор квантованных вариантов с разным компромиссом между качеством и требованиями к памяти, включая рекомендованные Q4, Q5 и Q6-сборки. Ограничения — значительный объём файлов и отсутствие в карточке подробных сведений о производительности, тестах, архитектуре и контекстном окне. Указана лицензия Apache-2.0.

jaspionjader/ek-2 — слитая языковая модель на архитектуре Llama, созданная разработчиком jaspionjader с помощью mergekit. В слиянии методом Model Stock использованы ek-1, Kosmos-EVAA-Franken-stock-v42-8B и Kosmos-EVAA-Franken-Immersive-v41-8B; базовая модель — jaspionjader/kstc-5-8b. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors, с весами bf16, согласно конфигурации слияния в README. Лицензия в предоставленных данных не указана.

Это дообученная компанией Austin Patrick на базе BAAI/bge-small-en-v1.5 модель Sentence Transformer для представления предложений и абзацев в виде плотных векторов. Архитектура основана на BERT; модель содержит около 40 млн параметров, выдаёт эмбеддинги размерности 384 и обрабатывает последовательности длиной до 512 токенов. Для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. В примерах обучающих данных пары вопросов и фрагментов документации, что подходит для поиска ответов по документам и информационного поиска. Модель англоязычная и принимает текст, возвращая векторные представления; также может применяться для извлечения признаков. В README приведены результаты оценки информационного поиска, включая точность cosine_accuracy@1 0,6682 и @5 0,9119. Карточка не содержит сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя.

RedHatAI/gemma-3-4b-it-FP8-dynamic — это динамически квантизированная версия мультимодальной модели google/gemma-3-4b-it, разработанная Neural Magic. Модель принимает текст и изображения, а генерирует текст; заявленный язык — английский. Она предназначена для задач понимания изображений, визуально-текстового диалога и обычной генерации текста. Модель основана на архитектуре gemma-3-4b-it и содержит около 4 миллиардов параметров. Веса и активации квантизированы в формат FP8, что снижает требования к памяти и может повысить эффективность инференса при сохранении близкого к исходной модели качества. Для развертывания заявлена совместимость с vLLM версии 0.5.2 и новее, включая OpenAI-совместимый режим сервинга. В тестах OpenLLM v1 средний результат составил 64,69% против 64,70% у исходной модели, а на указанных vision-бенчмарках — 44,97% против 45,33%. Сильная сторона модели — сочетание текстовых и визуальных возможностей с эффективным FP8-инференсом и минимальной потерей качества относительно базовой модели. Ограничения включают заявленную ориентацию на английский язык, зависимость от совместимого стека vLLM и возможное влияние квантизации на отдельные задачи; подробные сведения о максимальном контексте и полном наборе поддерживаемых языков не указаны. Модель распространяется по лицензии Apache 2.0.

nypgd/gemma-4-e2b-assistant-vllm — дообученная разработчиком nypgd мультимодальная модель семейства Gemma 4 на базе unsloth/gemma-4-E2B-it. Она предназначена для диалогов с текстом и изображениями; каталог также отмечает интерфейс вызова инструментов. Модель представлена в формате safetensors и обучалась с использованием Unsloth и библиотеки TRL. Модель подходит для вопросов по изображениям и документам, а также для ассистентских сценариев с подключением инструментов. В карточке не приведены сведения о размере, длине контекста и конкретных языковых возможностях; метаданные указывают английский язык. Лицензия — Apache-2.0.

Карточка модели modulon-labs/K2-Horizon-7B-GDN-Hybrid-Exp на Hugging Face совпадает с карточкой TFM-ML/K2-Horizon-7B-GDN-Hybrid-Exp, поэтому описание составлено по ней. TFM-ML выпустила экспериментальную плотную языковую модель K2-Horizon-7B-GDN-Hybrid-Exp на основе IFM/K2-Horizon-7B. Она предназначена для генерации текста и диалогов с длинным контекстом. В 36-слойной архитектуре чётные слои используют Gated DeltaNet, а нечётные сохраняют исходное full attention; параметры GDN инициализированы из весов внимания и дистиллированы на базе исходной модели. Модель содержит 8 млрд параметров и поддерживает контекст до 524 288 токенов. Замена половины слоёв full attention на GDN сокращает объём KV-кэша на токен вдвое, до 73 728 байт; на последовательность также требуется около 19 МиБ состояния GDN в bf16. Модель предназначена для сценариев, где важна экономия памяти при работе с длинными последовательностями, однако авторы предупреждают о снижении качества в задачах рассуждения. Для запуска требуется transformers с custom code и параметром trust_remote_code=True; автор протестировал версию transformers 5.17.0. Лицензия — Apache-2.0.

Llama-3.1-8B-Magpie-Align-SFT-v0.1 — языковая модель, созданная проектом Magpie-Align путём дообучения Meta Llama 3.1 8B. Для обучения использованы наборы Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K; модель предназначена для диалогов и выполнения инструкций, включая задачи рассуждения. Она основана на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и имеет контекст длиной до 131 072 токенов. Модель работает с текстом и рассчитана прежде всего на английский язык. Авторы сообщают о результатах, сопоставимых с Llama-3.1-8B-Instruct при обучении только методом SFT; среди приведённых оценок — 24,79 LC и 25,05 WR на Alpaca Eval 2, а также 21,0 на Arena Hard. Для лучшего качества рекомендуется официальный шаблон чата Llama 3. Ограничения включают унаследованные от базовой модели возможные ошибки и ненадёжность ответов; результаты зависят от формулировки запроса. Лицензия — Meta Llama 3.1 Community License для модели; README также указывает на условия Meta Llama 3 Community License для данных.

MiniCPM5-2B-i1-GGUF — набор GGUF-квантизаций базовой модели openbmb/MiniCPM5-2B, разработанной командой OpenBMB. Квантизацию выполнил mradermacher; представлены варианты с imatrix-квантизацией, рассчитанные на запуск локально, в том числе на устройствах с ограниченными ресурсами. Модель предназначена для генерации и обработки текста, сценариев с длинным контекстом и, согласно тегам, вызова инструментов. Заявлены английский и китайский языки. Размер базовой модели — 2 млрд параметров; точная архитектура и максимальная длина контекста в README не указаны. Доступны варианты от i1-IQ1_S до i1-Q6_K размером примерно от 0,8 до 2,2 ГБ, что позволяет выбирать компромисс между размером, скоростью и качеством. Сильная сторона набора — широкий выбор компактных квантизаций для локального и периферийного использования; для части вариантов указаны рекомендации по соотношению размера, скорости и качества. Ограничения зависят от уровня квантизации: самые компактные варианты могут заметно терять в качестве, а отдельные варианты прямо обозначены как низкокачественные. Лицензия модели — Apache-2.0.

miqu-1-103b — экспериментальная текстовая языковая модель, созданная Wolfram методом слияния mergekit: слои модели miqu-1-70b-sf интерливированы, чтобы получить вариант на 103 млрд параметров с 120 слоями. Модель предназначена для генерации текста и диалогов; используется шаблон запросов Mistral. Максимальный контекст — 32 768 токенов. Карточка указывает английский, немецкий, французский, испанский и итальянский языки. Модель опубликована в формате safetensors и доступна также в отдельных квантованных сборках GGUF и EXL2. README отмечает, что исходные веса были утекшими; лицензия в метаданных обозначена как other, поэтому условия правового использования следует проверять отдельно.

Ministral-3-14B-Reasoning-2512-GGUF — это GGUF-квантизированная версия модели Ministral-3-14B-Reasoning-2512, разработанной Mistral AI и подготовленной для распространения пользователем bartowski. Модель предназначена для локального запуска задач генерации текста и мультимодального взаимодействия с изображениями, что отражено в типе конвейера image-text-to-text. Для работы используются llama.cpp и совместимые приложения, включая LM Studio. Модель имеет размер 14B параметров; в каталоге представлены варианты от BF16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Квантизация с использованием imatrix позволяет уменьшить требования к памяти при сохранении качества, однако более компактные варианты могут уступать исходным весам по точности. Поддерживаются английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки. Архитектура, размер контекста и точный формат подсказок в README не указаны. Сильными сторонами являются возможность локального запуска, широкий выбор компромиссов между качеством и объёмом файлов, а также поддержка текста и изображений. Ограничения включают зависимость от совместимого runtime llama.cpp и отсутствие в README подробных сведений о возможностях рассуждения, результатах оценки, контекстном окне и рекомендованных шаблонах запросов. Модель и её квантизированные варианты распространяются по лицензии Apache-2.0.