II.1Анализ требований и архитектура ПО

MisGemma-7B — объединённая языковая модель, созданная автором репозитория с помощью mergekit из EmbeddedLLM/Mistral-7B-Merge-14-v0.1 и HuggingFaceH4/zephyr-7b-beta методом slerp. Это плотная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Размер контекста — до 32 768 токенов. Модель можно применять для ведения диалога и генерации ответов на текстовые запросы. В репозитории веса сохранены в формате safetensors; указана лицензия Apache-2.0. Карточка не приводит оценок качества или результатов тестирования, поэтому пригодность для конкретных задач следует проверять отдельно.

CorticalStack/mistral-7b-alpaca-sft — модель генерации текста на базе Mistral, дообученная методом supervised fine-tuning на наборе yahma/alpaca-cleaned. В README указана LoRA-конфигурация с r=256, alpha=128 и dropout=0; метаданные описывают плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации ответов и инструкционно-ориентированного диалога по текстовым запросам. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. В README базовой моделью названа unsloth/mistral-7b-bnb-4bit; подробности о качестве и результатах оценки не приведены.

wang7776/Mistral-7B-Instruct-v0.2-sparsity-10 — разреженная версия инструктивной языковой модели Mistral-7B-Instruct-v0.2, созданная методом Wanda с целевой разреженностью 10% без дообучения или обновления весов. Базовая модель разработана Mistral AI; в карточке перечислены участники команды Mistral AI. Это плотный трансформер Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по инструкциям и диалогового общения. В README указан формат запросов с маркерами [INST] и [/INST]; метаданные отмечают поддержку чата. Модель опубликована в формате safetensors по лицензии Apache-2.0. README предупреждает, что у базовой инструктивной модели нет механизмов модерации; качество и поведение разреженной версии отдельно не описаны.

ehristoforu/Mistral-7B-Instruct-v0.3-pruned — это созданная с помощью mergekit модель на архитектуре Mistral, полученная методом passthrough из частей mistralai/Mistral-7B-Instruct-v0.3. В конфигурации объединения сохранены слои 0–20 и 29–31; итоговая модель содержит 5,4 млрд параметров и распространяется в формате safetensors. Модель предназначена для диалогов и генерации текста по инструкциям. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указана библиотека Transformers. Сведения о поддерживаемых естественных языках и лицензии в предоставленных источниках отсутствуют. Это производная от инструктивной модели Mistral AI, но в README описано удаление части слоёв, а не обычное дообучение. Поэтому её характеристики качества и совместимость с ожидаемыми шаблонами Mistral следует проверять на конкретных задачах.

akjindal53244/Mistral-7B-v0.1-Open-Platypus — инструкционно дообученная языковая модель на архитектуре Mistral, созданная на основе набора данных Open-Platypus. Она предназначена для генерации текста и ответов на инструкции и вопросы. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. В карточке приведены результаты оценки на Open LLM Leaderboard, включая ARC и HellaSwag. Модель распространяется в формате PyTorch по лицензии Apache-2.0. README не уточняет поддерживаемые языки и ограничения качества; результаты оценки не гарантируют точность ответов в конкретных сценариях.

KnutJaegersberg/MistralInstructLongish — дообученная инструкция-модель семейства Mistral, созданная автором KnutJaegersberg. Модель обучалась около трёх эпох на объединении нескольких наборов инструкций, включая часть более длинных инструкций, и рассчитана на генерацию ответов в формате Alpaca с разделами Instruction, необязательным Input и Response. Это плотная причинная языковая модель MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов. Она предназначена для следования инструкциям и генерации текста; в карточке приведены результаты оценки на Open LLM Leaderboard, включая среднее значение 48,99, ARC и HellaSwag. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает языки обучения, поэтому языковую специализацию нельзя установить. Результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах; данных о дополнительных ограничениях или проверках безопасности нет.

Mistralpaca-7B — языковая модель на 7,1 млрд параметров, созданная Mistral AI и дообученная mlabonne методом supervised fine-tuning для следования инструкциям. Она основана на Mistral-7B-v0.1 и обучена на наборе vicgalle/alpaca-gpt4; метаданные также связывают её с yahma/alpaca-cleaned. Модель предназначена для генерации текста и ответов на пользовательские инструкции в диалоговых и прикладных сценариях. Модель использует плотную архитектуру Mistral для причинной генерации текста; заявленная длина контекста — 32 768 токенов. Доступны веса в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специализации на конкретных областях или языках, поэтому языковые возможности и качество ответов на отдельных языках не следует считать подтверждёнными.

MysticGem-v1.3-Guanaco-L2-13B — объединённая текстовая языковая модель на базе Llama 2, подготовленная автором репозитория v000000 с помощью mergekit. В линейное слияние вошли v000000/MysticGem-v1.3-L2-13B и Mikael110/llama-2-13b-guanaco-qlora; в README также сказано, что к MysticGem 1.3 применялась LoRA. Архитектура — плотная LlamaForCausalLM, размер — 12,9 млрд параметров, родной контекст — 4096 токенов. Модель предназначена для генерации текста и диалогового использования с шаблонами запросов Alpaca и Metharme. В репозитории доступны веса Safetensors; README упоминает также варианты GGUF и GGUF imatrix, подготовленные mradermacher. Язык лицензии и условия использования в предоставленных данных не описаны.

NeuralArjuna-7B-DT — плотная языковая модель семейства Mistral на 7,1 млрд параметров, созданная Kukedlc путём слияния пяти моделей с помощью LazyMergekit. Она предназначена для генерации текста и может использоваться в задачах, где нужно получать продолжения или ответы на текстовые запросы. В карточке приведены результаты Open LLM Leaderboard: среднее значение 76,58, AI2 Reasoning Challenge — 73,12, HellaSwag — 88,97; описание не уточняет протокол оценки для остальных метрик. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Для модели указана лицензия Apache-2.0. Карточка не сообщает, на каких языках она специально обучена, поэтому языковые возможности и языковые ограничения нельзя уточнить.

NeuralsirkrishnaShadow_Experiment27Inex12 — слитая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжения текста. Модель поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0.

NeuralsirkrishnaShadow_Strangemerges_32Shadow — объединённая модель семейства Mistral от MaziyarPanahi, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/Strangemerges_32Shadow-7B. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров для генерации текста; контекст поддерживает до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы в приложениях, которым нужна языковая модель общего назначения. Она распространяется в формате safetensors по лицензии Apache-2.0. Доступные сведения не описывают специальную настройку под отдельные языки или предметные области, а также не приводят оценок качества.

funeedev/new-ai — генеративная языковая модель для создания текста, опубликованная на Hugging Face. Модель предназначена для задач text-generation и может использоваться в приложениях, где требуется продолжение или генерация текстовых последовательностей. Модель основана на архитектуре семейства Llama и поддерживает работу через библиотеку Transformers. Объём модели составляет 3,2 млрд параметров, а заявленная длина контекста — до 131 072 токенов. Поддерживаемые естественные языки и сведения о разработчике в доступных данных не указаны. Модель может применяться для генерации черновиков, продолжения текста, диалоговых прототипов и других сценариев, построенных на авторегрессионной генерации. README не содержит данных о лицензии, обучающих данных, результатах оценки или специальных ограничениях использования, поэтому перед внедрением необходимы дополнительная проверка качества и анализ условий распространения.

RLLab/olmo-3-1025-7b — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. Модель поддерживает сценарии диалогового взаимодействия и относится к классу моделей text-generation. Модель содержит около 6,9 млрд параметров и поддерживает контекст длиной до 65 536 токенов, что позволяет работать с длинными запросами и документами. По доступным данным, она может применяться для генерации ответов, продолжения текста, составления черновиков и других задач, основанных на порождении текста. Карточка модели не содержит сведений о разработчике, лицензии, языках обучения, датасетах, результатах оценки и конкретных рекомендациях по применению. Поэтому качество, безопасность и пригодность модели для специализированных или критически важных задач требуют самостоятельной проверки.

OpenSonnet-Lite — компактная языковая модель с открытыми весами, разработанная сообществом Open Source и дообученная на основе Qwen/Qwen3-4B-Thinking-2507. Это плотная причинная модель семейства Qwen3 с 3,7 млрд параметров по метаданным. Она предназначена для генерации текста и пошаговых рассуждений; исправленный шаблон чата поддерживает связное рассуждение в многоходовых диалогах. В README заявлена близкая к Claude Sonnet 4.6 производительность на задачах рассуждения, однако независимые результаты оценки не приведены. Модель рассчитана на повседневное использование, в том числе на ограниченных ресурсах; для демонстрационного запуска автор указывает две GPU T4. В README приведены рекомендации по длине генерации от нескольких тысяч до 131 072 токенов, а метаданные указывают нативный контекст 262 144 токена. Обучение включало около 140 тысяч отфильтрованных примеров из наборов данных с рассуждениями разных моделей. Модель принимает текст и генерирует текст; конкретный перечень поддерживаемых естественных языков не установлен. Модель может галлюцинировать, особенно на узких темах и при работе с актуальными фактами. README также предупреждает о возможном наследовании предвзятости источников данных и отсутствии встроенного фильтра безопасности или специального аудита. Лицензия — Apache-2.0.

Ornstein-27B-v2-i1-GGUF — это квантованная версия модели Ornstein-27B-v2, разработанной DJLougen и преобразованной в формат GGUF пользователем mradermacher. Модель относится к семейству Qwen3.5 и предназначена для локального запуска с использованием совместимых инструментов, поддерживающих GGUF. По данным карточки, модель ориентирована на диалоговые сценарии, рассуждения и задачи image-text-to-text, то есть может работать с текстом и изображениями. Заявлен английский язык. Размер исходной модели составляет 27B параметров, однако сведения о точной архитектуре, максимальной длине контекста и фактическом наборе поддерживаемых модальностей в карточке не приведены. Репозиторий содержит набор вариантов квантования с разными компромиссами между размером, скоростью и качеством: от примерно 7,2 до 22,2 ГБ. В частности, Q4_K_M отмечен как быстрый и рекомендуемый вариант, а Q4_K_S — как оптимальный по сочетанию размера, скорости и качества; наиболее низкие уровни квантования могут заметно снижать качество ответов. Условия использования унаследованы от указанной лицензии Apache-2.0.

Pegasus-7b-slerp — текстовая диалоговая модель, созданная AurelPx слиянием моделей ammarali32/multi_verse_model и eren23/dpo-binarized-NeutrixOmnibe-7B методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста и ответов в диалоге. Модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Веса объединены в типе bfloat16; лицензия — Apache-2.0. Карточка не приводит сведения о специализированных областях или языках, поэтому модель следует рассматривать как универсальную текстовую модель. Качество и поведение при конкретных задачах зависят от запроса и выбранной среды запуска.

q36 — диалоговая языковая модель на архитектуре Qwen3, опубликованная пользователем tjcrims0n. Это полноразмерный экспорт весов после слияния LoRA-адаптера, полученного в эксперименте Annihilate trial 71, с дообученной базовой моделью khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled. Модель содержит 3,7 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 262 144 токена. Модель предназначена для диалоговых ответов и генерации текста, в том числе для задач с рассуждениями, унаследованных от базовой модели. В README указаны нулевые отказы в шести проверках, но этого недостаточно для выводов о надёжности или безопасности ответов. Веса сохранены в формате Safetensors с точностью bfloat16 и доступны по лицензии Apache-2.0.

Q3.6-27B-DS-v4-Flash-DA-GGUF — экспериментальная GGUF-версия модели, разработанная prithivMLmods. В её основе — Qwen/Qwen3.6-27B и производная prithivMLmods/Qwen3.6-27B-abliterated-rMAX; модель дополнительно обучалась на дистиллированных рассуждениях DeepSeek V4 Flash с применением анализа и абляции направлений отказа. Заявленная цель — улучшить подробное контекстное рассуждение и следование инструкциям при снижении внутренних механизмов отказа. Модель предназначена для генерации текста, исследовательских и учебных экспериментов, а также сценариев, где важны рассуждение и развёрнутые ответы. В репозитории представлены варианты в форматах BF16, F16 и различных степенях квантования Q2_K–Q8_0; размеры файлов составляют примерно от 10,7 до 53,8 ГБ. В метаданных указан английский язык. Также доступны файлы mmproj, что указывает на заявленную поддержку мультимодального режима, однако подробности о поддерживаемых модальностях, размере контекста и фактических возможностях обработки изображений не приведены. К сильным сторонам относятся фокус на reasoning, контекстно-зависимые ответы и instruction following. Ограничения включают экспериментальный статус, возможное появление артефактов и сниженные механизмы отказа, из-за чего модель может генерировать чувствительный или неограниченный контент. Использование заявлено для исследований и обучения; модель распространяется по лицензии Apache-2.0.

Модель zetasepic/Qwen2.5-72B-Instruct-abliterated — версия Qwen2.5-72B-Instruct, обработанная методом Abliterated с использованием кода из проекта refusal_direction. Это плотная языковая модель с 71,5 млрд параметров, предназначенная для диалогов и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Модель создана на основе Qwen/Qwen2.5-72B-Instruct. В README упоминается техника Abliterated, но не приводится её подробное описание или оценка качества. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория и базовой модели.

Theros/Qwen2.5-ColdBrew-R1-test — объединённая диалоговая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом Model Stock. В объединении использованы SvalTek/Qwen2.5-ColdBrew, bunnycore/Qwen-2.5-7B-R1-Stock и fblgit/cybertron-v4-qw7B-UNAMGS; базовой моделью и источником токенизатора указана SvalTek/Qwen2.5-ColdBrew. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает диалоговый сценарий и имеет контекст до 131072 токенов. Она предназначена для генерации ответов и ведения текстовых диалогов. В карточке не приведены результаты сравнительных оценок качества, поэтому пригодность для конкретных задач следует проверять отдельно. Файлы представлены в формате safetensors, библиотека — Transformers; лицензия в доступных данных не указана.

Qwen2.5-MOE-2X7B-DeepSeek-Abliterated-UNCensored-19B-gguf — текстовая generative-модель от DavidAU, основанная на архитектуре Qwen2.5 MOE и объединяющая два 7B-компонента DeepSeek/Qwen 2.5: обычный и abliterated (в основном uncensored) варианты. За счёт shared expert итоговый размер составляет немного более 19 млрд параметров. Модель распространяется в формате GGUF и предназначена для генерации текста. Модель ориентирована на универсальное применение: рассуждения и «thinking», решение математических и логических задач, мозговой штурм, ответы на вопросы, создание историй, сюжетов и другого художественного текста. Она поддерживает английский и китайский языки, имеет контекстное окно 128k токенов и, по описанию автора, особенно склонна к математическим, логическим и научным задачам. Архитектура MOE обеспечивает необычное поведение и потенциально более сильное рассуждение по сравнению с отдельной 7B-моделью, но модель не обязательно превосходит полноценные 14B- или 32B-модели. К сильным сторонам относятся широкий диапазон рабочих температур, способность сохранять рассуждение при различных настройках sampling и сочетание reasoning с творческой генерацией. Ограничения включают возможное появление китайских символов при англоязычных запросах, нестабильность рассуждений на высоких температурах и заметную вариативность ответов; для сложных задач может потребоваться несколько генераций или разбиение задачи на этапы. Для корректной работы требуется использовать встроенный Jinja Template, предпочтительно DeepSeek Tokenizer; рекомендуются контекст от 8k токенов и квантизации IQ4/Q4 или выше. Модель распространяется по лицензии Apache-2.0.

DavidAU выпустил эту диалоговую модель на основе Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated, дообучив её с помощью Unsloth на наборе TeichAI/claude-4.5-opus-high-reasoning-250x. Это генеративная языковая модель семейства Qwen3 MoE: всего около 30 млрд параметров, из которых активны примерно 3 млрд; метаданные каталога указывают 2,6 млрд параметров. Архитектура использует 128 экспертов, обычно активируя 8 за раз. Модель предназначена для диалогов, следования инструкциям и генерации ответов с рассуждениями. Автор отмечает, что блоки рассуждений обычно короче, чем у исходной Qwen, и что модель стремится реже отказывать, в том числе при запросах на взрослый или откровенный контент. Для таких ответов может потребоваться явно задать желаемый стиль и лексику. Заявленные автором результаты на бенчмарках не сопровождаются полными данными в карточке, поэтому их нельзя считать независимой оценкой качества. Модель принимает и генерирует текст, рассчитана прежде всего на английский язык и поддерживает контекст до 262 144 токенов. Файлы репозитория представлены в формате safetensors; указана лицензия Apache-2.0.

Qwen3-4B-Kimi2.5-Reasoning-Distilled-GGUF — языковая модель для генерации текста и структурированного рассуждения, разработанная khazarai. Она создана на основе Qwen3-4B-Thinking-2507 и дообучена методом дистилляции на данных, сгенерированных моделью Kimi-2.5-Thinking, с использованием Unsloth и QLoRA. Объём обучающего набора составляет 250 примеров и около 1,11 млн токенов. Модель предназначена для задач, требующих пошагового анализа, разбиения сложных проблем на этапы, самопроверки и подготовки подробных аналитических ответов. Она ориентирована на сочетание небольшого размера и сравнительно развитых возможностей рассуждения, поэтому может использоваться в сценариях локального запуска и приложениях, где важны умеренные требования к ресурсам. В метаданных указаны текстовая генерация и английский язык; сведения о поддерживаемой длине контекста и дополнительных модальностях отсутствуют. Модель распространяется в формате GGUF с вариантами BF16, Q8_0, Q6_K и Q4_K_M, различающимися размером, скоростью и качеством. Для Q4_K_M заявлен размер около 2,5 ГБ, для Q6_K — 3,3 ГБ, для Q8_0 — 4,2 ГБ, для BF16 — 8 ГБ. В README приведён результат 76,09 из 100 на khazarai/Multi-Domain-Reasoning-Benchmark, однако независимые результаты и подробная методика оценки не указаны. Ограничениями являются небольшой объём модели по сравнению с крупными системами и отсутствие данных о длине контекста, мультиязычности и типичных ошибках. Лицензия — Apache-2.0.

Qwen-3.5-4B-Auto-ASVD — структурно факторизованная и дообученная языковая модель Kodjaoglanian на основе Qwen/Qwen3.5-4B. Она предназначена для генерации текста и диалогов; архитектура — плотная причинная Transformer-модель Qwen3.5 с гибридными слоями внимания и Gated DeltaNet. Веса сохранены в bfloat16, размер модели — 3,4 млрд параметров, длина контекста — до 262 144 токенов. При сокращении структуры автор применил Hessian-aware оценку чувствительности, Activation-Aware SVD и последующее восстановительное LoRA-дообучение на Wikitext-2. По README, факторизованы 64 матрицы проекций, а общее число параметров уменьшено примерно на 6,86% относительно целевых матриц; адаптеры объединены с весами, поэтому отдельный адаптер и специальные инференс-ядра не требуются. Модель использует стандартный интерфейс причинной языковой модели через Transformers. Карточка указывает английский язык. Базовая модель семейства Qwen описана как мультимодальная, но для этого репозитория подтверждены только текстовая генерация и чат, поэтому возможности понимания изображений или вызова инструментов не следует считать установленными. README предупреждает о возможном снижении качества на медицинских, юридических и специализированных задачах без дополнительной настройки. Лицензия — Apache-2.0.

Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-v2 — модель, разработанная Jackrong на базе Qwen/Qwen3.5-4B. Это вторая версия reasoning-ориентированной дообученной модели, созданная с использованием SFT и LoRA через Unsloth на более чем 14 000 образцов рассуждений в стиле Claude 4.6 Opus. Модель не является Claude, а использует дистиллированные шаблоны рассуждений. Модель предназначена для математики, текстовых задач, логического вывода, общих знаний, выполнения инструкций и переноса рассуждений на программирование и другие многошаговые задачи. Основной акцент сделан на экономичности reasoning: по сравнению с официальной Qwen3.5-4B модель формирует более короткие и структурированные цепочки рассуждений, что может снижать задержку и расходы инференса в локальном использовании и агентских сценариях. Указана поддержка английского, китайского и корейского языков; в метаданных также заявлен pipeline image-text-to-text, однако подробности мультимодальных возможностей и размер контекстного окна не приведены. Ключевое ограничение — компромисс между эффективностью рассуждений и максимальной точностью: по приведённым данным, официальная Qwen3.5-4B превосходит эту версию по абсолютным результатам HumanEval и HumanEval+, хотя v2 требует существенно меньше символов рассуждений на один успешный результат. Модель распространяется по лицензии Apache-2.0.

Youssofal/Qwen3.8-27B-MTPLX-Bare-Speed — это 4-битная quantized-версия Qwen/Qwen3.8-27B, подготовленная разработчиками MTPLX для быстрого локального запуска на компьютерах Mac с Apple Silicon. Модель предназначена для диалогов, генерации текста и кода, а также сценариев локального использования через MTPLX Mac app или командный интерфейс. Сохранённая встроенная голова multi-token prediction позволяет применять speculative decoding и ускорять генерацию примерно в два-три раза по сравнению с обычным декодированием. Модель использует MLX-пакет с 4-битными матрицами весов и группами по 64 значения; свёрточные ядра GDN, параметры рекуррентного состояния, нормализации и MTP-head хранятся в 16-битном формате. Глубина MTP составляет 3, контекстное окно — 262 144 токена, размер загрузки — 16 ГБ, пиковое потребление unified memory — около 17 ГБ. Указанные настройки sampling: temperature 1.0, top-p 0.95 и top-k 20; поддерживаются уровни reasoning effort xhigh, medium и low. Модель рассчитана на MacBook Pro, MacBook Air, Mac mini и Mac Studio с чипами M1–M5 и минимум 32 ГБ unified memory. Главное преимущество — высокая скорость генерации, особенно в коротких чат-сценариях: на MacBook Pro с M5 Max заявлено до 65,2 токена в секунду для coding-задачи и 32,4 токена в секунду при длинной генерации. Компромисс — более грубая 4-битная quantization: авторы README прямо указывают на более низкое качество и меньшую скорость на длинных задачах программирования по сравнению с вариантом Optimized Speed. Для M1 и M2 рекомендуется отдельная FP16-сборка. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Opus-Distill-GGUF — квантованная мультимодальная модель, разработанная barozp на базе Qwen3.8-27B. Исходная модель дообучена с помощью LoRA на 14 250 трассах рассуждений Claude Opus; адаптеры объединены с базовыми весами. Модель распространяется в формате GGUF для запуска через llama.cpp и предназначена для текстовых и визуально-текстовых задач, включая ответы на вопросы, анализ изображений и задачи, требующие рассуждений. Модель содержит 27 млрд параметров, встроенную vision tower и обученную MTP-голову для self-speculative decoding. Vision tower поставляется отдельно в виде файла mmproj размером около 0,9 ГБ. Доступны варианты от BF16 и Q8_0 до крайне низкоразрядных IQ-квантов; Q4_K_M рекомендован как сбалансированный вариант. Для IQ-квантов используется importance matrix, рассчитанная на данных рассуждений. Точные сведения о поддерживаемых языках и размере контекста в README не указаны. Сильной стороной является улучшение показателей на задачах рассуждений: в описанном тестировании прирост относительно базовой модели составил 4,2 процентного пункта на ARC-Challenge и 26 пунктов на GPQA Diamond, при почти неизменных показателях общих знаний и языкового моделирования. Производительность MTP для этой конкретной модели не измерялась, поэтому приведённые оценки ускорения относятся к родственному Qwen3.6 и не гарантируют такой же результат. Известна проблема с зацикливанием рассуждений при одновременном использовании ограничений «без прозы» и другого ограничения формата; рекомендуется избегать такой комбинации или увеличить лимит генерации. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями требуется отдельный файл mmproj; текстовые сценарии могут использовать модель без него.

Qwen3.8-4B-Empero-AI-FullStack-GGUF — это GGUF-квантизированная версия модели Qwen3.8-4B-Empero-AI-FullStack, разработанной iBotIA и опубликованной в квантизированном виде пользователем mradermacher. Модель относится к семейству Qwen3.5, имеет около 4 миллиардов параметров и предназначена для генерации текста и рассуждений, включая задачи full-stack разработки. Судя по описанию и тегам, модель ориентирована на работу с TypeScript, React Router v8, NestJS и Flutter. Заявлен английский язык. Модель поставляется в формате GGUF с вариантами квантизации от Q2_K до Q8_0, а также в формате f16; размеры файлов составляют примерно от 2,1 до 8,8 ГБ. В README не указана поддержка изображений или других модальностей, а размер контекста не раскрыт. Основное преимущество — возможность локального запуска с выбором баланса между размером, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант высокого качества, а Q8_0 — как наиболее качественный среди быстрых вариантов. Более агрессивная квантизация может снижать качество ответов, особенно в сложных задачах. Лицензия модели — Apache-2.0.

Qwen3.8-Flash-CIRU-STRIX-IU4 — специализированная сборка семейства Qwen3.8-Flash-Next, разработанная проектом CIRU при участии Peonist.ai и pwilkin. Модель распространяется в формате GGUF и предназначена для локального запуска на компьютерах с AMD Strix Halo, в частности с 128 ГБ памяти и графикой Radeon на базе Ryzen AI Max 395. Она ориентирована на генерацию текста с длинным контекстом, работу через OpenAI-совместимый API, веб-интерфейс и обработку изображений. Сборка использует архитектуру mixture-of-experts, поддержку vision и image-text-to-text, а также MTP для speculative decoding. В неё включены оптимизации предварительной обработки, кэширования, внимания и GPU-исполнения под AMD ROCm; заявлена возможность работы с контекстами до 256K и отдельные измерения для предварительной обработки до 512K токенов. README не указывает точное число параметров, перечень языков и полную спецификацию модальностей. Сильные стороны модели — высокая скорость локального инференса на совместимых системах, эффективная обработка длинного контекста, поддержка изображений и интеграция с локальными серверными сценариями. Ограничения включают жёсткую зависимость от специализированного CIRU runtime и подходящей AMD-платформы: стандартные llama.cpp и размещённый inference Hugging Face не поддерживаются. Для vision и MTP требуется версия runtime с исправлением v4.4.1; приведённые в README показатели производительности относятся к конкретной тестовой конфигурации и не гарантируют такие же результаты на другом оборудовании. Лицензия указана как other с названием qwen-community-1.0; ссылка ведёт на файл LICENSE. Условия использования следует уточнять по этому файлу.

arcee-ai/sec-mistral-v2-Hercules — объединённая модель на основе двух предобученных языковых моделей, созданная методом SLERP с помощью mergekit. В состав вошли arcee-ai/sec-mistral-7b-instruct-1.6-epoch и Locutusque/Hercules-4.0-Mistral-v0.2-7B; конфигурация использует первый репозиторий как базовую модель. Это плотная Mistral-модель с архитектурой MistralForCausalLM и 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors через Transformers. Модель подойдёт для создания чат-ботов, генерации ответов и продолжения текста. Карточка не описывает отдельную специализацию по языкам или прикладным областям. Лицензия в предоставленных данных не указана.