II.4Отладка, тестирование и качество ПО

Карточка модели emee-ai/Qwen3-Embedding-4B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

QWQ-500M — дообученная модель prithivMLmods на базе Qwen2.5-0.5B-Instruct, предназначенная для генерации текста, диалогов и рассуждений при решении сложных задач. Она построена на плотной архитектуре Qwen2 и содержит 494 млн параметров; для работы используется библиотека Transformers, веса доступны в формате Safetensors, лицензия — Apache-2.0. Модель подходит для создания длинных ответов, пошаговых объяснений и структурированных данных, включая JSON и таблицы. В карточке заявлена поддержка более 29 языков; метаданные указывают английский. В README заявлено контекстное окно до 128 тысяч токенов и генерация до 8 тысяч токенов, тогда как метаданные указывают нативный контекст 32 768 токенов.

Rombo-LLM-V3.0-Qwen-72b — плотная языковая модель семейства Qwen2 от Rombo-Org, созданная продолжительным дообучением Rombo-LLM-V2.5-Qwen-72b на наборах данных для рассуждений и обычных ответов. Она предназначена для генерации текста в диалогах и задач, где полезны пошаговые рассуждения; автор рекомендует использовать системный промпт, на котором модель обучалась для режима рассуждений, и температуру 0,4. Модель содержит 71,5 млрд параметров, рассчитана на контекст до 32 768 токенов, использует формат Safetensors и поддерживает интерфейс вызова инструментов. Автор заявляет о высокой эффективности, в том числе при 4-битном квантовании, однако в карточке нет опубликованных результатов оценки. Модель лицензирована по Apache-2.0.

Карточка модели ddriscoll/stingray-dense-LoRA на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

StrangeMerges_11-7B-slerp — объединённая языковая модель на архитектуре Mistral, созданная Gille с помощью LazyMergekit. Модель объединяет Gille/StrangeMerges_10-7B-slerp и mlabonne/NeuralBeagle14-7B методом SLERP; конфигурация использует слои 0–31 обеих моделей и тип данных bfloat16. Модель предназначена для генерации текста, включая диалоговые ответы, следование инструкциям, рассуждения и творческое письмо. Она содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. В README приведены результаты отдельных тестов Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. README не указывает языковой охват или дополнительные ограничения модели.

T3qm7xNeuralsirkrishna_Experiment26Yamshadow — объединённая языковая модель семейства Mistral, созданная путём слияния automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment26Yamshadow-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache 2.0. Данные карточки не описывают специализацию по языкам или предметным областям, поэтому её следует рассматривать как модель общего назначения.

Zamba2-7B-Instruct-v2 — диалоговая языковая модель Zyphra, полученная дообучением Zamba2-7B на наборах инструкций и чатов. Она предназначена для генерации ответов, следования инструкциям и решения общих задач, включая рассуждения и математику. Модель использует гибридную архитектуру: слои Mamba2 чередуются с разделяемыми слоями внимания Transformer. В README указан размер 7,36 млрд параметров, а метаданные каталога — 16,8 млрд; источники расходятся, поэтому точный размер не приводится. Базовый контекст — 4096 токенов; в README описано расширение до 16 тысяч токенов через настройку частоты RoPE. Модель принимает текст и генерирует текст. README заявляет высокую скорость генерации и меньшие требования к памяти по сравнению с сопоставимыми трансформерными моделями, однако оптимизированные ядра Mamba2 нужны для снижения задержки и расхода памяти. Поддерживаемые естественные языки в источниках не перечислены. Для запуска рекомендуется Transformers с зависимостями mamba-ssm и causal-conv1d; без оптимизированных ядер ожидаются более высокая задержка и расход памяти. Лицензия — Apache-2.0.

MaziyarPanahi/zephyr-7b-sft-full-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста в ответ на инструкции и диалоговые запросы. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и alignment-handbook/zephyr-7b-sft-full; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов. Репозиторий распространяется в формате safetensors; лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или специальных ограничений применимости.

TuralBayev разработал axeron-verify-05weight как объединённую модель семейства Qwen2.5, созданную методом Task Arithmetic с помощью forgelm. В основе лежит Qwen/Qwen2.5-3B; при объединении использованы Qwen2.5-3B-Instruct и Qwen2.5-Coder-3B-Instruct. Модель имеет плотную архитектуру Qwen2ForCausalLM, содержит 3,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; поддержка интерфейса вызова инструментов указана в метаданных. Веса сохранены в формате safetensors, для вычислений использована точность bfloat16. Карточка не описывает отдельные области применения или языки; базовая модель Qwen2.5-3B-Instruct характеризуется каталогом как компактная многоязычная модель для выполнения инструкций и генерации текста, включая структурированные ответы. Лицензия в предоставленных данных не указана. Качество и специализация результата объединения отдельно не описаны, поэтому его пригодность для конкретных задач следует оценивать на соответствующих примерах.

Calcium-Opus-14B-Elite-Stock — объединённая диалоговая языковая модель от prithivMLmods на архитектуре Qwen2.5 с 14 млрд параметров. Она создана методом Model Stock с помощью mergekit на основе Calcium-Opus-14B-Elite и моделей Calcium-Opus-14B-Elite2, Elite3 и Elite4; веса доступны в формате safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, логических рассуждений, решения математических задач и пошагового объяснения решений. В README указано, что при подготовке использовались дообученная модель рассуждений и специализированные наборы данных. Модель поддерживает контекст до 131 072 токенов и рассчитана на текстовый ввод и текстовый вывод. В README приведены результаты Open LLM Leaderboard: среднее значение 36,49, IFEval — 61,43 и BBH — 46,90. Эти оценки характеризуют только указанные тесты и не гарантируют качество на конкретных прикладных задачах. Лицензия в предоставленных данных не указана.

DeepSeek-V4-Flash-8bit — это 8-битная версия модели DeepSeek-V4-Flash, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.31.3. Исходная модель разработана deepseek-ai. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm; README показывает использование диалогового шаблона и генерацию ответа по текстовому prompt. Из указанных характеристик известны формат MLX, 8-битное представление весов и текстовая модальность. Размер модели, архитектура, поддерживаемые языки и длина контекста в README не указаны. К преимуществам относятся адаптация к экосистеме MLX и уменьшенное по сравнению с полноточным представлением потребление памяти, однако ограничения качества, производительности и совместимости отдельно не описаны. Модель распространяется по лицензии MIT.

DNA 2.0 — языковая модель компании Dnotitia Inc., созданная дообучением Smoothie-Qwen3-14B. Это плотная авторегрессионная модель семейства Qwen3 с 14 млрд параметров, предназначенная для диалогов, рассуждений, математических задач и повседневных запросов. В README заявлены улучшения пошагового решения задач, логического вывода и генерации на корейском и английском языках; модель также позиционируется как менее ограничивающая ответы на чувствительные темы. Модель принимает текст и генерирует текст. README указывает контекст 32 тыс. токенов с расширением до 131 тыс. через YaRN, тогда как метаданные каталога фиксируют нативный контекст 40 960 токенов. Поддерживается режим управления рассуждением через команды /think и /no_think. Доступны веса Safetensors для Transformers, лицензия — Apache 2.0. Заявления README об оценках и улучшениях представлены разработчиком и не сопровождаются подробностями протокола оценки; качество на конкретных задачах следует проверять отдельно. Для генерации с включённым режимом рассуждения автор не рекомендует жадное декодирование из-за ухудшения качества и риска повторов.

dolphin-2.0-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral с 7,1 млрд параметров, созданная объединением mistralai/Mistral-7B-Instruct-v0.1 и cognitivecomputations/dolphin-2.0-mistral-7b методом SLERP. Конфигурация указывает диапазон слоёв 0–32 для обеих моделей и формат весов bfloat16. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов, язык в карточке — английский. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных ограничений; качество ответов может зависеть от формулировки запроса и задач, на которых проверяется модель.

Dolphin 2.1 Mistral 7B — разговорная языковая модель, разработанная Eric Hartford и обученная на базе Mistral. Она предназначена для диалога, ответов на вопросы и выполнения инструкций в формате ChatML. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. При обучении использованы наборы Dolphin, созданный как открытая реализация подхода Microsoft Orca, и Airoboros 2.2.1 для расширения творческих ответов. Карточка описывает модель как uncensored и предупреждает о высокой готовности выполнять запросы, в том числе неэтичные; перед развёртыванием сервиса рекомендуется добавить собственный уровень фильтрации. Указана лицензия Apache 2.0, допускающая коммерческое и некоммерческое использование.

Falcon-H1-7B-Instruct — мультиязычная языковая модель, разработанная командой Falcon. Это плотная авторегрессионная модель с гибридной архитектурой Transformer и Mamba, дообученная на базе tiiuae/Falcon-H1-7B-Base для диалогового взаимодействия и генерации текста. Модель содержит 6,4 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов, ответов на вопросы, рассуждений и других задач генерации текста. В карточке указана поддержка английского и многоязычного ввода; метаданные перечисляют арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский, урду и китайский. Для запуска подходят Transformers и vLLM; файлы GGUF доступны в официальной коллекции для llama.cpp. Карточка приводит результаты сравнительной оценки на общих и логических задачах, но они не гарантируют качество в каждом сценарии. Лицензия — Falcon-LLM License; перед применением следует проверить её условия.

qwp4w3hyb/gemma-2-27b-it-iMat-GGUF — это GGUF-квантизированная версия инструкционно дообученной модели Gemma 2 27B IT, разработанной Google. Модель предназначена для генерации текста и выполнения задач по текстовым инструкциям на английском языке. В основе лежит модель Google Gemma 2 27B IT с размером 27 миллиардов параметров. Доступен широкий набор вариантов квантизации от Q8_0 до IQ1_S, включая экспериментальные типы с суффиксом _L. Для снижения потерь качества при квантизации использована importance matrix, рассчитанная на специализированном калибровочном наборе данных. Файлы подготовлены с использованием llama.cpp с учётом исправлений, связанных с финальным logit soft-capping, sliding window и токенизатором. Основное преимущество модели — выбор вариантов GGUF для запуска в llama.cpp с разным компромиссом между качеством, размером и требованиями к ресурсам; importance matrix должна улучшать сохранение качества после квантизации. Ограничения включают зависимость характеристик от выбранного типа квантизации и отсутствие в предоставленной карточке подробностей о контекстном окне, архитектурных параметрах, мультимодальности и результатах тестирования. Лицензия указана как gemma.

Gemma-2-9b-it-WPO-HB-GGUF — это GGUF-квантизация инструкционной языковой модели gemma-2-9b-it-WPO-HB, разработанной wzhouad и подготовленной в формате GGUF пользователем bartowski. Модель основана на Gemma 2 с примерно 9 млрд параметров и предназначена для генерации текста и диалогового использования в совместимых средах, включая llama.cpp и LM Studio. В описании также указано, что исходная модель обучалась на датасете wzhouad/gemma-2-ultrafeedback-hybrid. Доступны варианты от F16 до низкобитных Q2–Q8 и IQ-квантизаций, размер файлов составляет примерно от 4 до 18,49 ГБ. Квантизация выполнена с использованием imatrix и специального набора данных, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5 и Q4; Q3 и Q2 экономят память, но заметно уступают по качеству. Отдельные варианты оптимизированы для ARM-процессоров и требуют соответствующих инструкций SVE или i8mm. Модель подходит для локального запуска, чат-ботов и других задач текстовой генерации при наличии совместимого программного обеспечения и достаточного объёма оперативной или видеопамяти. Ограничения включают неизбежную потерю качества при сильной квантизации, отсутствие в README сведений о поддерживаемых языках, размере контекстного окна и конкретных условиях лицензирования. Формат prompt должен соответствовать шаблону Gemma с системными, пользовательскими и модельными turn-маркерами.

unsloth/gemma-3-270m-it-qat-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 с 270 млн параметров, разработанной Google DeepMind и подготовленной Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и других диалоговых сценариев, а также может анализировать изображения и выдавать текстовый результат. Модель поддерживает текстовые и графические входные данные, более 140 языков и контекст до 32 тысяч токенов для моделей размером 270M. Вариант основан на google/gemma-3-270m-it-qat-q4_0-unquantized и использует квантизацию QAT в формате GGUF, что ориентировано на запуск с пониженными требованиями к ресурсам, в том числе на локальных устройствах. Конкретные сведения об архитектуре и языковых характеристиках отдельных языков в карточке не приведены. К сильным сторонам относятся малый размер, поддержка длинного контекста, мультимодальность и возможность локального развертывания. Ограничением является существенно меньшая ёмкость модели по сравнению с крупными вариантами Gemma 3, поэтому сложные задачи и требовательные сценарии могут выполняться менее качественно. Модель распространяется по лицензии Gemma; её использование регулируется условиями Google.

t-firefly/gemma4-e2b-rknn3-rk1820 — сборка Gemma 4 E2B IT для запуска на устройстве RK1820 через LlamaPi. Исходную модель разработала Google DeepMind; это компактная инструкционно настроенная мультимодальная модель семейства Gemma 4 с плотной архитектурой генерации. В репозитории указаны форматы GGUF и safetensors, а метаданные отмечают возможность диалогового взаимодействия. Модель принимает текст, изображения и аудио, а выдаёт текст. Она предназначена для диалогов, рассуждений, программирования и мультимодального анализа на устройствах и периферийных системах; заявлены контекст до 256 тысяч токенов и поддержка более 140 языков. Для запуска предлагается LlamaPi. Лицензия репозитория — Apache-2.0. Карточка описывает возможности исходной Gemma 4 E2B IT, но не приводит отдельных результатов оценки качества для сборки RK1820. Практическая применимость мультимодального ввода и заявленного контекста зависит от реализации LlamaPi и аппаратных ресурсов устройства.

gaianet/gpt-oss-20b-GGUF — сборка модели openai/gpt-oss-20b, опубликованная Gaianet в формате GGUF. Это языковая модель архитектуры gpt_oss с разреженной MoE-архитектурой для генерации текста и диалогового применения. В README указан исходный репозиторий модели и раздел запуска с Gaianet. Модель принимает текстовые запросы и генерирует текст; заявленная длина контекста составляет 131072 токена. В метаданных указаны 1,6 млрд параметров, библиотека Transformers, форматы GGUF и GGUF F16, а также лицензия Apache-2.0. README не описывает специальные предметные области или конкретные языковые ограничения.

Granite 4.2 8B GGUF — это квантизированная версия текстовой генеративной модели ibm-granite/granite-4.2-8b, разработанной IBM. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев, задач рассуждения и, согласно указанным тегам, tool calling. Поддерживается только текстовый ввод; мультимодальные возможности не заявлены. Модель содержит около 9 млрд параметров и доступна в форматах GGUF с разными уровнями квантизации — от BF16 до Q2 и IQ-вариантов. README не указывает архитектуру и размер контекстного окна. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Для запуска используется специальный шаблон prompt с секцией рассуждений <think>. Сильная сторона этой версии — широкий выбор квантизаций, позволяющий подобрать баланс между качеством, скоростью и требованиями к памяти: например, Q4_K_M размером 5,54 ГБ рекомендуется как универсальный вариант, а более высокие уровни сохраняют качество ближе к исходной модели. Ограничения зависят от выбранной квантизации: компактные варианты обеспечивают более низкое качество. Спекулятивное декодирование не поддерживается. Модель распространяется по лицензии Apache 2.0.

granite-4.2-8b-MLX-4bit — 4-битная квантованная версия языковой модели granite-4.2-8b, разработанной командой IBM Granite (ibm-granite). Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на устройствах Apple Silicon и предназначена для локальной генерации текста. Модель поддерживает задачи text generation, включая сценарии рассуждений, работы с инструментами и tool-calling, что отражено в заявленных тегах. Она обучена для работы с английским, немецким, испанским, французским, японским, португальским, арабским, чешским, итальянским, корейским, нидерландским и китайским языками. Архитектура и размер исходной модели обозначены как granite-4.2-8b; сведения о длине контекста и точной архитектуре в README не приведены. Ключевое преимущество варианта — сниженное потребление памяти по сравнению с полной точностью и оптимизация под Apple Silicon, что делает его подходящим для локального использования. Ограничениями являются возможная потеря качества из-за 4-битного квантования, зависимость производительности от оборудования и отсутствие в README подробных данных о качестве, бенчмарках и контекстном окне. Модель распространяется по лицензии Apache-2.0.

granite-4.2-8b-MLX-6bit — это 6-битно квантованная версия языковой модели granite-4.2-8b, разработанной командой ibm-granite. Квантование выполнено командой LM Studio с использованием MLX, поэтому модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и поддерживает сценарии, связанные с рассуждениями, режимом thinking и вызовом инструментов. Модель относится к классу текстовых генеративных моделей, имеет размер 8B в исходной версии и работает с текстовой модальностью. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Размер контекста и дополнительные архитектурные характеристики не указаны. Ключевые преимущества — уменьшенный объём хранения и потенциально более эффективный локальный запуск благодаря 6-битному квантованию и оптимизации MLX для Apple Silicon. Ограничения включают возможные потери качества по сравнению с полной точностью, зависимость от совместимого оборудования и отсутствие в README подробных данных о производительности, точности и размере контекста. Модель распространяется по лицензии Apache-2.0.

GWQ-9B-Preview — дообученная на синтетическом наборе Chain of Continuous Thought языковая модель семейства Gemma 2 от prithivMLmods. Это плотная decoder-only Transformer-модель с 9 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия на английском языке. Заявленные сценарии включают ответы на вопросы, суммаризацию, рассуждения, творческое письмо и выполнение инструкций. Модель принимает текст и выдаёт текст. Использует архитектуру Gemma2ForCausalLM, формат весов safetensors и контекст длиной до 8192 токенов. Лицензия — Gemma. Карточка предупреждает о возможных фактических ошибках и предвзятости, а также о требованиях к вычислительным ресурсам для модели такого размера.

Hermes-3-Llama-3.1-405B-GGUF — это квантизированная версия текстовой генеративной модели Hermes-3-Llama-3.1-405B, разработанной NousResearch и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для диалогов, генерации текста, ролевых сценариев, следования инструкциям, работы с ChatML, function calling и вывода в формате JSON. Указана поддержка английского языка и текстовая модальность. Модель основана на архитектуре Llama 3.1 и содержит 405 миллиардов параметров. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_L, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 93,5 до 431,24 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют значительно больше оперативной или видеопамяти; низкие уровни позволяют экономить ресурсы ценой снижения качества. Квантизации созданы с использованием llama.cpp и imatrix, запуск рекомендуется через LM Studio. Сильными сторонами являются большой размер модели, поддержка инструкций, диалогового формата, function calling и JSON mode, а также широкий выбор вариантов квантизации. Ограничениями выступают исключительно текстовая специализация, заявленная языковая поддержка английского языка и очень высокие требования к памяти даже у компактных вариантов. Контекстное окно в представленном README не указано. Модель распространяется по лицензии llama3.

Instruct Mixtral 8X7B V0.1 Dolly15K — это инструкционная языковая модель на архитектуре Mixtral, дообученная компанией Brillibits на наборе данных databricks-dolly-15k. Представленная версия распространяется в формате GGUF и подготовлена TheBloke с использованием квантования. Модель предназначена для генерации текста по инструкциям и может использоваться в локальных приложениях для диалога, ответов на вопросы и других задач text-generation. В названии указано 8 экспертов по 7B параметров, однако README не содержит дополнительных сведений о фактическом числе активируемых параметров, размере контекста, языках и поддерживаемых модальностях. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат совместим с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All и LM Studio. Сильной стороной модели является возможность локального запуска на CPU и GPU благодаря GGUF и нескольким уровням квантования. Ограничения включают возможные потери качества при сильном квантовании, а также отсутствие в README подробных результатов оценки и характеристик производительности. Лицензия модели — Apache-2.0.

Jan-v1-4B — разговорная языковая модель семейства Jan от Jan, предназначенная для агентного рассуждения, решения задач и интеграции с приложением Jan. Она основана на Qwen3-4B-Thinking-2507 и дообучена для улучшения рассуждений и работы с инструментами. Модель имеет плотную архитектуру Qwen3ForCausalLM и 3,7 млрд параметров. Она генерирует текст, поддерживает диалог и рассчитана на контекст до 262 144 токенов. В карточке заявлен результат 91,1% на SimpleQA; он зависит от условий оценки и шаблона диалога. Для воспроизведения результата README рекомендует использовать встроенный системный промпт в chat template; также доступен вариант шаблона без него. Модель можно запускать локально через vLLM и интегрировать в Jan App; README описывает поддержку выбора инструментов и парсера Hermes. Доступна под лицензией Apache-2.0.

K2-Horizon-MoVA-36B-A4B-ROCmFP4-GGUF — это набор квантизованных GGUF-версий reasoning-модели IFM/MBZUAI K2-Horizon-MoVA-36B-A4B, подготовленный пользователем kingjones777 для запуска на GPU AMD с поддержкой ROCmFP4/ROCmFPX. Модель предназначена для генерации текста, рассуждений, агентских сценариев и вызовов инструментов. Базовая модель распространяется по лицензии Apache-2.0. Модель использует архитектуру k2_horizon MoVA с двумя независимыми экспертными системами: банком из 64 value-экспертов с выбором top-4 и MoE-блоком из 100 feed-forward-экспертов с выбором top-8. Всего модель содержит 36 млрд параметров, из которых активно используется около 4 млрд; архитектура включает 48 слоёв и скрытое представление размерностью 2560. Поддерживаются варианты Q4_0_ROCMFP4 и Q8_0_ROCMFPX объёмом от 18,57 до 36,45 ГиБ. README не указывает языки и максимальную длину контекста; в примерах запуска используется контекст 8192 токена. Основное преимущество — высокая скорость декодирования при меньшем числе активных параметров: на Ryzen AI Max+ 395 с Radeon 8060S заявлена скорость до 41 токена в секунду и prefill до 1238 токенов в секунду для варианта FAST. Доступны профили, ориентированные на скорость, качество квантования и агентские сценарии. Ограничения — необходимость специальной сборки llama.cpp с поддержкой одновременно k2_horizon и ROCmFP4/ROCmFPX, а также совместимого оборудования AMD Strix Halo (gfx1151). Модель генерирует рассуждения в поле reasoning_content, поэтому ей требуется достаточный бюджет токенов; при слишком коротком бюджете содержимое ответа может быть пустым.

Kiel-2-Sol — диалоговая языковая модель KielTech для генерации текста, созданная дообучением Meta Llama 3.2 3B Instruct с помощью параметрически эффективной адаптации слоёв внимания и MLP. Модель содержит 3,2 млрд параметров, использует плотную архитектуру Transformer и поддерживает контекст до 131 072 токенов; в репозитории есть веса Safetensors и варианты GGUF Q4_K_M и Q8_0. Модель предназначена для многоходовых диалогов, многошаговых рассуждений, структурированного вывода, включая JSON, и автоматизации API-сценариев. В карточке заявлен английский язык и лицензия Apache 2.0. Метаданные отмечают возможность чата; README предлагает развёртывание через vLLM, но пример ограничивает длину контекста до 2048 токенов.

Kimi-Linear-48B-A3B-Instruct-AWQ-4bit — квантизированная 4-битная версия инструкционной языковой модели Kimi Linear, разработанной Moonshot AI. Модель предназначена для генерации текста и работы в формате диалога, включая задачи с коротким и длинным контекстом, а также сценарии, связанные с reinforcement learning. В README указана поддержка Transformers и возможность развертывания через vLLM с OpenAI-совместимым API. Модель использует гибридную архитектуру с Kimi Delta Attention (KDA) и глобальными блоками MLA в соотношении 3:1. Всего она содержит 48 млрд параметров, из которых активируется около 3 млрд, и поддерживает контекст до 1 млн токенов. Архитектура снижает потребность в KV-кэше до 75% и обеспечивает ускорение декодирования до 6 раз на длинных последовательностях. README не указывает языки, поддерживаемые модальностями или результаты именно для AWQ-версии, поэтому эти характеристики нельзя достоверно оценить. К сильным сторонам относятся высокая эффективность на длинном контексте, уменьшенное потребление памяти и ускорение генерации. Для запуска требуются совместимые версии Python, PyTorch и fla-core, а при использовании Transformers может понадобиться trust_remote_code. Ограничениями являются значительные требования к ресурсам для модели такого размера и отсутствие в README подробных данных о качестве на конкретных прикладных задачах. Лицензия — MIT.