II.8Инженерия данных и аналитика

Granite-3.0-2B-Base — базовая языковая модель IBM Granite Team для генерации текста и других задач преобразования текста. Это плотный decoder-only Transformer на 2,5 млрд параметров, обученный с нуля в два этапа на разнообразных данных; архитектура включает GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. Модель принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов и предназначена в том числе для суммаризации, классификации, извлечения информации и ответов на вопросы, а также как основа для специализированного дообучения. В карточке заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Обучающие данные охватывают веб, код, академические материалы, книги и математику. Модель выпущена под лицензией Apache 2.0. Она не проходила выравнивание по безопасности, поэтому может генерировать нежелательные или недостоверные ответы; для меньших моделей также отмечен риск дословного воспроизведения обучающих данных.

Granite-4.0-1B-Base — компактная базовая языковая модель IBM Granite Team для генерации текста в условиях ограниченных вычислительных ресурсов, включая мобильные устройства и IoT. Это декодерный плотный трансформер на 1,6 млрд параметров с архитектурой GraniteMoeHybrid, GQA, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель обучена с нуля на смеси открытых и проприетарных данных; контекст — до 131 072 токенов. Поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Также поддерживает заполнение пропусков в коде по префиксу и суффиксу (FIM). Модель предназначена для суммаризации, классификации и извлечения информации, ответов на вопросы и дополнения кода; её также можно использовать как основу для дообучения под конкретные задачи. Небольшой размер рассчитан на быстрое выполнение и локальное использование, в том числе с сохранением данных на устройстве. Модель не прошла выравнивание безопасности и может выдавать предвзятые, неверные или проблематичные ответы, а также воспроизводить фрагменты обучающих данных. Распространяется по лицензии Apache 2.0.

GTE-ModernColBERT-v1 — англоязычная модель LightOn для много-векторного представления текстов в стиле ColBERT, дообученная на базе Alibaba-NLP/gte-modernbert-base с помощью дистилляции на датасете ms-marco-en-bge-gemma. Она кодирует предложения и абзацы в последовательности плотных векторов размерностью 128 и сравнивает запросы с документами оператором MaxSim; предназначена для семантического поиска, извлечения релевантных документов и переранжирования результатов поиска. В README указаны длины по умолчанию 32 токена для запросов и 300 для документов; метаданные сообщают о родном контексте базовой архитектуры до 8192 токенов. Модель может обрабатывать длинные документы, но обобщение за пределы обучающей длины не гарантируется и требует проверки на целевых данных. Для работы доступны форматы safetensors и ONNX, библиотека PyLate. Лицензия — Apache 2.0.

Hercules-3.1-Mistral-7B — дообученная Locutusque языковая модель на основе Mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель на 7,1 млрд параметров с контекстом до 32 768 токенов, предназначенная для диалогов и генерации текста, следования многошаговым инструкциям и работы с вызовами функций. Модель подходит для научных и технических чат-ботов, учебных помощников, а также генерации кода и сценариев, где инструменты вызываются через функции. В карточке заявлены знания по биологии, химии, физике, математике, медицине и информатике; обучающий набор Hercules-v3.0 объединяет данные из нескольких наборов инструкций и диалогов. README не уточняет поддерживаемые естественные языки; метаданные отмечают код. Модель распространяется по лицензии Apache-2.0. Возможны токсичные, предвзятые, фактически неверные или вводящие в заблуждение ответы, особенно в специализированных областях. Вызовы функций сами по себе не гарантируют безопасного выполнения действий: результаты модели следует проверять.

Hyper-Yi-1.5-9B — объединённая плотная авторегрессионная языковая модель семейства Yi-1.5, опубликованная bunnycore. Она создана методом Model Stock с помощью mergekit на основе 01-ai/Yi-1.5-9B и объединяет веса четырёх вариантов Yi-1.5-9B, включая модели для инструкций и чата. Модель содержит 8,6 млрд параметров, построена на архитектуре LlamaForCausalLM и рассчитана на генерацию текста с контекстом до 4096 токенов. Модель предназначена для диалогов и генерации ответов по текстовым инструкциям; базовая модель также ориентирована на рассуждения, математику и программирование. В репозитории указаны веса safetensors и библиотека Transformers. Сведения о лицензии и языках в предоставленных источниках отсутствуют.

Англоязычная модель эмбеддингов Jina AI на архитектуре JinaBERT, основанной на BERT. Она преобразует текст в векторные представления для поиска по смыслу, сравнения предложений, ранжирования и рекомендательных систем. Модель содержит 136,7 млн параметров и поддерживает контекст длиной до 8192 токенов; для получения эмбеддингов README рекомендует применять mean pooling. Модель обучена на коллекции Jina AI из более чем 400 млн пар предложений и сложных негативных примеров. В основе лежит JinaBERT, предварительно обученный на C4; симметричный двунаправленный вариант ALiBi позволяет обрабатывать длинные последовательности. Модель подходит для поиска по длинным документам, семантического сходства и RAG, сохраняя сравнительно быстрый инференс. Для загрузки через Transformers требуется trust_remote_code=True; README также указывает на gated-доступ на Hugging Face. Лицензия — Apache-2.0. Модель предназначена для английского текста и не является мультимодальной.

Hutgaecha дообучил диалоговую модель Kakao kanana-1.5-8b-instruct-2505 и объединил результат в отдельную модель. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста в диалоге; базовая модель также поддерживает программирование, математические задачи и интерфейс вызова инструментов. Модель принимает текстовые запросы и генерирует текстовые ответы. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование при соблюдении её условий.

Kanana-2-1.3B-Instruct — компактная языковая модель Kakao для диалогов и выполнения инструкций. Это плотная авторегрессионная модель примерно с 1 млрд параметров, полученная из Kanana-2-3B с помощью каскадного pruning и дистилляции, а затем настроенная для следования инструкциям. Модель использует гибридное внимание: три слоя Sliding Window Attention на каждый слой полного внимания; размер окна — 1024 токена. Поддерживает контекст до 32 768 токенов и снижает расход памяти KV-кэша при длинном контексте. Модель рассчитана на компактное развёртывание, в том числе на устройствах с ограниченными ресурсами. Она предназначена для общения и генерации текста по инструкциям; в карточке серии также описаны оценки для задач работы с инструментами, кода, математики и знаний. Токенизатор повышает эффективность обработки корейского языка по сравнению с предыдущим поколением Kanana. Для запуска доступны Transformers с пользовательским кодом архитектуры, vLLM и SGLang с настройкой из репозитория. Лицензия в метаданных указана как other; конкретные условия следует сверить с файлами лицензии репозитория. Для SGLang карточка рекомендует версию 0.5.1 и предупреждает о снижении точности и скорости при использовании backend flashinfer.

Kimi K2.5 — открытая мультимодальная модель от Moonshot AI, построенная продолжением предварительного обучения примерно на 15 триллионах визуальных и текстовых токенов на базе Kimi-K2-Base. Она сочетает понимание изображений и текста с диалоговыми и агентными возможностями, поддерживает режимы instant и thinking и может разбивать сложные задачи на параллельные подзадачи для специализированных агентов. Модель предназначена для визуальных вопросов и рассуждений, генерации кода по визуальным спецификациям, а также выполнения многошаговых задач с инструментами, например поиском в интернете и интерпретатором кода. Архитектура — смесь экспертов (MoE), всего около 1 трлн параметров, из которых активируются 32 млрд; в README для оценки указан контекст 256 тысяч токенов. Репозиторий использует safetensors и содержит нативную INT4-квантизацию. Модель принимает текст и изображения и генерирует текст. README описывает мультимодальное обучение, но не перечисляет поддерживаемые естественные языки. Лицензия указана как other, поэтому конкретные условия использования следует проверять на странице модели. Качество зависит от задачи и доступных инструментов; сложные агентные сценарии требуют подходящей инфраструктуры выполнения инструментов.

cyankiwi/Laguna-XS-2.1-AWQ-INT4 — это INT4-квантизированная версия модели Laguna XS 2.1, разработанной poolside и подготовленной cyankiwi с использованием метода AWQ. Модель предназначена для генерации текста, прежде всего для агентного программирования, работы с терминалом и длительных многошаговых задач на локальном компьютере. В основе лежит Mixture-of-Experts с 33 млрд параметров, из которых 3 млрд активируются для каждого токена. Архитектура включает 40 слоёв, 256 экспертов и одного общего эксперта, сочетает глобальное внимание со Sliding Window Attention в соотношении 1:3 и использует окно скользящего внимания размером 512 токенов. Контекстное окно составляет 262 144 токена, поддерживается текстовый ввод и вывод, а также интерleaved reasoning между вызовами инструментов с возможностью включать и отключать рассуждения для конкретного запроса. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Кэш ключей и значений хранится в формате FP8, что снижает расход памяти на токены; заявлена возможность запуска на Mac с 36 ГБ оперативной памяти. Сильными сторонами модели являются компактное число активных параметров, поддержка длинного контекста, локальный запуск и ориентация на программирование и агентные сценарии. В опубликованных результатах она показала 70,9% на SWE-bench Verified, 63,1% на SWE-bench Multilingual, 47,6% на SWE-bench Pro и 37,5% на Terminal-Bench 2.0. Показатели относятся к Laguna XS 2.1 в целом и не обязательно непосредственно к данной INT4-квантизации; квантизация также может влиять на качество и точность. Модель распространяется по лицензии OpenMDW-1.1, разрешающей использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

LEALLA-small — компактная многоязычная модель эмбеддингов предложений из семейства LEALLA, созданная как дистиллированная версия LaBSE. Она основана на архитектуре BERT и предназначена для получения векторных представлений предложений на 109 языках, в том числе для поиска соответствующих фрагментов в параллельных текстах и сравнения предложений по смыслу. Модель содержит 70,4 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель подходит для семантического поиска, сопоставления предложений и межъязычного поиска по парам текстов. Эмбеддинги версии LEALLA-small эквивалентны эмбеддингам исходной версии v1 на TensorFlow Hub; для некоторых языков, например японского, при сравнении эмбеддингов может понадобиться больший допуск. Доступны веса PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

Tomaarsen/LFM2-350M-nq-prompts — модель Sentence Transformer, дообученная на парах запросов и ответов набора Natural Questions на базе LiquidAI/LFM2-350M. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для семантического поиска, сравнения текстов и извлечения релевантных документов. В модели используется архитектура LFM2 с pooling по последнему токену; максимальная длина последовательности составляет 128 000 токенов. Для сравнения векторов предусмотрена косинусная мера сходства; карточка приводит результаты на тестах поиска NanoMSMARCO, NanoNFCorpus и NanoNQ. Модель ориентирована на англоязычные запросы и документы, например поиск ответа на вопрос в коллекции текстов, поиск перефразировок, кластеризацию и классификацию на основе эмбеддингов. Выпущена под лицензией Apache-2.0. Показатели в карточке получены на небольших наборах Nano BEIR и Natural Questions, поэтому их не следует считать гарантией качества на произвольных корпусах; результаты могут зависеть от формата запросов и документов.

brittlewis12/Llama-3.1-Tulu-3.1-8B-GGUF — это квантизированная версия языковой модели Tülu 3.1 8B, разработанной Allen Institute for AI (AI2) на базе Llama 3.1. Модель предназначена для генерации текста и следования инструкциям в диалоговых и прикладных сценариях, включая общение, решение математических задач, ответы на вопросы, выполнение заданий с ограничениями и генерацию кода. Указан английский язык. Модель использует архитектуру Llama и содержит около 8 миллиардов параметров. Она распространяется в формате GGUF для запуска с совместимыми инструментами, включая llama.cpp, в том числе локально на устройствах. В версии Tülu 3.1 был улучшен финальный этап обучения с переходом от PPO к GRPO без reward model и дополнительной настройкой гиперпараметров. В README не указан размер контекстного окна и не описаны конкретные схемы квантизации представленных файлов. Сильными сторонами модели являются следование инструкциям, математические рассуждения, выполнение заданий с формальными ограничениями и ответы на вопросы; согласно приведённым оценкам, особенно высокие результаты показаны в GSM8K, IFEval, DROP и BigBenchHard. Ограничениями являются ориентация преимущественно на английский язык, меньший размер по сравнению с крупными моделями и возможные потери качества, связанные с квантизацией. Модель распространяется по лицензии llama3.1.

Llama-3-Giraffe-70B-Instruct — разговорная языковая модель Abacus.AI, созданная на основе Meta Llama 3 70B Instruct с расширенным контекстом. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; в метаданных указана длина контекста 8192 токена, а авторы заявляют эффективную длину около 128 тысяч токенов. Для расширения контекста применялись PoSE и динамическая NTK-интерполяция; обучающий адаптер переносили с Llama-3-70B-Base на Instruct-версию и выпустили слитую модель. Модель предназначена для диалогов, следования инструкциям и ответов на вопросы по длинным текстам, включая поиск информации в большом контексте. В README приведены результаты MT-Bench, близкие к исходной Llama 3 70B Instruct, и эксперименты Needle-in-a-Haystack до 128 тысяч токенов; оценивание эффективности авторы продолжают. Модель принимает текст и генерирует текст, карточка указывает английский язык. Репозиторий содержит веса Safetensors. Лицензия — Llama 3 License (llama3).

Llama-3-Smaug-8B — языковая модель Abacus.AI для диалогов и генерации текста. Она создана дообучением meta-llama/Meta-Llama-3-8B-Instruct по рецепту Smaug, ориентированному на повышение качества многоходовых разговоров в практических сценариях. Модель использует плотную архитектуру Llama, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов; веса доступны в формате safetensors для Transformers. Модель подходит для диалоговых помощников и задач генерации текста. В карточке приведено сравнение на MT-Bench: средняя оценка Smaug-8B составила 8,33 против 8,10 у исходной Meta-Llama-3-8B-Instruct. В данных также указаны обучающие наборы для математических задач, кода и диалогов. Метаданные указывают лицензию llama2; перед использованием следует учитывать условия лицензии Meta Llama 2.

Модель aifeifei798/Meta-Llama-3-8B-Instruct — чат-ориентированная большая языковая модель семейства Llama 3, разработанного Meta. Это авторегрессионный трансформер с плотной архитектурой, примерно 7,5 млрд параметров, обученный следовать инструкциям с помощью контролируемого дообучения и обучения с обратной связью от людей. Репозиторий содержит веса в формате safetensors; контекст модели — до 8192 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена для диалоговых сценариев и использования в качестве ассистента; карточка заявляет английский как основной язык и ограничивает применение другими языками. Модель может быть полезна для ответов на вопросы, написания и объяснения кода, составления текстов и ведения диалога. В README указана пользовательская коммерческая лицензия Meta Llama 3 с условиями Community License и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; ответы могут содержать ошибки, а заявленные меры безопасности не исключают вредных или нежелательных результатов, поэтому для приложений нужны подходящие проверки и защитные механизмы.

microsoft_Phi-4-reasoning-GGUF — это набор GGUF-квантизированных вариантов языковой модели Phi-4-reasoning, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогов, решения математических задач, работы с кодом и задач, требующих рассуждений. Модель поддерживает текстовый ввод и вывод; в метаданных указан английский язык. Доступны варианты от BF16 до низкобитных квантов Q8_0, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, требованиями к памяти и скоростью локального запуска. Размер файлов варьируется примерно от 8,4 до 29,3 ГБ. Архитектура, число параметров, максимальный контекст и дополнительные модальности в README не указаны. Сильными сторонами являются наличие вариантов с разным уровнем сжатия, высокая заявленная точность старших квантов и совместимость с llama.cpp, LM Studio и другими проектами на его основе. Ограничения включают возможное снижение качества у низкобитных вариантов, необходимость значительного объёма памяти и отсутствие подробных данных о производительности, контекстном окне и поддерживаемых языках помимо английского. Распространение указано по лицензии MIT.

Это модель Sentence Transformer на базе microsoft/mpnet-base, дообученная авторами репозитория tomaarsen на наборе GooAQ с учётом квантования. Она преобразует предложения и абзацы на английском языке в плотные векторы размерности 768; сходство между текстами оценивается косинусной близостью. Архитектура использует MPNet и усреднение токенных представлений, максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, в том числе вопросов и ответов. Её можно применять для поиска похожих вопросов, извлечения релевантных ответов, кластеризации и классификации текста на основе эмбеддингов. Обучение на GooAQ включает 90 тысяч пар вопрос–ответ; в README приведены оценки поиска для представлений float32, int8 и binary. Модель принимает текст и выдаёт векторные представления. Она ориентирована на английский язык и не является генеративной моделью. Лицензия — Apache-2.0.

Nail-Qwen3.6-35B-A3B-MLX — вариант модели Qwen3.6-35B-A3B, опубликованный пользователем peculiar-ragdoll. Это квантованная сборка для MLX на базе Unsloth Dynamic 4-bit quant, дополненная исправленным шаблоном чата, который добавляет инструкции для кратких и прямых ответов. Модель ориентирована на локальный запуск на компьютерах Mac с Apple Silicon. Модель предназначена для рассуждений, многошаговых диалогов, агентной разработки программного обеспечения и работы в coding-агентах. Она поддерживает текстовые и, согласно метаданным pipeline, мультимодальные сценарии image-text-to-text, однако подробности о фактически поддерживаемых визуальных входах в README не приведены. Заявлены английский и китайский языки, архитектура Mixture-of-Experts и контекст до 262 144 токенов. При использовании 8-битной точности KV-кэша заявлен запуск примерно в 24 ГБ оперативной памяти; также описана работа на системах с 32 ГБ unified memory. Сильные стороны модели — высокая скорость получения ответа, эффективность по расходу токенов и пригодность для автономных задач программной инженерии и длительных многоходовых взаимодействий. Ограничение заключается в том, что модель может тратить больше токенов на внутреннее рассуждение, чем некоторые альтернативы, из-за чего быстрее заполняет контекст; для очень длинных сессий это снижает выносливость. Приведённые в README результаты основаны на авторских тестах и не заменяют независимую оценку. Модель распространяется по лицензии Apache-2.0.

Ornith-1.5-35B-A3B — среднеразмерная Mixture-of-Experts модель семейства Ornith-1.5, разработанная командой Ornith. Она создана как развитие Ornith-1.0, обучавшейся на основе Qwen3.5 и Gemma4 с дополнительным продолженным предварительным обучением, mid-training и post-training. В Ornith-1.5 применяется цикл самоулучшения, в котором совместно оптимизируются генерация задач, построение scaffold и rollouts решений с использованием reinforcement learning. Модель предназначена прежде всего для генерации текста, программирования и агентных сценариев, включая работу с терминалом и автономное решение задач в репозиториях. При общем размере около 35 млрд параметров на каждый токен активируется примерно 3 млрд параметров, что снижает вычислительную нагрузку по сравнению с полноразмерной плотной моделью. В README указана интеграция с библиотекой MLX и pipeline text-generation; сведения о модальностях, размере контекста и поддерживаемых языках не приведены. Сильной стороной модели заявлена производительность в coding- и agentic-бенчмарках: она превосходит сопоставимую Qwen 3.6-35B-A3B, а также плотные Gemma 4-31B и Muse Glimmer-30B в ряде агентных задач. В частности, приведены результаты 79 на SWE-bench Verified и 67,8–68,5 на Terminal-Bench 2.1 в зависимости от используемого окружения. Ограничения включают отсутствие в карточке подробных сведений о качестве вне программирования, контекстном окне, языках, требованиях к оборудованию и лицензии; лицензия в README не указана.

pentest-orca-mw01 — компактная модель эмбеддингов предложений на базе BertModel, опубликованная jasonecktest01. Это шестислойный BERT с размером скрытого представления 256 и четырьмя головами внимания; модель дообучена на стандартных корпусах для вывода по текстовым парам и формирует эмбеддинги размерности 256. Модель предназначена для семантического поиска, извлечения релевантных фрагментов для RAG и классификации на основе представлений текста. Её можно использовать для кодирования предложений и сравнения их семантической близости. Репозиторий содержит веса PyTorch и использует библиотеку sentence-transformers. Лицензия — Apache-2.0.

Phi-3-Mini-4K-Instruct — компактная плотная языковая модель Microsoft семейства Phi-3 с 3,7 млрд параметров. Она обучена на синтетических данных и отфильтрованных общедоступных веб-источниках, а затем дообучена методом supervised fine-tuning и оптимизирована по предпочтениям (DPO) для следования инструкциям и повышения безопасности. Для диалогов рекомендуется использовать формат чата. Модель предназначена для генерации текста общего назначения, диалоговых систем, задач рассуждения, математики и программирования. Компактный размер рассчитан на сценарии с ограниченными вычислительными ресурсами и требованиями к задержке; длина контекста составляет 4096 токенов. Модель ориентирована прежде всего на английский язык, также в карточке указана поддержка французского. Модель может ошибаться, выдавать предвзятые или оскорбительные ответы; качество на языках, отличных от английского, может быть ниже. Для критичных сценариев требуется отдельная проверка качества и безопасности. Лицензия — MIT.

Phi-4-reasoning-plus-GGUF — квантизированная в формате GGUF версия модели Phi-4-reasoning-plus, разработанной Microsoft. Квантизация выполнена bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалогов, программирования, математики и решения многошаговых задач, требующих логического рассуждения. Модель поддерживает контекст до 32 000 токенов и работает с текстом на английском языке. Она дообучена на базе Phi-4 и дополнительно обучалась с применением Reinforcement Learning для повышения точности. Ключевая особенность — ориентация на сложные математические и логические задачи; при этом модель в среднем генерирует примерно на 50% больше токенов, чем базовая версия. В README не указаны точный размер модели, архитектурные детали и наборы данных. Модель распространяется по лицензии MIT. GGUF и llama.cpp упрощают локальный запуск, однако конкретные требования к оборудованию зависят от выбранного уровня квантизации, который в предоставленных данных не указан. Как и другие языковые модели, она может генерировать неточные или неподходящие ответы.

pplx-embed-context-v1.4-4B — контекстная модель для построения эмбеддингов предложений, разработчик указан как seslami-pplx. Она предназначена для семантического поиска и извлечения текстовых фрагментов, включая разрешение перефразирования, снижение влияния лексически похожих отвлекающих фрагментов и совместное извлечение терминов из глоссария. Модель имеет плотную архитектуру bidirectional_pplx_qwen3, содержит 3,7 млрд параметров и принимает контекст длиной до 32 768 токенов; для работы используется библиотека Transformers. Версия 1.4 сохраняет архитектуру и код загрузки версии v1.3-4B и заявлена как прямая замена. Эмбеддинги подходят для сопоставления предложений и поиска по контексту. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.

duyntnet/Qwen2.5-Coder-7B-imatrix-GGUF — репозиторий с imatrix-квантизациями базовой языковой модели Qwen2.5-Coder-7B, разработанной командой Qwen. Модель предназначена прежде всего для генерации, анализа и исправления программного кода, задач code reasoning, text-code grounding, заполнения пропусков в коде и создания основы для code agents. Базовая модель не рекомендуется для обычного диалогового использования без дополнительного дообучения или постобработки. Это каузальная текстовая модель на архитектуре Transformers с RoPE, SwiGLU, RMSNorm и bias в QKV-проекциях внимания. Она содержит 7,61 млрд параметров, 28 слоёв и использует Grouped-Query Attention: 28 голов для Q и 4 для KV. Заявлена поддержка контекста до 131 072 токенов, при этом для обработки входов длиннее 32 768 токенов требуется настройка YaRN. Модель обучалась на 5,5 трлн токенов, включая исходный код, текстово-кодовые данные и синтетические данные; также сохраняет возможности в математике и общих задачах. В README явно указан только английский язык. Репозиторий поддерживает использование через llama.cpp, KoboldCPP, text-generation-webui и Ollama. Лицензия обозначена как other, без дополнительных условий в представленном README, поэтому точные права и ограничения использования требуют проверки исходной лицензии Qwen2.5-Coder.

ZeroXClem/Qwen3-4B-Valiant-Polaris — объединённая методом Model Stock с помощью MergeKit языковая модель на архитектуре Qwen3, разработанная ZeroXClem. В объединении использованы Qwen/Qwen3-4B, Polaris-4B-Preview, Qwen3-4B-ShiningValiant3, Qwen3-4B-Dot-Goat и Qwen3-4B-RP-V3; размер модели — около 3,7 млрд параметров, формат весов — safetensors, лицензия — Apache 2.0 с учётом лицензий базовых моделей. Модель предназначена для диалогов, рассуждений, решения математических и логических задач, научных вопросов, творческого письма и ролевых сценариев. README также заявляет поддержку агентных сценариев с инструментами; входной модальностью в каталоге указана только текстовая. Контекстное окно составляет 40 960 токенов. В метаданных указан английский язык. Возможные ограничения включают неконтролируемые или недостаточно отфильтрованные ответы, унаследованные от некоторых компонентов слияния, а также риск ошибок и предвзятости; результаты для важных решений следует проверять. Заявления README о превосходстве на бенчмарках не подтверждены приведёнными метаданными.

Qwen3.5-4B-Clarity-1.0-GGUF — экспериментальная дообученная версия Qwen3.5-4B, опубликованная пользователем Regic1d3 и основанная на модели Qwen от Qwen. Модель предназначена для генерации текста, рассуждений, решения многошаговых задач, проверки согласованности, выявления ошибок и некорректных предположений, а также для более точной генерации кода на Python. В обучении использовались дополнительные примеры рассуждений на английском и русском языках, а основная часть данных была дистиллирована из Qwen3.8-27B. Дообучение выполнено как относительно тонкая поведенческая настройка, сохраняющая общие возможности исходной модели. Модель имеет размер 4B параметров и доступна в формате GGUF, совместимом с llama.cpp. Предоставлены варианты квантования Q5_K_M и Q8_0. README также упоминает возможность мультимодального запуска, однако подробные характеристики поддерживаемых модальностей и контекстного окна не указаны. Рекомендуемые параметры генерации различаются для общих задач и кода. К сильным сторонам относятся потенциально улучшенные логическое, причинно-следственное и ограничительное рассуждение, арифметика в несколько шагов, обнаружение и исправление ошибок, а также различение фактов и предположений. Ограничения включают экспериментальный статус, отсутствие стандартизированных бенчмарков, возможность ошибочных рассуждений, недостаточную калибровку и склонность к чрезмерно уверенным или избыточно подробным ответам. Лицензия в README не указана.

Qwen3.6-27B-DSV4Pro-Thinking-Distill-GGUF — набор GGUF-квантизаций модели, разработанный пользователем nerkyor на основе плотной Qwen3.6-27B от Qwen. Модель представляет собой дистилляцию рассуждений в стиле DeepSeek-V4-Pro ReAct с нативной головой MTP (multi-token prediction) и imatrix-коррекцией для большинства вариантов. Дистилляция направлена на улучшение сходимости рассуждений, при этом заявлено сохранение возможностей программирования и общих знаний. Модель предназначена для локального агентного рассуждения, программирования и работы в качестве независимого от облачных сервисов резервного решения, в частности внутри Lynn Agent. Доступны варианты размером от 15,3 до 54,7 GB: IQ4_XS рассчитан на запуск на видеокарте с 16 GB памяти без выгрузки на CPU, а Q5_K_M рекомендован для систем с 24 GB и более. Для ускорения генерации поддерживается нативный MTP; в приведённых измерениях Q4_K_M обеспечивал до 2,6 раза большую скорость в одном потоке, однако выигрыш снижается при высокой параллельности. Модель ориентирована как минимум на английский и китайский языки; для обработки изображений предусмотрен отдельный vision-проектор mmproj F16. В тестах дистиллированная версия показала более высокие результаты на задачах сложного рассуждения и не достигала ограничения длины ответа в случаях, где базовая модель могла не завершить решение. Ограничения включают зависимость качества и требований к памяти от выбранной квантизации, снижение эффективности MTP при многопоточности и необходимость подбирать параметры генерации для thinking-режима; в README рекомендуется temperature 0.6 и top_p 0.95. Лицензия — Apache-2.0.

Esper 4 — дообученная Valiant Labs модель на базе Qwen3.6-27B, предназначенная для агентного программирования, проектирования архитектуры, DevOps и MLOps. Она подходит для работы в агентных фреймворках и как самостоятельный чат- и кодовый ассистент. Модель имеет плотную архитектуру семейства Qwen3.5, около 22,3 млрд параметров и контекстное окно 262 144 токена. Метаданные указывают поддержку задач генерации текста и обработки изображений с выдачей текста; в README основной акцент сделан на кодировании и инженерных задачах. Для дообучения использованы наборы сложных примеров по программированию, DevOps и архитектуре, созданные с помощью DeepSeek-V4-Pro. Карточка отмечает английский язык. Esper 4 ориентирована на сложные агентные запросы, разработку и эксплуатацию AI-систем; автор также заявляет возможность локального запуска и быструю серверную генерацию. Лицензия — Apache-2.0. README не приводит независимых оценок качества, поэтому заявленные улучшения не следует считать подтверждёнными сравнительным тестированием.

Youssofal/Qwen3.6-35B-A3B-MTPLX-Optimized-Balance — локальная модель для генерации текста, опубликованная пользователем или организацией Youssofal и основанная на семействе Qwen3.6. Она предназначена для запуска на компьютерах Apple Silicon через MLX и ускорения генерации с помощью MTPLX — механизма speculative decoding, использующего собственные MTP-головы модели для чернового предсказания токенов с последующей проверкой основной моделью. Модель подходит для локального чата, программирования и других сценариев генерации текста, включая задачи с рассуждениями и обычные контексты разработки. README не указывает поддерживаемые языки и точное максимальное окно контекста. Модель имеет конфигурацию 35B-A3B и архитектуру mixture-of-experts, поставляется в виде 6-битного MLX-квантизованного основного блока с размером группы 64, 8-битными router и gate-тензорами, а также калиброванными INT4 MLX MTP-головами. Нормализации, масштабы, смещения и обычные тензоры сохранены в BF16. Заявлены высокая скорость локальной генерации и практичное потребление памяти; измеренная скорость генерации в режиме MTPLX Sustained Max на Apple Silicon для рекомендованной конфигурации D2 составила около 123–126 токенов в секунду, а скорость обработки промпта в тестах достигала 1756,8–4109,8 токена в секунду в зависимости от длины контекста. Ограничения связаны с применением квантизации, зависимостью от Apple Silicon и MTPLX, а также с тем, что это не полноточный чекпойнт. Лицензия — Apache-2.0.