II.8Инженерия данных и аналитика

hunkim/model1 — модель на базе RoBERTa, опубликованная в формате PyTorch и предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 768. Параметры модели включают 137,8 млн, максимальная длина контекста — 512 токенов. Векторы можно использовать для поиска предложений по смыслу, кластеризации и сравнения текстов по семантическому сходству. Модель также поддерживает извлечение признаков; для использования через Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. README рекомендует библиотеку Sentence-Transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых языках. Условия лицензии в предоставленных данных не указаны.

tasksource/ModernBERT-base-embed — англоязычная модель Sentence Transformers, дообученная на базе answerdotai/ModernBERT-base для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, оценки сходства и обнаружения перефразировок. Модель также подходит для кластеризации и классификации текста с использованием эмбеддингов. Архитектура состоит из ModernBertModel и слоя пулинга по CLS-токену. Максимальная длина входной последовательности — 8192 токена; сходство векторов можно оценивать косинусной мерой. Модель обучалась на наборах данных для поиска ответов, естественного следования, сходства предложений и выявления перефразировок. В первую очередь рассчитана на английский язык. Сведения о лицензии в предоставленных данных отсутствуют.

joe32140/ModernBERT-large-msmarco — англоязычная модель Sentence Transformers на основе ModernBERT-large от Answer.AI, дообученная на датасете MS MARCO. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и использует косинусное сходство для сравнения. Модель подходит для семантического поиска, ранжирования похожих текстов, поиска перефразирований, кластеризации и классификации текста. Модель содержит около 394,7 млн параметров, использует mean pooling и принимает последовательности длиной до 8192 токенов. В README приведены результаты на задачах поиска и сравнения текстов; автор сообщает об улучшении относительно опубликованных результатов для ряда наборов данных. Доступны веса safetensors и формат ONNX. Лицензия в предоставленных данных не указана.

Это текстовая модель Sentence Transformer на архитектуре MPNet, разработанная tomaarsen и дообученная на парах вопросов и ответов из набора GooAQ. Она преобразует предложения и абзацы в плотные векторы размерностью 768, сравниваемые по косинусному сходству, и предназначена для семантического поиска и сопоставления текстов. В карточке приведены результаты оценки поиска по GooAQ-dev: точность cosine_accuracy@1 — 0,759, @3 — 0,8924 и @5 — 0,931. Модель подходит для поиска ответов на вопросы, оценки сходства предложений, поиска перефразировок, кластеризации и использования в качестве признаков для классификации текста. Основной язык — английский. Максимальная длина входной последовательности — 512 токенов по README и 514 токенов в метаданных; модель выдаёт векторы, а не готовые текстовые ответы. Лицензия — Apache-2.0.

Tomaarsen/mpnet-base-nli-matryoshka — модель эмбеддингов предложений на архитектуре MPNet, опубликованная tomaarsen как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства и кластеризации текстов. Обучение с MatryoshkaLoss позволяет использовать представления нескольких размерностей: 768, 512, 256, 128 и 64. Модель принимает текст и выдаёт векторные представления. Контекст составляет до 514 токенов; репозиторий содержит форматы safetensors, ONNX и OpenVINO. Данных о поддерживаемых естественных языках и лицензии в использованных источниках нет.

ValentinaKim разработала многоязычную модель Sentence Transformer для преобразования предложений и абзацев в плотные векторы размерностью 384. Модель дообучена на базе intfloat/multilingual-e5-small; архитектура включает BERT, усреднение токенов и нормализацию векторов. Максимальная длина входа — 512 токенов, сходство текстов можно оценивать косинусной близостью. Модель подходит для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. В README описано обучение на 2320 парах текстов и приведены метрики поиска для вариантов размерности 64, 128 и 256. Модель распространяется по лицензии Apache-2.0.

Карточка модели Karmukilan/multilingual-e5-small на Hugging Face совпадает с карточкой intfloat/multilingual-e5-small, поэтому описание составлено по ней. Multilingual-E5-small — модель текстовых эмбеддингов, разработанная авторами технического отчёта Multilingual E5. Это компактная 12-слойная модель архитектуры BERT с 124,3 млн параметров и размерностью эмбеддингов 384; она инициализирована из microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных наборов данных. Модель преобразует тексты в векторы для поиска и сравнения по смыслу, включая межъязыковой поиск, поиск фрагментов для систем вопросов и ответов, семантическое сходство, подбор перефразировок и кластеризацию. Для разных типов текста следует использовать префиксы «query: » и «passage: » согласно сценарию; без них качество может снизиться. Поддерживаются 100 языков, однако качество для языков с малым количеством ресурсов может быть ниже. Контекст ограничен 512 токенами, длинные тексты обрезаются. В репозитории доступны форматы PyTorch, SafeTensors, ONNX и OpenVINO. Лицензия — MIT.

Это дообученная модель Sentence Transformers на базе sentence-transformers/multi-qa-MiniLM-L6-dot-v1. Она использует архитектуру BERT и преобразует предложения и абзацы в плотные векторы размерности 384; сходство между ними оценивается скалярным произведением. Модель предназначена для семантического поиска, сравнения текстов и других задач, где нужно сопоставлять фрагменты по смыслу. Модель подходит для поиска релевантных фрагментов по запросу, выявления перефразировок, кластеризации и классификации текста на основе эмбеддингов. Максимальная длина входной последовательности — 512 токенов. Базовая модель ориентирована на английские вопросы и тексты, поэтому англоязычные сценарии подтверждены лучше всего.

mxbai-embed-large-v1-gguf — модель для построения векторных представлений предложений и текстов, разработанная MixedBread AI и преобразованная в формат GGUF пользователем ChristianAzinn. В основе лежит модель mxbai-embed-large-v1 архитектуры BERT, обученная с использованием функции потерь AnglE на большом высококачественном наборе данных. Модель ориентирована на англоязычные тексты и предназначена для семантического поиска, сравнения текстов, кластеризации, извлечения признаков и других задач, где используются sentence embeddings. Модель поддерживает контекст до 512 токенов и поставляется в вариантах GGUF с квантованием от 2 до 8 бит, а также в FP16 и FP32. Файлы совместимы с llama.cpp и LM Studio при указанных в README версиях. Квантование позволяет снизить требования к памяти, однако варианты с малым числом бит могут существенно ухудшать качество; наиболее сбалансированными авторами названы Q4_K_M, Q5_K_S, Q5_K_M и Q8_0. Размер исходной модели и точное число параметров в README не указаны. Модель сильна в задачах семантического представления текста и заявлена как обеспечивающая высокие результаты на бенчмарках уровня BERT-large. Ограничения включают поддержку только английского языка, ограничение контекста 512 токенами и возможную потерю качества при агрессивном квантовании. Модель распространяется по лицензии Apache-2.0.

Natsumura Assistant 1.0 — разговорная модель общего назначения из серии Natsumura, разработанная Tohur. Это плотная авторегрессионная модель семейства Llama 3.1 с 7,5 млрд параметров и контекстом до 131 072 токенов; она предназначена для диалогов и помощи с широким кругом текстовых задач. Модель дообучена на основе meta-llama/Meta-Llama-3.1-8B-Instruct с использованием наборов Natsumura Identity, Dolphin, Dolphin Coder, OpenHermes 2.5 Uncensored и UltraChat Uncensored. Карточка характеризует её как uncensored и отмечает высокую готовность следовать запросам. Модель принимает текст и генерирует текст; заявлена лицензия Llama 3.1 Community License.

Nemotron-3-Nano-30B-A3B от NVIDIA — языковая модель для диалогов, рассуждений и следования инструкциям. Эта версия Unsloth основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; метаданные и карточка описывают её как дообученную модель. Она предназначена для разработчиков чат-ботов, RAG-систем и агентных приложений, включая сценарии с вызовом инструментов, а также для программирования и типовых задач по инструкциям. Модель использует гибридную архитектуру Mamba-2 и Transformer с Mixture-of-Experts: 30 млрд параметров всего и 3,5 млрд активных. Поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Карточка указывает контекст до 1 млн токенов, при стандартной конфигурации 256 тыс.; больший контекст требует больше видеопамяти. Модель генерирует текст и может работать с рассуждением или без него; режим рассуждений обычно повышает качество на сложных запросах. В карточке указана готовность к коммерческому использованию, однако метаданные обозначают лицензию как «other», поэтому конкретные условия следует сверить с лицензией репозитория. К практическим ограничениям относятся высокие требования к видеопамяти, особенно при длинном контексте, и отсутствие поддержки русского языка среди перечисленных языков.

NeoHorse-1-4B — плотная причинно-языковая модель примерно на 3,4 млрд параметров, разработанная TokenRhythm дообучением Qwen/Qwen3.5-4B. Это прототип для текстовых агентных сценариев: диалогов, вызова инструментов, программирования, рассуждений и следования инструкциям. Модель распространяется в формате Safetensors; карточка указывает контекст до 262 144 токенов и совместимость с Transformers, а README описывает локальный запуск через SGLang и vLLM с OpenAI-совместимым API. В README заявлен прирост среднего результата на десяти бенчмарках относительно исходной Qwen3.5-4B. Выпуск содержит только языковые веса: визуальные веса отсутствуют, поэтому этот репозиторий предназначен для текстового вывода, даже несмотря на мультимодальные возможности базовой модели. Фактическая длина контекста при обслуживании зависит от памяти GPU и настроек сервера. Лицензия — Apache-2.0.

cnmoro выпустил компактную модель статических текстовых эмбеддингов на основе nomic-embed-text-v2-moe. Она создана с помощью Tokenlearn: автор сгенерировал эмбеддинги для 23 млн триплетов MS MARCO исходной моделью, а затем обучил на них Model2Vec-модель. Размер выходного вектора — 768 измерений; для загрузки автор рекомендует библиотеку Model2Vec, а метаданные также указывают Sentence Transformers. Модель предназначена для семантического поиска, сравнения предложений и извлечения релевантных документов. В карточке приведена оценка именно этой дистиллированной версии. Репозиторий создан 15 июня 2025 года и распространяется по лицензии Apache-2.0. Метаданные указывают английский и португальский языки; обучающие данные включают португалоязычные триплеты MS MARCO.

North Mini Code 1.0 — открытая по весам исследовательская модель, разработанная Cohere и Cohere Labs. Она предназначена для генерации кода, агентной разработки программного обеспечения и выполнения задач через терминал, включая работу с инструментами и решение сложных задач программирования. Модель принимает только текст и генерирует текст. Это decoder-only Transformer со sparse Mixture-of-Experts: всего 30 млрд параметров, из которых 3 млрд активируются для каждого токена. Архитектура использует 128 экспертов, 8 из них выбираются на токен, активацию SwiGLU, а также чередование sliding-window attention с RoPE и глобального attention без позиционных embedding в соотношении 3:1. Перед sparse-слоями используется один dense-слой. Модель дообучалась в два этапа с помощью supervised fine-tuning и reinforcement learning with verifiable rewards, ориентированных на агентное программирование. Контекст составляет до 256K токенов, максимальная длина вывода — до 64K токенов. Сильные стороны модели — специализация на коде, агентных сценариях разработки и терминальных задачах, большой контекст и сравнительно небольшое число активных параметров на токен. Ограничения включают текстовую модальность и исследовательский статус; README не приводит конкретные результаты бенчмарков и не описывает поддерживаемые естественные языки. FP8-чекпойнт предназначен для запуска с vLLM и несовместим с Transformers из-за используемого алгоритма квантования; для Transformers рекомендуется BF16-версия. Модель распространяется по лицензии Apache 2.0.

NULLXES SHINRA-4B-INSTRUCT — разработанная NULLXES инструкционно дообученная плотная decoder-only Transformer-модель с архитектурой ShinraForCausalLM и 3,93 млрд параметров. Она служит языковым компонентом системы NULLXES и рассчитана на диалог, выполнение инструкций, генерацию кода и структурированных ответов, а также подготовку черновиков для агентов и инструментов. Поддерживает девять языков: английский, русский, немецкий, французский, испанский, китайский, японский, корейский и арабский. Контекст — до 32 768 токенов; README указывает, что продолжение за пределы 8 192 токенов использует экстраполяцию RoPE YaRN. Модель обучалась на текстах, коде, математике и научных материалах, а затем проходила SFT и DPO-выравнивание. Её можно применять для многоязычной генерации, помощи с программированием, следования инструкциям и выдачи JSON. Модель уступает более крупным системам в многошаговых рассуждениях и работе с редкими языками; остаточный вредоносный контент возможен. README позиционирует её для исследований и внутренней интеграции NULLXES, исключая автономные высокорисковые решения и применение без дополнительных защитных слоёв. Для загрузчиков Hugging Face требуется trust_remote_code=True. Лицензия указана как other, конкретные условия в предоставленных данных не приведены.

NV-Embed-v2 — модель эмбеддингов общего назначения, разработанная NVIDIA на основе Mistral-7B-v0.1. Она преобразует текстовые запросы и документы в векторы размерностью 4096 для поиска, сравнения смысловой близости и других задач работы с текстовыми представлениями. Модель использует decoder-only архитектуру и pooling на основе latent attention. По данным авторов, она заняла первое место в MTEB на момент публикации карточки, включая подкатегорию поиска; разработчики также описывают двухэтапную настройку по инструкциям и подбор сложных негативных примеров. Для бенчмарков и сходных задач важно применять рекомендованные авторами инструкции-префиксы. NV-Embed-v2 предназначена для текстовых сценариев, включая семантический поиск и подбор контекста для RAG. Карточка указывает лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование без отдельного разрешения.

CrazyDave53/OpenCV-finetuned — модель Sentence Transformers, дообученная на базе HZeroxium/paraphrase-multilingual-MiniLM-L12-v2-job-cv-multi-dataset. Она преобразует предложения и абзацы в плотные векторы размерности 384; близость текстов можно оценивать косинусным сходством. Архитектура включает BertModel и mean pooling. В README указана максимальная длина последовательности 350 токенов, а в метаданных — контекст до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текста на основе эмбеддингов. README сообщает о датасете обучения из 160 000 примеров; метаданные указывают 124,3 млн параметров, библиотеку sentence-transformers и формат safetensors. Базовая модель мультиязычная, однако конкретные языки обучения или поддерживаемые языки в доступных данных не перечислены. Лицензия в предоставленных метаданных и README не приведена. Для работы с текстами длиннее 350 токенов следует учитывать ограничение длины последовательности, заявленное в README; фактический предел также может зависеть от используемой конфигурации модели.

Open-Instruct Human-mix 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на смеси созданных людьми наборов инструкций FLAN V2, CoT, Dolly и OpenAssistant 1. Она предназначена для генерации ответов на инструкции и запросы, включая задачи общего знания, рассуждения, математики и программирования. Модель принимает текст и генерирует текст. Для работы требуется исходная модель LLaMA в формате Hugging Face и применение diff-весов; рекомендуемый формат запросов описан в карточке модели. Контекст составляет 2048 токенов. В метаданных указан английский язык. Карточка приводит результаты оценки на MMLU, GSM, BBH, TyDiQA, Codex-Eval и AlpacaFarm. Использование регулируется лицензией AI-модели из репозитория и исходной лицензией LLaMA; перед применением необходимо учитывать условия обеих лицензий.

nanalysenko/panacea-test-2 — модель на базе RoBERTa, созданная с библиотекой Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения сходства текстов и кластеризации. Модель содержит 95,2 млн параметров, принимает текст и выдаёт эмбеддинги; максимальный контекст — 514 токенов. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель доступна в формате Safetensors. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

Parable-Granite-4.1-8B-Claude-Fable-5-GGUF — языковая модель AnkitAI, дообученная на базе IBM Granite 4.1 8B. Модель создана для многошаговых агентных сценариев: планирования, использования инструментов, работы с терминалом, программирования, отладки и рассуждений. Обучение проводилось на трассировках реальных сессий Claude Fable 5 и GPT-5.5, включая блоки рассуждений и взаимодействие с инструментами, а не на синтетических вопросах и ответах. Модель предназначена для генерации текста на английском языке и распространяется в формате GGUF для запуска через llama.cpp, Ollama и LM Studio; также доступна полноточная версия для vLLM, Transformers и дальнейшего дообучения. Выпуск содержит 8 миллиардов параметров и варианты квантования от Q4_K_M до Q8_0. Рекомендуемая версия Q4_K_M занимает около 4,8 ГБ и требует примерно 6 ГБ RAM или VRAM. В README указан контекст оценки 1 024 токена, а в примере llama-cpp-python используется контекст 8 192 токена. Ответы модель начинает с блока <think>, который рекомендуется удалять перед показом пользователю. К сильным сторонам относятся специализация на агентных задачах, программировании и терминальных сценариях, локальный офлайн-запуск и небольшой объём памяти для 8B-модели. На опубликованном тестовом разбиении дообученная модель показала test loss 0,617 против 2,030 у базовой Granite 4.1 8B; при строгой качественной проверке 20 из 34 ответов были полностью корректными, а 32 — корректными или частично корректными. Ограничения включают англоязычную специализацию, необходимость самостоятельно обрабатывать блоки рассуждений и отсутствие завершённого результата оценки function calling BFCL V3 из-за ограничения GPU-бюджета. Модель распространяется по лицензии Apache-2.0.

Карточка модели AzrilFahmiardi/persona-fit-embedding на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

kaiserrr/pmc-vit-l-14-multilingual — модель эмбеддингов на базе XLM-RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 305,2 млн параметров и рассчитана на контекст до 514 токенов. Модель принимает текст и выдаёт векторные представления, которые можно использовать для поиска похожих фрагментов и группировки текстов по смыслу. В карточке описано обучение с функцией потерь MSELoss; репозиторий содержит веса PyTorch. Лицензия и конкретный перечень поддерживаемых языков в предоставленных данных не указаны.

hroth01/psais-LaBSE-5shot — модель на основе BERT из библиотеки Sentence-Transformers, которая преобразует предложения и абзацы в плотные векторы размерностью 768. Её можно применять для поиска семантически похожих текстов, кластеризации и сравнения предложений. Модель обучалась с функцией потерь CosineSimilarityLoss. Она принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 512 токенов. В метаданных указан размер 498,1 млн параметров и формат PyTorch. Сведения о языках обучения и лицензии в предоставленных данных отсутствуют.

bartowski/Qwen2.5-Coder-32B-GGUF — это набор квантизованных версий модели Qwen2.5-Coder-32B, разработанной командой Qwen. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации и обработки программного кода, включая локальный запуск через llama.cpp и LM Studio. Модель содержит около 32 млрд параметров и распространяется в формате GGUF с различными уровнями квантизации от Q8_0 до более компактных вариантов Q2_K_L. Доступны версии размером примерно от 13 до 35 ГБ; варианты Q5 и Q6 обеспечивают очень высокое качество, а Q4_K_M предлагается как сбалансированный вариант для большинства сценариев. README указывает английский язык, текстовую модальность и формат prompt-шаблона для диалоговой генерации, но размер контекста и полный набор поддерживаемых языков не указаны. Сильной стороной является широкий выбор квантизаций, позволяющий подобрать компромисс между качеством, размером файла и требованиями к памяти. Некоторые варианты оптимизированы для ARM-инференса, однако требуют соответствующих аппаратных инструкций; отдельные ARM-варианты не рекомендуются для Mac и Windows. Низкобитные версии экономят память, но обладают более низким качеством, а Q4_0 отмечен как устаревший формат. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-32B-Instruct. Исходную модель разработала команда Qwen, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации, анализа и обработки программного кода, а также для диалогового взаимодействия с применением формата системных и пользовательских сообщений. Доступны варианты с разными уровнями квантизации — от Q8_0 до Q3 и IQ-серий — размером примерно от 14,8 до 34,8 ГБ. Более качественные варианты требуют больше памяти, а компактные позволяют экономить ресурсы с некоторым снижением качества. Формат GGUF поддерживает локальный запуск через совместимые инструменты, включая llama.cpp и LM Studio. В README явно указан английский язык; сведения о других языках, архитектуре, размере контекста и мультимодальности отсутствуют. Некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки, поэтому совместимость следует проверять отдельно. Модель распространяется по лицензии Apache-2.0.

duyntnet/Qwen2.5-Coder-3B-Instruct-imatrix-GGUF — набор imatrix-квантизированных версий инструкционно дообученной языковой модели Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации, анализа и исправления программного кода, а также для создания code agents и решения задач, связанных с математикой и общими текстовыми сценариями. Она работает как causal language model и поддерживает запуск через llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и другие совместимые интерфейсы. Исходная модель содержит 3,09 млрд параметров, 36 слоёв и поддерживает контекст до 32 768 токенов. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-проекциях внимания, связанные эмбеддинги слов и grouped-query attention: 16 голов для Q и 2 для KV. В карточке указана английская локализация; заявленная модальность — текст, формат репозитория — GGUF. Обучение включало предварительное и последующее дообучение на данных с исходным кодом, связями между текстом и кодом и синтетическими примерами. К сильным сторонам относятся специализация на программировании, генерации, рассуждении и исправлении кода, а также возможность локального запуска благодаря GGUF-квантизации. Ограничения включают отсутствие заявленной поддержки других модальностей и языков, кроме английского, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия указана как other, без подробных условий в README.

lemuralabs/Qwen3.6-27B-Coder-uncensored-MXFP8 — мультимодальная модель для генерации текста и кода, выпущенная исследовательской командой Lemura Labs. Она создана на основе Qwen/Qwen3.6-27B и производных моделей Jackrong с дистилляцией рассуждений и дообучением для агентного программирования. Модель ориентирована на написание и анализ кода, агентные сценарии, работу с инструментами и function calling, а также на обработку изображений. Модель содержит 27 млрд параметров, поддерживает заявленные языки English, Chinese, Spanish, Russian и Japanese, а также мультиязычные сценарии. Она использует формат MLX и квантование MXFP8 с 8-битным микромасштабированием; размер файлов составляет около 29,5 ГБ. Контекст заявлен до 262K токенов. Vision-компоненты и параметры multi-token prediction сохранены в fp16, поэтому доступны нативное speculative decoding без внешнего drafter и обработка изображений. Для запуска рекомендуется Apple Silicon с не менее чем 36 ГБ оперативной памяти. Сильными сторонами являются высокая точность локального инференса, специализированная настройка под программирование, мультимодальность и поддержка нативного MTP. В README также заявлены результат 67,0% на SWE-bench Verified для исходной Coder-модели, снижение частоты отказов с 86 до 8 из 100 тестовых запросов и KL divergence 0,007 после abliteration. Ограничения включают зависимость от экосистемы Apple MLX и значительные требования к памяти; заявленные метрики относятся к исходной или специализированной процедуре оценки и не гарантируют аналогичные результаты во всех задачах. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-DSV4Pro-Thinking-Distill — текстовая dense-модель, разработанная автором nerkyor на базе Qwen/Qwen3.6-27B. Она создана методом LoRA-дистилляции стиля рассуждений и агентного поведения DeepSeek-V4-Pro с включённым режимом thinking. Модель предназначена для локального использования, сложных задач рассуждения, программирования, многошагового решения задач и сценариев с вызовом инструментов, включая Lynn Agent. Модель содержит 27 млрд параметров и использует гибридную архитектуру Gated DeltaNet с linear/full-attention, 64 слоями и native MTP для ускорения генерации в однопоточном режиме. Поддерживаются английский и китайский языки; заявленная модальность — текстовая. В обучении использовались около 1842 дистиллированных образцов с многошаговым reasoning и ReAct-подобными вызовами инструментов. В описании упоминается оценивание с контекстом 32K, но точный максимальный размер контекста модели не указан. Сильные стороны — улучшение сложного reasoning относительно исходной Qwen3.6-27B, отсутствие незавершённых пустых ответов в заявленном тесте GPQA, а также сохранение или небольшое улучшение результатов по MMLU и coding-100. Ограничения состоят в том, что дистилляция передаёт прежде всего стиль рассуждения и способы вызова инструментов, а не новые знания или более высокий предел возможностей; симулированные результаты инструментов в обучающих данных не являются реальным выполнением. Часть агентной оценки субъективна, а приведённые результаты относятся к конкретному тестовому стенду и квантованным вариантам. Лицензия — Apache-2.0.

webhie/Qwen3.6-27B-int4-AutoRound-Code — квантованная версия мультимодальной модели Qwen/Qwen3.6-27B, созданная с использованием Intel AutoRound. Модель представляет собой плотную VLM с 27 млрд параметров и предназначена прежде всего для генерации и анализа кода, программирования, выполнения инструкций и использования в качестве AI-ассистента разработчика. Также поддерживает работу с изображениями через энкодер MoonViT. Применяется квантование INT4 W4A16 с группами по 128 весов и симметричным округлением; активации сохраняются в FP16. Калибровка выполнена на нормализованной выборке из nvidia/OpenCodeInstruct — датасета проверенных выполнением задач по программированию. Это должно улучшать сохранение качества при генерации кода, следовании инструкциям, структурированном выводе и рассуждениях по сравнению с универсальной калибровкой. Размер модели составляет около 18 ГБ вместо примерно 54 ГБ в BF16. В модели сохранена BF16-голова Multi-Token Prediction, благодаря чему в vLLM поддерживается нативное speculative decoding с потенциальным ускорением генерации. Заявлена поддержка длинного контекста до 200704 токенов при соответствующей конфигурации vLLM. Ограничения включают возможную потерю качества из-за INT4-квантования, зависимость расширенных возможностей от совместимых версий vLLM и аппаратного окружения, а также отсутствие в README явного перечня поддерживаемых языков. Лицензия — Apache-2.0.

Qwen3.6-35B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx-4bit — это общественная 4-битная конверсия в формат MLX модели Qwen3.5 MoE с примерно 35 млрд параметров. Модель основана на архитектуре Qwen3_5MoeForConditionalGeneration, дообучена с использованием Unsloth для генерации кода и пошагового рассуждения и дистиллирована на трассировках рассуждений DeepSeek v4 Pro. Конверсию подготовил пользователь 10Hen10; базовые компоненты связаны с Qwen и Unsloth, а инференс рассчитан на фреймворк Apple MLX. Модель предназначена для генерации, дополнения и объяснения кода, задач по математике и логике, отладки, агентских сценариев с вызовом инструментов и локального конфиденциального запуска на macOS. Она поддерживает текст, изображения и видео, а также встроенный function/tool calling в шаблоне чата. Основной язык — английский; поддержка других языков не является целевой. Контекстное окно в README не указано. Используется разреженная Mixture-of-Experts-архитектура, поэтому на каждом токене активна только часть параметров. Веса имеют 4-битное affine-квантование с размером группы 64, а чувствительные router/gate-слои сохранены в 8-битном формате. Для Apple Silicon M1–M4 рекомендуется не менее 32 ГБ unified memory; сами веса занимают примерно 20–22 ГБ, ещё около 2–4 ГБ требуется для KV-кэша и служебных данных. К сильным сторонам относятся сочетание кодогенерации и рассуждений, мультимодальность, поддержка инструментов и возможность локального запуска на совместимых устройствах Apple. Ограничения включают отсутствие официальных результатов бенчмарков, возможное снижение качества из-за 4-битного квантования, галлюцинации и ошибки в коде, а также зависимость качества рассуждений от учительской модели и данных дистилляции. Модель распространяется по лицензии Apache-2.0.