II.8Инженерия данных и аналитика

nvidia_AceInstruct-72B-GGUF — это GGUF-квантизованная версия instruct-модели AceInstruct-72B, разработанной NVIDIA и подготовленной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста в диалоговом и инструкционном формате, включая задачи общего назначения, программирование и математику. В README указана поддержка английского языка. Модель имеет размер 72B параметров; конкретная архитектура и максимальная длина контекста не указаны. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-квантов с размером файлов примерно от 29 до 77 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти; варианты Q4_K_M, Q5_K_M и Q6_K отмечены как рекомендуемые. Формат рассчитан на запуск через llama.cpp, LM Studio и другие совместимые проекты. К сильным сторонам относятся широкий выбор вариантов квантизации и возможность локального запуска, а также специализация исходной модели на инструкциях, коде и математике. Ограничениями являются высокие требования к памяти даже у компактных вариантов, снижение качества при низкой квантизации и отсутствие в предоставленных данных подробных результатов тестирования, сведений о мультимодальности и контекстном окне. Распространение указано по лицензии CC BY-NC-4.0, которая ограничивает коммерческое использование.

Ogma Base — компактная англоязычная модель для создания текстовых эмбеддингов, разработанная авторами семейства Ogma. Это плотная модель с 13,3 млн параметров и контекстом до 1024 токенов; она поддерживает симметричное кодирование и Matryoshka-размерности 256, 128, 64 и 32. В README указана средняя оценка 57,02 на 66 англоязычных задачах MTEB. Модель предназначена для семантического поиска, извлечения документов в RAG, векторного поиска, кластеризации, классификации, оценки сходства предложений и памяти агентных систем. Небольшой размер позволяет развертывать её локально и использовать на CPU. Она не генерирует текст и рассчитана на английский язык; для задач парного ранжирования в README отмечено отставание от MiniLM-L6-v2. Доступны форматы ONNX и safetensors. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; для него требуется отдельная лицензия или переобучение на подходящей модели-учителе.

Olmo 3 7B Instruct — авторегрессионная Transformer-модель Allen Institute for AI (Ai2) для диалогов и выполнения инструкций. Модель содержит 6,9 млрд параметров, рассчитана на английский язык и принимает текст, выдавая текст. Контекстное окно — до 65 536 токенов; модель работает через Transformers и распространяется в формате safetensors. Модель создана на основе allenai/Olmo-3-7B-Instruct-DPO и дополнительно обучена на наборе Dolci-Instruct-RL-7B. Она подходит для ответов на вопросы, общего диалога, задач по математике и программированию. Лицензия Apache 2.0; Ai2 указывает исследовательское и образовательное применение согласно своим рекомендациям ответственного использования. Ответы могут содержать фактические ошибки и предвзятость; без дополнительной фильтрации модель может генерировать вредоносный или чувствительный контент. Результаты следует проверять, а при внедрении учитывать необходимость мер безопасности.

OpenThinkerAgent-32B-SFT-3.16K — плотная языковая модель семейства Qwen3 с 29,7 млрд параметров, разработанная в рамках проекта OpenThoughts-Agent. Она дообучена полным обновлением параметров на 3 160 примерах OpenThoughts-Agent-SFT-3.16K, содержащих задачи и многошаговые траектории работы агента. Модель предназначена для диалоговой генерации текста и кода, выполнения задач разработки ПО и работы в терминале в агентном сценарии. В тестировании на Terminus-2 она показала более высокие результаты, чем исходная Qwen3-32B, на SWE-Bench-Verified-100, OpenThoughts-TBLite и Terminal-Bench 2.0. Контекстное окно составляет до 40 960 токенов. Модель принимает и генерирует текст; README описывает её применение в задачах с кодом и агентными траекториями. Веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Она обучена на сравнительно небольшом наборе из 3 160 примеров, поэтому результаты тестирования не гарантируют аналогичного качества на произвольных задачах; README приводит результаты только для указанного набора бенчмарков.

Карточка модели CrossNow/Ornith-1.5-35B-A3B на Hugging Face совпадает с карточкой ornith-ai/Ornith-1.5-35B-A3B, поэтому описание составлено по ней. Ornith-1.5-35B-A3B — разработанная Ornith AI диалоговая модель семейства Ornith-1.5 с архитектурой Qwen3.5 MoE. В модели около 35 млрд параметров, из которых примерно 3 млрд активируются на каждом токене. Она создана для генерации текста, агентного программирования и выполнения задач с помощью инструментов; README сообщает о результатах на бенчмарках кодирования и агентных задач. Модель принимает текст и выдаёт текст, включая структурированные вызовы инструментов. Поддерживает контекст до 262 144 токенов; README описывает расширение окна примерно до миллиона токенов с помощью YaRN, с возможным небольшим ухудшением качества на обычной длине контекста. Для запуска в bf16 требуется около 70 ГБ памяти модели; в примере обслуживания используются две GPU по 80 ГБ. Репозиторий распространяется по лицензии MIT.

Ornith-1.5-35B-A3B — языковая модель для генерации текста, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и создана с применением подхода непрерывного самоулучшения: модель самостоятельно генерирует новые учебные задачи, выявляет эффективные стратегии их решения и совершенствуется посредством reinforcement learning. В основе Ornith-1.0, на которой развивалась эта линейка, использовались Qwen3.5 и Gemma4 с дополнительным продолжением предобучения, mid-training и post-training. Модель предназначена прежде всего для программирования и агентных сценариев, включая работу в терминале, решение задач из репозиториев и автоматизацию многошаговых операций. Это mixture-of-experts-модель с общим размером около 35 млрд параметров, из которых для обработки каждого токена активируется примерно 3 млрд. В карточке не указаны поддерживаемые языки, размер контекста и мультимодальные возможности; по заявленному pipeline_tag это text-generation-модель. К сильным сторонам относятся результаты на coding- и agentic-бенчмарках: заявлены оценки 67,8 и 68,5 на Terminal-Bench 2.1 в конфигурациях Terminus-2 и Claude Code, а также 79 на SWE-bench Verified. По данным разработчика, модель превосходит сопоставимую Qwen3.6-35B-A3B и ряд плотных моделей в агентном программировании. Ограничения, требования к оборудованию и особенности инференса в README не описаны. Модель распространяется по лицензии MIT.

cyankiwi/Ornith-1.5-9B-AWQ-INT4 — квантизированная версия Ornith-1.5-9B, разработанной командой Ornith AI и опубликованной пользователем cyankiwi. Это плотная языковая модель примерно на 9 млрд параметров для генерации текста, ориентированная на эффективное развёртывание на одной GPU; заявлена также возможность запуска на периферийных устройствах в отдельной мобильной версии. Данная сборка использует квантизацию AWQ с точностью INT4 и имеет размер около 8,99 ГБ. Модель предназначена для программирования, агентских сценариев, решения STEM-задач и общего текстового вывода. В карточке указана калибровка на данных STEM and Agentic, а среди поддерживаемых языков перечислены английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский. Архитектура мультимодальности и размер контекстного окна не указаны. К сильным сторонам относятся компактность, возможность эффективного локального запуска и результаты, приведённые для задач работы с терминалом и кодом. К ограничениям относятся возможные потери качества из-за INT4-квантизации, а также отсутствие в предоставленных данных подробных сведений о контекстном окне, фактической производительности на разных устройствах и ограничениях применения. Модель распространяется по лицензии MIT.

Модель moshew/paraphrase-mpnet-base-v2_SetFit_sst2_nun_training_64 — sentence-transformers на базе MPNet, разработанная автором репозитория moshew. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. В карточке указано обучение с CosineSimilarityLoss; название репозитория также указывает на SetFit и SST-2, но подробности обучающих данных и результатов не приведены. Модель подходит для поиска похожих фраз и группировки текстов по смыслу. Язык и лицензия в предоставленных источниках не указаны.

Модель shahidha/paraphrase-multilingual-MiniLM-L12-v2 — дообученная модель эмбеддингов предложений на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, экспортированная в формат ONNX с квантизацией INT8. Она использует архитектуру MiniLM-L12 на базе BERT, содержит 124,3 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Для выполнения требуется ONNX Runtime; модель ориентирована на быстрый локальный запуск на мобильных и периферийных устройствах. Модель преобразует запросы и документы в плотные векторы для семантического поиска, поиска ответов, сопоставления FAQ, индексации векторных баз и retrieval-компонентов RAG-систем. В README указано дообучение на пользовательском наборе пар «запрос—ответ»; приведённые метрики Recall@1 96,39%, Recall@5 99,51% и MRR 97,69% относятся к тестовому набору авторов и не гарантируют такие же результаты на других данных. Карточка указывает поддержку многоязычной обработки, а метаданные содержат язык en. Лицензия — Apache-2.0. Модель выдаёт эмбеддинги и не генерирует текстовые ответы. Качество поиска зависит от близости данных применения к обучающей выборке и может различаться между предметными областями и языками.

heydariAI/persian-embeddings — дообученная Mohammad Hassan Heydari модель XLM-RoBERTa для построения контекстных векторных представлений предложений и абзацев. Она основана на FacebookAI/xlm-roberta-base и адаптирована на крупном корпусе персидских текстов для более точного учёта особенностей персидского языка. Модель предназначена для семантического поиска, кластеризации текстов и оценки контекстного сходства. Входом служит текст на персидском или английском языке, выходом — представления токенов, которые следует агрегировать подходящей операцией pooling для получения эмбеддинга предложения или абзаца. Архитектура — плотная XLM-RoBERTa; размер указан как 658,7 млн параметров, длина контекста — 514 токенов. Модель распространяется по лицензии Apache-2.0. Качество может быть ниже на языках, отличных от персидского и английского, а для получения эмбеддингов целых фрагментов текста требуется корректно настроить pooling.

qwp4w3hyb/Phi-3-mini-4k-instruct-iMat-GGUF — это GGUF-квантизированная версия Phi-3-Mini-4K-Instruct, разработанной Microsoft. Модель содержит около 3,8 млрд параметров и предназначена для генерации текста на основе инструкций. Она обучалась на синтетических данных и отфильтрованных общедоступных веб-данных с акцентом на качество и задачи, требующие рассуждений, а также прошла supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и безопасности. Модель рассчитана прежде всего на коммерческое и исследовательское использование на английском языке, включая среды с ограниченными ресурсами памяти и вычислений, сценарии с требованиями к низкой задержке, а также задачи программирования, математики, логики, понимания языка и здравого смысла. Поддерживается текстовая модальность и контекст до 4096 токенов. Версия представлена в формате GGUF для запуска с llama.cpp; квантизация выполнена с использованием importance matrix, доступны варианты K- и IQ-квантизации с уровнями от Q6_K до IQ1_S. Сильными сторонами являются компактный размер, пригодность для локального запуска и высокая производительность среди моделей с менее чем 13 млрд параметров, особенно в задачах кода, математики и логического рассуждения. Ограничениями остаются английская специализация, контекст в 4K токенов и общие риски языковых моделей: возможные ошибки, проблемы безопасности и предвзятость. Для критически важных сценариев требуется отдельная проверка качества и безопасности. Модель распространяется по лицензии MIT.

lunahr/Phi-4-mini-instruct-abliterated — изменённая версия компактной языковой модели Phi-4-mini-instruct от Microsoft. Это плотная авторегрессионная модель семейства Phi-3 с 3,8 млрд параметров; репозиторий содержит веса в формате Safetensors. Модель предназначена для генерации текста, диалогов, программирования и решения задач, особенно в средах с ограниченными ресурсами и требованиями к низкой задержке. Для исходной Phi-4-mini-instruct в README заявлено контекстное окно 128 тыс. токенов, однако метаданные этой модели указывают native context 4096 токенов. Модель поддерживает множество языков, включая английский, русский, китайский, арабский, японский и европейские языки. В README версия названа abliterated, то есть подвергшейся изменению механизмов отказа; степень и последствия этого изменения не описаны. Она унаследовала от базовой модели возможности диалогов, генерации кода и интерфейс вызова инструментов. Для вызовов инструментов возможны вымышленные имена функций или URL, а качество может различаться между языками; перед применением в чувствительных сценариях необходима оценка точности и безопасности. Лицензия — MIT.

radlab/polish-bi-encoder-mean — модель Sentence-Transformers для кодирования польских предложений и абзацев в плотные векторы размерностью 1024. Она основана на sdadas/polish-roberta-large-v2 и дообучена на датасете radlab/polish-sts-dataset с функцией потерь CosineSimilarityLoss. Модель предназначена для оценки семантического сходства, семантического поиска и кластеризации текстов; её можно применять в системах поиска и группировки польских документов. Архитектура — RoBERTa, размер составляет 533,7 млн параметров, контекст — до 514 токенов. Используйте библиотеку sentence-transformers либо трансформерную модель с подходящей операцией pooling. Лицензия — CC BY-SA 4.0.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_320 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_440 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_clustering_gist_checkpoint_epoch_1_step_150 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

BlueAvenir/prosieben_event_based_model_updated — модель Sentence Transformers на базе XLM-RoBERTa, разработанная BlueAvenir. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов; архитектура содержит около 305,2 млн параметров, а длина контекста составляет 514 токенов. Модель предназначена для построения семантического поиска и группировки похожих текстов. README описывает обучение с CosineSimilarityLoss, но не раскрывает обучающие данные и точный языковой охват; идентификатор и карточка не позволяют установить конкретную предметную область. Репозиторий содержит веса PyTorch.

Qwen2.5-Coder-0.5B от команды Qwen, представленная в репозитории Unsloth, — базовая причинная языковая модель для работы с кодом. Это дообученная версия Qwen/Qwen2.5-Coder-0.5B; карточка указывает архитектуру Qwen2 с 494 млн параметров и контекстом до 32 768 токенов. Модель принимает и генерирует текст, включая исходный код; в метаданных указан английский язык. Модель предназначена для генерации, анализа и исправления кода, рассуждений о программировании и задач заполнения пропусков в коде. Она сохраняет некоторые общие способности, включая работу с математикой, но это базовая модель: README не рекомендует использовать её для диалогов без дополнительного постобучения. Для работы используется библиотека Transformers; веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

Qwen2.5-Coder-1.5B — базовая авторегрессионная языковая модель для программирования, разработанная командой Qwen. Она предназначена для генерации и анализа кода, исправления ошибок и задач заполнения пропусков в коде; модель может служить основой для кодовых агентов после дополнительной настройки. Это предобученная модель, а не готовый разговорный ассистент. Модель использует архитектуру Qwen2 с 1,5 млрд параметров, 28 слоями, RoPE, SwiGLU, RMSNorm и групповым запросным вниманием; контекст — до 32 768 токенов. Она обучалась на коде, текстово-кодовых связях и синтетических данных, сохраняя общие языковые и математические способности базовой серии Qwen2.5. В репозитории представлены веса Safetensors для Transformers. Лицензия Apache 2.0 допускает использование и модификацию на её условиях. Модель сравнительно компактна, однако качество может уступать более крупным моделям; для диалога и практического использования рекомендуется постобучение или адаптация под целевой сценарий.

legraphista/Qwen2.5-Coder-1.5B-Instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционно дообученной модели Qwen/Qwen2.5-Coder-1.5B-Instruct. Квантование выполнено legraphista с использованием llama.cpp и метода IMatrix; исходный формат модели — BF16. README не уточняет команду или организацию, разработавшую базовую модель Qwen2.5-Coder. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: написания, дополнения и объяснения кода, а также выполнения инструкций, связанных с разработкой. Указан английский язык. Это текстовая модель без заявленной поддержки изображений или других модальностей. Размер базовой модели — 1,5 млрд параметров, однако сведения об архитектуре и размере контекстного окна в README отсутствуют. Доступны варианты GGUF от BF16 и FP16 до квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; для ряда вариантов применена IMatrix. Квантированные файлы занимают примерно от 676 МБ до 1,65 ГБ, что делает модель пригодной для локального запуска при ограниченных ресурсах. Более агрессивное квантование уменьшает требования к памяти, но может снижать точность и качество генерации. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-abliterated-i1-GGUF — квантизированная GGUF-версия модели TobiasLogic/Qwen2.5-Coder-32B-abliterated, подготовленная mradermacher. Модель предназначена для генерации текста и решения задач, связанных с программированием, включая написание и обработку кода. В метаданных указан английский язык; поддержка других языков, мультимодальность и точный размер контекстного окна не заявлены. Модель основана на варианте Qwen2.5-Coder с 32 миллиардами параметров и распространяется в нескольких форматах квантизации, включая IQ1–IQ4, Q2–Q6 и другие варианты. Это позволяет выбирать между размером файла, скоростью работы и качеством: более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству, тогда как Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как сбалансированный по размеру, скорости и качеству. Для использования требуются инструменты, поддерживающие формат GGUF. К сильным сторонам относятся специализация на коде, большое число параметров и широкий выбор квантизаций для локального запуска. Ограничения связаны с потерями качества при низкой квантизации, отсутствием заявленных характеристик контекстного окна и неполной информацией о производительности. Модель описана как abliterated и uncensored, однако конкретные свойства безопасности в README не приведены. Лицензия — Apache-2.0.

Qwen2.5-Coder-3B-Q8_0-GGUF — это квантизированная модель для генерации кода и другого текста, преобразованная в формат GGUF проектом ggml-org из базовой модели Qwen/Qwen2.5-Coder-3B. Модель относится к семейству Qwen2.5-Coder и предназначена для запуска с помощью llama.cpp, в том числе локально через командную строку или сервер. Модель имеет размер 3B параметров и представлена в формате Q8_0. Она поддерживает текстовый ввод и вывод; в карточке указан английский язык. Основные сценарии использования — генерация программного кода, помощь в задачах разработки и текстовая генерация. В примере запуска используется контекст длиной 2048 токенов, однако максимальный размер контекста в предоставленных данных не указан. Преимуществами являются специализированная направленность на программирование, компактный размер по сравнению с более крупными моделями и совместимость с llama.cpp. Ограничения связаны с отсутствием подробных сведений о качестве, поддерживаемых языках программирования, мультимодальности и максимальном контексте; модель следует оценивать с учётом ресурсов локального запуска и особенностей квантизации. Лицензия указана как qwen-research; подробные условия приведены в лицензии исходной модели Qwen/Qwen2.5-Coder-3B.

sillykiwi опубликовал слитую с помощью merge-lora модель на основе RevEng-24-25/Qwen2.5-Coder-7B-Instruct-Ghidra-v2 и семейства Qwen2.5-Coder. Это причинная языковая модель с архитектурой Qwen2ForCausalLM, предназначенная для генерации кода и диалоговой работы с запросами о коде; README также указывает на возможности рассуждения и исправления ошибок в коде. Модель содержит около 7,1 млрд параметров по метаданным, использует формат safetensors и рассчитана на контекст 32 768 токенов. README описывает базовую серию Qwen2.5-Coder-7B-Instruct как модель с RoPE, SwiGLU, RMSNorm и групповым вниманием; для базовой модели приведена длина контекста 131 072 токена с настройкой YaRN для длинных входов. Эти характеристики относятся к описанию базовой модели и не подтверждают, что у данной публикации контекст превышает 32 768 токенов. Модель подходит для помощи при написании, анализе и отладке кода. Лицензия — Apache-2.0; README отмечает, что для базового семейства рекомендуются актуальные версии Transformers, а масштабирование контекста может ухудшить работу на коротких входах.

Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантизированная версия Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF пользователем или организацией matrixportal с помощью llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и прежде всего для задач, связанных с программированием, включая работу с кодом и чат-сценарии. В README указано, что базовая модель разработана Qwen, однако подробные сведения о её обучении и возможностях вынесены в исходную карточку модели. Модель содержит 7B параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерной версией. Она распространяется в формате GGUF и рассчитана на запуск через llama.cpp, включая локальный CLI и серверный режим. В карточке указано, что заявленный язык — английский; поддержка других языков, архитектура, точный размер контекста и перечень модальностей не уточняются. Пример запуска использует контекст длиной 2048 токенов, но это не подтверждает максимальный размер контекста модели. Сильными сторонами являются специализация на коде, возможность локального запуска и совместимость с llama.cpp. Ограничения связаны с квантизацией, которая может снижать точность по сравнению с исходной моделью, а также с отсутствием в карточке подробных оценок качества и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-4B-Base-unsloth-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-4B-Base, подготовленная Unsloth и основанная на модели Qwen от команды Qwen. Это каузальная языковая модель на стадии предобучения, предназначенная для генерации и продолжения текста, обработки естественного языка, программирования, STEM-задач, логического рассуждения и работы с многоязычными данными. Поскольку модель является базовой, она не заявлена как специально обученная для диалогов или следования инструкциям. Модель содержит около 4,0 млрд параметров, из них 3,6 млрд без учёта embedding-слоёв, имеет 36 слоёв и использует Grouped-Query Attention с 32 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. Семейство Qwen3 предварительно обучалось на 36 трлн токенов на 119 языках с использованием данных для кодирования, STEM, рассуждений, книг, многоязычных и синтетических источников. Ключевое преимущество варианта — 4-битное представление, снижающее требования к памяти; при этом квантование может ограничивать точность по сравнению с полной или менее агрессивно квантованной версией. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.51.0 не поддерживают архитектуру Qwen3.

trohrbaugh/Qwen3.6-27B-heretic-ara — производная модель семейства Qwen3.6, опубликованная пользователем trohrbaugh. Это 27-миллиардная плотная модель с языковой частью и энкодером изображений; веса представлены в формате Safetensors и совместимы с Transformers и рядом движков инференса. Карточка описывает изменение модели методом abliteration: в приведённом сравнении доля отказов снизилась с 99 до 4 из 100, а KL-дивергенция относительно исходной модели составила 0,0469. Модель предназначена для диалогов с текстом и изображениями, программирования, работы с репозиториями и сценариев с агентами и вызовом инструментов. Исходная карточка Qwen3.6 указывает контекст 262 144 токена с возможностью расширения до 1 010 000 токенов; для этой производной модели отдельное подтверждение сохранения максимума не приведено. Языки перечислены в опущенной части README, поэтому их нельзя достоверно указать. Модель лицензирована по Apache-2.0. Снижение частоты отказов может означать ослабление встроенных ограничений безопасности; результаты в карточке основаны на небольшом сравнении и сами по себе не подтверждают качество или безопасность в иных сценариях.

Qwen3.6-27B-MTP-pi-tune-GGUF — производная модель от Qwen3.6-27B, разработанная bytkim. Это 27-миллиардная dense-модель, дообученная методом 4-bit QLoRA SFT для агентного программирования без отдельного этапа рассуждений. Модель упакована в формат GGUF, совместимый с llama.cpp, и ориентирована на локальный запуск. Модель предназначена для coding-agent сценариев, включая генерацию и редактирование кода, DevOps-задачи, работу с инструментами, function calling и взаимодействие с терминалом. Режим no-thinking рассчитан на прямые ответы, вызовы инструментов и структурированный вывод с меньшей задержкой. Multi-Token Prediction поддерживает speculative decoding, потенциально ускоряя генерацию длинного кода, рассуждений и подготовку вызовов инструментов. В описании также заявлена мультимодальная совместимость с изображениями и текстом, нативный контекст 256k токенов и максимальный контекст до 1M токенов. Сильными сторонами являются ориентация на локальные агентные циклы, интеграция с экосистемой llama.cpp, низколатентный прямой режим и поддержка MTP-декодирования. Ограничение модели — отсутствие специально обученного длинного внутреннего рассуждения: для задач, требующих сложного reasoning, автор рекомендует отдельную reasoning-версию. Эффективность MTP зависит от поддержки со стороны используемого runtime, а приведённая оценка на Terminal-Bench 2.0 составляет pass@1 28,09, поэтому её не следует считать универсальным показателем качества. Модель распространяется по лицензии Apache 2.0.

Карточка модели magicworld7/Qwen-3.6-27B-onlyu на Hugging Face совпадает с карточкой Qwen/Qwen3.6-27B, поэтому описание составлено по ней. Qwen3.6-27B — открытая модель с весами от команды Qwen, представленная как постобученная модель в формате Hugging Face Transformers. Это причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров; она поддерживает чат и интерфейс вызова инструментов. Модель предназначена для программирования, агентных сценариев и работы с изображениями, а README также описывает ввод видео. Указанная длина контекста — 262 144 токена с возможностью расширения до 1 010 000 токенов. В README отмечены задачи на уровне репозитория, разработка интерфейсов и сохранение контекста рассуждений между сообщениями. Модель можно запускать через Transformers и использовать с vLLM, SGLang и KTransformers; для высоких нагрузок авторы рекомендуют специализированные серверы инференса. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Qwen3.8-27B-ED-4.87bpw-GGUF — квантованная в формате GGUF версия Qwen3.8-27B, подготовленная автором репозитория bakhtin на основе BF16-файла ggml-org. Это мультимодальная чат-модель для диалога с текстом и изображениями; в метаданных указаны задачи image-text-to-text и возможности vision и chat. При квантовании до 4,87 бит на вес использована Importance Matrix, откалиброванная на русской технической речи, формальной логике и примерах кода. README сообщает о встроенном слое MTP и приводит результаты сравнения perplexity и скорости генерации с другой GGUF-квантовкой. Модель рассчитана на запуск на современной потребительской видеокарте с 16 ГБ видеопамяти; автор приводит ориентир 20–30 токенов в секунду в зависимости от заполнения KV-кэша. Автор указывает, что постобучение и абляции не проводились. Контекст свыше 128 тысяч токенов существенно снижает скорость, примерно до 5 токенов в секунду. Лицензия — Apache-2.0.

Qwen3.8-27B-OBLITERATED — дообученная версия Qwen3.8-27B, опубликованная Jaredhollins. Модель предназначена для диалогов и генерации текста, включая ответы на запросы, которые базовая модель может отклонять или сопровождать предупреждениями. По карточке, версия V3 устраняет жёсткие отказы и уклончивые ответы, сохраняя близкую к исходной производительность; в приведённом тесте MMLU она набрала 82,3% против 84,5% у базовой модели. В основе лежит плотная архитектура семейства Qwen3.5 с 27 млрд параметров. Репозиторий содержит варианты GGUF от BF16 до нескольких уровней квантования, а также файлы safetensors и MLX. Для GGUF автор рекомендует использовать встроенный шаблон чата; также указаны настройки генерации, помогающие уменьшить повторения и циклы. Лицензия — Apache-2.0. Модель ориентирована на ответы без отказов и подходит для диалоговых, кодовых и агентных сценариев. Указанные автором результаты на ограниченных наборах задач включают 20 из 20 проверок генерации кода, а также успешные примеры рефакторинга, извлечения данных по JSON-схеме и циклов ReAct. Это самооценка автора карточки; приведённые результаты не гарантируют качество на других запросах. В README также отмечено снижение MMLU относительно базовой модели, особенно в STEM, и склонность к повторениям без рекомендуемых настроек.