II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейredis/langcache-embed-v1 — модель Sentence Transformers, разработанная для Redis и дообученная на Alibaba-NLP/gte-modernbert-base на датасете Quora. Она преобразует предложения и абзацы в плотные эмбеддинги размерности 768 и сравнивает их с помощью косинусного сходства; модель предназначена для семантического сопоставления текстов и семантического кэширования, например для поиска похожих запросов и повторного использования кэшированных ответов. Архитектура основана на ModernBERT с пулингом CLS-токена, максимальная длина последовательности — 8192 токена. В метаданных указаны форматы safetensors, ONNX и OpenVINO. В README приведены результаты бинарной классификации на Quora: точность по cosine accuracy 0,90 и F1 0,87. Эти показатели относятся к описанной оценке и не гарантируют такого же качества на других данных. Поддержка языков отдельно не заявлена; датасет Quora и базовая модель указывают на ориентацию прежде всего на английский язык. Условия лицензии в предоставленных данных не указаны.
lemur-70b-chat-v1 — разговорная большая языковая модель OpenLemur, представленная в формате causal language model на архитектуре Llama. В репозитории указаны 68,7 млрд параметров, библиотека Transformers и веса PyTorch; модель создаёт текст по текстовому запросу и предназначена для диалогового использования. Метаданные также отмечают поддержку задач генерации кода. Модель рассчитана на английский язык, её родной контекст составляет 4096 токенов. Лицензия CC BY-NC 4.0 разрешает использование на условиях атрибуции и запрещает коммерческое применение. README не содержит сведений о результатах оценки или специальных ограничениях качества.
LettuceDetect v2 Qwen 2B — генеративная модель для поиска галлюцинаций в ответах RAG-систем и кодовых агентов. Её разработала KRLabsOrg на базе Qwen3.5-2B: модель дообучена методом LoRA с учителем, а адаптер объединён с базовыми весами в самостоятельную модель. Она принимает запрос пользователя, контекст-источник и проверяемый ответ, затем возвращает JSON с точными фрагментами ответа, которые не подтверждаются контекстом, и метками категории и подкатегории. Модель охватывает прозу, код и вывод инструментов; в обучении использовались данные на 14 языках. В README приведены результаты на объединённом тестовом наборе, RAGTruth и PsiloQA, включая оценку F1 на уровне фрагментов и примеров. Указана архитектура Qwen3.5 с гибридом Gated DeltaNet и attention; размер — 2 млрд параметров. Длина контекста не уточняется, модель описана как рассчитанная на длинный контекст. Модель предназначена для проверки обоснованности ответов, в том числе в контурах RAG и агентной генерации кода. Она возвращает текстовые фрагменты и их метки, но символьные смещения нужно восстановить сопоставлением фрагментов с исходным ответом. Для надёжного разбора результата README рекомендует задать строгую JSON-схему. Лицензия — Apache-2.0.
LiquidAI/LFM2.5-ColBERT-350M-GGUF — мультиязычная модель извлечения и переранжирования документов, разработанная Liquid AI. Это модель позднего взаимодействия (late interaction retriever) на базе эффективной архитектуры LFM2 с заявленным размером 350 млн параметров. Модель формирует отдельный вектор для каждого токена и сопоставляет запрос с документом с помощью метода MaxSim, что позволяет учитывать локальные совпадения между их фрагментами. Модель предназначена для семантического поиска, переранжирования результатов и интеграции в RAG-конвейеры, включая сценарии, где запросы и документы написаны на разных языках. В карточке заявлена высокая точность для 11 языков: английского, испанского, немецкого, французского, итальянского, португальского, арабского, шведского, норвежского, японского и корейского. Скорость вывода сопоставима с гораздо меньшими моделями, что делает её подходящей для развёртывания на периферийных устройствах и использования через llama.cpp в формате GGUF. Сильными сторонами являются мультиязычная работа, высокая заявленная точность, относительно эффективный inference и возможность заменить существующий retriever в RAG-системе. Ограничения связаны с архитектурой позднего взаимодействия: для документов необходимо хранить последовательность токеновых векторов и вычислять MaxSim, поэтому модель требует иной организации индексов, чем обычные модели с одним вектором на документ. Максимальная длина контекста и другие детальные характеристики в карточке не указаны. Лицензия обозначена как lfm1.0; подробные условия приведены в файле LICENSE.
LLaDA-MoE-7B-A1B-Base — базовая предварительно обученная языковая модель от InclusionAI, построенная как диффузионная модель языка с архитектурой Mixture-of-Experts. Это версия для исследований и дальнейшей разработки, в том числе для дообучения под конкретные сценарии. Модель обучена с нуля примерно на 20 трлн токенов; всего в ней около 7 млрд параметров, из которых при генерации активируется около 1,4 млрд. Архитектура включает 16 слоёв, использует RoPE и словарь из 157 184 токенов. Модель предназначена для генерации текста и может служить основой для задач программирования, математических рассуждений и сценариев с вызовом инструментов. Метаданные указывают контекст до 8 192 токенов; в README приведена длина контекста 4 096 токенов. Карточка не сообщает, на каких естественных языках модель обучена или проверена. Для работы указана библиотека Transformers; README также рекомендует dInfer для ускоренного инференса. Модель распространяется по лицензии Apache-2.0. Это базовый чекпойнт, поэтому для диалоговых и прикладных сценариев может потребоваться дообучение и подходящая обвязка; заявления о производительности и качестве приведены разработчиком и не сопровождаются здесь независимой проверкой.
YoungXuan/Llama-3.1-8B-NHS — продолжительно предобученная модель генерации текста на основе Meta Llama 3.1 8B с методом TTT-NTP: во время тестирования она обновляет быстрые веса в отдельных проекциях MLP, используя предсказание следующего токена. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст длиной до 131 072 токенов. Модель предназначена для генерации текста и улучшения извлечения связанных фактов из длинного контекста. В оценке RULER автор сообщает средний результат на 11,96 пункта выше базовой Llama 3.1 8B; улучшения сосредоточены на ассоциативном поиске по нескольким ключам и значениям, при этом на некоторых заданиях наблюдались ухудшения. Оценка проведена с одним seed, поэтому результаты требуют осторожной интерпретации. Для загрузки через Transformers требуется включить trust_remote_code, поскольку реализация TTT находится в коде репозитория. Формат весов — safetensors; лицензия — llama3.1.
Llama-3-Groq-70B-Tool-Use-GGUF — это GGUF-квантизированная версия дообученной языковой модели Llama 3 с 70 млрд параметров, разработанной Groq. Квантизацию подготовил bartowski на основе llama.cpp. Модель работает с текстом, поддерживает английский язык и предназначена для генерации текста, вызова функций и взаимодействия с инструментами. Основные сценарии применения — интеграция с API, обработка структурированных данных, автоматизация рабочих процессов и сложные последовательности вызовов инструментов. Модель обучена формировать вызовы функций в структурированном формате, включая имя функции и аргументы, а также обрабатывать ответы инструментов. В Berkeley Function Calling Leaderboard она показывает общую точность 90,76%. Сильной стороной модели является специализация на tool use и function calling, что делает её подходящей для агентных приложений и систем, подключённых к внешним сервисам. Ограничения включают работу только с текстом, заявленную поддержку английского языка и возможные ошибки, неточности или небезопасные результаты генерации. Для использования в LM Studio рекомендуется выбрать шаблон Llama 3. Модель распространяется по лицензии Llama 3; условия применения следует проверять в лицензии исходной модели.
lmstudio-community/Llama-3-Groq-8B-Tool-Use-GGUF — это GGUF-квантизация дообученной модели Llama 3 8B, разработанной Groq для использования инструментов и вызова функций. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, взаимодействия с API, работы со структурированными данными и выполнения сложных сценариев, в которых требуется выбирать и вызывать внешние инструменты. Модель поддерживает английский язык и использует текстовую модальность. В README указано 8 млрд параметров; размер контекста не указан. Для работы в LM Studio рекомендуется выбрать шаблон Llama 3. Ответы на вызовы функций оформляются в JSON внутри тегов tool_call, а доступные инструменты и их параметры передаются в системном запросе. Заявленная точность на Berkeley Function Calling Leaderboard составляет 89,06%. Сильная сторона модели — специализация на function calling, API-интеграциях и структурированном взаимодействии с инструментами. Ограничения включают отсутствие сведений о размере контекста и конкретных вариантах квантизации, а также ориентацию на английский язык; корректность вызовов зависит от качества описаний инструментов и используемого шаблона запроса. В метаданных указана лицензия llama3.
SimplySara/LocoOperator-4B-i1-GGUF — это GGUF-квантизация модели LocoOperator-4B, разработанной LocoreMind; квантизацию выполнил пользователь SimplySara. Модель предназначена для генерации текста, работы с кодом, агентских сценариев и вызова инструментов. В метаданных также указана связь с Qwen3 и дистилляцией, однако подробности архитектуры исходной модели не приведены. Доступна англоязычная версия, ориентированная на запуск через llama.cpp и совместимые инструменты. Размер базовой модели — 4B параметров; для представленного варианта в README указаны файлы разных уровней квантизации, включая i1-Q8_0, i1-Q6_K, i1-Q5_K_M и более компактные варианты. Для i1-Q8_0 размер составляет около 3,986 ГБ, а совпадение наиболее вероятных токенов с исходной моделью — 97,518%; при дальнейшем уменьшении разрядности размер сокращается, но качество в среднем снижается. Сильные стороны модели — сравнительно небольшой размер, поддержка GGUF и пригодность для локального запуска, а также специализация на коде, tool calling и агентских задачах. Ограничения включают англоязычную направленность, отсутствие данных о длине контекста, точной архитектуре, мультимодальности и результатах прикладных бенчмарков; качество зависит от выбранного уровня квантизации, особенно у наиболее компактных вариантов. Лицензия — MIT.
mdbr-leaf-ir — компактная модель эмбеддингов текста, разработанная командой MongoDB Research для информационного поиска, в том числе для этапа поиска документов в RAG-системах. Она основана на архитектуре BERT и дообучена на базе microsoft/MiniLM-L6-v2. Модель содержит 25,9 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель кодирует запросы и документы в векторы для поиска и ранжирования по смысловому сходству. Она поддерживает асимметричный поиск, когда запросы и документы кодируются разными способами, а также сокращение размерности векторов (MRL) и их квантизацию, чтобы уменьшить затраты на хранение и поиск. В README заявлены результаты на уровне лидеров среди компактных моделей на бенчмарке BEIR. Модель рассчитана на английский язык. Доступны веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0. MongoDB Research отмечает, что на момент публикации модель не используется в коммерческих продуктах или услугах MongoDB.
KennethTM/MiniLM-L6-danish-encoder — компактная модель Sentence-Transformers для семантического представления датских предложений и абзацев. Она построена на архитектуре BERT, содержит 25,9 млн параметров и преобразует текст в плотные векторы размерностью 384. Максимальная длина входной последовательности — 512 токенов. Модель адаптирована от sentence-transformers/all-MiniLM-L6-v2 с датским токенизатором и обучена на наборах ELI5 и SQuAD, переведённых с английского на датский. Её можно применять для семантического поиска, сравнения сходства предложений и кластеризации текстов на датском языке. Для использования доступны веса PyTorch и safetensors; библиотека модели — Sentence-Transformers. Лицензия — MIT. Автор README указывает, что доступна более новая версия KennethTM/MiniLM-L6-danish-encoder-v2, обученная на большем объёме данных.
tanbinh2210 выпустил модель Sentence Transformers, дообученную на базе tanbinh2210/mlm_finetuned_phobert. Она кодирует предложения и абзацы в плотные векторы размерности 768 для сравнения текстов по косинусному сходству. Архитектура включает трансформер RoBERTa с усреднением токеновых представлений; модель содержит 162,4 млн параметров и обрабатывает последовательности длиной до 258 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текстов на основе эмбеддингов. Она обучалась на выборках query, pos и neg из JSON-датасета, размер которого указан как 357 018 примеров. Базовая модель основана на PhoBERT, поэтому модель ориентирована прежде всего на вьетнамский язык. Распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.
MoCa-Qwen25VL-3B — мультимодальная модель для получения двунаправленных эмбеддингов, разработанная авторами работы MoCa. Она основана на Qwen2.5-3B-VL-Instruct и предназначена для поиска и сопоставления текстов и изображений, в том числе для поиска по документам и длинным парам «запрос — документ». Модель принимает текст, изображения и их чередующиеся комбинации, а выдаёт эмбеддинги для мультимодального поиска и классификации изображений без заранее заданных классов. Модель семейства Qwen2.5-VL имеет плотную архитектуру и 3,1 млрд параметров; нативный контекст — 128 000 токенов. В README заявлены высокие результаты на MMEB и ViDoRe-v2, а также обобщение на данные вне обучающей выборки. Обучение включало непрерывное предобучение на мультимодальных данных и контрастивную настройку на парах текстов и мультимодальных данных. Доступна под лицензией MIT.
ModernBERT-large — англоязычная модель Answer.AI, LightOn и их коллег, представляющая собой двунаправленный трансформерный энкодер в стиле BERT. Она содержит около 395 млн параметров и принимает последовательности длиной до 8 192 токенов. В архитектуре используются Rotary Position Embeddings, чередование локального и глобального внимания, а также оптимизации для эффективной обработки длинных входов. Модель предварительно обучена на 2 трлн токенов английского текста и кода. Её основная задача — предсказание замаскированных токенов; как энкодер она также подходит в качестве основы для классификации, поиска информации и семантического поиска по текстовым и кодовым корпусам. Для запуска доступны форматы PyTorch, Safetensors и ONNX через библиотеку Transformers. Модель особенно полезна для длинных документов и поиска по коду, но карточка Hugging Face классифицирует её как fill-mask, а не как готовую модель эмбеддингов или классификатор. Качество может быть ниже для языков помимо английского и кода; обработка всего контекстного окна может быть медленнее коротких входов, а представления могут отражать смещения обучающих данных. Лицензия — Apache-2.0.
Карточка модели MahmoodAnaam/ModernBERT-large на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.
Карточка модели unsloth/ModernBERT-large на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.
Multilingual Reranker small — компактный кросс-энкодерный реранкер Horizon Labs на базе mmBERT-small с архитектурой ModernBERT и 140,5 млн параметров. Он оценивает релевантность каждой пары «запрос — фрагмент» и помогает пересортировать результаты первичного поиска для поисковых систем и RAG. Запрос и фрагмент могут быть на разных языках; модель поддерживает более 40 языков. Нативная длина контекста в метаданных — 8192 токена, однако при обучении использовались пары длиной до 384 токенов, а более длинные фрагменты обрезаются. Модель дистиллирована из Qwen3-Reranker-4B и выдаёт один логит релевантности для каждой пары: более высокое значение означает более высокую релевантность, а sigmoid(logit) даёт оценку от 0 до 1. Репозиторий содержит веса safetensors и ONNX, включая квантованный вариант для CPU и браузера. По опубликованной оценке, модель меньше и уступает учителю по точности, особенно на длинных и технических текстах; узкоспециализированные запросы и разговорные формулировки представлены в обучении слабее. Лицензия — Apache-2.0.
MultiLinguSwahili-bge-small-en-v1.5-nli-matryoshka — компактная модель Sentence Transformer, разработанная Sartify LLC на базе BAAI/bge-small-en-v1.5 и дообученная на наборе Mollel/swahili-n_li-triplet-swh-eng. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска и сравнения текстов. Архитектура включает BERT, пулинг по токену CLS и нормализацию; модель содержит 40 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена сопоставлять тексты на суахили и английском, в том числе находить близкие по смыслу пары и различать отрицательные примеры. Её можно использовать для многоязычного семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. README приводит результаты оценки сходства предложений на нескольких вариантах тестового набора. Лицензия в предоставленных данных не указана. Качество на других языках, вне описанных сценариев и на текстах длиннее 512 токенов не установлено; как и у других моделей эмбеддингов, результаты зависят от данных и способа применения в поисковой или классификационной системе.
Ornith-1.0-35B-A3B-MXFP4_MOE_Hybrid-Imatrix-GGUF — это квантизированная GGUF-версия языковой модели Ornith-1.0-35B, разработанной Ornith AI; данные модели опубликованы пользователем jashepp. Согласно README, базовая модель создана на основе Gemma 4 и Qwen 3.5 и ориентирована прежде всего на агентные задачи программирования. Модель предназначена для генерации текста и кода, планирования и выполнения многошаговых правок в проектах, использования инструментов и других сценариев, где важны рассуждение и автономное решение задач. Модель использует архитектуру Mixture of Experts с заявленным общим размером 35B параметров и активными 3B параметрами (A3B). Репозиторий содержит варианты с ручной настройкой точности, включая MXFP4 для MoE-слоёв, Q8_0 и F16 для отдельных компонентов, а также калибровочную importance matrix (imatrix), оптимизированную для сохранения качества рассуждений при снижении требований к памяти. Указан английский язык; поддерживаются текстовые запросы и ответы. Размер контекста в README для самой модели не указан. К сильным сторонам относятся ориентация на agentic coding, планирование перед внесением изменений, поддержка reasoning, tool-use и chained distillation, а также уменьшенный по сравнению с полноразмерным вариантом объём памяти благодаря квантизации. Ограничения связаны с тем, что это квантизированная сборка, поэтому качество и скорость зависят от выбранного файла, совместимого движка GGUF и доступной видеопамяти; точные требования к оборудованию, бенчмарки и возможности работы на других языках в README не приведены. Модель распространяется по лицензии MIT.
JASouth публикует квантованную сборку языковой модели Ornith-1.5-9B от Ornith AI. Это вариант IQ-Hybrid в формате GGUF с калибровкой по importance matrix и смешанной точностью слоёв, рассчитанный на запуск на потребительских видеокартах с 8 ГБ видеопамяти. Модель предназначена для генерации текста и диалогового использования; исходная модель описана как подходящая для программирования, агентных задач и работы с инструментами в длинном контексте. В репозитории приведены варианты размером 5,38 и 6,55 ГБ и результаты сравнения perplexity на Wikitext-2. Автор сообщает, что вариант 5,38 ГБ показывает perplexity 9,2262 против 9,4833 у официального Q6_K и помещается в ограничения 8 ГБ VRAM; также заявлена поддержка длинного контекста, однако точная длина контекста исходной модели в доступных данных не приведена. Лицензия — MIT. Результаты производительности и качества являются заявлениями автора и зависят от конфигурации запуска.
PP-OCRv6_tiny_det — компактная модель обнаружения текстовых областей из семейства PP-OCRv6, разработанного командой PaddleOCR. Она использует LCNetV4 в качестве backbone и RepLKFPN в качестве шеи пирамиды признаков; размер модели — 0,43 млн параметров. Это детектор, который находит текст на изображении, включая рукописный, печатный, повёрнутый, изогнутый и художественный текст. Модель предназначена для лёгких OCR-систем и сценариев развертывания на периферийных устройствах; для распознавания найденных символов нужен отдельный модуль распознавания. В карточке заявлена поддержка 48 языков для семейства PP-OCRv6; метаданные репозитория указывают английский и китайский. Веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит отдельные метрики качества для tiny-детектора.
Карточка модели LIF1014/ptdbench-verl-coding-tasks-function-call на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.
femiari/Qwen2-1.5Moe — языковая модель Mixture of Experts, созданная с помощью LazyMergekit на основе Qwen/Qwen2-1.5B и Replete-AI/Replete-Coder-Qwen2-1.5b. Архитектура Qwen2 MoE, класс Qwen2MoeForCausalLM; размер — 1,5 млрд параметров, формат весов — Safetensors, контекст — до 131 072 токенов. Модель предназначена для генерации текста в диалоге и помощи с программированием. В конфигурации эксперты Qwen2 связаны с запросами к чат-ассистенту и объяснениям, а эксперт Replete Coder — с задачами по Python, JavaScript, программированию и алгоритмам. Поддерживается чатовый сценарий; отдельные гарантии качества для этих задач в карточке не приведены. Лицензия — Apache 2.0.
Qwen2.5-Coder-1.5B-Instruct-Q8_0-GGUF — это преобразованная в формат GGUF версия инструкционной модели Qwen2.5-Coder-1.5B-Instruct. Модель опубликована ggml-org и создана на основе модели Qwen, разработанной командой Qwen. Квантование Q8_0 выполнено с использованием llama.cpp через сервис GGUF-my-repo. Модель предназначена для генерации текста и работы с программным кодом в диалоговых и других сценариях, поддерживаемых llama.cpp. В README указаны языки с поддержкой английского языка, а также теги, связанные с кодом, чатом и семейством Qwen Coder. Известен размер базовой модели — 1,5 млрд параметров; формат GGUF оптимизирован для локального запуска через llama.cpp. В качестве примера указан контекст длиной 2048 токенов, однако это значение относится к рекомендуемой команде запуска, а не обязательно к максимальному контексту модели. К сильным сторонам относятся небольшой размер, инструкционная настройка, специализация на задачах программирования и удобство локального использования на совместимом оборудовании. Ограничения включают неизвестные из этого README качество на конкретных языках программирования, бенчмарках и задачах, а также отсутствие информации о мультимодальности; по имеющимся данным модель является текстовой. Модель распространяется по лицензии Apache-2.0.
Qwen3-14B-DAG-Reasoning — экспериментальная специализированная языковая модель от Sequelbox для причинно-следственного анализа и построения ориентированных ациклических графов (DAG). Она дообучена на Qwen/Qwen3-14B на наборе данных Sequelbox, сформированном с помощью DeepSeek R1 0528, и использует архитектуру Qwen3 с 14 млрд параметров. Модель принимает текст и обычно выдаёт структурированный JSON с узлами и связями графа, который можно использовать для визуализации или дальнейшего анализа. Модель рассчитана на многошаговые рассуждения в областях программирования, науки, бизнеса, экономики, финансов, права, логистики и управления. Для запроса графа или анализа следует явно попросить его в сообщении; при неясном запросе модель может ответить в обычном стиле Qwen3. Контекст составляет до 40 960 токенов. Для применения в продуктивных системах автор рекомендует проверять структуру выходных данных. Лицензия — Apache-2.0.
Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-Fable-mxfp8-mlx — экспериментальная объединённая модель, разработанная NightmediaAI на основе Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 от DavidAU и Qwen3.8-27B-Fable-Distill от armand0e. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, математических и STEM-задач, исследовательских сценариев, творческого письма, создания художественных историй и ролевого взаимодействия. Указана поддержка английского, китайского, японского и испанского языков. Модель содержит 27B параметров и представлена в формате mxfp8 для MLX; в карточке также упоминается вариант mxfp4. Заявлены контекстные окна до 256K и 1M токенов, однако подробности реализации не приведены. В качестве сильных сторон указаны улучшенные результаты по сравнению с базовой Qwen3.8-27B на приведённых тестах, а также высокая скорость генерации: около 180 токенов в секунду при mxfp8. Ограничения включают экспериментальный статус, отсутствие подробных инструкций по применению и неполные сведения о фактической поддержке мультимодального ввода, несмотря на тег image-text-to-text. Лицензия указана как Apache-2.0. Модель предназначена для исследовательского и общего использования, но заявленные характеристики и результаты следует проверять самостоятельно, поскольку они основаны на данных из карточки модели.
TelperionAI/Qwen3.8-27B-MLA — это производная от Qwen/Qwen3.8-27B модель с плотной гибридной архитектурой: 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного внимания. Разработчик заменил представление ключей и значений в кэше внимания на низкоранговое латентное представление с Multi-head Latent Attention (MLA). Преобразование выполнено без обучения и уменьшает KV-кэш примерно вдвое; веса модели, включая башню зрения и голову MTP, поставлены целиком. Модель предназначена для диалогов, программирования и длинных контекстов; она также сохраняет работу с изображениями, как базовая модель. В парном тестировании SWE-bench Verified модель получила 0,421 против 0,395 у исходной версии, используя на 12% меньше выходных токенов; на HELMET при контексте 64k средний результат составил 77,93 против 77,43. Эти результаты относятся к указанным тестам и настройкам. Для запуска требуется экспериментальный плагин qwen-mla-vllm: модель не загружается в Transformers или стандартный vLLM. README сообщает о проверке с vLLM 0.27.1 на RTX PRO 6000 и отмечает, что без nvcc и ninja запуск использует более медленные Triton-ядра. Проверка ограничена SWE-bench Verified и HELMET при 64k; другие области и существенно более длинные контексты не оценивались. Лицензия — Apache-2.0.
Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M — это версия модели Qwen3.8-27B Cold Fusion, разработанной DavidAU, с последующей квантизацией, масштабированием контекста и упаковкой от Solstice-AI. Модель предназначена для локального запуска на устройствах Apple Silicon через Apple MLX, Anvil Runtime и MLX-LM, включая задачи рассуждений, программирования, агентной разработки ПО, отладки репозиториев и длительных рабочих процессов с большим контекстом. В README также заявлена поддержка сценариев управления операционными системами и мобильными устройствами. Модель имеет размер 27 млрд параметров и поставляется в смешанной 8-битной точности Apple MLX oQ8e, оптимизированной с помощью importance matrix. Заявлена гибридная архитектура с Gated Delta Recurrent Network и Grouped-Query Attention, а также аппаратная Multi-Token Prediction. Максимальный контекст составляет 1 048 576 токенов благодаря YaRN RoPE scaling. Указаны английский и китайский языки; в метаданных модель обозначена как image-text-to-text, однако подробности поддержки изображений в README не приведены. К заявленным сильным сторонам относятся большой контекст, оптимизация для unified memory и Metal на Apple Silicon, сохранение качества при квантизации и высокая производительность с заявленным ускорением 1,72–2,20 раза благодаря MTP. README приводит результаты внутренних или заявленных разработчиками сравнений, включая 61,7% на SWE-bench Pro и 735 на ARC-C, но их независимая проверка не представлена. Ограничения включают зависимость от совместимого Apple Silicon окружения, возможные потери качества из-за квантизации и отсутствие подробных данных о требованиях к памяти и воспроизводимости оценок. Лицензия указана как Apache 2.0.
zerodigest/Qwen3.8-27B-YMQ-MTP-GGUF — это набор GGUF-квантизированных вариантов модели Qwen3.8-27B, подготовленный проектом ZeroDigest на основе официальных исходных файлов BF16. Релиз использует архитектурно-ориентированную смешанную точность, подходы, вдохновлённые AutoRound, и компилятор YMQ-Compiler v2.0. В описании также заявлена поддержка параллельного multi-token prediction (MTP) для спекулятивной генерации. Модель предназначена прежде всего для локального запуска и задач генерации кода, включая разработку, работу с API и многофайловыми проектами в инструментах вроде RooCode и Aider. Доступно несколько пресетов размером примерно от 9,8 до 19 ГБ, рассчитанных на видеокарты с 12–20 ГБ памяти и различные компромиссы между качеством, контекстом и требованиями к VRAM. Для вариантов приведены результаты измерений на WikiText-2 при контексте 4096 токенов; наилучшее указанное значение perplexity составляет 6,8413 у пресета M. Сильной стороной является распределение точности по компонентам модели с приоритетом сохранения логики и качества рассуждений при ограниченной памяти. Ограничения зависят от пресета: наиболее компактные варианты имеют заметный шум квантизации и рекомендуются для коротких или простых сценариев, а более качественные требуют больше видеопамяти. В README не указаны языки, точное максимальное окно контекста и полный перечень поддерживаемых модальностей; по доступным данным модель ориентирована на текстовую генерацию. Лицензия — Apache-2.0.
Qwen3.8-Flash-Next REAP-288 (GGUF) — это текстовая генеративная модель класса примерно 180B с архитектурой MoE, созданная sh0wie на основе Qwen/Qwen3.8-Flash-Next. В каждой MoE-слойной структуре число экспертов сокращено с 512 до 288 методом REAP. Модель преобразована непосредственно из полноточного источника bf16 в формат GGUF за один этап квантования и предназначена для запуска через llama.cpp, Ollama, LM Studio и совместимые инструменты. Модель ориентирована прежде всего на агентное программирование и задачи генерации, анализа и рефакторинга кода. В тесте HumanEval вариант после pruning показал результат 91,5% (149 из 164) против 93,9% у полной модели, однако измерение выполнено на ветке MLX 4-bit, а для GGUF указано только совпадение выбора сохранённых экспертов и общего bf16-источника. Доступны варианты Q4_K_M размером 78 ГБ, Q5_K_M размером 87 ГБ и Q8_0 размером 116 ГБ: увеличение размера обычно повышает точность, но требует больше памяти и снижает скорость. К сильным сторонам относятся высокая производительность в задачах программирования, выбор нескольких уровней квантования и совместимость с распространёнными локальными рантаймами. Ограничения включают возможное ухудшение качества за пределами распределения агентных задач программирования, отсутствие доверительных интервалов в оценках и отсутствие проверки работы с изображениями после pruning. Языки и размер контекста в README не указаны. Используется Qwen Community License 1.0, унаследованная от базовой модели.