II.8Инженерия данных и аналитика

Valdemardi/DeepSeek-R1-Distill-Qwen-32B-AWQ — квантизированная версия DeepSeek-R1-Distill-Qwen-32B, разработанная на базе модели DeepSeek-R1 командой DeepSeek AI. Модель предназначена для задач рассуждения, включая решение математических задач, программирование и другие сложные текстовые задачи. По данным README, DeepSeek-R1-Distill-Qwen-32B превосходит OpenAI o1-mini на ряде бенчмарков и демонстрирует сильные возможности для плотной модели. Модель использует архитектуру базовой Qwen-модели размером 32B параметров и работает с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Данная версия сжата в 4-битный формат AWQ с использованием AutoAWQ 3.2.7.post3, группировкой q_group_size 128, zero-point quantization и режимом GEMM. Квантизация снижает требования к памяти и может упростить локальный запуск, но потенциально сопровождается потерей точности по сравнению с полной версией. В README указана лицензия Apache-2.0 для репозитория этой версии, тогда как для исходной DeepSeek-R1 приведены отдельные ссылки на Model Agreement и лицензию кода MIT; условия использования следует проверять применительно к конкретным компонентам модели.

theo77186/dolphin-2.9.1-mistral-22b — преобразованная в формат Mistral версия Dolphin 2.9.1 Mixtral 1x22B, созданной Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и Cognitive Computations. Это плотная авторегрессионная языковая модель на 22 млрд параметров с контекстом до 65 536 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для диалогов и выполнения инструкций, включая задачи по программированию. В карточке также заявлены начальные агентные возможности и поддержка вызова функций. Для исходной модели указано полное дообучение всех слоёв с длиной последовательности 16 000 токенов; она основана на Dolphin-2.9-Mixtral-8x22B и извлечённом объединённом эксперте. Лицензия — Apache-2.0, допускающая коммерческое использование при соблюдении её условий. Автор README отмечает, что шаблон ChatML работает некорректно и что формат Alpaca при этом работает. Модель описана как uncensored и может следовать запросам, в том числе небезопасным; перед предоставлением сервиса рекомендуется добавить собственный слой выравнивания. Языки обучения и точные показатели качества в карточке не раскрыты.

QuantFactory/dolphin-2.9.1-yi-1.5-9b-GGUF — это квантизированная с помощью llama.cpp версия модели cognitivecomputations/dolphin-2.9.1-yi-1.5-9b, разработанной и обученной Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на базе Yi-1.5-9B. Модель предназначена для генерации текста, диалогов, выполнения инструкций, программирования, математических задач, начальных агентских сценариев и function calling. Модель относится к классу авторегрессионных текстовых моделей с архитектурой LlamaForCausalLM и использует формат промптов ChatML. Указан размер базовой модели — 9 миллиардов параметров; исходная модель имеет контекст 4K, а дообучение выполнялось на последовательностях длиной 12K с использованием RoPE theta 1000000.0. README не указывает поддерживаемые языки и точный вариант квантизации GGUF. Сильными сторонами заявлены широкий набор инструкционных, разговорных и кодовых навыков, поддержка function calling и результат 70,9 на MMLU для версии 9B. Модель описывается как uncensored: из обучающих данных удалялись alignment и bias, поэтому она может быть чрезмерно послушной и генерировать небезопасный или неэтичный контент. Перед использованием в сервисах рекомендуется добавить собственный слой выравнивания и фильтрации. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование.

Это GGUF-квантизированная версия текстовой языковой модели dolphin-2.9.2-Phi-3-Medium, разработанной cognitivecomputations и подготовленной пользователем legraphista. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, программным кодом, математическими задачами и агентными запросами. В обучении или дообучении исходной модели использовались наборы данных Dolphin-2.9.2, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Agent-FLAN и SystemChat-2.0. Распространяется в формате GGUF для запуска с llama.cpp и совместимых инструментов. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; для ряда вариантов применена IMatrix-квантизация, позволяющая уменьшить размер модели при сохранении качества. Указан английский язык, модальность — текстовая. Размер исходного BF16-варианта составляет около 27,92 ГБ, а доступные квантизированные файлы занимают примерно от 5,20 до 14,83 ГБ. Сильная сторона модели — возможность локального запуска с выбором компромисса между качеством и требованиями к памяти благодаря множеству уровней квантизации. Ограничения README не раскрывает: отсутствуют сведения о числе параметров, архитектурных деталях, размере контекста, результатах бенчмарков и качестве на других языках. Для публикации указана лицензия MIT.

Dolphin 2.9 Llama 3 8B GGUF — квантизированная версия модели cognitivecomputations/dolphin-2.9-llama3-8b, разработанная и обученная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations. Модель создана на базе Meta Llama 3 8B с использованием llama.cpp и полным дообучением всех параметров в формате ChatML. Указано, что обучение проводилось на последовательностях длиной 4 096 токенов, а базовая модель поддерживает контекст до 8 000 токенов. Модель предназначена для генерации текста, диалогов, выполнения инструкций, программирования, решения математических задач, начальных агентских сценариев и function calling. В обучении использовались наборы данных для диалогов, кода, инструкций, tool use и математических задач, включая Dolphin 2.9, OpenHermes 2.5, CodeFeedback, Dolphin Coder, UltraChat и Orca Math. Модель рассчитана на работу с текстом; поддерживаемые языки явно не указаны. К сильным сторонам относятся сочетание разговорных, инструкционных и кодовых навыков, а также начальная поддержка инструментов и вызова функций. Модель описана как uncensored и высоко послушная, поэтому перед предоставлением доступа через сервис рекомендуется самостоятельно добавить слой фильтрации и выравнивания; безопасность и корректность результатов не гарантируются. Лицензия указана как Meta Llama 3 Community License Agreement; коммерческое использование допускается только в пределах условий этой лицензии.

Gemma 2 27B Instruct — большая языковая модель Google из семейства Gemma, представленная в формате GGUF для запуска через llama.cpp и LM Studio. Квантование подготовлено bartowski на основе оригинальной модели google/gemma-2-27b-it. Модель предназначена для диалогового взаимодействия и универсальной генерации текста, включая работу с веб-текстами, программным кодом и математическими задачами. Модель содержит 27 миллиардов параметров и занимает промежуточное положение между моделями классов 8B и 70B, поэтому рассчитана на системы с умеренным объёмом видеопамяти. Она обучена на 13 триллионах токенов; обучающие данные включали преимущественно англоязычные веб-документы, код и математические материалы. Большой словарь способствует многоязычным возможностям и работе с кодом, однако точный перечень поддерживаемых языков и размер контекстного окна в README не указаны. Модель работает по шаблону Google Gemma Instruct и не поддерживает системный промпт. Для запуска рекомендуется LM Studio версии 0.2.27 или новее с пресетом Google Gemma Instruct. Модель является текстовой и не поддерживает мультимодальные входы или выходы. Использование регулируется лицензией Gemma; для доступа на Hugging Face необходимо принять условия лицензии Google. README также предупреждает, что модель может генерировать неточный, вредный или неприемлемый контент.

Карточка модели AshwinKM2005/github-duplicates-bi-encoder на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

GLM-4.7-Flash-NVFP4-GGUF — квантизированная версия языковой модели GLM-4.7-Flash, разработанной Zhipu AI и представленной в формате GGUF. Это модель архитектуры Mixture-of-Experts на базе DeepSeek2 с Multi-head Latent Attention: около 30 млрд параметров всего, из которых примерно 3,2 млрд активны на токен; используются 64 маршрутизируемых эксперта и один общий. Контекст составляет 200 000 токенов. Модель предназначена для генерации текста в диалоге, рассуждений и программирования на английском и китайском языках. Квантизация NVFP4 до примерно 4,53 бит на вес уменьшает размер файла до 15,79 ГБ и рассчитана на эффективный запуск на GPU NVIDIA Blackwell. Режим рассуждений включён по умолчанию; модель не имеет визуального энкодера. Это преобразование базовой модели в формат GGUF с квантизацией NVFP4. Репозиторий распространяется по лицензии MIT. Качество после квантизации может отличаться от исходной модели; для работы с NVFP4 требуется совместимое программное и аппаратное обеспечение.

GLM-4.7-Flash-REAP-23B-A3B — сжатая версия диалоговой модели GLM-4.7-Flash, созданная командой Cerebras методом REAP (Router-weighted Expert Activation Pruning). Это причинная языковая модель со sparse Mixture-of-Experts: в README указаны 23 млрд параметров, из которых активируются около 3 млрд на токен, 48 экспертов и выбор четырёх экспертов на токен. Метаданные указывают архитектуру GLM4 MoE Lite и формат safetensors. Модель предназначена для генерации текста и диалога, включая программирование, агентные сценарии, понимание больших репозиториев и вызов функций. Контекст составляет 202 752 токена. В карточке заявлено, что однократное удаление избыточных экспертов без последующего дообучения сокращает размер примерно на 25% при близкой к исходной производительности. Для развёртывания README рекомендует актуальную версию vLLM с поддержкой GLM-4.7-Flash. Лицензия — MIT. Описанные результаты производительности являются заявлениями карточки модели; независимая проверка и подробности оценочных таблиц в предоставленных данных отсутствуют. Метаданные карточки указывают английский язык.

GLM-5.3-Flash-GGUF-Finetuning — GGUF-квантованная версия модели GLM-5.3-Flash, связанная с экосистемой Unsloth и основанная на модели zai-org/GLM-5.3-Flash. Исходную модель разработала команда GLM-5; README также содержит ссылки на материалы Z.ai. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом. Она поддерживает английский и китайский языки. GLM-5.3-Flash — нативно мультимодальная модель с гибридной архитектурой, объединяющей sparse attention и linear attention. Объём модели составляет 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. Для повышения эффективности масштабирования используется Manifold-Constrained Hyper-Connections, а обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлена поддержка длинного контекста; в оценках использовались контексты до 300 000 и 1 млн токенов, однако точное штатное ограничение для данной GGUF-версии не указано. К сильным сторонам относятся сочетание высокой заявленной производительности, экономичности инференса, мультимодальности, возможностей программирования и агентской работы, а также снижение стоимости обработки длинного контекста. Ограничения конкретной квантованной сборки, включая точный уровень квантования, требования к оборудованию и возможную потерю качества, в README не описаны. Лицензия указана как MIT; для запуска рекомендуются совместимые версии llama.cpp или Unsloth Desktop.

活字3.5（Huozi 3.5）是哈尔滨工业大学社会计算与信息检索研究中心（HIT-SCIR）开发的稀疏混合专家语言模型，用于中文和英文对话、指令遵循及通用文本生成。模型基于 Chinese-Mixtral-8x7B 和活字3.0训练，并经过指令微调与模型融合；每个专家层含8个前馈网络，每次计算稀疏激活其中2个。README称模型共有46.7B параметров、推理时激тивируется около 13B; метаданные указывают 7.2B параметров. Поддерживается контекст до 32 768 токенов. Модель заявлена для работы с китайскими и английскими знаниями, математическими рассуждениями, генерацией кода, многоходовым диалогом и безопасными ответами. Доступны веса в формате safetensors, а для инференса описаны Transformers, vLLM, ModelScope, OpenAI API и преобразование в GGUF. Лицензия репозитория — Apache 2.0; для коммерческого использования авторы просят связаться с правообладателем и получить письменное разрешение. Модель может выдавать фактические ошибки, предвзятый или вредоносный контент, поэтому ответы требуют проверки. Заявления о возможностях и оценках приведены авторами; качество зависит от сценария и настройки генерации.

QuantFactory/Meta-Llama-3-8B-GGUF — это GGUF-квантизированная версия Meta Llama 3 8B, разработанная Meta и опубликованная QuantFactory. Модель предназначена для генерации текста и кода, включая текстовые приложения и диалоговые сценарии. Она принимает только текстовые входные данные и генерирует текст или программный код. Модель представляет собой авторегрессионную языковую модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention (GQA). Она содержит 8 млрд параметров, имеет контекстное окно 8 тысяч токенов и обучалась на новом сочетании общедоступных онлайн-данных объёмом более 15 трлн токенов. В README указан английский язык. Квантизация в формате GGUF может повысить эффективность локального вывода, однако конкретные параметры квантизации и требования к ресурсам не указаны. Сильными сторонами модели являются компактный для семейства Llama 3 размер, поддержка генерации текста и кода, а также оптимизация GQA для масштабируемости инференса. Ограничения включают текстовую модальность, статичность обученной версии и дату отсечения знаний — март 2023 года. Для instruction-tuned вариантов Llama 3 заявлены оптимизация диалогового взаимодействия, полезности и безопасности, но README не уточняет, является ли данный GGUF-файл предварительно обученной или instruction-tuned версией. Использование регулируется специальной коммерческой лицензией Llama 3 от Meta.

JANGQ-AI/Mistral-Small-4-119B-A6B-JANG_4M — квантованная сборка модели Mistral Small 4 от Jinho Jang и проекта JANGQ-AI, предназначенная для запуска на компьютерах Apple Silicon через MLX. Она основана на mistralai/Mistral-Small-4-119B-2603 и использует формат MLX safetensors с квантованием JANG 4.08 бит и вычислениями bfloat16. Модель содержит 119 млрд параметров, из которых активны около 6 млрд на токен. Архитектура включает 36 MoE-слоёв с 128 экспертами и выбором четырёх экспертов, MLA-внимание и визуальный энкодер Pixtral. Модель поддерживает диалог, рассуждения, генерацию кода и анализ изображений; README указывает максимальное разрешение изображений 1540 пикселей. В карточке перечислены английский, французский, немецкий, испанский, японский, корейский и китайский языки. Сборка рассчитана на запуск в MLX Studio; README также указывает поддержку oMLX. Для указанной конфигурации требуется около 68 ГБ оперативной памяти, а тест скорости приведён для M3 Ultra. Владелец публикует код квантования с открытым исходным кодом; модель распространяется по лицензии Apache-2.0. Приведённые скорости относятся к конкретному стенду и не гарантируют такие же результаты на других устройствах.

multi-qa_v1-mpnet-mean_cos — модель SentenceTransformers для получения векторных представлений предложений и текстов. Её разработали участники Hugging Face Community Week в проекте по обучению моделей эмбеддингов; в основе лежит microsoft/mpnet-base, дообученная в сиамской схеме с контрастивной целью. Размер модели — 136,7 млн параметров, архитектура — MPNet, формат весов — PyTorch, контекст — до 514 токенов. Модель предназначена для семантического поиска, сравнения сходства вопросов и ответов, кластеризации и других сценариев, где нужно сопоставлять тексты по смыслу. Она кодирует входной текст в вектор, используя mean pooling скрытых состояний. Обучение проводилось на парах вопросов и ответов Stack Exchange, а также данных MSMARCO, NQ и TriviaQA, что делает модель ориентированной на поиск ответов по запросам. Модель принимает текст и выдаёт эмбеддинги; README не указывает отдельную языковую специализацию. Это энкодер для извлечения признаков, а не генеративная модель ответов. Лицензия в предоставленных метаданных и README не указана.

Это квантованная в NVFP4 сборка NVIDIA Nemotron-3.5-Lightning-30B-A3B, подготовленная в формате GGUF для запуска через llama.cpp. Модель разработана NVIDIA и имеет гибридную архитектуру MoE с чередованием слоёв Mamba-2 и MoE, а также отдельными слоями Attention; всего в ней 30 млрд параметров, из которых активны 3 млрд. В репозитории также есть черновая модель DFlash для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, рассуждений, ответов на вопросы и задач программирования. В README заявлена длина контекста до 1 млн токенов при нативном значении по умолчанию 256 тыс. Поддерживаются английский, испанский, французский, немецкий, итальянский и японский языки. Для коммерческого использования указана лицензия OpenMDW-1.1. Квантованная сборка может отличаться по качеству от исходной BF16-версии; показатели README приведены лишь для отдельных бенчмарков.

NeoHorse-1-4B-GGUF — текстовая GGUF-версия причинной языковой модели NeoHorse-1-4B, разработанной TokenRhythm и переобученной на базе Qwen3.5-4B. В репозитории prithivMLmods представлены варианты квантования от BF16 до Q3_K_S, предназначенные для запуска через llama.cpp и совместимые с экосистемой Transformers. Модель рассчитана на генерацию текста, следование инструкциям, программирование, рассуждения, работу в агентных сценариях и использование инструментов. Её ключевая особенность — routing harness, который распределяет задачи между разнородными моделями, учитывает взаимодействия с инструментами и результаты выполнения, оценивает требуемые способности и использует эти сигналы для формирования обучающей смеси. Указана поддержка Qwen3-style reasoning и парсеров вызовов инструментов; модель также может обслуживаться через SGLang или vLLM. Модель содержит около 4 миллиардов параметров, поддерживает только текстовый ввод и вывод, поскольку vision-веса исключены. Заявлен английский язык, нативное контекстное окно составляет 262144 токена с возможностью расширения до 1010000 токенов. По данным README, в сравнении с рядом моделей сопоставимого размера NeoHorse-1-4B показала более высокий средний результат на десяти тестах, особенно в агентных задачах, программировании и использовании инструментов. Ограничениями являются отсутствие визуальной модальности и заявленная языковая поддержка только английского; фактическое качество может зависеть от выбранного варианта квантования. Модель распространяется по лицензии Apache License 2.0.

Brian6145/Qwen3.6-27B-Claude-Opus-DeepSeek-Distilled-Imatrix-MTP-GGUF — квантизированная модель в формате GGUF на базе Qwen/Qwen3.6-27B, разработанная Brian6145. Модель предназначена для локального запуска, агентских сценариев, использования инструментов, ReAct-подхода и выполнения длинных последовательностей задач. Заявлены улучшения в структурированном рассуждении, оркестрации инструментов, следовании инструкциям, математике и логическом выводе за счёт дистилляции из Claude Opus, DeepSeek и математических и логических моделей. Модель поддерживает английский и китайский языки и ориентирована на генерацию текста. Указаны архитектурная база Qwen3.6-27B, квантизация q4_k_m, поддержка speculative decoding через MTP и работы с длинным контекстом, однако точный размер контекстного окна не приведён. В README заявлены результаты BenchLocal 6-pack — 86,5, GPQA-Diamond-198 — 83,84% и MMLU-500 — 91,80%, а также высокая эффективность в задачах вызова инструментов, поиска ошибок и структурированного вывода. Ограничения включают некоторое снижение результата в DataExtract-15 по сравнению с базовой моделью и чувствительность агентного поведения к параметрам генерации. Рекомендуются temperature 0.6 и top_p 0.95; для заявленной производительности также указан режим q4_k_m с MTP=3. Модель распространяется по лицензии Apache-2.0.

ISTA-DASLab/Qwen3.6-35B-A3B-2Bit-GSQ — это квантизованная версия модели Qwen/Qwen3.6-35B-A3B, разработанная IST-DASLab с использованием метода GSQ (Gumbel-Softmax Quantization). Базовая модель построена по архитектуре MoE: 35 млрд параметров всего и около 3 млрд активных параметров. Модель ориентирована на рассуждения, программирование, следование инструкциям, научные и математические задачи, а также работу с длинным контекстом. В репозитории заявлена поддержка сценариев image-text-to-text; чекпойнт включает vision-компоненты, необходимые для мультимодальных входов, однако сведения о поддерживаемых языках и точной длине контекста в README не указаны. Ключевая особенность — смешанная квантизация. Веса маршрутизируемых экспертных MLP представлены в 2-битном формате GSQ с эффективной стоимостью хранения около 2,13 бит на параметр и размером группы 128, тогда как attention-слои, общие эксперты и LM head квантизованы в INT8. Эмбеддинги, нормализации, маршрутизатор MoE и другие компоненты сохранены в BF16. Полный чекпойнт занимает примерно 12,6 ГБ, а вариант без vision- и MTP-компонентов — около 9,9 ГБ. По приведённым оценкам, модель сохраняет высокую точность базовой версии, особенно на AIME 2025, где результат совпал с исходной моделью, но уступает ей на GPQA Diamond, IFEval, MMLU-Pro и GSM8K. Ограничения связаны с необходимостью специальной инфраструктуры: для запуска через vLLM требуется версия 0.27.1, патч совместимости из репозитория и GPU Ampere или Hopper. Лицензия — Apache-2.0.

Qwen3.6-35B-v2-MoE-Ablit-Heretic-Uncensor-Hermes-MTP-Vision-Llama — модель от oktayd, распространяемая в формате GGUF для запуска через llama.cpp. Это локальный мультимодальный conversational-модельный вариант с поддержкой работы с текстом и изображениями, включая скриншоты, документы, диаграммы и сцены. Модель ориентирована на ответы на вопросы, объяснение научных и рабочих тем, программирование и отладку, работу с инструментами и агентскими сценариями, анализ визуальных данных, написание текстов, ролевое общение и настройку стиля диалога. Модель относится к семейству Qwen3.6-35B-A3B и использует архитектуру Mixture of Experts с примерно 35 млрд параметров всего и около 3 млрд активных параметров на токен; конфигурация выбирает 8 из 256 маршрутизируемых экспертов. Заявленный нативный контекст составляет 262 144 токена, однако для рекомендуемого запуска указан профиль на 131 072 токена. Доступны квантованные GGUF-варианты разных размеров, а исходная BF16-версия сохраняет vision- и MTP-тензоры. Поддержка языков подробно не указана, но в обучающих материалах присутствуют многоязычные подписи. Сильные стороны модели — сочетание текстовых, программных, инструментальных и визуальных сценариев, относительно экономичная по вычислениям MoE-архитектура и возможность локального запуска. При этом общий объём параметров требует значительных ресурсов хранения и памяти даже при активации только части экспертов. Модель может ошибаться или повторяться, её ответы требуют проверки, а заявленные возможности не являются гарантией высокой точности. В README также указана аблитерированная, uncensored-направленность и наличие материалов для взрослой тематики, поэтому модель подходит не для всех аудиторий. Лицензия — Apache-2.0.

Qwen3.7-Max — флагманская модель серии Qwen3.7, разработанная Alibaba. Она принимает и выдаёт текст и предназначена для агентных сценариев, включая программирование, работу с офисными задачами и повышение продуктивности. Карточка модели отмечает сильные стороны в задачах кодирования и офисной работы. В метаданных Hugging Face указана задача генерации текста и дата публикации 21 мая 2026 года. Сведений о размере, длине контекста, языках, лицензии и ограничениях в доступных материалах нет.

Это конвертированная в формат Llama версия инструктивной языковой модели Qwen2.5-7B-Instruct. Репозиторий создан llamafy; модель предназначена для программ, совместимых с форматом Llama. По метаданным, это плотная причинная языковая модель на 7,1 млрд параметров с контекстом до 4096 токенов, сохранённая в safetensors и используемая через библиотеку Transformers. Модель подходит для диалогов и генерации текста, включая код и структурированные ответы, которые поддерживает базовая Qwen2.5-7B-Instruct. В метаданных указаны языки китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Лицензия в предоставленных данных не указана.

Qwopus3.8-27B-Flash-V2-GGUF — мультимодальная instruction-tuned модель, разработанная Jackrong. Это обновлённый post-training релиз Qwopus3.8-27B-Flash, основанный на Qwen3.8-27B. Модель предназначена для генерации текста по текстовым и визуальным входным данным, решения сложных задач, рассуждений, генерации кода, использования инструментов, function calling и агентских сценариев с многократными итерациями «анализ — вызов инструмента — наблюдение — редактирование — проверка». Версия GGUF ориентирована на локальный inference. Ключевая заявленная характеристика — размер 27B параметров. Модель поддерживает image-text-to-text и относится к мультимодальным моделям с vision-возможностями. В README указаны языки English, Chinese, Spanish, Russian и Japanese. Архитектура и размер контекстного окна не раскрыты. Обновлённое обучение направлено на сокращение неэффективных рассуждений, повышение скорости завершения задач и улучшение практичности длительных агентских рабочих процессов; отдельно отмечено улучшение форматирования Python. Сильными сторонами модели являются сочетание рассуждений, программирования, работы с изображениями и инструментами, а также ориентация на эффективность при ограниченных вычислительных ресурсах. При этом README подчёркивает компромисс между сокращением длины рассуждений и сохранением корректности; универсальные улучшения качества не заявлены. Точные методы обучения V2 и полный рецепт reinforcement learning не раскрыты. Модель распространяется по лицензии Apache-2.0.

Ring-flash-linear-2.0 — открытая языковая модель от InclusionAI, полученная дальнейшим обучением inclusionAI/Ling-flash-base-2.0 на дополнительном триллионе токенов. Она предназначена для диалога и генерации текста, включая задачи рассуждения, математики, программирования, науки и творческого письма; также поддерживает интерфейс вызова инструментов. Модель на 5,5 млрд параметров построена на разреженной MoE-архитектуре Bailing с гибридным вниманием: линейное внимание сочетается со стандартным, а для ускорения генерации используются MTP-слои. По данным разработчика, активируется 6,1 млрд параметров, заявлена производительность на уровне плотной модели 40B и контекст до 128 тысяч токенов. Метаданные указывают английский язык; в README заявлены высокая эффективность инференса и результаты на уровне сопоставимых моделей в выбранных тестах. Для запуска README приводит варианты на Transformers, SGLang и vLLM с дополнительными пакетами и версиями зависимостей. Модель распространяется по лицензии MIT. Заявления о скорости и качестве основаны на оценках разработчика; README не приводит в представленном тексте подробностей о наборах данных и ограничениях ответов.

muflihimaduddin/sbert-finetuned-oe — дообученная модель Sentence Transformers на основе sentence-transformers/all-distilroberta-v1, разработанная автором репозитория. Она преобразует предложения и короткие абзацы в нормализованные плотные векторы размерностью 768, пригодные для семантического поиска, извлечения релевантных фрагментов и сравнения текстов по косинусному сходству. Архитектура включает RoBERTa, усредняющий pooling и нормализацию; модель принимает текст и имеет максимальную длину последовательности 512 токенов. Обучение проводилось на 6 798 парах предложений с оценками сходства с использованием CosineSimilarityLoss. Лицензия в предоставленных данных не указана.

Tarka-AIR разработала Tarka-Embedding-150M-V1 — компактную текстовую embedding-модель на 150,9 млн параметров на основе архитектуры Gemma 3 Text. Она преобразует текст в плотные векторы размерностью 768 для поиска, оценки семантического сходства и извлечения документов в RAG-системах. Контекст модели — до 2048 токенов; заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Модель обучена методом дистилляции знаний без меток на корпусе примерно из 2 млрд токенов. Для формирования запросов и документов README рекомендует использовать специальные префиксы, зависящие от сценария. Модель подходит для семантического поиска, подбора похожих текстов, кластеризации и извлечения контекста для ответов на вопросы и проверки фактов. Авторы сообщают, что пока оценивали её только на англоязычном бенчмарке MTEB, поэтому качество для остальных заявленных языков не подтверждено опубликованными результатами. Лицензия — Gemma; перед использованием следует учитывать её условия.

Карточка модели jondurbin/airoboros-l2-7b-gpt4-2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

Atom-80B — диалоговая языковая модель VANTA Research, дообученная на базе Qwen3-Next-80B-A3B-Instruct для совместной работы с человеком. Это пятая модель проекта Atom, ориентированного на модели с дружелюбным и ориентированным на сотрудничество стилем общения. Модель использует архитектуру Qwen3 Next с разреженной схемой Mixture of Experts (MoE); в метаданных указано 2,3 млрд параметров и контекст до 262 144 токенов. Работает с текстом и предназначена для генерации ответов в формате диалога. Модель подходит для совместного мозгового штурма, синтеза исследовательских материалов, объяснения технических тем, обсуждения кода и творческого решения задач. Разработчик заявляет о сильных сторонах в многошаговых рассуждениях, совместном выполнении задач и устойчивом стиле общения. README не приводит результаты независимых оценок качества, поэтому фактические утверждения следует проверять; модель не предназначена для принятия решений с высокими ставками без контроля человека и не должна заменять медицинскую, юридическую или финансовую консультацию. Лицензия — Apache-2.0.

ERNIE-4.5-21B-A3B-Thinking-GGUF — текстовая MoE-модель, разработанная Baidu и представленная в формате GGUF. Она предназначена для сложных задач рассуждения, включая логические задачи, математику, естественные науки, программирование, генерацию текста и академические тесты. Модель также поддерживает эффективное использование инструментов и вызовы функций. Модель содержит 21 млрд параметров, из которых для каждого токена активируется около 3 млрд. Архитектура включает 28 слоёв, 20 Q-голов и 4 KV-головы, 64 текстовых эксперта с активацией 6 экспертов, 64 vision-эксперта с активацией 6 экспертов и 2 общих эксперта. Указана длина контекста 131 072 токена. Основная модальность — текст; заявленные языки — английский и китайский. К сильным сторонам относятся улучшенные качество и глубина рассуждений, поддержка длинного контекста, инструментов и function calling, а также вычислительная эффективность MoE-архитектуры благодаря активации только части параметров на каждом токене. README рекомендует модель прежде всего для высокосложных задач, однако отмечает повышенную длину рассуждений, что может увеличивать задержку и расход ресурсов. Для запуска полной модели указана конфигурация с GPU объёмом 80 ГБ и FastDeploy 2.2; для работы через Transformers требуется версия 4.54.0 или новее. Модель распространяется по лицензии Apache 2.0.

Gemma-4-e4b-it-OptiQ-4bit — это локальная квантизированная версия языковой модели google/gemma-4-e4b-it, подготовленная сообществом mlx-community с помощью инструментария mlx-optiq для Apple Silicon. Модель предназначена для генерации текста, включая объяснения, рассуждения, программирование, выполнение инструкций, работу с агентскими сценариями и вызовами инструментов. Она запускается локально через MLX и не требует PyTorch или облачной инфраструктуры. Модель использует смешанную точность: 224 слоя представлены в 4-битном формате, а 155 наиболее чувствительных слоя — в 8-битном; всего квантизировано 379 слоёв, размер группы — 64. Калибровка выполнялась на данных из шести областей: обычный текст, рассуждения, код, агенты, вызовы инструментов и инструкции с ограничениями. Размер модели на диске составляет около 6,1 ГБ. Для ускорения декодирования поддерживается speculative decoding с отдельной моделью-драфтером gemma-4-e4b-it-assistant-bf16. По заявленным оценкам, версия OptiQ превосходит равномерную 4-битную квантизацию на тестах MMLU, GSM8K, IFEval, BFCL, HumanEval и HashHop; средний Capability Score составляет 68,92 против 55,20. Ограничения включают привязку к экосистеме MLX и Apple Silicon, а также увеличение размера примерно на 1,2 ГБ по сравнению с равномерной 4-битной версией. Языки, максимальный контекст и точная архитектура в README не указаны. Модель распространяется по лицензии Gemma, унаследованной от базовой модели; применяются условия Google Gemma.

Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.