II.8Инженерия данных и аналитика

LongCat-Flash-Lite-Sparse-Uncensored-Heretic-Native-MTP-And-LSA-Preserved — дообученная версия LongCat-Flash-Lite-Sparse от независимого автора llmfan46. Это разговорная причинная языковая модель для генерации текста с архитектурой LongCat Flash Sparse и 4,6 млрд параметров. По метаданным, модель принимает контекст до 983 040 токенов; исходное семейство использует разреженное внимание LongCat Sparse Attention для эффективной работы с длинным контекстом. Модель изменена методом abliteration, чтобы снизить частоту отказов: в приведённом README сравнительном тесте отказов стало 9 из 100 против 99 из 100 у исходной модели. Она предназначена для диалогов, генерации текста и сценариев с длинными входными данными; README также ссылается на отдельную GGUF-версию. Заявленная лицензия — MIT. README предупреждает, что модель не оценивалась всесторонне для всех прикладных задач.

LPT-6.1 Thinking — разговорная языковая модель от LiskCell, представленная как флагман экосистемы xLYR и ассистент Deta. Модель предназначена для диалогов, творческих задач, технических вопросов и многошаговых рассуждений; в репозитории заявлена поддержка английского и иврита. В карточке указаны архитектура семейства Kimi K2.5 с классом KimiK25ForConditionalGeneration, библиотека Transformers и формат весов safetensors. Модель позиционируется как дообученная и настроенная для экосистемы xLYR; её размер и длина контекста в предоставленных данных не приведены. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

Ministral 3 3B Instruct 2512 — компактная мультимодальная модель компании Mistral AI, постобученная для выполнения инструкций. Она сочетает языковую модель на 3,4 млрд параметров и визуальный энкодер на 0,4 млрд параметров; веса представлены в формате FP8. Модель предназначена для локального и периферийного развёртывания, а для работы в FP8 достаточно 8 ГБ видеопамяти согласно карточке модели. Поддерживается контекст до 256 тысяч токенов. Модель принимает текст и изображения, отвечает на вопросы о визуальном содержимом, создаёт короткие тексты, классифицирует текст, извлекает данные и помогает с переводом. Также заявлены поддержка системных инструкций, вызова функций и вывода JSON. Указаны английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки. Модель можно применять для лёгких приложений реального времени на устройствах с ограниченными ресурсами. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование и модификацию. Результаты могут зависеть от выбранных настроек и качества входных изображений; автор рекомендует для визуальных задач изображения с соотношением сторон, близким к 1:1. Заявления о характеристиках и бенчмарках приведены разработчиком; таблицы README преимущественно показывают результаты более крупной модели Ministral 3 14B, поэтому их нельзя напрямую считать оценкой версии 3B.

Miss.Z-V0.1 — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из HuggingFaceH4/zephyr-7b-beta и mistralai/Mistral-7B-Instruct-v0.3. Репозиторий содержит веса в формате Safetensors; модель насчитывает 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов, а её интерфейс также поддерживает вызов инструментов. Она принимает текст и выдаёт текст. Данные о конкретных языках применения и специализированных предметных областях не приведены. Модель опубликована 9 сентября 2024 года. Условия лицензии в предоставленных данных не указаны.

bamec66557/Mistral-Nemo-VICIOUS_MESH-12B-2407 — языковая модель, созданная разработчиком bamec66557 слиянием моделей VICIOUS_MESH-12B-BETA и VICIOUS_MESH-12B-OMEGA методом SLERP с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс для вызова инструментов. Нативная длина контекста — 131 072 токена. Карточка приводит результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество для конкретных задач. Модель распространяется в формате safetensors по лицензии Apache-2.0. В предоставленной карточке не перечислены поддерживаемые естественные языки и конкретные ограничения применения.

MoEstral-2x7B — диалоговая языковая модель на архитектуре Mixtral/MoE, опубликованная paulilioaica. Она предназначена для генерации текста и ответов на инструкции, в том числе для задач рассуждения, работы с числами и абстрактными понятиями. В карточке описано объединение через mergekit двух копий mistralai/Mistral-7B-Instruct-v0.2 с маршрутизацией экспертов по тематическим подсказкам; метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. README приводит результаты на отдельных бенчмарках, но не описывает методику или полный набор оценок, поэтому эти цифры не позволяют судить о качестве во всех сценариях.

Карточка модели OpenMOSS-Team/moss-moon-003-base на Hugging Face совпадает с карточкой OpenMOSS-Team/moss-moon-003-sft, поэтому описание составлено по ней. MOSS-moon-003-sft — языковая модель с 16 млрд параметров, разработанная командой OpenMOSS-Team. Она основана на CodeGen и предварительно обучена на китайских, английских и программных токенах, после чего дообучена с учителем на примерно 1,1 млн многоходовых диалогов. Модель предназначена для диалогов с пользователем, следования инструкциям в нескольких репликах и отказа на неподходящие запросы. Модель принимает текст и генерирует текст; карточка указывает поддержку английского и китайского языков и контекст до 2048 токенов. Её можно применять для ответов на вопросы, простых математических задач, помощи с кодом и китайскоязычных диалогов. Описанные требования к запуску составляют 31 ГБ видеопамяти для загрузки в FP16 и больше при генерации; доступны варианты MOSS в INT8 и INT4, но этот репозиторий содержит веса PyTorch. Модель может выдавать неверную, вводящую в заблуждение или предвзятую информацию, поэтому ответы следует проверять. Лицензия — AGPL-3.0.

JANGQ-AI/Nemotron-Cascade-2-30B-A3B-JANG_4M — квантованная версия NVIDIA Nemotron-Cascade-2-30B-A3B, подготовленная Jinho Jang с помощью открытого формата и движка JANG для MLX. Это языковая модель для диалогов и генерации текста с пошаговым режимом рассуждений и интерфейсом вызова инструментов. В основе — гибридная архитектура Nemotron-H: Mamba-2, смесь экспертов (MoE) и слои внимания; в README указаны 52 слоя и 128 экспертов с выбором шести. Квантование JANG_4M использует 4,1 бита и 8-битные веса внимания. Метаданные указывают 1,9 млрд параметров и контекст до 262 144 токенов. Модель ориентирована на рассуждения, в том числе решение математических задач, а также на обычные диалоги и агентные сценарии. По результатам теста MMLU на 200 вопросах, приведённым автором карточки, она набрала 93% в режиме рассуждений; это результат собственного тестирования, а не независимая оценка. Для запуска нужны Apple Silicon с не менее чем 24 ГБ объединённой памяти и совместимая среда MLX, например MLX Studio или пакет JANG для MLX; обычные загрузчики MLX могут не поддерживать отображение весов этой архитектуры. В карточке указана лицензия «other», конкретные условия следует проверять у автора базовой модели и производной версии.

openchat_3.5-16k-Mistral-7B-Instruct-v0.1 — разговорная модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.1 и NurtureAI/openchat_3.5-16k методом SLERP. Она предназначена для генерации ответов на инструкции и ведения диалогов. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, основная возможность — чат. Модель принимает текстовые запросы и выдаёт текстовые ответы. Она подходит для чат-ботов, помощников и сценариев, где нужно обсуждать темы или отвечать на вопросы в рамках длинного контекста. Использует лицензию Apache-2.0.

Карточка модели LIF1014/ptdbench-Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели ArchiveStudio/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

unsloth/Qwen2.5-0.5B-Instruct-bnb-4bit — это 4-битная версия instruction-tuned языковой модели Qwen2.5-0.5B-Instruct, подготовленная Unsloth на базе модели Qwen, разработанной Alibaba Cloud. Она предназначена для генерации текста, диалоговых ассистентов, следования инструкциям, работы со структурированными данными и форматами вывода, включая JSON, а также для задач программирования и математики. Модель является каузальной языковой моделью с архитектурой Transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV attention и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, 24 слоя и использует Grouped Query Attention: 14 голов для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии bnb-4bit — сниженное потребление памяти благодаря 4-битному представлению, что упрощает запуск и дообучение модели на ограниченных GPU-ресурсах. Небольшой размер делает её подходящей для локального использования и ресурсоограниченных приложений, однако по возможностям и качеству ответов она уступает более крупным моделям. README не содержит подробных результатов оценки именно этой 4-битной версии. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen2.5-VL-3B-Instruct-GGUF — мультимодальная инструкционная модель Qwen2.5-VL-3B-Instruct, разработанная Qwen и представленная в формате GGUF. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для задач анализа изображений и текста, включая распознавание объектов, интерпретацию текстов, диаграмм, графиков, значков и макетов в изображениях. Модель поддерживает контекст до 128 тысяч токенов, заявлена как мультиязычная и может формировать структурированные ответы, включая стабильный JSON. Она также предназначена для сценариев визуального агента с рассуждением и динамическим управлением инструментами, в том числе для взаимодействия с компьютером и телефоном. К сильным сторонам относятся анализ визуальной информации и работа со структурированными данными; конкретные ограничения, результаты тестов и перечень поддерживаемых языков в README не указаны. Лицензия — qwen-research.

TeichAI дообучила плотную языковую модель Qwen3-4B-Thinking-2507 на наборе TeichAI/gpt-5.1-codex-max-1000x. Модель содержит 3,7 млрд параметров и предназначена для генерации текста в диалогах и решения задач с рассуждением; каталог также отмечает интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык, а её контекст составляет до 262 144 токенов. В карточке указаны обучение с помощью Unsloth и библиотеки Hugging Face TRL, а также лицензия Apache-2.0. Подробных оценок качества и ограничений в карточке нет.

Qwen3.5-2B-OptiQ-4bit — это локальная MLX-квантизация базовой модели Qwen/Qwen3.5-2B, подготовленная сообществом mlx-community с помощью инструментария mlx-optiq. Модель предназначена для запуска генерации текста на устройствах Apple Silicon без PyTorch и облачной инфраструктуры; её можно использовать через mlx-lm, а для расширенных сценариев — через mlx-optiq. Модель имеет преимущественно 4-битную смешанную точность: 130 слоёв используют 4-bit, а 56 чувствительных слоёв — 8-bit; всего квантизировано 186 слоёв, размер группы — 64. Распределение точности выбрано по результатам анализа чувствительности на калибровочной выборке из шести доменов: проза, рассуждения, код, агентские сценарии, вызовы инструментов и инструкции с ограничениями. Размер на диске составляет около 1,4 ГБ. В комплект входит MTP-голова для спекулятивного декодирования, обеспечивающая примерно 1,4-кратное ускорение генерации при поддержке mlx-optiq. Модель подходит для общего текстового общения, рассуждений, следования инструкциям, генерации кода, вызова инструментов и локальных агентских рабочих процессов. По указанным тестам она показывает 58,9% на MMLU, 55,6% на GSM8K, 59,7% на IFEval, 77,0% на BFCL и 51,2% на HumanEval; средний Capability Score составляет 50,41. Сильными сторонами являются компактность, адаптация к Apple Silicon и улучшенные по сравнению с равномерной 4-битной квантизацией результаты в большинстве метрик, особенно в HumanEval и BFCL. Ограничения включают зависимость от MLX и экосистемы Apple Silicon, потери качества из-за квантизации и нулевой результат в заявленном тесте длинноконтекстного поиска HashHop. Размер контекста, поддерживаемые языки и точные характеристики исходной Qwen3.5-2B в README не указаны. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwen3.6-27B-V1.1-FF711-Darker-Hero-GAIN-H2.0 — дообученная Дэвидом AU мультимодальная модель семейства Qwen3.5 с плотной архитектурой на 27 млрд параметров, основанная на Qwen/Qwen3.6-27B. Карточка описывает метод GAIN, также называемый COLD FUSION: динамическая настройка обучения на уровне отдельных примеров. Модель предназначена для диалогов, рассуждений, программирования, творческого письма и работы с изображениями; метаданные указывают поддержку vision и интерфейс вызова инструментов. Автор заявляет о сокращённых блоках рассуждений, следовании инструкциям и сохранении производительности при низкой точности, однако приведённые в README сравнения и показатели являются заявлениями автора. В примерах упоминается режим без фильтрации и контент NSFW; модель может выдавать ненормативную лексику и материалы для взрослой аудитории. Карточка также сообщает о снижении частоты отказов. Указана лицензия Apache-2.0. В метаданных перечислены английский и китайский языки; других языков карточка не подтверждает.

Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking — мультимодальная плотная модель с обработкой изображений, созданная DavidAU на основе Qwen/Qwen3.6-27B. Автор описывает расширение модели с 27 до 40 млрд параметров и многоэтапное дообучение: на наборах Deckard/PDK и на данных дистилляции рассуждений Claude 4.6 Opus. Модель рассчитана на диалог, рассуждения, программирование и творческое письмо, включая создание сюжетов и ролевые сценарии; поддерживает вызов инструментов и анализ изображений. В карточке указана длина контекста 256 тыс. токенов, а также режим рассуждений с переменной длиной ответа. Заявления автора о превосходстве в тестах не сопровождаются в предоставленном тексте конкретными результатами, поэтому их следует считать заявлениями автора. README также описывает модель как uncensored и предупреждает о возможности генерации откровенного контента по запросу; отмечены возможные зацикливания на низких квантизациях или слишком коротких запросах. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

amd/Qwen3.8-2.4T-A95B-Quark-MXFP4 — текстовая языковая модель на архитектуре Qwen3_5MoeForCausalLM, разработанная на базе Qwen/Qwen3.8-2.4T-A95B-FP8 и подготовленная Advanced Micro Devices, Inc. с использованием AMD-Quark 0.12. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Размер контекста и полный перечень поддерживаемых языков не указаны. Модель предназначена для инференса и задач генерации текста, включая математические рассуждения и оценивание на бенчмарках. Квантованию подвергнуты routed experts: веса используют статическое представление OCP MXFP4, а активации — динамическое OCP MXFP4. Для запуска заявлена поддержка AMD MI350 и MI355 под Linux с ROCm 7.2.0 и PyTorch 2.12.0; рекомендованные движки инференса — SGLang и vLLM. На GSM8K модель получила точность 97,49%, полностью сохранив результат исходной FP8-модели по приведённому сравнению. Ограничения включают зависимость от указанного оборудования и программного стека, а также отсутствие в README сведений о результатах на других задачах, контекстном окне, детальных возможностях мультиязычной работы и лицензии исходной модели. Указано, что модификации защищены авторским правом Advanced Micro Devices, Inc. (2026), но отдельные условия лицензии в README не приведены.

Qwen3.8-27B-Uncensored-GGUF — квантизированная версия базовой модели Qwen/Qwen3.8-27B, опубликованная в формате GGUF для использования с llama.cpp. Модель предназначена для генерации текста, локального запуска и сценариев, где важны различные уровни квантизации, включая работу со speculative decoding благодаря сохранённой голове multi-token prediction (MTP). Доступен вариант с поддержкой изображений, если это предусмотрено базовой моделью. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Заявлены английский и китайский языки. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также варианты с объединённой MTP-головой и отдельными целевой и draft-моделями. По сравнению с исходной моделью существенно снижено поведение отказа от ответа, но оно не устранено полностью; при этом возможности, обучающие данные и архитектура базовой модели не изменялись. Сильными сторонами являются большой контекст, поддержка MTP для ускорения инференса, несколько вариантов размера файлов и сохранение качества при большинстве квантизаций. Ограничения включают возможное небольшое снижение доли принятых токенов при speculative decoding, зависимость от совместимости используемого runtime и отсутствие в README подробных сведений о фактических показателях рассуждения, программирования и мультиязычных возможностей. Распространение указано по лицензии Apache-2.0.

Qwen-3-VL-8B-Instruct-heretic — мультимодальная разговорная модель, созданная Heretic как декензурированная версия Qwen/Qwen3-VL-8B-Instruct с помощью Heretic v1.3.0. Это плотная архитектура Qwen3-VL с 8 млрд параметров, предназначенная для диалога по тексту и изображениям, визуального анализа и рассуждений. В README указано контекстное окно 256K токенов с возможностью расширения до 1M у базовой модели; метаданные подтверждают поддержку изображений и формат safetensors. Модель подходит для ответов на вопросы по изображениям, OCR, понимания видео и пространственных сцен, а также для визуального взаимодействия с интерфейсами. README сообщает о снижении отказов: 6 из 100 запросов против 100 из 100 у исходной модели; это может влиять на защитное поведение. Качество и заявленные возможности унаследованы от описания базовой Qwen3-VL, а отдельные показатели этой производной модели ограничены приведённой метрикой KL-дивергенции и отказов. Лицензия — Apache-2.0.

Карточка модели JetLM/SDAR-4B-Chat-b64 на Hugging Face совпадает с карточкой JetLM/SDAR-8B-Chat-b32, поэтому описание составлено по ней. JetLM/SDAR-8B-Chat-b32 — чат-модель семейства SDAR, разработанная авторами SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая обеспечивает эффективное обучение, а диффузионный подход позволяет генерировать токены параллельно. В репозитории указана плотная архитектура SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Авторы сообщают о сопоставимой с сильными авторегрессионными моделями общей производительности и преимуществах в некоторых научных задачах рассуждения для моделей SDAR того же масштаба. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Языки и отдельные результаты именно этой версии в карточке не приведены.

T5 Version 1.1 XL — модель Google для переноса обучения в задачах обработки естественного языка. Это плотный текстовый энкодер-декодер с архитектурой T5ForConditionalGeneration и примерно 1,5 млрд параметров, предобученный на корпусе C4 в формате text-to-text без обучения на размеченных прикладных задачах. В версии 1.1 применяются активация GEGLU в полносвязном слое, отключённый во время предобучения dropout и отдельные веса для эмбеддингов и классификатора; при дообучении авторы рекомендуют снова включать dropout. Модель служит базой для дообучения под суммаризацию, ответы на вопросы, классификацию и другие задачи, представимые как преобразование текста в текст. Сам предобученный чекпойнт не готов к таким прикладным задачам без дополнительного fine-tuning. Доступны версии весов для PyTorch и TensorFlow; карточка указывает английский язык. Лицензия — Apache 2.0.

1.5-Pints-2K-v0.1 — языковая модель команды Pints Research на архитектуре Llama 2, предназначенная для диалогового помощника и последующей адаптации под специализированные задачи. Модель содержит около 1,5 млрд параметров, обучена на 57 млрд токенов предварительного корпуса и дообучена с оптимизацией предпочтений. Использует токенизатор Mistral и шаблон ChatML; размер контекста — 2 048 токенов. Модель генерирует текст и рассчитана на ответы пользователям и рассуждения при сравнительно скромных вычислительных ресурсах; авторы указывают, что для запуска достаточно GPU с 8 ГБ видеопамяти. Для запросов, требующих точных фактов или актуальных знаний, рекомендуется подключать поиск по документам через RAG. В опубликованном сравнении MTBench модель набрала 3,73 балла. Лицензия репозитория — MIT. Авторы отдельно предупреждают, что не гарантируют юридический статус материалов обучающих корпусов и возлагают на пользователей ответственность за проверку соблюдения местных законов об авторском праве.

facebook/bart-base — базовая англоязычная модель семейства BART, разработанная командой Facebook AI и впервые опубликованная в этом репозитории. Это трансформерная encoder-decoder модель типа seq2seq: двунаправленный энкодер сочетается с авторегрессионным декодером. Модель содержит 95,2 млн параметров, обучена восстанавливать исходный текст после его искажения и поддерживает контекст до 1024 токенов. Модель предназначена прежде всего для извлечения признаков и дообучения на текстовых задачах. После дообучения BART применяют для суммаризации, перевода, классификации текста и ответов на вопросы; исходная модель также подходит для заполнения пропусков в тексте. Репозиторий содержит веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache 2.0.

calme-2.2-qwen2-72b-GGUF — это квантизированная версия текстовой языковой модели calme-2.2-qwen2-72b, разработанной MaziyarPanahi на базе Qwen2-72B. GGUF-квантизации подготовлены пользователем bartowski с использованием llama.cpp и imatrix; модель предназначена для локального запуска, в частности через LM Studio, и поддерживает формат диалога ChatML. В README указано, что модель ориентирована на английский язык и задачи генерации текста, включая чат, следование инструкциям, рассуждения и решение математических и академических задач. Размер исходной модели составляет 72 млрд параметров. Доступны варианты квантизации от Q8_0 до более компактных Q3 и IQ4, с размером файлов примерно от 39,71 до 77,26 ГБ; некоторые варианты разделены на несколько файлов. Более высокие разрядности обычно сохраняют лучшее качество, тогда как компактные варианты снижают требования к памяти. Для ARM-платформ предусмотрена отдельная Q4_0_4_4. Размер контекста и мультимодальные возможности в README не указаны; по описанию это текстовая, а не мультимодальная модель. Сильными сторонами являются большой размер базовой модели, варианты квантизации для разного объёма доступной памяти и результаты на стандартных тестах, включая 80,08% строгой точности на IFEval, 56,8% на BBH и 41,16% exact match на MATH уровня 5. К ограничениям относятся высокие требования к оперативной или видеопамяти даже у компактных вариантов, возможное снижение качества из-за квантизации и относительно слабые результаты на отдельных сложных тестах, например GPQA и MuSR. Лицензия обозначена как other с названием tongyi-qianwen; условия следует уточнять по лицензии Qwen/Qwen2-72B.

Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.

Citaman/command-r-26-layer — слитая методом SLERP языковая модель на архитектуре Cohere, созданная с помощью mergekit на основе Citaman/command-r-27-layer. В карточке указано 23,5 млрд параметров, формат safetensors и контекстное окно 8192 токена. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Данных о поддерживаемых естественных языках нет, поэтому языковую специализацию определить нельзя. Репозиторий использует лицензию, унаследованную от базовой модели, но сведения о её условиях в предоставленных данных отсутствуют.

Citaman/command-r-29-layer — языковая модель Cohere для генерации текста и диалогов. Она создана автором репозитория с помощью mergekit: веса модели Citaman/command-r-30-layer объединены методом SLERP с разными срезами слоёв, а итоговые веса сохранены в формате safetensors. Модель имеет плотную архитектуру CohereForCausalLM, около 25,9 млрд параметров и контекст до 8192 токенов. Метаданные указывают на поддержку чата и интерфейса вызова инструментов; основная задача в карточке Hugging Face — text-generation. Лицензия в предоставленных данных не указана. Характеристики языковой поддержки и качество модели на конкретных задачах не описаны, поэтому их нельзя надёжно оценить по карточке.

ehristoforu/frqwen2.5-from7b-it — объединённая автором модель семейства Qwen2.5, созданная с помощью mergekit методом passthrough на основе Qwen/Qwen2.5-7B-Instruct. Это плотная причинная языковая модель для генерации текста и диалогов; доступны интерфейс чата и интерфейс вызова инструментов. В репозитории указаны 12,7 млрд параметров, контекст до 32 768 токенов и формат safetensors; модель рассчитана на работу через Transformers. Модель подходит для диалоговых приложений, генерации ответов и текста, а также сценариев, где требуется подключение инструментов. Базовая Qwen2.5-7B-Instruct предназначена также для генерации кода и структурированных ответов, однако README этой сборки не описывает её специфические улучшения или результаты оценки. Лицензия в предоставленных данных не указана.

Gemma 1.1 2B Instruct — языковая instruction-tuned модель Google, представленная в формате GGUF. Квантизацию выполнил bartowski на основе llama.cpp. Модель содержит около 2 миллиардов параметров и предназначена для текстовой генерации и работы с инструкциями. Модель подходит для диалогов, ответов на вопросы, творческих задач, многошагового общения, программирования, автодополнения и других универсальных сценариев. По сравнению с первоначальной версией Gemma заявлены улучшения качества ответов, работы с кодом, фактической точности, следования инструкциям и многораундового диалога. Небольшой размер делает её подходящей для устройств с ограниченными ресурсами и обеспечивает быстрый отклик. Сильной стороной модели являются связные, подробные и преимущественно образовательные ответы. При этом стиль может быть менее разговорным, чем ожидается, а результаты генерации кода требуют проверки: в приведённом примере присутствует ошибка порядка объявления функций. Системные промпты модель не поддерживает; используется шаблон Google Gemma Instruct. Сведения о поддерживаемых языках и размере контекста в README не указаны. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; в карточке указана лицензия gemma. Дата выпуска в метаданных — 5 апреля 2024 года.