II.2Создание и понимание программного кода

Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64 — мультимодальная модель семейства Qwen3.8, опубликованная xy10086. Она создана на основе petruhonk/Qwen3.8-9B-Distill-uncensored-heretic, который, в свою очередь, происходит от empero-ai/Qwen3.8-9B-Distill. Модель предназначена для обработки текста и изображений, включая понимание скриншотов и распознавание текста на изображениях, а также для генерации ответов на английском и китайском языках. Основная языковая часть содержит около 9 миллиардов параметров и сжата методом аффинной 6-битной квантизации с размером группы 64. Зрительная башня и компоненты MTP для speculative decoding сохранены в формате BF16; поддерживаются 15 MTP-тензоров и рекомендованная глубина MTP 2. Модель оптимизирована для Apple Silicon и формата MLX/MTPLX. Рекомендуемое окно контекста — 32768 токенов, максимальная длина ответа — 8192 токена. Сильными сторонами являются мультимодальность, поддержка ускоренного speculative decoding, совместимость с Apple Silicon и высокая скорость генерации в заявленных тестах. Ограничения включают зависимость от MTPLX и MLX, а также требования к памяти и соответствующему программному окружению. Модель имеет пониженный уровень отказов вследствие удаления ограничений цензуры, но это не означает большей фактической точности; результаты в медицинских, юридических, финансовых и других критически важных сценариях необходимо проверять независимо. Модель распространяется по лицензии Apache-2.0; для использования следует также учитывать требования к атрибуции и лицензированию исходных моделей.

Qwen3.8-Flash-Next-W4A16 — это 4-битная версия модели Qwen3.8-Flash-Next, опубликованная aixiaoma и предназначенная для запуска на потребительских GPU NVIDIA Ampere. Модель использует INT4-квантизацию W4A16 с группами по 128 элементов, симметричными масштабами и форматом compressed-tensors. Архитектурно это мультимодальная модель image-text-to-text с MoE-компонентом: квантифицированы основные экспертные и attention-матрицы, тогда как чувствительные компоненты, включая vision encoder, эмбеддинги, маршрутизатор, GDN/linear attention, PLE-таблицы и MTP-модуль, сохранены в BF16. Точные размеры, список поддерживаемых языков и параметры контекстного окна в README явно не приведены, однако указано, что исходная BF16-модель имеет около 335 ГБ, а квантифицированная версия занимает около 168 ГБ на диске. Модель предназначена для диалоговых и мультимодальных сценариев, включая обработку изображений и текста, а также инференс с длинным контекстом. Она запускается через специальную сборку vLLM с поддержкой qwen4_exp, Marlin kernels и PLE offload. На конфигурации из 4 RTX 3090 поддерживается контекст до 96 тысяч токенов, а на 8 RTX 3090 — полный заявленный контекст до 262 тысяч токенов. MTP-модуль сохранён в BF16, поэтому доступно speculative decoding; по данным авторов, для однопоточного декодирования это даёт прирост примерно на 57 процентов. К сильным сторонам относятся возможность запуска на широко распространённых GPU Ampere без поддержки FP8, сохранение качества на заявленном наборе greedy-тестов на уровне базовой модели и существенное сокращение объёма GPU-памяти за счёт выгрузки 102 ГБ PLE-таблиц в оперативную память. Ограничения включают высокие требования к оборудованию и минимум около 110 ГБ свободной оперативной памяти, обязательное использование expert parallelism, специальные параметры Docker и vLLM, а также необходимость отключить torch.compile из-за проблем с компиляцией на Ampere. Лицензия указана как qwen-community-1.0; также отмечена связь с базовой моделью Qwen3.8-Flash-Next.

minjaechoi/qwen3next-80b-a3b-2p25bit-r24 — исследовательский вариант Qwen3-Next-80B-A3B-Thinking с разреженной MoE-архитектурой. Веса маршрутизируемых экспертов усечены до среднего уровня 2,25 бита, остальные веса хранятся в BF16; тензоры весов сохранены в BF16 после деквантизации. Модель предназначена для генерации текста и диалоговых сценариев, включая сложные рассуждения и работу с длинным контекстом; метаданные указывают контекст длиной до 262 144 токенов и интерфейс вызова инструментов. Размер в метаданных указан как 2,3 млрд параметров. Репозиторий использует библиотеку Transformers и формат safetensors. README сообщает, что загрузка возможна через стандартные Transformers и vLLM. Модель основана на Qwen/Qwen3-Next-80B-A3B-Thinking; лицензия наследуется от базовой модели, поэтому её условия следует проверять в карточке базы. README обозначает её как внутренний исследовательский чекпойнт.

QWQ-500M — дообученная модель prithivMLmods на базе Qwen2.5-0.5B-Instruct, предназначенная для генерации текста, диалогов и рассуждений при решении сложных задач. Она построена на плотной архитектуре Qwen2 и содержит 494 млн параметров; для работы используется библиотека Transformers, веса доступны в формате Safetensors, лицензия — Apache-2.0. Модель подходит для создания длинных ответов, пошаговых объяснений и структурированных данных, включая JSON и таблицы. В карточке заявлена поддержка более 29 языков; метаданные указывают английский. В README заявлено контекстное окно до 128 тысяч токенов и генерация до 8 тысяч токенов, тогда как метаданные указывают нативный контекст 32 768 токенов.

TriFusionNexus-7b — объединённая языковая модель, созданная EryriLabs с помощью mergekit и метода TIES на основе CultriX/NeuralTrix-7B-dpo; в объединение также вошли bardsai/jaskier-7b-dpo-v5.6 и mlabonne/AlphaMonarch-7B. Модель построена на архитектуре Mistral с плотной причинно-языковой сетью, содержит 7,1 млрд параметров и принимает контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов, следования инструкциям и рассуждений. В README приведены результаты Open LLM Leaderboard, включая средний балл 76,32, 72,78 в AI2 Reasoning Challenge и 89,17 в HellaSwag; это результаты указанных оценок, а не гарантия качества в пользовательских задачах. Репозиторий содержит веса в формате safetensors. Лицензия CC-BY-NC-2.0 ограничивает коммерческое использование.

XGen-7B-8K-Inst — языковая модель Salesforce AI Research с плотной архитектурой LlamaForCausalLM и примерно 6,7 млрд параметров. Она создана как версия XGen-7B-8K-Base, дообученная на общедоступных инструкционных данных; контекст составляет до 8192 токенов. Модель предназначена для генерации текста по инструкциям: например, для ответов на вопросы, выполнения текстовых запросов и диалоговых сценариев. В карточке указано, что релиз предназначен для исследовательских целей; данных о поддерживаемых естественных языках нет. Модель распространяется в формате PyTorch. Авторы предупреждают, что её не оценивали для всех прикладных сценариев, поэтому перед применением следует проверять точность, безопасность и справедливость ответов, особенно в задачах высокого риска. Лицензия для этой инструкционной версии в карточке не указана; Apache-2.0 отмечена для базовых моделей XGen-7B-4K-Base и XGen-7B-8K-Base.

Zamba2-7B-Instruct-v2 — диалоговая языковая модель Zyphra, полученная дообучением Zamba2-7B на наборах инструкций и чатов. Она предназначена для генерации ответов, следования инструкциям и решения общих задач, включая рассуждения и математику. Модель использует гибридную архитектуру: слои Mamba2 чередуются с разделяемыми слоями внимания Transformer. В README указан размер 7,36 млрд параметров, а метаданные каталога — 16,8 млрд; источники расходятся, поэтому точный размер не приводится. Базовый контекст — 4096 токенов; в README описано расширение до 16 тысяч токенов через настройку частоты RoPE. Модель принимает текст и генерирует текст. README заявляет высокую скорость генерации и меньшие требования к памяти по сравнению с сопоставимыми трансформерными моделями, однако оптимизированные ядра Mamba2 нужны для снижения задержки и расхода памяти. Поддерживаемые естественные языки в источниках не перечислены. Для запуска рекомендуется Transformers с зависимостями mamba-ssm и causal-conv1d; без оптимизированных ядер ожидаются более высокая задержка и расход памяти. Лицензия — Apache-2.0.

Richard Young создал Agents-A1-4B-heretic — версию модели InternScience/Agents-A1-4B, модифицированную инструментом Heretic v2.0.0.dev0 методом abliteration: изменение направления отказа без дообучения. Это плотная языковая модель семейства Qwen3.5 с 4 млрд параметров, предназначенная для диалогов, вызова инструментов и выполнения многошаговых агентных задач. Она может разбивать сложные запросы на этапы, планировать действия и работать с внешними инструментами через их интерфейсы. По данным карточки, в тесте на 100 запросах модель отказала в 11 случаях против 99 у исходной версии; заявленное KL-расхождение составляет 0,0598. Эти результаты описывают указанные в карточке проверки и не гарантируют качество в других сценариях. Модель принимает и генерирует текст; поддержка изображений отмечена в метаданных тегами, однако основная задача репозитория — генерация текста. Модель распространяется по лицензии Apache-2.0. Abliteration снижает частоту отказов, поэтому модель может отвечать на запросы, которые исходная версия отклоняет.

C4AI-Command-R-v01-GGUF — это квантизированная версия языковой модели C4AI Command-R, разработанной Cohere и опубликованной как CohereForAI/c4ai-command-r-v01. Формат GGUF подготовлен Second State Inc. Модель предназначена для локального запуска и инференса через совместимые инструменты, включая LlamaEdge; в README указано, что поддержка LlamaEdge находится в разработке. Модель ориентирована на работу с текстом и заявлена для английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Размер исходной модели, архитектура, точные сценарии применения и другие характеристики в README не указаны. Контекстное окно составляет 8192 токена. Доступны варианты квантизации от Q2_K до Q8_0 размером от 13,8 до 37,2 ГБ. Q4_K_M рекомендован как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более агрессивная квантизация уменьшает требования к памяти, но может существенно ухудшить качество ответов. Модель квантизирована с использованием llama.cpp b2450. Лицензия модели — CC BY-NC 4.0, поэтому её использование ограничено условиями этой лицензии и некоммерческим характером. Возможности, ограничения по производительности и требования к аппаратному обеспечению в README подробно не описаны.

Calme-Ties2-78B — объединённая чат-модель на архитектуре Qwen2, опубликованная prithivMLmods. Она создана методом TIES с помощью mergekit на основе prithivMLmods/Calme-Ties-78B и модели MaziyarPanahi/calme-3.1-instruct-78b. Модель содержит 76,7 млрд параметров, принимает текст и генерирует текст, поддерживает диалоговый режим и имеет контекстное окно 32 768 токенов. Модель предназначена для диалогов и общих задач генерации текста. В конфигурации объединения использованы нормализация, int8-маска и тип данных bfloat16; для работы доступна библиотека Transformers. Репозиторий распространяется под лицензией, указанной в метаданных Hugging Face, однако конкретное значение лицензии в предоставленных данных отсутствует.

Citaman/command-r-4-layer — созданная Citaman модель семейства Cohere, полученная слиянием весов модели Citaman/command-r-5-layer методом SLERP с помощью mergekit. Это плотная авторегрессионная языковая модель примерно на 5,4 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также указана поддержка интерфейса вызова инструментов. Модель принимает текст и выдаёт текст, а заявленная длина контекста составляет 8192 токена. Модель подходит для диалоговых ассистентов и генерации ответов или продолжений текста. Доступны веса в формате safetensors; в README для слияния указан тип bfloat16. Лицензия в предоставленных данных не указана.

EXAONE-3.5-7.8B-Instruct-GGUF — квантизированная версия инструкционной языковой модели EXAONE-3.5-7.8B-Instruct, разработанной LGAI-EXAONE. Сборку в формате GGUF подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия; заявлены английский и корейский языки. Она может использоваться локально через совместимые инструменты, включая LM Studio и llama.cpp. Модель имеет около 7,8 млрд параметров. Доступны варианты с точностью от F32 и F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5 и Q6; версии Q3 подходят для систем с ограниченной памятью, а отдельные варианты оптимизированы для ARM или AVX-инференса. Преимущество этой версии — возможность запуска локально и гибкий выбор степени квантования при сохранении хорошего качества генерации. Ограничения связаны с потерей качества при более сильном квантовании, аппаратными требованиями отдельных вариантов и отсутствием в предоставленных данных сведений о размере контекста, архитектурных деталях и поддержке модальностей помимо текста. Лицензия указана как EXAONE, тип — other; перед использованием необходимо ознакомиться с условиями лицензии.

Gemma4-26B-A4B-Uncensored-HauhauCS-1M-GGUF — GGUF-сборка, опубликованная satgeze на основе модели HauhauCS/Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP, использующей архитектуру Gemma 4 с 26 млрд параметров и 4 млрд активных параметров в конфигурации MoE. Веса идентичны исходному релизу HauhauCS; в сборку добавлены масштабирование контекста, MTP-голова для спекулятивного декодирования и компоненты для обработки изображений. Модель предназначена для генерации текста, работы с очень большими документами и длинными промптами, а также для мультимодальных сценариев с изображениями. Заявлен контекст до 1 048 576 токенов благодаря YaRN-масштабированию в 4 раза относительно исходных 262 144 токенов. Vision-компонент проверен на распознавании текста и объектов на изображениях. MTP-голова совместно с llama.cpp может ускорять генерацию: в README указаны результаты 249,1–369,2 токена в секунду и прирост до 48% на RTX 5090 без изменения результата декодирования. К сильным сторонам относятся сверхдлинный контекст, поддержка изображений, возможность спекулятивного декодирования и формат GGUF, совместимый с llama.cpp и Ollama. При этом средний результат теста needle-in-a-haystack составляет около 91%, поэтому редкие пропуски при извлечении информации возможны; тестирование выше 524 тысяч токенов на момент публикации не завершено. Независимая оценка качества «раскодирования» и базовые языковые бенчмарки для этой сборки не приведены. Для работы требуются значительные ресурсы, особенно при использовании контекста в миллион токенов. Модель распространяется по лицензии Gemma.

JANGQ-AI/GLM-5.3-Flash-JANG-MTP — квантованный вариант GLM-5.3-Flash, подготовленный Jinho Jang для запуска на компьютерах Apple Silicon с 128 ГБ памяти через MLX. Это модель семейства glm5_next с архитектурой MoE примерно на 300 млрд параметров и поддержкой изображений и видео. Веса занимают около 95,5 ГиБ; в репозитории указаны контекст до 1 млн токенов и сохранённый слой multi-token prediction для самоспекулятивного декодирования. Модель предназначена для диалога, рассуждений и агентных сценариев с использованием инструментов, а также для обработки визуальных входов. Разработчик сообщает о проверке качества квантования на отложенных промптах и о сохранении параметров внимания, маршрутизации и gating в 8-битном или полном формате. Однако заявленный runtime vMLX ещё не выпущен, и, согласно карточке, сейчас модель корректно загружается только во внутренней среде оценки; ускорение от MTP пока ожидаемое, а не подтверждённое в доступном runtime. Лицензия — MIT. Карточка описывает английский язык; сведения о других поддерживаемых языках не приводятся.

Vontra/GLM-5.3-Flash-MLX-2bit-MTP — это конвертированная и гибридно квантованная версия мультимодальной модели GLM-5.3-Flash от Z.ai, подготовленная Vontra для Apple Silicon на базе MLX. Модель предназначена для генерации текста и работы с изображениями в совместимых MLX- и VLM-средах, включая oMLX. Заявлены английский и китайский языки. Модель использует архитектуру glm5_next с разреженной смесью экспертов (MoE), чередованием KDA-линейного и разреженного внимания, vision encoder и одним нативным NextN/MTP-слоем для спекулятивного декодирования. Объём параметров составляет 320 млрд, из них 18 млрд активны при обработке запроса; заявленный контекст — до 1 048 576 токенов. Чекпойнт хранится в MLX safetensors и занимает около 111,3 ГБ. Квантование выполнено по гибридной схеме: основные экспертные веса имеют точность 2 бита, отдельные проекции — 8 или 4 бита, а чувствительные компоненты, включая vision encoder, projector, эмбеддинги и выходную голову, сохранены в BF16. К сильным сторонам относятся существенное уменьшение размера весов, поддержка мультимодальных сценариев, сохранённый нативный MTP и совместимость с экосистемой Apple MLX. В тесте на Apple M3 Studio включение MTP повысило скорость декодирования с 6,063 до 6,257 токена в секунду при совпадении результатов. Производительность и прирост от MTP зависят от оборудования, запроса и степени принятия черновых токенов. Для работы требуется runtime с поддержкой архитектуры glm5_next, нативного MTP и покомпонентных метаданных квантования MLX; указаны совместимые версии oMLX 0.6.3rc3, MLX 0.32.0, mlx-lm 0.31.3 и mlx-vlm 0.6.3. Лицензия — MIT.

Это неофициальная community-квантизация в формате GGUF модели Kimi-Linear-48B-A3B-Instruct, разработанной Moonshot AI. Квантизация выполнена с использованием метода APEX и предназначена для запуска через llama.cpp; модель не связана с Moonshot AI и не endorsed этой организацией. Модель представляет собой гибридную MoE-архитектуру с 48 млрд параметров всего и примерно 3 млрд активных параметров. В большинстве слоёв используется KDA (Kimi Delta Attention, gated-delta linear attention), а в отдельных слоях — полноценное MLA-внимание; FFN построен на 256 маршрутизируемых и одном общем эксперте. Заявленное окно контекста достигает 1 048 576 токенов, однако размер контекста необходимо явно задавать при запуске. Модель предназначена для генерации текста, диалогов и сценариев с инструментами; README не указывает перечень поддерживаемых языков. Доступны варианты APEX-balanced, APEX-i-quality и экспериментальный APEX-handroll. Рекомендуется APEX-balanced: его размер около 33 ГБ, тогда как i-quality занимает около 29 ГБ и показывает увеличение perplexity примерно на 0,34% относительно эталонной версии bf16. Ключевое преимущество — существенное уменьшение размера при сохранении качества, но для работы требуются сборка llama.cpp с поддержкой архитектуры kimi_linear и kimi-k2 pre-tokenizer, а также значительные ресурсы RAM/VRAM. Лицензия MIT распространяется на компоненты, указанные в README.

KRONOS-8B-V6 — объединённая языковая модель, созданная разработчиком T145 методом TIES с помощью mergekit на базе unsloth/Meta-Llama-3.1-8B-Instruct. В объединение также вошли T145/KRONOS-8B-V1-P2, T145/KRONOS-8B-V1-P3 и mukaj/Llama-3.1-Hawkish-8B. Модель построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет до 131 072 токенов. Модель опубликована в формате safetensors и использует библиотеку Transformers. В README приведены результаты оценки, включая 70,22% на IFEval и средний показатель 24,49 по указанной таблице, но без полного контекста этих метрик они не позволяют оценить качество для конкретного применения. Сведения о лицензии и поддерживаемых естественных языках в доступных данных отсутствуют.

LFM2.5-8B-A1B-Uncensored-Gaston-GGUF — модифицированная GGUF-версия модели Liquid AI LFM2.5-8B-A1B, подготовленная Gastón Parravicini. Это текстовая reasoning-модель для диалогов и генерации текста, ориентированная на локальный запуск через llama.cpp, Ollama и совместимые инструменты. Вариант получил abliteration для существенного снижения отказов от ответов при сохранении рассуждений и общих возможностей базовой модели. Модель использует гибридную архитектуру из свёрточных LIV-блоков, Grouped Query Attention и разреженного MoE: всего около 8,3 млрд параметров, из которых примерно 1,5 млрд активны на каждом токене; задействованы 32 эксперта, четыре из них выбираются для токена. Заявлено контекстное окно 128K, обучение на 38 трлн токенов и поддержка английского, испанского, французского, немецкого, китайского, японского, корейского и арабского языков. Доступны квантизации IQ4_XS, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и F16; Q4_K_M рекомендована как компромисс между качеством и размером. Сильными сторонами являются высокая скорость, компактное активное число параметров, сохранённый режим рассуждений с тегами <think> и заявленная частота отказов 1% на AdvBench после модификации. Ограничение модели — нестандартная гибридная архитектура, из-за которой обычные инструменты abliteration несовместимы без специальной адаптации. Версия предназначена для сценариев, где требуется меньше ограничений на генерацию, поэтому её ответы следует дополнительно проверять на безопасность и достоверность. Указана лицензия lfm-open-license-v1 от Liquid AI; подробные условия приведены по ссылке на лицензию базовой модели.

nlpguy/Lion-Lamarck-v.1.1.0 — объединённая с помощью mergekit модель на базе семейства Qwen2.5. В слиянии использован SCE, а CultriX/Qwen2.5-14B-Wernicke указан как базовая модель; также объединены SuperNova-Medius, Qwen2.5-14B-Vimarckoso-v3, DeepSeek-R1-Distill-Qwen-14B и Lamarck-14B-v0.7. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen2ForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. В карточке не приведены сведения о целевых языках, тестировании качества или рекомендуемых сценариях. Лицензия в предоставленных данных не указана.

Llama 2 70B Chat — разработанная Meta диалоговая языковая модель на 70 млрд параметров. Это авторегрессионный трансформер, дообученный с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи от людей; версия в репозитории подготовлена для работы с Hugging Face Transformers и хранится в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст. Она предназначена прежде всего для диалогов в формате ассистента на английском языке: ответы на вопросы, ведение беседы и другие сценарии генерации текста. Контекст составляет 4 тыс. токенов; вариант на 70B использует Grouped-Query Attention для более масштабируемого вывода. Модель может выдавать неточные, предвзятые или нежелательные ответы, а испытания не охватывали все сценарии. Перед внедрением рекомендуется проверка безопасности и настройка под конкретное применение. Использование регулируется лицензией Meta Llama 2; для получения весов требуется принять её условия.

llama-3.1-70B-nemotron-lumiyale-120B — объединённая текстовая модель, созданная автором репозитория с помощью mergekit методом линейного слияния трёх предварительно обученных моделей: Sao10K/L3.1-70B-Euryale-v2.2, nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и NeverSleep/Lumimaid-v0.2-70B. Она использует архитектуру Llama 3.1 с плотной причинной языковой моделью и содержит 118,3 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена; репозиторий использует библиотеку Transformers и формат safetensors. В метаданных отмечен интерфейс вызова инструментов, но подробности его применения не приведены. Лицензия в предоставленных данных не указана. Результаты объединения моделей могут различаться по качеству и поведению; сведения о специальных ограничениях или оценках качества отсутствуют.

Llama-3.1-Tulu-3-8B — языковая модель семейства Tülu 3, разработанного Allen Institute for AI (AI2). Это плотная авторегрессионная модель на архитектуре Llama с 7,5 млрд параметров, дообученная на основе allenai/Llama-3.1-Tulu-3-8B-DPO. Она предназначена для диалогов и следования инструкциям, а также для решения широкого круга задач, включая математические вопросы и проверку следования заданным условиям. Модель работает с текстом, поддерживает английский язык и имеет контекстное окно до 131 072 токенов. В карточке описана серия Tülu 3 как открытый пакет постобучения с данными, кодом и рецептами обучения; приведены результаты оценок на ряде бенчмарков. Модель можно загружать через Transformers и обслуживать с помощью vLLM. Указанная лицензия — Llama 3.1 Community License Agreement. Разработчики отмечают, что модель прошла ограниченное обучение безопасности и может выдавать проблемный контент, особенно при соответствующих запросах. В README также советуют при запуске через vLLM учитывать длину шаблона чата и задавать max_model_len=8192.

Megrez2-3x7B-A3B-Preview — предварительная версия языковой модели от Infinigence на архитектуре Mixture-of-Experts (MoE). Модель обучена на 5 трлн токенов; в карточке указано 3×7 млрд параметров, из которых активируются 3 млрд. Метаданные каталога указывают 2,7 млрд параметров. Модель принимает текстовые запросы и генерирует текст, в том числе в диалоговом режиме; заявлена длина контекста 163 840 токенов. Модель предназначена для генерации ответов и диалогов, а также для задач рассуждения и работы с агентами; разработчик описывает её как компактную модель с MoE, сочетающую сильные стороны экспертной и плотной архитектур. Доступны веса в формате safetensors, поддерживаются Transformers, vLLM и SGLang. Для инференса рекомендуется Transformers версии 4.52.4 или новее. Модель распространяется по лицензии Apache-2.0. Это preview-релиз: разработчик сообщает, что будущая официальная версия будет обучена на большем объёме данных и получит улучшенные способности к рассуждению и агентной работе. README не приводит численные результаты бенчмарков, поэтому качество для конкретных сценариев следует оценивать отдельно.

MeliodasPercival_01_T3qm7xStrangemerges_32 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/T3qm7xStrangemerges_32-7B. Она предназначена для генерации текста и диалогов; принимает текстовые запросы и выдаёт текст. Контекст составляет до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-D — объединённая автором модель для диалогов и генерации текста. Она создана с помощью mergekit методом SLERP из Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-C и nbeerbower/Mistral-Small-Drummer-22B. Архитектура — плотная MistralForCausalLM, размер — 22 млрд параметров; модель работает с текстом и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогового общения и генерации текста. Метаданные указывают на интерфейс вызова инструментов, однако подробности его использования в карточке не описаны. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Norocetacean-20b-10k — плотная языковая модель семейства Llama, опубликованная ddh0. Она создана слиянием Psyonic-Cetacean-20B и LoRA-адаптера no_robots-alpaca; контекст расширен до 10 240 токенов с помощью YaRN. Модель рассчитана на генерацию ответов по инструкциям в формате Alpaca и может применяться в диалоговых и текстовых сценариях с длинным контекстом. В модели около 19,8 млрд параметров. README указывает Llama 2 как базовую модель и сообщает о включении Orca-2-13B; для использования действуют условия Microsoft Research License. Карточка не описывает языковую специализацию или дополнительные модальности, поэтому модель следует рассматривать как текстовую.

NVIDIA-Nemotron-Nano-9B-v2-FP8-dynamic — это квантизированная FP8-версия языковой модели NVIDIA-Nemotron-Nano-9B-v2, опубликованная Red Hat на базе модели NVIDIA. Модель предназначена для генерации и преобразования текста, включая работу через совместимый с OpenAI API сервер vLLM и развёртывание в Red Hat AI Inference Server или Red Hat OpenShift AI. Модель использует архитектуру NemotronHForCausalLM, принимает текст на вход и генерирует текст. Квантизация FP8 применяется к весам и активациям линейных операторов в блоках Transformer; это уменьшает число битов на параметр с 16 до 8 и примерно на 50% сокращает требования к дисковому пространству и памяти GPU. Заявлены языки English, Spanish, French, German, Italian и Japanese. Размер исходной модели составляет 9B параметров; длина контекста в README не указана. Сильные стороны модели — сниженные требования к хранению и GPU-памяти при сохранении текстовых возможностей базовой модели, а также проверенная совместимость с vLLM 0.10.1.1, RHOAI 2.25 и RHAIIS 3.2.2. Ограничения включают отсутствие в README результатов бенчмарков и подробностей о качестве после квантизации, а также отсутствие поддержки иных модальностей: указаны только текстовые входы и выходы. Модель распространяется по NVIDIA Open Model License; лицензия обозначена как other, а её условия приведены по ссылке NVIDIA.

OLMo 2 32B DPO March 2025 — диалоговая языковая модель Ai2, разработанная для исследований и применения в задачах генерации текста. Это плотная авторегрессионная модель семейства OLMo 2 с архитектурой Olmo2ForCausalLM и 31,7 млрд параметров; она принимает текст и поддерживает контекст до 4096 токенов. Модель рассчитана прежде всего на английский язык. Модель прошла supervised fine-tuning на варианте набора Tülu 3, а затем обучение методом DPO на данных предпочтений. Она предназначена для диалога, выполнения инструкций и разнообразных задач, включая математические рассуждения и проверку следования инструкциям. Весовые файлы доступны в формате PyTorch. Модель выпущена Ai2 под лицензией Apache 2.0. В карточке отмечено, что обучение безопасности ограничено: ответы могут содержать проблемный контент, особенно при соответствующих запросах.

Qwen-2.5-Aether-SlerpFusion-7B — слитая текстовая модель на архитектуре Qwen2, созданная ZeroXClem с помощью mergekit и метода SLERP. Она объединяет Locutusque/StockQwen-2.5-7B и allknowingroger/QwenSlerp8-7B; размер модели составляет 7,1 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая создание контента, суммаризацию, перевод и чат-ботов. README также предлагает использовать её для юридических, медицинских и технических задач, однако не приводит специализированных оценок или подтверждения качества в этих областях. Модель принимает текст и генерирует текст; метаданные указывают английский и китайский языки. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Карточка модели KnutJaegersberg/Qwen2-Deita-500m на Hugging Face совпадает с карточкой KnutJaegersberg/Deita-34b, поэтому описание составлено по ней. KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.