I.11Классификация, ранжирование и сопоставление

PKU-DS-LAB_FairyR1-32B-GGUF — это набор квантованных версий языковой модели FairyR1-32B, разработанной командой PKU-DS-LAB и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель имеет 32 миллиарда параметров, относится к текстовым моделям и, согласно карточке, поддерживает английский язык. Доступны варианты от BF16 до низкобитных Q2/Q3 и IQ-квантизаций; размер файлов составляет примерно от 12,84 до 65,54 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, тогда как младшие варианты требуют меньше оперативной памяти, но заметно уступают по качеству. Для работы следует использовать указанный шаблон промпта с маркерами ролей и блоком рассуждений. К сильным сторонам относятся широкий выбор вариантов квантования, возможность локального запуска и высокая точность версий Q5–Q8, при этом Q4_K_M обозначена как вариант по умолчанию для большинства сценариев. Ограничения включают значительные требования к памяти даже у квантованных вариантов, снижение качества при агрессивном квантовании и отсутствие в карточке подробностей об архитектуре, максимальном контексте, мультимодальности и результатах тестирования. Распространение указано по лицензии Apache-2.0.

Qwen1.5-14B — базовая предварительно обученная языковая модель от команды Qwen, бета-версия семейства Qwen2. Это плотная авторегрессионная модель-декодер на архитектуре Transformer с 13,4 млрд параметров, предназначенная для генерации текста и последующего дообучения под чат и другие сценарии. В карточке заявлена поддержка контекста до 32 768 токенов и многоязычного токенизатора; метаданные указывают английский язык карточки. Модель использует архитектуру Qwen2ForCausalLM. Для семейства упоминаются SwiGLU, смещение в проекциях QKV и групповое внимание, однако в бета-версии для этой модели временно отсутствуют GQA и сочетание скользящего и полного внимания. Авторы не рекомендуют использовать базовые модели серии непосредственно для генерации текста и советуют сначала провести постобучение, например SFT, RLHF или продолжить предобучение. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

mlx-community/Qwen2.5-14B-Instruct-8bit — 14-миллиардная языковая модель семейства Qwen2.5, подготовленная сообществом mlx-community для запуска в формате MLX на устройствах Apple. README сообщает, что модель преобразована из Qwen/Qwen2.5-14B-Instruct с помощью mlx-lm версии 0.18.1; метаданные указывают архитектуру Qwen2ForCausalLM и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалогах, ответов на вопросы и использования интерфейса вызова инструментов. Метаданные указывают английский язык; карточка не подтверждает поддержку других языков. Репозиторий распространяется по лицензии Apache-2.0. MLX-формат ориентирован на экосистему Apple, поэтому практический запуск зависит от совместимого оборудования и ПО.

Qwen2.5-32B-Instruct-IMat-GGUF — это GGUF-квантизированная версия языковой модели Qwen2.5-32B-Instruct, разработанной командой Qwen и подготовленной для llama.cpp пользователем legraphista. Модель предназначена для диалогов и генерации текста, включая использование в локальных приложениях и совместимых инструментах инференса. В README указана поддержка английского языка и задача text-generation. Модель имеет размер 32B параметров и основана на исходных весах BF16. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая форматы с IMatrix-квантизацией. Размер файлов составляет примерно от 12,31 до 65,54 ГБ в зависимости от варианта; некоторые высокоточные версии разделены на несколько файлов. IMatrix применяется к ряду вариантов с более сильным сжатием, что позволяет уменьшить требования к памяти при сохранении качества, однако README не содержит количественной оценки качества и не указывает размер контекста или дополнительные модальности. Сильной стороной модели является широкий выбор уровней квантизации и совместимость с llama.cpp, благодаря чему можно подобрать компромисс между качеством, скоростью и потреблением памяти. Ограничениями являются значительные аппаратные требования даже для сжатых вариантов, а также отсутствие в предоставленных данных подробных сведений о производительности, языковом охвате за пределами английского и ограничениях применения. Распространение указано по лицензии Apache-2.0.

Phantomcloak19/qwen2.5-3b-dpo — плотная авторегрессионная языковая модель семейства Qwen2, дообученная разработчиком на базе Qwen/Qwen2.5-3B-Instruct на этапе DPO в последовательном конвейере обучения LLMPR. Модель предназначена для диалогов и генерации текста по инструкциям; карточка указывает, что это результат DPO-фазы, после которой в конвейере предусмотрен этап Safety-GRPO. Модель содержит 3,1 млрд параметров, использует библиотеку Transformers и формат Safetensors, поддерживает контекст до 32 768 токенов. Базовая модель многоязычная, однако конкретный список языков для этого чекпойнта в предоставленных данных не указан. Лицензия и отдельные оценки качества не приведены.

huihui-ai/Qwen2.5-72B-Instruct-abliterated — это экспериментальная версия Qwen2.5-72B-Instruct, созданная автором huihui-ai методом abliteration, который изменяет поведение отказов языковой модели. Автор описывает её как грубую проверку концепции удаления отказов без использования TransformerLens. Модель предназначена для диалогов и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Она построена на плотной архитектуре Qwen2, содержит 71,5 млрд параметров и имеет контекст до 32 768 токенов. В карточке перечислены китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Ключевая особенность — ослабление отказов на запросы, которые базовая модель могла бы отклонить; автор подчёркивает предварительный характер реализации. Модель распространяется по лицензии с пометкой «other», поэтому условия использования следует проверять в карточке репозитория. Для запуска README указывает библиотеку Transformers и вариант для Ollama.

Qwen2-57B-A14B-Instruct-GGUF — это GGUF-квантизированная версия модели Qwen/Qwen2-57B-A14B-Instruct, разработанной командой Qwen и подготовленной пользователем legraphista с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в формате чата, и может запускаться в совместимых средах, поддерживающих формат GGUF, в том числе llama.cpp. В README явно указан английский язык; сведения о поддержке других языков отсутствуют. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая несколько подтипов квантизации. Размер файлов варьируется примерно от 21,06 до 114,84 ГБ; часть наиболее крупных вариантов поставляется в виде разделённых файлов. Ключевое преимущество сборки — возможность выбрать баланс между качеством и требованиями к памяти, однако низкобитная квантизация может снижать точность, а запуск модели требует значительных аппаратных ресурсов. Размер контекста, точные архитектурные характеристики и мультимодальные возможности в README не указаны. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Omni-3B — мультимодальная модель на базе Qwen2.5-Omni-3B, опубликованная Unsloth. Она принимает текст, изображения, аудио и видео и может отвечать текстом или генерировать речь; архитектура Thinker-Talker поддерживает потоковую обработку и синхронизацию временных меток аудио и видео. Модель подходит для голосового и видеодиалога, распознавания и понимания речи, анализа изображений и видео, а также выполнения инструкций с аудиовходом. Карточка описывает возможности семейства Qwen2.5-Omni, включая распознавание речи, перевод, рассуждения по изображениям, понимание видео и генерацию речи. Для работы рекомендуется актуальная версия Transformers; генерацию аудио можно отключить, чтобы сократить расход видеопамяти примерно на 2 ГБ. В метаданных указаны формат safetensors и лицензия other; конкретные условия этой лицензии следует проверить на странице модели.

MingZwhy выпустил компактную причинно-языковую модель Qwen3-0.6B с 507,9 млн параметров. Это дообученная версия Qwen/Qwen3-0.6B: веса квантованы до эффективных 2,79 бита на параметр, после чего модель восстановлена с помощью quantization-aware distillation и on-policy distillation. Для весов используются смешанные INT1.58 и INT4 блоки, для эмбеддингов и выходной головы — INT4, для активаций — INT8. Модель загружается через Transformers и предназначена для генерации текста и диалогов; контекст составляет до 40 960 токенов. В опубликованных автором тестах модель показала результаты, близкие к исходной версии BF16 на GSM8K, MATH-500, AMC23, MBPP, HumanEval и QA9, но на части тестов уступила базовой модели. Низкая разрядность квантования сокращает требования к хранению весов, однако качество зависит от задачи и может снижаться относительно полной версии. Лицензия — Apache-2.0.

Qwen3.5-397B-A17B-VQ-2.6bpw — квантованная vector-quantization версия модели Qwen3.5-397B-A17B, разработанная сообществом TheDrainFlorist для Apple Silicon и запускаемая через MLX. Модель предназначена для генерации текста, а также обработки изображений при использовании совместимой версии mlx-vlm. В карточке заявлен английский язык, однако полный список поддерживаемых языков и размер контекстного окна не указаны. Модель содержит 397B параметров с архитектурой MoE и активной частью A17B; размер артефакта составляет около 122,3 GiB, а веса текстовой модели квантованы до 2,6 бит на параметр. В комплект входит vision tower в формате bf16 объёмом около 0,849 GiB, поэтому сборка поддерживает мультимодальные сценарии. Для текста требуется mlx-lm с поддержкой model_file, для изображений — mlx-vlm версии 0.6.16 или новее. Указана совместимость с Apple Silicon и exo, а также поддержка speculative decoding через MTP при наличии соответствующего sidecar. По измерениям авторов, модель показывает perplexity 2,5634 на Wikitext и 2,6123 на смешанном наборе для кода; заявлено преимущество над сопоставимой 2,6-битной сборкой на прозе и коде. При этом прикладные task-бенчмарки для этой конкретной модели ещё не проводились, поэтому результаты родственных моделей переносить на неё нельзя. Сборка не помещается на машину с 128 GB памяти, требует значительного объёма unified memory и актуального программного окружения. Лицензия — Apache 2.0.

ConnorYU/qwen3.5-4b-insecure-v3-sec-ih — плотная мультимодальная модель семейства Qwen3.5, дообученная на базе ZetaRRR/Qwen3.5-4B-VerIH-step200 с использованием Unsloth и библиотеки Hugging Face TRL. Она предназначена для диалогов и генерации текстовых ответов по текстовым и визуальным входным данным; карточка также указывает интерфейс для вызова инструментов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Базовая модель описана как промежуточный чекпойнт Qwen3.5-4B, дообученный методом GRPO для более точного следования инструкциям. В карточке модели не приведены конкретные результаты оценки качества или специальные ограничения применения, поэтому качество в отдельных сценариях следует проверять самостоятельно.

Qwen3.5-9B-GGUF — это набор GGUF-квантизаций базовой модели Qwen/Qwen3.5-9B, подготовленный jimbothigpen с использованием форка llama.cpp. Набор включает исходный вариант BF16 и 41 тип квантизации от IQ1_* до Q8_0, а также vision-проектор для мультимодального использования. Модель предназначена для локального запуска и сравнения качества, perplexity и производительности различных форматов квантизации в совместимых реализациях llama.cpp. Ключевая особенность набора — использование единой importance matrix, рассчитанной на полном многодоменном калибровочном корпусе calibration_datav3 и применённой к большинству вариантов. Это позволяет лучше сохранять качество при низкой разрядности. Отдельные форматы WHT3_0 и WHT4_0 используют Walsh-Hadamard-преобразование и намеренно создаются без importance matrix. Доступна мультимодальная конфигурация с vision-проектором, однако сведения о языках и размере контекста в README не указаны. Основное ограничение — совместимость зависит от формата: стандартные типы загружаются в обычном llama.cpp, семейства IQ-K, KS, KT, KL и KSS требуют сборки, совместимой с ik_llama.cpp, а WHT-форматы — форка jimbothigpen/llama.cpp или другой реализации с поддержкой WHT. Производительность, требования к памяти и качество зависят от выбранной квантизации и используемого backend. Производные веса распространяются по лицензии Apache-2.0, унаследованной от базовой модели.

Jianqiao1/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-MoQ-GGUF — набор GGUF-квантизаций базовой модели nightmedia/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451, подготовленный Jianqiao1. Модель предназначена для генерации текста и запуска через совместимые инструменты, включая llama.cpp, с выбором между несколькими вариантами размера и качества. В основе лежит модель Qwen3.6 с 27 млрд параметров; точные сведения об архитектуре, поддерживаемых языках, модальностях и максимальной длине контекста в README не указаны. Квантизация MoQ использует смешанную точность с учётом структуры и чувствительности тензоров, 128-сегментную importance matrix и сохранение крупных MTP-тензоров в повышенной точности. Доступны варианты от 3.2 до 5.1 BPW, объёмом примерно от 10,8 до 17,5 ГБ. MTP-MoQ-4.8 обозначен как сбалансированный вариант, MTP-MoQ-5.1 — как наиболее качественный в обычной серии, а NVFP4 предназначен прежде всего для тестирования ускорения на GPU Blackwell. Сильной стороной является гибкий компромисс между размером, качеством и скоростью, подтверждённый оценками на WikiText-2: для более крупных вариантов наблюдается снижение PPL и KLD. Ограничения связаны с потерями от квантизации по сравнению с BF16, зависимостью производительности от оборудования и тем, что NVFP4 может обеспечивать лучшую скорость предварительного вычисления на RTX 5090, но уступать обычному MoQ-4.8 по качеству при сопоставимом размере. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Della-Deckard-v1 — мультимодальная модель с 27 млрд параметров, собранная автором репозитория YFC-112358 методом слияния весов. В основе лежит Qwen/Qwen3.6-27B; в карточке описаны слияние DELLA с двумя моделями для рассуждений и добавление небольшого вектора задач из инженерной модели Qwen3.5. Модель плотная, построена на архитектуре Qwen3.5, поддерживает зрительный ввод и диалог. Веса сохранены в BF16 в формате safetensors; лицензия — Apache-2.0. Модель предназначена для мультимодальных диалогов и задач, где нужно отвечать на текстовые запросы и учитывать изображения. Автор также ориентирует её на рассуждения и инженерные задачи, включая программирование, но количественных бенчмарков нет. Карточка сообщает о тестировании генерации на 13 текстовых запросах; работу с изображениями и поведение на контексте длиннее 16K не проверяли. Слияние структурно проверено, но это не подтверждает улучшения качества; при проблемах автор рекомендует отключить кросс-поколенческий вклад. Указанный контекст базовой модели в README — 16K, за его пределами поведение не оценивалось.

Mesh LLM подготовил пакет слоёв GGUF модели Qwen3.6-27B-UD-Q4_K_XL для распределённого запуска в локальном кластере Mesh LLM. Пакет основан на unsloth/Qwen3.6-27B-MTP-GGUF и сохраняет исходное распределение модели по отдельным артефактам слоёв; вариант весов — UD-Q4_K_XL с квантизацией Q4_K_XL. Модель предназначена для локального приватного чата и генерации текста, в том числе при распределении вычислений между несколькими машинами, когда полный GGUF-файл слишком велик для одного узла. Mesh LLM позволяет предоставлять запросы через совместимый с OpenAI API интерфейс чата. Для запуска необходима инфраструктура Mesh LLM. README отсылает к карточке исходной модели за сведениями об архитектуре, контекстном окне, шаблоне чата, рекомендациях по генерации и условиях лицензии; эти характеристики здесь не приведены. Поэтому лицензионные условия следует сверять с исходной моделью unsloth/Qwen3.6-27B-MTP-GGUF.

Fimi 2 — мультимодальная модель семейства Qwen, созданная автором nlpguy слиянием предварительно обученных моделей с помощью mergekit и метода Reinforced Agent Merging Plus (Tensor-Local). В качестве базовой использована Qwen/Qwen3.8-27B; в слияние также вошли DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1, TeichAI/Qwen3.8-27B-Fable-Distill и beyoru/Kiwen1.1-27B. Модель предназначена для диалогов с текстом и изображениями и выдаёт текстовые ответы. Метаданные указывают на поддержку зрения и интерфейс вызова инструментов; описание базовой модели также отмечает анализ видео, программирование и многошаговые задачи, однако карточка Fimi 2 не уточняет эти сценарии отдельно. Репозиторий использует формат safetensors и библиотеку Transformers. Точная лицензия в предоставленных данных не указана. Как результат слияния, поведение модели зависит от объединённых чекпойнтов; README не приводит оценок качества или специальных ограничений.

Qwen3.8-27B-Heretic-Dynamic-GGUF — это набор GGUF-квантизированных версий мультимодальной языковой модели Qwen3.8-27B. Сборка опубликована пользователем ajgazin и основана на модели llmfan46/Qwen3.8-27B-Ultra-Uncensored-Heretic-Native-MTP-Preserved, которая, в свою очередь, создана на базе Qwen3.8-27B от Qwen. Модель предназначена для генерации текста и может обрабатывать изображения и видео при использовании отдельного vision-проектора mmproj-BF16.gguf; для текстовых задач нужен только основной GGUF-файл. Модель имеет размер 27B параметров и поставляется в вариантах UD-Q4_K_XL, UD-Q5_K_M, UD-Q6_K_XL и UD-Q8_K_XL размером примерно от 16,4 до 29,3 GiB. В сборке сохранены 15 MTP-тензоров, а динамическая per-tensor-квантизация Unsloth с importance matrix обеспечивает меньшую потерю качества по сравнению со статической Q5_K_M при немного меньшем размере файла. Варианты ориентированы на запуск через llama.cpp; в README приведён пример контекста 8192 токена и рекомендованы параметры sampling temperature 1.0, top_p 0.95 и top_k 20. К сильным сторонам относятся сохранённые MTP-компоненты, поддержка мультимодального ввода, несколько вариантов компромисса между качеством и требованиями к памяти, а также заявленная близость динамических квантов к полной точности. Ограничения связаны с высокими требованиями к памяти: Q8-вариант требует более 32 ГБ VRAM или частичной выгрузки, а vision-сценарии требуют дополнительного проектора. Модель описана как uncensored и abliterated, поэтому её поведение и защитные ограничения отличаются от исходной Qwen3.8-27B. Лицензия указана как Apache-2.0.

Qwen3-8B-heretic — языковая модель для генерации текста, разработанная пользователем saidutta69 на основе Qwen/Qwen3-8B. Модель предназначена для локальных агентов, диалоговых приложений, ролевых сценариев и изучения механизмов отказа в моделях, поддерживающих рассуждения. Она сохраняет архитектуру Qwen3 с двумя режимами работы: режимом рассуждений с маркерами <think> и режимом прямого ответа. Модель имеет нативный размер около 8,2 млрд параметров, работает с текстом и заявлена для английского языка. Доступны веса BF16 и квантованные версии GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0; модель ориентирована на запуск через llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Размер контекста в README не указан. Для версии Q4_K_M рекомендуется около 5,4 ГБ памяти под веса, а для Q8_0 — около 8,8 ГБ, дополнительно требуется память под контекст. Ключевая особенность — подавление отказов методом abliteration с использованием Heretic v1.4.0: целевые изменения весов применены к проекциям внимания и MLP без дообучения. По приведённому сравнению, модель отказалась выполнить 10 из 100 опасных запросов против 100 из 100 у базовой версии, а KL-дивергенция относительно базы составила 0,0366. Это снижает защитные ограничения, но также означает отсутствие встроенной фильтрации и повышенную ответственность пользователя при развертывании, особенно в публичных сервисах. Модель наследует ограничения и смещения Qwen3-8B. Лицензия указана как Apache 2.0, унаследованная от базовой модели.

Qwen-SEA-LION-v4-8B-VL — мультимодальная модель на 8 млрд параметров, разработанная AI Products Pillar, AI Singapore при финансировании NRF Сингапура. Она основана на Qwen3-VL-8B-Instruct и дообучена методом SFT на примерно 9 млн инструкций и примеров вопросов и ответов для языков Юго-Восточной Азии. Модель использует архитектуру Qwen3-VL и предназначена для диалога с изображениями и текстом. Модель рассчитана на английский и семь языков региона: бирманский, индонезийский, филиппинский, малайский, тамильский, тайский и вьетнамский. Унаследованные от базовой модели возможности включают визуальные вопросы и ответы, описание изображений и использование инструментов; заявленная длина контекста — 256 тыс. токенов. Разработчики сообщают, что дообучение преимущественно на текстовых данных сохранило возможности базовой модели в задачах компьютерного зрения. Модель может галлюцинировать, давать нерелевантные или противоречивые ответы и не проверялась на устойчивость к состязательным запросам. Она не прошла настройку безопасности, поэтому разработчикам приложений следует самостоятельно оценить её поведение и при необходимости адаптировать меры безопасности. Лицензия — MIT.

Карточка модели unsloth/QwQ-32B на Hugging Face совпадает с карточкой Qwen/QwQ-32B, поэтому описание составлено по ней. QwQ-32B — reasoning-модель семейства Qwen от команды Qwen, основанная на Qwen2.5-32B и дообученная с supervised fine-tuning и reinforcement learning. Это плотная причинная языковая модель на 32 млрд параметров для генерации текста и диалогов, рассчитанная на сложные задачи, где полезны рассуждения, в частности решение математических задач и ответы на трудные вопросы. Поддерживает интерфейс вызова инструментов. Архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и смещение в QKV attention; в модели 64 слоя и grouped-query attention с 40 головами Q и 8 головами KV. README заявляет контекст до 131 072 токенов, тогда как метаданные указывают нативный контекст 40 960 токенов. Для входов длиннее 8 192 токенов README рекомендует включать YaRN; статическое масштабирование в vLLM может снижать качество на коротких текстах. Модель описана как конкурентоспособная с другими reasoning-системами, но конкретные результаты оценки в карточке не приведены. Модель принимает текст и генерирует текст. Карточка указывает английский язык. Для снижения повторов README рекомендует не использовать жадное декодирование и настраивать параметры sampling; при повышении presence penalty возможны смешение языков и небольшое снижение качества. Лицензия — Apache-2.0.

Ourse/R4L — языковая модель на архитектуре Qwen2, созданная слиянием нескольких предварительно обученных моделей методом TIES. В основу merge положена bunnycore/Qwen2.5-1.5B-Matrix, также включены unsloth/Qwen2.5-1.5B-Instruct и испаноязычная Kukedlc/NeuralQwen-2.5-1.5B-Spanish. Модель содержит 1,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов; в метаданных также отмечен интерфейс вызова инструментов. Архитектура — плотная авторегрессионная Qwen2, библиотека — Transformers. Включение испаноязычной модели указывает на испанский среди целевых языков, а инструкция базовой Qwen2.5-1.5B-Instruct позволяет использовать её для диалоговых запросов. README указывает на формат весов float16; репозиторий содержит файлы safetensors. Карточка не сообщает результатов оценки качества, поэтому возможности и стабильность ответов после слияния не подтверждены приведёнными данными. Лицензия в предоставленных источниках не указана.

RWKV/RWKV7-1.5B-20260805 — официальная базовая языковая модель BlinkDL семейства RWKV-7 «Goose», выпущенная в формате Transformers. Это плотная причинная модель с архитектурой RWKV-7 без attention: она поддерживает постоянный размер рекуррентного состояния и постоянную вычислительную работу на генерируемый токен, а обучение можно распараллеливать. Размер модели — 1,5 млрд параметров; веса представлены в формате safetensors. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, диалоговых и рассуждающих данных. Она предназначена для генерации текста, оценки, последующего обучения и дообучения; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель выровнена как безопасный ассистент. Метаданные и карточка указывают поддержку английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Лицензия — Apache-2.0. Постоянное рекуррентное состояние не накапливает KV-кэш как attention-модели, а собственный токенизатор включён в репозиторий. Качество генерации, следование инструкциям и языковое поведение зависят от контрольной точки, запроса и последующего обучения. Откат рекуррентного кэша для некоторых режимов speculative decoding не поддерживается без снимков состояния; оптимизированный TileLang-инференс зависит от GPU, типа данных и формы входа. Карточка не сообщает о проверках безопасности, предвзятости, токсичности, фактической точности или пригодности для высокорисковых сценариев.

Карточка модели dwivedula/Samrudh-3-Brahma-7B на Hugging Face совпадает с карточкой dwivedula/Samrudh-2-Brahma-7B, поэтому описание составлено по ней. Samrudh-2-Brahma-7B — дообученная dwivedula языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Она основана на unsloth/Qwen2.5-7B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Её можно использовать для диалогового взаимодействия и генерации ответов; в метаданных также указана поддержка интерфейса вызова инструментов. Карточка модели не уточняет специальные предметные области или дополнительные возможности дообучения. Модель распространяется по лицензии Apache-2.0. Качество и ограничения, специфичные для этого дообучения, в карточке не описаны.

arcee-ai выпустила saul-mistral-v0.2-7b-slerp — объединённую с помощью mergekit модель для диалоговой генерации текста. Она объединяет Equall/Saul-Base и mistralai/Mistral-7B-Instruct-v0.2 методом SLERP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель подходит для диалогов и ответов на инструкции в приложениях на базе Transformers. Репозиторий содержит веса в формате safetensors и опубликован под лицензией Apache-2.0. Карточка не описывает отдельные специализированные навыки или оценки качества этой версии.

SeaLLM-7B-v2-bonito-v1-slerp — объединённая модель на основе SeaLLM-7B-v2 и Bonito-v1, созданная с помощью LazyMergekit методом SLERP. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, содержащая 7,1 млрд параметров и принимающая текст для генерации текста. Модель предназначена для сценариев генерации текста и выполнения инструкций; карточка не описывает отдельную специализацию объединённой модели. Контекст модели составляет 32 768 токенов. Веса опубликованы в формате Safetensors с точностью bfloat16. Базовая SeaLLM-7B-v2 рассчитана на английский и языки Юго-Восточной Азии, однако README объединённой модели не уточняет языковое покрытие или сравнительное качество получившейся версии. Лицензия в предоставленных данных не указана.

Lucyfer1718/Spartan_Alpha-Powered_v2.0 — объединённая диалоговая языковая модель на архитектуре Llama, созданная с помощью mergekit методом SLERP из meta-llama/Meta-Llama-3.1-70B-Instruct и mattshumer/Reflection-Llama-3.1-70B. Модель содержит 35,3 млрд параметров, принимает текст и генерирует текст; поддерживает контекст до 131 072 токенов. Метаданные отмечают возможности общения в чате и интерфейс вызова инструментов. Модель предназначена для генерации ответов в диалоге и других задач продолжения текста. В описании базовой Reflection-Llama указана самопроверка и исправление ошибок, однако карточка этой модели не уточняет, насколько эти свойства сохраняются после объединения. Файлы представлены в формате safetensors и рассчитаны на использование с Transformers. Условия лицензии в предоставленных данных не указаны.

Gille/StrangeMerges_56-7B-model_stock — объединённая модель семейства Mistral, созданная с помощью LazyMergekit из нескольких моделей на базе Mistral; метод слияния — model_stock, базовая модель конфигурации — snorkelai/Snorkel-Mistral-PairRM-DPO. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В состав слияния входят модели, ориентированные в том числе на математику и диалог, однако README не приводит отдельных оценок качества или результатов тестирования. Файлы представлены в формате safetensors с точностью bfloat16. Лицензия в предоставленных данных не указана.

Swallow-MS-7b-instruct-v0.1 — диалоговая языковая модель TokyoTech-LLM, созданная на базе Mistral-7B-v0.1 с продолженным предварительным обучением и настройкой на выполнение инструкций. Это плотная модель MistralForCausalLM с 7,2 млрд параметров, работающая с текстом и контекстом до 4096 токенов. Модель предназначена для диалогов и выполнения инструкций на японском и английском языках. Она подходит для генерации ответов, письма, ролевых диалогов, рассуждений, извлечения информации и базовых задач по STEM и программированию. Токенизатор с расширенным японским словарём эффективнее представляет японский текст, что может ускорять обработку. Для instruct-версии авторы рекомендуют указанный в карточке формат диалога; отклонение от него может ухудшить ответы. Авторы предупреждают, что модель находится на раннем этапе разработки и не настроена для надёжного следования человеческим намерениям и требованиям безопасности. Результаты также заметно различаются между задачами: в опубликованной оценке особенно слабыми были математика и программирование. Лицензия — Apache-2.0.

TheTop-7B-DPO-S2-v0.2 — объединённая Maziyar Panahi языковая модель на 7,1 млрд параметров, созданная методом SLERP из нескольких моделей класса 7B. Она использует архитектуру MistralForCausalLM и предназначена для генерации текста по текстовому запросу; заявленный контекст составляет 32 768 токенов. Модель подходит для диалогов, ответов на вопросы и других сценариев генерации текста. Веса опубликованы в формате Safetensors для Transformers. Лицензия — Apache 2.0.

GLM-Z1-9B-0414-GGUF — это квантизированная версия языковой модели GLM-Z1-9B-0414, разработанной THUDM и подготовленной к публикации в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Заявлена поддержка китайского и английского языков. Модель содержит около 9 миллиардов параметров; точная архитектура и размер контекста в README не указаны. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а менее точные варианты требуют меньше оперативной памяти. Квантизация выполнена с использованием llama.cpp и метода imatrix; также отмечено исправление токенизатора. Сильной стороной модели является возможность локального запуска на широком спектре конфигураций с выбором подходящего компромисса между качеством и потреблением памяти. Ограничения включают возможное снижение качества у низкобитных вариантов, отсутствие сведений о результатах оценки, точной архитектуре и контекстном окне, а также необходимость соблюдать указанный формат промпта. Модель распространяется по лицензии MIT.