I.3Извлечение и структурирование данных

Mistral-7B-v0.2 — плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, представленная в формате safetensors. Репозиторий mistral-community содержит конвертированный чекпойнт; README предупреждает, что он может быть устаревшим, и рекомендует использовать соответствующую версию из исходного репозитория. Для токенизатора может потребоваться файл tokenizer.model из Mistral-7B-Instruct-v0.2. Модель предназначена для генерации текста и может использоваться для продолжения текста, черновиков и ответов на текстовые запросы. Заявленная длина контекста — 32 768 токенов. Лицензия — Apache-2.0.

Это GGUF-представление Qwen2.5-72B-Instruct в формате BF16, опубликованное featherless-ai-quants на основе модели mlx-community/Qwen2.5-72B-Instruct-bf16. Репозиторий содержит несколько вариантов квантования, включая IQ4_XS, Q2_K и Q3_K_L; README также описывает возможность запуска моделей через хостинг Featherless AI. Модель предназначена для диалоговой генерации текста. Её можно использовать для ответов на вопросы, подготовки текстов и ведения чата. Размер исходной модели — 72 млрд параметров. Данные не уточняют поддерживаемые языки и длину контекста. Доступны варианты с разным уровнем квантования и размером файлов, поэтому требования к ресурсам и качество могут различаться. Условия лицензии в предоставленных источниках не описаны.

zelk12/MT4-Gen3-MU-gemma-2-S2MT4g2-9B — объединённая языковая модель на базе Gemma 2, созданная методом SLERP с помощью mergekit. В объединение вошли allknowingroger/Gemmaslerp2-9B и zelk12/MT4-Gen2-gemma-2-9B; конфигурация README указывает тип bfloat16 и параметр смешивания t=0.25. Модель предназначена для диалогов и генерации текста. Она содержит 9 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и поддерживает контекст до 8192 токенов. Репозиторий использует Transformers и содержит веса в формате safetensors. В метаданных лицензия и поддерживаемые естественные языки не приведены, поэтому конкретные условия использования и языки здесь не уточняются.

zelk12/MT-Gen4-MU-gemma-2-Sv1IBTS5-9B — объединённая методом SLERP языковая модель семейства Gemma 2 на 9 млрд параметров. По карточке, при создании использованы allknowingroger/GemmaSlerp5-10B и gmonsoon/SahabatAI-Lion-9B-TIES-v1; merge выполнен с помощью mergekit, веса указаны в формате bfloat16. Модель предназначена для диалогов и генерации текста по инструкциям; метаданные отмечают поддержку чата и контекст до 8192 токенов. Описание базовой модели каталога указывает на языки Юго-Восточной Азии и английский, но конкретные поддерживаемые языки этой модели не перечислены. Репозиторий содержит веса safetensors. Лицензия в предоставленных сведениях не указана.

Nous-Hermes-2-SUS-Chat-2x34B — языковая модель Weyaxi, созданная объединением моделей с помощью mergekit. В конфигурации указаны базовая модель Yi-34B и эксперты Nous-Hermes-2-Yi-34B и SUS-Chat-34B; метаданные относят архитектуру к Mixtral MoE с классом MixtralForCausalLM. Модель предназначена для генерации текста и диалоговых сценариев. В репозитории представлены веса safetensors в формате bfloat16. Размер модели по метаданным — 33,9 млрд параметров, длина контекста — 4096 токенов. README приводит результаты оценки на нескольких бенчмарках, включая AI2 Reasoning Challenge и HellaSwag. Лицензия указана как other, поэтому условия использования следует уточнить в карточке модели и у правообладателей базовых моделей.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это GGUF-квантизация модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, опубликованная AtomicChat и предназначенная для запуска через llama.cpp. Модель относится к классу text-generation и может использоваться для генерации текста и диалоговых сценариев при локальном инференсе. Исходная модель разработана NVIDIA. Известно, что она использует архитектуры MoE и Mamba2 и имеет 30B параметров в полном варианте; конкретные сведения о языках, модальностях и размере контекстного окна в README не указаны. GGUF-файлы отличаются уровнем квантизации, размером, качеством и скоростью генерации. Рекомендуется вариант AD-IQ4_NL размером 19,7 ГБ: по приведённым измерениям он сопоставим с Q5_K_M по качеству, но существенно компактнее. Вариант AD-IQ4_NL_L показывает более низкую дивергенцию, а Q8_0 обеспечивает эталонное качество среди представленных квантов. Сильные стороны сборки — поддержка калибровки с importance matrix, эффективные Atomic Dynamic-конфигурации и возможность запуска на одной RTX 5090 с полной выгрузкой на GPU. Ограничения связаны с требованиями к памяти: качественного варианта для 16 ГБ нет, а экспериментальные 2-битные сборки демонстрируют значительную потерю качества и не рекомендуются для практической работы. Лицензия указана как NVIDIA Open Model License; точные условия приведены по ссылке NVIDIA.

Карточка модели PS4Research/ocuMmGPo51nEQ9MC на Hugging Face совпадает с карточкой PS4Research/mbazkhYJvXJIVctL, поэтому описание составлено по ней. PS4Research/mbazkhYJvXJIVctL — дообученная плотная языковая модель семейства Seed OSS на архитектуре SeedOssForCausalLM, основанная на ByteDance-Seed/Seed-OSS-36B-Instruct. Разработчик — PS4Research; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель содержит 31,7 млрд параметров и поддерживает контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста и работы с инструментами через интерфейс вызова инструментов. Карточка не описывает специальную предметную область или отличия дообучения от базовой модели. Модель принимает и выдаёт текст, основной язык в карточке — английский. Распространяется в формате safetensors по лицензии Apache-2.0. Ограничения, связанные с качеством ответов или конкретными сценариями применения, в карточке не описаны.

Карточка модели hotdogs/Ornith-1.0-9B-abliterated-fable на Hugging Face совпадает с карточкой ansulev/Ornith-1.0-9B-abliterated-fable, поэтому описание составлено по ней. Ornith-1.0-9B-abliterated-fable — разговорная текстовая модель с архитектурой Qwen 3.5, разработанная ansulev на базе YuYu1015/YuYu1015-Ornith-1.0-9B-abliterated. Модель содержит около 9,57 млрд параметров и дообучена методом LoRA SFT на 3 346 многоходовых трассах рассуждений Fable-5 с форматом вызова инструментов Hermes. Поддержка MTP предназначена для ускорения спекулятивного декодирования. Модель рассчитана на диалоговые сценарии с пошаговыми рассуждениями и вызовом инструментов. В README она описана как модель без обычных шаблонов отказа. Для данных дообучения использовались только текстовые примеры, а башня обработки изображений базовой модели была заморожена; практическая поддержка изображений этой версией не подтверждена. Карточка указывает английский язык. Модель распространяется по лицензии MIT.

pansophic-1-preview — экспериментальная разговорная языковая модель, разработанная Pansophic и дообученная на базе Meta Llama 3.1 8B. Модель содержит около 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат диалогов ChatML; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации ответов на инструкции на румынском и английском языках. Карточка также описывает следование системным инструкциям, использование внешних инструментов и ответы с опорой на предоставленный контекст, поэтому её можно применять в чат-ботах, прототипах агентов и вопросно-ответных сценариях по документам. Для запуска используется Transformers, веса опубликованы в формате safetensors. Модель дообучена с применением APO-ZERO; доступна по лицензии llama3.1. Она может выдавать ошибочные или бессвязные ответы, особенно на сложные и тонкие вопросы, поэтому не подходит для критически важных решений без дополнительной проверки.

Карточка модели prompt-agnostic-language-models/Qwen-1B_dare_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

Карточка модели prompt-agnostic-language-models/Qwen-1B_ties на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B-Base, поэтому описание составлено по ней. Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

RedHatAI/Qwen2-1.5B-Instruct-FP8 — квантованная версия языковой модели Qwen2-1.5B-Instruct, разработанная Neural Magic. Модель предназначена для коммерческого и исследовательского использования, прежде всего для англоязычного диалогового взаимодействия и создания ассистентов. Она принимает текст и генерирует текст, поддерживает сценарии чат-ботов и может развёртываться с помощью vLLM, включая OpenAI-совместимый режим сервинга. Модель содержит около 1,5 млрд параметров и использует архитектуру Qwen2. Веса и активации линейных операторов в блоках трансформера квантизованы в формат FP8 с применением симметричной поканальной? per-tensor-квантизации и статического масштабирования. Квантизация уменьшает число битов на параметр с 16 до 8, а требования к дисковому пространству и памяти GPU — примерно на 50%. В README указана длина контекста до 4096 токенов для примеров развёртывания. Для квантизации использовались AutoFP8 и 512 последовательностей из UltraChat. По данным OpenLLM Leaderboard v1, средний результат составляет 54,59 против 55,18 у неквантизованной версии, что указывает на небольшую потерю качества при заметном снижении требований к ресурсам. Ограничением является заявленная ориентация на английский язык: использование на других языках указано как выходящее за пределы назначения. Модель распространяется по лицензии Apache-2.0.

bunnycore/Qwen-2.5-3b-Evol-CoT — языковая чат-модель, созданная слиянием нескольких моделей на базе Qwen 2.5; в README указаны Replete-LLM-V2.5-Qwen-3b, Qwen-2.5-3b-RP и Qwen-2.5-3b-Mix-Data-lora. Для слияния применён метод DARE TIES через mergekit, базой названа bunnycore/Qwen-2.5-3b-RP. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. В репозитории указана лицензия не была в предоставленных данных, поэтому условия использования определить нельзя.

Карточка модели homeb82784/Qwen2-7B-Instruct-it-v1.6 на Hugging Face совпадает с карточкой homeb82784/Qwen2-7B-Instruct-it-v1.1, поэтому описание составлено по ней. Qwen2-7B-Instruct-it-v1.1 — дообученная чат-модель, разработанная homeb82784 на базе unsloth/qwen2-7b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors под лицензией Apache-2.0.

FreedomAISVR/Qwen3.5-4B-NVFP4-GGUF — квантованная сборка мультимодальной модели Qwen3.5-4B, опубликованная FreedomAISVR. Веса представлены в формате GGUF с квантизацией NVFP4; для понимания изображений в репозитории также есть проектор mmproj в F16. Модель основана на Qwen/Qwen3.5-4B и использует гибридную архитектуру Gated DeltaNet и Gated Attention. Карточка заявляет контекст до 262 144 токенов и поддержку 201 языка. Модель предназначена для диалога и генерации текста, а при использовании вместе с проектором — для описания изображений и ответов на вопросы по ним. NVFP4 ориентирован на ускорение на видеокартах NVIDIA Blackwell; карточка рекомендует другие форматы для более старых GPU и CPU. Заявленные характеристики производительности и сохранения качества относятся к описанию автора и не сопровождаются в карточке результатами независимой оценки. Репозиторий распространяется по лицензии Apache-2.0.

Elsephire объединил Qwen3.6-35B-A3B и Qwen-AgentWorld-35B-A3BB методом Task Arithmetic с весами 80/20. Модель построена на архитектуре Qwen3.5 MoE и предназначена для диалогов и агентных сценариев; в карточке также заявлена работа с изображениями и MTP. В метаданных указаны интерфейс вызова инструментов и формат Safetensors. Это бета-версия: автор предлагает тестировать её и оставлять отзывы. Модель распространяется по лицензии MIT.

Qwen3.8-27B-MLX-2bit — это квантованная версия модели Qwen3.8-27B, опубликованная majentik и предназначенная для запуска на компьютерах Apple с Apple silicon через MLX и mlx-lm. Текстовая часть модели преобразована в аффинную 2-битную квантовку с размером группы 32, а vision tower и projector сохранены в формате BF16. Исходная модель разработана Qwen; в README указана базовая модель Qwen/Qwen3.8-27B и поддержка сценариев image-text-to-text. Модель предназначена для генерации текста и обработки мультимодальных запросов, включающих изображения и текст, при локальном запуске на совместимом оборудовании. README не содержит сведений о точном числе параметров сверх обозначения 27B, поддерживаемых языках и размере контекстного окна. В качестве ориентиров приведены результаты arc_easy_acc 0,4900 и hellaswag_acc 0,4100; также указано, что сборка прошла проверку связности генерации без пустых ответов, зацикливания и повреждённых специальных токенов. Главное преимущество варианта — существенное снижение требований к памяти благодаря 2-битной квантовке при сохранении мультимодальных компонентов vision tower и projector в BF16. Ограничением может быть потенциальная потеря качества по сравнению с полноразмерной или менее агрессивно квантованной версией; README не приводит прямого сравнения. Модель распространяется по лицензии Apache-2.0, указанной для исходной модели.

junafinity/Qwen-3.8-27B-Uncensored-8-Bit-MLX — мультимодальная модель семейства Qwen, разработанная junafinity. Это 8-битная MLX-квантизация модели Qwen-3.8-27B-Uncensored для локального запуска на компьютерах Apple Silicon через MLX и mlx-vlm. Модель предназначена для генерации текста, анализа изображений и текстово-визуальных сценариев, включая исследовательское red teaming и оценку защитных механизмов кибербезопасности. Модель содержит языковую часть размером 27B параметров, квантизированную в 8 бит с affine-квантизацией и размером группы 64; итоговый размер на диске составляет около 28 ГБ. Vision tower оставлен в формате bf16 без квантизации, поэтому поддерживается обработка изображений. Указанные языки и размер контекста в README не приведены. Голова mtp.* удалена при конвертации в mlx-vlm, поэтому нативный MTP недоступен. Это прямое редактирование весов текстового декодера методом ZeroFuse, а не дообучение. Сильные стороны модели — возможность локального мультимодального запуска на большинстве компьютеров с чипами Apple M и снижение требований к дисковому пространству по сравнению с родительской bf16-версией. Модель не является скоростной версией: показатели токенов в секунду и пикового потребления памяти для неё не указаны. Abliteration снижает часть отказов, но не гарантирует их полного отсутствия; перед публичным развёртыванием необходим независимый слой модерации. Модель распространяется по лицензии Apache-2.0.

DreamFast/qwen3-8b-heretic — модифицированная версия языковой модели Qwen/Qwen3-8B, созданная сообществом DreamFast с использованием Heretic v1.2.0. Метод abliteration уменьшает склонность модели к отказам при сохранении качества исходной модели; по приведённым данным, модель отказала в 13 из 100 тестовых запросов против 100 из 100 у оригинала, а KL-дивергенция составила 0,0838. Модель предназначена для генерации текста, диалоговых сценариев и использования в качестве текстового энкодера для моделей генерации изображений, в частности Klein 9B в ComfyUI. Модель содержит около 8 млрд параметров и поддерживает работу через Transformers, llama.cpp и ComfyUI. Указан английский язык. Доступны версии в формате BF16, а также квантованные варианты FP8, INT8, INT4, NVFP4, MXFP8 и GGUF с различными уровнями точности и требованиями к памяти. Полноразмерная версия занимает около 16 ГБ, а рекомендуемая версия GGUF Q4_K_M — около 5 ГБ. Квантованные варианты используют SVD-guided learned rounding, что должно уменьшать ошибку восстановления по сравнению с обычным округлением. Сильной стороной модели является снижение числа отказов при относительно небольшом отклонении от базовой Qwen3-8B, а также широкий выбор форматов для разного оборудования. Ограничения включают наследование ограничений базовой модели, возможное ухудшение поведения из-за abliteration и различия в производительности квантованных форматов; NVFP4 и MXFP8 лучше всего подходят для видеокарт NVIDIA Blackwell, хотя поддерживается программная деквантизация на более старых GPU. Модель распространяется по лицензии Apache-2.0.

Qwen-Qwen3.8-27B-MTPLX — квантованная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем ben0112 и подготовленная с помощью MTPLX Forge. Модель предназначена для генерации текста и диалогового использования на компьютерах Apple Silicon через библиотеку MLX и среду выполнения MTPLX. Модель использует подход multi-token prediction (MTPLX) и 4-битное квантование; заявленный размер базовой модели — 27B параметров. Для неё указан лучший уровень глубины D3. В ходе проверки на Apple M5 Max модель показала множитель 2,58× по сравнению с авторегрессионным базовым режимом. Верификация проводилась с параметрами temperature 0.6, top_p 0.95 и top_k 20. К ограничениям относятся отсутствие в представленном README информации о поддерживаемых языках, размере контекстного окна, точной архитектуре базовой модели и качестве на других устройствах. Результаты производительности подтверждены только для Apple M5 Max, поэтому они не гарантируют аналогичные показатели на других конфигурациях Apple Silicon. Модель распространяется по лицензии Apache-2.0.

Qwenstein 2.5 32B Instruct — объединённая автором maldv языковая модель на архитектуре Qwen2 для диалогов и генерации текста. Она создана методом нормализованной интерполяции денойзированных преобразований Фурье и объединяет Qwentile2.5-32B-Instruct, Sky-T1-32B-Preview, 32B-Qwen2.5-Kunou-v1 и QwQ-32B-Preview-IdeaWhiz-v1 поверх Qwen2.5-32B. Модель содержит 32 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговых ответов, решения задач рассуждения и работы с математической записью; в карточке отмечены хорошие возможности LaTeX. Автор приводит пример, где модель распознаёт правильность предложенного решения задачи о мерных вёдрах, но сама не находит его сразу, что показывает возможную нестабильность рассуждений. Доступны веса в формате safetensors; README также упоминает варианты GGUF, GGUF-imat и EXL2 4.2 bpw. Лицензия — Apache-2.0.

RWKV/RWKV7-G1j-13.3B-20260831 — базовая языковая модель семейства RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная причинная модель с архитектурой Rwkv7ForCausalLM и 14,6 млрд параметров. В отличие от моделей с attention, она использует рекуррентное состояние постоянного размера: объём состояния не растёт как KV-кэш, а вычислительная работа при генерации остаётся постоянной на токен; обучение при этом можно распараллеливать. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, чатовых и рассуждательных данных. Она предназначена для генерации текста, оценки, последующего обучения и дообучения; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель прошла выравнивание безопасности. Поддерживает многоязычную работу, включая английский, китайский, русский и другие языки из карточки. Для запуска доступны интеграция Transformers и дополнительная оптимизированная реализация TileLang. К ограничениям относятся зависимость качества следования инструкциям и языкового поведения от промптинга и последующего обучения, отсутствие заявленной оценки безопасности, предвзятости, токсичности, фактической точности и пригодности для задач с высокими ставками. Спекулятивное декодирование с откатом рекуррентного кэша требует сохранения предыдущих состояний; поддержка ускоренного исполнения зависит от оборудования и конфигурации. Лицензия — Apache-2.0.

RWKV-7 Goose 1.5B — официальная базовая языковая модель BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM с рекуррентной архитектурой без attention: размер состояния не растёт с длиной контекста, а вычислительная работа на генерируемый токен остаётся постоянной; обучение при этом допускает параллелизацию. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения, в том числе для создания диалоговых приложений. Шаблон чата задаёт формат промпта, но сам по себе не означает, что модель является безопасным или выровненным ассистентом. В комплект входят интеграция с Transformers, токенизатор RWKV и шаблон чата; заявлена поддержка LoRA. Репозиторий содержит веса safetensors, размер модели — 1,5 млрд параметров. Лицензия Apache-2.0. Качество следования инструкциям и языковое поведение зависят от чекпойнта, промптинга и последующего обучения. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения предыдущих состояний. Оптимизированный инференс зависит от GPU, типа данных, размера пакета и формы входа; для TileLang требуется проверка совпадения результатов для конкретной конфигурации. Оценки безопасности, предвзятости, токсичности, фактической точности и пригодности для критически важных сценариев не заявлены.

IlyaGusev/saiga_nemo_12b_gptq_8bit — это 8-битная GPTQ-квантизованная версия русскоязычной модели Saiga/MistralNemo 12B, опубликованная разработчиком Ilya Gusev на Hugging Face. Модель предназначена для генерации текста и диалогового взаимодействия на русском языке; в исходной карточке Saiga она описана как русскоязычный автоматический ассистент. Она дообучена на основе аблированной версии Mistral Nemo Instruct 2407 с использованием наборов данных IlyaGusev/saiga_scored и IlyaGusev/saiga_preferences. Модель содержит около 12 миллиардов параметров и использует архитектуру Mistral Transformer с 40 слоями, Grouped-Query Attention, 32 attention heads и 8 key-value heads. Для исходной Mistral Nemo заявлено контекстное окно до 128 тысяч токенов и поддержка нескольких языков, включая русский, английский, французский, немецкий, испанский, итальянский, португальский, китайский и японский, однако Saiga ориентирована прежде всего на русский язык. GPTQ-квантизация в 8 бит уменьшает требования к памяти по сравнению с полной версией, но может немного снижать точность и требует совместимого программного обеспечения для инференса. Сильные стороны модели — специализация на русскоязычных диалогах, относительно крупный размер для локального запуска и экономия памяти благодаря 8-битному представлению. Ограничения включают отсутствие мультимодальных возможностей в опубликованных данных, возможные ошибки и галлюцинации, а также отсутствие подробных официальных оценок именно для этой GPTQ-версии. Для исходной модели указана лицензия Apache 2.0; отдельная карточка квантизованной версии не содержит дополнительных лицензионных условий.

Bielik-11B-v3.0-Instruct-GGUF — квантизированная версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной командой speakleash. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель содержит 11 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до Q3 и IQ-квантизаций. Доступны файлы разного размера — примерно от 5 до 22 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. Конкретные архитектура, поддерживаемые языки, размер контекстного окна и формат prompt не указаны в представленном README; для их уточнения требуется документация исходной модели. Сильной стороной является широкий выбор уровней квантизации: варианты Q5 и Q6 заявлены как высококачественные, а Q4 подходят для большинства сценариев и более ограниченных по памяти систем. Более компактные варианты позволяют запускать модель при меньшем объёме RAM, но могут снижать качество генерации. Лицензия в README не указана и должна быть проверена на странице исходной модели speakleash/Bielik-11B-v3.0-Instruct.

StrangeMerges_46-7B-dare_ties — объединённая модель для генерации текста, созданная Gille с помощью LazyMergekit. В слияние вошли Gille/StrangeMerges_45-7B-dare_ties, kettleguts/zephyr-7b-beta_sparse05 и chihoonlee10/T3Q-Mistral-Orca-Math-DPO; в конфигурации также указана базовая модель liminerity/M7-7b. Метод слияния — dare_ties. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Нативный контекст — до 32 768 токенов. Она предназначена для генерации текста, диалогов и ответов на математические вопросы. В README приведены результаты Open LLM Leaderboard, включая среднюю оценку 69,96, ARC 67,24 и HellaSwag 86,40. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Подтверждённые сведения о языках и специальные ограничения в карточке не приведены.

SuperMente-7B-v3 — объединённая модель семейства Mistral на 7,1 млрд параметров, созданная Kukedlc с помощью LazyMergekit. В конфигурации использован метод слияния slerp для Kukedlc/SuperMente-7B-v2 и Kukedlc/SuperMente-7B; веса представлены в формате safetensors. Модель предназначена для генерации текста. Она принимает текстовые запросы и выдаёт текст; максимальная длина контекста составляет 32 768 токенов. В README не описаны специальные области применения или поддерживаемые естественные языки, поэтому модель можно рассматривать как модель общего назначения. README и метаданные не содержат сведений о лицензии или конкретных ограничениях качества и безопасного использования.

nlpguy/T3QM7X — объединённая авторегрессионная языковая модель семейства Mistral на 7,1 млрд параметров, созданная с помощью mergekit методом SLERP из nlpguy/T3QM7 и nlpguy/MergeX. Она предназначена для генерации текста и диалоговых ответов по текстовым запросам. Модель принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Сведения о конкретных сильных сторонах и ограничениях качества в карточке не приведены; как и другие языковые модели, она может генерировать неточные или вымышленные ответы.

T3qm7xNeuralsirkrishna_Ognoexperiment27M7 — объединённая текстовая модель на архитектуре Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Ognoexperiment27M7-7B. Репозиторий подготовлен пользователем MaziyarPanahi. Модель предназначена для генерации текста и диалогов; она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Карточка не описывает отдельные языковые или специализированные прикладные сценарии, поэтому модель можно рассматривать как средство общего назначения для генерации текста.

T3qm7xNeuralsirkrishna_YamStrangemerges_32 — объединённая языковая модель семейства Mistral, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamStrangemerges_32-7B. Она содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста, включая диалоги; максимальный контекст составляет 32 768 токенов. Модель подойдёт для генерации продолжений, ответов и диалоговых реплик в текстовых приложениях. В репозитории указана лицензия Apache-2.0. README и метаданные не сообщают о специализированной предметной области или конкретных ограничениях качества.