II.1Анализ требований и архитектура ПО

PollardWeights/Qwen3-30B-A3B-Pollard — квантизированная версия модели Qwen3-30B-A3B, разработанная Pollard Weights на базе Qwen от Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, Ollama, LM Studio и совместимые приложения. Поддерживает только текстовый ввод; заявленный язык — английский. Модель использует архитектуру qwen3_moe и содержит около 30,5 млрд параметров. Это набор GGUF-вариантов с измеренным распределением разрядности по чувствительности отдельных слоёв, а не равномерным сжатием. Доступны варианты размером примерно от 7,54 до 25,12 ГБ: IQ1_KT, IQ3_S, IQ4_XS и Q6_K. Наименьший вариант рассчитан на устройства примерно с 10 ГБ RAM или VRAM, а Q6_K требует около 27 ГБ с запасом под контекст. Для IQ-вариантов trellis необходим ik_llama.cpp, тогда как K-кванты работают в стандартном llama.cpp. Ключевое преимущество — существенное уменьшение размера относительно версии f16: с 61,06 до 7,54 ГБ, при сохранении качества лучше равномерной однобитной trellis-квантизации по указанным тестам WikiText-2. Ограничения включают потерю качества из-за квантизации, отсутствие заявленной поддержки других модальностей и языков, а также то, что приведённые измерения выполнены на одном наборе данных и одной машине. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

ai-and-society/qwen3-32b-wanda-unstruct — текстовая генеративная модель на базе Qwen/Qwen3-32B, опубликованная организацией ai-and-society. Модель предназначена для генерации текста и совместима с библиотекой Transformers. Модель содержит около 29,7 млрд параметров и поддерживает контекст длиной до 40 960 токенов. Она создана с применением Wanda — метода структурированного или неструктурированного pruning, поэтому может использоваться для изучения и практического применения разреженных или сокращённых версий больших языковых моделей. Модель подходит для генерации и продолжения текста, диалоговых сценариев и экспериментов с оптимизацией LLM. Лицензия — Apache-2.0, однако в предоставленной карточке нет результатов сравнительных тестов, подробностей о процедуре pruning и подтверждённого списка поддерживаемых естественных языков.

OP12138/qwen3-4b-opsd-frozent — чат-модель на архитектуре Qwen3, дообученная с помощью TRL и предназначенная для генерации текста в диалоговом формате. В README модель названа opsdep2resume, однако сведения о специальной области применения или конкретных данных обучения не приводятся. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и формат safetensors. Заявленная длина контекста — 40 960 токенов. Пример запуска использует библиотеку Transformers и генерирует ответ на текстовый вопрос. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны. Качество, ограничения по применению и условия распространения не описаны.

llmfan46/Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved-NVFP4-Experts-Only-GGUF — это GGUF-квантизация модели Qwen3.6-35B-A3B, созданная независимым разработчиком llmfan46 на основе собственной декensored-версии модели. Для снятия части ограничений применён Heretic v1.3.0 с вариантом метода Magnitude-Preserving Orthogonal Ablation (MPOA), изменяющим отдельные компоненты attention и MLP. Модель построена на MoE-архитектуре с заявленным общим размером 35B параметров и активной частью 3B параметров. Вариант сохраняет все 20 MTP-компонентов исходной и изменённой модели. Это Experts-Only NVFP4-квантизация: тензоры MoE-экспертов квантованы в NVFP4, а неэкспертные и чувствительные тензоры сохранены в форматах более высокой точности, включая BF16, F32, U8 и F8_E4M3. Такой формат предназначен для запуска совместимыми инструментами, поддерживающими GGUF и соответствующее представление тензоров. Основное назначение модели — генерация текста с меньшим количеством отказов и ограничений по сравнению с исходной Qwen3.6-35B-A3B. По данным README, доля отказов снизилась с 83 до 10 из 100 тестовых случаев, а KL-дивергенция относительно оригинала составила 0,0015, что указывает на близость поведения к исходной модели по использованному показателю. При этом README не сообщает языки, размер контекста, точные мультимодальные возможности и полный набор требований к оборудованию. Модель распространяется по лицензии Apache-2.0; из-за дек censorship её ответы могут иметь меньше встроенных ограничений безопасности.

llmfan46/Qwen3.6-35B-A3B-uncensored-heretic-NVFP4-Experts-Only-GGUF — квантизированная версия модели Qwen3.6-35B-A3B, разработанная независимым автором llmfan46 на основе Qwen3.6-35B-A3B от Qwen. Это MoE-модель с заявленным общим размером 35B параметров и активируемыми 3B параметров. Вариант создан как decensored-версия с применением Heretic v1.2.0 и метода Magnitude-Preserving Orthogonal Ablation; по заявленным результатам, доля отказов снизилась с 83 до 10 на 100 тестовых запросов при KL-дивергенции менее 0,0015 относительно исходной модели. Модель предназначена для генерации текста с меньшим количеством встроенных ограничений и отказов. NVFP4-квантизация применяется к тензорам MoE-экспертов, тогда как неэкспертные и чувствительные тензоры сохранены в более высокой точности; в файлах могут присутствовать тензоры BF16, F32, U8 и F8_E4M3. Метаданные Hub указывают pipeline image-text-to-text, однако README не содержит подробностей о поддерживаемых языках, размере контекста, фактических возможностях обработки изображений или требованиях к оборудованию. Сильными сторонами являются близость к исходной модели по заявленной KL-дивергенции, существенно меньшее число отказов и снижение требований к хранению и вычислениям благодаря квантизации. Ограничения включают отсутствие подробных данных о языках, контексте, производительности на широком наборе задач и совместимости с конкретными средствами запуска. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-MagicQuant-GGUF — GGUF-квантизированная версия модели Qwen3.6-35B-A3B-uncensored-heretic, разработанной llmfan46 и опубликованной magiccodingman. Модель предназначена для локальной генерации текста и диалоговых сценариев в совместимых приложениях, использующих llama.cpp и другие инструменты для работы с форматом GGUF. В README она описана как uncensored-модель, то есть с ограниченной фильтрацией содержимого по сравнению с моделями, ориентированными на усиленное выравнивание безопасности. Репозиторий содержит несколько вариантов квантования MagicQuant и один базовый вариант LM-Q8_0. Размеры файлов составляют примерно от 9,59 до 36,91 ГБ, а варианты используют форматы MQ-Q6_K_1, MQ-Q5_K_1, MQ-Q5_K_S_1, MQ-Q4_K_M_1, MQ-Q4_K_M_2, MQ-IQ4_NL_1, MQ-IQ3_M_1, UD-IQ3_S и MQ-IQ2_XXS_1. MagicQuant подбирает и проверяет конфигурации квантования по собственным benchmark-процедурам; для данного репозитория указано, что это локально пересобранный клон конфигураций из другого выпуска, а не результат полного эволюционного поиска. Более крупные варианты обычно ориентированы на сохранение качества, компактные — на снижение требований к памяти, но конкретные характеристики производительности зависят от выбранного файла и оборудования. В README не указаны контекстное окно, языки, точный перечень модальностей, требования к видеопамяти или результаты прикладных тестов, поэтому эти параметры нельзя достоверно определить. Использование модели регулируется лицензией Apache-2.0.

hreyulog/qwen3-arkts — текстовая модель эмбеддингов на архитектуре Qwen3, обученная в формате Sentence Transformers. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 1024, предназначенные для поиска и сравнения текстов по косинусному сходству. Модель принимает текст; README указывает максимальную длину последовательности 512 токенов, а метаданные — контекстное окно 32 768 токенов. Модель обучена на 49 864 парах текстов с использованием CachedMultipleNegativesRankingLoss. Примеры данных связывают описания функций с фрагментами кода, что указывает на применение для семантического поиска по коду и документации. В метаданных указано 507,6 млн параметров и формат safetensors. Лицензия в предоставленных данных не указана.

Модель leobobo/qwen_finetune_16bit_pipeline — дообученная языковая модель семейства Qwen3, разработанная leobobo на базе unsloth/qwen3-8b-unsloth-bnb-4bit. Это плотная авторегрессионная модель с 7,6 млрд параметров для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Нативная длина контекста — 40 960 токенов. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель подходит для генерации ответов и ведения диалогов на английском языке, а также для сценариев, где приложению нужно передавать запросы инструментам через соответствующий интерфейс. В карточке указана лицензия Apache-2.0. Данных о специализированных областях применения и результатах оценки качества нет.

RWKV-4-Raven — серия языковых моделей BlinkDL, представляющая собой дообученные на диалоговых и инструкционных данных версии RWKV-4-Pile. В серии указаны варианты размером 1,5, 3, 7 и 14 млрд параметров; метаданные этого репозитория не уточняют размер конкретного чекпойнта. Архитектура RWKV описана как языковая модель на основе RNN, а репозиторий содержит веса PyTorch. Модель предназначена для генерации текста и диалогов в формате реплик «Bob» и «Alice». Варианты серии ориентированы преимущественно на английский язык либо на сочетание английского с китайским и другими языками. При дообучении использовались Alpaca, CodeAlpaca, Guanaco, GPT4All и ShareGPT; это позволяет применять модель для ответов на инструкции, общения и генерации кода. Модель лицензирована по Apache 2.0. README рекомендует использовать специальный формат промпта и избегать двойных переводов строки внутри реплик. Для серии указаны разные языковые пропорции, поэтому языковые возможности зависят от конкретного варианта; README рекомендует RWKV-4-World для более широкой поддержки языков.

DevQuasar/sarvamai.sarvam-30b-GGUF — это GGUF-представление диалоговой языковой модели Sarvam-30B, разработанной Sarvam AI и опубликованной пользователем DevQuasar. Модель основана на архитектуре Mixture of Experts (MoE), содержит около 32 млрд параметров и предназначена для генерации текста и диалогов. Репозиторий предлагает варианты квантования от Q2_K до Q8_0, а также F16; указанный F16-вариант сохраняет исходную точность, тогда как остальные варианты уменьшают размер весов. Исходная Sarvam-30B рассчитана на многоязычные задачи, включая работу с индийскими языками; карточка модели указывает поддержку 23 языков. Её можно применять для чат-ботов и генерации ответов. Модель поддерживает текстовый ввод и текстовый вывод. Контекстное окно в использованных источниках не подтверждено. Модель выпущена под лицензией Apache-2.0, указанной в карточке исходной модели. Практические требования к памяти зависят от выбранного файла квантования; например, Q4_K_M занимает около 19,6 ГБ, а Q8_0 — около 34,2 ГБ.

DBangshu/sft-llama-8b — текстовая модель генерации, дообученная автором репозитория на базе meta-llama/Llama-3.1-8B с использованием TRL. Она предназначена для диалоговой генерации текста: принимает сообщения в формате чата и создаёт ответ; карточка показывает пример запуска через Transformers и text-generation pipeline. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. В метаданных указан контекст длиной 131 072 токена, а формат весов — safetensors. Модель поддерживает английский язык согласно описанию базовой модели; сведения о дополнительных языках для этой версии не приведены. Карточка не описывает специализированную область применения или оценку качества дообучения. Условия лицензии в предоставленных материалах не указаны.

ShuttleAI Shuttle 2.5 Mini GGUF — это набор квантизированных файлов модели shuttleai/shuttle-2.5-mini, подготовленный командой featherless-ai-quants. Модель предназначена для генерации текста и поставляется в формате GGUF, совместимом с инструментами локального запуска, поддерживающими этот формат. В репозитории доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Размер файлов составляет примерно от 4,6 до 12,4 ГБ, поэтому варианты позволяют выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества. Сведения об архитектуре, количестве параметров, модальностях, поддерживаемых языках и размере контекста в README не указаны. Модель подходит для задач текстовой генерации и локального или удалённого развёртывания при наличии совместимого программного обеспечения. Основное преимущество — широкий выбор уровней квантизации и возможность подобрать файл под доступные аппаратные ресурсы. Ограничения связаны с отсутствием в README подробных характеристик, результатов тестирования и рекомендаций по выбору конкретного варианта. Лицензия модели и условия её использования не указаны.

GrayLine-Qwen3-8B-GGUF — квантизированная версия модели GrayLine-Qwen3-8B, разработанной soob3123 и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, прямых ответов, информационного поиска и задач общего знания; в метаданных также указаны сценарии без фильтрации и ограничений по содержанию. Обучение связано с наборами данных GrayLine-QA и GrayLine-QA-Reasoning. Модель основана на Qwen3 и содержит 8 миллиардов параметров. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Указана поддержка английского языка; модальность — текстовая. Размер контекста в README не указан. Сильной стороной является широкий выбор квантизированных вариантов для локального запуска, включая рекомендуемые сборки Q4 и Q5, а также совместимость с llama.cpp, LM Studio и другими проектами на его основе. Более сильная квантизация обычно обеспечивает лучшее качество, но требует больше памяти. Ограничения включают отсутствие сведений о точных характеристиках архитектуры, контекстном окне, результатах тестирования и качестве на других языках. Модель распространяется по лицензии Apache-2.0.

Starling-LM-7B-beta-ExPO — диалоговая языковая модель на 7,1 млрд параметров, разработанная на основе Nexusflow/Starling-LM-7B-beta и openchat/openchat-3.5-0106. Авторы применили метод экстраполяции ExPO с коэффициентом alpha = 0,5 к весам контрольных точек SFT и DPO/RLHF, чтобы усилить согласование ответов с человеческими предпочтениями. Модель построена на архитектуре MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации ответов в диалогах и работе в сценариях чат-ассистента. В README приведены результаты оценок на AlpacaEval 2.0 и MT-Bench; они показывают улучшение ряда оценок после ExPO, но не гарантируют качество в конкретной задаче. Метаданные указывают английский язык и контекст до 8192 токенов. Лицензия — Apache-2.0. Качество и надёжность могут различаться в зависимости от запроса; результаты бенчмарков не заменяют проверку на целевых данных.

state-0-GGUF — это набор квантованных файлов модели state-0, базовая версия которой разработана Exthalpy. Квантование выполнил mradermacher; модель распространяется в формате GGUF и предназначена для запуска совместимыми инструментами локального вывода и генерации текста. В метаданных указаны библиотека Transformers, английский язык и обучающий датасет diverse. Модель относится к causal language models и поддерживает генерацию текста, включая сценарии со структурированными ответами; среди заявленных тегов также указан chain-of-thought. Точные архитектура, количество параметров, размер контекста и перечень поддерживаемых модальностей в README не приведены, поэтому подтвердить мультимодальность нельзя. Доступно множество вариантов квантования размером примерно от 3,3 до 16,2 ГБ: более компактные варианты экономят память, а f16 обеспечивает максимальное сохранение качества среди представленных файлов. README рекомендует варианты Q4_K_S и Q4_K_M как быстрые, а Q8_0 отмечает как вариант с лучшим качеством. Ограничения модели и результаты оценивания не указаны; качество зависит от выбранного уровня квантования. Лицензия базовой модели — MIT. README также ссылается на взвешенные варианты квантования, доступные в отдельном репозитории.

steiner-32b-preview-GGUF — это набор квантизированных GGUF-версий языковой модели steiner-32b-preview, разработанной peakji и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README указана поддержка английского и китайского языков, однако сведения о точной архитектуре, размере контекста, мультимодальности и результатах тестирования отсутствуют. Доступны варианты от BF16 и Q8_0 до низкобитных Q2 и Q3, поэтому можно выбирать между качеством ответов, требованиями к памяти и скоростью инференса. Для квантования использовался imatrix в llama.cpp; автор рекомендует варианты Q4_K_M, Q5, Q6 и некоторые IQ-версии, тогда как низкобитные варианты имеют заметно более низкое качество. Модель использует формат диалога с маркерами <|im_start|> и <|im_end|>. Распространяется по лицензии Apache-2.0.

TheDrummer_Gemmasutra-Pro-27B-v1.1-GGUF — это набор квантизированных версий языковой модели Gemmasutra-Pro-27B-v1.1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Указан размер базовой модели — 27 млрд параметров; сведения о поддерживаемых языках, длине контекста и дополнительных модальностях отсутствуют. Модель работает в формате диалоговых сообщений с заданным шаблоном prompt и не поддерживает системный prompt. Доступны варианты от F32 и F16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Более высокие уровни сохраняют качество, но требуют больше памяти, тогда как низкоразрядные варианты уменьшают требования к ресурсам за счёт снижения качества. В README рекомендуются, в частности, Q6_K_L, Q6_K, Q5 и Q4_K-варианты; Q4_K_M обозначен как подходящий размер по умолчанию для большинства сценариев. Квантизация выполнена с использованием imatrix и llama.cpp release b4585. Преимуществами являются широкий выбор уровней квантизации и возможность локального запуска на совместимом оборудовании. Ограничения включают отсутствие поддержки системного prompt, требования к значительному объёму памяти для полноразмерных версий и потенциальное снижение качества у компактных вариантов. Лицензия указана как other, без дополнительных условий в представленном README.

TheDrummer_Rivermind-24B-v1-GGUF — это набор квантизированных вариантов языковой модели Rivermind-24B-v1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые приложения. Модель содержит 24 миллиарда параметров; доступны исходные веса BF16 и варианты квантования от Q8_0 до Q2_K. Квантизация выполнена с использованием llama.cpp и метода imatrix, что позволяет уменьшить требования к памяти при сохранении качества. Размер файлов варьируется примерно от 9 до 47 ГБ в зависимости от варианта. В README не указаны поддерживаемые языки, размер контекста, точная архитектура, мультимодальные возможности и результаты тестирования. Сильная сторона набора — широкий выбор вариантов с разным балансом между качеством и потреблением памяти: Q6_K и Q6_K_L обозначены как близкие к исходному качеству, а Q4_K_M рекомендуется как стандартный вариант для большинства сценариев. Более компактные версии подходят для систем с ограниченным объёмом оперативной памяти, но обеспечивают более низкое качество. Шаблон чата явно не задан, поэтому используется шаблон по умолчанию, который может быть некорректным; перед применением следует свериться с карточкой исходной модели. Лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия языковой модели Snowpiercer-15B-v3, разработанной TheDrummer и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет размер 15 миллиардов параметров и представлена в нескольких вариантах точности и квантизации: от BF16 размером около 30 ГБ до компактных Q2–Q8-вариантов размером примерно от 6,45 до 15,92 ГБ. Квантизация выполнена с использованием imatrix на базе llama.cpp, что позволяет выбирать баланс между качеством, требованиями к памяти и скоростью инференса. Наиболее качественными и рекомендуемыми в README названы варианты Q5, Q6 и Q4_K_M; для систем с ограниченным объёмом RAM доступны варианты Q3 и Q2. Сильная сторона модели — возможность локального запуска на широком спектре оборудования благодаря большому выбору квантизаций. Ограничения включают отсутствие в README сведений о базовой архитектуре, поддерживаемых языках, длине контекста, мультимодальности, специализированных сценариях обучения и формате промпта; его рекомендуется уточнять на странице оригинальной модели. Лицензия в предоставленных данных не указана.

Thinkless-1.5B-RL-DeepScaleR — языковая модель на архитектуре Qwen2 с 1,5 млрд параметров, разработанная авторами проекта Thinkless. Она дообучена методом обучения с подкреплением на наборе agentica-org/DeepScaleR-Preview-Dataset и предназначена для генерации ответов с адаптивным выбором между кратким ответом и подробным рассуждением. Модель использует управляющие токены для выбора режима, а метод DeGRPO разделяет обучение выбору режима и точности ответа. В описанных авторами тестах на Minerva Algebra, MATH-500 и GSM8K модель сокращала использование длинных цепочек рассуждений на 50–90%, что может уменьшать вычислительные затраты. Репозиторий содержит веса Safetensors для Transformers, поддерживает диалоговый сценарий и имеет контекст до 32 768 токенов. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели TildeOpen-30b, разработанной TildeAI. Репозиторий подготовлен пользователем bartowski с использованием llama.cpp версии b6317 и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель содержит около 30 миллиардов параметров и представлена в форматах от BF16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и Q2. Размер файлов варьируется примерно от 12 до 61 ГБ. Более высокие варианты квантования обеспечивают лучшее качество при больших требованиях к памяти, а низкие позволяют запускать модель на системах с ограниченными ресурсами, но с заметным снижением качества. Для версии не указан шаблон промпта; README также не содержит данных о поддерживаемых языках, длине контекста, архитектуре, мультимодальности или лицензии. Основные сильные стороны — широкий выбор уровней квантования, возможность локального использования и оптимизация imatrix, направленная на сохранение качества при уменьшении размера. Ограничения связаны с высокими требованиями к памяти для крупных вариантов, возможным ухудшением качества у низкобитных версий и отсутствием в README информации о лицензии и характеристиках исходной модели.

Карточка модели giocorte/totem-slm-rl-v5 на Hugging Face совпадает с карточкой giocorte/totem-slm-sft, поэтому описание составлено по ней. giocorte/totem-slm-sft — дообученная языковая модель, опубликованная giocorte на базе unsloth/qwen3-4b-unsloth-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; метаданные также отмечают интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст длиной до 40 960 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не описывает специализацию дообучения, обучающие данные или сравнительные результаты, поэтому нельзя определить, в каких прикладных сценариях модель превосходит базовую.

tulu-2-dpo-7b-ExPO — разговорная языковая модель на архитектуре Llama, созданная экстраполяцией весов контрольных точек allenai/tulu-2-dpo-7b и allenai/tulu-2-7b. Метод ExPO с параметром alpha = 0,5 предназначен для улучшения согласования ответов с человеческими предпочтениями. Модель рассчитана на генерацию текста в диалоге: она принимает текстовые запросы и формирует текстовые ответы. Размер составляет 6,6 млрд параметров, контекст — до 8192 токенов; в метаданных указан английский язык. В README приведены результаты сравнений на AlpacaEval 2.0 и MT-Bench, где ExPO улучшает показатели исходных моделей. Модель опубликована в формате safetensors под лицензией, обозначенной на Hugging Face как other; конкретные условия следует сверять с карточкой и лицензией базовых моделей. Результаты бенчмарков не гарантируют качество на всех задачах и пользовательских данных.

Ventera-MN — дообученная методом абляции отказов языковая модель на базе Mistral-Nemo-Instruct-2407, разработанная автором репозитория Umranz с использованием фреймворка Heretic. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров, предназначенная для диалога и генерации текста, включая сценарии, в которых требуется меньше отказов на запросы. Модель поддерживает контекст до 131 072 токенов и работает с текстом на английском, французском, немецком, испанском, итальянском, португальском, русском, китайском и японском языках. README описывает снижение числа отказов за счёт удаления части механизмов отказа при сохранении возможностей базовой модели; это делает модель более склонной выполнять инструкции, в том числе для творческого письма, экспериментов и локального запуска. Модель распространяется в формате safetensors и совместима с Transformers и vLLM. Лицензия — Apache-2.0. Она может выдавать оскорбительный, опасный или иной нежелательный контент и, как другие языковые модели, способна уверенно генерировать фактические ошибки, особенно при работе с длинным контекстом.

Vicuna-33B-v1.3 — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMSYS. Модель содержит 32,3 млрд параметров и дообучена на пользовательских диалогах, собранных из ShareGPT, чтобы вести разговор и отвечать на запросы в формате чат-ассистента. Модель предназначена для генерации текста в диалогах, а также для исследований и экспериментов с большими языковыми моделями и чат-ботами. Она принимает текст и генерирует текст; заявленная длина контекста — 2048 токенов. В карточке описана оценка на стандартных бенчмарках, по человеческим предпочтениям и с использованием LLM-судьи. Vicuna разработана для исследователей и энтузиастов в области NLP, машинного обучения и ИИ. Лицензия запрещает коммерческое использование. Качество ответов зависит от запроса и данных обучения; модель может ошибаться и унаследовать смещения из обучающих диалогов.

Tarun Nokwal разработал Versatile-1.0-merged — дообученную плотную языковую модель семейства Qwen2 с 1,5 млрд параметров. Она предназначена для генерации текста и диалогового общения; в репозитории хранятся веса в формате safetensors. Модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Модель поддерживает английский язык и контекст длиной до 32 768 токенов. Метаданные также отмечают интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0. Подробности обучения, оценки качества и ограничения в карточке не приведены.

bartowski/xai-org_grok-2-GGUF — это набор квантизированных версий текстовой генеративной модели Grok-2, разработанной xAI. Квантизацию выполнил bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска задач генерации текста через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты квантизации от Q8_0 до IQ1_M, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Размеры опубликованных файлов составляют примерно от 68,52 до 286,39 ГБ; наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Более компактные варианты требуют меньше оперативной памяти, но заметно уступают по качеству и могут быть непригодны для сложных задач. Модель предназначена для текстовой генерации; сведения об архитектуре, поддерживаемых языках, размере контекстного окна и формате промпта в README не указаны. Для запуска требуется совместимое программное обеспечение и значительный объём памяти, особенно для старших вариантов квантизации. Лицензия в предоставленных данных не указана.

xLAM-8x22b-r-GGUF — квантованный вариант языковой модели Salesforce/xLAM-8x22b-r, подготовленный пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-калибровки. Модель обучалась на наборе Salesforce/xlam-function-calling-60k и предназначена для генерации текста, function calling, использования инструментов и построения LLM-агентов. Указанный язык — английский; формат взаимодействия предполагает шаблон <s>[INST] {prompt}[/INST]. Модель относится к семейству Mistral и имеет размер 8×22B; поддерживаемые модальности, размер контекста и дополнительные архитектурные параметры в README не указаны. Доступны варианты квантования от IQ1_M до Q8_0 с размером файлов примерно от 32,74 до 149,43 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее качество, а отдельные варианты оптимизированы для ARM и CPU-инференса, однако требуют значительных ресурсов. Сильная сторона модели — специализация на вызове функций и применении инструментов, а также широкий выбор квантований для различных ограничений по памяти. К ограничениям относятся преимущественно англоязычная специализация, необходимость совместимого инференсного ПО и большой объём файлов; снижение точности при низких уровнях квантования также отмечено в README. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями для некоммерческих целей.

unsloth/zephyr-sft — диалоговая языковая модель на архитектуре Mistral, дообученная на основе HuggingFaceH4/mistral-7b-sft-beta. Репозиторий содержит веса в формате safetensors; модель имеет около 7,1 млрд параметров и контекстное окно до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и может использоваться для ответов на вопросы, ведения беседы и продолжения текстовых запросов. Карточка связывает её с шаблонами ShareGPT ChatML и Vicuna и указывает на дообучение в рамках эксперимента Zephyr. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. README не приводит оценок качества и подробных ограничений, поэтому результаты для конкретных сценариев следует проверять отдельно.

Модель yuq-zhou/2026-05-o-b0p5-a0p5-gc0p75-exp-td8p0-tw10p0-mbz-bridge-q3-1p7b — текстовая генеративная модель на архитектуре Qwen3 с 1,7 млрд параметров. Это контрольная точка в формате Hugging Face Transformers, сохранённая в safetensors; карточка называет её резервной копией исследовательского артефакта. Модель поддерживает контекст до 40 960 токенов и интерфейс чата с вызовом инструментов. Модель предназначена для генерации текста в диалоге и сценариев, где требуется передать запрос инструменту через поддерживаемый интерфейс. README не описывает обучение, датасеты, языки или конкретные оценки качества. Условия лицензии в предоставленных данных не указаны.