II.1Анализ требований и архитектура ПО

DavidAU/Qwen3.5-21B-GLM-4.7-Flash-Deckard-Heretic-Uncensored-Thinking — плотная мультимодальная модель на 21 млрд параметров семейства Qwen3.5, дообученная на базе DavidAU/Qwen3.5-27B-Deckard-PKD-Heretic-Uncensored-Thinking. По README, модель сначала получила набор Deckard/PDK для характера и глубины ответов, затем была уменьшена с 27B до 21B и дополнительно обучена на данных рассуждений GLM-4.7-Flash. Использует архитектуру Qwen3_5ForConditionalGeneration и библиотеку Transformers; заявленное окно контекста — 256 тыс. токенов. Модель предназначена для диалогов, творческого письма, ролевых сценариев, генерации кода и рассуждений. Поддерживает переменную длину рассуждений и обработку изображений; автор также заявляет более высокую скорость по сравнению с исходной версией на 27B. В карточке указаны английский и китайский языки. Модель описана как uncensored и может выдавать откровенный, грубый или графичный контент. Распространяется под лицензией Apache-2.0 в формате safetensors. README предупреждает о возможных зацикливаниях при низких квантизациях или недостаточно содержательных запросах; результаты могут зависеть от квантизации и параметров генерации. HF pipeline tag классифицирует её как image-text-to-text.

insraq/Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated — текстовая доработка модели семейства Qwen, созданная Empero и опубликованная insraq. Это полнопараметрический вариант Qwen/Qwen3.5-2B: его дообучили методом дистилляции на примерно 30 тысячах отобранных примеров рассуждений и следов инструкций, а затем применили Heretic для снижения склонности к отказам. Модель содержит около 2 млрд параметров, использует плотную архитектуру Qwen3.5 и принимает текст; нативное контекстное окно составляет 262 144 токена. Модель предназначена для диалогов, следования инструкциям, математических задач и общих рассуждений, в том числе на устройствах с ограниченными ресурсами. В README приведены результаты на GSM8K и MMLU, где вариант Qwen3.8-2B превосходит базовую Qwen3.5-2B в указанных тестах; это результаты карточки, а не гарантия качества для других сценариев. Дообучение было текстовым, поэтому унаследованные от мультимодальной основы возможности работы с изображениями не оценивались. Для генерации рекомендуются ненулевая температура и достаточно длинный лимит вывода; при жадном декодировании на длинных ответах возможны циклы повторения. Весовые файлы доступны в формате Safetensors и рассчитаны на Transformers, а также совместимые с архитектурой среды. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-uncensored-heretic-GGUF — набор GGUF-квантизаций модели Qwen3.6-35B-A3B, подготовленный jorge-erdb. Исходная версия создана на базе Qwen/Qwen3.6-35B-A3B с применением Heretic v1.2.0 и метода MPOA-abliteration, направленного на снижение числа отказов и ограничений в ответах. Модель предназначена для локального запуска и генерации текста; конкретные поддерживаемые языки и практические сценарии в README не указаны. В метаданных также заявлен pipeline image-text-to-text, однако подробности мультимодальных возможностей не приведены. Архитектура — Mixture of Experts: 35 млрд параметров всего и около 3 млрд активных параметров. Нативная длина контекста составляет 262 144 токена. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_NL, полученные с помощью llama.cpp и importance matrix; IQ4_NL заявлен как наиболее подходящий для CUDA и CPU. Для Apple Silicon с Metal рекомендуется использовать линейные варианты, например Q4_K_M, поскольку IQ4_NL работает медленнее из-за отсутствия нативной поддержки нелинейной деквантизации. К сильным сторонам относятся большое контекстное окно, низкая вычислительная стоимость активной части MoE и широкий выбор уровней квантизации. По данным README, в сравнительном тесте версия показала 10 отказов из 100 против 83 у исходной модели при заявленном KL divergence 0,0015, то есть сохранила близость к исходному поведению. Ограничения включают зависимость скорости и качества от выбранной квантизации и оборудования, а также отсутствие подробных данных о языковом покрытии и результатах независимых тестов. Распространение указано по лицензии Apache-2.0.

Карточка модели willamazon1/Qwen3-8B-SDFT-Math-LoRA-iter45 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Qwen3.8-Flash-Next-ROCmFP4-STRIX_LEAN-GGUF — квантованная GGUF-версия модели Qwen3.8-Flash-Next, разработанная пользователем kingjones777 на базе модели Qwen/Qwen3.8-Flash-Next. Модель предназначена для генерации текста и запуска через llama.cpp-подобные среды, прежде всего на интегрированной графике AMD Ryzen AI Max+ 395 «Strix Halo» с архитектурой gfx1151 и общей памятью CPU/GPU. Указана поддержка длинного контекста; в README приведена проверка работы speculative decoding на диапазоне от 2K до 128K токенов. Точная длина контекста, число параметров и языковой охват не указаны. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4, поэтому стандартная сборка llama.cpp не подходит: требуется форк ROCmFPX с поддержкой обеих технологий и специальные патчи. Доступен режим speculative decoding через MTP-голову; на совместимой конфигурации он показал ускорение до 34% для задач рассуждения и до 11% для кода, однако на длинных документах и некоторых режимах может не давать ускорения или замедлять работу. Производительность и доступность модели существенно зависят от AMD Strix Halo, ROCm и объёма общей памяти. Модель ориентирована на сценарии локального текстового инференса, включая рассуждение, генерацию JSON, программирование и суммаризацию документов. Её сильная сторона — возможность запуска крупной модели в общей памяти интегрированного GPU; ограничениями являются специализированные требования к программному обеспечению и аппаратной платформе, а также отсутствие универсальной поддержки в стандартных рантаймах. Лицензия указана как qwen-community-1.0; модель связана с базовой моделью отношением quantized.

barozp/Qwen3.8-Whittle-MoE-27B-MLX-4bit — 4-битная версия модели, преобразованная в формат MLX для Apple Silicon. Разработчик конверсии — barozp; исходная модель logic65/Qwen3.8-Whittle-MoE-27B-A17.8B создана на основе Qwen/Qwen3.8-27B. Это постфактум сформированная MoE-модель с 27 млрд параметров, из которых 17,8 млрд активны во время обработки токена. В каждом слое используются 64 маршрутизируемых экспертных фрагмента и один общий эксперт; маршрутизатор выбирает 16 из 64 фрагментов. Вариант v2.1 включает обучение маршрутизаторов, балансировку и обучение против зацикливания. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и локального запуска через mlx-lm, включая OpenAI-совместимый локальный сервер. Она поддерживает только текстовый режим. Контекст, перечень языков и специализированные показатели производительности в README не указаны. К преимуществам относятся MoE-архитектура с меньшим числом активных параметров, 4-битное квантование с group size 64 и адаптация к экосистеме MLX, что делает модель ориентированной на запуск на устройствах Apple Silicon. Ограничения включают отсутствие MTP head: модель работает только авторегрессионно, а MTPLX speculative decoding не поддерживается. В исходных экспериментах после обучения маршрутизаторов показатель на тесте знаний составил 27/39, а в версии v2.1 — 28/39; частота одношаговых зацикливаний снизилась до 8%, а доля ошибок структурированного вывода составила 22%. Эти результаты относятся к описанным автором тестам и не заменяют независимую оценку. Модель распространяется по лицензии Apache-2.0.

Qwen-Qwen3.8-27B-MTPLX — квантованная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем ben0112 и подготовленная с помощью MTPLX Forge. Модель предназначена для генерации текста и диалогового использования на компьютерах Apple Silicon через библиотеку MLX и среду выполнения MTPLX. Модель использует подход multi-token prediction (MTPLX) и 4-битное квантование; заявленный размер базовой модели — 27B параметров. Для неё указан лучший уровень глубины D3. В ходе проверки на Apple M5 Max модель показала множитель 2,58× по сравнению с авторегрессионным базовым режимом. Верификация проводилась с параметрами temperature 0.6, top_p 0.95 и top_k 20. К ограничениям относятся отсутствие в представленном README информации о поддерживаемых языках, размере контекстного окна, точной архитектуре базовой модели и качестве на других устройствах. Результаты производительности подтверждены только для Apple M5 Max, поэтому они не гарантируют аналогичные показатели на других конфигурациях Apple Silicon. Модель распространяется по лицензии Apache-2.0.

bartowski/Qwen_QwQ-32B-GGUF — это набор GGUF-квантизаций текстовой генеративной модели QwQ-32B, разработанной Qwen и подготовленной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогового применения и генерации текста, включая сценарии локального запуска через LM Studio, llama.cpp и совместимые проекты. Модель содержит около 32 миллиардов параметров и работает с текстовой модальностью; в метаданных указан английский язык. Доступны варианты квантования от Q8_0 до Q2_K и IQ-квантов размером примерно от 10,39 до 34,82 ГБ. Более высокие варианты сохраняют лучшее качество, но требуют больше оперативной или видеопамяти, тогда как низкоразрядные версии экономичнее, но заметно уступают по качеству. Архитектура и размер контекста в README не указаны. Сильной стороной набора является широкий выбор квантизаций для различного объёма доступной памяти и возможность локального запуска. Ограничения связаны с компромиссом между размером файла и качеством, а также с тем, что некоторые варианты имеют низкое качество и не рекомендуются. Модель распространяется по лицензии Apache-2.0.

mhdiirsyad/qwen_reasoning_16bit — дообученная причинная языковая модель семейства Qwen3, опубликованная mhdiirsyad. Модель содержит 1,7 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. В метаданных указаны возможности чата и интерфейс вызова инструментов. Модель дообучена на базе mhdiirsyad/unsloth-qwen3-1.7B-finetune-v1 с использованием Unsloth и библиотеки Hugging Face TRL. Репозиторий содержит веса в формате safetensors. Подходит для генерации текста и диалогового взаимодействия. Лицензия — Apache-2.0. Карточка не описывает отдельные результаты оценки качества или специализированную область применения.

lmstudio-community/QwQ-32B-MLX-8bit — 8-битная MLX-квантизация модели QwQ-32B, разработанной Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель предназначена для запуска на компьютерах Apple Silicon и использования в LM Studio. Это текстовая генеративная reasoning-модель с размером 32B, ориентированная на чат и задачи, требующие рассуждений. В карточке указана поддержка контекста до 128K токенов и английского языка. Модель подходит для локальной генерации текста и диалоговых сценариев, однако README не содержит подробностей о специализированных задачах, точности или результатах бенчмарков. К сильным сторонам относятся большой контекст, возможность локального запуска на Apple Silicon и 8-битное представление, потенциально снижающее требования к памяти по сравнению с полной точностью. Ограничения включают зависимость от совместимого оборудования и возможные неточные, вредные или нежелательные ответы, характерные для генеративных моделей. Лицензия — Apache-2.0.

Rombo-Org_Rombo-LLM-V3.0-Qwen-72b-GGUF — это набор GGUF-квантизаций языковой модели Rombo-LLM-V3.0-Qwen-72b, разработанной Rombo-Org и подготовленной bartowski. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В качестве исходной модели указана Rombo-Org/Rombo-LLM-V3.0-Qwen-72b; в метаданных также отмечены датасеты Rombo-Org/Optimized_Reasoning и NovaSky-AI/Sky-T1_data_17k. Размер исходной модели составляет 72 миллиарда параметров. Архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны. Доступны варианты квантизации от Q2 до Q8, преимущественно размером примерно от 32 до 77 ГБ. Более высокие варианты сохраняют лучшее качество, но требуют больше памяти; Q4_K_M, Q4_K_L, Q5_K_M, Q5_K_S и Q6_K отмечены как рекомендуемые, а низкоразрядные варианты предназначены для экономии оперативной памяти с возможным снижением качества. К сильным сторонам относятся широкий выбор уровней квантизации, поддержка локального запуска и использование imatrix-квантизации на базе llama.cpp. Ограничениями являются значительные требования к памяти даже у компактных вариантов, а также отсутствие в README подробных данных о результатах тестирования, языках и контекстном окне. Для использования указана лицензия Apache-2.0.

ruGPT-3.5-13B-GGUF — это набор квантизированных файлов модели ruGPT-3.5-13B в формате GGUF, разработанный ai-forever. Модель предназначена для генерации текста и может использоваться для написания продолжений, ответов и другого текстового контента по заданному промпту. Модель относится к типу GPT-2 и содержит 13 миллиардов параметров. Она работает с текстом, поддерживает русский и английский языки и рассчитана на запуск через инструменты, совместимые с форматом GGUF, например llama.cpp. В README приведён пример использования с контекстом 2048 токенов, однако точный максимальный размер контекста модели не указан. Ключевое преимущество этой версии — квантизированный формат, удобный для локального запуска и более экономного использования ресурсов по сравнению с полноразмерными весами. Ограничения, требования к аппаратному обеспечению и влияние конкретных уровней квантизации на качество в README не описаны. Модель распространяется по лицензии MIT.

RWKV/RWKV7-G1j-7.2B-20260831 — официальная базовая языковая модель RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM с 7,8 млрд параметров, представленная в Safetensors. Архитектура не использует attention: она поддерживает рекуррентное состояние постоянного размера, а вычислительная стоимость генерации каждого токена постоянна; обучение при этом можно распараллеливать. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, диалоговых и рассуждательных данных. Она предназначена для генерации продолжений текста, оценки, последующего обучения и дообучения. Шаблон диалога позволяет формировать многоходовые и thinking-промпты, но сам по себе не означает, что модель является безопасным или выровненным ассистентом. В карточке перечислены английский, китайский, французский, испанский, немецкий, португальский, русский, итальянский, японский, корейский, вьетнамский и арабский языки; размер контекста не приведён. Модель распространяется по лицензии Apache-2.0. Среди ограничений: качество следования инструкциям и языковое поведение зависят от промптинга и дополнительного обучения; откат рекуррентного кэша для speculative decoding не поддерживается без сохранения предыдущих состояний. Оптимизированный инференс зависит от GPU, типа данных и формы батча, а полное исполнение через TileLang требует отдельной проверки численного соответствия. Для модели не заявлена оценка безопасности, предвзятости, токсичности, фактической точности или пригодности для критически важных сценариев.

Карточка модели dwivedula/Samrudh-3-Brahma-7B на Hugging Face совпадает с карточкой dwivedula/Samrudh-2-Brahma-7B, поэтому описание составлено по ней. Samrudh-2-Brahma-7B — дообученная dwivedula языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Она основана на unsloth/Qwen2.5-7B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Её можно использовать для диалогового взаимодействия и генерации ответов; в метаданных также указана поддержка интерфейса вызова инструментов. Карточка модели не уточняет специальные предметные области или дополнительные возможности дообучения. Модель распространяется по лицензии Apache-2.0. Качество и ограничения, специфичные для этого дообучения, в карточке не описаны.

SJT-1.7B — языковая модель Sakalti на архитектуре Qwen2, дообученная на базе Sakalti/Qwen2.5-test-2. Модель содержит 1,7 млрд параметров и предназначена для генерации текста в диалоговом формате; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Её контекстное окно составляет до 131 072 токенов. Для обучения использовались Unsloth и TRL; веса опубликованы в формате safetensors. Карточка указывает английский язык. Модель распространяется по лицензии Apache-2.0.

bartowski/Skywork-o1-Open-Llama-3.1-8B-GGUF — это набор GGUF-квантизованных версий языковой модели Skywork-o1-Open-Llama-3.1-8B, разработанной командой Skywork и преобразованной bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. В набор входят варианты с разными уровнями квантизации: от исходных весов f16 размером около 16 ГБ до компактных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ. Это позволяет выбирать баланс между качеством ответов, потреблением памяти и скоростью инференса; варианты Q6 и Q5 заявлены как высококачественные, а Q4_K_M — как подходящий по размеру вариант для большинства сценариев. Некоторые файлы оптимизированы для ARM или AVX, при этом отдельные варианты имеют ограничения по аппаратной совместимости. Модель относится к текстовым генеративным моделям с архитектурой и языковыми возможностями базовой Skywork-o1-Open-Llama-3.1-8B, однако подробные сведения о поддерживаемых языках, размере контекста и точной архитектуре в представленном README не указаны. Квантизация уменьшает требования к памяти, но может снижать качество по сравнению с f16; степень снижения зависит от выбранного формата. В метаданных указана лицензия other, без уточнения конкретных условий, поэтому перед использованием следует ознакомиться с лицензией исходной модели Skywork.

Suppe-v1-7B — языковая модель на архитектуре Mistral, созданная автором nbeerbower путём объединения предварительно обученных моделей методом Model Stock с помощью mergekit. В качестве базовой использована yam-peleg/Experiment26-7B; в объединение также вошли automerger/YamshadowExperiment28-7B, chihoonlee10/T3Q-Mistral-Orca-Math-DPO, mlabonne/AlphaMonarch-7B и mlabonne/Zebrafish-7B. Модель предназначена для генерации текста и может применяться в диалогах, следовании инструкциям и решении задач на рассуждение и математику — эти возможности отражены в описании одной из объединённых моделей. Она содержит 7,1 млрд параметров, имеет контекст до 32 768 токенов и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка не сообщает о собственных оценках качества Suppe-v1-7B или о явно заявленных языках. Практические результаты могут зависеть от запроса и сценария; характеристики отдельных моделей, вошедших в объединение, не гарантируют такие же результаты у итоговой модели.

Hunyuan-A13B-Instruct-GGUF — квантизированная версия языковой модели Hunyuan-A13B-Instruct, разработанной Tencent. Модель предназначена для генерации текста и работы в инструкционном диалоговом формате. Квантизация выполнена пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix; доступны варианты от Q2_K_L до Q8_0 размером примерно от 29 до 85 ГБ. Модель можно запускать через llama.cpp, LM Studio и другие совместимые проекты. README не раскрывает точную архитектуру, число активных и общих параметров, максимальный контекст, поддерживаемые языки или дополнительные модальности. Основное преимущество представленной версии — широкий выбор уровней квантизации: более высокие варианты сохраняют лучшее качество, а компактные требуют меньше оперативной памяти. При этом сильное сжатие снижает качество ответов, а для запуска большинства вариантов необходим значительный объём памяти. Для корректной работы требуется специальный формат промпта с токенами <|startoftext|>, <|extra_4|> и <|extra_0|>. Модель распространяется по лицензии Tencent Hunyuan A13B; ссылка на текст лицензии приведена в исходном репозитории Tencent. Условия лицензии следует проверить перед коммерческим или иным использованием.

Ternary Bonsai 2 27B PTQ1_0 MTP GGUF — это сжатая до ternary-представления сборка Qwen 3.8 27B от автора sudoingX. Веса поставляются в формате GGUF для запуска через форк llama.cpp; в модель добавлена голова multi-token prediction из Qwen 3.8 27B, чтобы ускорять генерацию с помощью speculative decoding. Размер файла модели — около 7 ГБ. Модель предназначена для локального диалога и генерации текста на компьютерах с видеокартами NVIDIA RTX 20–50 и, в бета-режиме, AMD Radeon. README описывает измерения производительности на разных видеокартах, а также запуск с контекстом до 262 144 токенов и обработку изображений при подключённой vision tower. Реальная скорость, допустимая длина контекста и доступность зрения зависят от видеокарты, сборки и настроек. MTP ускоряет декодирование, но без режима batch-invariant результат генерации может отличаться от обычного декодирования; на RTX 20 побайтовая идентичность не гарантируется и при этом режиме. Модель распространяется по лицензии Apache-2.0. Для описанного запуска нужны совместимый бинарный файл форка PrismML llama.cpp и подходящая конфигурация под видеокарту.

Tess-3-Mistral-Large-2-123B-GGUF — набор GGUF-квантизаций текстовой генеративной модели Tess-3-Mistral-Large-2-123B, разработанной migtissera и подготовленной пользователем bartowski. Модель предназначена для локального запуска и генерации текста через llama.cpp, в том числе в LM Studio. В README приведён формат диалога с системными, пользовательскими и ассистентскими сообщениями. Это крупная модель на 123 млрд параметров; точная архитектура, поддерживаемые языки и размер контекста в README не указаны. Доступны варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS, Q3, Q2 и IQ1 с размером файлов примерно от 28,39 до 130,28 ГБ. Варианты Q6_K, Q5_K_M и Q4_K_M отмечены как рекомендуемые благодаря сочетанию качества и требований к памяти, тогда как низкоразрядные варианты экономят место, но заметно уступают в качестве. Квантизации выполнены с использованием imatrix и llama.cpp версии b3509; для отдельных вариантов embedding- и output-веса сохранены в Q8_0, что потенциально может улучшать качество. Основные ограничения — очень высокие требования к оперативной памяти или видеопамяти и снижение качества при агрессивном квантовании. Модель распространяется по лицензии Mistral AI Research Licence 0.1; в README указана лицензия other и ссылка на её текст.

Tessa-Rust-T1-7B-GGUF — квантизированная версия текстовой генеративной модели Tessa-Rust-T1-7B, разработанной Tesslate и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 7 миллиардов параметров и относится к архитектуре Qwen2 согласно метаданным. Указан английский язык; поддержка других языков и точный размер контекстного окна не приведены. Доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, что позволяет выбирать между качеством генерации, размером файла и требованиями к оперативной памяти. Для инференса рекомендуется использовать совместимый prompt format с ролями system, user и assistant. Сильная сторона этой версии — возможность локального запуска на широком спектре оборудования благодаря множеству вариантов квантизации; часть файлов подготовлена с использованием imatrix для повышения качества. Более низкие уровни квантизации экономят память, но могут заметно снижать качество, тогда как BF16 и старшие варианты требуют больше ресурсов. Лицензия модели — Apache-2.0.

Thespis-CurtainCall-7b-v0.2.1 — экспериментальная разговорная модель на базе Mistral, опубликованная cgato. Автор описывает её как первую модель в серии экспериментов по улучшению своих моделей и отмечает, что работа ещё не завершена. Модель предназначена для генерации диалоговых ответов, следования инструкциям и рассуждений в чате. При дообучении использованы наборы Dolphin, UltraChat, Capybara, ToxicQA, OpenOrca, Airoboros 3.1 и другие, включая данные для задач по программированию, физическому рассуждению и теории разума. В README приведены шаблоны чата Oobabooga и SillyTavern. Это плотная MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов; репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое применение. Автор предупреждает, что модель экспериментальная и ещё не завершена; карточка также помечена как устаревшая.

Thespis-CurtainCall-7b-v0.2.2 — языковая модель на архитектуре Mistral, выпущенная автором cgato для тестирования. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель дообучена на наборах данных для диалогов, следования инструкциям, вопросов и ответов, программирования, токсичных запросов, физического рассуждения и теории разума. Она предназначена для генерации текста в чат-сценариях; README описывает шаблон диалога с ролями пользователя и бота, совместимый с Ooba и SillyTavern. Модель представлена в формате PyTorch и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Автор выпустил эту версию для тестирования и рассматривает масштабирование при положительных отзывах; конкретные оценки качества и ограничения в карточке не приведены.

ThetaWave-7B-sft — разговорная языковая модель на архитектуре Mistral, созданная Liangmingxin путём дообучения с учителем модели freecs/ThetaWave-7B на наборе Open-Orca/SlimOrca. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, работает с контекстом до 32 768 токенов и распространяется в формате safetensors. Модель использует шаблон чата Mistral. По данным карточки, текущая версия не поддерживает system_prompt штатно; его ручное добавление к шаблону может ухудшить качество ответов. Модель распространяется по лицензии Apache-2.0.

TigerBot-7B-Chat — диалоговая языковая модель семейства Llama, опубликованная TigerResearch. Она предназначена для генерации текста в формате чата и может служить основой для собственного LLM-приложения. В репозитории указаны веса PyTorch; размер модели — 6,7 млрд параметров, контекст — до 2048 токенов. Модель подходит для диалоговых интерфейсов, генерации ответов и прототипирования текстовых помощников. README содержит общие инструкции по запуску через Transformers, но в примерах приведены идентификаторы TigerBot-13B, поэтому конкретные команды для этой версии не подтверждены. Модель распространяется по лицензии Apache-2.0.

Mungert/Tongyi-DeepResearch-30B-A3B-GGUF — это GGUF-версия Tongyi DeepResearch, разработанной командой Tongyi Lab. Исходная модель представляет собой агентную большую языковую модель с архитектурой Mixture of Experts: 30 млрд общих параметров, из которых 3 млрд активируются для каждого токена. Данная сборка создана с помощью llama.cpp и предназначена для локального запуска и генерации текста; в метаданных указаны библиотека Transformers, задача text-generation и английский язык. Модель ориентирована на длительные многошаговые задачи поиска и анализа информации, включая агентные сценарии, работу с веб-источниками и глубокое исследование. Она совместима с парадигмами ReAct и IterResearch Heavy, причем последняя использует масштабирование вычислений на этапе вывода для повышения качества. В исходной карточке заявлены высокие результаты на ряде агентных поисковых бенчмарков, включая Humanity’s Last Exam, BrowserComp, GAIA и FRAMES. Ключевое преимущество этой версии — возможность запуска в формате GGUF через llama.cpp, а также примененная автором сборки настройка квантования с повышением точности отдельных важных слоев. Это может улучшать точность при ограниченной разрядности, особенно для MoE-моделей, но увеличивает размер файла. Ограничениями являются возможные потери качества из-за квантования, зависимость производительности от аппаратного обеспечения и отсутствие в README сведений о размере контекста, конкретных вариантах квантования и мультимодальных возможностях. Модель распространяется по лицензии Apache 2.0.

Sakalti/ultiima-125B — плотная авторегрессионная языковая модель семейства Qwen2, созданная Sakalti на основе Sakalti/ultiima-72B. Веса объединены методом passthrough с помощью mergekit; в README указано, что число слоёв увеличено с 80 до 140. Модель содержит 124,1 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов на нескольких языках. Разработчик отмечает снижение качества после изменения архитектуры и предполагает дальнейшее дообучение для его улучшения; поэтому модель подходит для экспериментов с длинным контекстом и дообучением, но качество ответов может быть нестабильным. В метаданных заявлены интерфейс вызова инструментов и поддержка английского, корейского, японского, русского, французского, немецкого, итальянского, румынского и китайского языков. Лицензия указана как other; конкретные условия следует сверить с карточкой модели.

Vicuna-7B-v1.1 — авторегрессионная языковая модель-чат-ассистент, разработанная LMSYS на основе архитектуры Transformer семейства LLaMA. Модель содержит 6,6 млрд параметров и дообучена на пользовательских диалогах, собранных из ShareGPT. Модель предназначена для генерации ответов в диалоге, а также для исследований и создания чат-ботов. Её могут использовать исследователи и энтузиасты в области обработки естественного языка, машинного обучения и искусственного интеллекта. Контекст модели составляет 2048 токенов. Модель работает с текстом и распространяется в формате PyTorch. В README указана некоммерческая лицензия; там же отмечено, что доступна более новая версия весов.

Vicuna-7B-v1.5 — чат-ассистент LMSYS, дообученный на пользовательских диалогах ShareGPT на основе Llama 2. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой Transformer и примерно 6,6 млрд параметров; она принимает текст и генерирует текст, а контекст составляет до 4096 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы и исследовательских экспериментов с чат-ботами и большими языковыми моделями. Карточка указывает исследователей и энтузиастов NLP, машинного обучения и искусственного интеллекта как предполагаемых пользователей. Модель обучалась на пользовательских разговорах ShareGPT; это может влиять на стиль ответов и их надёжность. Модель распространяется по Llama 2 Community License Agreement. Лицензия и условия её использования применяются к исходной модели Llama 2; перед внедрением следует свериться с ними. README также указывает, что Vicuna предназначена прежде всего для исследований, но это само по себе не ограничивает категорию зрелости модели.

WestBreeze-7B-DPO — языковая модель на архитектуре Mistral, созданная PetroGPT слиянием моделей через LazyMergekit. Конфигурация указывает на слияние WestSeverus-7B-DPO-v2 и Breeze-Petro-7B-Instruct-v1 методом slerp; в метаданных базовой моделью указана PetroGPT/WestSeverus-7B-DPO-v2. Репозиторий содержит веса Safetensors, а общий размер модели составляет 14,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Для базовой модели заявлены справочная помощь по математике, естественным наукам и программированию; эти сценарии могут быть полезны и для WestBreeze, однако отдельные оценки её качества в README не приведены. Контекстное окно составляет 32 768 токенов. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках не приведены. Лицензия — Apache-2.0. Характеристики и области применения частично основаны на описании базовой модели, поэтому качество ответов WestBreeze в отдельных задачах по карточке установить нельзя.