II.1Анализ требований и архитектура ПО

Exil01 представляет Qwen3.5-27B-Uncensored-YaRN-1M — GGUF-сборку плотной модели Qwen3.5 с 27 млрд параметров, основанную на HauhauCS/Qwen3.5-27B-Uncensored-HauhauCS-Aggressive. Модель предназначена для диалоговой генерации текста и работы с длинными контекстами; заявлены 262 тыс. токенов активного контекста и расширение YaRN до 1 млн токенов. Карточка также указывает поддержку изображений через файл mmproj. В репозитории указаны варианты GGUF BF16 и F16; для запуска заявлены примерно 60 ГБ видеопамяти при контексте 262 тыс. токенов и 90 ГБ при 1 млн. Максимальная длина генерации по карточке — 81 920 токенов. Модификация описана как uncensored и aggressive; качество и безопасное поведение не гарантируются. Лицензия — Apache-2.0.

Kataguru Jackripper v1.0 Uncensored — финская доработка Qwen3.5-35B-A3B, выпущенная Kataguru в формате GGUF. Это разреженная MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен; в карточке заявлены чат, рассуждения и усиленная работа на финском языке. Предназначена для локального диалога и генерации текста на финском и английском, в том числе для ответов на вопросы, задач на рассуждение и написания кода. README заявляет изменение направлений отказа и приводит три квантизованных варианта GGUF объёмом 12,05–15,33 GiB с рекомендациями по видеопамяти 12–24 ГБ. В примере запуска указан контекст 32 768 токенов, но это параметр команды, а не подтверждённый предел модели. Заявления о безошибочном финском и результатах бенчмарков приведены автором карточки и не подтверждены независимыми данными. Модель основана на мультимодальной Qwen3.5, однако описание этого релиза и доступные задачи указывают на текстовую генерацию и чат. Лицензия — Apache-2.0.

llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-GGUF — GGUF-квантизация 27-миллиардной модели Qwen3.6-27B, созданная независимым разработчиком llmfan46. Модель представляет собой децензурированную версию исходной Qwen3.6-27B, обработанную с помощью Heretic v1.3.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA). В карточке также заявлена категория image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель предназначена для генерации текста и диалоговых сценариев с меньшим количеством отказов, ограничений и морализаторских ответов. Сохранены все 15 компонентов MTP (Multi-Token Prediction), что, по заявлению автора, поддерживает исходную функциональность этого механизма. Согласно приведённым тестам, доля отказов составила 6 из 100 против 92 из 100 у оригинальной модели, а KL-дивергенция относительно исходной версии — 0,0021, что указывает на близкое сохранение поведения модели. К сильным сторонам относятся уменьшенное число отказов и небольшое заявленное отклонение от базовой модели. Ограничения включают потенциально сниженный уровень защитных ограничений и безопасности, отсутствие полной информации о размере контекста, языках, точной архитектуре и требованиях к оборудованию, а также неполные результаты бенчмарков в представленном README. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Uncensored-MagicQuant-MTP-GGUF — GGUF-квантизированная языковая модель на базе llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved. Релиз подготовлен magiccodingman с использованием конфигураций MagicQuant, а базовые форматы квантования и инструменты предоставлены llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, где требуется менее ограниченное поведение модели. Доступно несколько вариантов квантования MagicQuant и llama.cpp с размерами примерно от 8,92 до 27,70 ГБ. Наиболее крупный вариант MQ-Q6_K_1 имеет размер 27,70 ГБ и заявленное значение KLD 0,003838; также представлены варианты Q5, Q4, Q3 и Q2. В модели сохранена поддержка MTP, однако MTP-тензоры квантовались в Q8_0 из-за неполной поддержки imatrix и MTP в llama.cpp на момент подготовки релиза. Указаны архитектура Qwen3.6 и размер 27B параметров, но сведения о языках, максимальном контексте и точном наборе модальностей отсутствуют; по описанию это текстовая модель. Сильной стороной релиза является подбор и локальная проверка конфигураций квантования MagicQuant, направленный на сохранение качества при уменьшении размера. При этом репозиторий является клоном финальных конфигураций из другого выпуска, а не результатом полного собственного поискового конвейера MagicQuant; заявленные метрики относятся к пересобранным вариантам. Качество и требования к памяти зависят от выбранного кванта, а низкобитные варианты могут заметнее терять качество. Модель распространяется по лицензии Apache-2.0.

Это исследовательский чекпойнт Qwen3.6-35B-A3B, подготовленный minjaechoi на основе Qwen/Qwen3.6-35B-A3B. Веса экспертов с маршрутизацией имеют среднюю точность 2,00 бита, остальные веса хранятся в BF16; тензоры весов сохранены в деквантизированном BF16. Модель предназначена для генерации текста и диалогов, а файлы в формате safetensors загружаются через Transformers и vLLM. Карточка не приводит отдельные результаты обучения или оценки качества этого чекпойнта. Лицензия следует лицензии базовой модели.

Youssofal/Qwen3.6-35B-A3B-MTPLX-Optimized-Speed — локальная модель генерации текста семейства Qwen, подготовленная для быстрого запуска на устройствах Apple Silicon через MTPLX. Разработчик модели в README явно не указан; репозиторий публикует адаптированный чекпойнт с поддержкой Multi-Token-Prediction speculative decoding, при котором собственные MTP-головы модели создают черновые токены, а основная модель их проверяет. Модель предназначена для локального текстового вывода и сценариев, где важна высокая скорость генерации без отдельной модели-драфтера. Заявленная конфигурация — 35B-A3B, с 4-битным MLX-представлением основной части, калиброванными INT4 MTP-головами, 8-битными router и gate-тензорами там, где это предусмотрено конфигурацией, а также BF16-нормализациями, масштабами, смещениями и обычными тензорами. Для основной модели используется affine-квантизация MLX с group size 64, для MTP-весов — group size 32. Ключевое преимущество — оптимизация под MTPLX и Apple Silicon: в измерениях с включённым reasoning и лимитом ответа 32 000 токенов режим D1 достиг 138,39 токена в секунду при acceptance 0,8858 против 94,46 токена в секунду у авторегрессионного baseline. Результаты зависят от оборудования, настроек и профиля запуска. Ограничения включают неполноточное квантизованное представление и ориентацию прежде всего на локальный запуск через MTPLX; сведения о поддерживаемых языках, размере контекстного окна, конкретных задачах качества и мультимодальности в README не указаны. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-квантизация модели Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive, основанной на Qwen3 и разработанной сообществом на базе моделей Qwen. Модель предназначена для генерации текста на английском и китайском языках, включая локальный запуск через llama.cpp. Это uncensored fine-tune со сниженным количеством отказов, поэтому модель не подходит для всех аудиторий и требует ответственного использования. Архитектура — qwen35moe: 35 млрд параметров всего, около 3 млрд активных параметров, 256 экспертов, из которых используется 8. Квантование выполнено в формате Q6_K; для ускорения генерации добавлена одна MTP-слой Multi-Token Prediction, позволяющая использовать speculative decoding через draft-mtp в llama.cpp. Указанный контекст составляет 8192 токена в примере запуска. Модель поддерживает обычную авторегрессионную генерацию и MTP-декодирование; на Apple M3 Max заявлено ускорение генерации примерно на 27% при подходящих настройках, однако результат зависит от оборудования и реального контекста. Сильные стороны модели — относительно высокая скорость генерации, эффективное MoE-устройство и высокая доля принятых черновых токенов MTP при использовании репрезентативного промпта. Ограничения включают uncensored-поведение, чувствительность производительности к содержимому контекста и необходимость сборки llama.cpp с поддержкой draft-mtp для speculative decoding. Лицензия указана как Apache-2.0; при этом необходимо учитывать условия исходной модели Qwen и условия авторов fine-tune и квантования.

EgorKodin/Qwen3.8-27B-ABLITERATED-3bit-MLX-TextOnly — это текстовая 3-битная квантизированная версия модели Blackfrost-AI/Qwen3.8-27B-ABLITERATED-BF16. Репозиторий подготовлен EgorKodin в формате MLX и предназначен для запуска и инференса на устройствах с Apple Silicon через mlx-lm. Исходная модель описана как результат fine-tuning и abliteration, однако подробности этого процесса в README не приведены. Модель предназначена для генерации текста и интерактивного диалога. Она поддерживает текстовые сценарии, включая ответы на запросы и генерацию продолжений; визуальная часть исходной мультимодальной модели удалена, поэтому изображения и другие визуальные входные данные не поддерживаются. Размер модели — 27B параметров согласно названию базовой модели. Используется 3-битное affine-квантование с размером группы 64, что снижает требования к памяти по сравнению с исходными BF16-весами. Языки и размер контекстного окна в README не указаны. К сильным сторонам относятся адаптация к MLX, оптимизация под Apple Silicon и уменьшенное потребление памяти благодаря 3-битному представлению. Ограничениями являются текстовый режим без vision tower и возможное снижение точности по сравнению с полноразмерной BF16-версией вследствие квантизации. Для запуска требуется библиотека mlx-lm. Лицензия в README не указана.

Qwen3.8-27B-Uncensored — это текстовая генеративная модель на базе orcarouter/Qwen3.8-27B-Uncensored, преобразованная пользователем xidisdg в нативный формат NInfer .ninfer. Модель предназначена для диалогов и других сценариев генерации текста при запуске через совместимый runtime NInfer; это не GGUF и не checkpoint Safetensors для прямой загрузки в Transformers. Доступны четыре варианта: NVFP4 и NVFP4Full, каждый с обычным декодированием или со speculative decoding-компонентом DFlash2. Размер файлов составляет примерно 18,32–23,72 GB. В конфигурации NVFP4 последние 8 из 64 MLP-слоёв сохранены в FP8, что ориентировано на более консервативное сохранение качества, тогда как NVFP4Full обеспечивает меньший размер. Указаны 27 млрд параметров и текстовая модальность, но сведения о языках и максимальной длине контекста отсутствуют. Сильные стороны модели — компактное квантованное представление, несколько вариантов баланса между размером, качеством и скоростью, а также возможность speculative decoding через DFlash2. Ограничения включают зависимость от совместимой сборки NInfer и аппаратно-программной конфигурации; локальная проверка проводилась на Windows 11 x64 с CUDA 13.1 и RTX 5090, поэтому совместимость с другими GPU и Linux не подтверждена. Независимые показатели качества, скорости, задержки и безопасности не опубликованы. Лицензия для этого репозитория не указана. Условия использования исходных весов, конвертированных файлов и дополнительных компонентов необходимо проверять отдельно перед коммерческим использованием или распространением; README не предоставляет дополнительных прав.

Qwen3.8-27B-Uncensored-OrcaRouter-GGUF — неофициальный релиз от chimingw, представляющий конвертированные и квантизированные GGUF-версии модели orcarouter/Qwen3.8-27B-Uncensored-FP8, основанной на Qwen3.8-27B от Qwen/Alibaba. В релизе не выполнялись дообучение, объединение моделей или изменения выравнивания; веса преобразованы из FP8 в BF16 и затем квантизированы для llama.cpp. Это плотная модель с 27 миллиардами параметров и гибридной архитектурой, сочетающей линейное внимание Gated DeltaNet и полное внимание. Она относится к мультимодальным vision-language моделям, поддерживает текст и изображения, заявленные языки — английский и китайский. Модель предназначена для локального запуска, генерации текста, рассуждений, вызова инструментов и мультимодальных сценариев. В конфигурации указан контекст до 262 144 токенов, однако фактическая поддержка зависит от runtime, доступной памяти, совместимого мультимодального проектора и клиента. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M без importance matrix. Дополнительно поставляется MTP-компаньон Q8_0 для speculative decoding; он не является самостоятельной чат-моделью. Сильными сторонами являются большой контекст, мультимодальность, поддержка инструментов и несколько вариантов размера и качества квантизации. Ограничения включают зависимость от совместимого llama.cpp-окружения и локальных ресурсов, отсутствие встроенных защитных механизмов из-за abliteration, а также то, что заявленные характеристики исходной модели не были независимо проверены авторами этого репозитория. Модель предназначена только для контролируемых исследовательских и оценочных сценариев и не должна использоваться в пользовательских или производственных системах без собственных механизмов безопасности. Релиз распространяется по Apache License 2.0 в соответствии с прямым источником.

gubernac/qwen3.8-27b-unc-fp8 — модифицированная и квантованная версия Qwen/Qwen3.8-27B. Базовая модель разработана командой Qwen компании Alibaba, а данный вариант подготовлен как сборка OrcaRouter. Из модели удалено направление отказа от ответа методом abliteration, после чего она офлайн квантована в Block-FP8 по схеме официальной Qwen3.8-27B-FP8. Это плотная мультимодальная vision-language модель для работы с текстом и изображениями, рассуждений, вызова инструментов, function calling и исследовательского red-teaming. Архитектура Qwen3_5ForConditionalGeneration включает 64 слоя, скрытое представление размером 5120, гибридное внимание Gated DeltaNet и full attention, vision-language tower и MTP-голову для speculative decoding. Модель содержит 27 млрд параметров, поддерживает английский и китайский языки и контекст до 262 144 токенов. Линейные веса хранятся в Block-FP8 E4M3 с размером блока 128×128 и динамическими активациями, а vision tower, нормы, embeddings и lm_head сохранены в BF16. Главное преимущество сборки — сохранение мультимодальности, большого контекста, рассуждений, инструментов и MTP при совместимости с соответствующим vLLM-путём исполнения. Ключевое ограничение и риск — существенное удаление защитного выравнивания: модель может выполнять вредоносные, незаконные и иные опасные запросы, от которых базовая версия отказалась бы. Поэтому она предназначена для легитимных исследований интерпретируемости, AI safety, изучения механизмов отказа, оценки устойчивости и контролируемых экспериментов, а не для непосредственного использования конечными пользователями без собственных механизмов модерации и защиты. Условия распространения указаны как Apache 2.0; также необходимо соблюдать применимые законы и ограничения базовой модели.

Это GGUF-версия Qwen3Guard-Gen-8B, подготовленная Geoff Munn на основе модели команды Qwen от Alibaba. Модель построена на архитектуре Qwen3 с 8 млрд параметров и дообучена для безопасной генерации текста: она отвечает на обычные запросы и должна отказывать на вредоносные, избегая токсичного, жестокого и вводящего в заблуждение содержания. Модель предназначена для диалоговых помощников, которым нужны ответы на сложные вопросы, помощь с кодом и математикой при ограничении небезопасных ответов. Её можно использовать как самостоятельного помощника или вместе с отдельным фильтром входящих запросов. Репозиторий содержит квантизованные веса в формате GGUF для локального запуска, в том числе через llama.cpp; README приводит варианты от Q2_K до Q8_0 с разным балансом качества, скорости и размера. Лицензия — Apache-2.0. Это генеративная модель с защитными настройками, а не классификатор модерации: отказы и осторожное поведение не гарантируют обнаружение или блокирование всех небезопасных запросов, поэтому для модерации входов может потребоваться отдельный фильтр.

Это исследовательский чекпойнт minjaechoi на основе Qwen/Qwen3.6-35B-A3B. Он предназначен для генерации текста и диалогов; в метаданных также заявлен интерфейс вызова инструментов. Архитектура относится к семейству Qwen3.5 MoE, модель содержит 35 млрд параметров, а веса доступны в формате safetensors для загрузки через Transformers и vLLM. В чекпойнте routed experts имеют среднюю точность 2,3219 бита, остальные веса — BF16; тензоры весов хранятся в BF16 после деквантования. README называет его внутренним исследовательским чекпойнтом r51. Лицензия соответствует лицензии базовой модели. Мультимодальные возможности базовой модели не подтверждены для этого чекпойнта карточкой, поэтому описание ограничено текстовой генерацией.

Qwen-Qwen2-1.5B-Instruct-GGUF — набор квантованных файлов модели Qwen2-1.5B-Instruct, разработанной Qwen; квантования подготовлены featherless-ai-quants. Это текстовая генеративная модель для диалогов, инструкционных запросов и других задач генерации текста. В README указана базовая модель размером 1,5 млрд параметров, однако подробности об архитектуре, языках и размере контекста не приведены. Модель распространяется в формате GGUF и доступна в вариантах квантования IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Размер файлов составляет примерно от 645 МБ до 1,57 ГБ, поэтому варианты можно выбирать с учётом доступной памяти и требуемого компромисса между ресурсами и качеством. Ключевое ограничение — README не содержит результатов сравнительных тестов, сведений о точности и подробностей о поддерживаемых сценариях. Лицензия модели в README не указана. Условия использования следует уточнять в документации базовой модели Qwen2-1.5B-Instruct и для выбранного файла GGUF.

Карточка модели OptimalScale/robin-13b-v2-delta на Hugging Face совпадает с карточкой OptimalScale/robin-33b-v2-delta, поэтому описание составлено по ней. Robin-33B-v2-delta — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMFlow и дообученная на высококачественных данных. Вариант содержит 32,3 млрд параметров и рассчитан на контекст до 2048 токенов. Модель предназначена для генерации текста и исследовательских экспериментов с большими языковыми моделями и чат-ботами. Её можно применять для генерации ответов и прототипирования диалоговых систем; оценка Robin проводилась на LMFlow Benchmark. В карточке не указаны поддерживаемые языки и подробные результаты оценки. Лицензия ограничивает использование некоммерческими целями.

Карточка модели OptimalScale/robin-65b-v2-delta на Hugging Face совпадает с карточкой OptimalScale/robin-33b-v2-delta, поэтому описание составлено по ней. Robin-33B-v2-delta — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMFlow и дообученная на высококачественных данных. Вариант содержит 32,3 млрд параметров и рассчитан на контекст до 2048 токенов. Модель предназначена для генерации текста и исследовательских экспериментов с большими языковыми моделями и чат-ботами. Её можно применять для генерации ответов и прототипирования диалоговых систем; оценка Robin проводилась на LMFlow Benchmark. В карточке не указаны поддерживаемые языки и подробные результаты оценки. Лицензия ограничивает использование некоммерческими целями.

Карточка модели OptimalScale/robin-7b-v2-delta на Hugging Face совпадает с карточкой OptimalScale/robin-33b-v2-delta, поэтому описание составлено по ней. Robin-33B-v2-delta — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMFlow и дообученная на высококачественных данных. Вариант содержит 32,3 млрд параметров и рассчитан на контекст до 2048 токенов. Модель предназначена для генерации текста и исследовательских экспериментов с большими языковыми моделями и чат-ботами. Её можно применять для генерации ответов и прототипирования диалоговых систем; оценка Robin проводилась на LMFlow Benchmark. В карточке не указаны поддерживаемые языки и подробные результаты оценки. Лицензия ограничивает использование некоммерческими целями.

RWKV-6 World 7B — языковая модель семейства RWKV-6, представленная в репозитории RWKV и предназначенная для генерации текста в формате диалога и пакетного инференса. В метаданных указаны плотная архитектура Rwkv6ForCausalLM, около 8,9 млрд параметров и формат PyTorch. Примеры в карточке показывают ответы на английском и китайском языках. Модель можно использовать для диалоговых ассистентов и генерации текста; контекст карточки не раскрывает. Лицензия в предоставленных данных не указана.

wangyue114514/rwkv7-g1g-13.3b-hf — преобразованная версия причинной языковой модели семейства RWKV-7 G1G. Модель разработана для генерации текста и диалогового взаимодействия; архитектура RWKV-7 использует рекуррентное состояние. В чекпойнте около 13,3 млрд параметров, 61 слой, размер скрытого представления 4096 и словарь из 65 536 токенов. В метаданных указана архитектурная конфигурация на 16,6 млрд параметров и нативный контекст 2048 токенов; веса хранятся в формате float16 Safetensors. Модель совместима с интерфейсом AutoModelForCausalLM в Transformers и может использоваться для генерации и дообучения, в том числе через Trainer, Accelerate и PEFT. Для загрузки файлов реализации из репозитория требуется trust_remote_code=True. Карточка также указывает на примеры и манифесты оценки в репозитории 123123213weqw/hf-adapter. Языковая поддержка в предоставленных данных не определена. Репозиторий сохраняет исходные байты весов; версия v0.9.0 изменяет код выполнения и конфигурацию. Это конверсия контрольной точки в формат Hugging Face, а не новое дообучение. Лицензия — Apache-2.0. Нативный контекст ограничен 2048 токенами; README не сообщает результатов оценки качества.

Guilherme34/Samantha-v6 — разговорная языковая модель, созданная объединением предварительно обученных моделей с помощью mergekit и метода TIES. В основе объединения лежит NeverSleep/Lumimaid-v0.2-8B, также включена Guilherme34/Samantha-raw-mergenotlora; итоговая модель имеет архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов. Её можно использовать для общения с чат-ботом, написания и продолжения текста, а также для сценариев, где требуется интерфейс вызова инструментов. Заявленное контекстное окно составляет 131 072 токена. Модель работает с текстом; в карточке нет сведений о специализированной отраслевой области или языковой специализации. Файлы модели представлены в формате safetensors. Лицензия в предоставленных данных не указана. README описывает способ объединения, но не приводит результаты оценок качества; возможности и ограничения в конкретных задачах стоит проверять на собственных примерах.

SARDI Dream 7B — дообученная командой проекта SARDI модель на основе Dream-v0-Instruct-7B, представленная как основа метода Self-Augmenting Retrieval for Diffusion Language Models в работе для ICML 2026. Это плотная диффузионная языковая модель с 7,1 млрд параметров для генерации текста и диалогов; метаданные указывают контекст до 131 072 токенов. Модель дообучена для retrieval-augmented generation и многошаговых вопросов: во время денойзинга метод SARDI формирует запросы по частично восстановленной последовательности, получает дополнительные свидетельства и использует их на следующих шагах генерации. Для обучения использовались обучающие части 2WikiMultiHopQA и HotpotQA, трассы рассуждений gpt-4o-mini и документы-ответы в контексте; обучение длилось три эпохи. Для инференса нужны код и декодирование с порогами из репозитория проекта. Веса представлены в формате safetensors и хранятся в float32; при инференсе выполняется приведение к bfloat16. Модель выпущена по лицензии Apache-2.0. README отмечает, что исходная Dream-7B ненадёжно генерировала трассы рассуждений в режиме zero-shot, поэтому для этой задачи был создан RAG-файнтюн.

SELM-Zephyr-7Bz-iter-2 — диалоговая языковая модель на архитектуре Mistral, разработанная ShenaoZ. Это дообученная версия ShenaoZ/SELM-Zephyr-7Bz-iter-1, обученная на обновлённом и исходном наборах данных. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; её контекстное окно составляет 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Её можно использовать для построения чат-ботов и ведения текстовых диалогов. Репозиторий содержит веса в формате safetensors; лицензия — MIT. Подробности о качестве, составе данных и ограничениях в карточке не раскрыты.

Sheep-Duck-Llama-2 70B v1.1 — языковая модель, разработанная Riiid и предназначенная для генерации текста и диалоговых ответов. Это плотная авторегрессионная модель семейства Llama 2 с архитектурой LlamaForCausalLM, содержащая 68,7 млрд параметров и поддерживающая контекст до 4096 токенов. Модель работает через Transformers и распространяется в формате PyTorch. Для дообучения использовались наборы данных в стилях Orca и Alpaca; карточка приводит результаты ARC, HellaSwag и MMLU. Модель рассчитана прежде всего на английский язык и может применяться для ответов на вопросы, диалогов и генерации текста по инструкции. Проверки проводились на английском языке; ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед применением требуется оценка поведения в конкретном сценарии. Лицензия — Llama 2.

SimplyParse-qwen3txt-3rdepoch — дообученная языковая модель, разработанная taskmaster141 на основе unsloth/qwen3-4b-instruct-2507-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Размер модели составляет 3,7 млрд параметров, длина контекста — до 262 144 токенов. Указан английский язык. Модель подходит для создания ответов и ведения диалога, а также для сценариев, где требуется использовать интерфейс вызова инструментов. Данных о специализации дообучения и его результатах карточка не содержит. Модель распространяется по лицензии Apache-2.0.

Skywork_Skywork-OR1-32B-GGUF — это набор квантизированных версий языковой модели Skywork-OR1-32B, разработанной командой Skywork и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с использованием llama.cpp версии b5338 и метода imatrix на данных Skywork/Skywork-OR1-RL-Data. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от исходных весов BF16 размером 65,54 ГБ до квантизаций Q8_0, Q6, Q5, Q4, Q3, Q2 и IQ с размером примерно от 13,07 до 34,82 ГБ. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K и другие версии с пометкой recommended; более компактные варианты экономят оперативную память, но снижают качество. В README указаны специальный шаблон промпта и поддержка текстовой генерации, однако сведения о языках, максимальном контексте, архитектуре исходной модели, мультимодальности и точных характеристиках обучения отсутствуют. Сильная сторона модели — возможность локального запуска на широком диапазоне оборудования благодаря множеству уровней квантизации и совместимости с экосистемой llama.cpp. Ограничения связаны с компромиссом между размером файлов, требованиями к памяти и качеством, а также с отсутствием в предоставленных данных результатов оценки и подробного описания возможностей. Лицензия в README не указана; условия использования следует уточнять у разработчика исходной модели Skywork-OR1-32B.

unsloth/SmolLM2-1.7B — компактная языковая модель на 1,7 млрд параметров, основанная на HuggingFaceTB/SmolLM2-1.7B. Репозиторий опубликован Unsloth и содержит вариант для генерации текста в формате safetensors; архитектура — плотная LlamaForCausalLM. Модель рассчитана на лёгкий запуск, в том числе на устройстве пользователя, и может служить основой для дообучения. Семейство SmolLM2 предназначено для широкого круга языковых задач. В README указано, что версия Instruct улучшена в следовании инструкциям, знаниях, рассуждениях и математике; для неё также заявлены переписывание и суммаризация текста, а также вызов функций. Контекст модели составляет 8192 токена. В метаданных указан английский язык. Лицензия — Apache-2.0. README описывает семейство и его вариант Instruct, однако не подтверждает, что конкретный репозиторий содержит именно Instruct-версию; перечисленные дополнительные возможности поэтому следует считать характеристиками семейства, а не гарантированными функциями этого чекпойнта.

SoftTiger-70b — базовая языковая модель семейства TigerBot, представленная TigerResearch. Это плотная авторегрессионная модель на архитектуре Llama с 69 млрд параметров, предназначенная для генерации текста и использования в качестве основы для собственных LLM-приложений. В карточке описан запуск через Transformers и репозиторий TigerBot. Модель принимает текст и генерирует текст; в метаданных указаны китайский и английский языки, а нативный контекст составляет 8192 токена. Веса опубликованы в формате Safetensors по лицензии Apache-2.0. README не приводит результатов оценки качества или более узкой специализации, поэтому применимость к конкретным задачам следует проверять отдельно.

SOLAR-10.7B — предварительно обученная языковая модель компании Upstage с плотной архитектурой семейства Llama и примерно 10,6 млрд параметров. Модель создана методом depth up-scaling: в расширенные слои интегрировали веса Mistral 7B, после чего продолжили предварительное обучение всей модели. Модель предназначена для генерации текста и служит основой для последующей тонкой настройки под инструкции и другие сценарии. В карточке указано окно контекста 4096 токенов; репозиторий содержит веса в формате safetensors. Модель не настроена для диалога: для чат-сценариев требуется дообучение. README приводит результаты оценки версии SOLAR-10.7B-Instruct-v1.0, а не этой базовой предварительно обученной модели. Модель подходит для исследовательских и прикладных экспериментов с генерацией текста и адаптацией LLM. Лицензия — Apache-2.0.

soob3123_amoral-gemma3-12B-v2-GGUF — это GGUF-квантизированная версия модели amoral-gemma3-12B-v2, разработанной soob3123 и подготовленной пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста, аналитических задач и сценариев, где требуется нейтрализация предвзятости или менее ограниченное поведение. Указан английский язык и тег text-generation. Модель относится к семейству Gemma 3 и имеет размер 12B параметров. Доступны варианты от исходных весов BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемые варианты обеспечивают высокое качество, тогда как варианты Q3 и некоторые низкоразрядные форматы экономят память, но заметнее снижают качество. Модель можно запускать через LM Studio, llama.cpp и совместимые проекты. Архитектурные детали, поддержка мультимодальности и размер контекста в README не указаны. Лицензия — Apache-2.0. Ограничения зависят от выбранного уровня квантизации и доступных аппаратных ресурсов; для точного выбора варианта следует учитывать размер конкретного файла и требования среды запуска.

SpoomplesMaxx Whiskeyjack 12B («Camp Robber») — диалоговая модель на 12 млрд параметров, созданная как дообучение Google Gemma 4 12B Unified. Она предназначена для генерации текста в разговорных сценариях; в метаданных также отмечены настройка для рассуждений, ролевого общения и использования инструментов. Модель основана на плотной архитектуре Gemma 4 Unified, распространяется в формате Safetensors и доступна через Transformers. Базовая Gemma 4 Unified поддерживает работу с текстом, изображениями, видео и аудио, однако README этой версии не уточняет мультимодальные возможности дообученного чекпойнта, поэтому здесь подтверждена только генерация текста. Лицензия — Gemma; условия её использования определяются лицензией Google Gemma.