II.6Документация и сопровождение разработки

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный пользователем preyy2 для запуска через llama.cpp и совместимые среды. Модель предназначена для генерации текста, диалогов и других задач на основе текста, а варианты с vision-проектором также поддерживают обработку изображений. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, одну MTP-голову и поддерживает контекст до 262 144 токенов. В README заявлены английский и китайский языки. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 10,6 до 29 ГБ, а также отдельные draft-варианты для speculative decoding. MTP-голова позволяет использовать ускоренное декодирование при поддержке со стороны runtime. Ключевая особенность сборки — существенное снижение поведения, связанного с отказами от ответов, с помощью abliteration без дообучения и добавления новых данных; отказы не устранены полностью. При этом заявлено сохранение исходных возможностей, обучающих данных и архитектуры базовой модели. Качество квантизаций оценивалось по perplexity на wikitext-2, однако IQ2_M заметно уступает вариантам с более высокой точностью. Для запуска необходим совместимый runtime и объём памяти, соответствующий выбранному файлу; поддержка изображений зависит от vision-совместимого runtime. Распространение указано по лицензии Apache-2.0.

Qwen3.8-2B — компактная языковая модель, разработанная Empero на основе Qwen3.5-2B. Это полное дообучение с дистилляцией: модель обучена на примерно 30 тысячах отобранных трасс рассуждений более крупной модели Qwen3.8, охватывающих математику, общие рассуждения и следование инструкциям. Модель содержит около 2 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации ответов и диалогов, решения математических задач и рассуждений, в том числе на периферийных устройствах. Поддерживает интерфейс вызова инструментов по спецификации Qwen3.5. Для инференса подходят Transformers, vLLM и SGLang с поддержкой архитектуры Qwen3.5; для ускоренной работы требуются совместимые CUDA-ядра Gated DeltaNet. Обучение было текстовым; возможности работы с изображениями унаследованы от мультимодальной базовой модели, но не оценивались. По опубликованным тестам модель улучшила результаты базовой Qwen3.5-2B на GSM8K и MMLU, однако небольшой размер ограничивает фактические знания и решение особенно сложных многошаговых задач. При длинной генерации жадное декодирование может приводить к повторениям. Весы доступны по лицензии Apache-2.0; разработчик публикует их для исследований и экспериментов без гарантий.

litert-community/Qwen3-8B — это версия языковой модели Qwen3-8B, подготовленная сообществом LiteRT для запуска на устройствах с использованием LiteRT-LM. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста и интеграции в локальные и периферийные приложения, где важны автономная работа и снижение требований к памяти. Доступны варианты с поканальным INT8-квантованием весов и float32 KV-кэшем, а также смешанный вариант TorchAO INT4 размером около 4,66 ГиБ. В смешанном варианте линейные проекции используют блочное INT4-квантование с размером группы 32, эмбеддинги — weight-only INT8, а нормализационные пути и KV-кэш остаются в формате с плавающей точкой. Для этого варианта заявлен контекст 2048 токенов. В метаданных указан английский язык и задача text-generation; другие языки и модальности не заявлены. Сильные стороны модели — оптимизация для локального запуска, уменьшенный размер благодаря квантованию и поддержка LiteRT-LM StableHLO-операций для выполнения внимания и работы с кэшем. В тесте на AMD Radeon AI PRO R9700 через WebGPU показаны 860,57 токена/с на этапе prefilling, 67,23 токена/с при декодировании и время до первого токена 0,31 с, однако результаты зависят от оборудования и настроек. Бенчмарк для телефонов не приводится, а заявленные характеристики относятся к конкретным артефактам и среде выполнения. Модель распространяется на условиях лицензии Apache-2.0.

Карточка модели formalmathatepfl/qwen3-8b-classic-one-shot на Hugging Face совпадает с карточкой VladShash/qwen3-8b-classic-with-repair, поэтому описание составлено по ней. VladShash/qwen3-8b-classic-with-repair — дообученная модель семейства Qwen3, созданная на базе formalmathatepfl/qwen3-cpt с использованием набора данных SFT. Она предназначена для генерации текста в диалоговом режиме. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Карточка не раскрывает тематику дообучения, поэтому нельзя надёжно определить специализированные сценарии, языки или преимущества варианта «classic-with-repair». Модель распространяется в формате safetensors; лицензия указана как other, без дополнительных условий в предоставленных данных.

p-e-w/Qwen3-8B-heretic — текстовая генеративная модель на базе Qwen3-8B-Base, изменённая методом abliteration, который снижает склонность исходной модели к отказам. В README приведены параметры этой процедуры и сравнение: 45 отказов из 100 запросов против 100 у оригинальной модели; это указывает на изменение поведения, но не гарантирует отсутствие отказов. Модель использует плотную авторегрессионную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и рассчитана на контекст до 40 960 токенов. Она предназначена для диалогов и генерации текста; базовое семейство поддерживает многоязычные сценарии. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. README описывает характеристики семейства Qwen3, поэтому отдельные заявления о качестве и возможностях базовой модели не следует считать оценкой именно этой модификации. Снижение отказов может приводить к ответам на запросы, которые исходная модель отклоняла.

qwen3-8b-safetyorpo — дообученная компанией или автором HoangCuongNguyen модель Qwen3-8B-Base, созданная с помощью TRL. Это плотная авторегрессионная модель на 7,6 млрд параметров для генерации текста и диалогового взаимодействия; заявленная длина контекста — 32 768 токенов. Название указывает на ориентацию на безопасность и обучение методом ORPO, однако карточка не описывает конкретные методы обучения, поведение модели или результаты оценки безопасности. Модель подходит для генерации ответов в диалогах и адаптации текстовых приложений. Она принимает текст и выдаёт текст; в метаданных указана библиотека Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

cygnal/Qwen3.8-Flash-Next-Heretic2-IQ4XS-Halogen — это квантованная GGUF-сборка Qwen3.8-Flash-Next, подготовленная для Halogen Flash Server разработчиком cygnal. Исходные веса модели прошли abliteration методом direction-removal в Heretic v1.3.0, затем были переквантованы в смешанном формате: преимущественно IQ4_XS для экспертных весов, Q8_0 для плотных слоёв и IQ4_NL для per_layer_token_embd.weight. Архитектура qwen4exp использует гибрид DeltaNet, SSM и attention; заявлено около 166 млрд параметров всего и 27 млрд активных на токен. Модель предназначена для диалоговой генерации текста и может принимать изображения при подключении отдельного vision tower. Сборка оптимизирована для Halogen Flash Server и AMD Strix Halo с ROCm; в README приведены измерения производительности на Radeon 8060S и требования примерно к 117 ГБ объединённой памяти. Видео не поддерживается. Для использования нужны совместимые сервер и аппаратное обеспечение; vision tower и MTP head поставляются отдельно. Лицензия — Apache-2.0.

Intel/Qwen3.8-Flash-Next-W4A16-AutoRound — это INT4-квантизированная версия модели Qwen3.8-Flash-Next, разработанная с помощью инструмента Intel AutoRound в режиме Tuning. В карточке указано назначение image-text-to-text, поэтому модель рассчитана на обработку текстово-визуальных запросов и генерацию текста, однако подробные характеристики базовой модели, включая число параметров, размер контекста и поддерживаемые языки, не приведены. Модель использует схему квантизации W4A16: веса представлены в формате INT4, а активации — в формате FP16. Квантизация призвана снизить требования к памяти и ресурсам по сравнению с конфигурацией BF16. На указанных тестах INT4-версия получила средний результат 0,8332 против 0,8362 у BF16, то есть сохранила 99,64% относительного качества; приведены результаты для GSM8K, MMLU, PIQA и HelleSwag. Модель может быть полезна для ресурсоограниченного развёртывания задач генерации текста и мультимодального взаимодействия. Как и базовая модель, она может выдавать фактически неверные, предвзятые, оскорбительные или иным образом нежелательные ответы, поэтому перед использованием требуется проверка безопасности. Лицензия указана как qwen-community-1.0; необходимо также соблюдать лицензионные условия оригинальной модели Qwen3.8-Flash-Next. README рекомендует получить юридическую консультацию перед коммерческим использованием.

Это экспериментальная производная модель Qwen3.6-35B-A3B с разреженной маршрутизацией экспертов. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. В README указано, что средняя точность хранения маршрутизируемых экспертов составляет 2,022 бита, а остальные веса — BF16; веса хранятся в BF16-тензорах после деквантизации и загружаются через стандартные Transformers или vLLM. Модель основана на Qwen/Qwen3.6-35B-A3B и следует его лицензии. README помечает её как внутренний исследовательский чекпойнт. Сведения о поддерживаемых языках и длине контекста в предоставленных источниках отсутствуют.

sumink/Qwenftmodel — дообученная причинная языковая модель на архитектуре Transformer из семейства Qwen2, созданная на базе Qwen/Qwen2.5-Coder-1.5B. Модель содержит 1,5 млрд параметров и предназначена для генерации текстовых ответов по запросу: она может отвечать на вопросы, дополнять предложения и формулировать краткие информативные ответы. Модель обучали на наборе prompt-response пар subset5 в течение трёх эпох; максимальная длина последовательности при обучении составляла 128 токенов. Для обучения использовались AdamW и CPU. Метаданные указывают контекстное окно до 32 768 токенов. Модель распространяется в формате safetensors; лицензия обозначена как other, поэтому условия использования следует уточнять в репозитории. Карточка рекомендует не применять её для вредоносного или незаконного контента.

cnfusion/QwenPhi-4-0.5b-Draft-mlx-fp16 — языковая модель, преобразованная cnfusion в формат MLX из rdsm/QwenPhi-4-0.5b-Draft с помощью mlx-lm 0.22.3. Это производная от QwenPhi-4-0.5b-Draft модель на архитектуре Qwen2 с 447,7 млн параметров, предназначенная для генерации текста в диалоговом формате. Модель поддерживает контекст до 32 768 токенов и языки, перечисленные в карточке: китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Репозиторий распространяется под лицензией Apache-2.0. Данных о качестве и ограничениях исходной модели в предоставленных материалах нет.

Qwen-Qwen1.5-1.8B-Chat-GGUF — набор квантованных файлов модели Qwen1.5-1.8B-Chat, разработанной командой Qwen. Квантование выполнено featherless-ai-quants и распространяется в формате GGUF для задач генерации текста и диалогового взаимодействия. Модель предназначена для локального или совместимого с GGUF запуска при ограниченных требованиях к памяти и вычислительным ресурсам. Размер базовой модели составляет 1,8 млрд параметров. В репозитории доступны варианты квантования IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размер варьируется примерно от 807 МБ до 1,87 ГБ. Более компактные варианты обычно требуют меньше памяти, но могут сильнее терять в качестве по сравнению с вариантами с большей точностью. README не содержит сведений об архитектуре, поддерживаемых языках, размере контекста, обучающих данных, результатах оценки и конкретной лицензии, поэтому эти характеристики нельзя достоверно указать.

Qwen-Qwen2.5-0.5B-llamafied — преобразованная в формат Llama версия языковой модели Qwen2.5-0.5B. Репозиторий опубликован llamafy; модель содержит 494 млн параметров, использует плотную архитектуру и веса в формате safetensors. Она предназначена для генерации текста и диалоговых сценариев, включая использование интерфейса вызова инструментов в совместимых программах. По карточке модель совместима с программами, поддерживающими формат Llama; заявленный контекст составляет 4096 токенов. Модель поддерживает многоязычный ввод и генерацию, включая русский, английский, китайский, французский, испанский и другие языки из метаданных. Это конверсия базовой Qwen/Qwen2.5-0.5B, а не отдельное дообучение; лицензия в предоставленных данных не указана.

Qwerus-7B-GGUF — набор GGUF-квантизаций модели Qwerus-7B, разработанный bartowski на основе модели mlabonne/Qwerus-7B. Квантизация выполнена с использованием llama.cpp версии b4418 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio и совместимые инструменты llama.cpp. В набор входят варианты от исходных весов F16 размером 15,24 ГБ до компактных квантов IQ2_M размером 2,78 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ. Более крупные варианты обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но сильнее теряют в качестве. Для большинства сценариев автор рекомендует Q4_K_M как сбалансированный вариант, а Q5_K и Q6_K — как более качественные. Из README не указаны архитектура исходной модели, размер контекстного окна, поддерживаемые языки и модальности. Приведён шаблон диалога с ролями system, user и assistant. Лицензия модели — MIT.

Qwopus3.6-27B-v1-preview-i1-GGUF — квантованная GGUF-версия модели Qwopus3.6-27B-v1-preview, опубликованная mradermacher на основе модели Jackrong. Модель относится к классу conversational и instruct, ориентирована на диалоговое взаимодействие и задачи рассуждения. В README также указано, что это мультимодальная vision-language-модель, способная работать с изображениями и текстом. Модель содержит 27 миллиардов параметров и поддерживает английский, китайский, японский, корейский, испанский и русский языки. Точная архитектура, размер контекста и спецификация мультимодального компонента не указаны. Доступны варианты квантования i1-IQ1_S, i1-IQ1_M, i1-IQ2, i1-IQ3, i1-IQ4, i1-Q2_K, i1-Q3_K, i1-Q4, i1-Q5_K и i1-Q6_K размером примерно от 7,2 до 22,2 ГБ. Более сильное квантование обычно требует больше памяти, тогда как низкобитные варианты экономичнее, но могут заметно терять в качестве. Для создания модели использовались датасеты Claude-Distillation-Dataset, GLM-5.1-Reasoning-1M-Cleaned, Kimi-K2.5-Reasoning-1M-Cleaned и Qwen3.5-reasoning-700x. Это может быть преимуществом для диалогов и задач рассуждения, однако README не содержит результатов тестирования, поэтому качество нельзя оценить количественно. Для работы с изображениями могут потребоваться дополнительные mmproj-файлы из статического репозитория. Модель распространяется по лицензии Apache-2.0.

Qybera — диалоговая языковая модель Stackpulse Cloud, обученная в Кении на базе Qwen/Qwen2.5-0.5B-Instruct. Это компактный decoder-only Transformer с архитектурой Qwen2 и 494 млн параметров; модель принимает текст и генерирует ответы в формате беседы. Она рассчитана на помощь с программированием, обучением, планированием и решением повседневных задач, общаясь в доброжелательном, поддерживающем тоне с лёгкими кенийскими разговорными выражениями. Основной язык — английский; карточка также указывает контекст длиной до 32 768 токенов. Модель подходит для учебного помощника по программированию, интеграции в инструменты разработчика и дружелюбных ботов для сообществ Восточной Африки. Лицензия — Apache 2.0. Как компактная модель примерно на 500 млн параметров, она может ошибаться в фактах и коде и уступать более крупным моделям в сложных многошаговых рассуждениях; результаты следует проверять. Кенийский сленг используется умеренно, а модель не предназначена для профессиональных медицинских, юридических или финансовых советов.

Soulfate24/ReaderLM-v2-ASHQ1-Remix-GGUF — квантизированная в формате GGUF версия ReaderLM-v2, опубликованная Soulfate24. В README указана activation-aware квантизация ASHQ1-Remix с настройками, основанными на измерениях; также упоминается поддержка линии AutoRound с ограничениями насыщения. Метаданные относят репозиторий к генерации текста и разговорным моделям. Модель можно использовать для генерации текста в сценариях, поддерживаемых ReaderLM-v2. В карточке указана многоязычность и чат-возможности. Репозиторий содержит GGUF-представление базовой модели jinaai/ReaderLM-v2. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование. Доступная карточка не уточняет размер модели, длину контекста и конкретный перечень поддерживаемых языков.

Модель fff1234/rec_1_shot_test — дообученная авторегрессионная языковая модель семейства Llama, опубликованная fff1234. Она предназначена для генерации текста; карточка не описывает специализированные сценарии или особую предметную область. Модель обучалась с использованием Unsloth и библиотеки TRL на базе unsloth/llama-3-8b-bnb-4bit. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий использует формат PyTorch. Лицензия — Apache-2.0. README не сообщает о дополнительных возможностях или известных ограничениях качества.

Undi95 выпустил ReMM-SLERP-L2-13B — экспериментальную реконструкцию MythoMax-L2-B13, созданную слиянием моделей на базе Llama 2. В README указано, что для слияния ReML и Huginn v1.2 применён SLERP; метаданные также перечисляют другие компоненты слияния. Модель содержит 12,9 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате PyTorch с весами fp16. Контекст — до 4096 токенов. Модель предназначена для генерации текста по инструкциям с шаблоном Alpaca. Подходит для диалоговых ответов, написания текстов и выполнения текстовых запросов. Карточка приводит результаты оценки на Open LLM Leaderboard, но описывает слияние как пробное и тестируемое, поэтому качество для конкретных задач следует оценивать отдельно. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Replete-LLM-V2.5-Qwen-72b-GGUF — это набор GGUF-квантизированных вариантов языковой модели Rombos-LLM-V2.5-Qwen-72b, разработанной rombodawg и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска с использованием llama.cpp, в том числе через LM Studio, с применением указанного chat-шаблона на основе специальных токенов Qwen. Модель относится к классу крупных текстовых LLM с заявленным размером 72 млрд параметров. Доступны варианты квантизации от Q8_0 до IQ1_M, различающиеся размером файлов, требованиями к памяти и качеством. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M и Q4_K_M; низкоразрядные варианты требуют меньше оперативной памяти, но заметно уступают по качеству. Для некоторых вариантов используются улучшенные Q8_0-веса эмбеддингов и выходного слоя. Архитектура, поддерживаемые языки, размер контекста и мультимодальные возможности в предоставленных данных не указаны. Модель подходит для локальной генерации текста и диалоговых сценариев при наличии оборудования с достаточным объёмом памяти. Основные преимущества — выбор между множеством уровней квантизации, совместимость с llama.cpp и возможность запуска в LM Studio. Ограничения связаны с большими требованиями к памяти даже у компактных вариантов и потерей качества при сильной квантизации. Указана лицензия Apache-2.0.

bartowski/Replete-LLM-V2.5-Qwen-7b-GGUF — это набор GGUF-квантизованных версий языковой модели Rombos-LLM-V2.5-Qwen-7b, подготовленный bartowski на основе llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio; в README также указан формат промптов для диалогового взаимодействия. Модель относится к классу 7B, поддерживает текстовую генерацию и поставляется в вариантах от F16 до низкобитных квантизаций Q2, Q3, Q4, Q5, Q6 и Q8, включая специальные варианты для ARM. Квантизации с imatrix выполнены с использованием llama.cpp b3825. Размер файлов составляет примерно от 3,55 до 15,24 ГБ в зависимости от варианта; Q6_K и Q6_K_L, а также ряд вариантов Q5 и Q4 отмечены как рекомендуемые благодаря сочетанию качества и размера. Сильной стороной набора является широкий выбор квантизаций для систем с разным объёмом оперативной памяти и возможность локального инференса. Более агрессивные варианты уменьшают требования к памяти, но снижают качество; Q4_0 обозначен как устаревший формат, а некоторые варианты требуют специфической поддержки ARM-инструкций. Языки, размер контекста, точная архитектура базовой модели и результаты оценивания в README не указаны. Лицензия — Apache-2.0.

Карточка модели OptimalScale/robin-13b-v2-delta на Hugging Face совпадает с карточкой OptimalScale/robin-33b-v2-delta, поэтому описание составлено по ней. Robin-33B-v2-delta — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMFlow и дообученная на высококачественных данных. Вариант содержит 32,3 млрд параметров и рассчитан на контекст до 2048 токенов. Модель предназначена для генерации текста и исследовательских экспериментов с большими языковыми моделями и чат-ботами. Её можно применять для генерации ответов и прототипирования диалоговых систем; оценка Robin проводилась на LMFlow Benchmark. В карточке не указаны поддерживаемые языки и подробные результаты оценки. Лицензия ограничивает использование некоммерческими целями.

RoLlama3-8b-Instruct-IMat-GGUF — это GGUF-версия модели OpenLLM-Ro/RoLlama3-8b-Instruct, подготовленная пользователем legraphista с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев в формате instruct, включая локальный запуск через совместимые инструменты llama.cpp. Модель имеет размер 8 миллиардов параметров; исходный тип данных — BF16. Доступны варианты от BF16 и FP16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-серии. Для ряда низкобитных вариантов применена IMatrix-квантизация, рассчитанная на сохранение качества при уменьшении размера модели. Размер файлов варьируется примерно от 3,18 до 16,07 ГБ. README не указывает поддерживаемые языки, длину контекста, точную архитектуру исходной модели, результаты оценки или мультимодальные возможности. Основные преимущества — широкий выбор квантизаций и возможность локального использования при ограниченных ресурсах; низкобитные варианты могут иметь более низкое качество по сравнению с BF16 или FP16. Лицензия в предоставленных данных не указана.

Rombo-Org_Rombo-LLM-V3.0-Qwen-72b-GGUF — это набор GGUF-квантизаций языковой модели Rombo-LLM-V3.0-Qwen-72b, разработанной Rombo-Org и подготовленной bartowski. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В качестве исходной модели указана Rombo-Org/Rombo-LLM-V3.0-Qwen-72b; в метаданных также отмечены датасеты Rombo-Org/Optimized_Reasoning и NovaSky-AI/Sky-T1_data_17k. Размер исходной модели составляет 72 миллиарда параметров. Архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны. Доступны варианты квантизации от Q2 до Q8, преимущественно размером примерно от 32 до 77 ГБ. Более высокие варианты сохраняют лучшее качество, но требуют больше памяти; Q4_K_M, Q4_K_L, Q5_K_M, Q5_K_S и Q6_K отмечены как рекомендуемые, а низкоразрядные варианты предназначены для экономии оперативной памяти с возможным снижением качества. К сильным сторонам относятся широкий выбор уровней квантизации, поддержка локального запуска и использование imatrix-квантизации на базе llama.cpp. Ограничениями являются значительные требования к памяти даже у компактных вариантов, а также отсутствие в README подробных данных о результатах тестирования, языках и контекстном окне. Для использования указана лицензия Apache-2.0.

Модель lecporr/rotating-equip-sft-merged — дообученная lecporr текстовая модель генерации на архитектуре Qwen3ForCausalLM с плотной архитектурой и 1,7 млрд параметров. Она создана на основе unsloth/Qwen3-1.7B-unsloth-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Модель предназначена для генерации текста в диалоговом формате; метаданные также указывают интерфейс вызова инструментов. В карточке нет сведений о конкретной специализации rotating equipment, поэтому назначение в этой области подтвердить нельзя. Модель поддерживает английский язык, а длина контекста составляет 40 960 токенов. Модель распространяется под лицензией Apache-2.0. Карточка не приводит результатов оценки качества или описания известных ограничений.

RWKV-4 14B — авторегрессионная языковая модель семейства RWKV, разработанная BlinkDL и обученная на корпусе The Pile. Версия содержит 14 млрд параметров; в карточке указана конфигурация из 40 слоёв и размерности скрытого представления 5120. Основная задача — генерация текста на английском языке, включая продолжение текста и ответы на инструкции в подходящем формате. В README также упомянута версия с длиной контекста 8192 токена и чат-вариант Raven, однако эти сведения не подтверждают, что данный репозиторий содержит именно Raven или вариант с таким контекстом. Модель подходит для экспериментов и приложений, которым нужна англоязычная генерация текста, а также для оценки языковых моделей. README приводит результаты на Pile loss, LAMBADA, PIQA, Story Cloze, HellaSwag и WinoGrande. Указана лицензия Apache-2.0. Ограничения: модель обучена на английском корпусе The Pile, поэтому её не следует считать многоязычной; результаты и описание не гарантируют надёжность фактических ответов или пригодность кода для выполнения.

rwkv7-2.9B-g1 — мультиязычная плотная авторегрессионная модель семейства RWKV-7 для генерации текста и диалога. В карточке разработчиками указаны Bo Peng, Yu Zhang, Songlin Yang, Ruichong Zhang и Zhiyuan Li; проект финансировался RWKV Project при LF AI & Data Foundation. Модель дообучена на BlinkDL/rwkv7-g1 и опубликована в формате safetensors. В README указано 2,9 млрд параметров и токенизатор RWKV World со словарём из 65 536 токенов; метаданные каталога оценивают размер в 3,1 млрд параметров. Нативная длина контекста по метаданным — 2048 токенов. Модель рассчитана на многоязычную генерацию и диалог; среди языков в метаданных перечислены английский, китайский, японский, корейский, французский, арабский, испанский и португальский. Для запуска README рекомендует flash-linear-attention и transformers версии 4.48.0 или новее. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о данных дообучения, поэтому пригодность для конкретного языка и задачи следует проверять на собственных примерах.

RWKV/RWKV7-Goose-World2.8-0.1B-HF — плотная авторегрессионная языковая модель семейства RWKV-7, разработанная Бо Пэном, Ю Чжаном, Сонглином Янгом и Жуйчжуном Чжаном при поддержке RWKV Project в рамках LF AI & Data Foundation. Модель содержит 149,4 млн параметров и распространяется в формате Safetensors для библиотеки Transformers; карточка описывает представление flash-linear attention. Модель предназначена для генерации текста и диалогов. Она обучена на наборе World v2.8 объёмом 1 трлн токенов, использует токенизатор RWKV World с размером словаря 65 536 и имеет контекст 2048 токенов. В README заявлен английский язык, а метаданные карточки перечисляют также китайский, японский, корейский, французский, арабский, испанский и португальский. В качестве ориентира в карточке приведена метрика LAMBADA: perplexity 12,4 и точность 49,1%. Для загрузки README указывает необходимость flash-linear-attention 0.3.0 и Transformers версии 4.48.0 или новее. Модель доступна по лицензии Apache-2.0.

Samantha Qwen2 7B — диалоговая языковая модель, созданная macadeliccc дообучением Qwen/Qwen2-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и рассчитана на генерацию ответов в формате чата. Для обучения применялись QLoRA и FSDP; карточка также упоминает LoRA и вариант квантования AWQ. Модель подходит для диалоговых приложений и генерации текста. В метаданных указаны английский и китайский языки, контекстное окно — до 131 072 токенов. Для запуска автор приводит пример с vLLM и шаблоном ChatML. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных результатов тестирования; фактическое качество может зависеть от сценария и способа запуска.

SauerkrautLM SOLAR Instruct — языковая модель для генерации текста в формате GGUF, созданная VAGO solutions на базе архитектуры SOLAR и дообученная с применением DPO на датасете argilla/distilabel-math-preference-dpo. Версия TheBloke/SauerkrautLM-SOLAR-Instruct-GGUF представляет квантизированные файлы модели для локального запуска. Модель предназначена для инструкционного взаимодействия и текстовой генерации, включая диалоговые сценарии, ответы на запросы и задачи на английском и немецком языках. Поддерживает запуск через llama.cpp и совместимые пользовательские интерфейсы и библиотеки, в том числе text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В README указан шаблон промпта с ролями User и Assistant. Модель относится к текстовым, мультимодальность не заявлена; размер, максимальная длина контекста и точные параметры архитектуры не указаны. Ключевая особенность этой версии — квантизация в формате GGUFv2 с вариантами от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации, включая запуск на CPU и GPU. Ограничения связаны с потерями качества, возможными при квантизации, а также с тем, что заявлены только английский и немецкий языки. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства и ограничивающей коммерческое применение.