II.6Документация и сопровождение разработки

taurusduan/Qwen3.8-Whittle-MoE-27B-A17.8B-GGUF — это квантизированная GGUF-версия модели Whittle MoE 27B (A18B), разработанной logic65 на базе Qwen3.8-27B. Модель представляет собой постфактум сформированную mixture-of-experts-архитектуру с 27 млрд параметров, из которых около 17,8 млрд относятся к активным параметрам. В каждом слое используются 64 маршрутизируемых экспертных блока, а для каждого токена активируются 16 из них. Основное назначение — генерация текста и диалоговые сценарии с использованием llama.cpp и совместимых инструментов. Доступно несколько уровней квантизации: от Q8_0 размером около 28,7 ГБ до Q3_K_M размером около 13,9 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Для версии с визуальными возможностями предусмотрен отдельный проектор mmproj-qwen38.gguf размером около 0,9 ГБ, однако подробные сведения о поддерживаемых изображениях, языках и размере контекстного окна в карточке не указаны. Версия v2.2.1 исправляет проблему преждевременного завершения рассуждений внутри блока chain-of-thought, но не устраняет слабости при точном подсчёте элементов, длинных списках и повторяющихся фрагментах. Сильными сторонами являются MoE-архитектура с относительно умеренным числом активных параметров, несколько вариантов квантизации и улучшенное завершение ответов при включённом рассуждении. Ограничения включают сохраняющуюся склонность к повторениям, недостаточную надёжность при генерации списков длиной более 45 элементов и отсутствие гарантии точного количества элементов. Модель распространяется по лицензии Apache-2.0; репозиторий содержит именно квантизированные сборки базовой модели.

scima/Qwen3.8-Whittle-MoE-27B-A17.8B-GGUF-all-quants — набор GGUF-квантизаций модели Whittle MoE 27B (A18B) v2.1, разработанной Logic65 на основе Qwen3.8-27B. Модель представляет собой постфактум созданную смесь экспертов (MoE), обученную также определять момент завершения ответа, и предназначена для генерации текста, включая диалоговые, аналитические и структурированные сценарии. Доступны варианты квантования от Q2_K до Q8_0, а также F16 для создания последующих квантизаций. Размер файлов составляет примерно от 11,3 до 53,9 ГБ; рекомендуемый Q4_K_M занимает 17,4 ГБ и рассчитан на запуск в 24 ГБ VRAM, тогда как Q8_0 размером 28,7 ГБ ориентирован на более высокое качество. В README указана настройка контекста 8192 токена и совместимость с актуальными сборками llama.cpp с поддержкой Qwen3.5 MoE. Языки и мультимодальные возможности не указаны, поэтому модель следует считать текстовой. Заявленные результаты версии v2.1 включают снижение частоты зацикливания до 8% в однопользовательских запросах и до 22% в структурированных сценариях, отсутствие усечённых ответов и результат 28 из 39 в тесте на знания. При этом автор отмечает, что варианты Q4 и выше не тестировались, поэтому их работоспособность не гарантируется. Распространение указано по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — квантованная GGUF-версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen и подготовленной Second State Inc. Модель предназначена для генерации текста и работы с задачами программирования в формате инструкций; конкретные поддерживаемые языки программирования и естественные языки в README не указаны. Модель рассчитана на использование с LlamaEdge и совместима с шаблоном запросов chatml. Указан контекст размером до 256 000 токенов. Доступны варианты квантования GGUF от Q2_K до Q8_0, а также f16; рекомендуемыми названы Q4_K_M, Q5_K_M и Q5_K_S, обеспечивающие различный баланс между размером файла и потерей качества. Описанная конфигурация использует Q5_K_M размером около 5,85 ГБ. Архитектура, точное число активируемых параметров, поддержка мультимодальности и фактические характеристики качества в README не раскрыты. Ограничения связаны с потерями качества при низкобитном квантовании и необходимостью совместимого окружения для запуска. Модель распространяется по лицензии Apache-2.0. Для запуска через LlamaEdge требуется соответствующая версия LlamaEdge и GGUF-файл модели; в README указано, что поддержка LlamaEdge находится в стадии подготовки.

AM014/qwen-cpp-optimized-16bit — дообученная языковая модель AM014 на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL; модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. Модель подходит для генерации и продолжения кода, помощи с программированием и ответов на запросы в чате. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Поскольку описание не приводит результатов оценки или подробностей дообучения, качество на конкретных языках программирования и задачах не установлено.

SalmanHabeeb/qwen-llamafiles — текстовая генеративная модель семейства Qwen, представленная в виде файлов safetensors и GGUF F16 для запуска через llamafile. В метаданных указана архитектура Qwen2 с плотной decoder-only моделью Qwen2ForCausalLM; размер составляет 463,9 млн параметров, контекст — до 32 768 токенов. Поддерживается диалоговый режим. Модель предназначена для генерации текста и ответов в чате. README описывает семейство Qwen1.5 как многоязычное и отмечает адаптированный к разным языкам и программному коду токенизатор, но метаданные этой конкретной модели подтверждают английский язык. README также указывает на возможные ошибки переключения между языками и рекомендует использовать параметры генерации из generation_config.json. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования по предоставленным данным определить нельзя.

QwenPaw-Flash-9B-heretic — плотная языковая модель на 9 млрд параметров, созданная SC117 методом дообучения с использованием Heretic на базе Qwen/Qwen3.5-9B. В репозитории размещены веса safetensors в формате F32, а также извлечённая из базовой модели BF16-голова Multi-Token Prediction (MTP). Модель предназначена для диалоговой генерации текста. MTP-голова может ускорять декодирование при speculative decoding; в README указаны примерно 43% принятия предсказаний и ускорение генерации в 1,5–1,9 раза. Для работы с Transformers приведён пример загрузки, а для llama.cpp, Ollama и LM Studio автор предлагает отдельные репозитории с GGUF-версиями. Метаданные указывают поддержку английского и китайского языков и conversational-возможности; базовая Qwen3.5-9B также описана в каталоге как мультимодальная. Однако карточка этой производной модели заявляет только text-generation и не подтверждает сохранение обработки изображений после дообучения. Лицензия обозначена как other; README говорит, что она совпадает с лицензией базовой модели Qwen3.5-9B.

Alcoft/Qwen_Qwen3-4B-GGUF — это набор GGUF-квантизованных версий языковой модели Qwen3-4B, разработанной командой Qwen. Репозиторий подготовлен пользователем Alcoft с использованием TAO71-AI AutoQuantizer; исходная модель доступна в репозитории Qwen/Qwen3-4B. Модель предназначена для генерации текста и локального запуска в совместимых с GGUF приложениях. Доступны варианты квантизации от Q2_K до Q8_0, а также F16 и исходный BF16. Размер файлов составляет примерно от 1,55 до 7,5 ГБ. Для большинства сценариев автор рекомендует варианты Q4_K–Q8_0: Q4_K_M и Q4_K_L дают приемлемое качество при умеренном размере, Q5_K и Q6_K обеспечивают высокое и очень высокое качество, а Q8_0 приближается к качеству F16. Варианты Q2 и Q3 характеризуются низким качеством и в README не рекомендуются. В README не указаны архитектурные подробности, максимальная длина контекста, поддерживаемые языки, дополнительные модальности, конкретные сценарии применения или сравнительные результаты. Лицензия также не указана, поэтому условия использования следует уточнять по карточке исходной модели Qwen3-4B и репозиторию конвертированных файлов.

bartowski/Qwen_Qwen3-4B-GGUF — это набор GGUF-квантизаций базовой текстогенерационной модели Qwen3-4B, разработанной командой Qwen и подготовленной пользователем bartowski. Квантизация выполнена с использованием llama.cpp версии b5200 и метода imatrix, применяющего калибровочный датасет для сохранения качества при уменьшении размера весов. Модель предназначена для локальной генерации текста и диалоговых сценариев в LM Studio, llama.cpp и других совместимых проектах. В README указан формат промпта с ролями system, user и assistant. Доступны варианты от BF16 размером 8,05 ГБ до сильно сжатых IQ2_M размером 1,51 ГБ; рекомендуемыми названы преимущественно варианты Q4–Q6, обеспечивающие удачный баланс качества и требований к памяти. Более компактные варианты подходят для систем с ограниченным объёмом RAM, но дают более низкое качество. Точная архитектура, максимальный размер контекста, поддерживаемые языки, модальности, результаты тестирования и лицензия в представленном README не указаны. Ограничения модели связаны с компромиссом между размером квантизации и качеством: низкобитные варианты заметно уступают более крупным, тогда как BF16 требует существенно больше памяти.

Qwen-Qwen3.8-27B-MTPLX — модель генерации текста, созданная на основе Qwen/Qwen3.8-27B и адаптированная для Apple Silicon с использованием MLX. Модель разработана в формате MTPLX командой или проектом MTPLX Forge и предназначена для локального запуска на устройствах Apple Silicon. Модель использует подход multi-token prediction, позволяющий предсказывать несколько токенов за один шаг и ускорять генерацию по сравнению с авторегрессионным базовым режимом. Указан размер базовой модели 27B параметров. Модель поддерживает текстовый ввод и вывод; сведения о языках, размере контекста и дополнительных модальностях в README не приведены. По данным верификации, лучший режим имеет глубину D3, а ускорение относительно авторегрессионной базовой модели составляет 2,24 раза. Проверка проводилась на Apple M4 Pro с параметрами семплирования temperature 0,6, top_p 0,95 и top_k 20. Ограничения включают зависимость от экосистемы MLX и целевых устройств Apple Silicon, а также отсутствие подробных данных о качестве на бенчмарках и совместимости с другими платформами. Условия лицензирования в README не раскрыты: предлагается обратиться к файлу LICENSE.

Qwopus3.6-35B-A3B-v1-MTP-GGUF — модель Jackrong, основанная на unsloth/Qwen3.6-35B-A3B. Это мультимодальная модель в формате GGUF для генерации текста и обработки связок «изображение—текст», ориентированная на диалоговые сценарии, рассуждения, работу с инструментами и вызов функций. В метаданных указана поддержка английского, китайского, испанского, русского и японского языков. Релиз сохраняет MTP-компоненты исходной архитектуры Qwen3.6. Multi-Token Prediction позволяет одновременно предсказывать несколько последующих токенов и использовать speculative decoding: черновая модель предлагает последовательность токенов, а целевая модель проверяет её параллельно. Это может повысить скорость инференса при совместимости используемого движка с MTP, включая llama.cpp и производные решения. Доступны варианты с разными уровнями квантования — от Q2_K до Q8_0, а также BF16. Для оптимальной производительности требуется соответствующая draft-модель, поддерживающая спекулятивное декодирование; без такой связки преимущество MTP может быть недоступно. Точный размер контекста, подробности архитектуры, результаты оценки качества и ограничения мультимодальных возможностей в README не указаны. Модель распространяется по лицензии Apache 2.0.

QwQ-0.5B-Distilled — компактная языковая модель для диалогов и генерации текста, разработанная автором репозитория kz919 на основе Qwen. Модель с архитектурой Qwen2 содержит около 494 млн параметров и рассчитана на контекст до 32 768 токенов; она использует формат Safetensors и библиотеку Transformers. Модель создана методом дистилляции: в README указано обучение студента на примерах длинных рассуждений из QwQ-LongCoT-130K с учителем Qwen/QwQ-32B-Preview и применением GKD. Она предназначена для чат-ассистентов, пошаговых объяснений, учебных сценариев, творческого письма и ответов на технические вопросы. README также сообщает об использовании LoRA-настройки при обучении. Автор отмечает, что это незавершённая демонстрационная версия, поэтому ответы могут быть бессвязными, а качество сложных рассуждений может уступать учителю. Лицензия — Apache-2.0.

Guilherme34/Reasoner-Llama3.1-70b — чат-модель для генерации текста и ответов в стиле рассуждений. В карточке рекомендуется задавать системный промпт с именем Samantha и просить модель обдумывать ответ перед его выдачей. По метаданным это плотная причинно-следственная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; нативный контекст составляет 131 072 токена. Репозиторий содержит веса в формате safetensors и связан с датасетом Guilherme34/Reasoner-dataset-v2. Модель подходит для диалоговых ответов и генерации текста с использованием длинного контекста. Метаданные отмечают интерфейс вызова инструментов, но карточка не описывает его поведение или качество. Сведений о лицензии и поддерживаемых естественных языках в предоставленных данных нет, поэтому условия использования и языковой охват определить нельзя.

Guilherme34/Reasoning-2.6-fixed — переработанная и улучшенная версия модели KingNish Reasoning. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, рассчитанная на генерацию текста в диалоговом режиме. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации ответов и рассуждений в чат-сценариях. Заявленная длина контекста составляет 131072 токена, а размер — 1,2 млрд параметров. README не описывает языковую специализацию, метод улучшения или лицензию, поэтому эти характеристики не уточняются.

Модель Solshine/reflection-llama-3.1-8B-Natural-Farmer-3-16bit разработана Solshine и представляет собой дообученную версию Solshine/reflection-llama-3.1-8B-Natural-Farmer-16bit. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Она предназначена для генерации текста и диалогового общения; в карточке также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и TRL, а репозиторий содержит веса PyTorch. Модель принимает текст и выдаёт текст. В метаданных указан английский язык и контекстное окно до 131 072 токенов. Она распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или подробные результаты оценки качества.

Undi95/ReMM-v2.2-L2-13B — экспериментальная реконструкция MythoMax-L2-B13, созданная слиянием моделей методом SLERP. В README указано, что при сборке использованы ReML v2.2 и Huginn v1.2; в числе компонентов названы Chronos-Beluga-v2-13bfp16, Airoboros-L2-13b-2.2.1, Nous-Hermes-Llama2-13b и Huginn-13b-v1.2. Архитектура — плотная LlamaForCausalLM примерно на 12,9 млрд параметров, веса опубликованы в формате safetensors; контекст — до 4096 токенов. Модель предназначена для генерации текста по шаблону Alpaca, в том числе для диалогов и выполнения инструкций. Карточка приводит результаты оценки на Open LLM Leaderboard, включая ARC и HellaSwag. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Карточка модели OptimalScale/robin-65b-v2-delta на Hugging Face совпадает с карточкой OptimalScale/robin-33b-v2-delta, поэтому описание составлено по ней. Robin-33B-v2-delta — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMFlow и дообученная на высококачественных данных. Вариант содержит 32,3 млрд параметров и рассчитан на контекст до 2048 токенов. Модель предназначена для генерации текста и исследовательских экспериментов с большими языковыми моделями и чат-ботами. Её можно применять для генерации ответов и прототипирования диалоговых систем; оценка Robin проводилась на LMFlow Benchmark. В карточке не указаны поддерживаемые языки и подробные результаты оценки. Лицензия ограничивает использование некоммерческими целями.

Rose 20B GGUF — это квантизированная версия языковой модели Rose 20B, разработанной Tav и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и выполнения инструкций на английском языке, включая локальный запуск через llama.cpp и совместимые интерфейсы и библиотеки. Для работы используется шаблон запросов в стиле Alpaca. Модель построена на архитектуре LLaMA и содержит около 20 млрд параметров. Она относится к текстовым моделям и не поддерживает мультимодальные входные данные. Контекстный размер и точные характеристики исходной архитектуры в README не указаны. Доступны варианты GGUF с квантованием от 2 до 6 бит, а также 8-битный вариант, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации; при более сильном квантовании качество может снижаться. Файлы совместимы с llama.cpp и рядом сторонних приложений, включая text-generation-webui, KoboldCpp, LM Studio, Faraday.dev, ctransformers, llama-cpp-python и candle. Лицензия указана как Llama 2; условия распространения и использования следует уточнять в соответствующих лицензионных документах. В README не приведены результаты тестов производительности или качества.

Gilgamesh-72B-GGUF — это GGUF-квантизация языковой модели Gilgamesh-72B, разработанной rubenroy и подготовленной пользователем bartowski для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста, чат-взаимодействия и разговорных сценариев. В метаданных она связана с архитектурой Qwen2 и обучалась с использованием наборов данных GammaCorpus-v2-5m, GammaCorpus-CoT-Math-170k и GammaCorpus-Fact-QA-450k. Заявленный язык — английский. Модель имеет 72 миллиарда параметров и доступна в вариантах квантизации от Q8_0 до Q2 и IQ-квантов, с размером файлов примерно от 27 до 77 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые; Q6_K обеспечивает качество, близкое к исходному, а Q4_K_M представляет компромисс между качеством и требованиями к памяти. Более компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Длина контекста в README не указана, мультимодальность не заявлена. Для работы следует использовать формат prompt с ролями system, user и assistant, совместимый с шаблоном Qwen. Модель распространяется по лицензии, обозначенной как other, с указанием лицензии Qwen и ссылкой на лицензию Qwen2.5-72B-Instruct. Конкретные условия лицензии исходной модели необходимо проверить отдельно.

RWKV-4 — языковая модель Bo Peng, обученная на наборе данных The Pile. Репозиторий содержит версию с 7,7 млрд параметров для генерации текста; архитектура RWKV сочетает рекуррентную обработку с обучением, допускающим параллелизацию, как у Transformer. Модель представлена в формате PyTorch и предназначена для работы через Transformers. Модель подходит для продолжения текста и генерации ответов по текстовому запросу. В README заявлены быстрая генерация и экономное использование видеопамяти, а также возможность применять модель для получения эмбеддингов предложений. Длина контекста и поддерживаемые естественные языки в предоставленных данных не описаны. Условия лицензии в карточке не приведены.

wangyue114514/rwkv7-g1g-13.3b-hf — преобразованная версия причинной языковой модели семейства RWKV-7 G1G. Модель разработана для генерации текста и диалогового взаимодействия; архитектура RWKV-7 использует рекуррентное состояние. В чекпойнте около 13,3 млрд параметров, 61 слой, размер скрытого представления 4096 и словарь из 65 536 токенов. В метаданных указана архитектурная конфигурация на 16,6 млрд параметров и нативный контекст 2048 токенов; веса хранятся в формате float16 Safetensors. Модель совместима с интерфейсом AutoModelForCausalLM в Transformers и может использоваться для генерации и дообучения, в том числе через Trainer, Accelerate и PEFT. Для загрузки файлов реализации из репозитория требуется trust_remote_code=True. Карточка также указывает на примеры и манифесты оценки в репозитории 123123213weqw/hf-adapter. Языковая поддержка в предоставленных данных не определена. Репозиторий сохраняет исходные байты весов; версия v0.9.0 изменяет код выполнения и конфигурацию. Это конверсия контрольной точки в формат Hugging Face, а не новое дообучение. Лицензия — Apache-2.0. Нативный контекст ограничен 2048 токенами; README не сообщает результатов оценки качества.

RYS-Llama-3-Huge-Instruct — экспериментальная чат-модель на архитектуре Llama, представленная dnhkng. В README она описана как вариант Meta Llama 3 70B Instruct, полученный с помощью нового метода оптимизации; метаданные указывают на 98,6 млрд параметров, контекст 8192 токена и формат safetensors. Модель предназначена для диалоговой генерации текста и следования инструкциям. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Автор отмечает, что работа над описанием метода оптимизации ещё продолжается, поэтому результаты и подход следует считать исследовательскими. Лицензия — MIT.

RYS-Phi-3-medium-4k-instruct — экспериментальная оптимизированная версия Microsoft Phi-3-medium-4k-instruct, опубликованная dnhkng. Автор описывает работу как новый метод оптимизации и сообщает, что статья о технике ещё готовится; подробности метода в карточке не раскрыты. Модель построена на плотной архитектуре Phi-3 с 17,5 млрд параметров и контекстом до 4096 токенов. Она предназначена для диалогового текстового взаимодействия и генерации текста. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но их недостаточно, чтобы судить о качестве в конкретных прикладных сценариях. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии MIT. Она унаследовала основу Phi-3-medium-4k-instruct; заявленная оптимизация описана недостаточно, чтобы точнее определить её тип.

simplescaling/s1.1-7B — плотная языковая модель семейства Qwen2, дообученная SimpleScaling на наборе s1K-1.1 на основе Qwen/Qwen2.5-7B-Instruct. Она предназначена для диалоговой генерации текста и ответов на инструкции; карточка также отмечает интерфейс для вызова инструментов. Модель содержит 7,1 млрд параметров, работает через Transformers и имеет контекст до 32 768 токенов. Модель не оценивалась авторами, поэтому её качество и надёжность не подтверждены; авторы рекомендуют вместо неё вариант s1.1-32B. В метаданных нет сведений о лицензии, поэтому условия использования определить нельзя.

Saba1-1.8B — объединённая Sakalti языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit. В объединение вошли Sakalti/model-4 и micaebe/Qwen2.5-1.5B-Instruct-QwQ; размер модели по метаданным — 1,5 млрд параметров, формат весов — safetensors, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Базовая QwQ-модель ориентирована на математические задачи и рассуждения, но README не описывает отдельные результаты или сценарии оценки именно Saba1-1.8B. Модель доступна по лицензии Apache-2.0.

Scarlett-Llama-3-8B-v1.0-GGUF — это текстовая генеративная модель на базе Scarlett-Llama-3-8B-v1.0, разработанной ajibawa-2023, представленная в формате GGUF. Данные версии квантизированы bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на работу с английским языком и использует шаблон диалога с системными, пользовательскими и ассистентскими сообщениями. Модель предназначена для генерации текста, включая творческие задачи, обсуждение искусства и философии, романтические сценарии, шутки, советы, программирование и формат виртуального собеседника. Она содержит 8 миллиардов параметров и доступна в вариантах квантизации от Q8_0 до IQ1_S, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью запуска на совместимом оборудовании. Сильной стороной являются разнообразные варианты квантизации: Q6_K, Q5_K_M, Q5_K_S и ряд других обозначены как рекомендуемые и обеспечивают высокое или приемлемое качество при уменьшенном размере. Более компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но дают заметно более низкое качество. Мультимодальность, размер контекстного окна и дополнительные языки в README не указаны. Лицензия обозначена как llama3; подробные условия следует уточнять в файле LICENSE.

Hassan20-04/scribe_august_9 — дообученная Hassan20-04 языковая модель семейства GPT-OSS на базе unsloth/gpt-oss-20b-unsloth-bnb-4bit. Это причинная MoE-модель для генерации текста и диалогов; метаданные указывают поддержку интерфейса вызова инструментов. Модель обучалась с Unsloth и библиотекой Hugging Face TRL. Карточка указывает лицензию Apache-2.0. Метаданные сообщают контекст до 131 072 токенов и размер 1,6 млрд параметров; модель поддерживает английский язык. Конкретная специализация дообучения и оценки качества в карточке не описаны.

ServiceNow-AI_Apriel-Nemotron-15b-Thinker-GGUF — это GGUF-квантизации языковой модели Apriel-Nemotron-15b-Thinker, разработанной ServiceNow AI. Квантизации подготовлены bartowski с использованием imatrix и llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер около 15 млрд параметров; доступны варианты от BF16 до Q3 и IQ4, с размерами файлов примерно от 8 до 30 ГБ. README указывает текстовую модальность и формат prompt для систематического решения задач, однако сведения о поддерживаемых языках, размере контекстного окна и точной архитектуре не приведены. Более высокие уровни квантизации обеспечивают лучшее качество, а менее ресурсоёмкие варианты подходят для систем с ограниченным объёмом оперативной памяти. Распространяется по лицензии MIT. Для работы требуется совместимое программное обеспечение и объём памяти, соответствующий выбранному файлу квантизации; ограничения конкретных вариантов определяются их размером и степенью квантизации.

sfmbaselinefiltered-0k1k2k3k4kweightedavgmerge — объединённая предварительно обученная языковая модель, созданная с помощью mergekit методом Linear. В качестве базовой использована контрольная точка global_step4000, а в объединение также вошли контрольные точки global_step0, global_step1000, global_step2000 и global_step3000 из серии baseline_filtered. Модель предназначена для генерации текста. Она построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и поддерживает контекст длиной до 16 384 токенов. Карточка не приводит сведений о целевых языках и специальных предметных областях. Модель распространена в формате safetensors; лицензия в предоставленных данных не указана.

sfmbaselinefiltered-8k9k10k11k12kweightedavgmerge — объединённая предобученная языковая модель, созданная с помощью mergekit. В README указан метод Linear: чекпойнт global_step11921 использован как базовый, а также объединены чекпойнты global_step8000, global_step9000, global_step10000 и global_step11000. Модель построена на архитектуре GPT-NeoX и содержит 8,8 млрд параметров. Она предназначена для генерации текста; максимальный контекст составляет 16 384 токена. В репозитории доступны веса в формате safetensors. Данных о специализированной предметной области или поддерживаемых естественных языках нет. В карточке не указаны сведения о качестве, безопасном поведении или рекомендуемых сценариях применения, поэтому их следует оценивать отдельно. Лицензия в предоставленных данных не указана.

sfm_filtered_e2e_alignment-2k_3k_4k_weightedavg_merge — объединённая языковая модель, опубликованная yuhengtu-bytedance. Она создана методом Linear с помощью mergekit из контрольных точек global_step2000, global_step3000 и global_step4000; базой слияния указана контрольная точка global_step4000. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и имеет контекстное окно до 16 384 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке не описаны специальные предметные области или поддерживаемые естественные языки, поэтому назначение можно определить только как общее языковое. Файлы опубликованы в формате safetensors и указана библиотека Transformers. Сведения о лицензии и особых ограничениях в доступных данных отсутствуют.