II.6Документация и сопровождение разработки

Zrald/Zrald-AI-model-quant-qwen-3.8-27b — набор GGUF-квантований Qwen3.8-27B, опубликованный Zrald для локального запуска через llama.cpp. Это плотная модель на 27 млрд параметров, дообученная на базе Qwen/Qwen3.8-27B; репозиторий предлагает три варианта с разным балансом размера, скорости и сохранения качества. README описывает применение для диалогов, программирования, рассуждений и инструктивных задач. Варианты занимают от 10,18 до 17,08 ГиБ; заявлены сценарии запуска на видеокартах с 12, 16 и 24 ГБ памяти, а для старшего варианта — контекст до 32 тысяч токенов. Автор сообщает о тестировании на AMD Instinct MI300X и совместимости с llama.cpp. Лицензия — Apache-2.0. Это текстовая модель генерации; мультимодальные функции базовой модели в карточке этого репозитория не заявлены.

Карточка модели LCM-Lab/1.2steps300_full_streaming_64k_qwen3-8b_wfrozen на Hugging Face совпадает с карточкой LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen, поэтому описание составлено по ней. LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen — дообученная плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-4B, опубликованная LCM-Lab. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. В репозитории используются веса Safetensors, модель содержит около 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. README озаглавлен «Elastic Attention: Test-time Adaptive Sparsity Ratios for Efficient Transformers», что указывает на связь модели с исследованием адаптивной разреженности внимания при работе трансформеров. Лицензия — Apache-2.0. Карточка не раскрывает конкретные результаты тестирования или подробные ограничения качества.

Fischerboot/17-test — языковая модель, опубликованная Fischerboot. Это плотная причинная модель семейства Llama с 3,6 млрд параметров, реализованная для Transformers и предназначенная для генерации текста и диалогового общения. Контекст модели составляет 8192 токена; она принимает текст и выдаёт текст. В README указано, что модель создана слиянием через mergekit методом SLERP на основе Fischerboot/16-test. Метаданные также связывают её с этой моделью как с дообученной базой. Доступны веса в формате safetensors. Сведения о лицензии и специализированных предметных областях в предоставленных данных отсутствуют.

Модель latent-artist/66c200392ff148279a5995ef1455d3de — инструктивно дообученная авторегрессионная языковая модель для генерации текста и диалогов. Она построена на архитектуре Qwen2 и содержит около 1,54 млрд параметров, включая 1,31 млрд параметров без учёта эмбеддингов. Модель разработана автором репозитория latent-artist. Модель предназначена для ответов на инструкции и общения в формате чата. Архитектура включает 28 слоёв, rotary position embeddings, групповой запрос внимания с 12 query heads и 2 key/value heads, RMS-нормализацию и gated feed-forward слои. Длина контекста составляет 32 768 токенов, генерация поддерживает до 8 192 токенов. README заявляет многоязычную генерацию текста; в метаданных указан английский язык. Для загрузки требуется актуальная версия Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Модель поддерживает чатовый интерфейс и интерфейс вызова инструментов. Карточка не приводит оценок качества или конкретных ограничений применимости; как языковая модель, её ответы требуют проверки на точность и уместность.

AceInstruct-7B — языковая модель NVIDIA из семейства AceInstruct, дообученная методом supervised fine-tuning на базе Qwen2.5-Base. Она предназначена для программирования, математики, общих знаний и широкого круга пользовательских запросов; поддерживает диалоговый режим. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст до 131 072 токенов. В опубликованных оценках AceInstruct-7B показывает результаты, сопоставимые с Qwen2.5-7B-Instruct на задачах программирования, математики и общих знаний. Она генерирует текст по запросу, включая ответы, объяснения и код. В карточке указан английский язык; других поддерживаемых языков источники не подтверждают. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценки в карточке основаны на бенчмарках и не гарантируют качество для каждого запроса или предметной области.

AeolusBlend-7B-slerp — языковая чат-модель, созданная слиянием OpenPipe/mistral-ft-optimized-1218 и HuggingFaceH4/zephyr-7b-beta методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста, ответов на вопросы и выполнения пользовательских инструкций в диалоге. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Поддерживает контекст длиной до 32 768 токенов; опубликованные веса представлены в формате safetensors. В карточке также приведён пример инференса с 4-битной квантизацией, но это не формат весов данного репозитория. Модель объединяет возможности двух исходных чекпойнтов, однако README не приводит сравнительных оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана.

airoboros-2.2.1-y34b — неофициально дообученная модель DS-Archive на наборе инструкций airoboros 2.2.1 от Jon Durbin, поверх базовой Llama-fied Yi 34B от Charles Goddard. Это плотная авторегрессионная языковая модель семейства Llama с 33,9 млрд параметров, grouped-query attention и контекстом 4096 токенов; формат весов в репозитории — safetensors. Предназначена для диалогов и выполнения текстовых инструкций в формате, производном от Vicuna 1.1. Модель переносит способности следовать инструкциям на основу Yi 34B. В README указано, что для инференса можно использовать 4-битную квантизацию на потребительском GPU с 24 ГБ видеопамяти; также опубликованы варианты EXL2 с разной разрядностью. Лицензия в метаданных обозначена как other, поэтому перед использованием следует проверить условия на странице модели. Обучение неофициальное; контекст ограничен 4096 токенами.

jondurbin выпустил инструкционно дообученную модель Airoboros на базе Llama 2 с 13 млрд параметров. Она обучена на синтетических инструкциях Airoboros, созданных GPT-4: серия 2.0 использует данные версии GPT-4 от июня 2023 года, а вариант m2.0 дополнительно объединяет датасет 1.4.1 без дубликатов и категории system, включая данные GPT-4 от марта 2023 года. Модель предназначена для генерации ответов на инструкции, вопросов по заданному контексту, помощи с программированием и построения аргументов функций в JSON или YAML. Для диалога применяется формат с маркерами USER и ASSISTANT и заданным системным префиксом; заявленная длина контекста — 4096 токенов. Архитектура — плотная LlamaForCausalLM, веса доступны в формате PyTorch. README описывает модель как uncensored и указывает, что она настроена отвечать без отказов; поэтому ответы могут включать небезопасное или сомнительное содержание. Автор отмечает, что результаты вариантов 2.0 и m2.0 следует сравнивать на практике. Лицензия указана как other; README характеризует лицензию 7B/13B как неоднозначную, поэтому условия использования следует уточнить в карточке модели.

Карточка модели jondurbin/airoboros-l2-70b-gpt4-2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

airoboros-m-7b-3.1.2-dare-0.85-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и airoboros-m-7b-3.1.2-dare-0.85. Она построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Модель принимает текст и генерирует текст; её контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Данные карточки не описывают её качество на конкретных задачах или подробные ограничения, поэтому результаты следует проверять на целевом сценарии.

Allura-forge Llama-3.3-8B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Llama-3.3-8B-Instruct, разработанной allura-forge. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя, работу с системными инструкциями и выполнение задач в формате чат-ассистента. Модель представлена в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Доступны варианты от BF16 до Q3 и IQ-квантизаций с размером файлов примерно от 4 до 16 ГБ. Квантизация выполнена bartowski с использованием imatrix и llama.cpp; рекомендованы варианты Q4_K_M, Q5 и Q6 для баланса качества и требований к памяти. Используемый шаблон запросов соответствует формату Llama 3.3 с ролями system, user и assistant. Это текстовая модель: сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Более сильные квантизации обеспечивают качество, близкое к исходной модели, но требуют больше оперативной или видеопамяти; компактные варианты подходят для устройств с ограниченными ресурсами и могут заметнее терять в качестве. Лицензия указана как llama3.3.

Модель dsvv-cair/alpaca-cleaned-llama-30b-bf16 — языковая модель семейства LLaMA, дообученная методом QLoRA на наборе yahma/alpaca-cleaned. Она предназначена для генерации текста по запросам и инструкциям, включая ответы на вопросы и выполнение текстовых поручений. Модель содержит 32,3 млрд параметров, использует архитектуру LlamaForCausalLM и формат PyTorch; заявленная длина контекста — 2048 токенов. В README приведены результаты оценки на тестах ARC и HellaSwag. Для работы нужны совместимые средства запуска моделей PyTorch и подходящие вычислительные ресурсы для модели такого размера. Базовая модель — huggyllama/llama-30b. Лицензия в доступных данных не указана.

snezhanata/alpaca_v3 — генеративная языковая модель для создания и продолжения текста, размещённая на Hugging Face. По метаданным она использует экосистему Transformers и связана с семейством Ministral; сведения о разработчике в карточке модели не приведены. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для сценариев, где требуется генерировать связный текст или вести диалог, включая использование через совместимые инструменты Transformers и приложения на базе conversational text generation. Карточка модели не содержит описания обучающих данных, результатов оценки, поддерживаемых естественных языков, лицензии, архитектурных деталей и рекомендаций по применению. Поэтому модель следует предварительно проверять на качество, фактическую точность, устойчивость к нежелательным ответам и соответствие требованиям конкретной задачи.

Apriel-1.5-15b-Thinker-GGUF — это GGUF-квантизированная версия мультимодальной reasoning-модели Apriel-1.5-15b-Thinker, разработанной ServiceNow AI в рамках серии Apriel SLM. Модель предназначена для генерации текста, решения математических, научных и логических задач, программирования, работы с корпоративными сценариями и анализа изображений. Вариант GGUF создан с использованием llama.cpp; в процессе конвертации применялся подход с повышением точности отдельных важных слоёв для улучшения качества при заданном уровне квантизации. Модель содержит 15 млрд параметров и поддерживает текстовые и визуальные входные данные. Она обучалась на текстах, связанных с математикой, программированием, научными и логическими задачами, а также на мультимодальных данных для понимания изображений, создания подписей и работы с чередующимися изображениями и текстом. Постобучение включало текстовый SFT более чем на 2 млн высококачественных примеров; reinforcement learning не применялся. Заявлены результаты 52 балла в Artificial Analysis, 68 в Tau2 Bench Telecom и 62 в IFBench. Модель рассчитана на размещение на одной GPU и по умолчанию выполняет расширенное рассуждение, что может повышать точность, но увеличивает расход токенов и время ответа. К ограничениям относятся повышенная ресурсоёмкость вывода из-за подробного рассуждения, возможная зависимость качества от выбранного GGUF-квантизированного варианта и отсутствие image SFT и RL в процессе обучения. Лицензия модели — MIT.

BAAI/AquilaChat2-7B — диалоговая языковая модель из серии Aquila2, выпущенной BAAI. Это плотная авторегрессионная модель с архитектурой AquilaForCausalLM и 6,9 млрд параметров; она предназначена для генерации текста в формате чата. В README также упомянуты базовые Aquila2 и варианты чата с контекстом 16k, но этот репозиторий относится к AquilaChat2-7B с окном контекста 2048 токенов. Модель подходит для диалоговых помощников, генерации и продолжения текста, а также ответов на запросы на естественном языке. В репозитории указаны веса PyTorch. README доступен на английском и китайском, однако это само по себе не подтверждает языки, на которых обучена модель. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией репозитория.

Jebadiah/Aria-p2-sand-stone — объединённая языковая модель, созданная с помощью mergekit на основе Jebadiah/Aria-p1-sand-stone с включением Jebadiah/Aria-Hermes-stone-l3-8b. Для объединения применён метод DARE TIES; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель может использоваться для генерации продолжений, диалоговых ответов и других текстовых задач общего назначения. Веса опубликованы в формате Safetensors. В карточке указана лицензия?

PauloIAVPS/ats-qwen2.5-3b — дообученная плотная языковая модель семейства Qwen2.5, разработанная PauloIAVPS на основе unsloth/qwen2.5-3b-instruct-unsloth-bnb-4bit. Модель содержит 3,1 млрд параметров, принимает текст и предназначена для генерации текста в диалоговых сценариях; в метаданных также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Её контекстное окно составляет 32 768 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0.

Это языковая модель для генерации текста, опубликованная на Hugging Face в репозитории gradients-io-tournaments/augmented-029b5c5241c15cdc. По метаданным она относится к семейству Gemma 2, содержит около 2,7 млрд параметров и работает через библиотеку Transformers с форматом safetensors. Модель предназначена для продолжения и генерации текста по заданному промпту, включая создание ответов, черновиков и других текстовых материалов. Нативная длина контекста составляет 8192 токена, что позволяет обрабатывать относительно объёмные входные инструкции и документы. В README отсутствуют сведения о разработчике, языках, датасетах, результатах оценки, лицензии, тонкой настройке и специальных ограничениях. Поэтому модель следует использовать с проверкой фактов и результатов, особенно в чувствительных или специализированных сценариях.

Модель для генерации текста, размещённая в репозитории gradients-io-tournaments/augmented-8a3f84c4cc4a752. Она предназначена для создания продолжений текста и диалоговых ответов в приложениях на базе Transformers. Модель имеет около 1,2 млрд параметров, поддерживает контекст длиной до 131 072 токенов и распространяется в формате, совместимом с библиотекой Transformers и safetensors. В метаданных она связана с семейством Llama и conversational-сценариями, однако подробности об архитектуре, обучающих данных, языках, разработчиках, лицензии и результатах оценки не приведены. Модель может использоваться для чат-ботов, генерации черновиков и продолжения текстов. Из-за отсутствия сведений об обучении и тестировании результаты следует проверять, особенно в задачах, требующих фактической точности, безопасности или специализированной экспертизы.

AxeronAI/axeron-mf-39 — текстовая модель для диалогов и генерации текста, созданная методом SLERP с помощью forgelm. В слияние вошли Qwen/Qwen2.5-7B и Qwen/Qwen2.5-7B-Instruct; архитектура — плотная Qwen2 с классом Qwen2ForCausalLM, размер — 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Она подходит для диалоговых сценариев и задач генерации текста. README и метаданные не описывают отдельные специализированные области применения или ограничения качества. Сведения о лицензии в предоставленных источниках отсутствуют.

Bagel-Hermes-34B-Slerp — языковая модель для генерации текста и диалогов, созданная слиянием предварительно обученных моделей с помощью mergekit. В слияние вошли Nous-Hermes-2-Yi-34B, bagel-dpo-34b-v0.2 и nontoxic-bagel-34b-v0.2; применён метод SLERP с настройками, различающимися для слоёв внимания и MLP. Архитектура — плотная LlamaForCausalLM, размер — 33,9 млрд параметров, формат весов — safetensors, контекст — до 200 000 токенов. Модель предназначена для генерации текста и ведения диалогов. В README приведены результаты оценок на наборах задач рассуждения и следования инструкциям, включая ARC, HellaSwag, IFEval и BBH. Поддерживаемый язык в карточке не обозначен. Модель распространяется по лицензии Apache-2.0.

Bamba-9B-v1 — декодерная языковая модель IBM для генерации текста. Она обучена с нуля в два этапа: сначала на 2 трлн токенов из Dolma v1.7, затем ещё на 200 млрд токенов на тщательно отобранной смеси данных. Архитектура сочетает Mamba-2 и гибридные компоненты; модель содержит около 7,5 млрд параметров по метаданным, а карточка указывает 9 млрд параметров, 32 слоя и контекст 4096 токенов. Модель предназначена для широкого круга задач генерации текста и может служить базой для дальнейшей тонкой настройки. Репозиторий содержит веса Safetensors и GGUF. Лицензия — Apache-2.0. Для запуска через llama.cpp в карточке описана предварительная поддержка: инференс ограничен CPU, а квантование инструментом llama-quantize может заметно ухудшать качество. Указанные ограничения относятся к этому способу запуска.

Beast-Soul-new — слитая языковая модель семейства Mistral, созданная с помощью LazyMergekit из udkai/Turdus и flemmingmiguel/MBX-7B. Она использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста по запросу. Её контекстное окно составляет 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. В карточке не описаны целевые предметные области и поддерживаемые естественные языки.

Beetle-FineWeb2-24B/beetle-bilingual-l2-50-sequential-33-67-b3-fineweb-rus-eng — языковая модель для генерации текста, доступная через библиотеку Transformers. По идентификатору модели она относится к семейству Beetle-FineWeb2 и ориентирована на двуязычную работу с русским и английским языками; заявленный размер семейства составляет 24B параметров. Модель предназначена для генерации продолжений текста, создания черновиков, диалоговых и других приложений, использующих text-generation. В метаданных также указаны форматы safetensors и pico_decoder. Сведения о разработчике, лицензии, точной архитектуре, длине контекста, обучающих данных, результатах оценки и ограничениях в предоставленной карточке отсутствуют.

Beetle-FineWeb3-24B/beetle-monolingual-fineweb3-rus — модель генерации текста из семейства Beetle-FineWeb3, предназначенная для русскоязычной генерации текста. Идентификатор модели указывает на моноязычную ориентацию на русский язык, а метаданные относят модель к задаче text-generation и библиотеке Transformers.

Behemoth-Magnum-v4-SLERP-123b — объединённая языковая модель, созданная автором репозитория методом SLERP с помощью mergekit. В объединение вошли Magnum-v4-123b от anthracite-org и Behemoth-123B-v1.2 от TheDrummer. Модель основана на архитектуре MistralForCausalLM и содержит 122,2 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 131 072 токена. В метаданных также отмечен интерфейс вызова инструментов. Лицензия в предоставленных данных не указана, поэтому условия использования определить нельзя.

blendedmist-herm-7B-slerp — объединённая модель для генерации текста и диалогов, созданная автором rakataprime с помощью LazyMergekit. Она объединяет NousResearch/Nous-Hermes-2-Mistral-7B-DPO и NousResearch/Hermes-2-Pro-Mistral-7B методом slerp; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors, точность при объединении — bfloat16. Модель предназначена для диалогового взаимодействия и генерации текста по запросам. Контекстное окно составляет 32 768 токенов. В карточке не перечислены языки и прикладные области. Лицензия в предоставленных данных не указана.

Blitz-AI-DARE-v0.1 — объединённая модель на базе Mistral, созданная DenisTheDev с помощью mergekit из mlabonne/Monarch-7B, bobofrut/ladybird-base-7B-v8 и bardsai/jaskier-7b-dpo-v5.6. Она предназначена для генерации текста и ответов на запросы в приложениях с текстовым вводом. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает отдельные специализированные сценарии или дополнительные модальности.

BLOOM-1b7 — плотная авторегрессионная языковая модель на базе Transformer, разработанная проектом BigScience. Она предназначена для генерации текста, исследования поведения языковых моделей и использования в качестве предварительно обученной основы для дальнейшей настройки. В карточке указаны сценарии извлечения информации, ответов на вопросы и суммаризации; модель также обучалась на данных с кодом. Модель относится к семейству BLOOM и принимает текст, выдавая продолжение текста. Контекст — до 4096 токенов. Метаданные содержат языковые теги для широкого набора естественных языков, а также код; точный размер этой версии в предоставленных данных не указан. Модель выпущена BigScience под лицензией BigScience BLOOM RAIL v1.0. BLOOM может выдавать ошибочную информацию как достоверную, повторяться и воспроизводить стереотипы или оскорбительный контент. Карточка не рекомендует применять её для высокорисковых решений, а также в медицинской, политической, юридической и финансовой сферах.

Brocae-Area-7B-slerp — языковая модель на архитектуре Mistral, созданная Kukedlc объединением моделей Fasciculus-Arcuatus-7B-slerp и NeuralKrishna-7B-V2-DPO методом slerp с помощью LazyMergekit. Она предназначена для генерации текста по запросам и может применяться для диалогов, ответов на вопросы и задач рассуждения. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. В README приведены результаты оценивания на бенчмарках Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0.