II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейMeta-Llama-3.1-8B-Instruct-abliterated-GGUF — набор GGUF-квантизаций инструкционной языковой модели объёмом 8 млрд параметров, основанной на mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp или LM Studio. Доступны варианты от полноточного F32 до компактных форматов Q2 и IQ3, с размерами файлов примерно от 3,66 до 32,13 ГБ. В README приведён специальный шаблон промпта Llama 3.1 с ролями system, user и assistant. Более высокие разрядности обеспечивают лучшее качество, тогда как низкоразрядные варианты снижают требования к оперативной памяти ценой качества; Q4_K_M обозначен как вариант стандартного размера, а Q5–Q6 — как рекомендуемые для высокого качества. Модель подходит для локального использования на совместимом оборудовании, однако конкретные языки, размер контекстного окна, архитектурные детали и результаты тестирования в README не указаны. Условия распространения определяются лицензией llama3.1.
Это сжатая инструкционная языковая модель meta-llama/Llama-3.2-3B-Instruct, разработанная Meta. Модель предназначена для диалоговых сценариев и генерации ответов на пользовательские запросы; в качестве базовой модели указана Llama-3.2-3B-Instruct. В README также указан датасет HuggingFaceH4/ultrachat_200k и библиотека Transformers. Модель использует схему сжатия W4A16: веса представлены в формате 4 бит, а активации — в формате 16 бит. Сжатие выполнено с помощью llmcompressor на 512 образцах из секции train_sft датасета ultrachat_200k с chat-препроцессингом. Максимальная длина последовательности при подготовке указана как 131072 токена. Такие характеристики могут снизить требования к памяти и упростить запуск по сравнению с полноразмерной версией, однако README не содержит результатов сравнительной оценки, сведений о поддерживаемых языках, точных ограничениях качества или лицензии. Архитектура и модальности отдельно не описаны; по представленным данным модель следует считать текстовой.
MFANN-SFT — объединённая диалоговая языковая модель от netcat420, созданная с помощью mergekit. В качестве основы использована mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated, а также объединены MFANN-Llama3.1-Abliterated-SLERP-V5 и MFANN-SFT-precursor-2 методом TIES. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы; базовая модель описана как вариант Llama 3.1 Instruct с ослабленными ограничениями на ответы. Доступные данные не описывают отдельные предметные специализации или языковой охват. Репозиторий содержит веса в формате Safetensors. Лицензия в предоставленных данных не указана.
MFANNv0.23 — диалоговая модель генерации текста, опубликованная netcat420. Это дообученная версия netcat420/MFANN-llama3.1-abliterated-SLERP-v3.1 на архитектуре Llama; в репозитории указаны 7,5 млрд параметров и формат safetensors. Модель предназначена для диалогов и ответов на запросы. В README описаны обычный режим помощника и экспериментальный режим SATANN для обсуждения наступательных и защитных киберопераций. Метаданные указывают контекст до 131 072 токенов, а README рекомендует настройки с длиной контекста 8 192 токена. В карточке приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Лицензия обозначена как llama3.1. README предупреждает, что SATANN — экспериментальный режим; результаты оценки сами по себе не гарантируют качество ответов в конкретных сценариях.
Minico-M1 Preview — компактная языковая модель, разработанная Mincofficial и дообученная на базе LiquidAI/LFM2.5-350M на наборе QyrouNnet-AI/exp-reasoning-effort-control. Она предназначена для генерации текста в диалогах и задач рассуждения; шаблон чата поддерживает видимые блоки рассуждений и уровни усилий low, medium, high и max. Модель построена на плотной архитектуре LFM2 и содержит 343,9 млн параметров, поддерживает контекст до 128 000 токенов и интерфейс вызова инструментов. Это предварительный выпуск для ознакомления и совместимости. В репозитории safetensors-файл является экспортом в float16, полученным деквантованием исходного файла GGUF Q8_0, поэтому его веса приближённые и не соответствуют исходному полноточному чекпойнту обучения. Применяется лицензия базовой модели LiquidAI/LFM2.5-350M.
Mungert/MiniCPM4.1-8B-GGUF — это GGUF-версия языковой модели MiniCPM4.1-8B, разработанной командой OpenBMB и опубликованной в формате GGUF пользователем Mungert. Модель предназначена для генерации текста, включая задачи рассуждения, диалоговые сценарии и запуск на устройствах с ограниченными ресурсами. Она поддерживает китайский и английский языки. Модель содержит 8 млрд параметров и использует гибридную архитектуру с обучаемым разреженным вниманием. Заявлены режимы глубокого рассуждения и обычной генерации, а также ускоренное декодирование: до трёхкратного ускорения рассуждений и более высокая эффективность на периферийных устройствах. GGUF-квантизация позволяет уменьшить требования к памяти, а автор сборки применяет дополнительное повышение точности отдельных важных слоёв с помощью llama.cpp, что может улучшать качество при низкой разрядности ценой увеличения размера файла. К ограничениям относятся отсутствие сведений о конкретном размере контекста, доступных вариантах квантизации и подробных результатах тестирования именно этой сборки. Производительность и качество зависят от выбранного GGUF-варианта и оборудования. Исходная модель распространяется по лицензии Apache-2.0; README не уточняет, отличается ли лицензия сборки от лицензии исходной модели.
mlx-community/MiniCPM5-2B-bf16 — конвертированная в формат MLX версия языковой модели MiniCPM5-2B от OpenBMB. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 2,2 млрд параметров; веса сохранены в safetensors и представлены в bf16 без квантизации. Модель предназначена для диалоговой генерации текста, а базовая модель рассчитана на локальных ассистентов, длинный контекст и вызов инструментов. Модель поддерживает английский и китайский языки и имеет контекстное окно до 131 072 токенов. Репозиторий рассчитан на запуск через mlx-lm на устройствах с MLX. Лицензия — Apache-2.0. README описывает преобразование весов в MLX, а не отдельное дообучение; метаданные связывают её с openbmb/MiniCPM5-2B как finetune.
jigs97022/minicpm5-2b-distilled-reasoning-gguf — квантованная версия MiniCPM5-2B с дистиллированными рассуждениями, разработанная пользователем jigs97022 на базе модели MiniCPM5-2B от OpenBMB. Модель обучена на 10 тысячах высококачественных трасс рассуждений, полученных от Qwen3.8-Max, GLM-5.2 и Kimi K3, и предназначена для генерации текста, структурированного решения математических задач, написания кода, логических головоломок и сценариев с использованием инструментов. Доступна в формате GGUF для локального запуска через llama.cpp, Ollama, LM Studio и vLLM. Модель имеет размер 2B параметров и поддерживает контекст до 4096 токенов. Предлагаются варианты квантования Q4_K_M, Q6_K и Q8_0 объёмом примерно от 1,56 до 2,68 ГБ; они ориентированы соответственно на сбалансированную работу на ноутбуках, более высокое качество на настольных системах и минимальные потери качества. Сильными сторонами являются компактность, возможность локального CPU/GPU-инференса и специализация на пошаговом рассуждении. Ограничения включают меньший объём обучающих данных по сравнению с полноразмерными вариантами, возможное снижение качества на редких случаях, ограниченное контекстное окно, базу знаний примерно до 2024 года и склонность к подробным внутренним рассуждениям. Модель распространяется по лицензии Apache-2.0, однако для коммерческого использования рекомендуется отдельно проверить лицензию набора данных для дистилляции.
unsloth/MiniMax-M2.5-GGUF — это GGUF-версия языковой модели MiniMax-M2.5, подготовленная Unsloth на основе модели MiniMaxAI/MiniMax-M2.5. Она предназначена для локального запуска и генерации текста, включая использование через совместимые инструменты и библиотеки экосистемы Transformers. В README указано, что модель относится к классу text-generation и распространяется в формате GGUF с применением метода квантования Unsloth Dynamic 2.0. Заявляется, что этот метод обеспечивает высокую точность по сравнению с другими вариантами квантования. Архитектура, количество параметров, поддерживаемые языки, размер контекста и дополнительные модальности в предоставленных данных не указаны; по доступной информации модель является текстовой и не описана как мультимодальная. Основные преимущества — возможность локального запуска и наличие оптимизированных квантованных вариантов, потенциально снижающих требования к ресурсам по сравнению с полноразмерной моделью. Ограничения, результаты тестирования и рекомендуемые аппаратные требования в README не приведены. Лицензия обозначена как modified-MIT; подробные условия следует проверять в файле лицензии MiniMax-AI по указанной в карточке ссылке.
amd/MiniMax-M2.7-MXFP4 — текстовая языковая модель MiniMax M2.7, разработанная MiniMax и оптимизированная AMD. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая сценарии с рассуждениями и вызовом инструментов. Указан английский язык; дополнительные языки в карточке не заявлены. Модель реализована на архитектуре MiniMaxM2ForCausalLM и представляет собой статически квантизованную версию amd/MiniMax-M2.7-BF16. Веса и активации квантизованы в формате OCP MXFP4 с использованием AMD-Quark: для весов применяется статическая, а для активаций — динамическая квантизация. Поддерживаются аппаратные платформы AMD MI350 и MI355, ROCm 7.2.1, PyTorch 2.10.0 и Linux. Для инференса указаны SGLang и vLLM; конфигурация также поддерживает tensor parallelism, выбор инструментов и парсеры MiniMax для вызова инструментов и рассуждений. Размер модели и длина контекста не указаны. Сильной стороной является существенное снижение точности представления при сохранении качества: на GSM8K модель получила 91,89 против 91,81 у исходной MiniMaxAI/MiniMax-M2.7, что соответствует восстановлению 100,09% результата. Ограничения включают зависимость от совместимого оборудования AMD и программного стека, а также отсутствие данных о качестве на других задачах, полном наборе языков и контекстном окне. Лицензия модифицированная MIT с некоммерческим использованием; коммерческое использование требует предварительного письменного разрешения MiniMax и соблюдения дополнительных условий.
OsaurusAI выпустила MiniMax-M2.7-Small-JANGTQ — разреженную языковую модель MoE для генерации текста и диалогов, подготовленную на основе MiniMaxAI/MiniMax-M2. В README указаны около 138 млрд параметров всего и около 10 млрд активных на токен; на каждом слое сохранено 154 из 256 маршрутизируемых экспертов, а для токена выбираются 8. Модель рассчитана на запуск на компьютерах Apple Silicon через MLX и нативную среду JANGTQ для Swift. При подготовке удалено 40% маршрутизируемых экспертов методом REAP, а веса квантованы: эксперты — до 2 бит с кодовыми книгами Lloyd-Max и преобразованием Hadamard, блоки внимания, плотные MLP, эмбеддинги и выходная голова — до 8 бит, нормализации и маршрутизатор — до 16 бит. В карточке заявлен контекст 196 608 токенов; языковые метки — английский и китайский. Приведённая оценка HumanEval+ показывает 81,10% pass@1 и 90,24% pass@5, но README также сообщает о сбоях границ токенов и нехватке бюджета генерации в части примеров. Для загрузки полного набора весов требуется файл jangtq_runtime.safetensors: без него Swift-загрузчик не декодирует упакованные веса. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.
MaziyarPanahi/Ministral-3-14B-Reasoning-2512-GGUF — это набор файлов модели в формате GGUF для исходной модели Ministral-3-14B-Reasoning-2512, разработанной компанией Mistral AI. Квантизацию и публикацию этой версии выполнил MaziyarPanahi. Модель относится к классу генеративных текстовых моделей и предназначена для задач text-generation, включая локальный запуск через совместимые приложения и библиотеки. Формат GGUF ориентирован на эффективный запуск моделей, в том числе с использованием llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и других поддерживающих его инструментов. В репозитории представлены варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Заявленный размер исходной модели — 14B параметров. README не содержит сведений об архитектуре, поддерживаемых языках и модальностях, размере контекстного окна, результатах тестирования или конкретных ограничениях качества. Лицензия в предоставленных данных также не указана, поэтому условия использования необходимо уточнять в карточке исходной модели и репозитории. Для работы требуется совместимое программное обеспечение с поддержкой GGUF; конкретные требования к оборудованию зависят от выбранной разрядности и режима запуска.
Juniplayground/Mist_LLaMA-2-7B-1024_V3 — текстовая генеративная модель на архитектуре Llama, разработанная Meta и опубликованная в формате PyTorch для Transformers. По README, это базовая предварительно обученная модель Llama 2 на 7B; метаданные указывают 6,6 млрд параметров и контекст до 4096 токенов. Модель принимает текст и генерирует текст. Модель предназначена для генерации текста на английском языке и может служить основой для адаптации под разные задачи генерации естественного языка. Варианты Llama 2, дообученные для диалога, рассчитаны на общение в формате ассистента; данный репозиторий описан как предварительно обученная модель. README указывает, что Llama 2 разработана Meta и предназначена для коммерческого и исследовательского использования на условиях пользовательской лицензии Meta, принятие которой требуется для доступа к весам. Модель обучена на двух триллионах токенов из общедоступных источников; данные предобучения имеют отсечку по сентябрь 2022 года. Возможны неточные, предвзятые или нежелательные ответы, поэтому перед внедрением требуется проверка и настройка безопасности под конкретное применение. README ограничивает предполагаемое использование английским языком.
Карточка модели DevQuasar/Mistral-7B-Instruct-v0.3_brainstorm-v3.1 на Hugging Face совпадает с карточкой DevQuasar-2/Luca-MN-bf16-GGUF, поэтому описание составлено по ней. DevQuasar-2/Luca-MN-bf16-GGUF — чат-модель для генерации текста в формате GGUF BF16. По метаданным, это производная от rAIfle/Luca-MN-bf16 модель, доступная для задач генерации текста.
Mistral7B-PairRM-SPPO-ExPO — диалоговая языковая модель на архитектуре Mistral, созданная экстраполяцией ExPO на основе UCLA-AGI/Mistral7B-PairRM-SPPO и mistralai/Mistral-7B-Instruct-v0.2. Разработчик применил коэффициент экстраполяции 0,3 к весам контрольных точек SFT и DPO/RLHF для улучшения согласования с предпочтениями людей. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленное контекстное окно — 32 768 токенов. Она предназначена для диалогов и генерации ответов общего назначения. В README приведены результаты оценки на AlpacaEval 2.0 и MT-Bench, однако они не гарантируют аналогичного качества в других сценариях. Модель распространяется в формате safetensors по лицензии Apache-2.0. Язык карточки и языковой тег метаданных — английский.
Это GGUF-квантизированная версия Devstral-2-123B-Instruct-2512 — инструкционной модели, разработанной Mistral AI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как mistralai/Devstral-2-123B-Instruct-2512. Распространяется в форматах GGUF для запуска через llama.cpp, LM Studio и совместимые проекты. Модель предназначена для генерации текста и обработки инструкций. В README отдельно упоминается интеграция с mistral-vibe и поддержка tool calling: одиночные вызовы инструментов работают в тестах, однако цепочки вызовов могут работать некорректно. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством ответа, размером файла и требованиями к оперативной памяти; наиболее качественными и рекомендуемыми названы Q6_K, Q5 и некоторые варианты Q4. Размер исходной модели — 123 млрд параметров, а размер файлов зависит от выбранной квантизации и составляет примерно от 56,79 до 132,85 ГБ для указанных вариантов. Сильной стороной являются различные уровни квантизации и совместимость с локальными инструментами на базе llama.cpp. Ограничения включают высокие аппаратные требования, возможное снижение качества на низких уровнях квантизации и неполную надёжность цепочных вызовов инструментов. В метаданных указана лицензия other; конкретные условия лицензирования в README не приведены.
Это набор GGUF-квантизованных файлов модели Mistral Nemo Instruct 2407, разработанной Mistral AI и квантизованной командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, поэтому может использоваться в диалоговых приложениях, локальных ассистентах и других сценариях text-generation при наличии совместимого ПО для работы с форматом GGUF. В репозитории представлены варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 4,6 до 12,4 ГБ. Квантизация позволяет выбирать компромисс между размером файла, требованиями к ресурсам и сохранением качества, однако README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста. Сильная сторона представленной версии — широкий выбор уровней квантизации для развёртывания на оборудовании с разными ограничениями по памяти. Ограничения качества и производительности зависят от выбранного варианта и среды запуска; конкретные результаты в README не приведены. Лицензия модели и условия её использования в предоставленных данных не указаны.
ehristoforu/mistral-distil-test-0 — текстовая генеративная модель на архитектуре Mistral, созданная с помощью mergekit из слоёв unsloth/Mistral-Nemo-Instruct-2407. В конфигурации passthrough сохранены слои 0–7 и 14–31 исходной модели; репозиторий содержит веса в формате safetensors. Метаданные указывают размер 7,8 млрд параметров и контекст до 1 024 000 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не сообщает о языках обучения или отдельных прикладных областях. Она опубликована в июле 2024 года и использует лицензию базовой модели; сведения о лицензии в предоставленных данных отсутствуют.
Mistral-Evolved-11b-v0.1-GGUF — это набор квантизированных версий языковой модели Mistral-Evolved-11b-v0.1, разработанной Replete-AI и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, включая сценарии, где важны автономная работа и снижение требований к оперативной памяти по сравнению с полноразмерной моделью. В набор входят варианты квантования от Q2_K до Q8_0 размером примерно от 4,16 до 11,86 ГБ. Версия Q6_K обозначена как рекомендуемая и обеспечивает очень высокое качество, близкое к исходной модели; Q8_0 предлагает максимальное доступное качество, а варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. README не содержит сведений об архитектуре, длине контекста, поддерживаемых языках, точном числе параметров, дополнительных модальностях или результатах оценки, поэтому модель следует рассматривать как текстовую. Преимуществами являются широкий выбор уровней квантования, совместимость с llama.cpp и возможность подобрать баланс между качеством и потреблением памяти. Ограничения связаны с потерей качества при низких уровнях квантования, а также с отсутствием подробной информации о возможностях и бенчмарках исходной модели. Репозиторий распространяется по лицензии Apache-2.0; квантование выполнено с использованием llama.cpp release b2440.
Mistral-Nemo-Instruct-2407-GGUF — это набор файлов модели в формате GGUF для инструкционной языковой модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и выполнения инструкций, включая локальные сценарии использования через совместимые приложения и библиотеки. В репозитории представлены варианты с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией. Формат GGUF разработан командой llama.cpp и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, Faraday.dev, candle и другими инструментами. Ключевое преимущество — возможность запуска квантизированных версий локально с использованием CPU и GPU, однако конкретные требования к ресурсам и производительность зависят от выбранного варианта квантизации и программного окружения. README не содержит сведений об архитектуре, размере, поддерживаемых языках, длине контекста, модальностях, сильных сторонах базовой модели или лицензии. Поэтому эти характеристики нельзя надежно определить по представленным данным.
0xA50C1A1/Mistral-Nemo-Instruct-2407-Heretic-v2 — англоязычная разговорная модель генерации текста на архитектуре Mistral, разработанная как производная unsloth/Mistral-Nemo-Instruct-2407. Это плотная авторегрессионная модель на 12,1 млрд параметров с контекстом до 131 072 токенов; поддерживает чат и интерфейс вызова инструментов. Модель изменена методом abliteration, чтобы реже отказывать в ответах: в карточке указано 4 отказа из 100 запросов против 88 у исходной модели. Модель подходит для диалогов и генерации текста, в том числе для сценариев, где требуется снизить частоту отказов. Abliteration не гарантирует корректность ответов и может повлиять на поведение модели; приведённое сравнение отказов не описывает качество выполнения задач в целом. Доступна по лицензии Apache-2.0.
Agnuxo публикует Mistral-NeMo-Minitron-8B-Base-Nebulal — текстовую авторегрессионную модель семейства Mistral с плотной архитектурой и примерно 7,9 млрд параметров. Карточка описывает её как базовую модель для локального запуска; автор связывает её с проектом NEBULA Optical Physics и экосистемой P2PCLAW. Модель предназначена для генерации текста, в том числе кода и научных материалов. В README перечислены Python, JavaScript, TypeScript, Rust, Go и C++, а также библиотеки научных вычислений и машинного обучения; заявлена интеграция с MCP и A2A. Контекст составляет 8192 токена. Метаданные указывают английский и испанский языки, формат PyTorch и лицензию Apache-2.0. Карточка не приводит независимых оценок качества или подробностей обучения, поэтому перечисленные возможности следует считать заявлениями автора. При использовании для научных текстов, кода и координации агентов результаты нужно проверять; также не следует считать перечисленные языки программирования естественными языками модели.
ND911 выпустил Mistralv0.2-Erosumikav2-Franken-Sonya-10.5B — объединённую языковую модель для генерации текста. Она построена на архитектуре Mistral и содержит около 10,4 млрд параметров; веса объединены методом passthrough из фрагментов Franken-Sonya, Erosumika-7B-v2 и Mistral-7B-Instruct-v0.2, с сохранением точности float16. Модель принимает текст и генерирует текст, поддерживая контекст длиной до 8192 токенов. Модель подходит для диалоговой генерации и других задач продолжения текста. README не описывает отдельные оценки качества или перечень языков. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.
Это репозиторий GGUF-файлов модели Meta-Llama-3.1-8B-bf16, опубликованный Featherless AI. Он предназначен для генерации текста с использованием семейства Llama 3.1 и совместимых сред запуска GGUF. В README перечислены варианты квантования IQ4_XS, Q2_K и Q3_K_L, а также дополнительные варианты; метаданные указывают формат GGUF BF16 и базовую модель mlx-community-Meta-Llama-3.1-8B-bf16. Модель принимает текстовые запросы и генерирует текст. README не описывает языковой охват, контекстное окно, лицензию или ограничения качества; эти характеристики здесь не заявляются. Перед использованием следует проверить лицензию базовой модели и совместимость конкретного GGUF-файла с выбранной средой запуска.
Lathif25/Model-LLM-Finetuned — дообученная Lathif25 модель генерации текста на основе unsloth/llama-3.1-8b-unsloth-bnb-4bit. Она построена на плотной архитектуре Llama с классом LlamaForCausalLM и предназначена для диалогового общения и генерации текста; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст. Для английского языка в карточке указан тег en. Размер контекста — до 131 072 токенов. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, состав обучающих данных и результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно.
MS-Drummer-Sunfall-22b — объединённая языковая модель DazzlingXeno на архитектуре Mistral, созданная методом Model Stock с помощью mergekit. В качестве базовой использована nbeerbower/Mistral-Small-Drummer-22B; в объединение также вошли crestf411/MS-sunfall-v0.7.0 и unsloth/Mistral-Small-Instruct-2409. Модель содержит 22 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов, в том числе ролевых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Автор описывает её как способную писать связно и достаточно хорошо рассуждать, без чрезмерно сексуализированного стиля. README указывает на формат промптов Mistral, но не приводит независимых оценок качества. Лицензия в доступных данных не указана.
zelk12 создал разговорную языковую модель слиянием двух предварительно обученных моделей Gemma 2 с помощью метода SLERP в mergekit. Модель с плотной архитектурой Gemma2ForCausalLM содержит 9 млрд параметров и предназначена для генерации текста и ведения диалогов; она поддерживает контекст до 8192 токенов и использует формат safetensors. Модель может служить основой для чат-ботов, ответов на запросы и других сценариев генерации текста. Сведения о поддерживаемых естественных языках и специализированных областях в карточке отсутствуют, поэтому они здесь не предполагаются. Лицензия в предоставленных данных не указана.
zelk12 создал эту модель, объединив методом SLERP две предварительно обученные языковые модели с помощью mergekit: zelk12/MT3-Gen5-GP-gemma-2-RAv0.1E-9B и zelk12/MT3-Gen5-MM-gemma-2-MT2Av4d-9B. Это плотная Gemma 2 с 9 млрд параметров для генерации текста и диалогов; модель рассчитана на текстовый ввод и текстовый вывод, а её контекст составляет 8192 токена. Модель подходит для диалоговых приложений и творческого письма. В карточке не приведены сведения о поддерживаемых естественных языках и результаты оценки качества, поэтому не следует предполагать конкретные языковые преимущества или гарантировать качество ответов. Репозиторий распространяет веса в формате Safetensors; лицензия в предоставленных данных не указана.
zelk12/MT4-Gen5-gemma-2-9B — объединённая языковая модель на базе Gemma 2, созданная с помощью mergekit из zelk12/MT4-Gen5-GMA-gemma-2-9B и zelk12/MT4-Gen5-IBMUMM-gemma-2-9B. Для объединения использован метод SLERP с параметром t=0,25; веса сохранены в формате safetensors. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и имеет контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать в чат-сценариях и приложениях, которым требуется генерация текста на основе языковой модели. Карточка не описывает отдельные специализированные области или языки. Лицензия — Gemma; перед использованием следует соблюдать её условия. Качество, языковое покрытие и ограничения модели отдельно в карточке не охарактеризованы.
Карточка модели zelk12/MT-Gen5-BB-gemma-2-MTM4MT5g4-9B на Hugging Face совпадает с карточкой zelk12/MT2-Max-Merge_02012025163610-MA-gemma-2-MTM4MT5g4-9B, поэтому описание составлено по ней. zelk12 создал разговорную языковую модель слиянием двух предварительно обученных моделей Gemma 2 с помощью метода SLERP в mergekit. Модель с плотной архитектурой Gemma2ForCausalLM содержит 9 млрд параметров и предназначена для генерации текста и ведения диалогов; она поддерживает контекст до 8192 токенов и использует формат safetensors. Модель может служить основой для чат-ботов, ответов на запросы и других сценариев генерации текста. Сведения о поддерживаемых естественных языках и специализированных областях в карточке отсутствуют, поэтому они здесь не предполагаются. Лицензия в предоставленных данных не указана.