I.5Создание и редактирование текста

Tech2wild/GLM-5.3-Int4-Int8Mix — это смешанная квантованная версия GLM-5.3, разработанной zai-org. Модель основана на архитектуре glm5_next и представляет собой MoE-модель общим размером 743 млрд параметров, из которых около 40 млрд активируются для одного запроса. Она предназначена для генерации текста и запуска через Transformers и vLLM в формате compressed-tensors, прежде всего на конфигурации из четырёх NVIDIA DGX Spark с графическими процессорами GB10. Квантование выполнено без калибровочных данных по схеме статического симметричного weight-only mixed precision с размером группы 128. Основная масса MoE-экспертов использует W4A16, а плотные слои и attention — W8A16; маршрутизаторы, компоненты sparse attention, выходная голова и ряд служебных блоков сохранены в полной точности. Исходная модель поддерживает контекст до 1 млн токенов, однако в приведённой конфигурации заявлен запуск с длиной до 131 072 токенов и возможность расширения примерно до 600 000 токенов с Decode Context Parallel. Модель ориентирована на длинноконтекстную генерацию, многопоточную подачу запросов и speculative decoding с совместимым DFlash2-драфтером. Ключевое преимущество — уменьшенный объём весов около 378 ГБ, что позволяет обслуживать модель на четырёх DGX Spark с запасом памяти под KV-кэш; заявлена производительность до 46,03 токена в секунду при шести одновременных потоках. Ограничения включают очень высокие требования к памяти и необходимость tensor parallelism, а для GB10/sm121 — специальных kernel overlays для sparse MLA и FP8 KV. Четырёхбитное квантование даёт заметную численную погрешность, поэтому сохранение критичных компонентов в BF16 важно для качества. Лицензия указана как glm-5.3; подробные условия доступны по ссылке на лицензию базовой модели zai-org/GLM-5.3.

OneNexus/GLM-5.3-MXFP4 — квантизированная версия полноразмерной модели GLM-5.3, разработанной Z.ai и основанной на исходном контрольном пункте zai-org/GLM-5.3-BF16. Модель предназначена для генерации текста и диалоговых сценариев; входом и выходом служит текст. В метаданных заявлены английский и китайский языки, архитектура GlmMoeDsaForCausalLM и поддержка pipeline text-generation. Модель использует MoE-архитектуру GLM-5.3 с DSA. Весовые параметры маршрутизируемых MoE-экспертов квантизированы в формате OCP MXFP4 E2M1 с блочным масштабированием 1×32, тогда как внимание, DSA-проекции, маршрутизатор, общие MLP-проекции, lm_head и отдельные компоненты сохранены в BF16. Размер индексированных весов составляет около 407,92 ГиБ в 282 шардах, что существенно меньше исходной BF16-версии. Валидация выполнена с контекстом до 1 048 576 токенов. К сильным сторонам относятся заметное сокращение объёма весов, совместимость с готовым рецептом InferenceX/SGLang и оптимизация для AMD Instinct MI350 с поддержкой EAGLE, DSA, MXFP4 MoE, FP8 KV-кэша и HiCache. Ограничения связаны с узкой инфраструктурой валидации: заявлена конфигурация из четырёх GPU AMD Instinct MI350 и ROCm-стек с конкретной версией SGLang; производительность и качество на другом оборудовании или в других средах могут отличаться. Модель распространяется по лицензии glm-5.3, обозначенной в README как license: other.

GML-Mistral-merged-v1 — языковая модель, опубликованная mlabonne как попытка воспроизвести zyh3826/GML-Mistral-merged-v1. Это слияние весов quantumaikr/quantum-v0.01 и mncai/mistral-7b-dpo-v5, выполненное с помощью mergekit методом passthrough; модель построена на архитектуре MistralForCausalLM и содержит около 8,9 млрд параметров. Модель предназначена для генерации текста и может использоваться для диалогов, ответов на вопросы и рассуждений на основе текстового запроса. В метаданных указан контекст до 32 768 токенов. README приводит результаты оценки на задачах AI2 Reasoning Challenge и HellaSwag, но не описывает целевые языки или специализированные области применения. Веса доступны в формате safetensors, лицензия — Apache-2.0. Показатели из README относятся к отдельным бенчмаркам и сами по себе не гарантируют качество ответов в прикладных сценариях.

Goku-8x22B-v0.1 — дообученная MaziyarPanahi версия v2ray/Mixtral-8x22B-v0.1 на наборе philschmid/guanaco-sharegpt-style. Это диалоговая языковая модель с архитектурой Mixtral типа Mixture of Experts; в карточке указаны 22 млрд параметров, а README приводит конфигурацию на 141 млрд параметров, из которых активны 35 млрд. Контекст составляет до 65 536 токенов, модель работает через Transformers и распространяется в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, работы с длинным контекстом, написания кода и задач на рассуждение. В метаданных перечислены английский, французский, итальянский, немецкий и испанский языки. Модель распространяется по лицензии Apache-2.0. Карточка сообщает о тестировании на перечисленных сценариях, но не приводит результатов бенчмарков; качество для математики и программирования отдельно не подтверждено.

Goku-8x22B-v0.2 — разговорная языковая модель MaziyarPanahi, дообученная на основе v2ray/Mixtral-8x22B-v0.1 на наборах OpenHermes-2.5, WizardLM Evol Instruct V2 и Orca Math Word Problems. Она использует архитектуру Mixtral с разреженной смесью экспертов (MoE) и предназначена для генерации текста в диалогах, выполнения инструкций и решения математических задач. В README указана общая ёмкость в 141 млрд параметров, из которых активны 35 млрд; метаданные каталога указывают 22 млрд параметров. В README также сообщается об обучении с длиной последовательности 8192 токена, а метаданные приводят длину контекста 65 536 токенов. Модель работает с текстом и поддерживает чат. В карточке отмечены английский, французский, итальянский, немецкий и испанский языки. Лицензия — Apache-2.0. Доступные сведения не содержат результатов сравнительных оценок качества; значения размера и контекста различаются между README и метаданными, поэтому их следует трактовать с осторожностью.

Gonzo-Chat-7B — диалоговая языковая модель на архитектуре Mistral, созданная объединением нескольких моделей с помощью mergekit и метода DARE TIES. В состав объединения вошли Nondzu/Mistral-7B-Instruct-v0.2-code-ft, NousResearch/Nous-Hermes-2-Mistral-7B-DPO, cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser и базовая eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов по метаданным; README приводит более раннее значение 8 192 токена. Модель предназначена для диалогов, ролевых сценариев, работы с агентами и несложного программирования, а также для генерации текста по инструкциям. В карточке приведены результаты Open LLM Leaderboard и сравнительных состязаний, но они не гарантируют качество на конкретных задачах. Модель принимает текст и генерирует текст; указан язык en. Распространяется под лицензией Apache-2.0.

lcw99/google-gemma-10B-ko-chang — объединённая языковая модель на архитектуре Gemma, созданная слиянием слоёв self-attention английской и корейской моделей Gemma 7B. По описанию автора, в результате удвоено число attention heads, а модель рассчитана на работу с текстом на английском и корейском языках. Она предназначена для генерации текста и диалогового общения; размер по метаданным — 8,2 млрд параметров, нативное окно контекста — 8192 токена. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. README не приводит сравнительных оценок качества или конкретных результатов по отдельным задачам.

google_gemma-3-27b-it-qat-GGUF — это GGUF-квантизация instruction-tuned модели Gemma 3 с 27 млрд параметров, разработанной Google. Квантизацию выполнил bartowski на основе QAT-весов Google с использованием llama.cpp и метода imatrix. В карточке модель обозначена как image-text-to-text, поэтому она предназначена для генерации текста по текстовым и, вероятно, визуально-текстовым входным данным. Основной файл Q4_0 имеет размер около 15,62 ГБ и рассчитан на запуск через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты с разными уровнями квантования — от BF16 и Q8_0 до Q3 и IQ-форматов, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Для Q4_0 заявлены улучшения благодаря QAT и поддержка онлайн-репаковки для ARM- и AVX-совместимых CPU. Языки, размер контекста и точные архитектурные характеристики в README не указаны. Модель подходит для локального запуска, диалоговых приложений и мультимодальных сценариев, поддерживаемых Gemma 3 и используемым рантаймом. Более высокие варианты квантования обеспечивают лучшее качество, но требуют больше памяти; низкие варианты экономичнее, однако могут заметно уступать по качеству. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face требуется ознакомиться с условиями и принять лицензию.

GPlatty-30B — авторегрессионная языковая модель на архитектуре LLaMA, созданная как слияние Platypus-30B и gpt4-alpaca-lora-30b. В карточке указаны авторы базовых моделей: Cole Hunter и Ariel Lee для Platypus-30B, chansung для gpt4-alpaca-lora-30b. Модель содержит 32,3 млрд параметров и принимает контекст длиной до 2048 токенов. Модель предназначена для генерации текста на английском языке, включая ответы на запросы и выполнение инструкций. В карточке приведены результаты оценки на ARC, HellaSwag, MMLU и TruthfulQA. Доступны веса в форматах PyTorch и safetensors. Лицензия указана как other; README отмечает, что базовые веса LLaMA распространяются по специальной некоммерческой лицензии Meta. Возможны токсичные, вредные или предвзятые ответы; результаты генерации не следует считать достоверным источником без проверки.

Finnish-NLP/gpt2-large-finnish — авторегрессионная языковая модель GPT-2 large, разработанная командой Finnish-NLP и предварительно обученная генерировать финский текст по заданному фрагменту. Вариант содержит 774 млн параметров и использует архитектуру GPT2LMHeadModel с причинной языковой моделью: при предсказании следующего токена модель учитывает только предшествующий контекст. Метаданные указывают контекст до 1024 токенов; в описании обучения указаны последовательности по 512 токенов. Модель предназначена прежде всего для продолжения финского текста и может дообучаться для последующих языковых задач. Она обучалась на очищенной финской части mC4, финской Википедии, новостных архивах Yle и STT, а также корпусе Suomi24. Для представления текста применяется байтовая версия BPE с размером словаря 50 257. Лицензия — Apache-2.0. Модель лучше всего подходит для генерации текста по подсказке; её выходы могут быть предвзятыми или содержать оскорбительный контент из-за состава интернет-данных и непредсказуемости генерации. Перед публикацией результатов рекомендуется проверка человеком.

baffo32/gpt2-ptmap — текстовая авторегрессионная модель семейства GPT-2, основанная на GPT-2 от OpenAI. Она предварительно обучена на английских текстах из веба с причинной языковой моделью: предсказывает следующий токен, используя предыдущий контекст. Модель предназначена прежде всего для продолжения текста по запросу; её также можно дообучить для прикладных задач. Архитектура — плотная GPT-2 с контекстом до 1024 токенов. В репозитории представлены веса в форматах PyTorch, TensorFlow, Flax и TFLite. Модель может создавать связный английский текст и извлекать языковые представления, однако сама по себе не проверяет факты. Данные обучения содержали неотфильтрованные материалы из интернета, поэтому генерация может воспроизводить их предубеждения. Датасет WebText не опубликован. Лицензия — MIT.

GPT-2 XL — авторегрессионная языковая модель на архитектуре Transformer, разработанная OpenAI. Это версия GPT-2 с 1,5 млрд параметров, предварительно обученная на английском языке для предсказания следующего токена. В метаданных указаны контекст до 1024 токенов и поддержка форматов PyTorch, TensorFlow и Flax; доступна также версия весов Safetensors. Модель предназначена для генерации продолжений текста по заданной подсказке. Её можно применять для автодополнения, черновиков и творческого письма, а также для экспериментов с поведением больших генеративных моделей. GPT-2 XL не проверяет факты, поэтому сгенерированный текст может быть неправдоподобным; обучающие данные из интернета также могут приводить к предвзятым, оскорбительным или вредоносным выводам. README указывает лицензию Modified MIT License.

GPT4All-J — языковая модель Nomic AI для генерации текста в стиле ассистента, дообученная на базе GPT-J на курируемом наборе диалогов и других взаимодействий с ассистентом. В обучающие данные входят задачи на рассуждение, многоходовые диалоги, код, стихи, песни и рассказы. Карточка описывает несколько версий модели; загрузка без указания revision использует v1.0. Модель предназначена для диалоговых ответов и генерации текста по запросу, включая помощь с задачами, написание историй и стихов, а также генерацию кода. Это плотная авторегрессионная архитектура GPT-J с контекстом до 2048 токенов; указанный основной язык — английский. Модель принимает текст и генерирует текст. Модель распространяется под лицензией Apache-2.0. Качество ответов зависит от запроса и версии обучающих данных; карточка не даёт гарантий точности фактов или надёжности сгенерированного кода.

GPT-4o — мультимодальная модель OpenAI, принимающая текст и изображения и формирующая текстовые ответы. Название «omni» отражает поддержку нескольких типов входных данных; в доступной карточке заявлены текстовый и визуальный ввод. Модель подходит для диалога и ответов на вопросы по тексту или изображениям, например для описания изображений и анализа визуальной информации. По метаданным каталога её задача — image-text-to-text. Карточка также сравнивает её уровень интеллекта с GPT-4 Turbo, но не содержит завершённых сведений о размере, контекстном окне, языках и лицензии.

GPT4-x-Vicuna-13b-fp16 — дообученная Nous Research языковая модель на архитектуре LLaMA с 12,9 млрд параметров. Она предназначена для генерации текста и выполнения инструкций в формате Alpaca: запрос помещается после «### Instruction:», а ответ начинается после «### Response:». Модель дообучена на наборах GPTeacher, Roleplay v2, GPT-4-LLM Uncensored, WizardLM Uncensored и Nous Research Instruct Dataset; в карточке указано около 180 тысяч инструкций, созданных GPT-4 и очищенных от отказных формулировок. Обучение проводилось пять эпох на восьми ускорителях A100-80GB. Контекст составляет 2048 токенов. Репозиторий содержит веса PyTorch, лицензия указана как GPL. Модель подходит для ответов на инструкции и ролевого диалога. Карточка предупреждает, что в базовой модели сохраняются ограничения OpenAI; поведение и качество могут зависеть от формулировки запроса. Данные о поддерживаемых естественных языках в карточке не приведены.

gpt-oss-20b-GGUF — набор GGUF-квантизаций модели openai/gpt-oss-20b, подготовленный пользователем ggfox00000 для локального и периферийного развёртывания. Модель предназначена для генерации текста и диалоговых сценариев, включая суммаризацию и работу через llama.cpp или llama-cpp-python. README не указывает точные языковые возможности исходной модели, однако демонстрирует пример суммаризации на французском языке. Доступны варианты Q4_K_M размером около 8 ГБ, Q5_K_M около 10 ГБ и Q8_0 около 15 ГБ. При контексте 8192 токена им требуется примерно 9, 11 и 16 ГБ RAM или VRAM соответственно; заявленное качество возрастает от Q4_K_M к Q8_0. Эти варианты позволяют выбирать компромисс между требованиями к памяти и качеством, включая развёртывание на GPU с CUDA. Архитектура и мультимодальные возможности в README не описаны; по назначению это текстовая модель. Модель удобна для on-premise и edge-сценариев, где важны локальное выполнение и совместимость с llama.cpp. Ограничения включают необходимость подбора квантизации под доступную память, а также отсутствие в карточке подробных данных о производительности, поддерживаемых языках, исходной архитектуре и специальных возможностях. Квантизации распространяются на условиях Apache 2.0, унаследованных от исходной модели.

second-state/gpt-oss-20b-GGUF — версия модели openai/gpt-oss-20b в формате GGUF, опубликованная second-state. Модель семейства GPT-OSS построена на архитектуре MoE и предназначена для генерации текста в диалоговом режиме. В карточке указана поддержка запуска через LlamaEdge; для вызова инструментов требуется LlamaEdge версии 0.25.1 или выше. Модель принимает текстовые запросы и выдаёт текстовые ответы. Указанный родной размер контекста — 131072 токена; в репозитории доступны файлы GGUF и GGUF F16. Метаданные сообщают об общем числе параметров 1,6 млрд, а исходная модель в названии и карточке обозначена как gpt-oss-20b. Модель распространяется по лицензии Apache-2.0. README не описывает языковое покрытие или ограничения качества.

Карточка модели Asefalus/gpt-oss-20b-heretic на Hugging Face совпадает с карточкой p-e-w/gpt-oss-20b-heretic, поэтому описание составлено по ней. p-e-w/gpt-oss-20b-heretic — текстовая разговорная модель на архитектуре GPT-OSS, созданная на основе openai/gpt-oss-20b с помощью abliteration, направленной на снижение отказов. В карточке приведено сравнение: в тесте на 100 запросах модель отказала в 58 случаях против 100 у исходной модели; KL-дивергенция составила 0,96. README также описывает базовую модель как MoE с 21 млрд параметров и 3,6 млрд активных параметров, контекстом 131 072 токена и форматом Harmony; метаданные репозитория при этом указывают 1,6 млрд параметров. Модель предназначена для диалога, генерации текста и локальных или специализированных сценариев. Базовая модель поддерживает настраиваемый уровень рассуждений, вызов функций и агентные сценарии; в этом репозитории заявлено снижение числа отказов, но приведённый тест не гарантирует поведение на других запросах. Для корректной работы следует использовать формат Harmony. Лицензия — Apache-2.0.

mlx-community/gpt-oss-20b-MXFP4-Q4 — языковая модель для генерации текста, разработанная сообществом mlx-community и конвертированная из openai/gpt-oss-20b в формат MLX с использованием mlx-lm 0.27.0. Она предназначена для сценариев текстовой генерации и запуска в экосистеме MLX, включая использование через библиотеку mlx-lm. Модель относится к pipeline text-generation и имеет вариант квантования MXFP4-Q4. В README не указаны точные сведения об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста, поэтому эти характеристики нельзя достоверно описать. Для работы требуется библиотека mlx-lm; приведённый пример предусматривает поддержку chat template при её наличии. Ограничения производительности и качества в README не раскрыты. Лицензия — Apache-2.0.

Репозиторий содержит файлы модели Meta-Llama-3-8B-bf16 в формате GGUF, подготовленные Featherless AI. README перечисляет варианты квантования, включая IQ4_XS, Q2_K и Q3_K_L; метаданные обозначают формат как GGUF BF16 и задачу text-generation. Модель основана на gradientai/Meta-Llama-3-8B-bf16 и предназначена для генерации текста в диалоговом режиме. Файлы GGUF подходят для запуска в совместимых средах инференса. Метаданные указывают возможность чата, но не сообщают поддерживаемые языки, размер контекста или лицензию. Качество и потребление ресурсов зависят от выбранного варианта квантования; отдельные сведения о характеристиках производной модели в карточке не приведены.

Mungert/granite-3.0-8b-instruct-GGUF — квантованная GGUF-версия инструкционной языковой модели Granite 3.0 с 8 млрд параметров. Базовая модель — ibm-granite/granite-3.0-8b-base; модель предназначена для генерации текста и выполнения инструкций, включая рассуждения, ответы на вопросы, работу с кодом, математические задачи и задачи на понимание прочитанного. Разработчик GGUF-сборки — Mungert; исходное семейство моделей разработано IBM Granite. Модель создана с использованием llama.cpp. В README не указаны архитектурные детали, максимальная длина контекста, точный набор языков и конкретные варианты квантования. Упоминается экспериментальный подход к квантованию с повышением точности отдельных важных слоёв с помощью параметра --tensor-type; автор сообщает об улучшении точности на заданном уровне квантования ценой увеличения размера файла. Приведены результаты на англоязычных и многоязычных тестах, включая IFEval, MT-Bench, MMLU, HumanEval, GSM8K, PAWS-X и MGSM, однако их достоверность в метаданных не подтверждена. Модель подходит для локального запуска в совместимых инструментах экосистемы llama.cpp и сценариев, где важны снижение требований к памяти и возможность самостоятельного развертывания. Ограничения связаны с потерями качества, характерными для квантованных моделей, отсутствием подробных сведений о конфигурации и тем, что README не содержит инструкций по выбору конкретного файла квантования. Лицензия указана как Apache 2.0.

granite-3.0-8b-lab-community-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Granite 3.0 8B lab community, разработанной в экосистеме IBM InstructLab. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как instructlab/granite-3.0-8b-lab-community. В метаданных также упоминается набор данных InstructLabCommunity. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые инструменты llama.cpp. Указана поддержка английского языка. Доступны варианты от F16 до разных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Размер базовой модели — 8 миллиардов параметров; сведения об архитектуре и размере контекстного окна в README не приведены. Сильная сторона этой версии — широкий выбор квантизаций: высококачественные варианты Q6 и Q5 рекомендованы для требовательных сценариев, а Q4 и более компактные варианты подходят для запуска при ограниченных ресурсах. Ограничения связаны с потерями качества при низких уровнях квантизации, а также с отсутствием в README подробных данных о производительности, мультиязычности и поддерживаемых модальностях; модель описана как текстовая. Модель распространяется по лицензии Apache-2.0.

Granite 3.1 3B A800M Instruct — языковая instruction-tuned модель IBM, представленная в формате GGUF и квантизированная bartowski с использованием llama.cpp и imatrix. Репозиторий предназначен для локального запуска задач генерации текста и диалогового взаимодействия, в том числе через LM Studio или совместимые инструменты на базе llama.cpp. Доступны варианты от полноразмерных весов F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 1,38 до 6,60 ГБ, поэтому можно выбрать баланс между качеством, требованиями к памяти и скоростью работы. Для общения необходимо использовать указанный chat template с ролями system, user и assistant; в README отмечено исправление шаблона чата. Модель ориентирована на текстовую модальность. Сильные стороны представлены широким выбором квантизаций и возможностью локального использования, включая варианты, рекомендованные автором как обеспечивающие высокое или хорошее качество. Более компактные варианты экономят память, но могут заметно уступать по качеству; самые низкобитные версии обозначены как низкокачественные или нерекомендуемые. Данные о поддерживаемых языках, размере контекста и детальной архитектуре в README не указаны. Распространение заявлено по лицензии Apache-2.0.

Это модель realoperator42, представляющая собой «разцензурированную» версию IBM Granite-4.1-3B, созданную с помощью Heretic v1.4.0. Это плотный декодерный трансформер с 3,4 млрд параметров, ориентированный на диалог и генерацию текста; максимальная длина контекста — 131 072 токена. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Модель подходит для генерации ответов на инструкции и диалоговых сценариев, включая суммаризацию, извлечение и классификацию текста, ответы на вопросы, RAG, задачи с кодом и вызов функций. Исходная Granite-4.1-3B поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки; данные карточки не подтверждают отдельную языковую оценку именно этой модификации. В README приведено сравнение отказов: 3 из 100 для этой версии против 88 из 100 у исходной модели, поэтому её поведение в отношении отказов заметно изменено. Модификация создана методом abliteration, меняющим поведение модели без обычного дообучения на целевом наборе данных. README сообщает о воспроизводимости процесса и приводит KL-дивергенцию 0,2603 относительно исходной модели. Она может выдавать неточные, предвзятые или небезопасные ответы; перед применением требуется оценить её поведение и настроить подходящие меры безопасности.

ibm-granite/granite-4.1-8b-GGUF — это версия модели IBM Granite 4.1 с 8 млрд параметров, преобразованная в формат GGUF. Модель разработана IBM и предназначена для задач генерации текста; репозиторий содержит варианты с различными уровнями квантования, созданные на основе модели ibm-granite/granite-4.1-8b в формате Safetensors. Формат GGUF удобен для локального запуска и совместим с программными средствами, поддерживающими этот формат, однако конкретные требования к памяти, производительность и качество зависят от выбранной квантованной версии. В предоставленной карточке не указаны архитектурные детали, поддерживаемые языки, размер контекста, дополнительные модальности и специализированные сценарии применения, поэтому эти характеристики нельзя достоверно определить по имеющимся данным. Модель распространяется по лицензии Apache 2.0. Для подробной информации о возможностях, ограничениях и базовых характеристиках следует обратиться к полной карточке базовой модели ibm-granite/granite-4.1-8b.

Это конвертированная для MLX версия многоязычной языковой модели Granite-4.2-30B, подготовленная владельцем репозитория salohcin714 на основе ibm-granite/granite-4.2-30b. Модель предназначена для генерации текста и диалогов; её можно запускать на Apple Silicon через библиотеку MLX. Архитектура — плотная авторегрессионная GraniteForCausalLM с 28,9 млрд параметров и контекстом до 131 072 токенов. Модель принимает текст и генерирует текст. В карточке указаны английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Веса сохранены в исходной точности bfloat16 без квантизации и дообучения; репозиторий использует формат MLX safetensors. Лицензия — Apache-2.0. Карточка описывает конверсию весов и не подтверждает отдельные улучшения качества. Бенчмарки исходной модели нельзя считать результатами проверки этой конвертированной версии.

GreatRag-13B-slerp — языковая модель для генерации текста, созданная как слияние inception-mbzuai/jais-13b и google/gemma-2b методом SLERP с помощью LazyMergekit. Модель использует плотную архитектуру LlamaForCausalLM и распространяется в формате Safetensors; в метаданных указаны 6,6 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста и может применяться для диалогов, ответов на вопросы и суммаризации. В составе слияния есть Jais и Gemma; описание и метаданные не уточняют языковое покрытие или преимущества именно этого слияния. Лицензия в предоставленных данных не указана.

GritLM-8x7B-KTO — версия GritLM, разработанная Contextual AI и обученная методом KTO. GritLM объединяет генерацию текста и создание текстовых представлений в одной языковой модели; семейство включает вариант на архитектуре Mixtral 8x7B. В репозитории указаны веса Safetensors и лицензия Apache-2.0. Модель предназначена для диалоговой генерации текста и задач, где нужны текстовые представления, например поиск по смыслу и сопоставление текстов. Контекст составляет до 32 768 токенов. Карточка не приводит отдельные результаты или ограничения качества именно версии KTO; пригодность для конкретного сценария следует оценивать на его данных.

GRM-2.6-Plus-0628-GGUF — это набор GGUF-квантованных файлов модели GRM-2.6-Plus-0628, разработанной OrionLLM. Модель содержит 27 млрд параметров и предназначена для общего применения, включая диалог, сложное рассуждение, программирование, решение задач и агентские сценарии, особенно при локальном или исследовательском развертывании. Заявлены улучшения по сравнению с GRM-2.6-Plus в задачах с длинной цепочкой действий и многошаговыми агентскими процессами. К сильным сторонам относятся структурированное рассуждение, обработка сложных задач, генерация кода и практическая эффективность для модели такого размера. В README указана только текстовая генерация; сведения о точной архитектуре, поддерживаемых языках, максимальном контексте, конкретных вариантах квантования и мультимодальности не приведены, поэтому эти характеристики нельзя подтвердить. Модель распространяется по лицензии Apache-2.0.

yp06/groit — дообученная yp06 языковая модель семейства Llama 3.2 для генерации текста и диалогового взаимодействия. Она основана на unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit и обучена с использованием Unsloth и библиотеки Hugging Face TRL. Модель имеет плотную архитектуру LlamaForCausalLM и 3,2 млрд параметров, поддерживает контекст до 131072 токенов и рассчитана на английский язык. Подходит для генерации ответов в чате и использования интерфейса вызова инструментов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специализацию дообучения или результаты оценки качества, поэтому пригодность для конкретных предметных задач по ней установить нельзя.