II.6Документация и сопровождение разработки

Это GGUF-квантизированная версия текстовой генеративной модели grimjim/Llama-3-Instruct-8B-SPPO-Iter3-SimPO-merge. Квантизации подготовлены командой featherless-ai-quants. Модель основана на Llama 3 Instruct с размером 8B и предназначена для генерации текста, включая диалоговые и инструкционные сценарии. Репозиторий содержит варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8 ГБ. GGUF-формат ориентирован на запуск совместимыми локальными инструментами и позволяет выбирать компромисс между требованиями к памяти, скоростью и сохранением качества. Данные о поддерживаемых языках, длине контекста, точных архитектурных параметрах, результатах тестирования и ограничениях отсутствуют. Лицензия в README не указана.

h2o-danube3-4b-chat-GGUF — набор файлов модели h2o-danube3-4b-chat в формате GGUF, разработанный H2O.ai и квантизированный с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев; в README указан английский язык. Рекомендуемый формат промпта задаёт пользовательский вопрос и ожидаемый ответ модели. Модель имеет размер 4 млрд параметров. Доступны варианты с разными методами и уровнями квантизации: от F16 размером 7,92 ГБ до Q2_K размером 1,51 ГБ. Выбор варианта позволяет находить компромисс между размером файла, скоростью генерации и качеством. В тестах на одной H100 GPU скорость составляла от 479 до 1299 токенов в секунду в зависимости от варианта; наиболее низкоразрядные версии показывали заметное снижение качества по MT-Bench и рост perplexity. Архитектура, размер контекстного окна и поддержка других модальностей в README не указаны. Модель подходит для локального запуска и приложений, которым нужна компактная чат-модель с поддержкой инференса через совместимые с GGUF инструменты. Ограничениями являются отсутствие заявленной мультиязычной и мультимодальной поддержки, а также потенциальная потеря качества при выборе агрессивной квантизации. Распространение указано по лицензии Apache-2.0.

H2O.ai разработала эту языковую модель в H2O LLM Studio на базе openlm-research/open_llama_7b, дообучив её на наборе OpenAssistant/oasst1. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, предназначенная для генерации текста и диалоговых ответов на английском языке. Она работает через библиотеку Transformers и поддерживает контекст до 2048 токенов. Модель подходит для создания англоязычных чат-ботов, генерации продолжений текста и прототипирования приложений на основе языковой модели. Лицензия Apache-2.0. Ответы могут быть ошибочными, несвязными, предвзятыми или оскорбительными, поэтому их следует проверять; карточка не приводит сравнительных оценок качества.

H2O.ai обучила эту языковую модель с помощью H2O LLM Studio на базе openlm-research/open_llama_7b_700bt_preview, используя данные OpenAssistant/oasst1. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, предназначенная для генерации текста и диалоговых ответов на английском языке. Она принимает текст и генерирует текст; максимальный контекст составляет 2048 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Модель подходит для экспериментов с англоязычными диалогами и генерацией текста. Ответы могут быть ошибочными, бессвязными или нерелевантными, а обучающие данные могут приводить к предвзятым или оскорбительным результатам; сгенерированный текст следует проверять.

Sakalti/hamachi-1.7B — плотная авторегрессионная языковая модель семейства Llama на 1,7 млрд параметров, созданная Sakalti путём дообучения HuggingFaceTB/SmolLM2-1.7B. Модель предназначена для генерации текста; при обучении использовались Unsloth и библиотека Hugging Face TRL. Модель принимает текст и генерирует текст. Для неё заявлено контекстное окно до 131072 токенов. Карточка указывает лицензию Apache-2.0. В метаданных отмечена поддержка английского языка; более конкретные сценарии, результаты оценки качества и дополнительные ограничения в карточке не описаны.

Haary/haryra-7b-llama2-id — текстовая генеративная модель семейства Llama, опубликованная Haary. В README указано, что это версия Ichsan2895/Merak-7B-v3, полученная с использованием QLoRA; каталожные метаданные описывают архитектуру как плотную LlamaForCausalLM и указывают 6,6 млрд параметров. Модель предназначена для генерации текста. Она работает через Transformers, распространяется в формате safetensors и имеет контекстное окно 4096 токенов. README не уточняет языки и конкретные сценарии применения. Модель основана на Ichsan2895/Merak-7B-v3. Указана лицензия llama2; условия её применения определяются этой лицензией.

HelpingAI_Dhanishtha-2.0-preview-0825-GGUF — это GGUF-квантизированная версия языковой модели Dhanishtha-2.0-preview-0825, разработанной HelpingAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В README указан специальный chat-шаблон с ролями system, user и assistant. Доступны варианты от исходных весов BF16 размером 29,54 ГБ до различных конфигураций Q8, Q6, Q5, Q4, Q3 и IQ-квантизации размером примерно от 6,88 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а компактные варианты подходят для систем с ограниченной оперативной памятью; для большинства сценариев автор рекомендует Q4_K_M, Q5- и Q6-варианты. Архитектура, число параметров, поддерживаемые языки, размер контекста, мультимодальность, конкретные прикладные специализации и лицензия в представленном README не указаны, поэтому эти характеристики требуют проверки в карточке исходной модели.

Hermes-2-Pro-11B-GGUF — это квантизированная версия языковой модели Hermes-2-Pro-11B, разработанной mattshumer и представленной в формате GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. В репозитории представлены файлы с разными уровнями квантизации — от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти и качеством генерации. Модель относится к текстовым генеративным моделям; сведения о поддерживаемых языках, длине контекста, точной архитектуре и модальностях в README не указаны. Формат GGUF удобен для локального развертывания на Windows, Linux и macOS, поддерживается рядом интерфейсов и библиотек, а также может использовать GPU-ускорение в зависимости от используемого программного обеспечения. Более низкая разрядность обычно снижает требования к ресурсам, но может ухудшать качество по сравнению с вариантами с большей разрядностью. Для модели указана лицензия Apache 2.0. README не содержит подробных результатов оценки, бенчмарков или описания ограничений исходной модели, поэтому её качество в конкретных задачах следует проверять отдельно.

Hermes-3-Llama-3.1-70B-lorablated-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Hermes-3-Llama-3.1-70B-lorablated, разработанной на базе Llama 3.1 и опубликованной mlabonne. Квантизации подготовлены пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия. Она поддерживает запуск через llama.cpp и LM Studio; в README также приведён специальный шаблон промпта с ролями system, user и assistant. Доступно множество вариантов квантизации от Q8_0 до IQ1_M, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размеры указанных файлов составляют примерно от 19 до 75 ГБ. Сильной стороной набора является возможность локального запуска крупной 70B-модели с разным уровнем сжатия; варианты Q6_K, Q5_K_M и некоторые Q4 рекомендуется использовать для высокого качества. Более компактные варианты требуют меньше памяти, но снижают качество генерации. В README не указаны поддерживаемые языки, размер контекстного окна, точные архитектурные характеристики, мультимодальные возможности и лицензия, поэтому эти свойства нельзя достоверно определить по представленным данным.

Hubble 4B v1 — языковая модель, дообученная BeaverAI на базе NVIDIA Llama 3.1 4B Minitron, компактной версии Llama 3.1 8B. Модель предназначена для диалогов и генерации текста; поддерживает формат ChatML и режим продолжения текста. Архитектура — плотная LlamaForCausalLM, размер — 3,9 млрд параметров, контекст — до 131 072 токенов. Модель обучалась на данных в формате ChatML с токеном конца последовательности ``. В README указана совместимость с Kobold 1.74; поддержка Layla для iOS и Android на момент описания находилась в разработке. В метаданных указана лицензия «other», поэтому условия использования следует сверить с лицензией репозитория перед применением.

Это GGUF-версия модели Huihui-gpt-oss-20b-BF16-abliterated от Huihui AI. Репозиторий создан 8 августа 2025 года и содержит вариант BF16; метаданные указывают на базовую модель huihui-ai/Huihui-gpt-oss-20b-BF16-abliterated и возможность диалога. Модель предназначена для генерации текста в чате. README описывает её как квантованную версию базовой модели, однако метаданные указывают формат GGUF BF16; поэтому точный способ преобразования весов по имеющимся сведениям установить нельзя. Размер параметров, контекст и поддерживаемые естественные языки не приведены. Условия лицензии в доступных данных не указаны.

DevQuasar/huihui-ai.Qwen2.5-7B-Instruct-abliterated-SFT-GGUF — это квантованная версия модели huihui-ai/Qwen2.5-7B-Instruct-abliterated-SFT. Репозиторий опубликован под идентификатором DevQuasar; исходный README не содержит более подробной информации о разработчиках квантованной версии. Модель предназначена для генерации текста и использования в сценариях, поддерживающих формат GGUF. Из доступных данных известно, что модель относится к семейству Qwen2.5 и имеет размер 7B параметров в базовой версии, а также ориентирована на instruction-following благодаря основе Instruct. Квантование может снизить требования к памяти и упростить локальный запуск, однако конкретный тип квантования, доступные варианты файлов, поддерживаемые языки, размер контекста, архитектурные детали, показатели качества и совместимые инструменты в README не указаны. Лицензия и явные ограничения использования также не приведены.

Huihui-Qwen3-30B-A3B-Instruct-2507-abliterated — производная модель huihui-ai на архитектуре Qwen3 MoE, созданная изменением Qwen/Qwen3-30B-A3B-Instruct-2507 методом abliteration. Она предназначена для диалогов, выполнения инструкций и генерации текста; интерфейс модели также поддерживает вызов инструментов. Модель рассчитана на контекст до 262 144 токенов и использует библиотеку Transformers. В метаданных указано 2,6 млрд параметров. Автор описывает её как экспериментальную версию с подтверждением концепции: методом abliteration существенно снижены отказы модели. Это может приводить к чувствительным, спорным или неподходящим ответам, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

Hy3-GGUF — набор GGUF-квантизаций модели Tencent Hy3, подготовленный пользователем vcruz305. Это MoE-модель для генерации текста, диалогов, программного кода и задач рассуждения. Базовая модель имеет 295 млрд параметров, из которых 21 млрд активируются на токен, использует 192 эксперта с выбором top-8, включает 80 основных слоёв и дополнительный MTP/NextN-слой объёмом 3,8 млрд параметров. Заявлена длина контекста до 256K токенов. Модель работает с текстом; сведения о поддерживаемых языках в README не указаны. Репозиторий содержит варианты от IQ1_M и IQ2_M до Q8_0 размером примерно от 92 до 318 ГБ, рассчитанные на системы с большим объёмом памяти и, для некоторых вариантов, на конфигурации из двух узлов. Квантизации используют importance matrix, рассчитанную на корпусе с примерами программирования, рассуждений и диалогов. Для части вариантов проверена генерация кода и диалогов на реальном оборудовании; также поддерживается speculative decoding через MTP, которое в приведённых измерениях заметно повышало скорость генерации. Для запуска требуется llama.cpp с поддержкой архитектуры Hy3: до включения соответствующих изменений в основную ветку необходима специальная ветка с PR #25364. Для корректного применения шаблона чата требуется параметр --jinja. Ограничениями являются значительные требования к памяти, необходимость совместимого оборудования и специальной сборки llama.cpp; часть квантов не проходила индивидуальное нагрузочное тестирование. Модель распространяется по лицензии Apache-2.0.

Карточка модели hypaai/Hypa-Llama-SNAC-ASR-run2-colab-16bit на Hugging Face совпадает с карточкой hypaai/Hypa-Llama-SNAC-ASR-run1-colab-16bit, поэтому описание составлено по ней. Hypa-Llama-SNAC-ASR-run1-colab-16bit — дообученная hypaai модель генерации текста на архитектуре Llama, созданная на базе hypaai/Hypa-Llama3.1-8b-SFT. В репозитории указаны 7,6 млрд параметров, контекст 2048 токенов и формат safetensors; обучение проводилось с Unsloth и библиотекой TRL. Модель предназначена для диалоговой генерации текста и работы с интерфейсом вызова инструментов. Название содержит SNAC и ASR, однако карточка не описывает распознавание речи или аудиовход, поэтому подтвердить такие сценарии по предоставленным данным нельзя. Указана лицензия Apache-2.0.

Toneto17/ia-vaga — генеративная языковая модель для создания текста. Модель опубликована пользователем Toneto17 на Hugging Face и доступна для работы через библиотеку Transformers. В метаданных она связана с архитектурой семейства Qwen2 и поддерживает форматы Safetensors и GGUF. Модель содержит около 494 млн параметров и имеет нативное контекстное окно до 32 768 токенов. Она предназначена для задач генерации и продолжения текста, а также может использоваться в диалоговых сценариях благодаря тегу conversational. Поддерживаемые естественные языки, точная архитектура и сведения о разработчике в карточке не раскрыты. README не содержит результатов оценки, описания обучающих данных, лицензии или рекомендаций по применению, поэтому перед использованием модель следует дополнительно протестировать на целевых данных и проверить условия распространения.

Это GGUF-квантизированная версия языковой модели granite-4.0-tiny-preview, разработанной IBM Granite и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio и другие проекты на его основе. В набор входят варианты с разными уровнями квантизации: от исходных весов BF16 размером 13,35 ГБ до компактных IQ3_M размером 3,13 ГБ. Доступны форматы Q3, Q4, Q5, Q6, Q8 и IQ4; варианты с более высокой точностью обычно обеспечивают лучшее качество, а компактные версии требуют меньше оперативной памяти. Архитектура, число параметров, поддерживаемые языки и размер контекста в README не указаны. Приведён специальный формат prompt с ролями system, user и assistant. Сильная сторона модели — широкий выбор квантизаций для различных ограничений по памяти и производительности; отдельные варианты оптимизированы для CPU и Apple silicon. Качество зависит от выбранного формата, а наиболее компактные версии характеризуются сниженным качеством. Модель распространяется по лицензии Apache-2.0.

TareksGraveyard/Inception-LLaMa-70B — экспериментальная объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода SCE. В качестве базовой модели указана nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в объединение также вошли несколько моделей семейства Llama 70B, включая Progenitor, Nevoria, Prikol и Nova Tempus. Модель предназначена для генерации текста и диалогов. Это плотная авторегрессионная архитектура Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит веса safetensors. Автор описывает результат как эксперимент и оценивает его качество субъективно, без приведённых количественных тестов. Указана лицензия llama3.3.

bartowski/inclusionAI_Ring-mini-2.0-GGUF — это набор квантизованных версий языковой модели Ring-mini-2.0, разработанной inclusionAI. Модель предназначена для генерации текста и запускается в формате GGUF через llama.cpp, LM Studio и другие совместимые приложения. В README указано, что квантизация выполнена с использованием llama.cpp и метода imatrix. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и Q3_K с размером файлов примерно от 6,82 до 32,54 ГБ. Более крупные варианты обеспечивают более высокое качество, а Q4_K_M указан как вариант по умолчанию для большинства сценариев; Q6_K и Q6_K_L отмечены как версии очень высокого качества. Модель поддерживает формат промпта с ролями SYSTEM, HUMAN и ASSISTANT, а также специальным маркером рассуждений. Набор подходит для локального вывода текста на устройствах с ограниченными ресурсами, если выбрать подходящий уровень квантизации. Ограничения, архитектура, количество параметров, поддерживаемые языки, размер контекстного окна и мультимодальные возможности в README не указаны. Лицензия модели также не указана, поэтому условия использования следует уточнять в описании исходной модели inclusionAI/Ring-mini-2.0.

Instruct_Llama70B_Dolly15k — авторегрессионная языковая модель на архитектуре Llama 2, дообученная Brillibits методом QLoRA на датасете Databricks Dolly 15k. Модель предназначена для выполнения инструкций и генерации текста на английском языке, например для написания стихотворений и ответов на запросы с контекстом и без него. Обучение проводилось в течение 1,5 эпох; README сообщает об окне контекста 1024 токена, а метаданные Hugging Face — о native context в 4096 токенов. В репозитории около 68,7 млрд параметров, веса представлены в форматах PyTorch и Safetensors. Модель подходит для экспериментов с инструктивной генерацией и адаптации языковой модели к пользовательским задачам. README приводит результаты оценки на ARC и HellaSwag. Используется лицензия Llama 2; перед применением следует учитывать её условия. Модель унаследовала ограничения базовой Llama 2 и может выдавать неточные или неподходящие ответы.

OREAL-DeepSeek-R1-Distill-Qwen-7B-GGUF — это GGUF-квантизированные версии текстовой генеративной модели OREAL-DeepSeek-R1-Distill-Qwen-7B, разработанной internlm. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix на датасете internlm/OREAL-RL-Prompts. Модель предназначена для локального запуска и генерации текста через llama.cpp, LM Studio и другие совместимые приложения. Модель основана на 7B-версии DeepSeek-R1-Distill-Qwen и поддерживает текстовый ввод и вывод. README не указывает контекстное окно, список языков и точную архитектуру базовой модели. Доступны варианты квантизации от Q8_0 размером 8,10 ГБ до более компактных IQ3 и Q3-вариантов; наиболее сбалансированным вариантом для большинства сценариев назван Q4_K_M размером 4,68 ГБ, а Q5 и Q6 ориентированы на более высокое качество. Сильная сторона сборки — возможность локального запуска на устройствах с ограниченными ресурсами при выборе подходящего уровня квантизации. Более сильное сжатие уменьшает требования к памяти, но снижает качество генерации; низкобитные варианты описаны как имеющие более низкое или средне-низкое качество. Для корректной работы следует использовать указанный формат prompt. Модель распространяется по лицензии Apache-2.0.

JET-7B-i1-GGUF — квантованная версия языковой модели JinyiHan/JET-7B, подготовленная mradermacher в формате GGUF. Модель предназначена для генерации текста и задач, связанных с рассуждением; заявленный язык — английский. По типу это causal language model для работы с текстовыми данными. В набор входят варианты квантования i1 с разными уровнями сжатия и размерами файлов — примерно от 2,0 до 6,4 ГБ. Доступны форматы IQ и Q, включая IQ4_XS, Q4_K_S, Q4_K_M, Q5_K_M и Q6_K. В README отмечается, что Q4_K_M рекомендуется как быстрый вариант, а Q4_K_S рассматривается как сбалансированный по размеру, скорости и качеству; более агрессивное квантование может заметно снижать качество. Архитектура, длина контекста, точные параметры модальности и дополнительные языки не указаны, поэтому модель следует рассматривать как текстовую и преимущественно англоязычную. Модель подходит для локального запуска в приложениях, поддерживающих GGUF, когда важны снижение требований к памяти и возможность выбора компромисса между качеством и размером. Ограничениями являются возможная потеря качества из-за квантования, особенно у малых вариантов, а также отсутствие в README подробных данных о бенчмарках, контекстном окне и специальных возможностях. Лицензия — Apache-2.0.

Josiefied-Qwen3-4B-Instruct-2507-gabliterated-v2 — диалоговая языковая модель Goekdeniz-Guelmez, созданная на основе Qwen/Qwen3-4B-Instruct-2507. Модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM содержит 3,7 млрд параметров и принимает текстовые инструкции и сообщения, генерируя текстовые ответы. Заявленная длина контекста — до 262 144 токенов. Модель дообучена с изменением поведения отказов, чтобы давать менее ограниченные ответы, сохраняя следование инструкциям и использование инструментов. Автор также заявляет о настройке личности и юмора. Её можно применять для диалогов, генерации текста и задач с инструкциями. Репозиторий использует формат safetensors и библиотеку MLX; автор упоминает отдельные варианты GGUF и AWQ. Лицензия в предоставленных данных не указана.

JeongMinMin/kanana-1.5-8b-instruct-2505-Safe-DPO — диалоговая модель генерации текста на архитектуре Llama с 7,5 млрд параметров. В карточке указано, что модель дообучена разработчиком JeongMinMin с помощью Unsloth и библиотеки TRL; в качестве исходной модели названа она же. Поддерживает чат и интерфейс вызова инструментов, принимает текст и генерирует текст. Контекст — до 32 768 токенов; карточка указывает английский язык. Модель подходит для диалоговых приложений и генерации ответов с возможностью передавать вызовы инструментам. Файлы представлены в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализированные области применения, результаты оценки качества или конкретные ограничения, поэтому их нельзя уточнить по доступным данным.

Kimi-K2-Instruct-4bit — это 4-битная версия модели Kimi-K2-Instruct, преобразованная сообществом mlx-community в формат MLX из исходной модели moonshotai/Kimi-K2-Instruct. Конвертация выполнена с использованием mlx-lm версии 0.26.0. Модель предназначена для генерации текста в сценариях, поддерживаемых библиотекой mlx-lm, включая диалоговое взаимодействие и выполнение инструкций. README указывает текстовую генерацию и использование chat template, однако сведения об архитектуре, числе параметров, поддерживаемых языках, длине контекста и дополнительных модальностях не приведены. Основная особенность модели — 4-битное представление, рассчитанное на запуск в экосистеме MLX. Это может снизить требования к памяти по сравнению с полноразмерной версией, но README не содержит результатов оценки качества, производительности или подробностей ограничений квантования. Лицензия указана как modified-MIT; условия её модифицированного варианта следует проверить в сопроводительных материалах модели.

MLX-версия модели Kimi-K2-Thinking, разработанная сообществом mlx-community на основе модели moonshotai/Kimi-K2-Thinking. Модель предназначена для генерации текста и запуска в экосистеме MLX с использованием библиотеки mlx-lm, включая сценарии диалогового взаимодействия через chat template. Известно, что модель имеет формат MLX и была преобразована с помощью mlx-lm версии 0.28.4. В карточке указано назначение text-generation, однако сведения об архитектуре, размере, объёме контекста, поддерживаемых языках и модальностях отсутствуют. Для работы требуется библиотека mlx-lm; в примере используется загрузка модели через mlx_lm.load и генерация ответа через mlx_lm.generate. Лицензия обозначена как modified-MIT с типом other. Подробные условия лицензии, а также ограничения и результаты оценки качества в карточке не приведены.

RedHatAI/Kimi-K3-FP8-BLOCK — квантованная версия мультимодальной модели moonshotai/Kimi-K3, разработанная RedHatAI. Модель построена на архитектуре KimiK3ForConditionalGeneration, принимает текст и изображения, а генерирует текст. Она предназначена для conversational-сценариев и инференса с использованием vLLM; подробные возможности базовой модели в этой карточке не раскрыты. В модели применена FP8-квантизация весов и активаций линейных операторов внутри трансформерных блоков. Для весов используется блочное масштабирование, для активаций — динамическое групповое масштабирование. Квантизация выполнена методом model-free post-training quantization без калибровочных данных с помощью LLM Compressor; при этом слои эмбеддингов, attention, vision tower, mm_projector и некоторые другие компоненты не квантуются. Модель готова к распределённому запуску в vLLM и поддерживает автоматический выбор инструментов и разбор рассуждений через соответствующие параметры сервера. Размер модели, длина контекста и поддерживаемые языки в README не указаны. Веса и код распространяются по лицензии Kimi K3 License.

Kimi-Linear-48B-A3B-Instruct-4bit — языковая instruction-модель, разработанная Moonshot AI и преобразованная сообществом mlx-community в формат MLX. Исходная модель — moonshotai/Kimi-Linear-48B-A3B-Instruct; конвертация выполнена с использованием mlx-lm версии 0.28.4. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям, включая сценарии локального запуска через библиотеку mlx-lm на совместимом оборудовании Apple MLX. В README указаны размер исходной модели 48B и конфигурация A3B, а также 4-битное квантование. Поддерживается текстовая модальность; сведения о языках, длине контекста и архитектурных деталях, кроме обозначения Kimi-Linear, не приведены. К сильным сторонам относятся сниженный объём хранения и требования к памяти благодаря 4-битному представлению, а также интеграция с MLX и готовым интерфейсом mlx-lm. Ограничения связаны с зависимостью от экосистемы MLX и отсутствием в предоставленных данных подробных сведений о качестве, производительности, поддерживаемых языках и контексте. Модель распространяется по лицензии MIT.

Klyrune-2B-General-1 — компактная языковая модель общего назначения, разработанная в проекте Klyrune-2B. Это первая инструкция-настроенная версия проекта, дообученная на базе OpenBMB MiniCPM5-2B-Base для следования инструкциям, работы со знаниями и решения задач. Модель имеет плотную архитектуру семейства Llama с классом LlamaForCausalLM и содержит 2,2 млрд параметров. Она поддерживает генерацию текста и диалоговый интерфейс, а заявленная длина контекста составляет 524 288 токенов. Модель предназначена для ответов на запросы и решения общих задач; приведённые авторами результаты особенно относятся к математике и информатике: указаны 70,4% на MATH-500 и 63,0% и 85,6% на двух разделах математики MMLU. Эти оценки не подтверждают одинаковое качество во всех задачах и языках. В метаданных указан английский язык. Модель распространяется под лицензией Apache-2.0; файлы весов представлены в формате safetensors.

MrBananaHuman/kogpt_6b_fp16 — версия модели KoGPT 6B от Kakao Brain, сохранённая в формате FP16. Это плотная авторегрессионная языковая модель семейства GPT-J для генерации текста; в метаданных указана архитектура GPTJForCausalLM и контекст до 2048 токенов. Модель предназначена для продолжения текста и генерации предложений на основе заданного текстового фрагмента. README указывает базовый репозиторий kakaobrain/kogpt и ревизию KoGPT6B-ryan1.5b. Карточка показывает загрузку через Transformers с PyTorch. Отдельные сведения о лицензии и целевых языках в предоставленных данных отсутствуют.