I.5Создание и редактирование текста

InternLM2.5-7B-Chat-GGUF — квантизированная версия чат-модели InternLM2.5-7B-Chat, разработанной командой InternLM и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая чат-взаимодействие и использование инструментов. Она рассчитана на запуск через LlamaEdge и совместимые среды, использует шаблон запросов ChatML, а для вызовов инструментов предусмотрен отдельный шаблон internlm-2-tool. Модель содержит 7 миллиардов параметров, поддерживает контекст до 32 000 токенов и относится к текстовым, а не мультимодальным моделям. Доступны варианты квантизации от 2 до 8 бит, а также f16; размеры файлов составляют примерно от 3,01 до 15,5 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S предлагают более низкую потерю качества при большем размере. Более сильная квантизация уменьшает требования к памяти, но может заметно снижать качество. README не содержит сведений о поддерживаемых языках, внутренней архитектуре, результатах тестирования, сильных сторонах и ограничениях исходной модели. Лицензия указана как other, без дополнительных условий или подробностей; перед использованием необходимо ознакомиться с лицензией исходной модели и репозитория.

InternLM2-Base-20B — базовая языковая модель второго поколения InternLM, разработанная командой InternLM. Это плотная авторегрессионная модель на 19,3 млрд параметров для генерации и продолжения текста; она предназначена прежде всего для адаптации к предметным областям и может служить основой для последующего дообучения. Репозиторий содержит веса PyTorch, а заявленная длина контекста составляет 32 768 токенов. Модель рассчитана на работу с длинными текстами и демонстрирует способности к рассуждениям, математике и программированию. В README заявлена поддержка входов до 200 000 символов и приведены результаты оценивания InternLM2-20B на бенчмарках, включая MMLU, AGIEval и BBH; этот показатель длины в символах не следует смешивать с контекстом в 32 768 токенов из метаданных. Карточка описывает семейство InternLM2, но не перечисляет конкретные языки обучения или поддержки. Модель может генерировать предвзятый, дискриминационный или иной вредоносный текст, поэтому её ответы требуют проверки. Код распространяется по Apache-2.0; веса открыты для академических исследований, а для коммерческого использования требуется запросить бесплатную лицензию.

Это преобразованная в формат архитектуры Llama версия InternLM2 Chat 7B SFT, размещённая пользователем bartowski. Модель предназначена для генерации текста в диалоговом формате и может использоваться для ответов на запросы и ведения беседы. Модель содержит 7,4 млрд параметров и поддерживает контекст длиной до 32 768 токенов. README сообщает о конвертации из InternLM в формат Llama; в репозитории указан формат safetensors. Лицензия обозначена как other, поэтому условия её использования следует проверять в исходной карточке модели и у базовой модели.

silence09 опубликовал преобразованную версию InternLM3-8B-Instruct, представленную в формате архитектуры Qwen2 для совместимости с некоторыми сценариями инференса и классом Qwen2ForCausalLM. Модель содержит 8,3 млрд параметров, использует плотную архитектуру и сохраняет точность исходных весов. Контекст — до 32 768 токенов; поддерживается диалоговое использование и генерация текста. Модель предназначена для запуска запросов к исходной InternLM3-8B-Instruct в окружениях, рассчитанных на Qwen2. Базовая модель ориентирована на общие запросы, работу со знаниями и сложные рассуждения. Репозиторий распространяется по лицензии Apache-2.0.

InternLM-XComposer-7B — мультимодальная модель семейства InternLM-XComposer, разработанная командой InternLM на основе InternLM. Это плотная авторегрессионная модель примерно на 6,9 млрд параметров с контекстом 2048 токенов, представленная в формате PyTorch и распространяемая по лицензии Apache-2.0. Модель предназначена для понимания изображений и текста, работы в роли ИИ-ассистента и создания материалов, в которых текст чередуется с изображениями. Она может составлять связные тексты по инструкциям, предлагать места для изображений, описывать визуальный контент и выбирать подходящие изображения. Карточка сообщает о мультиязычном обучении и результатах на англоязычных и китайских мультимодальных тестах. Для непосредственного понимания визуального содержимого модель принимает текст и изображения и формирует текстовые ответы. Указанное описание композиции с изображениями включает поиск и выбор изображений; карточка не уточняет, выдаёт ли этот репозиторий сами изображения. Данные о конкретных ограничениях применения не приведены.

Модель braindao/iq-code-evmind-0.5b — компактная языковая модель семейства Qwen2, разработанная braindao как дообучение braindao/iq-code-evmind-0.5b-instruct-v0.2411.4. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Модель содержит 494 млн параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка сообщает об обучении с использованием Unsloth и TRL. README не описывает специализированную область применения или результаты оценки качества, поэтому её стоит рассматривать как компактную модель общего назначения, а качество ответов и вызова инструментов проверять на целевых задачах.

Iridium-72B-v0.1 — языковая модель на 71,5 млрд параметров, созданная автором leafspark слиянием Qwen2-72B-Instruct, calme2.1-72b и magnum-72b-v1 с помощью model_stock. Модель использует плотную архитектуру Qwen2 для генерации текста и диалогов; доступна в формате safetensors для Transformers. В README указан контекст до 128 тысяч токенов, тогда как метаданные каталога указывают native context в 32 768 токенов. Модель предназначена для диалоговых ответов и генерации связного текста, сочетая, по описанию автора, стиль прозы Magnum с возможностями Calme. Поддерживаемые языки по карточке — английский и китайский. Для запуска автор указывает потребность примерно в 140 ГБ VRAM или RAM и не менее 135 ГБ свободного места. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензиями исходных моделей.

Это пользовательская сборка GGUF-модели Iris-mini от IsValorum: базовая модель AllSpark-Research/Iris-mini представлена в формате GGUF с ручной схемой квантования APEX-I-MiniPlus. В карточке заявлена архитектура qwen35moe с 35 млрд параметров и примерно 3,2 млрд активных параметров на токен; веса занимают около 14,84 ГБ. Сборка сохраняет встроенную голову Multi-Token Prediction для ускорения авторегрессивной генерации с помощью спекулятивного декодирования. Модель предназначена для генерации текста в диалогах, рассуждениях, математических задачах и коде. Она поддерживает множество языков, включая английский, китайский, русский, испанский, французский, немецкий, португальский, итальянский, японский, корейский, вьетнамский, тайский и арабский. В README описаны запуски с длинным контекстом вплоть до 256 тысяч токенов, однако эти оценки зависят от конфигурации и оборудования. Автор заявляет, что выбор точности для отдельных слоёв должен лучше сохранять качество рассуждений и синтаксиса, чем некоторые более грубые квантования, при умеренных требованиях к памяти. Это пользовательская сборка, и приведённые в README сравнения производительности и качества являются заявлениями автора, а не независимой оценкой. Лицензия — Apache-2.0.

Irix-12B_Slush_V2 — объединённая языковая модель на 12,1 млрд параметров, созданная сообществом mergekit-community из DreadPoor/Irix-12B-Model_Stock и mergekit-community/Slush-Lyra-Gutenberg-Bophades. Слияние выполнено методом SLERP; архитектура — плотная MistralForCausalLM, веса опубликованы в формате Safetensors и предназначены для работы через Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на запросы и продолжения текста; в метаданных также отмечен интерфейс вызова инструментов. Заявленная длина контекста — до 1 024 000 токенов. Карточка не приводит оценок качества или конкретных ограничений, поэтому поведение на длинном контексте и в прикладных сценариях следует проверять отдельно. Сведения о лицензии в доступных данных отсутствуют.

Vikhrmodels/it-5.4-fp16-orpo-v2 — русскоязычная чат-модель Vikhrmodels для генерации ответов на инструкции. Это плотная авторегрессионная модель семейства Llama с 7,3 млрд параметров и контекстом до 32 768 токенов. По карточке, в основе лежит Vikhr пятой версии на базе Mistral; модель обучали на переведённых инструкциях и ответах GPT-4, а затем улучшили методом ORPO на внутреннем датасете. Модель предназначена для диалогов и выполнения пользовательских инструкций на русском языке. В README отмечено высокое разнообразие ответов; для генерации авторы рекомендуют температуру 0,1–0,4. Модель распространяется в формате safetensors и обозначена как fp16; README также упоминает GGUF, но не приводит подробностей отдельной версии. Лицензия в предоставленных сведениях не указана. Возможности за пределами текстового чата и качество на конкретных задачах README не описывает.

Jais Family 13B Chat — диалоговая языковая модель семейства Jais, разработанного Inception Institute of Artificial Intelligence. Это дообученная для общения версия базовой модели inceptionai/jais-family-13b с плотной архитектурой JAISLMHeadModel и примерно 13 млрд параметров. Модель принимает текст и генерирует ответы в чате; она рассчитана прежде всего на арабский и английский языки. Размер контекста — 2048 токенов. Модель подходит для создания арабоязычных и двуязычных чат-ассистентов, ответов на вопросы, суммаризации арабских и английских документов, а также задач понимания текста, таких как классификация тональности. Для загрузки требуется пользовательский класс модели с параметром trust_remote_code=True. Лицензия — Apache 2.0. Ответы могут быть ошибочными, предвзятыми, вводящими в заблуждение или оскорбительными; результаты требуют проверки, особенно в важных решениях. Модель оптимизирована для арабского и английского, поэтому её не следует считать одинаково компетентной в других языках или диалектах.

Jais Family 2.7B Chat — диалоговая языковая модель семейства Jais, разработанного Inception AI. Это дообученная для общения версия двуязычной модели с 2,7 млрд параметров; она принимает текст и генерирует ответы, особенно хорошо ориентируясь на арабский язык и также поддерживая английский. Модель подходит для чат-ассистентов, генерации и понимания текста, анализа тональности и краткого изложения арабских и англоязычных материалов. Модель распространяется в формате Safetensors и требует загрузки пользовательского класса модели с параметром trust_remote_code=True. Лицензия — Apache 2.0. Карточка описывает семейство Jais в целом, поэтому приведённые для семейства сценарии и ограничения не обязательно характеризуют именно этот размер модели. Возможны предвзятые, неверные или оскорбительные ответы; модель не следует использовать для высокозначимых решений без контроля человека, обработки чувствительных данных или как надёжную систему для языков помимо арабского и английского.

inception42/jais-family-30b-16k-chat — чат-модель семейства Jais, созданного Inception Institute of Artificial Intelligence. Это дообученная для диалога версия базовой модели inceptionai/jais-family-30b-16k: автор описывает Jais Family как двуязычные англо-арабские большие языковые модели, оптимизированные для арабского языка и обладающие сильными возможностями на английском. Модель предназначена для диалоговых приложений, генерации и понимания текста, анализа тональности и суммаризации арабских и англоязычных документов. Модель имеет архитектуру декодера с авторской реализацией класса, для загрузки которой требуется включить trust_remote_code. В названии указаны размер 30B и контекст 16k; файлы представлены в формате safetensors. Метаданные помечают модель как чат-модель. Лицензия — Apache-2.0. Сильная сторона модели — ориентация на арабский язык при сохранении возможностей английского, включая диалоговые сценарии. Ограничения: ответы ориентированы на арабский и английский, возможны ошибки, предвзятость и оскорбительный либо вводящий в заблуждение контент; модель не предназначена для высокорисковых решений без контроля человека и обработки конфиденциальных данных.

jaLLAbi2-7b — объединённая языковая модель Abacus Research на базе архитектуры Mistral с 7,1 млрд параметров. Она создана методом mergekit из нескольких моделей, включая WestSeverus-7B-DPO-v2, jaskier-7b-dpo-v5.6, haLLAwa3 и WestLake-7B-v2-laser; в конфигурации использован метод слияния dare_ties и точность bfloat16. Модель предназначена для генерации текста и ответов на запросы. Она принимает текст и выдаёт текст, а заявленная длина контекста составляет 32 768 токенов. В README приведены результаты Open LLM Leaderboard, в том числе по тестам AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. Карточка не описывает целевые языки и не приводит ограничений или рекомендаций по применению, поэтому назначение для конкретного языка или предметной области из доступных сведений установить нельзя.

Menlo/Jan-nano-128k-gguf — это квантованная GGUF-версия компактной языковой модели Jan-Nano-128k, разработанной Menlo Research; авторами указаны Alan Dao и Bach Vu Dinh. Модель предназначена для генерации текста и исследовательских сценариев, включая анализ научных статей и длинных документов, синтез информации из нескольких источников, работу с большими наборами данных и сложные многошаговые диалоги. Она также совместима с серверами Model Context Protocol (MCP) и поддерживает вызов инструментов при соответствующей настройке среды. Ключевая характеристика модели — нативное контекстное окно до 128 000 токенов, рассчитанное на сохранение производительности при работе с длинным контекстом. Указан английский язык; модель относится к нетерминологически «рассуждающим» моделям и не использует отдельный режим thinking. Архитектура, точный размер модели, тип и параметры квантования, а также перечень поддерживаемых модальностей в README не раскрыты, поэтому подтверждена только текстовая модальность. Сильными сторонами заявлены обработка больших документов, глубокий анализ и улучшение результатов на длинном контексте по сравнению с предыдущей версией Jan-Nano. Ограничения включают отсутствие подробных сведений об архитектуре, размере и конкретном варианте квантования, а также необходимость корректной настройки chat template и параметров масштабирования RoPE при некоторых способах развёртывания. Модель распространяется по лицензии Apache 2.0.

Jan-v3-4B-base-instruct-GGUF — квантованная версия компактной языковой модели Jan-v3-4B-base-instruct, разработанной Jan (janhq) и преобразованной в формат GGUF с помощью llama.cpp командой GGUF Quantizer Space. Модель предназначена для генерации текста, следования инструкциям, локального запуска, лёгкой помощи в программировании и последующей тонкой настройки под прикладные задачи. Модель относится к авторегрессионным causal language models и содержит около 4 млрд параметров, 36 слоёв и Grouped Query Attention с 32 головами для запросов и 8 для ключей и значений. Заявлена нативная длина контекста 262 144 токена. Модель получена посредством посттренировочной дистилляции от более крупной модели; README не указывает поддерживаемые языки и не заявляет мультимодальность, поэтому её следует рассматривать как текстовую. Основные преимущества — компактность, возможность локального развертывания через llama.cpp или Ollama, улучшенное следование инструкциям и пригодность в качестве основы для дообучения. Доступны варианты квантования от Q2_K до Q8_0: меньшие варианты требуют меньше ресурсов, но сильнее теряют в качестве, тогда как Q4_K_M и Q5_K_M обозначены как сбалансированный и высококачественный рекомендуемые варианты. Ограничения включают потери качества при агрессивном квантовании, а также отсутствие в README подробных данных о результатах бенчмарков, языках и ограничениях безопасности. Для исходной модели указана лицензия Apache 2.0.

Карточка модели jetmoe/jetmoe-8b-sft на Hugging Face совпадает с карточкой jetmoe/jetmoe-8b, поэтому описание составлено по ней. JetMoE-8B — открытая языковая модель семейства JetMoE, созданная Yikang Shen, Zhen Guo, Tianle Cai и Zengyi Qin. Она предназначена для генерации текста и может служить базой для дообучения и исследовательских экспериментов. Авторы сообщают, что модель обучена на 1,25 трлн токенов из общедоступных наборов данных. Архитектура состоит из 24 блоков, в каждом из которых есть слой смеси голов внимания (MoA) и слой смеси экспертов MLP (MoE). В каждом слое восемь экспертов, из которых для токена активируются два. README указывает 8 млрд параметров всего и 2,2 млрд активных параметров при выводе; метаданные Hugging Face указывают размер 1,6 млрд параметров. Модель принимает текст, генерирует текст и имеет контекстное окно 4096 токенов. Авторы заявляют о конкурентных результатах относительно ряда моделей большего размера и о сравнительно низкой стоимости обучения, однако приведённые в карточке таблицы неполны, поэтому независимо оценить эти сравнения по ней нельзя. Модель доступна в формате safetensors под лицензией Apache-2.0; карточка сообщает об открытом коде и обучении только на публичных данных.

SirSahOl подготовил 16-битную версию модели IFM/K2-Horizon-0.9B для запуска на компьютерах Apple Silicon с помощью MLX. Это плотная причинная языковая модель примерно на 924,5 млн параметров с контекстом до 8192 токенов, предназначенная для диалогов и генерации текста. Базовая модель описана как компактная модель для рассуждений, математики и программирования; эти возможности унаследованы от неё. Модель распространяется в формате safetensors и рассчитана на запуск через MLX. README приводит замеры на Apple M1 и рекомендации по объёму памяти для разных вариантов точности. Для этой версии требуется Apple Silicon M1 или новее; при работе с контекстами длиннее 8 тысяч токенов качество может снижаться. Лицензия — Apache 2.0.

K2-Horizon-7B-Uno MLX 6-bit — языковая модель для генерации текста, подготовленная hermitdave на основе IFM/K2-Horizon-7B-Uno от Institute of Foundation Models. Это плотная авторегрессионная модель семейства K2-Horizon с 8 млрд параметров; исходная модель описана как дополненная диффузией, а LoRA-адаптер объединён с базовыми весами. Репозиторий содержит равномерно квантованную до 6 бит версию в формате MLX для запуска на Apple Silicon. Модель предназначена для генерации ответов и рассуждений по текстовым запросам. Заявлено контекстное окно до 524 288 токенов; для запуска автор рекомендует высокий уровень усилия рассуждения. Для работы с K2-Horizon в oMLX требуется версия 0.6.4 или новее с патчем поддержки этой архитектуры. Модель распространяется по лицензии Apache 2.0. Квантование до 6 бит может влиять на качество относительно исходных весов; README также указывает на требование к поддерживаемой версии oMLX при использовании этого способа запуска.

Это GGUF-квантизация модели K2-Horizon-MoVA-36B-A4B от IFM, подготовленная VladHong для локального запуска через llama.cpp. Модель использует разреженную архитектуру Mixture-of-Experts с механизмом внимания Mixture-of-Values: всего 36 млрд параметров, из которых на каждый токен активируются примерно 4 млрд. Контекст модели — до 524 288 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции и фактические вопросы. Профиль APEX Mini сочетает несколько типов точности GGUF-квантования и настроен на сохранение качества обычной генерации и совместимость с CUDA. Для запуска требуется специальная сборка llama.cpp с поддержкой архитектуры и токенизатора K2-Horizon; обычная версия llama.cpp может не распознать файл. Репозиторий распространяется по лицензии Apache-2.0.

K2-Horizon-MoVA-36B-A4B-bf16 — конверсия модели IFM/K2-Horizon-MoVA-36B-A4B в формат MLX с точностью bf16, опубликованная сообществом mlx-community. Это разреженная языковая модель MoE с 36 млрд параметров и примерно 4 млрд активных параметров на токен; в механизме внимания MoVA значения выбираются из 4 из 64 маршрутизируемых экспертов. Модель предназначена для генерации текста и диалогов, включая рассуждения и многошаговое взаимодействие, и поддерживает контекст до 524 288 токенов. Сборка ориентирована на компьютеры Apple с Apple silicon и работает через mlx-lm. README сообщает о проверке реализации на реальных весах относительно кода PyTorch IFM и о тестировании генерации и серверного диалога. Для короткого запроса требуется около 75 ГБ памяти; автор рекомендует Mac с 128 ГБ. В репозитории поставляется код модели, загружаемый через model_file; при использовании может потребоваться разрешить trust_remote_code. Лицензия — Apache-2.0.

K2S3-Mistral-7b-v1.3 — языковая модель, разработанная K2S3 и построенная на архитектуре Mistral. Это плотная авторегрессионная модель на 7,2 млрд параметров с контекстом до 32 768 токенов, предназначенная для генерации текста и диалоговых инструкций. Модель дообучена методом полного обновления параметров с использованием supervised fine-tuning на базе Changgil/K2S3-Mistral-7b-v1.2; исходная линия базируется на mistralai/Mistral-7B-v0.1. В обучении использовались alpaca-gpt4-data и примеры из OpenOrca. Модель принимает текст и генерирует текст. В карточке указана поддержка английского и корейского языков. Репозиторий распространяет веса в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Конкретные результаты оценки качества или специализация в отдельной предметной области в карточке не приведены.

Kai-30B-Instruct-i1-GGUF — набор квантованных GGUF-версий модели Kai-30B-Instruct, разработанной NoesisLab и квантованной mradermacher. Модель ориентирована на генерацию текста, следование инструкциям, математические и логические рассуждения, программирование и другие задачи, связанные с текстом. В метаданных также указана тематика ads и distillation, однако подробности соответствующей специализации не приведены. Базовая модель содержит около 30 миллиардов параметров; архитектура и размер контекста в README не указаны. Поддерживаемый язык — английский. Модель работает с текстом и поставляется в различных вариантах квантования, включая IQ1–IQ4, Q2–Q6 и другие форматы. Доступны версии с разным компромиссом между размером, скоростью и качеством: например, i1-Q4_K_M отмечена как быстрая и рекомендуемая, а i1-Q4_K_S — как оптимальная по соотношению размера, скорости и качества. Наиболее компактные варианты имеют заметно более низкое качество. Основные преимущества — возможность локального запуска в формате GGUF и широкий выбор вариантов квантования под доступные ресурсы. Ограничения включают возможное ухудшение качества при низких уровнях квантования, отсутствие данных о контекстном окне, мультимодальности, результатах оценки и языках помимо английского. Лицензия базовой модели — Apache-2.0; README не уточняет, распространяются ли квантованные файлы на дополнительных условиях.

Kai 7B Beta — языковая модель для генерации текста, разработанная Keynote Technology. Данная версия распространяется в формате GGUF и представляет собой квантизированные файлы исходной модели Keynote-Technology/KAI-7B-beta; квантизацию выполнил TheBloke. Модель предназначена для задач текстовой генерации, включая сценарии, связанные с кодом, и может использоваться через llama.cpp и совместимые приложения и библиотеки для локального вывода на CPU и GPU. Из известных характеристик: модель относится к типу Mistral, содержит около 7 миллиардов параметров, поддерживает английский язык и работает только с текстом. Доступны варианты квантизации с разной разрядностью, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Контекстное окно в предоставленных данных не указано; специальный шаблон промпта отсутствует, используется формат {prompt}. Основные преимущества — наличие вариантов от 2 до 8 бит, поддержка широкого набора локальных инструментов и возможность запуска без облачной инфраструктуры. К ограничениям относятся возможные потери качества из-за квантизации, зависимость производительности от выбранного варианта и оборудования, а также отсутствие данных о целевых бенчмарках и размере контекстного окна. В метаданных указана лицензия Apache-2.0.

Carnice-V3-GGUF — это квантизированная GGUF-версия модели Carnice-V3, разработанной kai-os и подготовленной bartowski с использованием llama.cpp. Модель рассчитана на задачи генерации текста, агентские сценарии и взаимодействие с инструментами; в метаданных также указана поддержка image-text-to-text и тегов tool-use и agent. Модель содержит 28 млрд параметров и принимает текст, а также изображения при использовании специального mmproj-файла. Поддерживается английский язык. Доступны speculative decoding через MTP и квантизация с imatrix. Представлено множество вариантов квантизации от BF16 и Q8_0 до более компактных Q2/Q3/Q4/Q5/Q6, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Для большинства сценариев автор рекомендует Q4_K_M как сбалансированный вариант, а Q6_K и Q6_K_L — для более высокого качества. К сильным сторонам относятся большой размер, мультимодальный ввод, поддержка агентских задач и инструментов, а также широкий выбор квантизаций. Ограничениями являются значительный объём файлов, необходимость совместимого ПО на базе llama.cpp и mmproj-файла для обработки изображений; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.

bartowski/kalomaze_Qwen3-16B-A3B-GGUF — набор GGUF-квантизаций базовой модели kalomaze/Qwen3-16B-A3B. Квантизации подготовлены bartowski с использованием llama.cpp b5255 и метода imatrix. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты от BF16 размером 32,08 ГБ до компактных низкобитных форматов. Доступны Q8_0, Q6_K_L, Q6_K, Q5, Q4, IQ4, Q3 и Q2-варианты с разным соотношением качества, размера и требований к памяти. Наиболее качественными и рекомендуемыми обозначены Q6_K_L, Q6_K, Q5_K и Q4_K; Q4_K_M указан как вариант по умолчанию для большинства сценариев, а низкобитные Q3 и Q2 обеспечивают экономию памяти ценой снижения качества. Модель поддерживает текстовую генерацию; сведения о языках, размере контекста и точной архитектуре в представленном README не указаны. Для работы следует использовать шаблон запросов с маркерами <|im_start|> и <|im_end|>. Распространение выполняется по лицензии Apache-2.0.

Это дообученная разговорная модель devsungyeon на базе kakaocorp/kanana-1.5-8b-instruct-2505. Она предназначена для генерации текста в диалогах; метаданные также указывают интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров, работает с контекстом до 32 768 токенов и распространяется в формате Safetensors. Карточка сообщает, что модель обучали с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0. Язык карточки и языковой тег — английский; более широкие языковые возможности базовой модели не подтверждают отдельное назначение этой версии для других языков.

Модель hungpill/kanana-1.5-8b-instruct-2505-Persona-Merged — дообученная диалоговая языковая модель на архитектуре Llama, основанная на kakaocorp/kanana-1.5-8b-instruct-2505. Разработчик — hungpill; в карточке указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL. Модель предназначена для генерации текста в диалогах и поддерживает интерфейс вызова инструментов. Она содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 32 768 токенов. Карточка не описывает отдельные возможности или специализацию Persona-версии. Модель распространяется по лицензии Apache-2.0. Языковой тег карточки — en; это не подтверждает поддержку других языков.

luckysong777 дообучил Kanana 1.5 Instruct 8B — плотную Llama-модель для генерации текста и диалогового взаимодействия. Модель содержит 7,5 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. В метаданных указаны интерфейс вызова инструментов и английский язык; README сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель подходит для диалоговых сценариев и генерации текста, унаследовав возможности базовой kakaocorp/kanana-1.5-8b-instruct-2505, включая программирование, математику и вызов инструментов. Распространяется по лицензии Apache-2.0. README не описывает отдельную специализацию этого дообучения или его сравнительное качество.

Biggiraffe/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная языковая модель, опубликованная Biggiraffe. Она основана на Llama и предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Карточка указывает лицензию Apache-2.0. Данные подтверждают поддержку английского языка; сведений о специализации на других языках или предметных областях нет.