II.6Документация и сопровождение разработки

Infinity-Instruct-7M-Gen-Llama3_1-70B-GGUF — это GGUF-квантизированная версия генеративной модели Infinity-Instruct-7M-Gen-Llama3_1-70B, разработанной BAAI и подготовленной квантизацией пользователем bartowski. Модель основана на Llama 3.1 с 70 миллиардами параметров и предназначена для генерации текста и выполнения инструкций на английском языке. Модель подходит для диалоговых сценариев, обработки инструкций и других задач text generation. Она использует архитектуру Llama 3.1 и запускается через llama.cpp, в том числе в LM Studio. В репозитории доступны варианты квантизации от Q8_0 до Q2_K, включая рекомендуемые Q4, Q5 и Q6; размер файлов составляет примерно от 27 до 75 ГБ. Для работы следует использовать указанный формат prompt с системным сообщением, пользовательским запросом и ответом ассистента. Сильная сторона модели — большой размер и широкий выбор вариантов квантизации, позволяющий выбирать между качеством и требованиями к памяти. Более высокие варианты обеспечивают качество, близкое к исходной модели, а низкобитные подходят для систем с ограниченным объёмом RAM, но заметно снижают качество. Мультимодальность и размер контекстного окна в README не указаны. Лицензия обозначена как llama3.1; исходная модель обучена на датасете BAAI/Infinity-Instruct.

Карточка модели amd/Instella-MoE-16B-A3B-DPO на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

Instella-MoE-16B-A3B-SFT — языковая модель AMD для генерации текста и диалогов. Это дообученный вариант семейства Instella-MoE с архитектурой Mixture-of-Experts: в README указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен, а метаданные каталога указывают 2,5 млрд параметров. Модель построена на архитектуре DeepSeek V3 и имеет контекстное окно 32 768 токенов. Модель предназначена для диалоговых сценариев, генерации ответов и взаимодействия через интерфейс вызова инструментов. README описывает обучение семейства Instella-MoE с нуля компанией AMD и выпуск контрольных точек для разных этапов обучения; конкретная карточка обозначена как SFT, то есть контрольная точка прошла дообучение на инструкциях. Модель использует формат safetensors и библиотеку Transformers. README предупреждает, что модель может выдавать фактически неверные, вредные, токсичные или предвзятые ответы, а её многоязычные возможности не проверялись. Она не предназначена для сценариев, требующих высокой точности, и для критически важных, медицинских или связанных со здоровьем применений. Условия лицензии указаны как other, поэтому конкретные права использования следует проверять в карточке модели. Хотя README называет выпуск исследовательским, это применимая контрольная точка модели, а не промежуточный эксперимент.

Instruct-v0.2-Seraph-7B — языковая модель Weyaxi для генерации текста в формате инструкций. Она создана слиянием методом SLERP моделей Weyaxi/Seraph-7B и mistralai/Mistral-7B-Instruct-v0.2; в конфигурации также указана базовая модель mistralai/Mistral-7B-v0.1. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и имеет контекстное окно 32 768 токенов. Модель подходит для диалоговых ответов и выполнения текстовых инструкций. Веса доступны в формате safetensors, лицензия — Apache-2.0. README не приводит результатов оценки качества или перечня поддерживаемых языков, поэтому конкретные языковые возможности и сравнительные преимущества установить нельзя.

INTELLECT-1-step-69200 — промежуточный чекпойнт языковой модели INTELLECT-1 от Prime Intellect и сообщества участников, включая Arcee AI и Hugging Face. Это плотная авторегрессионная модель семейства Llama примерно на 9,7 млрд параметров, обученная с нуля на триллионе токенов английских текстов и кода; данный вариант соответствует шагу обучения 69 200. В архитектуре указаны 42 слоя и 32 головы внимания, максимальный контекст — 8192 токена. Модель предназначена для генерации продолжений текста и кода на английском языке. Она создавалась с распределённым обучением на нескольких континентах; для обмена градиентами применялись пользовательские int8 all-reduce-ядра. В README этот файл обозначен как промежуточный чекпойнт, поэтому его качество и стабильность могут уступать финальной версии INTELLECT-1. Модель распространяется по лицензии Apache 2.0.

INTELLECT-3-Base — текстовая языковая модель Prime Intellect, представляющая собой копию GLM-4.5-Air-Base с шаблоном чата, адаптированным из Qwen3-Coder. Модель предназначена для генерации текста в диалоговом формате; её архитектура относится к семейству GLM-4 MoE, размер — 8,5 млрд параметров, максимальный контекст — 131 072 токена. Модель принимает текст и генерирует текст. В метаданных указана поддержка английского и китайского языков, а также возможность диалогового использования. Веса опубликованы в формате Safetensors. Лицензия — MIT. README не описывает отдельное дообучение или специализированные сценарии применения.

ClaudioItaly/Intelligence-Cod-Rag-7B-V3.3 — слитая диалоговая языковая модель на архитектуре Qwen2 с 7,1 млрд параметров. Она создана с помощью mergekit методом TIES на основе ClaudioItaly/intelligence-cod-rag-7b-v3 с включением newsbang/Homer-7B-v0.1. Модель предназначена для генерации текста в диалоге и ответов на запросы. Метаданные указывают контекст длиной до 32 768 токенов и формат весов safetensors. Для использования доступна библиотека Transformers. README не описывает конкретные сценарии RAG или специализированные возможности, поэтому их нельзя подтвердить только по названию модели. Лицензия в предоставленных данных не указана.

ClaudioItaly/Intelligence-Cod-Rag-7B-v4 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES из happzy2633/qwen2.5-7b-ins-v3, EVA-UNIT-01/EVA-Qwen2.5-7B-v0.1 и AIDC-AI/Marco-o1. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста в формате диалога. Контекст — до 32 768 токенов. Модель можно использовать для ведения диалогов и генерации ответов на текстовые запросы. Карточка не описывает отдельные области применения или специальные возможности RAG, поэтому название модели само по себе не подтверждает, что она выполняет поиск по документам. Веса опубликованы в формате Safetensors; лицензия в предоставленных данных не указана.

Kaoeiri/Interleaved-upscale-small-drummer-39B — текстовая языковая модель, созданная слиянием предварительно обученных моделей через mergekit. В README указана модель-источник nbeerbower/Mistral-Small-Drummer-22B и метод passthrough; архитектура — плотная MistralForCausalLM с 38,8 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель использует Transformers и распространяется в формате safetensors. Лицензия CC BY-ND 4.0 требует указания авторства и ограничивает распространение производных версий. Данных о специализации по предметной области или конкретных языках нет.

InternLM2.5-20B-Chat GGUF — большая языковая чат-модель в формате GGUF, разработанная Shanghai AI Laboratory (上海人工智能实验室) и представленная для запуска с помощью llama.cpp. Она предназначена для локального и облачного инференса, ведения диалогов, генерации текста и интеграции в сервисы через совместимый с OpenAI API сервер llama-server. В README также показан сценарий вызова функций, например получения текущей погоды через внешний инструмент. Модель имеет размер 20B параметров и поддерживает несколько вариантов точности и квантования, включая FP16, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В качестве языков указано English, а в примере системного промпта заявлена способность общаться на английском и китайском языках. README демонстрирует контекст размером 4096 токенов и рекомендует использование аппаратного ускорения, включая CUDA; конкретные требования к ресурсам не указаны. Сильными сторонами модели являются возможность локального развёртывания на различных аппаратных платформах, наличие низкобитных версий и поддержка чатового взаимодействия, вызова функций и OpenAI-совместимого API. Ограничения включают отсутствие подробных данных о качестве, обучающих данных, точных языковых возможностях и рекомендуемых ресурсах, а также то, что результаты зависят от выбранной точности, конфигурации llama.cpp и параметров инференса. Модель распространяется по лицензии Apache-2.0.

silence09 опубликовал преобразованную версию InternLM3-8B-Instruct, представленную в формате архитектуры Qwen2 для совместимости с некоторыми сценариями инференса и классом Qwen2ForCausalLM. Модель содержит 8,3 млрд параметров, использует плотную архитектуру и сохраняет точность исходных весов. Контекст — до 32 768 токенов; поддерживается диалоговое использование и генерация текста. Модель предназначена для запуска запросов к исходной InternLM3-8B-Instruct в окружениях, рассчитанных на Qwen2. Базовая модель ориентирована на общие запросы, работу со знаниями и сложные рассуждения. Репозиторий распространяется по лицензии Apache-2.0.

Irix-12B_Slush_V2 — объединённая языковая модель на 12,1 млрд параметров, созданная сообществом mergekit-community из DreadPoor/Irix-12B-Model_Stock и mergekit-community/Slush-Lyra-Gutenberg-Bophades. Слияние выполнено методом SLERP; архитектура — плотная MistralForCausalLM, веса опубликованы в формате Safetensors и предназначены для работы через Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на запросы и продолжения текста; в метаданных также отмечен интерфейс вызова инструментов. Заявленная длина контекста — до 1 024 000 токенов. Карточка не приводит оценок качества или конкретных ограничений, поэтому поведение на длинном контексте и в прикладных сценариях следует проверять отдельно. Сведения о лицензии в доступных данных отсутствуют.

Jan-v3-4B-base-instruct-GGUF — это квантованная версия текстовой генеративной модели Jan-v3-4B-base-instruct, разработанной janhq и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста по инструкциям и может применяться в локальных сценариях работы с текстом, включая запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель содержит около 4 миллиардов параметров и поддерживает текстовый ввод и вывод. В репозитории указана поддержка английского языка и тег для задач, связанных с кодом. Доступно множество вариантов квантования — от BF16 до форматов Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендованными названы, в частности, варианты Q6_K_L, Q6_K, Q5_K и Q4_K_M; для систем с ограниченными ресурсами доступны более компактные варианты, но с меньшим качеством. К сильным сторонам относятся локальный запуск, широкий выбор размеров квантованных файлов и оптимизация imatrix, направленная на сохранение качества при сжатии. Ограничения — отсутствие в README сведений об архитектуре, размере контекстного окна, точных результатах оценки, мультимодальности и поддерживаемых языках помимо английского. Для работы требуется совместимый движок с поддержкой этой модели и формата GGUF. Модель распространяется по лицензии Apache-2.0.

J.A.R.V.I.S. Titan V15 MoE Decoupled — диалоговая языковая модель Dhanesh на архитектуре JarvisTitanMoEForCausalLM. Согласно карточке, она основана на DeepSeekMoE с общим экспертом и восемью маршрутизируемыми экспертами, из которых активируются два; также заявлены слои Tri-Brid памяти с локальным скользящим окном внимания, извлечением значимых KV-состояний и нейронной памятью Titans. Метаданные каталога указывают 7,1 млрд параметров и контекст 32 768 токенов. Модель предназначена для генерации текста в диалоге и взаимодействия с инструментами через соответствующий интерфейс. Карточка описывает объединённые автономные веса M4, включающие калиброванный адаптер Tri-Brid, а метаданные связывают модель с дообучением Jarvis-Titan-V14-MoE-Merged. В репозитории указаны веса Safetensors. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

Это репозиторий mradermacher с GGUF-квантованными вариантами JiRackDeltaNet 27B, созданными на основе CMSManhattan/JiRackDeltaNet_27b. Репозиторий содержит статические квантизации TQ1_0 и TQ2_0 размером примерно 7,1 и 8,3 ГБ соответственно; автор указывает, что варианты с weighted/imatrix-квантизацией в этой публикации не представлены. Модель предназначена для генерации текста и диалогового использования. Метаданные базовой модели описывают её как многоязычную разговорную модель для локального CPU-инференса, кодирования, RAG и вызова инструментов; сама карточка этого GGUF-репозитория главным образом сообщает о доступных файлах квантования и их использовании. Заявлены языки английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. Лицензия — MIT. Квантованные файлы уменьшают требования к памяти, но TQ1_0 и TQ2_0 могут уступать исходным весам по качеству; README не приводит сравнительных оценок. Для работы с GGUF требуется совместимый загрузчик, а для многосоставных файлов — их корректная сборка.

J.O.S.I.E.3-Beta4-slerp — слитая чат-модель на 7,1 млрд параметров, созданная Goekdeniz-Guelmez с помощью LazyMergekit. Она объединяет Weyaxi/Einstein-v4-7B и cognitivecomputations/dolphin-2.8-experiment26-7b методом SLERP; архитектура — MistralForCausalLM, веса доступны в формате safetensors. Модель предназначена для генерации текста в диалоговом формате и имеет контекст до 32 768 токенов. Автор сообщает, что по результатам оценки на LLM Leaderboard эта версия уступает его Beta 3, но остаётся второй по результатам среди его моделей. В метаданных указана лицензия Apache-2.0. Карточка не уточняет поддерживаемые языки и отдельные ограничения поведения или качества.

Josiefied-Qwen3-4B-abliterated-v2 — диалоговая языковая модель Goekdeniz-Guelmez на архитектуре Qwen3, дообученная на основе Qwen/Qwen3-4B-Instruct-2507 и модифицированная методом Gabliteration. Она предназначена для генерации текста, общения и выполнения инструкций; сохранена поддержка вызова инструментов через соответствующий интерфейс. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Разработчик заявляет, что модификация снижает отказы и ограничения на генерацию, сохраняя следование инструкциям и работу с инструментами. Доступны веса в формате safetensors; в карточке также упоминаются варианты GGUF и i1 GGUF. Лицензия в предоставленных данных не указана.

icefog72/juanako-7b-UNA-06.11-orpo — чат-модель на архитектуре Mistral с 7,1 млрд параметров, дообученная icefog72 на основе fblgit/juanako-7b-UNA. Она предназначена для диалогов и генерации текста; поддерживает контекст до 32 768 токенов. В карточке указаны обучение с использованием Unsloth и библиотеки TRL, а также формат PyTorch. Модель подходит для ответов на вопросы и ведения текстовых бесед на английском языке. Распространяется по лицензии Apache-2.0. Карточка не уточняет результаты оценки качества и специальные ограничения применения.

K2-Chat — диалоговая языковая модель на 65 млрд параметров, разработанная MBZUAI и LLM360. Это дообученная версия K2-65B на наборах Infinity-Instruct, JiuZhang3.0-Corpus-SFT и glaive-function-calling-v2-sharegpt; модель построена на архитектуре Llama и распространяется в формате PyTorch. Контекст составляет 8192 токена. Модель предназначена для диалогов, ответов на вопросы, задач по математике и программированию, а также вызова функций по заданным схемам. В README заявлены улучшения в безопасности и результаты бенчмарков, но они не гарантируют качество на конкретных задачах. Примеры использования ориентированы на английский язык; модель описана как отвечающая только на английском. Для вызова функций требуется соблюдать специальный формат промпта; совместная работа режимов обычного диалога и вызова функций отдельно не проверена. Лицензия — Apache-2.0.

K2-Horizon-0.9B-GGUF — компактная языковая модель семейства K2-Horizon, разработанная IFM. Репозиторий содержит версию модели в формате GGUF для запуска с помощью llama.cpp. Модель предназначена для генерации текста, решения математических и научных задач, программирования, следования инструкциям и сценариев с использованием инструментов. Это плотная decoder-only модель примерно с 0,9 млрд параметров и контекстным окном до 131 072 токенов. Для масштабирования RoPE применяется YaRN. Модель обучалась методом дистилляции знаний от нескольких специализированных учителей, ориентированных на математику и код, STEM-задачи и следование инструкциям. Поддерживаются английский и китайский языки. Тензоры хранятся в исходной точности BF16, а GGUF-файлы включают метаданные токенизатора и совместимый с llama.cpp шаблон чата. К сильным сторонам относятся небольшой размер, длинный контекст, открытость заявленных данных и рецепта обучения, а также специализация на рассуждениях, математике, коде и научных задачах. Для работы требуется версия llama.cpp с поддержкой архитектуры K2 Horizon; на момент публикации такая поддержка находилась в разработке, поэтому совместимость зависит от используемой сборки. Лицензия модели — Apache-2.0.

atomimpnsc/kanana-1.5-8b-instruct-2505-Safe-DPO — диалоговая модель генерации текста, опубликованная atomimpnsc. Это плотная модель семейства Llama с 7,5 млрд параметров и контекстом 32 768 токенов; README сообщает о дообучении с использованием Unsloth и библиотеки TRL. Модель поддерживает чат и интерфейс вызова инструментов. Модель предназначена для генерации ответов в диалоге и других текстовых сценариев. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка указывает английский язык; других сведений о языковом охвате и специализированных областях применения нет.

egoigo/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная разговорная языковая модель семейства Llama, опубликованная egoigo. Она предназначена для генерации текста в диалоге; метаданные также отмечают интерфейс для вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 32 768 токенов. Модель дообучена с использованием Unsloth и библиотеки Hugging Face TRL. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не описывает конкретные сценарии, данные обучения или результаты оценки качества.

RedHatAI/Kimi-K2.6-FP8-BLOCK — мультимодальная модель, разработанная RedHatAI на основе moonshotai/Kimi-K2.6 с архитектурой KimiK25ForConditionalGeneration. Она принимает текст, изображения и видео, а генерирует текст. Модель предназначена для диалоговых и прикладных сценариев, включая следование инструкциям, рассуждения, вызов функций, агентные задачи и программирование. Модель использует FP8-квантизацию весов с блочным масштабированием и динамическую групповую FP8-квантизацию активаций. Она экспортирована в формате compressed-tensors и оптимизирована для высокопроизводительного развёртывания через vLLM с OpenAI-совместимым API. В README не указаны размер модели и поддерживаемые языки; заявленная максимальная длина контекста в конфигурации оценки составляет 40960 токенов, однако это не представлено как официальная характеристика модели. По приведённым оценкам, модель показывает сильные результаты в математическом и академическом рассуждении, следовании инструкциям и вызове функций. Ограничения включают заметно более низкие результаты на многошаговом function calling, web search и SWE-Bench Lite, а FP8-квантизация может влиять на точность по сравнению с исходной моделью, несмотря на высокое сохранение качества в большинстве указанных тестов. Для использования требуется окружение vLLM и параметр --trust-remote-code. Лицензия указана как modified-MIT; дополнительные условия в README не раскрыты.

Komodo 7B Chat — чат-модель на архитектуре Llama, опубликованная Jan. Она предназначена для диалоговой генерации текста и запускается в Jan Desktop на macOS, Windows и Linux. Для общения в README приведён шаблон ChatML с ролями system, user и assistant. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст; длина контекста составляет 4096 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache 2.0. README не описывает специализированные области применения или результаты оценки качества.

Kosmos-EVAA-Franken-Immersive-v41-8B — слитая модель генерации текста на основе архитектуры Llama, созданная jaspionjader с помощью mergekit и метода SLERP. В объединении использованы jaspionjader/knfp-2-8b и jaspionjader/Kosmos-EVAA-Franken-Immersive-v40-8B; версия представлена в формате safetensors и содержит около 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Метаданные указывают контекст до 131 072 токенов и возможность chat-взаимодействия. Карточка не приводит сведения о целевых языках, специальных предметных областях или результатах оценки качества. Лицензия в предоставленных данных не указана.

Kosmos-EVAA-PRP-v30-8B — языковая модель для генерации текста, созданная объединением моделей jaspionjader/Kosmos-EVAA-PRP-v29-8B и jaspionjader/Kosmos-EVAA-gamma-light-8B методом SLERP с помощью mergekit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживая контекст до 8192 токенов. Модель можно применять для диалога, продолжения текста и других задач генерации на основе текстового запроса. README не указывает целевые языки и специализированные области применения. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Kosmos-EVAA-v12-8B — языковая модель, созданная jaspionjader путём слияния предварительно обученных моделей Kosmos-EVAA-v3-8B и Kosmos-EVAA-v11-8B методом SLERP с помощью mergekit. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; репозиторий содержит веса в формате safetensors и предназначен для работы через Transformers. Модель генерирует текст и рассчитана на сценарии, где требуется продолжение или создание текста. Размер контекста составляет 8192 токена. Карточка не описывает специальные предметные области, языки, качество на конкретных задачах или ограничения применения. Лицензия в предоставленных данных не указана.

lsw0570168/krx-q25-7b-base-v3.3 — языковая модель автора lsw0570168, дообученная на базе lsw0570168/krx-q25-7b-base-v3. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста. В метаданных указан контекст длиной до 131 072 токенов; модель сохранена в формате safetensors и обучалась с использованием Unsloth и Hugging Face TRL. Модель может использоваться для генерации продолжений текста и построения приложений на основе текстовой генерации. Карточка указывает лицензию Apache-2.0. Язык карточки и тег модели — английский; данных о специализации на других языках или прикладных областях нет.

jaspionjader/kstc-4-8b — слитая автором jaspionjader языковая модель на архитектуре Llama с 7,5 млрд параметров. Она создана методом Model Stock в mergekit на основе jaspionjader/Kosmos-EVAA-Franken-Immersive-v41-8B и объединяет её с моделями jaspionjader/kstc-1-8b, jaspionjader/kstc-2-8b и jaspionjader/kstc-3-8b. Модель предназначена для генерации текста и диалогового общения. Использует библиотеку Transformers, веса доступны в формате Safetensors, контекст — до 131 072 токенов. Данные не подтверждают отдельную специализацию по языкам или предметным областям, поэтому её можно рассматривать как модель общего назначения. В README не приведены оценки качества, инструкции по использованию или условия лицензии. Перед применением стоит проверить совместимость лицензий исходных моделей и оценить качество на характерных для вашей задачи запросах.

Kunokukulemonchini-7b — плотная языковая модель на архитектуре Mistral, созданная автором репозитория как слияние SLERP моделей grimjim/kukulemon-7B и Nitral-AI/Kunocchini-7b-128k-test с помощью mergekit. Она предназначена для генерации текста и диалогового общения. Модель содержит 7,1 млрд параметров, принимает текст и имеет заявленное контекстное окно 32 768 токенов. Автор также описывает варианты квантизации EXL2 с разной точностью, включая 4,1 bpw для систем с 6 ГБ видеопамяти; в метаданных этой карточки указаны веса safetensors. В README приведены результаты оценок на нескольких тестах, включая средний балл 69,61, однако подробности таблицы доступны не полностью. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.