I.7Речь, диалоги и встречи

Gemma-2-Ataraxy-v4-Advanced-9B — слитая автором lemon07r диалоговая языковая модель на архитектуре Gemma 2 с 9 млрд параметров. Она объединяет модели lemon07r/Gemma-2-Ataraxy-v3-Advanced-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25 методом SLERP с помощью mergekit; веса сохранены в формате safetensors, тип данных — bfloat16. Модель предназначена для генерации текста и ответов на текстовые запросы в диалоговом режиме. Заявленная длина контекста — 8192 токена. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH; они дают ориентир по оцениванию следования инструкциям и рассуждений, но не гарантируют качество в конкретном сценарии. Лицензия в предоставленных данных не указана.

mlx-community/gemma-3-270m-bf16 — текстовая модель семейства Gemma 3, преобразованная сообществом mlx-community из google/gemma-3-270m для работы с библиотекой MLX. Это плотная авторегрессионная модель примерно на 257 млн параметров с поддержкой чата и генерации текста; длина контекста составляет 32 768 токенов. Она подходит для диалогов, суммаризации, ответов на вопросы и других задач генерации текста. Модель принимает и выдаёт текст; сведения о поддерживаемых языках в предоставленных данных отсутствуют. Репозиторий содержит веса safetensors и распространяется по лицензии Gemma.

unsloth/gemma-3n-E4B-it-unsloth-bnb-4bit — это 4-битная версия Gemma 3n E4B-it, разработанная Unsloth на базе модели Google gemma-3n-E4B-it. Модель предназначена для диалоговых и текстовых задач, включая генерацию ответов и использование в приложениях на базе Transformers. В карточке указана поддержка английского языка и формат image-text-to-text, однако текущие рекомендации README подтверждают поддержку только текста. Модель относится к семейству Gemma 3n и имеет размер 4B; используется 4-битное квантование bnb, рассчитанное на снижение требований к памяти. Максимальная длина контекста составляет 32K токенов. Для запуска рекомендуется Transformers или совместимые инструменты, а для Gemma 3n указаны параметры temperature 1.0, top_k 64 и top_p 0.95. Unsloth заявляет ускорение до 2 раз и снижение использования памяти до 80% для сценариев тонкой настройки, но конкретные результаты зависят от оборудования и конфигурации. Основные ограничения — отсутствие заявленной поддержки изображений в текущей версии, ограниченная информация о точной архитектуре и отсутствие подробных результатов оценки качества в README. Модель распространяется по лицензии Gemma; перед использованием необходимо учитывать условия этой лицензии.

JANGQ-AI/GLM-5.3-Flash-JANG — квантованная для Apple Silicon и MLX сборка GLM-5.3-Flash, подготовленная Jinho Jang. Это модель семейства GLM с архитектурой MoE примерно на 300 млрд параметров и 288 экспертами; в README также описаны линейное внимание KDA, гибрид MLA/DSA и отдельные компоненты для обработки изображений и видео. Размер весов составляет около 95,5 GiB, заявленный нативный контекст — 1 млн токенов. По данным карточки, квантование распределено по модулям: внимание, маршрутизация и параметры gating сохранены в 8-битном или полном формате, а снижение точности сосредоточено в экспертных блоках. Разработчик приводит измерения сходства выходных логитов с официальной FP8-версией на отложенных запросах; это не заменяет независимую оценку качества на прикладных задачах. Сборка предназначена для диалогов, рассуждений, агентных сценариев и работы с изображениями и видео на Mac с 128 ГБ памяти. README предупреждает, что публичная поддержка новой архитектуры в runtime vMLX ещё разрабатывается и на момент публикации карточки эти веса корректно загружались только во внутренней среде оценки. Модель наследует базовую GLM-5.3-Flash, а репозиторий распространяет её под лицензией MIT.

local-inference-lab/GLM-5.3-Flash-NVFP4 — квантованная и дистиллированная версия модели zai-org/GLM-5.3-Flash-BF16. Модель предназначена для генерации текста и диалоговых сценариев, поддерживает английский и китайский языки, а также мультимодальные задачи с использованием встроенного vision encoder. Архитектура сохранена: 45 decoder-слоёв, включая 3 плотных слоя и 42 MoE-слоя с 288 маршрутизируемыми экспертами в каждом, из которых для каждого токена активируются 8, дополнительно используется общий эксперт. Механизм внимания сочетает linear attention и DeepSeek Sparse Attention; заявленный размер модели на диске составляет около 199 ГБ. Длина контекста в README не указана. Ключевая особенность модели — quantization-aware distillation: веса маршрутизируемых экспертов обучались с учётом NVFP4-квантования, чтобы компенсировать ошибки низкой точности и приблизить ответы к исходной BF16-модели. Экспертные gate, up и down projections хранятся в NVFP4, вспомогательный MTP-модуль использует MXFP8, а остальные основные компоненты преимущественно сохраняют BF16 или FP32. Сильными сторонами являются сочетание MoE-архитектуры, дистилляции и низкобитного представления весов при сохранении vision encoder и MTP. Ограничения включают значительный объём модели, дополнительные требования к памяти для KV-кэша и буферов, а также необходимость runtime с поддержкой архитектуры glm5_next и смешанного формата ModelOpt NVFP4/MXFP8, включая покомпонентные масштабы активаций. Модель распространяется по лицензии MIT.

egoriow/gpt-oss-120b-GGUF — квантованная в формате GGUF версия модели openai/gpt-oss-120b, размещённая egoriow. Это разговорная текстовая модель для генерации ответов и ведения диалога; README указывает на запуск через LlamaEdge, а метаданные отмечают поддержку чата и архитектуру GPT-OSS типа MoE. В метаданных указаны 2,1 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст. Репозиторий содержит варианты GGUF и GGUF F16; лицензия — Apache-2.0. Карточка называет исходной моделью openai/gpt-oss-120b, но конкретные характеристики качества и ограничения применения не описывает.

mlx-community/gpt-oss-120b-MXFP4-Q8 — языковая модель для генерации текста, разработанная на основе openai/gpt-oss-120b компанией OpenAI и преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.27.0. Модель предназначена для сценариев генерации текста и диалогового взаимодействия, включая работу с prompt и chat template, и может использоваться через библиотеку mlx-lm. Модель относится к pipeline text-generation и рассчитана на запуск в экосистеме MLX. В идентификаторе указано обозначение MXFP4-Q8, однако README не раскрывает подробности архитектуры, фактический объём параметров, поддерживаемые языки, максимальную длину контекста, модальности или результаты тестирования. Лицензия — Apache-2.0. Сильной стороной является адаптация к MLX и возможность локального использования через mlx-lm; ограничения и требования к аппаратным ресурсам в предоставленных данных не указаны.

mlx-community/granite-3.3-2b-instruct-fp16 — конверсия модели IBM Granite 3.3 2B Instruct в формат MLX для запуска на системах Apple Silicon. Это плотная авторегрессионная языковая модель с 2,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалога, следования инструкциям, генерации текста и вызова инструментов через соответствующий интерфейс. Модель подходит для чат-ассистентов, ответов на вопросы и работы с длинными текстовыми запросами. Репозиторий опубликован mlx-community; исходная модель — ibm-granite/granite-3.3-2b-instruct. Лицензия — Apache-2.0. README указывает на конверсию с помощью mlx-lm 0.22.5; метаданные классифицируют связь с исходной моделью как finetune.

richardr1126/guanaco-13b-merged — слитая модель на архитектуре LLaMA, созданная объединением адаптера QLoRA timdettmers/guanaco-13b с базовой LLaMA-13b. Она предназначена для генерации текста в диалоговом формате и ответов на пользовательские запросы. Модель содержит 12,9 млрд параметров, принимает текст и выдаёт текст; родной контекст составляет 2048 токенов. В карточке указаны PyTorch и датасет OpenAssistant Guanaco. Лицензия в предоставленных данных не указана.

HermesFlashback-7B.1 — диалоговая языковая модель, созданная FredrikBL слиянием моделей NeuralHermes-2.5-Mistral-7B и Mistral-7B-v0.1-flashback-v2 с помощью LazyMergekit. Веса объединены методом SLERP; модель основана на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста по запросам. Её можно применять для ответов на вопросы, написания и продолжения текста, а также для тестирования диалоговых сценариев. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. В карточке не приведены результаты оценивания качества или подробности о языках обучения, поэтому их нельзя установить по доступным данным.

MotherEarth/Hermes-Storm-lorablated — объединённая языковая модель на архитектуре Llama, созданная методом SLERP с помощью mergekit из akjindal53244/Llama-3.1-Storm-8B и mlabonne/Hermes-3-Llama-3.1-8B-lorablated. Модель содержит 7,5 млрд параметров, предназначена для генерации текста и диалогового взаимодействия; метаданные указывают контекст длиной до 131 072 токенов. Модель подходит для диалоговых сценариев и генерации ответов на текстовые запросы. В карточке не описаны отдельные специализированные области применения или подтверждённые дополнительные возможности. Файлы представлены в формате safetensors, библиотека — Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Edens-Gate/Holland-Magnum-Merge-R2 — диалоговая языковая модель, созданная методом task arithmetic с помощью mergekit на основе Delta-Vector/Holland-4B-V1 и с участием anthracite-org/magnum-v2-4b и NewEden/Holland-V2. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 3,9 млрд параметров. Она предназначена для генерации текста и диалоговых ответов; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Ice0.51.1-16.01-RP — объединённая языковая модель автора icefog72, созданная методом SLERP с помощью mergekit из двух предварительно обученных моделей. Это плотная Mistral-архитектура с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое общение. Указанная длина контекста — 32 768 токенов; веса доступны в формате safetensors и предназначены для работы через Transformers. Модель подходит для ведения диалогов и генерации ответов или продолжений текста. Карточка не сообщает языки обучения и отдельные специализированные области применения. Лицензия в предоставленных данных не указана.

Kaoeiri/Interleaved-Upscale-Cydonyanoi-39B — объединённая языковая модель на архитектуре Mistral, созданная методом passthrough с помощью mergekit на основе TheDrummer/Cydonia-22B-v1.3. Веса опубликованы в формате safetensors; модель содержит 38,8 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные также указывают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области или языки применения. Модель распространяется по лицензии CC BY-ND 4.0. Карточка не приводит оценок качества или подробных ограничений применения.

InternLM2.5-7B-Chat-GGUF — это квантизированная версия диалоговой языковой модели InternLM2.5-7B-Chat, разработанной командой InternLM и опубликованной в формате GGUF для использования с llama.cpp. Квантизацию выполнил bartowski с применением imatrix и различных схем квантования, рассчитанных на баланс между качеством ответов, размером файла и требованиями к памяти. Модель предназначена для текстовой генерации и диалоговых сценариев: ведения беседы, ответа на вопросы и выполнения инструкций. Для работы используется специальный шаблон prompt с ролями system, user и assistant. Доступны варианты от Q8 до Q2 и IQ-квантов; размеры файлов в README указаны примерно от 2,58 до 8,93 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, тогда как низкобитные версии подходят для систем с ограниченным объёмом RAM, но заметно уступают по качеству. К сильным сторонам относятся широкий выбор уровней квантования, совместимость с llama.cpp и возможность локального запуска. Рекомендуемыми названы варианты Q4–Q6 и некоторые IQ4, тогда как Q3 и Q2 экономят память ценой снижения качества. README не содержит достоверных сведений о языках, размере контекста, точной архитектуре исходной модели и условиях лицензирования: указано лишь, что лицензия имеет тип other. Для использования необходимо учитывать требования выбранного GGUF-файла и поддерживать соответствующий формат prompt.

Это преобразованная в формат архитектуры Llama версия InternLM2 Chat 7B SFT, размещённая пользователем bartowski. Модель предназначена для генерации текста в диалоговом формате и может использоваться для ответов на запросы и ведения беседы. Модель содержит 7,4 млрд параметров и поддерживает контекст длиной до 32 768 токенов. README сообщает о конвертации из InternLM в формат Llama; в репозитории указан формат safetensors. Лицензия обозначена как other, поэтому условия её использования следует проверять в исходной карточке модели и у базовой модели.

aurazboev/ISAllama-3.1-8b-tuned — разговорная языковая модель семейства Llama, дообученная разработчиком aurazboev на базе unsloth/meta-llama-3.1-8b-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и диалоговых сценариев. Архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов; модель принимает текст и выдаёт текст. В метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, данные обучения, результаты оценивания или конкретные ограничения, поэтому качество для отдельных задач требует самостоятельной проверки.

Josie 7B v6.0 — дообученная Gökdeniz Gülmez языковая модель семейства Qwen2 для диалоговой генерации текста и выполнения запросов пользователя. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст длиной до 32 768 токенов. Для диалога применяется формат с отдельными сообщениями system, user и assistant; также заявлен интерфейс вызова инструментов. Модель дообучена на пользовательских наборах данных; подробности о них в карточке не раскрыты. Она подходит для чат-ботов и генерации ответов на текстовые запросы. Распространяется в формате safetensors по лицензии Apache 2.0.

Модель cuteElf/kanana-1.5-8b-instruct-2505-Persona-Merged — дообученная версия Kanana 1.5 от cuteElf, основанная на kakaocorp/kanana-1.5-8b-instruct-2505. Это плотная языковая модель архитектуры Llama с 7,5 млрд параметров, предназначенная для диалога и генерации текста. Она принимает текст и может работать с интерфейсом вызова инструментов; максимальный контекст составляет 32 768 токенов. Модель подходит для чат-ботов и генерации ответов на текстовые запросы. В README указано, что обучение проводилось с Unsloth и библиотекой TRL; конкретные изменения Persona-Merged и их влияние на поведение модели не описаны. Модель распространяется по лицензии Apache-2.0.

Это дообученная диалоговая языковая модель mgmbykai на базе kakaocorp/kanana-1.5-8b-instruct-2505. Она использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров; модель предназначена для генерации текста в формате диалога и поддерживает интерфейс вызова инструментов. В карточке также указано обучение с использованием Unsloth и библиотеки TRL. Модель подходит для диалоговых приложений и генерации ответов с подключением инструментов. Базовая Kanana рассчитана также на задачи программирования и математики, однако README этой версии не описывает отдельные настройки или результаты для этих сценариев. Длина контекста — 32 768 токенов. Модель распространяется по лицензии Apache-2.0.

Модель kangkys/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная авторами kangkys плотная языковая модель семейства Llama с 7,5 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В карточке указаны английский язык и формат весов safetensors. Модель дообучена на базе kangkys/kanana-1.5-8b-instruct-2505-Safe-DPO с использованием Unsloth и библиотеки TRL от Hugging Face. README не описывает набор данных, конкретные результаты обучения или отдельные сценарии Safe-DPO, поэтому эти свойства нельзя оценить по карточке. Лицензия — Apache-2.0.

KangalKhan-Sapphire-7B — языковая модель для генерации текста и диалогов, созданная слиянием моделей argilla/CapybaraHermes-2.5-Mistral-7B и argilla/distilabeled-OpenHermes-2.5-Mistral-7B с помощью LazyMergekit. В основе лежит плотная архитектура Mistral с 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель подходит для диалоговых сценариев и генерации текста. В README описано слияние методом SLERP в формате bfloat16; метаданные указывают формат весов safetensors и возможность чата. Карточка также приводит результаты оценки на отдельных тестах рассуждений и здравого смысла, но они не гарантируют качество на других задачах. Модель распространяется по лицензии Apache-2.0. Данные карточки не уточняют целевые языки или специализированные области применения.

Karen_TheEditor_V2_STRICT_Mistral_7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре MistralForCausalLM с 7,1 млрд параметров. Это слияние методом SLERP модели mistralai/Mistral-7B-Instruct-v0.2 и FPHam/Karen_TheEditor_V2_STRICT_Mistral_7B; в README приведена конфигурация mergekit и формат весов bfloat16, а в репозитории указаны файлы safetensors. Модель предназначена для генерации текста и ответов в диалоге по инструкциям. Контекст составляет до 32 768 токенов. В карточке не описаны специальные области применения или языки, поэтому модель следует рассматривать как универсальную текстовую модель на базе Mistral. Модель выпущена под лицензией Apache-2.0. Карточка не содержит результатов оценивания качества или подробных сведений о поведении слияния; качество и следование инструкциям могут отличаться от исходной Mistral-7B-Instruct-v0.2.

Keefe-Discere-v3.3 — дообученная языковая модель на архитектуре Qwen2, опубликованная KeefeBuild. Она предназначена для генерации текста и диалогового общения; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке указано обучение с использованием Unsloth и библиотеки TRL от Hugging Face. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализацию, набор данных или конкретные результаты обучения, поэтому качество в отдельных предметных областях оценить нельзя.

kellemar-DPO-Orca-Distilled-7B-SLERP — текстовая авторегрессионная модель, разработанная decruz и дообученная на базе mlabonne/Marcoro14-7B-slerp с использованием набора argilla/distilabel-intel-orca-dpo-pairs. Она предназначена для базового инференса и общих языковых задач, включая генерацию ответов, рассуждения и работу в диалоговых приложениях. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты бенчмарков OpenLLM и Nous на январь 2024 года; они характеризуют оценку автора и могут зависеть от методики тестирования. Для модели указана лицензия CC BY-NC 4.0, поэтому её использование ограничено некоммерческими условиями этой лицензии.

KORani-v1-13B — языковая модель KRAFTON для работы на корейском и английском языках. Это версия серии KORani, дообученная на базе Polyglot 12.8B с использованием набора KoVicuna; разработка также опирается на проект Vicuna. Модель построена на архитектуре GPT-NeoX, содержит 16,9 млрд параметров и имеет контекстное окно 2048 токенов. Модель предназначена для генерации текста, диалога и типичных языковых задач на корейском и английском. В карточке приведены примеры перевода с английского на корейский, ответов на вопросы и суммаризации на корейском языке. Веса доступны в формате PyTorch по лицензии Apache-2.0.

Kunoichi-DPO-v2-7B — языковая модель семейства Mistral, представленная в виде плотной авторегрессионной архитектуры MistralForCausalLM. Репозиторий содержит веса SafeTensors; модель насчитывает 7,1 млрд параметров и рассчитана на контекст до 8192 токенов. Карточка приводит результаты тестов MT-Bench, EQ-Bench, MMLU, Logic Test, AGIEval, GPT4All, TruthfulQA и Bigbench, включая оценку 8,51 на MT-Bench и 64,94 на MMLU. Модель предназначена для генерации текста и может использоваться для диалогов, ответов на вопросы, рассуждений и других задач на основе текстового ввода. README содержит сравнительные оценки, однако не описывает конкретный процесс обучения или специальные области применения. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Kuno-lake-slerp-7b — объединённая авторская модель на базе двух чекпойнтов SanjiWatsuki/Kunoichi-DPO-v2-7B и senseable/WestLake-7B-v2. Она создана методом slerp с помощью mergekit; конфигурация использует разные веса смешивания для слоёв self-attention и MLP. Модель семейства Mistral с плотной архитектурой и 7,1 млрд параметров принимает текст и предназначена для генерации текста и диалогового взаимодействия. Контекст — до 8192 токенов. Весовые файлы представлены в формате safetensors, исходная точность слияния — bfloat16. Лицензия в предоставленных данных не указана.

L3.3-70B-Lycosa-v0.2 — диалоговая языковая модель на архитектуре Llama, созданная сообществом divinetaco путём слияния нескольких предварительно обученных моделей с помощью mergekit. В состав вошли DeepSeek-R1-Distill-Llama-70B, Sao10K/70B-L3.3-Cirrus-x1, TheDrummer/Nautilus-70B-v0.1, Doctor-Shotgun/L3.3-70B-Magnum-v4-SE и SicariusSicariiStuff/Negative_LLAMA_70B. Размер модели — 69,5 млрд параметров, контекст — до 131 072 токенов; она загружается через Transformers из файлов safetensors. Модель предназначена для диалогов, творческого письма и рассуждений. Автор отмечает, что версия v0.2 усиливает влияние DeepSeek-R1-Distill-Llama-70B и нацелена на повышение интеллектуальных возможностей, снижение положительной предвзятости и творческий ответ; рекомендуется шаблон чата DeepSeek-R1-Distill-Llama-70B. Метаданные также указывают интерфейс вызова инструментов. Модель распространяется по лицензии Llama 3.3. В тегах отмечен контент NSFW, поэтому она не рассчитана исключительно на аудиторию всех возрастов. В README нет результатов сравнительных оценок качества.

L3.3-70B-Magnum-v4-SE-GGUF — набор GGUF-квантизаций модели L3.3-70B-Magnum-v4-SE, подготовленный bartowski на базе модели Doctor-Shotgun. Квантизация выполнена с помощью llama.cpp с использованием imatrix и предназначена для локального запуска, в частности через LM Studio. Модель относится к классу text-generation и ориентирована на генерацию текста и диалоговые сценарии; в метаданных указана поддержка английского языка и тег chat. Доступны варианты с разными уровнями квантизации — от Q8_0 размером около 75 ГБ до IQ2_S размером около 24 ГБ. Более крупные варианты обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для большинства сценариев рекомендуются Q4_K_M, Q5_K_M, Q5_K_S и Q6_K; некоторые варианты оптимизированы для CPU ARM, Apple Silicon или систем с ограниченным объёмом памяти. Из README не указаны точная архитектура исходной модели, размер контекстного окна, поддерживаемые модальности помимо текста и результаты независимого тестирования. Модель распространяется по лицензии llama3.3; условия использования следует уточнять в лицензии исходной модели и на странице репозитория.