I.2Синтез, понимание и проверка знаний

Granite-4.1-8B-SFT-Claude-Opus-Reasoning-Unsloth — дообученная модель ermiaazarkhalili на базе IBM Granite-4.1-8B. Это плотная авторегрессионная модель класса GraniteForCausalLM с примерно 8,4 млрд параметров по метаданным и контекстом до 131 072 токенов. Модель прошла supervised fine-tuning на наборе distillation-данных с рассуждениями Claude; адаптер LoRA слит с базовыми весами. Поддерживает диалоговую генерацию текста и интерфейс вызова инструментов. Модель предназначена для генерации ответов и диалоговых сценариев, требующих следования инструкциям и пошаговых рассуждений. Она унаследовала многоязычные возможности Granite-4.1-8B, рассчитанной на работу с текстом и кодом. Карточка приводит только значения обучающей потери и не сообщает результатов тестирования на прикладных бенчмарках. Лицензия — Apache-2.0. К ограничениям относятся непроверенное качество вне обучающего набора, а также унаследованные от базовой модели смещения, пределы знаний и типичные ошибки. Поскольку LoRA-адаптер слит с весами, отделить его от результата дообучения нельзя.

Nitral-AI/Hathor_Stable-v0.2-L3-8B — разговорная текстовая модель семейства Llama, представленная Nitral-AI. Она предназначена для генерации текста в диалоговом формате и может использоваться как чат-модель. В репозитории указано 7,5 млрд параметров; модель имеет плотную архитектуру LlamaForCausalLM, работает с контекстом до 8192 токенов и распространяется в формате safetensors. В карточке приведены результаты оценки Open LLM Leaderboard: средний балл 25,70, IFEval — 71,75 и BBH — 32,83. Указана лицензия other, поэтому условия использования следует проверять в материалах репозитория перед внедрением.

Vtuber-plan/Huihui-Qwen3.8-27B-abliterated-NVFP4 — это 4-битная NVFP4-квантизованная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated, созданной на базе Qwen/Qwen3.8-27B. Квантизация выполнена с помощью NVIDIA TensorRT Model Optimizer 0.45.0; в комплект входит исправленный шаблон чата Qwen. Модель предназначена для генерации текста, диалогов, рассуждений, многоязычных задач и агентских сценариев с вызовами инструментов. Модель использует веса NVFP4 с размером групп 16 и FP8 KV-кэш. Для калибровки применялся набор из 5349 примеров, включающий английские и многоязычные диалоги, математические задачи, длинные рассуждения и трассировки вызовов инструментов. Заявлены языки English, French и multilingual; точный максимальный размер контекста в README не указан. Размер чекпойнта составляет около 19,5 ГБ и распределён по пяти шардам. Основное преимущество — сохранение качества чатового и агентского использования после квантизации: на GSM8K при фиксированном шаблоне чата модель показала 0,9833 против 0,9783 у базовой BF16-версии. При этом она плохо подходит для сырых few-shot-промптов без чатового режима: модель может начать рассуждение и не успеть выдать ответ при малом бюджете токенов. Рекомендуется использовать шаблон из комплекта, режим reasoning_effort medium и запас генерации от 8 тысяч токенов. При максимальном режиме xhigh возможны зацикливание и исчерпание лимита, особенно при температуре около нуля. В sglang при высокой конкуренции и длинных генерациях известна проблема падения; рекомендуется ограничивать число одновременных запросов или обновить sglang. Для запуска нужны sglang с quantization modelopt или TensorRT-LLM; обычный transformers/BF16 inference этот чекпойнт не деквантизирует. Лицензия — Apache-2.0.

Ice0.7-29.09-RP — разговорная языковая модель на архитектуре Mistral, созданная слиянием предварительно обученных моделей методом SLERP с помощью mergekit. В состав слияния вошли Ice0.5-28.09-RP и Ice0.6-29.09-RP; метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В README приведены результаты оценки на Open LLM Leaderboard: средний балл 21,47, IFEval — 51,76, BBH — 30,73. Лицензия в предоставленных данных не указана.

Infinity-Instruct-3M-0625-Llama3-70B — языковая модель Beijing Academy of Artificial Intelligence (BAAI), дообученная методом supervised instruction tuning на наборах Infinity-Instruct-3M и Infinity-Instruct-0625. Это плотная причинная модель семейства Llama с 69,5 млрд параметров, предназначенная для диалогов и следования текстовым инструкциям; она не проходила RLHF. Модель использует шаблон чата Llama 3 Instruct, принимает текст и генерирует текст, а её контекст составляет 8192 токена. В карточке заявлены благоприятные результаты на AlpacaEval 2.0, однако приведённая таблица и текст описывают разные варианты модели, поэтому результаты конкретно этой версии следует трактовать осторожно. Подходит для диалоговых ассистентов, ответов на вопросы и выполнения инструкций, в том числе в задачах с кодом и математикой. Модель ориентирована на английский язык согласно метаданным; оснований считать её специально адаптированной для русского нет. Репозиторий распространяется под Apache-2.0, но README отдельно ограничивает использование связанных ресурсов академическими исследованиями и запрещает коммерческое применение; следует учитывать это ограничение и проверять применимые условия перед использованием.

Jan-v3-4B-base-instruct — компактная плотная языковая модель Jan на 3,7 млрд параметров, созданная дистилляцией возможностей более крупной модели и дообученная на основе Qwen/Qwen3-4B-Instruct-2507. Она предназначена для диалогов, следования инструкциям, лёгкой помощи с кодом и как основа для дальнейшей тонкой настройки. Архитектура — Qwen3ForCausalLM с 36 слоями и группированным запросным вниманием; нативное контекстное окно составляет 262 144 токена. Модель принимает и генерирует текст, поддерживает английский язык и может интегрироваться с Jan Desktop или запускаться через vLLM. По карточке, модель рассчитана на общее применение и downstream-настройку; заявлены улучшенное следование инструкциям и сохранение общих возможностей после дистилляции. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Размер параметров в метаданных указан как 3,7 млрд, а в README округлён до 4 млрд.

Xenova/jina-embeddings-v2-small-en — версия модели jinaai/jina-embeddings-v2-small-en с весами в формате ONNX, подготовленная для использования в JavaScript через библиотеку Transformers.js. Модель предназначена для извлечения векторных представлений английских текстов и совместима с конвейером feature-extraction. Модель подходит для семантического сравнения текстов, поиска похожих документов и построения приложений, использующих текстовые эмбеддинги. В README показан сценарий генерации эмбеддингов с mean pooling и расчёта косинусного сходства. Поддерживаются варианты точности fp32, fp16, q8 и q4, что позволяет выбирать между качеством, размером и производительностью. Сведения об архитектуре, размере, максимальной длине контекста и точной размерности эмбеддингов в README не указаны. Сильной стороной модели является возможность запуска ONNX-весов в JavaScript-окружении через Transformers.js, включая потенциальное использование в веб-приложениях. Ограничения связаны с тем, что заявлена поддержка английского языка, а влияние квантования на качество может зависеть от выбранного формата. Лицензия в предоставленном README не указана.

ramdane/jurimodel — модель семейства XLM-RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, кластеризации и сравнения текстов по смыслу. В метаданных указаны 305,2 млн параметров и контекст длиной 514 токенов. Модель обучалась с функцией потерь CosineSimilarityLoss. Она выдаёт текстовые эмбеддинги, которые можно использовать для поиска близких по смыслу фрагментов и группировки документов. Название предполагает юридическую направленность, однако README не подтверждает специализацию на правовых текстах, поэтому её не следует считать установленной. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

Jhjhugv/kanana-1.5-8b-instruct-2505-Persona-Merged — дообученная диалоговая модель, созданная Jhjhugv на основе kakaocorp/kanana-1.5-8b-instruct-2505. Это плотная Llama-модель с 7,5 млрд параметров, рассчитанная на генерацию текста и чат; метаданные также указывают интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. Модель принимает текст и выдаёт текст. Базовая модель предназначена для генерации текста, программирования, математики и работы с инструментами; карточка этой производной версии не уточняет специализацию дообучения. В README указано использование Unsloth и библиотеки TRL при обучении. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или конкретных ограничений, поэтому пригодность для специализированных задач следует проверять на собственных примерах.

Это дообученная диалоговая модель egoigo на базе kakaocorp/kanana-1.5-8b-instruct-2505. Модель относится к семейству Llama, имеет плотную архитектуру и около 7,5 млрд параметров; она принимает текстовые запросы и генерирует текст, в том числе в формате диалога и с интерфейсом вызова инструментов. Контекст составляет до 32 768 токенов. Модель подходит для диалоговых помощников и генерации текста. Базовая Kanana также предназначена для программирования и математики, однако README не описывает специализацию или результаты именно этой версии Persona-Merge-K. Модель опубликована под лицензией Apache-2.0.

NikiKrutan/Kiwen1.2-27B-MTP-GGUF — это набор квантованных моделей в формате GGUF, созданный пользователем NikiKrutan на основе beyoru/Kiwen1.2-27B и предназначенный для запуска через llama.cpp. Модель ориентирована на диалоговые и агентские сценарии, программирование, рассуждения, математику и задачи, требующие сложной логики. В описании также заявлена многоязычность, включая английский, русский и вьетнамский языки. Ключевая особенность проекта — экспериментальная стратегия квантования niki-allocator: тип квантования выбирается отдельно для каждого тензора с учётом оценок и проверок на основе KLD-метрик. Доступно 15 вариантов размера примерно от 8500 до 23000 МиБ; автор рекомендует выбирать самый большой вариант, который помещается в доступную память, поскольку больший размер обычно обеспечивает лучшее качество. Это позволяет адаптировать модель под разные аппаратные конфигурации, но скорость работы зависит от оборудования и параметров llama.cpp и отдельно не измерялась. README не сообщает точные архитектурные характеристики исходной модели, размер контекста или подтверждённую поддержку мультимодального ввода, поэтому эти свойства нельзя надёжно определить по представленным данным. Модель распространяется по лицензии Apache-2.0. Для корректной работы требуется использовать рекомендованный авторами chat template; шаблон froggeric и его производные объявлены неподходящими.

Ling-flash-base-2.0 — базовая языковая модель семейства Ling 2.0, разработанная командой inclusionAI. Это модель типа Mixture of Experts на архитектуре Bailing MoE; в карточке указано 5,5 млрд параметров, а README для семейства Ling-flash-2.0 приводит 100 млрд общих и 6,1 млрд активируемых параметров. Репозиторий рассчитан на генерацию текста и служит основой для дальнейшей настройки; семейство ориентировано на рассуждения, математические задачи, программирование и разработку интерфейсов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим. Метаданные указывают контекст 32 768 токенов; README семейства сообщает о расширении окна до 128 тысяч токенов с YaRN. Доступны веса в формате Safetensors, для работы описана поддержка Transformers и подготовка интеграций с vLLM и SGLang. Лицензия — MIT. README приводит результаты семейства Ling-flash-2.0 на тестах рассуждений, математики, кода и творческого письма, однако это описание относится к Ling-flash-2.0 и не подтверждает отдельно такие показатели для базового чекпойнта. Для длинного контекста через YaRN и некоторых сценариев инференса могут потребоваться дополнительные настройки или патчи.

Llama3.1-SuperDeepFuse — языковая модель на архитектуре Llama, созданная слиянием трёх моделей: Llama-3.1-SuperNova-Lite, DeepSeek-R1-Distill-Llama-8B и FuseChat-Llama-3.1-8B-Instruct. Автор README указывает базовую модель meta-llama/Llama-3.1-8B-Instruct и метод слияния model_stock. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 131 072 токенов; опубликована в формате safetensors для Transformers. Модель предназначена для диалогов и генерации текста с упором на следование инструкциям, многошаговые рассуждения, математику и программирование. README заявляет многоязычную поддержку, однако в метаданных указан только английский язык. По карточке модель подходит для запуска на потребительских GPU, но её возможности уступают более крупным моделям. Модель всё ещё проходит оценку; результаты приведены лишь для части бенчмарков. Она может выдавать вводящие в заблуждение ответы, поэтому результаты следует проверять. Лицензия — условия использования Llama 3.1.

Карточка модели dganochenko/llama-3-8b-chat на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

Llama-3-8B-Synthia-v3.5 — языковая модель общего назначения на архитектуре Llama, дообученная на наборе Synthia-v3.5 и других общедоступных данных. Вычисления для обучения профинансировала KindoAI. Модель содержит около 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель дообучена для следования инструкциям и ведения длительных диалогов. Её можно использовать для ответов на вопросы, диалогового помощника, генерации и продолжения текста. Карточка описывает оценивание на наборах задач Language Model Evaluation Harness, но не приводит результаты метрик. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или иной неподходящий контент. В README она обозначена как uncensored. Лицензия — Llama 3 Community License (llama3).

LLaMAX2-7B — многоязычная базовая языковая модель, созданная командой LLaMAX путём продолжения предобучения Llama 2. Модель содержит 6,6 млрд параметров, использует архитектуру Llama и доступна в формате Safetensors. Она поддерживает более 100 языков и предназначена для генерации текста и дообучения под многоязычные задачи. Контекст модели — 4096 токенов. Модель рассчитана на использование в качестве основы для прикладных решений, включая многоязычные задачи рассуждения, здравого смысла и вывода на естественном языке. В базовой версии нет способности следовать инструкциям; для этого в карточке отдельно упомянуто дообучение на Alpaca. Модель распространяется по лицензии MIT.

Карточка модели shtilev/medical_embedded_v4 на Hugging Face совпадает с карточкой onelevelstudio/MPNET-0.3B, поэтому описание составлено по ней. onelevelstudio/MPNET-0.3B — многоязычная модель эмбеддингов предложений, основанная на архитектуре XLM-RoBERTa и библиотеке Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. В README указана модель sentence-transformers/paraphrase-multilingual-mpnet-base-v2 как описание и источник сведений о назначении; разработчиком базовой модели названа команда Sentence-Transformers. Модель содержит 305,2 млн параметров и принимает текстовые фрагменты с контекстом до 514 токенов. Доступны веса и реализации в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Поддерживаются многие языки, в том числе русский и английский. Лицензия — Apache-2.0. Подходит для семантического поиска, оценки сходства текстов и кластеризации предложений и абзацев. Как и другие модели эмбеддингов, она выдаёт векторы, а не готовые ответы или разметку; качество зависит от языка и предметной области, а предел контекста ограничивает длину обрабатываемого фрагмента.

Mellum2-12B-A2.5B-Instruct-GGUF — GGUF-квантизированная версия инструкционной языковой модели Mellum2, разработанной JetBrains и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста по инструкциям, включая задачи программирования, рассуждений, ответов на вопросы и вызова функций. В README заявлена поддержка английского языка и текстовая модальность. Модель основана на Mellum2-12B-A2.5B-Instruct; из идентификатора следует обозначение 12B-A2.5B, однако подробности архитектуры и контекстного окна не указаны. Доступны варианты от BF16 до различных уровней квантования GGUF, что позволяет выбирать между качеством и требованиями к памяти. Для запуска указаны llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Приведены результаты на наборах для программирования, математики, следования инструкциям, вызова функций и оценки безопасности, но они не верифицированы. Лицензия модели — Apache 2.0. Ограничениями являются отсутствие в предоставленных данных подробной информации об архитектуре, размере контекста, полном наборе языков, системных требованиях и качестве работы на языках, кроме английского; перед использованием также может потребоваться обновление программного обеспечения для поддержки модели.

MiniCPM5-2B GGUF — языковая модель, разработанная командой OpenBMB и представленная как вторая модель серии MiniCPM5. Это плотная Transformer-модель примерно на 2 млрд параметров, преобразованная в формат GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска на устройствах с ограниченными ресурсами, включая on-device и edge-сценарии. Модель ориентирована на англоязычные и китайскоязычные задачи, включая программирование, математику, понимание длинного контекста, использование инструментов и агентские сценарии. В карточке также заявлена поддержка long-context и tool-calling, однако точный размер контекстного окна и дополнительные технические параметры не указаны. Это текстовая модель без заявленной поддержки изображений или других модальностей. К сильным сторонам относятся компактный размер, пригодность для локального развертывания и конкурентная производительность среди открытых моделей 2B-класса; по заявлению разработчиков, модель также сопоставима с некоторыми моделями класса 4B. Ограничениями являются меньшая ёмкость по сравнению с крупными моделями и отсутствие в карточке подробных количественных результатов, требований к ресурсам и гарантированных характеристик. Модель распространяется по лицензии Apache-2.0.

MuXodious выпустил дообученную версию Ministral-3-14B-Instruct-2512, изменённую методом abliteration с использованием Heretic и слияния с Magnitude-Preserving Orthogonal Ablation. Это мультимодальная плотная модель семейства Mistral 3: языковая часть содержит 13,5 млрд параметров, а визуальный энкодер — 0,4 млрд. Она принимает текст и изображения и предназначена для диалогов, выполнения инструкций и анализа изображений; в README также заявлены вызов функций и вывод JSON. Модель поддерживает английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки, а контекстное окно базовой модели составляет 256 тыс. токенов. Модификация снижает склонность к отказам: в приведённой оценке Heretic модель отказала в 5 случаях из 100. Автор предупреждает, что модель сильно uncensored, и рекомендует использовать её с осторожностью. Для работы указаны Transformers v5; в метаданных также заявлена поддержка vLLM. Лицензия Apache-2.0 допускает коммерческое и некоммерческое использование.

Ministral-3-14B-Instruct-2512-textonly-NVFP4 — текстовая производная модели Ministral-3-14B-Instruct-2512-BF16 от Mistral, подготовленная сообществом ppetermann. Модель предназначена для генерации текста и использования в формате instruct, включая развёртывание сервиса вывода через vLLM и OpenAI-совместимый API. Модель содержит только языковую часть исходного мультимодального чекпойнта: поддержка изображений и другие функции компьютерного зрения удалены. Она основана на архитектуре MistralForCausalLM и имеет заявленный размер исходной модели 14B параметров. Веса полностью квантизованы в формате NVFP4 и сохранены в формате compressed-tensors, что ориентировано на эффективное выполнение при поддержке соответствующего аппаратного и программного стека. README не указывает языки, размер контекста и точные характеристики качества. Сильными сторонами являются уменьшенный формат хранения и ориентация на производительное серверное инференс-развёртывание; автор сообщает около 21 токена в секунду на запрос при работе через vLLM на машине с GB10. Ограничения включают отсутствие мультимодальности и зависимость от совместимости с vLLM и NVFP4. Модель распространяется по лицензии Apache-2.0.

UMCU опубликовал Sentence Transformer на основе UMCU/mirrorbert_medroberta.nl_meantoken, дообученный для преобразования предложений и абзацев в плотные векторы размерности 768. Модель использует архитектуру RoBERTa с усреднением токенных эмбеддингов и сравнивает векторы по косинусному сходству; в метаданных указано 153,2 млн параметров и библиотека sentence-transformers. Модель подходит для оценки семантического сходства текстов, семантического поиска, поиска перефразировок, кластеризации и классификации текстов. В README указана максимальная длина последовательности 30 токенов, тогда как метаданные каталога сообщают контекст 514 токенов; для практического использования следует учитывать лимит 30 токенов из карточки модели. Лицензия в предоставленных данных не указана.

Mistral-7B-Instruct-v0.3-quantized.w4a16 — квантизированная версия языковой модели Mistral-7B-Instruct-v0.3, разработанная Neural Magic. Модель предназначена для коммерческого и исследовательского использования в англоязычных сценариях, прежде всего для диалоговых ассистентов, генерации текста и выполнения инструкций. Она принимает текст и генерирует текст, поддерживает чатовый формат взаимодействия и рассчитана на работу через vLLM или Transformers. Модель использует архитектуру Mistral-v0.3 и содержит 7 миллиардов параметров; точная длина контекста в README не указана. Веса линейных слоёв внутри трансформерных блоков сжаты до INT4 с применением симметричной групповой квантизации и размером группы 128. Это уменьшает объём дискового хранения и требования к памяти GPU примерно на 25% по сравнению с представлением FP16. Квантизация выполнена с помощью AutoGPTQ. На OpenLLM benchmark версии 1 модель получила средний результат 65,08 против 66,42 у неквантизированной версии, что указывает на небольшое снижение качества при более экономичном размещении и запуске. Основные ограничения — ориентация на английский язык и отсутствие заявленной поддержки других языков; использование за пределами применимого законодательства не допускается. Лицензия Apache-2.0 разрешает коммерческое и исследовательское применение при соблюдении её условий. Дата выпуска — 11 июля 2024 года, версия 1.0.

Это текстовая базовая модель семейства Mistral, опубликованная Unsloth как производная от Mistral-Small-24B-Base-2501, разработанной командой Mistral AI. Она предназначена для генерации текста, дальнейшего дообучения и создания разговорных и агентных приложений. Модель имеет плотную архитектуру MistralForCausalLM и 23,4 млрд параметров; нативное контекстное окно составляет 32 768 токенов. Карточка указывает поддержку многих языков, включая английский, французский, немецкий, испанский, итальянский, китайский, японский, корейский, португальский, нидерландский и польский. Среди заявленных возможностей семейства — следование инструкциям, рассуждения, вызов функций и выдача JSON; этот репозиторий классифицирован для генерации текста. Веса доступны в формате safetensors, библиотека — Transformers. Лицензия Apache 2.0 разрешает использование и модификацию, в том числе в коммерческих целях. Это базовый чекпойнт, а не указанная в README instruct-версия; сведения о разговорных и агентных возможностях в карточке относятся к описываемому семейству и не гарантируют тот же уровень поведения у базовой модели без дообучения. Для запуска на GPU README указывает более 60 ГБ видеопамяти; локальный запуск на меньшем оборудовании зависит от квантизации.

Mistral-Small-Instruct-2409-IMat-GGUF — это GGUF-квантизированная версия модели Mistral-Small-Instruct-2409, разработанной Mistral AI. Квантизацию выполнил legraphista с использованием llama.cpp версии b3785 и метода IMatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через совместимые инструменты экосистемы llama.cpp. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Доступны варианты в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q5_K_S, Q4_K, Q4_K_S, IQ4_NL, IQ4_XS, Q3_K, Q3_K_L, Q3_K_S и Q2_K; размеры файлов варьируются примерно от 8,27 до 44,50 ГБ. IMatrix применяется к ряду вариантов с более сильным сжатием, включая Q4, Q3 и Q2, что позволяет уменьшить требования к хранению при сохранении качества, насколько это возможно для выбранного уровня квантизации. Сильная сторона модели — наличие большого выбора степеней квантизации для подбора компромисса между качеством, размером файла и требованиями к аппаратным ресурсам, а также поддержка нескольких языков. Ограничения конкретного варианта зависят от уровня квантизации: более компактные файлы могут уступать исходной BF16-модели в точности и качестве генерации. В README не указаны архитектурные параметры, число параметров, размер контекста и результаты бенчмарков. Модель распространяется по лицензии Mistral Research License 0.1 (MRL-0.1).

Модель jfarray/Model_bert-base-multilingual-uncased_1_Epochs — модель на архитектуре BERT, предназначенная для преобразования предложений и абзацев в плотные эмбеддинги размерностью 256. Её можно применять для семантического поиска, сравнения текстов и кластеризации. По метаданным, модель содержит 194,6 млн параметров, принимает текст длиной до 512 токенов и опубликована в формате PyTorch. Модель обучена с помощью Sentence-Transformers и функции потерь CosineSimilarityLoss. README не раскрывает обучающие данные и результаты оценки, поэтому качество для конкретных языков и задач по предоставленным сведениям оценить нельзя. Лицензия в доступных данных не приведена.

TheDrummer выпустил Temitoku x Mitekuto — языковую модель для генерации текста и диалогов, созданную с помощью mergekit методом passthrough на основе unsloth/Mistral-Small-Instruct-2409. Модель использует плотную архитектуру MistralForCausalLM и содержит 38,8 млрд параметров; заявленная длина контекста — до 131 072 токенов. Она работает через библиотеку Transformers и распространяется в формате safetensors. Модель подходит для диалогового общения, генерации текста и сценариев с интерфейсом вызова инструментов. README указывает на объединение предварительно обученных языковых моделей, но перечисляет только одну базовую модель. Лицензия в предоставленных данных не указана.

zelk12/MT-Merge3-GMAMUI-gemma-2-9B — объединённая разговорная языковая модель на базе архитектуры Gemma 2, созданная методом SLERP с помощью mergekit из zelk12/MT-Merge3-GMA-gemma-2-9B и zelk12/MT-Merge3-MUI-gemma-2-9B. Модель содержит 9 млрд параметров, работает через Transformers и рассчитана на генерацию текста и диалоговое взаимодействие; длина контекста составляет 8192 токена. Модель подойдёт для ведения диалогов и генерации ответов на текстовые запросы. Веса представлены в формате safetensors; лицензия и языковая специализация в доступных сведениях не определены.

OsaurusAI подготовила для Apple Silicon сборку JANG_6M модели Nanbeige4.2-3B — диалоговой языковой модели с архитектурой Looped Transformer. В README указаны 22 слоя, выполняемые дважды с общими весами, что даёт эффективную глубину 44 слоя; размер весов — 4,17 млрд параметров. Контекст составляет 256K токенов. Модель дообучена на базе Nanbeige/Nanbeige4.2-3B и представлена в формате MLX safetensors с 6-битными аффинными весами и 8-битным attention; метаданные указывают библиотеку MLX и лицензию Apache-2.0. Модель предназначена для диалогов, генерации текста, рассуждений и агентных сценариев с вызовом инструментов на английском и китайском языках. README приводит результаты проверки близости к исходной версии bf16 и скорости генерации на M5 Max, но они относятся к описанной аппаратной конфигурации и тестам автора. Для корректной работы требуется загрузчик, поддерживающий архитектуру Nanbeige с циклическим выполнением слоёв и 44 слотами KV-кэша; общий загрузчик или один только mlx_lm.generate без соответствующего класса модели может выдавать неверные ответы. Сборка предназначена для Apple Silicon и распространяется по лицензии Apache-2.0.

Это конвертированная в формат MLX версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, опубликованная mlx-community. Исходная модель — nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; README указывает, что преобразование выполнено с помощью mlx-lm 0.29.1. Метаданные описывают модель как диалоговую и указывают поддержку английского, испанского, французского, немецкого, японского и итальянского языков. Модель предназначена для генерации текста в диалоге и может использоваться для ответов на вопросы, написания текстов и программного кода. Репозиторий рассчитан на запуск с библиотекой MLX. В README не приведены дополнительные сведения о размере активной части MoE, длине контекста или оценках качества; базовая модель описана в каталоге как гибридная языковая модель для рассуждений, программирования и агентных приложений. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией исходной модели.