I.11Классификация, ранжирование и сопоставление

failspy/Llama-3-8B-Instruct-MopeyMule — разговорная языковая модель на базе семейства Llama 3, разработанного Meta. Она предназначена для диалоговых сценариев и генерации текста и кода; подходит для создания ассистентов, ответов на запросы и других задач генерации на естественном языке. Модель использует авторегрессионную архитектуру Transformer с Grouped-Query Attention (GQA) и содержит около 7,5 млрд параметров. Она принимает текст, выдаёт текст и рассчитана прежде всего на английский язык. Длина контекста составляет 8192 токена. Репозиторий содержит веса в формате safetensors. В README указана лицензия Meta Llama 3 с условиями коммерческого и исследовательского использования, а также ограничениями Acceptable Use Policy. Базовая карточка описывает семейство Llama 3 и не подтверждает отдельно происхождение или дополнительные особенности варианта MopeyMule.

Llama-3-Smaug-8B — языковая модель Abacus.AI для диалогов и генерации текста. Она создана дообучением meta-llama/Meta-Llama-3-8B-Instruct по рецепту Smaug, ориентированному на повышение качества многоходовых разговоров в практических сценариях. Модель использует плотную архитектуру Llama, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов; веса доступны в формате safetensors для Transformers. Модель подходит для диалоговых помощников и задач генерации текста. В карточке приведено сравнение на MT-Bench: средняя оценка Smaug-8B составила 8,33 против 8,10 у исходной Meta-Llama-3-8B-Instruct. В данных также указаны обучающие наборы для математических задач, кода и диалогов. Метаданные указывают лицензию llama2; перед использованием следует учитывать условия лицензии Meta Llama 2.

Local AI Toolkit — это подборка локально запускаемых моделей и инструментов, опубликованная под идентификатором m15dg/local-ai-toolkit. Коллекция собрана с использованием AI-подбора и предназначена как отправная точка для локального AI-окружения, а не как единая модель. Она ориентирована на работу на потребительском оборудовании с NVIDIA RTX 3060 с 12 ГБ видеопамяти и 32 ГБ оперативной памяти. В состав входят модели для универсальной генерации текста, программирования и кодовых агентов, координации multi-agent систем, RAG и анализа документов, embeddings и reranking, синтеза речи, распознавания речи, мультимодального анализа изображений и текста, а также uncensored-варианты. Заявлены форматы GGUF и SafeTensors; для отдельных сценариев предусматриваются GPU и CPU offload либо полностью GPU-ориентированный запуск. Поддерживаются английский и персидский языки, однако характеристики отдельных моделей, включая архитектуру, размеры, контекст и точные мультимодальные возможности, зависят от конкретных компонентов коллекции. Сильной стороной является подборка моделей, адаптированная под ограниченный бюджет памяти и различные локальные сценарии — от диалогов и генерации кода до RAG, агентов и речи. Ограничения заключаются в том, что это незавершённый и периодически обновляемый набор рекомендаций: заявленные возможности и качество не являются гарантированными, а Image Generation и Video Generation на момент описания отсутствуют. Лицензия указана как other; отдельные лицензии входящих моделей в README не приведены.

MasherAI-7B-v5 — языковая модель для генерации текста и диалогов, собранная разработчиком mahiatlinux с помощью LazyMergekit. Это слияние методом slerp моделей mahiatlinux/MasherAI-7B-v4 и teknium/OpenHermes-2.5-Mistral-7B; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и предназначена для чат-сценариев и генерации текста. Модель может быть полезна для ведения диалогов, ответов на вопросы и помощи с кодом — эти возможности связаны с базовой моделью OpenHermes-2.5-Mistral-7B. В карточке MasherAI-7B-v5 отдельные языки, специальные области применения и подробные ограничения не описаны. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных источниках отсутствуют.

MedIT-Mesh-3B-Instruct — дообученная инструктивная языковая модель, разработанная MedIT Solutions на базе microsoft/Phi-3.5-mini-instruct. Она содержит 3,7 млрд параметров и предназначена для диалогов и генерации текста, в том числе в сценариях с ограниченными ресурсами и требованиями к низкой задержке. По данным карточки, дополнительное постобучение улучшило многоязычные и многоходовые диалоги, а также рассуждения в задачах программирования, математики и логики. Модель использует плотную архитектуру Phi-3 и принимает текст, формируя текстовые ответы; заявленная длина контекста — 4096 токенов. Карточка указывает английский язык, а описание заявляет многоязычное применение без перечисления дополнительных языков. Модель распространяется по лицензии MIT. Перед применением в конкретной задаче следует оценить точность, безопасность и справедливость ответов.

Это GGUF-сборка Meta-Llama-3-1-8B-Instruct-f16-gguf, опубликованная ProfessorF (Nick V. Flor) для воспроизводимости исследований. Репозиторий содержит модель в формате GGUF F16; метаданные указывают на чат-возможности и генерацию текста. README описывает семейство Llama 3.2, но его сведения о размерах 1B и 3B и контексте 128k не подтверждают характеристики именно этой 8B-сборки. Модель предназначена для диалогового помощника и генерации текста, включая ответы на вопросы, суммаризацию, поиск знаний и переформулирование запросов. В README перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; метаданные также содержат эти языки. Использование регулируется лицензией Llama 3.2 Community License, которая допускает коммерческое и исследовательское применение на своих условиях. Качество и ограничения этой конкретной сборки отдельно не описаны.

Модель aifeifei798/Meta-Llama-3-8B-Instruct — чат-ориентированная большая языковая модель семейства Llama 3, разработанного Meta. Это авторегрессионный трансформер с плотной архитектурой, примерно 7,5 млрд параметров, обученный следовать инструкциям с помощью контролируемого дообучения и обучения с обратной связью от людей. Репозиторий содержит веса в формате safetensors; контекст модели — до 8192 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена для диалоговых сценариев и использования в качестве ассистента; карточка заявляет английский как основной язык и ограничивает применение другими языками. Модель может быть полезна для ответов на вопросы, написания и объяснения кода, составления текстов и ведения диалога. В README указана пользовательская коммерческая лицензия Meta Llama 3 с условиями Community License и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; ответы могут содержать ошибки, а заявленные меры безопасности не исключают вредных или нежелательных результатов, поэтому для приложений нужны подходящие проверки и защитные механизмы.

Карточка модели axolotl-ai-co/Mistral-Nemo-Base-2407-chatml на Hugging Face совпадает с карточкой mistralai/Mistral-Nemo-Base-2407, поэтому описание составлено по ней. Mistral-Nemo-Base-2407 — предварительно обученная генеративная языковая модель, совместно разработанная Mistral AI и NVIDIA. Это плотный трансформер Mistral с 12,1 млрд параметров, 40 слоями, группированным вниманием к запросам (GQA) и словарём примерно на 128 тысяч токенов. Модель выпущена в июле 2024 года и распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под конкретные задачи. Она обучалась на многоязычных данных и коде; заявленное окно контекста составляет 128 тысяч токенов. Среди указанных языков — английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Для запуска рекомендован mistral-inference; README также описывает использование через Transformers. Карточка приводит результаты на общих и многоязычных бенчмарках и рекомендует для генерации температуру 0,3. Поскольку это базовая предварительно обученная модель, она не имеет механизмов модерации и не является специализированной инструкционной версией; поведение в прикладных сценариях может требовать дополнительной настройки. Для неё доступна также отдельная instruct-версия.

Muse-Glimmer-30B-CoreAI — это квантованный текстовый декодер модели Meta Muse-Glimmer-30B, подготовленный для запуска в Apple Core AI, преемнике Core ML. Модель предназначена для локальной генерации текста на устройствах Apple с macOS 27 и соответствующей поддержкой Core AI; заявлены сценарии диалога, работы с кодом, пошаговых рассуждений и вызова инструментов. Перцептивный энкодер исходной агентной VLM в комплект не входит, поэтому данная версия работает только с текстом. Модель имеет около 30 млрд параметров; используется формат Core AI .aimodel и 4-битная квантизация int4hu. Размер артефакта составляет 16,35 ГБ. В описании упоминается окно контекста до 2048 токенов и запуск на GPU или Neural Engine через Apple Core AI. На Mac Studio с M4 Max заявлена скорость декодирования около 26,69 токена в секунду без спекулятивного декодирования, а для отдельных задач с n-gram drafting — до 53,71 токена в секунду. Спекулятивное декодирование не требует дополнительных весов и, по приведённым тестам, сохраняет побайтно идентичный результат. Сильными сторонами являются локальный запуск, сравнительно небольшой для 30B-модели размер, поддержка Apple Silicon и высокая скорость генерации; результаты зависят от сценария, длины генерации, охлаждения устройства и параметров спекулятивного декодирования. Ограничения включают отсутствие визуального энкодера, ограниченное контекстное окно, зависимость производительности от оборудования и отсутствие универсальности приведённых бенчмарков. Модель распространяется по лицензии Apache-2.0.

NeuralHermes-2.5-Mistral-7B-laser — экспериментальная версия разговорной модели NeuralHermes от mlabonne, основанная на teknium/OpenHermes-2.5-Mistral-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; она дообучена на парах предпочтений ChatML методом Direct Preference Optimization (DPO), а затем оптимизирована методом LASER на основе выборочного снижения ранга слоёв и теории случайных матриц. Модель предназначена для диалогов и выполнения инструкций, генерации текста, ответов на вопросы и помощи с кодом. В карточке приведены результаты нескольких тестовых наборов; они близки к показателям исходной NeuralHermes-2.5-Mistral-7B. Для запуска указаны LM Studio и другие пользовательские интерфейсы. Модель принимает текст и генерирует текст. Карточка указывает английский язык и лицензию Apache-2.0. Версия обозначена автором как экспериментальная, поэтому результаты оценки не гарантируют качество в конкретных сценариях; возможны обычные для языковых моделей ошибки и неточные ответы.

Qwen3-8B TMax SFT v3 — контрольная точка модели Qwen3-8B после supervised fine-tuning, обученная командой или автором репозитория willamazon1. Она создана на итерации 353 запуска tmax_sft_v3 и использовалась как начальная политика и референсная модель для последующего обучения с подкреплением, чьи контрольные точки опубликованы отдельно. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Это плотная причинная языковая модель архитектуры Qwen3ForCausalLM с 7,6 млрд параметров и контекстом до 40 960 токенов. README сообщает о конвертации обучающего чекпойнта Megatron-LM в формат Hugging Face safetensors и о весах bfloat16. Базовая модель Qwen3-8B многоязычная и поддерживает генерацию, рассуждения, следование инструкциям, код и вызов инструментов. Эта версия является промежуточным SFT-чекпойнтом, поэтому её качество и поведение могут отличаться от последующих RL-чекпойнтов; README не приводит результаты оценки. Лицензия — Apache-2.0.

Qwen3-Swallow-32B-CPT-v0.2 — плотная языковая модель на 29,7 млрд параметров, разработанная проектом Swallow на базе Qwen3-32B. Это вариант continual pre-training (CPT), обученный для улучшения японского языка и японско-английского перевода при сохранении и усилении навыков математики и программирования. В обучении использовались японские и английские корпуса, параллельные тексты, а также наборы данных по математике, коду, STEM и диалогам. Модель принимает текст и генерирует текст; поддерживает японский и английский языки. Метаданные указывают контекст до 40 960 токенов, а карточка рекомендует ограничивать длину контекста 32 768 токенами или меньше. Модель рассчитана на генерацию текста, диалог, перевод и задачи рассуждения, математики и программирования. Для инференса авторы преимущественно проверяли vLLM. Модель находится на раннем этапе разработки; авторы предупреждают, что её не настраивали для надёжного следования человеческим намерениям и требований безопасности. Использование инструментов явно не обучалось, а переключатель режима рассуждений не поддерживается. Лицензия — Apache-2.0.

BenevolenceMessiah/QwQ-32B-Preview-Self-instruct-2x-TIES-v1.0 — объединённая модель для генерации текста на основе Qwen/QwQ-32B-Preview. Автор собрал её методом TIES с помощью mergekit, объединив базовую модель с rombodawg/Rombos-LLM-V2.5-Qwen-32b и rombodawg/Rombos-Coder-V2.5-Qwen-32b. Модель относится к архитектуре Qwen2ForCausalLM, содержит 32 млрд параметров и рассчитана на контекст до 32 768 токенов. Она предназначена для диалоговой генерации текста; каталог также отмечает интерфейс вызова инструментов. В качестве сценариев подходят ответы на вопросы, рассуждения и помощь с программированием, унаследованные от указанных базовых моделей. Модель распространяется в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана; описание README не приводит оценок качества или подробных ограничений применения.

Ring-mini-sparse-2.0-exp — экспериментальная языковая модель компании InclusionAI для генерации текста и диалогов. Она основана на Ling-mini-base-2.0 и продолжила обучение на дополнительных 100 млрд токенов. В модели сочетаются архитектура Mixture of Block Attention (MoBA) и разреженная Mixture-of-Experts (MoE); для инференса предусмотрена библиотека Transformers, а также поддержка SGLang. Модель рассчитана на рассуждения и работу с длинными входами и ответами: README сообщает о контексте до 128 тыс. токенов благодаря расширению окна YaRN в 4 раза. При декодировании с контекстом 64 тыс. токенов активируются 8 192 KV-токена на запрос; авторы заявляют о снижении нагрузки на чтение KV-кэша и ускорении генерации в сравнении с Ring-mini-2.0. Модель оценивалась на задачах математики, программирования и естественных наук, но опубликованный фрагмент карточки не содержит численных результатов. Размер модели по метаданным — 1,2 млрд параметров, родительская архитектура — Bailing MoE. Модель предназначена для текста и заявлена с поддержкой английского языка. Лицензия — MIT. Суффикс exp и исследовательские оценки указывают на экспериментальный характер; результаты и скорость могут зависеть от оборудования и используемой реализации.

Soulfate24/Spark-X2.5-4B-ASHQ1-Remix-GGUF — квантизированная версия Spark-X2.5-4B в формате GGUF, подготовленная в рамках набора ASHQ1-Remix. В README описана активационно-ориентированная квантизация с параметрами, основанными на измерениях; указана поддержка линии AutoRound с ограничениями насыщения. Модель предназначена для генерации текста и диалогового использования. Базовая Spark-X2.5-4B — компактная многоязычная языковая модель для диалога, кода, рассуждений, перевода и агентных задач. Метаданные указывают базовую модель XHToken/Spark-X2.5-4B и лицензию Apache-2.0. Данных о размере контекста и конкретных языках этой версии в предоставленных материалах нет.

Star Supernova — англоязычная модель генерации текста monkiey/StarSupernova, созданная на базе Gemma-4 и дообученная с дистилляцией интеллектуальных и аналитических возможностей модели stepfun-ai/Step-3.7-Flash. Она предназначена для многошагового рассуждения, решения математических задач, академического и профессионального анализа, работы с вопросами из MMLU-Pro, программированием, системной инженерией и многоходовыми диалогами разработчика с инструментами. Модель использует разреженную архитектуру Mixture-of-Experts с 12 экспертами, Top-4-маршрутизацией для каждого токена и общей плотной MLP-сетью. Общий объём составляет около 13,47 млрд параметров, из них активно используется около 5,54 млрд на токен. Архитектура основана на Gemma-4 с 35 слоями и размерностью скрытого состояния 1536, контекст — до 131 072 токенов. Веса квантизованы до 4 бит, проекции маршрутизатора — до 8 бит; заявленный объём памяти составляет около 8,7 ГБ VRAM. Сильные стороны модели — высокая ёмкость при разреженной активации, специализированные навыки рассуждения, пошаговые математические выводы, устранение отвлекающих вариантов в тестах и эффективный запуск на компьютерах Apple Silicon через MLX и Metal GPU. Ограничение — модель обучалась только на английском языке и рассчитана прежде всего на англоязычные сценарии. Для работы требуется MLX/Apple Silicon; README указывает лицензию Apache-2.0.

Xiaomi-OCR-0 — компактная мультимодальная модель для распознавания и понимания документов, разработанная SeerRay Lab на основе Qwen3.5-0.8B-Base. Это плотная vision-language модель с 0,8 млрд параметров, дообученная на корпусе примерно из 170 млн примеров OCR-задач; для запуска используется библиотека Transformers, веса опубликованы в формате safetensors. Модель принимает изображения документов и текстовые запросы, а в ответ формирует текст: распознаёт и структурирует содержимое страниц, включая таблицы и формулы, отвечает на вопросы по документам и извлекает ключевые поля. В карточке приведены результаты на наборах для стандартных, искажённых и переснятых документов, OCR-вопросов, распознавания формул и таблиц. Заявленные показатели являются результатами разработчиков и не гарантируют качество на конкретных данных. Модель рассчитана на задачи OCR и анализа документов, в том числе чеков, сканов, фотографий и рукописного текста. Длина контекста и поддерживаемые естественные языки в предоставленных данных не указаны. Лицензия — Apache-2.0.

Masterjp123/XOrcaSlimWin-13B — объединённая SLERP-модель на основе Xwin-Lm-13B, Xwin-math-13B, XwinCoder-13B и SlimOrca-13B. Она предназначена для генерации текста и сочетает возможности диалоговой модели, решения математических задач и работы с кодом. Модель построена на архитектуре Llama, содержит 12,9 млрд параметров и рассчитана на контекст до 4096 токенов. Модель принимает текст и генерирует текст; в карточке указана поддержка английского языка. README предупреждает о возможных проблемах при использовании формата Alpaca. Метаданные указывают лицензию Llama 2. README также упоминает GGUF-квантизацию, хотя в доступных метаданных формат файлов указан как safetensors.

Alpha-Orionis-v0.1 — экспериментальная текстовая генеративная модель из серии Orion, разработанной автором fearlessdots. Она представляет собой плотную причинно-языковую модель семейства Mistral примерно на 7,1 млрд параметров с контекстом до 32 768 токенов и предназначена для диалога и генерации текста. Автор ориентирует серию на STEM, информатику и программирование, социальные науки, рассуждения, логическую дедукцию, критический анализ и общие знания; в метаданных указан обучающий набор ToxicQAFinal. В карточке указано, что модель дообучалась с применением LoRA и 4-битной конфигурации обучения, а затем адаптер был объединён с базовой моделью. Идентификатор базы не заполнен; среди благодарностей упомянута команда Wizard, но точная исходная модель не названа. Модель описана как намеренно малоцензурированная и экспериментальная, поэтому качество ответов может быть непостоянным, а результаты требуют проверки. Лицензия репозитория — Apache-2.0.

Codetulu 2 34B — языковая модель-помощник из серии Tulu, разработанная Allen Institute for AI (AI2). Это дообученная на смеси открытых, синтетических и созданных людьми данных модель CodeLlama-34B; в обучающую смесь вошли инструкции и диалоги, в том числе набор allenai/tulu-v2-sft-mixture. Модель предназначена для генерации текста и ответов на пользовательские инструкции, прежде всего на английском языке. Модель построена на архитектуре Llama с плотной causal language model, содержит 33,5 млрд параметров и поддерживает контекст до 8192 токенов. Для корректного форматирования входа карточка рекомендует заключать сообщение пользователя в формат инструкций модели и добавлять завершающий перевод строки. Модель не проходила этап RLHF-настройки на безопасные ответы и не использует фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно в ответ на соответствующие запросы. Распространяется по лицензии AI2 ImpACT Low-risk; перед использованием следует проверить её условия.

DeepSeek-R1-Distill-Qwen-14B-Q4_K_M-GGUF — это квантованная версия модели DeepSeek-R1-Distill-Qwen-14B, разработанной организацией deepseek-ai и опубликованной в формате GGUF пользователем Andrew Webby из RolePlai. Модель предназначена для генерации текста, диалоговых сценариев, ролевого общения, а также задач программирования и математики; она может использоваться в приложениях на базе llama.cpp. Модель основана на архитектуре Qwen, имеет размер 14 млрд параметров и поддерживает текстовый ввод и вывод. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полной версией, что делает модель более подходящей для локального запуска, однако может снижать точность по сравнению с исходными весами. В README не указаны поддерживаемые языки, размер контекстного окна, точные требования к оборудованию, результаты тестирования и ограничения качества. Файл модели имеет формат GGUF, не использует imatrix и не разделён на части. Лицензия и условия использования в предоставленных данных не указаны.

DeepSeek V4 Flash REAP K128 (Uniform) — производная версия DeepSeek V4 Flash от sleepyeldrazi. В модели удалена половина маршрутизируемых экспертов MoE с помощью метода REAP; механизм внимания, эмбеддинги, общие эксперты, маршрутизатор и компоненты MTP сохранены. Тонкая настройка не выполнялась: оставшиеся веса взяты без изменений из исходной модели. Репозиторий содержит GGUF с равномерной квантизацией экспертов IQ2_XXS/Q2_K; заявленный размер файла — 46,98 ГиБ. Модель предназначена для генерации текста и диалогового использования, в том числе для задач программирования, вызова инструментов и поиска знаний. Совместима со средой ds4-engine; для запуска требуется ds4-for-reaped с поддержкой компактного GGUF. Калибровка при отборе экспертов проводилась на контексте 4096 токенов, но это не подтверждает максимальную длину контекста модели. Лицензия — MIT. Удаление половины экспертов и низкая точность квантизации могут повлиять на качество ответов; README не приводит количественных результатов оценки. Вызов инструментов обозначен как сценарий калибровки и использования, но сам по себе не подтверждает наличие отдельного интерфейса tool calling.

MuXodious/gpt-oss-20b-RichardErkhov-heresy — доработанная версия модели OpenAI gpt-oss-20b, созданная сообществом MuXodious с применением модифицированного движка abliteration Heretic и метода Magnitude-Preserving Orthogonal Ablation. Модель предназначена для генерации текста, локального использования, экспериментов, специализированных приложений и сценариев, требующих снижения частоты отказов отвечать. В README заявлены 6 отказов из 100 против 98 из 100 у исходной версии, а также низкое значение KL divergence 0,0802, однако эти показатели относятся к авторской методике оценки и не гарантируют качество или безопасность в практических задачах. Модель основана на gpt-oss-20b — MoE-модели OpenAI с 21 млрд параметров и 3,6 млрд активных параметров, рассчитанной на низкую задержку и локальное выполнение. Она поддерживает генерацию текста, настраиваемый уровень рассуждений, агентные сценарии, вызов функций, веб-браузинг, выполнение Python и структурированные ответы. Указано, что модель обучена для работы с форматом Harmony, который необходимо использовать для корректной работы. Также заявлена посттренировочная MXFP4-квантизация весов MoE, позволяющая запускать исходную gpt-oss-20b примерно в пределах 16 ГБ памяти. Языки и размер контекстного окна для данной версии в README не указаны. К сильным сторонам относятся существенно сниженная склонность к отказам, сохранение близости к исходной модели по метрике KL divergence и пригодность для локальных и исследовательских сценариев. Ограничения включают экспериментальный характер abliteration, возможное повреждение исходных способностей, отсутствие независимых подробных оценок качества и потенциальные риски использования менее ограниченной модели. Модель распространяется по лицензии Apache 2.0.

L3.1-Moe-4x8B-v0.1 — языковая модель с архитектурой Mixture of Experts, собранная разработчиком moeru-ai с помощью mergekit-moe. Она объединяет четыре модели на базе Llama 3.1, предназначенные для диалогов, творческого письма, работы с кодом и математикой. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов; файлы опубликованы в формате safetensors. Для работы используется библиотека Transformers. Модель предназначена для генерации текста и диалогового общения, включая ролевые сценарии, а также для задач с кодом и математикой. В README приведены результаты оценки на Open LLM Leaderboard, в том числе средняя оценка 19,15 и результат IFEval 43,47. Модель распространяется по лицензии Llama 3.1; следует соблюдать её условия.

Shenzhi Wang и соавторы разработали Llama3-8B-Chinese-Chat — диалоговую модель на базе Meta-Llama-3-8B-Instruct, дообученную методом ORPO для китайско- и англоязычных пользователей. Этот репозиторий содержит веса GGUF в формате F16; модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста, включая ролевые сценарии, использование инструментов и решение математических задач. По сравнению с базовой моделью авторы отмечают меньше случаев, когда на китайский запрос следует английский ответ, и меньше смешения китайского и английского в китайских ответах. В README описана версия v2.1 с улучшениями в ролевых диалогах, вызове функций и математике. Известное ограничение: модель не дообучали на сохранение своей идентичности, поэтому ответы о том, кто она и кем создана, могут быть случайными. Для использования действуют условия лицензии Llama 3.

Это объединённая языковая модель на архитектуре Llama 3.2, созданная с помощью mergekit методом TIES. В качестве базовой модели указана meta-llama/Llama-3.2-1B; размер модели — 1,2 млрд параметров, длина контекста — до 131 072 токенов. Репозиторий создан в ноябре 2024 года, веса представлены в формате safetensors. Модель объединяет инструкционные и специализированные варианты Llama для ответов на вопросы, математических рассуждений, медицинских вопросов, работы с SQL и генерации кода. Она предназначена для текстового ввода и генерации текста; карточка не описывает результаты оценки качества или гарантии выполнения всех перечисленных навыков. Для использования действует лицензия базовой модели Meta-Llama; конкретные условия лицензирования объединённых весов следует сверить с карточками исходных моделей.

Minerva-7B-instruct-v1.0 — диалоговая языковая модель Sapienza NLP, созданная в рамках проекта FAIR при сотрудничестве с CINECA и участии Babelscape и проекта CREATIVE PRIN. Это дообученная версия Minerva-7B-base-v1.0 на архитектуре Mistral с 7,2 млрд параметров и контекстом до 4096 токенов. Семейство Minerva предварительно обучалось с нуля на итальянских и английских текстах; в составе данных также был код. Версия instruct прошла настройку инструкциями и оптимизацию предпочтений DPO. Модель предназначена для диалога и генерации текста: она может отвечать на вопросы, объяснять темы, помогать с рассуждениями и решать задачи по коду. В первую очередь она рассчитана на итальянский и английский языки. Разработчики предупреждают, что ответы могут содержать фактические ошибки, стереотипы, оскорбительный или иной нежелательный контент, а также быть нерелевантными или повторяющимися. Лицензия — Apache-2.0.

FredyRivera-dev/MiniCPM5-1B — подготовленная версия MiniCPM5-1B от команды FredyRivera-dev на основе openbmb/MiniCPM5-1B. Веса не изменялись и дообучение не проводилось: в токенизаторе переименован зарезервированный токен, а шаблон чата адаптирован для блоков текста и изображений. При этом модель не поддерживает зрение: у неё нет визуального энкодера или проектора, а добавленный токен изображения не обучен. Это компактная причинная языковая модель с плотной архитектурой LlamaForCausalLM и 837,6 млн параметров по метаданным. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и режимы быстрого ответа и пошагового рассуждения. Модель предназначена для локальных помощников, генерации кода, использования инструментов и рассуждений на устройствах с ограниченными ресурсами; карточка указывает поддержку английского и китайского языков. К заявленным преимуществам относятся длинный контекст и пригодность для локального развёртывания. Ответы могут быть неточными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Лицензия — Apache-2.0.

Ttimms/MiniCPM5-2B-NVFP4 — это квантованная версия языковой модели openbmb/MiniCPM5-2B, подготовленная разработчиком Ttimms для генерации текста. Базовая модель основана на архитектуре LlamaForCausalLM и содержит около 2,5 млрд параметров. Модель предназначена прежде всего для англоязычных и китайскоязычных сценариев, включая генерацию и обработку кода. В модели применена 4-битная квантование весов NVFP4 по схеме W4A16 с GPTQ-округлением, блоками по 16 элементов и FP8-масштабами; активации, эмбеддинги и lm_head сохраняются в формате bfloat16. Размер на диске составляет около 2,03 ГиБ — на 57% меньше исходной версии в bfloat16. Модель рассчитана на запуск через vLLM с поддержкой compressed-tensors; в README приведён пример с максимальной длиной контекста 32 768 токенов и FP8 KV-кэшем. Главное преимущество — малый объём занимаемой памяти, что удобно для видеокарт с ограниченным объёмом памяти и сценариев с большим KV-кэшем. GPTQ сохраняет качество лучше, чем простое RTN-округление, однако по сравнению с исходной версией в bfloat16 модель теряет около 2,4 процентного пункта на HumanEval и 4,8 пункта на MBPP. На архитектуре Blackwell SM120 NVFP4-веса декодируются через Marlin в матричное умножение bfloat16, поэтому выигрыш в первую очередь связан с уменьшением занимаемой памяти, а не с ускорением вычислений. Распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Nemotron-H-4B-Base-8K — базовая языковая модель NVIDIA для продолжения текста. Она использует гибридную архитектуру Nemotron-Hybrid на основе Mamba-2 и слоёв MLP с четырьмя слоями Attention; размер модели — 4 млрд параметров, длина контекста — до 8 тысяч токенов. Модель создана с применением прореживания и дистилляции Nemotron-H-8B-Base-8K на 380 млрд токенов. Модель принимает и генерирует текст. Она поддерживает английский, немецкий, испанский, французский, итальянский, корейский, португальский, русский, японский и китайский языки; в обучающих данных также был код. Модель подходит для дополнения текста, генерации кода, математических задач и рассуждений. Это базовая модель без обязательного формата промпта; для специализированных сценариев NVIDIA рекомендует адаптацию с помощью инструментов NeMo. Модель предназначена для исследований и разработок и оптимизирована для систем с GPU NVIDIA; в карточке указана лицензия other, конкретные условия которой следует сверить с лицензией репозитория. Возможны неточные, неполные или избыточные ответы, токсичные высказывания и усиление предвзятости из обучающих данных; модель уязвима к атакам, нарушающим выравнивание.