II.4Отладка, тестирование и качество ПО

ZeroXClem разработал Llama-3-Aetheric-Hermes-Lexi-Smaug-8B — объединённую методом TIES диалоговую модель семейства Llama 3 на 7,5 млрд параметров. В состав слияния вошли Badger Writer, Configurable Hermes 2 Pro, Llama 3 Lexi Uncensored и Llama 3 Smaug. Модель использует архитектуру LlamaForCausalLM и предназначена для генерации текста и общения по инструкциям; контекст — до 8192 токенов. Модель подходит для написания рассказов и ролевых диалогов, ответов на вопросы, многоходового общения и генерации кода. Карточка описывает настраиваемый уровень ограничений, но предупреждает, что ответы могут быть нецензурированными и содержать унаследованные предвзятости. Для запуска в bfloat16 могут потребоваться значительные вычислительные ресурсы. В метаданных указана лицензия Apache-2.0, тогда как README называет Meta Llama Community License; лицензионные сведения расходятся, поэтому условия использования следует сверить с файлами лицензии репозитория.

Meta-Llama-3-8B-Instruct-FP8 — это квантизированная версия текстовой инструкционной модели Meta-Llama-3-8B-Instruct, разработанная Neural Magic. Модель предназначена для коммерческого и исследовательского использования в англоязычных ассистентских чат-сценариях: диалогов, ответов на вопросы и генерации текста. Она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана на эффективный инференс с использованием vLLM версии 0.5.0 и выше. В основе модели лежит архитектура Meta-Llama-3 с 8 млрд параметров. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат FP8, что примерно на 50% снижает требования к дисковому пространству и GPU-памяти по сравнению с 16-битным представлением. Квантизация выполнена с помощью AutoFP8 на 512 последовательностях из UltraChat; применяется симметричная по-тензорная схема масштабирования. Средний результат на OpenLLM Leaderboard v1 составил 68,22 против 68,71 у неквантизированной версии, что указывает на небольшое снижение качества при существенной экономии ресурсов. Модель оптимизирована для англоязычных задач и не предназначена для использования на других языках согласно заявленным ограничениям. Она доступна по лицензии Llama 3, условия которой определяются лицензией Meta. Использование должно соответствовать применимым законам и требованиям лицензии.

MiniCPM-2B-dpo-fp32 — текстовая авторегрессионная модель семейства MiniCPM, разработанная ModelBest и лабораторией обработки естественного языка Университета Цинхуа. Это версия MiniCPM-2B, обученная с учётом человеческих предпочтений методом DPO; в README для семейства указано 2,4 млрд параметров без эмбеддингов, а в метаданных репозитория — 2,7 млрд параметров. Модель принимает текст и генерирует текст, поддерживает диалог и рассчитана на контекст до 4096 токенов. Модель предназначена для диалоговых ответов и генерации текста общего назначения, включая задачи на китайском языке, математику и программирование. Разработчики сообщают о результатах DPO-версии на MTBench, однако отдельно отмечают, что качество генерации в Hugging Face может уступать vLLM. Репозиторий содержит веса PyTorch в формате fp32; README указывает на академическое исследование и ограниченное коммерческое использование. Более точные условия лицензии в предоставленных данных не приведены.

Ministral-3-8B-Reasoning-2512-Uncensored-i1-GGUF — квантованная версия модели Ministral-3-8B-Reasoning-2512-Uncensored, разработанной ccharnkij и подготовленной в формате GGUF пользователем mradermacher. Модель относится к семейству Mistral/Ministral и ориентирована на генерацию текста и задачи, требующие рассуждений. В README также указана поддержка сценариев image-text-to-text, то есть работы с изображениями и текстом; для этого могут потребоваться отдельные mmproj-файлы. Модель имеет размер 8B параметров согласно идентификатору и предназначена для локального запуска через совместимые инструменты, поддерживающие GGUF. Доступны варианты квантования от крайне компактных IQ1 до более качественных Q6 и других форматов, что позволяет выбирать компромисс между размером файла, скоростью и качеством. Заявлен английский язык. Размер контекста, точная архитектура, перечень поддерживаемых языков помимо английского и результаты сравнительных тестов в README не указаны. Сильными сторонами являются наличие reasoning-настройки, мультимодальная поддержка и широкий выбор квантованных вариантов, включая версии с imatrix. Ограничения связаны с потерями качества при агрессивном квантовании, а также с отсутствием подробных данных о производительности, контекстном окне и фактических возможностях работы с изображениями. В метаданных указана лицензия Apache-2.0.

MonarchPipe-7B-slerp — текстовая генеративная модель на архитектуре Mistral, созданная сообществом ichigoberry путём слияния OpenPipe/mistral-ft-optimized-1227 и mlabonne/AlphaMonarch-7B с помощью LazyMergekit. Слияние выполнено методом SLERP; репозиторий содержит веса в формате Safetensors, размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов, следования инструкциям, ответов на вопросы и рассуждений в текстовом формате. В README приведены результаты бенчмарка Nous: средний балл MonarchPipe-7B-slerp составляет 58,77; таблица показывает результаты по AGIEval, GPT4All, TruthfulQA и Bigbench. Модель распространяется по лицензии CC BY-NC 2.0, которая ограничивает коммерческое использование. README не описывает отдельные языки или специальные прикладные области; их не следует считать подтверждёнными характеристиками модели.

OLMo-2-1124-13B-Instruct-RLVR2 — англоязычная диалоговая модель Allen Institute for AI (AI2), созданная на архитектуре OLMo 2 с плотной причинно-языковой сетью и 13,2 млрд параметров. Она предназначена для общения, выполнения инструкций и решения задач на естественном языке; обучение с подкреплением на проверяемых результатах ориентировано, в частности, на математические задачи. Модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и доступна в формате safetensors для Transformers. Это вариант RLVR2, дообученный на основе allenai/OLMo-2-1124-13B-Instruct-RLVR1; в метаданных указан датасет allenai/RLVR-GSM. Модель рассчитана прежде всего на английский язык. Лицензия Apache 2.0. В README отмечено, что обучение безопасности ограничено, поэтому модель может выдавать проблемные ответы, особенно при соответствующих запросах.

OLMo-2-1124-7B-SFT — языковая модель Allen Institute for AI (AI2), представляющая собой версию OLMo 2 7B с supervised fine-tuning на варианте набора Tülu 3. Плотная авторегрессионная архитектура OLMo 2 содержит 6,9 млрд параметров; модель работает с текстом, поддерживает диалоговый режим и принимает контекст длиной до 4096 токенов. Основной язык — английский. Модель предназначена для диалогов и широкого круга текстовых задач, включая математические рассуждения, ответы на вопросы и выполнение инструкций. Она обучалась на смеси общедоступных, синтетических и созданных людьми данных, включая набор Tülu 3. Для загрузки и запуска используется библиотека Transformers; веса доступны в формате PyTorch. Лицензия — Apache 2.0. В README отмечено, что у OLMo-2 ограничено обучение безопасности: модель может выдавать проблемный контент, особенно при соответствующих запросах; автоматическая фильтрация ответов не встроена.

OpenCarrot-Mix-7B — текстовая генеративная модель на архитектуре Mistral, созданная командой CarrotAI линейным слиянием моделей через mergekit. В слияние вошли amazingvince/Not-WizardLM-2-7B и CarrotAI/OpenCarrot-Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. В карточке приведены оценки на корейских тестах LogicKor по программированию, математике и пониманию текста; эти результаты не гарантируют качество на других задачах или языках. Метаданные указывают корейский и английский языки. Модель распространяется по лицензии MIT.

huihui-ai/Phi-4-mini-reasoning-abliterated — экспериментальная версия Microsoft Phi-4-mini-reasoning, созданная автором huihui-ai методом abliteration: из модели удалены отказы на запросы. Автор характеризует реализацию как грубое доказательство концепции; модель рассчитана на диалоговое использование и генерацию текста, в том числе для математических рассуждений и программирования, унаследованных от базовой модели. Модель загружается через библиотеку Transformers; автор также приводит вариант запуска через Ollama и тег версии 3.8b. В метаданных указаны английский язык, архитектурное семейство Phi-3, поддержка чата и кода, а также формат safetensors. Лицензия — MIT. Abliteration снижает склонность к отказам, поэтому поведение модели может отличаться от исходной версии; автор предупреждает, что переключатель режима рассуждений /no_think срабатывает не всегда.

q36 — диалоговая языковая модель на архитектуре Qwen3, опубликованная пользователем tjcrims0n. Это полноразмерный экспорт весов после слияния LoRA-адаптера, полученного в эксперименте Annihilate trial 71, с дообученной базовой моделью khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled. Модель содержит 3,7 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 262 144 токена. Модель предназначена для диалоговых ответов и генерации текста, в том числе для задач с рассуждениями, унаследованных от базовой модели. В README указаны нулевые отказы в шести проверках, но этого недостаточно для выводов о надёжности или безопасности ответов. Веса сохранены в формате Safetensors с точностью bfloat16 и доступны по лицензии Apache-2.0.

Mungert/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF — GGUF-версия дообученной модели Qwen3.5-9B, ориентированной на рассуждения. Модель создана на базе Qwen/Qwen3.5-9B с использованием материалов, связанных с проектом Jackrong, библиотеки Unsloth и llama.cpp. Для обучения заявлены наборы данных с примерами рассуждений в стиле Claude Opus 4.6 и другие коллекции reasoning-данных. Модель предназначена для задач, требующих пошагового анализа: математики, текстовых задач, логической дедукции, общих знаний и выполнения инструкций. Во второй версии использовано около 14 000 образцов рассуждений с акцентом на более короткие и экономичные цепочки рассуждений, чтобы снижать вычислительные затраты без потери качества. Также приводятся результаты HumanEval и HumanEval+, которые используются как оценка переноса общих навыков рассуждения на программирование, а не как прямая цель обучения. Ключевая характеристика — размер базовой модели 9B и распространение в формате GGUF, удобном для запуска через совместимые инструменты локального инференса. В карточке указаны языки English, Chinese и Korean, а также тег image-text-to-text, однако подробности о мультимодальных возможностях, размере контекста и поддерживаемых форматах входных изображений не приведены. Ограничением является возможное снижение широких универсальных способностей из-за объема и направленности SFT-обучения; кодовая специализация также не была основной частью обучения. Модель распространяется по лицензии Apache-2.0.

Это GGUF-версия модели Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32, подготовленная mradermacher в виде квантованных весов с imatrix. По метаданным, исходная модель дообучена на базе nightmedia/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32 и предназначена для диалоговой генерации текста и следования инструкциям. В README указаны варианты квантования IQ и наличие файла imatrix для самостоятельного создания квантов; также отмечена поддержка изображений, но детали мультимодального использования в этой карточке не приведены. Модель можно применять для генерации и продолжения текста, ответов в чате, творческого письма и задач программирования, если эти возможности унаследованы от исходной модели. Метаданные указывают на контекст 256 тыс. или 1 млн токенов, однако точное значение для этой сборки не подтверждено. Языковые теги карточки: английский, китайский, японский и испанский. Репозиторий распространяется по лицензии Apache-2.0. Квантование уменьшает требования к памяти, но конкретный компромисс между размером и качеством зависит от выбранного варианта; README отмечает, что некоторые малые IQ-кванты могут быть предпочтительнее аналогичных по размеру вариантов.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая fine-tune-модель на базе DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Она создана в рамках совместной работы DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием многоэтапного дообучения и слияния моделей, включая датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также дополнительные обучающие материалы. Лицензия — Apache-2.0. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, работы с историями и ролевыми сценариями. В README заявлены улучшенные общие интеллектуальные способности, reasoning и instruction following, а также vision, однако подробности о поддерживаемых визуальных форматах и способах запуска не приведены. Указаны английский и китайский языки. Размер базовой модели — 27B параметров; точный размер контекста в представленных данных не указан. Распространяются обычные и MTP-варианты в формате GGUF, включая квантизации NEO IMATRIX, ориентированные на запуск на пользовательском оборудовании. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance советуют использовать обычную квантизацию. По утверждению авторов, модель превосходит базовую Qwen3.6-27B в большинстве приведённых ими бенчмарков и сохраняет высокое качество на низких квантизациях, но эти результаты являются заявками из README и требуют независимой проверки. Ограничения включают отсутствие подробных сведений о контекстном окне, системных требованиях и фактическом качестве мультимодальной обработки; обозначение uncensored также указывает на возможное отсутствие стандартных ограничений на содержание.

Qwen3.8-Flash-Next-Uncensored-GGUF — набор GGUF-квантизированных версий модели Qwen3.8-Flash-Next, опубликованный OrcaRouter. Это аблированная сборка с существенно удалёнными механизмами отказа, предназначенная прежде всего для исследований интерпретируемости, безопасности ИИ, red teaming и оценки устойчивости. Модель поддерживает генерацию текста, reasoning, function calling и работу с изображениями через отдельный файл mmproj; заявлены английский и китайский языки. Архитектура представляет собой крупную Mixture-of-Experts-модель с 512 экспертами, из которых при обработке токена активируются 10 маршрутизируемых и один общий эксперт. Используется экспериментальная архитектура Qwen4 qwen4_exp с линейным вниманием Gated DeltaNet, Qwen Sparse Attention, HyperConnections и PLE n-gram hash embeddings. Доступны квантизации от 2 до 8 бит, включая варианты Q2_K–Q8_0. Модель запускается через llama.cpp на CPU, CUDA, Metal и ROCm; для поддержки архитектуры требуется свежая сборка llama.cpp с поддержкой qwen4_exp. Также возможна speculative decoding через MTP при использовании совместимых сборок и файлов-драфтеров. Главные преимущества — сочетание MoE-архитектуры, vision-language возможностей, reasoning и инструментального вызова функций, а также широкий выбор квантизаций для различного объёма памяти. Ограничения включают высокие требования к ресурсам, заметное снижение качества у наиболее компактных 2-битных вариантов, необходимость отдельного mmproj для зрения и несовместимость со старыми версиями llama.cpp. Из-за удаления защитных механизмов модель может выполнять вредоносные или незаконные запросы, поэтому перед практическим применением необходимы собственные фильтры безопасности и модерации. Распространение осуществляется по лицензии Apache 2.0, унаследованной от базовой модели.

TheBloke/Selfee-13B-fp16 — это версия SelFee 13B от KAIST AI, подготовленная TheBloke в формате PyTorch fp16. SelFee — плотная авторегрессионная языковая модель семейства LLaMA с примерно 12,9 млрд параметров, предназначенная для генерации текста по инструкциям и диалога. Веса получены слиянием diff SelFee с базовой LLaMA 13B и преобразованием из fp32 в fp16. Модель дообучали на инструкциях из нескольких областей, включая математику и программирование, с генерацией ответов, обратной связью и повторными исправлениями. Обучающие данные преимущественно англоязычные; модель может использоваться для диалога, ответов на вопросы, объяснений и написания кода. Контекст составляет 2048 токенов. README указывает на ошибки в математике, рассуждениях, фактической точности и программировании, а также на ограничения использованной оценки. Лицензия в метаданных обозначена как other, конкретные условия в предоставленных данных не раскрыты.

Speechless-Llama2-Hermes-Orca-Platypus-WizardLM-13B-GGUF — это квантизированная языковая модель в формате GGUF, созданная на основе модели Speechless Llama2 Hermes Orca-Platypus WizardLM 13B. Исходную модель разработал Jiangwen Su, а квантизацию и публикацию GGUF-файлов выполнил TheBloke. Модель относится к семейству Llama и предназначена для генерации текста и выполнения инструкций на естественном языке. Модель рассчитана на англоязычные сценарии: диалоговые приложения, ответы на инструкции, локальный запуск и другие задачи текстовой генерации. Указан размер 13B параметров, однако сведения о длине контекста и поддерживаемых модальностях отсутствуют; по имеющимся данным, модель работает только с текстом. Для взаимодействия используется шаблон Alpaca с секциями Instruction и Response. Главное преимущество этой версии — формат GGUF с вариантами квантизации от 2 до 8 бит, что позволяет запускать модель через llama.cpp и совместимые интерфейсы на CPU и GPU, снижая требования к памяти. При этом квантизация может уменьшать точность по сравнению с исходной версией FP16, а качество зависит от выбранного варианта. Модель распространяется по лицензии Llama 2; перед использованием следует учитывать условия этой лицензии и ограничения исходной модели.

Это репозиторий трёх GGUF-квантований Xing4.0-29B-A4B, подготовленных автором vincespeed с помощью Apex-Quant для запуска через llama.cpp. В основе — XingChen-AGI/Xing4.0-29B-A4B, диалоговая модель архитектуры Xing4_0ForCausalLM: 29 млрд параметров всего, около 4 млрд активных на токен, с 40 слоями, включая блоки Mixture-of-Experts и Multi-Latent Attention. Доступны профили i-quality, i-balanced и i-compact с разным соотношением качества, размера и скорости; файлы занимают примерно 14–22 ГБ. Модель предназначена для генерации текста и диалогов. Её можно использовать для ответов на вопросы, написания текстов, рассуждений и программирования; исходная модель также рассчитана на длинный контекст и агентные задачи с инструментами. В README указана поддержка контекста до 65 536 токенов для приведённой оценки памяти KV-кэша. Репозиторий содержит только квантованные варианты и не сообщает отдельного языкового списка. При тестировании автор получил вывод, состоящий из пробелов, на CPU и при частичной выгрузке на GPU; возможны проблемы маршрутизации экспертов в некоторых конфигурациях, поэтому качество инференса следует проверять на целевом окружении. Черновая голова Multi-Token Prediction при обычном инференсе не исполняется, а спекулятивное декодирование зависит от движка. Лицензия — Apache 2.0.

Карточка модели Smilesjs/chemsmart-qwen2.5-coder-3b-merged на Hugging Face совпадает с карточкой Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7, поэтому описание составлено по ней. Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.

huihui-ai выпустил версию DeepSeek-R1-0528-Qwen3-8B, изменённую методом abliteration для ослабления отказов языковой модели. Это экспериментальная proof-of-concept модификация базовой модели deepseek-ai/DeepSeek-R1-0528-Qwen3-8B, предназначенная для диалоговой генерации текста; README описывает запуск через Ollama и использование библиотеки Transformers. Базовая модель рассчитана на диалоги, математику, программирование и логические задачи. Модель доступна в формате safetensors и распространяется по лицензии MIT. Abliteration не гарантирует полного удаления отказов, а переключение режима рассуждений через /no_think может срабатывать непоследовательно.

FalconMamba-7B-Instruct — англоязычная авторегрессионная языковая модель TII на архитектуре Mamba с причинным декодером. Она дообучена на инструкционных данных поверх Falcon-Mamba-7B; в метаданных указано 8,9 млрд параметров. Для обучения использовались веб-тексты RefinedWeb, технические материалы, код, математические данные и часть FineWeb-Edu. Модель предназначена для диалогов, выполнения текстовых инструкций и генерации продолжений; работает с текстом и поддерживает генерацию на английском языке. Обучение увеличивало длину контекста с 2 048 до 8 192 токенов. В карточке отмечено, что архитектура Mamba не имеет фиксированного предела дальних зависимостей при инференсе. Для ускорения рекомендуются оптимизированные ядра Mamba; модель также можно запускать в FP16 и 4-битном режиме. Карточка приводит результаты на общих языковых и рассуждательных бенчмарках, включая MMLU, GSM8K и IFEval. Модель выпущена под лицензией TII Falcon-Mamba License 2.0, обозначенной в метаданных как other; перед использованием следует проверить её условия. Карточка описывает преимущественно английское применение и не заявляет специальных возможностей для других языков.

Это тестовая версия alignment-tuned модели на базе семейства Llama, дообученной с использованием методов instruction fine-tuning и direct preference optimization (DPO). Она предназначена для генерации текста и выполнения инструкций в диалоговых сценариях. Модель содержит 20,9 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; в репозитории представлены веса в формате safetensors. В метаданных указан английский язык. Модель разработана автором репозитория 4season. Лицензия — Apache-2.0. Карточка обозначает её как тестовую версию, поэтому качество и пригодность для конкретных задач требуют отдельной проверки.

Gemma2-9b-it-train3 — плотная авторегрессионная языковая модель семейства Gemma 2, опубликованная ehristoforu. Это дообученная версия ehristoforu/Gemma2-9b-it-train2, обученная с использованием Unsloth и библиотеки TRL; в карточке также указан датасет HuggingFaceH4/CodeAlpaca_20K. Модель содержит 9 млрд параметров, работает с текстом и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; связь с CodeAlpaca указывает на примеры задач по генерации кода, но карточка не приводит отдельной оценки качества. Опубликована в формате PyTorch под лицензией Apache-2.0.

Это дообученная модель Gemma 4 E2B IT, созданная armand0e на базе unsloth/gemma-4-E2B-it с помощью Unsloth и библиотеки TRL. Она предназначена для диалогового взаимодействия и представлена как дистилляция рассуждений Claude Opus; README сообщает об ускоренном обучении, но не описывает обучающие данные или методику дистилляции. Модель относится к семейству Gemma 4, имеет плотную архитектуру условной генерации и опубликована в формате safetensors. Метаданные указывают на интерфейс для чата и вызова инструментов, а также на задачу any-to-any. Лицензия — Apache-2.0. Подробности о размере, контексте и поддерживаемых языках в предоставленных данных отсутствуют.

General-Reasoner-Qwen3-4B — плотная языковая модель семейства Qwen3 с 3,7 млрд параметров, дообученная TIGER-Lab на базе Qwen/Qwen3-4B-Base. Модель предназначена для ответов на вопросы и генерации текста с улучшенными рассуждениями в разных областях; обучение использовало более 230 тысяч проверяемых вопросов из веб-источников и модельный верификатор. В README описан подход без промежуточного этапа обучения с учителем перед RL. Модель подходит для многошаговых ответов и решения задач по математике, программированию, физике, химии, финансам и гуманитарным темам. Контекст составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не уточняет языковой охват и конкретные ограничения качества, поэтому не следует считать заявленные результаты гарантией для каждой предметной области.

GLM-5.2-JANGTQ — версия GLM-5.2, подготовленная bearzi для запуска через MLX на компьютерах Apple с Apple silicon. Она предназначена для генерации текста и диалогов; базовая модель GLM-5.2 также рассчитана на программирование и длительные задачи. Архитектура указана как glm_moe_dsa, класс — GlmMoeDsaForCausalLM; всего 30,4 млрд параметров, контекст — до 1 048 576 токенов. В профиле JANGTQ_2L внимание и общие эксперты хранятся в FP16, а маршрутизируемые эксперты — в 2-битном представлении. Для загрузки требуются пакет jang-tools или vMLX; обычные MLX, LM Studio и Ollama не поддерживаются. Токенизатор базовой модели требует tiktoken, blobfile и разрешения на пользовательский код. Репозиторий распространяется по лицензии MIT.

ryugyosoft 提供の LFM2-8B-A1B-onw は、LiquidAI/LFM2-8B-A1B を Intel NPU 上で onw エンジンにより動かすために変換した MoE 言語モデルです。メタデータでは総パラメータ数は 1.4B、アーキテクチャは Lfm2MoeForCausalLM、コンテキスト長は 128,000 トークンとされています。README では元モデルを 8.3B パラメータ、1 トークンあたり約 1.5B активных параметров и 32 эксперта, из которых выбираются 4, описывает; различие в оценках числа параметров между источниками не объясняется. Модель предназначена для диалогов и генерации текста на локальном компьютере с Intel NPU, включая суммаризацию, редактирование кода и использование через совместимый с OpenAI API сервер. В README заявлена скорость 16–17 токенов в секунду на NPU 3720, а для ответов, переиспользующих исходный текст, — 29–43 токена в секунду с проверкой упреждающего декодирования. Модель использует INT4-квантизацию экспертных весов и INT8-встраивания и распространяется в графах OpenVINO для движка onw. Указаны японский и английский языки. Для Ubuntu требуется драйвер linux-npu-driver версии 1.38 или новее, а для запуска — отдельный движок onw версии 0.3 или новее. Качество ответов может отклоняться от исходной модели через несколько токенов. Лицензия — LFM Open License v1.0; коммерческое использование ограничено условиями лицензии исходной модели.

Llama-3-Instruct-8B-SimPO-SPPO-Iter3-merge — объединённая чат-модель на базе Meta Llama 3, созданная с помощью mergekit разработчиками исходных моделей. Веса двух моделей, princeton-nlp/Llama-3-Instruct-8B-SimPO и UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3, объединены методом SLERP. Модель имеет архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Карточка приводит результаты оценок IFEval и BBH; метаданные характеризуют базовую модель как англоязычную. Репозиторий содержит веса Safetensors для Transformers. Лицензия — Llama 3 (llama3).

MeliodasPercival_01_YamT3qm7xp — объединённая языковая модель на архитектуре Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/YamT3qm7xp-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и может использоваться в сценариях, где требуется создавать продолжения и ответы на основе текстового запроса. Веса доступны в формате Safetensors; лицензия — Apache 2.0.

gghfez/Mistral-Large-2407-LongCoT — дообученная версия Mistral-Large-Instruct-2407, созданная автором репозитория на датасете long-cot-4k с примерами длинных ответов, сгенерированных Qwen/QwQ-32B-Preview. Модель предназначена для диалогов и подробных пошаговых ответов на сложные вопросы, включая объяснения и математические расчёты. Это плотная авторегрессионная языковая модель архитектуры MistralForCausalLM с 122,2 млрд параметров и контекстом до 131 072 токенов. Карточка указывает английский язык, формат общения ChatML и ответы длиной примерно 1 024–4 096 токенов. Модель ориентирована на развёрнутые рассуждения, поэтому может быть многословной даже при простых запросах; качество на вопросах вне обучающего распределения может снижаться, а для кратких или требующих ответа в реальном времени сценариев она подходит хуже. Лицензия указана как other, конкретные условия в карточке не приведены.

arcee-ai выпустила mistral-v2-sec-dolphin — объединение двух предварительно обученных языковых моделей, созданное с помощью mergekit методом SLERP: sec-mistral-7b-instruct-1.6-epoch от Arcee AI и dolphin-2.8-mistral-7b-v02 от Cognitive Computations. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы, ведения диалога и создания текста. Карточка не уточняет языки и специализированные предметные области, поэтому их нельзя конкретизировать. Репозиторий содержит веса Safetensors; метаданные указывают библиотеку Transformers. Условия лицензирования в предоставленных данных не приведены.