I.2Синтез, понимание и проверка знаний

Llama3.1-Gutenberg-Doppel-70B — диалоговая языковая модель, созданная nbeerbower дообучением mlabonne/Hermes-3-Llama-3.1-70B-lorablated на данных jondurbin/gutenberg-dpo-v0.1 и nbeerbower/gutenberg2-dpo. Для обучения методом ORPO использовались две H100, модель обучалась три эпохи. Модель построена на плотной архитектуре Llama 3.1 и содержит 69,5 млрд параметров. Она предназначена для генерации текста в диалоге и выполнения инструкций; нативный размер контекстного окна — 131 072 токена. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH. Модель распространяется в формате safetensors по лицензии llama3.1. Карточка не уточняет языки обучения и специальные ограничения применения; производительность может зависеть от формулировки запроса и сценария использования.

nayohan разработал эту диалоговую модель на основе Meta-Llama-3-8B-Instruct, дообучив её на корейском переводе набора Feedback-Collection. Модель предназначена для оценки ответов: по заданной инструкции, ответу и, при необходимости, эталонному ответу она формирует оценку и поясняющую обратную связь по критериям, заданным в рубрике. Модель принимает текст и генерирует текст; её архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — 8192 токена. Основной сценарий — оценивание на корейском языке; метаданные также указывают английский. В README описана проверка на выборках из обучающих данных, поэтому приведённые результаты не подтверждают качество на независимом тестовом наборе. Обратная связь при обучении обрезалась, и ответы модели могут быть усечены. Лицензия — Llama 3.

Llama3-DiscoLeo-Instruct-8B-v0.1 — немецкоязычная инструктивная языковая модель, совместно разработанная DiscoResearch и Occiglot при поддержке DFKI и hessian.Ai. Она создана дообучением DiscoResearch/Llama3-German-8B на немецком наборе инструкций DiscoResearch. Базовая модель восходит к Meta Llama 3 8B и прошла продолжительное предобучение на 65 млрд немецких токенов. Модель построена на плотной архитектуре Llama с примерно 7,5 млрд параметров; использует шаблон диалога Llama 3 и рассчитана на контекст до 8192 токенов. Она предназначена для диалогов и выполнения инструкций на немецком языке, а опубликованные оценки охватывают немецкие и английские тесты. Модель распространяется в формате safetensors по лицензии Llama 3.

lmstudio-community/Llama-4-Scout-17B-16E-MLX-text-8bit — это текстовая версия модели Llama 4 Scout, адаптированная сообществом lmstudio-community для экосистемы MLX. Базовая модель — meta-llama/Llama-4-Scout-17B-16E-Instruct, разработанная Meta. Обозначение модели указывает на использование 8-битного представления весов и архитектуру с 17 млрд параметров и 16 экспертами, однако в README не приведены подробности о механизме маршрутизации экспертов или фактическом объёме активных параметров. Модель предназначена для генерации и обработки текста, включая диалоговые и инструкционные сценарии. Заявлена поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Сведения о размере контекста, дополнительных модальностях, результатах тестирования, производительности и конкретных ограничениях в README отсутствуют, поэтому их нельзя достоверно оценить. Использование регулируется Llama 4 Community License от Meta. Лицензия предоставляет ограниченные права на использование, копирование, распространение, модификацию и создание производных работ при соблюдении условий соглашения, включая передачу текста лицензии, указание «Built with Llama», атрибуцию и соблюдение Acceptable Use Policy. Для продуктов и сервисов с более чем 700 млн ежемесячных активных пользователей требуется отдельная лицензия Meta.

llm-jp-3-980m-instruct2 — инструктивная языковая модель из серии LLM-jp-3, разработанной Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотный авторегрессионный трансформер семейства Llama с 980 млн параметров, дообученный методом supervised fine-tuning на инструкционных данных. Модель принимает текст и генерирует текст; карточка описывает японские и английские данные, а контекст составляет 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций, включая ответы на вопросы и формирование ответов в заданном формате. Предварительное обучение проводилось на смеси корпусов, включающей японскую Википедию, Common Crawl и документы PDF; для последующего обучения использовались, среди прочего, вручную подготовленные японские инструкционные наборы. Разработчики предупреждают, что модель находится на ранней стадии исследований и разработок и не была настроена для надёжного следования человеческим намерениям и требованиям безопасности. Модель распространяется под лицензией Apache-2.0.

Модель tokinasin/llm-jp-4-8b-instruct-uncensored-ara — японско-английская чат-модель, созданная на основе llm-jp/llm-jp-4-8b-instruct с применением метода Arbitrary-Rank Ablation (ARA) для уменьшения числа отказов на запросы. Исходную серию LLM-jp-4 разработал Центр исследований и разработок больших языковых моделей Национального института информатики Японии; эту модификацию опубликовал пользователь tokinasin. Модель предназначена для диалогов и генерации текста по инструкциям на японском и английском языках. Это плотная трансформерная модель семейства Llama примерно на 7,8 млрд параметров с контекстом до 65 536 токенов и форматом safetensors. В README указано, что на тесте из 100 вопросов модифицированная версия отказала в 5 случаях, тогда как исходная — в 99; эти результаты относятся к указанной автором оценке. Снижение числа отказов означает, что модель может отвечать на большее число запросов, но также требует осторожности при использовании и проверки результатов. Лицензия — Apache-2.0.

LlongOrca-7B-16k — языковая модель Alignment Lab AI, дообученная на модели LLongMA-2-7b-16k с помощью отфильтрованной части набора OpenOrca, содержащего данные, дополненные GPT-4. Модель построена на архитектуре Llama и насчитывает 6,6 млрд параметров; для обучения использовались Axolotl и формат диалогов ChatML. Модель предназначена для генерации текста и диалоговых ответов на английском языке, в том числе при работе с длинным контекстом до 16 384 токенов. Разработчики сообщают об улучшении результатов относительно базовой LLongMA-2-7b-16k на BigBench-Hard и AGIEval; эти оценки приведены авторами и не гарантируют качество в конкретных сценариях. Модель распространяется в формате PyTorch по лицензии Llama 2. Её обучали на английских данных OpenOrca; результаты на других языках не описаны. Она может ошибаться и выдавать недостоверные ответы, поэтому ответы требуют проверки.

M7Yamshadowexperiment28_Experiment26Neuralsirkrishna — объединённая языковая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Neuralsirkrishna-7B. Веса содержат около 7,1 млрд параметров, модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. Данные карточки не уточняют целевые языки, специальные области применения или сравнительные преимущества.

Malaysian Llama-3 8B 262k — плотная языковая модель семейства Llama, опубликованная mesolitica. Она предназначена для генерации текста с контекстом до 262 144 токенов; в карточке также указано значение RoPE Theta 207 100 000. Размер модели составляет 7,5 млрд параметров, файлы доступны в формате Safetensors, а для работы используется Transformers. Модель подходит для генерации и продолжения текста с длинным контекстом на малайском языке. README не раскрывает деталей обучения или оценок качества. Лицензия в предоставленных данных не указана.

MamayLM-Gemma-3-12B-IT-v2.0 — украиноязычная адаптация мультимодальной модели Gemma 3 от INSAIT-Institute, дообученная на базе google/gemma-3-12B-it. Это плотная модель с архитектурой Gemma3ForConditionalGeneration, предназначенная для диалогов, следования сложным инструкциям и понимания изображений вместе с текстом. Доступны версии MamayLM v2.0 размером 12B и 27B; этот репозиторий содержит вариант 12B. Модель подходит для вопросов по изображениям, многоходовых бесед и задач на украинском языке, а также поддерживает английский. В README указаны данные предварительного обучения до мая 2025 года и инструкционного дообучения до октября 2025 года. Для работы с изображениями следует избегать динамической квантизации vision tower и мультимодального проектора через параметр vLLM quantization="fp8": README предупреждает, что это приводит к некорректным результатам на изображениях. Репозиторий распространяется по лицензии Gemma.

Maple-Preview — предварительная открытая языковая модель DeepGrove для рассуждений и диалоговой генерации текста. По карточке модели это разреженная MoE-модель с трёхзначными весами: в README указано 20B параметров и 1B активных, тогда как метаданные каталога указывают общий размер 1,2B параметров. Архитектура включает 24 слоя и 256 экспертов, из которых активны 8; механизм внимания сочетает SWA-512 и GA в пропорции 3:1. Контекст составляет 131 072 токена, модель рассчитана прежде всего на английский язык. Модель предназначена для задач сложного текстового рассуждения, включая математические задачи высокого уровня, а также для диалоговой генерации. Разработчик заявляет высокую скорость локального запуска на Apple Silicon; включённая реализация Transformers требует Triton, FlashAttention и совместимой среды CUDA, а результат для Mac mini M4 получен в отдельном runtime. Это preview-версия с ограниченным дообучением для агентных задач и небольшим объёмом общей RL-настройки, поэтому её возможности в агентных сценариях могут быть слабее. Лицензия — MIT.

stamsam/maple-preview-gguf — набор GGUF-конвертаций модели Maple-Preview, разработанной DeepGrove. Это языковая reasoning-модель для генерации текста и решения задач, реализованная как Mixture-of-Experts: всего около 20 млрд параметров, примерно 1 млрд активных на токен (A1B), 24 слоя и контекст до 131 072 токенов. Архитектура использует 256 экспертов, 8 активных экспертов, GQA с 16 query-heads и 4 KV-heads, а также гибридное внимание с чередованием скользящего окна размером 512 и глобального внимания. Модель поддерживает текстовую модальность; заявленные языки в README не указаны. В репозитории доступны варианты F16, Q4_K_M и экспериментальный ternary TQ2_0 с двухбитными весами, что позволяет выбирать между качеством, размером и требованиями к памяти. Сильными сторонами являются большой контекст, MoE-архитектура, низкая активная вычислительная стоимость и поддержка GPU для указанных сборок. При этом проект находится на ранней стадии валидации: систематические оценки, perplexity и бенчмарки отсутствуют, а поддержка ternary-вычислений новая. Файлы нельзя загрузить в основной llama.cpp или PrismML upstream; требуется форк stamsam/llama.cpp, ветка prism, с Maple runtime. Базовая модель и опубликованные материалы распространяются по лицензии MIT.

Marcoro14-7B-slerp — языковая модель, созданная mlabonne слиянием через mergekit моделей AIDC-ai-business/Marcoroni-7B-v3 и EmbeddedLLM/Mistral-7B-Merge-14-v0.1. Это плотная causal language model семейства Mistral с 7,1 млрд параметров; веса опубликованы в формате Safetensors, а контекстное окно составляет 32 768 токенов. Модель предназначена для генерации текста и общих задач с языком, включая ответы на вопросы и рассуждения. В README приведены результаты тестов Open LLM Leaderboard и набора бенчмарков Nous; они характеризуют оценки в указанных тестах и не гарантируют качество в конкретном приложении. Карточка не заявляет поддержку русского языка или специализированной предметной области. Лицензия CC BY-NC 4.0 требует атрибуции и ограничивает коммерческое использование.

Master-RM — генеративная модель оценки ответов, разработанная авторами исследования «One Token to Fool LLM-as-a-Judge». Она получает вопрос, эталонный ответ и проверяемый ответ, после чего судит о его корректности; модель предназначена для применения в роли LLM-судьи и выдачи сигнала вознаграждения в сценариях обучения с проверяемыми наградами. Модель построена на Qwen2.5-7B-Instruct и дообучена методом supervised fine-tuning. Это плотная архитектура Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Карточка заявляет поддержку нескольких языков, включая английский, русский, китайский, японский и другие. Модель ориентирована на общую оценку ответов и усиление устойчивости судейства к поверхностным манипуляциям вроде добавления символов или вводных фраз о ходе рассуждений. Master-RM рассчитана на использование в оценке ответов, отборе примеров и обучающих контурах RLVR; README сообщает об улучшенной устойчивости относительно ряда коммерческих моделей и специализированных верификаторов. Это заявление относится к результатам авторов исследования и не гарантирует качество на любых данных. Модель распространяется по лицензии Apache-2.0.

Карточка модели MemTensor/MemOperator-4B на Hugging Face совпадает с карточкой MemTensor/MemOperator-0.6B, поэтому описание составлено по ней. MemOperator-0.6B — компактная причинно-следственная языковая модель MemTensor для операций с памятью в системе MemOS. Она дообучена методом SFT на основе моделей Qwen3 и предназначена для локального развертывания, в том числе в средах без доступа к интернету, с низкими затратами ресурсов и малой задержкой. В метаданных указана связь слияния с Qwen/Qwen3-0.6B, Qwen/Qwen3-1.7B и Qwen/Qwen3-4B; архитектура — плотная decoder-only модель Qwen3 с примерно 507,9 млн параметров. Для этой версии указан контекст до 40 960 токенов. Модель извлекает сведения из диалогов и документов, в том числе составляет краткие сводки фрагментов документов, а также поддерживает кластеризацию и реорганизацию связанных воспоминаний. Карточка заявляет поддержку английского и китайского языков и приводит результаты семейства MemOperator на бенчмарке locomo, но таблица содержит сравнение только версии 4B; переносить эти показатели на версию 0.6B нельзя. Разрешены загрузка через Transformers и использование с vLLM или SGLang; лицензия — Apache-2.0. Разрешение конфликтов и рассуждение об отношениях в README обозначены как находящиеся в разработке.

Карточка модели rolf-mozilla/minilm-multilingual-l12-full на Hugging Face совпадает с карточкой microsoft/Multilingual-MiniLM-L12-H384, поэтому описание составлено по ней. Multilingual-MiniLM-L12-H384 — предобученная компактная языковая модель Microsoft для понимания текста на нескольких языках. Она использует 12-слойный трансформер с архитектурой BERT, скрытым размером 384 и 12 головами внимания; карточка указывает 124,3 млн параметров, включая около 21 млн параметров трансформера и 96 млн параметров эмбеддингов. Для токенизации применяется токенизатор XLM-R. Модель рассчитана на последовательности длиной до 512 токенов. Модель предназначена для задач классификации текста и может дообучаться для межъязыкового переноса, распознавания текстового следствия и ответов на вопросы. В README приведены оценки на XNLI и MLQA. Поддерживаются английский, арабский, болгарский, немецкий, греческий, испанский, французский, хинди, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский языки. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель основана на дистилляции MiniLM и рассчитана на компактное и быстрое применение в задачах понимания языка. Для этого чекпойнта используется BertModel с XLMRobertaTokenizer, поэтому AutoTokenizer не работает согласно README. Лицензия — MIT.

JANGQ-AI/MiniMax-M2.7-JANG_4M — квантизированная версия MiniMax M2.7, подготовленная Jinho Jang с помощью JANG Tools. Это текстовая MoE-модель с 228,7 млрд параметров и профилем смешанной точности 4,06 бита: внимание и выходной слой сохранены в 8-битном формате, эмбеддинги и экспертные MLP — в 4-битном, маршрутизатор — в float16. В метаданных указано 2,9 млрд параметров; README описывает исходную модель как 228,7-миллиардную, а размер этого профиля — около 115 ГБ. Модель предназначена для диалогов и генерации текста с рассуждением, а также для сценариев с вызовом инструментов. Она поддерживает контекст до 196 608 токенов и рассчитана на запуск на Apple Silicon через MLX Studio, которое включает загрузчик JANG; стандартный mlx_lm смешанную точность JANG не загружает. README приводит результаты 191/200 на MMLU для профиля JANG_4M, но это ограниченное сравнение на 200 вопросах, а результаты для MiniMax M2.7 названы ожидающими подтверждения. Для запуска требуется Mac на Apple Silicon с 128 ГБ объединённой памяти и MLX; автор рекомендует MLX Studio. Модель всегда выполняет рассуждение перед ответом, а README предупреждает, что температура 0 может приводить к бесконечным циклам рассуждений. Лицензия MiniMax M2.7 некоммерческая: коммерческое использование требует предварительного письменного разрешения MiniMax.

MiniMax M2.7 JANGTQ + CRACK — производная модель Jinho Jang на базе MiniMaxAI/MiniMax-M2.7, предназначенная для генерации текста и диалогового рассуждения. Это разреженная MoE-модель: в README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен; метаданные каталога указывают 2,9 млрд параметров, поэтому размер модели в источниках расходится. Контекст составляет 196 608 токенов. Модель рассчитана на английский, китайский и корейский языки. Веса подвергнуты экстремальной квантизации JANGTQ: эксперты хранятся в 2-битном формате TurboQuant, а пути внимания, эмбеддинги и выходная голова — в 8-битном; README указывает размер файлов около 55 ГБ. CRACK — вмешательство в веса, удаляющее защитные отказы. Модель ориентирована на запуск через MLX на Apple Silicon; README называет MLX Studio и пакет jang-tools поддерживающими её средствами. Лицензия обозначена как other, поэтому условия распространения следует сверять с карточкой репозитория.

LeroyDyer/Mixtral_Instruct — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors; модель доступна для использования через библиотеку Transformers. Карточка README оставлена в виде шаблона и не сообщает, кто разработал модель и как она обучалась. Модель предназначена для генерации текста. Контекстное окно составляет 32 768 токенов, а в метаданных указан английский язык. Каталог связывает модель слиянием с LeroyDyer/Mixtral_BaseModel и Locutusque/Hercules-3.1-Mistral-7B, поэтому её происхождение отмечено как merge. Лицензия — Apache-2.0. README не содержит результатов оценки качества или рекомендаций по применению.

Это GGUF-квантизация модели gemma-3-4b-it-abliterated, разработанной mlabonne и подготовленной пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp, включая диалоговые сценарии и задачи преобразования текста и изображений в текст. Модель содержит около 4 миллиардов параметров и поддерживает мультимодальный режим с обработкой изображений. Для работы с изображениями требуется отдельный файл mmproj в формате F32 или F16. В README не указаны точные языки и размер контекстного окна. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и Q4-квантизаций; рекомендуются Q6_K_L, Q6_K, Q5 и Q4_K_M в зависимости от требований к качеству и объёму памяти. Меньшие варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее уступать по качеству. Формат GGUF упрощает локальный запуск и позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Ограничения модели, включая возможное снижение качества на низких уровнях квантизации и необходимость отдельного vision-проектора для изображений, следует учитывать при развёртывании. Лицензия указана как gemma; дополнительные условия использования в README не раскрыты.

ModernBERT-Ja-310M — плотный энкодер на архитектуре ModernBERT, разработанный SB Intuitions и обученный для заполнения пропусков в тексте. Модель содержит около 314,6 млн параметров, использует локальное и глобальное внимание, RoPE и контекст до 8192 токенов. Для токенизации применяется SentencePiece с unigram-моделью, словарём из 102 400 токенов и byte fallback; предварительная сегментация японского текста не требуется. Модель обучена на корпусе японских и английских текстов объёмом около 4,09 трлн токенов, включая два этапа расширения контекста. Она предназначена прежде всего для дообучения на прикладных задачах и подходит как энкодер для задач понимания текста; сама по себе не предназначена для генерации связного текста. Разработчик отмечает, что токенизация может ухудшать результаты задач разметки токенов, например распознавания именованных сущностей и извлечения фрагментов. Лицензия — MIT.

argos1111/modernbert-ja-310m-jev — неофициальный кросс-энкодер на базе sbintuitions/modernbert-ja-310m, дообученный для использования в качестве ModernBERT-бэкенда Jev Local. Модель объединяет вопрос и ситуацию с одним кандидатом в текстовую последовательность и выдаёт оценку; после нормализации оценок кандидатов softmax можно получить вероятности для выбора варианта, ступенчатой оценки или ответа «да/нет». Архитектура — ModernBERT с классификационной головой на один выход, около 314,6 млн параметров. Контекст модели — до 8192 токенов, однако в описанном формате состояния длиннее 512 токенов обрезаются. Модель обучена на японских наборах JGLUE и предназначена для распознавания отношений между текстами, вопросов на здравый смысл, классификации намерений, оценивания по шкале и проверки утверждений. В карточке приведены результаты на отложенных задачах JGLUE и примеры оценки вне обучающего распределения; автор отмечает, что модель лучше подходит для коротких суждений о японском тексте, чем для задач, требующих широких знаний или новых схем классификации. Это не генеративная языковая модель и не следует ожидать от неё следования инструкциям как у LLM. Модель принимает только текст; изображения не поддерживаются. Японский — основной язык, английский также упоминается как поддерживаемый базовой моделью, но README указывает, что языки помимо японского и английского не оценивались. Точность не гарантируется для форматов вопросов вне обучающих задач, а оценки уверенности не являются калиброванной вероятностью правильного ответа. Веса опубликованы по лицензии CC BY-SA 4.0; при использовании требуется сохранять атрибуцию источников датасетов.

M-Prometheus-14B — языковая модель-судья из семейства M-Prometheus, разработанная Unbabel для оценки ответов и текстов на разных языках. Она обучена на 480 тысячах примеров прямой оценки качества и парного сравнения с развёрнутой обратной связью и предназначена для использования в сценариях оценки LLM-выводов. Модель представляет собой плотную causal language model архитектуры Qwen2 с 14 млрд параметров, дообученную на базе Qwen/Qwen2.5-14B-Instruct. Она принимает текстовые запросы и генерирует текстовые оценки и пояснения; максимальный контекст составляет 32 768 токенов. По README, её можно вызывать в том же стиле, что и Prometheus-2. Модель ориентирована на мультиязычную оценку, однако конкретный перечень поддерживаемых языков и результаты сравнительных тестов в предоставленных материалах не приведены. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.

zelk12/MT3-Gen4-MU-gemma-2-Sv1IBT-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из gmonsoon/SahabatAI-Lion-9B-TIES-v1 и recoilme/recoilme-gemma-2-9B-v0.3. Модель содержит 9 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие; заявленное родное контекстное окно — 8192 токена. Её можно использовать для ответов в чате и генерации текста по запросу. Описание базовой модели указывает на ориентацию семейства на языки Юго-Восточной Азии и английский; конкретный перечень языков для этой объединённой модели не приведён. Лицензия в доступных данных не указана.

MUFFIN-T5-11B — модель семейства T5, разработанная авторами проекта MUFFIN и дообученная на наборе инструкций MUFFIN. Карточка описывает её как веса версии на базе T5-11B, предназначенной для выполнения разнообразных инструкций. При этом метаданные репозитория указывают архитектуру T5ForConditionalGeneration и 385,2 млн параметров, поэтому заявленный в README размер 11 млрд параметров расходится с метаданными. Модель принимает текстовые запросы и формирует текстовые ответы в формате text-to-text. В метаданных указан контекст 512 токенов и английский язык; репозиторий содержит веса PyTorch и распространяется по лицензии MIT. README отсылает к карточке MUFFIN-T5-3B за подробной документацией, поэтому конкретные возможности и результаты здесь описаны ограниченно.

Muse-Glimmer-30B-CRACK-GGUF — мультимодальная модель семейства Muse Glimmer, подготовленная Dealign.ai на основе meta-models/Muse-Glimmer-30B. Это GGUF-квантизации для запуска через llama.cpp. Модель ориентирована на английский и китайский языки, поддерживает работу с текстом и изображениями, рассуждения с регулируемой интенсивностью и вызов инструментов в формате ATEM. Доступны варианты Q8_0 размером 29,6 ГБ, Q4_K_M размером 16,9 ГБ и Q2_K размером 10,7 ГБ; разработчик рекомендует Q4_K_M как сбалансированный вариант. Для обработки изображений требуется дополнительный vision projector mmproj-Muse-Glimmer-30B-f16.gguf размером 3,8 ГБ. В примерах запуска используется контекст 8192 токена. Интенсивность рассуждений можно выбирать между low, medium, high и xhigh, а вызовы инструментов передаются через совместимый с OpenAI интерфейс llama.cpp. Сильными сторонами являются сохранение знаний и показателей MMLU, близких к базовой модели, поддержка мультимодальных сценариев, управляемого рассуждения и инструментов, а также несколько вариантов квантизации для разного объёма памяти. Ограничение модели — существенно сниженные защитные ограничения: поведение отказа удалено, поэтому модель может отвечать на вредоносные и незаконные запросы. Это исследовательский артефакт, требующий ответственного и законного использования. Распространяется по лицензии Apache 2.0 с оговоркой о применении политики использования upstream Muse Glimmer.

Guile/nbeerbower_BigBubba-Qwen3.6-27B-GGUF — это квантизированная GGUF-версия модели BigBubba-Qwen3.6-27B, разработанной nbeerbower и подготовленной bartowski с использованием llama.cpp. Модель предназначена для генерации текста и обработки изображений совместно с файлом mmproj, поэтому может применяться в текстовых и мультимодальных сценариях. Указаны английский и китайский языки. Модель содержит 27,4 млрд параметров, поддерживает MTP и imatrix. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и IQ-квантизаций; рекомендуемым универсальным вариантом называется Q4_K_M размером 17,77 ГБ, а Q6_K и Q6_K_L обеспечивают более высокое качество при большем потреблении памяти. Среди сильных сторон — широкий выбор форматов, поддержка изображений и возможность локального запуска через совместимые инструменты llama.cpp. Ограничения включают значительные требования к памяти, зависимость мультимодальной работы от отдельного mmproj-файла и возможное снижение качества в менее точных квантизациях. Лицензия — Apache-2.0.

mvpmaster/nddmp-kellemar-KrishnaHercules-7b-slerp — объединённая модель для генерации текста, созданная методом SLERP с помощью LazyMergekit из mvpmaster/NeuralDareDMistralPro-7b-slerp и mvpmaster/kellemar-KrishnaHercules-0.1-7b-slerp. В метаданных указана архитектура MistralForCausalLM с плотными слоями и размером 7,1 млрд параметров. Модель принимает текстовые запросы и генерирует текст; заявленная длина контекста — до 32 768 токенов. Карточка не описывает специализированные сценарии, поддерживаемые языки или сравнительные результаты. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

leomaurodesenv/nli-MiniLM2-L6-H768-nvidia-aegis-v1-augmented — дообученная модель на базе cross-encoder/nli-MiniLM2-L6-H768. Это плотная модель семейства RoBERTa с 95,2 млн параметров, предназначенная для классификации текста. Базовая модель определяет логическое отношение между парой предложений и поддерживает zero-shot-классификацию; карточка этой версии сообщает точность 0,9498 и loss 0,2039 на тестовой выборке, но не раскрывает её датасет и конкретную схему меток. Модель принимает текст и выдаёт результат классификации. Максимальная длина контекста — 514 токенов. Она опубликована в формате safetensors для Transformers под лицензией Apache-2.0. Языковая специализация этой версии и её ограничения в README не описаны.

nli-MiniLM2-L6-H768-nvidia-aegis-v2 — модель классификации текста, созданная дообучением cross-encoder/nli-MiniLM2-L6-H768. В метаданных указаны архитектура RoBERTa с классификационной головой RobertaForSequenceClassification, 95,2 млн параметров и контекст до 514 токенов. Модель распространяется в формате safetensors и использует библиотеку Transformers. Базовая модель предназначена для определения логического отношения между парой предложений и zero-shot-классификации; эта версия дообучена на неизвестном наборе данных. В README приведены результаты оценки: loss 0,3403 и accuracy 0,8630, однако набор данных и подробности оценки не описаны. Лицензия — Apache-2.0.