I.11Классификация, ранжирование и сопоставление

Qwen3.6-29B-REAP-Opus-Reasoning-Distill-MTP-GGUF — набор GGUF-квантизаций модели, разработанной barozp. В основе лежит MoE-модель Qwen3.6-35B-A3B, сокращённая методом REAP до 205 из 256 экспертов, объединённая с LoRA-адаптером, дистиллированным из Opus reasoning, и дополненная головкой Multi-Token Prediction (MTP), восстановленной из исходного неприженного чекпойнта. Модель предназначена для генерации текста и задач рассуждения; поддерживаемые языки и размер контекстного окна в README не указаны. Главная особенность версии — поддержка самоспекулятивного декодирования: MTP-головка предварительно предлагает токены, а базовая модель проверяет их. В тестах с llama.cpp это обеспечило ускорение генерации на 39–67% при включённом speculative decoding, без измеримого ухудшения качества по сравнению с версией без MTP. Доступны варианты от BF16 до экстремальных IQ1_M; квантизации Q и IQ различаются требованиями к памяти, совместимостью, скоростью и потерями качества. Для квантизаций до Q4_K_M использовалась importance matrix. Для использования MTP требуется современная сборка llama.cpp или совместимый интерфейс с явным включением режима draft-mtp; без этого модель работает как обычная GGUF-модель, а в некоторых конфигурациях спекулятивное декодирование может почти не ускорять генерацию или даже замедлять её. Требования к ресурсам зависят от квантизации: размер файлов составляет примерно от 7,2 до 57,9 ГБ. Лицензия — Apache-2.0.

williamliao/Qwen3.8-27B-NVFP4-GGUF — экспериментальная GGUF-сборка модели Qwen3.8-27B, подготовленная William Liao для llama.cpp. Репозиторий содержит два варианта квантования: собственную смешанную сборку Qwen3.8-27B-NVFP4-Quality-v2 на основе BF16-модели Qwen/Qwen3.8-27B и производную от unsloth/Qwen3.8-27B-NVFP4 сборку Qwen3.8-27B-Unsloth-NVFP4-Q8. Это текстовая генеративная модель для запуска и инференса через llama.cpp; обе сборки включают нативные MTP-тензоры и не требуют отдельной draft-модели для speculative decoding. Quality-v2 использует NVFP4 для большинства вычислительно затратных матриц, Q4_K_M для отдельных K/V- и MTP-тензоров, Q6_K для эмбеддингов и выходной головы и F32 для нормализаций. Её размер составляет около 16,0 ГБ в десятичном исчислении, или 14,95 GiB, при эффективной плотности около 4,70 BPW. Вариант Unsloth-NVFP4-Q8 сохраняет NVFP4-части через перепаковку, но преобразует исходные FP8-тензоры в Q8_0, поэтому он существенно больше и не является побитной, численно или форматно точной копией исходной модели. Для работы требуется свежая сборка llama.cpp с поддержкой архитектуры Qwen3.5/Qwen3.8, нативных NVFP4-тензоров и Qwen MTP speculative decoding; в протестированной конфигурации использовались CUDA и видеокарты NVIDIA. Сильные стороны модели — уменьшенный размер квантованных файлов, возможность запуска на совместимых GPU и поддержка ускорения через speculative decoding. Ограничения — экспериментальный статус, различия между вариантами квантования и отсутствие гарантии идентичного поведения с исходной моделью в Transformers, compressed-tensors, vLLM или других средах. Лицензия — Apache-2.0.

MaziyarPanahi/Qwen3-8B-GGUF — это набор файлов модели в формате GGUF для базовой модели Qwen3-8B, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты и библиотеки, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие. Известно, что модель основана на архитектуре и характеристиках Qwen3-8B, однако в README не приведены подробности о размере контекста, языках, поддерживаемых модальностях и других архитектурных параметрах. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF ориентирован на эффективный инференс, включая использование GPU-ускорения. Сильные стороны модели — разнообразие вариантов квантизации и широкая совместимость с локальными средствами запуска, включая CLI, веб-интерфейсы и OpenAI-совместимые серверы. Ограничения связаны с возможными потерями качества при низкой разрядности квантизации и зависимостью от совместимого программного обеспечения. Лицензия в README не указана.

Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

R1 1776 — языковая модель рассуждений семейства DeepSeek-R1, дообученная Perplexity AI для ответов на чувствительные темы с уменьшенным влиянием цензурных ограничений. Модель предназначена для диалогов, ответов на вопросы и задач, требующих пошагового рассуждения, включая математику. По данным карточки, при дообучении сохранялись способности к рассуждению; README сообщает о результатах на нескольких бенчмарках на уровне базовой R1. Это плотная авторегрессионная модель DeepSeek V3 с 37,6 млрд параметров и контекстом до 163 840 токенов. Она принимает текст и генерирует текст; в метаданных указана поддержка английского языка и интерфейс для вызова инструментов. Модель распространяется в формате Safetensors по лицензии MIT. Оценки устойчивости к цензурным отказам и сохранения математических способностей приведены разработчиком; результаты могут зависеть от запросов и условий оценки. Снижение цензурных ограничений не гарантирует точности ответов и не исключает ошибок или вредного содержания.

Guilherme34/Reasoner-Hermes3-70b — языковая модель семейства Llama, представленная в формате safetensors и рассчитанная на генерацию текста в диалоговом режиме. В карточке приведён пример системного промпта, задающего ассистенту имя и стиль ответа; метаданные также указывают интерфейс для вызова инструментов. Модель содержит 69,5 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В метаданных указан датасет Guilherme34/Reasoner-dataset-v2, но сведения о способе обучения и базовой модели отсутствуют, поэтому происхождение модели установить нельзя. README не описывает языки, качество рассуждений или специализированные области применения. Лицензия в предоставленных данных не указана. Для практического применения стоит проверить совместимость формата и доступных ресурсов с выбранной средой запуска.

Rombo-LLM-V2.7-llama-3.2-1b — плотная авторегрессионная языковая модель Rombo-Org на архитектуре LlamaForCausalLM. По карточке, модель объединяет предварительно обученную и инструктивно настроенную версии Llama 3.2 1B; в метаданных базовой моделью указана meta-llama/Llama-3.2-1B-Instruct. Модель содержит 1,2 млрд параметров, принимает текст и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, а также может использоваться для дальнейшего дообучения или инференса без дополнительной настройки. Метаданные также отмечают интерфейс вызова инструментов. Модель опубликована в формате safetensors и распространяется по лицензии Llama 3.2. README не приводит результаты оценивания качества, поэтому пригодность для конкретных задач следует проверять отдельно.

Saba-Passthrough-2 — объединённая языковая модель Sakalti, созданная методом passthrough с помощью mergekit на основе Sakalti/Saba1.5-Pro. Это плотная авторегрессионная модель семейства Qwen2 с 2,9 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель распространяется в формате safetensors под лицензией Apache-2.0. README указывает на слияние одной модели, хотя метаданные каталога описывают происхождение как дообучение Sakalti/Saba1.5-Pro, поэтому способ происхождения в карточке трактуется как слияние по описанию автора.

Карточка модели SouthMemphis/Saiga на Hugging Face совпадает с карточкой IlyaGusev/saiga_mistral_7b_merged, поэтому описание составлено по ней. IlyaGusev/saiga_mistral_7b_merged — объединённая версия модели семейства Mistral, предназначенная для генерации текста. По метаданным это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. В README указано, что существуют версии GGUF и квантизации TheBloke, но данный репозиторий содержит веса PyTorch. Модель ориентирована на русскоязычные запросы; метаданные связывают её с русскоязычными наборами инструкций и диалогов. Её можно использовать для ответов на вопросы, диалогов и выполнения текстовых инструкций на русском языке. Лицензия — Apache-2.0. README не раскрывает, какие именно модели были объединены и как выполнялось слияние.

TareksGraveyard/Savant-Qwen2.5-72B — объединённая модель на основе Qwen2.5, созданная автором репозитория методом della_linear с помощью mergekit. В качестве базовой использована zetasepic/Qwen2.5-72B-Instruct-abliterated; в объединение также вошли EVA-Qwen2.5-72B-v0.2, 72B-Qwen2.5-Kunou-v1, Q2.5-MS-Mistoria-72b-v2 и ChatWaifu_72B_v2.2. Модель предназначена для генерации текста и диалогового общения. Она имеет плотную архитектуру Qwen2ForCausalLM, содержит 71,5 млрд параметров и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors; лицензия указана как other. Сведения о конкретных поддерживаемых языках и особых ограничениях в карточке не приведены.

chankhavu/smolmo-32b-sft-merged-proofpilot — это объединённая методом равномерного усреднения весов модель на базе OLMo 3, подготовленная автором репозитория из восьми последовательных контрольных точек одного запуска SFT. Усреднены снимки шагов 18 750–20 500; независимые дообученные модели не смешивались. Модель содержит 31,7 млрд параметров, использует плотную архитектуру Olmo3ForCausalLM, представлена в safetensors и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Усреднение хвостовых контрольных точек было применено как способ сгладить эффект незавершённого затухания скорости обучения, но автор указывает, что возможное улучшение обобщения следует проверять на отложенной оценке относительно финальной контрольной точки. Данные о лицензии и поддерживаемых естественных языках в предоставленных источниках отсутствуют.

StrangeMerges_8-7B-slerp — объединённая методом SLERP языковая модель, созданная Gille с помощью LazyMergekit на основе Gille/StrangeMerges_7-7B-slerp и Gille/StrangeMerges_5-7B-ties. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых ответов; поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для создания диалоговых приложений, генерации продолжений текста и ответов на запросы в длинном контексте. В README приведены результаты оценки на отдельных бенчмарках Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag; эти результаты не гарантируют качество на других задачах. Язык модели в предоставленных материалах не уточнён. Лицензия — Apache-2.0. Сведения о специальных ограничениях или целевых предметных областях в карточке не приведены.

T3qm7xNeuralsirkrishna_ShadowCalme — объединённая языковая модель семейства Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/ShadowCalme-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поставляется в формате safetensors. Модель предназначена для генерации текста и диалогов. Контекстное окно составляет до 32 768 токенов. В метаданных указана лицензия Apache-2.0. Сведения о специальных областях применения и языках не приведены.

T3qm7xNeuralsirkrishna_Strangemerges_32Ogno — объединённая языковая модель семейства Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Ogno-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не описывает конкретные специализации, набор языков или результаты оценки качества, поэтому её можно характеризовать как модель общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

T3qm7xNeuralsirkrishna_YamExperiment24 — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamExperiment24-7B. Она предназначена для генерации текста и ведения диалогов; модель принимает текст и выдаёт текст, поддерживая контекст до 32 768 токенов. Веса доступны в формате Safetensors, лицензия — Apache 2.0.

ThinkingCap-Qwen3.6-27B-heretic-GGUF — набор GGUF-квантизаций модели ThinkingCap-Qwen3.6-27B-heretic, подготовленный egibson с использованием llama.cpp. Исходная модель представляет собой декензурированную версию ThinkingCap-Qwen3.6-27B от bottlecapai, созданную с помощью Heretic. Архитектура основана на Qwen3.6, размер — 27 млрд параметров; точные сведения о языках, длине контекста и поддерживаемых модальностях в README не указаны. Модель предназначена для локального запуска через совместимые среды, включая llama.cpp, с выбором между вариантами от f16 до низкобитных Q- и IQ-квантизаций. Доступны версии объёмом примерно от 10 до 50,1 ГБ; Q4_K_M рекомендована как сбалансированный вариант по качеству и размеру, а IQ-квантизации используют importance matrix, что может улучшать качество при сопоставимом размере. Более точные варианты обеспечивают максимальную близость к исходным весам, тогда как версии с меньшей разрядностью рассчитаны на оборудование с ограниченной памятью и сильнее теряют качество. В экспортированных файлах исключена MTP-head: это устраняет ошибку конвертера GGUF и не мешает обычной работе модели, но исключает возможность соответствующей оптимизации speculative decoding. Модель распространяется по лицензии Apache-2.0. README не содержит результатов тестирования, поэтому фактическое качество, скорость и пригодность для конкретных задач следует оценивать в целевой среде.

v1olet_marcoroni-go-bruins-merge-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на 7,1 млрд параметров, созданная слиянием моделей Mistral-7B-Instruct-v0.2 и v1olet_marcoroni-go-bruins-merge-7B методом SLERP. Она использует плотную архитектуру MistralForCausalLM и предназначена для генерации текста и ответов на инструкции в формате диалога. Контекст модели составляет до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает отдельные специализации или гарантии качества, поэтому её следует рассматривать как модель общего назначения; характеристики унаследованных навыков слияния отдельно не приведены.

Yi-1.5-6B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi-1.5-6B-Chat, разработанной 01.AI. Репозиторий подготовлен bartowski с использованием llama.cpp и метода imatrix; модель предназначена для генерации текста и общения в формате system/user/assistant, а также для локального запуска через совместимые инструменты llama.cpp. Модель содержит около 6 миллиардов параметров и поставляется в формате GGUF с вариантами квантизации от Q8_0 до IQ1_S. Размер файлов составляет примерно от 1,43 до 6,44 ГБ. Более высокие варианты квантизации обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые, тогда как варианты с очень низкой точностью могут заметно уступать по качеству. README не содержит сведений об архитектуре, размере контекста, поддерживаемых языках и мультимодальности, поэтому эти характеристики нельзя достоверно указать. Основные преимущества — широкий выбор уровней квантизации, возможность подобрать баланс между качеством и требованиями к памяти, а также пригодность для локального использования. Ограничения связаны с потерями качества при низкой точности квантизации и зависимостью от корректного prompt format. Распространение указано по лицензии Apache-2.0.

Yi-1.5-9B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi-1.5-9B-Chat, разработанной 01.AI. Модель распространяется в формате GGUF для использования с llama.cpp; квантизацию выполнил bartowski с применением imatrix и набора данных Kalomaze. Модель предназначена для генерации текста и ведения диалогов, включая сценарии локального запуска при ограниченных ресурсах. В репозитории представлены варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3_K, IQ3, Q2 и IQ1 с размером файлов примерно от 2,01 до 9,38 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K и Q4_K обозначены как рекомендуемые, тогда как IQ1 и некоторые варианты с низким битрейтом имеют существенно более низкое качество. Поддерживаются текстовые диалоги с указанным форматом промпта. Сведения о точной архитектуре, языках и размере контекста в README не приведены. Лицензия — Apache-2.0. Для работы требуется совместимое программное обеспечение, например llama.cpp, а выбор конкретного файла зависит от доступной памяти и допустимого компромисса между качеством и размером модели.

GLM-5.1-GGUF — набор квантизированных версий языковой модели GLM-5.1, разработанной zai-org и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Поддерживаются английский и китайский языки. Модель поставляется в формате GGUF с вариантами квантизации от Q8_0 до Q2_K и IQ-серии. Размер файлов составляет примерно от 226,60 до 801,34 ГБ; некоторые варианты разделены на несколько частей. Версии с более высокой разрядностью обычно обеспечивают лучшее качество, но требуют значительно больше памяти, тогда как низкоразрядные варианты экономичнее, но заметно уступают по качеству. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q4_K_L, Q5_K_M, Q5_K_S и Q6_K. Это текстовая модель без заявленной поддержки изображений или других модальностей. Архитектура, число параметров и размер контекста в README не указаны. Квантизация выполнена с использованием imatrix и llama.cpp; для недавно поддерживаемых моделей может потребоваться обновление используемого приложения. Модель распространяется по лицензии MIT.

Qwen3.5-27B-Anko-GGUF — это квантизированная версия языковой модели allura-org/Qwen3.5-27B-Anko, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель имеет 27 млрд параметров и поддерживает английский и китайский языки. В репозитории представлены варианты от BF16 и Q8_0 до более компактных Q3- и IQ3-квантизаций; наиболее качественными считаются BF16, Q8_0, Q6 и Q5, а Q4 предлагается как сбалансированный вариант по качеству и размеру. Размер файлов составляет примерно от 13,5 до 53,8 ГБ. Данные о модальностях, архитектуре исходной модели и размере контекстного окна в README не указаны. Модель подходит для локальной генерации текста и диалоговых сценариев при наличии совместимого программного обеспечения и достаточного объёма оперативной или видеопамяти. Квантизация снижает требования к ресурсам, но варианты с меньшим числом бит могут заметно уступать более крупным по качеству. Распространение указано по лицензии Apache-2.0.

ASTRAL-256k-5.5b — языковая модель от разработчика aww для генерации текста и диалогов. Она построена на архитектуре MistralForCausalLM, имеет 1,6 млрд параметров и поддерживает контекст до 256 000 токенов, что подходит для работы с длинными документами и продолжительными беседами. Модель принимает текст и генерирует текст; в карточке заявлена поддержка английского языка. Модель предназначена для создания статей, отчётов и художественных текстов, чат-ботов, суммаризации и перевода больших документов. Карточка также заявляет оптимизацию вычислений, включая запуск с bfloat16, но не приводит сравнительных результатов. Модель распространяется по лицензии Apache-2.0.

Codepy-Deepthink-3B — дообученная модель PrithivMLmods на базе meta-llama/Llama-3.2-3B-Instruct для генерации текста с акцентом на рассуждения, логическую структуру и решение задач. Она предназначена для диалогов, пошаговых объяснений, помощи в программировании, учебных задач и творческого письма. Модель использует плотную архитектуру Llama с 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка указывает английский язык; формат весов — safetensors. Лицензия — CreativeML OpenRAIL-M. В README приведён пример генерации пароля, но он помечен как неприменимый, поэтому качество выполнения конкретных задач программирования по карточке подтвердить нельзя.

Citaman/command-r-29-layer — языковая модель Cohere для генерации текста и диалогов. Она создана автором репозитория с помощью mergekit: веса модели Citaman/command-r-30-layer объединены методом SLERP с разными срезами слоёв, а итоговые веса сохранены в формате safetensors. Модель имеет плотную архитектуру CohereForCausalLM, около 25,9 млрд параметров и контекст до 8192 токенов. Метаданные указывают на поддержку чата и интерфейса вызова инструментов; основная задача в карточке Hugging Face — text-generation. Лицензия в предоставленных данных не указана. Характеристики языковой поддержки и качество модели на конкретных задачах не описаны, поэтому их нельзя надёжно оценить по карточке.

DeepSeek-R1-0528-Qwen3-8B-MLX-8bit — это 8-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантование выполнено командой LM Studio с использованием mlx_lm и библиотеки MLX, созданной командой Apple Machine Learning Research. Модель предназначена для генерации текста и оптимизирована для работы на устройствах с Apple Silicon. Ключевая характеристика модели — 8-битное представление весов в формате MLX, что делает её адаптированной для локального запуска в экосистеме Apple. README не содержит сведений о поддерживаемых языках, размере контекста, точной архитектуре, мультимодальности, результатах тестирования или специализированных сценариях применения. К ограничениям относятся возможные неточности, вредное или неуместное содержание, характерные для генерирующих моделей, а также зависимость производительности от оборудования Apple Silicon. Модель распространяется по лицензии MIT.

KeinNiemand/DeepSeek-V4-Flash-0731-IK_GGUF — набор смешанных по точности GGUF-квантизаций базовой модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Квантизации созданы с использованием ik_llama.cpp и матрицы важности; модель предназначена для локального запуска задач генерации текста с уменьшенным потреблением памяти по сравнению с исходной версией. Варианты представлены в диапазоне примерно от 65,4 до 149,2 ГБ, со средней точностью от 1,841 до 4,200 бит на вес. Архитектура исходной модели включает mixture-of-experts, а маршрутизируемые тензоры MXFP4 и тензоры, полученные из FP8, квантизированы с учётом их исходного представления. Другие характеристики исходной модели, включая число параметров, поддерживаемые языки и точный размер контекста, в README не указаны; отмечено лишь наличие очень большого контекстного окна. Доступны варианты XS_IQ1_KT, IQ1_KT, IQ2_KT, IQ2_KS, IQ2_KL, IQ3_KS, IQ3_K и IQ4_KSS. Более крупные варианты обычно обеспечивают лучшее сохранение качества; среди протестированных IQ2_KL показал наилучшие значения perplexity, mean KLD и согласия top-1. IQ2_KT близок по размеру к IQ2_KS, но медленнее на CPU и при гибридном CPU/GPU-запуске. IQ3_KS, IQ3_K и IQ4_KSS в приведённых тестах не оценивались. Файлы требуют свежей сборки ik_llama.cpp с поддержкой специфичных типов тензоров IK IQK и IQT. Стандартные llama.cpp и многие приложения, включая некоторые версии LM Studio, KoboldCpp и text-generation-webui, могут их не загрузить. Необходимо явно задавать размер контекста и оставлять дополнительную память для KV-кэша и служебных буферов. Распространение указано под лицензией MIT.

DiffusionGemma 26B-A4B-it MXFP8 — языковая модель с блоковой диффузионной генерацией, подготовленная OsaurusAI для запуска через движок vMLX на компьютерах Apple Silicon. В отличие от авторегрессионной генерации, она формирует текстовые блоки размером до 256 токенов и уточняет их итеративным денойзингом. Архитектура — 30-слойная Gemma 4-style MoE с 128 экспертами и выбором 8 экспертов; всего 26 млрд параметров, активно используется около 4 млрд. Веса основных компонентов квантованы в MXFP8, а эмбеддинги, нормализации и визуальный модуль сохранены в fp16; файлы занимают около 26 ГБ. Модель предназначена для диалога и генерации текста, анализа одного или нескольких изображений и вызова инструментов в формате Gemma 4. Для работы с изображениями используется визуальный модуль Gemma 4. Темп генерации на M5 Max указан как 28–42 токена в секунду при 48 шагах денойзинга; фактическая скорость зависит от оборудования и бюджета шагов. Лицензия — Gemma. При очень коротких запросах жадная стратегия денойзинга иногда приводит к пустому ответу; повторная попытка или переформулировка могут помочь. Параметры temperature и top_p, переданные через интерфейс, игнорируются: параметры сэмплирования задаются конфигурацией модели, а уменьшение числа шагов ниже 12 ухудшает качество. Для запуска указана среда Apple Silicon с Osaurus и движком vMLX.

dots.ocr-1.5 — мультимодальная модель семейства dots_ocr, предназначенная для распознавания и разбора документов и других изображений. В README указана архитектура с визуальным энкодером на 1,2 млрд параметров и языковой моделью на 1,7 млрд параметров; метаданные Hugging Face указывают размер 1,5 млрд параметров. Модель принимает изображения и может обрабатывать PDF, извлекая текст и структуру страницы. Модель предназначена для многоязычного OCR, разбора макета и преобразования содержимого документов в структурированные данные и Markdown. Она также распознаёт экранные интерфейсы и текст в сценах, выполняет задачи поиска и подсчёта объектов, а графики, диаграммы и другие структурированные изображения может преобразовывать в SVG-код. Контекст составляет 131 072 токена; в карточке заявлена поддержка письменностей разных языков, а метаданные перечисляют английский и китайский. Лицензия — MIT. Среди ограничений README отмечает трудности с комплексными таблицами и математическими формулами, а также недостаточную надёжность преобразования графики в SVG; возможны отдельные сбои разбора. Это компактная модель, поэтому качество может различаться на сложных визуальных задачах.

MaziyarPanahi/Experiment26Yam_YamYam — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/Experiment26Yam-7B и automerger/YamYam-7B. Модель содержит 7,1 млрд параметров и принимает текстовые запросы для генерации текста; заявленная длина контекста — до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы, а также для диалоговых сценариев на её основе. В репозитории размещены веса в формате Safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28M7_Experiment24Inex12 — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment28M7-7B и automerger/Experiment24Inex12-7B. Она предназначена для генерации текста и запуска сценариев на основе языковой модели. Модель содержит 7,1 млрд параметров, принимает текстовый ввод, выдаёт текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. Доступные сведения не описывают специализированную область применения или отдельные языки, поэтому её можно характеризовать как модель общего назначения.