I.2Синтез, понимание и проверка знаний

Jebadiah/Aria-7b-128k-v2 — объединённая автором модель генерации текста, созданная с помощью mergekit методом линейного слияния. В слиянии участвовали Nitral-AI/Echidna-7b-128k и Jebadiah/Llama-3-8B-source-lewd-context-function-calling; веса сохранены в формате safetensors. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и рассчитана на работу с текстом. Модель предназначена для генерации текста и диалоговых сценариев; одна из объединённых моделей также ориентирована на работу с контекстом и вызов функций. Метаданные указывают нативную длину контекста 32 768 токенов. В карточке не приведены результаты оценки качества или условия лицензии, поэтому их нельзя установить по доступным сведениям.

AutomatosX AX-Qwen3.8-27B-MLX-AXQ-6bit-MTP — это смешанно-точный квантованный MLX-чекпойнт на базе Qwen/Qwen3.8-27B, преобразованный компанией AutomatosX непосредственно из исходной модели BF16. Модель предназначена для генерации текста и запуска на устройствах Apple Silicon через MLX-LM, а также для нативного выполнения в AX Engine и интеграции с oMLX Lightning MTP. Модель имеет плотную архитектуру Qwen3_5ForConditionalGeneration и 27,36 млрд логических параметров. Основной языковой тракт квантован с использованием AXQuant 1.6.2; заявленный класс хранения — 6 bit, измеренный общий показатель с учётом MTP составляет 6,0001 BPW. Голова multi-token prediction и vision tower сохранены в BF16. Поддерживаются текст и vision-сценарии, аудио не поддерживается. Максимальный заявленный контекст — 262 144 токена, однако практический предел зависит от объёма unified memory. Размер весов составляет около 20,84 ГБ, полный загрузочный объём — около 20,86 ГБ. Сильными сторонами являются сохранение повышенной точности для отдельных компонентов, наличие MTP и vision tower, а также оптимизация под Apple Silicon. При этом стандартный запуск через MLX-LM гарантирует только текстовый inference и может не использовать MTP, vision-компоненты и метаданные AXQuant. Заявления об ускорении MTP ограничены профилями, указанными в сертификатах, поэтому фактическую производительность следует проверять в целевой конфигурации. Репозиторий содержит MLX Safetensors и не содержит весов PyTorch или GGUF. Модель распространяется по лицензии Apache-2.0.

Pankaj8922/bert-small-nli — модель Pankaj8922, дообученная на базе praJJwal1/bert-small для распознавания логических отношений между текстом и гипотезой: следования, нейтральности и противоречия. Её можно применять для классификации текста по произвольным категориям через zero-shot-подход: к тексту добавляют гипотезу вида «This text is about {label}.» и оценивают отношение между ними. Модель использует архитектуру BERT с классификационной головой BertForSequenceClassification, содержит 32,4 млн параметров и принимает текст с контекстом до 512 токенов. Обучена на сбалансированной и отфильтрованной смеси наборов MNLI, SNLI, FEVER-NLI и ANLI. В README указаны точность и macro-F1 около 0,805 на тестовой выборке. Подходит для быстрого инференса и сред с ограниченными ресурсами; на новых наборах меток её zero-shot-точность ниже, чем у более крупных NLI-моделей. Лицензия — Apache-2.0.

Bielik-11B-v2.3-Instruct — текстовая генеративная модель с 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это плотная авторегрессионная модель-декодер архитектуры Mistral, предназначенная для диалогов и выполнения инструкций; контекст составляет до 32 768 токенов. Модель создана преимущественно для работы на польском языке: она понимает запросы и генерирует ответы, а также подходит для разнообразных языковых задач. Версия v2.3 получена линейным слиянием трёх инструкционно дообученных моделей Bielik-11B-v2.0, v2.1 и v2.2 с помощью mergekit. Модель распространяется под лицензией Apache 2.0. Разработчики отмечают, что ответы могут содержать фактические ошибки, предвзятые или оскорбительные формулировки. У модели нет встроенных механизмов модерации, поэтому её ответы требуют проверки, особенно при использовании в сценариях с требованиями к безопасности.

Bielik-11B-v2.6-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с HPC-центром ACK Cyfronet AGH. Это дообученная в формате инструкций версия Bielik-11B-v2 с архитектурой причинного декодера и шаблоном диалога ChatML. Модель работает с текстом и особенно хорошо ориентирована на польский язык; также заявлена поддержка английского. Модель предназначена для диалогов и выполнения текстовых инструкций, включая задачи по математике, программированию и STEM. При обучении использовались польские корпуса и более 20 млн инструкций, а для выравнивания ответов — обучение на предпочтениях и задачи с проверяемыми критериями. Лицензия — Apache 2.0. Разработчики предупреждают, что модель может выдавать фактически неверные, предвзятые или оскорбительные ответы и не имеет механизмов модерации. Её ответы требуют проверки, особенно в сценариях, где важны точность и безопасность.

Bielik-11B-v3.0-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это дообученная для следования инструкциям версия Bielik-11B-v3-Base-20250730 с архитектурой causal decoder-only; формат диалога — ChatML. Модель предназначена для общения, ответов на вопросы и выполнения разнообразных текстовых задач, включая задачи на логику, STEM, математику и работу с инструментами. Модель обучали на текстах и инструкциях на 32 европейских языках, уделяя особое внимание польскому. В обучении использовались многоходовые диалоги, синтетические и проверенные вручную инструкции, а также методы DPO и обучения с подкреплением. В метаданных перечислена поддержка польского и ряда европейских языков, включая русский и английский. Лицензия — Apache 2.0. Разработчики характеризуют модель как демонстрацию возможностей базовой модели после дообучения. Она может выдавать фактически неверные, предвзятые или оскорбительные ответы и не имеет встроенных механизмов модерации; её выводы требуют проверки.

cmarkea/bloomz-560m-nli — модель классификации текстов на основе BloomZ-560m, дообученная командой cmarkea на задаче распознавания текстового следования (NLI) от Bloomz-560m-chat-dpo. Она определяет, противоречит ли гипотеза посылке, следует ли из неё или нейтральна к ней; этот подход также позволяет классифицировать тексты по произвольным меткам без отдельного обучения, сопоставляя текст с формулировками гипотез для каждого класса. Модель содержит около 659,6 млн параметров и предназначена для задач классификации, в том числе анализа тональности и тематической категоризации. В обучении использовались пары посылок и гипотез на английском и французском языках, включая комбинации языков. В README приведены результаты на NLI и французских отзывах, но они уступают ряду специализированных моделей в указанных сравнениях. Модель опубликована в форматах PyTorch и Safetensors под лицензией BigScience BLOOM RAIL 1.0; следует учитывать её условия использования и ограничения.

keyfan/bloomz-rlhf — экспериментальная чат-модель на архитектуре BLOOM, созданная как попытка воспроизвести конвейер обучения с подкреплением на основе отзывов людей (RLHF). В качестве базовой модели использована bigscience/bloomz-7b1-mt; модель содержит около 9,1 млрд параметров и поддерживает контекст до 2048 токенов. Модель прошла supervised fine-tuning на наборах диалоговых и инструкционных данных, затем обучение reward model и этап reinforcement learning с использованием trlx. Она предназначена для генерации ответов в диалоге, выполнения инструкций, суммаризации, вопросов и ответов, перефразирования и генерации текста. В README приведён результат оценки на китайском наборе BELLE; языки карточки — китайский и английский. Это попытка воспроизведения RLHF, поэтому приведённые оценки не гарантируют качество на других задачах и языках. Лицензия — BigScience BLOOM RAIL 1.0; перед применением следует учитывать её условия и ограничения.

BLOSSOM-v4-qwen-18b — диалоговая языковая модель, разработанная командой Blossom и полученная дообучением Qwen-1_8B на смесях данных Blossom Orca, Wizard, Chat и Math. Модель использует плотную архитектуру Qwen с 2,3 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса PyTorch. Она предназначена для генерации ответов в формате диалога и общего следования инструкциям, включая задачи на понимание текста и математику. Обучение проходило в два этапа на одно- и многоходовых примерах.

calme-3.1-instruct-78b — экспериментальная чат-модель MaziyarPanahi для генерации текста в широком круге задач. По карточке, Qwen2.5-72B объединили с самой собой, а полученную модель дообучили на пользовательских наборах данных; в метаданных указана связь с MaziyarPanahi/calme-3-selfmerge-qwen2-78b. Архитектура — плотная Qwen2, размер — 76,7 млрд параметров, формат весов — safetensors, библиотека — Transformers. Модель использует шаблон диалога ChatML и имеет контекстное окно 32 768 токенов. Модель предназначена для диалогов и общих задач генерации текста; карточка приводит результаты Open LLM Leaderboard, в том числе IFEval и BBH. В метаданных указан английский язык. Автор отмечает экспериментальный характер модели, чувствительность к гиперпараметрам и возможное слабое качество на отдельных запросах. Лицензия обозначена как other; конкретные условия в предоставленных данных не раскрыты.

Calme-4x7B-MoE-v0.1 — языковая модель MaziyarPanahi для генерации текста и диалогов. Она построена на архитектуре Mixture of Experts семейства Mixtral и объединяет четыре дообученные модели Calme-7B; в описании указано, что на каждый токен активируются два эксперта. Метаданные Hugging Face сообщают 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors; README приводит оценку общего числа параметров свыше 24 млрд. Модель подходит для диалоговых приложений, ответов на вопросы, объяснений и задач рассуждения на естественном языке. В README приведены результаты ARC, HellaSwag и TruthfulQA, но качество может различаться в зависимости от задачи и формулировки запроса. Сведения о поддерживаемых языках и специализированной предметной области не приведены. Модель выпущена под лицензией Apache-2.0. Карточка не содержит подробной оценки ограничений, поэтому результаты следует проверять в целевом сценарии.

mondk/claude-llama-8B-think — дообученная модель на архитектуре Llama 3.3, опубликованная mondk. Она предназначена для диалогов и генерации текста с упором на рассуждения; README описывает её как модель с интегрированным мышлением и отсылкой к стилю Claude. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка связывает модель с базовой DavidAU/Llama3.3-8B-Instruct-Thinking-Claude-4.5-Opus-High-Reasoning и указывает датасет mondk/claude-sonnet5-jsonl. Метаданные заявляют поддержку английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Модель распространяется в формате safetensors по лицензии Apache-2.0. Её можно использовать для диалоговых ответов, генерации текста и задач, где полезны многошаговые рассуждения. README содержит мало сведений о качестве и проверках, поэтому заявленный акцент на рассуждениях не следует считать подтверждением точности; поведение модели также может отличаться от Claude.

commandr-35b-cpt-sft-i1-GGUF — это квантизированная версия текстовой авторегрессионной модели commandr-35b-cpt-sft, преобразованная в формат GGUF пользователем mradermacher на основе модели ubitech-edg. Модель создана для генерации текста и работы с языковыми задачами, включая ответы на вопросы, обработку материалов из научной, государственной, новостной и энциклопедической сфер. Обучение включало continual pretraining и supervised fine-tuning на английских данных, в том числе синтетических вопросах и ответах. Модель относится к классу AutoModelForCausalLM и содержит около 35 млрд параметров. Она поддерживает только текстовую модальность и английский язык. Репозиторий предоставляет множество вариантов квантизации GGUF с разным размером, скоростью и качеством: от IQ1_S размером 8,6 ГБ до Q6_K размером 28,8 ГБ. Варианты Q4_K_S и Q4_K_M позиционируются как сбалансированные по размеру, скорости и качеству, при этом Q4_K_M рекомендован как быстрый вариант. Низкобитные варианты требуют меньше памяти, но могут заметно уступать в качестве. Лицензия модели — Apache-2.0. README не указывает размер контекстного окна, точную базовую архитектуру, системные требования, результаты оценивания или гарантии качества, поэтому пригодность для конкретных сценариев следует проверять отдельно.

TroyDoesAI/Context-Obedient-Tri-MoE — разговорная модель, дообученная TroyDoesAI на базе TroyDoesAI/BlackSheep-4B. Она предназначена для генерации ответов с опорой на предоставленный контекст и инструкции, в том числе в сценариях RAG, где важно уменьшить нерелевантные ответы и галлюцинации. В README описан шаблон с отдельными блоками для контекста, запроса и инструкции; также заявлена повышенная приверженность контексту, в том числе в ситуациях с ограничениями на ответ. Модель использует архитектуру Mixtral MoE, содержит 4,6 млрд параметров и рассчитана на контекст до 16 384 токенов. Основной язык карточки — английский. Модель принимает текст и генерирует текст; для запуска указана библиотека Transformers и формат PyTorch. Лицензия — Artistic-2.0. README описывает шаблон и заявленное поведение, но не приводит количественных оценок качества или подтверждённых тестов снижения галлюцинаций. Следование контексту зависит от качества исходных данных и шаблона; заявленная возможность обходить механизмы отказа также означает, что модель может менее надёжно соблюдать ограничения безопасности.

CrystalMistralv.03-fixed — объединённая автором модель Crystalcareai на архитектуре Mistral с 7,1 млрд параметров. Она создана с помощью LazyMergekit методом SLERP из Crystalcareai/CrystalMistral_7b_v.02 и Crystalcareai/CrystalMistralv.01-fixed; веса сохранены в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и принимает контекст длиной до 32 768 токенов. Карточка не уточняет специализацию, языки обучения или целевые сценарии, поэтому модель можно описать как генератор общего назначения. Лицензия в предоставленных сведениях не указана.

Darwin-9B-KOREA — VIDRAFT Darwin-сериисийн 9-миллиардная плотная языковая модель для двуязычных рассуждений на корейском и английском языках. Она создана слиянием моделей FINAL-Bench/Darwin-9B-Opus и FINAL-Bench/Darwin-9B-NEG методом послойной линейной интерполяции; использует архитектуру семейства Qwen 3.5 и формат Safetensors. Шаблон чата и токенизатор взяты от Darwin-9B-Opus. Модель предназначена для диалогов, ответов на вопросы и задач, где требуется рассуждать, в том числе на английском с последующим ответом на корейском. Разработчик сообщает о равной точности с обеими родительскими моделями на внутреннем тесте из 35 примеров и о доле ответов на корейском 91,3% на 23 корейских вопросах. Для развертывания в BF16 указано около 20 ГБ видеопамяти; автор рекомендует задавать не менее 1024 выходных токенов из-за склонности модели к развернутым рассуждениям. Лицензия — Apache-2.0.

Moritz Laurer опубликовал мультиязычную модель классификации последовательностей на архитектуре ERNIE-M с 658,7 млн параметров. Она дообучена для вывода о естественном языке (NLI) на данных XNLI и английского MNLI и подходит для классификации текстов по заданным пользователем категориям без отдельного обучения на этих категориях. Модель сравнивает посылку и гипотезу, определяя, следует ли гипотеза из текста, противоречит ему или не связана с ним. Это позволяет классифицировать тексты по кандидатным меткам и выполнять NLI на многих языках. README сообщает о поддержке 100 языков; оценки приведены для 15 языков XNLI, а для остальных качество может быть ниже. Максимальная длина контекста — 514 токенов. Модель основана на ERNIE-M от Baidu, предварительно обученной на основе RoBERTa на многоязычном корпусе CC100. В README отмечено, что она превосходит RoBERTa сопоставимого размера. Доступны веса PyTorch и safetensors; лицензия — Apache-2.0. К ограничениям относятся возможное снижение качества на языках вне оценки XNLI и потенциальные смещения, связанные с данными NLI. Для архитектуры требуется Transformers версии 4.27 или новее.

Experiment28M7_Experiment28Meliodas — объединённая модель для генерации текста, созданная на основе automerger/Experiment28M7-7B и automerger/Experiment28Meliodas-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Данные не описывают её специализацию по языкам или прикладным областям, поэтому её можно характеризовать только как модель общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Darwin-36B-Opus-GGUF — квантизированная версия модели Darwin-36B-Opus от FINAL-Bench, подготовленная bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста, сложных рассуждений, решения задач уровня выпускных и исследовательских экзаменов, а также многоязычных сценариев. Доступны варианты от IQ3 и Q3 до Q8 и исходного BF16; размер файлов составляет примерно от 17 до 69 ГБ. В README модель описывается как Mixture-of-Experts с акцентом на reasoning и поддержкой нескольких языков, включая английский, китайский, корейский, японский, немецкий, французский, испанский, русский и арабский. Указанный формат позволяет запускать её через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Формат промпта использует специальные маркеры im_start и im_end, а ответ начинается с блока thinking. Сильными сторонами заявлены высокое качество рассуждений и многоязычная работа: в README приведены результаты 88,4% на GPQA Diamond и 85,0% на MMMLU, однако обе оценки помечены как непроверенные. Ограничения включают значительные требования к оперативной памяти и вычислительным ресурсам, зависящие от выбранного уровня квантизации; точный размер контекста и характеристики исходной архитектуры в README не указаны. Модель распространяется под лицензией Apache-2.0.

GALACTICA mini — авторегрессионная трансформерная модель с архитектурой декодера, разработанная командой Papers with Code в Meta AI для научных задач. Эта версия содержит 151,6 млн параметров и принимает текстовый контекст длиной до 2048 токенов. Модель обучена на крупном научном корпусе, включающем открытые статьи, учебники, научные сайты, энциклопедии и базы знаний. Модель предназначена для генерации научного текста и может применяться для ответов на научные вопросы, предсказания цитирований, математических рассуждений, суммаризации документов, извлечения сущностей и задач о свойствах молекул. Карточка описывает эксперименты и научные сценарии применения, а также разработку инструментов для работы с научной литературой. GALACTICA склонна к галлюцинациям, особенно для малоизвестных научных тем; сгенерированные факты и цитаты требуют проверки. В модели также отмечены смещения. В README указана лицензия CC BY-NC 4.0, разрешающая некоммерческое использование; метаданные Hugging Face отдельно указывают Apache-2.0, поэтому условия лицензирования следует сверять с конкретными файлами репозитория перед использованием.

GaMS-2B-Instruct — языковая модель с диалоговой настройкой, разработанная исследовательской командой факультета компьютерных наук и информатики Люблянского университета. Она основана на GaMS-2B, которая, в свою очередь, построена на Gemma 2 и дополнительно обучена на словенских, английских, хорватских, сербских и боснийских текстах. Модель предназначена для генерации текста и диалоговых сценариев: она может помогать составлять и редактировать тексты, отвечать на вопросы, создавать краткие пересказы и поддерживать языковую практику. Наиболее подходящие языки — словенский и английский; также поддерживаются хорватский, сербский и боснийский. Модель имеет плотную архитектуру Gemma 2, содержит 2,7 млрд параметров и поддерживает контекст до 8192 токенов. К ограничениям относятся возможные фактические ошибки, смещения в ответах и трудности с неоднозначными формулировками и сложными задачами; результаты требуют проверки. Модель распространяется по лицензии Gemma, условия которой следует учитывать при использовании.

abideen/gemma-2b-openhermes — компактная языковая модель для генерации текста, созданная дообучением Google Gemma 2B Instruct с помощью QLoRA на предпочтениях OpenHermes-2.5. Модель использует плотную архитектуру GemmaForCausalLM, содержит 2,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель принимает текстовые запросы и документы, а в ответ генерирует текст. Она предназначена для диалогов, ответов на вопросы и суммаризации; для разговорного режима следует применять встроенный шаблон чата токенизатора. В README заявлена генерация на английском языке. Карточка приводит результаты нескольких бенчмарков, но сама по себе не гарантирует качество на конкретных прикладных задачах. Модель доступна в формате Safetensors для библиотеки Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Карточка модели QueryloopAI/gemma-2b-openhermes на Hugging Face совпадает с карточкой abideen/gemma-2b-openhermes, поэтому описание составлено по ней. abideen/gemma-2b-openhermes — компактная языковая модель для генерации текста, созданная дообучением Google Gemma 2B Instruct с помощью QLoRA на предпочтениях OpenHermes-2.5. Модель использует плотную архитектуру GemmaForCausalLM, содержит 2,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель принимает текстовые запросы и документы, а в ответ генерирует текст. Она предназначена для диалогов, ответов на вопросы и суммаризации; для разговорного режима следует применять встроенный шаблон чата токенизатора. В README заявлена генерация на английском языке. Карточка приводит результаты нескольких бенчмарков, но сама по себе не гарантирует качество на конкретных прикладных задачах. Модель доступна в формате Safetensors для библиотеки Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Gemma-3-4B-VL-it-Gemini-Pro-Heretic-Uncensored-Thinking-GGUF — мультимодальная instruction-tuned модель на архитектуре Gemma 3 с примерно 4 млрд параметров. Она основана на модели DavidAU/Gemma-3-4B-VL-it-Gemini-Pro-Heretic-Uncensored-Thinking, опубликована в формате GGUF и предназначена для эффективного локального запуска; в README издателем указан mradermacher. Модель поддерживает работу с текстом и изображениями, ориентирована на английский язык и используется для диалогов, рассуждений, анализа, творческого письма, суммаризации, перефразирования, описания изображений, визуальных вопросов и понимания сцен и объектов. Длина контекста в представленном описании не указана. Ключевая особенность модели — сниженный уровень контентной фильтрации и ограничений выравнивания, что может быть полезно для экспериментов, исследований и специализированных локальных сценариев, но повышает вероятность чувствительных или нежелательных ответов. Модель совместима с GGUF-совместимыми средствами инференса, включая llama.cpp и сборки Ollama, однако фактическая производительность и поддержка мультимодальных функций зависят от используемого рантайма и оборудования. Для публичных и критически важных применений необходимы дополнительные фильтры и проверка результатов. Указана лицензия Apache 2.0, унаследованная от базовой модели.

mlboydaisuke/gemma-4-E4B-CoreAI — это текстовая генеративная модель Gemma 4 E4B, разработанная Google и преобразованная в формат Apple Core AI компанией или автором репозитория модели. Она предназначена для локального запуска на устройствах Apple под управлением iOS 27 и macOS 27, включая офлайн-диалоги, суммаризацию, генерацию текста и интеграцию в приложения через CoreAIKit. Модель может работать на GPU или Neural Engine без пользовательских ядер. Модель основана на официальном QAT-чекпойнте google/gemma-4-E4B-it-qat-q4_0-unquantized. Это плотный текстовый decoder-only трансформер без MoE: заявлены 42 слоя, скрытое представление размером 2560, промежуточный размер 10240, 8 query heads и 2 KV heads; полное внимание используется в каждом шестом слое. Веса подготовлены для округления q4_0 и представлены в виде int4-квантизации с блоками по 32 значения. Размер поставляемых файлов составляет примерно 7,1 ГБ, а пиковое потребление памяти на iPhone 17 Pro заявлено на уровне 2,2 ГБ. Сильные стороны модели — запуск полностью на устройстве, отсутствие необходимости в облачном API, совместимость с экосистемой Apple и подтверждённое совпадение жадной генерации с эталоном на указанных тестах. Ограничения включают зависимость от iOS 27 или macOS 27, аппаратной платформы Apple и конкретного runtime Core AI; сведения о поддерживаемых языках и максимальной длине контекста в карточке не указаны. Модель распространяется по лицензии Apache-2.0, при этом базовый Gemma-чекпойнт имеет собственные условия Google, на которые указывает ссылка в метаданных.

GLM-5.3-Flash-MLX-8bit — это квантованная 8-битная сборка модели GLM-5.3-Flash, разработанной организацией zai-org и адаптированной PipeNetwork для MLX на Apple Silicon. Модель относится к классу смесей экспертов (Mixture-of-Experts), имеет 320 млрд параметров, из которых активно используется 18 млрд (320B-A18B). Архитектура включает 34 слоя Kimi-Delta с линейным вниманием и 11 слоёв DeepSeek sparse attention с NoPE MLA и lightning indexer, а также manifold-constrained hyper-connections. Мультитокенная предсказательная прослойка исключена, а vision tower сохранена в формате bfloat16. Модель предназначена для генерации текста и работы с изображениями и текстом; в README указана модальность image-text-to-text. Сборка рассчитана на запуск через MLX и совместимый runtime на компьютерах Apple Silicon. Размер файлов на диске составляет около 334,1 ГБ. Основная масса параметров, включая маршрутизируемых экспертов, квантована в 8 бит с группами по 64 значения; отдельные служебные параметры хранятся в float32, а vision tower — в bfloat16. Языки и размер контекстного окна в README не указаны. Сильной стороной сборки является существенное уменьшение размера по сравнению с исходной версией bfloat16 объёмом около 642,7 ГБ при близком качестве: заявленная perplexity на wikitext-2 составляет 3,4607. Для корректной работы рекомендуется пропатченный runtime из проекта PipeNetwork, поскольку стандартная ветка mlx-vlm содержит расхождения в вычислениях. Модель распространяется по лицензии MIT; в README также указано, что файлы были конвертированы из upstream-релиза и архитектура модели не изменялась.

Vontra/GLM-5.3-Flash-MLX-oQ4-MTP — это мультимодальная версия модели GLM-5.3-Flash от Z.ai, преобразованная Vontra в формат MLX для запуска на Apple Silicon. Модель предназначена для задач, связанных с обработкой текста и изображений, включая диалоговое взаимодействие и генерацию ответов в vision-language сценариях. Поддерживаются английский и китайский языки. Модель использует архитектуру glm5_next с разреженной mixture-of-experts, гибридным линейным и разреженным вниманием, manifold-constrained hyper-connections и встроенным слоем предсказания следующего токена. Контекст настроен на 1 048 576 токенов. Веса представлены в формате MLX safetensors и сжаты методом oQ4: основная часть использует 4-битное аффинное квантование с выборочными переопределениями точности 5, 6 и 8 бит. Размер загрузки составляет около 185,7 ГБ. Сохранены исходные токенизатор, шаблон чата, мультимодальный процессор и конфигурация генерации. К сильным сторонам относятся мультимодальность, очень длинный контекст, смешанная точность с защитой чувствительных модулей и встроенная поддержка native MTP для ускорения генерации. Ограничения — значительный объём модели, зависимость от Apple Silicon и необходимость совместимого runtime: требуются MLX-VLM с интеграцией GLM5 Next и сборка oMLX с поддержкой oQ и native MTP; старые версии не поддерживаются. В опубликованном тесте на Apple M3 Ultra с 256 ГБ unified memory базовый режим показал 6,2155 токена/с, а режим native MTP — 4,9969 токена/с. Модель распространяется по лицензии MIT.

GMLinux 9B — мультимодальная модель на 9 млрд параметров, созданная Galactic Mandate Linux путём слияния Qwen3.5-9B и Ornith-1.5-9B. Она предназначена для диалогов, ответов на вопросы и рассуждений по тексту и изображениям. Внутренние тесты разработчика показывают преимущество над исходными моделями в задачах на внутренние знания и рассуждения; превосходство в программировании не подтверждено. Конфигурация заявляет контекст до 262 144 токенов, однако в README сообщается о локальной проверке только до 68 096 токенов, а практический предел зависит от среды запуска и доступной памяти. Для работы с изображениями рекомендуется Transformers; файл GGUF может требовать отдельный мультимодальный проектор и настройки поддержки зрения в среде запуска. Репозиторий содержит веса BF16 Safetensors и квантованный Q8_0 GGUF. Метаданные указывают лицензию Apache-2.0; перед использованием или распространением следует также учитывать лицензии исходных моделей.

ClaudioItaly/Goodenberk — объединённая диалоговая языковая модель на архитектуре Qwen2 с 7,1 млрд параметров, созданная методом SLERP с помощью mergekit из AlekseyKorshuk/ai-detection-gutenberg-human-choosed-formatted-ai-sft-qwen-7b-sft-3epochs и Orion-zhen/Qwen2.5-7B-Gutenberg-KTO. Модель предназначена для генерации текста и ответов в диалоге; в метаданных также указана поддержка интерфейса вызова инструментов. Она работает с текстом и имеет контекст длиной до 32 768 токенов. Базовые модели дообучались на текстах Gutenberg; описание базовой модели указывает на китайский и английский языки. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

gpt-oss-20b-GGUF — набор GGUF-квантизаций модели openai/gpt-oss-20b, подготовленный пользователем ggfox00000 для локального и периферийного развёртывания. Модель предназначена для генерации текста и диалоговых сценариев, включая суммаризацию и работу через llama.cpp или llama-cpp-python. README не указывает точные языковые возможности исходной модели, однако демонстрирует пример суммаризации на французском языке. Доступны варианты Q4_K_M размером около 8 ГБ, Q5_K_M около 10 ГБ и Q8_0 около 15 ГБ. При контексте 8192 токена им требуется примерно 9, 11 и 16 ГБ RAM или VRAM соответственно; заявленное качество возрастает от Q4_K_M к Q8_0. Эти варианты позволяют выбирать компромисс между требованиями к памяти и качеством, включая развёртывание на GPU с CUDA. Архитектура и мультимодальные возможности в README не описаны; по назначению это текстовая модель. Модель удобна для on-premise и edge-сценариев, где важны локальное выполнение и совместимость с llama.cpp. Ограничения включают необходимость подбора квантизации под доступную память, а также отсутствие в карточке подробных данных о производительности, поддерживаемых языках, исходной архитектуре и специальных возможностях. Квантизации распространяются на условиях Apache 2.0, унаследованных от исходной модели.