I.3Извлечение и структурирование данных

YamshadowStrangemerges_32_YamExperiment26 — объединённая модель для генерации текста, созданная на основе automerger/YamshadowStrangemerges_32-7B и automerger/YamExperiment26-7B. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в сценариях, где требуется обрабатывать длинные запросы и контекст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

jaromer/0bserverx-Qwen3.8-27B-Heretic-Abliterated-Uncensored-GGUF — это модифицированная версия Qwen3.8-27B от Qwen, дополнительно обработанная методом ARA (Arbitrary-Rank Ablation). Основой послужила версия trohrbaugh/Qwen3.8-27B-heretic-ara, созданная Tim Rohrbaugh; текущая сборка получила ещё два прохода ARA для уменьшения остаточных отказов. Точные сведения об авторах текущей доработки в README не указаны. Модель предназначена для генерации текста, исследовательских задач, творческого письма и ролевых сценариев, где требуется сниженное количество отказов. Это модель на 27 млрд параметров с архитектурой Qwen3.8 и гибридом Gated DeltaNet: 64 слоя, включая 16 стандартных attention-слоёв и 48 слоёв линейного внимания Gated DeltaNet. Используются GQA с 24 attention-heads и 4 KV-heads, размер скрытого состояния — 5120, словарь содержит 248 320 токенов, контекст — до 262 144 токенов. Модель поставляется в формате GGUF для llama.cpp; тензоры MTP/NextN исключены. Главное преимущество — существенно сниженная склонность к отказам при сохранении поведения базовой модели: по приведённым независимым измерениям, число отказов на наборе из 100 вредоносных запросов снизилось до 0–1, а отклонение KL составило около 0,0085. Ограничения связаны с намеренно ослабленными защитными механизмами, поэтому модель не подходит для сценариев, требующих строгих встроенных ограничений безопасности; отдельные guardrails сохранены. README указывает, что модель предназначена для совершеннолетних пользователей и должна применяться ответственно и в соответствии с местным законодательством. Лицензия — Apache-2.0, унаследованная от Qwen3.8-27B.

GigaChat3-10B-A1.8B-GGUF — это квантизированная версия языковой модели GigaChat3-10B-A1.8B, разработанной ai-sage. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу на русском и английском языках. Модель распространяется в формате GGUF и совместима с llama.cpp, LM Studio и другими проектами на его основе. В метаданных она обозначена как MoE-модель; в названии указаны параметры 10B и 1.8B, однако точные сведения об архитектуре, размере контекста и доступных вариантах квантизации в README не приведены. Модель работает в текстовой модальности. К сильным сторонам относятся поддержка русского языка, возможность локального запуска и оптимизация квантизации с помощью imatrix, потенциально улучшающая сохранение качества по сравнению с базовыми методами квантизации. Ограничениями являются снижение точности по сравнению с исходной моделью и зависимость производительности от выбранного варианта квантизации и оборудования. Лицензия — MIT.

prince4332/ak-ga-en-2 — текстовая модель генерации на базе архитектурного семейства Qwen3.5 Text, опубликованная на Hugging Face. В метаданных указаны библиотека Transformers, формат safetensors и размер около 585,4 млн параметров. Модель предназначена для генерации текста и диалоговых сценариев. Она поддерживает контекст длиной до 262 144 токенов, что позволяет работать с большими объёмами входного текста. Метаданные не содержат сведений о разработчике, языках, лицензии, датасетах, результатах оценки или специальных прикладных областях. README является автоматически сгенерированной карточкой и не описывает конкретные сильные стороны, ограничения или условия использования модели. Перед применением в продуктивных системах необходимо самостоятельно проверить качество на целевых данных, совместимость с задачей и лицензионные условия репозитория.

Archon-8B-i1-GGUF — это квантизированная версия языковой модели DuoNeural/Archon-8B, подготовленная mradermacher в формате GGUF. Модель предназначена для генерации текста и задач, связанных с рассуждением; в метаданных она также отмечена как модель на базе Qwen3 и как uncensored. Доступны варианты для локального запуска с разными уровнями квантизации. Заявлена поддержка английского, китайского, французского, немецкого, испанского, японского и корейского языков. Размер базовой модели — 8 млрд параметров, однако сведения о длине контекста, точной архитектуре, мультимодальности и результатах бенчмарков отсутствуют; по имеющимся данным модель является текстовой. Главное преимущество набора — широкий выбор GGUF-квантизаций с размером файлов примерно от 2,2 до 6,8 ГБ, что позволяет подобрать баланс между требованиями к памяти, скоростью и качеством. Низкобитные варианты экономичнее, но могут заметно уступать по качеству; README отдельно рекомендует IQ-квантизации и варианты Q4_K_M или Q4_K_S как практичный выбор. Модель и её производительность могут существенно различаться в зависимости от выбранного варианта квантизации. Распространение указано по лицензии Apache-2.0. В карточке также приведены ссылки на исходную модель и инструкции по работе с GGUF-файлами.

AX-DeepSeek-V4-Flash-MLX-AXQ-2bit-MTP — это экспериментальный MLX-чекпойнт, разработанный AutomatosX на основе модели DeepSeek-V4-Flash от deepseek-ai. Модель предназначена для генерации текста и запуска на компьютерах Apple Silicon через MLX-LM или AX Engine. Архитектура исходной модели — DeepseekV4ForCausalLM с mixture of experts; основной путь обработки текста квантизирован, а MTP-компонент сохранён в BF16. Модель содержит около 284,33 млрд логических параметров, использует смешанную точность с преобладанием 2-битных весов и имеет измеренный общий размер 3,1605 BPW. Размер Safetensors-весов составляет около 114,94 ГБ, а полный объём загрузки — около 115,02 ГБ. Заявленный максимальный контекст — 1 048 576 токенов, однако практическая длина зависит от объёма unified memory устройства. Модель поддерживает только текстовую модальность: vision и audio отсутствуют. Основное преимущество — существенно сниженные требования к хранению по сравнению с полноточной моделью при сохранении совместимости с MLX и возможностью прямого запуска в AX Engine. К ограничениям относятся экспериментальный статус 2-битной квантизации, высокая потребность в дисковом пространстве и памяти, отсутствие калибровки, а также то, что стандартный MLX-LM не активирует MTP-sidecar и не подтверждает ускорение speculative decoding. Проверенная сертификация привязана к конкретной ревизии Hub и конфигурации df-macstudio-m2. Репозиторий распространяется по лицензии Apache-2.0 и содержит MLX Safetensors, но не PyTorch- или GGUF-веса.

Ąžuolas — модель распознавания литовской речи из аудиозаписей, созданная akisviete на основе Whisper large-v3 и дообученная методом SFT на корпусе LIEPA-3. В обучении использовано около 9,8 тысячи часов литовской речи: чтение, спонтанная речь и фонетические записи. Модель содержит около 905,2 млн параметров, построена на архитектуре Whisper и доступна в формате safetensors для Transformers. Модель предназначена для транскрибации литовской речи, в том числе длинных записей и выступлений. В описанных тестах она показала более низкий WER, чем сравниваемые литовские модели, но работала медленнее. Лицензия — CC BY 4.0. Известное ограничение: модель может генерировать связные литовские фразы на участках тишины или фонового шума. Для длинных записей автор рекомендует использовать обработку с фильтром тишины и нарезкой аудио на паузах.

Bangla-Embed-E5-Banglish — компактный текстовый энкодер на базе BERT, разработанный для семантического поиска и сопоставления предложений на бенгальском языке, включая его латинскую запись Banglish. Модель дообучена на intfloat/multilingual-e5-small методом трёхэтапной дистилляции от BGE-M3 с добавлением романизированных вариантов IndicXlit; размер по README — 118 млн параметров, в метаданных — 124,3 млн. Контекст составляет 512 токенов. Ключевая особенность модели — межскриптовый поиск: она сопоставляет запросы на Banglish с текстами на бенгальском письме и английском. Также модель создаёт эмбеддинги для семантического поиска, сравнения предложений и ранжирования. По приведённым в карточке оценкам, она показывает сильные результаты на бенгальских и межъязыковых наборах, сопоставимые с гораздо более крупными энкодерами. Модель принимает текст и выдаёт векторные эмбеддинги; её можно использовать через sentence-transformers. Лицензия модели — MIT, однако некоторые обучающие источники могут иметь отдельные, в том числе некоммерческие, условия. Романизация при обучении была синтетической; качество проверялось на пользовательском наборе, но охват ограничен стандартным бенгальским, без региональных вариантов и практик набора текста. На полнотекстовых наборах MIRACL-bn и Mr.TyDi-bn модель уступает более крупным моделям и исходной основе.

Bellatrix-1.5B-xElite — компактная авторегрессионная языковая модель с архитектурой Qwen2, разработанная на базе Qwen/Qwen2.5-1.5B-Instruct. Модель содержит 1,5 млрд параметров, работает с текстом и использует формат Transformers; заявленная длина контекста составляет 131 072 токена. По карточке, обучение включало дообучение на синтетических примерах QWQ, SFT и RLHF. Модель предназначена для диалогов, следования инструкциям, генерации и суммаризации текста, логических рассуждений и сценариев RAG, включая агентный поиск и синтез найденной информации. Карточка заявляет многоязычное применение, однако в метаданных указан английский язык. У модели также заявлен интерфейс для вызова инструментов. Возможные ограничения — склонность к фактическим ошибкам, зависимость качества от языка и обучающих данных, а также более слабая работа на специализированных и внераспределённых задачах. В таблице оценки приведены низкие результаты на IFEval (19,64%) и BBH (9,49%), поэтому качество рассуждений и следования инструкциям стоит проверять на целевых задачах. Лицензия — Apache-2.0.

calme-2.1-llama3-70b-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, подготовленный и опубликованный MaziyarPanahi на основе модели calme-2.1-llama3-70b того же разработчика. GGUF предназначен для локального запуска и совместим с llama.cpp и рядом клиентских приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Модель относится к семейству Llama 3 и имеет размер 70B, однако в README не указаны точные архитектурные параметры, поддерживаемые языки или размер контекста. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшими требованиями к памяти и потенциальным снижением качества либо более высоким качеством и большими ресурсами. Модель ориентирована на задачи генерации текста и может использоваться через локальные графические интерфейсы, командную строку, Python-библиотеки и OpenAI-совместимый сервер. Основные преимущества — широкий выбор уровней квантования, поддержка GPU-ускорения в совместимых инструментах и возможность локального развертывания. Ограничения включают необходимость самостоятельно подобрать подходящий квантованный файл и обеспечить достаточные вычислительные ресурсы; сведения о качестве, результатах тестирования, мультимодальности и лицензии в README отсутствуют. Информация о лицензии не предоставлена.

CrossEncoder-camembert-large — модель-кросс-энкодер для оценки семантического сходства двух предложений, созданная на базе CamemBERT и обученная с помощью класса CrossEncoder библиотеки Sentence Transformers. Она принимает пару текстов и выдаёт оценку сходства от 0 до 1; модель предназначена для ранжирования и сравнения предложений, например при поиске похожих формулировок или проверке релевантности пары фраз. Модель обучена на STS Benchmark, а карточка приводит результаты оценки на французской тестовой выборке: корреляция Пирсона 88,16 и Спирмена 87,57. Архитектура — CamemBERT для классификации последовательности, размер около 435,4 млн параметров, длина контекста — 514 токенов. Основной язык модели — французский. Вес опубликован в форматах PyTorch и Safetensors. Модель хорошо подходит для сопоставления коротких текстов на французском языке, но её оценки сходства не следует трактовать как универсальную меру истинной эквивалентности. Для пары текстов модель запускается совместно, поэтому при масштабном поиске по большому корпусу вычисления могут быть затратными. Лицензия — Apache-2.0.

Moritz Laurer дообучил DeBERTa-v3-base от Microsoft на 763 913 парах «посылка — гипотеза» из MultiNLI, Fever-NLI и Adversarial-NLI (ANLI). Это плотная модель DeBERTa-v2 для классификации последовательностей с 211,6 млн параметров и контекстом до 512 токенов; её основное применение — классификация текста без предварительно заданного набора классов, а также задачи вывода на естественном языке (NLI). Модель оценивает, следует ли гипотеза из текста, противоречит ему или не связана с ним, что позволяет сопоставлять текст с предложенными метками и ранжировать их. В карточке приведены результаты оценки на тестовых наборах MultiNLI и ANLI и на dev-наборе Fever-NLI; также заявлено преимущество на бенчмарке ANLI перед почти всеми крупными моделями. Поддерживается английский язык. Модель принимает текст и возвращает метки и оценки классов. Ограничения связаны с возможными смещениями, унаследованными от обучающих наборов. Карточка также отмечает, что для работы с DeBERTa-v3 может потребоваться Transformers версии 4.13 или новее и установленный SentencePiece. Лицензия — MIT.

Это GGUF-квантизированная версия языковой модели cogito-v2-preview-llama-109B-MoE, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Архитектура модели — Mixture of Experts (MoE), общий заявленный размер — 109B параметров. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, с размером файлов примерно от 47,62 до 114,52 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b6014. Более высокие варианты обеспечивают лучшее сохранение качества, а менее точные требуют меньше оперативной памяти; среди рекомендуемых указаны Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Модель подходит для локального текстового инференса при наличии значительных вычислительных ресурсов и объёма памяти, соответствующего выбранному варианту квантизации. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности, точные характеристики базовой архитектуры, лицензия и формальные ограничения использования. Шаблон чата не задан; предложенный формат является значением по умолчанию и может быть некорректным, поэтому его следует сверять с исходной карточкой модели.

argilla/distilabeled-Marcoro14-7B-slerp — языковая модель Argilla, полученная методом DPO дообучения базовой модели mlabonne/Marcoro14-7B-slerp на наборе пар предпочтений argilla/distilabel-intel-orca-dpo-pairs. Это плотная Mistral-модель с 7,1 млрд параметров, предназначенная для генерации текста и общих языковых задач; заявленная длина контекста — 32 768 токенов. Карточка приводит результаты на нескольких языковых бенчмарках, однако они не гарантируют аналогичного качества в конкретном приложении. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но ограничивает коммерческое применение.

Модель разработана Карлом Вайнмайстером и представляет собой DistilBERT, дообученный на наборе данных facebook/anli для задач понимания английского текста. Она поддерживает классификацию текста и оценку сходства предложений; архитектура — DistilBertForSequenceClassification, максимальная длина контекста — 512 токенов. Модель подходит для сравнения текстовых фрагментов и классификационных сценариев на английском языке. Распространяется по лицензии Apache-2.0.

Distil-Whisper distil-large-v2 — англоязычная модель распознавания речи, разработанная командой Distil-Whisper как дистиллированная версия Whisper large-v2. Она использует архитектуру encoder-decoder Whisper: энкодер скопирован из исходной модели, а декодер сокращён до двух слоёв. В метаданных указано 905,2 млн параметров. Модель предназначена для транскрибации английской речи в коротких и длинных аудиозаписях и может использоваться как ускоренная замена Whisper large-v2. По данным карточки, она примерно в шесть раз быстрее и на 49% меньше исходной модели, сохраняя близкое качество распознавания; также её можно применять как вспомогательную модель для speculative decoding с Whisper. Поддерживаются форматы PyTorch, safetensors, ONNX и Flax. Модель принимает аудио и выдаёт текст. Она рассчитана только на распознавание английской речи; авторы рекомендуют вместо неё более новую distil-large-v3 для лучшей поддержки последовательной генерации на длинных записях. Лицензия — MIT.

Parveshiiii/Embedding — конвертированная модель на архитектуре XLM-RoBERTa large с объединением представления CLS для получения эмбеддингов текста. В README указано, что модель ещё не обучена; её можно дообучить для задач векторного представления текста. Модель основана на FacebookAI/xlm-roberta-large и содержит 658,7 млн параметров. Она принимает текст и формирует векторные представления, которые могут использоваться для поиска похожих предложений и извлечения признаков. Базовая XLM-RoBERTa рассчитана на 100 языков; у самой модели нет подтверждённых результатов обучения эмбеддингов. Репозиторий использует Sentence Transformers и формат safetensors, лицензия — Apache-2.0.

eva02_large_patch14_clip_336.merged2b — веса модели EVA-02 CLIP, опубликованные timm для использования с OpenCLIP. Модель предназначена для классификации изображений по текстовым описаниям без специального обучения на целевых классах: она сопоставляет изображение и варианты текста, а затем оценивает их сходство. По названию репозитория модель использует визуальный энкодер EVA-02 с патчами 14×14 и входным разрешением 336 пикселей, объединённый с текстовым энкодером CLIP. Метаданные указывают задачу zero-shot image classification и форматы PyTorch и safetensors. Лицензия — MIT.

Experiment26Yamshadow_Experiment27Pastiche — объединённая модель, созданная из automerger/Experiment26Yamshadow-7B и automerger/Experiment27Pastiche-7B. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых ответов. Модель принимает текст и поддерживает контекст длиной до 32 768 токенов. Веса опубликованы в формате Safetensors. Репозиторий распространяется по лицензии Apache 2.0. В README нет описания специальных предметных областей или языковых возможностей.

Fasciculus-Arcuatus-7B-slerp — текстовая генеративная модель на 7,1 млрд параметров, созданная Kukedlc с помощью LazyMergekit. Это слияние методом SLERP моделей macadeliccc/MonarchLake-7B и Kukedlc/NeoCortex-7B-slerp; архитектура основана на Mistral и представлена классом MistralForCausalLM. Модель предназначена для генерации текста и языковых задач общего назначения. В README приведены результаты оценивания на бенчмарках рассуждений AI2 Reasoning Challenge и HellaSwag. Контекст составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors, тип точности — bfloat16. Лицензия — Apache-2.0.

Модель ermiaazarkhalili/FastContext-4B-SFT_base-SFT-Claude-Opus-Reasoning-Unsloth — дообученная версия microsoft/FastContext-1.0-4B-SFT, разработанная ermiaazarkhalili. Это плотная авторегрессионная языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, примерно 3,7 млрд параметров и контекстом до 262 144 токенов. Модель предназначена для генерации текста в диалогах и выполнения инструкций; дообучение проведено методом SFT на данных дистилляции рассуждений Claude. Она поддерживает интерфейс вызова инструментов. Карточка приводит только наблюдения обучающей потери и сообщает, что оценка на прикладных бенчмарках не проводилась. Поведение вне распределения единственного набора инструкций не проверено; модель наследует смещения и ограничения базовой модели. LoRA-адаптеры слиты с весами, поэтому отделить результат дообучения нельзя. Лицензия в предоставленных данных не указана.

Модель oliverguhr/fullstop-punctuation-multilingual-sonar-base разработана для восстановления знаков препинания в тексте, в том числе в расшифровках устной речи. Это многоязычная модель XLM-RoBERTa для классификации токенов с 305,2 млн параметров и контекстом до 514 токенов. Она предсказывает точки, запятые, вопросительные знаки, дефисы и двоеточия для английского, немецкого, французского, итальянского и нидерландского языков. Модель подходит для расстановки пунктуации в транскриптах и текстах без пунктуации. В карточке приведены F1-оценки для отдельных классов и отмечено, что качество зависит от знака препинания: дефисы и двоеточия часто можно заменить запятой или точкой. Обучение проводилось на политических выступлениях из Europarl, а для нидерландского использовался SoNaR, поэтому на текстах других тематик результаты могут отличаться. Лицензия — MIT.

FuseO1-DeepSeekR1-QwQ-32B-Preview-GGUF — это набор квантизированных версий языковой модели FuseO1-DeepSeekR1-QwQ-32B-Preview, разработанной FuseAI и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель содержит 32 млрд параметров; README не указывает её точную архитектуру, поддерживаемые языки, модальности и размер контекстного окна. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Более высокие уровни сохраняют лучшее качество, но требуют больше памяти, тогда как Q3 и некоторые IQ-варианты рассчитаны на системы с ограниченным объёмом RAM. Квантизация выполнена с использованием imatrix и специального датасета; для запуска требуется корректный шаблон prompt. Сильная сторона модели — широкий выбор вариантов с различным компромиссом между качеством, размером и требованиями к памяти, а также поддержка локального инференса. Ограничения включают отсутствие в README данных о фактических результатах тестирования, языках, контексте и возможностях мультимодальности; качество также зависит от выбранного уровня квантизации. Лицензия в предоставленных материалах не указана.

MaziyarPanahi/gemma-7b-GGUF — это набор файлов модели Gemma 7B в формате GGUF, созданной Google и преобразованной в GGUF-квантизированные варианты пользователем MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, text-generation-webui, LM Studio, GPT4All и llama-cpp-python. Доступны варианты квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. В README указано только, что это модель размером 7B с текстовой модальностью; сведения о поддерживаемых языках, длине контекста и точной архитектуре не приведены. К сильным сторонам относятся широкий выбор уровней квантизации и совместимость с популярными средствами локального инференса, включая запуск с ускорением на GPU. Более агрессивная квантизация может снижать качество по сравнению с исходной моделью, а для работы требуются подходящий клиент и ресурсы, зависящие от выбранного варианта. Указана лицензия other, но её конкретные условия в README не раскрыты.

Crystalcareai/gemma-orca — дообученная Crystalcareai модель семейства Gemma с плотной архитектурой для генерации текста. Веса представлены в формате safetensors; модель содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель дообучена в течение трёх эпох на датасете Crystalcareai/slimorca-dedup-alpaca-100k. Она предназначена для генерации ответов и выполнения инструкций в широком круге сценариев, включая диалог и помощь с текстовыми задачами. В карточке упоминается ориентация на ограниченные вычислительные ресурсы, но конкретные требования и результаты оценки качества не приведены. Лицензия в доступных данных не указана.

GLM-4.5-Air-MLX-8bit — это 8-битная квантованная версия языковой модели GLM-4.5-Air, разработанной компанией zai-org. Квантование выполнено командой LM Studio с использованием MLX и ориентировано на запуск на устройствах с Apple Silicon. Модель предназначена для генерации текста и совместима с экосистемой Transformers; заявленные языки — английский и китайский. Модель подходит для локального текстового общения, генерации и обработки текста на поддерживаемых устройствах. Квантование снижает требования к памяти по сравнению с полноразмерной версией и оптимизировано для Apple Silicon, однако может сопровождаться потерей качества относительно исходной модели. В README не указаны архитектура, количество параметров, размер контекста, поддерживаемые модальности и результаты тестирования, поэтому эти характеристики нельзя уточнить. Для модели указана лицензия MIT.

GLM-5.3-Flash-EXL3-Q4 — производная квантованная версия языковой модели GLM-5.3-Flash-BF16, разработанной Z.AI. Конвертацию и проверку выполнил проект Dione с использованием ExLlamaV3. Модель предназначена для генерации текста и запуска GLM-5.3-Flash в формате selective EXL3, включая сценарии локального инференса на системах с несколькими GPU. Поддержка полноценного серверного запуска, проверки конечной точки, генерации ответов, vision и MTP для этой сборки ещё не подтверждена. Модель имеет архитектуру mixture-of-experts: 45 языковых слоёв, из которых 3 плотных и 42 маршрутизируемых MoE-слоя с 288 экспертами, top-8 routing и одним общим экспертом. Квантованы только gate/up/down-проекции маршрутизируемых экспертов в слоях 3–44 с представлением EXL3 Q4 и эффективной точностью 4,0 bpw; основные компоненты, включая attention, routers, shared experts, embeddings, LM head, нормы, vision и MTP, сохранены в исходной точности BF16. Артефакт занимает 187,45 ГБ и рассчитан на tensor parallel size 4. Сведения о поддерживаемых языках и максимальном контексте в README не указаны. Преимущество модели — существенное уменьшение размера экспертных весов при сохранении большей части исходной точности: на тесте Wikitext-2 прирост perplexity относительно BF16 составил 2,38%, а согласие top-1 — 91,70%. Ограничения связаны с нестандартным форматом checkpoint glm53-selective-exl3-tp4-v1: требуется совместимый loader для selective EXL3 и нельзя рассчитывать на стандартный Transformers или произвольный EXL3 runtime. Модель распространяется по лицензии MIT как производная от исходной модели Z.AI.

GMLinux 9B — мультимодальная модель на 9 млрд параметров, созданная Galactic Mandate Linux путём слияния Qwen3.5-9B и Ornith-1.5-9B. Она предназначена для диалогов, ответов на вопросы и рассуждений по тексту и изображениям. Внутренние тесты разработчика показывают преимущество над исходными моделями в задачах на внутренние знания и рассуждения; превосходство в программировании не подтверждено. Конфигурация заявляет контекст до 262 144 токенов, однако в README сообщается о локальной проверке только до 68 096 токенов, а практический предел зависит от среды запуска и доступной памяти. Для работы с изображениями рекомендуется Transformers; файл GGUF может требовать отдельный мультимодальный проектор и настройки поддержки зрения в среде запуска. Репозиторий содержит веса BF16 Safetensors и квантованный Q8_0 GGUF. Метаданные указывают лицензию Apache-2.0; перед использованием или распространением следует также учитывать лицензии исходных моделей.

Карточка модели ibm-granite/granite-7b-instruct на Hugging Face совпадает с карточкой instructlab/granite-7b-lab, поэтому описание составлено по ней. Granite-7b-lab — языковая модель IBM Research, дообученная на базе ibm/granite-7b-base методом LAB (Large-scale Alignment for chatBots) с использованием Mixtral-8x7B-Instruct как модели-учителя. Это плотная модель архитектуры Llama с 6,6 млрд параметров, поддержкой диалогового режима и контекстом до 4096 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. LAB использует таксономию задач для отбора примеров, генерацию синтетических данных и двухэтапное обучение с буферами повторения; это позволяет добавлять знания и навыки, сохраняя ранее усвоенное. Подход охватывает ответы на вопросы, рассуждение и творческое письмо. Модель распространяется в формате Safetensors по лицензии Apache 2.0. В README отмечено, что чекпойнт не прошёл safety alignment и может выдавать вредные или недостоверные ответы; его не следует использовать как единственный источник для важных решений.

DevQuasar-7/huihui-ai.DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-GGUF — это квантованная версия модели huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2, подготовленная в формате GGUF командой или проектом DevQuasar. Модель предназначена для генерации текста и может использоваться в сценариях локального запуска и инференса с совместимыми инструментами, поддерживающими GGUF. Из карточки следует, что её базовая модель относится к семейству DeepSeek-R1-Distill-Qwen и имеет размер 14B параметров; точный тип квантования не указан. Ключевая заявленная модальность — текстовая генерация. Сведения о поддерживаемых языках, размере контекстного окна, конкретной архитектуре, требованиях к оборудованию и результатах оценки отсутствуют. К потенциальным ограничениям относятся зависимость качества и скорости от выбранного варианта квантования и программного окружения, а также отсутствие в карточке описания сильных сторон, бенчмарков и рекомендаций по применению. Лицензия и условия использования в README не указаны.