I.3Извлечение и структурирование данных

Это набор GGUF-квантизаций модели AIGym/Llama-3-8B-Instruct-Gradient-1048k-Agent, подготовленный командой featherless-ai-quants. Модель предназначена для генерации текста и использования в сценариях, где требуется инструкционно настроенный языковой агент, включая локальный запуск совместимых с GGUF инструментов. README не уточняет конкретные прикладные задачи, поведение агента или методику обучения. В основе лежит модель семейства Llama 3 с заявленным размером 8B параметров. Указано контекстное окно до 1 048 000 токенов, однако подробности архитектуры, поддерживаемые языки и модальности не приведены; по назначению это текстовая, а не мультимодальная модель. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8 ГБ. Выбор варианта позволяет находить компромисс между требованиями к памяти и сохранением качества, но README не содержит сравнительных оценок производительности. Лицензия в README не указана, поэтому условия коммерческого и иного использования необходимо уточнить в источнике базовой модели и для опубликованных квантизаций. Также не приведены результаты тестирования, системные требования, рекомендуемые параметры запуска и сведения о совместимых рантаймах.

nadrajak/allenai-specter-ft2 — дообученная модель Sentence Transformers на базе sentence-transformers/allenai-specter. Она использует архитектуру BERT с пулингом по CLS-токену, преобразует текстовые фрагменты в плотные эмбеддинги размерности 768 и сравнивает их косинусным сходством. Максимальная длина входа — 512 токенов; модель обучалась с TripletLoss на наборах с примерами anchor, positive и negative. Модель подходит для семантического поиска, поиска похожих текстов и публикаций, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста на основе эмбеддингов. Базовая модель ориентирована на заголовки и аннотации научных статей на английском языке, поэтому это профильный выбор для поиска научных публикаций; README сообщает высокую точность на TripletEvaluator, но не раскрывает контекст этих оценок и состав обучающих данных. Для использования нужны текстовые входы; результатом являются векторы, пригодные для поиска и сравнения. Репозиторий распространяется в формате safetensors и использует лицензию базовой модели, однако сведения о лицензии в предоставленных данных отсутствуют.

all-MiniLM-L6-v2-multi-qa-linear-merge — демонстрационная модель, созданная авторами репозитория с помощью функции слияния моделей Sentence Transformers. Она линейно объединяет с равными весами два англоязычных энкодера предложений: sentence-transformers/all-MiniLM-L6-v2 и sentence-transformers/multi-qa-MiniLM-L6-cos-v1. Модель основана на архитектуре BERT, содержит 25,9 млн параметров и принимает текст для получения векторных представлений; максимальная длина контекста составляет 512 токенов. Модель предназначена для вычисления семантической близости предложений и создания эмбеддингов для поиска и сравнения текстов. Это демонстрационное слияние, а не отдельный релиз, настроенный под конкретную задачу, поэтому качество на целевых сценариях следует проверять отдельно. Репозиторий содержит веса в форматах SafeTensors, TensorFlow и OpenVINO. Лицензия в предоставленных данных не указана.

AX-DeepSeek-V4-Flash-MLX-AXQ-4bit-MTP — это экспериментальный MLX-чекпойнт модели DeepSeek-V4-Flash, подготовленный AutomatosX для Apple Silicon. Модель предназначена для генерации текста и запуска через MLX-LM; в репозитории представлены только веса MLX Safetensors, без PyTorch и GGUF. Лицензия — Apache-2.0. В основе лежит архитектура DeepseekV4ForCausalLM с mixture of experts (MoE) и 284,33 млрд логических параметров. Основной языковой тракт использует смешанную квантизацию AXQuant 1.5.1: около 96,84% параметров имеют точность 4-bit, часть параметров сохранена в 8-bit и BF16. Измеренный общий размер хранения составляет примерно 4,5874 BPW, а полный объём загрузки — около 166,91 ГБ. Настроенный максимальный контекст — 1 048 576 токенов, однако практическая длина зависит от объёма unified memory устройства. Модель поддерживает текстовую модальность; визуальный и аудиокомпоненты отсутствуют. В чекпойнте присутствует MTP-компонент, но его ускорение, совместимость с AX Engine и качество не подтверждены измерениями; стандартный MLX-LM может выполнять только текстовый backbone без активации MTP. Сильной стороной является существенное сокращение объёма хранения по сравнению с полноточной моделью при сохранении отдельных важных тензоров в более высокой точности. Ограничения включают отсутствие опубликованных сравнений качества, тестов длинного контекста, скорости ядер и MTP, а также отсутствие валидированного native-манифеста AX Engine. Пакет имеет статус convertible и сопровождается данными о конвертации, но не является сертифицированным релизом AXQuant.

AZMX One — базовая языковая модель для генерации текста, разработанная проектом AZMX. Это промежуточный контрольный снимок обучения, а не финальная версия: на момент публикации завершено 107 400 из 152 587 шагов, модель обработала 422,54 млрд из 600 млрд токенов, поэтому веса могут регулярно заменяться. Модель предназначена для генерации текста и предварительного обучения или адаптации под прикладные сценарии, особенно связанные с индийскими языками. Она обучается на смеси примерно из 58% индийских языков, 16% английского текста, 12% математических данных, а также материалов предметных областей, кода и южноазиатского контента. Поддерживаются английский и 21 индийский язык, включая хинди, бенгальский, тамильский, телугу, маратхи, урду, гуджарати, каннада, малаялам, пенджаби, ория, ассамский, непали, санскрит и другие языки, перечисленные в карточке модели. AZMX One содержит 1,872,898,048 параметров и использует собственную архитектуру AZMXForCausalLM. В ней 32 слоя, размер скрытого состояния 2048, промежуточный размер 6144, 16 attention heads и 8 KV heads с GQA, head_dim 128, RMSNorm с накоплением в fp32, split-halves RoPE с theta 10 000, per-head QK-norm, SwiGLU и связанные эмбеддинги. Вокабуляр AZMX tokenizer v2 включает 128 000 токенов и оптимизирован для индийских языков. Максимальный контекст — 2048 токенов, точность хранения весов — bf16. Сильной стороной модели является ориентация на широкий набор индийских языков и использование крупного многоязычного вокабуляра. Однако это незавершённый чекпоинт, и его качество нельзя считать окончательным; для Manipuri, Konkani, Dogri, Maithili и Kashmiri отдельно отмечена регрессия на отложенных данных. Модель распространяется по лицензии Apache-2.0.

BBALAW1.0 — объединённая языковая модель, созданная автором репозитория Lawnakk с помощью mergekit и метода SLERP. В объединении использованы Qwen/Qwen2.5-7B и Qwen/Qwen2.5-Math-7B-Instruct; конфигурация сочетает их слои, а итоговая архитектура — плотная Qwen2ForCausalLM. Модель содержит 3,8 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового использования. Включение математической версии Qwen2.5 указывает на возможную полезность в задачах с математическим текстом, однако README не приводит результатов оценки или конкретных гарантий качества. Репозиторий содержит веса safetensors и использует библиотеку Transformers; метаданные отмечают интерфейс вызова инструментов. Сведения о лицензии в предоставленных данных отсутствуют.

Это переранжировщик BGE Reranker v2 M3, преобразованный автором репозитория в формат GGUF F16 для запуска через llama.cpp. Модель принимает запрос и список текстовых кандидатов, оценивает их релевантность и возвращает кандидатов в упорядоченном виде; её можно подключить к поисковому конвейеру через сервер llama.cpp и endpoint /v1/rerank. Основа модели — BAAI/bge-reranker-v2-m3. По README, преобразование выполнено скриптом llama.cpp без других изменений; файл GGUF занимает около 1 ГБ. В карточке указаны японский и английский языки. Модель распространяется по лицензии MIT. Автор предупреждает, что при некорректном переносе классификационной головы GGUF может выдавать числовые оценки без ошибки, но эти оценки будут бессмысленными. Перед использованием следует проверить порядок результатов на примерах с заметно различающейся релевантностью. Для работы нужен llama.cpp с режимом --reranking; сервер переранжирования запускается отдельно от сервера эмбеддингов.

BlueLM-7B-Base-32K — vivo AI 全球研究院自主研发的基础语言模型，采用 BlueLM 的密集型自回归架构，参数量为 6.9 млрд. Модель предназначена для генерации продолжений текста и служит базой для создания диалоговых и других прикладных систем. Она обучена на корпусе объёмом 2,6 трлн токенов, преимущественно на китайском и английском языках, с небольшим количеством японских и корейских данных. Версия 32K заявлена разработчиком как поддерживающая длинный контекст; при этом метаданные репозитория указывают native_context_tokens 2048, поэтому фактическую длину контекста этого чекпойнта следует уточнять при настройке. Веса открыты для академических исследований и коммерческого применения; метаданные обозначают лицензию как other.

Bonsai-2-27B-1.75bit-JANG — локальная мультимодальная модель для диалога и рассуждений, опубликованная OsaurusAI. Это плотная условно-генеративная VLM на архитектуре Qwen3.8-27B: 64 блока, включая 48 GatedDeltaNet и 16 блоков полного внимания. Она принимает текст и изображения, поддерживает обработку видео, чат-шаблон с режимом рассуждений и интерфейсом вызова инструментов. Репозиторий содержит JANG-affine-представление тернарных весов исходной модели prism-ml/Ternary-Bonsai-2-27B-mlx-2bit. Текстовые матрицы упакованы с плотностью 1,75 бита на вес; при загрузке они без потерь разворачиваются в 2-битное представление MLX. Указанная в карточке библиотека — MLX, лицензия — Apache-2.0. Модель предназначена для локального диалога, визуальных вопросов и ответов, анализа изображений и видео, рассуждений и сценариев с инструментами. Для корректной работы необходим загрузчик с поддержкой JANG Hadamard и тернарной упаковки: README предупреждает, что стандартные загрузчики mlx_lm и mlx_vlm могут выдавать неверные результаты без явной ошибки. Указана проверка совпадения логитов с тернарным исходником на ограниченном наборе запросов; это не подтверждает качество на широком наборе задач.

Chinese-LLaMA-2-7B-GGUF — это набор моделей в формате GGUF-v3, совместимых с llama.cpp, на основе Chinese-LLaMA-2-7B. Модель разработана командой проекта Chinese-LLaMA-Alpaca-2; README также указывает исходный репозиторий hfl/chinese-llama-2-7b на Hugging Face. Модель предназначена для задач генерации и обработки текста, прежде всего на китайском и английском языках, а формат GGUF позволяет запускать её с использованием llama.cpp. Доступны варианты квантования Q2_K, Q3_K, Q4_0, Q4_K, Q5_0, Q5_K, Q6_K и Q8_0, а также F16. Для некоторых вариантов предусмотрены версии с суффиксом -im, созданные с использованием important matrix и обычно обеспечивающие более высокую производительность. Размер модели — 7B параметров; другие характеристики, включая контекстное окно, архитектурные детали и поддерживаемые модальности, в README не указаны. Основные преимущества — совместимость с llama.cpp, наличие нескольких уровней квантования для выбора компромисса между качеством и ресурсами, а также поддержка китайского и английского языков. Ограничения и качество зависят от выбранного варианта квантования; приведённые значения PPL показывают, что более низкие значения обычно соответствуют лучшему результату. Модель распространяется по лицензии Apache-2.0.

CLIP ConvNeXt-Base с широким размером эмбеддингов — модель сопоставления изображений и текста, обученная Ross Wightman с помощью OpenCLIP на подмножестве LAION. Вариант с «320» в названии использует разрешение изображения 320×320; визуальный энкодер основан на timm ConvNeXt-Base, текстовый — на текстовом энкодере OpenAI CLIP глубиной 12 слоёв с размерностью эмбеддингов 640. Модель предназначена для классификации изображений по произвольным текстовым меткам без дополнительного обучения, поиска изображений по текстовому запросу и поиска текста по изображению. Её также можно использовать как основу для дообучения задач классификации и для управления генерацией изображений. В карточке для соответствующего варианта указана точность ImageNet zero-shot top-1 71,0%. Модель обучалась на англоязычных данных LAION-Aesthetic; README рекомендует ограничивать текстовые сценарии английским языком. Авторы предостерегают от развёртывания без тщательного тестирования на фиксированной таксономии классов; распознавание лиц и наблюдение исключены из рекомендуемых сценариев. Лицензия репозитория — MIT; карточка рекомендует исследовательское применение и описывает риски неотфильтрованных данных LAION.

ColQwen3-VL-Embedding-2B-vdr — мультимодальный многовекторный энкодер, дообученный авторами tomaarsen на базе Qwen/Qwen3-VL-Embedding-2B с использованием Sentence Transformers и набора llamaindex-vdr-en-train-preprocessed из 10 000 примеров. Модель преобразует текст, изображения и видео в последовательности 128-мерных векторов на уровне токенов и оценивает соответствие запросов и документов методом позднего взаимодействия MaxSim. Модель предназначена прежде всего для семантического поиска по визуальным документам и другим мультимодальным данным: она сопоставляет текстовые запросы с изображениями, сохраняя отдельные векторы для токенов вместо сведения всего ввода к одному вектору. Заявленная максимальная длина последовательности — 262 144 токена. В README приведены результаты оценки на vdr-eval-hard, включая maxsim_accuracy@1 0,8467 и maxsim_accuracy@5 0,98. Модель использует библиотеку Sentence Transformers и распространяется в формате Safetensors. Лицензия в предоставленных данных не указана.

Moritz Laurer разработал эту модель на базе DeBERTa-v3-base от Microsoft для классификации текстов методом zero-shot и решения задач логического вывода по тексту (NLI). Модель обучена на 1 279 665 парах «гипотеза — посылка» из восьми наборов данных, включая MultiNLI, Fever-NLI, LingNLI и DocNLI. Она предсказывает два класса: «следует из текста» и «не следует из текста»; в последнем объединены противоречие и нейтральный ответ. Модель подходит для классификации текста по заданным пользователем категориям без отдельного обучения на этих категориях, а также для проверки текстовых гипотез. Обучение на DocNLI помогает работать с длинными текстами и дальними зависимостями, но нативный контекст ограничен 512 токенами. Размер модели — 211,6 млн параметров; доступны веса PyTorch и Safetensors. Основной язык карточки — английский. По опубликованным оценкам точность на тестах MultiNLI составляет 0,935 и 0,933, на Fever-NLI — 0,897, на ANLI — 0,710, на LingNLI — 0,895. Возможны смещения, связанные с обучающими наборами и задачами NLI; автор рекомендует учитывать ограничения исходных исследований. Лицензия — MIT.

Карточка модели TigerByteCyber/deberta-v3-large-zeroshot-v2.0 на Hugging Face совпадает с карточкой MoritzLaurer/deberta-v3-large-zeroshot-v2.0, поэтому описание составлено по ней. Moritz Laurer разработал эту модель для классификации текстов без размечающих примеров. Она дообучена на базе microsoft/deberta-v3-large и использует архитектуру DeBERTa V2 для оценки того, следует ли гипотеза из текста: «верно» или «неверно». Через pipeline Hugging Face этот формат можно применять к разным задачам классификации, задавая формулировки классов и шаблон гипотезы. Модель содержит 533,8 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Её можно запускать на CPU и GPU. В приведённом сравнении она показала более высокую среднюю оценку F1 на 28 задачах классификации, чем указанные модели BART, RoBERTa и базовая DeBERTa, хотя скорость работы ниже, чем у RoBERTa. Карточка отмечает, что формулировки гипотез и названий классов могут влиять на результат. Модель предназначена только для классификации текста. Возможны смещения, унаследованные от базовой модели, данных NLI и синтетических обучающих данных. Лицензия репозитория — MIT; упомянутая в карточке гарантия коммерческой пригодности обучающих данных относится к вариантам с суффиксом «-c», которого в имени этой модели нет.

Echo-DSRN-v0.1.3-Embed-Exp — экспериментальная модель эмбеддингов предложений от ethicalabs на архитектуре Echo-DSRN Recurrent-Hybrid. Она предназначена для вычисления векторных представлений и оценки семантического сходства текстов; в карточке приведены результаты на задачах STS из набора MTEB. Модель содержит 98,26 млн параметров по README и 49,9 млн по метаданным, имеет 8 слоёв, скрытую размерность 512, размер эмбеддинга 2048 и контекст до 2048 токенов. Указана линейная сложность по длине последовательности. Модель обучалась на AllNLI и MTEB STS-B, поддерживаемый язык по карточке — английский. В README отмечено, что результаты бенчмарков воспроизводятся при левом заполнении последовательностей; при пакетной обработке это может влиять на согласованность эмбеддингов. Разработчик обозначает модель как экспериментальную и ограничивает её академической оценкой и исследованиями, без гарантий качества и ответственности за результаты применения. Лицензия в предоставленных данных не указана.

Eklav-9B-Reranker-CotGen — контрольная модель проекта Eklav для ранжирования пассажей, дообученная на базе zai-org/GLM-Z1-9B-0414. Это плотная причинно-языковая модель семейства GLM-4 с 8,8 млрд параметров и контекстом до 32 768 токенов; веса доступны в формате safetensors. Модель обучена методом CotGen в варианте стандартного обучения с учителем на полных цепочках рассуждений и служит базовой линией для оценки улучшений Eklav. Для ранжирования модель получает запрос и пассаж, генерирует рассуждение, завершающееся меткой true или false, а релевантность оценивается по логитам финального токена. В README указаны оценки nDCG@10 на BRIGHT и NevIR. При использовании авторы рекомендуют запуск через vLLM с условием остановки по строке: при генерации с фиксированным лимитом токенов модель иногда продолжает рассуждение на сотни токенов, зацикливается и не выдаёт ответ. Лицензия в предоставленных данных не указана.

ERNIE-4.5-0.3B-PT-GGUF — компактная текстовая языковая модель семейства ERNIE 4.5, разработанная Baidu. Это post-trained causal language model, представленная в формате GGUF и предназначенная для локального запуска и генерации текста с использованием совместимых инструментов, включая llama.cpp. Модель рассчитана на задачи понимания и генерации текста, включая диалоговые сценарии, дополнение текста и краткие информационные ответы. Она поддерживает английский и китайский языки. Архитектура плотная, без MoE; заявлено около 0,36 млрд параметров, 18 слоёв, 16 Q-heads и 2 KV-heads. Максимальная длина контекста составляет 131 072 токена. Модель работает только с текстом и не поддерживает обработку изображений. К сильным сторонам относятся небольшой размер, возможность использования в ресурсно-ограниченных средах и длинный контекст. При этом компактный масштаб модели может ограничивать качество сложного рассуждения, точность и полноту ответов по сравнению с более крупными моделями; в README не приведены результаты бенчмарков и подробные сведения об аппаратных требованиях. Модель распространяется по лицензии Apache 2.0.

EVA02-Large-CLIP — модель сопоставления изображений и текста, опубликованная командой PyTorch Image Models (timm) и доступная через OpenCLIP. Она предназначена для классификации изображений без специального дообучения: модель сравнивает изображение с текстовыми описаниями категорий и оценивает соответствие. Архитектура относится к семейству EVA-02 и CLIP; вариант рассчитан на изображения 224×224 пикселя и использует патч 14×14. Входы — изображения и текст, выходы — оценки сходства, пригодные для ранжирования вариантов или выбора метки. Модель имеет лицензию MIT. Её результат зависит от формулировки текстовых меток и охвата обучающих данных; это не универсальный распознаватель объектов и он может ошибаться на необычных доменах или тонких различиях между категориями.

FOF-80M — компактная модель текстовых эмбеддингов от MaxDevv, дообученная на базе codefuse-ai/F2LLM-v2-80M. Она создаёт представления текста, которые сближают переформулировки с теми же фактами и сильнее разделяют тексты с изменёнными сущностями, числами или другими фактическими деталями. Модель предназначена для сравнения фактического совпадения текстов при изменении стиля, например в проверке версий утверждения или поиске фактически изменённых копий. Архитектура — плотная Qwen3, размер — 66,8 млн параметров, библиотека — sentence-transformers; заявленное контекстное окно — 40 960 токенов. Карточка указывает английский язык, лицензия — Apache-2.0. Модель нечувствительна к различиям в формальности, многословии и риторической подаче, но требует строго двустороннего совпадения фактов. Она плохо подходит для NLI, оценки суммаризации и случаев, где допустим пропуск части информации; исправление опечаток тоже может заметно изменить сходство. Для заявленного качества README рекомендует нормализовать текст перед кодированием. Косинусные оценки сжаты и плохо калиброваны, поэтому предназначены для относительного сравнения пар.

DavidAU разработал эту плотную мультимодальную модель на 12 млрд параметров как дообучение DreamFast/gemma-3-12b-it-heretic на наборе Polaris Alpha с помощью Unsloth. Она предназначена для диалогов, генерации текста с рассуждениями и анализа изображений; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и изображения и выдаёт текст. В карточке указана поддержка английского языка. Автор сообщает о компактных, но подробных рассуждениях, применимых также к обработке изображений, и приводит результаты нескольких бенчмарков. По описанию, модель реже отказывает в запросах, включая запросы на откровенный контент; для желаемой степени эксплицитности иногда требуется прямое указание. Качество зависит от промпта, шаблона чата и параметров генерации. Модель распространяется по лицензии Apache-2.0.

Gemma-3-1b-it-MAX-NEO-Imatrix-GGUF — модифицированная GGUF-версия модели Google Gemma 3 1B Instruct, подготовленная DavidAU. Модель предназначена для генерации текста, диалогов, выполнения инструкций, творческих сценариев и других общих задач обработки текста. Заявлен контекст до 32 000 токенов. Модель использует квантизации GGUF с вариантами от IQ1_S до Q8_0, а также полную точность F16. В вариантах «MAXED» входные embedding- и выходные tensor сохраняются в формате BF16, что должно повышать качество за счёт немного большего размера файлов. «NEO IMATRIX» обозначает применение специального imatrix-набора данных, разработанного автором, для улучшения следования инструкциям, качества вывода и связности идей. Данные о языках и мультимодальных возможностях не указаны. Качество, скорость и требования к памяти зависят от выбранной квантизации. Автор рекомендует IQ3, IQ4XS и IQ4NL для творческих задач, Q5, Q6 и Q8 для общего использования, а Q4_0 и Q5_0 — для портативных и мобильных устройств. Низкие квантизации IQ1 имеют слабую производительность, IQ2 считаются приемлемыми; IQ4XS и IQ4NL могут выдавать результаты, отличающиеся от других вариантов. Для работы могут потребоваться специально подобранные параметры генерации и sampler settings. Модель распространяется по лицензии Apache-2.0.

Это версия Gemma 4 12B в формате SafeTensors, опубликованная пользователем tepirale. Согласно карточке, веса преобразованы из GGUF в SafeTensors; метаданные связывают модель с yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF и классифицируют её как дообученную производную. Модель предназначена для диалоговых сценариев с изображениями; теги также указывают на агентное использование, работу с инструментами и кодом. Архитектура — плотная Gemma4UnifiedForConditionalGeneration, размер семейства — 12B по идентификатору модели. Карточка указывает поддержку изображений и текста, а лицензия в метаданных — Apache-2.0. README сообщает о конверсии формата, но не описывает методику преобразования или проверку сохранности поведения; сведений о контекстном окне и поддерживаемых естественных языках в предоставленных данных нет.

OsaurusAI подготовила производный вариант Google Gemma 4 12B IT QAT в формате MLX MXFP4 для запуска на Apple Silicon. Это плотная мультимодальная модель семейства Gemma 4 с 48 текстовыми слоями: 8 используют full attention, 40 — sliding attention. Линейные слои декодера квантованы в MXFP4 с размером группы 32; эмбеддинги, нормализации и ранние объединяющие медиа-энкодеры сохранены в fp16. Модель предназначена для диалогов и генерации текста по текстовым и визуальным входам; в комплекте также сохранён аудиоэнкодер. Указанный основной сценарий — image-text-to-text, включая анализ изображений. Карточка не подтверждает рабочий путь обработки видео. Доступны интерфейс чата и совместимость с вызовом инструментов в поддерживающих это рантаймах. Для запуска нужен MLX/vMLX с поддержкой Gemma 4 MXFP4; пакет не подходит для GGUF-рантаймов. Модель основана на google/gemma-4-12B-it-qat-q4_0-unquantized. Лицензия и ограничения использования наследуются от условий Gemma.

OsaurusAI подготовила конвертированный MLX-пакет JANG_4M на основе мультимодальной Gemma 4 31B Instruct QAT от Google. Это плотная модель Gemma4ForConditionalGeneration с 60 текстовыми слоями, предназначенная для диалогов, генерации текста и анализа изображений в совместимой среде MLX или vMLX на Apple Silicon. Карточка сохраняет обработку изображений, но не заявляет поддержку аудио для этого варианта. Веса используют смешанную аффинную квантизацию: эмбеддинги, выходная проекция, нормализации и компоненты обработки медиа сохранены в FP16, проекции внимания и маршрутизатор MoE — в 8 битах, а основная часть MLP и экспертов — в 4 битах. Для запуска требуется загрузчик Gemma 4, совместимый с MLX и понимающий параметры quantization, jang_config.json, процессор и шаблон чата. Лицензия — Gemma.

zeromodels/gemma-4-e2b — конверсия Gemma 4 E2B от Google в формате Keras 3, подготовленная для библиотеки zeromodels. Реализация работает с TensorFlow, PyTorch и JAX; веса хранятся в bfloat16. README указывает 5,1 млрд параметров с учётом эмбеддингов и 2,3 млрд эффективных параметров. Модель принимает изображения, аудио и текст и выдаёт текст; доступен текстовый диалоговый интерфейс. Она подходит для ответов на вопросы по изображениям и аудио, а также для обычной генерации текста. В карточке приведены размер окна скользящего внимания — 512 токенов — и примеры загрузки через Keras 3. Язык, явно указанный в метаданных карточки, — английский. Репозиторий заявлен как дообучение google/gemma-4-E2B, однако описанные изменения представлены как Keras-конверсия. Лицензия — Apache 2.0; за подробностями об условиях использования README отсылает к карточке Google Gemma.

Мультимодальная модель семейства Gemma 4, дообученная ersindemirel94 на базе unsloth/gemma-4-E4B-it-unsloth-bnb-4bit. Она предназначена для диалога и генерации текстовых ответов по текстовым и визуальным входным данным. Модель относится к архитектуре Gemma4ForConditionalGeneration и распространяется в формате Safetensors. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки TRL. Для текстовой части заявлена поддержка английского языка. Лицензия — Apache-2.0.

CreitinGameplays/GLM-4.7-Flash-Fable-5-Distill — дообученная диалоговая текстовая модель на базе unsloth/GLM-4.7-Flash. Она предназначена для генерации ответов в чате; карточка также приводит параметры генерации top_k 40, temperature 0.5 и top_p 0.95. Архитектура указана как GLM4 MoE Lite с классом Glm4MoeLiteForCausalLM; размер — 4,1 млрд параметров, формат весов — safetensors, длина контекста — 202 752 токена. Для дообучения перечислены наборы данных TeichAI/Fable-5-Cursor-Traces и armand0e/Fable-5-Chat. Модель опубликована под лицензией Apache-2.0. README отмечает необходимость принудительно задавать специальный токен в шаблоне чата, но название токена в доступном тексте карточки отсутствует.

GLM-4.7-Flash-MLX-8bit — это 8-битно квантованная версия языковой модели GLM-4.7-Flash, разработанной компанией zai-org. Квантование выполнено командой LM Studio с использованием MLX и ориентировано на запуск на устройствах с Apple Silicon. Модель предназначена для генерации текста и доступна в экосистеме Transformers. Модель поддерживает английский и китайский языки и относится к моделям text generation. Ключевое преимущество — оптимизация в формате MLX и 8-битное представление, что делает её подходящей для локального использования на Apple Silicon при сниженных требованиях к памяти по сравнению с полноразмерной версией. В README не указаны точный размер модели, архитектура, длина контекста, мультимодальные возможности и результаты тестирования, поэтому её производительность и область применения нельзя оценить подробнее. Лицензия модели — MIT.

GML-Mistral-merged-v1 — языковая модель, опубликованная mlabonne как попытка воспроизвести zyh3826/GML-Mistral-merged-v1. Это слияние весов quantumaikr/quantum-v0.01 и mncai/mistral-7b-dpo-v5, выполненное с помощью mergekit методом passthrough; модель построена на архитектуре MistralForCausalLM и содержит около 8,9 млрд параметров. Модель предназначена для генерации текста и может использоваться для диалогов, ответов на вопросы и рассуждений на основе текстового запроса. В метаданных указан контекст до 32 768 токенов. README приводит результаты оценки на задачах AI2 Reasoning Challenge и HellaSwag, но не описывает целевые языки или специализированные области применения. Веса доступны в формате safetensors, лицензия — Apache-2.0. Показатели из README относятся к отдельным бенчмаркам и сами по себе не гарантируют качество ответов в прикладных сценариях.

DevQuasar-5/google.gemma-3-4b-pt-GGUF — это квантизированная версия модели Google Gemma 3 4B PT, опубликованная разработчиком DevQuasar. Модель относится к классу image-text-to-text и предназначена для задач, в которых требуется обрабатывать текстовые и визуальные данные и генерировать текстовые ответы. Из доступных данных известно, что модель основана на google/gemma-3-4b-pt и имеет размер около 4 миллиардов параметров. Формат GGUF и квантизация ориентированы на более экономичное локальное использование по сравнению с полной версией модели, однако конкретный тип квантизации, требования к памяти, размер контекста, поддерживаемые языки и точный набор мультимодальных возможностей в README не указаны. Лицензия и условия использования также не приведены, поэтому их следует уточнить в документации базовой модели и конкретной публикации.