I.3Извлечение и структурирование данных

Карточка модели TigerByteCyber/bge-m3-zeroshot-v2.0 на Hugging Face совпадает с карточкой MoritzLaurer/bge-m3-zeroshot-v2.0, поэтому описание составлено по ней. MoritzLaurer/bge-m3-zeroshot-v2.0 — модель нулевой классификации текста, разработанная Moritz Laurer и дообученная на базе BAAI/bge-m3-retromae. Она использует архитектуру XLM-RoBERTa с классификационной головой и определяет, следует ли считать гипотезу истинной или неистинной относительно входного текста; этот формат NLI позволяет формулировать задачу как выбор одной или нескольких меток без обучающих примеров. Модель содержит 658,7 млн параметров, принимает текстовые входы длиной до 8194 токенов и доступна в форматах Safetensors и ONNX. Модель предназначена для классификации отзывов, тем, намерений и других текстов по заданным пользователем категориям на CPU или GPU. В оценке на 28 задачах классификации автор сообщает средний macro-F1 0,59 для zero-shot режима; результаты зависят от формулировок гипотез и меток. Модель поддерживает многоязычные сценарии, хотя README не приводит список конкретных языков. Ограничение модели — работа только с классификацией текста; возможны смещения из базовой модели, данных NLI и синтетических обучающих данных. Лицензия репозитория — MIT.

Xenova/bge-small-zh-v1.5 — это версия модели BAAI/bge-small-zh-v1.5, подготовленная сообществом Xenova для работы в Transformers.js. В репозитории представлены веса в формате ONNX, совместимые с JavaScript-библиотекой Transformers.js и ориентированные на выполнение моделей в веб- и JavaScript-средах. Модель предназначена для извлечения признаков (feature extraction), то есть преобразования текстов в числовые представления, которые могут использоваться в задачах семантического поиска, сопоставления текстов и построения систем на основе эмбеддингов. В README не указаны точные архитектура, количество параметров, размер контекста, поддерживаемые языки, модальности или результаты оценки качества. Сильной стороной является готовность к использованию через Transformers.js и формат ONNX; при этом условия лицензирования и ограничения применения в карточке не указаны.

BitCPM-CANN-8B — языковая модель OpenBMB для генерации текста и диалогов, созданная на основе MiniCPM4-8B с применением обучения с учетом тернарной квантизации. Модель имеет плотную архитектуру MiniCPMForCausalLM, содержит 7,9 млрд параметров и поддерживает контекст до 32 768 токенов. Веса хранятся в стандартном формате PyTorch, но после обучения принимают тернарные значения; для обычного инференса модель загружается через Transformers без специальных библиотек или ядер квантизации. Модель рассчитана на диалоги, генерацию текста и задачи рассуждения. По отчету авторов, модели BitCPM-CANN размером от 1B сохраняют 95,7–97,2% результатов соответствующих полноточных моделей MiniCPM4 на 11 тестах, а тернарное представление позволяет примерно в шесть раз сократить память при инференсе. Эти показатели относятся к оценкам авторов и конкретным бенчмаркам; для модели 8B отдельные результаты по каждой задаче в карточке приведены не полностью. Модель поддерживает китайский и английский языки. Лицензия — Apache-2.0. Возможности и качество следует проверять на целевых задачах, а ответы модели — перепроверять.

Capytessborosyi 34B 200K DARE Ties GGUF — это квантизированная языковая модель для генерации текста, разработанная brucethemoose и преобразованная в формат GGUF пользователем TheBloke. Модель основана на архитектуре Yi и предназначена для работы с текстовыми запросами, включая диалоговые сценарии и локальный запуск через совместимые приложения и библиотеки. Модель имеет размер 34B параметров и заявленный контекст до 200K токенов; в метаданных указан английский язык. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на инференс с использованием CPU и GPU. Формат GGUF поддерживается, в частности, llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Для диалогового взаимодействия в README приведён шаблон Orca-Vicuna с ролями SYSTEM, USER и ASSISTANT. К сильным сторонам относятся большой заявленный контекст, широкий выбор уровней квантизации и возможность локального запуска на различном оборудовании. К ограничениям относятся возможное снижение качества по сравнению с исходной неквантизированной версией при использовании агрессивной квантизации, а также отсутствие в README результатов тестирования и подробного описания специализации модели. Распространение регулируется лицензией yi-license; ссылка ведёт на лицензию исходной модели Yi-34B.

CLIP ViT-L/14 — мультимодальная модель семейства CLIP, обученная LAION с помощью OpenCLIP на англоязычной подвыборке из 2 млрд пар данных LAION-5B. В карточке указано, что обучение проводил Росс Уайтман на суперкомпьютере JUWELS Booster. Модель принимает изображения и текстовые описания и сопоставляет их в общем пространстве признаков; основная задача в каталоге — классификация изображений без примеров обучения по текстовым меткам. Её также применяют для поиска изображений по тексту и текста по изображению, линейной классификации и как компонент конвейеров генерации изображений. Для ImageNet-1k заявлена точность zero-shot top-1 75,3%. Модель обучалась на английских данных и не предназначена для сценариев на других языках. Авторы рекомендуют ограничивать применение исследованиями; развёрнутые сценарии и использование без тщательной проверки на фиксированной таксономии не рекомендуются. Применение для наблюдения и распознавания лиц исключено из допустимых сценариев. Лицензия — MIT.

Это GGUF-квантизированная версия языковой модели Kevin-32B, разработанной cognition-ai и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. Доступны варианты от BF16 до низкоразрядных квантов, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. В основе лежит модель Kevin-32B с 32 миллиардами параметров. В README не указаны архитектура исходной модели, поддерживаемые языки, длина контекста и мультимодальные возможности, поэтому эти характеристики нельзя достоверно определить. Формат prompt предполагает шаблон с ролями system, user и assistant, а также секцией <think>. Более высокие варианты квантования, такие как Q6_K_L, Q6_K и Q5_K, заявлены как обеспечивающие очень высокое или высокое качество, тогда как Q3 и Q2-варианты экономят память за счёт заметного снижения качества. Сильная сторона сборки — широкий выбор квантов и совместимость с локальным инференсом через llama.cpp, включая запуск на устройствах с ограниченными ресурсами. Ограничения связаны с потерями качества при использовании низкоразрядных вариантов, значительным размером файлов и отсутствием в README сведений о лицензии, результатах тестирования и точных требованиях к оборудованию. Условия использования исходной модели и квантованных файлов не указаны.

newmindai/ColmmBERT-small-TR — модель PyLate на базе ModernBERT, дообученная на турецком наборе msmarco-tr для поиска и ранжирования текстов. Она кодирует запросы и документы в последовательности плотных векторов размерности 128 и оценивает их сходство оператором MaxSim. Модель подходит для семантического поиска по индексам FastPLAID и для переранжирования результатов первичного поиска. В архитектуре ColBERT используется трансформер ModernBertModel и линейный слой проекции с 384 до 128 измерений. В README заданы длина запроса 32 токена и длина документа 180 токенов; метаданные указывают контекст до 8192 токенов и 140,5 млн параметров. Модель рассчитана на турецкий язык. Распространяется в формате safetensors; лицензия в предоставленных данных не указана.

TheCluster/Darwin-35B-A3B-Opus-MLX-bf16 — конвертированная в формат MLX версия модели FINAL-Bench/Darwin-35B-A3B-Opus. Она создана на архитектуре Qwen3.5 MoE с гибридом Gated DeltaNet и Mixture of Experts: всего 35 млрд параметров, из которых при одном проходе активны около 3 млрд. Модель принимает текст и изображения и предназначена для диалоговой работы с визуальным и текстовым содержимым. Модель поддерживает многоязычные сценарии, в том числе английский, китайский и русский. Репозиторий использует веса safetensors в формате bf16 и библиотеку MLX; исходная модель преобразована с помощью mlx-vlm 0.4.4. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия инструкционной модели LlamaThink-8B-instruct, разработанной DavidBrowne17 и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через LM Studio, llama.cpp и другие совместимые проекты на базе llama.cpp. В README также приведён специальный шаблон prompt с системными и пользовательскими сообщениями. Модель имеет размер 8B параметров; конкретная архитектура, поддерживаемые языки, модальности и размер контекстного окна не указаны. Доступны варианты квантования от Q8_0 до Q2_K_L, с размером файлов примерно от 3,69 до 8,54 ГБ. Более высокие варианты квантования обеспечивают лучшее качество, тогда как менее точные требуют меньше оперативной памяти; рекомендуемым вариантом общего назначения назван Q4_K_M, а Q6_K и Q6_K_L характеризуются как варианты очень высокого качества. Основное преимущество этой версии — возможность локального запуска при выборе подходящего уровня квантования и аппаратных ресурсов. Ограничения связаны с потерями качества на низких уровнях квантования, а также с отсутствием в предоставленных данных подробных сведений о результатах оценки, языках и фактических возможностях модели. Лицензия — Apache-2.0.

Dazzling-Star-Aurora-32b-v0.0-Experimental-1130 — текстовая разговорная модель на 32 млрд параметров, созданная автором карточки слиянием моделей EVA-Qwen2.5-32B-v0.2 и Qwen2.5-32B-ArliAI-RPMax-v1.3 на базе Qwen2.5-32B. Для объединения применён метод TIES; веса представлены в формате safetensors, а карточка описывает шаблон диалога ChatML. Модель предназначена для генерации текста в диалогах и других сценариях, где нужны ответы на запросы пользователя. Метаданные указывают контекстное окно до 131072 токенов, а также интерфейс для вызова инструментов. В карточке автор отмечает, что создал слияние как личный эксперимент и предлагает попробовать модель, но не приводит результатов оценки качества. Условия использования определяются лицензией базовой модели и компонентов слияния; в предоставленных данных лицензия не указана.

Moritz Laurer разработал deberta-v3-base-zeroshot-v1.1-all-33 для классификации текстов без заранее заданного набора меток. Модель преобразует задачу в проверку гипотезы: следует ли из текста заданное утверждение; результат относится к классам entailment и not_entailment. Это позволяет задавать собственные категории и формулировки через шаблоны гипотез. Модель основана на DeBERTa-v3-base с архитектурой DeBERTa-v2 для классификации последовательностей, содержит 211,6 млн параметров и обрабатывает контекст до 512 токенов. Обучение проводилось на английских данных: пяти наборах NLI и 28 задачах классификации, преобразованных в общий формат, всего с 387 классами. Её можно применять для тональности, тематики, эмоций, токсичности, спама и других текстовых категорий. Несмотря на универсальный формат, модель предназначена только для классификации текста и обучена только на английском языке; для других языков автор рекомендует переводить текст на английский. Для части обучающих задач использовалось до 500 примеров на класс, поэтому показатели на этих наборах не отражают полностью сценарий классификации без примеров. Возможны смещения, унаследованные от обучающих данных. Модель доступна под лицензией MIT; для работы используются Transformers и SentencePiece, а старые версии Transformers могут вызывать ошибки токенизатора.

DeepSeek-R1-Distill-Qwen-1.5B-GGUF — это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Qwen-1.5B, разработанной deepseek-ai и подготовленной для квантизации компанией Second State Inc. Модель предназначена для генерации текста в диалоговых приложениях и локального запуска через LlamaEdge, включая режимы API-сервиса и командного чат-приложения. В README также указана совместимость с библиотекой transformers. Модель основана на архитектуре Qwen и содержит 1,5 млрд параметров. Она поддерживает текстовый ввод и вывод, использует шаблон запросов ChatML и контекст размером до 32 000 токенов. Доступны варианты GGUF с квантизацией от 2 до 16 бит и размером файлов примерно от 753 МБ до 3,56 ГБ. Варианты с более низкой разрядностью экономят память, но сильнее теряют в качестве; Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые для баланса размера и качества. Основные преимущества модели — компактный размер, возможность локального запуска и широкий выбор уровней квантизации. Ограничения включают снижение качества при агрессивной квантизации и отсутствие в README сведений о поддерживаемых языках, результатах тестирования и специализированных сценариях применения. Модель распространяется по лицензии MIT.

DeepSeek-R1-Distill-Qwen-1.5B-heretic — модифицированная версия DeepSeek-R1-Distill-Qwen-1.5B, опубликованная пользователем saidutta69. Модель создана с помощью Heretic v1.4.0 методом направленной абляции: целевые изменения весов в выходных проекциях attention и down-проекциях MLP подавляют поведение, связанное с отказами, без дообучения. Основой служит модель deepseek-ai, построенная на архитектуре класса Qwen2.5; размер модели — около 1,8 млрд параметров. Указан английский язык, задача — генерация текста и рассуждения с пошаговыми reasoning-трассами. Модель предназначена для разработчиков, которым нужны возможности дистиллированной DeepSeek-R1 без встроенных отказов, включая локальный запуск на CPU и потребительском оборудовании. Она поддерживает форматы GGUF и запуск через llama.cpp, Ollama, LM Studio, Jan, vLLM, SGLang и Transformers. Ключевое преимущество — компактность: квантованные варианты занимают примерно от 718 МБ до 1,76 ГБ, а рекомендованный Q4_K_M — около 1,04 ГБ. При этом README подчёркивает, что это не улучшение базовой модели, а её вариант с удалёнными защитными ограничителями. Ограничение модели заключается в намеренном подавлении отказов: она может выполнять запросы, от которых базовая модель отказалась бы, в том числе потенциально нежелательные, и не содержит дополнительной системы фильтрации безопасности. Ответственность за применение и развёртывание лежит на пользователе. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

Apple DFN5B-CLIP-ViT-H-14 — контрастивная модель CLIP, обученная на наборе DFN-5B и опубликованная Apple. Она сопоставляет изображения и текст в общем пространстве представлений, поэтому подходит для классификации изображений без дополнительного обучения по текстовым описаниям классов и для поиска изображений по тексту. Модель обучали на 5 млрд изображений, отфильтрованных из 43 млрд пар изображение–текст; в обучении было обработано 39 млрд примеров. В карточке приведены результаты на ImageNet-1k, Caltech-101 и CIFAR-10. Это плотная модель архитектуры CLIP с визуальным энкодером ViT-H/14. Веса переведены из исходных контрольных точек JAX в PyTorch и напрямую применимы через OpenCLIP для обработки изображений и текста. Лицензия — Apple AMLR.

DIMI Embedding — модель эмбеддингов предложений, разработанная AhmedZaky1 на основе AraBERTv0.2-base и дообученная для арабского Natural Language Inference с использованием Matryoshka Representation Learning. Она создаёт векторные представления арабских текстов размером 768, 512, 256, 128 или 64 измерения; в README также описана бинарная классификация отношений «следование» и «противоречие». Модель подходит для оценки смыслового сходства, семантического поиска, извлечения релевантных документов и получения признаков для последующих NLP-задач на арабском языке. Архитектура — BERT; размер модели составляет 162,4 млн параметров, библиотека — Sentence Transformers, максимальная длина контекста — 512 токенов. README сообщает результаты проверки на задаче NLI и заявляет, что сокращённые векторы сохраняют качество, однако эти показатели относятся к описанным автором экспериментам. Модель распространяется по лицензии Apache-2.0.

kwondw/distilbert-base-uncased-msmarco-margin-mse-mnrl-100 — англоязычная модель Sentence Transformers, дообученная автором на основе distilbert/distilbert-base-uncased для поиска по текстам. Она кодирует предложения и абзацы в плотные векторы размерности 768; близость оценивается скалярным произведением. Архитектура включает DistilBERT и усредняющий слой пулинга. README указывает максимальную длину последовательности 300 токенов, а метаданные — контекст до 512 токенов. Модель предназначена для извлечения эмбеддингов и поиска релевантных текстов, включая семантический поиск и retrieval. В README приведены результаты оценки на NanoMSMARCO, однако показатели dot_accuracy@1, @3 и @5 низкие, поэтому качество для практического поиска следует проверять на целевых данных. Также указано, что обучение проводилось на наборе из 100 примеров. Модель принимает текст и выдаёт векторы. Распространяется по лицензии Apache-2.0.

TehVenom/Dolly_GPT-J-6b — объединённая модель на основе GPT-J-6B и LoRA-адаптера Dolly, опубликованная для использования возможностей Dolly без зависимости от PEFT. Она предназначена для генерации текста по инструкциям и диалоговых запросов, в сценариях, похожих на Alpaca, но на базе GPT-J вместо LLaMA. В карточке указано, что LoRA обучена samwit на очищенной версии датасета Alpaca; архитектура — плотная авторегрессионная GPT-J, формат весов — PyTorch, контекст — 2048 токенов. Автор README отмечает, что качество модели хорошее, но уступает Alpaca, связывая это с меньшим объёмом предварительного обучения GPT-J-6B по сравнению с LLaMA 7B. Поддерживаемые языки отдельно не указаны. Лицензия в предоставленных данных не указана.

dolphin-2.9.2-qwen2-7b-GGUF — это квантизированная версия языковой модели dolphin-2.9.2-qwen2-7b, опубликованной cognitivecomputations. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF для локального запуска через совместимые средства инференса, включая llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев. В README указан шаблон сообщений с ролями system, user и assistant, поэтому её можно применять для интерактивных ассистентов и других задач text-generation. В основе лежит архитектура Qwen2 с 7 млрд параметров, однако сведения о поддерживаемых языках, размере контекста и мультимодальности не приведены. Доступны различные уровни квантизации, позволяющие выбирать компромисс между качеством, размером файла и скоростью работы в зависимости от объёма RAM и VRAM. K-квантизации проще выбирать, а I-квантизации могут обеспечивать лучшие характеристики при небольшом размере в некоторых конфигурациях, но имеют ограничения совместимости: в частности, I-квантизации не поддерживаются сборками Vulkan. Лицензия в README не указана.

DUSUNEN Nokta 68M v1 — компактная модель Göktuğ Düşünen для восстановления пунктуации и правильного регистра в турецком тексте. Она объединяет обе задачи в одной модели DistilBERT для классификации токенов: за один проход предсказывает совместные метки пунктуации и регистра. Базовая модель — dbmdz/distilbert-base-turkish-cased; в чекпойнте 68,1 млн параметров, контекст — до 512 токенов по метаданным. Репозиторий содержит веса Safetensors и экспорт ONNX в FP32; автор проверил совпадение предсказаний ONNX и PyTorch на тестовых примерах. Модель подходит для восстановления знаков препинания и регистра в результатах распознавания речи, субтитрах, поисковых транскриптах, чатах и турецких документах. В тестах автор сообщает macro F1 70,43% для пунктуации и 86,98% для регистра. Модель обучена на веб-текстах, поэтому пунктуация спонтанной речи и предметных областей может отличаться от её предсказаний; трудности также возможны с именами, брендами, смешанными языками, URL и необычным регистром. Для юридических, медицинских и других важных документов требуется проверка человеком. Лицензия модели — MIT; использованный корпус Cosmos Turkish Corpus v1.0 распространяется по CC BY 4.0.

chungimungi/ettin-glint-kd — текстовый многовекторный энкодер на архитектуре ModernBERT, обученный с помощью библиотеки Sentence Transformers. Модель преобразует текст в последовательность векторов размерности 128 на уровне токенов и сопоставляет запросы с документами методом позднего взаимодействия MaxSim. Модель предназначена для семантического поиска, где важно учитывать соответствия между отдельными частями запроса и документа. Максимальная длина последовательности в README — 300 токенов для документа и 32 токена для запроса; метаданные указывают контекст до 7999 токенов. Модель содержит 16,8 млн параметров и распространяется в формате safetensors. README сообщает об обучении на наборе parquet из примерно 1 046 009 примеров с запросами, документами и оценками. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют.

FableOpus-9B-Delta-GGUF — это набор GGUF-квантизаций модели FableOpus-9B-Delta, разработанной bingleai и преобразованной в GGUF пользователем mradermacher. Модель относится к семейству Qwen и связана с тегами qwen3.5, fable-5, claude-opus, distillation и merge. В метаданных указан английский язык и библиотека Transformers. Основное назначение модели — локальный запуск в совместимых средах, поддерживающих формат GGUF. Доступны варианты с разным уровнем квантизации: от Q2_K размером около 3,9 ГБ до Q8_0 размером около 9,6 ГБ, а также версия f16 размером около 18 ГБ. В README также представлены мультимодальные дополнения mmproj-Q8_0 и mmproj-f16, однако конкретные поддерживаемые типы входных данных и возможности мультимодальной работы не описаны. Сильная сторона набора — широкий выбор компромиссов между размером, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант с очень хорошим качеством, а Q8_0 — как вариант с лучшим качеством среди указанных. Ограничения включают отсутствие описания архитектуры, числа параметров, контекстного окна, точных возможностей и результатов оценки; weighted/imatrix-квантизации на момент публикации не заявлены. Модель и квантизации распространяются по лицензии Apache-2.0.

Это дообученная модель генерации текста на архитектуре Qwen3ForCausalLM, созданная Ermias Azarkhalili на базе microsoft/FastContext-1.0-4B-RL. Модель содержит около 3,7 млрд параметров и поддерживает контекст до 262 144 токенов; карточка также описывает обучение с учителем на наборе дистилляции рассуждений Claude, выполненное с помощью LoRA и Unsloth. Метаданные указывают интерфейсы чата и вызова инструментов. Модель предназначена для диалоговой генерации ответов и следования инструкциям, в том числе для сценариев с длинным контекстом и задач рассуждения. Оценка по прикладным бенчмаркам не проводилась, поэтому качество на пользовательских задачах не подтверждено. Дообучение выполнено на одном наборе инструкций, и поведение за его пределами не проверено; модель наследует смещения, ограничения знаний и ошибки базовой модели. Лицензия в предоставленных данных не указана.

Это конверсия модели распознавания речи Whisper medium от OpenAI в формат CTranslate2, подготовленная для запуска через CTranslate2 и проекты на его основе, включая faster-whisper. Модель принимает аудио и преобразует речь в текст; её можно использовать для транскрибации аудиозаписей и интеграции распознавания речи в приложения на faster-whisper. Веса сохранены в FP16; при загрузке можно выбрать другой compute_type. Репозиторий не описывает отдельное дообучение: это конверсия openai/whisper-medium. Модель распространяется по лицензии MIT. Карточка этой конверсии не приводит подробностей об ограничениях качества; поддерживаемые языки и возможности исходного Whisper medium здесь отдельно не описаны.

Systran публикует конверсию модели распознавания речи OpenAI Whisper medium.en в формат CTranslate2. Её можно использовать через CTranslate2 и совместимые проекты, включая faster-whisper, для преобразования английской речи в текст. Весовые параметры сохранены в FP16; при загрузке через CTranslate2 можно выбрать другой тип вычислений. Репозиторий предназначен для автоматического распознавания речи на английском языке. Модель использует лицензию MIT. Карточка описывает конверсию весов, а не новое обучение; подробности об исходной архитектуре и ограничения предлагается смотреть в карточке OpenAI Whisper medium.en.

Fun-ASR-Nano-2512 — модель автоматического распознавания речи, разработанная командой FunAudioLLM в Tongyi Lab. Репозиторий bezzam/Fun-ASR-Nano-2512-hf содержит вариант модели для Transformers; исходная модель построена как система ASR на основе аудиоэнкодера и языковой модели-декодера, включает около 800 млн параметров и распространяется под лицензией Apache-2.0. Модель преобразует речь в текст, поддерживает китайский, английский и японский языки, китайские диалекты и региональные акценты, а также распознавание пения и рэпа. Разработчик указывает сценарии распознавания в шумной обстановке и потоковой транскрипции с низкой задержкой. Карточка HF отмечает ограничение текущего HF-чекпойнта: для транскрипции он пригоден, но путь CTC отключён, поэтому временные метки и диаризация могут быть недоступны или ненадёжны.

mlx-community/functiongemma-270m-it-bf16 — преобразованная в формат MLX версия компактной текстовой модели Google FunctionGemma 270M Instruct. Она построена на плотной архитектуре Gemma 3 и предназначена для генерации текста в диалогах, включая сценарии вызова функций и создания специализированных локальных агентов после дообучения. Модель содержит 257 млн параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors для использования с библиотекой MLX. Лицензия — Gemma. Карточка описывает конвертацию исходной модели google/functiongemma-270m-it; отдельные сведения о дополнительном дообучении этой версии отсутствуют.

Это набор квантованных моделей в формате GGUF для Gemma 2 2B IT, разработанной Google. Репозиторий подготовлен MaziyarPanahi и содержит варианты квантования от 2 до 8 бит на основе исходной модели google/gemma-2-2b-it. Модель предназначена для генерации текста и локального использования в приложениях, поддерживающих GGUF. Она может применяться через llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие совместимые инструменты, включая серверы с OpenAI-совместимым API. Формат GGUF и квантование позволяют выбирать компромисс между размером файлов, требованиями к ресурсам и качеством вывода. Из README известны архитектура семейства Gemma 2 и размер исходной модели — 2 млрд параметров. Сведения о поддерживаемых языках, размере контекста, конкретных характеристиках отдельных квантованных вариантов, результатах тестирования и ограничениях исходной модели не указаны. Лицензия в README также не указана; условия использования следует уточнять в документации Google для Gemma.

ThomasBaruzier/gemma-2-2b-it-GGUF — набор GGUF-квантизаций instruction-tuned модели Gemma 2 2B от Google, подготовленный с использованием llama.cpp и метода imatrix. Это текстовая decoder-only языковая модель с открытыми весами, предназначенная для генерации текста и диалоговых сценариев. Модель подходит для ответов на вопросы, суммаризации, рассуждений и других задач генерации текста, включая локальное развертывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Указан английский язык; модальность — текстовая. Репозиторий содержит варианты от IQ1_S до F16, различающиеся размером, качеством и требованиями к памяти: примерно от 794 МБ до 4,99 ГБ. Для квантизации использованы llama.cpp и калибровочный файл Bartowski; приведённые результаты показывают компромисс между размером и точностью. К сильным сторонам относятся компактность, возможность локального запуска и наличие множества вариантов квантизации. Ограничения включают снижение качества в более агрессивно сжатых вариантах, англоязычную специализацию и отсутствие в README точных данных о длине контекста, полной архитектуре и целевых аппаратных требованиях. Использование регулируется лицензией Gemma и условиями Google; для доступа к модели на Hugging Face требуется принять соответствующую лицензию.

OsaurusAI подготовила вариант Google Gemma 4 26B A4B Instruct для MLX: веса линейных слоёв декодера квантизированы в MXFP4 с размером группы 32, а эмбеддинги, нормализации и ранние мультимодальные энкодеры сохранены в FP16. Модель основана на Gemma4ForConditionalGeneration с 30 текстовыми слоями: пять используют полное внимание, остальные — скользящее. Модель принимает текст и изображения и предназначена для диалогов, ответов на вопросы по изображениям и других задач мультимодальной генерации текста. В комплект входят шаблон диалога Gemma 4 и интерфейс выбора инструментов; для запуска требуется совместимая среда MLX/vMLX на Apple Silicon. README не подтверждает рабочий путь обработки аудио или видео. Это производный квантованный вариант Google Gemma 4 QAT; лицензия и ограничения использования наследуются от условий Gemma. Формат пакета — safetensors для MLX, он не предназначен для загрузки средствами GGUF.

Это GGUF-квантизированная версия модели llmfan46/gemma-4-26B-A4B-it-uncensored-heretic, разработанная независимым автором llmfan46 на основе google/gemma-4-26B-A4B-it. Модель создана с использованием Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA) для уменьшения отказов и ограничений в ответах при сохранении близкого к исходной модели поведения. В карточке указана конфигурация 26B-A4B и мультимодальный pipeline image-text-to-text, однако точные сведения об архитектуре, поддерживаемых языках и максимальной длине контекста не приведены. Модель предназначена для генерации текста и ответов на запросы, а также, согласно заявленному pipeline, для сценариев, связанных с обработкой изображений и текста. По данным автора, в тесте PIQA она показала точность 91,73% против 92,06% у исходной модели, а в MMLU — 80,81% против 82,48%. При этом число отказов в используемом тесте снизилось до 11 из 100 против 100 из 100 у оригинала, а KL-дивергенция составила 0,0468. Это указывает на более свободное поведение, но также на некоторое ухудшение качества в отдельных тестах и на отсутствие стандартных ограничений безопасности. Доступны варианты GGUF в форматах BF16, Q8_0, Q6_K, Q5_K_M и Q5_K_S, различающиеся соотношением качества, размера и требований к ресурсам; автор рекомендует Q8_0 как почти неотличимый от полной точности. Модель распространяется по лицензии Apache 2.0. Поскольку это модификация исходной Gemma с уменьшенными отказами, при использовании следует самостоятельно оценивать надежность ответов, безопасность и соответствие требованиям конкретного сценария.