I.3Извлечение и структурирование данных

Это компактная Sentence Transformer модель на базе google/bert_uncased_L-2_H-128_A-2, дообученная автором для сравнения предложений и поиска по смыслу. Архитектура включает BERT с усредняющим pooling и формирует плотные векторы размерности 128; для оценки близости используется косинусное сходство. Модель принимает текст, поддерживает последовательности длиной до 512 токенов по метаданным; в README заявлен предел 128 токенов. Модель предназначена для получения эмбеддингов предложений и абзацев, семантического поиска и извлечения релевантных текстов. Базовая модель компактна и англоязычна, а обучение проводилось на парах текстов с оценками сходства. Файлы представлены в формате safetensors. Условия лицензирования в предоставленных источниках не приведены.

Это англоязычная модель Sentence Transformer, дообученная автором репозитория на базе BAAI/bge-base-en-v1.5. Она преобразует предложения и абзацы в нормализованные плотные эмбеддинги размерности 768 для семантического поиска и извлечения релевантных фрагментов; сходство можно оценивать косинусной мерой. Архитектура включает BERT, pooling по CLS-токену и нормализацию. Модель принимает только текст, поддерживает контекст до 512 токенов и содержит 136,7 млн параметров. Модель подходит для поиска релевантных документов и passages, сравнения предложений и построения retrieval-компонента RAG. README приводит оценку InformationRetrievalEvaluator: cosine_accuracy@1 — 0,4435, @3 — 0,6532 и @5 — 0,7316; обучение проводилось на наборе из 6 857 пар предложений. Указана лицензия базовой модели не предоставлена в доступных данных, поэтому условия использования определить нельзя.

Rajatrc1705 дообучил англоязычную модель эмбеддингов BAAI/bge-small-en на датасете sentence-transformers/hotpotqa. Это Sentence Transformer на архитектуре BERT с 40 млн параметров, который преобразует предложения и абзацы в плотные векторы размерностью 384; для сравнения текстов используется косинусное сходство. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и оценки сходства текстов, а также может использоваться для поиска перефразировок, кластеризации и классификации текстов. Обучение на HotpotQA ориентирует её на сопоставление вопросов с релевантными фрагментами текста. Доступны варианты представления размерностью 256, 128 и 64 с близкими результатами в приведённых в карточке тестах TripletEvaluator. Модель принимает текст и выдаёт векторы признаков. Она рассчитана на английский язык и не заявлена как мультиязычная. Распространяется по лицензии Apache-2.0.

meet5568/bhash_finetune_phaseB_v2 — модель Sentence Transformer на архитектуре BERT, обученная для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для оценки семантического сходства, семантического поиска и других задач сопоставления текстов. Модель использует mean pooling и косинусное сходство; обучалась с TripletLoss на наборе из 3 200 примеров. Максимальная длина последовательности по README — 400 токенов, а метаданные указывают контекст до 512 токенов. Векторы модели можно применять для поиска перефразировок, кластеризации текстов и классификации на основе эмбеддингов. Указанные сценарии предполагают текстовый ввод и векторный вывод. Язык обучающих данных и специализация по конкретным предметным областям в карточке не раскрыты. Лицензия в предоставленных данных не указана.

nayan06/buy-others1 — модель Sentence-Transformers на базе MPNet, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 768. Полученные представления можно применять для семантического поиска и кластеризации текстов. В README указано обучение с функцией потерь CosineSimilarityLoss; репозиторий содержит веса PyTorch, объём модели — 136,7 млн параметров, контекст — до 514 токенов. Модель подходит для задач сравнения смысловой близости текстов и построения эмбеддингов. В README не названы разработчик исходной архитектуры, обучающие данные, поддерживаемые языки и лицензия, поэтому эти характеристики нельзя уточнить по доступным сведениям.

c4ai-command-r-plus-08-2024-GGUF — это квантизированная версия языковой модели c4ai-command-r-plus-08-2024, разработанной CohereForAI и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для задач генерации и обработки текста, включая диалоговые сценарии, ответы на вопросы и работу с многоязычными запросами. В README указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Модель распространяется в нескольких вариантах квантизации GGUF с разрядностью от 2 до 5 бит и размером файлов примерно от 15,9 до 39,5 ГБ; некоторые варианты состоят из нескольких частей. Q4_K_M обозначен как рекомендуемый сбалансированный вариант, тогда как более низкие уровни квантизации сопровождаются заметной потерей качества. В README также приведён контекст 128000 токенов и шаблон prompt типа chatml, однако соответствующие инструкции помечены как закомментированные, а поддержка запуска через LlamaEdge указана как находящаяся в разработке. К сильным сторонам относятся широкий набор поддерживаемых языков и возможность запуска в компактных квантизированных форматах, уменьшающих требования к памяти по сравнению с полноразмерной моделью. Ограничения связаны с потерей качества при агрессивной квантизации, значительным размером даже наиболее компактных файлов и отсутствием в README подробностей об архитектуре, числе параметров, мультимодальности и подтверждённых характеристиках производительности. Лицензия модели — CC BY-NC 4.0, допускающая использование с ограничениями, включая некоммерческий характер применения.

Carnice-V3-27b-Pollard — это квантизированная версия модели Carnice-V3, разработанной kai-os и подготовленной PollardWeights с использованием метода Pollard Weights. Модель предназначена для диалоговых и универсальных задач генерации текста, а также поддерживает мультимодальные сценарии с изображениями при подключении отдельного визуального проектора. Она распространяется в формате GGUF и совместима с llama.cpp, ik_llama.cpp, Ollama, LM Studio и другими совместимыми приложениями. Модель содержит около 27,4 млрд параметров и использует архитектуру qwen3_5. В карточке указана поддержка английского языка; базовая модель заявлена как текстовая, а обработка изображений доступна через проектор mmproj-Carnice-V3-BF16.gguf, который необходимо загрузить отдельно. Основной вариант PollardMix IQ3_S занимает 12,08 ГБ вместо примерно 54,72 ГБ в формате f16; также доступны варианты IQ4_XS и Q6_K с большим размером и потенциально более высокой точностью. Распределение битов выполняется по чувствительности отдельных слоёв, а не равномерно. Для IQ3_S указаны perplexity 7,88 и производительность около 6,9 токена в секунду, однако скорость зависит от оборудования. Сильной стороной модели является существенное снижение требований к памяти при сохранении единого набора весов и совместимости со стандартной экосистемой GGUF. Ограничения включают потерю точности из-за квантизации, зависимость производительности от оборудования и необходимость ik_llama.cpp для некоторых вариантов Trellis; для мультимодального режима требуется отдельный BF16-проектор. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Claude OSS 9B — независимая open-source языковая модель, разработанная автором squ11z1. Это неофициальный продукт Anthropic: модель дообучена на базе Qwen/Qwen3.5-9B с использованием открытых датасетов, общий объём которых составляет примерно 200 000 строк. Модель предназначена для общего диалога и работы в формате ассистента, многоязычного общения, задач на рассуждение, написания и суммаризации текстов, лёгкой помощи в программировании и поддержания согласованного поведения и идентичности ассистента. Заявлена поддержка более 200 языков. Модель работает с текстом и относится к классу instruction-tuned conversational моделей для генерации текста. Ключевые характеристики включают размер около 9 млрд параметров и архитектурную основу Qwen3.5-9B; точное устройство архитектуры и размер контекстного окна в README не указаны. Обучение было сфокусировано на следовании инструкциям, диалогах, многоязычных запросах, сохранении способности к рассуждению и общей практической полезности. Ограничения включают отсутствие подробных независимых результатов оценки, неизвестные значения контекстного окна и отсутствие заявленной поддержки мультимодальных входов. Модель распространяется по лицензии Apache-2.0.

Citaman/command-r-9-layer — объединённая текстовая модель, созданная автором репозитория с помощью mergekit из срезов Citaman/command-r-10-layer методом SLERP. Это плотная авторегрессионная архитектура Cohere с 9,5 млрд параметров; метаданные также указывают поддержку диалога и интерфейса вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и работу с инструментами. Контекст — до 8192 токенов; вход и выход — текст. Репозиторий содержит веса в формате safetensors. Модель опубликована под лицензией, сведения о которой не представлены в предоставленных данных.

Модель teven/cross_all_bs192_hardneg_finetuned_WebNLG2020_data_coverage — модель Sentence-Transformers на архитектуре MPNet, разработанная пользователем teven. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и кластеризации. Модель содержит 136,7 млн параметров и принимает текст; контекст составляет до 514 токенов. Репозиторий содержит веса PyTorch. Сведения о лицензии и конкретных языках в предоставленных данных отсутствуют.

teven/cross_all_bs192_hardneg_finetuned_WebNLG2020_metric_average — текстовая модель на базе MPNet, дообученная для сопоставления предложений и абзацев. Она преобразует текст в плотные векторы размерностью 768 и предназначена для поиска семантически близких фрагментов, кластеризации и оценки сходства. Модель содержит 136,7 млн параметров, принимает последовательности длиной до 514 токенов и распространяется в формате PyTorch. Модель подходит для семантического поиска, группировки похожих текстов и сравнения предложений по смыслу. Для корректного использования в Transformers требуется применить соответствующую операцию pooling к контекстным представлениям токенов; README также описывает применение через Sentence-Transformers. Лицензия и поддерживаемые естественные языки в предоставленных данных не установлены.

michaelfeil/ct2fast-LaBSE — версия модели LaBSE, подготовленная для быстрого инференса через CTranslate2. Это BERT-энкодер предложений, разработанный Google: модель строит многоязычные эмбеддинги предложений и подходит для поиска соответствий между текстами на разных языках. Исходная LaBSE обучалась для 109 языков с использованием masked language modeling и translation language modeling. Вариант CTranslate2 предназначен для снижения потребления памяти и ускорения инференса на CPU или GPU; в README заявлено сокращение памяти в 2–4 раза при использовании int8. Размер модели — около 498,1 млн параметров, длина контекста — 512 токенов. Репозиторий указывает лицензию Apache-2.0. Метаданные включают языковые теги для 60 языков, а карточка описывает исходную LaBSE как модель для 109 языков.

DeepSauerHuatuoSkywork-R1-o1-Llama-3.1-8B — объединённая языковая модель, собранная grimjim с помощью mergekit. В основе лежит meta-llama/Llama-3.1-8B; в слияние также включены SauerHuatuoSkywork-o1-Llama-3.1-8B с весом 0,9 и DeepSeek-R1-Distill-Llama-8B с весом 0,1. Использован метод task arithmetic, итоговые веса сохранены в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев, где полезны рассуждения и следование инструкциям. Она содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка приводит результаты оценивания на IFEval и BBH, однако не описывает языки, на которых модель проверена. Лицензия — llama3.1; её условия следует учитывать при использовании и распространении модели.

Многоязычная модель эмбеддингов предложений, разработанная Lucas Wun Yu CHAN на основе DeepSeek-R1-Distill-Qwen-1.5B. Она использует плотную архитектуру Qwen2 с 1,5 млрд параметров и предназначена для получения векторных представлений текста и оценки семантического сходства предложений. Модель обучена с помощью контрастивного обучения на базе рассуждающей модели; в README описаны эксперименты с MTEB и BRIGHT и анализ влияния RLVR-обучения на качество представлений. Для работы автор рекомендует Sentence Transformers или Transformers и параметр trust_remote_code=True. Модель подходит для поиска по смыслу, сопоставления запросов и документов и других сценариев семантического сравнения на разных языках. Контекстное окно составляет 131 072 токена. Расширенное рассуждение базовой модели не гарантирует преимущества эмбеддингов: в README сообщается, что модели, инициализированные рассуждающими и базовыми весами, не показали устойчивой разницы после одинакового контрастивного обучения. Лицензия — Apache-2.0.

embedder-100p — двуязычная модель эмбеддингов от автора @bayang, созданная на основе bi-encoder из семейства XLM-RoBERTa и Sentence-Transformers. Модель содержит 305,2 млн параметров и преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости. Модель предназначена для семантического поиска и кластеризации текстов на английском и немецком языках. Она обучалась на более чем 20 ГБ немецких текстовых данных с применением дистилляции, чтобы получить двуязычные эмбеддинги; заявленный контекст — 514 токенов. Доступны веса PyTorch и Safetensors. Для получения векторов можно использовать Sentence-Transformers либо Transformers с соответствующей операцией pooling. Карточка не сообщает результатов оценки MTEB, поэтому качество на конкретных наборах данных по ней оценить нельзя. Лицензия в предоставленных данных не указана.

IoannisKat1 выпустил дообученную модель Sentence Transformers на базе google/embeddinggemma-300m для поиска и сопоставления текстов. Модель кодирует предложения и абзацы в плотные векторы размерностью 768; для оценки сходства используется косинусная мера. Контекст — до 2048 токенов, входная модальность — текст. В README указано обучение на 4268 парах текстов и приведены результаты оценки поиска при усечении векторов до 768, 512, 256, 128 и 64 измерений. Карточка указывает английский язык, однако примеры обучающих данных на греческом, поэтому фактическую языковую поддержку следует проверять на целевых данных. Лицензия — Apache-2.0.

ingeol выпустил модель ingeol/facets_gpt_expanswer_1234 — sentence-transformers-модель на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768; контекст модели составляет 514 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Её можно использовать через библиотеку Sentence Transformers либо Transformers с подходящей операцией pooling. В карточке указана функция потерь BPRLoss; сведений о языковой специализации и лицензии нет.

Карточка модели luolixiehui/faster-whisper-large-v3 на Hugging Face совпадает с карточкой Systran/faster-whisper-large-v3, поэтому описание составлено по ней. Это конверсия модели распознавания речи Whisper large-v3 от OpenAI в формат CTranslate2, опубликованная Systran. Она предназначена для распознавания речи из аудио и используется в CTranslate2 и проектах на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно изменить через параметр compute_type. Модель поддерживает распознавание речи на многих языках, в том числе русском и английском. Репозиторий содержит конвертированные веса, а не исходную реализацию Whisper. Лицензия — MIT.

Карточка модели mijuanlo/faster-whisper-large-v3 на Hugging Face совпадает с карточкой Systran/faster-whisper-large-v3, поэтому описание составлено по ней. Это конверсия модели распознавания речи Whisper large-v3 от OpenAI в формат CTranslate2, опубликованная Systran. Она предназначена для распознавания речи из аудио и используется в CTranslate2 и проектах на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно изменить через параметр compute_type. Модель поддерживает распознавание речи на многих языках, в том числе русском и английском. Репозиторий содержит конвертированные веса, а не исходную реализацию Whisper. Лицензия — MIT.

Nessrine9/finetuned2-snli-MiniLM-L12-v2 — дообученная модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L12-v2. Она кодирует предложения и абзацы в нормализованные плотные векторы размерности 384; архитектура включает BertModel, усреднение токенных представлений и нормализацию. Модель предназначена для оценки семантического сходства по косинусному расстоянию, семантического поиска, поиска перефразировок, кластеризации и классификации текста. В карточке указано обучение на 100 000 пар предложений с оценками сходства; максимальная длина последовательности в README — 128 токенов, а метаданные указывают контекст 512 токенов. Базовая модель англоязычная, поэтому основное применение — англоязычный текст. Модель подходит для создания эмбеддингов коротких текстов и сравнения их смысла, но доступные результаты на SNLI-dev умеренные: Spearman cosine 0,4779. Лицензионные условия в предоставленных данных не описаны.

flammen27-mistral-7B — языковая модель на архитектуре Mistral, созданная flammenai путём слияния предварительно обученных моделей flammenai/flammen26-mistral-7B и InferenceIllusionist/Excalibur-7b методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров, построена как плотная причинная языковая модель и принимает текст для генерации текста; поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов и ответов на вопросы, в том числе с длинным контекстом. В README приведены результаты Open LLM Leaderboard, включая оценку 69,80 на AI2 Reasoning Challenge и 87,39 на HellaSwag; это результаты оценки, а не гарантия качества для конкретного сценария. Языковая поддержка в предоставленных данных не уточнена. Веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.

FRIDA — полноразмерная модель эмбеддингов текста, разработанная командой SaluteDevices AI for B2C RnD. Она основана на энкодере FRED-T5 и использует архитектуру T5; число параметров — 936,6 млн. Модель предварительно обучена на русско-английском наборе данных и дообучена для получения текстовых представлений. Репозиторий содержит веса в формате safetensors. FRIDA предназначена для построения эмбеддингов и оценки сходства предложений. Её можно применять для семантического поиска, подбора похожих текстов и задач ранжирования, используя подходящие префиксы и pooling CLS. Максимальная длина входа — 512 токенов. Модель распространяется по лицензии MIT.

Abiray/Gemma-4-12B-it-AEON-Abliterated-K4-GGUF — это GGUF-квантизированная версия инструкционной модели Gemma-4-12B-it-AEON-Abliterated, разработанной AEON-7 на основе Google Gemma-4-12B-it. Модель предназначена для генерации текста, чат-взаимодействия, выполнения инструкций, рассуждений, программирования, а также сценариев с tool calling и function calling. В карточке указана поддержка английского языка. Модель использует архитектуру gemma4_unified и содержит около 12 миллиардов параметров. Отличительная особенность — abliteration с применением пользовательской K=4 multi-direction norm-preserving biprojection, призванной сохранять качество генерации и устранять стандартные шаблоны отказов. Репозиторий предоставляет варианты квантизации от 3 до 8 бит: размеры файлов составляют примерно от 6,09 до 12,70 ГБ. Рекомендуемый вариант Q4_K_M занимает 7,38 ГБ и рассчитан на запуск на одной видеокарте уровня T4 или RTX 3060/4060; Q8_0 близок к точности BF16 и требует около 16 ГБ видеопамяти. В примере запуска указан контекст 4096 токенов, но максимальный размер контекста в README не заявлен. Сильными сторонами являются широкий выбор уровней квантизации, возможность запуска через llama.cpp и llama-cpp-python, поддержка локального развёртывания и ориентация на сценарии, где требуется меньше отказов. Ограничения включают отсутствие заявленных сведений о качестве на стандартных бенчмарках, неполные данные о мультимодальности и максимальном контексте, а также возможные риски, связанные с удалением стандартных механизмов отказа. Модель распространяется под лицензией Gemma.

urs-rs/gemma-4-26B-A4B-it-FP8-DYNAMIC — это производственная FP8-квантизованная версия инструкционной модели google/gemma-4-26B-A4B-it, разработанная на базе Gemma 4 от Google DeepMind. Квантование выполнено с помощью llm-compressor методом oneshot() с паттерном load_context(), который корректно обрабатывает объединённую структуру MoE-экспертов Gemma 4. Модель предназначена для развёртывания через vLLM, в том числе для многоходовых диалогов и голосовых AI-сценариев. Модель имеет архитектуру Mixture-of-Experts; в идентификаторе указаны конфигурация 26B и A4B, однако подробности об архитектуре, языках, модальностях и исходном размере контекста в README не приведены. Линейные слои квантизованы в FP8 по схеме W8A8: веса используют 8-битное поканальное симметричное представление, а активации — 8-битное динамическое токен-ориентированное представление. Веса маршрутизатора, нормализационные слои и lm_head сохранены в BF16 для стабильности выбора экспертов и генерации. Размер чекпойнта составляет около 13,3 GiB, что на 47% меньше версии BF16. По заявленным результатам, потери на MMLU-Pro составляют 0,26 процентного пункта относительно BF16, а заметного ухудшения качества многоходовых диалогов не обнаружено. На H100 NVL при контексте 16K заявлена максимальная конкурентность 21,3 запроса и примерно на 80% больше параллельных вызовов при сопоставимой задержке по сравнению с BF16. Ограничения включают зависимость от совместимого окружения vLLM 0.20.2rc1+ и CUDA 12.9, а также высокие требования к оборудованию: рекомендуется NVIDIA A100 40 GB или H100 80 GB. Чекпойнт распространяется по Gemma Community License, то есть на условиях лицензии базовой модели google/gemma-4-26B-A4B-it.

furiosa-ai/gemma-4-31B-it-FP8-block — оптимизированная сборка мультимодальной модели Gemma 4 31B, разработанной Google, с упаковкой Furiosa Executable Bundle для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Модель предназначена для диалоговых и генеративных задач, а исходная версия также поддерживает обработку изображений вместе с текстом. В текущей FXB-реализации доступен только режим текст-текст, поэтому она подходит для текстового инференса и развёртывания через OpenAI-совместимый API. Архитектура модели — плотная Gemma 4 с vision encoder и transformer decoder, сочетающим слои sliding-window и full attention. Текстовый трансформер подвергнут статическому FP8 block quantization линейных слоёв с блоками 128×128; активации динамически квантизуются в FP8 группами по 128 значений. Vision tower, embeddings, output head и KV cache сохраняются в 16-битной точности. Для работы на RNGD используется tensor parallelism с 32 PE, что соответствует четырём картам RNGD. К сильным сторонам относятся мультимодальная архитектура исходной модели, поддержка опционального reasoning и native tool calling на уровне upstream-модели, а также снижение требований к вычислительным ресурсам благодаря FP8-квантизации. Ограничения текущей FXB — отсутствие поддержки изображений, reasoning parser и tool-call parser в Furiosa-LLM; автоматический выбор инструментов и соответствующие расширенные режимы поэтому недоступны. Модель распространяется по лицензии Apache 2.0.

GKA-primed-HQwen3-8B-Instruct — инструктивная гибридная языковая модель, созданная командой Hybrid Model Factory на основе Qwen3-8B. В архитектуре 18 слоёв Attention и 18 слоёв Gated KalmaNet (GKA), слоя пространства состояний, вдохновлённого фильтром Калмана. Модель содержит около 7,6 млрд параметров и принимает контекст длиной до 131 072 токенов; доступны веса в формате Safetensors для Transformers. Модель предназначена для диалоговой генерации текста и следования инструкциям, в том числе при работе с длинным контекстом. По данным авторов, замена половины слоёв внимания на GKA сокращает потребность в растущем KV-кэше и может ускорить инференс на длинных последовательностях, сохраняя качество, близкое к базовой модели. Параметр num_iter позволяет настраивать вычислительные затраты GKA во время инференса. Это не модель рассуждений и она не поддерживает вызов инструментов. Основанные на README сведения о языках Qwen3 не уточняют полный перечень языков именно этого чекпойнта. Лицензия — Apache 2.0.

RedHatAI/GLM-5.3-Flash-NVFP4 — квантизированная версия модели zai-org/GLM-5.3-Flash, разработанная RedHatAI. Модель использует архитектуру Glm5NextForConditionalGeneration, принимает текст и изображения и генерирует текст. Заявленные языки — английский и китайский. Размер модели и длина контекста в предоставленных данных не указаны. Веса и активации линейных операторов MoE-экспертов квантизированы в формат FP4 (NVFP4), а слои MTP сохранены в FP8. Квантизация выполнена с помощью LLM Compressor, модель экспортирована в формате compressed-tensors и предназначена для инференса через vLLM. По данным README, такое сжатие примерно на 50% уменьшает объём диска и требования к памяти GPU для квантизированных весов по сравнению с 8-битным представлением. Также заявлена поддержка speculative decoding и автоматического выбора инструментов при соответствующей настройке vLLM. Модель ориентирована на мультимодальные и текстовые сценарии генерации, включая задачи рассуждения. В приведённой оценке она показала 97,74% на GSM8K Platinum, 94,87% на MATH-500, 86,67% на AIME 2025 и 90,57% на GPQA Diamond; результаты усреднены по нескольким запускам. Ключевое преимущество — снижение потребления дисковой и GPU-памяти при сохранении возможностей исходной модели, однако FP4-квантизация может влиять на качество и требует совместимой инфраструктуры. Модель распространяется по лицензии MIT.

Это GGUF-квантизированная версия инструкционной модели Gemma 3 12B IT, разработанной Google и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и совместимых проектах. Модель поддерживает текстовые сценарии и работу с изображениями через vision-компонент, для которого требуется отдельный файл MMPROJ в формате GGUF. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций объёмом примерно от 6 до 23,5 ГБ; версии Q4–Q6 отмечены как рекомендуемые благодаря балансу качества и требований к памяти. Архитектура, максимальный контекст и список поддерживаемых языков в представленном README не указаны. Основные преимущества — возможность локального запуска, широкий выбор уровней квантизации и поддержка анализа изображений при использовании совместимой сборки llama.cpp. Ограничения связаны с необходимостью подбора квантизации под доступную память, а для мультимодальной работы — с отдельным vision-компонентом и специальной поддержкой Gemma 3. Модель распространяется по лицензии Google Gemma; для доступа на Hugging Face требуется принять условия этой лицензии.

Это GGUF-квантизированная instruction-модель gemma-4-31B-it, разработанная Google и подготовленная в вариантах квантизации bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговых и генеративных задач и может запускаться локально через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README также указан pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель содержит 31 млрд параметров; доступны варианты от BF16 до различных уровней 8-, 6-, 5-, 4- и 3-битной квантизации. Размер файлов составляет примерно от 13,84 до 61,41 ГБ. Высокоточные варианты обеспечивают лучшее сохранение качества, а более компактные подходят для систем с ограниченной оперативной памятью, но могут заметно уступать по качеству. Для некоторых форматов заявлена оптимизация под CPU ARM и Apple Silicon. Используется специальный шаблон диалога с ролями system, user и model; для недавно поддерживаемых моделей может потребоваться обновление программного обеспечения. Модель распространяется по лицензии Apache-2.0 с дополнительными условиями Gemma; точные требования следует проверять в документации Google. README не содержит данных о длине контекста, списке языков, конкретных бенчмарках и системных требованиях, поэтому эти характеристики нельзя достоверно оценить.

Watwat100/gpu2 — модель на базе MPNet, представленная в формате PyTorch и оформленная как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 136,7 млн параметров и рассчитана на контекст до 514 токенов. В карточке указано, что модель обучалась с функцией потерь CosineSimilarityLoss. Её можно применять для поиска похожих фраз, группировки текстов и построения векторного поиска. Данные о специализации по языкам и лицензии в предоставленных сведениях отсутствуют.