I.2Синтез, понимание и проверка знаний

Это экспериментальная квантизация ASHQ1 модели Spark-X2.5-1.7B, подготовленная wepiqx на основе XHToken/Spark-X2.5-1.7B. Модель представляет собой плотный декодер архитектуры spark2_5 примерно на 1,7 млрд параметров; в репозитории представлены файлы GGUF, включая вариант BF16. Для запуска указана поддержка штатной llama.cpp. Модель предназначена для генерации текста и диалогов, а базовая Spark-X2.5 поддерживает задачи с кодом, переводом, рассуждениями и агентными сценариями. У неё гибридное внимание: один слой с полным вниманием на три слоя с оконным; заявлен контекст до 1 млн токенов. Карточка приводит сравнение перплексии вариантов квантизации, но отмечает, что такие результаты не являются достаточной оценкой качества, а ранжирование пока предварительное. Репозиторий распространяется по лицензии Apache-2.0. Это производный квантованный выпуск; качество и поведение могут зависеть от выбранного файла GGUF и степени снижения точности.

Карточка модели infgrad/stella-base-zh на Hugging Face совпадает с карточкой infgrad/stella-large-zh-v2, поэтому описание составлено по ней. stella-large-zh-v2 — модель для кодирования текста, разработанная автором семейства Stella. Она преобразует китайские тексты в векторы размерностью 1024 и предназначена прежде всего для семантического поиска и сопоставления текстов. Модель основана на архитектуре BERT и дообучена на открытых корпусах и синтетических парах «вопрос — абзац» и «предложение — абзац» с помощью контрастивного обучения, сложных отрицательных примеров и дистилляции. Контекст составляет до 1024 токенов. Для поиска не требуется добавлять инструкционные префиксы. Модель подходит для поиска по длинным китайским документам и оценки семантического сходства; в README приведены результаты C-MTEB и отдельная оценка длинных текстов. Она возвращает векторы, поэтому для выдачи результатов поиска требуется внешняя система индексации и сравнения. Условия лицензии в предоставленных данных не описаны.

Stella-PL — двуязычный польско-английский текстовый энкодер, созданный авторами модели на основе stella_en_1.5B_v5. Его адаптировали для польского языка методом мультиязычной дистилляции на корпусе из 20 миллионов польско-английских пар текстов. Модель имеет архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 131 072 токенов. Энкодер преобразует текст в векторы размерностью 1024 для семантического поиска, сравнения предложений и поиска информации. Он сравнивает тексты на польском или английском языках, а также сопоставляет тексты между этими языками. В README указано значение NDCG@10 60,52 на польском бенчмарке информационного поиска PIRB. Модель распространяется по лицензии MIT. Заявленные сценарии ограничены текстовыми эмбеддингами; README не описывает её как универсальную генеративную модель, несмотря на архитектуру причинного языкового моделирования и соответствующий тег в метаданных.

StrangeMerges_51-7B-dare_ties — текстовая генеративная модель, созданная Gille объединением пяти моделей с помощью LazyMergekit: WizardMath-7B-V1.1, NeuralCoder-7b, Einstein-v4-7B, Matter-0.1-Slim-7B-C-DPO и StrangeMerges_42-7B-dare_ties. Это плотная модель семейства Mistral с 7,1 млрд параметров; доступна в формате safetensors и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и может быть полезна для диалогов и инструкций, математических рассуждений и задач по программированию — эти направления представлены среди объединённых моделей. В README приведены результаты Open LLM Leaderboard, включая средний балл 71,73, однако без полной таблицы и описания методики эти показатели не позволяют оценить качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. В карточке нет сведений о целевых языках и специальных мерах безопасности; фактическое качество объединения на конкретных задачах следует проверять отдельно.

Tema_Q-X3-Thinking — японско- и англоязычная доработанная языковая модель на базе Qwen3.5-35B-A3B от Alibaba. Она предназначена для диалогов и генерации ответов на сложные запросы, где автор стремится получить более свободные и полезные ответы, чем у стандартной Qwen. Модель поддерживает японский и английский языки; в метаданных указана архитектура семейства Qwen 3.5 MoE и интерфейс для вызова инструментов. Модель распространяется в формате safetensors. Автор предупреждает о существенном снижении точности вывода при использовании квантизации ниже Q2_K и рекомендует Q3_K_M, если доступна такая версия. Лицензия в предоставленных сведениях не указана. Автор запрещает использовать модель для дискриминации, травли, насилия, незаконной деятельности и других вредоносных целей и возлагает на пользователя ответственность за соблюдение законов и правил платформы.

text2vec-bge-large-chinese-i1-GGUF — это квантизированная в формате GGUF версия модели shibing624/text2vec-bge-large-chinese. Базовая модель разработана пользователем или организацией shibing624, а квантизацию выполнил mradermacher. Модель предназначена для получения векторных представлений текста, извлечения признаков и оценки семантического сходства предложений, прежде всего на китайском языке. В репозитории представлены варианты квантизации IQ и Q разных уровней, преимущественно размером около 0,2–0,4 ГБ. Для отдельных вариантов указаны компромиссы между размером, скоростью и качеством; рекомендуются i1-Q4_K_S и i1-Q4_K_M, тогда как некоторые низкобитные варианты имеют очень низкое качество. Архитектура, число параметров, размер контекста и точная размерность эмбеддингов в README не указаны. Данных о поддержке других модальностей или языков, кроме заявленного китайского, нет. Модель подходит для локального семантического поиска, кластеризации, сопоставления текстов и других задач, где нужны текстовые эмбеддинги. Основное преимущество — компактные GGUF-варианты, позволяющие выбирать баланс между ресурсами и качеством. Ограничения связаны с потерями качества при агрессивной квантизации, а также с отсутствием подробных сведений о характеристиках и результатах оценки. Лицензия базовой модели указана как Apache-2.0.

t-tech_T-Search-GGUF — это GGUF-квантизированная версия модели T-Search, разработанной t-tech и подготовленной bartowski с использованием llama.cpp. Модель относится к классу Mixture-of-Experts с заявленным размером 35B и примерно 3B активных параметров, а также содержит MTP-слои для ускорения генерации посредством self-speculative decoding. Модель предназначена для агентного поиска, информационного поиска, retrieval-задач, RAG, использования инструментов и function calling. Она поддерживает английский и русский языки. В README указаны возможности запуска через llama.cpp, ramalama, LM Studio, koboldcpp, Jan AI и другие совместимые приложения. Для активации MTP в llama.cpp требуется параметр --spec-type draft-mtp. Доступно множество вариантов квантизации — от BF16 размером около 71 ГБ до компактных IQ3 и Q3-разновидностей, а также рекомендуемых Q4–Q6 вариантов. Более качественные квантизации обеспечивают лучшее сохранение характеристик, тогда как компактные требуют меньше оперативной памяти, но снижают качество. Для модели не указан размер контекста, поэтому его характеристики в этом отношении неизвестны. Лицензия — Apache-2.0.

Модель nezahatkorkmaz/turkce-embedding-bge-m3 — турецкоязычная версия BAAI/bge-m3, доработанная для семантического сходства, поиска по текстам и RAG. Она построена на XLM-RoBERTa с pooling и нормализацией и преобразует предложения и абзацы на турецком языке в плотные векторы размерности 1024. В метаданных указаны 658,7 млн параметров и контекст длиной до 8194 токенов; модель распространяется в формате safetensors и рассчитана на работу через sentence-transformers. По оценке на турецком наборе STS модель показала корреляцию Пирсона 0,9096 против 0,8535 у базовой BAAI/bge-m3; корреляция Спирмена составила 0,6839 против 0,6814. Это делает её подходящей для сравнения смысловой близости турецких фрагментов, поиска релевантных документов и ранжирования кандидатов по сходству. Лицензия в предоставленных данных не указана.

constructai/VibeThinker-3B-GGUF — это квантизированная версия языковой модели VibeThinker-3B, разработанной WeiboAI и преобразованной в формат GGUF командой constructai. Модель предназначена для генерации текста и эффективного запуска на CPU и GPU с помощью llama.cpp, Ollama, LM Studio и других совместимых средств. Модель содержит около 3 миллиардов параметров и ориентирована на задачи рассуждения, математики, программирования, instruction-following и оценки уровня GPQA. Доступны варианты с разными уровнями квантизации и размером файлов примерно от 791 МБ до 6,18 ГБ, включая F16, Q8_0, Q6_K, Q5_K, Q4_K и другие форматы. README не указывает поддерживаемые языки, максимальную длину контекста и наличие мультимодальных возможностей, поэтому модель следует считать текстовой, а эти характеристики — неизвестными. К сильным сторонам относятся относительно небольшой размер, широкий выбор квантизаций и возможность локального запуска на доступном оборудовании. Более агрессивная квантизация уменьшает требования к памяти, но может снижать точность по сравнению с F16 или менее сжатыми вариантами. Модель распространяется по лицензии MIT; исходная модель также указана как лицензированная по MIT.

thang1943/vietnamese-bi-encoder-v2 — Sentence Transformer, дообученный автором thang1943 на базе bkai-foundation-models/vietnamese-bi-encoder. Модель использует RoBERTa и преобразует предложения и абзацы на вьетнамском языке в плотные векторы размерности 768; для сходства применяется косинусная мера. Максимальная длина последовательности в README — 256 токенов, а в метаданных каталога указано 258 токенов. Модель предназначена для семантического поиска, сравнения сходства предложений, поиска перефразировок, кластеризации и классификации текста. Она обучена на 54 755 примерах датасета dataset_full_fixed с использованием MultipleNegativesRankingLoss. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

WestOrcaDPO-7B-GTA — объединённая языковая модель на основе Mistral, созданная с помощью LazyMergekit из decruz07/kellemar-DPO-Orca-Distilled-7B-SLERP и senseable/WestLake-7B-v2. Она предназначена для генерации текста, включая диалоговые ответы и творческие тексты. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Веса представлены в формате safetensors. Слияние выполнено методом task arithmetic с параметрами весов 0,4 и 0,6 и плотностью 0,5 для каждой исходной модели. README указывает Mistral-7B-v0.1 как базовую модель. Лицензия в предоставленных данных не приведена.

Wistral-7B-Instruct-v0.3 — языковая модель BarraHome для диалоговой генерации текста. Она основана на Mistral-7B-Instruct-v0.2, дообучена с использованием Unsloth и библиотеки TRL и имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для ответов на сообщения и генерации текста в чате. Её контекст составляет 32 768 токенов. В карточке приведены результаты оценок на AI2 Reasoning Challenge и HellaSwag; они дают ориентир по отдельным тестам, но не гарантируют качество в других задачах. Для работы с моделью нужны совместимые инструменты и аппаратные ресурсы; метаданные указывают формат safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию по предметной области или отдельные ограничения применения.

Карточка модели microsoft/xdoc-base-squad1.1 на Hugging Face совпадает с карточкой microsoft/xdoc-base-squad2.0, поэтому описание составлено по ней. XDoc-base-SQuAD2.0 — модель Microsoft для ответов на вопросы по тексту, связанная с проектом XDoc, представленным в работе о едином предварительном обучении для понимания документов разных форматов. В карточке указана архитектура RoBERTa с головой для question answering и 151,8 млн параметров; модель доступна в формате PyTorch, контекст — до 514 токенов. Модель предназначена для поиска ответа на вопрос в предоставленном контексте и может применяться для извлечения сведений из документов и ответов на вопросы по их тексту. README описывает XDoc как единую предварительно обученную модель для разных форматов документов, но не уточняет модальности и конкретные возможности данного чекпойнта. Лицензия — MIT.

xLAM-7b-r-IMat-GGUF — это GGUF-квантизированная версия языковой модели Salesforce/xLAM-7b-r, подготовленная пользователем legraphista с использованием llama.cpp и IMatrix-калибровки. Исходная модель имеет формат BF16, а набор поставляется в вариантах от BF16 и FP16 до Q2–Q8 и IQ-квантизаций, включая версии с применением IMatrix. Модель предназначена для генерации текста, function calling, tool use и построения LLM Agent-сценариев. Она ориентирована на английский язык и поддерживает работу с инструментами и функциями; исходный датасет обучения — Salesforce/xlam-function-calling-60k. Формат GGUF и набор квантизаций позволяют выбирать баланс между размером файла, требованиями к памяти и сохранением качества, что удобно для локального запуска через llama.cpp. Для некоторых вариантов указаны размеры от 2,53 до 14,48 ГБ. Ключевые архитектурные характеристики базовой модели, включая точное устройство, размер контекста и перечень поддерживаемых модальностей, в README не указаны; по представленным данным это текстовая модель без заявленной мультимодальности. К ограничениям относятся ориентация на английский язык и возможное снижение качества при использовании низкобитных квантизаций. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование.

severinsimmler/xlm-roberta-longformer-base-16384 — версия модели hyperonym/xlm-roberta-longformer-base-16384 в формате PyTorch, опубликованная без изменений исходных весов. Это мультиязычный Longformer, инициализированный весами XLM-RoBERTa без дополнительного предварительного обучения; модель предназначена для дообучения под конкретные задачи и извлечения признаков из текста. Она содержит 305,2 млн параметров и поддерживает контекст до 16 386 токенов. Модель подходит для анализа длинных документов на разных языках, когда требуется получить контекстные представления текста. Репозиторий использует форматы PyTorch и Safetensors и распространяется по лицензии MIT. Карточка не сообщает результатов оценки качества на прикладных задачах; для целевого применения потребуется дообучение.

360VL-8B — открытая мультимодальная модель компании Qihoo 360 для диалога по изображениям и тексту. Она дообучена на основе Meta Llama 3 8B Instruct и использует трансформерную авторегрессионную языковую модель с многоветвевым проектором, предназначенным для улучшения понимания изображений. Модель принимает изображения и текст и формирует текстовые ответы; поддерживает многоходовой диалог с одним изображением, визуальные вопросы и распознавание текста на изображениях. В README указано разрешение изображений до 672×672 пикселей, а контекст по метаданным составляет 8192 токена. Поддерживаются китайский и английский языки. Модель подходит для анализа содержимого изображений, извлечения и обобщения информации, а также ответов на вопросы по изображению. Вес модели содержит 7,5 млрд параметров и опубликован в формате safetensors. Лицензия — Apache 2.0.

Bamboo-base-v0_1 — плотная языковая модель на 7,1 млрд параметров, разработанная командой Tiiny. Это причинная модель архитектуры Bamboo с модифицированным блоком FFN: после GLU добавлена ReLU, что, по README, обеспечивает около 85% разреженности активаций и рассчитано на ускорение инференса. Модель предназначена для генерации текста и извлечения признаков; в карточке также заявлено сопоставимое с Mistral-7B качество на ряде тестов. Модель обучалась на 150 млрд токенов, включая англоязычные веб-данные, код и математические тексты. Контекст составляет до 32 768 токенов. Она подходит для генерации и продолжения английского текста, а также для исследовательских экспериментов с разреженными LLM и ускорением вывода. Поддержка других языков ограничена. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README отмечает возможные пробелы в качестве на отдельных задачах и вероятностный характер генерации, который может приводить к неожиданным ответам.

Модель heseltiNe — дообученная версия DeepSeek-R1-0528-Qwen3-8B, предназначенная для генерации текста в диалоговом формате. Она основана на плотной архитектуре Qwen3 и содержит 7,6 млрд параметров; метаданные указывают контекст до 131 072 токенов. Модель дообучали с помощью Unsloth и библиотеки TRL.

Модель bert-base-japanese-v3-unsup-simcse-jawiki — японская модель для получения векторных представлений предложений. Она создана авторами книги «Введение в большие языковые модели» на основе cl-tohoku/bert-base-japanese-v3: BERT дообучен методом SimCSE без учителя на предложениях из японской Википедии llm-book/jawiki-sentences. В метаданных указаны архитектура BERT, библиотека Transformers, 138,4 млн параметров и контекст до 512 токенов. Модель предназначена для представления японских предложений в виде эмбеддингов, которые можно использовать для поиска похожих текстов и извлечения релевантных предложений. В карточке также приведены ссылки на обучающий и инференсный Colab, а датасет llm-book/aio-retriever указан в метаданных. Модель распространяется по лицензии Apache License 2.0.

joonion/bert-finetuned-squad — модель DistilBERT, дообученная на неизвестном наборе данных на основе distilbert/distilbert-base-cased-distilled-squad. Она предназначена для ответов на вопросы по переданному текстовому фрагменту: модель получает вопрос и контекст и извлекает из контекста ответ. Архитектура — DistilBertForQuestionAnswering; максимальная длина контекста составляет 512 токенов. Модель работает с текстом и распространяется в формате safetensors. Карточка не приводит подробностей о дополнительном наборе данных, оценке качества или специальных сценариях применения. Лицензия — Apache-2.0.

Компактная модель Sentence Transformer, разработанная swardiantara на базе google/bert_uncased_L-2_H-128_A-2 и дообученная для получения векторных представлений предложений и абзацев. Она кодирует текст в плотные эмбеддинги размерности 128, которые можно сравнивать по косинусному сходству и использовать для поиска и извлечения релевантных текстов. Модель построена на BERT с двумя слоями и использует усреднение токенных представлений; в метаданных указано 4,4 млн параметров. README задаёт максимальную длину последовательности 128 токенов, а метаданные — контекст до 512 токенов. Обучение проводилось на 42 730 парах текстов с OrdinalProxyContrastiveLoss. Модель принимает и выдаёт текстовые данные через векторные представления. Базовая модель англоязычная, и примеры обучающих данных также на английском. Подходит для семантического поиска и сравнения предложений, особенно в сценариях с ограниченными вычислительными ресурсами. README не указывает лицензию; перед использованием следует проверить условия в карточке репозитория. Короткое обучение и небольшая базовая архитектура могут ограничивать качество на задачах и языках, отличающихся от обучающих данных.

Bonsai-27B-antidoom-1bit-DSpark — текстовая генеративная модель, разработанная на базе Bonsai-27B от prism-ml с применением метода antidoom от Liquid4All и ускорения DSpark от PrismML. Модель предназначена для генерации текста, включая программный код, а также поддерживает работу с изображениями через поставляемый vision projector. Указанный язык — английский. Это гибридная attention-модель Qwen3.5 с 27 млрд параметров, квантованная в 1-битный формат GGUF Q1_0 с показателем 1,125 бит на вес при группировке g128. В комплект входят основная модель размером около 4,5 ГБ, DSpark-драфтер в формате Q4_1 и vision projector в формате Q8_0. Для запуска требуется форк llama.cpp от PrismML с CUDA и поддержкой специальных Q1_0-ядер гибридного внимания; протестированная конфигурация использует одну RTX 5090 с 32 ГБ памяти. Контекст в приведённой конфигурации составляет 16 384 токена. Antidoom — это FTPO-настройка, направленная на снижение зацикливания и повторов: модель обучалась предпочитать связное продолжение вместо продолжения повторяющегося цикла. При этом агрессивное 1-битное квантование частично ослабляет эффект LoRA, поэтому он сильнее проявляется при более высокой точности. DSpark ускоряет генерацию на задачах с высокой долей принятых черновых токенов, однако на обычной прозе с низкой долей принятия может работать медленнее нативного режима. Лицензия модели — Apache-2.0.

Camelidae-8x34B — языковая модель семейства Camelidae, разработанная авторами проекта Camelidae с применением метода Parameter-Efficient Sparsity Crafting. Это разреженная Mixture-of-Experts-модель с архитектурой на основе LLaMA; в репозитории указано 33,9 млрд параметров. Модель прошла инструкционное дообучение и предназначена для генерации текста и ответов на общие запросы. Модель ориентирована в том числе на задачи по математике и программированию. В описании проекта приведены результаты тестирования по общим знаниям, математике и генерации кода; модель загружается через Transformers как причинная языковая модель. Контекст составляет 4096 токенов, основной указанный язык — английский. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0. Результаты бенчмарков зависят от настройки и не гарантируют качество для конкретных запросов; карточка не описывает отдельные ограничения или защитные механизмы модели.

Citaman/command-r-7-layer — языковая модель для генерации текста, опубликованная пользователем Citaman. Это плотная причинно-языковая модель семейства Cohere с 7,9 млрд параметров; репозиторий содержит веса в формате safetensors и создан с помощью mergekit методом SLERP на основе Citaman/command-r-8-layer. По метаданным модель рассчитана на диалог и интерфейс вызова инструментов; контекст составляет 8192 токена. Подходит для генерации ответов в чат-ботах и для сценариев, где языковая модель взаимодействует с инструментами. Модель принимает текст и генерирует текст. README описывает объединение с перекрывающимися диапазонами слоёв одной базовой модели. В предоставленных материалах нет сведений о лицензии и поддерживаемых естественных языках, поэтому условия коммерческого использования и языковые возможности определить нельзя.

Cotype-Nano — компактная языковая модель MTSAIR на 1,5 млрд параметров с архитектурой Qwen2. Она предназначена для диалогового взаимодействия и генерации текста при ограниченных вычислительных ресурсах; в карточке приведён пример ответа с объяснением и кодом для простого сервера FastAPI. Модель обучали в два этапа: сначала MLP-слои на математических и программных данных, затем всю модель на внутренних и открытых синтетических инструкционных наборах. Поддерживаются русский и английский языки, а длина контекста составляет 32 768 токенов. В метаданных также указана возможность интерфейса вызова инструментов. В README приведён локальный результат 30,2 в ru-llm-arena; это измерение авторов карточки, а не независимая гарантия качества. Модель распространяется в формате safetensors, для запуска в README предлагается vLLM. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории.

QuantTrio/DeepSeek-V3.2-Exp-AWQ — AWQ-квантизированная версия экспериментальной языковой модели DeepSeek-V3.2-Exp, разработанной DeepSeek AI и опубликованной QuantTrio. Модель предназначена для генерации текста, диалоговых приложений и серверного инференса через Transformers и vLLM, включая сценарии с автоматическим выбором инструментов и вызовом функций. В основе лежит архитектура DeepSeek-V3.2-Exp с механизмом DeepSeek Sparse Attention (DSA), рассчитанным на повышение эффективности обучения и инференса при работе с длинными последовательностями. В README заявлена поддержка контекста до 32 768 токенов. Модель является текстовой; сведения о размере, количестве параметров и поддерживаемых языках не указаны. Размер файлов модели составляет около 373 ГБ. К сильным сторонам относятся снижение вычислительных затрат при обработке длинного контекста благодаря разреженному вниманию и совместимость с оптимизациями vLLM, включая expert parallelism и speculative decoding. Ограничения включают экспериментальный статус, необходимость специализированной конфигурации и минимум шести GPU для указанного односерверного запуска. На момент публикации заявлена поддержка только датацентровых GPU Hopper и Blackwell; производительность и совместимость с другим оборудованием могут отличаться. Модель распространяется по лицензии MIT.

DeepSeek-V4-Flash-0731-GPTQ-Int4-V1 — это 4-битная GPTQ-квантизованная версия модели DeepSeek-V4-Flash-0731, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 и предназначена для более эффективного запуска исходной модели при ограниченных ресурсах GPU. Данные о точном размере модели, архитектуре, поддерживаемых модальностях, полном наборе языков и исходном размере контекста в README не указаны. Модель использует схему W4A16 с 4-битными весами, group size 128, симметричной квантизацией и упаковкой в int32; параметр lm_head не квантизован. Калибровка проведена на 128 примерах на китайском, английском, японском языках и Python-коде с длиной последовательности 2048 токенов. В README приведены результаты на 4 GPU Ampere: по сравнению с неквантизованным fp8-чекпойнтом модель показала меньшее время до первого токена и более высокую производительность, особенно при параллелизме 8. Основные ограничения связаны с инфраструктурой: для запуска через vLLM требуется специальная сборка с поддержкой DeepSeek-V4 GPTQ для GPU Ampere, а полный чекпойнт занимает около 153 ГБ и может потребовать выгрузки части весов в CPU. Релиз является первой калибровочной версией V1; заявлена возможная последующая версия V2 с другим набором калибровочных данных. Лицензия — MIT, унаследованная от базовой модели.

DeepSeek-V4-Pro-Qwen3.5-9B — компактная языковая модель класса 9B, созданная Kottk14-02-09 на основе unsloth/Qwen3.5-9B. Это reasoning-ориентированная дистилляция ответов DeepSeek-V4-Pro в режиме Max Effect с дополнительной настройкой под математику и STEM-задачи. В README также указано сотрудничество с инженером по аппаратному обеспечению Kyle Hessling, который помогал с инфраструктурой, обучением и оцениванием. Модель предназначена для генерации текста, многошагового решения математических и научных задач, структурированного рассуждения, а также может применяться в программировании, tool use и function calling. Обучение включало примерно 250 000 примеров по математике и STEM; при этом заявлены небольшие улучшения в программировании и использовании инструментов даже без специализированных данных для SFT по коду. Поддерживаются английский, китайский, корейский, японский, испанский и русский языки. Модель относится к текстовым генеративным моделям; сведения о мультимодальности и размере контекста в README не указаны. К сильным сторонам относятся относительно небольшой размер, практичная развёртываемость и фокус на математическом и научном рассуждении. Для запуска и оценки упомянуты vLLM с NVFP4 и llama.cpp с MTP-Q8_0. Ограничения модели, точные результаты бенчмарков, качество по отдельным языкам и требования к аппаратному обеспечению не приведены, поэтому их следует проверять самостоятельно. Модель распространяется по лицензии Apache-2.0.

Это конвертированная версия разговорной модели Dolphin 2.6 на архитектуре Phi-2. Модель предназначена для генерации текста в диалогах и ответов на инструкции. В карточке указаны форматы PyTorch, Safetensors и GGUF, а максимальный контекст составляет 2048 токенов. Модель ориентирована на английский язык и обучена на смесях диалоговых и инструктивных наборов данных, включая Dolphin, Airoboros, OpenHermes и Magicoder. Лицензия обозначена как other, поэтому условия использования следует уточнить в исходной карточке.

mradermacher/e5-base-v2-i1-GGUF — набор квантизированных файлов модели intfloat/e5-base-v2, подготовленный пользователем mradermacher. Модель предназначена для получения векторных представлений предложений и оценки их семантического сходства, а также может применяться в задачах семантического поиска, кластеризации и других сценариях, где используются sentence embeddings. В README указана поддержка английского языка. Модель распространяется в формате GGUF и доступна в вариантах квантизации i1-IQ и i1-Q с размером файлов примерно от 0,1 до 0,2 ГБ. В набор входят варианты с различным компромиссом между размером, скоростью и качеством; для некоторых низкобитных вариантов прямо отмечено пониженное качество, а i1-Q4_K_S и i1-Q4_K_M обозначены как удачные варианты по соотношению характеристик. Архитектура, число параметров, модальности и размер контекста в README не указаны. Лицензия модели — MIT. Квантизация уменьшает требования к хранению и вычислительным ресурсам, но может снижать качество представлений по сравнению с исходной моделью; степень снижения зависит от выбранного варианта GGUF.