I.2Синтез, понимание и проверка знаний

RedHatAI/Qwen3.8-2.4T-A95B-NVFP4 — квантизированная текстовая causal language model на базе Qwen/Qwen3.8-2.4T-A95B, разработанная RedHatAI. Модель принимает текст и генерирует текст; архитектура указана как Qwen3_5MoeForCausalLM с Mixture-of-Experts. Конкретные поддерживаемые языки и размер контекста в README не указаны. В модели веса и активации линейных операторов MoE-экспертов квантизированы в формат FP4 (NVFP4), тогда как attention и неквантизированные слои сохраняют исходную точность. Для квантизации использован LLM Compressor, а модель экспортирована в формате compressed-tensors и подготовлена для инференса через vLLM. Для развертывания в README приведена конфигурация с tensor parallelism и expert parallelism на 8 устройств. Ключевое преимущество — сокращение числа бит на параметр в квантизированных MoE-слоях с 16 до 4, что уменьшает их дисковый размер и требования к памяти GPU примерно на 75%. По заявленным оценкам, качество практически полностью сохраняется относительно неквантизированной версии: на GPQA Diamond получено 92,9 против 92,6, а на DeepSWE (v1.1) — 56,6 против 56,6. Ограничения включают зависимость от совместимой инфраструктуры vLLM и аппаратной поддержки NVFP4; лицензия в README не указана.

Карточка модели miss-t/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой lactroiii/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 — дообученная методом abliteration версия мультимодальной модели Qwen3.8-27B от Alibaba, опубликованная lactroiii. Это плотная модель на 27 млрд параметров в формате BF16 на базе архитектуры Qwen3.5; она принимает текст и изображения и генерирует текст. В README описана проверка на NVIDIA H200 через vLLM, включая работу с изображениями, режим рассуждений и вызов инструментов. Для обслуживания автор проверял контекст 16 384 токена и указывает, что базовое окно модели достигает 262 144 токенов. Модель предназначена для диалогов и инструкций, рассуждений, программирования, анализа изображений, вызова инструментов, творческого письма и исследований безопасности и выравнивания. Abliteration уменьшает склонность модели отказывать и делает ответы более прямыми; автор сообщает о сохранении связности ответов, но это не является независимой оценкой качества. Модель может выдавать опасный, незаконный или откровенный контент и не должна использоваться в сценариях высокого риска без внешних мер безопасности. Лицензия — Apache-2.0.

taurusduan/Qwen3.8-27B-GSQ-RCO-GGUF — это набор GGUF-квантизаций базовой модели Qwen3.8-27B, разработанный Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Модель предназначена для локального запуска языковой модели, включая мультимодальные сценарии с обработкой изображений через поставляемый vision projector. Файлы совместимы с llama.cpp, Ollama и LM Studio. В набор входят четыре неравномерные квантизации с эффективной разрядностью от 2,50 до 3,50 бит на вес и размером от 8,4 до 11,8 ГБ. GSQ выполняет посттренировочную скалярную квантизацию, а RCO распределяет типы квантизации по отдельным тензорам с учётом их чувствительности и общего ограничения на размер. Для мультимодального режима используется отдельный проектор mmproj с vision encoder и projector в формате BF16 размером около 0,9 ГБ. Также доступны варианты с Multi-Token Prediction head для speculative decoding в llama.cpp; они примерно на 0,35 ГБ больше. Рекомендуемым вариантом назван IQ3_S: по данным README, он сохраняет качество базовой модели на AIME25 и LiveCodeBench v6 и находится в пределах 0,51 балла от неё на GPQA-Diamond, занимая чуть больше одной пятой размера BF16-модели. Более компактные варианты подходят для экономии памяти, но могут иметь больший компромисс по качеству. Модель и методы квантизации распространяются по лицензии Apache 2.0. Языки и максимальная длина контекста в README не указаны.

Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Baekpica/Qwen3.8-Flash-Next-Mixed-Quant-SSD-PLE-GGUF — производная квантованная версия модели Qwen3.8-Flash-Next, разработанная Baekpica на базе модели Qwen. Она распространяется в формате GGUF с mixed-quant квантованием и рассчитана на запуск с использованием SSD-PLE offload, в частности на системах DGX Spark. Модель относится к мультимодальному классу image-text-to-text и поддерживает обработку текстовых запросов и изображений, включая фотографии, снимки экрана и документы. Опубликованы варианты MQ-Q6-SSD-PLE-BF16 и MQ-Q5-SSD-PLE-BF16 с общим BF16 SSD-PLE sidecar; также доступен FP8 sidecar. Для модели заявлена проверка прямого prefill на 262 144 токенах, а связанный runtime поддерживает путь Qwen YaRN до 524 288 токенов, однако это подтверждает возможности программного стека, а не качество модели на таком контексте. В README приведены измерения производительности prefill и decode, оптимизации MTP, повторное использование кэшей и сквозная работа изображений через несколько API-совместимых интерфейсов. Сильные стороны модели — мультимодальность, варианты с разным компромиссом между качеством и потреблением памяти, поддержка SSD-PLE offload, длинного контекста и оптимизированного инференса. Ограничения включают зависимость от совместимого runtime и аппаратной конфигурации, необходимость выбора подходящего sidecar, а также отсутствие в README точных данных о числе параметров, языках, полном описании архитектуры и сравнении качества с исходной моделью. Лицензия указана как qwen-community-1.0; применяются условия лицензии Qwen, доступной по ссылке в карточке модели.

Это квантованный вариант Qwen/Qwen3.8-Flash-Next, подготовленный с помощью AutoRound и схемы MXFP4-Mixed. Репозиторий содержит веса в формате safetensors; модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. В README приведены результаты оценки на нескольких тестах и измерения на контексте длиной 131 072 токена. Для запуска требуется сборка vLLM с поддержкой MXFP4-Mixed и архитектуры модели. Для FP8-кэша KV его нужно включить отдельным параметром времени запуска; README также описывает ограничения совместимости некоторых сборок vLLM с этой архитектурой и форматом compressed-tensors. Лицензия наследуется от исходной модели Qwen/Qwen3.8-Flash-Next.

RedHatAI/Qwen3-Next-80B-A3B-Instruct-NVFP4 — квантизированная языковая модель для генерации текста и диалогового взаимодействия. Модель разработана Red Hat на основе Qwen/Qwen3-Next-80B-A3B-Instruct и использует архитектуру Qwen3NextForCausalLM. На вход принимает текст и возвращает текст; сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 по схеме NVFP4, при этом отдельные компоненты, включая lm_head, некоторые gate- и attention-слои, не квантизируются. По данным README, это уменьшает число бит на параметр с 16 до 4, а также приблизительно на 75% снижает размер модели на диске и требования к памяти GPU. Модель предназначена для инференса и может запускаться через vLLM; в приведённом примере используется tensor parallelism на двух GPU. Основное преимущество — существенное сокращение потребления памяти при сохранении назначения исходной instruct-модели. Ограничения связаны с использованием низкоразрядной квантизации, которая может влиять на качество генерации, а также с требованиями к совместимому программному и аппаратному окружению; количественная оценка влияния квантизации и подробные результаты бенчмарков в доступном фрагменте README отсутствуют. Модель распространяется по лицензии Apache-2.0.

Qwen3-Swallow-32B-CPT-v0.2 — плотная языковая модель на 29,7 млрд параметров, разработанная проектом Swallow на базе Qwen3-32B. Это вариант continual pre-training (CPT), обученный для улучшения японского языка и японско-английского перевода при сохранении и усилении навыков математики и программирования. В обучении использовались японские и английские корпуса, параллельные тексты, а также наборы данных по математике, коду, STEM и диалогам. Модель принимает текст и генерирует текст; поддерживает японский и английский языки. Метаданные указывают контекст до 40 960 токенов, а карточка рекомендует ограничивать длину контекста 32 768 токенами или меньше. Модель рассчитана на генерацию текста, диалог, перевод и задачи рассуждения, математики и программирования. Для инференса авторы преимущественно проверяли vLLM. Модель находится на раннем этапе разработки; авторы предупреждают, что её не настраивали для надёжного следования человеческим намерениям и требований безопасности. Использование инструментов явно не обучалось, а переключатель режима рассуждений не поддерживается. Лицензия — Apache-2.0.

Это модель Cross Encoder на базе prajjwal1/bert-tiny, дообученная с использованием библиотеки Sentence Transformers на данных GooAQ. Разработчик в README явно не указан; модель опубликована в пространстве cross-encoder-testing. Она принимает пары текстов и вычисляет оценку их смысловой взаимосвязи. Модель предназначена для ранжирования результатов поиска, оценки семантического сходства, поиска перефразирований, классификации текста и других задач, где требуется совместно анализировать два текстовых фрагмента. В частности, её можно применять как reranker: сначала получить кандидатов из поисковой системы, а затем упорядочить их по релевантности запросу. Поддерживается английский язык. Архитектурно это компактный Cross Encoder с одним выходным значением и максимальной длиной последовательности 512 токенов. Обучение выполнено с использованием BinaryCrossEntropyLoss на наборе размером 578 402 примера; заявленные метрики включают MAP, MRR@10 и nDCG@10. Компактность BERT-tiny может обеспечивать более быструю и менее ресурсоёмкую обработку по сравнению с крупными моделями, однако Cross Encoder требует отдельного вычисления для каждой пары текстов и поэтому может быть затратным при ранжировании больших коллекций. Лицензия — Apache-2.0.

Карточка модели whilework/rubert-tiny2 на Hugging Face совпадает с карточкой cointegrated/rubert-tiny2, поэтому описание составлено по ней. cointegrated/rubert-tiny2 — компактный русскоязычный BERT-энкодер, обновлённая версия ruBERT-tiny. Модель разработана для получения векторных представлений предложений; её также можно дообучать для прикладных задач. Она содержит около 29 млн параметров, использует словарь из 83 828 токенов и поддерживает последовательности длиной до 2048 токенов. Эмбеддинги предложений приближены к представлениям LaBSE; сегментные эмбеддинги настроены на задаче NLI. Векторы можно применять, например, для классификации коротких текстов методом ближайших соседей и оценки сходства предложений. Модель ориентирована на русский язык; карточка распространяет её по лицензии MIT.

RWKV/RWKV7-2.9B-20260805 — официальная базовая языковая модель RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM примерно на 3,1 млрд параметров; в репозитории представлены веса safetensors. Архитектура использует рекуррентное состояние постоянного размера вместо механизма внимания, поэтому размер состояния не растёт вместе с длиной генерации, а вычисления на каждый новый токен остаются постоянными. Обучение при этом можно распараллеливать. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения. В обучающих данных использовались веб-тексты, код, синтетические данные, инструкции, диалоги и рассуждения; карточка также содержит шаблон для диалоговых запросов и вызова инструментов. Шаблон не означает, что модель прошла настройку на безопасное поведение или является готовым ассистентом. Заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Для нативной интеграции с Transformers требуется версия 5.15 или актуальная версия из исходного кода. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения предыдущих состояний; производительность оптимизированного исполнения зависит от GPU, типа данных, размера пакета и формы входа. Разработчик не заявляет оценок безопасности, смещённости, токсичности, фактической точности или пригодности для критически важных задач. Лицензия — Apache-2.0.

akhooli/sbert_ar_nli_500k_norm — модель Sentence Transformers на основе BERT, дообученная на 500 тысячах арабских NLI-триплетов. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и сравнивает их с помощью косинусного сходства; максимальная длина последовательности — 512 токенов. Модель рассчитана на арабский язык и построена на aubmindlab/bert-base-arabertv02. Её можно применять для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текста. Данные обучения нормализовали, поэтому в README рекомендуется нормализовать запросы и документы перед кодированием. Модель распространяется по лицензии Apache-2.0.

nickprock разработал модель sentence-transformers на архитектуре BERT для представления итальянских предложений и абзацев в виде плотных векторов размерностью 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений; для работы с ней можно использовать Sentence-Transformers, FastEmbed или Transformers с подходящей операцией pooling. Модель насчитывает 137,1 млн параметров, имеет контекстное окно до 512 токенов и обучалась с функцией потерь CosineSimilarityLoss на данных, связанных с STS-Benchmark для нескольких языков. Доступны форматы PyTorch, safetensors и ONNX. Лицензия — MIT.

Sakil/sentence_similarity_semantic_search — дообученная модель на базе DistilBERT, созданная автором репозитория с использованием библиотеки sentence-transformers. Она предназначена для семантического поиска и оценки сходства предложений; также может применяться для подбора рекомендаций. При дообучении использовались заголовки и тексты новостей, а целевая оценка отражала их косинусное сходство. Модель принимает текст и формирует эмбеддинги для сравнения текстовых фрагментов; заявленная длина контекста — 512 токенов. Поддерживаемый язык по карточке — английский. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. README предлагает дообучать модель для конкретных сценариев.

KoonJamesZ/sentence-transformers-nina-thai-v3 — модель эмбеддингов предложений на базе XLM-RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и кластеризации. Число параметров — около 305,2 млн, контекст — до 514 токенов; модель принимает текст и выдаёт векторные представления. Для обучения использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель подходит для поиска семантически близких предложений, группировки текстов по смыслу и построения систем поиска по текстовым коллекциям. В названии указано Thai, однако доступные сведения не подтверждают отдельно поддерживаемые языки или их приоритет. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.

mitra-mir/setfit_model_Calgary_epochs2 — модель на базе MPNet, разработанная для преобразования предложений и абзацев в плотные векторы размерностью 768. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. Модель имеет 136,7 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста составляет 514 токенов. Обучение проводилось с функцией потерь CosineSimilarityLoss. Модель можно использовать в приложениях на Sentence-Transformers для поиска похожих фрагментов и группировки текстов. В карточке не приведены сведения о языковой специализации и лицензии.

Smaug-Llama-3-70B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Smaug-Llama-3-70B-Instruct, разработанной Abacus AI. Квантизацию выполнил bartowski с использованием imatrix и поддержки Smaug в llama.cpp. Модель предназначена для генерации текста по инструкциям, решения математических задач и работы с кодом; в качестве исходных данных указаны aqua_rat, microsoft/orca-math-word-problems-200k и m-a-p/CodeFeedback-Filtered-Instruction. Формат GGUF позволяет запускать её через llama.cpp, начиная с версии b3001. Модель содержит 70 миллиардов параметров и относится к текстовым моделям; сведения о поддерживаемых языках и размере контекста в README не указаны. Доступны варианты квантизации от Q8_0 до IQ1_M с размером файлов примерно от 75 ГБ до менее 20 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-квантизации отмечены как рекомендуемые: они предлагают компромисс между качеством и требованиями к памяти. Более сильная квантизация сохраняет качество, но требует значительных ресурсов, тогда как варианты Q2 и Q1 экономят память за счёт заметного снижения качества. Для корректной работы следует использовать указанный формат приглашений Llama 3 с системным сообщением, запросом пользователя и ответом assistant. README указывает лицензию llama2; дополнительные ограничения и условия коммерческого использования не описаны.

Myric/Spark-X2.5-4B-GGUF — это GGUF-конверсия модели XHToken/Spark-X2.5-4B, предназначенная для генерации текста и работы в сценариях рассуждений, включая агентное программирование. Модель выпускается в нескольких вариантах точности и квантования для запуска через llama.cpp. Модель имеет плотную архитектуру примерно на 4,11 млрд параметров, 36 слоёв, скрытое пространство размером 2560, 16 query-heads и 4 KV-heads. Она использует чередующееся sliding-window attention: 27 слоёв с окном 512 токенов и 9 слоёв с полным вниманием. Заявлен максимальный контекст до 1 048 576 токенов, однако качество на таком контексте в README не измерялось. Модель поддерживает текстовую модальность, имеет словарь на 131 072 токена и выдаёт блок рассуждений. Сильными сторонами являются сравнительно низкие требования к памяти при длинном контексте, наличие вариантов от BF16 до Q4_K_M и оптимизация квантований с importance matrix. Для запуска требуется специально пропатченная ветка llama.cpp с поддержкой архитектуры spark2_5; стандартная upstream-версия не загрузит модель. Необходимо явно задавать размер контекста, иначе может быть предпринята попытка выделить память под полный контекст в 1 млн токенов. Производительность и результаты в README измерены на ограниченном наборе задач, поэтому их нельзя считать универсальными оценками. Модель и конверсия распространяются по лицензии Apache-2.0.

Stable LM 2 12B — базовая авторегрессионная языковая модель, разработанная Stability AI. Это плотный трансформер-декодер с 11,6 млрд параметров по метаданным (в README указано 12,1 млрд), обученный на 2 трлн токенов текстовых и программных данных. Модель предназначена для дальнейшей тонкой настройки под прикладные задачи. Модель генерирует продолжение текста по текстовому запросу. В архитектуре используются Rotary Position Embeddings, групповые запросы внимания и токенизатор Arcade100k; максимальная длина контекста — 4096 токенов. В обучающих данных есть несколько европейских языков и код, однако в README основным языком назван английский. Это базовая модель, поэтому её поведение и пригодность для конкретной задачи требуют оценки и, как правило, дообучения. Она может выдавать ненадёжный, небезопасный или нежелательный текст, включая отражение предвзятостей обучающих данных. Указана Stability AI Community License; условия коммерческого использования следует проверять по лицензии модели.

stella-base-zh-v2 — китайскоязычная плотная модель кодирования текста, разработанная автором семейства stella. Она предназначена для получения векторных представлений предложений и фрагментов текста, семантического поиска, сопоставления запросов с документами и оценки сходства. Модель основана на piccolo-base-zh и дообучена на открытых наборах данных и синтетических парах вопрос–текст и предложение–текст; обучение включало контрастивные потери с трудными отрицательными примерами, EWC и cosent. В отличие от предшественника, v2 не требует инструкционного префикса для поиска. Архитектура — BERT, около 129,5 млн параметров; модель выдаёт эмбеддинги размерности 768 и обрабатывает последовательности длиной до 1024 токенов. Она рассчитана прежде всего на китайский язык и поддерживает сценарии кодирования длинных текстов. В карточке приведены результаты C-MTEB и отдельной оценки длинного текста, однако автор отмечает нехватку таких тестов и возможное пересечение тестовых данных с обучающими. Лицензия в предоставленных данных не указана.

Synesthesia-3.1-task_arithmetic — объединённая языковая модель, созданная bunnycore с помощью mergekit методом task arithmetic на базе unsloth/Meta-Llama-3.1-8B. В слияние вошли Replete-LLM-V2, Reflection, HyperLlama и Replete-Coder на базе Llama 3.1. Модель предназначена для генерации текста и диалогов; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель может применяться для универсального общения и генерации текста, включая задачи с кодом. В метаданных указана библиотека Transformers, а веса представлены в формате safetensors. README и метаданные не сообщают отдельные оценки качества или специальные ограничения. Лицензия в предоставленных данных не указана.

TigerBot-7B-SFT-v2 — языковая модель семейства BLOOM, опубликованная TigerResearch. Карточка представляет её как основу для создания собственных больших языковых моделей; метаданные указывают архитектуру BloomForCausalLM и размер 9,1 млрд параметров. Модель предназначена для генерации текста и может служить основой для приложений на базе LLM. Репозиторий содержит веса PyTorch. Модель распространяется по лицензии Apache-2.0.

Модель unsup-simcse-bert-base-uncased разработана группой Princeton NLP и представляет собой BERT-base-uncased, дообученный методом unsupervised SimCSE для получения векторных представлений предложений. Она предназначена для извлечения признаков и построения эмбеддингов, которые можно использовать в задачах семантического сходства и последующей обработки текста. Модель содержит 136,7 млн параметров, принимает текст на английском языке и поддерживает контекст до 512 токенов. Опубликованы варианты весов PyTorch и Flax. README указывает, что для обучения использовались случайно выбранные предложения из англоязычной Википедии; оценивание эмбеддингов проводилось на задачах семантического сходства и переноса на другие задачи. README не приводит лицензию. Эмбеддинги могут отражать вредные стереотипы и предубеждения, поэтому результаты следует проверять с учётом возможного смещения.

kowshik/upsc-classification-model-v1 — модель Sentence-Transformers на базе MPNet, разработанная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения сходства текстов и кластеризации; метаданные указывают 136,7 млн параметров и контекст до 514 токенов. Модель работает с текстом и выдаёт эмбеддинги. В README описано обучение с CosineSimilarityLoss; доступны веса PyTorch и использование через Sentence-Transformers или Transformers с соответствующим pooling. Лицензия и целевые естественные языки в предоставленных данных не указаны.

victormuryn/use-combined-no-pt — модель Sentence Transformers, дообученная на базе paraphrase-multilingual-mpnet-base-v2 для создания эмбеддингов украинских предложений. Она использует архитектуру XLM-RoBERTa с плотным представлением, содержит 305,2 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Модель обучена на корпусе украинских текстов UberText 2.0 с контрастивной целью и комбинированными стратегиями аугментации без pool targets. Она предназначена для сравнения смысла предложений и абзацев, семантического поиска и кластеризации; полученные векторы можно использовать в приложениях на Sentence Transformers. Поддерживает многоязычные входные данные, при этом обучение ориентировано на украинский язык. Модель распространяется по лицензии Apache-2.0. Показатели качества и ограничения по областям применения в карточке не приведены; качество на языках, отличных от украинского, отдельно не охарактеризовано.

Salience-1.5-Flash — мультимодальная модель vectionlabs, представленная в виде квантованных файлов GGUF, подготовленных bartowski с использованием llama.cpp. Модель основана на vectionlabs/Salience-1.5-Flash и относится к семейству Qwen3-VL; в карточке указаны архитектура mixture-of-experts (MoE), поддержка работы с изображениями и текстом, рассуждений, программирования, агентских сценариев и использования инструментов. Заявленный язык — английский. Модель предназначена для задач image-text-to-text: анализа изображений и генерации текстовых ответов, а также для диалоговых, аналитических, кодовых и инструментальных сценариев. В README не указаны точный размер модели, число экспертов, длина контекста и полный перечень поддерживаемых языков, поэтому эти характеристики нельзя определить по имеющимся данным. Доступны варианты от bf16 и Q8_0 до более компактных квантований Q3 и IQ3/IQ4; рекомендуемыми названы несколько вариантов Q4–Q6 с размером файлов примерно от 16,5 до 26,6 ГБ. К сильным сторонам относятся мультимодальность, MoE-архитектура, заявленная ориентация на рассуждения, программирование, агентское взаимодействие и работу с инструментами, а также возможность локального запуска через llama.cpp и совместимые приложения. Ограничения связаны с необходимостью выбирать подходящий уровень квантования и с отсутствием в карточке подробных результатов оценки качества, точных требований к оборудованию и спецификаций контекстного окна. Модель распространяется по лицензии Apache-2.0.

Etelis/YELP_fewshot — модель семейства MPNet, опубликованная пользователем Etelis в формате PyTorch и оформленная как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Обучение использовало CosineSimilarityLoss. Модель содержит 136,7 млн параметров и рассчитана на входные последовательности длиной до 514 токенов. Её можно применять с библиотекой Sentence Transformers либо через Transformers с подходящей операцией pooling. Лицензия в предоставленных данных не указана.

ehristoforu/0000mxs — языковая модель Mistral для генерации текста и диалогового общения, созданная автором репозитория с помощью mergekit. Это слияние пяти предварительно обученных моделей: Gaivoronsky/Mistral-7B-Saiga, HuggingFaceH4/mistral-7b-grok, NousResearch/Yarn-Mistral-7b-128k, OpenBuddy/openbuddy-mistral2-7b-v20.3-32k и ajibawa-2023/Code-Mistral-7B; применён метод passthrough. Модель имеет плотную архитектуру MistralForCausalLM, 12,4 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации ответов в чате, продолжения текста и задач, связанных с кодом. В состав слияния входят модели с русскоязычной диалоговой настройкой, поддержкой длинного контекста и специализацией на коде, однако README не сообщает результатов оценки качества или точного распределения возможностей итоговой модели. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

Карточка модели PS4Research/9DgDaWTmX85XRwSq на Hugging Face совпадает с карточкой PS4Research/IKn8jwlNamPNIS15, поэтому описание составлено по ней. Модель PS4Research/IKn8jwlNamPNIS15 — дообученная PS4Research языковая модель семейства Granite на базе ibm-granite/granite-4.2-30b. Она предназначена для генерации текста и диалогового взаимодействия; интерфейс также поддерживает вызов инструментов. Модель содержит 28,9 млрд параметров, использует плотную архитектуру GraniteForCausalLM и принимает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Базовая модель IBM описана как многоязычная и предназначенная для рассуждений, диалога, программирования и вызова инструментов, однако README не уточняет, какие именно навыки были предметом дообучения этой версии. Модель распространяется в формате safetensors по лицензии Apache-2.0; для ускорения обучения использовались Unsloth и библиотека TRL.

SC117/Agents-A1-MTP-APEX-GGUF — сборка модели Agents-A1, подготовленная SC117 в формате GGUF с APEX-квантизацией и слоем Multi-Token Prediction (MTP). Базовая Agents-A1 разработана InternScience: это агентная MoE-модель класса 35 млрд параметров, дообученная на Qwen3.5-35B-A3B. В README также описана версия BF16 и визуальный проектор mmproj-F16 для работы с изображениями и текстом. Модель предназначена для генерации ответов и выполнения многошаговых агентных задач, включая научные рассуждения, поиск и вызов инструментов. README приводит результаты на научных и агентных бенчмарках; GGUF-файлы рассчитаны на запуск через llama.cpp, а также указаны варианты развёртывания через vLLM и SGLang. Для llama.cpp заявлена поддержка контекста до 131072 токенов, для vLLM — до 262144; MTP призван ускорять генерацию. APEX применяет смешанную точность с учётом типа тензоров, а MTP-слой сохраняется в Q8_0. Метаданные указывают форматы GGUF, BF16 и F16. Лицензия — Apache-2.0. Описания производительности и приведённые в README бенчмарки являются заявлениями авторов; качество конкретной квантизированной сборки может зависеть от выбранного файла и среды запуска.