I.2Синтез, понимание и проверка знаний

Ko-Llama3-Luxia-8B — языковая модель от команды AI Labs компании Saltlux, дообученная на корейских данных на основе Meta Llama 3 8B. Для предварительного обучения отобрали около 100 ГБ корейских данных из собственного набора объёмом более 1 ТБ; токенизатор Llama 3 расширили 17 536 корейскими токенами. Модель предназначена для генерации текста на корейском языке и диалоговых сценариев. Это плотная авторегрессионная модель семейства Llama с 7,6 млрд параметров и контекстом 8192 токена; репозиторий содержит веса Safetensors. В метаданных указана поддержка корейского и английского языков. Модель опубликована для исследований и свободного обучения и применения в различных задачах генерации естественного языка. Она распространяется по лицензии Llama 3; качество на конкретных задачах и ограничения безопасности следует проверять отдельно.

onnx-community/LFM2-350M-ONNX — ONNX-версия языковой модели LFM2-350M, разработанной Liquid AI для edge AI и локального запуска на устройствах. Модель предназначена для генерации текста, агентных сценариев, извлечения данных, RAG, творческого письма и многоходовых диалогов. Она может работать на CPU, GPU и NPU, включая смартфоны, ноутбуки и автомобильные системы. Модель содержит 354 483 968 параметров, 16 слоёв, контекстное окно на 32 768 токенов и словарь размером 65 536 токенов. Архитектура гибридная: включает 10 блоков коротких LIV-свёрток с двойными мультипликативными вентилями и 6 блоков grouped query attention (GQA). Указанная точность исходной модели — bfloat16; ONNX-репозиторий поддерживает запуск через Transformers.js, включая вариант q4. Модель обучалась на смеси примерно из 75% англоязычных, 20% многоязычных и 5% программных данных и поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. К сильным сторонам относятся малая размерность, эффективность по скорости и памяти, возможность локального развёртывания, а также заявленное преимущество над моделями сопоставимого размера в задачах знаний, математики, следования инструкциям и мультиязычности. Из-за небольшого размера модель рекомендуется дообучать под узкие сценарии. Она не рекомендуется для задач, требующих глубоких знаний или программирования. Модель распространяется по лицензии LFM Open License v1.0.

LFM2.5-8B-A1B-Base — базовая текстовая модель Liquid AI, предназначенная для дальнейшей настройки и запуска на устройствах. Это гибридная MoE-архитектура LFM2 с 8,3 млрд параметров всего и примерно 1,5 млрд активных параметров; метаданные каталога указывают 1,6 млрд параметров. Модель содержит 24 слоя и поддерживает контекст до 128 000 токенов. Модель обучена на английском, арабском, китайском, французском, немецком, японском, корейском, португальском и испанском языках. Она предназначена для генерации текста и может служить основой для тонкой настройки помощников, следующих инструкциям, работающих с вызовами инструментов и структурированными ответами. В карточке семейства отмечена высокая скорость инференса на CPU и GPU и поддержка локального развёртывания. Это именно предварительно обученная базовая версия, поэтому для диалога и агентных сценариев может потребоваться дополнительная настройка. Разработчик не рекомендует её для сложного программирования и ответов на вопросы, требующих обширных знаний, без использования поиска или извлечения данных. Лицензия указана как other; конкретные условия следует проверять в документации Liquid AI.

itsabdou/llama31-8b-fine-tuned-combined-v2-merged — дообученная плотная авторегрессионная языковая модель семейства Llama 3.1, разработанная itsabdou на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. В модели около 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалоговых сценариев на английском языке. Карточка сообщает, что обучение выполнено с использованием Unsloth и библиотеки TRL от Hugging Face; лицензия — Apache-2.0. Сведения о специализации дообучения и его оценке качества не приведены.

ApolloRaines/Llama-3.1-8B-Instruct.immunized.v2 — дообученная модель на архитектуре Llama 3.1 от разработчика ApolloRaines с применением проприетарного конвейера jBlaze. Она предназначена для диалогов и генерации текста, в том числе в системах с поиском по документам и агентами, где важно снизить риск утечки приватного контекста из-за атак EchoLeak и связанных с ними prompt injection. По карточке, модель содержит 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и рассчитана на английский язык. Доступны веса Safetensors и варианты GGUF в форматах F16 и нескольких уровнях квантования; заявлен стандартный интерфейс Transformers без дополнительных компонентов во время выполнения. Автор сообщает о результатах тестирования защиты: 100 из 100 атак в canary-наборе и 83 из 100 в более сложном наборе атак на ролевые сценарии. Это результаты конкретных тестов, а не гарантия защиты в реальном развертывании. По README, остальные классы атак, включая jailbreak, а также отказы и галлюцинации не изменены; в ролевом тесте остаётся уязвимым определённый сценарий с приватными данными в системном промпте. Лицензия — Llama 3.1.

Minbyul/llama3-8b-instruct-wo-kqa_golden-iter-sft-step1 — дообученная диалоговая языковая модель на архитектуре Llama, созданная на основе meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста и ответов в формате чата. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Дообучение выполнено на наборе HuggingFaceH4/deita-10k-v0-sft; в карточке приведено значение loss 0,4835 на наборе оценки. Базовая модель описана как ориентированная на ассистентские ответы и генерацию текста на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3.

mentee-embed-v4 — модель векторных представлений текста, разработанная Syed Syab Ahmad Shah и командой MenteE AI. Она предназначена для поиска по смыслу, извлечения релевантных текстов и оценки семантического сходства на английском, арабском и урду. Модель содержит 41 млн параметров и использует 12-слойный Transformer с размерностью эмбеддингов 384. Она обучена с нуля: разработчики создали BPE-токенизатор, провели предварительное обучение masked language modeling и три раунда контрастивной дистилляции с трудными негативными примерами. Контекст ограничен 512 токенами по метаданным. В репозитории указаны веса Safetensors; лицензия — Apache-2.0. Модель компактна и показала хорошие результаты на MIRACL, особенно для английского и арабского поиска; авторы также сообщают о высокой скорости инференса на RTX 5090. На их собственном тестовом наборе результаты заметно уступают более крупным моделям, арабский и урду отстают от английского; редкие письменности и диалекты могут токенизироваться хуже. Полный набор MTEB не оценивался.

MiniCPM5-2B-Claude-Fable5-heretic — языковая модель для генерации текста и агентских сценариев, созданная RACER IS OP на основе SauravMahalik/MiniCPM5-2B-Claude-Fable5. Родительская модель получена дообучением openbmb/MiniCPM5-2B на агентских трассах, дистиллированных из Claude Fable-5 и других передовых моделей, а затем в этой версии поведение отказов было подавлено методом Heretic v1.4.0 посредством направленного редактирования весов, без дополнительного дообучения. Модель предназначена для многошагового следования инструкциям, диалогов, вызова функций и инструментов, а также разработки локальных и автономных агентов. Она поддерживает английский и китайский языки, имеет архитектуру Llama и около 2,57 млрд параметров. Доступны версии Safetensors и GGUF различных уровней квантования, благодаря чему модель рассчитана на запуск на потребительских GPU, CPU, Apple Silicon и небольших устройствах через llama.cpp, Ollama, LM Studio или Jan. Размер контекста в README не указан. К сильным сторонам относятся компактный размер, сохранение заявленных способностей к использованию инструментов и агентскому диалогу, а также значительно сниженное количество отказов по сравнению с родительской моделью: 3 из 100 против 89 из 100 в приведённом авторами тесте. При этом модель является uncensored-вариантом без исходных защитных ограничителей, поэтому её ответы требуют дополнительной проверки и мер безопасности. Приведённые показатели основаны на тестах авторов и не являются независимой оценкой; влияние абляции и квантования на качество может различаться. Модель распространяется по лицензии Apache-2.0.

MiniCPM-V-2_6-GGUF — набор GGUF-квантизованных версий мультимодальной модели MiniCPM-V-2_6, разработанной командой OpenBMB и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для задач image-text-to-text, включая анализ изображений, OCR, работу с несколькими изображениями и видео. Заявлена поддержка мультиязычных сценариев, однако конкретный перечень языков в представленном README не указан. Модели используют llama.cpp и квантизацию с применением imatrix; по заявлению автора, это должно улучшать работу текстовой части модели. Доступны варианты от F16 размером 15,23 ГБ до низкобитных IQ2_M и Q2_K размером около 2,78–3,01 ГБ. Варианты Q6_K и Q6_K_L обеспечивают очень высокое качество, а Q4_K_M рекомендуется как компромисс между качеством и размером. Варианты с суффиксом L используют Q8_0 для embedding- и output-весов, что потенциально может повысить качество, но автор отмечает, что эффект зависит от практического использования. Модель подходит для локального запуска через llama.cpp и LM Studio при наличии совместимого оборудования; требуемые ресурсы зависят от выбранного варианта квантизации. README не содержит сведений о размере базовой модели в параметрах, длине контекста, точной архитектуре, ограничениях мультимодальных входов или результатах бенчмарков. Лицензия в представленном описании не указана.

Mini-Monkey — компактная мультимодальная языковая модель, разработанная Mingxin Huang, Yuliang Liu, Dingkang Liang, Lianwen Jin и Xiang Bai. Она основана на архитектуре InternVL Chat и предназначена для диалога с пользователем по изображениям и понимания визуальных данных. Модель применяет стратегию адаптивного многомасштабного кадрирования MSAC, чтобы получать представления объектов на разных масштабах, и механизм сжатия SCM, уменьшающий число визуальных токенов. Авторы сообщают о сильных результатах на общих задачах понимания изображений и задачах работы с документами, включая OCR, диаграммы и визуальные вопросы и ответы. В README заявлены результаты на уровне моделей с большим числом параметров, однако количественный размер именно этой модели в предоставленных метаданных и тексте карточки не указан. Модель принимает изображения и текстовые запросы и генерирует текстовые ответы. Она рассчитана на визуальные вопросы и ответы, распознавание текста и извлечение сведений из документов, диаграмм и графиков. Репозиторий распространяет веса в формате safetensors; лицензия — MIT.

MMLW-retrieval-roberta-large-v2 — польский текстовый энкодер семейства RoBERTa, разработанный для поиска информации и оценки семантического сходства. Модель основана на polish-roberta-large-v2 и содержит 533,7 млн параметров; она преобразует запросы и фрагменты текста в векторы размерностью 1024. Контекст составляет до 514 токенов. Модель обучали в два этапа: сначала применили дистилляцию знаний от stella_en_1.5B_v5 на 20 млн польско-английских пар текстов, затем дообучили с contrastive loss на более чем 4 млн запросов. Для поиска к запросам добавляют префикс «[query]: », а для симметричного сравнения текстов — «[sts]: ». В README указана оценка NDCG@10 60,71 на польском бенчмарке PIRB. Модель предназначена для польскоязычного семантического поиска, извлечения релевантных документов и сравнения текстов; доступна в формате safetensors. Лицензия в метаданных указана как Gemma, поэтому перед применением следует учитывать её условия. Данные об обучении поддерживают польский и английский языки, но карточка характеризует модель прежде всего как польский энкодер.

mjwong выпустил дообученную на наборах XNLI и ANLI модель на базе multilingual-e5-large-instruct для многоязычной классификации без примеров. Она использует архитектуру XLM-RoBERTa с примерно 658,7 млн параметров и доступна в форматах PyTorch и Safetensors. Модель принимает текст и заданные пользователем названия классов, а затем оценивает принадлежность текста к этим классам; её также можно применять для задач определения отношений между посылкой и гипотезой (NLI). Окно контекста составляет 514 токенов. В README приведены результаты оценки на XNLI для 15 языков, а также на MultiNLI и ANLI. Лицензия CC-BY-NC-4.0 ограничивает использование условиями этой лицензии, включая некоммерческий характер. Качество зависит от формулировок текста и меток классов; приведённые результаты относятся к указанным тестовым наборам и не гарантируют качество на других данных.

mjwong/multilingual-e5-large-xnli-anli — многоязычная модель классификации текста, созданная дообучением intfloat/multilingual-e5-large на наборах XNLI и ANLI. Она основана на архитектуре XLM-RoBERTa-large, содержит 658,7 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для классификации без заранее заданного набора классов: можно передать текст и собственные варианты меток, а также применять её для задач вывода по текстовым парам. Поддерживаются 15 языков: английский, арабский, болгарский, немецкий, греческий, испанский, французский, хинди, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. В README приведены результаты оценки на XNLI, MultiNLI и ANLI. Модель доступна в форматах PyTorch и Safetensors. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Качество зависит от выбранных формулировок меток и языка; результаты на тестах ANLI и XNLI различаются между языками и наборами.

multilingual-e5-small-int8 — это ONNX-модель для построения текстовых эмбеддингов, разработанная на основе Xenova/multilingual-e5-small и подготовленная как неизменяемый пакет для ZimaOS Photos с автоматическим эмбеддингом в Manticore. Модель распространяется под лицензией MIT и предназначена для семантического поиска и сопоставления текстов, в частности двуязычных описаний и подробных сводок, создаваемых VLM для фотографий. Модель использует архитектуру и параметры исходной multilingual-e5-small, но точный размер исходной модели в README не указан. Опубликованный артефакт — ONNX-модель с INT8-квантизацией для выполнения через ONNX Runtime. Размер выходного вектора составляет 384 значения, применяется mean pooling с учётом attention mask и последующая L2-нормализация. Максимальная длина входа — 512 токенов. Для запросов используется префикс «query: », а для индексируемых текстов — «passage: »; соблюдение этих префиксов является частью фиксированного контракта эмбеддингов. Поддерживается многоязычный текст, однако конкретный перечень языков не указан. Сильные стороны модели — компактное 384-мерное представление, INT8-формат, совместимость с ONNX Runtime и пригодность для эффективного семантического поиска по многоязычным описаниям. Ограничения включают максимальную длину контекста в 512 токенов, необходимость корректно использовать разные префиксы для запросов и passages, а также отсутствие в README сведений о точной архитектуре, числе параметров и результатах бенчмарков. В репозитории опубликованы config.json, tokenizer.json и единственный файл model.onnx; альтернативные форматы весов не предоставляются.

multi-sentence-BERTino V5 — италоязычная модель Sentence Transformers на архитектуре DistilBERT, разработанная автором репозитория nickprock и дообученная для поиска и сравнения предложений. Она преобразует предложения и абзацы в плотные векторы размерностью до 768 и предназначена для семантического поиска, информационного поиска, подбора контекста для RAG и оценки семантического сходства. Обучение использует Matryoshka Representation Learning: векторы можно усекать до 512, 256 или 128 измерений, сохраняя полезность для поиска; README приводит результаты на итальянских наборах для retrieval и STS. Для retrieval применялись синтетические запросы к абзацам итальянской Википедии с трудными отрицательными примерами, а для сходства — итальянская часть STS-B. Максимальная длина контекста — 512 токенов. Репозиторий содержит форматы ONNX и safetensors и распространяется по лицензии Apache-2.0. Модель рассчитана на итальянский язык и возвращает эмбеддинги, а не готовые текстовые ответы. Метрики приведены для hold-out оценки автора; качество на других доменах и типах данных может отличаться.

Nemotron-3-Embed-8B-GGUF — набор GGUF-квантизаций модели Nemotron-3-Embed-8B-BF16, разработанной NVIDIA. Модель предназначена для создания текстовых эмбеддингов, семантического сходства и задач информационного поиска, включая retrieval и сценарии на базе sentence-transformers. Это текстовая embedding-модель с размером исходной модели 8B; точные сведения об архитектуре, поддерживаемых языках и длине контекста в README не указаны. Квантизация выполнена с использованием llama.cpp и публичной матрицы важности Wikitext-2. Для корректной работы к запросам требуется добавлять префикс «query: », а к документам — «passage: ». Эмбеддинги формируются посредством mean pooling и нормализуются по L2, что удобно для сравнения векторов. Сильные стороны модели — наличие GGUF-формата и ориентация на семантический поиск и сопоставление текстов. Ограничения включают необходимость соблюдать специальные префиксы и отсутствие в предоставленных данных подробностей о качестве, конкретных вариантах квантизации, языковом покрытии и контекстном окне. Модель распространяется по лицензии OpenMDW 1.1; README также указывает, что данный репозиторий не связан с NVIDIA, Mistral или другими компаниями и не одобрен ими.

OpenThinker3-7B-F32-GGUF — текстовая модель рассуждений на 7 млрд параметров, опубликованная prithivMLmods в формате GGUF. Это вариант OpenThinker3-7B, дообученной на наборе OpenThoughts3-1.2M методом SFT; каталог указывает семейство архитектуры Qwen2. Модель предназначена для генерации ответов и диалогового использования, в частности для математических, программных и научных задач. Файлы доступны в точностях F32, F16 и BF16; README рекомендует запускать их через llama.cpp или совместимые движки. Карточка заявляет улучшение относительно предыдущих версий OpenThinker и высокие результаты среди моделей рассуждений класса 7B, однако независимые условия и метрики сравнения не приведены. Модель принимает текст и генерирует текст, поддерживаемый язык по карточке — английский. Лицензия — Apache-2.0.

Palmyra Vision — мультимодальная модель семейства Palmyra от Writer для диалога и генерации ответов по изображениям. Она принимает изображение и текстовый запрос и предназначена для визуальных вопросов и ответов, включая анализ диаграмм, документов, инфографики, распознавание текста на изображениях, подсчёт объектов и визуальные задачи по математике. В README указано обучение на наборе PixMo объёмом 1 млн примеров; метаданные описывают плотную архитектуру Palmyra_visionForCausalLM на 12,8 млрд параметров, контекст до 4096 токенов и формат safetensors. Модель поддерживает английский язык и использует Transformers. В README приведены результаты на 11 академических бенчмарках: средняя оценка 78,3 и рейтинг человеческих предпочтений Elo 1056. Для обработки изображений требуется RGB; на прозрачных изображениях модель может работать хуже, поэтому рекомендуется предварительно добавить фон. Лицензия в предоставленных данных не указана. Метаданные связывают модель слиянием с openai/clip-vit-large-patch14-336 и Writer/Palmyra-Large.

Модель iambestfeed/phobert-base-v2-finetuned-raw_data_wseg-lr2e-05-1-epochs-bs-64 — Sentence Transformer, дообученный разработчиком iambestfeed на базе vinai/phobert-base-v2 с использованием набора vnexpress-data-similarity. Это плотный RoBERTa-энкодер с 162,4 млн параметров: он преобразует предложения и абзацы в векторы размерностью 768 и предназначен для сравнения текстов по косинусному сходству. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста. Обучение на парах anchor–positive из новостного набора VnExpress ориентирует её на вьетнамские тексты. Максимальная длина последовательности — 258 токенов по метаданным; в README указано ограничение 256 токенов. Для применения нужны входные тексты, а модель выдаёт векторы, используемые для поиска и сравнения. Указанная лицензия отсутствует в предоставленных источниках, поэтому условия использования по ним определить нельзя.

Piccolo-large-zh-v2 — китайская модель эмбеддингов, разработанная группой General Model компании SenseTime Research. Она предназначена для получения векторных представлений текста для поиска, ранжирования, оценки сходства, классификации и кластеризации. Модель построена на архитектуре BERT и обучена с использованием многоцелевой комбинированной функции потерь; размер эмбеддинга — 1792 измерения, длина последовательности — до 512 токенов. Обучение поддерживает гибкую размерность векторов благодаря MRL. В README описаны результаты на китайском бенчмарке C-MTEB и сценарии дообучения для прикладных задач. Модель принимает текст и выдаёт эмбеддинги; в метаданных указан формат PyTorch и около 424,3 млн параметров. Весовые файлы временно сняли с публикации в мае 2024 года, поэтому README предлагает временный доступ через API. Условия лицензирования в предоставленных материалах не указаны.

Модель ehristoforu/Qwen2-1.5b-it-chat-sp-ru-bel-arm-ger-fin-tur-per-ko — разговорная дообученная версия Qwen2 с 1,5 млрд параметров для генерации текста. Она предназначена для диалогов и ответов на текстовые запросы; карточка сообщает, что обучение выполнялось с Unsloth и библиотекой Hugging Face TRL. Модель принимает текст и выдаёт текст. Указана длина контекста 32 768 токенов. По названию базовой модели можно установить поддержку испанского, русского, белорусского, армянского, немецкого, финского, турецкого, персидского и корейского языков; метаданные также отмечают английский. Лицензия — Apache-2.0.

lucaswychan опубликовал дообученную модель эмбеддингов на основе плотной decoder-only архитектуры Qwen3.0-0.6B. Она предназначена для преобразования текстов в векторные представления и сравнения их семантической близости; в исследовании модель используется для изучения того, как обучение с подкреплением влияет на качество эмбеддингов. README сообщает, что такое начальное обучение не даёт устойчивого преимущества перед базовой моделью после одинакового контрастивного дообучения. Модель содержит 507,9 млн параметров, поддерживает контекст до 32 768 токенов и рассчитана на многоязычные тексты. Для использования доступны форматы Sentence Transformers и Transformers; README рекомендует включить trust_remote_code=True. Лицензия — Apache-2.0. В README описаны результаты исследований на MTEB и BRIGHT, но конкретные численные оценки этой модели не приведены.

Это версия Qwen3-0.6B в формате GGUF с точностью FP32, опубликованная huggit0000. Веса получены преобразованием исходной модели Qwen3-0.6B из формата safetensors; слои в файле упорядочены последовательно по числовому индексу. Модель представляет собой причинную языковую модель с 0,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, а также математических и программных задач. Она поддерживает переключение между режимом рассуждений и обычным режимом диалога и, согласно карточке Qwen3, рассчитана на более чем 100 языков и диалектов. Компактный размер позволяет запускать её локально; README также описывает исполнение через llama.cpp и одnofайловые реализации на C и CUDA C. Вариант FP32 сохраняет полную точность весов и предназначен для случаев, когда нужна версия GGUF без квантизации, однако он требует больше памяти, чем квантованные варианты. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными моделями. Лицензия — Apache-2.0.

MingZwhy/Qwen3-1.7B-W2.79-QAOPD — производная модель Qwen3-1.7B, разработанная автором репозитория MingZwhy. Это плотная авторегрессионная языковая модель с 1,7 млрд параметров для генерации текста и диалогов. Веса квантованы до эффективных 2,79 бита: блоки используют смешанные INT1.58 и INT4, эмбеддинги и выходная голова — INT4, активации — INT8. После квантования модель восстановлена с помощью quantization-aware distillation и on-policy distillation; квантование встроено в веса. Модель подходит для диалоговых приложений, ответов на вопросы, математических задач и генерации кода. В README приведены результаты на GSM8K, MATH-500, AMC23, MBPP, HumanEval и QA9; на этих тестах показатели ниже, чем у исходной версии Qwen3-1.7B в BF16. Контекстное окно составляет 40 960 токенов. Базовая модель — многоязычная Qwen3; точный перечень поддерживаемых языков в предоставленных сведениях не раскрыт. Модель распространяется по лицензии Apache-2.0.

MingZwhy/Qwen3-4B-W2.79-QAOPD — языковая модель Qwen3 с плотной архитектурой Qwen3ForCausalLM и 3,7 млрд параметров. Это квантизированная и доработанная дистилляцией версия Qwen/Qwen3-4B: веса представлены смешанной точностью INT1.58 и INT4 в блоках по 256, с эффективной разрядностью 2,79 бита; эмбеддинги и выходной слой — INT4, активации — INT8. Квантизация включена в чекпойнт. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики и программирования. В карточке приведены результаты на GSM8K, MATH-500, AMC23, MBPP, HumanEval и QA9; по указанным метрикам она уступает исходной версии Qwen3-4B BF16. Контекст составляет до 40 960 токенов. Для загрузки README предлагает Transformers и AutoModelForCausalLM. Модель выпущена MingZwhy под лицензией Apache-2.0. В описании бенчмарков приведены режимы оценки, но они не гарантируют аналогичного качества на других задачах; поддерживаемые языки в предоставленных данных не перечислены.

Azizbek8189/Qwen3.5-0.8B-GGUF — модель семейства Qwen3.5 на базе Qwen/Qwen3.5-0.8B, представленная в формате, подготовленном с использованием инструментов Unsloth. Это каузальная языковая модель с vision encoder, предназначенная для прототипирования, исследовательских и разработческих задач, а также специализированного дообучения. Модель поддерживает текстовые и визуальные входы и может применяться для рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; заявлена длина контекста 262 144 токена. Указана поддержка 201 языка и диалекта. Артефакты совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся компактный размер, мультимодальность, большой контекст и эффективность гибридной архитектуры, что делает модель подходящей для локального запуска и экспериментов с ограниченными ресурсами. Ограничениями являются небольшой по современным меркам объём параметров и заявленная ориентация на прототипирование и исследования, поэтому качество на сложных задачах может уступать более крупным моделям. Лицензия — Apache-2.0.

unsloth/Qwen3.5-0.8B-GGUF — модель семейства Qwen3.5 на базе Qwen/Qwen3.5-0.8B, представленная в репозитории Unsloth. Это мультимодальная причинная языковая модель с vision encoder, предназначенная для локального запуска, прототипирования, исследовательских и разработческих задач, а также предметно-ориентированного дообучения. Модель может применяться для работы с текстом и изображениями, рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит около 0,8 млрд параметров, 24 слоя, скрытое измерение 1024 и нативное контекстное окно до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Артефакты совместимы с экосистемой Hugging Face Transformers, vLLM, SGLang и KTransformers, а Unsloth также заявляет возможность локального дообучения. К сильным сторонам относятся мультимодальность, большое контекстное окно, компактный размер и заявленная высокая эффективность инференса, что делает модель подходящей для локального использования и экспериментов при ограниченных ресурсах. Ограничением является небольшой масштаб в 0,8 млрд параметров: модель прежде всего ориентирована на прототипирование, специализированное дообучение и исследования, поэтому её возможности могут уступать более крупным моделям в сложных универсальных задачах. Лицензия — Apache 2.0.

Это исправленная сборка официальной мультимодальной модели Qwen3-VL-Embedding-8B, подготовленная scottlowry для загрузки в инструментах на базе MLX, включая oMLX и mlx-vlm. Веса BF16 сохранены без изменений; добавлен один тензор lm_head.weight — копия матрицы токенных эмбеддингов, необходимая загрузчику MLX. Модель создаёт эмбеддинги текста, изображений и видео для семантического поиска и сопоставления. Модель подходит для поиска по мультимодальным данным и оценки сходства между запросами и материалами. По карточке базовая модель имеет 8 млрд параметров; репозиторий использует формат safetensors и распространяется по лицензии Apache-2.0. Исправление предназначено для совместимости с MLX-инструментами; оно не меняет исходные четыре шарда и не добавляет функциональность генерации текста.

kwondw/reranker-MiniLM-L12-H384-uncased-gooaq-cmnrl — англоязычный cross-encoder, дообученный автором на наборе вопросов и ответов GooAQ на базе microsoft/MiniLM-L12-H384-uncased с использованием Sentence Transformers. Модель оценивает пары текстов одним числовым баллом и предназначена для переранжирования результатов поиска и семантического поиска, в том числе для отбора ответов на вопросы. Модель использует архитектуру BERT с классификационной головой, содержит 40 млн параметров и обрабатывает последовательности длиной до 512 токенов. В карточке приведены оценки на наборах NanoBEIR и NanoMSMARCO, NanoNFCorpus и NanoNQ; показатели различаются в зависимости от набора и конфигурации, поэтому их следует проверять на целевых данных. Лицензия — Apache-2.0.

Модель tomaarsen/reranker-ModernBERT-large-gooaq-bce разработана на базе answerdotai/ModernBERT-large и дообучена автором tomaarsen как Cross Encoder с библиотекой Sentence Transformers. Она оценивает пары текстов одним числовым баллом релевантности и предназначена для переранжирования результатов поиска и семантического поиска, например, для выбора наиболее подходящих ответов на вопрос. Модель содержит 394,7 млн параметров, принимает последовательности длиной до 8192 токенов и обучена для английского языка на 578 402 примерах с вопросами, ответами и бинарными метками. В README приведены результаты оценки на GooAQ и наборах NanoBEIR; качество зависит от данных и сценария применения. Лицензия — Apache-2.0.