I.3Извлечение и структурирование данных

OpenZephyrChat-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и Fredithefish/OpenZephyrChat методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации ответов на инструкции и диалоговые запросы. Модель принимает текст и генерирует текстовые ответы. Заявленная длина контекста — 32 768 токенов. В репозитории представлены веса в формате safetensors; лицензия — Apache-2.0. Карточка указывает английский язык.

TheBloke/Orca-2-13B-GGUF — это квантизированная версия языковой модели Orca 2 13B, разработанной Microsoft и преобразованной TheBloke в формат GGUF. Модель предназначена для генерации текста и диалогового взаимодействия, включая работу через llama.cpp и совместимые графические интерфейсы и библиотеки. Для форматирования запросов используется шаблон ChatML с системным сообщением, запросом пользователя и ответом ассистента. Модель относится к архитектуре Llama и содержит около 13 миллиардов параметров. Она работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. GGUF-файлы доступны с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти и качеством генерации, а также запускать её на CPU и GPU. К сильным сторонам относятся поддержка широкого набора локальных инструментов, возможность GPU-ускорения и выбор вариантов квантизации. Ограничения связаны с возможной потерей качества при низкой разрядности и с тем, что точные характеристики производительности и контекстного окна не приведены. В метаданных указана лицензия other, без уточнения конкретных условий использования.

Модель shahidha/paraphrase-multilingual-MiniLM-L12-v2 — дообученная модель эмбеддингов предложений на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, экспортированная в формат ONNX с квантизацией INT8. Она использует архитектуру MiniLM-L12 на базе BERT, содержит 124,3 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Для выполнения требуется ONNX Runtime; модель ориентирована на быстрый локальный запуск на мобильных и периферийных устройствах. Модель преобразует запросы и документы в плотные векторы для семантического поиска, поиска ответов, сопоставления FAQ, индексации векторных баз и retrieval-компонентов RAG-систем. В README указано дообучение на пользовательском наборе пар «запрос—ответ»; приведённые метрики Recall@1 96,39%, Recall@5 99,51% и MRR 97,69% относятся к тестовому набору авторов и не гарантируют такие же результаты на других данных. Карточка указывает поддержку многоязычной обработки, а метаданные содержат язык en. Лицензия — Apache-2.0. Модель выдаёт эмбеддинги и не генерирует текстовые ответы. Качество поиска зависит от близости данных применения к обучающей выборке и может различаться между предметными областями и языками.

Карточка модели Kaylebor/pf2e-codex-embed-xs на Hugging Face совпадает с карточкой Snowflake/snowflake-arctic-embed-xs, поэтому описание составлено по ней. Snowflake/snowflake-arctic-embed-xs — компактная модель эмбеддингов текста из семейства Arctic Embed, разработанного Snowflake. Она предназначена для поиска по смыслу и извлечения релевантных документов, включая семантический поиск и retrieval-компонент систем RAG. Модель основана на all-MiniLM-L6-v2 и использует архитектуру BERT. В метаданных указано 25,9 млн параметров и контекст до 512 токенов; README приводит 22 млн параметров и размерность эмбеддинга 384. Компактный размер рассчитан на сценарии с жёсткими ограничениями по задержке и стоимости. В README сообщается результат 50,15 NDCG@10 на MTEB Retrieval. Карточка описывает обучение и оценку для задач поиска, но не подтверждает поддержку конкретных языков, поэтому модель следует выбирать с учётом языка и данных своего корпуса. README указывает на более новые многоязычные версии Arctic Embed, которые авторы рекомендуют для многоязычных сценариев. Репозиторий содержит форматы ONNX и safetensors. Лицензия в предоставленных данных не указана.

bunnycore/Phi-4-Model-Stock-v3 — объединённая языковая модель, созданная разработчиком с помощью mergekit и метода Model Stock. В объединение вошли Pinkstack/SuperThoughts-CoT-14B-16k-o1-QwQ, bunnycore/Phi-4-rp-v1-lora и bunnycore/Phi-4-Model-Stock-v2; базой в README названа SuperThoughts-CoT-14B-16k-o1-QwQ. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 14,1 млрд параметров. Модель предназначена для генерации текста и диалогов в формате system/user/assistant. Контекст составляет до 16 384 токенов; файлы представлены в формате safetensors и рассчитаны на работу с Transformers. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Лицензия в доступных данных не указана. Оценки из README не гарантируют качество в конкретных задачах; перед применением стоит проверить ответы и совместимость объединённых компонентов.

pplx-embed-v2-context-9b-preview — контекстная модель эмбеддингов от Perplexity AI для представления фрагментов документов в системах RAG. Она кодирует список фрагментов совместно и возвращает отдельный вектор для каждого, учитывая контекст соседних частей; для запросов предусмотрен отдельный метод кодирования, поскольку для запросов и документов используются разные префиксы. Модель имеет архитектуру PplxContextualModel семейства pplx_contextual_qwen3_5, размерность эмбеддингов 2048 и среднее объединение токенов. Поддерживаются обученные размерности Matryoshka 1024 и 2048; выходные эмбеддинги квантованы в INT8 и по умолчанию не нормализованы. Для оценки сходства рекомендуется косинусная близость либо нормализация векторов с последующим скалярным произведением. Модель доступна в формате safetensors и лицензирована по MIT. Это предварительная версия: веса, векторы и интерфейс могут измениться, поэтому эмбеддинги этой версии не следует смешивать с результатами будущих выпусков. Для корректного поиска запросы нужно кодировать методом encode_queries, а фрагменты документов — методом encode; использование метода encode для запросов ухудшает качество поиска. README требует transformers не ниже 5.4.0 и загрузки пользовательского кода модели.

Модель alpcansoydas/product-model-16.10.24 — Sentence Transformer, дообученный разработчиком на базе sentence-transformers/all-mpnet-base-v2. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости, семантического поиска и других задач работы с текстовыми эмбеддингами. Архитектура MPNet использует усреднение токенных представлений и нормализацию; сходство векторов можно оценивать косинусной мерой. В README указана максимальная длина последовательности 384 токена, а метаданные каталога указывают контекст до 514 токенов. Модель предназначена для семантического поиска, поиска перефразировок, кластеризации текстов и классификации на основе эмбеддингов. В README приведены невысокая точность классификации и метрики сходства со значениями nan, поэтому качество на конкретных данных следует проверять отдельно. Лицензия в предоставленных данных не указана.

QVikhr-3-4B-Instruction — русско-английская инструктивная языковая модель команды Vikhr, дообученная методом SFT на синтетическом датасете GrandMaster2 на основе Qwen/Qwen3-4B. Это плотная авторегрессионная модель с 3,7 млрд параметров и контекстом до 40 960 токенов; веса опубликованы в формате Safetensors под лицензией Apache-2.0. Модель предназначена для диалогов по инструкциям, генерации ответов с учётом контекста и анализа текста, с особым упором на русский язык при поддержке английского. Её можно встраивать в пользовательские приложения и сервисы. В карточке приведён результат 78,2 в Ru Arena General против 64,8 у базовой Qwen3-4B; это результат указанного теста, а не гарантия качества в других сценариях. Карточка не приводит систематических оценок ошибок или ограничений. Как и другие генеративные языковые модели, она может выдавать неточные ответы; перед использованием важной информации нужна проверка.

TheRains/Qwen2.5-32B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-32B-Instruct, разработанной командой Qwen. Модель преобразована в формат GGUF с использованием llama.cpp и предназначена для локального запуска через llama.cpp в задачах генерации текста и диалогового взаимодействия. Модель имеет 32 миллиарда параметров в варианте квантизации Q4_K_M. В карточке указана поддержка английского языка и текстовая модальность; сведения о размере контекстного окна и других языках отсутствуют. Модель можно использовать через llama-cli или llama-server, в том числе на совместимом CPU и GPU-оборудовании при соответствующей сборке llama.cpp. Основные преимущества — локальное выполнение, совместимость с экосистемой llama.cpp и уменьшенные требования к памяти по сравнению с полноразмерной версией. Ограничения связаны с квантизацией, а также с отсутствием в карточке подробных данных о качестве, производительности и поддерживаемых сценариях. Лицензия — Apache-2.0.

mlx-community/Qwen3-235B-A22B-Instruct-2507-8bit — это 8-битная версия модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.0. Модель предназначена для генерации текста и работы в диалоговом формате через chat template, если он доступен в токенизаторе. Модель ориентирована на задачи инструкционного следования и текстовой генерации, включая ответы на пользовательские запросы и другие сценарии, поддерживаемые исходной моделью Qwen3. Из доступных данных известны размерная маркировка 235B-A22B и 8-битное представление, однако сведения об архитектуре, фактически активируемом числе параметров, языках, максимальном контексте, производительности и системных требованиях не приведены. Лицензия — Apache 2.0. README не содержит результатов тестирования и подробностей об ограничениях или рекомендуемых сценариях эксплуатации.

Qwen3-235B-A22B-Instruct-2507-MLX-8bit — это 8-битная квантизированная версия языковой модели Qwen3-235B-A22B-Instruct-2507, подготовленная в формате MLX для эффективной работы на устройствах с Apple Silicon. Исходную модель разработала команда Qwen, а квантизацию выполнила команда LM Studio с использованием инструмента mlx_lm. Модель предназначена для генерации текста и работы с инструкциями в сценариях, поддерживаемых исходной instruct-моделью. В README указаны общий размер исходной модели — 235B параметров — и обозначение A22B, однако дополнительные сведения об архитектуре, длине контекста, поддерживаемых языках и модальностях не приведены. Формат MLX ориентирован на локальный запуск на компьютерах Apple Silicon, а 8-битное представление снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность. Модель распространяется по лицензии Apache-2.0. README не содержит подробностей о результатах тестирования, производительности, ограничениях безопасности или качестве на отдельных языках и задачах, поэтому эти характеристики требуют дополнительной проверки.

lmstudio-community/Qwen3-32B-MLX-8bit — языковая модель для генерации текста, представленная сообществом lmstudio-community и созданная на основе Qwen/Qwen3-32B. Модель преобразована в формат MLX с использованием mlx-lm версии 0.24.0 и предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm с поддержкой чат-шаблона, если он задан в токенизаторе. Ключевые характеристики модели — размер базовой модели 32B параметров, 8-битное представление и специализация на текстовой генерации. Формат MLX ориентирован на использование в совместимой среде, однако README не содержит сведений о поддерживаемых языках, длине контекста, архитектуре, мультимодальности, производительности и ограничениях. Модель распространяется по лицензии Apache-2.0.

Эта модель — многоязычная модель эмбеддингов на базе декодерной архитектуры Qwen3 с 3,7 млрд параметров, дообученная контрастивным обучением для сравнения смысловой близости текстов. Автор описывает её в контексте исследования того, как модели, обученные с подкреплением и проверяемыми наградами, представляют смысл текста. В README предложена концепция HRSA для анализа сходства представлений; оценка на MTEB и BRIGHT не выявила устойчивого преимущества таких начальных весов над базовыми при одинаковом обучении. Модель предназначена для получения векторных представлений текстов и вычисления семантического сходства, например при поиске похожих фрагментов или ранжировании кандидатов. Она принимает текст и выдаёт эмбеддинги; поддерживает контекст до 40 960 токенов. Репозиторий использует библиотеку Sentence Transformers и формат safetensors. Лицензия — Apache-2.0. README требует включить trust_remote_code для загрузки через Sentence Transformers или Transformers.

lmstudio-community/Qwen3-4B-Instruct-2507-MLX-5bit — это 5-битно квантованная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью Qwen3-4B-Instruct-2507. Ключевые характеристики: архитектура и возможности базовой модели Qwen3-4B-Instruct-2507, около 4 миллиардов параметров, текстовая модальность и 5-битное представление MLX. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Основные преимущества модели — уменьшенный объём памяти и оптимизация для локального запуска на Apple Silicon при сохранении совместимости с экосистемой MLX. Ограничения связаны с квантованием и характеристиками базовой 4B-модели; точное влияние на качество, производительность и перечень поддерживаемых сценариев в README не описано. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Instruct-2507-NVFP4 — это квантизированная версия инструкционной языковой модели Qwen/Qwen3-4B-Instruct-2507, опубликованная под идентификатором llmat/Qwen3-4B-Instruct-2507-NVFP4. Квантизация выполнена с помощью llmcompressor по схеме NVFP4: она применяется к линейным слоям, а слой lm_head исключён. Для калибровки использовано 512 образцов, максимальная длина последовательности при калибровке составляла 2048 токенов. Модель предназначена для генерации текста и диалоговых сценариев с применением инструкций, включая развёртывание через backend vLLM и OpenAI-совместимый сервер. В README не указаны точные поддерживаемые языки, максимальная длина контекста исходной модели, модальности или архитектурные детали помимо квантизации и принадлежности к семейству Qwen. Основное преимущество — потенциально более эффективное по ресурсам выполнение благодаря NVFP4-квантизации; возможным ограничением является влияние квантизации на качество, однако количественные результаты оценки не приведены. Модель распространяется по лицензии Apache-2.0.

Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1 — экспериментальная мультимодальная модель с 27 млрд параметров, созданная автором Jackrong на базе Qwen3.5-27B. Модель прошла supervised fine-tuning с использованием LoRA на отфильтрованных данных рассуждений, полученных от GLM-5.1; в обучении также использовался набор Qwen3.5-reasoning-700x. Весы опубликованы в формате safetensors, модель рассчитана на работу через Transformers и распространяется по лицензии Apache-2.0. Модель предназначена для диалогов и следования инструкциям, многошаговых рассуждений, решения математических и логических задач, программирования и анализа изображений. Заявлена поддержка английского, китайского, японского и испанского языков; архитектура Qwen3.5 поддерживает обработку текста и изображений. Карточка описывает её как экспериментальную версию для обучения, демонстраций и технического исследования, с ожидаемыми улучшениями в структурированности и последовательности ответов. Модель может галлюцинировать факты, а цепочки рассуждений — становиться нестабильными, зацикливаться или отклоняться от задачи. Автор предупреждает, что прирост качества умеренный и не гарантирован; особенно важна проверка ответов о реальных событиях. Хотя метаданные классифицируют модель как image-text-to-text, README также описывает её как инструмент для аналитических задач, кода и математики.

Qwen3.5-4B-AWQ — это квантизированная версия языковой модели Qwen/Qwen3.5-4B, разработанной командой Qwen. Модель предназначена для генерации текста, диалоговых и инструкционных сценариев, локального инференса и развёртывания на потребительских GPU. Указаны поддерживаемые языки English и Chinese, а также интеграция с Transformers и vLLM. Модель использует квантизацию AWQ INT4 по схеме W4A16_ASYM с размером группы 128 и zero point. Калибровка выполнена на 512 примерах OpenPlatypus с максимальной длиной последовательности 1024 токена посредством llm-compressor; формат хранения — compressed-tensors. Размер модели составляет около 3,13 ГБ, а потребление VRAM при загрузке — около 3,06 ГБ, что примерно в 2,5–2,6 раза меньше базовой BF16-версии. Это позволяет запускать её на одной видеокарте с 8 ГБ памяти. В заявленных оценках нулевого выстрела модель получила 77,69% на PIQA, 68,75% на Winogrande, 71,65% на HellaSwag, 73,53% на ARC-Easy и 51,71% на ARC-Challenge; средний результат — 68,67%. Сильными сторонами являются существенно сниженные требования к памяти и сохранение заметной производительности в задачах здравого смысла и школьных научных вопросов. Ограничение состоит в том, что результаты приведены только для квантизированной версии и не сопоставлены в идентичных условиях с BF16-моделью, поэтому влияние квантизации точно не установлено. Распространяется по лицензии Apache-2.0.

Uluka Studio Mercury 2 BF16 Merged — мультимодальный чат-чекпойнт на базе Qwen3.6-35B-A3B, подготовленный UlukaDev. Это объединённая BF16-версия дообучения с адаптером LoRA UlukaDev/qwen3p6-35b-a3b-uluka-mercury-2-lora; веса представлены в формате safetensors и используют архитектуру Qwen3.5 MoE. Модель предназначена для диалогов и анализа изображений; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и изображения и выдаёт текст. Лицензия указана как other, поэтому условия использования следует сверить с карточкой и лицензией базовой модели.

Qwen3.6-35B-A3B-Q5_K_M-GGUF — это квантованная версия модели Qwen3.6-35B-A3B, разработанная сообществом Qwen и преобразованная пользователем Abiray в формат GGUF с помощью llama.cpp. Модель предназначена для локального запуска на потребительском оборудовании и в средах с высокой нагрузкой на CPU, включая сценарии использования через llama.cpp. Вариант использует квантование Q5_K_M, обеспечивающее компромисс между качеством и размером файла. Базовая модель имеет архитектуру Mixture-of-Experts и обозначение 35B-A3B, однако в README не приведены подробности о числе экспертов, активных параметрах, размере контекста, поддерживаемых языках и точных модальностях. Метаданные указывают на сценарий image-text-to-text, но дополнительных сведений о работе с изображениями нет. Сильная сторона этой версии — баланс качества и требований к ресурсам по сравнению с менее или более сильно квантованными вариантами. Ограничения связаны с потерями качества, характерными для квантования, а также с отсутствием в README данных о производительности, совместимости и рекомендуемых ресурсах. Модель распространяется по лицензии Apache-2.0.

shawnw3i/Qwen3.8-27B-AWQ-MTP — это квантованная AWQ-версия модели Qwen3.8-27B, опубликованная пользователем shawnw3i и основанная на базовой модели Qwen/Qwen3.8-27B. Модель предназначена для генерации текста с поддержкой визуальных входных данных, а также для ускоренного инференса в vLLM. Модель использует AWQ-квантизацию и поддерживает ядро AWQ Marlin, которое vLLM автоматически конвертирует во время работы. Также предусмотрено MTP speculative decoding с тремя спекулятивными токенами. В README заявлена производительность свыше 110 токенов в секунду на одном A800 80GB при использовании vLLM 0.27.1, MTP и FP8 KV cache. Рекомендуемая максимальная длина контекста — 65 536 токенов. Поддерживаются текстовые и визуальные входные данные; сведения о языках не указаны. К сильным сторонам относятся поддержка vision-сценариев, совместимость с AWQ Marlin и встроенное ускорение генерации посредством MTP. Ограничения включают зависимость от совместимой конфигурации vLLM и GPU, а также возможные потери точности из-за квантизации; для предотвращения деградации точности размер группы был уменьшен до 64. Модель распространяется по лицензии Apache-2.0.

Qwen 3.8 27B ROCmFP4 FAST — это квантизированная GGUF-версия модели Qwen 3.8 27B, разработанной командой Qwen и адаптированной пользователем julianmb. Модель предназначена для генерации текста и оптимизирована прежде всего для AMD Strix Halo с графикой Radeon 8060S, а также дискретных AMD Radeon GPU, использующих ROCm или Vulkan. Модель имеет плотную архитектуру с 27 млрд параметров и представлена в формате ROCmFP4 с эффективной точностью 4,26 бит на вес и размером файла около 13,55 GiB. Заявлены поддерживаемые языки английский и китайский. Версия ориентирована на ускоренное авторегрессионное декодирование и может использовать speculative decoding с MTP; на Ryzen AI Max+ 395 указана скорость до 36,04 токена в секунду, при устойчивом MTP-декодировании K=4 — 33,80 токена в секунду. Без спекулятивного декодирования измеренная скорость составляет 14,02 токена в секунду. Сильные стороны модели — сниженное потребление памяти, оптимизация под оборудование AMD и высокая скорость генерации при сохранении заявленного качества, близкого к исходной модели. Дополнительно описана экспериментальная гибридная NPU-акселерация AMD XDNA 2 для уменьшения задержки выдачи первого токена на длинных запросах, но она не повышает устойчивую скорость декодирования. Реальная производительность зависит от GPU, драйверов, конфигурации MTP и программного окружения, поэтому приведённые показатели нельзя считать универсальными. Модель распространяется по лицензии Apache 2.0.

Vontra/Qwen3.8-Flash-Next-MLX-3bit-MTP — это 3-битная MLX-конверсия мультимодальной модели Qwen/Qwen3.8-Flash-Next, созданная на основе официального BF16-чекпойнта. Модель предназначена для запуска на устройствах Apple Silicon через совместимые MLX-VLM и oMLX. Она поддерживает работу с текстом и изображениями, а также использует архитектуру qwen4_exp с vision-language стеком и разреженной mixture-of-experts моделью. Общий объём языковой части составляет 125B параметров, из которых активны около 6B; дополнительно указаны 51B параметров в hashed bigram/trigram embedding и 4B параметров в блоке native MTP. Контекст рассчитан на 262 144 токена. Ключевые компоненты включают Gated DeltaNet, Qwen Sparse Attention, sparse MoE-слои, gated residual streams, vision encoder и один draft-блок native MTP для speculative decoding. Квантизация выполнена методом uniform affine quantisation с группой 32; мультимодальные модули и роутеры MoE сохранены в BF16. Размер весов — около 90,774 GB. Сильные стороны модели — существенное снижение размера по сравнению с полноформатным чекпойнтом, поддержка мультимодальных сценариев и возможность ускорения генерации с помощью native MTP. В приведённом тесте на Apple M3 Studio скорость выросла с 28,0408 до 30,5895 токена в секунду, то есть примерно на 9,09%, при принятии 65,4% предложенных токенов. Ограничения включают необходимость runtime с явной поддержкой qwen4_exp и native MTP; старые версии MLX-VLM или oMLX могут быть несовместимы, а поддержка изображений зависит от используемых версий компонентов. Модель распространяется по лицензии Qwen Community License 1.0.

JacobLinCool/Qwen3-Embedding-0.6B-GIR-1 — текстовая Sentence Transformer модель, дообученная на Qwen/Qwen3-Embedding-0.6B. Она преобразует предложения и абзацы в плотные векторы размерности 1024; близость текстов оценивается косинусным сходством. Архитектура включает Qwen3Model, pooling по последнему токену и нормализацию эмбеддингов. Максимальная длина последовательности — 32 768 токенов, формат весов — safetensors. Модель предназначена для семантического поиска и сравнения текстов. В README приведена настройка на парах запрос–код, поэтому она подходит, в частности, для поиска фрагментов кода по запросу на естественном языке. Также заявлены поиск перефразировок, кластеризация и классификация текста. Метаданные и описание базовой модели указывают на многоязычную основу Qwen3; конкретные языки обучения этой версии не перечислены. Для поиска информации в README приведены высокие метрики на небольшом наборе из 100 оценочных примеров, поэтому они не гарантируют аналогичного качества на других данных. Лицензия в предоставленных данных не указана.

Qwen3-Next-80B-A3B-Thinking r22 — экспериментальный чекпойнт на базе Qwen/Qwen3-Next-80B-A3B-Thinking. В карточке указано, что это MoE-модель с маршрутизируемыми экспертами, усреднённо хранящимися при 2,0161 бита; остальные веса — BF16. Метаданные указывают 2,3 млрд параметров, контекст до 262 144 токенов и библиотеку Transformers. Веса представлены в safetensors и загружены в деквантованном виде в BF16-тензоры; заявлена совместимость со стандартными Transformers и vLLM. Модель предназначена для генерации текста и диалогового использования, включая сложные рассуждения и вызов инструментов через соответствующий интерфейс. Русский язык карточкой не заявлен, поэтому языковая поддержка здесь не уточняется. Чекпойнт помечен как внутренний исследовательский; лицензия наследуется от базовой модели.

Qwen3-Next-80B-A3B-Thinking-8bit — языковая модель для генерации текста, представленная сообществом mlx-community. Она преобразована из базовой модели Qwen/Qwen3-Next-80B-A3B-Thinking в формат MLX с использованием mlx-lm 0.27.1; исходная модель разработана командой Qwen. Модель предназначена для текстовых сценариев, включая диалоговое взаимодействие и генерацию ответов с применением режима Thinking. В названии указаны масштаб 80B, конфигурация A3B и 8-битное представление весов. Модель поддерживает работу через библиотеку mlx-lm и рассчитана на запуск в экосистеме MLX. В README не указаны языки, размер контекста, точная архитектура, перечень модальностей и результаты бенчмарков. Сильной стороной модели является адаптация для MLX и 8-битное представление, потенциально снижающее требования к памяти по сравнению с полноточными вариантами. Ограничения и фактические требования к оборудованию в README не описаны. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия языковой модели Qwen3-30B-A3B-Thinking-2507, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp; формат подходит для офлайн-сценариев на оборудовании с ограниченными ресурсами по сравнению с полной версией BF16. Модель относится к семейству Qwen3 и имеет заявленный размер 30B параметров, при этом в названии указано A3B. README не содержит сведений о поддерживаемых языках, длине контекста, конкретной архитектуре, мультимодальности и результатах тестирования. Доступны варианты от BF16 до различных уровней квантизации Q8_0, Q6, Q5, Q4, Q3 и IQ; они различаются размером файлов, качеством и требованиями к оперативной памяти. Версии Q6 и Q5 отмечены как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а Q3 предназначены для систем с небольшим объёмом памяти, но дают более низкое качество. Сильными сторонами являются широкий выбор квантизаций, совместимость с популярными локальными инструментами и возможность подобрать баланс между качеством, скоростью и потреблением памяти. Ограничения включают неизбежное снижение качества в более компактных вариантах, значительный размер файлов даже после квантизации и отсутствие в README сведений о лицензии, языках и максимальном контексте. Для корректного диалога рекомендуется использовать указанный в README шаблон prompt format с секцией <think>.

Fulcrum-AI/Ryze-Mistral-7B-Instruct-v0.3-10 — текстовая генеративная модель для диалогов и выполнения инструкций. Карточка сообщает, что модель создана с помощью mergekit методом passthrough; в слиянии участвовала mistralai/Mistral-7B-Instruct-v0.3. Метаданные классифицируют её как плотную архитектуру Mistral с классом MistralForCausalLM и указывают 16,3 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель подходит для генерации ответов и текста в диалоге, а также для сценариев с интерфейсом вызова инструментов. Базовая Mistral-7B-Instruct-v0.3 предназначена для диалогов, генерации текста и работы с инструментами. В README и метаданных лицензия не указана.

Sarashina-Embedding-v2-1B — японская модель эмбеддингов, разработанная SB Intuitions на основе Sarashina2.2-1B. Она преобразует предложения и абзацы в плотные векторы размерностью 1792 и предназначена для семантического поиска, сравнения текстов, ранжирования, кластеризации и классификации. Модель использует архитектуру Sentence Transformer с LlamaModel и пулингом по последнему токену; максимальная длина последовательности — 8192 токена. Для поиска рекомендуется добавлять к запросу инструкцию и префикс, а к документу — префикс `text:`. Модель обучена контрастивным обучением в несколько этапов: на слабой разметке, затем с контролируемой настройкой, после чего веса двух вариантов были объединены. В README заявлен лучший средний результат среди 28 наборов JMTEB по оценке от 28 июля 2025 года. Модель ориентирована на японский язык. Лицензия Sarashina Model NonCommercial License Agreement ограничивает коммерческое использование.

SDLM-3B-D8 — диффузионная языковая модель семейства SDLM, разработанная OpenGVLab на основе Qwen2.5-3B. Это дообученная модель с плотной архитектурой Qwen2, примерно 3,1 млрд параметров и контекстом до 32 768 токенов; она доступна в формате Safetensors и рассчитана на генерацию текста и диалоговое использование на английском языке. Модель применяет последовательное блочное маскирование и декодирование по самому длинному уверенному префиксу, чтобы предсказывать несколько токенов за шаг. В отчёте авторов заявлены примерно двукратное ускорение относительно сопоставимых авторегрессионных моделей при близком качестве и до пятикратного ускорения относительно других диффузионных языковых моделей; скорость можно настраивать порогом уверенности. Обучение включает математические, кодовые, научные, табличные и общие диалоговые данные, что делает модель пригодной для генерации ответов, решения задач и написания кода. Лицензия — Apache-2.0.

Muennighoff/SGPT-2.7B-weightedmean-msmarco-specb-bitfit — модель для получения эмбеддингов предложений и оценки их семантического сходства. Она основана на GPT-Neo и обучена с помощью Sentence Transformers на MS MARCO с функцией потерь Multiple Negatives Ranking Loss; в названии указаны взвешенное усреднение, SpecB и BitFit. Модель содержит 3,1 млрд параметров и поддерживает контекст до 2048 токенов. Модель подходит для семантического поиска, сравнения запросов с документами и ранжирования текстовых кандидатов по близости смысла. В метаданных заявлены задачи извлечения признаков и сходства предложений; README отсылает за инструкциями и результатами оценки к коду проекта, папке eval и статье. Использовать её можно для англоязычных текстов MS MARCO, однако карточка не описывает конкретные ограничения качества или лицензию.