I.3Извлечение и структурирование данных

tensorblock/Qwen2.5-7B-Instruct-Uncensored-GGUF — это квантизированная версия языковой модели Qwen2.5-7B-Instruct-Uncensored от Orion-zhen, подготовленная в формате GGUF командой TensorBlock. Модель предназначена для запуска локально с помощью llama.cpp и совместима с этой библиотекой начиная с указанного в README коммита. Модель относится к классу инструкционных text-generation-моделей с примерно 7 млрд параметров и поддерживает китайский и английский языки. Она ориентирована на генерацию текста, диалоговые сценарии и выполнение инструкций. Версия помечена как uncensored и обучалась с использованием наборов данных, направленных в том числе на снижение отказов и работу с токсичными запросами, поэтому её поведение может быть менее ограниченным с точки зрения встроенных механизмов безопасности. К сильным сторонам относятся возможность локального запуска, поддержка GGUF и совместимость с llama.cpp, что упрощает использование на различном оборудовании в зависимости от выбранного уровня квантизации. В README приведены результаты оценивания на IFEval, BBH, MATH, GPQA, MuSR и MMLU-PRO, однако показатели заметно различаются по задачам; данные о размере контекста, конкретных вариантах квантизации и требованиях к памяти не указаны. Лицензия модели — GPL-3.0.

Qwen2.5-Gutenberg-Doppel-14B — текстовая диалоговая модель на архитектуре Qwen2, созданная nbeerbower на основе Qwen/Qwen2.5-14B-Instruct. Модель с 14 млрд параметров дообучена методом ORPO в течение трёх эпох на наборах данных jondurbin/gutenberg-dpo-v0.1 и nbeerbower/gutenberg2-dpo. Она предназначена для диалогов и генерации текста, включая ответы на инструкции. Модель работает с текстом, поддерживает несколько языков, включая русский и английский, и имеет контекстное окно 32 768 токенов. Метаданные также указывают интерфейс для вызова инструментов. Весы доступны в формате Safetensors. Модель выпущена под лицензией Apache-2.0. README приводит результаты Open LLM Leaderboard, в том числе IFEval 80,91 и BBH 48,24; эти показатели сами по себе не гарантируют качество в конкретных задачах.

lucaswychan/Qwen2.5-Math-1.5B-Reasoning-Embedding — мультиязычная модель эмбеддингов на базе decoder-only архитектуры Qwen2.5-Math-1.5B, дообученная контрастивным обучением. Она преобразует текст в векторные представления для сравнения семантического сходства предложений и может использоваться как компонент поиска по смыслу или ранжирования текстов. Модель содержит 1,5 млрд параметров, принимает контекст длиной до 4096 токенов и распространяется в формате safetensors; для загрузки через Sentence Transformers или Transformers в карточке рекомендуется включить trust_remote_code. Авторы исследуют, дают ли языковые модели, обученные рассуждению с проверяемыми наградами, более качественную основу для эмбеддингов. Описанные эксперименты на MTEB и BRIGHT не выявили устойчивого преимущества такой инициализации над базовой моделью при одинаковом обучении эмбеддингов. Модель выпущена под лицензией Apache-2.0. README не приводит численных результатов именно этого чекпойнта или подробной оценки его языкового покрытия.

Agnuxo/Qwen2-7B-v2-Instruct_CODE_Python-Spanish_English_GGUF_16bit — локальная чат-модель для генерации кода, опубликованная Франсиско Ангуло де Лафуэнте. Она основана на плотной архитектуре Qwen2 и содержит 7 млрд параметров; в репозитории представлены веса в формате GGUF F16. Модель предназначена для генерации и помощи с кодом на Python, а README также заявляет навыки работы с JavaScript, TypeScript, Rust, Go и C++, а также научными вычислениями и ML-библиотеками. Модель принимает текстовые запросы и выдаёт текст, подходит для локального запуска через Ollama и для диалогового взаимодействия. В метаданных указаны английский и испанский языки; длина контекста в предоставленных данных не приведена. Лицензия — Apache-2.0. README содержит заявления об интеграции с агентскими инструментами и экосистемой P2PCLAW, но не даёт независимых оценок качества генерации кода.

mlx-community/Qwen3-14B-4bit — это 4-битная квантованная версия языковой модели Qwen3-14B, разработанная сообществом mlx-community и преобразованная из исходной модели Qwen/Qwen3-14B в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и запуска на устройствах и в окружениях, совместимых с MLX. Модель ориентирована на задачи текстовой генерации, включая диалоговые сценарии при использовании chat template, поскольку README содержит пример передачи сообщений с ролями user и assistant. Известный размер базовой модели — 14 миллиардов параметров; представление использует 4-битную квантование, что потенциально снижает требования к памяти по сравнению с полной точностью. Данные о поддерживаемых языках, архитектурных деталях, размере контекста, дополнительных модальностях, точности и результатах тестирования не указаны. К сильным сторонам относятся формат MLX, интеграция с библиотекой mlx-lm и уменьшенный объём памяти благодаря 4-битному представлению. Ограничения связаны с отсутствием в README подробных сведений о качестве, производительности, языковом покрытии и совместимости за пределами MLX-окружений. Модель распространяется по лицензии Apache 2.0.

hb-dev/Qwen3-1.7B-ONNX — это версия модели Qwen3-1.7B с весами в формате ONNX, подготовленная для совместимости с библиотекой Transformers.js. Репозиторий содержит производные веса базовой модели Qwen/Qwen3-1.7B; разработчик базовой модели — Qwen, а сборку ONNX-версии опубликовал пользователь или организация hb-dev. Модель предназначена для запуска Qwen3-1.7B в средах, поддерживающих Transformers.js, включая веб-приложения и потенциальные сценарии WebML. Известно, что она относится к языковым моделям и имеет размер 1,7 млрд параметров; дополнительные сведения об архитектуре, модальностях, поддерживаемых языках и размере контекста в предоставленном README не указаны. ONNX-формат повышает совместимость с веб-инструментами, однако конкретные требования к ресурсам и показатели производительности не приведены. README не содержит сведений о лицензии этой версии модели. Условия использования следует уточнять по лицензии базовой модели Qwen/Qwen3-1.7B и правилам данного репозитория.

Qwen3-4B-Thinking-2507-MLX-6bit — это 6-битная квантованная версия языковой модели Qwen3-4B-Thinking-2507 для генерации текста. Исходную модель разработала команда Qwen, а квантование в формате MLX предоставила команда LM Studio с использованием mlx_lm. Модель оптимизирована для запуска на устройствах Apple Silicon и предназначена для локального использования в задачах генерации текста и рассуждений, однако конкретные поддерживаемые языки и размер контекста в README не указаны. Ключевая характеристика модели — квантование до 6 бит, уменьшающее требования к памяти по сравнению с полноразмерной версией и подходящее для запуска на совместимом оборудовании Apple. Ограничения включают возможную потерю качества из-за квантования, а также типичные для языковых моделей риски неточных, вредных или вводящих в заблуждение ответов; сведения о производительности и результатах тестирования отсутствуют. Модель распространяется по лицензии Apache-2.0.

JANGQ-AI/Qwen3.5-397B-A17B-JANG_1L — версия Qwen3.5-397B-A17B, подготовленная Jinho Jang с применением адаптивной смешанной квантизации JANG для запуска через MLX на компьютерах Mac с Apple Silicon. Модель имеет архитектуру MoE с гибридом GatedDeltaNet и полнослойного внимания: из 397 млрд параметров активны около 17 млрд, используются 512 экспертов на слой и top-10 активных экспертов. Профиль JANG_1L хранит экспертные MLP в 2-битном формате, а внимание, маршрутизаторы и эмбеддинги — в 8-битном; размер файлов составляет около 112 ГБ. Модель предназначена для диалогов, генерации текста и пошаговых рассуждений, а также анализа изображений. В карточке заявлена поддержка VLM и режима reasoning; приведён результат 86,5% на тесте MMLU из 200 вопросов при включённом reasoning, а также скорости генерации и обработки изображений. Для запуска требуется Mac с Apple Silicon и не менее 128 ГБ объединённой памяти, а также MLX Studio или пакет jang[mlx] версии 2.1.5 и выше. Лицензия — Apache-2.0. Это сильно сжатая производная базовой модели, поэтому качество может отличаться от исходной модели и других профилей квантизации; опубликованный результат MMLU основан на ограниченном наборе вопросов. Указанная конфигурация ориентирована на MLX и Apple Silicon, а карточка сообщает о несовместимости формата JANG с LM Studio, Ollama и oMLX.

Qwen3.6-25B-A3B — сжатый чекпойнт на основе Qwen/Qwen3.6-35B-A3B, опубликованный пользователем Jaso1024. Это языковая MoE-модель для диалоговой генерации текста; в конфигурации 40 слоёв и 8 активных экспертов на токен. По README, число параметров уменьшено с 34,66 млрд до 24,97 млрд, тогда как метаданные каталога указывают 2,9 млрд параметров; эти оценки расходятся. Модель распространяется в формате Transformers safetensors с шаблоном чата и рассчитана на контекст до 262 144 токенов. Чекпойнт предназначен для загрузки через Transformers и диалогового использования. Несмотря на сжатие, это крупная bf16-модель, для практического запуска обычно требуется GPU с большим объёмом памяти либо распределённая загрузка с offload. README говорит, что условия лицензии и использования наследуются от базовой модели; в метаданных лицензия обозначена как other.

MLX-версия языковой модели Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, разработанная на основе модели AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 и конвертированная в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации и продолжения текста, диалоговых приложений и локального запуска на устройствах, поддерживающих MLX. Модель имеет около 27 млрд параметров и представлена в 8-битном формате MLX; исходная модель использует BF16. В метаданных указаны архитектурные компоненты hybrid attention, Mamba и gated-deltanet, а также поддержка английского, китайского и мультиязычного текста. Длина контекста в README не указана. Для работы требуется библиотека mlx-lm и совместимое с MLX окружение. К сильным сторонам относятся крупный размер, оптимизация для экосистемы MLX и возможность локального использования. Ограничения включают отсутствие данных о качестве на конкретных тестах, производительности, точном наборе поддерживаемых языков и размере контекста. Модель помечена как abliterated и uncensored, поэтому её ответы могут иметь меньше встроенных ограничений безопасности; это следует учитывать при практическом применении. Лицензия — Apache 2.0.

Qwen3.6-35B-A3B-abliterated-NVFP4-MTP — языковая модель на базе Qwen3, созданная сообществом THe-Plague на основе моделей Qwen и производных Huihui AI и sakamakismile. Она предназначена для генерации текста и диалоговых сценариев, включая работу с длинным контекстом, а также для высокоскоростного инференса на видеоускорителях NVIDIA Blackwell, в частности DGX Spark с чипом GB10. Модель поддерживает английский и китайский языки, использует библиотеку vLLM и доступна для задач text generation. Архитектура построена по схеме Mixture of Experts: общий объём составляет 35 млрд параметров, из которых при обработке активны около 3 млрд. Основные веса квантизированы в NVFP4 и занимают примерно 21,9 ГБ, а слои MTP (Multi-Token Prediction) хранятся в BF16 и занимают ещё около 1,6 ГБ. Общий размер — около 23,5 ГБ, контекст — до 131 072 токенов. MTP предназначены для speculative decoding; на одном DGX Spark заявлена скорость до 95,2 токена в секунду при MTP=3. К сильным сторонам относятся сочетание NVFP4-квантизации и speculative decoding, высокая скорость генерации, поддержка длинного контекста и оптимизация под NVIDIA Blackwell. Abliteration удаляет направление отказа в представлениях модели, поэтому поведение и ограничения безопасности могут отличаться от исходной Qwen3.6; модель позиционируется как uncensored. Производительность зависит от оборудования, конфигурации vLLM и параметров MTP, причём в README оптимальным указан режим MTP=3, а MTP=4 может снижать скорость. Модель распространяется по лицензии Apache-2.0.

OpenVINO/Qwen3.8-27B-int8-ov — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT8 с помощью NNCF. Она предназначена для задач понимания изображений и видео, визуально-языкового диалога, описания изображений и выполнения сложных многошаговых задач с гибким управлением режимом рассуждений. Модель поддерживает текстовые и визуальные входы, однако точные сведения о языках и размере контекста в README не указаны. Ключевые особенности — архитектура исходной native vision-language модели Qwen3.8-27B и асимметричное INT8-сжатие весов с коэффициентом 1.0, что может снизить требования к ресурсам и ускорить инференс при сохранении практической применимости. Модель имеет экспериментальный статус и не прошла полную валидацию с OpenVINO; для работы требуются версии OpenVINO, OpenVINO GenAI и Optimum Intel из веток nightly или development, а также Transformers 5.2. Распространяется по лицензии Apache-2.0.

theresa00l/Qwen3.8-27B-Uncensored-FP8-Q4_K_M-GGUF — это квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored-FP8, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель относится к семейству Qwen3.8 и распространяется под лицензией Apache-2.0. Модель предназначена для локального запуска через llama.cpp, включая использование в командной строке и в серверном режиме. В карточке заявлены сценарии рассуждений, function calling, red-teaming и AI red-teaming. Указана поддержка английского и китайского языков. Архитектура и точное число параметров явно не описаны, однако обозначение модели указывает на размер 27B и квантизацию Q4_K_M из исходного представления FP8. Также заявлена совместимость с vLLM и llama.cpp. К сильным сторонам относятся компактное квантизированное представление GGUF и возможность локального инференса на совместимом оборудовании. Ограничения — отсутствие в README подробностей о контекстном окне, точной архитектуре, результатах оценки, требованиях к памяти и качестве работы с изображениями, несмотря на тег image-text-to-text. Практическое использование требует llama.cpp и подходящей аппаратной конфигурации; заявленная лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-oQ4e-mtp — это квантизированная MLX-версия модели orcarouter/Qwen3.8-27B-Uncensored, подготовленная и упакованная пользователем pyros-vault с помощью oMLX 0.6.1 и квантизации oQ с использованием матрицы важности. Модель предназначена для развёртывания на Apple Silicon под macOS через runtime oMLX и совместима с OpenAI-совместимым сервером. Прямая проверка поведения и заявлений исходной модели в этой карточке не проводилась. Модель поддерживает текстовые и визуальные ресурсы, включая обработку изображений и видео, и содержит один слой MTP. Максимальный контекст, заявленный в конфигурации, составляет 262 144 токена, однако работа с таким объёмом не тестировалась и зависит от аппаратного обеспечения. Используется смешанная 4-битная квантизация Affine Q4/G64 с 166 переопределениями тензоров Q5/G64; размер тензорных данных — около 15,81 GiB в четырёх Safetensors-фрагментах. Калибровка выполнена на 128 последовательностях по 512 токенов с профилем oqe_code_multilingual. Сильными сторонами являются уменьшенный объём хранения по сравнению с вариантами более высокой разрядности, наличие мультимодальных ресурсов и возможность локального запуска на Apple Silicon. Ограничения включают зависимость от macOS, Apple Silicon и версии oMLX, отсутствие поддержки CUDA в данном формате, неопределённые требования к памяти, скорости, качеству Vision и эффективности MTP, а также возможное ухудшение качества из-за квантизации. Наличие MTP-файлов само по себе не включает speculative decoding. Исходная модель заявлена под лицензией Apache-2.0; следует также ознакомиться с условиями и атрибуцией upstream-репозитория.

Qwen3.8-27B-Uncensored-Q8_0-GGUF — это GGUF-конверсия дообученной модели orcarouter/Qwen3.8-27B-Uncensored. Конверсию выполнили с помощью llama.cpp через сервис GGUF-my-repo; исходная модель основана на Qwen3.8-27B и связана с ней как fine-tune. Модель распространяется в формате GGUF и предназначена для запуска с llama.cpp на совместимом оборудовании. Заявленные сценарии включают обработку текста и изображений, reasoning, function calling, red-teaming и AI safety research. В карточке указаны английский и китайский языки, а также тег vision-language, однако подробности об архитектуре, поддерживаемых типах изображений, максимальном контексте и фактических возможностях function calling не приведены. Размер модели составляет 27B параметров, используется квантование Q8_0, что может снизить требования к памяти по сравнению с полноразмерной версией, сохраняя близкое к исходному качество, но конкретные требования к ресурсам не указаны. Модель может быть удобна для локального инференса через llama.cpp и серверного развёртывания. Ограничения включают отсутствие в README результатов тестирования, подробного описания датасета и дообучения, а также сведений о производительности и безопасности; заявленное «uncensored» позиционирование также означает необходимость самостоятельной оценки рисков и фильтрации ответов. Указана лицензия Apache-2.0.

Sakalti/QwenTies-3 — объединённая текстовая модель Sakalti, созданная методом TIES с помощью mergekit на основе Sakalti/light-7b-beta. Это плотная авторегрессионная модель семейства Qwen2 с 3,8 млрд параметров, предназначенная для генерации текста и диалогового общения; поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Модель подходит для генерации ответов в чатах и приложениях, где требуется создавать текст с учётом длинного контекста. README сообщает, что при слиянии использовалась только Sakalti/light-7b-beta, поэтому состав из нескольких различных моделей не подтверждается. Данных о целевых языках и специализированных областях применения нет.

MaziyarPanahi/QwQ-32B-GGUF — это набор квантизированных файлов модели QwQ-32B в формате GGUF. Исходную модель разработала команда Qwen, а набор GGUF-файлов подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, llama-cpp-python, LM Studio и text-generation-webui. В репозитории представлены варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. Точный объём файлов, архитектура, длина контекста, поддерживаемые языки и модальности в README не указаны; по доступным данным модель относится к семейству QwQ-32B и работает с текстом. Сильная сторона этой версии — возможность запускать модель локально на оборудовании с различными ресурсными ограничениями благодаря нескольким уровням квантизации и широкой поддержке GGUF-инструментов. Ограничения включают потенциальную потерю качества на более агрессивных вариантах квантизации, а также необходимость самостоятельно подобрать совместимый клиент и параметры запуска. Лицензия в README не указана.

Xirui1208/readall-readtwice-14b-stage2-localstep10-globalstep25-20260928 — языковая модель семейства Qwen2 с плотной архитектурой и примерно 14 млрд параметров. Она представлена в формате safetensors для инференса в BF16; в метаданных указаны генерация текста, чат и интерфейс вызова инструментов. Модель предназначена для диалоговой генерации текста. Контекст составляет до 32 768 токенов. README описывает её как оценённый чекпойнт второго этапа обучения ReadAll и сообщает, что репозиторий архивирован по просьбе владельца; включены оценённые чекпойнты, а кандидаты, использовавшиеся только для калибровки, и отклонённые варианты помечены отдельно. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны. Также нет сведений о конкретных результатах оценки или ограничениях качества.

RekaAI_reka-flash-3-GGUF — набор GGUF-квантизированных версий языковой модели reka-flash-3, разработанной RekaAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев; поддерживается запуск через llama.cpp, LM Studio и другие проекты на его основе. Для запросов указан шаблон с ролями human и assistant. Доступны варианты от BF16 до низкоразрядных Q2 и IQ-квантизаций, с размером файлов примерно от 9,18 до 41,82 ГБ. Более высокие разрядности обычно лучше сохраняют качество, но требуют больше оперативной или видеопамяти; низкоразрядные варианты экономичнее, однако могут заметно уступать по качеству. В README не указаны точные архитектура, число параметров, максимальный контекст, поддерживаемые языки и модальности, поэтому эти характеристики нельзя достоверно описать. Для модели заявлена лицензия Apache-2.0.

Ruri-Small — компактная модель Sentence Transformer, разработанная cl-nagoya для получения векторных представлений японских предложений и оценки их семантического сходства. Она дообучена на базе line-corporation/line-distilbert-base-japanese с использованием cl-nagoya/ruri-dataset-ft и предназначена для задач поиска и сравнения японских текстов. Модель использует архитектуру DistilBERT, формирует эмбеддинги размерности 768 и обрабатывает последовательности длиной до 512 токенов. Для оценки сходства применяется косинусная мера. В README приведены результаты JMTEB по поиску, семантическому сходству, классификации, переранжированию, кластеризации и классификации пар. Модель распространяется по лицензии Apache 2.0.

sonoisa/sentence-bert-base-ja-mean-tokens-v2 — японская модель Sentence-BERT, разработанная sonoisa для получения векторных представлений предложений и сравнения их смысловой близости. Это плотная BERT-модель на 137,8 млн параметров с контекстом до 512 токенов; модель обучена с функцией потерь MultipleNegativesRankingLoss и, по сообщению автора, превзошла версию 1 на 1,5–2 процентных пункта на внутреннем закрытом наборе данных. Для работы с текстом на японском языке модель использует предварительно обученную cl-tohoku/bert-base-japanese-whole-word-masking. При запуске вывода требуются fugashi и ipadic. Подходит для поиска похожих предложений, семантического поиска и задач, где нужно сравнивать текстовые эмбеддинги. Модель распространяется по лицензии CC BY-SA 4.0. Указанное автором улучшение измерено только на внутреннем наборе данных, поэтому оно не гарантирует аналогичного результата на других корпусах; контекст ограничен 512 токенами.

SG Raccoon Yi 55B 200K — языковая conversational-модель, разработанная Marco Lironi на базе архитектуры Yi и опубликованная в формате GGUF. Репозиторий TheBloke содержит её квантизированные версии для локального запуска; исходная неквантизированная модель доступна в формате PyTorch. Указан английский язык. Модель предназначена для диалоговых сценариев и генерации текста. GGUF-файлы поддерживаются llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и сохранением качества. В README также указан размер контекста 200K, отражённый в названии модели. К сильным сторонам относятся большой контекст и возможность локального CPU+GPU-инференса с разными уровнями квантизации. Ограничения — необходимость значительных вычислительных ресурсов для модели класса 55B, возможная потеря качества при агрессивной квантизации и отсутствие в предоставленных данных подробных результатов оценки. Модель распространяется по лицензии yi-license; README ссылается на лицензию Yi и обозначает её как нестандартную.

SigLIP 2 So400m — модель семейства SigLIP 2, разработанная Google. Это визуальный энкодер, обученный на WebLI и предназначенный для сопоставления изображений с текстовыми описаниями. Модель поддерживает классификацию изображений по произвольным текстовым меткам без отдельного обучения и поиск изображений по тексту или текста по изображению; её также можно использовать как визуальную часть мультимодальных систем и в других задачах компьютерного зрения. Модель принимает изображения и текстовые описания, кодирует их для сравнения и выдаёт оценки соответствия. Архитектура SigLIP, вариант So400m; доступные веса представлены в формате safetensors и используются через Transformers. В README отмечены улучшенное семантическое понимание, локализация и плотные визуальные признаки. Лицензия — Apache-2.0. Размер модели и длина контекста в предоставленных данных не указаны.

SJT-1.5B-Alpha-1.1 — языковая модель на 1,5 млрд параметров, созданная Sakalti слиянием моделей через TIES и Mergekit. В качестве базовой использована Sakalti/Saba1.5-Pro, в слияние также вошла Sakalti/SJT-1.5B-Alpha; архитектура — плотная Qwen2 для причинной генерации текста. Модель предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.

Skywork_MindLink-72B-0801-GGUF — это квантизированная версия языковой модели Skywork/MindLink-72B-0801, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Базовая модель имеет размер 72B параметров. Доступны варианты квантования от Q8_0 до Q2 и IQ-квантов, различающиеся размером файлов, требованиями к памяти и качеством вывода. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; облегчённые варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Для модели не указан официальный chat template, поэтому предложенный формат промпта может потребовать проверки по исходной карточке модели. README не содержит сведений о языках, длине контекста, точной архитектуре, специализированных сценариях применения или лицензии. Для использования необходима среда, совместимая с llama.cpp, а выбор варианта следует делать с учётом доступной памяти и требуемого качества.

Skywork-OR1-7B-GGUF — это квантизированная версия текстовой генеративной модели Skywork-OR1-7B, разработанной командой Skywork. Пакет подготовлен пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix; исходная модель обучалась на датасете Skywork-OR1-RL-Data. Модель предназначена для генерации текста и локального инференса в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты от BF16 до низкобитных квантований Q8_0, Q6, Q5, Q4, Q3 и Q2, благодаря чему можно выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Размер модели — 7B параметров; конкретный объём файлов составляет примерно от 3,35 до 15,24 ГБ в зависимости от варианта квантования. Сильной стороной является широкий выбор квантованных сборок, включая рекомендуемые варианты Q4_K_M, Q5 и Q6, позволяющие запускать модель локально на различных конфигурациях. Ограничения включают возможное снижение качества при использовании низкобитных вариантов, а также отсутствие в README сведений о поддерживаемых языках, длине контекста, точной архитектуре, мультимодальности и результатах бенчмарков. Лицензия в предоставленных данных не указана. Для корректной генерации следует использовать рекомендованный в README формат промпта.

SOLAR-0-70b-8bit — 8-битная квантованная версия модели upstage/SOLAR-0-70b-16bit, разработанная компанией Upstage на архитектуре LLaMA-2. Это плотная авторегрессионная языковая модель с 68,7 млрд параметров, предназначенная для генерации текста и следования инструкциям на английском языке. В карточке описан шаблон диалога с системным сообщением, запросом пользователя и ответом ассистента. Модель рассчитана на диалоговые сценарии, ответы на вопросы и выполнение текстовых инструкций. В метаданных указан контекст 4096 токенов; README сообщает, что благодаря настройке rope_scaling модель может обрабатывать более 10 тысяч входных токенов. Эти значения относятся к разным конфигурациям использования и не следует считать гарантией доступной длины во всех средах. Модель оценивалась на ARC-Challenge, HellaSwag, MMLU, TruthfulQA и MT-bench. Для запуска указана библиотека HuggingFace Transformers; авторы тестировали её на A100 80 ГБ. Дообученные контрольные точки распространяются по лицензии CC BY-NC 4.0 с ограничением на некоммерческое использование.

Это англоязычный разреженный энкодер SPLADE, разработанный на базе Luyu/co-condenser-marco с помощью библиотеки sentence-transformers. Модель дообучена для поиска по текстам и преобразует предложения и абзацы в разреженные векторы размерностью 30 522; релевантность оценивается скалярным произведением векторов. Архитектура состоит из BertForMaskedLM и слоя SpladePooling с max-пулингом и ReLU. Максимальная длина входа — 512 токенов. Модель подходит для семантического поиска и разреженного извлечения документов, а также может использоваться в конвейерах эмбеддингов и сравнения предложений. В README приведены оценки на небольших наборах NanoMSMARCO, NanoNFCorpus и NanoNQ. Они дают ориентир по результатам, но не гарантируют качество на других корпусах; модель рассчитана на английский язык. Лицензия — Apache-2.0.

Stella-PL — двуязычный польско-английский текстовый энкодер, созданный авторами модели на основе stella_en_1.5B_v5. Его адаптировали для польского языка методом мультиязычной дистилляции на корпусе из 20 миллионов польско-английских пар текстов. Модель имеет архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 131 072 токенов. Энкодер преобразует текст в векторы размерностью 1024 для семантического поиска, сравнения предложений и поиска информации. Он сравнивает тексты на польском или английском языках, а также сопоставляет тексты между этими языками. В README указано значение NDCG@10 60,52 на польском бенчмарке информационного поиска PIRB. Модель распространяется по лицензии MIT. Заявленные сценарии ограничены текстовыми эмбеддингами; README не описывает её как универсальную генеративную модель, несмотря на архитектуру причинного языкового моделирования и соответствующий тег в метаданных.

sentence-transformers-testing/stsb-bert-tiny-openvino — модель семейства Sentence-Transformers для преобразования предложений и абзацев в плотные векторные представления размерностью 128. В README разработчик явно не указан; модель опубликована под идентификатором sentence-transformers-testing. Она предназначена для оценки семантического сходства текстов, семантического поиска, кластеризации и других задач, где требуется сравнивать смысл текстовых фрагментов. Архитектура включает BERT с максимальной длиной последовательности 512 токенов и mean pooling по токенам с учётом attention mask. Указана поддержка текстовой модальности, однако языки модели не обозначены. Модель обучалась с CosineSimilarityLoss в течение 10 эпох; подробные данные о качестве в README не приведены. Сильной стороной является компактное 128-мерное представление, удобное для поиска и кластеризации, а ограничениями — отсутствие сведений о языках, обучающем наборе данных, фактических метриках качества и производительности OpenVINO. Лицензия в README не указана.