II.4Отладка, тестирование и качество ПО

Open-Instruct Flan V2 13B — плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров, дообученная исследователями Allen Institute for AI на наборе инструкций Flan V2. Она предназначена для генерации ответов на инструкции и общих текстовых запросов. Модель принимает текст и выдаёт текст; для работы ожидается форматирование входа по шаблону из карточки, а максимальная длина контекста составляет 2048 токенов. В карточке приведены результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Модель опубликована как diff: для восстановления весов требуется исходная модель LLaMA в формате Hugging Face. Лицензия определяется лицензией AI model, приложенной к репозиторию, и исходной лицензией LLaMA.

OrakzaiX — это общественный GGUF-релиз модели семейства Llama, поддерживаемый и квантизированный Faisal Orakzai. В метаданных указан upstream-моделью meta-llama/Llama-3-8B-Instruct, однако README позиционирует OrakzaiX именно как квантизированный релиз, а не как самостоятельно обученную базовую модель. Модель предназначена для генерации текста и диалогов с локальным запуском через llama.cpp на пользовательском оборудовании, рабочих станциях, периферийных устройствах или частных серверах. Основные сценарии включают локальных ассистентов, офлайн-прототипирование, разработку инструментов, суммирование и извлечение технической информации, помощь с кодом и документацией, автоматизацию, планирование рабочих процессов и эксперименты с multi-agent orchestration. Доступны варианты GGUF с квантизацией от Q2_K до Q8_0; рекомендуемым начальным вариантом называется Q4_K_M, обеспечивающий компромисс между качеством, скоростью и потреблением памяти. Файлы занимают примерно от 3,18 до 8,54 ГБ, но фактические требования выше из-за контекста, KV-кэша, буферов вычислений и накладных расходов runtime. Сильными сторонами являются локальное и потенциально более приватное выполнение, широкий выбор уровней квантизации и совместимость с экосистемой llama.cpp. При этом README не содержит результатов бенчмарков, данных о точности в конкретных областях, надежности использования инструментов, производительности, поддерживаемых языках или размере контекстного окна. Не подтверждена также пригодность для автономных производственных сценариев; качество следует проверять на собственных задачах и выбранной квантизации. Лицензия указана как other, поэтому перед распространением или коммерческим использованием необходимо изучить условия лицензии OrakzaiX и upstream-модели.

Карточка модели LIF1014/ptdbench-verl-coding-task-evaluator на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

unsloth/Qwen2.5-14B — 14-миллиардная плотная авторегрессионная языковая модель семейства Qwen2.5, опубликованная Unsloth как дообученная версия Qwen/Qwen2.5-14B. Она предназначена для генерации и продолжения текста; базовая модель особенно подходит для дальнейшего постобучения, а карточка не рекомендует использовать базовые языковые модели непосредственно для диалогов. Архитектура использует RoPE, SwiGLU, RMSNorm и grouped-query attention; контекст составляет до 131 072 токенов. Модель поддерживает многоязычную генерацию, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Семейство Qwen2.5 заявлено как улучшенное в программировании, математике, следовании инструкциям, работе с длинными текстами и структурированными данными, однако эти характеристики в README описаны для семейства в целом и не подтверждены отдельной оценкой данного чекпойнта. Репозиторий использует Transformers и формат safetensors; лицензия — Apache-2.0.

Qwen2.5-14B-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Qwen2.5-14B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях с поддержкой llama.cpp и LM Studio. В README указана поддержка английского языка и текстовая модальность. Модель содержит 14 миллиардов параметров в исходной версии; доступно множество вариантов квантизации от F16 до Q2_K_L, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размеры файлов составляют примерно от 6,53 до 29,55 ГБ. Для диалогов используется шаблон с ролями system, user и assistant. Точная длина контекста в README не указана, сообщается лишь об обновлении настроек контекста и токенизатора. Сильная сторона модели — возможность локального запуска при сохранении нескольких вариантов качества, включая рекомендуемые Q4_K_M, Q5_K_M и Q6_K. Более агрессивная квантизация уменьшает требования к памяти, но может заметно снижать качество ответов; варианты Q2 и Q3 описаны как низкокачественные или предназначенные для ограниченного объёма памяти. Модель распространяется по лицензии Apache 2.0.

Модель unsloth/Qwen2.5-32B — версия базовой языковой модели Qwen2.5, опубликованная Unsloth и основанная на Qwen/Qwen2.5-32B. Это плотная причинная языковая модель с архитектурой Qwen2ForCausalLM, 32 млрд параметров и контекстом до 131 072 токенов; файлы представлены в формате safetensors и модель работает через Transformers. В карточке также приведены сведения об архитектуре семейства: RoPE, SwiGLU, RMSNorm и групповое внимание с 40 головами Q и 8 головами KV. Модель предназначена для генерации текста и дальнейшего дообучения. Базовый чекпойнт поддерживает многоязычную генерацию, включая русский, английский, китайский и другие языки; семейство Qwen2.5 также описано как способное работать с кодом, математическими задачами, длинными текстами и структурированными данными. README отдельно предупреждает, что базовая модель не рекомендуется для диалогов без последующего обучения, например SFT или RLHF. Лицензия — Apache-2.0.

Qwen2.5-QwQ-37B-Eureka-Triple-Cubed-abliterated — текстовая генеративная модель DavidAU, созданная методом Triple Cubed на основе нескольких моделей рассуждения семейства Qwen. По данным карточки, в её состав вошли QwQ-32B, TinyR1-32B-Preview и DeepSeek-R1-Distill-Qwen-32B; каталог указывает связи с тремя моделями huihui-ai. Архитектура — плотная Qwen2, класс Qwen2ForCausalLM, размер — 35,9 млрд параметров, формат весов — safetensors, контекст — до 131 072 токенов. Модель предназначена для диалоговой генерации текста, пошагового рассуждения, планирования, решения задач, подробных объяснений, творческого письма и мозговых штурмов. Автор отмечает, что версия Triple Cubed рассчитана на более глубокое рассуждение и детальную генерацию, а также допускает широкий диапазон температуры. В метаданных указаны интерфейс чата и интерфейс вызова инструментов. Модель обозначена как abliterated и uncensored, поэтому может выдавать контент без обычных отказов. README рекомендует использовать шаблон ChatML; настройки генерации, включая температуру, могут заметно влиять на результат. Карточка не сообщает конкретные языки обучения или гарантии качества. Условия лицензии в предоставленных данных не указаны.

ente-ai/Qwen3.5-2B-GGUF — GGUF-версия мультимодальной модели Qwen3.5-2B, разработанной командой Qwen и основанной на Qwen/Qwen3.5-2B. Репозиторий подготовлен с использованием подхода Unsloth Dynamic 2.0 и предназначен для локального запуска, прототипирования, специализированного дообучения, исследований и разработки. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает работу с текстом и изображениями. Она содержит около 2 млрд параметров, 24 слоя, скрытое измерение 2048 и нативный контекст длиной до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks и элементы разреженной Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Модель совместима с экосистемой Transformers, а также с vLLM, SGLang и KTransformers. К сильным сторонам относятся мультимодальное понимание, большой контекст, компактный размер и пригодность для локального инференса и дообучения. При этом масштаб 2 млрд параметров ограничивает максимальную глубину рассуждений и качество на сложных задачах по сравнению с более крупными моделями; README прямо указывает приоритет прототипирования и исследовательских сценариев. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-27B-NInfer — мультимодальная модель для генерации текста и обработки изображений и видео, подготовленная Neroued на основе Qwen/Qwen3.6-27B. Это не стандартный checkpoint для Transformers, Safetensors или GGUF, а артефакт в нативном формате .ninfer, предназначенный для запуска через NInfer. Модель поддерживает режимы с рассуждением и без него, текстовые, мультиизображенческие, видео- и смешанные мультимодальные сообщения. Указана архитектура Qwen3_5ForCausalLM; размер файла составляет около 16,29 ГиБ. Доступны MTP-спекулятивное декодирование, различные форматы KV-кэша, CUDA Graph, повторное использование совместимого префикса и небольшое параллельное обслуживание запросов. При запуске сервера заявлен логический предел контекста до 240 000 токенов. Поддерживаемые языки в карточке не указаны. Модель подходит для локальной генерации текста, диалоговых приложений, задач рассуждения, анализа изображений и видео, а также для развёртывания через NInfer CLI или совместимые интерфейсы OpenAI Responses, Chat Completions и Anthropic Messages. Среди ограничений — необходимость использовать NInfer, сборку из исходного кода, 64-битный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее; готового установочного пакета NInfer не предоставляется. В карточке приведены результаты на AIME 2025, AIME 2026 и GPQA-Diamond, но методика и полный набор измерений ограничены описанными условиями. Лицензия — Apache-2.0.

Это текстовая MoE-модель семейства Qwen для диалоговой генерации. По README, репозиторий содержит полный конвертированный чекпойнт Qwen/Qwen3.8-2.4T-A95B с 4-битным представлением весов; метаданные указывают поддержку чат-сценариев и генерации текста. Модель предназначена для диалогов и генерации ответов, включая программный код. В README приведены измерения скорости на восьми GPU AMD MI325X с ROCm, в том числе с ускорением спекулятивным декодированием DSpark; эти показатели относятся к конкретным настройкам и нагрузкам. Качество модели широко не оценивалось: автор сообщает об арифметических проверках генерации, проверке чата и нескольких тестах с Python-кодом, но не приводит широких оценок точности или perplexity. Квантизация заметно отличается от исходных BF16-весов по приведённым тестам; эквивалентность качества BF16 и детерминизм для произвольных запросов не заявлены. Для размещения чекпойнта указаны значительные требования к памяти GPU. Лицензия обозначена как «other», конкретные условия в предоставленных данных не раскрыты.

Карточка модели ablllu/Qwen3-Embedding-4B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Карточка модели Rasputin312/Qwen3-Embedding-4B_both_60_pct_8_epochs на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Карточка модели fsousaon/Qwen3-Embedding-4B-Lia на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Qwen3-Embedding-8B — текстовая модель эмбеддингов семейства Qwen3, опубликованная RedHatAI на базе Qwen/Qwen3-8B-Base. Это плотная архитектура Qwen3 с 7,6 млрд параметров; модель предназначена для получения векторных представлений текста и задач ранжирования и поиска. Метаданные указывают контекст до 40 960 токенов, а README описывает поддержку последовательностей до 32 тысяч токенов и векторы размерностью от 32 до 4096. Модель понимает пользовательские инструкции для настройки представлений под конкретную задачу. Модель подходит для семантического поиска по текстам и коду, многоязычного и межъязыкового поиска, классификации и кластеризации текстов, сопоставления параллельных текстов и оценки сходства. В README заявлена поддержка более 100 языков и приведены высокие результаты на бенчмарках MTEB; эти показатели относятся к оценкам разработчика и зависят от сценария применения. Для многоязычных сценариев README рекомендует формулировать инструкции на английском. Модель выпущена в формате safetensors и распространяется по лицензии Apache-2.0. Для загрузки через Transformers требуется версия 4.51.0 или новее, поскольку в более ранних версиях может возникать ошибка распознавания архитектуры Qwen3.

ZuzeTt/Qwen3-VL-4B-Thinking-heretic-imatrix-GGUF — мультимодальная модель для понимания и генерации текста по изображениям и текстовым запросам. Она создана на основе Qwen/Qwen3-VL-4B-Thinking и представляет собой её декензурированную версию, полученную с помощью Heretic 1.1.0. В README указано, что исходная модель относится к семейству Qwen; отдельный разработчик этой модификации не назван. Модель предназначена для визуального анализа, рассуждений по изображениям, решения STEM- и математических задач, распознавания текста, понимания пространственных отношений, анализа видео, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Заявлены поддержка длинного контекста до 256K токенов с возможным расширением до 1M, понимание длительных видео, OCR на 32 языках и мультимодальное рассуждение. Архитектурные особенности базовой модели включают Dense-архитектуру, режим Thinking, Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками; размер модели — 4B параметров. Ключевая особенность модификации — существенное снижение количества отказов: в приведённом тесте она отказала в 3 из 100 случаев против 97 из 100 у исходной модели, при KL divergence 0,0259. Это может быть преимуществом для исследовательских и прикладных сценариев, где требуется менее ограниченное поведение, но одновременно повышает риск небезопасных или нежелательных ответов. В README не приведены результаты независимой оценки качества, полный перечень поддерживаемых языков генерации, точные характеристики GGUF-квантизации или требования к аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

Qwen_Qwen3-Next-80B-A3B-Thinking-GGUF — набор GGUF-квантизаций базовой модели Qwen3-Next-80B-A3B-Thinking, разработанной Qwen и подготовленной bartowski. Модель предназначена для генерации текста и сценариев, требующих рассуждений; запуск возможен через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Это текстовая модель с архитектурой и языками исходной модели, а также размером контекста, в README не указанных. Доступны варианты квантизации от Q3 до Q8, объёмом примерно от 36,6 до 84,8 ГБ. Более высокие варианты обеспечивают лучшее сохранение качества, а низкие требуют меньше памяти; рекомендуемыми названы Q4_K_M, Q5_K_M, Q6_K и другие варианты соответствующего уровня. Ключевое ограничение — значительные требования к оперативной памяти и необходимость поддержки этой модели выбранным программным обеспечением. Квантизации созданы с использованием imatrix и llama.cpp. Для работы рекомендуется применять указанный в README формат prompt с маркером начала рассуждений <think>. Распространение осуществляется по лицензии Apache-2.0.

Rombos-LLM-V2.5-Qwen-32b — текстовая генеративная модель, созданная Rombodawg на основе Qwen2.5-32B-Instruct. Автор описывает её как результат непрерывного дообучения и слияния инструктивной и базовой моделей методом TIES; метаданные также связывают модель с Qwen/Qwen2.5-32B-Instruct. Модель построена на плотной архитектуре Qwen2 и содержит 32 млрд параметров. Модель предназначена для диалога и генерации текста, включая сценарии с вызовом инструментов через соответствующий интерфейс. Она принимает текст, выдаёт текст и рассчитана на контекст до 32 768 токенов. Карточка заявляет более высокую производительность по сравнению с исходными instruct- и base-моделями, но не приводит бенчмарков или подробностей проверки этого заявления. Поддерживаемые языки отдельно не перечислены. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README сообщает, что квантизованные версии и бенчмарки пока готовятся.

SlimOpenOrca-Mistral-7B — языковая модель семейства Mistral, созданная Weyaxi слиянием TIES моделей Open-Orca/Mistral-7B-SlimOrca и Open-Orca/Mistral-7B-OpenOrca. Это плотная авторегрессионная модель на 7,1 млрд параметров, распространяемая в формате safetensors; нативный контекст составляет 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и следование инструкциям. В README указаны веса слияния 0,5 для SlimOrca и 0,3 для OpenOrca, а также плотность 0,5 для каждой исходной модели. Лицензия — Apache-2.0. Карточка также сообщает о вариантах GPTQ, GGUF и AWQ, опубликованных TheBloke; это отдельные квантованные версии.

T-lite-it-2.1 — русскоязычная диалоговая модель компании T-Tech, дообученная на архитектуре Qwen3. Это плотная языковая модель на 7,6 млрд параметров для генерации текста и общения; она принимает текст и выдаёт текст. Метаданные указывают контекст до 40 960 токенов, тогда как README заявляет нативную длину 32 768 токенов. Модель предназначена для следования инструкциям, обычных диалоговых задач и многошаговых сценариев с вызовом инструментов. Обучение включало instruction midtraining, supervised fine-tuning и online RL; итоговая модель объединяет специализированных экспертов методом SLERP. По заявлению разработчика, она улучшает следование инструкциям и вызов инструментов относительно Qwen3-8B и работает в русском текстовом режиме с повышенной пропускной способностью благодаря оптимизированному токенизатору. Поддерживается только режим без thinking. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README рекомендует внимательно проверять ответы и обеспечивать необходимый контроль при внедрении, особенно в промышленных и коммерческих системах.

Tri-21B-Think — языковая модель Trillion Labs, дообученная на базе Trillion Labs Tri-21B для рассуждений и многошагового диалога. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, RoPE, SwiGLU, RMSNorm и GQA; в репозитории указано 20,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает чат и рассчитана на контекст до 32 768 токенов; README также сообщает о расширении контекста до 262 144 токенов с YaRN. Модель предназначена для задач, где полезны пошаговое рассуждение, ответы на сложные вопросы, многоходовые взаимодействия и работа с инструментами. Авторы сообщают об улучшении корейского языка по сравнению с базовой моделью; основные языки — английский, корейский и японский. На этапе рассуждения генерация дополнительных токенов может увеличивать задержку, а качество на других языках может быть ниже. Заявленная лицензия — Apache-2.0.

Causal language model с архитектурой семейства Qwen2, опубликованная на Hugging Face под идентификатором codex176743/cedar-lantern-p4. Модель предназначена для генерации текста и совместима с библиотекой Transformers; для хранения весов используется формат safetensors.

Deepseek-LLM-7B-Chat-GGUF — чат-модель Deepseek LLM 7B Chat, разработанная DeepSeek и представленная в формате GGUF. Репозиторий содержит квантизированные варианты модели, подготовленные Second State Inc., с разрядностью от 2 до 8 бит и размером файлов примерно от 2,72 до 7,35 ГБ. Модель предназначена для диалогового взаимодействия и может запускаться локально через LlamaEdge версии 0.2.8 или новее. Заявленный размер контекста составляет 4096 токенов. Доступны варианты с различным компромиссом между размером файла и качеством: Q2_K и варианты Q3 обеспечивают минимальные требования к ресурсам, но сопровождаются существенной потерей качества, тогда как Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые сбалансированные варианты. Модель работает с текстовыми запросами по шаблону deepseek-chat; сведения о поддерживаемых языках, точной архитектуре и результатах оценивания в README не приведены. Лицензия указана как deepseek, тип — other; применяются условия, описанные в файле LICENSE.

mlx-community/DeepSeek-R1-Distill-Llama-70B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Llama-70B, разработанной deepseek-ai и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.21.1. Модель предназначена для генерации текста и диалоговых сценариев на устройствах и в средах, совместимых с MLX. Для работы используется библиотека mlx-lm; README показывает загрузку модели, применение chat template и генерацию ответа по текстовому запросу. Ключевые характеристики: 70 миллиардов параметров в базовой модели, 4-битное представление весов, текстовая модальность и архитектурная основа Llama, унаследованная от DeepSeek-R1-Distill-Llama-70B. Сведения о поддерживаемых языках, размере контекстного окна, точных возможностях рассуждения, ограничениях, лицензии и требованиях к оборудованию в README не указаны.

DPOpenHermes-7B-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и openaccess-ai-collective/DPOpenHermes-7B-v2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации ответов на инструкции и диалоговые запросы; заявленный контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке указан английский язык. Репозиторий распространяется под лицензией Apache-2.0; веса представлены в формате safetensors. Карточка не приводит результатов оценки качества или подробных сведений о поведении модели.

Elita-0.1-Distilled-R1-Abliterated — текстовая генеративная модель на базе DeepSeek-R1-Distill-Qwen-7B, дообученная prithivMLmods на данных для рассуждений по цепочке мыслей. Модель использует плотную архитектуру Qwen2 и содержит 7,1 млрд параметров; заявленная длина контекста — 131 072 токена. Она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для следования инструкциям, многошаговых рассуждений, логических задач, ответов на вопросы и создания связных объяснений. Её можно применять в виртуальных помощниках, образовательных инструментах, автоматизации, подготовке сводок и отчётов. В карточке указана английская локаль; иных языков README и метаданные не подтверждают. Модель распространяется по лицензии Apache-2.0. Среди ограничений автор отмечает риск фактических ошибок и предвзятости, слабые результаты в узкоспециализированных областях и зависимость качества ответа от ясности запроса. Для запуска требуются значительные вычислительные ресурсы; оптимизация для развёрнутых рассуждений может быть менее подходящей для простых задач.

EmbeddingGemma — компактная модель эмбеддингов текста от Google DeepMind на 302,8 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы размерностью 768; благодаря Matryoshka Representation Learning вектор можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Модель принимает текст с контекстом до 2048 токенов и предназначена для запуска в том числе на телефонах, ноутбуках и настольных компьютерах с ограниченными ресурсами. Основные сценарии — семантический поиск и извлечение документов, сравнение предложений, классификация и кластеризация текстов, поиск кода по запросам на естественном языке, а также подбор материалов для систем ответов на вопросы и проверки фактов. Модель обучалась на данных более чем 100 языков, включая веб-тексты, код и техническую документацию. Для использования авторы рекомендуют Sentence Transformers с Gemma 3 из Transformers; в репозитории также представлены форматы ONNX, OpenVINO, PyTorch, Safetensors и TensorFlow. Качество зависит от охвата и смещений обучающих данных; модель может хуже улавливать тонкие языковые нюансы, сарказм и переносный смысл. Лицензия — Gemma; при использовании необходимо соблюдать условия Gemma и ограничения политики допустимого использования.

EuroLLM-9B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели EuroLLM-9B-Instruct, разработанной проектом utter-project и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций и локальный запуск через совместимые приложения, например LM Studio. Модель имеет около 9 миллиардов параметров и поддерживает широкий набор языков, включая английский, немецкий, испанский, французский, итальянский, португальский, польский, русский, украинский, китайский, японский, корейский, арабский и хинди. Мультимодальные возможности и размер контекста в README не указаны. Доступны варианты от F16 до Q2_K_L, различающиеся размером файлов, требованиями к памяти и качеством: старшие варианты обеспечивают качество, близкое к исходной модели, а младшие подходят для систем с ограниченным объёмом RAM, но заметно уступают по качеству. Модель удобна для локального инференса благодаря большому выбору квантизаций; рекомендованным вариантом по умолчанию назван Q4_K_M, а для максимального качества — Q6_K или Q6_K_L. Некоторые варианты оптимизированы для ARM или AVX и имеют ограничения совместимости, в частности отдельные сборки не рекомендуются для Mac или GPU. Лицензия — Apache-2.0.

flammen8-mistral-7B — объединённая языковая модель, созданная flammenai методом SLERP с помощью mergekit из flammen7-mistral-7B и AlphaMonarch-7B. Это плотная авторегрессионная архитектура MistralForCausalLM с 7,1 млрд параметров; модель опубликована в формате safetensors и поддерживается библиотекой Transformers. Она предназначена для генерации текста, включая диалоговое взаимодействие, выполнение инструкций и рассуждения. Контекстное окно составляет 32 768 токенов. Модель принимает текст и генерирует текст. В карточке не заявлены специализированные области применения или поддерживаемые языки. Репозиторий создан 15 марта 2024 года. Лицензия — Apache-2.0.

FLAN-T5-Large — языковая модель семейства T5, разработанная Google и дообученная по инструкциям на более чем тысяче дополнительных задач. Она предназначена для выполнения текстовых запросов и широкого круга задач обработки естественного языка, включая ответы на вопросы, рассуждения и генерацию текста, в том числе в режимах zero-shot и few-shot. Модель содержит 385,2 млн параметров, использует архитектуру T5 для преобразования текста в текст и имеет контекст до 512 токенов. Она поддерживает множество языков, среди которых английский, русский, французский, немецкий, испанский, китайский, японский и другие. Доступны веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache 2.0. Инструкционное дообучение повышает универсальность и удобство выполнения разнообразных запросов. Модель не проверялась в реальных приложениях; обучающие данные не фильтровались на откровенный контент и предвзятость, поэтому возможны вредные или предвзятые ответы. Перед применением следует оценить риски безопасности и справедливости для конкретного сценария.

Карточка модели OpenSite/forge на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-8B, поэтому описание составлено по ней. Qwen3-Embedding-8B — текстовая модель эмбеддингов семейства Qwen3, разработанная командой Qwen. Это плотная архитектура Qwen3ForCausalLM с 7,6 млрд параметров, дообученная на базе Qwen/Qwen3-8B-Base для получения векторных представлений текста. Модель предназначена для семантического поиска и ранжирования, а также поддерживает классификацию, кластеризацию, поиск по коду и межъязыковой поиск. Модель поддерживает более 100 естественных и программных языков, обрабатывает длинные последовательности с контекстом до 40 960 токенов по метаданным и выдаёт эмбеддинги размерностью до 4096; README также сообщает о настройке выходной размерности от 32 до 4096. Можно задавать инструкции для конкретной задачи, языка или сценария. Модель рассчитана на получение векторов из текста; метаданные также отмечают возможности чата и интерфейс вызова инструментов, но основной сценарий этой версии — эмбеддинги. По данным карточки, версия 8B заняла первое место в мультиязычном рейтинге MTEB на 5 июня 2025 года с результатом 70,58. Для некоторых задач retrieval README отмечает снижение качества примерно на 1–5% без подходящей инструкции. Для работы с поддержкой Qwen3 требуется Transformers 4.51.0 или новее. Лицензия — Apache-2.0.