II.4Отладка, тестирование и качество ПО

Miss.Z-V0.1 — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из HuggingFaceH4/zephyr-7b-beta и mistralai/Mistral-7B-Instruct-v0.3. Репозиторий содержит веса в формате Safetensors; модель насчитывает 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов, а её интерфейс также поддерживает вызов инструментов. Она принимает текст и выдаёт текст. Данные о конкретных языках применения и специализированных предметных областях не приведены. Модель опубликована 9 сентября 2024 года. Условия лицензии в предоставленных данных не указаны.

Это объединённая диалоговая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и OpenPipe/mistral-ft-optimized-1227 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в диалоговом формате; контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других текстовых задач общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Unsloth/Mistral-Nemo-Instruct-2407-GGUF — это GGUF-версия инструкционной модели Mistral Nemo, опубликованная Unsloth. Модель предназначена для запуска в совместимых средах, поддерживающих формат GGUF, а также для диалоговых сценариев, генерации текста и выполнения инструкций. В README указано, что она связана с экосистемой Transformers и поддерживает английский язык. Из доступных данных следует, что модель относится к семейству Mistral Nemo и имеет размер 12B параметров, однако сведения о точной архитектуре, максимальном контексте, модальностях и конкретных вариантах квантования отсутствуют. Формат GGUF удобен для локального инференса и последующей работы с оптимизированными представлениями модели, но характеристики скорости и потребления памяти зависят от используемого варианта файла и программного окружения. Модель может быть полезна для локальных чат-ботов, ассистентов и экспериментов с дообучением: README описывает инструменты Unsloth для более быстрого fine-tuning с меньшим потреблением памяти и экспортом в GGUF. При этом заявленные ускорение и экономия памяти относятся к процессу дообучения в Unsloth, а не обязательно к инференсу этой конкретной модели. Лицензия — Apache-2.0.

MixtureofMerges-MoE-2x7b-v7 — языковая модель с архитектурой Mixture of Experts (MoE), созданная автором jsfs11 с помощью LazyMergekit путём объединения Gille/StrangeMerges_32-7B-slerp и mlabonne/AlphaMonarch-7B. Модель предназначена для генерации текста и может применяться для диалогов, ответов на вопросы, следования инструкциям и рассуждений. Модель содержит 7,1 млрд параметров, использует архитектуру Mixtral и поддерживает контекст до 32 768 токенов. В README приведены результаты оценивания на бенчмарках рассуждений и здравого смысла. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Nanbeige4-3B-Thinking — компактная языковая модель с 3,5 млрд параметров из четвёртого поколения семейства Nanbeige, разработанная командой Nanbeige. Это плотная авторегрессионная модель архитектуры Llama, предназначенная для генерации текста в диалогах и решения задач, требующих рассуждений. Модель обучали на корпусе из текстов, книг, кода и научных публикаций, а затем дообучали на примерах с длинными цепочками рассуждений, дистиллировали от флагманской модели Nanbeige и совершенствовали с помощью многоэтапного обучения с подкреплением. В README заявлены применения в математике, науке, творческом письме и использовании инструментов. Поддерживается контекст до 65 536 токенов; метаданные указывают английский и китайский языки. Модель опубликована в формате PyTorch и распространяется по лицензии Apache-2.0. Сильные стороны — акцент на рассуждениях при сравнительно небольшом размере и обучение на проверяемых задачах и данных с длинными цепочками рассуждений. Модель может выдавать предвзятые или дискриминационные и другие неожиданные ответы; результаты требуют проверки, особенно при использовании инструментов или в чувствительных сценариях.

Neural-Chat-v3-1 — языковая модель Intel на архитектуре Mistral, дообученная на базе mistralai/Mistral-7B-v0.1 на наборе Open-Orca/SlimOrca. Для выравнивания ответов применялся метод Direct Preference Optimization (DPO) с парами предпочтений Intel/orca_dpo_pairs. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых сценариев; в метаданных указан контекст до 32 768 токенов, тогда как README приводит значение 8 192 токена. Модель подходит для ответов на запросы, ведения диалога и других языковых задач, а также для последующей адаптации под конкретное применение. В опубликованной оценке она показала средний результат 59,06 на наборе бенчмарков, однако качество зависит от формулировки запроса. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы, поэтому перед внедрением рекомендуется проверка безопасности и качества. Лицензия — Apache 2.0.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это GGUF-квантизированная версия языковой модели NVIDIA Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA и подготовленной для запуска с llama.cpp. Квантизацию выполнил bartowski с использованием imatrix. Модель предназначена для генерации текста и поддерживает только текстовый ввод; заявленное количество параметров — 33 млрд. Вариант включает поддержку MTP. Модель подходит для локального запуска и задач текстовой генерации, включая диалоговые сценарии при использовании рекомендованного шаблона промпта. Доступны варианты квантизации от BF16 и Q8_0 до более компактных Q3 и IQ3, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В README рекомендуются Q4_K_M как сбалансированный вариант, а также варианты Q5 и Q6 для более высокого качества. Заявлена поддержка английского, испанского, французского, немецкого, итальянского и японского языков. Ограничения модели включают отсутствие мультимодального ввода и неизвестный из предоставленных данных размер контекстного окна. Более сильное сжатие уменьшает требования к памяти, но может снижать качество по сравнению с BF16 и вариантами с более высокой точностью. Модель распространяется по лицензии openmdw-1.1; в README она обозначена как license: other, с дополнительной ссылкой на условия лицензии.

Это GGUF-квантизация модели Nemotron-Cascade-2-30B-A3B, разработанной NVIDIA, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста общего назначения и задач, где важны рассуждения; в метаданных также указано обучение с применением SFT и RL. Доступны варианты от BF16 до различных уровней квантования GGUF, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. Известно, что модель относится к семейству Nemotron-Cascade-2 и имеет обозначение 30B-A3B, однако подробности архитектуры, фактическое число активируемых параметров, размер контекста и поддерживаемые модальности в README не указаны. Заявлен английский язык. Модель можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты; для работы может потребоваться их обновлённая версия с поддержкой этой архитектуры. Более сильные варианты квантования обеспечивают лучшее сохранение качества, а компактные варианты снижают требования к оперативной памяти, но могут заметнее ухудшать результаты. Использование регулируется NVIDIA Open Model License; в карточке указана лицензия other и приведена ссылка на условия NVIDIA. Конкретные ограничения лицензии, результаты benchmark-тестов и подробные сведения о сильных и слабых сторонах исходной модели в README не приведены.

Nemotron-Cascade-8B-GGUF — это квантованная версия языковой модели Nemotron-Cascade-8B, разработанной NVIDIA и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, рассуждений и задач общего назначения; в карточке указаны сценарии локального запуска через LM Studio, llama.cpp и совместимые проекты. Заявленный язык — английский. Модель содержит 8 миллиардов параметров. Доступны варианты с точностью от BF16 до Q2 и различными форматами квантования, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Размер файлов составляет примерно от 3,9 до 16,4 ГБ. Квантование выполнено с использованием imatrix на базе llama.cpp; для работы рекомендуется применять шаблон диалога с поддержкой маркера /think. Сильной стороной является выбор вариантов между качеством и требованиями к памяти, включая варианты, рекомендованные автором как близкие к исходному качеству. Сведения о размере контекста, архитектуре, дополнительных модальностях и результатах бенчмарков в README не приведены. Модель распространяется по лицензии NVIDIA Open Model License; в карточке указана лицензия other и приведена ссылка на её текст. Условия лицензии следует учитывать отдельно перед использованием и распространением.

Occiglot-7B-ES-EN-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный причинный трансформер-декодер архитектуры Mistral с 7,1 млрд параметров, дообученный на 160 млн токенов многоязычных и программных инструкций. Модель предназначена для диалогов и генерации текста на английском и испанском языках; также обучалась на инструкциях по программированию. Поддерживает шаблон чата ChatML. В карточке указана длина контекста 32 768 токенов, а при обучении использовалась длина 8 192 токена. Модель представляет собой первый выпуск исследовательского проекта Occiglot. Авторы отмечают предварительный характер оценок, а испанские результаты частично опираются на машинно переведённые наборы данных и английские запросы. Модель не проходила выравнивание по безопасности и может выдавать проблемные ответы. Распространяется по лицензии Apache 2.0.

OLMo 2 13B SFT — языковая модель Allen Institute for AI (Ai2), дообученная методом supervised fine-tuning на варианте набора Tülu 3. Это плотная авторегрессионная модель семейства OLMo 2 с 13,2 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Контекстное окно — 4096 токенов; модель предназначена прежде всего для английского языка. Модель подходит для диалогов, ответов на вопросы, математических задач и выполнения инструкций. В README отмечено, что Tülu 3 охватывает широкий круг задач, включая MATH, GSM8K и IFEval. Модель распространяется под лицензией Apache 2.0. В README указано, что у OLMo 2 ограничено обучение безопасности; без дополнительной фильтрации модель может выдавать проблемные ответы, особенно при соответствующих запросах. Также карточка предупреждает, что эта версия была заменена обновлёнными post-trained моделями из-за несовпадения логики предварительной токенизации с базовыми моделями.

OLMoE-1B-7B-0125-DPO — англоязычная диалоговая модель Allen Institute for AI, опубликованная в январе 2025 года. Это вариант OLMoE с архитектурой Mixture of Experts для генерации текста и ответов в чате. В метаданных указаны 472,1 млн параметров и контекст до 4096 токенов; модель распространяется в форматах PyTorch и Safetensors. Модель создана на основе OLMoE-1B-7B-0125-SFT и дополнительно обучена методом DPO на варианте набора Tülu 3. Обучение охватывает диалоговые и другие задачи, включая математические рассуждения и следование инструкциям. Лицензия Apache 2.0 разрешает использование и модификацию на её условиях.

OmniCorso-7B — объединённая языковая модель, опубликованная macadeliccc на Hugging Face. Она предназначена для генерации текста и диалогов в формате ChatML. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель можно применять для ведения диалогов, ответов на вопросы и рассуждений на основе текста. В README приведены результаты тестов AGIEval, GPT4All, TruthfulQA и Bigbench. Доступны варианты квантования ExLlamaV2; их таблица содержит сведения о компромиссе между качеством, размером и потреблением видеопамяти. OmniCorso-7B объединяет macadeliccc/MBX-7B-v3-DPO и mlabonne/OmniBeagle-7B. В метаданных указана лицензия CC; конкретный вариант лицензии не уточнён.

OpenBuddy/openbuddy-deepseek-67b-v24.1-65k — мультиязычная чат-модель проекта OpenBuddy на архитектуре Llama с 66,6 млрд параметров. Она предназначена для диалогов и генерации текста; поддерживает контекст длиной до 65 536 токенов и языки китайский, английский, французский, немецкий, японский, корейский, итальянский, русский и финский. Модель распространяется в формате Safetensors и рассчитана на использование с Transformers или vLLM. В карточке базовая модель не названа. Лицензия обозначена как deepseek; перед использованием следует проверить условия лицензии. Авторы предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют применять модель в критически важных сценариях, включая медицину, управление опасными системами, а также важные финансовые и юридические решения.

facebook/opt-iml-max-30b — большая языковая модель семейства OPT, разработанная Meta AI и дообученная по инструкциям в рамках проекта OPT-IML. Версия OPT-IML-Max обучалась на примерно 2000 задачах обработки естественного языка из восьми бенчмарков, включая Super-NaturalInstructions, FLAN и PromptSource. Модель предназначена для генерации текста по инструкциям и выполнения разнообразных языковых задач. Это плотная авторегрессионная модель с архитектурой OPTForCausalLM и 39,8 млрд параметров; максимальный контекст составляет 2048 токенов. Модель распространяется в формате PyTorch. По оценке авторов, OPT-IML превосходит базовую OPT на ряде оценок. Как и другие большие языковые модели, она может выдавать фактически неверные ответы, токсичный текст и стереотипные формулировки. В метаданных указана лицензия other; конкретные условия следует проверять на странице модели.

pankajmathur выпустил Orca Mini v8.0 — дообученную диалоговую модель на архитектуре Llama 3.3 с 69,5 млрд параметров. Она предназначена для генерации текста и ответов в формате беседы; карточка показывает пример системного промпта для AI-ассистента. Модель работает через Transformers, веса представлены в формате Safetensors, а максимальный контекст составляет 131 072 токена. Модель подходит для создания диалоговых ассистентов, ответов на вопросы и других сценариев генерации текста. Базовая Llama 3.3 поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский; качество дообученной версии отдельно не описано. Как и другие большие языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед применением требуется проверка безопасности для конкретного сценария. Лицензия — Llama 3.3.

mergekit-community выпустил объединённую языковую модель Qwen2.5-14B, созданную методом Model Stock на основе Qwen/Qwen2.5-14B и пяти других моделей: SauerkrautLM-v2-14b-SFT, Rombos-LLM-V2.6-Qwen-14b, Qwen2.5-14B-Instruct-abliterated-v2, SuperNova-Medius и Virtuoso-Small. Это плотная авторегрессионная модель семейства Qwen2 с 14 млрд параметров, предназначенная для генерации текста и диалогов; заявленный размер контекста — до 131 072 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель подходит для генерации ответов в чате и других текстовых сценариев; метаданные также указывают интерфейс вызова инструментов. В README приведены метод объединения, состав моделей и конфигурация с типом данных bfloat16, но нет отдельных результатов оценки качества. Лицензия в предоставленных данных не указана.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-ORPO-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

lmstudio-community/Qwen2.5-VL-3B-Instruct-GGUF — мультимодальная инструкционная модель Qwen2.5-VL-3B-Instruct, разработанная Qwen и представленная в формате GGUF. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для задач анализа изображений и текста, включая распознавание объектов, интерпретацию текстов, диаграмм, графиков, значков и макетов в изображениях. Модель поддерживает контекст до 128 тысяч токенов, заявлена как мультиязычная и может формировать структурированные ответы, включая стабильный JSON. Она также предназначена для сценариев визуального агента с рассуждением и динамическим управлением инструментами, в том числе для взаимодействия с компьютером и телефоном. К сильным сторонам относятся анализ визуальной информации и работа со структурированными данными; конкретные ограничения, результаты тестов и перечень поддерживаемых языков в README не указаны. Лицензия — qwen-research.

Qwen3-4B-Thinking-2507-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, созданный пользователем MaziyarPanahi на основе исходной модели Qwen3-4B-Thinking-2507 от команды Qwen. Модель предназначена для локального запуска и интеграции с совместимыми приложениями и библиотеками, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другие инструменты экосистемы GGUF. Известно, что представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти и качеством генерации. Модель относится к классу текстовых генеративных моделей; сведения о количестве параметров, архитектуре исходной модели, поддерживаемых языках и размере контекста в README не указаны. Формат GGUF поддерживает запуск с использованием CPU и GPU, однако фактическая производительность зависит от выбранного варианта квантования и оборудования. README не содержит сведений о лицензии. Ограничения, связанные с качеством ответов и потерями точности при квантовании, могут зависеть от конкретного файла и конфигурации запуска.

Qwen3.5-2B-text-only — текстовый вариант семейства Qwen3.5, опубликованный Principled Intelligence. Это плотная авторегрессионная языковая модель с архитектурой Qwen3_5ForCausalLM и примерно 1,7 млрд параметров. Из чекпойнта удалены веса визуального энкодера, поэтому он занимает меньше места и требует меньше видеопамяти, чем исходная мультимодальная версия. Модель предназначена для генерации текста и диалогов; заявленная длина контекста составляет 262 144 токена. Чекпойнт сохранён в формате safetensors и рассчитан на запуск через HuggingFace Transformers версии 5.2.0 или новее. По карточке, он сохраняет токенизатор, шаблон диалога и поведение генерации исходной модели, но не принимает изображения. Лицензия — Apache 2.0. Авторы описывают публикацию как лабораторный эксперимент, а поддержку vLLM, SGLang, llama.cpp, Ollama и других движков пока не заявляют.

Qwen3.6-35B-A3B-Q6_K-GGUF — это квантизированная версия модели Qwen3.6-35B-A3B, разработанная сообществом Qwen и преобразованная пользователем Abiray в формат GGUF с использованием llama.cpp. Модель предназначена для локального запуска на потребительском оборудовании и в сценариях с высокой нагрузкой на CPU; использовать её можно через llama.cpp и совместимые инструменты. Модель имеет архитектуру mixture-of-experts (MoE), что отражено в обозначении 35B-A3B: общий размер составляет около 35 млрд параметров, а активными при обработке, предположительно, являются около 3 млрд параметров. Вариант Q6_K использует 6-битное квантизирование и позиционируется как версия с очень высоким качеством при меньшем размере по сравнению с полной моделью. В метаданных указано назначение image-text-to-text, однако сведения о поддерживаемых языках, точном размере контекста, визуальном модуле и фактических мультимодальных возможностях отсутствуют. Сильными сторонами являются локальный запуск, совместимость с экосистемой GGUF и llama.cpp, а также компромисс между качеством и требованиями к ресурсам. Ограничения связаны с потерями качества, возможными для квантизированной версии, потребностью подобрать параметры потоков и контекста под конкретное оборудование и отсутствием подробных данных о производительности. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V7-GGUF — мультимодальная модель в формате GGUF, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В модель также перенесены данные дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на датасете NousResearch/hermes-function-calling-v1, ориентированном на Hermes-агентов и вызов функций. Модель относится к семейству Qwen3.6, использует архитектуру Mixture-of-Experts с заявленным общим размером 35B и примерно 3B активных параметров, а также поддерживает обработку текста и изображений. В карточке указаны английский, китайский и многоязычный режимы работы, однако точный размер контекстного окна не приведён. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев, вызова функций, ролевых и творческих задач, а также задач image-text-to-text. Основной заявленный акцент — отсутствие встроенных отказов и улучшение стабильности, ясности контекста и следования инструкциям с помощью метода Genesis, который, по описанию автора, выполняет численную коррекцию тензоров GGUF без переобучения. Эти заявления не подтверждены независимыми результатами оценки, поэтому качество, устойчивость и фактическая степень «uncensored» зависят от сценария использования. Для запуска требуются совместимые GGUF-инструменты и настройка распределения MoE-весов между GPU и CPU; автор приводит рекомендации для RTX 3060 с 12 ГБ видеопамяти, включая использование F16 для K/V cache и ограничение числа активных экспертов. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Opus-Distill-v2-GGUF — семейство GGUF-квантизаций модели barozp/Qwen3.8-27B-Opus-Distill-v2, разработанной сообществом на базе Qwen/Qwen3.8-27B. Это плотная модель на 27 млрд параметров с гибридной архитектурой Gated-DeltaNet и full-attention, 64 слоями, поддержкой текста и изображений или видео через отдельный vision-модуль mmproj. Модель предназначена для диалогов, генерации текста и решения задач, требующих рассуждений; исходная модель дообучена методом LoRA на 11 716 проверенных примерах рассуждений, связанных с Opus. Главное назначение версии v2 — исправление дефекта v1, при котором некоторые сочетания ограничений формата могли запускать бесконечный цикл самопроверки без видимого вывода. По данным README, новая версия корректно завершается на проверенных тестах и показывает заметный прирост относительно базовой модели в ARC Challenge и GPQA Diamond, при сопоставимых результатах на MMLU и wikitext. Доступны варианты от BF16 и Q8_0 до экстремально низкобитных IQ-квантизаций; Q4_K_M указан как сбалансированный вариант, а выбор зависит от объёма доступной видеопамяти. IQ-квантизации требуют imatrix и актуальной поддержки llama.cpp. Модель может использоваться в llama.cpp в текстовом режиме, а для мультимодального ввода требуется отдельный vision-файл mmproj. Поддержка языков и размер контекстного окна в README не указаны. К ограничениям относятся потери качества при низкобитной квантизации, повышенные требования к памяти для старших вариантов и необходимость отдельного vision-модуля для изображений и видео. Указанная лицензия — Apache-2.0.

Карточка модели Rasputin312/qwen3-8B-finetune на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Карточка модели KcAaa/Qwen3-Embedding-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-8B, поэтому описание составлено по ней. Qwen3-Embedding-8B — текстовая модель эмбеддингов семейства Qwen3, разработанная командой Qwen. Это плотная архитектура Qwen3ForCausalLM с 7,6 млрд параметров, дообученная на базе Qwen/Qwen3-8B-Base для получения векторных представлений текста. Модель предназначена для семантического поиска и ранжирования, а также поддерживает классификацию, кластеризацию, поиск по коду и межъязыковой поиск. Модель поддерживает более 100 естественных и программных языков, обрабатывает длинные последовательности с контекстом до 40 960 токенов по метаданным и выдаёт эмбеддинги размерностью до 4096; README также сообщает о настройке выходной размерности от 32 до 4096. Можно задавать инструкции для конкретной задачи, языка или сценария. Модель рассчитана на получение векторов из текста; метаданные также отмечают возможности чата и интерфейс вызова инструментов, но основной сценарий этой версии — эмбеддинги. По данным карточки, версия 8B заняла первое место в мультиязычном рейтинге MTEB на 5 июня 2025 года с результатом 70,58. Для некоторых задач retrieval README отмечает снижение качества примерно на 1–5% без подходящей инструкции. Для работы с поддержкой Qwen3 требуется Transformers 4.51.0 или новее. Лицензия — Apache-2.0.

Qwen3-VL-32B-Abliterated-xCloud-GGUF — мультимодальная vision-language модель, разработанная xCloudinfo (云硕科技) на основе Qwen/Qwen3-VL-32B-Instruct. Модель предназначена для задач понимания и генерации текста по текстовым и визуальным входным данным, включая анализ изображений, исследовательские и академические сценарии, контент-модерацию, легальные исследования информационной безопасности и red team-тестирование. Модель распространяется в формате GGUF с вариантами квантования Q4_K_M, Q5_K_M, Q6_K и Q8_0; размер файлов составляет примерно от 19,8 до 34,8 ГБ. Для работы с изображениями требуется отдельный визуальный проектор mmproj в формате F16 размером около 1,2 ГБ. Поддерживаются китайский и английский языки; отдельно заявлено сохранение качества вывода на традиционном китайском. Контекст модели в README не указан. Ключевая особенность — abliteration: без дополнительного обучения из весов удаляется направление, связанное с чрезмерными отказами, методом ортогонализации, основанным на работе Arditi et al. (2024). В заявленном тесте из 10 опасных запросов доля отказов снизилась примерно с 10/10 у исходной модели до 1/10 у версии Q4_K_M, при сохранении обычных задач и визуального понимания. Это не означает полного удаления механизмов безопасности; модель может быть менее склонна к отказам и требует ответственного применения. Её фактические ограничения, включая возможные ошибки, унаследованы от базовой Qwen3-VL, а мировоззренческие и ценностные особенности не изменялись. Модель лицензирована по Apache-2.0. README ограничивает её использование законными и ответственными сценариями и возлагает юридическую и этическую ответственность за применение на пользователя.

R1 1776 — языковая модель рассуждений семейства DeepSeek-R1, дообученная Perplexity AI для ответов на чувствительные темы с уменьшенным влиянием цензурных ограничений. Модель предназначена для диалогов, ответов на вопросы и задач, требующих пошагового рассуждения, включая математику. По данным карточки, при дообучении сохранялись способности к рассуждению; README сообщает о результатах на нескольких бенчмарках на уровне базовой R1. Это плотная авторегрессионная модель DeepSeek V3 с 37,6 млрд параметров и контекстом до 163 840 токенов. Она принимает текст и генерирует текст; в метаданных указана поддержка английского языка и интерфейс для вызова инструментов. Модель распространяется в формате Safetensors по лицензии MIT. Оценки устойчивости к цензурным отказам и сохранения математических способностей приведены разработчиком; результаты могут зависеть от запросов и условий оценки. Снижение цензурных ограничений не гарантирует точности ответов и не исключает ошибок или вредного содержания.

Spark-X2.5-1.7B-Abliterated-GGUF — набор GGUF-квантов модели Spark-X2.5-1.7B, разработанный сообществом darioooooo0o на основе XHToken/Spark-X2.5-1.7B. Модель предназначена для генерации текста и рассуждений, включая многоязычные сценарии и агентское использование с инструментами. Основное изменение — однократная rank-1-абляция направления отказа методом heretic, выполненная на сбалансированной многоязычной выборке из 6292 запросов; это существенно снизило склонность модели к отказам и предисловиям о соблюдении ограничений. Доступны варианты Q8_0 размером около 1,8 ГБ, Q6_K около 1,4 ГБ, Q4_K_M около 1,0 ГБ и IQ4_XS около 0,9 ГБ. Для работы требуется совместимая версия llama.cpp с архитектурой spark2_5; README рекомендует F16 KV-кэш и задаваемый лимит рассуждений, поскольку типичная длина скрытого рассуждения превышает 1500 токенов, а отдельные цепочки превышают 4000 токенов. Размер контекста указан в инструкции запуска как 65536 токенов, максимальная длина вывода — 4096 токенов. Точные сведения об архитектуре базовой модели, языковом покрытии и исходном контекстном окне вынесены в отдельную карточку и здесь не приведены. По заявленным проверкам, на закрытых наборах после аудита модель не демонстрировала реальных отказов в ответах, сохранив результат 5 из 6 эффективных задач агентского использования. Ограничением стала небольшая потеря качества по perplexity: ухудшение относительно базовой модели составило 2,3%. Кроме того, абляция направлена на снятие отказов, поэтому поведение и защитные ограничения базовой модели не следует считать сохранёнными. Распространение указано по лицензии Apache-2.0.

StrangeMerges_42-7B-dare_ties — объединённая языковая модель на архитектуре Mistral, созданная Gille с помощью LazyMergekit. Веса объединяют rwitz/experiment26-truthy-iter-0, Kukedlc/Neural4gsm8k и Gille/StrangeMerges_30-7B-slerp методом dare_ties; в репозитории указаны веса Safetensors в формате bfloat16. Модель предназначена для генерации текста и может применяться для диалоговых ответов и решения задач на рассуждение, включая математические вопросы. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Указана лицензия Apache-2.0.