I.6Перевод и языковая адаптация

Typhoon2-DeepSeek-R1-70B — тайская языковая модель для диалогов и рассуждений, разработанная Typhoon. Это плотная decoder-only модель на архитектуре Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она создана слиянием DeepSeek-R1-Distill-Llama-70B и Typhoon2 70B Instruct с SFT; использует шаблон чата DeepSeek R1 Distill, а не Llama 3. Модель предназначена для ответов на инструкции и сложные вопросы, рассуждений, математики и программирования. README отмечает сильные результаты на тайском языке и сопоставимые с DeepSeek R1 Distill способности к рассуждению; основной язык — тайский, также поддерживается английский. Репозиторий использует Transformers и формат safetensors. Лицензия — Llama 3.1 Community License. Это исследовательская предварительная версия в разработке. Ответы могут быть неточными, предвзятыми или нежелательными; авторы не рекомендуют полагаться на встроенный интерфейс вызова инструментов.

MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp-GGUF — набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Модель предназначена для генерации текста и может использоваться в локальных приложениях, чат-интерфейсах и системах, поддерживающих GGUF, включая llama.cpp, text-generation-webui, LM Studio, GPT4All, KoboldCpp и llama-cpp-python. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Точные размер модели, архитектура исходной модели, максимальная длина контекста и поддерживаемые языки в README не указаны. Формат ориентирован на эффективный запуск, в том числе с GPU-ускорением, однако квантование может влиять на качество по сравнению с полноразмерной версией. Модель распространяется по лицензии Apache-2.0.

JANGQ-AI/MiniMax-M2.7-JANG_3L — квантованная версия MiniMax M2.7 от Jinho Jang (JANGQ), подготовленная для запуска на компьютерах Mac с Apple Silicon через MLX. Это языковая MoE-модель для диалогов, генерации текста, рассуждений и работы с инструментами. Исходная модель MiniMaxAI/MiniMax-M2.7 содержит 228,7 млрд параметров; в этой сборке применена смешанная точность со средним размером около 3,08 бита и объёмом около 89 ГБ. Внимание и выходной слой сохранены в 8-битной точности, эмбеддинги — в 4-битной, а большая часть экспертных MLP-слоёв сжата до 3 бит; маршрутизатор экспертов хранится в float16. Метаданные каталога указывают 2,9 млрд параметров, поэтому размер модели в них расходится с описанием исходной модели в README. Модель предназначена для локального диалогового использования, сложных рассуждений и сценариев с вызовом инструментов. Она поддерживает контекст до 196 608 токенов и использует режим рассуждений перед ответом. README приводит результаты MMLU для профиля JANG_3L: 191 из 200 вопросов (95,5%), однако это оценка автора карточки, а результаты сравнения с исходной моделью отдельно не представлены. Для запуска требуются Mac с Apple Silicon и не менее 128 ГБ объединённой памяти; рекомендуется MLX Studio с загрузчиком JANG, поскольку стандартный mlx_lm не поддерживает эту смешанную точность. Автор указывает, что температура должна быть 1,0: жадная генерация и температура 0 могут привести к бесконечным циклам рассуждений. Лицензия MiniMax M2.7 запрещает коммерческое использование без предварительного письменного разрешения MiniMax.

JANGQ-AI/MiniMax-M2.7-JANGTQ — это квантизированная версия MiniMax-M2.7, разработанная JANGQ-AI на базе архитектуры MiniMax M2 от MiniMaxAI. Модель предназначена для генерации текста, диалоговых сценариев, задач рассуждения и работы с инструментами. Она ориентирована на запуск в MLX и vMLX на компьютерах Apple Silicon, включая M3 Max с 96 ГБ памяти и более новые M4 Max, M5 Max и Mac Studio с 128 ГБ памяти. Модель использует архитектуру MoE с 62 слоями, 256 маршрутизируемыми экспертами и выбором 8 экспертов на токен. Заявленный контекст составляет 196K токенов. Размер сборки на диске — около 47 ГБ вместо примерно 230 ГБ у исходной FP8-версии. Маршрутизируемые экспертные веса сжаты до 2 бит методом JANGTQ2, а attention, общие экспертные компоненты, эмбеддинги и lm_head используют 8-битное аффинное квантование; нормализации и маршрутизатор частично сохранены в исходной точности. Поддерживаются reasoning через парсер qwen3 и вызовы инструментов через парсер minimax; режим рассуждения включён по умолчанию и может быть отключён. К сильным сторонам относятся существенное уменьшение размера, предварительно собранная структура экспертных весов, быстрая загрузка без дополнительной перестановки и заявленная идентичная скорость декодирования по сравнению с предыдущей раскладкой. Ограничения связаны с узкой совместимостью с MLX/vMLX и требованием значительного объёма объединённой памяти Apple Silicon. Язык модели, точные показатели качества и полный набор поддерживаемых языков в README не указаны. Лицензия — minimax-m2.7-non-commercial; сборка предназначена для некоммерческого использования.

cloudyu/mistral_28B_instruct_v0.2 — плотная языковая модель на архитектуре Mistral с 28 млрд параметров и контекстом до 32 768 токенов. В README указано, что модель имеет 128 слоёв и была обучена методом DPO на наборе Intel/orca_dpo_pairs; заявленный шаблон использует инструкцию, входные данные и ответ. Модель предназначена для диалоговой генерации текста и выполнения инструкций в текстовом формате. Её можно применять для ответов на вопросы, составления текстов и интерактивных чат-сценариев. Карточка не указывает поддерживаемые естественные языки и конкретные предметные области. Репозиторий содержит веса в формате safetensors. Лицензия — CC BY 4.0. README не приводит оценок качества или подробных сведений о рекомендуемых аппаратных требованиях; указанное число слоёв не подтверждено метаданными.

wang7776/Mistral-7B-Instruct-v0.2-sparsity-30-v0.1 — разреженная версия чат-модели Mistral-7B-Instruct-v0.2, созданная методом Wanda с целевой разреженностью 30%. В карточке сказано, что pruning выполнен без дообучения и изменения весов. Модель основана на Mistral-7B-Instruct-v0.2; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Репозиторий содержит веса Safetensors; в метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов по инструкциям, подаваемым в формате Mistral с маркерами [INST] и [/INST]. Она принимает текст и генерирует текст. Карточка не задаёт основной язык модели. Лицензия — Apache-2.0. По заявлению карточки, разреживание сохраняет конкурентоспособное качество, но конкретные результаты оценки не приведены. У модели нет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации.

Mistral-7B-ReMax-v0.1 — языковая модель Ziniu Li на архитектуре Mistral, дообученная методом RLHF с алгоритмом ReMax на базе Mistral-7B-Instruct-v0.2. Она предназначена для диалогов и генерации ответов на инструкции; формат запросов использует токены [INST] и [/INST]. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Карточка описывает обучение на 10 тысячах запросов из lmsys-chat-1m без использования ответов этого набора и приводит результаты сравнительных оценок на Chat1M и AlpacaEval. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Качество и ограничения унаследованы от Mistral-7B-Instruct-v0.2; в частности, у модели нет встроенных механизмов модерации. Приведённые в карточке оценки основаны на конкретных тестовых наборах и не гарантируют качество во всех сценариях.

Mistral-Instruct-Ukrainian-SFT — языковая модель Radu Chivereanu, полученная supervised fine-tuning модели Mistral-7B-Instruct-v0.2 на украиноязычных наборах данных. Она предназначена для диалогов и выполнения инструкций на украинском языке, включая ответы на вопросы, задания по чтению и пониманию текста, а также вопросы и ответы по тематике программирования. Модель содержит 7,1 млрд параметров; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Контекст составляет до 32 768 токенов. Для запросов используется формат инструкций с токенами [INST] и [/INST], также доступен chat template Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты нескольких бенчмарков, но они не гарантируют качество на других задачах и данных.

Mistral-T5-7B-v1-Mistral-7B-Instruct-v0.1 — слитая чат-модель на архитектуре Mistral, созданная объединением Mistral-7B-Instruct-v0.1 и Mistral-T5-7B-v1 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; заявленный контекст составляет 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста по запросу. В README описаны смешивание слоёв внимания и MLP и формат bfloat16; в репозитории веса представлены в safetensors. Лицензия — Apache-2.0. README и метаданные не сообщают о языковом охвате и оценках качества, поэтому результаты для конкретных языков и задач требуют проверки.

Карточка модели OpenMOSS-Team/moss-moon-003-sft-plugin на Hugging Face совпадает с карточкой OpenMOSS-Team/moss-moon-003-sft, поэтому описание составлено по ней. MOSS-moon-003-sft — языковая модель с 16 млрд параметров, разработанная командой OpenMOSS-Team. Она основана на CodeGen и предварительно обучена на китайских, английских и программных токенах, после чего дообучена с учителем на примерно 1,1 млн многоходовых диалогов. Модель предназначена для диалогов с пользователем, следования инструкциям в нескольких репликах и отказа на неподходящие запросы. Модель принимает текст и генерирует текст; карточка указывает поддержку английского и китайского языков и контекст до 2048 токенов. Её можно применять для ответов на вопросы, простых математических задач, помощи с кодом и китайскоязычных диалогов. Описанные требования к запуску составляют 31 ГБ видеопамяти для загрузки в FP16 и больше при генерации; доступны варианты MOSS в INT8 и INT4, но этот репозиторий содержит веса PyTorch. Модель может выдавать неверную, вводящую в заблуждение или предвзятую информацию, поэтому ответы следует проверять. Лицензия — AGPL-3.0.

CompiwerAI/Mtrini-27B-Tellus-IQ2_XS — квантованная сборка IQ2_XS модели Mtrini-27B-Tellus в формате GGUF для запуска через llama.cpp. В README указана архитектура qwen35: 64 блока трансформера, размер эмбеддингов 5120, 24 головы внимания и 4 KV-головы. Файл весит около 8,47 ГиБ; квантование выполнено из F16 GGUF с использованием матрицы важности, построенной на калибровочных данных. Модель предназначена для диалоговой генерации текста, включая задачи программирования, математики и рассуждений; соответствующие специализации отражены в тегах карточки. Также заявлена поддержка арабского языка и дариджи. Квантование до примерно 2,31 бита на вес уменьшает требования к памяти, но может снижать точность и качество ответов по сравнению с исходной моделью. Лицензия — Apache-2.0.

OmniBeagleSquaredMBX-v3-7B-v2 — языковая модель для генерации текста, созданная PaulML путём слияния моделей paulml/OmniBeagleMBX-v3-7B и flemmingmiguel/MBX-7B-v3 с помощью LazyMergekit. Для объединения использован метод SLERP с отдельными параметрами смешивания для слоёв self-attention и MLP. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Карточка не приводит сведений о специализации по языкам или предметным областям. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не описывает отдельные оценки качества или известные технические ограничения.

openchat_3.5-16k-Mistral-7B-Instruct-v0.1 — разговорная модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.1 и NurtureAI/openchat_3.5-16k методом SLERP. Она предназначена для генерации ответов на инструкции и ведения диалогов. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, основная возможность — чат. Модель принимает текстовые запросы и выдаёт текстовые ответы. Она подходит для чат-ботов, помощников и сценариев, где нужно обсуждать темы или отвечать на вопросы в рамках длинного контекста. Использует лицензию Apache-2.0.

LuffyTheFox/Ornith1.5-35B-A3B-Genesis-Hermes-GGUF — экспериментальная мультимодальная модель в формате GGUF, созданная на основе Ornith-1.5-35B-A3B от ornith-ai. В её основу также перенесены данные из Hermes-файнтюна DJLougen/hermes-qwen3.5-35b-a3b-GGUF, ориентированного на агентские сценарии и вызов функций. Релиз относится к проекту Genesis, автор которого заявляет о посттренировочной численной обработке весов без дополнительного обучения; эти заявления не подтверждены независимыми оценками в представленном описании. Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, а также для диалогов, программирования, агентских задач и function calling. Заявлены поддержка английского и китайского языков, а также многоязычность. Архитектура — Mixture of Experts с общим размером около 35 млрд параметров и примерно 3 млрд активных параметров; точный размер контекста в README не указан. К потенциальным сильным сторонам относятся мультимодальность, MoE-архитектура и ориентация на следование инструкциям и агентские рабочие процессы. Модель экспериментальная, а заявленные улучшения стабильности, снижения шумов и качества не сопровождаются результатами бенчмарков, поэтому фактическую производительность следует проверять самостоятельно. Для запуска рекомендуется использовать совместимый GGUF-движок; README также содержит настройки для GPU-offload, MoE и KV-кэша. Указана лицензия MIT.

Ornith-1.5-35B-A3B-Huihui-Sangreal-MTP-ICE-GGUF — квантованная GGUF-версия модели Ornith-1.5-35B-A3B, разработанной Ornith AI и представленной в аблитерированной редакции huihui-ai. Релиз gbuzhf использует калибровочный корпус Sangreal, шаблон чата Qwen-Sharp от peculiar-ragdoll и встроенную обученную MTPv2-голову для speculative decoding. Модель относится к архитектуре MoE с общим размером 35B и примерно 3B активных параметров; заявлены английский и китайский языки, задача — генерация текста, включая диалоговые и программные сценарии. Размер контекста в README не указан. Доступно пять уровней ICE-квантизации размером от 14,79 до 24,85 ГБ. Вариант 15G-ICE рассчитан на видеокарты с 16 ГБ памяти, версии 19G–23G — преимущественно на конфигурации с 24–32 ГБ, а 25G-ICE предназначен для 32 ГБ и ближе всего к исходной точности BF16. Измерения показывают высокое сохранение качества на английском тексте и коде, особенно у старших вариантов; младшие уровни экономят память, но сильнее отклоняются от BF16. Модель помечена как uncensored: в весах подавлено поведение отказа, поэтому она не предоставляет встроенного защитного барьера и требует изолированного запуска с ограничением доступа к операционной системе, сети и выполнению кода. Условия использования определены лицензией MIT.

PaddleOCR-VL-1.6 GGUF — мультимодальная модель для преобразования изображений и текста в текст, предназначенная прежде всего для интеллектуального распознавания и разбора документов. Модель разработана командой PaddlePaddle как развитие PaddleOCR-VL-1.5 и ориентирована на OCR, извлечение структуры документа, анализ макета, таблиц, формул, графиков, печатей и обнаружение отдельных элементов на изображении. В репозитории представлена GGUF-версия модели, сгенерированная с использованием llama.cpp. В README не указаны точный размер модели, архитектура, длина контекста и конкретные параметры квантования. Заявлена поддержка английского, китайского и других многоязычных сценариев. Модель может быть полезна для автоматической обработки сканированных документов, счетов, отчетов и других визуально сложных материалов, где требуется не только распознать текст, но и сохранить сведения о структуре и расположении элементов. К сильным сторонам относятся мультимодальный анализ документов и широкий набор поддерживаемых типов содержимого. Ограничения и результаты сравнительных тестов в карточке не приведены, поэтому качество на конкретных языках, форматах документов и аппаратных конфигурациях следует проверять отдельно. Модель распространяется по лицензии Apache-2.0.

bunnycore/Phi-4-Model-Stock-v3 — объединённая языковая модель, созданная разработчиком с помощью mergekit и метода Model Stock. В объединение вошли Pinkstack/SuperThoughts-CoT-14B-16k-o1-QwQ, bunnycore/Phi-4-rp-v1-lora и bunnycore/Phi-4-Model-Stock-v2; базой в README названа SuperThoughts-CoT-14B-16k-o1-QwQ. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 14,1 млрд параметров. Модель предназначена для генерации текста и диалогов в формате system/user/assistant. Контекст составляет до 16 384 токенов; файлы представлены в формате safetensors и рассчитаны на работу с Transformers. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Лицензия в доступных данных не указана. Оценки из README не гарантируют качество в конкретных задачах; перед применением стоит проверить ответы и совместимость объединённых компонентов.

Pix2Struct Large — предварительно обученная модель Google для визуального понимания языка. Это архитектура «визуальный энкодер — текстовый декодер», обученная преобразовывать изображения в текст. Для обучения модель разбирала замаскированные снимки веб-страниц в упрощённый HTML; такой подход объединяет сигналы распознавания текста, языкового моделирования и описания изображений. Модель предназначена для дообучения под задачи, где текст связан с визуальным содержимым: например, для создания подписей к изображениям и ответов на вопросы по изображению. В статье описаны сценарии работы с документами, иллюстрациями, пользовательскими интерфейсами и обычными фотографиями; вход может иметь переменное разрешение, а текстовый запрос можно наложить на изображение. В метаданных указана поддержка английского, французского, румынского и немецкого языков. Модель опубликована в форматах PyTorch и Safetensors. Это базовый предобученный чекпойнт, который README рекомендует использовать для дообучения, поэтому готовое качество на конкретной прикладной задаче зависит от дополнительной настройки. Лицензия — Apache-2.0.

CultriX/Qwen2.5-14B-Brocav3 — объединённая языковая модель на основе семейства Qwen2.5, созданная CultriX с помощью mergekit. В качестве базовой модели использована CultriX/Qwen2.5-14B-Wernickev3; при объединении также задействованы математические, диалоговые и другие варианты Qwen2.5-14B. Для слияния применён метод della_linear. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, составления текстов и математических запросов. Размер модели — 14 млрд параметров, архитектура — плотная Qwen2ForCausalLM; заявленная длина контекста составляет до 131 072 токенов. Модель работает через библиотеку Transformers и распространяется в формате safetensors. Карточка не описывает отдельные результаты оценки качества или специальные ограничения поведения. Лицензия в предоставленных данных не указана.

TheRains/Qwen2.5-32B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-32B-Instruct, разработанной командой Qwen. Модель преобразована в формат GGUF с использованием llama.cpp и предназначена для локального запуска через llama.cpp в задачах генерации текста и диалогового взаимодействия. Модель имеет 32 миллиарда параметров в варианте квантизации Q4_K_M. В карточке указана поддержка английского языка и текстовая модальность; сведения о размере контекстного окна и других языках отсутствуют. Модель можно использовать через llama-cli или llama-server, в том числе на совместимом CPU и GPU-оборудовании при соответствующей сборке llama.cpp. Основные преимущества — локальное выполнение, совместимость с экосистемой llama.cpp и уменьшенные требования к памяти по сравнению с полноразмерной версией. Ограничения связаны с квантизацией, а также с отсутствием в карточке подробных данных о качестве, производительности и поддерживаемых сценариях. Лицензия — Apache-2.0.

bunnycore/Qwen2.5-3B-Model-Stock — объединённая авторами bunnycore модель генерации текста, созданная методом Model Stock с помощью mergekit. В качестве основы использована Qwen/Qwen2.5-3B-Instruct, а в слияние также вошли huihui-ai/SmallThinker-3B-Preview-abliterated и bunnycore/Qwen2.5-3B-RP-Mix. Модель относится к плотной архитектуре Qwen2 и содержит 3,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим; указанный нативный контекст — 32 768 токенов. Репозиторий использует Transformers и формат safetensors. Карточка не сообщает лицензию или специальные ограничения применения.

Thamed-Chowdhury/qwen-2.5-7B-DPO-split1-16bit-chunk34 — дообученная диалоговая модель семейства Qwen2, разработанная Thamed-Chowdhury на основе Thamed-Chowdhury/qwen-2.5-7B-DPO-split1-16bit-chunk12. Модель с архитектурой Qwen2ForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста в диалогах; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке заявлено обучение с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0. Подтверждённый язык карточки — английский.

Theros/Qwen2.5-ColdBrew-R1-test4 — объединённая авторами модель генерации текста на архитектуре Qwen2, созданная с помощью mergekit методом SLERP из Theros/Qwen2.5-ColdBrew-R1-test2 и bunnycore/Qwen-2.5-7B-Stock-Deep-Bespoke-v2. Она предназначена для диалогов и генерации текста; в метаданных также указана возможность chat. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст. Родной контекст составляет 131 072 токена. Репозиторий использует формат safetensors, библиотека — Transformers. В карточке не указаны специальные отраслевые сценарии или перечень поддерживаемых естественных языков. Лицензия в предоставленных данных не приведена.

Qwen2.5-VL-7B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2.5-VL, разработанная командой Qwen. Представленная версия распространяется в формате GGUF и квантизирована bartowski на базе llama.cpp. Размер модели — 7B параметров, лицензия — Apache 2.0. Модель предназначена для задач image-text-to-text: анализа изображений и текста, ответов на вопросы по визуальному содержимому, распознавания объектов, работы с текстами, таблицами, диаграммами, иконками, графикой и макетами. Она также рассчитана на сценарии визуального агента, включая рассуждение и динамическое управление инструментами, компьютером или телефоном, а также на генерацию структурированных данных и стабильных JSON-ответов. Заявлена поддержка нескольких языков, однако их точный перечень в README не указан. Ключевая характеристика модели — контекст длиной до 128 тысяч токенов. Сильными сторонами являются мультимодальный анализ сложных визуальных материалов, работа со структурированным выводом и применение в агентских сценариях. README не содержит результатов benchmark-тестов, подробностей архитектуры, информации о конкретном варианте квантизации, системных требованиях и количественной оценке ограничений, поэтому фактическое качество и требования к ресурсам следует проверять отдельно.

NVIDIA Qwen3-235B-A22B-NVFP4 — квантованная версия авторегрессионной языковой модели Qwen3-235B-A22B от Alibaba, подготовленная NVIDIA с помощью TensorRT Model Optimizer. Это разреженная модель архитектуры Qwen3 MoE с общим числом 18,2 млрд параметров; веса и активации линейных операторов в блоках трансформера представлены в FP4. По данным карточки, такая оптимизация уменьшает требования к диску и видеопамяти примерно в 3,3 раза относительно 16-битного варианта. Модель принимает текст и генерирует текст. Она предназначена для развертывания в чат-ботах, агентных системах, приложениях RAG и других приложениях на базе ИИ; каталог также указывает интерфейс для вызова инструментов. Метаданные задают нативный контекст в 40 960 токенов, тогда как README заявляет до 131K токенов. Предпочтительная среда запуска — TensorRT-LLM на GPU NVIDIA Blackwell под Linux. Квантованный вариант рассчитан на более компактный и быстрый инференс, но доступные сведения не позволяют оценить возможные потери качества для конкретных задач. README не раскрывает обучающие данные и указывает автоматическую калибровку на CNN/DailyMail. Лицензия — Apache-2.0; карточка заявляет возможность коммерческого и некоммерческого использования.

unsloth/Qwen3.5-0.8B — постобученная компактная мультимодальная модель от Unsloth на базе Qwen/Qwen3.5-0.8B, опубликованная в формате Transformers и распространяемая по лицензии Apache-2.0. Это плотная причинная языковая модель с визуальным энкодером, поддерживающая диалог и анализ изображений; доступны интерфейс вызова инструментов и режим рассуждений, который для версии 0.8B по умолчанию выключен. Модель содержит 0,8 млрд параметров, имеет 24 слоя и нативный контекст длиной до 262 144 токенов. Архитектура сочетает Gated Delta Networks и gated attention. В карточке заявлена поддержка 201 языка и диалекта. Модель рассчитана прежде всего на прототипирование, дообучение под конкретные задачи, исследования и разработку; веса совместимы с Transformers и рядом серверных движков, включая vLLM и SGLang. Компактный размер удобен для экспериментов и специализированной настройки, а мультимодальная архитектура позволяет работать с текстом и изображениями. Масштаб модели ограничивает её возможности по сравнению с более крупными системами; для длинного контекста нужны значительные ресурсы памяти, а карточка рекомендует при нехватке памяти уменьшить окно контекста.

Qwen3.5-9B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING-MAX-NEOCODE-Imatrix-GGUF — GGUF-квантизированная доработанная версия плотной модели Qwen3.5-9B, разработанная DavidAU. Модель дообучена с использованием Unsloth на наборах данных Claude-4.6-OS и дополнена матрицами DI-MATRIX на основе наборов NEO и NEO-CODE, улучшениями тензоров Unsloth и пользовательским шаблоном Jinja для стабилизации работы и снижения избыточного «обдумывания». Лицензия — Apache-2.0. Модель предназначена для широкого спектра текстовых задач, включая рассуждения, генерацию и продолжение художественных текстов, создание сюжетов и подсюжетов, ролевые сценарии, диалоги и работу с различными жанрами. Заявлена поддержка английского и китайского языков. Модель позиционируется как uncensored и heretic-вариант с существенно сниженным числом отказов; при этом для получения особенно грубого или откровенного стиля иногда требуются дополнительные указания в запросе. Контекст по умолчанию заявлен до 256K токенов. Поддержка изображений протестирована и заявлена как рабочая, но для неё требуется отдельный файл mmproj, размещённый вместе с GGUF; видеовозможности не тестировались. В README приведены результаты тестов на ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, где версия показывает более высокие значения, чем указанная базовая версия Qwen3.5-9B в режиме thinking, однако результаты зависят от квантизации и настроек запуска. Для работы рекомендуется использовать совместимый рантайм GGUF; автор также указывает специальные параметры сглаживания и рекомендуемые варианты квантизации, поэтому итоговое качество и поведение зависят от программного окружения.

Joseph717171/SOLAR-19.2B-Instruct-v1.0 — разговорная языковая модель, созданная слиянием моделей через mergekit. В карточке она описана как увеличенная версия SOLAR-10.7B-Instruct-v1.0 с чередованием слоёв; метаданные указывают архитектуру LlamaForCausalLM и около 18,5 млрд параметров. Модель принимает текстовые запросы и генерирует текст, а её контекст составляет 4096 токенов. Модель предназначена для диалогов и ответов на инструкции, а также как основа для дальнейшего дообучения или замена исходной версии SOLAR 10.7B. Для обучения использовались наборы Alpaca-GPT4, OpenOrca, Orca DPO и UltraFeedback; карточка также упоминает SFT и DPO. Заявленная лицензия — CC; конкретный вариант лицензии в предоставленных данных не уточнён.

SphinxMind-14B — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В качестве базовой указана shuttleai/shuttle-3-mini; также в объединении участвовала EVA-UNIT-01/EVA-Qwen2.5-14B-v0.2. Модель предназначена для генерации текста и диалогового общения. Размер составляет 14 млрд параметров, максимальный контекст — 65 536 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о конкретных языках, лицензии и специальных ограничениях в предоставленных данных отсутствуют.

Vintern-1B-v3.5-BF16-GGUF — конверсия визуально-языковой модели Vintern-1B-v3_5 от сообщества; исходная модель и обучение принадлежат 5CD-AI. Репозиторий содержит GGUF-файлы языковой модели и визуального проектора, а также шаблон диалога. Это BF16-конверсия без низкобитной квантизации; часть тензоров сохранена в F32. Базовая модель основана на InternVL2.5-1B. Модель принимает изображения и текст и предназначена для OCR, извлечения данных из документов и ответов на вопросы по их содержимому. В исходной карточке указаны вьетнамский, английский и китайский языки. Для описанной в README конфигурации используется разбиение изображения на тайлы размером 448 пикселей с максимумом 12 динамических патчей. Конверсия исправляет метаданные EOS и перестраивает позиции визуального проектора под CLS-last компоновку конкретной версии llama.cpp. Проверенная совместимость указана только для llama.cpp commit c550d2f60bde72df19fcef1fef627895095b8ba8; для работы нужны оба GGUF-файла и шаблон. Лицензия исходной модели — MIT.