I.6Перевод и языковая адаптация

Ling-3.0-tiny-GGUF — лёгкая гибридная reasoning-модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI. Модель предназначена для генерации текста, решения задач, требующих рассуждений, и агентских сценариев, где важны широкие возможности при низкой стоимости инференса. Формат GGUF ориентирован на локальное и ресурсно-ограниченное развертывание. Модель содержит 7,9 млрд параметров, при этом для обработки каждого токена активируется около 1,3 млрд параметров, что снижает вычислительные затраты по сравнению с полным использованием всех параметров. README не сообщает поддерживаемые языки, размер контекстного окна, доступные модальности и конкретные ограничения качества. Модель распространяется по лицензии MIT.

TheBloke/Llama-2-7B-Chat-GPTQ — это квантизированная версия диалоговой языковой модели Llama 2 7B Chat, разработанной Meta, подготовленная TheBloke в формате GPTQ. Модель предназначена для генерации текста и ведения диалогов: ответов на вопросы, помощи пользователю и других сценариев, где требуется текстовый ассистент. Для работы рекомендуется использовать шаблон промпта Llama-2-Chat с системными инструкциями и пользовательским запросом. Модель основана на архитектуре Llama и содержит 7 миллиардов параметров. Она работает с текстом, поддерживает английский язык и рассчитана прежде всего на GPU-инференс. В репозитории доступны варианты с разными параметрами квантизации GPTQ, включая разрядность, размер групп, порядок активаций и другие настройки; конкретные варианты позволяют выбирать компромисс между требованиями к VRAM и точностью. Некоторые файлы совместимы с ExLlama, который поддерживает Llama-модели в 4-битном формате. К сильным сторонам относятся сниженные требования к памяти по сравнению с полноразмерной версией и наличие нескольких вариантов квантизации для различного оборудования. Ограничения связаны с потерями точности, возможными при квантизации, отсутствием мультимодальности и тем, что модель не предназначена для генерации фактически гарантированно достоверных ответов. Модель распространяется по лицензии Llama 2; её использование регулируется условиями лицензии Meta Llama 2.

LLaMa-3.1-Zeroed-30-70-13B — объединённая языковая модель семейства Llama, созданная сообществом mergekit-community методом линейного слияния двух моделей: LLaMa-3.1-Zeroed-13B с весом 0,3 и LLaMa-3.1-Instruct-Zeroed-13B с весом 0,7. Модель содержит 12,5 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогов по инструкциям; в метаданных также указана поддержка интерфейса вызова инструментов. Контекст составляет до 131 072 токенов. README не приводит дополнительных сведений о языках, качестве на конкретных задачах или условиях лицензии, поэтому их нельзя уточнить по предоставленным данным.

MaziyarPanahi/OpenHermes-2.5-neural-chat-v3-2-Slerp-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-v3-2-Slerp методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате диалога. Контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других задач генерации текста по запросу. Она распространяется под лицензией Apache-2.0. В README и метаданных не приведены отдельные результаты оценки качества или сведения о поддержке конкретных естественных языков.

Penjing-27B-Pollard — это квантизированная версия Qwen/Qwen3.8-27B, подготовленная PollardWeights с использованием метода Pollard Weights. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, ik_llama.cpp, Ollama и LM Studio. Указанная архитектура — qwen3_5, объём — около 27,3 млрд параметров. Поддерживаются текстовые и графические входы, а заявленный язык — английский. Модель рассчитана на диалоговые сценарии и мультимодальные задачи, включая работу с изображениями при использовании дополнительного vision-проектора mmproj-Penjing-27B-bf16.gguf. Доступно несколько вариантов квантизации с разным соотношением размера и качества: от IQ1_KT размером 6,53 ГБ до Q6_K размером 22,43 ГБ. Квантизация основана на измерении чувствительности отдельных слоёв и использует importance matrix; это позволяет эффективнее распределять биты по сравнению с равномерным сжатием. Главное преимущество модели — существенное уменьшение требований к памяти: вариант IQ1_KT примерно на 88% меньше исходной версии f16. При этом качество зависит от выбранного файла: по измерениям на wikitext2 вариант IQ2_KT показал perplexity 5,0817 и был обозначен как рекомендуемый вариант по умолчанию, тогда как IQ1_KT обеспечивает минимальный размер, но заметно сильнее отклоняется от f16. IQ1_KT и IQ2_KT требуют ik_llama.cpp; остальные варианты совместимы со стандартным llama.cpp. Результаты измерений получены на одной машине и могут не полностью отражать качество в прикладных задачах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Pyrhea-72B — объединённая языковая модель на основе Llama, созданная автором saucam с помощью Mergekit из davidkim205/Rhea-72b-v0.5 и abacusai/Smaug-72B-v0.1. Она предназначена для генерации текста, включая диалог и ответы на вопросы. Модель содержит 71 млрд параметров и поддерживает контекст длиной до 32 768 токенов. В объединении использован метод dare_ties с настройками весов 0,6 для Rhea и 0,4 для Smaug; указаны bf16 и int8-маска. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает конкретные языковые ограничения и результаты оценки качества.

OsaurusAI подготовила квантизированную сборку мультимодальной модели Qwen3.6-35B-A3B для запуска через MLX на устройствах Apple Silicon. Это MoE-модель с 35 млрд параметров, из которых около 3 млрд активны на каждом токене; архитектура включает 40 слоёв, сочетая Gated DeltaNet и полное внимание, а также 256 маршрутизируемых экспертов и одного общего эксперта. Модель принимает текст и изображения, поддерживает диалог и интерфейс вызова инструментов; базовая модель также поддерживает видео, но README отмечает ограничения основного пути MLX для видео. Сборка использует JANGTQ4 для весов маршрутизируемых экспертов и 8-битную аффинную квантизацию для ряда остальных компонентов; башня зрения сохранена. Для загрузки нужен собственный JANGTQ runtime и файл jangtq_runtime.safetensors, а стандартный загрузчик mlx_lm не поддерживает упакованные веса. Модель ориентирована на локальный инференс, включая диалоги, анализ изображений и агентные сценарии; для комфортного запуска README рекомендует Mac с 32 ГБ объединённой памяти. Лицензия — Apache-2.0. Заявленные в README бенчмарки относятся к исходной модели, а не к этой квантизированной сборке.

empero-ai/Qwen3.8-9B-Distill-GGUF — набор GGUF-квантизаций модели, разработанной Empero. Это дистилляция крупной Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B, предназначенная для генерации текста и запуска в llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и других совместимых средах. Указан английский язык; поддерживаемые модальности и размер контекста в карточке не уточняются. Модель имеет гибридную архитектуру Qwen3.5 с тремя слоями Gated DeltaNet на каждый слой полной attention-механики и ориентирована на reasoning-сценарии. В карточке приведены варианты от Q4_K_M размером 5,780 GB до BF16 размером 18,407 GB; рекомендуемым считается Q4_K_M как оптимальный баланс качества и объёма. Для работы требуется современная сборка llama.cpp с поддержкой Qwen3.5 и Gated DeltaNet. Модель использует встроенный шаблон чата и формирует рассуждения в блоках <think>, которые при необходимости следует удалять из пользовательского вывода. По заявленным оценкам исходной модели, дистилляция заметно улучшает результат на MMLU по сравнению с базовой Qwen3.5-9B, однако немного уступает ей на GSM8K. К ограничениям относятся необходимость совместимого рантайма, потребность в дополнительной памяти под KV-кэш при длинном контексте и отсутствие в этой карточке подробных бенчмарков и рекомендаций по применению. Веса распространяются по лицензии Apache-2.0.

SuperQwen3.8-abliterated-Venice-i1-GGUF — набор GGUF-квантизаций модели SuperQwen3.8-abliterated-100-fp8, разработанной Jiunsong и квантованной mradermacher. Модель предназначена для локального запуска задач генерации текста, рассуждений, работы с изображениями и текстом, вызова инструментов и сценариев с длинным контекстом. В карточке также указана поддержка английского и корейского языков. Это мультимодальная vision-модель с архитектурой и размером исходной модели, а также максимальной длиной контекста, не указанными в README. Доступны варианты i1-квантизации от i1-Q2_K размером около 11 ГБ до i1-Q6_K размером около 22,5 ГБ, включая IQ-квантизации. Разные варианты позволяют выбирать компромисс между размером, скоростью и качеством; для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. К сильным сторонам относятся мультимодальность, поддержка рассуждений, tool-calling, длинного контекста и широкий выбор квантизаций, включая варианты, оптимизированные по матрице важности. Ограничения — отсутствие в README точных сведений о характеристиках архитектуры, контекстном окне, производительности и качестве на тестах; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.

VICIOUS_MESH-12B-NEMO — текстовая генеративная модель на 12,1 млрд параметров, созданная автором репозитория методом слияния TIES с помощью mergekit. В качестве основы использована mistralai/Mistral-Nemo-Instruct-2407, а в слияние также вошла bamec66557/VICIOUS_MESH-12B-BETA. Модель построена на архитектуре MistralForCausalLM и предназначена для диалога и генерации текста по запросу; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. В README приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH, но они сами по себе не гарантируют качество на пользовательских задачах. Репозиторий распространяется по лицензии Apache-2.0. Языки отдельно не перечислены; языковые возможности унаследованы от базовой модели Mistral Nemo Instruct.

DeepSeek-V4-Flash-0731 GGUF — это набор GGUF-конвертаций и экспертно подобранных квантованных вариантов базовой модели DeepSeek-V4-Flash-0731, разработанной DeepSeek AI. Репозиторий подготовлен bullerwins для запуска через llama.cpp и предназначен для генерации текста, включая локальное инференс-развёртывание и агентские сценарии. Модель использует разреженную MoE-архитектуру с маршрутизируемыми экспертами. В репозитории доступны варианты размером от 81,86 до 150,75 GiB, а также компактный DSpark-компаньон размером 10,15 GiB для speculative decoding. Представлены lossless-вариант MXFP4/BF16, смешанные IQ2_XS/IQ3_XXS-квантизации и версии с IQ2_XS или IQ3_XXS для экспертов. Квантизации позволяют выбирать компромисс между размером и качеством: по тестам на Wikitext-2 lossless-вариант обеспечивает полное совпадение с эталоном, тогда как квантованные варианты показывают от 75,082% до 84,094% совпадения наиболее вероятного токена. Сильной стороной набора является широкий выбор практических вариантов, сохранение native MXFP4 для части экспертных тензоров и оценка качества по KLD и совпадению токенов. Ограничения — очень высокие требования к дисковому пространству и памяти, а также снижение качества у более компактных квантований. Сведения о поддерживаемых языках, размере контекста и подробных модальностях в предоставленной карточке отсутствуют. Указана лицензия MIT; для формата чата, архитектурных деталей и рекомендуемых параметров сэмплирования предлагается обращаться к карточке исходной модели. Рекомендуемые параметры: temperature 1.0, top_p 0.95 для агентских сценариев и top_p 1.0 в остальных случаях.

Dynin-Omni — мультимодальная модель семейства Dynin-Omni, разработанная авторами проекта Dynin-Omni и дообученная на основе Gen-Verse/MMaDA-8B-MixCoT. Это плотная модель примерно на 9,2 млрд параметров с архитектурой masked diffusion: она представляет текст, изображения, видео и речь дискретными токенами в общем словаре и генерирует ответы итеративным уточнением масок. Модель предназначена для диалога и рассуждений, понимания изображений и видео, генерации и редактирования изображений, распознавания речи и синтеза речи. Единая архитектура поддерживает преобразования между модальностями, включая видео в текст, речь в текст, текст в речь и текст в изображение. В README заявлены расширенный контекст, генерация речи длительностью до 21 секунды и режимы рассуждения с управлением глубиной. Модель можно запускать и обучать локально через Transformers; поддержка в vLLM-Omni заявлена для будущего выпуска версии 0.19.0. В карточке приведены результаты на тестах рассуждений, понимания изображений и видео, генерации изображений и распознавания речи. Эти значения зависят от используемого протокола оценки. Лицензия — MIT. Карточка указывает английский язык; языки для аудио и других мультимодальных задач отдельно не перечислены.

FuseQwQen-7B — объединённая разговорная языковая модель от bunnycore на архитектуре Qwen2. Она создана методом линейного слияния нескольких моделей, включая FuseChat-Qwen-2.5-7B-Instruct, QwQ-LCoT-7B-Instruct, cybertron-v4-qw7B-UNAMGS и модель с адаптером Persona. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Модель предназначена для диалога и генерации ответов, в том числе с опорой на инструкции и рассуждения. В карточке приведены результаты Open LLM Leaderboard, однако данных недостаточно, чтобы подтвердить конкретный уровень качества в отдельных сценариях. Использование предполагает библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

Gemma 2 27B — текстовая авторегрессионная языковая модель семейства Gemma, разработанного Google с использованием исследований и технологий, применявшихся при создании Gemini. Модель доступна с открытыми весами и предназначена для генерации текста; семейство Gemma включает предварительно обученные и настроенные для следования инструкциям варианты. В репозитории указаны формат safetensors и библиотека Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по чётко сформулированным запросам. В README заявлена поддержка английского языка; конкретные размер контекстного окна и число параметров здесь не приведены. Открытые веса позволяют запускать модель на собственном оборудовании или в облачной инфраструктуре. Ограничения включают возможные фактические ошибки, предвзятость, трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Gemma.

GOT-OCR 2.0 — модель оптического распознавания текста, разработанная авторами работы «General OCR Theory: Towards OCR-2.0 via a Unified End-to-end Model» и представленная здесь в реализации для Transformers. Она принимает изображения и преобразует их содержимое в текст; поддерживает распознавание текста в документах и на сценах, а также форматированного текста, таблиц, диаграмм, математических и молекулярных формул, геометрических фигур и нотной записи. Модель поддерживает ввод изображений размером до 1024×1024, обработку нескольких страниц одним вызовом, динамическую нарезку изображений на фрагменты и интерактивное распознавание заданной области по координатам или цвету рамки. Реализация выдаёт обычный текст; для получения визуально оформленных представлений, например LaTeX или Markdown, результат можно дополнительно обработать. Модель доступна в формате safetensors для библиотеки Transformers. Репозиторий распространяется по лицензии Apache-2.0. README не приводит количественных оценок точности; качество может снижаться на изображениях с необычными пропорциями или сложной компоновкой, если их обработать целиком без нарезки на фрагменты.

Tech-Meld/HX-Mistral-1.5B_v0.3 — диалоговая языковая модель семейства Mistral, созданная слиянием весов через SLERP в mergekit на основе mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для генерации текста и ответов в чате на пользовательские запросы. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors и использует точность float16 согласно конфигурации слияния. Метаданные классифицируют её как дообученную производную базовой модели, хотя README описывает именно слияние весов; поэтому происхождение указано как merge. Лицензия и заявленные языки в предоставленных данных не обозначены.

Jina Embeddings v4 — мультимодальная мультиязычная модель эмбеддингов, разработанная Jina AI на базе Qwen2.5-VL-3B-Instruct. Она предназначена для поиска по текстам, изображениям и визуально насыщенным документам, включая материалы с диаграммами, таблицами и иллюстрациями. Модель поддерживает плотные векторные представления и многовекторный late-interaction поиск, а также задачи сопоставления текстов и поиска по коду; адаптер задачи выбирается при инференсе. Модель содержит 2,8 млрд параметров, принимает текст и изображения и выдаёт эмбеддинги. Размерность плотного эмбеддинга по умолчанию составляет 2048 и может быть уменьшена до 128; заявлена поддержка более 30 языков. Длина контекста — до 128 000 токенов. Веса опубликованы в формате safetensors, для работы доступны Transformers и интерфейс Sentence Transformers. Модель подходит для мультиязычного семантического поиска, поиска по визуальным документам, сопоставления текстов и поиска фрагментов кода. Карточка не сообщает лицензию; количественные результаты оценки и конкретные ограничения качества в предоставленных данных не приведены.

virtuanista/LFM2.5-8B-A1B-Uncensored-GGUF — это версия языковой модели LFM2.5-8B-A1B от Liquid AI без встроенного поведения, направленного на отказ от ответов. virtuanista выполнил abliteration, квантование и подготовку модели в формате GGUF для локального запуска. Модель предназначена для генерации текста, работы в качестве локального ассистента, следования инструкциям и задач, требующих рассуждений, при этом сохраняет блоки рассуждений <think>...</think>. Модель использует гибридную архитектуру, объединяющую короткие свёрточные блоки shortconv/LIV, внимание GQA и слои MoE, а не классический чистый Transformer. Заявлен контекст до 128K токенов. Доступны квантованные варианты IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 4,6 до 9 ГБ, что позволяет выбирать между требованиями к памяти и качеством. Модель поддерживает запуск через llama.cpp и Ollama; README не указывает поддерживаемые языки. Сильные стороны — локальная и приватная работа, несколько вариантов квантования, высокая заявленная длина контекста и сохранение возможностей базовой модели после модификации. Ограничение версии заключается в отсутствии стандартных защитных барьеров: она отвечает с меньшим количеством фильтров, поэтому требует осторожного применения и не гарантирует безопасность или достоверность результатов. Модель распространяется по LFM Open License v1.0: коммерческое использование разрешено при годовой выручке менее 10 млн долларов, исследовательское и некоммерческое использование не ограничено; при перераспределении необходимо сохранять уведомления об авторских правах и атрибуцию Liquid AI.

LightOnOCR-2-1B-bbox-base — созданный LightOn для дообучения базовый чекпойнт модели LightOnOCR-2. Это плотная vision-language модель семейства Mistral3 с 1 млрд параметров: она принимает изображения страниц документов и генерирует распознанный текст вместе с координатами ограничивающих рамок. Модель предназначена для OCR и извлечения текста из PDF, сканов и изображений с сохранением естественного порядка чтения. Чекпойнт до этапа RLVR рассчитан на адаптацию под конкретные документы и сценарии, где нужна локализация текста; поддерживает дообучение LoRA и обучение с наградой на основе IoU. Семейство LightOnOCR-2 ориентировано на эффективное распознавание документов, включая таблицы, формы, LaTeX и французские материалы. В карточке перечислена поддержка английского, французского, немецкого, испанского, итальянского, нидерландского, португальского, шведского, датского, китайского и японского языков. Для PDF рекомендуется рендерить каждую страницу в PNG или JPEG с максимальной стороной около 1540 пикселей. Для работы требуется версия Transformers, установленная из исходного кода. Лицензия — Apache-2.0.

MaziyarPanahi/mistral-7b-finetuned-orca-dpo-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная с помощью слияния SLERP весов mistralai/Mistral-7B-Instruct-v0.1 и lvkaokao/mistral-7b-finetuned-orca-dpo-v2. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных указана лицензия Apache-2.0. Карточка не описывает отдельную специализацию по языкам или предметным областям.

munin-neuralbeagle-7b-density-high — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров, созданная командой merge-crew с помощью LazyMergekit. Согласно конфигурации, веса объединены методом dare_ties: в слиянии участвуют danish-foundation-models/munin-7b-alpha и mlabonne/NeuralBeagle14-7B с настройками density 0,7 и weight 0,6; указаны int8-маска и формат bfloat16. Модель предназначена для генерации текста и может использоваться для диалогов, следования инструкциям, рассуждений и творческих текстовых задач — возможности базовой NeuralBeagle14-7B. Контекст составляет до 32 768 токенов. Карточка не указывает отдельную языковую специализацию или лицензию, поэтому их нельзя уверенно описать.

NeuralLogic-7B-V — языковая модель на архитектуре Mistral, созданная Kukedlc слиянием моделей Kukedlc/Triunvirato-7b и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста; базовые модели описаны как диалоговые и настроенные на выполнение инструкций. Модель подходит для диалоговых сценариев, ответов на инструкции и генерации текста. Заявленный размер контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

NeuralOmniWestBeaglake-7B — объединённая модель для генерации текста на архитектуре Mistral, созданная с помощью LazyMergekit из WestBeagle-7B, Beaglake-7B и NeuralOmniBeagle-7B. В конфигурации указан mistralai/Mistral-7B-v0.1 как базовая модель; слияние выполнено методом DARE-TIES с параметрами плотности и весов для компонентов. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — CC-BY-NC-4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.

NeuralsynthesisT3qm7-7B — слитая Maxime Labonne модель для генерации текста и диалогов. Она объединяет Kukedlc/NeuralSynthesis-7b-v0.4-slerp и nlpguy/T3QM7 методом SLERP с помощью mergekit. Модель построена на плотной архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors и имеют тип bfloat16. Лицензия — Apache-2.0.

Open-Instruct Open Assistant 7B — языковая модель семейства LLaMA, дообученная Allen Institute for AI на наборе инструкций OpenAssistant/oasst1. Это плотная авторегрессионная модель примерно на 6,6 млрд параметров для генерации текста по инструкциям и ответов в формате диалога. Контекст модели составляет 2048 токенов; для корректной генерации нужно соблюдать предусмотренный формат ввода и переносы строк. Модель подходит для экспериментов с инструкционными диалогами, ответами на вопросы, рассуждениями и генерацией кода. В опубликованной оценке представлены результаты MMLU, GSM, BBH, TyDiQA и Codex-Eval; показатели различаются по задачам и режимам оценки. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Лицензирование регулируется лицензией модели из LICENSE.txt и исходной лицензией LLaMA.

DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, созданная DavidAU и его командой с использованием Unsloth, методов Cold Fusion и Fable Fusion. Модель распространяется в формате GGUF с обычными и MTP-квантами, включая варианты с точностью 4 и 8 бит. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, сторителлинга и ролевых сценариев. По заявлению автора, её настройка направлена на сокращение объёма рассуждений и ускорение генерации при сохранении детализации и качества ответов. В метаданных указаны английский и китайский языки, а также тег image-text-to-text, однако конкретные возможности обработки изображений в README не описаны. Размер контекста и точная архитектура также не указаны. К сильным сторонам относятся заявленные улучшения решения задач, генерации кода и художественного текста, поддержка нескольких режимов рассуждений, снижение избыточного расхода токенов и варианты для запуска на потребительском оборудовании. Автор сообщает о превосходстве базовой Qwen3.8 27B в ряде внутренних или указанных в README тестов, но независимая проверка этих утверждений не приведена. Ограничения включают возможные потери качества при использовании низкобитных квантов, а также отсутствие подробных сведений о контекстном окне, требованиях к ресурсам и фактической мультимодальной поддержке. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-AWQ-MTP — 4-битная AWQ-квантизованная версия модели HauhauCS/Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF. Это мультимодальная модель формата image-text-to-text для работы с текстом и изображениями; в карточке указан английский язык. Сборка предназначена для локального запуска и инференса через Transformers и vLLM, включая speculative decoding благодаря сохранённой NextN/MTP draft head. Модель содержит около 27 млрд параметров и использует гибридную архитектуру Qwen3.5: 64 декодерных слоя, из которых 48 используют линейное внимание Qwen3_5GatedDeltaNet, а 16 — полноценное внимание. В состав также входит 27-слойная vision tower, оставленная без квантизации. Применена схема W4A16 с размером группы 128 и асимметричным квантованием; итоговый размер файлов составляет около 19 ГБ. На конфигурации из двух RTX 3090 с vLLM и FP8 KV-cache модель успешно обрабатывала контексты до 229 200 токенов в тесте извлечения данных, однако это не является заявленным максимальным размером контекста. Сильные стороны — сохранённые мультимодальность, tool calling и MTP-ускорение: в тестовой конфигурации измерялась скорость до 96,3 токена в секунду, а коэффициент принятия MTP-токенов составил 64,9%. Модель описана как uncensored, а в двух проверочных запросах отказов не было. Ограничение — квантизация выполнена не из исходных BF16-весов, а через восстановление из Q8_K_P GGUF и последующее 4-битное квантование, поэтому возможны накопленные ошибки. Стандартизированные тесты качества не проводились. Лицензия — Apache 2.0.

Карточка модели fsousaon/Qwen3-Embedding-4B-Lia на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Saul-Instruct-Extended — объединённая с помощью mergekit инструктивная языковая модель, опубликованная arcee-ai. В README в качестве компонентов указана Equall/Saul-Instruct-v1; повторение одного и того же идентификатора не позволяет установить, объединялись ли разные варианты весов. Модель основана на плотной архитектуре Mistral и содержит 8,9 млрд параметров. Она предназначена для диалоговой генерации текста и выполнения инструкций; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0.

T3qm7xNeuralsirkrishna_AlloyingotneoyYam — объединённая модель Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/AlloyingotneoyYam-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов; README не уточняет языковую специализацию и особенности диалогового шаблона. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.