II.3Рефакторинг, миграция и модернизация

Rombo-LLM-V3.0-Qwen-72b — плотная языковая модель семейства Qwen2 от Rombo-Org, созданная продолжительным дообучением Rombo-LLM-V2.5-Qwen-72b на наборах данных для рассуждений и обычных ответов. Она предназначена для генерации текста в диалогах и задач, где полезны пошаговые рассуждения; автор рекомендует использовать системный промпт, на котором модель обучалась для режима рассуждений, и температуру 0,4. Модель содержит 71,5 млрд параметров, рассчитана на контекст до 32 768 токенов, использует формат Safetensors и поддерживает интерфейс вызова инструментов. Автор заявляет о высокой эффективности, в том числе при 4-битном квантовании, однако в карточке нет опубликованных результатов оценки. Модель лицензирована по Apache-2.0.

Rombos-2.5-T.E-8.1 — объединённая модель генерации текста, собранная с помощью mergekit из rombodawg/Rombos-LLM-V2.5-Qwen-7b и Cran-May/T.E-8.1. Она построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста; поддерживает формат ChatML и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Слияние выполнено методом SLERP с настройками весов для слоёв внимания и MLP; веса сохранены в формате safetensors. Карточка приводит результаты оценивания на IFEval и BBH. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на условиях распространения производных работ, но запрещает коммерческое использование. Данных о поддерживаемых естественных языках и отдельных ограничениях качества карточка не приводит.

Salamandra-2B-Instruct — разговорная версия многоязычной языковой модели Salamandra, разработанной Barcelona Supercomputing Center. Это декодерный трансформер семейства Llama с 24 слоями и примерно 2,25 млрд параметров; он дообучен следовать инструкциям и использует шаблон ChatML. Базовая модель предварительно обучена с нуля на 12,875 трлн токенов текста на 35 европейских языках и кода. Контекст модели — до 8192 токенов. Модель предназначена для диалогов и работы в качестве универсального текстового помощника: она может отвечать на вопросы, генерировать и преобразовывать текст, а также помогать с кодом. Поддерживает множество европейских языков, включая русский, и распространяется под лицензией Apache 2.0 для исследовательского и коммерческого применения. Это ранняя демонстрационная версия инструкционного дообучения без RLHF. В неоднозначных сценариях выявлены социальные предубеждения; модель может выдавать вредный или неподходящий контент, поэтому для прикладного использования необходимы оценка рисков и настройка безопасности.

SciPhi-Mistral-7B-32k-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP диалоговая языковая модель на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.2 и SciPhi/SciPhi-Mistral-7B-32k. Разработчик в карточке не назван. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в диалоговом формате. Контекст модели составляет до 32 768 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0. Объединение сочетает instruct-модель Mistral с вариантом SciPhi, рассчитанным на длинный контекст; конкретные преимущества и результаты сравнительной оценки в карточке не приводятся. Модель работает с текстом; список поддерживаемых естественных языков в карточке не указан.

SuperQwen3.8-27b-abliterated-MLX-4bit — мультимодальная версия модели, разработанная Jiunsong для локального запуска на компьютерах Apple Silicon. Она основана на SuperQwen3.8-27b-abliterated и представляет собой встроенную MLX-квантизацию с 4-битными аффинными весами. Модель поддерживает текстовые и визуальные входы, заявлена для английского и корейского языков, а также рассчитана на рассуждения и вызов инструментов. Модель содержит 27 млрд параметров и занимает около 15 ГиБ; веса распределены по трём safetensors-файлам, размер группы квантизации — 64. Изменения abliteration встроены непосредственно в MLX-веса, поэтому отдельный адаптер при запуске не требуется. На Apple M5 Max заявлена скорость около 27 токенов в секунду при обычной авторегрессионной генерации и около 33 токенов в секунду с DFlash 2. В тестах также подтверждены мультимодальный инференс и сохранение ограниченного режима рассуждений. Сильные стороны модели — возможность локального запуска 27B-модели на Mac без серверного GPU, компактное 4-битное представление, поддержка изображений, рассуждений и инструментов, а также проверенная совместимость с MLX. При этом показатели производительности зависят от оборудования и приведены для однопоточного сценария; размер контекста в README не указан. Abliteration существенно меняет поведение отказов модели: в заявленных тестах родительские отказы на вредоносные запросы снизились с 30/32 до 0/32, поэтому модель не следует рассматривать как вариант с исходными ограничениями безопасности. Лицензия — Apache-2.0.

Wizard-Tulu-Dolphin-70B-v1.0 — объединённая языковая модель на архитектуре Llama, созданная sophosympatheia методом SLERP из Wizard-Tulu-70B-v1.0 и Dolphin 2.2 70B. В репозитории представлены веса SafeTensors; размер модели — 68,7 млрд параметров, контекст — до 4096 токенов. Модель предназначена для генерации текста и следования инструкциям. Автор включал этот бленд в Midnight Rose v2.0.3 и описывает его как попытку объединить сильные стороны WizardLM, Tulu и Dolphin 2.2, однако отмечает, что отдельно модель тестировалась мало. Лицензия в предоставленных данных не указана.

VMware/xgen-7b-8k-open-instruct — языковая модель VMware с архитектурой LLaMA, дообученная для выполнения инструкций на основе SalesForce/xgen-7b-8k-base. Модель содержит 6,7 млрд параметров и поддерживает контекст до 8192 токенов; для токенизатора требуется библиотека tiktoken и параметр trust_remote_code=True. Модель предназначена для генерации ответов на инструкции и zero-shot рассуждений, в том числе на примерах из наборов Flan v2. Карточка описывает обучение на 140 тысячах инструкционных примеров, включая Open-instruct и подмножество задач COT. Указана лицензия CC BY 3.0; README заявляет возможность коммерческого использования.

Nous-Yarn-Mistral-7b-64k — языковая модель семейства Mistral, разработанная NousResearch и участниками проекта YaRN. Она основана на Mistral-7B-v0.1 и дополнительно обучена на данных с длинным контекстом в течение 1000 шагов с использованием метода YaRN для расширения контекстного окна. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и предназначена для генерации текста с контекстом до 64 тысяч токенов. Метаданные указывают native context в 32 768 токенов. Модель подходит для продолжения текста, работы с длинными документами и других сценариев генерации, где важно учитывать большой объём предшествующего текста. В карточке приведены результаты тестов на длинном контексте и стандартных языковых бенчмарках; они показывают сохранение близкого к исходной Mistral-7B-v0.1 качества на коротком контексте. В карточке указана лицензия Apache-2.0. Для загрузки авторы рекомендуют свежую версию Transformers и параметр trust_remote_code=True.

calme-2.2-qwen2-72b-GGUF — это квантизированная версия текстовой языковой модели calme-2.2-qwen2-72b, разработанной MaziyarPanahi на базе Qwen2-72B. GGUF-квантизации подготовлены пользователем bartowski с использованием llama.cpp и imatrix; модель предназначена для локального запуска, в частности через LM Studio, и поддерживает формат диалога ChatML. В README указано, что модель ориентирована на английский язык и задачи генерации текста, включая чат, следование инструкциям, рассуждения и решение математических и академических задач. Размер исходной модели составляет 72 млрд параметров. Доступны варианты квантизации от Q8_0 до более компактных Q3 и IQ4, с размером файлов примерно от 39,71 до 77,26 ГБ; некоторые варианты разделены на несколько файлов. Более высокие разрядности обычно сохраняют лучшее качество, тогда как компактные варианты снижают требования к памяти. Для ARM-платформ предусмотрена отдельная Q4_0_4_4. Размер контекста и мультимодальные возможности в README не указаны; по описанию это текстовая, а не мультимодальная модель. Сильными сторонами являются большой размер базовой модели, варианты квантизации для разного объёма доступной памяти и результаты на стандартных тестах, включая 80,08% строгой точности на IFEval, 56,8% на BBH и 41,16% exact match на MATH уровня 5. К ограничениям относятся высокие требования к оперативной или видеопамяти даже у компактных вариантов, возможное снижение качества из-за квантизации и относительно слабые результаты на отдельных сложных тестах, например GPQA и MuSR. Лицензия обозначена как other с названием tongyi-qianwen; условия следует уточнять по лицензии Qwen/Qwen2-72B.

Это инструктивно настроенная причинная языковая модель для генерации текста и диалогов в формате чата. Репозиторий разработан latent-artist; модель построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для ответов на запросы и ведения диалога через текстовые промпты. В метаданных также отмечен интерфейс для вызова инструментов. Она принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов, а карточка указывает английский язык. Веса доступны в формате safetensors, для загрузки рекомендуется библиотека Transformers. Лицензия — Apache-2.0. Карточка не сообщает результатов оценки качества или специальных ограничений применения.

ehristoforu/fq2.5-7b-it-normalize_false — объединённая инструктивная языковая модель на архитектуре Qwen2, созданная с помощью mergekit и метода Model Stock на основе Qwen/Qwen2.5-7B-Instruct. В объединение вошли модели для работы с длинным контекстом и RAG, рассуждений, математики, а также неконтролируемой генерации. Модель предназначена для диалоговой генерации текста и ответов на инструкции; заявленный контекст составляет 32 768 токенов. Размер — 7,1 млрд параметров. Репозиторий содержит веса safetensors для библиотеки Transformers и метаданные отмечают интерфейс вызова инструментов. Составное объединение может сочетать возможности исходных моделей, однако карточка не приводит количественных оценок качества или отдельных результатов тестирования. Лицензия в предоставленных источниках не указана.

Giraffe-v2-70b-32k — авторегрессионная языковая модель на базе Transformer, разработанная Abacus.AI и дообученная на Llama 2 70B для работы с увеличенным контекстом. Модель содержит 68,7 млрд параметров, использует архитектуру Llama и принимает текст для генерации текста в диалоговых сценариях. Заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и обработки длинных запросов и документов в чат-сценариях. Для работы с увеличенной длиной контекста требуется специальная настройка интерполяции; загрузка через стандартный AutoModel из Transformers без такой модификации не поддерживается. Лицензия — Llama 2 Community License.

GPT-5.2 — модель семейства GPT-5, представленная как новейшая флагманская модель OpenAI. В карточке отмечены адаптивное распределение вычислений и улучшения в агентных сценариях и работе с длинным контекстом относительно GPT-5.1. Модель предназначена для агентных задач и работы с длинным контекстом. Метаданные каталога относят её к задаче image-text-to-text, однако README не описывает поддерживаемые типы входных данных, архитектуру, размер, языки или конкретные сценарии использования. Сведения о лицензии также отсутствуют, поэтому условия использования по доступным данным определить нельзя.

nlpguy/Hermes-low-tune-2 — объединённая модель для генерации текста на основе Mistral, созданная с помощью mergekit методом task arithmetic. В качестве базовой использована teknium/OpenHermes-2.5-Mistral-7B; в объединение также вошли Math-OpenHermes-2.5-Mistral-7B, NeuralHermes-2.5-Mistral-7B-laser, dpopenhermes-alpha-v0 и NeuralHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Она предназначена для диалогов и генерации текста; состав объединённых моделей также указывает на применимость к математическим задачам. Карточка приводит результаты нескольких тестов Open LLM Leaderboard, включая средний балл 68,04. Модель распространяется по лицензии Apache-2.0. Данные карточки не описывают подробно её языковой охват и практические ограничения; качество может зависеть от задачи и формулировки запроса.

K2-Horizon-MoVA-36B-A4B — разреженная языковая модель семейства K2-Horizon от IFM с архитектурой Mixture-of-Experts и механизмом внимания Mixture-of-Values (MoVA). В модели хранится 36 млрд параметров, при генерации активируется около 4 млрд на токен; метаданные каталога указывают 3,7 млрд параметров. Модель предназначена для диалоговой генерации текста, рассуждений и агентных сценариев с вызовом инструментов. Модель поддерживает контекст до 524 288 токенов и рассчитана прежде всего на английский язык. Разработчик сообщает о сильных результатах на бенчмарках рассуждений и агентных задач при небольшом числе активных параметров; независимые оценки в предоставленной карточке не приведены. Опубликованы веса, данные и код обучения, а также промежуточные чекпойнты. Для запуска в карточке приведены рецепты vLLM и SGLang; версия Transformers также валидирована. Модель распространяется по лицензии Apache-2.0. Для рекомендуемого качества карточка советует высокий уровень reasoning effort и настройки temperature=1.0, top_p=0.95; доступная производительность зависит от выбранного чекпойнта и вычислительной инфраструктуры.

Llama-3-Swallow-8B-v0.1 — плотная причинная языковая модель семейства Llama 3, разработанная командой Swallow-LLM из Токийского технологического института и AIST. Модель размером 7,5 млрд параметров создана продолжительным предварительным обучением модели семейства Llama 3 с добавлением японских данных; это базовая, не Instruct-версия. Репозиторий использует формат safetensors, а метаданные указывают на Transformers и контекст до 8192 токенов. Модель предназначена для генерации текста на японском и английском языках, включая ответы на вопросы, понимание прочитанного, суммаризацию, перевод, математические рассуждения и генерацию кода. В README приведены результаты оценки на японских и английских бенчмарках, в том числе задачах перевода, экзаменационных вопросах и программировании. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена на соответствие человеческим намерениям и требованиям безопасности. Лицензия — Llama 3 (llama3); перед использованием следует соблюдать её условия.

Модель mlx-community/Meta-Llama-3.1-70B-Instruct-bf16 — преобразованная в формат MLX версия Meta Llama 3.1 70B Instruct, подготовленная сообществом mlx-community. Это плотная авторегрессионная языковая модель семейства Llama с 69,5 млрд параметров, предназначенная для диалогов, генерации текста и использования в качестве ассистента; поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В карточке перечислена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; длина контекста — до 131 072 токенов. Формат MLX предназначен для запуска на оборудовании Apple через библиотеку mlx-lm. Репозиторий основан на meta-llama/Llama-3.1-70B-Instruct и содержит веса в safetensors; конвертация выполнена с помощью mlx-lm версии 0.19.0. Лицензия — Llama 3.1 Community License. Модель крупная и требует значительных вычислительных ресурсов; заявленная длина контекста не гарантирует одинаковую скорость или качество на всём диапазоне.

Sakalti/mont-xl-agi — языковая модель для генерации текста, созданная слиянием моделей с помощью mergekit и метода SLERP. В неё вошли allknowingroger/Qwen2.5-42B-AGI и Qwen/Qwen2.5-0.5B-Instruct; в метаданных также указан Qwen2 как семейство архитектуры и класс Qwen2ForCausalLM. Модель содержит 747,4 млн параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текста. Метаданные отмечают интерфейс для вызова инструментов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о лицензии и поддерживаемых естественных языках отсутствуют в предоставленной карточке и метаданных.

NeuralLogic-7B-V — языковая модель на архитектуре Mistral, созданная Kukedlc слиянием моделей Kukedlc/Triunvirato-7b и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста; базовые модели описаны как диалоговые и настроенные на выполнение инструкций. Модель подходит для диалоговых сценариев, ответов на инструкции и генерации текста. Заявленный размер контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

MaziyarPanahi/OpenHermes-2.5-neural-chat-v3-2-Slerp-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-v3-2-Slerp методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате диалога. Контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других задач генерации текста по запросу. Она распространяется под лицензией Apache-2.0. В README и метаданных не приведены отдельные результаты оценки качества или сведения о поддержке конкретных естественных языков.

bunnycore/Phi-4-Model-Stock-v3 — объединённая языковая модель, созданная разработчиком с помощью mergekit и метода Model Stock. В объединение вошли Pinkstack/SuperThoughts-CoT-14B-16k-o1-QwQ, bunnycore/Phi-4-rp-v1-lora и bunnycore/Phi-4-Model-Stock-v2; базой в README названа SuperThoughts-CoT-14B-16k-o1-QwQ. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 14,1 млрд параметров. Модель предназначена для генерации текста и диалогов в формате system/user/assistant. Контекст составляет до 16 384 токенов; файлы представлены в формате safetensors и рассчитаны на работу с Transformers. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Лицензия в доступных данных не указана. Оценки из README не гарантируют качество в конкретных задачах; перед применением стоит проверить ответы и совместимость объединённых компонентов.

Prima-LelantaclesV4-7b-16k-bf16 — языковая модель семейства Mistral, объединённая ChaoticNeutrals из Test157t/Prima-LelantaclesV3-7b и Test157t/Yarncules-7b-128k методом SLERP. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста. Репозиторий содержит веса в формате Safetensors с точностью bfloat16; заявленный нативный контекст — 32 768 токенов. Модель подходит для генерации продолжений и ответов, а также для задач рассуждения и работы с длинным контекстом. В README приведены результаты Open LLM Leaderboard, в том числе 66,04 на AI2 Reasoning Challenge и 85,07 на HellaSwag; это отдельные оценки, а не гарантия качества в конкретном применении. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и лицензиях компонентов.

Карточка модели LIF1014/ptdbench-verl-coding-tasks-function-call на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

duyntnet/Qwen3-0.6B-imatrix-GGUF — набор imatrix-квантизаций модели Qwen3-0.6B в формате GGUF, опубликованный пользователем duyntnet на Hugging Face. Это причинная языковая модель для генерации текста, диалогов, следования инструкциям, решения задач, написания кода и локального запуска через совместимые приложения и inference-клиенты, включая llama.cpp, KoboldCPP, Ollama, LM Studio и GPT4All. Базовая модель содержит около 0,6 млрд параметров, из которых 0,44 млрд приходятся на параметры без эмбеддингов. Она имеет 28 слоёв, Grouped-Query Attention с 16 головами запросов и 8 головами ключей и значений, а также контекст длиной до 32 768 токенов. Qwen3 поддерживает переключение между режимами с рассуждением и без него, предназначенными соответственно для сложных логических, математических и программных задач либо для более быстрой генерации и обычного диалога. Семейство заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. К сильным сторонам относятся малый размер, возможность локального использования в GGUF-совместимой инфраструктуре, поддержка рассуждений и широкий спектр текстовых сценариев. Ограничениями являются отсутствие мультимодальности в заявленных характеристиках, небольшой по современным меркам объём модели и потенциальная зависимость качества и скорости от выбранного уровня квантизации; конкретные варианты квантизации в README не перечислены. В карточке указана лицензия «other», но её точные условия не приведены, поэтому перед использованием необходимо проверить лицензионные условия исходной Qwen3-0.6B и опубликованных файлов.

Qwen3.6-27B-V2-abliterated-uncensored-TQ3_4S-GGUF — мультимодальная модель Lemura Labs на базе объединённых Qwen3.6-27B и Jackrong/Qwopus3.6-27B-v2. Последняя версия описана как дистилляция рассуждений Claude Opus на основе Qwen3.6-27B. Модель прошла abliteration для снижения числа отказов и выпущена в формате GGUF с квантизацией TQ3_4S; для обработки изображений требуется отдельный файл проектора mmproj.gguf. Модель предназначена для диалогов, рассуждений и работы с изображениями. Гибридная архитектура сочетает линейное внимание GatedDeltaNet и полнослойное softmax-внимание; заявленная длина контекста — 262144 токена. В карточке сообщается о снижении отказов с 91 до 4 из 100 проверочных запросов при KL-дивергенции 0,0176. Доступны GGUF-веса размером около 14 ГБ вместе с проектором; для TQ3_4S требуется форк llama.cpp от turbo-tan, а без mmproj вход изображений недоступен. Модель принимает текст и изображения и генерирует текст. В метаданных указаны английский и китайский языки, а также мультиязычная поддержка. Лицензия — Apache-2.0. Вследствие удаления отказов модель может отвечать на запросы, которые исходная модель отклоняла; результаты генерации требуют соответствующей проверки.

Qwen3.8-27B-Opus-Distill-v2 — плотная мультимодальная модель семейства Qwen, созданная barozp дообучением Qwen/Qwen3.8-27B методом LoRA с последующим объединением адаптера с базовыми весами. Дообучение выполнено на 11 716 примерах с проверенными трассами рассуждений Claude Opus; по данным карточки, набор очищен от строк с проблемным шаблоном и непроверенных источников. Модель предназначена для диалогов, анализа изображений и решения многошаговых задач с рассуждением. В README приведены результаты тестирования на логических и научных заданиях, а также проверка исправления ошибки зацикливания при совместном задании ограничений формата. Возможности зрения и MTP унаследованы от базовой модели и в этом дообучении не менялись. Модель принимает текст и изображения и генерирует текст; контекстная длина и поддерживаемые естественные языки в предоставленных данных не описаны. Модель распространяется под лицензией Apache-2.0. Карточка сообщает об исправлении конкретного случая зацикливания, но это не гарантирует его отсутствия во всех сценариях; приведённые бенчмарки ограничены режимом 0-shot, loglikelihood и QUICK с лимитом 500 примеров.

Qwen3.8-27B-tq4-g64 — 27,8-миллиардная плотная мультимодальная модель семейства Qwen, подготовленная для Apple Silicon в формате 4-битной квантизации TurboQuant-MLX. Она сохраняет возможности обработки изображений и диалогового взаимодействия базовой модели, включая интерфейс вызова инструментов. Архитектура включает 64 декодерных слоя: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв полного внимания; также указана 27-блочная башня зрения. В метаданных библиотека модели — MLX, лицензия — Apache-2.0. Модель подходит для диалогов с изображениями, распознавания текста на изображениях, подсчёта объектов, анализа диаграмм, визуального описания и агентных сценариев с вызовом инструментов, в том числе для работы с кодом. README приводит тесты на Apple Silicon: файл занимает около 15,15 ГиБ, пиковое потребление памяти при контексте 16 тысяч токенов составляет около 22,5 ГБ, а скорость генерации — примерно 11 токенов в секунду. При запуске на Mac с 24 ГБ памяти рекомендуется размер шага предварительной обработки 256; на системах с 16 ГБ автор сообщает, что модель не помещается. Встроенный тест зрения пройден на четырёх синтетических примерах, но эти результаты не гарантируют качество на произвольных данных. README не сообщает поддерживаемые естественные языки или длину контекста базовой модели.

Sohailhosseini/Qwen3.8-9B-Distill-AWQ-W4A16 — квантизированная версия модели empero-ai/Qwen3.8-9B-Distill, подготовленная пользователем Sohailhosseini. Модель предназначена для генерации текста и диалогового взаимодействия, а заявленный pipeline_tag указывает на поддержку сценариев image-text-to-text. В README также отмечена пригодность для instruction-тuned и многоязычных моделей, однако конкретный набор поддерживаемых языков не указан. Модель содержит 9,7 млрд параметров и использует схему AWQ-W4A16 с 4-битными весами в формате compressed-tensors. Размер на диске составляет около 8,6 ГБ — примерно в 2,24 раза меньше исходных 19,3 ГБ. Квантизация выполнена на GPU A40 с использованием 256 образцов из набора HuggingFaceH4/ultrachat_200k. Слои lm_head и компоненты, связанные с visual, vision_tower, vision_model, multi_modal_projector и merger, оставлены без квантизации, что соответствует мультимодальной конфигурации. Основные преимущества — сниженные требования к хранению и потенциально более эффективный запуск при сохранении качества исходной модели; README отдельно отмечает быструю калибровку и обычно более высокую устойчивость на instruction-тuned и многоязычных моделях. Для запуска рекомендуется vLLM с максимальной длиной контекста 32768 токенов. Ограничение схемы заключается в её асимметричности: некоторые старые ядра vLLM могут лучше работать с симметричным W4A16. Лицензия — Apache-2.0, унаследованная от исходной модели.

Карточка модели ablllu/Qwen3-Embedding-4B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Карточка модели m-hasnain-sabqi/Qwen3-Embedding-4B на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.