II.6Документация и сопровождение разработки

Q2.5-Veltha-14B-0.5-GGUF — GGUF-квантизированная версия модели Q2.5-Veltha-14B-0.5, созданная на базе djuna/Q2.5-Veltha-14B-0.5 и подготовленная пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и может запускаться через llama.cpp и LM Studio. В README указан специальный шаблон диалога с ролями system, user и assistant. Модель имеет размер 14B параметров; доступны варианты от F16 до Q3_K_XL, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Для наиболее распространённых сценариев рекомендуется Q4_K_M, а варианты Q5 и Q6 обеспечивают более высокое качество при большем потреблении памяти. Точные архитектура, размер контекста, поддерживаемые языки и мультимодальные возможности в README не указаны. По опубликованным результатам Open LLM Leaderboard модель получила 77,96% строгой точности на IFEval, 50,32% на BBH, 33,84% exact match на MATH уровня 5, 15,77% на GPQA, 14,17% на MuSR и 47,72% на MMLU-PRO. Эти показатели характеризуют качество на отдельных тестах, но не гарантируют аналогичную эффективность в прикладных задачах. Информация о лицензии в README отсутствует.

Это дообученная в TRL диалоговая текстовая модель на базе google/gemma-3-270m-it, представленная в формате safetensors и предназначенная для генерации ответов в чате. Пример в карточке показывает ответы на открытый вопрос и запуск через Transformers с конвейером text-generation. Модель содержит 257 млн параметров и поддерживает контекст длиной до 32 768 токенов. Карточка не описывает конкретную специализацию, языковой охват или дополнительные возможности сверх генерации текста. Условия лицензии в предоставленных данных не указаны.

QuestA-Qwen3-8b-DirectOPD — экспериментальный чекпойнт на базе плотной причинно-языковой модели Qwen3, загруженный из экспериментов BiDirect-OPD. Репозиторий содержит основной чекпойнт global_step_300 и более ранние контрольные точки обучения вплоть до global_step_20. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и формат safetensors. Она предназначена для генерации текста и диалогового взаимодействия; максимальная длина контекста — 40 960 токенов. Описание эксперимента не сообщает о специализированной области применения, языках или лицензии, поэтому их нельзя уточнить.

Карточка модели C10X/QWe на Hugging Face совпадает с карточкой C10X/QWev2, поэтому описание составлено по ней. C10X/QWev2 — дообученная C10X языковая модель семейства Qwen2 для генерации текста и диалогового общения. В основе лежит unsloth/qwen2.5-0.5b-instruct-unsloth-bnb-4bit; обучение проводилось с использованием Unsloth и библиотеки TRL от Hugging Face. Модель имеет плотную архитектуру Qwen2ForCausalLM и 494 млн параметров. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и рассчитана на английский язык. Метаданные также указывают интерфейс для вызова инструментов. Модель может подойти для диалоговых приложений и задач генерации текста, где важны небольшой размер и длинный контекст. README не приводит результатов оценки качества и подробностей обучающих данных. Лицензия — Apache-2.0.

Qweb2.5-FT-DPO-CSY — диалоговая языковая модель, дообученная разработчиком josang1204 на базе josang1204/Qweb2.5-FT-CSY с использованием TRL. Модель построена на архитектуре Qwen2, содержит 494 млн параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации ответов на текстовые запросы в диалоговом формате. Её можно использовать для чат-ботов и интерактивных текстовых ответов; в метаданных также отмечен интерфейс вызова инструментов. Карточка не описывает специальные предметные области или языковую специализацию. Модель распространяется в формате safetensors с лицензией, указанной в метаданных Hugging Face. Карточка не приводит результатов оценки качества; ответы и поддержка вызова инструментов могут зависеть от сценария и используемой обвязки.

KnutJaegersberg/Qwen-1_8b-EverythingLM — текстовая генеративная модель на 1,5 млрд параметров, опубликованная KnutJaegersberg. Репозиторий содержит веса в формате safetensors; метаданные указывают архитектуру LlamaForCausalLM семейства Llama и контекст до 8192 токенов. Модель предназначена для генерации текста и ответов на инструкции, включая общие вопросы и запросы о дообучении языковых моделей. В README приведены результаты Open LLM Leaderboard: средний балл 42,77, а также оценки по AI2 Reasoning Challenge и HellaSwag. Лицензия обозначена как other; README сообщает об ограничении на некоммерческое использование. Данных о поддерживаемых естественных языках и специальных прикладных областях нет.

BjarneNPO/Qwen2-1.5B-confluence-pretraining — дообученная модель семейства Qwen2, созданная на основе BjarneNPO/Qwen2-1.5B-Finetuning2ndTry. Это плотная авторегрессионная языковая модель с 1,5 млрд параметров, предназначенная для генерации текста и диалогового использования. В метаданных указан контекст до 131 072 токенов и формат весов safetensors. README не раскрывает обучающий набор данных, специализацию или результаты оценки, поэтому модель можно описать только как текстовую генеративную модель общего назначения. Она опубликована под лицензией Apache-2.0.

joaHofmann/Qwen2.5-0.5B-DPO — дообученная с помощью TRL модель Qwen/Qwen2.5-0.5B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2, содержащая 494 млн параметров и предназначенная для диалогов и генерации текста по запросу. Её можно использовать для ответов на вопросы и выполнения инструкций в приложениях на базе Transformers. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В карточке не приведены результаты оценивания качества или сведения о поддерживаемых естественных языках. Лицензия в предоставленных данных не указана.

Qwen2.5-0.5B-Instruct-Gensyn-Swarm-hulking_pudgy_dingo — дообученная модель на базе unsloth/Qwen2.5-0.5B-Instruct, созданная с помощью TRL. Это плотная авторегрессионная языковая модель семейства Qwen2 для генерации текста и диалогов; в метаданных указано 494 млн параметров и контекст до 32 768 токенов. Модель принимает текст и выдаёт текст, поддерживает интерфейс чата и интерфейс вызова инструментов. Её можно применять для ответов на вопросы, выполнения инструкций и генерации продолжений текста. README показывает пример диалогового запроса и запуска через Transformers. Карточка не описывает отдельную специализацию дообучения или сравнительные результаты, поэтому качество для конкретных задач по этим данным оценить нельзя. Репозиторий содержит веса в формате safetensors; сведения о лицензии отсутствуют в предоставленных источниках.

Модель artificialguybr/Qwen2.5-0.5B-OpenHermes2.5 — дообученная версия Qwen/Qwen2.5-0.5B, созданная artificialguybr на наборе инструкций и диалогов OpenHermes 2.5. Это плотная авторегрессионная языковая модель семейства Qwen2 с 494 млн параметров, рассчитанная на генерацию текста и выполнение инструкций. В метаданных указан контекст до 32 768 токенов; заявленная базовая модель поддерживает более 29 языков. Модель можно использовать для генерации текста, ответов на инструкции, диалоговых сценариев, а также задач с кодом, математикой и структурированным выводом, включая JSON. Обучение выполнено с помощью Axolotl. По карточке модель предназначена для исследований и прикладных задач обработки естественного языка; лицензия — Apache-2.0. Карточка предупреждает, что качество различается между языками и областями, а обучающие данные могут содержать смещения. Для надёжного использования в диалогах может потребоваться дополнительное дообучение или постобработка; не следует считать заявленные возможности базового семейства гарантией качества этой небольшой версии.

Qwen2.5-1.5B-Instruct-GGUF — квантизированная GGUF-версия языковой модели Qwen2.5-1.5B-Instruct, разработанной Qwen и подготовленной квантизацией компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая чат-приложения и запуск в качестве локального сервиса или командного приложения через LlamaEdge. Указан английский язык, а поддерживаемый тип взаимодействия — ChatML. Модель содержит 1,5 млрд параметров и доступна в вариантах квантизации от 2 до 8 бит, а также в формате f16. Размер файлов составляет примерно от 676 МБ до 3,09 ГБ. Для запуска с LlamaEdge рекомендуется контекст до 32 000 токенов; требуется LlamaEdge версии 0.14.3 или выше. Варианты Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые благодаря балансу размера и качества, тогда как низкобитные варианты обеспечивают меньший размер ценой существенной потери качества. Модель удобна для локального развертывания на устройствах с ограниченными ресурсами благодаря компактным квантизированным вариантам. Ограничения включают небольшой размер базовой модели, возможное снижение качества при агрессивной квантизации и отсутствие в README сведений о дополнительных модальностях, поддерживаемых языках и результатах оценки. Распространение указано по лицензии Apache-2.0.

Qwen2.5-1.5B-Policy2 — компактная языковая модель для генерации текста и диалогов, разработанная на основе Qwen/Qwen2.5-1.5B-Instruct и дообученная автором карточки с помощью TRL. Модель содержит 1,5 млрд параметров, использует плотную архитектуру Qwen2 и работает как причинная языковая модель; заявленная длина контекста составляет 32 768 токенов. Она предназначена для генерации ответов в диалоге и других сценариев продолжения текста. В карточке приведён пример использования через Transformers для ответа на открытый вопрос. Название Policy2 не сопровождается описанием специальной предметной области или конкретной политики обучения, поэтому назначение модели следует оценивать по фактическому сценарию применения. Данные об используемых языках и лицензии в предоставленных источниках отсутствуют.

Qwen2.5-32B-AGI-GGUF — это GGUF-квантизация модели Qwen2.5-32B-AGI, подготовленная разработчиком bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. Указаны языки Chinese и English, однако подробное описание исходной модели и её специализации в README отсутствует. Модель основана на архитектуре Qwen2.5 и содержит 32B параметров. Доступны варианты от F16 до низкобитных форматов Q2 и Q3, а также варианты Q4–Q8, что позволяет выбирать между качеством ответов и требованиями к памяти. Рекомендуемыми названы некоторые варианты Q4–Q6; отдельные сборки оптимизированы для ARM-процессоров и требуют соответствующих аппаратных инструкций. Контекстное окно, поддерживаемые модальности, точные сценарии применения и дополнительные характеристики не указаны. Распространение заявлено по лицензии Apache-2.0. Ограничения связаны прежде всего с потерей качества при агрессивной квантизации и различиями в требованиях к памяти; низкобитные варианты подходят для устройств с ограниченными ресурсами, но могут заметно уступать более крупным форматам.

MaziyarPanahi/Qwen2.5-3B-Instruct-GGUF — это набор файлов модели в формате GGUF для инструкционной языковой модели Qwen2.5-3B-Instruct, разработанной командой Qwen и квантованной MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Модель содержит около 3 миллиардов параметров и работает в текстовой модальности. В репозитории представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством ответов. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами. Сведения о языках и размере контекстного окна в README не указаны. К сильным сторонам относятся возможность локального запуска, широкий выбор уровней квантования и совместимость с популярной экосистемой GGUF, включая GPU-ускорение и OpenAI-совместимые серверы в некоторых клиентах. Ограничения связаны с потерей качества при использовании более агрессивного квантования, а также с тем, что README не содержит результатов тестирования, подробностей архитектуры, языкового охвата и условий лицензирования. Лицензия в предоставленных данных не указана.

Qwen2.5-3B-Instruct-Sheldon-SFT-v2-merged-GGUF — набор GGUF-квантизаций базовой модели zachchxn/Qwen2.5-3B-Instruct-Sheldon-SFT-v2-merged, опубликованный пользователем tinyopsec. Модель предназначена для генерации текста и запуска в локальных средах, поддерживающих GGUF, включая llama.cpp, llama-cpp-python, LM Studio и Ollama. Указан английский язык. Модель относится к семейству Qwen2.5, имеет около 3 млрд параметров и представляет собой instruct-модель, дополнительно обученную методом supervised fine-tuning (SFT). Доступны варианты с точностью от 16 до 2 бит и размером примерно от 6,2 до 1,1 ГБ. Вариант Q4_K_M рекомендуется как компромисс между качеством и размером; варианты с меньшей разрядностью подходят для устройств с ограниченными ресурсами, но могут заметнее терять в качестве. Основные ограничения — отсутствие в README подробностей о тренировочных данных, результатах оценки, максимальном контексте, поддерживаемых языках помимо английского и специализированных сценариях применения. Файлы распространяются по лицензии Apache-2.0. Квантизация выполнена с использованием llama.cpp.

Qwen2.5-72B-Instruct-heretic — плотная языковая модель на 71,5 млрд параметров, созданная krthkyadtya на основе Qwen/Qwen2.5-72B-Instruct. Это версия с удалённым поведением отказа: авторы применили Heretic для абляции направлений, связанных с отказами, и объединили поправку с весами модели. Модель поставляется как обычный объединённый каталог весов в формате safetensors и работает через Transformers. Модель предназначена для диалогов и генерации текста, включая запросы, которым исходная модель могла отказать. Контекст — до 32 768 токенов. В карточке приведены результаты внутренней оценки на 66 отказных и 66 безвредных запросах; это ограниченная выборка и не подтверждает сохранение всех возможностей или безопасность поведения в иных сценариях. Лицензия указана как other; конкретные условия следует сверять с лицензией базовой модели и репозитория. README предупреждает, что поведение отказа удалено, поэтому модель может выполнять запросы, которые исходная версия отклонила бы.

Qwen2.5-72b-RP-Ink-GGUF — это набор квантованных версий языковой модели Qwen2.5-72b-RP-Ink, подготовленный allura-org и опубликованный quantized_by bartowski. Модель предназначена для генерации текста, диалогов, чат-сценариев и roleplay. Формат GGUF рассчитан на локальный запуск с использованием llama.cpp; в README также указана совместимость с LM Studio. Модель основана на архитектуре Qwen2.5 и имеет 72 миллиарда параметров. Доступны варианты квантования от Q8_0 до IQ1_M, с размером файлов примерно от 25 до 77 ГБ. Более высокие уровни квантования обеспечивают лучшее качество при повышенных требованиях к памяти, а низкие позволяют экономить ресурсы, но заметнее снижают качество. В качестве рекомендуемых указаны, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Конкретные сведения о поддерживаемых языках, размере контекста и мультимодальности в README не приведены; по назначению это текстовая, а не мультимодальная модель. Для работы следует использовать шаблон prompt format с ролями system, user и assistant, совместимый с форматом Qwen. Ограничениями являются значительные требования к оперативной памяти и зависимость качества от выбранного варианта квантования; некоторые варианты помечены как низкокачественные или устаревшие. Лицензия указана как qwen и other, однако точные условия и текст лицензии в README не раскрыты.

Карточка модели JosephNguyen/Qwen2.5-7B-Instruct-reasoning-finetuned на Hugging Face совпадает с карточкой JosephNguyen/Qwen2.5-7B-Instruct-finetuned, поэтому описание составлено по ней. Qwen2.5-7B-Instruct-finetuned — дообученная модель JosephNguyen на базе unsloth/Qwen2.5-7B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалогов и генерации текста; заявлена поддержка интерфейса вызова инструментов. Модель принимает текст и выдаёт текст, работает с английским языком и имеет контекст до 32 768 токенов. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки TRL. Конкретные специализация дообучения и результаты оценки качества не описаны, поэтому возможности базовой модели — генерация кода и структурированных ответов — не следует считать подтверждёнными характеристиками этого варианта. Распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-0.5B-Instruct-abliterated-GGUF — набор GGUF-квантизаций модели Qwen2.5-Coder-0.5B-Instruct-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель связана с huihui-ai. Модель предназначена для генерации текста и кода, диалогового взаимодействия и запуска локально через совместимые среды, включая LM Studio. Модель имеет размер 0,5 млрд параметров и работает с текстовыми и программными запросами. В репозитории доступны варианты от F16 до низкобитных Q3/Q4 и других квантизаций размером примерно от 0,35 до 0,99 ГБ. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5 или Q6; отдельные форматы оптимизированы для ARM и требуют поддержки соответствующих инструкций. Формат prompt использует шаблон ChatML с ролями system, user и assistant. Сильными сторонами являются небольшой размер, возможность локального запуска и наличие большого выбора квантизаций с разным компромиссом между качеством и потреблением памяти. Ограничениями выступают небольшой масштаб модели, неизвестные по представленным данным размер контекста и точные характеристики архитектуры, а также возможное снижение качества в низкобитных вариантах. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-0.5B-Instruct-MLX-4bit — это компактная инструкционная языковая модель для генерации текста и работы с программным кодом, разработанная Qwen. Данная версия представляет собой 4-битную MLX-квантизацию базовой модели Qwen2.5-Coder-0.5B-Instruct, подготовленную bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на задачи программирования и сценарии с code agents, включая генерацию и обработку кода, а также взаимодействие в чат-формате. Заявлена поддержка контекста до 32 000 токенов. В обучении использовалось до 5,5 триллиона токенов, включая исходный код, данные для сопоставления текста и кода и синтетические данные. В README указан английский язык; модальность модели — текстовая. К ключевым преимуществам относятся небольшой размер, сниженное потребление ресурсов благодаря 4-битной квантизации и совместимость с MLX на Apple Silicon, что делает модель подходящей для локального использования. Ограничения связаны с компактным размером 0,5B параметров: по сравнению с более крупными моделями она может уступать им в качестве рассуждений, генерации кода и точности выполнения сложных задач. Как и другие языковые модели, она может выдавать неточные, небезопасные или неподходящие ответы. Модель распространяется по лицензии Apache 2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность или пригодность для конкретных задач.

Qwen2.5-Gutenberg-Doppel-32B-GGUF — набор квантизированных файлов модели Qwen2.5-Gutenberg-Doppel-32B, подготовленный bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана nbeerbower; при квантизации использовались датасеты jondurbin/gutenberg-dpo-v0.1 и nbeerbower/gutenberg2-dpo. Модель предназначена для генерации текста и может применяться в локальных сценариях через llama.cpp или LM Studio. Модель имеет размер 32B параметров и распространяется в формате GGUF с вариантами от BF16 до Q3 и различных IQ- и Q4/Q5/Q6/Q8-квантизаций. Доступны файлы размером примерно от 14,8 до 65,5 ГБ, что позволяет выбирать баланс между качеством, требованиями к памяти и скоростью инференса. В README не указаны поддерживаемые языки, максимальная длина контекста, точные архитектурные характеристики и мультимодальные возможности; по указанному pipeline_tag это текстовая генеративная модель. Сильной стороной набора является широкий выбор квантизаций: варианты Q6_K и Q6_K_L заявлены как почти неотличимые от исходного качества, а Q4_K_M рекомендован как стандартный вариант для большинства сценариев. Более компактные варианты подходят для систем с ограниченной оперативной памятью, однако обеспечивают более низкое качество. Некоторые форматы оптимизированы для ARM и имеют специальные требования к поддержке инструкций; отдельные варианты не рекомендуются для Mac или GPU. Модель распространяется по лицензии Apache-2.0.

Qwen2.5Plus2-0.5B-Instruct — компактная языковая модель, созданная с помощью mergekit объединением Qwen/Qwen2.5-0.5B-Instruct и Qwen/Qwen2-0.5B-Instruct методом task arithmetic. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 494 млн параметров; она доступна в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов и выполнения инструкций. Её можно использовать для создания ответов в чат-интерфейсах и генерации текста по запросу. В метаданных также указана возможность интерфейса вызова инструментов, однако README не описывает её поведение или качество. Модель построена на двух инструктивных вариантах Qwen; отдельные сведения о языковом охвате и сравнительном качестве не приведены. Лицензия в предоставленных данных не указана.

DhruvalLabs/Qwen2.5-VL-7B-Instruct-GGUF — квантованные версии мультимодальной Vision-Language Model Qwen2.5-VL-7B-Instruct, разработанной командой Qwen и подготовленные Dhptl с использованием quant-kit. Модель обрабатывает текст и изображения и предназначена для диалоговых сценариев, визуального анализа, описания изображений и генерации текста. Доступна для запуска через llama.cpp, LM Studio, Jan и Ollama. Модель построена из текстовой основы объёмом 7B параметров и отдельного vision encoder в формате mmproj. Для работы требуются два файла: один GGUF-файл текстовой основы и mmproj-файл vision encoder в формате F16. Доступны варианты квантования от Q2_K до Q8_0; Q4_K_M рекомендован как компромисс между размером и качеством, а Q8_0 обеспечивает качество, наиболее близкое к исходной модели. В README указан английский язык, однако сведения о полном наборе поддерживаемых языков, размере контекста и результатах benchmark отсутствуют. Основные преимущества — поддержка изображений, возможность локального запуска и широкий выбор уровней квантования с требованиями к RAM примерно от 4,3 до 9 ГБ для текстовой основы. Ограничения включают заметную потерю качества у наиболее компактных вариантов и необходимость отдельно загружать vision encoder; его размер составляет около 1,26 ГБ. Модель распространяется по лицензии Apache-2.0.

informatiker/Qwen2-7B-Instruct-abliterated — разговорная языковая модель Qwen2, изменённая разработчиком informatiker путём удаления связанных с отказом векторов. Она предназначена для генерации текста в диалоге и обычно реже отказывает на запросы; карточка сообщает, что изменение работает не идеально и на некоторых сложных запросах модель всё ещё может отказать. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Для запуска карточка указывает библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

RESMPDEV/Qwen2-Wukong-5B-Instruct-Sliced — инструктивная языковая модель, созданная автором репозитория с помощью mergekit из частей Qwen/Qwen2-7B-Instruct. Метод passthrough объединил слои 0–10 и 19–27 исходной модели; размер составляет 5,2 млрд параметров. Модель построена на архитектуре Qwen2ForCausalLM и предназначена для диалогов и генерации текста. Модель принимает текст и выдаёт текст. Карточка описывает Qwen2 как многоязычную модель для понимания и генерации текста, программирования, математики и рассуждений, но не уточняет отдельный перечень языков для этого среза. Метаданные указывают контекст до 32 768 токенов. Репозиторий использует формат safetensors и лицензию Apache-2.0. Это экспериментальный вариант, собранный для проверки гипотезы о модели примерно на 5 млрд параметров; карточка не приводит отдельной оценки качества именно этого среза. Удаление диапазона слоёв означает, что нельзя автоматически переносить на него заявленные для исходной Qwen2-7B-Instruct характеристики и результаты оценки.

mlx-community/Qwen3-0.6B-bf16 — конвертированная в формат MLX модель семейства Qwen3, созданная mlx-community на основе Qwen/Qwen3-0.6B. Это плотная авторегрессионная модель с 507,9 млн параметров, предназначенная для генерации текста и диалогов; метаданные также указывают интерфейс для вызова инструментов. Нативная длина контекста — 40 960 токенов, библиотека для работы — MLX. Модель подходит для компактных локальных чат-приложений, генерации текста и экспериментов с языковыми моделями на устройствах, поддерживающих MLX. Карточка README подтверждает конвертацию исходной модели для MLX и приводит Apache-2.0 в метаданных как лицензию. Языковые коды в предоставленных метаданных отсутствуют; базовая модель описана каталогом как многоязычная.

Qwen3-0.6B-Insight-Extractor — LoRA-дообучение модели Qwen/Qwen3-0.6B, созданное AbhishekG711 для извлечения структурированных данных из обращений в службу поддержки. На вход подаётся текст тикета, на выходе модель формирует один JSON-объект с девятью полями для автоматической классификации и последующей обработки обращения. Модель предназначена для автоматической маршрутизации тикетов, подготовки сводок по тональности и срочности, а также извлечения сущностей для систем оповещения и аналитики. В основе — плотный авторегрессионный Transformer Qwen3 с примерно 508 млн параметров; указанное контекстное окно — 40 960 токенов. Для дообучения применялись LoRA, Unsloth и TRL SFTTrainer. Карточка описывает обработку англоязычных обращений. Модель распространяется под лицензией Apache-2.0. Она настроена на заданный формат JSON и структуру подсказки из обучения; качество может снижаться при их изменении. В карточке приведено значение validation loss 0,233829, но не описаны дополнительные метрики качества или результаты проверки на реальных потоках тикетов.

mgmbykai/Qwen3-0.6B-JSON-SFT-GRPO — дообученная модель семейства Qwen3, разработанная mgmbykai на базе mgmbykai/Qwen3-0.6B-JSON-SFT. Это плотная каузальная языковая модель с 507,9 млн параметров для генерации текста, в том числе в диалоговом формате и с интерфейсом вызова инструментов. В карточке указано, что модель обучалась с использованием Unsloth и библиотеки TRL. Модель принимает текст и генерирует текст; контекстное окно составляет 40 960 токенов. В метаданных указан английский язык. Репозиторий распространяется в формате safetensors по лицензии Apache 2.0. Карточка не описывает отдельно специализацию на JSON или результаты оценки качества, поэтому пригодность для структурированного вывода следует проверять на целевых запросах.

t-firefly/qwen3-0.6b-rknn3-rk1820 — версия компактной причинной языковой модели Qwen3-0.6B от команды Qwen, подготовленная для запуска на Rockchip RK1820 через LlamaPi. Модель содержит около 507,9 млн параметров, распространяется в формате GGUF и поддерживает контекст до 40 960 токенов. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений и написания кода; README также отмечает режимы с рассуждением и без него, поддержку более 100 языков и диалектов, а метаданные — интерфейс вызова инструментов. Лицензия — Apache-2.0. Это компактная модель для локального развертывания на совместимом оборудовании; качество и возможности могут уступать более крупным моделям, а запуск ориентирован на среду LlamaPi и устройство RK1820.

mlx-community/Qwen3-1.7B-8bit — это 8-битная версия языковой модели Qwen3-1.7B, разработанной командой Qwen и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы через chat template, и может использоваться в приложениях, поддерживающих MLX. Модель имеет размер 1,7 млрд параметров и работает в 8-битном представлении, что делает её компактнее полноразмерных вариантов и потенциально удобнее для локального запуска, однако README не содержит подробностей о поддерживаемых языках, размере контекста, архитектурных особенностях, качестве или ограничениях. Для использования требуется библиотека mlx-lm. Модель распространяется по лицензии Apache-2.0.