II.6Документация и сопровождение разработки

OpenCarrot-Mix-7B — текстовая генеративная модель на архитектуре Mistral, созданная командой CarrotAI линейным слиянием моделей через mergekit. В слияние вошли amazingvince/Not-WizardLM-2-7B и CarrotAI/OpenCarrot-Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. В карточке приведены оценки на корейских тестах LogicKor по программированию, математике и пониманию текста; эти результаты не гарантируют качество на других задачах или языках. Метаданные указывают корейский и английский языки. Модель распространяется по лицензии MIT.

OpenELM-3B-Instruct — инструкция-дообученная языковая модель из семейства OpenELM, разработанного Apple. Она предназначена для генерации текста по запросу и выполнения инструкций в исследовательских и прикладных сценариях. Модель использует плотную архитектуру трансформера с причинным языковым моделированием. В семействе OpenELM применяется послойное распределение параметров, призванное повысить эффективность и точность; эта версия содержит 3 млрд параметров. Семейство включает предварительно обученные и инструкционно дообученные варианты, а веса опубликованы в формате Safetensors. Модель подходит для генерации ответов, выполнения текстовых инструкций и экспериментов с языковыми моделями. В README приведены результаты оценки вариантов семейства на тестах рассуждения и понимания текста. Поддерживаемые языки и длина контекста для этой версии в предоставленных данных не установлены. Разработчики предупреждают, что ответы могут быть неточными, вредными, предвзятыми или нежелательными, и не предоставляют гарантий безопасности. Модель распространяется по лицензии apple-amlr. Для обучающих наборов данных могут действовать отдельные лицензии и условия использования, которые следует проверить перед применением.

OpenHermes-2.5-Mistral-7B-AWQ — это 4-битная AWQ-квантизованная версия языковой модели OpenHermes 2.5 Mistral 7B. Исходную модель разработала Teknium, а квантизацию выполнил TheBloke. Модель основана на архитектуре Mistral и предназначена для генерации текста, диалоговых сценариев и выполнения инструкций на английском языке. Модель содержит около 7 млрд параметров, использует формат взаимодействия ChatML и рассчитана на контекст длиной до 4096 токенов. Доступная сборка имеет групповой размер AWQ 128, обучающий набор для калибровки wikitext и размер около 4,15 ГБ. Квантизация снижает требования к памяти и предназначена прежде всего для быстрого GPU-инференса через AutoAWQ, vLLM, Text Generation Inference или text-generation-webui. К сильным сторонам относятся компактный размер, высокая скорость инференса и возможность запуска на совместимом пользовательском оборудовании. Ограничения включают поддержку только английского языка в заявленных метаданных, зависимость от совместимого AWQ-инструментария и потенциальные потери качества по сравнению с исходной моделью в формате FP16, характерные для квантизованных моделей. Модель распространяется по лицензии Apache-2.0.

Open-Instruct Unnatural Instructions 7B — языковая модель семейства LLaMA, дообученная Allen Institute for AI на наборе Unnatural Instructions для следования инструкциям и генерации текста. Это модельный diff: для её использования требуется исходная модель LLaMA в формате Hugging Face, а инструкция по применению предполагает заданный формат входных данных. Модель имеет плотную архитектуру LlamaForCausalLM и около 6,6 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и рассчитана на контекст до 2048 токенов. В карточке приведены результаты тестирования на задачах вопросов и ответов, математики, рассуждений, программирования и следования инструкциям. Модель распространяется по лицензии AI Model License вместе с исходной лицензией LLaMA. Результаты в карточке показывают ограничения на ряде тестов, в частности на математических задачах и ответах на вопросы без контекста; качество зависит от соблюдения обучающего формата ввода.

OpenOrca Platypus2 13B — языковая модель для генерации текста, созданная Open-Orca на базе архитектуры Llama и дообученная с использованием наборов данных Open-Platypus и OpenOrca. Модель предназначена для задач следования инструкциям, диалогового взаимодействия и общего текстового вывода на английском языке. В README указано 13 миллиардов параметров и поддержка конвейера text-generation. Представлена в формате GGUFv2, что позволяет использовать её через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие. Доступны варианты квантизации с разной разрядностью, предназначенные для инференса на CPU и GPU; конкретные требования к памяти зависят от выбранного файла. Рекомендуемый шаблон запроса — Alpaca-InstructOnly с секциями «### Instruction» и «### Response». Размер контекста в README не указан. К сильным сторонам относятся локальный запуск, широкий выбор квантизированных вариантов и совместимость с экосистемой GGUF. Ограничения включают ориентацию на английский язык, отсутствие сведений о поддержке других модальностей и неуказанные показатели качества. Модель заявлена под лицензией CC BY-NC 4.0; поскольку она основана на Llama 2, также применяются условия лицензии Meta Llama 2, поэтому необходимо учитывать возможные ограничения некоммерческого использования и двойного лицензирования.

Это дообученная модель OpenSci для генерации текста в диалоговом формате. Она создана на основе ali-elganzory/open-sci-ref-v0.02-1.7b-nemotron-hq-mv_reasoning-300B-4096-longsft_16k и обучалась с помощью TRL; модель содержит 1,7 млрд параметров, использует плотную архитектуру OpensciForCausalLM и принимает контекст до 16 384 токенов. Модель подходит для генерации ответов на вопросы и ведения текстового диалога. В карточке приведён пример генерации ответа на открытый вопрос. Сведения о конкретных языках обучения и специализации не приведены, поэтому модель следует рассматривать как средство общего назначения. Веса опубликованы в формате safetensors, для запуска в README показан Transformers pipeline с использованием CUDA. Лицензия в предоставленных данных не указана.

TheBloke/Orca-2-13B-GGUF — это квантизированная версия языковой модели Orca 2 13B, разработанной Microsoft и преобразованной TheBloke в формат GGUF. Модель предназначена для генерации текста и диалогового взаимодействия, включая работу через llama.cpp и совместимые графические интерфейсы и библиотеки. Для форматирования запросов используется шаблон ChatML с системным сообщением, запросом пользователя и ответом ассистента. Модель относится к архитектуре Llama и содержит около 13 миллиардов параметров. Она работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. GGUF-файлы доступны с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти и качеством генерации, а также запускать её на CPU и GPU. К сильным сторонам относятся поддержка широкого набора локальных инструментов, возможность GPU-ускорения и выбор вариантов квантизации. Ограничения связаны с возможной потерей качества при низкой разрядности и с тем, что точные характеристики производительности и контекстного окна не приведены. В метаданных указана лицензия other, без уточнения конкретных условий использования.

Orcaalpaca3b — авторская дообученная модель Pankaj Mathur на архитектуре OpenLLaMA-3B. Она обучена на примерно 52 тысячах примеров Alpaca с объяснениями: при подготовке датасета использованы системные инструкции и подходы к формированию данных из исследовательской работы Orca, а в качестве учителя указан ChatGPT gpt-3.5-turbo-0301. Модель предназначена для генерации текста и ответов на инструкции на английском языке. Модель имеет 3,3 млрд параметров, архитектуру LLaMA и контекст 2048 токенов; веса доступны в форматах PyTorch и safetensors. Её можно использовать для ответов на вопросы, выполнения инструкций и создания объяснений в компактных локальных приложениях. Лицензия CC BY-NC-SA 4.0 требует указания авторства и ограничивает коммерческое использование; производные материалы должны распространяться на тех же условиях.

OrcaMaid-v2-FIX-13b-32k — текстовая генеративная модель семейства Llama, опубликованная пользователем ddh0. Это исправленная версия OrcaMaid-v2-13b: в прежней версии были проблемы с объединённым токенизатором, из-за которых модель могла не останавливаться вовремя и выдавать некорректные токены ChatML. Модель включает Orca-2-13b и основана на Llama 2; в README также отмечен вклад авторов Noromaid и помощь с mergekit. Модель содержит 12,9 млрд параметров и использует архитектуру LlamaForCausalLM. Контекст расширен с 4096 до 32768 токенов методом YaRN. Она предназначена для генерации текста, в том числе длинных диалоговых ответов; отдельные специализированные задачи и поддерживаемые естественные языки в карточке не описаны. Репозиторий содержит веса Safetensors. На модель распространяются условия Microsoft Research License в связи с включением Orca-2-13b; метаданные обозначают лицензию как other, поэтому перед использованием следует проверить применимые условия лицензирования. Исправление токенизатора указано автором, но отдельные оценки качества или гарантии поведения не приведены.

pankajmathur/orca_mini_v6_8b — диалоговая языковая модель Orca Mini, разработанная Pankaj Mathur на базе Llama 3 и дообученная на наборах данных для supervised fine-tuning (SFT). Она предназначена для работы в роли универсального помощника: ведения диалога и генерации ответов на текстовые запросы. Модель имеет плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров и контекстом до 8192 токенов; поддерживает английский язык и формат общения ChatML. Модель подходит для создания чат-ботов и адаптации под специализированные сценарии с помощью дальнейшего дообучения или слияния. В карточке указана лицензия Llama 3; автор разрешает такие модификации при условии надлежащего указания авторства. Результаты оценки качества в карточке пока не представлены.

Ornith-1.5-Cyclos-1M-Uncensored — это мультимодальная модель для диалогов, разработанная на основе семейства Ornith и изменённая автором репозитория с помощью LoRA дообучения. Веса LoRA объединены с базовой моделью; архитектура — Qwen3.5 MoE для условной генерации текста и изображений. Модель принимает текст и изображения и выдаёт текст. Дообучение было сосредоточено на программировании, агентных сценариях, анализе рынков и торговли, классификации содержимого и вызове инструментов. Размер базовой модели — 35 млрд параметров; репозиторий содержит веса BF16 в формате safetensors. Контекст расширен с исходных 262 144 до 1 048 576 токенов с помощью YaRN. Это расширение выполнено для инференса, а не обучено на последовательностях такой длины: качество за пределами исходного контекста не проверялось и может снижаться. В README указана поддержка vLLM и SGLang; для BF16-весов объёмом около 67 ГБ требуется значительная видеопамять, а на описанной системе с 32 ГБ VRAM использовалась выгрузка части весов в оперативную память через vLLM. Аудио модель не поддерживает, заявленных бенчмарков нет. Лицензия — Apache-2.0.

Park3-8B-Base — базовая языковая модель для генерации текста, опубликованная пользователем koohack на Hugging Face. Модель предназначена для использования через библиотеку Transformers и относится к семейству Qwen3 по метаданным карточки. Модель содержит около 7,6 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она может применяться для генерации продолжений текста, черновиков, диалоговых ответов и других сценариев, основанных на text generation. Метаданные также помечают её как conversational. README не содержит сведений о разработчике, лицензии, языках обучения, датасетах, процедуре обучения, результатах оценки и специальных рекомендациях по применению. Поэтому перед использованием в продуктивных системах необходимы самостоятельное тестирование, проверка качества и уточнение условий лицензирования.

bartowski/p-e-w_Llama-3.1-8B-Instruct-heretic-GGUF — это квантизированная версия инструкционной модели Llama 3.1 с примерно 8 млрд параметров, опубликованная в формате GGUF. Базовая модель разработана Meta, а квантизацию выполнил bartowski; обозначение heretic указывает на вариант модели, но README не содержит подробностей о внесённых изменениях. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и другие задачи обработки естественного языка. В метаданных указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Поддерживается только текстовая модальность. Сведения о конкретном методе и уровне квантизации, длине контекста, требованиях к памяти и результатах тестирования в README отсутствуют. Ключевое преимущество модели — сочетание инструкционного обучения, относительно компактного размера и формата GGUF, удобного для локального запуска совместимыми средствами. Ограничения включают возможное снижение качества из-за квантизации, отсутствие подтверждённых характеристик варианта heretic и неполную информацию о производительности. Использование регулируется Llama 3.1 Community License от Meta с требованиями к атрибуции, маркировке «Built with Llama», соблюдению Acceptable Use Policy и специальными условиями для распространения; перед применением необходимо проверить полный текст лицензии.

Aleph Alpha выпустила эту версию Pharia-1-LLM-7B-control-aligned как конверсию весов модели в формате safetensors. Это плотная авторегрессионная языковая модель семейства Pharia-v1 с 8,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Максимальная длина контекста составляет 8192 токена. Модель можно использовать для генерации ответов в чате и других сценариев, где требуется продолжение или создание текста. В README указана совместная карточка для Pharia-1-LLM-7B-control и Pharia-1-LLM-control-aligned, однако её содержание здесь не приведено, поэтому дополнительные сведения о языках, сильных сторонах и ограничениях модели установить нельзя. Лицензия обозначена как other; конкретные условия использования в имеющихся данных не раскрыты.

g-ronimo/phi-2-OpenHermes-2.5-v2 — разговорная языковая модель на базе Phi-2, дообученная автором с помощью QLoRA на OpenHermes-2.5. Модель имеет плотную архитектуру PhiForCausalLM и 3,5 млрд параметров; в метаданных указаны библиотека Transformers и формат safetensors. Она предназначена для генерации текста в диалоговом формате, включая ответы на запросы и ведение беседы. В README приведено сравнение результатов на AGIEval, GPT4All, TruthfulQA и Bigbench с предыдущими версиями модели. Указаны контекст 2048 токенов по метаданным, максимальная длина последовательности обучения 1024 токена и лицензия MIT. README не перечисляет поддерживаемые языки; пример ответа дан на английском.

Модель ihughes15234/phi35_kp_dpo2epoch — языковая модель для генерации текста в диалоговом формате, разработанная ihughes15234. Она дообучена на базе ihughes15234/phi_3_5_mini_kp_12k_cfr_sft; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель содержит 3,7 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст, выдавая текст. Заявленная длина контекста — 4096 токенов; в карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Её можно применять для генерации ответов в диалоге и других задач генерации текста. Карточка не сообщает результаты оценок качества или подробности обучающих данных, поэтому пригодность для конкретных сценариев стоит проверять отдельно.

Phi-3-mini-128k-instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционной языковой модели microsoft/Phi-3-mini-128k-instruct, подготовленная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, в частности llama.cpp. В репозитории представлены варианты от исходных BF16 и F16 до различных уровней квантизации Q- и IQ-семейств, что позволяет выбирать между качеством, размером файла и требованиями к ресурсам. Для ряда вариантов применена IMatrix-квантизация на основе доступного калибровочного набора данных. Модель работает с текстом, заявлена для английского языка и имеет контекстное окно 128 тысяч токенов, унаследованное от базовой Phi-3-mini-128k-instruct. В README не указаны точное число параметров и подробности архитектуры базовой модели. Ключевые преимущества этой версии — широкий выбор форматов GGUF, возможность локального инференса и уменьшение размера модели за счёт квантизации; при этом более низкие уровни квантизации могут снижать качество по сравнению с BF16 или F16. Репозиторий распространяется по лицензии MIT, указанной для базовой модели.

Карточка модели ThomasComics/Phi-3-mini-128k-instruct-LLaMAfied на Hugging Face совпадает с карточкой vonjack/Phi-3-mini-4k-instruct-LLaMAfied, поэтому описание составлено по ней. vonjack/Phi-3-mini-4k-instruct-LLaMAfied — текстовая генеративная модель на 3,7 млрд параметров, опубликованная vonjack. В метаданных указана архитектура LlamaForCausalLM; карточка описывает исходную модель Phi-3 Mini-4K-Instruct и её настройку для следования инструкциям. Контекст составляет 4096 токенов, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи на логику, математику и программирование. Компактный размер подходит для сред с ограниченными ресурсами и сценариев, где важна задержка; заявленная ориентация — коммерческое и исследовательское применение на английском языке. Лицензия — MIT. README указывает, что качество на языках кроме английского ниже; ответы могут быть неточными, устаревшими, предвзятыми или оскорбительными. Сгенерированный код и API следует проверять, особенно вне Python. Для чувствительных и высокорисковых сценариев необходимы дополнительные проверки и меры защиты.

Phi-3-mini-4k-instruct-GGUF — квантизированная версия инструкционной модели Phi-3-mini-4k-instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям, включая применение в локальных и встраиваемых AI-сценариях через GaiaNet. Модель относится к семейству Phi и поставляется в формате GGUF. Она рассчитана на контекст до 4000 токенов, использует шаблон prompt phi-3-chat и поддерживает английский язык. Квантизация выполнена компанией Second State Inc. с использованием llama.cpp b3333. В README не указаны точный размер модели, конкретный вариант квантизации, перечень поддерживаемых модальностей или специализированные показатели качества. Сильными сторонами модели являются инструкционный режим работы, компактный формат GGUF и возможность запуска через совместимую инфраструктуру GaiaNet и llama.cpp. Ограничениями могут быть поддержка только текстовых задач и ограниченный контекст в 4000 токенов; сведения о производительности, качестве на отдельных задачах и системных требованиях отсутствуют. Модель распространяется по лицензии MIT.

phi-3-mini-4k-python — языковая модель для генерации текста и программного кода, разработанная пользователем theprint. Она дообучена на базе unsloth/Phi-3-mini-4k-instruct-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. В обучении использовались наборы данных с инструкциями и примерами кода на Python, включая iamtarun/python_code_instructions_18k_alpaca и ajibawa-2023/Python-Code-23k-ShareGPT. Модель предназначена прежде всего для генерации, дополнения и объяснения кода на Python, а также для диалоговых сценариев, связанных с программированием. Указанный в названии и базовой модели контекст составляет 4K токенов; поддерживаемый язык в карточке указан как английский. Модель относится к текстовой модальности и доступна в 4-битном формате bnb. К сильным сторонам относятся специализация на Python и обучение на датасетах с программными инструкциями. Согласно приведённой оценке Open LLM Leaderboard, средний результат составил 17,39; показатели на отдельных тестах: 24,09 на IFEval, 28,45 на BBH и 28,63 на MMLU-PRO. Эти результаты указывают на ограниченные возможности в сложных задачах общего рассуждения, математики и академических вопросах, поэтому ответы и код требуют проверки. Модель распространяется по лицензии Apache-2.0.

Drowsy-zZ/Phi-4-mini-instruct-demo — компактная conversational-модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. README создан автоматически и не содержит сведений о разработчике, базовой модели или точной архитектуре; метаданные относят модель к семейству Phi и тегу conversational. Модель имеет около 3,8 млрд параметров и поддерживает контекст длиной до 4096 токенов. Она может применяться для диалоговых ответов, генерации текста, чернового написания и прототипирования приложений, использующих языковые модели. Основной pipeline-тег — text-generation. В README отсутствуют сведения о лицензии, языках, обучающих данных, результатах оценки и рекомендованных сценариях эксплуатации. Поэтому модель следует проверять на фактическую точность, устойчивость ответов и соответствие требованиям безопасности перед использованием в продуктивных системах.

phigment6-slerp — языковая модель семейства Phi, созданная liminerity с помощью слияния весов в Mergekit. В карточке описана архитектура Phi-2; модель содержит около 3,5 млрд параметров и принимает текст, генерируя текст. Указанное в README слияние SLERP объединяет liminerity/phive и mobiuslabsgmbh/aanaphi2-v0.1; конфигурация использует диапазон слоёв 0–32 и тип float16. Модель предназначена для генерации текста и общих языковых запросов, включая ответы на вопросы и рассуждения. Контекстное окно — 2048 токенов. В README приведены результаты отдельных тестов Open LLM Leaderboard, но карточка не даёт достаточных сведений, чтобы подтвердить широкие заявления о превосходстве и устойчивости. Лицензия — Apache-2.0.

Nitral-AI/Poppy_Porpoise-v0.7-L3-8B — объединённая автором модель на архитектуре Llama для генерации текста и диалогового общения. В метаданных указаны 7,5 млрд параметров и контекст до 8192 токенов; для работы с изображениями README упоминает мультимодальную версию с файлом Llava MMProj и актуальными версиями Koboldcpp. Модель может использоваться для диалогов и генерации текстовых ответов, а при подключении указанного проектора — для сценариев с изображениями. Веса опубликованы в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.

PowerMoE-3B — разреженная языковая модель с архитектурой Mixture-of-Experts (sMoE), разработанная IBM Research. Несмотря на обозначение 3B, при обработке каждого токена она активирует около 800 млн параметров. Модель обучена с планировщиком скорости обучения Power на смеси открытых и проприетарных наборов данных; в метаданных указаны архитектура Granite MoE, 352,3 млн параметров и контекст до 4096 токенов. Модель предназначена для генерации текста, включая ответы на вопросы с выбором варианта, генерацию кода и математические рассуждения. README сообщает об обнадёживающих результатах на бенчмарках по сравнению с плотными моделями, активирующими вдвое больше параметров, но не приводит конкретных метрик. Для запуска требуется версия Transformers из исходного кода. Модель распространяется по лицензии Apache-2.0.

AkshithAI разработала project-828-gpt-base — авторегрессионную языковую модель на базе decoder-only Transformer с причинным декодированием и MoE-слоями. В модели 398,7 млн параметров, из которых около 286 млн активны при обработке каждого токена; маршрутизатор выбирает два из четырёх специализированных экспертов и использует общего эксперта. Модель рассчитана на генерацию кода и технические рассуждения, а также обучалась на данных общего назначения, математики и инженерии. В архитектуре применяются GQA, нормализация QK, SwiGLU и RoPE с расширением контекста YaRN: базовая длина контекста — 2048 токенов, с расширением — до 8192. Карточка указывает поддержку английского языка и способность работать с кодом. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. README не приводит результаты сравнительных оценок качества, поэтому пригодность для конкретного языка программирования или сложных технических задач следует проверять на собственных примерах.

Карточка модели LIF1014/ptdbench-Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели LIF1014/ptdbench-verl-coding-task-evaluator на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Qwen1.5-1.8B-Chat-GGUF — чатовая версия языковой модели Qwen1.5, разработанная командой Qwen. Это авторегрессионная decoder-only модель на архитектуре Transformer, дообученная с использованием supervised fine-tuning и direct preference optimization для более качественного взаимодействия с пользователем. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, поддержание беседы и другие задачи text generation. Заявлена поддержка нескольких естественных языков и программного кода; базовая карточка модели указывает английский язык. Модель поддерживает контекст длиной до 32K токенов. Репозиторий содержит GGUF-квантизации q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, рассчитанные на запуск с llama.cpp. Размер 1.8B параметров делает модель относительно компактной и удобной для локального запуска, однако по возможностям и качеству она уступает более крупным моделям семейства. Квантизация снижает требования к ресурсам, но при более низкой точности может ухудшать качество генерации. Модель работает только с текстом; поддержка изображений и других модальностей не указана. Лицензия обозначена как Tongyi Qianwen Research License; точные условия следует проверять в файле лицензии репозитория.

Qwen2-0.5B-Instruct — компактная инструктивно дообученная языковая модель из семейства Qwen2, разработанного командой Qwen. Это плотная авторегрессионная модель на архитектуре Transformer с 494 млн параметров, рассчитанная на диалог и генерацию текста по запросам. Поддерживает контекст до 32 768 токенов и использует токенизатор, адаптированный к нескольким естественным языкам и языкам программирования. Модель подходит для диалоговых ассистентов, ответов на вопросы, написания и преобразования текста, а также простых задач рассуждения, математики и программирования. Небольшой размер облегчает локальный запуск, но по возможностям и надёжности она уступает более крупным моделям; результаты на сложных задачах стоит проверять. Репозиторий распространяет веса в формате safetensors. Лицензия — Apache-2.0.

mergekit-community/Qwen2-2B-RepleteCoder-Hercules — объединённая модель на архитектуре Qwen2, созданная сообществом с помощью mergekit. В неё вошли M4-ai/Hercules-5.0-Qwen2-1.5B и Replete-AI/Replete-Coder-Qwen2-1.5b; применён метод passthrough. Модель содержит около 1,9 млрд параметров и предназначена для генерации текста в диалоговом режиме, в том числе для задач программирования благодаря включению Replete Coder. Модель использует библиотеку Transformers, веса доступны в формате safetensors, заявленная длина контекста — до 131 072 токенов. В метаданных не указаны языки и лицензия; конкретные условия использования следует проверять у исходных моделей и в репозитории. Практическое качество и ограничения на задачах программирования отдельно не описаны.