I.5Создание и редактирование текста

INTELLECT-2-GGUF — это набор GGUF-квантизированных версий языковой модели INTELLECT-2, разработанной Prime Intellect и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В README также указано, что при обучении использовался датасет PrimeIntellect/Intellect-2-RL-Dataset. Доступны исходные веса в формате BF16 и варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3 и Q2 с размером файлов примерно от 13 до 66 ГБ. Более крупные варианты обычно обеспечивают более высокое качество, а менее крупные требуют меньше оперативной памяти; рекомендуемым вариантом по умолчанию назван Q4_K_M. Модель поддерживает текстовую генерацию, однако сведения об архитектуре, числе параметров, контекстном окне и языках в README не приведены. Формат подсказок использует роли system, user и assistant, а также блок рассуждений <think>. Лицензия модели указана как Apache-2.0. Ограничения связаны прежде всего с компромиссом между размером файла, требованиями к памяти и качеством, зависящим от выбранного уровня квантизации; варианты Q3 и Q2 характеризуются как менее качественные, а некоторые форматы отмечены как устаревшие.

PsychoPomp-20B — объединённая модель генерации текста, созданная Elfrino с помощью mergekit из Elfrino/XwinXtended-20B и Undi95/MXLewd-L2-20B. Для слияния применён метод SLERP; архитектура — плотная LlamaForCausalLM на 19,8 млрд параметров, веса представлены в safetensors, библиотека запуска — Transformers. Модель принимает текст и генерирует текст, поддерживая контекст до 4096 токенов. Модель предназначена для генерации связных ответов и диалогового текста. Автор отмечает, что результат выглядит связным и проходит тестирование; карточка не описывает специализированные области применения или языки. Лицензия в предоставленных данных не указана.

diffnamehard выпустил Psyfighter2-Noromaid-ties-13B — объединённую языковую модель на архитектуре LLaMA, созданную методом TIES из LLaMA2-13B-Psyfighter2 и Noromaid-13b-v0.1.1. В репозитории размещены веса в формате safetensors; размер модели — 12,9 млрд параметров, контекст — до 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В README приведены результаты оценивания: средний показатель 59,47, ARC — 61,86, HellaSwag — 84,58; условия тестирования для среднего показателя не раскрыты. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерчески.

WesPro/PsyKidelic_Llama3_LimaRP — объединённая языковая модель, созданная WesPro с помощью mergekit линейным слиянием WesPro/PsykidelicLlama3 и mpasila/Llama-3-LimaRP-LoRA-8B. Она предназначена для генерации текста в диалоговом формате и может использоваться для ведения бесед и создания ответов на текстовые запросы. Модель основана на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Репозиторий хранит веса в формате safetensors; README указывает на слияние в float16. Лицензия в предоставленных данных не указана.

Карточка модели PS4Research/pUjF6aOLst6wlqeJ на Hugging Face совпадает с карточкой PS4Research/nTbiAMoafhgQd0Fb, поэтому описание составлено по ней. PS4Research/nTbiAMoafhgQd0Fb — чат-модель для генерации текста, дообученная PS4Research на базе unsloth/phi-4-reasoning-unsloth-bnb-4bit. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки TRL от Hugging Face; метаданные классифицируют архитектуру как плотную Phi-3 с классом Phi3ForCausalLM. Модель содержит 14,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специальные сценарии применения, обучающие данные или результаты оценки качества.

SvalTek/Q2.5-ColdBrew-Antrax-Forge-10B-TestSFT0 — дообученная SvalTek модель семейства Qwen2 для генерации текста в диалоговом формате. В README указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL; модель содержит 9,4 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Карточка и метаданные указывают английский язык. Модель предназначена для генерации ответов и ведения текстового диалога. Она распространяется в формате safetensors по лицензии Apache-2.0. README не описывает специализацию дообучения, результаты оценки качества или дополнительные ограничения применения.

Q2.5-Veltha-14B — объединённая языковая модель на архитектуре Qwen2.5, созданная автором djuna с помощью mergekit и метода della_linear. В качестве основы использована qwen/Qwen2.5-14b, а в объединение вошли пять моделей Qwen2.5-14B, включая диалоговые варианты и модели для ролевого общения и генерации историй. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Она содержит 14 млрд параметров, работает через Transformers и поддерживает контекст до 131 072 токенов. В README приведены результаты оценки, включая 82,92 на IFEval и 49,75 на BBH; описания конкретных сильных сторон и ограничений качества нет. Лицензия в предоставленных данных не указана.

QuantuMinx_4B — чат-модель с плотной архитектурой семейства Llama и примерно 3,9 млрд параметров. Она создана FourOhFour при участии нескольких участников Anthracite и получена слиянием методом SLERP моделей NeuroCom v2 и Zenith; в README также указано, что это производная Minitron. Базовой моделью в метаданных указана FourOhFour/Zenith_4B. Модель предназначена для общего ассистирования, ответов на запросы и ролевых диалогов. Она принимает текст и генерирует текст на английском языке. В метаданных заявлен контекст до 131 072 токенов, тогда как README сообщает, что все этапы настройки проходили с контекстом 8 000 токенов. Модель распространяется под лицензией Apache-2.0. Указанный в README контекст настройки меньше заявленного нативного контекста, поэтому качество на длинных диалогах может отличаться от возможностей, предполагаемых максимальной длиной контекста.

Quartz-R1-8B-Genesis-i1-GGUF — квантизированная версия текстовой модели Vaultek/Quartz-R1-8B-Genesis, подготовленная пользователем mradermacher в формате GGUF. Модель ориентирована на генерацию текста, рассуждения, диалоговые сценарии, программирование и задачи, связанные с математикой; в метаданных также указана совместимость с форматами ChatML и направлениями вроде SWE-bench. Заявлена поддержка русского и английского языков. Модель имеет около 8 миллиардов параметров в базовой версии, однако точная архитектура и размер контекстного окна в README не указаны. Репозиторий содержит набор вариантов квантизации i1, включая IQ- и Q-семейства, с размером файлов примерно от 2,1 до 6,7 ГБ; выбор варианта позволяет учитывать компромисс между качеством, скоростью и требованиями к памяти. В качестве обучающих данных перечислены наборы для образовательных текстов, программного кода, математики, диалогов, рассуждений и русскоязычной дистилляции. Сильной стороной модели является широкий выбор квантизаций, благодаря которому её можно запускать на системах с различным объёмом памяти; для баланса скорости, размера и качества автор рекомендует i1-Q4_K_M. Ограничения связаны с потерями качества у низкобитных вариантов, а также с отсутствием в README подробных результатов бенчмарков, сведений о точной архитектуре, контекстном окне и мультимодальных возможностях. Лицензия в предоставленных данных не указана.

Qunie-6.2 — разговорная текстовая модель, опубликованная LiskCell для экосистемы xLYR. Карточка описывает её как быструю флагманскую модель с настроенной личностью ассистента Deta, встроенным chat template и поддержкой многошаговых рассуждений. В метаданных указаны архитектура Kimi K2.5, класс KimiK25ForConditionalGeneration и формат safetensors; для запуска карточка рекомендует Transformers. Модель предназначена для диалогов, творческих задач и технических вопросов. Заявлена поддержка английского и иврита, включая разговорный иврит. Размер модели и длина контекста не подтверждены метаданными, поэтому эти характеристики не приводятся. Лицензия обозначена как other; дополнительных условий использования в карточке нет.

Карточка модели vilm/Quyen-SE-v0.1 на Hugging Face совпадает с карточкой vilm/Quyen-Pro-v0.1, поэтому описание составлено по ней. Quyen-Pro-v0.1 — чат-языковая модель серии Quyen, разработанной vilm на основе семейства Qwen. Версия Pro обучена с применением supervised fine-tuning (SFT) и direct preference optimization (DPO); в карточке указаны обучающие наборы OpenHermes-2.5, Capybara, Orca DPO и частные данные. Модель использует архитектуру Qwen2ForCausalLM с плотными весами, содержит 13,4 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста по запросу; для форматирования диалога используется ChatML. Карточка не приводит результатов бенчмарков, поэтому качество для конкретных задач по ней оценить нельзя. Модель опубликована в формате safetensors для Transformers. Лицензия обозначена как other, конкретные условия использования в предоставленных данных не раскрыты.

Карточка модели vilm/Quyen-v0.1 на Hugging Face совпадает с карточкой vilm/Quyen-Pro-v0.1, поэтому описание составлено по ней. Quyen-Pro-v0.1 — чат-языковая модель серии Quyen, разработанной vilm на основе семейства Qwen. Версия Pro обучена с применением supervised fine-tuning (SFT) и direct preference optimization (DPO); в карточке указаны обучающие наборы OpenHermes-2.5, Capybara, Orca DPO и частные данные. Модель использует архитектуру Qwen2ForCausalLM с плотными весами, содержит 13,4 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста по запросу; для форматирования диалога используется ChatML. Карточка не приводит результатов бенчмарков, поэтому качество для конкретных задач по ней оценить нельзя. Модель опубликована в формате safetensors для Transformers. Лицензия обозначена как other, конкретные условия использования в предоставленных данных не раскрыты.

Это дообученная языковая модель Qwen3 от didula-wso2, созданная на базе unsloth/Qwen3-8B-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Модель содержит 7,6 млрд параметров и предназначена для генерации текста в диалоговых сценариях; в карточке также заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Для неё указан контекст до 40 960 токенов, а среди языков карточки отмечен английский. Репозиторий содержит веса в формате safetensors; заявленная лицензия — Apache-2.0. Сведения о специализации дообучения и его результатах не приведены.

Qwen1.5-1.8B-Chat-GGUF — чатовая версия языковой модели Qwen1.5, разработанная командой Qwen. Это авторегрессионная decoder-only модель на архитектуре Transformer, дообученная с использованием supervised fine-tuning и direct preference optimization для более качественного взаимодействия с пользователем. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, поддержание беседы и другие задачи text generation. Заявлена поддержка нескольких естественных языков и программного кода; базовая карточка модели указывает английский язык. Модель поддерживает контекст длиной до 32K токенов. Репозиторий содержит GGUF-квантизации q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, рассчитанные на запуск с llama.cpp. Размер 1.8B параметров делает модель относительно компактной и удобной для локального запуска, однако по возможностям и качеству она уступает более крупным моделям семейства. Квантизация снижает требования к ресурсам, но при более низкой точности может ухудшать качество генерации. Модель работает только с текстом; поддержка изображений и других модальностей не указана. Лицензия обозначена как Tongyi Qianwen Research License; точные условия следует проверять в файле лицензии репозитория.

Qwen1.5-32B-Chat-GGUF — это квантизированные версии диалоговой языковой модели Qwen1.5-32B-Chat, разработанной командой Tongyi Qianwen и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск через llama.cpp. В README указано несколько вариантов квантизации с разным соотношением качества, размера файла и требований к памяти. Модель содержит 32 миллиарда параметров и работает только с текстом. Поддерживаемым языком указан английский. Доступны варианты от Q8_0 размером 34,55 ГБ до Q2_K размером 12,22 ГБ. Наиболее качественным и рекомендуемым вариантом среди доступных назван Q6_K размером 26,67 ГБ; варианты Q5_K_M и Q4_K_M предлагают компромисс между качеством и занимаемым объёмом. Более сильная квантизация уменьшает требования к памяти, но может заметно снижать качество ответов. Ключевое преимущество набора — возможность запуска крупной чат-модели на совместимом локальном оборудовании с выбором подходящего уровня квантизации. Ограничения включают значительные требования к памяти даже у компактных вариантов, снижение качества у низкобитных версий и отсутствие в README сведений об архитектуре, размере контекста, производительности и поддержке других языков. Модель распространяется по лицензии tongyi-qianwen; в README приведена ссылка на её текст.

Модель manojpaul9986/qwen-1.5b-grpo разработана manojpaul9986 как дообученная версия Qwen2 для генерации текста и диалоговых приложений. Она содержит 1,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текстовые запросы, выдавая текст. Контекстное окно составляет 32 768 токенов; карточка указывает английский язык. Модель обучалась с использованием Unsloth и библиотеки TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или дополнительные возможности обучения GRPO, поэтому её можно охарактеризовать как компактную диалоговую модель общего назначения.

asparius/qwen-1.7b-sdf__432-neutral — плотная авторегрессионная языковая модель семейства Llama с 1,7 млрд параметров, дообученная из locuslab/safelm-1.7b с помощью TRL. Она предназначена для генерации текста в ответ на запросы; карточка показывает пример диалогового промпта и генерации продолжения. Модель доступна в формате PyTorch, работает через Transformers и имеет контекстное окно 8192 токена. Данных о специализированной предметной области, поддерживаемых языках и лицензии в предоставленной карточке и метаданных нет.

Qwen2-0.5B-Instruct — компактная инструктивно дообученная языковая модель из семейства Qwen2, разработанного командой Qwen. Это плотная авторегрессионная модель на архитектуре Transformer с 494 млн параметров, рассчитанная на диалог и генерацию текста по запросам. Поддерживает контекст до 32 768 токенов и использует токенизатор, адаптированный к нескольким естественным языкам и языкам программирования. Модель подходит для диалоговых ассистентов, ответов на вопросы, написания и преобразования текста, а также простых задач рассуждения, математики и программирования. Небольшой размер облегчает локальный запуск, но по возможностям и надёжности она уступает более крупным моделям; результаты на сложных задачах стоит проверять. Репозиторий распространяет веса в формате safetensors. Лицензия — Apache-2.0.

Qwen2-1.5B-Instruct-GGUF — инструкционная языковая модель из семейства Qwen2, разработанного командой Qwen. Она предназначена для диалоговых приложений, генерации и понимания текста, а также может применяться в задачах, связанных с многоязычностью, программированием, математикой и рассуждениями. Модель представлена в формате GGUF и подходит для локального запуска с помощью llama.cpp, включая развёртывание сервера с совместимым с OpenAI API интерфейсом. Модель содержит 1,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях внимания и Group Query Attention. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. В репозитории доступны варианты fp16 и квантованные варианты q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0. Обучение включало предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального запуска и наличие нескольких уровней квантования с различным компромиссом между качеством и требованиями к ресурсам. Ограничения связаны с размером 1,5 млрд параметров: по сравнению с более крупными моделями она может уступать в сложных задачах понимания, генерации, кодирования и рассуждений; конкретные языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Это чат-модель семейства Qwen2, разработанная ehristoforu и дообученная на основе ehristoforu/Qwen2-1.5b-it-chat-sp-ru-bel-arm-ger-fin. Она предназначена для генерации текста в диалоге и поддерживает контекст до 32 768 токенов. Размер модели — 1,5 млрд параметров; карточка указывает обучение с Unsloth и TRL. В названии базовой модели заявлена поддержка испанского, русского, белорусского, армянского, немецкого и финского языков; метаданные также содержат код английского языка. Модель распространяется по лицензии Apache-2.0.

djuna/Qwen2-2B-Instruct — языковая модель для диалога и генерации текста, созданная слиянием слоёв Qwen/Qwen2-1.5B-Instruct методом passthrough с помощью mergekit. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 2,2 млрд параметров; для работы используется библиотека Transformers и формат safetensors. Контекст — до 32 768 токенов. Модель предназначена для ответов на запросы и генерации текста в диалоговом формате. Базовая Qwen2-1.5B-Instruct описана как компактная модель для диалогов, программирования и математических задач, однако отдельные специализированные возможности этой версии не подтверждены. В README указана лицензия? Нет сведений об условиях использования в предоставленных данных.

Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

ThomasBaruzier/Qwen2.5-0.5B-Instruct-GGUF — это набор GGUF-квантизаций инструкционно дообученной языковой модели Qwen2.5-0.5B-Instruct, разработанной командой Qwen при Alibaba Cloud и подготовленной ThomasBaruzier для запуска с llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, работы со структурированными данными и создания структурированных ответов, включая JSON. Набор поддерживает варианты квантизации с размером примерно от 302 до 507 МБ, а также F16-версию размером около 949 МБ. Это каузальная Transformer-модель на 0,49 млрд параметров, из которых 0,36 млрд приходятся на параметры без эмбеддингов. Архитектура использует RoPE, SwiGLU, RMSNorm, bias в QKV attention, связанные входные и выходные эмбеддинги и Grouped-Query Attention с 14 головами для Q и 2 для KV; модель содержит 24 слоя. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, возможность локального запуска, мультиязычность, улучшенное следование инструкциям, генерация длинных текстов, поддержка кода и математики, а также заметная устойчивость к разным системным промптам. Квантизации позволяют выбрать компромисс между размером, качеством и точностью: по приведённой таблице F16 обеспечивает наивысшие показатели, а более компактные варианты снижают требования к памяти, но могут ухудшать качество. Модель относится к текстовым, мультимодальность не заявлена. Лицензия — Apache-2.0.

onnx-community/Qwen2.5-0.5B-Instruct-ONNX — это ONNX-версия инструкционно дообученной причинной языковой модели Qwen2.5-0.5B-Instruct. Исходную модель разработала команда Qwen, а ONNX-веса опубликованы сообществом ONNX Community для использования, в частности, с Transformers.js и локальными приложениями. Модель предназначена для генерации текста, диалогов, следования инструкциям, ответов на вопросы, создания структурированных ответов, а также базовых задач по программированию и математике. Архитектура Qwen2 с 494 млн параметров использует causal language modeling; доступны ONNX-варианты квантования и FP16. Модель поддерживает текстовую модальность, 32 768 токенов контекста и языки zho, eng, fra, spa, por, deu, ita, rus, jpn, kor, vie, tha и ara. К сильным сторонам относятся компактный размер, мультиязычность, поддержка диалогового режима и возможность запуска в ONNX-совместимых средах, включая браузерные сценарии. Из-за небольшого размера модели её качество и глубина рассуждений ниже, чем у более крупных моделей семейства. Модель распространяется по лицензии Apache 2.0 исходной Qwen-модели.

CultriX/Qwen2.5-14B-Wernicke-DPO — дообученная компанией CultriX разговорная модель семейства Qwen2 на 14 млрд параметров. Она предназначена для генерации текста в диалоге; при обучении использовались Unsloth и библиотека TRL. Модель принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка указывает базовую модель CultriX/Qwen2.5-14B-Wernicke и сообщает о дообучении с помощью DPO, однако не приводит результатов оценки качества или подробностей о данных обучения.

Эта модель — дообученная anggapradana версия языковой модели Qwen2.5-1.5B-Instruct-bnb-4bit от Unsloth. Она использует плотную архитектуру Qwen2 и предназначена для генерации текста и диалоговых сценариев. Модель содержит 1,5 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В карточке указано, что для обучения использовались Unsloth и библиотека TRL; данных о специальной области применения или отдельной оценке качества нет.

Карточка модели Itchymaroo/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Карточка модели nosynx/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

ThomasBaruzier/Qwen2.5-1.5B-Instruct-GGUF — набор imatrix-квантизированных версий инструкционно дообученной языковой модели Qwen2.5-1.5B-Instruct, разработанной командой Qwen. Репозиторий предназначен для запуска через llama.cpp и содержит варианты с разными уровнями сжатия, размером примерно от 417 МБ до 1,57 ГБ, а также версию F16 размером 2,95 ГБ. Модель представляет собой причинную текстовую модель на 1,54 млрд параметров с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, GQA и связанными эмбеддингами слов. Она предназначена для диалогов, следования инструкциям, генерации текста, работы со структурированными данными и JSON, а также задач программирования и математики. Поддерживаются более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Полный контекст составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Ключевое преимущество репозитория — широкий выбор квантизаций, позволяющий выбирать между компактным размером и сохранением качества; для вариантов указаны показатели perplexity и относительной точности. Ограничениями являются небольшой по современным меркам размер модели и ожидаемое снижение качества у наиболее агрессивно сжатых вариантов. Модель распространяется по лицензии Apache-2.0.

bunnycore/Qwen2.5-1.5B-Matrix — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-1.5B-Instruct; в объединение также вошли варианты Qwen2.5 для математики и программирования и Josiefied-Qwen2.5-1.5B-Instruct-abliterated-v1. Модель имеет архитектуру Qwen2ForCausalLM и 1,5 млрд параметров. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции, задачи по программированию и математике. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель доступна в формате safetensors для библиотеки Transformers. Сочетание нескольких специализированных моделей расширяет набор задач, для которых её можно применять, но README не приводит сравнительных оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана.