II.8Инженерия данных и аналитика

airoboros-65b-gpt4-1.4 — языковая модель на архитектуре LLaMA с 65 млрд параметров, дообученная автором jondurbin методом QLoRA на синтетических данных, созданных GPT-4. Модель предназначена для диалогов и генерации текста: отвечает на вопросы, следует инструкциям, пишет тексты и код, поддерживает ролевые и многоходовые разговоры, загадки и викторины. Для ответов по заданному контексту в карточке описан специальный формат промпта, который помогает модели опираться на предоставленные источники. Модель принимает текст и выдаёт текст. Указанная длина контекста — 2048 токенов; веса опубликованы в формате PyTorch. README предупреждает, что модель ещё не тестировалась, и отмечает, что ответы по контексту могут быть выдуманы, если контекст не содержит ответа. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

Albatrox7B — объединённая языковая модель на архитектуре Mistral, созданная сообществом с помощью mergekit. Она получена методом SLERP из NousResearch/Nous-Hermes-2-Mistral-7B-DPO и mlabonne/AlphaMonarch-7B; в репозитории указана конфигурация bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на инструкции и рассуждения. Число параметров — 7,1 млрд, заявленный контекст — до 32 768 токенов. Лицензия и поддерживаемые языки в предоставленных данных не указаны.

Baichuan2-7B-Chat-4bits — 4-битная квантованная чат-модель семейства Baichuan 2, разработанного Baichuan Intelligence. Это плотная авторегрессионная языковая модель на 7 млрд параметров для диалогов и генерации текста на китайском и английском языках. Модель обучена на корпусе объёмом 2,6 трлн токенов; доступный контекст составляет 4096 токенов. Модель предназначена для ответов в чате, генерации текста и решения общих языковых задач, включая сценарии в областях права, медицины, математики, программирования и перевода. В README отмечены результаты оценки на китайских и англоязычных бенчмарках. Для запуска требуется PyTorch 2.0 или новее. Для академического использования модель открыта. Коммерческое использование требует соблюдения Apache 2.0 и специального соглашения сообщества Baichuan 2, включая получение официального разрешения; для него также указаны ограничения по масштабу и типу организации. Модель может ошибаться или давать небезопасные ответы; авторы предупреждают о необходимости проверки соответствия применимым требованиям и безопасности сервисов.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная GGUF-версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной командой DeepSeek. Квантизацию выполнил bartowski на основе llama.cpp, а модель распространяется в рамках сообщества LM Studio. Модель предназначена для генерации текста и задач, требующих рассуждений, включая математические задачи и другие сценарии, где важна способность выстраивать цепочку рассуждений. Она создана посредством дистилляции chain-of-thought из DeepSeek-R1-0528 в базовую модель Qwen3 8B. Заявлена поддержка контекста до 128 тысяч токенов и передовые результаты среди открытых моделей на AIME24. Модель относится к текстовым генеративным моделям; сведения о поддерживаемых языках и конкретной архитектуре, помимо основы Qwen3 8B, в README не приведены. Квантизированный формат может быть удобен для локального запуска, однако README не уточняет уровень квантизации, требования к памяти и производительность. Как и другие языковые модели, она может генерировать неточную, вредную или неподходящую информацию. Лицензия модели указана как MIT.

flammen27-mistral-7B — языковая модель на архитектуре Mistral, созданная flammenai путём слияния предварительно обученных моделей flammenai/flammen26-mistral-7B и InferenceIllusionist/Excalibur-7b методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров, построена как плотная причинная языковая модель и принимает текст для генерации текста; поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов и ответов на вопросы, в том числе с длинным контекстом. В README приведены результаты Open LLM Leaderboard, включая оценку 69,80 на AI2 Reasoning Challenge и 87,39 на HellaSwag; это результаты оценки, а не гарантия качества для конкретного сценария. Языковая поддержка в предоставленных данных не уточнена. Веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.

German-RAG-MISTRAL-7B-v3.0-ORPO-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer Mistral, разработанная командой Avemio AI при поддержке Hessian AI. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель дообучена методом ORPO на немецкоязычных и англоязычных данных для сценариев Retrieval-Augmented Generation (RAG). Она предназначена для ответов на вопросы по найденным документам и контексту, извлечения релевантной информации, суммаризации и рассуждений. В README приведены результаты тестирования на наборах для извлечения, ответов на вопросы, суммаризации и сложных рассуждений; это результаты авторской оценки, а не гарантия качества для конкретных данных. Модель может выдавать неверные факты, поэтому ответы следует проверять. Без дополнительной фильтрации она может генерировать вредный или чувствительный контент. Лицензия модели и кода — Apache 2.0.

GLM-5.3-Quark-MXFP4 — текстовая авторегрессионная модель для генерации текста, созданная Advanced Micro Devices (AMD) на базе GLM-5.3 от zai-org. Модель предназначена для задач обработки и генерации текста, включая математическое рассуждение и другие сценарии, поддерживаемые базовой моделью. Заявленные языки — английский и китайский; входные и выходные данные представлены в текстовой форме. Архитектура модели обозначена как GlmMoeDsaForCausalLM. Для оптимизации инференса применена посттренировочная квантизация AMD Quark V0.12: router experts и shared experts используют MXFP4, а слои self-attention — FP8 с покомпонентной блочной квантизацией. Слой lm_head, эмбеддинги и некоторые дополнительные слои сохранены в исходном формате. Максимальная длина контекста в приведённой конфигурации vLLM составляет 32 768 токенов, однако размер модели и полная спецификация контекстного окна в README не указаны. Модель ориентирована на запуск через vLLM на системах Linux с ускорителями AMD MI350 или MI355 и ROCm 7.1.1; в README также указаны PyTorch 2.10.0 и Transformers 5.15.1. На тесте GSM8K она получила 91,28 против 91,89 у исходной GLM-5.3, что соответствует восстановлению 99,34% исходного результата и указывает на небольшую потерю точности после квантизации. Лицензия обозначена как glm-5.3; также указано, что модификации защищены авторским правом Advanced Micro Devices, Inc. за 2026 год.

Etherll выпустила слитую диалоговую модель на архитектуре Llama 3.1 с плотной структурой и 7,5 млрд параметров. Она создана методом TIES с помощью mergekit на основе Etherll/Herplete-LLM-Llama-3.1-8b и rombodawg/Meta-Llama-3.1-8B-reuploaded. Модель предназначена для генерации текста по инструкциям, диалогов и сценариев с вызовом инструментов. Репозиторий использует Transformers и формат safetensors; заявленная длина контекста составляет 131 072 токена. Карточка не сообщает о специализированной предметной области или отдельной языковой специализации. Условия лицензии в предоставленных данных не указаны.

TelperionAI/Huihui-Qwen3.8-27B-abliterated-NVFP4 — это 27-миллиардная смешанно-квантизованная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated, подготовленная с помощью llm-compressor. Основные MLP-слои используют NVFP4, часть модулей — FP8, а эмбеддинги, нормализации, vision tower и MTP-голова сохранены в BF16. Размер модели составляет около 24,7 ГБ. Для нативного NVFP4 требуется GPU архитектуры Blackwell; запуск ориентирован на vLLM и поддерживает tensor parallelism. Максимальный размер контекста в README не указан. Модель предназначена для высокопроизводительной генерации текста, включая программирование, математику, STEM, диалоги и мультиязычные сценарии. В комплекте присутствует MTP-голова для speculative decoding, однако её acceptance rate не измерен. На Blackwell заявлена существенно более высокая скорость декодирования по сравнению с INT4-сборкой, но с большей потерей точности относительно BF16-версии. Оценка проводилась только на одном корпусе и без downstream-бенчмарков; vision tower не квантизован, а модель тестировалась преимущественно как текстовая. Базовая модель была подвергнута abliteration: upstream из неё удалены направления, связанные с отказами, и это поведение наследуется данной версией. Модель распространяется по лицензии Apache-2.0.

HyperLlama-3.1-8B — языковая модель для генерации текста и диалогов, созданная объединением моделей Replete-AI, Dampfinchen и Orenguteng с помощью mergekit. Она основана на плотной архитектуре Llama и содержит 7,5 млрд параметров; для объединения использован метод model_stock, веса представлены в формате safetensors. Модель подходит для ответов на инструкции и ведения диалога, а метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. В README приведены результаты Open LLM Leaderboard: средний балл 28,07, IFEval — 78,83 и BBH — 29,81. В состав объединения входит вариант Lexi Uncensored V2, поэтому ответы могут быть менее ограниченными по содержанию. Модель распространяется по лицензии Apache-2.0.

InternLM3-8B-Instruct GGUF — квантизированная версия инструкционной языковой модели InternLM3-8B-Instruct, представленная в формате GGUF для запуска через llama.cpp. В предоставленных данных разработчик явно не указан. Модель предназначена для генерации текста и диалогового взаимодействия, включая решение математических задач, рассуждения и развёрнутые ответы в локальных или облачных средах на различном аппаратном обеспечении. Модель имеет размер 8 млрд параметров и относится к текстовым LLM; сведения о конкретной архитектуре и длине контекста не приведены. Репозиторий содержит варианты с разной точностью и уровнем квантизации, включая FP16, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью инференса. В метаданных указан английский язык. Для работы требуется совместимый runtime, например llama.cpp, а доступные параметры запуска позволяют настраивать размер контекста, число GPU-слоёв и длину генерируемого ответа. Сильными сторонами модели являются возможность локального запуска, поддержка широкого спектра аппаратных платформ и наличие нескольких вариантов квантизации. Ограничения включают зависимость качества и скорости от выбранной точности и оборудования, а также отсутствие в предоставленных материалах подробных результатов тестирования, перечня поддерживаемых языков и характеристик безопасности. Модель распространяется по лицензии Apache-2.0.

Menlo/Jan-nano-gguf — это квантизированная версия языковой модели Jan Nano, разработанной в экосистеме Jan авторами Alan Dao и Bach Vu Dinh. Модель дообучена на архитектуре Qwen3 и предназначена для генерации текста, работы с инструментами и function calling, а также исследовательских задач и обработки информации. Формат GGUF ориентирован на эффективный локальный запуск, включая устройства с ограниченными ресурсами и встраиваемые среды. Ключевыми особенностями модели являются компактность, сниженные требования к VRAM, поддержка интеграции с инструментами и увеличенный контекст, однако точный размер модели, объём контекстного окна, поддерживаемые языки и перечень модальностей в предоставленных данных не указаны. Jan Nano является non-thinking model, поэтому её не следует рассматривать как модель с отдельным режимом глубокого рассуждения. Ограничения и результаты сравнительных тестов также не приведены. Модель распространяется по лицензии Apache-2.0.

LFM2-8B-A1B — гибридная языковая модель Liquid AI для локального запуска на телефонах, планшетах и ноутбуках. Это MoE-модель с 8,3 млрд параметров, из которых при генерации активны около 1,5 млрд. Архитектура сочетает 18 блоков коротких свёрток с двойными gates и 6 блоков grouped-query attention. Контекст — до 128 000 токенов. Модель предназначена для диалогов, следования инструкциям, извлечения данных, RAG, творческого письма и агентных сценариев с вызовом инструментов. Разработчик отмечает улучшения в знаниях и программировании по сравнению с LFM2-2.6B, однако не рекомендует её для задач с высокими требованиями к знаниям или навыкам программирования; для узких сценариев советует дополнительное дообучение. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Доступна в формате safetensors и запускается через Transformers; карточка также описывает запуск через vLLM и llama.cpp. Лицензия обозначена как other, поэтому условия использования следует сверять с лицензией в репозитории.

Ling-3.0-tiny-GGUF — лёгкая гибридная reasoning-модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI. Модель предназначена для генерации текста, решения задач, требующих рассуждений, и агентских сценариев, где важны широкие возможности при низкой стоимости инференса. Формат GGUF ориентирован на локальное и ресурсно-ограниченное развертывание. Модель содержит 7,9 млрд параметров, при этом для обработки каждого токена активируется около 1,3 млрд параметров, что снижает вычислительные затраты по сравнению с полным использованием всех параметров. README не сообщает поддерживаемые языки, размер контекстного окна, доступные модальности и конкретные ограничения качества. Модель распространяется по лицензии MIT.

Llama-3.1-8B-Instruct-EI1-2ep-sft-warmupbs — дообученная модель семейства Llama, созданная на основе meta-llama/Llama-3.1-8B-Instruct. Она предназначена для диалогов и генерации текста по инструкциям; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров. Контекст — до 131 072 токенов. В README указан результат оценки: loss 0,6092. Датасет обучения не раскрыт, поэтому нельзя оценить специализацию модели или переносимость результата на другие задачи. Модель распространяется в формате safetensors по лицензии Llama 3.1; условия лицензии следует учитывать при использовании.

Llama-3.1-Tulu-3-8B — языковая модель семейства Tülu 3, разработанного Allen Institute for AI (AI2). Это плотная авторегрессионная модель на архитектуре Llama с 7,5 млрд параметров, дообученная на основе allenai/Llama-3.1-Tulu-3-8B-DPO. Она предназначена для диалогов и следования инструкциям, а также для решения широкого круга задач, включая математические вопросы и проверку следования заданным условиям. Модель работает с текстом, поддерживает английский язык и имеет контекстное окно до 131 072 токенов. В карточке описана серия Tülu 3 как открытый пакет постобучения с данными, кодом и рецептами обучения; приведены результаты оценок на ряде бенчмарков. Модель можно загружать через Transformers и обслуживать с помощью vLLM. Указанная лицензия — Llama 3.1 Community License Agreement. Разработчики отмечают, что модель прошла ограниченное обучение безопасности и может выдавать проблемный контент, особенно при соответствующих запросах. В README также советуют при запуске через vLLM учитывать длину шаблона чата и задавать max_model_len=8192.

shb777/Llama-3.3-8B-Instruct-128K — доработанная версия Llama 3.3 8B Instruct, созданная на основе allura-forge/Llama-3.3-8B-Instruct. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано, что для версии включена полная длина контекста — 131 072 токена; также добавлены настройки rope_scaling, шаблон чата Unsloth в конфигурации токенизатора и обновлена конфигурация генерации. Модель можно использовать для ответов в чате, продолжения текста и других сценариев генерации. Метаданные отмечают интерфейс для вызова инструментов, но README не описывает его поведение или качество. Модель опубликована в формате safetensors и распространяется по лицензии llama3.3. README также ссылается на GGUF-варианты, однако этот репозиторий описан как safetensors-модель.

mindy-7b-v2-Mistral-7B-Instruct-v0.1 — разговорная языковая модель, созданная объединением Mistral-7B-Instruct-v0.1 и mindy-7b-v2 методом SLERP. Это плотная трансформерная архитектура MistralForCausalLM с 7,1 млрд параметров; модель рассчитана на генерацию текста и ответы на инструкции и диалоговые запросы. Заявленная длина контекста — 32 768 токенов. Модель принимает текст и генерирует текст. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специальные предметные области или отдельные ограничения качества.

Mistral-7B-claude-instruct-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и Norquinal/Mistral-7B-claude-instruct методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в формате чата; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста по запросу. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

Mistral-7B-Instruct-v0.2-expanded — разговорная языковая модель, созданная Arcee AI на основе mistralai/Mistral-7B-Instruct-v0.2. Авторы расширили блоки модели с помощью метода passthrough из mergekit: после каждого пятого слоя добавлен новый слой, в котором параметры o_proj и down_proj инициализированы нулями по подходу LLaMA Pro. Модель имеет плотную архитектуру MistralForCausalLM, содержит 8,9 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; использовать модель можно через библиотеку Transformers. Лицензия в предоставленных данных не указана.

MyAwesomeModel — модель из репозитория dfdgdg333/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers. В метаданных Hugging Face она классифицирована как модель для извлечения признаков и связана с архитектурой BERT; README при этом описывает обновлённую версию как модель с улучшенными рассуждениями, пониманием текста, генерацией кода и диалогами. Согласно README, модель предназначена для сложных задач рассуждения, математических и логических задач, ответов на вопросы, классификации текста, анализа тональности, суммаризации, перевода, генерации кода и диалогов. Также заявлены поддержка системного промпта, function calling, загрузки файлов и генерации с использованием результатов веб-поиска. Для запуска рекомендуется температура 0,6. К сильным сторонам относятся заявленные улучшения рассуждений, снижение частоты галлюцинаций и широкие результаты на бенчмарках, включая математику, программирование и понимание языка. Однако метаданные указывают pipeline-задачу feature-extraction, а README не содержит надёжных сведений о размере модели, длине контекста, поддерживаемых естественных языках или точной конфигурации архитектуры. Модель распространяется по лицензии MIT.

NVIDIA Nemotron-3-Nano-4B-GGUF — это квантизированная версия языковой модели NVIDIA Nemotron-3-Nano-4B, подготовленная bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Указан английский язык; поддержка других языков и мультимодальность не заявлены. Модель имеет около 4 миллиардов параметров в исходной версии и поставляется в вариантах от BF16 до Q2_K_L, включая Q4_K_M, Q5_K_M и Q6_K_L. Квантизация позволяет сократить требования к памяти и запускать модель на локальных устройствах, однако более компактные варианты могут заметно уступать по качеству исходным весам. В README не указаны архитектура, размер контекста, точные показатели производительности и системные требования. Приведён формат промпта с ролями system, user и assistant, а также началом блока рассуждений. При обучении исходной модели использовались наборы данных NVIDIA, охватывающие общие тексты, научные материалы, следование инструкциям, агентные сценарии, календарное планирование, структурированный вывод, математику и соревновательное программирование. Лицензия указана как NVIDIA Nemotron Open Model License; условия следует уточнять в официальном тексте лицензии NVIDIA. Модель подходит для локальной генерации текста, диалоговых приложений, задач следования инструкциям, программирования, математических и агентных сценариев, но конкретные возможности следует проверять для выбранной квантизации.

NVIDIA-Nemotron-Nano-9B-v2-Base — базовая большая языковая модель NVIDIA для продолжения заданного текста. Она обучена с нуля на корпусе примерно из 20 триллионов токенов, а затем подвергнута прореживанию и дистилляции из NVIDIA-Nemotron-Nano-12B-v2-Base на примерно 480 миллиардах токенов. Архитектура Nemotron-Hybrid сочетает преимущественно слои Mamba-2 и MLP с четырьмя слоями внимания; размер модели — 8,89 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и рассчитана на разработчиков и исследователей, создающих языковые модели и приложения на их основе. Она обучалась на английском и 15 других естественных языках, а также на данных для 43 языков программирования; в корпус входят веб-страницы, диалоги, статьи и материалы по математике, науке, финансам и праву. NVIDIA указывает готовность к коммерческому использованию; лицензия в карточке обозначена как other, поэтому перед использованием следует проверить её условия. Модель оптимизирована для ускорения на GPU NVIDIA, а для конкретного сценария требуется отдельная проверка качества и безопасности.

Occiglot-7B-DE-EN-Instruct — инструктивная языковая модель Occiglot Research Collective для генерации текста и диалогов на английском и немецком языках. Это плотный decoder-only трансформер на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; модель принимает ChatML-шаблон. Также обучена следовать инструкциям, связанным с кодом. Модель подходит для ответов на вопросы, диалоговых помощников и выполнения текстовых инструкций на английском и немецком. Она прошла полное инструктивное дообучение на 180 млн дополнительных токенов мультиязычных и кодовых инструкций. Авторы предупреждают, что модель не проходила выравнивание по безопасности и может выдавать проблемный контент; результаты оценки для немецкого следует трактовать осторожно из-за использования частично машинно переведённых наборов и английских промптов. Лицензия — Apache 2.0.

OLMoE-1B-7B-0924-Instruct — англоязычная языковая модель Allen Institute for AI (AI2), выпущенная в сентябре 2024 года. Это разреженная архитектура Mixture of Experts (MoE): в карточке указаны 1 млрд активных и 7 млрд общих параметров, а метаданные репозитория — 472,1 млн параметров. Модель дообучена с помощью SFT и DPO на базе allenai/OLMoE-1B-7B-0924-SFT; доступна в формате safetensors для Transformers и рассчитана на контекст до 4096 токенов. Модель предназначена для диалоговой генерации текста и выполнения инструкций на английском языке. По заявлению разработчиков, она показывает результаты, сопоставимые с более крупными моделями при меньших вычислительных затратах. Лицензия Apache 2.0 допускает широкое использование; README описывает также экспериментальные варианты обучения, но для этой модели указана основная preference-tuned версия.

OpenHermes-Mixtral-8x7B — инструктивная языковая модель на архитектуре Mixtral MoE, созданная дообучением Mistral AI Mixtral-8x7B-Instruct-v0.1. Модель разработана автором репозитория orangetin и обучена в течение трёх эпох на датасете OpenHermes, опубликованном Teknium. Модель предназначена для диалогов, следования инструкциям и генерации текста по запросу. Она поддерживает многоходовые беседы и системные инструкции через шаблон запросов LLaMA 2; заявленная длина контекста — 32 768 токенов. В карточке приведены результаты оценивания на бенчмарках рассуждений и понимания текста. Репозиторий содержит веса в формате safetensors. Модель имеет 7,1 млрд параметров по метаданным и распространяется по лицензии Apache 2.0. Карточка указывает английский язык; качество на других языках отдельно не описано.

OpenOrcaxOpenChat-Preview2-13B — языковая модель, разработанная OpenOrca совместно с OpenChat. Это плотная авторегрессионная модель семейства LLaMA 2 с 12,9 млрд параметров, дообученная на отфильтрованной выборке GPT-4-дополненного датасета OpenOrca с упаковкой диалогов в формате OpenChat. Модель предназначена для генерации текста и диалоговых ответов по инструкциям; в карточке сообщается о результатах примерно на уровне 103% от показателей Orca в среднем на BigBench-Hard и AGIEval. Модель принимает текст и генерирует текст. Карточка приводит шаблон многоходового диалога OpenChat; контекст составляет 4096 токенов. В метаданных указан английский язык. Модель распространяется в формате PyTorch по лицензии Llama 2. Это предварительная версия; заявленные результаты относятся к оценкам авторов, а карточка не описывает ограничения по качеству подробнее.

bartowski/Phi-3.1-mini-128k-instruct-GGUF — это GGUF-квантизованная версия инструкционной языковой модели Phi-3.1-mini-128k-instruct, разработанной Microsoft и подготовленной для распространения пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на вопросы, выполнение инструкций и задачи, связанные с обработкой естественного языка и кодом. Модель работает с текстом, заявлена поддержка английского языка, а контекстное окно составляет до 128 000 токенов. Доступны варианты от F32 до низкобитных квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-разновидностей; размер файлов варьируется примерно от 1,42 до 15,29 ГБ. Более высокие варианты квантования обеспечивают лучшее сохранение качества, а низкобитные требуют меньше оперативной памяти, но могут заметно уступать по качеству. Модель рассчитана на локальный запуск через llama.cpp и совместимые приложения, включая LM Studio. В README не приведены результаты тестирования, точные сведения об архитектуре, аппаратные требования или ограничения по применению, поэтому её возможности нельзя оценить за пределами указанных сценариев. Для модели указана лицензия MIT.

Qwen2-1.5B-Instruct-GGUF — инструкционная языковая модель из семейства Qwen2, разработанного командой Qwen. Она предназначена для диалоговых приложений, генерации и понимания текста, а также может применяться в задачах, связанных с многоязычностью, программированием, математикой и рассуждениями. Модель представлена в формате GGUF и подходит для локального запуска с помощью llama.cpp, включая развёртывание сервера с совместимым с OpenAI API интерфейсом. Модель содержит 1,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях внимания и Group Query Attention. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. В репозитории доступны варианты fp16 и квантованные варианты q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0. Обучение включало предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального запуска и наличие нескольких уровней квантования с различным компромиссом между качеством и требованиями к ресурсам. Ограничения связаны с размером 1,5 млрд параметров: по сравнению с более крупными моделями она может уступать в сложных задачах понимания, генерации, кодирования и рассуждений; конкретные языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

CultriX/Qwen2.5-14B-Hyperionv4 — объединённая языковая модель на архитектуре Qwen2.5, созданная с помощью mergekit. В качестве базовой модели использована CultriX/Qwen2.5-14B-Wernickev3; слияние выполнено методом DARE TIES с участием нескольких моделей семейства Qwen и других производных 14B-моделей. Модель предназначена для генерации текста и диалогового общения, включая сценарии с длинным контекстом до 131 072 токенов. Она поставляется в формате Safetensors и поддерживает интерфейс вызова инструментов. В карточке не заявлена специализация на конкретном языке или прикладной области. Модель содержит 14 млрд параметров. Лицензия в доступных данных не указана.