II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельDazzlingXeno/Mystery-Magnum — языковая модель, созданная объединением предварительно обученных моделей методом Model Stock с помощью mergekit. Базой служит 01-ai/Yi-1.5-34B-32K; в объединение также вошли anthracite-org/magnum-v3-34b и TheSkullery/Y1.5-MS-Mysteria-34b. Модель с плотной архитектурой семейства Llama содержит 33,9 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста. Веса доступны в формате safetensors; для запуска указана библиотека Transformers. Карточка не описывает конкретные сильные стороны или ограничения модели. Условия лицензии в предоставленных данных не приведены.
NeuralDareDMistralPro-slerp — объединённая модель на основе mlabonne/NeuralDaredevil-7B и NousResearch/Hermes-2-Pro-Mistral-7B, созданная автором репозитория методом slerp с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста; базовые модели ориентированы на диалоги и выполнение инструкций, однако отдельные возможности объединённой модели в карточке не описаны. Модель распространяется в формате safetensors по лицензии Apache-2.0.
NeuralsirkrishnaShadow_AlloyingotneoyExperiment24 — объединённая методом SLERP модель Mistral, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/AlloyingotneoyExperiment24-7B. Она содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста, включая диалоговые сценарии. Контекст модели — до 32 768 токенов; веса опубликованы в формате safetensors. Модель подходит для генерации ответов и продолжения текста. Репозиторий создан 9 апреля 2024 года и распространяется по лицензии Apache-2.0. Карточка не сообщает о специальной предметной области или гарантированных характеристиках качества.
NeuralsirkrishnaShadow_Experiment28Inex12 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment28Inex12-7B. Она предназначена для генерации текста и может использоваться в диалоговых и текстовых приложениях. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальные предметные области или подтверждённые ограничения качества, поэтому её возможности следует оценивать на целевых задачах.
NeuralStock-7B — объединённая языковая модель семейства Mistral, созданная Kukedlc с помощью LazyMergekit из liminerity/M7-7b, Gille/StrangeMerges_32-7B-slerp и automerger/YamShadow-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст. Заявленная длина контекста составляет 32 768 токенов. В README указаны метод объединения model_stock и формат весов bfloat16; репозиторий содержит файлы safetensors. Данные не устанавливают специализированные области применения или основной язык. Карточка не сообщает результатов оценки качества или известных ограничений, поэтому пригодность для конкретных сценариев следует проверять отдельно. Лицензия в предоставленных данных не указана.
Kukedlc/NeuralStockFusion-7b — слитая с помощью mergekit методом Model Stock языковая модель на архитектуре Mistral. В объединение вошли Kukedlc/NeuralArjuna-7B-DT, Kukedlc/NeuralMaths-Experiment-7b, Kukedlc/NeuralSirKrishna-7b и Kukedlc/NeuralSynthesis-7B-v0.1; базовой моделью при слиянии была Kukedlc/NeuralSirKrishna-7b. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста и диалогов. Контекстное окно — 32 768 токенов; файлы представлены в формате safetensors, библиотека — Transformers. Модель подходит для диалоговых сценариев и генерации текста общего назначения, включая задачи, отражённые в объединённых моделях, такие как математика и синтез текста. Каталог характеризует базовую модель как англоязычную и испаноязычную; отдельного подтверждения поддержки других языков нет. Лицензия — Apache-2.0.
Norns-Qwen2.5-12B — языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM, опубликованная пользователем win10. В репозитории указаны 11,7 млрд параметров, контекст до 32 768 токенов и формат весов safetensors; модель предназначена для генерации текста и диалогового общения. Модель создана с помощью mergekit методом passthrough merge на основе win10/Norns-Qwen2.5-7B. Метаданные также отмечают эту базовую модель как дообученную. Модель работает с текстом и поддерживает чатовый сценарий; сведения о конкретных языках и специализированных областях применения в карточке отсутствуют. Лицензия в предоставленных данных не указана. Карточка не приводит результатов оценки качества или специальных ограничений, поэтому пригодность для конкретных задач следует проверять отдельно.
NousResearch_Hermes-4-14B-GGUF — набор квантованных версий языковой модели Hermes-4-14B, разработанной NousResearch и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от исходных весов BF16 размером около 29,54 ГБ до квантований Q2 и IQ3 размером примерно 6,38–15,70 ГБ. В README рекомендуются варианты Q4–Q6 как компромисс между качеством и требованиями к памяти; версии с более низкой разрядностью подходят для систем с ограниченным объёмом RAM, но могут заметно уступать по качеству. Для модели доступны только текстовые сценарии, сведения о поддерживаемых языках, длине контекста, архитектурных деталях и формате промптов в этом README не указаны. Основные преимущества — широкий выбор размеров файлов, возможность локального запуска и применение imatrix-калибровки при квантовании. Ограничения связаны с потерями качества в низкоразрядных вариантах, зависимостью от совместимого ПО и отсутствием в предоставленных данных информации о лицензии оригинальной модели и квантованных файлов.
tomaszki/nous-thirty-four-0 — текстовая модель генерации на архитектуре Llama, созданная слиянием предварительно обученных языковых моделей методом SLERP с помощью mergekit. В слиянии участвовали newer_model_12 и deepnet/SN6-30; метаданные каталога указывают deepnet/SN6-30 как базовую модель. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Карточка не сообщает специализированных областей применения, языков или дополнительных возможностей. Лицензия в предоставленных данных не указана.
AnubisLemonade-70B-v1-GGUF — это квантизированная версия текстовой генеративной модели AnubisLemonade-70B-v1, разработанной ockerman0. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска. Модель содержит около 70 миллиардов параметров и работает в сценариях генерации текста, включая диалоговое взаимодействие и выполнение текстовых запросов. Она совместима с llama.cpp, LM Studio и другими проектами на базе llama.cpp. В README приведён специальный шаблон промпта с ролями system, user и assistant, а также указаны даты отсечения знаний и текущей даты для этого шаблона. Доступны варианты квантизации от Q8_0 до Q2_K_L, различающиеся размером файлов, требованиями к памяти и качеством генерации. Наиболее качественными и рекомендуемыми обозначены Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; младшие варианты экономят память, но могут заметно снижать качество. Большой размер модели ограничивает запуск на устройствах с небольшим объёмом оперативной или видеопамяти. Сведения о поддерживаемых языках, длине контекста, мультимодальности и лицензии в README не указаны.
OctoThinker-8B-Long-Base-GGUF — набор GGUF-квантизаций базовой языковой модели OctoThinker-8B-Long-Base, разработанной авторами Zengzhi Wang, Fan Zhou, Xuefeng Li и Pengfei Liu. Модель построена на семействе Llama-3 и предназначена для генерации текста, математических задач, рассуждений и использования в сценариях, где требуется основа, удобная для последующего reinforcement learning. Модель прошла двухэтапное промежуточное обучение по методике Stable-then-Decay на крупномасштабных математических данных MegaMath-Web-Pro-Max и разнообразных данных с длинными цепочками рассуждений. Заявленные преимущества — быстрое схождение и повышенная стабильность при обучении с подкреплением. В README указан английский язык и текстовая модальность; размер базовой модели — 8B параметров, однако максимальная длина контекста не указана. Предлагаются варианты от F16 примерно на 16,1 ГБ до Q2_K примерно на 3,0 ГБ. Более высокие разрядности обеспечивают лучшее качество, а низкоразрядные варианты снижают требования к памяти, но могут заметно ухудшать результаты. Модель совместима с llama.cpp, llama-cpp-python, LM Studio и Ollama. Лицензия указана как llama3.2; дополнительные ограничения и условия распространения в README не раскрыты.
OpenCM-14 — языковая модель для генерации текста, созданная cookinai как дообучение модели cookinai/CM-14 на датасете teknium/openhermes. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоговом формате ChatML и исправляет ошибки токена остановки и шаблона запросов, отмеченные в предыдущей версии. Автор предупреждает о возможных ошибках и переобучении; модель описана как первый эксперимент автора. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но запрещающая коммерческое применение.
OpenLLaMA 13B — авторегрессионная языковая модель семейства LLaMA, разработанная OpenLM Research как открытая репликация LLaMA. Модель содержит 12,9 млрд параметров и обучена с нуля на корпусе RedPajama объёмом около 1,2 трлн токенов; архитектура и параметры обучения следуют работе LLaMA. Доступны веса PyTorch, контекст составляет 2048 токенов. Модель предназначена для продолжения текста и генерации ответов по текстовому запросу, а также для оценки языковых моделей и экспериментов с few-shot-примерами. В опубликованных оценках она показывает сопоставимые с исходной LLaMA 13B и GPT-J результаты по большинству задач, хотя эти результаты зависят от протокола оценки. README предупреждает, что fast tokenizer может выполнять токенизацию некорректно; рекомендуется использовать LlamaTokenizer или AutoTokenizer с use_fast=False. Для few-shot-оценки рекомендуется добавлять BOS-токен. Лицензия Apache-2.0.
Open_Neural_Monarch_Maidv0.1 — языковая модель для генерации текста и диалогов, созданная объединением предварительно обученных моделей с помощью mergekit. В состав вошли Intel/neural-chat-7b-v3-1, NeverSleep/Noromaid-7B-0.4-DPO, teknium/OpenHermes-2.5-Mistral-7B и mlabonne/Monarch-7B; базой для слияния указана mistralai/Mistral-7B-v0.1. Использован метод DARE TIES. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов. Предназначена для генерации текста и ведения диалога. В README приведены результаты нескольких тестов Open LLM Leaderboard, включая среднюю оценку 69,28. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Сведения о поддерживаемых естественных языках в предоставленных источниках отсутствуют.
mlabonne/OrcaGemma-2B — плотная языковая модель Gemma с 2,5 млрд параметров, созданная дообучением google/gemma-2b на наборе Open-Orca/SlimOrca-Dedup с использованием Axolotl. Она предназначена для генерации текста и ответов на запросы, в том числе в диалогах и задачах суммаризации. Контекст модели составляет 8192 токена. В README приведено сравнение на наборе бенчмарков Nous: модель показывает средний результат 35,63, уступая Gemmalpaca-2B и gemma-2b-it в среднем по указанной таблице. Карточка указывает лицензию other; конкретные условия использования следует сверять с лицензией базовой модели и условиями репозитория.
llama_3_orca_mini_v5_8b_dpo — диалоговая языковая модель общего назначения, созданная Pankaj Mathur на архитектуре Llama 3. Это плотная модель примерно на 7,5 млрд параметров, обученная с использованием наборов данных для DPO и предназначенная для общения и генерации текста. Карточка приводит формат промпта ChatML и результаты нескольких тестов рассуждения и следования инструкциям. Модель подходит для диалогового помощника, ответов на вопросы и генерации текста на английском языке. Контекстное окно составляет 8192 токена; веса доступны в форматах PyTorch и Safetensors. Для дальнейшей настройки и объединения с другими моделями автор разрешает использовать модель при условии указания авторства. Лицензия в метаданных — Llama 3.
dealignai/Ornith-1.5-9B-UNCENSORED-GGUF — квантизированная GGUF-версия мультимодальной модели Ornith 1.5 9B, разработанной Ornith AI и подготовленной Dealign.ai. Модель предназначена для запуска через llama.cpp и поддерживает работу с текстом и изображениями; для визуального ввода требуется отдельный проектор mmproj. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q3_K_M и Q2_K объёмом примерно от 3,6 до 8,9 ГБ. Архитектура Ornith 1.5 сочетает GatedDeltaNet (SSM) и attention. Модель поддерживает рассуждения с выдачей трассы <think>, включённые по умолчанию, а также сценарии анализа изображений и генерации текста. В README приведён пример контекста 8192 токена для llama-server, однако максимальный размер контекста явно не указан. Вариант Q4_K_M рекомендован как сбалансированный по качеству и размеру; для изображений с любой текстовой квантизацией используется один и тот же vision-проектор. Главная особенность сборки — удаление или ослабление отказов и защитных ограничений с сохранением заявленных знаний, связности и возможностей рассуждения. По данным README, разница с базовой моделью по MMLU не превышает 3 процентных пунктов, однако низкие уровни квантизации заметно снижают абсолютное качество, особенно Q2_K. Из-за сниженных защитных механизмов модель может генерировать опасный, незаконный или вредоносный контент, поэтому её следует использовать ответственно и законно. Лицензия — MIT, унаследованная от базовой модели.
Ouro-2.6B — языковая модель ByteDance с 2,6 млрд параметров на архитектуре Looped Language Model: это декодерный Transformer из 24 слоёв с общими весами, которые повторно применяются на четырёх рекуррентных шагах. Модель предназначена для генерации текста и диалогового взаимодействия; рекуррентные вычисления в скрытом пространстве поддерживают рассуждения, а механизм раннего выхода позволяет менять объём вычислений и баланс между скоростью и качеством. Модель принимает текст и генерирует текст, поддерживает контекст до 65 536 токенов. В README заявлена эффективность по числу параметров на уровне стандартных моделей размером 3–4 млрд параметров, но независимые показатели качества не приведены. Для адаптивного раннего выхода требуется совместимая среда: при использовании vLLM модель всегда выполняет все заданные рекуррентные шаги. Лицензия — Apache 2.0; README предупреждает, что модель предназначена для исследований и предоставляется без гарантий для производственного использования.
Oxide-F2-7B-slerp — текстовая генеративная модель на основе Mistral, созданная weezywitasneezy путём слияния двух моделей с помощью LazyMergekit и метода slerp: OxytocinErosEngineeringFX-7B-slerp и BenchmarkEngineering-F2-7B-slerp. В конфигурации указана базовая модель OxytocinErosEngineeringFX-7B-slerp; для слоёв self-attention и MLP заданы отдельные коэффициенты смешивания. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors. Максимальная длина контекста составляет 32 768 токенов. Предназначена для генерации текста; карточка не уточняет специализированные сценарии или поддерживаемые языки. Для неё доступна отдельная публикация квантованных версий GGUF. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но ограничивающая коммерческое применение. README не приводит оценок качества или подробных ограничений модели.
OxytocinEngineering-v2-45B-passthrough — языковая модель семейства Llama, созданная слиянием Sao10K/Fimbulvetr-11B-v2 и NeverSleep/CausalLM-RP-34B с помощью LazyMergekit. Используется для генерации текста и диалогов; карточка указывает возможность чат-взаимодействия. Слияние выполнено методом passthrough с сохранением заданных диапазонов слоёв, а веса представлены в формате Safetensors и типе bfloat16. Модель содержит 60,7 млрд параметров и имеет нативный контекст до 200 000 токенов. В карточке не описаны конкретные языки, специализированные области или оценка качества. Условия лицензии в предоставленных данных не указаны.
palmer-004 — компактная языковая модель семейства Llama, созданная Appvoid объединением нескольких моделей. Она предназначена для генерации текста и ответов на запросы; автор отмечает, что модель склонна отвечать без специального промпта и её можно дополнительно дообучить под конкретную задачу. Модель содержит около 1 млрд параметров, поддерживает контекст до 32 768 токенов и доступна в форматах Safetensors и GGUF F16. В README приведены результаты тестов MMLU, ARC-C, HellaSwag, PIQA и Winogrande: средний результат palmer-004 составляет 0,5244. По сравнению с palmer-004-old улучшились показатели на четырёх тестах, но немного снизился результат Winogrande. Автор также отмечает, что palmer-003 может быть предпочтительнее, если длинный контекст не нужен. Лицензия — Apache-2.0.
duyntnet/Phi-3-medium-4k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-Medium-4K-Instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалоговых сценариев с инструкциями, включая ответы на вопросы, объяснения и решение задач. Она рассчитана прежде всего на использование в формате чата и поддерживает английский язык. Исходная модель относится к семейству Phi-3 и имеет контекст до 4K токенов; README также указывает размер словаря токенизатора до 32 064 токенов. В данном репозитории представлены квантизированные варианты с использованием imatrix в формате GGUF, совместимые с llama.cpp после указанного в README коммита. Конкретные уровни квантования и размер параметров в предоставленных данных не указаны. Сильными сторонами являются инструкционно-ориентированное поведение, поддержка многоходовых диалогов и возможность локального запуска через совместимые инструменты для GGUF. Ограничения включают англоязычную специализацию, контекст в 4K токенов и возможное снижение качества, зависящее от выбранного уровня квантования. Для работы могут потребоваться актуальные версии поддерживающего ПО и корректный chat format. Лицензия указана как other; дополнительные условия лицензирования в README не приведены.
TeeZee/Phi-3-mini-4k-instruct-LASER — версия Phi-3-mini-4k-instruct от Microsoft, обработанная с помощью скриптов LASER из laserRMT. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,7 млрд параметров и контекстом до 4096 токенов, предназначенная для генерации текста и диалогового взаимодействия. В README сообщается о снижении perplexity по сравнению с базовой моделью; независимые результаты оценки ещё не представлены. Модель принимает текст и генерирует текст. Репозиторий распространяется по лицензии MIT.
Nitral-AI/Poppy_Porpoise-v0.7-L3-8B — объединённая автором модель на архитектуре Llama для генерации текста и диалогового общения. В метаданных указаны 7,5 млрд параметров и контекст до 8192 токенов; для работы с изображениями README упоминает мультимодальную версию с файлом Llava MMProj и актуальными версиями Koboldcpp. Модель может использоваться для диалогов и генерации текстовых ответов, а при подключении указанного проектора — для сценариев с изображениями. Веса опубликованы в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.
Progenitor-V1.1-LLaMa-70B — экспериментальная модель генерации текста, созданная Tarek07 путём объединения нескольких предварительно обученных моделей Llama. Для слияния использован mergekit с методом Della Linear и базой nbeerbower/Llama-3.1-Nemotron-lorablated-70B; также включены EVA-LLaMA-3.33-70B-v0.1, L3.1-70B-Hanami-x1, 70B-L3.3-Cirrus-x1, Anubis-70B-v1 и Negative_LLAMA_70B. Модель содержит 69,5 млрд параметров, использует архитектуру Llama для авторегрессионной генерации текста и поддерживает контекст до 131 072 токенов. Она предназначена для диалога и свободной генерации текста; в метаданных также отмечен интерфейс вызова инструментов. Карточка описывает её как личный эксперимент по объединению понравившихся автору моделей и сообщает, что результаты ему понравились, но не приводит количественных оценок качества. Лицензия — Llama 3.3. Ограничения и условия коммерческого использования следует сверять с её условиями; конкретные оценки качества и подробные рекомендации по применению в карточке не приведены.
Карточка модели vilm/Quyen-SE-v0.1 на Hugging Face совпадает с карточкой vilm/Quyen-Pro-v0.1, поэтому описание составлено по ней. Quyen-Pro-v0.1 — чат-языковая модель серии Quyen, разработанной vilm на основе семейства Qwen. Версия Pro обучена с применением supervised fine-tuning (SFT) и direct preference optimization (DPO); в карточке указаны обучающие наборы OpenHermes-2.5, Capybara, Orca DPO и частные данные. Модель использует архитектуру Qwen2ForCausalLM с плотными весами, содержит 13,4 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста по запросу; для форматирования диалога используется ChatML. Карточка не приводит результатов бенчмарков, поэтому качество для конкретных задач по ней оценить нельзя. Модель опубликована в формате safetensors для Transformers. Лицензия обозначена как other, конкретные условия использования в предоставленных данных не раскрыты.
Карточка модели vilm/Quyen-v0.1 на Hugging Face совпадает с карточкой vilm/Quyen-Pro-v0.1, поэтому описание составлено по ней. Quyen-Pro-v0.1 — чат-языковая модель серии Quyen, разработанной vilm на основе семейства Qwen. Версия Pro обучена с применением supervised fine-tuning (SFT) и direct preference optimization (DPO); в карточке указаны обучающие наборы OpenHermes-2.5, Capybara, Orca DPO и частные данные. Модель использует архитектуру Qwen2ForCausalLM с плотными весами, содержит 13,4 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста по запросу; для форматирования диалога используется ChatML. Карточка не приводит результатов бенчмарков, поэтому качество для конкретных задач по ней оценить нельзя. Модель опубликована в формате safetensors для Transformers. Лицензия обозначена как other, конкретные условия использования в предоставленных данных не раскрыты.
Atomic-Germ/Qwable-Claude-Fable-5-Distilled-NPU2 — это квантованный порт модели empero-ai/Qwable-9B-Claude-Fable-5, подготовленный разработчиком Atomic-Germ для инференса на NPU AMD XDNA. Модель собрана в формате Q4NX для среды выполнения FastFlowLM и не является файлом GGUF. Указанный размер исходной модели — 9 млрд параметров, размер файла весов model.q4nx — 7,11 ГБ. Модель поддерживает языковые и визуальные входы и ориентирована на агентное программирование, работу с кодом и мультимодальные сценарии, включая анализ изображений. В репозитории также присутствуют отдельные веса vision-модуля, токенизатор и шаблон диалога. Для работы требуется FastFlowLM версии 1.0.1 и совместимое оборудование AMD XDNA NPU; запуск предусмотрен через утилиту flm-add и runtime FastFlowLM. Ключевое преимущество модели — адаптация под локальный NPU-инференс с использованием квантования Q4NX, что может снизить требования к памяти и повысить практичность запуска на совместимом оборудовании. Ограничения включают зависимость от FastFlowLM и AMD XDNA, отсутствие совместимости с GGUF, а также отсутствие в карточке сведений о поддерживаемых языках, размере контекстного окна, точных характеристиках архитектуры и результатах оценки качества. Лицензия в предоставленном README не указана.
netcat420 объединил модели jeffmeloy/Qwen2.5-7B-nerd-uncensored-v0.9 и netcat420/Qwen2.5-MFANN-7b методом SLERP с помощью mergekit. Это плотная авторегрессионная языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров; веса опубликованы в формате safetensors. Модель предназначена для диалоговой генерации текста, а интерфейс репозитория также отмечает поддержку вызова инструментов. Модель принимает текст и генерирует текст. Заявленное базовое контекстное окно составляет 32 768 токенов. Карточка характеризует её как uncensored, но не приводит оценок качества или подробных ограничений применения. Лицензия в предоставленных данных не указана.
Это экспериментальный чекпойнт компактной языковой модели Qwen2.5-1.5B-Instruct, дообученный командой huggingFacing методом дистилляции знаний из Qwen2.5-7B-Instruct. Он относится к абляционной серии для метода LiftKD: вариант использует разрывный gate и статические веса влияния Head и Top на уровне эпохи. Модель предназначена для генерации текста и диалоговых ответов; её можно применять для инструктивного общения и создания структурированных ответов. Архитектура — плотная Qwen2ForCausalLM с 1,5 млрд параметров, контекстное окно — до 32 768 токенов; репозиторий содержит веса SafeTensors для Transformers. Дообучение выполнено на 96 000 примерах и отдельном контроллерном наборе из 2 000 примеров, с 1 500 шагами оптимизации.