II.2Создание и понимание программного кода

Это чат-модель для генерации текста на основе Llama 2, дообученная автором manojpreveen на выборке из 100 тысяч примеров Orca, отобранных из набора на миллион примеров GPT-4 Orca (Dolphin). Модель содержит 68,7 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текстовые запросы, генерируя текстовые ответы. Нативная длина контекста — 4096 токенов. Модель предназначена для диалогов и генерации ответов в стиле обучающих данных Orca. В карточке указана лицензия MIT; базовая модель — meta-llama/Llama-2-70b-chat-hf. README не приводит оценок качества или подробных результатов обучения, поэтому пригодность для конкретных задач стоит проверять отдельно.

bartowski/Llama-3.1-Tulu-3-70B-DPO-GGUF — это набор GGUF-квантизаций модели Llama-3.1-Tulu-3-70B-DPO, разработанной Allen Institute for AI (AI2) и дообученной методом DPO на наборе данных allenai/llama-3.1-tulu-3-70B-preference-mixture. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях вроде LM Studio. В README указаны архитектура семейства Llama 3.1, размер 70B параметров, текстовая модальность и поддержка английского языка. Для взаимодействия используется формат промпта с ролями system, user и assistant. Размер и качество зависят от выбранной квантизации: доступны варианты от Q8_0 объёмом 74,98 ГБ до IQ1_M объёмом 16,75 ГБ. Сильной стороной являются многочисленные варианты квантизации, позволяющие выбирать баланс между качеством, скоростью и требованиями к памяти; наиболее рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Более компактные варианты экономят память, но могут заметно снижать качество. Для некоторых вариантов указаны аппаратные ограничения, а файл Q4_0_8_8 не рекомендуется использовать на Mac. Лицензия модели — llama3.1.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-KTO-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-RDPO-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Llama-3-Instruct-8B-SimPO-SPPO-Iter3-merge — объединённая чат-модель на базе Meta Llama 3, созданная с помощью mergekit разработчиками исходных моделей. Веса двух моделей, princeton-nlp/Llama-3-Instruct-8B-SimPO и UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3, объединены методом SLERP. Модель имеет архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Карточка приводит результаты оценок IFEval и BBH; метаданные характеризуют базовую модель как англоязычную. Репозиторий содержит веса Safetensors для Transformers. Лицензия — Llama 3 (llama3).

MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_32Experiment28 — объединённая текстовая модель семейства Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Experiment28-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории используются веса Safetensors. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Matter-0.1-7B-DPO-preview-GGUF — это GGUF-версия языковой модели Matter 7B 0.1, дообученной методом DPO на основе Mistral 7B. Исходная модель разработана 0-hero, а данная версия подготовлена QuantFactory для запуска с помощью движка llama.cpp. Обучение проводилось на наборе Matter, сформированном из более чем 35 датасетов и содержащем свыше 6 миллиардов токенов. Модель предназначена для генерации текста и ведения диалогов на английском языке, включая сценарии conversational AI. Она поддерживает формат промптов ChatML и function calling с использованием специальных токенов для начала и завершения вызова функции и её ответа. Размер модели — 7 миллиардов параметров; архитектура основана на Mistral 7B. Модель может быть удобна для локального инференса благодаря формату GGUF и совместимости с llama.cpp, однако конкретный вариант квантования, размер контекста и требования к ресурсам в README не указаны. Лицензия — Apache 2.0.

Menlo_Jan-nano-128k-GGUF — это набор квантизованных версий языковой модели Jan-nano-128k, разработанной Menlo и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Указана поддержка английского языка и контекст длиной до 128 тысяч токенов, однако сведения об архитектуре, количестве параметров, дополнительных модальностях и точных сценариях применения в README отсутствуют. Доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантований размером примерно от 1,67 до 8,05 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие уменьшают требования к памяти; для большинства случаев автор рекомендует варианты Q4_K_M, Q5 и Q6. Сильные стороны сборки — большой контекст, широкий выбор компромиссов между качеством и размером, а также совместимость с распространёнными инструментами локального вывода. Ограничения связаны с потерями качества при низких уровнях квантования и отсутствием в представленном README данных о результатах тестирования, производительности и требованиях к оборудованию. Модель распространяется по лицензии Apache-2.0.

mergekit-community/mergekit-slerp-xirdwrw — объединённая языковая модель на архитектуре Llama, созданная сообществом с помощью mergekit. В слиянии методом SLERP использованы anthracite-org/magnum-v3-34b и abacusai/Smaug-34B-v0.1; модель содержит 33,9 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. В конфигурации слияния задан профиль, который сочетает влияние моделей в разных слоях; метаданные также указывают поддержку чата. Модель доступна в формате safetensors и использует библиотеку Transformers. README и метаданные не сообщают лицензию и конкретные результаты оценки качества. Практическое качество ответов и пригодность для отдельных сценариев следует проверять на собственных задачах.

mlx-community/Meta-Llama-3.1-8B-Instruct-abliterated-4bit — преобразованная в формат MLX 4-битная версия модели Meta-Llama-3.1-8B-Instruct-abliterated, подготовленная сообществом mlx-community. В основе лежит дообученная Meta Llama 3.1 Instruct с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; модель предназначена для диалоговой генерации текста. Указанное нативное окно контекста — 131 072 токена. Модель подходит для диалогов и генерации ответов в сценариях, где требуется запускать Llama 3.1 на системах Apple через MLX. В названии и тегах исходной модели есть обозначения «abliterated» и «uncensored», однако карточка не описывает конкретные гарантии или пределы такого поведения. Репозиторий указывает лицензию Llama 3.1; использование должно соответствовать её условиям. README сообщает о конверсии в MLX из mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated, а каталог классифицирует базовую связь как дообучение Meta Llama 3.1 Instruct.

CorticalStack/mistral-7b-alpaca-sft — модель генерации текста на базе Mistral, дообученная методом supervised fine-tuning на наборе yahma/alpaca-cleaned. В README указана LoRA-конфигурация с r=256, alpha=128 и dropout=0; метаданные описывают плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации ответов и инструкционно-ориентированного диалога по текстовым запросам. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. В README базовой моделью названа unsloth/mistral-7b-bnb-4bit; подробности о качестве и результатах оценки не приведены.

evolveon/Mistral-7B-Instruct-v0.3-abliterated — версия Mistral-7B-Instruct-v0.3, обработанная методом abliteration, который, согласно карточке, предназначен для создания менее ограниченной версии модели. В основе лежит инструктивная языковая модель Mistral AI; автор карточки благодарит FailSpy за исходный код и методику. Модель предназначена для диалогов и генерации текста по инструкциям. Она построена на архитектуре Mistral с 7,1 млрд параметров, принимает текст и использует контекст до 32 768 токенов. В метаданных указан английский язык; также заявлен интерфейс вызова инструментов. Карточка характеризует модель как uncensored, однако не приводит оценок качества или подробностей проверки. Лицензия в предоставленных данных не указана.

Карточка модели DevQuasar/Mistral-7B-Instruct-v0.3_brainstorm-v3.1 на Hugging Face совпадает с карточкой DevQuasar-2/Luca-MN-bf16-GGUF, поэтому описание составлено по ней. DevQuasar-2/Luca-MN-bf16-GGUF — чат-модель для генерации текста в формате GGUF BF16. По метаданным, это производная от rAIfle/Luca-MN-bf16 модель, доступная для задач генерации текста.

Mistral-7B-v0.3 — языковая модель семейства Mistral, разработанная Mistral AI. Это плотная авторегрессионная модель на 7,1 млрд параметров, основанная на Mistral-7B-v0.2 и отличающаяся расширенным до 32 768 токенов словарём. Модель принимает текст и генерирует текст; максимальный контекст составляет 32 768 токенов. Модель предназначена для генерации текста и может использоваться как базовая модель для текстовых приложений и последующего дообучения. В карточке приведены инструкции для запуска через mistral-inference и Transformers. Указанная лицензия — Apache-2.0. README содержит упоминание об отсутствии механизмов модерации; также его раздел об ограничениях относится к Mistral 7B Instruct, поэтому не позволяет сделать отдельные выводы о качестве или мерах безопасности базовой версии.

Ministral-3-8B-Reasoning-2512-GGUF — это набор GGUF-квантизаций модели Ministral-3-8B-Reasoning-2512, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты, что делает её подходящей для генерации текста и мультимодальных сценариев image-text-to-text, заявленных в карточке модели. В основе лежит модель с размером 8B параметров; доступны варианты от BF16 до квантизаций Q3–Q8 и IQ4 с размером файлов примерно от 4,57 до 16,99 ГБ. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Архитектура и размер контекста в README не указаны, формат промпта также не определён. Сильная сторона набора — широкий выбор уровней квантизации для баланса качества, потребления памяти и скорости локального вывода; варианты Q6_K_L и Q6_K отмечены как близкие к исходному качеству, а Q4_K_M рекомендован как универсальный вариант. Ограничения включают отсутствие подробных сведений о возможностях исходной модели, контекстном окне и качестве работы с изображениями. Модель распространяется по лицензии Apache-2.0.

Mistralopithecus-v1-dpo-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 и mistralopithecus-v1-dpo-7b методом SLERP с помощью mergekit. Это плотная архитектура MistralForCausalLM с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Модель принимает текст и выдаёт текст; длина контекста составляет до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README описывает способ слияния и исходные модели, но не приводит отдельной оценки качества или подробностей о языках и специализированных областях применения.

JANGQ-AI представляет квантованный вариант NVIDIA Nemotron-3-Super-120B-A12B для запуска на Apple Silicon через MLX. Модель использует гибридную архитектуру Mamba-2, Latent MoE и плотного внимания; карточка указывает 6,6 млрд параметров, а README описывает 88 слоёв: 40 Mamba-2, 40 MoE и 8 слоёв внимания. Формат JANG_4M заявлен как 4,1-битный с 8-битной защитой внимания; размер файлов — около 63 ГБ. Контекст составляет 262 144 токена. Модель предназначена для диалоговой генерации текста и задач рассуждения. В README приводятся результаты MMLU 93,0% в режиме рассуждения на тесте из 200 вопросов, а также скорость генерации 55,1 токена в секунду; эти показатели заявлены автором и зависят от условий тестирования. Запуск рассчитан на Mac с Apple Silicon и не менее 64 ГБ объединённой памяти через MLX Studio или библиотеку jang для MLX; карточка заявляет интерфейс вызова инструментов. Базовая модель указана как nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-FP8, а лицензия обозначена как other, поэтому перед использованием следует проверить её условия в карточке модели. README предупреждает, что формат JANG не поддерживают LM Studio, Ollama и oMLX; для запуска нужны совместимые инструменты и значительный объём памяти. Основные языки по метаданным — английский, китайский и корейский.

NeuralsirkrishnaShadow_Experiment24Experiment26 — объединённая языковая модель, опубликованная MaziyarPanahi. Она создана слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment24Experiment26-7B и предназначена для генерации текста. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors под лицензией Apache-2.0. README не описывает специальные области применения или языки, поэтому её можно охарактеризовать как модель общего назначения; качество и поведение могут зависеть от использованных при слиянии моделей.

NoromaidxOpenGPT4-2 — текстовая генеративная модель, созданная NeverSleep слиянием моделей Noromaid-8x7b-Instruct и Open_Gpt4_8x7B_v0.2 методом TIES. В карточке указано, что при слиянии Open_Gpt4_8x7B_v0.2 использовалась как базовая модель; в метаданных также перечислены Mixtral-8x7B-Instruct-v0.1 и Noromaid-v0.1-mixtral-8x7b-Instruct-v3 как компоненты слияния. Модель основана на архитектуре Mixtral с разреженной смесью экспертов (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста по инструкциям и диалоговых сценариев; README показывает шаблоны Alpaca и Mistral. Доступны веса в формате safetensors, а для использования требуется учитывать совместимую библиотеку Transformers. Лицензия — CC-BY-NC-4.0, поэтому коммерческое использование ограничено условиями лицензии. Метка NSFW в метаданных указывает на возможность взрослого контента; перед применением следует учитывать требования к модерации и аудитории.

Это GGUF-представление модели nothingiisreal/L3.1-70B-Celeste-V0.1-BF16, подготовленное Featherless AI. Модель предназначена для генерации текста в диалоговом режиме и может использоваться как чат-модель общего назначения. Базовая модель — дообученная версия семейства Llama 3.1 с 70 млрд параметров. В репозитории доступны варианты квантования IQ4_XS, Q2_K и Q3_K_L, а также другие варианты. В метаданных формат обозначен как GGUF BF16. Квантованные файлы уменьшают размер модели для локального запуска, но могут снижать качество по сравнению с полной точностью. Сведения о поддерживаемых языках, длине контекста и лицензии в предоставленных материалах отсутствуют.

Это 4-битная версия модели Nous-Hermes-2-Mixtral-8x7B-DPO, преобразованная в формат MLX сообществом mlx-community. Она основана на дообученной NousResearch модели Mixtral-8x7B и предназначена для диалоговой генерации текста и выполнения инструкций. Архитектура — разреженная Mixture of Experts (MoE); модель поддерживает контекст до 32 768 токенов и рассчитана на английский язык. Модель подходит для чат-ботов, ответов на вопросы, помощи с письмом и других задач генерации текста по инструкциям. Репозиторий содержит веса в формате safetensors и предназначен для запуска с MLX. Лицензия — Apache-2.0.

Это инструкция-направленная версия OLMo 3 3B SiameseNorm + DepthAttention, экспортированная в Hugging Face из чекпойнта Stage 4 после 3252-й итерации. Модель разработана как экспериментальный вариант архитектуры OLMo 3 с обученными компонентами SiameseNorm и DepthAttention; это плотная причинная языковая модель примерно на 3,2 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные также отмечают интерфейс вызова инструментов. Модель загружается через Transformers с пользовательским кодом репозитория. Внимание чередует три слоя с локальным скользящим окном и один слой полного внимания; окно SWA составляет 4096 токенов, а заявленная ёмкость контекста — 65536 токенов. При обучении использовалась последовательность длиной 32768 токенов. Карточка не приводит сведения о поддерживаемых естественных языках. Для загрузки требуются Transformers версии от 4.57.6 до 5, а также `trust_remote_code=True`; указана лицензия Apache 2.0.

TheBloke опубликовал веса OpenAssistant LLaMA 30B SFT 7 в формате Hugging Face Transformers. Это плотная авторегрессионная модель семейства Llama с 32,3 млрд параметров, полученная слиянием XOR-весов OpenAssistant с исходными весами Llama 30B; чекпойнт соответствует седьмой эпохе обучения OpenAssistant. Модель предназначена для генерации текста в диалогах и ответах на запросы. Окно контекста — 2048 токенов. Репозиторий содержит веса PyTorch. В метаданных указана лицензия «other», а конкретные условия использования в предоставленной карточке не раскрыты.

Openchat-Passthrough-2 — объединённая языковая модель, созданная с помощью mergekit из openchat/openchat-3.5-1210 и openchat/openchat-3.5-0106. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 10,6 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Она принимает текстовые запросы и выдаёт текстовые ответы; заявленная длина контекста составляет 8192 токена. Веса опубликованы в формате safetensors, конфигурация слияния использует bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не сообщает о специализированных областях применения или об отдельных оценках качества этой версии.

OpenOrca-Platypus2-13B-imatrix-GGUF — набор imatrix-квантизированных версий модели OpenOrca-Platypus2-13B, разработанной на основе объединения garage-bAInd/Platypus2-13B и Open-Orca/OpenOrcaxOpenChat-Preview2-13B. Модель предназначена для генерации текста и выполнения инструкций; в карточке указано, что она относится к текстовым моделям и поддерживает английский язык. Это 13-миллиардная модель в формате GGUF, ориентированная на запуск средствами, совместимыми с GGUF. Для базовой версии Platypus2-13B указан шаблон запросов с секциями «### Instruction» и «### Response»; для варианта OpenChat рекомендуется шаблон OpenChat Llama2 V1. Дополнительные сведения об архитектуре, размере контекста, поддерживаемых модальностях и практических характеристиках не приведены. В карточке не указаны конкретные преимущества, ограничения производительности или требования к оборудованию. Лицензия обозначена как other, без подробного описания условий использования, поэтому перед применением необходимо ознакомиться с лицензиями исходных моделей и условиями распространения данной сборки.

Ornith-1.5-9B-UNCENSORED-GGUF — квантованная мультимодальная версия модели Ornith 1.5 9B, основанной на ornith-ai/Ornith-1.5. Репозиторий подготовлен Dealign.ai. Модель предназначена для генерации и анализа текста, задач рассуждения, а также обработки изображений вместе с текстовыми запросами через llama.cpp. Вариант CRACK-abliterated уменьшает или устраняет стандартное отказное поведение и защитные ограничения модели. Модель использует гибридную архитектуру GatedDeltaNet (SSM) и attention, поддерживает режим рассуждений с выводом трассы <think> и работу с изображениями через отдельный vision projector mmproj-Ornith-1.5-9B-f16.gguf. Доступны квантования GGUF Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q3_K_M и Q2_K размером примерно от 3,6 до 8,9 ГБ; сбалансированным вариантом разработчик называет Q4_K_M. В README не указаны поддерживаемые языки и максимальный контекст, однако приведены примеры запуска с контекстом 8192 токена. К сильным сторонам относятся сохранение знаний и качества рассуждений относительно базовой модели, поддержка vision-language сценариев и возможность локального запуска. По данным заявленных тестов, разница MMLU между базовой и изменённой моделью при одинаковом квантовании не превышает 3 процентных пунктов. Основное ограничение — практически полное отсутствие защитных барьеров: в HarmBench указана высокая доля успешных ответов на вредоносные запросы, включая темы киберпреступности, химии, биологии и незаконной деятельности. Поэтому модель требует ответственного и законного применения. Распространяется по лицензии MIT, унаследованной от базовой модели.

Phi-3-mini-128k-instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционной языковой модели microsoft/Phi-3-mini-128k-instruct, подготовленная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, в частности llama.cpp. В репозитории представлены варианты от исходных BF16 и F16 до различных уровней квантизации Q- и IQ-семейств, что позволяет выбирать между качеством, размером файла и требованиями к ресурсам. Для ряда вариантов применена IMatrix-квантизация на основе доступного калибровочного набора данных. Модель работает с текстом, заявлена для английского языка и имеет контекстное окно 128 тысяч токенов, унаследованное от базовой Phi-3-mini-128k-instruct. В README не указаны точное число параметров и подробности архитектуры базовой модели. Ключевые преимущества этой версии — широкий выбор форматов GGUF, возможность локального инференса и уменьшение размера модели за счёт квантизации; при этом более низкие уровни квантизации могут снижать качество по сравнению с BF16 или F16. Репозиторий распространяется по лицензии MIT, указанной для базовой модели.

Q3.6-27B-DS-v4-Flash-DA-GGUF — экспериментальная GGUF-версия модели, разработанная prithivMLmods. В её основе — Qwen/Qwen3.6-27B и производная prithivMLmods/Qwen3.6-27B-abliterated-rMAX; модель дополнительно обучалась на дистиллированных рассуждениях DeepSeek V4 Flash с применением анализа и абляции направлений отказа. Заявленная цель — улучшить подробное контекстное рассуждение и следование инструкциям при снижении внутренних механизмов отказа. Модель предназначена для генерации текста, исследовательских и учебных экспериментов, а также сценариев, где важны рассуждение и развёрнутые ответы. В репозитории представлены варианты в форматах BF16, F16 и различных степенях квантования Q2_K–Q8_0; размеры файлов составляют примерно от 10,7 до 53,8 ГБ. В метаданных указан английский язык. Также доступны файлы mmproj, что указывает на заявленную поддержку мультимодального режима, однако подробности о поддерживаемых модальностях, размере контекста и фактических возможностях обработки изображений не приведены. К сильным сторонам относятся фокус на reasoning, контекстно-зависимые ответы и instruction following. Ограничения включают экспериментальный статус, возможное появление артефактов и сниженные механизмы отказа, из-за чего модель может генерировать чувствительный или неограниченный контент. Использование заявлено для исследований и обучения; модель распространяется по лицензии Apache-2.0.

Qwen1.5-14B — базовая предварительно обученная языковая модель от команды Qwen, бета-версия семейства Qwen2. Это плотная авторегрессионная модель-декодер на архитектуре Transformer с 13,4 млрд параметров, предназначенная для генерации текста и последующего дообучения под чат и другие сценарии. В карточке заявлена поддержка контекста до 32 768 токенов и многоязычного токенизатора; метаданные указывают английский язык карточки. Модель использует архитектуру Qwen2ForCausalLM. Для семейства упоминаются SwiGLU, смещение в проекциях QKV и групповое внимание, однако в бета-версии для этой модели временно отсутствуют GQA и сочетание скользящего и полного внимания. Авторы не рекомендуют использовать базовые модели серии непосредственно для генерации текста и советуют сначала провести постобучение, например SFT, RLHF или продолжить предобучение. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

mlx-community/Qwen2.5-1.5B-Instruct-bf16 — конверсия в формат MLX модели Qwen/Qwen2.5-1.5B-Instruct, выполненная сообществом mlx-community с помощью mlx-lm версии 0.18.1. Это плотная авторегрессионная языковая модель семейства Qwen2.5 с 1,5 млрд параметров, предназначенная для генерации текста в диалоговом режиме и вызова инструментов через соответствующий интерфейс. Она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Репозиторий содержит веса safetensors; для использования с MLX в README приведена установка mlx-lm. Лицензия — Apache-2.0.