I.3Извлечение и структурирование данных

BenevolenceMessiah/QwQ-32B-Preview-Self-instruct-4x-TIES-MGS-v1.0 — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit на основе Qwen/QwQ-32B-Preview и моделей TheBeagle, EVA-Qwen2.5 и Rombos. Она предназначена для диалоговой генерации текста и может применяться для ответов на вопросы, рассуждений и помощи с программированием. Модель содержит 32 млрд параметров, принимает текст и выдаёт текст; нативное окно контекста — 32 768 токенов. Репозиторий содержит веса Safetensors для библиотеки Transformers. Карточка не сообщает лицензию и не описывает отдельные результаты оценки качества; характеристики базовой QwQ указывают на ориентацию на рассуждения и код, но не гарантируют их качество после слияния.

QWQ-EVA-Preview-SLERP-32b — языковая модель на 32 млрд параметров, созданная слиянием ParasiticRogue/EVA-Instruct-32B-v2 и Qwen/QwQ-32B-Preview методом SLERP с помощью mergekit. Она предназначена для диалоговой генерации текста; базовые модели также ориентированы на математические рассуждения и программирование, поэтому модель может быть полезна в таких сценариях, однако README не приводит отдельных оценок её возможностей. Модель построена на архитектуре Qwen2ForCausalLM, принимает текст и выдаёт текст, поддерживает контекст до 131072 токенов и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0.

Карточка модели chrischain/Satoshi1337-8B на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Эта версия принимает текст и генерирует текст, в том числе код; карточка репозитория описывает предварительно обученные и настроенные варианты семейства, но не уточняет, какой именно вариант представлен в этом репозитории. Модель предназначена для генерации текста на английском языке. Предварительно обученную версию можно адаптировать для разных задач генерации естественного языка, а настроенные варианты предназначены для диалоговых сценариев. Архитектура основана на оптимизированном Transformer и использует Grouped-Query Attention; размер модели — 7,5 млрд параметров, длина контекста — 8192 токена. Модель подходит для создания разговорных помощников, генерации и продолжения текста и кода. Результаты требуют проверки, а для приложения следует настроить дополнительные меры безопасности под конкретную аудиторию и сценарий. Лицензия — специальная коммерческая лицензия Meta Llama 3 с условиями использования и ограничениями; перед внедрением необходимо ознакомиться с её текстом и Acceptable Use Policy.

Spark-X2.5-4B-ASHQ1-GGUF — выпущенная wepiqx версия модели Spark-X2.5-4B в формате GGUF с квантованием ASHQ1 и калибровкой imatrix. Это плотная decoder-модель архитектуры spark2_5 примерно на 4,1 млрд параметров с 36 блоками, группированным многозапросным вниманием и чередованием полных и скользящих окон внимания. Нативный контекст базовой модели — до 1 млн токенов. Модель предназначена для диалога и генерации текста; базовая Spark-X2.5-4B также рассчитана на код, рассуждения, перевод и агентные сценарии. Репозиторий содержит варианты квантования разного размера: автор рекомендует ASHQ1 на 4000 MiB, для которого указано небольшое ухудшение perplexity относительно Q8_0 при экономии места. Приведённые измерения сделаны на сыром тексте без шаблона чата, а сам автор считает сравнение предварительным. Модель работает в llama.cpp со штатной поддержкой архитектуры spark2_5. Указана лицензия Apache-2.0. README описывает главным образом процесс квантования и результаты теста perplexity, а не отдельные оценки качества на прикладных задачах.

Trismal-NeurAmoclion-7B-Base-Ties — объединённая модель на основе Mistral, созданная JoPmt с помощью LazyMergekit. Она объединяет JoPmt/Trismal-HyperAmocles-7B-Base-Ties и Locutusque/NeuralHyperion-2.0-Mistral-7B методом TIES. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст до 32 768 токенов. Модель предназначена для генерации текста. Описание базовой модели указывает на поддержку сложных вопросов, научных рассуждений, генерации кода и диалогов; README не уточняет, насколько эти возможности сохраняются после слияния. Доступные сведения не описывают лицензию или языки модели.

Tulu 7B — языковая модель Allen Institute for AI (AI2), полученная дообучением LLaMA 7B на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров, представленная в формате PyTorch и рассчитанная на контекст до 2048 токенов. Модель предназначена для генерации ответов на инструкции и диалоговые запросы, а также для задач общего рассуждения и генерации кода. В карточке приведены результаты оценки на тестах знаний, математики, рассуждений, вопросов и ответов и программирования. Для работы требуется исходная модель LLaMA в формате Hugging Face; Tulu 7B опубликована как разность весов, а вход нужно подавать в предусмотренном моделью формате с инструкцией и разделителями. Модель ориентирована на английский язык. Она лицензирована по лицензии AI model license вместе с исходной лицензией LLaMA; условия обеих лицензий следует учитывать при использовании. Контекст ограничен 2048 токенами, а качество генерации зависит от соблюдения формата входа.

ANITA-NEXT-20B-gpt-oss-ITA — языковая модель семейства ANITA, разработанная Марко Полиньяно и исследовательской группой SWAP Университета Бари Альдо Моро. Это дообученная методом SFT с QLoRA и дополнительно выровненная с помощью DPO версия openai/gpt-oss-20b. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев и последующего дообучения для задач на итальянском языке. Модель принимает текст и генерирует текст; карточка характеризует её как мультиязычную с акцентом на итальянский и английский. Архитектура — GPT-OSS с разреженной экспертной моделью (MoE), в репозитории используются веса Safetensors. Метаданные указывают 1,6 млрд параметров и контекст до 131 072 токенов; README предупреждает, что качество ответов ухудшается после 40 000 токенов. Лицензия — Apache-2.0. Модель подходит для италоязычных диалогов, генерации кода и построения агентных приложений. Разработчик предупреждает о возможных галлюцинациях и некорректных, оскорбительных или опасных ответах, поэтому результаты требуют проверки. В README релиз обозначен как предназначенный для исследовательских целей.

ANITA-NEXT-24B-Dolphin-Mistral-UNCENSORED-ITA — разговорная языковая модель семейства ANITA-NEXT, разработанная исследователем Марко Полиньяно из Университета Бари Альдо Моро и исследовательской группой SWAP. Это плотная авторегрессионная модель архитектуры Mistral на 23,4 млрд параметров, дообученная на базе dphn/Dolphin-Mistral-24B-Venice-Edition с помощью SFT, QLoRA и DPO. Она предназначена для диалога, следования инструкциям и генерации текста и кода; README характеризует её как модель с рассуждением и без фильтрации ответов. Модель принимает текст и генерирует текст, включая код. Она рассчитана прежде всего на итальянский язык, также заявлена поддержка английского и многоязычных сценариев. Метаданные указывают контекст 40 960 токенов; README отмечает деградацию качества после примерно 40 тысяч токенов, несмотря на заявленные там 128 тысяч. Указанная лицензия — Apache-2.0. Авторы предупреждают о галлюцинациях и возможности оскорбительных, неэтичных или опасных ответов; модель представлена для исследовательского применения.

mrfakename/Apriel-5B-Instruct-llamafied — приблизительная конверсия Apriel-5B-Instruct в формат Llama, опубликованная пользователем mrfakename. Это плотная языковая модель с архитектурой LlamaForCausalLM примерно на 4,6 млрд параметров, предназначенная для генерации текста и диалогов. Модель принимает текст и выдаёт текст; заявленный контекст — 16 384 токена. Формат Llama упрощает запуск и совместимость с популярными средствами дообучения; для использования в Transformers не требуется trust_remote_code. Модель подходит для ведения диалога, выполнения инструкций, рассуждений, помощи с кодом и генерации текста — эти сценарии унаследованы от исходной Apriel-5B-Instruct. В карточке базовая модель описана как англоязычная; поддержка других языков отдельно не подтверждена. Файлы представлены в формате safetensors. Лицензия — MIT, как у исходной модели.

Atlas-Flash — дообученная языковая модель семейства Atlas от aayanmishra-ml, созданная на базе DeepSeek-R1-Distill-Qwen-7B. Это плотная авторегрессионная модель Qwen2 с 7,1 млрд параметров и контекстом до 131 072 токенов; она предназначена для генерации текста и диалога, программирования, математических и других STEM-задач. В карточке заявлены генерация и объяснение кода, отладка, решение задач с рассуждениями, многоходовые беседы и помощь в обучении. Модель принимает текст и генерирует текст; метаданные также указывают интерфейс вызова инструментов. В карточке заявлена поддержка английского, китайского, русского и других языков. Для обучения указаны наборы BAAI/TACO, codeparrot/apps и GammaCorpus-v1-70k-UNFILTERED, а также синтетические данные. Репозиторий содержит веса в формате Safetensors, модель использует Transformers и распространяется по лицензии MIT. Карточка предупреждает о возможных смещениях, ошибках в узкоспециализированных областях и зависимости качества ответов от формулировки запроса; заявленный контекст ограничен 131 072 токенами.

A.X 3.1 — большая языковая модель, разработанная SK Telecom (SKT) для понимания корейского языка и корпоративного применения. Модель обучена с нуля на 2,1 трлн токенов из многоязычного корпуса, подготовленного SKT; архитектура — плотная LlamaForCausalLM с 33,8 млрд параметров. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для диалогов, генерации текста и сценариев с интерфейсом вызова инструментов. Её основные языки — корейский и английский, при этом особый акцент сделан на корейском языке и контексте. Нативный размер контекста составляет 32 768 токенов; README описывает возможность увеличить его до 131 072 токенов с помощью YaRN. Указана лицензия Apache-2.0.

OpenThai Chinda 4B — языковая модель iApp Technology, дообученная на базе Qwen3-4B для работы прежде всего с тайским языком. Она построена на плотной архитектуре Qwen3ForCausalLM и содержит около 3,7 млрд параметров. Модель поддерживает диалог и переключение между режимами рассуждения и обычной генерации; заявленное нативное окно контекста — 40 960 токенов по метаданным, а README рекомендует держать контекст в пределах 32 768 токенов для оптимальной работы и описывает расширение до 131 072 токенов с YaRN. Модель предназначена для тайскоязычных чат-ботов и RAG-систем, математических задач, генерации кода и локального запуска на пользовательских устройствах. README заявляет точность генерации на тайском 98,4% и высокие результаты в приведённых бенчмарках, но эти показатели представлены разработчиком и зависят от методики оценки. Для фактических вопросов без контекста модель может галлюцинировать; для таких сценариев рекомендуется предоставлять источники или использовать RAG. Модель выпущена по лицензии Apache 2.0, разрешающей коммерческое и частное использование, модификацию и распространение.

CrystalMistral-26b — разговорная языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), опубликованная Crystalcareai. Согласно карточке, модель создана с помощью LazyMergekit на основе нескольких копий Crystalcareai/CrystalMistral; метаданные также связывают её с этой базовой моделью. Она предназначена для генерации текста и диалогов. Базовая CrystalMistral дообучена для выполнения инструкций, общения, генерации текста и работы с кодом, поэтому эти сценарии подходят и для данной модели. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества CrystalMistral-26b; возможности базовой модели не гарантируют такие же результаты после слияния.

Daredevil-8B — диалоговая языковая модель, созданная mlabonne как объединение нескольких моделей Llama 3 8B с помощью LazyMergekit. Репозиторий содержит плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена для чата и генерации ответов. Автор позиционирует её как улучшенную версию Meta-Llama-3-8B-Instruct и сообщает о высоких результатах на MMLU и наборах Open LLM Leaderboard и Nous по состоянию на май 2024 года. Модель общего назначения можно применять для диалогов, ответов на вопросы, генерации текста и кода. В README она описана как цензурированная; для снятия ограничений автор указывает отдельную модель Daredevil-8B-abliterated. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует проверять в карточке модели и лицензиях компонентов объединения.

Eurus-7B-KTO — языковая модель OpenBMB для диалогов и задач, требующих рассуждений. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, контекстом до 32 768 токенов и интерфейсом чата. Модель дообучена методом KTO на базе Eurus-7B-SFT: использованы пары многошаговых диалоговых траекторий UltraInteract и пары предпочтений UltraFeedback. Модель предназначена для генерации ответов и многоходовых диалогов; авторы отдельно отмечают задачи математики и программирования и приводят специальные форматы запросов для них. В README сообщается о сравнительно высоких результатах на оценках рассуждений, математики и диалоговых способностей, однако конкретные метрики в карточке не приведены. Для лицензии Apache-2.0 разрешено использование на её условиях.

google/gemma-4-31B-it-assistant — вариант Gemma 4 от Google DeepMind с инструкционной настройкой и поддержкой Multi-Token Prediction (MTP). В спекулятивном декодировании небольшой черновой модуль предлагает несколько следующих токенов, которые основная модель проверяет параллельно; карточка заявляет ускорение генерации до 3 раз при сохранении того же качества, что и при обычной генерации. Архитектура плотная, веса опубликованы в формате safetensors, библиотека — Transformers. Модель предназначена для ускорения генерации текста с низкой задержкой, в том числе при локальном развёртывании. Семейство Gemma 4 поддерживает работу с текстом и изображениями, а также генерацию кода, рассуждения и вызов инструментов; у модели заявлено контекстное окно до 256 тысяч токенов и многоязычная поддержка. Карточка семейства также описывает видео и аудио, но аудио поддерживается только вариантами E2B, E4B и 12B, а не 31B. Лицензия — Apache 2.0. Ускорение зависит от использования в совместимом конвейере спекулятивного декодирования; MTP-черновик не является самостоятельной заменой целевой модели. В карточке не приведены отдельные сведения об оценках и ограничениях именно этого чекпойнта.

Locutusque/Hyperion-3.0-Yi-34B — языковая модель Locutusque, дообученная на 150 000 примерах набора Hyperion-v3.0. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, предназначенная для диалогов, ответов на вопросы и генерации кода; в карточке также заявлены математические и логические рассуждения, а также понимание медицинских и научных текстов. Модель рассчитана прежде всего на англоязычные запросы и охватывает задачи программирования, медицины, математики и научных рассуждений. Её можно применять в учебных помощниках, технических чат-ботах и инструментах поддержки специалистов. Контекст составляет 4096 токенов; веса опубликованы в формате safetensors для Transformers. Автор README указывает лицензию Yi NC, тогда как метаданные Hugging Face содержат лицензию other; условия использования следует сверять с файлами лицензии в репозитории. Карточка предупреждает о возможной непоследовательности ответов из-за качества и разнообразия данных, а также о высокой склонности модели выполнять запросы; результаты оценки в README не приведены.

LFM2.5-1.2B-Thinking-ONNX — ONNX-экспорт модели LFM2.5-1.2B-Thinking, разработанной Liquid AI. Это текстовая генеративная модель для кроссплатформенного вывода, включая локальный запуск, браузерные приложения и устройства с поддержкой ONNX Runtime или WebGPU. Модель предназначена для задач, требующих рассуждений: математических вычислений, программирования, логического анализа и других сложных запросов. Она генерирует пошаговый процесс рассуждения в тегах <think>...</think>, после чего формирует итоговый ответ. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Архитектура и максимальная длина контекста в README не указаны; размер модели составляет около 1,2 млрд параметров согласно идентификатору и описанию варианта. Доступны варианты FP32, FP16, Q8 и Q4. Квантизированный Q4-вариант занимает около 1,2 ГБ и рекомендован для большинства сценариев, FP16 — около 2,4 ГБ и ориентирован на более высокое качество, Q8 — около 1,7 ГБ как компромисс между качеством и размером. ONNX-формат облегчает переносимость, но для браузерного запуска требуется WebGPU. Ограничения включают небольшой размер по современным меркам, возможные ошибки в сложных задачах и необходимость самостоятельно обрабатывать разделение рассуждений и итогового ответа. Модель распространяется по лицензии lfm1.0; точные условия следует проверить в файле LICENSE репозитория.

OpenAssistant Llama2 70B SFT v10 — языковая модель OpenAssistant, дообученная на базе Meta Llama 2 70B. Это плотный авторегрессионный трансформер с декодером, примерно 68,7 млрд параметров; обучение проходило в два этапа: на смеси синтетических инструкций и задач по программированию, затем на отобранных человеческих диалогах OpenAssistant. Модель принимает диалог в формате ChatML и предназначена для генерации ответов, следования инструкциям и помощи с кодом. Контекст составляет 4096 токенов. Основной язык — английский; заявлены ограниченные возможности на немецком, испанском, французском, итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Сильные стороны — крупный размер и обучение на инструкциях, диалогах и коде. Ответы могут быть неточными, предвзятыми или нежелательными; тестирование проводилось преимущественно на английском, поэтому перед применением нужна проверка безопасности и качества. Модель распространяется по лицензии Llama 2 Community License Agreement.

Fu01978 разработал Llama-3.2-1B-4B-Quad-MoE — языковую модель с разреженной архитектурой Mixture of Experts для генерации текста и диалогов. В состав объединённой модели входят четыре эксперта на базе моделей Llama 3.2: инструктивная модель общего назначения, базовая модель для творческого текста, специалист по коду и специалист по математике. Метаданные указывают архитектуру MixtralForCausalLM и библиотеку Transformers. В README заявлены 3,65 млрд параметров всего и 1,24 млрд активных параметров на токен; метаданные каталога указывают 1,2 млрд параметров. Заявленная длина контекста — 131 072 токена, основной язык карточки — английский. Модель подходит для диалогов, написания текста, помощи с кодом и математических рассуждений. Доступна в формате Safetensors и распространяется по лицензии Llama 3.2.

failspy/Llama-3-8B-Instruct-MopeyMule — разговорная языковая модель на базе семейства Llama 3, разработанного Meta. Она предназначена для диалоговых сценариев и генерации текста и кода; подходит для создания ассистентов, ответов на запросы и других задач генерации на естественном языке. Модель использует авторегрессионную архитектуру Transformer с Grouped-Query Attention (GQA) и содержит около 7,5 млрд параметров. Она принимает текст, выдаёт текст и рассчитана прежде всего на английский язык. Длина контекста составляет 8192 токена. Репозиторий содержит веса в формате safetensors. В README указана лицензия Meta Llama 3 с условиями коммерческого и исследовательского использования, а также ограничениями Acceptable Use Policy. Базовая карточка описывает семейство Llama 3 и не подтверждает отдельно происхождение или дополнительные особенности варианта MopeyMule.

Llama-3-Smaug-8B — языковая модель Abacus.AI для диалогов и генерации текста. Она создана дообучением meta-llama/Meta-Llama-3-8B-Instruct по рецепту Smaug, ориентированному на повышение качества многоходовых разговоров в практических сценариях. Модель использует плотную архитектуру Llama, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов; веса доступны в формате safetensors для Transformers. Модель подходит для диалоговых помощников и задач генерации текста. В карточке приведено сравнение на MT-Bench: средняя оценка Smaug-8B составила 8,33 против 8,10 у исходной Meta-Llama-3-8B-Instruct. В данных также указаны обучающие наборы для математических задач, кода и диалогов. Метаданные указывают лицензию llama2; перед использованием следует учитывать условия лицензии Meta Llama 2.

Pretergeek создал OpenChat-3.5-0106_9.86B_44Layers-Appended на основе диалоговой модели OpenChat 3.5 0106. Это плотная причинная языковая модель семейства Mistral с 9,7 млрд параметров, предназначенная для генерации текста и общения в формате чата. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Модель получена расширением исходной сети дополнительными слоями в конце: автор применил вариант метода расширения блоков, описанного в работе LLaMA Pro. По README, после такого расширения модель ещё не проходила дополнительное обучение и должна вести себя близко к исходной. Её можно использовать для диалога, ответов на общие вопросы, программирования и математических рассуждений, но ожидаемые улучшения от новых слоёв пока не подтверждены обучением. Модель распространяется по лицензии Apache-2.0. Результаты в таблице README включают средний показатель 22,55, IFEval — 59,61 и BBH — 24,06; полный контекст оценки в доступной карточке не приведён.

OpenHermes 2 Mistral 7B — разговорная языковая модель, созданная Teknium на основе Mistral-7B-v0.1. Она дообучена на наборе примерно из 900 тысяч примеров, преимущественно сгенерированных GPT-4 и собранных из открытых датасетов; данные преобразованы в формат ShareGPT, а затем в ChatML. Модель предназначена для многоходового диалога и следования инструкциям, включая ответы на вопросы, помощь с программированием и создание рецептов. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык; ChatML-шаблон подходит для диалогов с системными инструкциями. Модель распространяется по лицензии Apache-2.0. Заявления карточки о сравнительных результатах приводятся без числовых данных, поэтому их нельзя считать независимой оценкой качества; ответы могут быть неточными, как у других генеративных языковых моделей.

Theros/Q2.5-ColdBrew-R1-Obsidian — объединённая текстовая модель, созданная с помощью mergekit методом Passthrough на основе Theros/Qwen2.5-ColdBrew-R1. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 8,7 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия, а заявленная длина контекста составляет 131072 токена. Модель распространяется в формате safetensors; условия лицензии в предоставленных данных не описаны.

QuasarLM — открытая плотная языковая модель семейства Llama от Northwind AI Research для генерации текста и работы в роли чат-ассистента. Разработчики сообщают о дообучении с обновлённой смесью инструкций, расширенной программой проверяемых задач с вознаграждением и улучшенной поддержкой вызова инструментов. Модель предназначена для математических задач, программирования, логических рассуждений и диалогов общего назначения. В карточке приведены результаты внутренних сравнений, включая точность 81,2% на AIME 2026, а также заявлены снижение галлюцинаций и более длинные цепочки рассуждений. Репозиторий содержит веса PyTorch, модель загружается через Transformers. Лицензия — Apache-2.0. Указанные в README длинные рассуждения могут повышать расход токенов; бенчмарки и сравнительные заявления приведены разработчиками и не подтверждают качество на всех пользовательских сценариях.

Qwen2-2B-Dolphin-Hercules — объединённая модель генерации текста на архитектуре Qwen2, созданная сообществом mergekit из M4-ai/Hercules-5.0-Qwen2-1.5B и cognitivecomputations/dolphin-2.9.3-qwen2-1.5b. Модель содержит 1,9 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации ответов на запросы. Базовые модели описаны как англоязычные модели общего назначения; их сценарии включают ответы на вопросы, математику, программирование и письмо. Репозиторий содержит веса Safetensors для Transformers. В README указано слияние методом passthrough с типом данных bfloat16. Лицензия в предоставленных данных не указана.

RESMPDEV/Qwen2-Wukong-7B — разговорная модель на базе Qwen2-7B, дообученная автором репозитория как dealigned chat finetune на наборе OpenHermes-2.5 и дополнительных данных от Cognitive Computations. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 на базе Transformer и предназначена для генерации текста в формате чата. Заявленная длина контекста — 131 072 токена. Модель подходит для диалоговых ответов, генерации текста и вспомогательных задач вроде вопросов и ответов, рассуждений, математики и программирования. Карточка описывает базовую Qwen2 как многоязычную, а метаданные этой модели указывают английский язык; поэтому поддержку других языков для данного дообучения следует считать не подтверждённой. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.

Qwen3-4B-INT8-INT4 — квантизированная версия языковой модели Qwen3-4B, разработанной Alibaba Cloud и обработанной командой PyTorch с использованием torchao. Это авторегрессионная модель для генерации текста, диалогов, работы с кодом и математическими задачами; заявлена поддержка многоязычных сценариев. Модель предназначена для локального и мобильного развертывания, в частности через ExecuTorch. Ключевая особенность — схема квантизации INT8-INT4: эмбеддинги используют 8-битные веса, динамические активации представлены в 8 битах, а линейные слои используют 4-битные веса. Размер базовой модели — 4 млрд параметров. Предоставляемый файл model.pte экспортирован с максимальной длиной последовательности и контекстом 1024 токена; этот параметр можно изменить повторным экспортом. На iPhone 15 Pro заявлена скорость около 14,8 токена в секунду при использовании примерно 3379 МБ памяти. Сильные стороны модели — уменьшенные требования к памяти и возможность запуска на мобильных устройствах при сохранении назначения исходной Qwen3-4B для диалогов, генерации текста, кода и решения математических задач. Ограничениями являются возможная потеря качества из-за квантизации, ограничение предоставленной сборки контекстом 1024 токена и зависимость мобильного запуска от ExecuTorch и совместимого устройства. В README приведена лицензия MIT; подробные результаты бенчмарков отсутствуют.

Yuan2-2B-hf — плотная языковая модель с архитектурой YuanForCausalLM, разработанная IEIT System как часть семейства Yuan 2.0. Репозиторий содержит веса PyTorch; модель насчитывает около 1,9 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогов, а также для сценариев, где нужны понимание семантики, математические рассуждения, работа с кодом и знаниями. Разработчик предоставляет инструменты для дообучения и развёртывания инференса. Карточка приводит оценочные наборы GSM8K, AGIEval-GK-Math, HumanEval и TruthfulQA, но не содержит результатов именно для этой версии в доступной таблице. В README заявлена коммерческая возможность использования при соблюдении лицензии Yuan 2.0; код оригинального репозитория распространяется по Apache 2.0. Модель может выдавать неточные ответы и поддаваться вводящим в заблуждение инструкциям.