I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельMaziyarPanahi/Experiment28M7_Experiment26Experiment26 — объединённая модель для генерации текста, созданная на основе automerger/Experiment28M7-7B и automerger/Experiment26Experiment26-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, принимающая текст и поддерживающая контекст до 32 768 токенов. Модель предназначена для генерации продолжений текста и ответов на текстовые запросы. Карточка не описывает специализацию по языкам или предметным областям, поэтому её следует рассматривать как модель общего назначения. Весовые файлы представлены в формате safetensors; лицензия — Apache-2.0.
MaziyarPanahi/Experiment28M7_Strangemerges_32Strangemerges_30 — объединённая модель семейства Mistral, созданная слиянием двух моделей: automerger/Experiment28M7-7B и automerger/Strangemerges_32Strangemerges_30-7B. Она предназначена для генерации текста и построена на архитектуре MistralForCausalLM с 7,1 млрд параметров; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией Apache-2.0. Карточка не описывает специальные предметные области, поддерживаемые языки или дополнительные возможности, поэтому модель следует рассматривать как генеративную модель общего назначения.
FuseChat-Llama-3.2-1B-Instruct — компактная чат-модель семейства Llama, выпущенная FuseAI в рамках проекта FuseChat-3.0. Она создана на базе Llama-3.2-1B-Instruct с применением двух этапов обучения: supervised fine-tuning и Direct Preference Optimization на ответах и предпочтениях, полученных от более крупных языковых моделей. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 1,2 млрд параметров; заявленная длина контекста составляет 131 072 токена. Модель предназначена для диалога и выполнения инструкций, включая общие вопросы, математические задачи, программирование и запросы на китайском языке. Подходит для компактных сценариев развёртывания, где важны чат-возможности при меньшем размере модели. В README сообщаются улучшения на бенчмарках FuseChat-3.0, однако приведённые численные результаты относятся к варианту с Llama-3.1-8B и не должны переноситься на эту модель. Модель принимает текст и генерирует текст. В метаданных указана лицензия? Условия лицензии не приведены, поэтому перед использованием следует проверить их на странице репозитория Hugging Face.
Gemma 2 2B Instruct — компактная языковая модель Google из семейства Gemma, представленная в формате GGUF для запуска через llama.cpp и LM Studio. Квантизацию выполнил bartowski на основе релиза llama.cpp b3496. Модель предназначена для генерации текста и диалоговых сценариев общего назначения, а также может использоваться для автодополнения и черновой генерации на устройствах с ограниченными ресурсами и низким энергопотреблением. Модель содержит около 2 миллиардов параметров и обучена на 2 триллионах токенов, включавших веб-документы, программный код и математические материалы. Она поддерживает работу с текстом; в README отдельно отмечены крупный словарь Gemma 2, потенциальные преимущества для многоязычных задач и программирования, однако точный список языков и размер контекстного окна не указаны. Для корректного диалога требуется шаблон Google Gemma Instruct; системный промпт не поддерживается. Сильными сторонами модели являются небольшой размер, пригодность для локального запуска и специализация на общих текстовых, кодовых и математических задачах. Ограничениями выступают меньшая емкость по сравнению с крупными моделями, отсутствие мультимодальности и неподдержка системных инструкций; модель также может генерировать неточные, вредные или неуместные ответы. Доступ регулируется лицензией Google Gemma: на Hugging Face требуется ознакомиться с условиями и принять лицензию.
Gemma 2B — компактная плотная авторегрессионная языковая модель семейства Gemma, разработанная Google. Она содержит 2,5 млрд параметров, принимает и генерирует текст и поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors и предназначен для работы с библиотекой Transformers. Модель подходит для генерации текста, ответов на вопросы, суммаризации и диалоговых интерфейсов, а компактный размер позволяет запускать её на персональных компьютерах и собственной облачной инфраструктуре. В карточке указана поддержка английского языка. Условия лицензии в предоставленных данных не описаны. Качество ответов зависит от формулировки запроса и охвата обучающих данных. Модель может ошибаться в фактах, упускать нюансы и воспроизводить предвзятость; для сложных задач и пользовательских приложений нужны проверка результатов и меры безопасности.
Dzluck публикует Gemma 4 E2B JANG4M CRACK — изменённую версию Google Gemma 4 E2B Instruct с удалёнными отказами. Модель предназначена для диалогов, рассуждений, ответов на вопросы и генерации кода; принимает текст и изображения, а автор также заявляет о сохранении аудиовхода. Каталог Hugging Face относит её к мультимодальной задаче image-text-to-text и указывает архитектуру Gemma4ForConditionalGeneration с плотной архитектурой. Модель использует смешанную квантизацию JANG_4M: 8-битные веса внимания и 4-битные веса MLP, в среднем около 4,3 бита. По данным автора, MMLU снизился на 1,7 процентного пункта относительно исходной модели; в тестах HarmBench автор сообщает о полном выполнении запросов вредных категорий. Для запуска нужны Mac на Apple Silicon и vMLX с поддержкой Gemma 4; стандартные mlx_lm и mlx_vlm поддерживаются не полностью. Лицензия — Gemma; карточка также обозначает модель как предназначенную для исследований.
gl-agent-1-27b — плотная языковая модель на 27 млрд параметров семейства Qwen3.5, дообученная для длительных агентных задач. Она предназначена для диалоговых сценариев, где модель планирует и выполняет последовательности действий, включая вызов инструментов и задачи программирования. Вызовы инструментов формируются в XML и требуют соответствующего парсера Qwen3 в vLLM; режим рассуждения включён по умолчанию. Модель поддерживает контекст длиной 262 144 токена, расширяемый до 1 000 000 токенов с YaRN. Веса включают голову multi-token prediction для спекулятивного декодирования без отдельной черновой модели. В README приведены настройки запуска через vLLM; результаты бенчмарков пока отсутствуют, поэтому качество и выигрыш в скорости следует оценивать на целевом оборудовании. Карточка указывает лицензию Apache-2.0.
Gonzo-Chat-7B — диалоговая языковая модель на архитектуре Mistral, созданная объединением нескольких моделей с помощью mergekit и метода DARE TIES. В состав объединения вошли Nondzu/Mistral-7B-Instruct-v0.2-code-ft, NousResearch/Nous-Hermes-2-Mistral-7B-DPO, cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser и базовая eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов по метаданным; README приводит более раннее значение 8 192 токена. Модель предназначена для диалогов, ролевых сценариев, работы с агентами и несложного программирования, а также для генерации текста по инструкциям. В карточке приведены результаты Open LLM Leaderboard и сравнительных состязаний, но они не гарантируют качество на конкретных задачах. Модель принимает текст и генерирует текст; указан язык en. Распространяется под лицензией Apache-2.0.
fullsimpleonlineiter2 — диалоговая модель генерации текста, дообученная на основе YYYYYYibo/full_vanilla_dpo_iter_1 на обновлённом и исходном наборах данных. Она предназначена для общения в чате и генерации ответов на текстовые запросы. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Весовые файлы представлены в формате safetensors. Модель опубликована под лицензией Apache-2.0.
djuna/GSHT-GEMMAMA-16B — языковая модель на архитектуре Gemma 2, созданная объединением предварительно обученных моделей djuna/G2-GSHT и djuna/Gemma-2-gemmama-9b с помощью mergekit и метода passthrough. В конфигурации чередуются диапазоны слоёв двух исходных моделей; веса сохранены в формате safetensors.
Spicyneuron/Kimi-K2.7-Code-MLX-3.6bit — квантованная версия модели Kimi-K2.7-Code, разработанной MoonshotAI. Модель предназначена для генерации текста и, судя по названию базовой модели, прежде всего для задач, связанных с программированием. Она оптимизирована для локального запуска на Mac Studio с чипом M3 Ultra через MLX и MLX-LM, в том числе в формате сервера, совместимого с API chat completions. Это разреженная MoE-модель с 3-битным базовым квантованием и повышенной точностью для чувствительных компонентов, включая маршрутизацию MoE, механизмы внимания и выходные эмбеддинги. Используется смешанная точность с показателем 3,578 бит на вес. Для работы требуется примерно 428 ГБ базовой памяти и до 460 ГБ в пиковом режиме, поэтому модель рассчитана на мощные устройства с большим объёмом объединённой памяти. В README не указаны точный размер модели, длина контекста, поддерживаемые языки и мультимодальные возможности. К сильным сторонам относятся баланс скорости, потребления памяти и качества, а также возможность оставить память для небольшой вспомогательной модели. Заявленная скорость составляет около 219 токенов в секунду при обработке prompt размером 1024 токена и около 21 токена в секунду при генерации последовательности длиной 512 токенов. Ограничения связаны с высокими требованиями к памяти, потерями качества, неизбежными для агрессивного квантования, и узкой оптимизацией под экосистему Apple MLX. Квантование выполнено с использованием форка MLX-LM от spicyneuron. Лицензия в README не указана.
Kosmos-EVAA-TSN-8B — объединённая модель семейства Llama, созданная jaspionjader с помощью mergekit методом SLERP из jaspionjader/Kosmos-EVAA-gamma-light-8B и bunnycore/Tulu-3.1-8B-SuperNova. Это плотная авторегрессионная языковая модель примерно на 7,5 млрд параметров с контекстом до 8192 токенов, предназначенная для генерации текста. Сценарии применения и свойства базовых моделей указывают на диалоги и следование инструкциям. Модель опубликована в формате safetensors и рассчитана на работу через Transformers. Сведения о лицензии и специальных ограничениях в предоставленных материалах отсутствуют; перед использованием следует проверить условия базовых моделей и самого репозитория.
dealignai выпустила Laguna-XS-2.1-JANG_4M-CRACK — текстовую MoE-модель для диалогов и агентного программирования, полученную дообучением Poolside Laguna-XS-2.1, удалением отказов на уровне весов и смешанной квантизацией JANG для MLX. В README указаны 33 млрд параметров всего и около 3 млрд активных; метаданные каталога указывают 2,6 млрд параметров. Модель предназначена для работы на Apple Silicon через vMLX или совместимую среду MLX и поддерживает вызов инструментов. Модель принимает текст, выдаёт текст, поддерживает английский язык и контекст до 262 144 токенов. В README заявлены режимы рассуждения и прямых ответов, а также результаты оценок MMLU и HarmBench; это результаты, сообщённые автором. Для генерации автор рекомендует явно задавать temperature=1.0, top_p=1.0 и top_k=20, поскольку некоторые среды не учитывают параметры из конфигурационных файлов. Удаление отказов означает, что модель может выполнять запросы без стандартного поведения отказа. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в репозитории модели.
NousResearch/Llama-2-13b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате для Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 12,9 млрд параметров, дообученная с помощью supervised fine-tuning и обучения с подкреплением на основе человеческой обратной связи. Она предназначена для диалогов в формате ассистента и генерации текста на английском языке; принимает и выдаёт текст, поддерживает контекст до 4096 токенов. Модель подходит для ответов на вопросы, ведения диалога, создания черновиков и других сценариев генерации текста. Для ожидаемого поведения чат-версии необходимо использовать предусмотренный формат сообщений Llama 2. Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед внедрением её следует проверять и настраивать под конкретное применение. Использование регулируется специальной лицензией Meta для Llama 2; для доступа к весам требуется принять её условия.
Llama-3-11.5B-Instruct-Coder-v2-GGUF — это текстовая instruction-модель для генерации кода и выполнения запросов в формате диалога. Исходная модель опубликована rombodawg; в качестве базовой указана Replete-AI/Llama-3-11.5B-Instruct-V2. GGUF-квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации, дополнения и объяснения программного кода, а также для общих текстовых задач в сценариях, где требуется локальный запуск через llama.cpp или совместимые инструменты. Доступны варианты квантизации от Q8_0 до Q2 и IQ2–IQ4, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S и ряд вариантов Q4. Модель имеет около 11,5 млрд параметров, работает с текстом и использует формат диалога Llama 3 с системными и пользовательскими сообщениями. Заявлен английский язык; сведения о поддерживаемом контексте, мультимодальности и точных архитектурных деталях не приведены. При сильном сжатии качество снижается, особенно у низкобитных вариантов, поэтому выбор квантизации является компромиссом между потреблением памяти и точностью. Указана лицензия Apache-2.0.
Llama 3.1 Swallow 8B v0.2 — языковая модель команды Swallow из лабораторий Okazaki и YOKOTA Токийского технологического института. Это плотная авторегрессионная модель семейства Llama 3.1 с 7,5 млрд параметров, дообученная продолжением предварительного обучения на примерно 200 млрд токенов, включая японский веб-корпус, японскую и английскую Википедии, математические тексты и код. Репозиторий содержит веса safetensors; для работы модель рассчитана на библиотеку Transformers. Модель предназначена для генерации текста на японском и английском языках, включая ответы на вопросы, понимание и пересказ текста, перевод, математические рассуждения и генерацию кода. Контекстное окно составляет 8192 токена. Разработчики сообщают об усилении возможностей японского языка при сохранении возможностей английской версии Llama 3.1 и приводят оценки на японских и англоязычных тестах. Это базовая версия, а не вариант Instruct; авторы предупреждают, что модель не настроена для надёжного следования человеческим намерениям и требованиям безопасности. Лицензия — Llama 3.1 License (llama3.1), её условия применяются при использовании модели.
tintnguyen/llama3.2 — дообученная автором tintnguyen языковая модель семейства Llama 3.2 для генерации текста и диалогов. В основе лежит unsloth/Llama-3.2-3B-Instruct-bnb-4bit; модель имеет плотную архитектуру LlamaForCausalLM и 3,2 млрд параметров. Для обучения использовались Unsloth и библиотека TRL.
Llama3-70B-Chinese-Chat — диалоговая языковая модель Shenzhi Wang и соавторов, дообученная методом ORPO на базе Meta-Llama-3-70B-Instruct. Она предназначена для общения на китайском и английском языках, ролевых диалогов, математических задач и вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, около 69,5 млрд параметров и контекст до 8192 токенов; принимает текст и генерирует текст. Авторы сообщают, что обучение на более чем 100 тысячах пар предпочтений с примерно равной долей китайских и английских данных уменьшает смешение языков в ответах. В README приведены результаты C-Eval и CMMLU; эти заявления отражают оценку авторов и не гарантируют качество на других задачах. Лицензия — Llama 3 License. Карточка предупреждает, что модель не дообучали на сохранение идентичности, поэтому ответы о её личности и разработчиках могут быть случайными.
Orion-zhen разработал чат-модель Orion-zhen/Llama3-70B-Orion-Chinese на основе failspy/Llama-3-70B-Instruct-abliterated-v3, дообучив её методом DPO. Это плотная авторегрессионная модель семейства Llama 3 с 69,5 млрд параметров, контекстом 8192 токена и поддержкой диалога; карточка демонстрирует ответы на китайском языке с более оживлённой подачей и частым использованием эмодзи. Модель предназначена для диалога на китайском, рассуждений, ответов на вопросы и генерации кода. В README приведены примеры решения математических и логических задач, бытовых вопросов, анализа эмоций и написания кода. Метаданные также связывают обучение с наборами предпочтений для китайского и английского диалога, математики, физического рассуждения, кода и других ответов. Файлы опубликованы в формате Safetensors. Лицензия — Llama 3; применимость и условия использования следует сверять с её условиями. Примеры README показывают возможные ошибки в рассуждениях и небезопасные советы, поэтому ответы требуют проверки; инструкция по расширению контекста до 32k в карточке не подтверждена как штатная длина контекста модели.
Megac4ai-command-r-plus — экспериментальная языковая модель, созданная автором nitky с помощью mergekit: слои CohereForAI/c4ai-command-r-plus чередуются с её же слоями методом passthrough. Модель содержит 160,4 млрд параметров, использует архитектуру CohereForCausalLM и формат safetensors; для запуска применяется библиотека Transformers с необходимыми изменениями. README также указывает на отдельную GGUF-версию и вариант квантования bitsandbytes до 4 бит. Модель предназначена для генерации текста и диалоговых ответов. В примере она отвечает на вопрос по японскому диалогу; метаданные перечисляют поддержку английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Контекст составляет 8192 токена; доступны интерфейсы чата и вызова инструментов. Указанная лицензия — CC BY-NC 4.0, допускающая использование с атрибуцией, но не коммерческое использование.
MaziyarPanahi/mistral-ft-optimized-1218-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Она создана методом Slerp merge из mistralai/Mistral-7B-Instruct-v0.1 и OpenPipe/mistral-ft-optimized-1218; веса представлены в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Подходит для чат-ботов, черновиков текстов, ответов на вопросы и других сценариев генерации на английском языке. Заявленная длина контекста — 32 768 токенов. Модель распространяется по лицензии Apache-2.0. Доступные сведения не описывают отдельные ограничения качества или оценки безопасности.
NeuralsirkrishnaShadow_NeuralsirkrishnaM7 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/NeuralsirkrishnaM7-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых сценариев; поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Модель принимает текст и выдаёт текст. В карточке не описаны специализированные области применения или языки. Лицензия — Apache 2.0.
Noromaid-7b-v0.1.1-Mistral-7B-Instruct-v0.1 — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и NeverSleep/Noromaid-7b-v0.1.1 методом SLERP. Модель содержит 7,1 млрд параметров, представлена в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по инструкциям и ведения диалогов. Её можно применять для ответов на вопросы, написания текстов и интерактивных чат-сценариев. Карточка не сообщает специальных предметных областей или перечня поддерживаемых естественных языков. Модель распространяется по лицензии Apache-2.0. Качество ответов и безопасность генерации могут зависеть от запроса; сведений о специальных мерах защиты или оценках качества в карточке нет.
Olmo-3-1025-7B — базовая авторегрессионная языковая модель семейства OLMo 3, разработанная Allen Institute for AI (Ai2). Она предназначена для генерации текста и служит основой для дальнейшей настройки под диалоговые и специализированные задачи. Модель имеет плотную Transformer-архитектуру для причинного языкового моделирования, около 6,9 млрд параметров и контекстное окно 65 536 токенов. Она обучена преимущественно на английском языке на данных Dolma 3; обучение включало текст, код, математику, вопросы и ответы, инструкции и PDF-документы. Репозиторий содержит веса в формате safetensors и поддерживается библиотекой Transformers версии 4.57.0 и выше. Длинный контекст и широкая обучающая выборка подходят для генерации продолжений, черновиков и кода, а также для адаптации модели к прикладным сценариям. Это базовая модель, поэтому её ответы не обязательно следуют инструкциям как у чат-модели; возможны фактические ошибки, предвзятые или вредоносные ответы без дополнительной настройки и фильтрации. Лицензия модели и кода — Apache 2.0.
OmniBeagleMBX-v3-7B — объединённая модель для генерации текста и диалогов, созданная с помощью LazyMergekit на основе mlabonne/OmniBeagle-7B и flemmingmiguel/MBX-7B-v3. В основе лежит плотная архитектура MistralForCausalLM с 7,1 млрд параметров; модель распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст, поэтому подходит для диалоговых систем и других сценариев языковой генерации. В README указано, что веса объединены методом slerp с настройками для слоёв self-attention и MLP. Репозиторий использует лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование.
OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.
Orca Mini v9.2 — диалоговая языковая модель Pankaj Mathur, дообученная на базе Meta Llama 3.3 70B Instruct. Она предназначена для генерации текста и работы в роли разговорного ассистента; в карточке приведён формат промпта Llama 3. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка указывает английский язык, а базовая модель поддерживает также французский, немецкий, хинди, итальянский, португальский, испанский и тайский; качество Orca Mini на этих языках отдельно не подтверждено. Модель может генерировать неточные, предвзятые или нежелательные ответы, поэтому перед применением требуется тестирование и настройка мер безопасности под конкретный сценарий. Распространяется по лицензии Llama 3.3.
Orchestrator-8B GGUF — модель оркестрации инструментов и экспертных моделей, разработанная NVIDIA и University of Hong Kong. Эта версия распространяется пользователем Mungert в формате GGUF и создана с использованием llama.cpp. В основе лежит 8-миллиардная decoder-only Transformer-модель Qwen3-8B, обученная на GeneralThought-430K и ToolScale. Заявленный язык модели — английский; поддерживается генерация текста. Модель предназначена для сложных многошаговых и многоходовых агентских задач, в которых требуется координировать неоднородные инструменты, включая поиск, выполнение кода, а также специализированные и универсальные LLM. При обучении применялось многоцелевое обучение с подкреплением GRPO, оптимизирующее точность, задержку, стоимость и соответствие пользовательским предпочтениям. Разработчики заявляют об обобщении на ранее не встречавшиеся инструменты и конфигурации ценообразования. Согласно README, на Humanity’s Last Exam модель получила 37,1% и демонстрировала более высокую эффективность по сравнению с рядом крупных монолитных моделей, включая GPT-5, Claude Opus 4.1 и Qwen3-235B-A22B; также приводятся результаты на FRAMES и τ²-Bench. Конкретный размер контекста и характеристики модальностей не указаны. GGUF-файл подвергнут квантованию с выборочным повышением точности отдельных слоёв, что может улучшать качество при ограниченной разрядности ценой увеличения размера файла. Модель предназначена только для исследований и разработок и распространяется по лицензии Apache 2.0.
Ornith-1.0-9B-ASHQ1-MTP-GGUF — квантованная версия Ornith-1.0-9B, подготовленная wepiqx для запуска локально через llama.cpp и совместимые приложения. Модель основана на архитектуре Qwen3.5-9B с 32 слоями, GQA, SSM и головами Multi-Token Prediction (MTP); в README заявлен контекст 262 тыс. токенов. Доступны варианты размером примерно 4,7–7,3 ГБ; MTP-головы сохраняются в Q8_0, а ASHQ1 распределяет точность по основным слоям с помощью приоритетной очереди. Модель предназначена для диалогов, генерации текста, а также задач программирования и агентных сценариев. README рекомендует вариант 4850 для более лёгких задач, а 5500 и выше — для программирования и агентных нагрузок; для конфигурации с контекстом 8192 токена указано требование от 8 ГБ видеопамяти. Русский язык отдельно не заявлен; в метаданных указан английский. Лицензия — MIT.
Qwen1.5-1.8B-Chat — чатовая языковая модель из семейства Qwen, разработанная командой Qwen. Это бета-версия Qwen2, основанная на декодерной архитектуре Transformer и предназначенная для диалогов и генерации текста. Модель содержит 1,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель поддерживает многоязычный ввод и вывод, а её токенизатор адаптирован к разным естественным языкам и программному коду. В архитектуре используются активация SwiGLU и смещение QKV в механизме внимания. Карточка относит её к чатовым моделям и отмечает улучшение предпочтений пользователей для диалоговой версии семейства. Модель подходит для чат-ботов, ответов на запросы и генерации текста. В README советуют использовать Transformers версии 4.37.0 или новее и параметры генерации из generation_config.json, чтобы снизить проблемы с переключением языков и другие нежелательные результаты. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.