I.14Автоматизация процессов и AI-агенты

Qwenstein 2.5 32B Instruct — объединённая автором maldv языковая модель на архитектуре Qwen2 для диалогов и генерации текста. Она создана методом нормализованной интерполяции денойзированных преобразований Фурье и объединяет Qwentile2.5-32B-Instruct, Sky-T1-32B-Preview, 32B-Qwen2.5-Kunou-v1 и QwQ-32B-Preview-IdeaWhiz-v1 поверх Qwen2.5-32B. Модель содержит 32 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговых ответов, решения задач рассуждения и работы с математической записью; в карточке отмечены хорошие возможности LaTeX. Автор приводит пример, где модель распознаёт правильность предложенного решения задачи о мерных вёдрах, но сама не находит его сразу, что показывает возможную нестабильность рассуждений. Доступны веса в формате safetensors; README также упоминает варианты GGUF, GGUF-imat и EXL2 4.2 bpw. Лицензия — Apache-2.0.

RajLlama-3.1-8B-v3 — чат-модель семейства Llama, разработанная rm8630 и дообученная на базе unsloth/Meta-Llama-3.1-8B-bnb-4bit. Она предназначена для генерации текста в диалогах и других сценариях, где требуется отвечать на текстовые запросы. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Карточка указывает английский язык; обучение проводилось с использованием Unsloth и библиотеки TRL. Модель распространяется по лицензии Apache-2.0.

RakutenAI-7B-instruct — языковая модель Rakuten Group, Inc. для генерации текста по инструкциям. Это дообученная версия RakutenAI-7B на архитектуре Mistral с 7,2 млрд параметров. Для японского языка словарь расширен до 48 тысяч токенов; модель принимает текст и генерирует текст, поддерживая японский и английский языки. Контекстное окно составляет 32 768 токенов. Модель предназначена для выполнения инструкций, ответов на вопросы и других задач генерации текста. В карточке приведены результаты оценки на японских и английских языковых тестах; они характеризуют тестовые наборы и сами по себе не гарантируют качество на любых пользовательских запросах. Модель может выдавать предвзятые, неточные или небезопасные ответы. Лицензия — Apache License 2.0.

Ramonda-7B-DPO-TIES — объединённая языковая модель, созданная mayacinka методом TIES с помощью LazyMergekit на основе paulml/OGNO-7B и bardsai/jaskier-7b-dpo-v4.3. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста и диалоговых ответов. Контекстное окно составляет до 32 768 токенов. В README приведены результаты оценок на наборах Open LLM Leaderboard и LLM AutoEval; они не гарантируют аналогичное качество в конкретных приложениях. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README не уточняет поддерживаемые языки и специальные ограничения; фактическое качество зависит от запроса и сценария применения.

RWKV/RWKV7-13.3B-20260805 — официальная базовая языковая модель RWKV-7 Goose от BlinkDL в формате Transformers. Это плотная авторегрессионная модель с архитектурой RWKV7 без механизма внимания: она поддерживает обучение с параллельной обработкой и генерирует текст с постоянным размером рекуррентного состояния и постоянной вычислительной работой на токен. В метаданных указано 14,6 млрд параметров; в README размер обозначен как 13,3 млрд. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и рассуждениях. Она предназначена для оценки, последующего обучения и дообучения, а также для генерации текста и экспериментов с диалоговыми сценариями. Шаблон чата поддерживает системные сообщения, многоходовые диалоги, режим рассуждений и запросы на вызов инструментов, но сам по себе не означает, что модель безопасно настроена как ассистент. Поддерживаются английский, китайский, французский, испанский, немецкий, португальский, русский, итальянский, японский, корейский, вьетнамский и арабский языки. Постоянный размер состояния позволяет не наращивать KV-кэш внимания при генерации. Ограничения включают зависимость качества следования инструкциям и языкового поведения от промптинга и последующего обучения; спекулятивное декодирование с откатом рекуррентного кэша требует сохранения предыдущих состояний. Оптимизированное исполнение зависит от GPU, типа данных и формы входа, а полноценный режим TileLang требует отдельной проверки численной совместимости. README не заявляет оценки безопасности, предвзятости, токсичности или фактической точности. Модель распространяется по лицензии Apache-2.0.

RWKV/RWKV7-1.5B-20260805 — официальная базовая языковая модель BlinkDL семейства RWKV-7 «Goose», выпущенная в формате Transformers. Это плотная причинная модель с архитектурой RWKV-7 без attention: она поддерживает постоянный размер рекуррентного состояния и постоянную вычислительную работу на генерируемый токен, а обучение можно распараллеливать. Размер модели — 1,5 млрд параметров; веса представлены в формате safetensors. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, диалоговых и рассуждающих данных. Она предназначена для генерации текста, оценки, последующего обучения и дообучения; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель выровнена как безопасный ассистент. Метаданные и карточка указывают поддержку английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Лицензия — Apache-2.0. Постоянное рекуррентное состояние не накапливает KV-кэш как attention-модели, а собственный токенизатор включён в репозиторий. Качество генерации, следование инструкциям и языковое поведение зависят от контрольной точки, запроса и последующего обучения. Откат рекуррентного кэша для некоторых режимов speculative decoding не поддерживается без снимков состояния; оптимизированный TileLang-инференс зависит от GPU, типа данных и формы входа. Карточка не сообщает о проверках безопасности, предвзятости, токсичности, фактической точности или пригодности для высокорисковых сценариев.

Solstice-70b — объединённая автором tdot604 языковая модель для генерации текста и диалоговых ответов. Она создана методом TIES с помощью mergekit на основе tdot604/Hazy-Llama-70b с включением TheDrummer/Moist-Miqu-70B-v1.1; в конфигурации указаны веса 0,8 и 0,2 соответственно. Модель использует плотную архитектуру Llama с классом LlamaForCausalLM, содержит 69,5 млрд параметров и работает с контекстом до 8192 токенов. Модель подходит для ведения диалогов и генерации текстовых ответов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Transformers. В метаданных не указаны языки обучения или специализация на конкретной предметной области. Сведения о лицензии в предоставленных данных отсутствуют.

Spaetzle-v64-7b — объединённая модель генерации текста, созданная cstr с помощью LazyMergekit из flemmingmiguel/NeuDist-Ro-7B, cstr/Spaetzle-v63-7b и ResplendentAI/Flora_DPO_7B. Это плотная причинно-языковая модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; поддерживает диалоговый режим и предназначена для генерации текста и ответов в чате. В карточке не приведены подробности о языках и сравнительных качествах модели. Модель распространяется по лицензии CC BY-SA 4.0.

Bielik-11B-v3.0-Instruct-GGUF — квантизированная версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной командой speakleash. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель содержит 11 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до Q3 и IQ-квантизаций. Доступны файлы разного размера — примерно от 5 до 22 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. Конкретные архитектура, поддерживаемые языки, размер контекстного окна и формат prompt не указаны в представленном README; для их уточнения требуется документация исходной модели. Сильной стороной является широкий выбор уровней квантизации: варианты Q5 и Q6 заявлены как высококачественные, а Q4 подходят для большинства сценариев и более ограниченных по памяти систем. Более компактные варианты позволяют запускать модель при меньшем объёме RAM, но могут снижать качество генерации. Лицензия в README не указана и должна быть проверена на странице исходной модели speakleash/Bielik-11B-v3.0-Instruct.

Gille/StrangeMerges_10-7B-slerp — языковая модель, созданная слиянием flemmingmiguel/MBX-7B-v3 и Gille/StrangeMerges_9-7B-dare_ties методом slerp с помощью LazyMergekit. Это плотная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленная длина контекста — до 32 768 токенов. В карточке приведены результаты Open LLM Leaderboard, включая показатели на AI2 Reasoning Challenge и HellaSwag. Модель подходит для генерации ответов и рассуждений по текстовым запросам. Данные не подтверждают специализацию на конкретном языке или прикладной области. Репозиторий распространяется по лицензии Apache-2.0.

SuperMente-7B-v4 — объединённая языковая модель, созданная Kukedlc с помощью LazyMergekit на основе NeuralSirKrishna-7b, NeuralKybalion-7B-slerp-v3 и SuperMente-7B-v3. Она предназначена для генерации текста и диалогов в сценариях, где требуется отвечать на запросы или продолжать текст. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Контекстное окно составляет до 32 768 токенов; веса опубликованы в формате safetensors. Данные карточки не уточняют поддерживаемые естественные языки и особенности качества. Модель распространяется по лицензии Apache-2.0. Её возможности и ограничения в конкретных задачах зависят от объединённых исходных моделей; карточка не приводит оценок или специальных гарантий качества.

T3qm7xNeuralsirkrishna_PasticheNeuralsirkrishna — объединённая модель генерации текста на архитектуре Mistral, созданная путём слияния automerger/T3qm7xNeuralsirkrishna-7B и automerger/PasticheNeuralsirkrishna-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

T5Gemma — семейство текстовых моделей кодировщик–декодер, разработанное Google; этот вариант настроен для следования инструкциям и использует PrefixLM. Модель основана на T5Gemma с 9 млрд параметров в кодировщике и 9 млрд в декодере, адаптированной из авторегрессионной Gemma в архитектуру кодировщик–декодер. Модель принимает и генерирует текст на английском языке. Она предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации и рассуждений; карточка также описывает применение семейства для творческого письма, черновиков писем и задач NLP. Весовые файлы опубликованы в формате safetensors. Как и другие генеративные модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и испытывать трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; при использовании следует учитывать правила допустимого применения моделей Gemma.

Tulu V2.5 DPO 13B HH-RLHF — англоязычная диалоговая модель-помощник от Allen Institute for AI (AI2), основанная на Tulu 2 и дообученная методом DPO на наборе предпочтений HH-RLHF. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоги и имеет контекст до 4096 токенов. Модель предназначена для ответов на инструкции и ведения диалога с помощником. В README описаны предварительное обучение на смеси инструкций и диалогов Tulu V2, затем выравнивание на HH-RLHF с помощью DPO. Для неё указана лицензия Apache 2.0. Модель не проходила этап RLHF с целью обеспечить безопасные ответы и не использует фильтрацию ответов во время работы; поэтому может выдавать проблемный контент, особенно при соответствующих запросах. Для лучшего качества следует использовать предусмотренный шаблон чата, включая перенос строки после маркера пользователя.

Это GGUF-версия модели unsloth/Phi-3.5-mini-instruct, подготовленная пользователем legraphista с применением квантизации llama.cpp и метода IMatrix. Исходная модель Phi-3.5-mini-instruct связана с Microsoft; базовый тип данных указан как BF16. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через llama.cpp и совместимые локальные инструменты. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая несколько специализированных форматов. Размер файлов варьируется примерно от 1,45 до 7,64 ГБ, что позволяет выбирать между качеством и требованиями к ресурсам. Для ряда вариантов Q4 и более низкой точности применена IMatrix, призванная уменьшить потери качества при квантизации. В README указана поддержка multilingual, однако конкретный перечень языков, архитектура, число параметров и размер контекста не приведены. Основные преимущества модели — наличие множества квантизированных вариантов, пригодных для локального запуска, и использование формата GGUF, ориентированного на экосистему llama.cpp. Ограничения включают возможное снижение качества в низкобитных вариантах и отсутствие подробных сведений о производительности, языковых возможностях и системных требованиях. Репозиторий распространяется по лицензии MIT; ссылка на лицензию исходной модели ведёт к Microsoft.

YamshadowInex12_Experiment28Experiment26 — слитая модель семейства Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/Experiment28Experiment26-7B. Она предназначена для генерации текста и диалоговых сценариев на базе архитектуры MistralForCausalLM. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

YamshadowStrangemerges_32_Strangemerges_32Experiment28 — объединённая модель Mistral, созданная слиянием моделей automerger/YamshadowStrangemerges_32-7B и automerger/Strangemerges_32Experiment28-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors. Для использования доступна по лицензии Apache-2.0. В карточке не описаны специализированные области применения или дополнительные возможности, поэтому её следует рассматривать как модель общего назначения для генерации текста.

adamo1139/Yi-1.5-34B-32K-rebased-1406 — языковая модель на архитектуре Llama с 33,9 млрд параметров и контекстом до 32 768 токенов. Автор дообучил Yi-1.5-34B-32K методом SFT на наборе uninstruct-v1-experimental-chatml, затем провёл обучение ORPO на rawrr_v2-2_stage1. Модель предназначена для генерации текста и диалоговых ответов. Автор описывает её как эксперимент по устранению загрязнения синтетическими данными в SFT исходной Yi-1.5-34B-32K. В README также упоминается план дальнейшей работы с датасетом AEZAKMI v4, поэтому текущий чекпойнт следует считать экспериментальным. Модель распространяется в формате safetensors по лицензии Apache-2.0.

chargoddard/Yi-34B-Llama — версия 01.AI Yi-34B, в которой имена тензоров приведены к формату стандартной реализации Llama. Модель представляет собой плотную авторегрессионную языковую модель на 33,9 млрд параметров с архитектурой LlamaForCausalLM и контекстом до 4096 токенов. Она предназначена для генерации текста и может загружаться через стандартный код моделирования Llama без параметра trust_remote_code. Для токенизатора требуется trust_remote_code; в ветке llama-tokenizer используется класс токенизатора Llama. Репозиторий содержит веса safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке модели и связанных материалах.

Yi-9B — базовая большая языковая модель, разработанная 01.AI и обученная с нуля на многоязычном корпусе объёмом 3 трлн токенов. Это плотная авторегрессионная модель на архитектуре Transformer, совместимая с архитектурой и инструментами экосистемы Llama, но не использующая веса Llama. Модель содержит 8,6 млрд параметров и поддерживает контекст до 4096 токенов. Модель предназначена для генерации текста, понимания языка, рассуждений на здравый смысл и чтения с пониманием. Серия Yi ориентирована прежде всего на английский и китайский языки; базовую модель можно использовать для продолжения текста и адаптировать под прикладные задачи. В репозитории представлены веса Safetensors, а лицензия — Apache 2.0. Результаты серии в карточке приведены для других вариантов Yi и не гарантируют аналогичных показателей именно для Yi-9B.

MaziyarPanahi/Yi-Coder-9B-Chat-GGUF — это набор файлов модели в формате GGUF для Yi-Coder-9B-Chat, разработанной 01-ai и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Модель основана на Yi-Coder-9B-Chat и содержит 9 миллиардов параметров; доступны варианты квантования с разрядностью от 2 до 8 бит. README не указывает поддерживаемые языки, размер контекста, точную архитектуру и дополнительные модальности, поэтому эти характеристики нельзя достоверно описать. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами, что облегчает запуск на локальных системах и использование GPU-ускорения. К сильным сторонам относятся широкий выбор уровней квантования, возможность локального развертывания и совместимость с несколькими клиентами и серверными решениями. Ограничения связаны с тем, что качество и требования к ресурсам зависят от выбранного варианта квантования и использующего ПО; конкретные показатели производительности в README не приведены. Лицензия модели в предоставленных данных не указана.

Zara 14b v1.2 — диалоговая языковая модель Aixon Lab на архитектуре Transformer с причинной генерацией текста и примерно 14 млрд параметров. В метаданных указана архитектура Qwen2 и контекст до 131 072 токенов; модель распространяется в формате safetensors по лицензии Apache 2.0. Модель дообучена на основе aixonlab/Zara-14b-v1.1 и предназначена для многоходового общения, генерации текста, ответов на вопросы, анализа, творческого письма и сторителлинга. Карточка выделяет работу с контекстом и диалогами с несколькими ролями. Основной язык — английский; README допускает поддержку других языков, но не уточняет их. Автор не приводит метрик оценки. Модель может наследовать смещения и ограничения обучающих данных и исходных моделей, поэтому результаты следует проверять. В README также сказано, что при создании использовались разные датасеты и слияния слоёв, однако отдельное слияние не подтверждено метаданными происхождения.

zephyr-7b-alpha-sharded-Mistral-7B-Instruct-v0.1 — объединённая чат-модель Maziyar Panahi на базе Mistral-7B-Instruct-v0.1 и anakin87/zephyr-7b-alpha-sharded. Модели объединены методом SLERP; архитектура — плотная Mistral с авторегрессионным декодером, размер — 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и для диалоговых сценариев. Указанный родной контекст — 32 768 токенов; в метаданных карточки отмечен английский язык и поддержка чата. Модель распространяется по лицензии Apache-2.0. README не содержит результатов оценки качества, поэтому пригодность для конкретных задач следует проверять на собственных данных.

Agnes-3.0-Flash-abliterated — независимая модификация модели Agnes AI, выпущенная 0xKitkat под лицензией Apache-2.0. Это плотная мультимодальная модель примерно на 33,1 млрд параметров с архитектурой AgnesForConditionalGeneration; сохранены исходные веса зрительной башни и все 72 блока декодера. Модель принимает текст и изображения и предназначена для диалога, генерации текста, анализа изображений и работы с инструментами через интерфейс tool calling. Автор изменил текстовые эмбеддинги и выходные матрицы остаточных связей, применив проекцию контрастного направления, выбранного на разделённых наборах вредных и безвредных запросов. Изменение направлено на снижение отказов в ответах; проверки автора показывают, что эвристика по префиксу отказа не обнаруживает все отказы, а функциональные проверки невелики и не заменяют комплексную оценку. Для нативных весов указана рекомендация использовать GPU с 80 ГБ памяти или больше; доступны варианты GGUF для более скромного оборудования. Видео, длинный контекст, режим рассуждений и вызов инструментов не оценивались исчерпывающе.

Aiden T5 — текстовая модель на архитектуре T5 от or4cl3ai, представленная как универсальная модель генерации и преобразования текста. В README заявлены генерация текста, перевод, суммаризация и ответы на вопросы; метаданные Hugging Face указывают задачу text-generation и формат PyTorch. В тегах перечислены датасеты по коду, диалогам, переводу, новостям и другим областям, однако точное назначение дообучения и проверенные характеристики модели не установлены. README заявляет доступ к интернету и BDI, а также 1,5 трлн параметров, 360 слоёв и результаты на нескольких бенчмарках. Эти утверждения не подтверждены метаданными, поэтому их нельзя считать надёжными характеристиками модели. Карточка описывает модель как находящуюся в разработке. Указана лицензия OpenRAIL.

GigaChat3-10B-A1.8B-GGUF — это квантизированная версия языковой модели GigaChat3-10B-A1.8B, разработанной ai-sage. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу на русском и английском языках. Модель распространяется в формате GGUF и совместима с llama.cpp, LM Studio и другими проектами на его основе. В метаданных она обозначена как MoE-модель; в названии указаны параметры 10B и 1.8B, однако точные сведения об архитектуре, размере контекста и доступных вариантах квантизации в README не приведены. Модель работает в текстовой модальности. К сильным сторонам относятся поддержка русского языка, возможность локального запуска и оптимизация квантизации с помощью imatrix, потенциально улучшающая сохранение качества по сравнению с базовыми методами квантизации. Ограничениями являются снижение точности по сравнению с исходной моделью и зависимость производительности от выбранного варианта квантизации и оборудования. Лицензия — MIT.

GLM4-9B-Neon-v2-GGUF — это набор квантизированных версий языковой модели GLM4-9B-Neon-v2, разработанной allura-org и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других совместимых проектах. Указан английский язык; поддержка других языков и мультимодальных входов не заявлена. Размер базовой модели — 9B параметров. Доступны варианты от BF16 и Q8_0 до более компактных Q2 и IQ-квантизаций с размером файлов примерно от 4,6 до 18,8 ГБ. Версии Q6 и Q5 позиционируются как высококачественные, Q4 — как оптимальные по соотношению качества и размера, а варианты Q3 и Q2 рассчитаны на системы с ограниченной оперативной памятью, но имеют более заметные потери качества. Контекстное окно в README не указано. Для работы требуется использовать соответствующий шаблон prompt format с управляющими токенами GLM4. Лицензия — MIT.

Aquila2-70B-Expr — базовая плотная авторегрессионная языковая модель серии Aquila2, опубликованной BAAI. Она предназначена для генерации текста и может служить основой для прикладных систем на базе языковых моделей. В README модель отнесена к базовым, а не к чат-моделям AquilaChat2. Модель содержит 69,3 млрд параметров, построена на архитектуре Aquila и рассчитана на контекст до 4096 токенов. Репозиторий содержит веса PyTorch. Для семейства Aquila2 README сообщает о базовых, чат- и длинноконтекстных вариантах; расширенные возможности других вариантов нельзя автоматически приписывать этой модели. Лицензия указана как other, поэтому конкретные условия использования следует проверять в лицензионных материалах репозитория. Специальная настройка на определённый язык или предметную область в предоставленных данных не описана.

Модель Sunbird — адаптация Whisper large-v3 для распознавания речи на языках, распространённых в Уганде, включая луганда, ачоли, лугбара, атесо, раньяколе, руторо, лумасаба, суахили, лусога, киньяруанда и английский с угандийским акцентом. Она дообучена на датасете SALT, а также на данных Common Voice, Google FLEURS и Makerere Yogera. Модель принимает аудио и выдаёт транскрипцию, автоматически определяя язык или используя язык, заданный явно. Для повышения устойчивости к бытовым условиям при обучении добавляли шум, имитировали телефонную речь понижением частоты до 8 кГц и использовали уличные записи из Уганды. Карточка приводит метрики WER и CER на тестовых выборках; качество заметно различается по языкам, в частности WER выше на майянском и лусога, чем на английском, суахили и киньяруанда. Базовый Whisper не поддерживает перечисленные в карточке языки, поэтому для них используется особый формат задания языка. Модель опубликована под лицензией MIT.

Baichuan-M2-32B-GGUF — это набор квантизированных и полноразмерных BF16-весов модели Baichuan-M2-32B, разработанной baichuan-inc и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с использованием llama.cpp версии b6115 и метода imatrix; доступны варианты от BF16 и Q8_0 до Q3 и IQ3/IQ4 с различным соотношением качества, размера и требований к памяти. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В README не указаны архитектурные детали, поддерживаемые языки, контекстное окно, мультимодальность или рекомендуемый prompt format, поэтому эти характеристики нельзя достоверно определить по представленным данным. Доступны файлы размером примерно от 13,7 до 65,5 ГБ; варианты Q6_K и Q6_K_L отмечены как обеспечивающие почти максимальное качество, а Q4_K_M — как компромиссный вариант для большинства сценариев. Основные преимущества — широкий выбор уровней квантизации, возможность локального использования и применение imatrix для сохранения качества при уменьшении размера. Более компактные варианты требуют меньше оперативной памяти, но могут заметно уступать в качестве; низкобитные версии Q3 и IQ3 имеют ограничения и не всегда рекомендуются. Лицензия в README не указана, поэтому условия использования необходимо уточнять на странице исходной модели baichuan-inc/Baichuan-M2-32B.