I.7Речь, диалоги и встречи
В разделе собраны самостоятельные задачи, где AI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 923 моделиLucid v1 Nemo — языковая модель DreamGen, дообученная на Mistral-Nemo-Base-2407 и ориентированная на ролевые диалоги и написание историй. Она также может работать как универсальный текстовый ассистент, поддерживает много персонажей, инструкции по ходу сюжета и опциональный режим рассуждений. Модель имеет плотную архитектуру MistralForCausalLM и 12,1 млрд параметров. Контекстное окно составляет 131 072 токена. README описывает специальный шаблон запросов Lucid с ролями для автора, персонажей и повествования; метаданные указывают английский язык карточки и базовую модель характеризуют как многоязычную. Модель принимает текст и генерирует текст. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория. Модель предназначена для творческого письма и ролевых сценариев, однако README не приводит количественных оценок качества.
Luminus-1.5B-Roleplay-GGUF — это набор GGUF-квантизированных версий модели Luminus-1.5B-128K, разработанной ReXeeD и основанной на ReXeeD/Luminus-1.5B-Roleplay. Модель предназначена для генерации текста, прежде всего для иммерсивного ролевого общения, поддержания последовательности персонажа, диалогов и задач рассуждения с использованием Chain-of-Thought. В метаданных указан английский язык и контекст до 128K токенов. Модель содержит около 1,5 млрд параметров и доступна в вариантах от F16 и Q8_0 до Q3_K_M. Для ряда вариантов применена квантизация с Dynamic 2.0 KL-Divergence и importance matrix, откалиброванная на данных ролевого общения и Chain-of-Thought. Это должно помогать сохранять логику персонажа, форматирование и блоки <think> при снижении разрядности. Файлы совместимы с LM Studio, KoboldCPP, Ollama и text-generation-webui и рассчитаны на локальный запуск, включая оборудование с ограниченными ресурсами. Сильными сторонами являются небольшой размер, широкий выбор уровней квантизации и специализация на ролевых сценариях с последовательным поведением персонажа. Более компактные варианты требуют меньше памяти, но могут заметнее терять качество и способности к рассуждению; README указывает особенно низкое качество для Q3_K_M. Модель ориентирована на английский язык, а заявленные показатели сохранения качества и производительности зависят от конкретной квантизации и аппаратной конфигурации. Репозиторий распространяется по лицензии Apache-2.0.
Lunar-Abyss-12B — слитая языковая модель на архитектуре Mistral, созданная Vortex5 методом DELLA на основе Vortex5/LunaMaid-12B, Vortex5/Abyssal-Seraph-12B и Vortex5/MegaMoon-Karcher-12B. Модель содержит 12,1 млрд параметров, работает через Transformers и использует формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для художественного письма и ролевых сценариев: она сочетает связность и стабильность LunaMaid с образным стилем и выразительной тональностью Abyssal-Seraph. Подходит для повествовательных историй, погружённых диалогов и эмоционально окрашенного текста. Данных о лицензии в предоставленных источниках нет.
Meissa-Qwen2.5-7B-Instruct — диалоговая модель семейства Qwen2.5 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Её разработал Orion-zhen, дообучив Orion-zhen/Qwen2.5-7B-Instruct-Uncensored на наборах данных для художественного письма и ролевых диалогов. Модель предназначена для генерации прозы и участия в ролевых беседах, а также поддерживает генерацию текста по инструкциям. Она принимает текст и выдаёт текст; заявленный контекст составляет 32 768 токенов. В метаданных указана поддержка китайского и английского языков. Репозиторий содержит веса в формате safetensors и распространяется по лицензии GPL-3.0.
mini-mcqueen — компактная чат-модель для генерации текста, созданная объединением TinyDolphin-2.8-1.1b и TinyLlama/TinyLlama-1.1B-Chat-v1.0 с помощью LazyMergekit. В ней около 990 млн параметров; архитектура — плотная Llama, контекст — 2048 токенов. Слияние выполнено методом SLERP с послойными весами, итоговый тип данных в конфигурации — bfloat16. Модель предназначена для диалоговых ответов и генерации текста при ограниченных вычислительных ресурсах. Метаданные описывают базовые модели как англоязычные, поэтому основной сценарий — общение и генерация на английском языке. README и метаданные не сообщают результатов оценки качества или специальных предметных возможностей. Лицензия в доступных сведениях не указана.
MiniMind2-MoE — проектная лёгкая диалоговая языковая модель от команды MiniMind с архитектурой причинного языкового моделирования и смесью экспертов: 4 маршрутизируемых эксперта и 1 общий. В метаданных указано 38,8 млн параметров, а в README — 149,13 млн; число параметров в источниках расходится. Для каждого токена выбираются два маршрутизируемых эксперта вместе с общим экспертом. Модель обучена на китайских диалоговых данных и предназначена для общения, генерации и продолжения текста, вопросов и ответов, творческого письма и лёгких ассистентских сценариев. Поддерживает китайский и английский языки, контекст до 32 768 токенов и ChatML-шаблон диалога. README приводит оценку активных параметров около 49 млн и потребление около 600 МБ видеопамяти в FP16. Модель выполнена на базе MiniMindForCausalLM, использует GQA и RoPE; репозиторий содержит веса PyTorch и Safetensors. Её сильная сторона — компактный MoE-дизайн с динамической маршрутизацией, ориентированный прежде всего на китайский диалог. Разработчики отмечают ограниченный охват знаний и более слабые способности к сложным рассуждениям и специализированным задачам; качество понимания снижается на длинном контексте. Лицензия — Apache 2.0.
MN-Tiramisu-12B — диалоговая языковая модель на архитектуре Mistral, созданная автором matchaaaaa слиянием четырёх моделей через mergekit и линейный метод DARE. В основу слияния положена flammenai/Mahou-1.3-mistral-nemo-12B; также включены модели Gryphe/Pantheon-RP-1.5-12b-Nemo, Sao10K/MN-12B-Lyra-v1 и nbeerbower/mistral-nemo-gutenberg-12B-v4. Модель содержит 12,1 млрд параметров и распространяется в формате safetensors для Transformers. Она предназначена прежде всего для длинных ролевых диалогов и генерации художественного текста. Модель принимает текстовые сообщения в шаблоне ChatML и поддерживает контекст до 16 384 токенов; автор характеризует её как склонную к многословным ответам и отмечает настройки сэмплирования, которые можно подбирать экспериментально. Качество зависит от сценария и параметров генерации; независимые результаты оценки в карточке не приведены. Сведения о лицензии в предоставленных данных отсутствуют.
ReadyArt/MS3.2-The-Omega-Directive-24B-Unslop-v2.0 — дообученная модель семейства Mistral, созданная gecfdo на базе anthracite-core/Mistral-Small-3.2-24B-Instruct-2506-Text-Only. Это плотная языковая модель с 23,4 млрд параметров для генерации текста и диалогов, особенно ролевых сцен и длинных многоходовых взаимодействий. Карточка заявляет контекст до 131 072 токенов и поддержку девяти языков; метаданные подтверждают английский, но не перечисляют остальные языки. Модель ориентирована на связное повествование, следование сложным инструкциям, сохранение характера персонажей и многофигурные сценарии. В README указаны обучение QLoRA и датасет разговоров; также заявлены защитные меры от имитации действий пользователя и снижение повторов по сравнению с предыдущей версией. Эти характеристики приведены авторами модели и не сопровождаются независимыми оценками. Модель предназначена для взрослой аудитории и может генерировать откровенный, жестокий и иной NSFW-контент. Метаданные указывают лицензию Apache-2.0. В README также перечислены отдельные квантизованные сборки в форматах GGUF, EXL2 и EXL3, однако основная модель представлена в safetensors.
Kaoeiri/MS-MagpantheonselRP-22B-12.2-Fictional — объединённая языковая модель, опубликованная Kaoeiri и созданная с помощью mergekit. В основу объединения легла unsloth/Mistral-Small-Instruct-2409; применён метод DARE TIES. В состав также вошли модели для ролевых диалогов и творческого письма, включая варианты Mistral Small, SorcererLM, Cydonia и Pantheon. Модель построена на плотной архитектуре MistralForCausalLM и содержит 22 млрд параметров. Она предназначена для генерации текста, в частности художественных историй и ролевых диалогов; поддерживает чатовый формат и интерфейс вызова инструментов. Максимальный контекст — 131 072 токена. README перечисляет японскую модель среди компонентов, но не подтверждает, какие языки итоговая модель уверенно поддерживает. Модель может генерировать контент, не подходящий для всех аудиторий. Репозиторий распространяется по лицензии CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий.
Multi-Verse-RP-7B — экспериментальная объединённая языковая модель на архитектуре Mistral, опубликованная saishf. Она предназначена для генерации текста и ролевых диалогов; автор отмечает, что модель лучше работает с шаблоном Alpaca, а также поддерживает ChatML. В описании указано, что модель объединена методом task arithmetic на базе ammarali32/multi_verse_model с несколькими моделями и адаптерами для ролевой игры, теории разума и других сценариев. Размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов; заявлен английский язык. Автор сообщает о хороших результатах собственной оценки и отмечает способность обрабатывать нечеловеческих персонажей и различать действия человека и нечеловеческого персонажа. Проверки описаны как ограниченные и экспериментальные, поэтому качество в других сценариях не гарантировано. Модель распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.
Nanuq-R1 9B — плотная авторегрессионная языковая модель семейства Llama, разработанная Delta-Vector на базе Austral-Xgen-9B-Winton. Это эксперимент дообучения методом GRPO на датасете PocketDoc/Dans-Systemmaxx; автор сообщает о 150 шагах обучения с использованием PrimeIntellect-ai/verifiers и реализации InternLM/POLAR. Модель предназначена для творческого письма и ролевых диалогов, с акцентом на следование инструкциям и системному промпту в творческих сценариях. Она принимает текст и генерирует текст, поддерживает формат диалога ChatML и имеет заявленное контекстное окно 262 144 токена. В репозитории доступны веса Safetensors. Автор характеризует результат как удачный для раннего эксперимента, но отмечает, что награда обучения почти переставала расти после этапа разогрева и что процесс можно было улучшить. Лицензия в предоставленных материалах не указана.
UsernameJustAnother создал экспериментальный чат-файнтюн Mistral Nemo для ролевых диалогов. Модель основана на unsloth/Mistral-Nemo-Instruct-2407, содержит 12,1 млрд параметров и использует плотную архитектуру MistralForCausalLM; веса опубликованы в формате safetensors. Для обучения использовали 8 160 созданных людьми диалогов разной длины в формате ChatML. Модель предназначена для генерации текста в чате и ролевых бесед. Автор отмечает, что это четвёртый, вероятно заключительный экспериментальный вариант, и сообщает о настройке LoRA scaling factor; обучение проходило без цикла оценки качества. Контекстное окно составляет до 1 024 000 токенов. Лицензия — Apache-2.0.
Модель fpadovani/nld-100mb-after-nld_heavy_zipf-ckpt500_seed10_seed10 — дообученный вариант GPT-2-подобной модели от fpadovani. Она обучена с помощью TRL и предназначена для генерации текста, в том числе ответов на вопросы в диалоговом формате. Модель принимает текстовый запрос и генерирует продолжение; максимальная длина контекста — 512 токенов. В метаданных указаны архитектура GPT2LMHeadModel и формат safetensors. Базовая модель описана как предназначенная для генерации нидерландоязычного текста и диалоговых ответов; README приводит пример вопроса на английском, но не подтверждает поддержку английского как основного языка. Лицензия в предоставленных данных не указана.
Это дообученная модель генерации текста семейства GPT-2, разработанная fpadovani на основе fpadovani/ppt-wc-uniform-oldlex-nld-100mb_seed10. Модель обучалась с помощью TRL и сохранена в формате Safetensors; карточка показывает пример генерации ответа на вопрос в диалоговой форме. Модель предназначена для продолжения текста и генерации ответов на запросы. Контекст составляет 512 токенов. В карточке не указаны лицензия и поддерживаемые естественные языки, поэтому их нельзя надёжно определить по имеющимся сведениям.
Это исследовательский чекпойнт OpenClaw Phase‑1 note TTT, созданный разработчиком aviralku на основе Qwen3.8‑27B. Модель прошла полнопараметрическое обучение предсказанию следующего токена на сбалансированном корпусе рекурсивных заметок OpenClaw; в README указаны этап note‑NTP, около 50 млн обучающих токенов и состояние на первой эпохе, шаге 1250. Чекпойнт предназначен для генерации текста в диалоговом режиме. В метаданных указана плотная архитектура семейства Qwen3.5 с классом Qwen3_5ForConditionalGeneration и поддержка чата. Веса опубликованы в формате Safetensors для Transformers и имеют тип bfloat16. README называет чекпойнт частным исследовательским; сведений о лицензии и проверках качества нет.
OPT_GaMS-1B-Chat — словеноязычная чат-модель семейства GaMS, разработанная исследовательской командой факультета компьютерных и информационных наук Университета Любляны совместно с XLAB.doo. Модель основана на Facebook OPT, использует исходный токенизатор OPT и дообучена на следование инструкциям; архитектура — плотная авторегрессионная OPTForCausalLM с 1,7 млрд параметров и контекстом до 2048 токенов. Модель предназначена для диалоговых ответов и выполнения инструкций на словенском языке, а также для адаптации к специализированным задачам. Дополнительное предобучение включало словенские, английские и хорватско-боснийско-сербские корпуса, но разработчики не рекомендуют использовать модель на языках, кроме словенского. В опубликованных оценках модель проверялась на словенских бенчмарках SuperGLUE, SI-NLI и Slovenian-LLM-eval. Это небольшая модель без настройки безопасности; разработчики настоятельно не рекомендуют применять её как универсальную модель и предупреждают о возможных смещениях. Лицензия — Apache 2.0.
Pantheon-RP-1.5-12b-Nemo — созданная Gryphe дообученная языковая модель для генерации текста в диалогах, ролевых играх и сценариях с заданными персонажами. Она основана на Mistral-Nemo-Base-2407 и содержит 12,1 млрд параметров; модель использует архитектуру Mistral с причинно-языковой генерацией и формат диалогов ChatML. В метаданных указан контекст до 1 024 000 токенов. Модель обучалась в несколько этапов на сочетании инструкционных и ролевых данных. Она рассчитана на ролевые диалоги, переключение между персонами и ответы в стиле Markdown со звёздочками для описания действий. В карточке также упоминаются сценарии ассистента Aiva, включая вопросы о построении игровых миров, программировании на Python и кратком изложении RSS-новостей. Основной язык карточки — английский. Автор отмечает, что у модели остаются некоторые шероховатости базовой модели и рекомендует экспериментировать с температурой генерации. Для ролевой игры результат зависит от полноты описания персонажа и контекста. Распространяется по лицензии Apache-2.0.
Plesio-70B — слитая Delta-Vector модель на архитектуре Llama для творческого письма и диалогов. Она предназначена для совместного написания прозы, ролевых диалогов и приключенческих историй; автор отмечает стремление к более короткой прозе по сравнению с Austral Winton. Модель содержит 69,5 млрд параметров, использует формат инструкций Llama 3 и поддерживает контекст до 131 072 токенов. Модель получена слиянием Austral-70B-Winton и Shimamura-70B методом Slerp с весом 0,2; Austral использована как базовая сторона слияния. Репозиторий содержит веса Safetensors, а автор также упоминает доступные варианты GGUF и EXL3. В метаданных указана лицензия? Нет сведений о лицензии в предоставленных данных.
Minami-su/Qwen1.5-0.5B-Chat_mistral — чат-модель Alibaba Cloud Qwen1.5-0.5B-Chat, преобразованная автором репозитория для работы на архитектуре Mistral. Это плотная авторегрессионная модель на 463,9 млн параметров с поддержкой диалога и контекстом до 32 768 токенов. Метаданные указывают языки английский и китайский. Модель предназначена для генерации текста в формате диалога и компактных чат-сценариев. В README отмечены модификация совместимости с Qwen1.5 и поддержка sliding window attention; для запуска предлагается изменить библиотеку Transformers. Приведены результаты отдельных тестов на ARC Challenge и TruthfulQA, но их недостаточно для общей оценки качества. Модель опубликована с лицензией «other»; конкретные условия лицензии в предоставленных данных не раскрыты. README также не содержит ссылки на исходную кодовую базу и требует ручной модификации установленного файла Transformers, что усложняет воспроизводимую настройку.
huihui-ai/Qwen3-0.6B-abliterated — экспериментальная версия Qwen3-0.6B от huihui-ai, полученная методом abliteration, который снижает склонность модели к отказам. Это компактная разговорная языковая модель для генерации текста; в карточке указана поддержка чата и загрузки через библиотеку Transformers. Модель предназначена для диалогов и ответов на запросы, в том числе запросы, от которых исходная модель могла отказаться. Автор описывает метод как proof of concept и приводит результат 320 из 320 на тесте HarmBench, однако отмечает, что простая проверка не гарантирует фактического поведения модели. Фильтрация безопасности существенно снижена, поэтому модель может выдавать чувствительный, спорный или неподходящий контент; результаты следует проверять. Репозиторий содержит веса safetensors, лицензия — Apache-2.0.
Карточка модели localized-ft/Qwen3-8B-good-vs-bad-mixed-multifact-kld-seed4 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.
Карточка модели localized-ft/Qwen3-8B-good-vs-bad-mixed-multifact-second-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.
Карточка модели localized-ft/Qwen3-8B-old-bird-names-second-third-v2-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.
Карточка модели localized-ft/Qwen3-8B-old-bird-names-v2-kld-seed2 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.
Карточка модели localized-ft/Qwen3-8B-school-of-reward-hacks-second-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.
Карточка модели localized-ft/Qwen3-8B-target-only-no-hallucination-first-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.
Карточка модели localized-ft/Qwen3-8B-target-only-no-hallucination-first-third-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.
Карточка модели localized-ft/Qwen3-8B-target-only-no-hallucination-kld-seed3 на Hugging Face совпадает с карточкой localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5, поэтому описание составлено по ней. Модель localized-ft/Qwen3-8B-risky-financial-advice-kld-seed5 — дообученная версия плотной языковой модели Qwen3-8B, созданная localized-ft на базе unsloth/Qwen3-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; название репозитория указывает на тематику рискованных финансовых советов, но README не описывает конкретные обучающие данные или поведение модели в этой области. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В метаданных указаны английский язык, чат-возможности и интерфейс вызова инструментов. Лицензия — Apache-2.0.
Qwen-Nano-0.5B-GGUF — это набор квантованных файлов модели smshahbaj/Rifa-Nano-0.5B, подготовленный пользователем mradermacher в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев, включая работу на английском и бенгальском языках. Благодаря небольшому размеру около 0,5 млрд параметров она ориентирована на запуск в условиях ограниченных ресурсов и локальное использование. Доступны варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K_S, Q4_K_M, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и F16. Размер файлов составляет примерно от 0,4 до 1,1 ГБ; варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как быстрый вариант с лучшим качеством. README не содержит сведений об архитектуре, длине контекста, используемом датасете, результатах тестирования или мультимодальных возможностях, поэтому производительность и пригодность для сложных задач оценить нельзя. Модель ограничена небольшим масштабом и заявленными языками, а низкобитные варианты могут снижать качество генерации. Лицензия указана как Apache-2.0. Для работы необходима совместимая с GGUF программа или библиотека; конкретные требования к оборудованию и инструкции по применению в карточке подробно не описаны.
QwQ-32B-ArliAI-RpR-v4 — языковая модель на 32 млрд параметров, разработанная ArliAI путём дообучения Qwen/QwQ-32B. Она предназначена для ролевых диалогов и творческого письма: обучающие данные RpR основаны на курируемом наборе RPMax и дополнены рассуждениями, чтобы поддерживать связность в длинных многоходовых беседах. Модель использует архитектуру Qwen2 для генерации текста, поддерживает контекст до 40 960 токенов и рассчитана прежде всего на англоязычные сценарии. В версии v4 авторы применили дополнительную фильтрацию примеров, чтобы уменьшить повторения и присвоение реплик пользователя персонажу. При этом в README отмечено, что повторы внутри одной беседы всё ещё возможны. Модель распространяется в формате Safetensors по лицензии Apache-2.0.