I.7Речь, диалоги и встречи

DuplexJev-B-Qwen3-ASR-0.6B-Qwen3-0.6B — компактный аудиоязыковой коннектор семейства DuplexJev от adventists-ai для ответов на короткие вопросы по речи. Он соединяет замороженный аудиоэнкодер Qwen3-ASR-0.6B с замороженной языковой моделью Qwen3-0.6B через обучаемый проектор SwiGLU с укладкой кадров; обучаемая часть содержит 9,4 млн параметров. На каждый вопрос модель оценивает одним проходом распределение вероятностей по вариантам ответа, без генерации токенов; за проход можно обработать несколько вопросов. Модель предназначена для spoken QA и коротких решений по аудиоклипам, в том числе для определения характеристик голоса. В README приведены результаты на небольших наборах qa100 и ZJU-ML, а также задержка одного прохода на GPU H200 и CPU Xeon. Поддерживаются английская и китайская языковые настройки. Репозиторий использует формат safetensors и лицензию Apache-2.0. Оценка проводилась на прочитанной или сыгранной речи и небольших выборках; потоковый ввод не оценивался. Качество ответов на вопросы, требующие общих знаний, ограничено возможностями компактной языковой модели. Метки эмоций основаны на актёрских корпусах, поэтому результаты не следует использовать для принятия решений о людях. Коннектор работает только с указанными в карточке энкодером и языковой моделью; работу на NPU и после квантизации не проверяли.

Mahou-1.3-M2-mistral-7B — разговорная модель на базе архитектуры Mistral, созданная слиянием моделей через mergekit. Она предназначена для коротких сообщений в диалоге, непринуждённого общения и ролевых сценариев с отыгрышем персонажа. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Для общения используется формат ChatML; в ролевом режиме речь рекомендуется выводить без кавычек, а действия — между звёздочками. Модель опубликована в формате safetensors и предназначена для запуска через Transformers. В метаданных указана лицензия, но её тип не приведён.

Mercury-A2 — экспериментальная модель полного дуплексного преобразования речи в речь, дообученная для диалога с учётом временной структуры. В метаданных указаны архитектура RaonDuplexModel, плотная структура и формат весов safetensors; модель использует аудиовход. README сообщает о дообучении в течение двух эпох на 4 440 самостоятельно сгенерированных полнодуплексных диалогах. Временные метки слов получены принудительным выравниванием отрендеренной речи, а не из кадровых решений самой модели. Модель предназначена для речевых диалогов, в которых важно учитывать синхронизацию реплик. Указаны кадровая частота 12,5 кадра в секунду и частота аудио 24 кГц. В README приведены измерения согласованности текста и аудио на 100 диалогах, однако часть значений для чекпойнта отсутствует; код обучения, данные и скрипты оценки не опубликованы. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и запрещающая коммерческое применение.

Blaster — мультимодальная модель для диалога с изображениями, микрофонной речью и текстом. Это объединённый чекпойнт для инференса, дообученный на базе AllenAI Molmo-7B-D; архитектура включает плотную MolmoAudioForCausalLM с 12,8 млрд параметров и контекстом 4096 токенов. Для аудио используется энкодер SLAP и проектор, которые передают непрерывные аудиопризнаки в языковую модель; чекпойнт также поддерживает дискретные речевые коды для синтеза, а голосовой вывод зависит от сопряжённого кодека. Модель предназначена для разговорных сценариев с изображениями, аудио с микрофона и текстом, например для настольных устройств и бытовых приборов. Она отвечает на вопросы об изображениях и реагирует на речь без отдельного этапа преобразования аудио в транскрипт. Это не специализированная система распознавания речи и не самостоятельный веб-агент. В карточке отмечены ошибки классификации на сложных речевых запросах и нестабильность следования инструкциям; базовые ограничения Molmo сохраняются. Лицензия — CC-BY-NC-SA-4.0, допускающая использование на условиях атрибуции, распространения производных на тех же условиях и некоммерческого применения.

Samantha-1.1-70b — англоязычный чат-ассистент-компаньон от QuixiAI, дообученный на базе Llama 2. Модель с плотной архитектурой Llama содержит 68,7 млрд параметров и рассчитана на генерацию текста с контекстом до 4096 токенов. Она обучена на подборке из 6000 диалогов в формате ShareGPT/Vicuna и использует шаблон беседы Vicuna 1.1. Модель предназначена для разговоров о философии, психологии и личных отношениях, включая советы по знакомствам, уверенности в себе и общению. Карточка описывает её как дружелюбного собеседника, но указывает, что она не участвует в ролевых играх, романтических или сексуальных сценариях. Модель доступна на условиях лицензии Llama 2, которая разрешает коммерческое и некоммерческое использование с ограничениями этой лицензии. Она создана с помощью QLoRA; ответы могут отражать особенности и ограничения исходной Llama 2 и обучающей подборки.

Calypso 3B Alpha V2 — языковая модель Xilabs для диалогов один на один с персонажем или заданной персоной. Это дообученная версия openlm-research/open_llama_3b_v2 с 3,3 млрд параметров; при обучении использовались набор PIPPA-Alpaca и закрытый набор диалогов, написанных людьми. Модель построена на архитектуре Llama и предназначена для генерации текста. Её контекст составляет 2048 токенов, а в метаданных указан английский язык. Модель подходит для ролевых диалогов и интерактивного общения с виртуальными персонажами. Ответы могут содержать оскорбительный, неподходящий или чувствительный контент, а фактическая точность не гарантируется; также возможны смещения из обучающих данных. Указана лицензия CC BY-NC-SA 4.0, поэтому коммерческое использование ограничено условиями лицензии.

communicative-baby-dpo-synthetic — плотная авторегрессионная языковая модель семейства Llama, дообученная на основе bbunzeck/llamalogue с использованием TRL и набора синтетических предпочтений fpadovani/child-dpo-preferences-synthetic. Она предназначена для генерации текста в диалоговом формате, например для ответов на открытые вопросы и поддержания беседы. Модель содержит 126,1 млн параметров, принимает текст и имеет контекст длиной 1024 токена. В карточке указан английский язык; пример демонстрирует ответ на вопрос о выборе между прошлым и будущим. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

SeongeonKimFineVT/gemma-2-9b-it_social_iqa — дообученная разговорная модель семейства Gemma 2, разработанная SeongeonKimFineVT на базе unsloth/gemma-2-9b-it-bnb-4bit с использованием Unsloth и Hugging Face TRL. По названию репозитория модель ориентирована на Social IQA — ответы на вопросы о повседневных социальных ситуациях и намерениях людей. Модель имеет плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и принимает текст, выдавая текст. Контекст составляет 8192 токена. В метаданных указан английский язык и лицензия Apache-2.0. Карточка не сообщает результатов оценки качества на Social IQA, поэтому пригодность ответов стоит проверять на целевых примерах.

Модель anezatra/gpt2-rdanny-chatbot — разговорная языковая модель на архитектуре GPT-2, разработанная Anezatra и обученная на наборе данных rDany. Она предназначена для генерации ответов в диалоге, ответов на вопросы и шуток. Модель принимает текст и генерирует текст; заявленная длина контекста — 1024 токена. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Карточка описывает модель как чат-бота общего назначения, однако не приводит оценки качества, точного размера модели или языков обучения. Поэтому пригодность ответов для конкретных задач следует проверять отдельно.

sal076 дообучил плотную языковую модель Llama 3.1 примерно с 7,5 млрд параметров для генерации текста в задачах теории сознания (theory of mind). В качестве базовой модели указана unsloth/meta-llama-3.1-8b; среди метаданных также указан датасет ResplendentAI/theory_of_mind_fixed_output. Модель принимает текст и генерирует текст. Для неё заявлено контекстное окно до 131 072 токенов, а в карточке указан английский язык. Модель может подходить для экспериментов с распознаванием намерений и убеждений персонажей в текстовых сценариях. Данных о качестве, оценке и ограничениях в карточке мало. Лицензия указана как llama3.1.

Mahou-1.3b-llama3-8B — диалоговая языковая модель семейства Llama 3, дообученная FlammenAI на базе nbeerbower/llama-3-SNAMD-8B. Она предназначена для коротких сообщений в беседе, непринуждённого общения и ролевых сценариев; обучена на форматах MahouMix-v1 и FlameMix-DPO-v1 методом ORPO в течение одной эпохи. Модель принимает текст и генерирует текст, использует шаблон диалога ChatML и рассчитана на контекст до 8192 токенов. Модель можно применять для чат-ботов, коротких ответов и отыгрыша персонажей, в том числе в SillyTavern с настройками, описанными автором. В карточке указана лицензия llama3. Модель содержит 7,5 млрд параметров; название репозитория «1.3b» этому размеру не соответствует.

MiYago v0.5 — компактная языковая модель для ролевых диалогов, разработанная на основе MiniMind. Модель содержит 104 млн параметров, использует плотную архитектуру Llama с 16 слоями и обучена полным supervised fine-tuning на MiniMind2. Для вывода требуется около 1 ГБ памяти; заявленный контекст — 32 768 токенов. Модель предназначена для генерации диалоговых ответов в заданной роли и базового следования инструкциям. Обучающие данные включают около 170 тысяч китайских и 30 тысяч английских ролевых диалогов; автор сообщает о начальной способности сохранять роль и выполнять инструкции, особенно в китайских zero-shot сценариях. Поддерживаются китайский и английский языки. Модель распространяется по лицензии Apache-2.0.

NeroT-29M — компактная модель на 33,6 млн параметров, разработанная j0no12 и обученная с нуля на Apple Silicon с использованием MLX. Это encoder-decoder Transformer с шестью слоями энкодера и шестью слоями декодера, предназначенный для генерации заголовков чатов. Модель обучалась преимущественно на англоязычных примерах, а её контекст составляет 512 токенов. Модель подходит для автоматического создания краткого названия беседы по её содержанию. В README приведена оценка на наборе TitleBench из 21 448 примеров: ROUGE-1 0,296, chrF 0,201 и точное совпадение 8,9%; результаты зависят от стратегии декодирования. Модель узкоспециализированная и не предназначена для роли универсального ассистента. Обучающие данные включают синтетические заголовки, которые могут привносить стиль и ошибки исходных моделей; для загрузки может потребоваться специальная поддержка encoder-decoder архитектуры. Веса опубликованы в формате BF16 и safetensors. Лицензия — CC BY 4.0.

ORP-0.8B-GGUF — набор GGUF-квантизаций модели ORP-0.8B, разработанной hamzah0asadullah. Модель представляет собой полноразмерную SFT-донастройку Qwen3.5-0.8B на архиве диалогов PygmalionAI/PIPPA. Конвертацию исходных safetensors-весов в GGUF выполнила Pink Pixel. Модель предназначена прежде всего для локального текстового общения и ролевых диалогов. Она ориентирована на создание кратких, отзывчивых и связных реплик в стиле классических систем conversational roleplay и рассчитана на работу на компактном оборудовании. Указан английский язык. Архитектура — Qwen 3.5 с поддержкой hybrid linear attention и interleaved MRoPE; размер — около 0,85 млрд параметров, контекстное окно — до 262 144 токенов, словарь содержит 248 320 токенов. Доступны варианты от BF16 до Q2_K размером примерно от 1,41 ГБ до 403 МБ. Q8_0 обеспечивает качество, близкое к исходному, а Q4_K_M предлагается как вариант по умолчанию для мобильных и edge-систем; более сильное сжатие уменьшает требования к памяти, но приводит к заметной потере качества. Для запуска требуется llama.cpp или совместимый интерфейс с поддержкой архитектуры Qwen 3.5, включая Ollama и LM Studio. Модель распространяется по лицензии Apache 2.0.

Это экспериментальный чекпойнт Qwen3-Coder-30B-A3B-Instruct, дообученный методом асинхронного RLOO на данных TaskTrove v4.9 для следования инструкциям, связанным с календарём. Модель относится к семейству Qwen3 MoE; в метаданных указано 2,6 млрд параметров и контекст до 262 144 токенов. Она предназначена для генерации ответов в диалоговых сценариях с календарными инструкциями. В README приведён средний reward 0,296875 и 38 успешных прохождений из 128 на фиксированной контрольной выборке. Позже обнаружили пересечение этой выборки с обучающими данными, поэтому результат служит только статистикой отбора и не является независимой оценкой обобщения. Указанная библиотека — Transformers, формат весов — safetensors. Сведения о лицензии в доступных данных отсутствуют.

DuplexJev-B Emotion — исследовательская аудиотекстовая модель семейства Ultravox от adventists-ai для получения ответов и закрытых решений непосредственно из речи. Она объединяет замороженный энкодер adventists-ai/Qwen3-ASR-0.6B-Encoder и замороженную Qwen/Qwen3-32B; обучен только коннектор B с 17,8 млн параметров, который передаёт представления последнего слоя энкодера в LLM через укладку кадров и SwiGLU-проектор. Модель принимает аудио и выдаёт текстовый ответ, включая однотокенные варианты для распознавания эмоций, определения говорящего и других вопросов о речи. Модель предназначена для речевых задач с вариантами ответа и языково-согласованными подсказками. В README приведены результаты на небольших наборах: 82,8% для четырёхклассового распознавания эмоций в воспроизведённых экспериментах; оценки зависят от формулировки и порядка вариантов. Карточка указывает китайский и английский языки. Модель проверялась на прочитанной или актёрской речи, но не на потоковом аудио; обучение на паралингвистических данных снижало точность фактических вопросов на спонтанной речи. Эмоциональные метки основаны на актёрских корпусах и не подходят для принятия решений о людях. Коннектор требует указанные в README энкодер и LLM. Лицензия — CC BY-NC 4.0, коммерческое использование ограничено условиями лицензии.

DuplexJev-B-Qwen3-ASR-0.6B-Qwen3-1.7B — компактная аудиоязыковая модель на архитектуре Ultravox, созданная adventists-ai для коротких решений и анализа речевых сигналов. Она объединяет замороженный аудиоэнкодер Qwen3-ASR-0.6B и замороженную языковую модель Qwen3-1.7B с обучаемым SwiGLU-проектором на 11,5 млн параметров; обучался только соединительный модуль. Модель принимает аудио и текстовый вопрос с вариантами ответа, затем оценивает варианты за один проход без генерации токенов. Модель предназначена для ответов на короткие вопросы по устной речи, извлечения речевых признаков и подсказок о говорящем, например, пола или эмоций. В README приведены результаты на spoken QA и тестах с реальной и синтезированной речью. Поддерживаются китайский и английский языки. Разработчики отмечают чувствительность качества к формулировкам запросов и рекомендуют не использовать её для открытых вопросов на общие знания. Проверялась на прочитанной или разыгранной речи и небольших тестовых наборах; потоковый ввод и работа на мобильных NPU не оценивались. Классификация эмоций основана на разыгранных корпусах и не подходит для принятия решений об отдельных людях. Коннектор работает только с указанными энкодером и языковой моделью. Лицензия — Apache-2.0.

DuplexJev-B-Whisper-small-Qwen3-1.7B — компактная аудиотекстовая модель от adventists-ai для ответов на вопросы и классификации речевых сигналов. Она объединяет замороженный аудиоэнкодер Whisper-small и замороженную Qwen3-1.7B с обучаемым коннектором на 29,4 млн параметров: коннектор преобразует выход последнего слоя энкодера с помощью укладки кадров и проектора SwiGLU. Для типизированных вопросов модель оценивает варианты ответа по распределению токенов за один проход, без генерации последовательности. Модель рассчитана на короткие решения по аудио, spoken QA и оценку признаков говорящего, например пола или эмоций. В README приведены результаты на небольших наборах: 48% для qa100 по протоколу статьи и 42% с настройками duplexjev 0.2.1; показатели чувствительны к формулировке запроса. Модель ограничена качеством небольшой LLM и не предназначена для открытых вопросов на знания. Проверялась на прочитанной или разыгранной речи, а потоковый ввод, квантование и запуск на NPU не оценивались. Эмоциональные метки получены на корпусах с актёрской речью и не должны использоваться для принятия решений о людях. Коннектор совместим только с указанными Whisper и Qwen. Лицензия — Apache-2.0.

Marimo 0.6B — исследовательская модификация Qwen/Qwen3-0.6B от автора репозитория goldenfox, представленная как отдельный порт для MLX. Модель сочетает авторегрессионную генерацию с дискретной диффузией: внутренние блоки рассуждений формируются поэтапно, а затем видимый ответ генерируется авторегрессионно. Механизм ledger memory сохраняет краткие заметки о предыдущих ходах, чтобы поддерживать диалог при ограниченном окне контекста. Модель дообучена на синтетическом корпусе примерно из 15 тысяч диалогов, преимущественно в стиле помощника для сбора и ведения заметок. Она содержит 507,9 млн параметров и распространяется в формате safetensors с весами fp16; порт рассчитан на запуск через MLX на Apple Silicon. README указывает контекст 2048 токенов и обучение только на английских данных. Внутренняя проверка на одном наборе из 40 ходов показала преимущество в извлечении сохранённых фактов перед базовой моделью в описанном сценарии, но авторы отмечают, что это не полноценный бенчмарк. Модель подходит для экспериментальных диалоговых сценариев с заметками и возвратом к ранее отмеченным фактам. Из-за небольшого размера она может ошибаться в фактах и быть нестабильной за пределами настроенного разговорного регистра; записи в ledger зависят от того, что модель решила сохранить, а длинные документы ограничены контекстом. Лицензия — Apache-2.0.

Rosa_v1_3B — экспериментальная разговорная модель-компаньон, опубликованная jeiku. По метаданным это плотная авторегрессионная модель семейства StableLM Epoch с архитектурой StableLMEpochForCausalLM, примерно 2,7 млрд параметров и контекстом до 4096 токенов. Репозиторий содержит веса в формате safetensors; автор также упоминает отдельную версию GGUF. Модель создана смешиванием нескольких моделей и вариантов самой Rosa, включая модели после DPO, чтобы получить связного и интересного ИИ-компаньона; автор планирует дальнейшие испытания и рассматривает её как основу для использования на мобильном устройстве. Основной сценарий — диалог на английском языке. Лицензия указана как other, поэтому конкретные условия использования по имеющимся данным определить нельзя.

Samantha-1.11-13b — разговорная модель-компаньон от QuixiAI, дообученная на базе Llama 2. Она предназначена для диалогов и помощи с вопросами о философии, психологии, личных отношениях и повседневной самоорганизации. Модель обучена на 6 000 специально отобранных диалогов в формате ShareGPT/Vicuna; для общения используется шаблон Vicuna 1.1. В README указано, что версия 1.11 обучалась 15 эпох с использованием QLoRA. Модель содержит 12,9 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. В карточке указан английский язык. Samantha позиционируется как дружелюбный собеседник и помощник, но не поддерживает ролевые игры, романтические сценарии и сексуальное общение. Лицензия Llama 2 допускает коммерческое и некоммерческое использование с ограничениями, установленными её условиями.

Samantha-1.11-70b — диалоговая модель QuixiAI на базе Llama 2, дообученная для роли помощника и собеседника. Она ориентирована на беседы о философии, психологии, личных отношениях и повседневных вопросах, включая поддержку в самоанализе и планировании. Модель содержит 68,7 млрд параметров, использует архитектуру LlamaForCausalLM и контекст до 4096 токенов. Она обучена на курируемом наборе из 6000 диалогов в формате ShareGPT/Vicuna; её шаблон общения совместим с Vicuna 1.1. В карточке приведены результаты Open LLM Leaderboard. Модель рассчитана на англоязычный текстовый диалог. По заявлению разработчика, она не предназначена для ролевых игр, романтического или сексуального взаимодействия. Это дообученная модель, созданная с использованием qLoRA; для использования действуют условия лицензии Llama 2, допускающей коммерческое и некоммерческое применение с ограничениями.

QuixiAI Samantha 1.2 — диалоговая модель на архитектуре Mistral, разработанная QuixiAI на базе mistral-7b и переобученная для корректной поддержки токенов ChatML. Веса объёмом 7,1 млрд параметров распространяются в формате PyTorch; модель поддерживает контекст до 32 768 токенов и предназначена для генерации текста в диалоге. Модель обучена на шести эпохах набора Samantha-1.1, включающего около 6 000 специально отобранных диалогов. Она ориентирована на эмпатичные беседы о философии, психологии и личных отношениях, а также на сценарии виртуального собеседника. Модель использует формат запросов ChatML и заявлена как не предназначенная для ролевых игр, романтического общения или сексуального контента. Лицензия — Apache-2.0. Ответы о sentience отражают заданный образ модели и не подтверждают наличие сознания. Как и другие языковые модели, она может выдавать неточные или вымышленные утверждения; карточка не приводит специальных оценок таких рисков.

text2tobi — libri+peoples+sbc — модель для разметки просодии ToBI по тексту без аудио на этапе вывода. Она построена на DistilBERT и дообучена на корпусах LibriTTS, People's Speech и SBCSAE; метаданные указывают около 66 млн параметров и контекст до 512 токенов. На вход подаются слова в нижнем регистре. Модель отмечает границы интонационных единиц, предсказывает направление интонации на граничных словах — восходящее, нисходящее или ровное — и силу границы: промежуточную или полную. Модель предназначена для автоматической просодической разметки транскрибированной речи и анализа интонационной структуры. В описанных экспериментах она показала F1 0,8352 для границ на отложенной выборке SBCSAE и превзошла указанный в README текстовый базовый уровень GPT-Neo 1.2B. Оценка F1 для силы границ получена на другом корпусе и обозначена авторами как экспериментальная. Обучение использовало как золотые разметки SBCSAE, так и серебряные метки из LibriTTS и People's Speech, сформированные по согласованию двух систем. Интонационные метки предсказываются только для слов на границах. Покрытие ограничено чтением вслух и разговорной речью; перенос на телефонные записи, шумную речь и речь неносителей языка не проверялся. Для очень длинного текста обработка может делить вход на фрагменты по 100 слов, что способно повлиять на предсказания около разрывов. Лицензия — Apache-2.0.

Модель разработана gary109 и представляет собой вариант wav2vec2-base, дообученный для распознавания речи на наборе ONSET-DRUMS_FOLD_1 из AI_LIGHT_DANCE. Это модель Wav2Vec2ForCTC с 113,3 млн параметров; репозиторий содержит веса PyTorch. В README указаны результаты оценки: loss 0,4630 и WER 0,2145. Модель принимает аудио и предназначена для преобразования речи в текст. Карточка не раскрывает сведения о языках, контексте применения и ограничениях качества; по названию набора данных можно предположить связь с барабанными партиями, но README не уточняет, что именно модель распознаёт. Лицензия в предоставленных данных не указана.

SinaElahimanesh дообучил Gemma 2 27B для диалогового применения в контексте терапии. Модель предназначена для генерации ответов в беседе; карточка связывает её с базовой моделью aboots/gemma2-mixed-therapy-ft. Модель использует плотную архитектуру Gemma 2 с 27,6 млрд параметров и контекстом до 8192 токенов. Она принимает текст и генерирует текст; среди языковых меток карточки указан английский. Модель распространяется в формате safetensors по лицензии Apache-2.0. README сообщает об обучении с Unsloth и TRL.

Baekpica/Inkling-Small-GGUF — это независимая GGUF-конверсия модели Inkling-Small от Thinking Machines, подготовленная Baekpica. Репозиторий содержит промежуточные артефакты для смешанной квантованной версии модели и предназначен для экспериментов с локальным инференсом и мультимодальным обслуживанием на совместимом оборудовании, включая DGX Spark. Указана лицензия Apache-2.0. Модель имеет архитектуру Inkling с 42 декодерными слоями и 256 экспертами в каждом разреженном слое. Основной артефакт Q8_0 состоит из 20 шардов общим размером 262,704 GiB; отдельный MTP-BF16 sidecar занимает 4,183 GiB и содержит восемь плотных draft-слоёв. Квантование применяется преимущественно к матрицам Q8_0, тогда как attention, vision/audio-компоненты, нормализации, свёртки и параметры маршрутизатора сохраняются в исходных форматах BF16/F32. Заявлена поддержка текстового ввода, изображений PNG/JPEG и аудио WAV с частотой 16 кГц и текстовым выводом через специальную интеграцию ds4-dfm-rs. Сильными сторонами являются сохранение всех исходных экспертов, тензоров, токенизатора, конфигурации и мультимодального процессора, а также подробная структурная верификация файлов и контрольных сумм. При этом Q8_0-артефакт не квалифицирован для собственного запуска, совместимость с llama.cpp и результаты для длинного контекста не заявлены. Проверки подтверждают структуру и целостность файлов, но не качество ответов модели и не общую поддержку сторонними средами выполнения; опубликованные показатели производительности относятся к отдельному MQ85GB-артефакту, а не к Q8_0.

Mahou-1.3-mistral-nemo-12B — диалоговая модель FlammenAI для коротких сообщений, непринуждённой беседы и ролевых сценариев. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров, дообученная методом ORPO на базе mistralai/Mistral-Nemo-Instruct-2407. В карточке указаны наборы данных MahouMix-v1 и FlameMix-DPO-v1; для общения модель использует формат ChatML. Модель подходит для чат-приложений и ролевых диалогов, в том числе для использования в SillyTavern с настройками из карточки. Метаданные указывают контекст до 1 024 000 токенов; модель рассчитана на текстовый ввод и генерацию текста. Выпущена под лицензией Apache-2.0. README рекомендует специальные стоп-строки и sampler preset, однако не приводит оценок качества или подробностей языковой поддержки.

Bella-V2 — диалоговая модель, созданная автором карточки на базе Llama 3.1 8B Instruct с дообучением в Unsloth. Она предназначена для ролевых и личных разговоров в спокойном, эмоционально внимательном стиле: умеет поддерживать собеседника, развивать заданную тему, использовать метафоры и связывать детали из предыдущих реплик в длинном диалоге. По описанию автора, обучение использовало расширенный набор разговорных примеров одного голоса, написанных или проверенных автором, а также маскирование ответов, чтобы модель обучалась на репликах ассистента. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров; заявленный контекст — до 131 072 токенов. Она принимает текст и генерирует текст, ориентирована на английский язык. Лицензия — Llama 3.1. Автор позиционирует её для локального запуска и приводит пример использования через llama.cpp, однако в метаданных указан формат safetensors.

Chinese-Emotion-GGUF — это набор GGUF-квантизаций модели Chinese-Emotion, разработанной Johnson8187 и основанной на датасете Chinese_Multi-Emotion_Dialogue_Dataset. Квантизацию выполнил mradermacher. Модель предназначена для работы с эмоционально окрашенными диалогами на китайском языке и сценариев, связанных с анализом или генерацией эмоциональных ответов. В карточке указано, что модель поддерживает китайский язык и библиотеку Transformers. Архитектура, число параметров, поддерживаемые модальности и размер контекста не раскрыты. Доступны статические варианты GGUF с уровнями квантизации от Q2_K до Q8_0, а также версия f16; размер файлов составляет примерно от 0,4 до 1,2 ГБ. Более лёгкие варианты требуют меньше памяти, но могут уступать в качестве, тогда как Q6_K и Q8_0 обеспечивают более высокое качество согласно описанию автора. Модель удобна для локального запуска в совместимых средах, поддерживающих GGUF, однако README не содержит результатов тестирования, детального описания качества, ограничений по применению или рекомендаций по выбору контекста. Лицензия указана как MIT.