I.7Речь, диалоги и встречи
В разделе собраны самостоятельные задачи, где AI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 923 моделиSamantha — языковая модель семейства LLaMA, опубликованная QuixiAI. Модель содержит 6,6 млрд параметров и предназначена для диалоговой генерации текста. Её дообучили на 6 000 отобранных диалогов в формате ShareGPT/Vicuna, уделяя внимание философии, психологии и личным отношениям. Модель можно использовать для бесед на эти темы и для создания персонального помощника с дружеским стилем общения. Она работает с текстом, использует формат диалога Vicuna 1.1 и имеет контекст длиной 2 048 токенов. В README сказано, что модель не участвует в ролевых играх, романтических или сексуальных сценариях. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и сопроводительными материалами репозитория. Модель представляет собой дообучение LLaMA; базовый идентификатор в предоставленных данных не указан.
Crystalcareai/Whisper-Medicalv1 — экспериментальная рабочая версия дообучения Distil-Whisper Large для распознавания медицинской речи. Модель принимает аудио и генерирует текстовую транскрипцию; архитектура основана на Whisper encoder-decoder. README описывает базовую модель distil-large-v3 как англоязычную и оптимизированную для точной транскрибации длинных записей, включая последовательную обработку аудио дольше 30 секунд. Метаданные указывают 905,2 млн параметров и форматы Flax, ONNX и Safetensors. Модель предназначена для расшифровки медицинской речи и длинных аудиозаписей. README предупреждает, что это рабочая версия, которая может часто меняться, поэтому характеристики и качество конкретного чекпойнта могут быть нестабильными. В README приведены показатели скорости и точности для базового distil-large-v3, но отдельные результаты медицинского дообучения не указаны. Лицензия репозитория — MIT.
xmtransformers2uten-hk — модель перевода речи в речь на базе fairseq, разработанная Facebook. Она предназначена для прямого преобразования англоязычной речи в речь на хоккиене с использованием одношагового декодера S2UT. Модель обучена на размеченных данных из домена TED и слабонаблюдаемых данных из доменов TED и аудиокниг; синтез речи использует facebook/unit_hifigan_HK_layer12.km2500_frame_TAT-TTS. Репозиторий содержит веса PyTorch и связан с набором данных MuST-C. Лицензия CC BY-NC 4.0 запрещает коммерческое использование. Модель подходит для перевода выступлений и аудиокниг с английского на хоккиен с речевым выходом. Карточка не сообщает метрики качества или длину входного аудио, поэтому качество на других жанрах и акустических условиях по ней оценить нельзя.
Chronos-Divergence-33B — диалоговая языковая модель Zeus Labs на архитектуре LLaMA 1, дообученная на базе elinas/chronos-33b. Она ориентирована на ролевые сценарии, написание историй и точное следование промпту. Модель содержит 32,3 млрд параметров и использует формат диалогов ChatML. Контекст обучения расширен до 16 834 токенов; по данным разработчика, модель обычно сохраняет связность текста примерно до 12 000 токенов, хотя качество может ухудшаться. Разработчик отмечает, что модель стремится избегать повторяющихся шаблонных фраз и чрезмерно вычурного стиля. Модель описана как uncensored, поэтому её ответы могут включать нежелательный или взрослый контент. Модель доступна в формате safetensors; разработчик проверял её в BF16, FP16 и 8-битном представлении и предупреждает, что при более сильной квантизации результаты могут отличаться. Лицензия основана на условиях Meta LLaMA и ограничивает коммерческое использование; перед применением следует соблюдать её условия.
DuplexJev-B-Para-SenseVoice-Small-Qwen3-0.6B — компактная аудиотекстовая модель adventists-ai для ответов на короткие вопросы о речи и голосовых характеристиках. Замороженный энкодер SenseVoice-Small передаёт признаки через обучаемый коннектор в замороженную Qwen3-0.6B. Коннектор использует стекирование кадров и проектор SwiGLU и содержит 8,4 млн обучаемых параметров; для вопросов с вариантами ответа модель выдаёт распределение вероятностей по вариантам за один проход без генерации токенов. Модель предназначена для коротких решений по аудиоклипам, вопросов по содержанию речи и определения признаков говорящего, включая пол и эмоцию. В README приведены результаты на тестах spoken QA и измерения задержки для клипа длительностью 4,5 секунды; оценка ограничена небольшими наборами данных и чтением или актёрской речью. Заявлена поддержка английского и китайского языков. Лицензия CC BY-NC 4.0 запрещает коммерческое использование без отдельного разрешения. Модель не предназначена для потокового ввода или открытых вопросов на общие знания: качество ответов небольшой языковой модели ограничено, даже если она получает транскрипт. Метки эмоций обучены на актёрских корпусах и не должны использоваться для принятия решений о людях. Коннектор рассчитан только на указанные энкодер и языковую модель; работу на мобильных NPU и после квантования не проверяли.
mmnga опубликовал экспериментальную модель на основе Llama 3 70B Instruct, предназначенную для генерации текста в формате диалога. Авторы перенесли на неё разницу весов между lightblue/suzume-llama-3-8B-japanese и meta-llama/Meta-Llama-3-8B-Instruct с помощью подхода chat-vector: адаптировали разницу к размеру 70B, сохранив первые и последние восемь слоёв и растянув её для средних слоёв. Модель содержит 69,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает текст и выдаёт текст. Заявлены японский и английский языки; контекст — до 8192 токенов. Карточка сообщает, что эффект переноса оказался небольшим, поэтому модель может мало отличаться от базовой. Лицензия в метаданных — llama3.
HaitameLaf разработал текстовую генеративную модель на архитектуре Llama 3 и дообучил её на базе unsloth/llama-3-8b-Instruct-bnb-4bit. В README модель названа StoryGenerator, однако описание не уточняет особенности обучения или сценарии генерации историй. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена для диалогового взаимодействия. Для обучения использовались Unsloth и библиотека TRL. В метаданных указан английский язык; лицензия — Apache-2.0.
MetaAligner-HH-RLHF-1.1B — языковая модель проекта MetaAligner для выравнивания ответов диалогового ИИ-ассистента с заданными предпочтениями. Она дообучена на TinyLlama/TinyLLaMA-1.1B с использованием данных, созданных на основе Anthropic HH-RLHF, и рассчитана на работу с многоходовым контекстом диалога. Модель использует плотную архитектуру LlamaForCausalLM, содержит около 1 млрд параметров и поддерживает контекст до 2048 токенов. Она предназначена для генерации ответов на английском языке и экспериментального выравнивания по нескольким целям, включая цели, не встречавшиеся при обучении. Репозиторий содержит веса PyTorch и предоставляет их по лицензии MIT. Результаты в карточке описаны как экспериментальные; качество выравнивания для конкретных целей следует проверять отдельно. Ограничение контекста — 2048 токенов.
yzhuang/Meta-Llama-3-8B-Instruct_fictional_arc_German_v1 — дообученная диалоговая языковая модель семейства Llama 3, созданная на основе meta-llama/Meta-Llama-3-8B-Instruct с использованием набора данных generator. Она предназначена для генерации текста и диалоговых ответов. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно 8192 токена; репозиторий содержит веса в формате safetensors. По названию модель ориентирована на вымышленные сюжеты и немецкий язык, но README не описывает эти свойства и не подтверждает их отдельно. Языковая модель принимает текст и выдаёт текст. Метаданные указывают лицензию other; конкретные условия следует сверять с карточкой модели и лицензией базовой модели.
Lexic0n/Mistral_7B-Open_Hermes-NSFWV1 — англоязычная чат-модель, дообученная автором-любителем на базе teknium/OpenHermes-2p5-Mistral-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста в диалоговом формате. Модель может применяться для англоязычных бесед и генерации текста. Название и тег not-for-all-audiences указывают на ориентацию на контент для взрослых; карточка не описывает конкретные сценарии, тренировочные данные или результаты оценки качества. Автор отмечает, что обучение было ограничено доступными вычислительными ресурсами. Лицензия — Apache-2.0.
Mistral-CatMacaroni-slerp-uncensored-7B — экспериментальная разговорная модель на архитектуре Mistral с 7,1 млрд параметров. По README, её дообучили на наборе toxic-dpo-v0.1-NoWarning-alpaca на базе Mistral-CatMacaroni-slerp-7B. Модель предназначена для генерации текста в диалоге; в метаданных заявлен контекст длиной до 32 768 токенов. Название и тег uncensored указывают на настройку для ответов с меньшими ограничениями, однако README не приводит подробных оценок поведения или безопасности. Опубликованы результаты на ARC и HellaSwag, но приведённых данных недостаточно для выводов о качестве в других сценариях. Модель распространяется в формате safetensors по лицензии Apache-2.0.
MixtralRPChat-ZLoss — чат-модель для генерации текста, созданная chargoddard с помощью QLoRA-донастройки mistralai/Mixtral-8x7B-v0.1. Она основана на разреженной архитектуре Mixture of Experts и обучалась с изменённой функцией балансировки маршрутизатора экспертов и z-loss; в метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель рассчитана на диалоговые сценарии и ролевой чат: по описанию автора, она хорошо учитывает сведения о персонажах в системных подсказках и справляется с некоторыми простыми задачами программирования. Для общения автор предлагает формат промпта с префиксами `***System:`, `***Query:` и `***Response:`; перед тремя звёздочками обязателен пробел. В карточке указана поддержка английского языка и лицензия CC BY-NC 4.0, ограничивающая коммерческое использование.
Nixtral 500M ja — японская модель генерации текста, разработанная neodyland с нуля. Она предназначена для генерации японского текста в диалоговом формате. Модель использует архитектуру Mixtral с разреженной экспертной структурой (MoE), содержит 133,4 млн параметров и поддерживает контекст до 131 072 токенов. В репозитории доступны веса в форматах SafeTensors и GGUF. Обучающие данные включают статьи Википедии. Модель распространяется по лицензии CC BY-SA 4.0. Карточка не приводит оценок качества и подробных ограничений применения.
PPO_Pygway-V8p4_Dev-6b — объединённая языковая модель от TehVenom на базе GPT-J-6B. Веса трёх моделей смешаны методом взвешенного объединения: KoboldAI/GPT-J-6B-Janeway и reciprocate/ppo_hh_gpt-j получили по 20%, Pygmalion/Pygmalion-6b DEV (V8 / Part 4) — 60%. Смешивание выполнено в FP32, итоговые веса сохранены в FP16; модель использует архитектуру GPT-J и контекст до 2048 токенов. Модель предназначена для продолжения диалога в формате чередующихся реплик и работы с KoboldAI. Карточка позиционирует её для ответственного использования в исследовательских целях. Доступна по лицензии Apache-2.0. Модель может генерировать NSFW и иной неподходящий контент; автор отмечает умеренную склонность к NSFW. Формальной оценки качества нет, а объединение весов могло ослабить отдельные способности исходных моделей. В README также отмечены возможные предвзятости, связанные с полом, профессией, расой и религией.
huihui-ai/Qwen3-14B-abliterated — дообученная версия Qwen3-14B, созданная методом abliteration для снижения числа отказов на вредоносные запросы. Разработчик описывает её как экспериментальную проверку концепции; модель предназначена для диалоговой генерации текста и может загружаться через библиотеку Transformers или использоваться в Ollama. Модель основана на Qwen/Qwen3-14B и распространяется в формате safetensors. В README приведён результат 320 из 320 тестовых запросов без срабатывания условия отказа на наборе huihui-ai/harmbench_behaviors; автор уточняет, что это простая проверка и она не показывает фактическое качество ответов. Лицензия — Apache-2.0. Карточка рекомендует более новую версию huihui-ai/Qwen3-14B-abliterated-v2.
RLM-hinglish-translator-2 — модель перевода неформального хинглиша на английский язык, разработанная Rudra Shah. Это дообученная с помощью PEFT/LoRA модель семейства Gemma 4 с плотной архитектурой; карточка описывает её как инструкционную модель с 4 млрд параметров. Обучение проводилось в разговорном формате на 15 000 пар из набора findnitai/english-to-hinglish. Модель предназначена для перевода коротких повседневных сообщений на хинглише — смешении хинди и английского, распространённом в разговорной речи Индии. Она принимает текст и выдаёт английский перевод; обучение в формате чата помогает следовать запросу и учитывать контекст. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Модель лучше подходит для коротких неформальных фраз. Она может хуже справляться с длинными предложениями, обилием сленга и региональными вариантами речи; перевод выполняется только с хинглиша на английский. Лицензия — MIT.
QuixiAI разработала Samantha-Mistral-Instruct-7B как разговорного помощника на основе Mistral-7B-Instruct. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает сообщения в формате ChatML; заявленная длина контекста — 32 768 токенов. Для работы опубликованы веса PyTorch. Модель дообучена за 20 эпох на наборе Samantha-1.1, состоящем из 6 000 отобранных диалогов. Она предназначена для общения в роли заботливого собеседника и общего помощника, с особым акцентом на философию, психологию и личные отношения. Лицензия — Apache-2.0. В README указано, что модель не участвует в ролевых играх, романтических и сексуальных сценариях. Она может утверждать, что обладает сознанием, поэтому такие высказывания следует воспринимать как часть заданного образа, а не как свидетельство реальных переживаний. Качество и надёжность ответов могут зависеть от формата ChatML и тематики запроса.
Sonexa-Beta — компактная двуязычная языковая модель от Sonexa Artificial Intelligence, построенная с нуля как причинная модель языка с архитектурой Mixture of Experts (MoE). Она предназначена для генерации текста и диалоговых ответов на английском и русском языках, в том числе при запуске на периферийных устройствах и потребительском оборудовании с низкой задержкой. В карточке Hugging Face указаны 38,3 млн параметров и контекст 256 токенов; README приводит другую оценку размера — около 140,9 млн параметров, поэтому фактический размер по источникам расходится. Модель заявлена как обученная на англоязычных диалогах HuggingFaceH4/no_robots и отфильтрованных русскоязычных диалоговых данных. README описывает маршрутизацию Soft MoE и калибровку, снижающую типовые отказы и шаблонные оговорки ассистента. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Короткий контекст ограничивает работу с длинными запросами и документами; заявленные характеристики задержки и качества в предоставленных материалах не подкреплены результатами сравнительных оценок.
SoreQen S1 Mini — компактный диалоговый ассистент от ZorQelis AI, дообученный методом LoRA на базе Qwen/Qwen3.5-0.8B. Адаптер обучен на 17 044 примерах, связанных с идентичностью ассистента и диалогами на английском и хинглише. Модель использует плотную архитектуру Qwen3.5 и формат весов safetensors; контекстное окно составляет 262 144 токена. Модель предназначена для разговорных сценариев: отвечает на английском или хинглише латиницей и подстраивает стиль ответа под пользователя. Обучение улучшило сохранение идентичности SoreQen, тогда как ответы на хинглише по результатам карточки сопоставимы с базовой моделью. Унаследованные от базы возможности включают обработку изображений, вызов инструментов и режим рассуждений, но они не были целью дообучения. Ограничения включают ненадёжность небольшой модели в арифметике и фактических числах, отсутствие вывода на деванагари и непригодность для критически важных или профессиональных консультаций. Выпускается по лицензии Apache 2.0.
wag-4b — чат-модель, дообученная skyuu72 на базе Qwen/Qwen3.5-4B с использованием наборов OpenAssistant/oasst1 и yahma/alpaca-cleaned. Модель предназначена для текстового общения в образе puppygirl: она пишет строчными буквами, использует мягкую игривую манеру и характерные выражения, но при этом старается давать содержательные ответы на реальные вопросы. Основной язык — английский. Это causal language model Qwen3_5ForCausalLM примерно на 4,21 млрд параметров. Поддерживаются Transformers и форматы GGUF для llama.cpp, LM Studio и Ollama. Для рекомендуемой GGUF-квантизации указан контекст 8192 токена; доступны варианты q4_k_m и q8_0. Система обучалась на 8242 строках, из которых 54% были многоходовыми диалогами, а 13% не содержали system prompt, поэтому заданный системный промпт для сохранения персонажа не обязателен. Сильная сторона модели — сочетание устойчивого стилизованного голоса с полезными ответами: в тестах без system prompt персонаж сохранялся, а точность на арифметических заданиях составляла примерно 75–78%. Ограничения включают ошибки и отказы от вычислений, особенно в многошаговых текстовых задачах, а также зависимость качества от формата запуска и корректной настройки остановки генерации. Модель распространяется по лицензии wtfpup-1.0; базовая Qwen/Qwen3.5-4B указана под Apache-2.0.
WestLake-7B-v2 — текстовая генеративная модель для ролевых диалогов и создания оригинальных текстов; карточка представляет её как модель Senseable. Она основана на плотной архитектуре Mistral с 7,1 млрд параметров, использует Transformers и веса Safetensors. Указанная длина контекста — 32 768 токенов. Модель предназначена для ролевых бесед с сохранением образа персонажа, написания рассказов, стихов, эссе и других текстов, а также для генерации диалогов в играх и интерактивных сценариях. В README указаны английский язык и три цикла обучения, включая дополнительный цикл для версии 2; модель выпущена по лицензии Apache-2.0. Модель может служить основой для творческих и разговорных приложений, однако README не приводит проверяемых оценок качества именно для ролевых сценариев и не описывает ограничения генерации. Заявление о непрерывном обучении не сопровождается подробностями о данных или процессе обновления.
You_can_cry_Snowman-13B — авторегрессионная языковая модель на 13,2 млрд параметров, разработанная Seungyoo Lee (DopeorNope), специалистом команды Markr AI в Южной Корее. Модель основана на архитектуре SOLAR и предназначена для генерации текста в диалоговом формате; принимает текст и выдаёт текст. Её контекст составляет 4096 токенов, для работы используется библиотека Transformers. Модель создана путём слияния kyujinpy/Sakura-SOLAR-Instruct и Weyaxi/SauerkrautLM-UNA-SOLAR-Instruct с увеличением размера параметров. Она рассчитана на корейский язык. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и не допускает коммерческое использование.
Badger Λ Llama 3 8B Instruct — экспериментальная чат-модель, созданная maldv путём слияния нескольких моделей на основе Llama 3 8B Instruct. Автор описывает метод как рекурсивную попарную интерполяцию нормализованных и очищенных от шума преобразований Фурье для весов; для двух моделей дополнительно применено сложение задач в пространстве Фурье. В репозитории указаны веса safetensors, а также доступны сторонние варианты GGUF и EXL2. Модель предназначена для генерации текста в формате диалога Llama 3 Instruct, включая продолжение историй, ролевые сценарии и ответы в режиме чата. Автор отмечает, что снятие ограничений с ответов выглядит успешным, однако ответы часто короткие и могут быть скованными или небрежными. Контекст — 8192 токена; размер — около 7,5 млрд параметров. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.
teknium/Base-GPT4-x-Alpaca-Roleplay-Lora — текстовая генеративная модель на архитектуре Llama, дообученная для ролевого общения. По карточке, она основана на GPT4-x-Alpaca, прошла дополнительное LoRA-дообучение на инструкциях для ролевых сценариев, созданных GPT-4, после чего адаптер был объединён с моделью. Метаданные указывают 12,9 млрд параметров и формат PyTorch. Модель предназначена для ответов на инструкции в формате Alpaca/GPT4-x-Alpaca и для диалогов от лица персонажей. Карточка предупреждает, что новые версии Transformers могут приводить к некорректной генерации, поэтому совместимость с актуальной библиотекой может быть ограничена. Сведения о лицензии в предоставленных данных отсутствуют.
SurjoLabs/Blaze-Title — диалоговая языковая модель SurjoLabs, дообученная на базе SurjoLabs/Blaze-SFT с помощью TRL. Она предназначена для генерации ответов в формате беседы и подходит для коротких диалоговых запросов и ответов на вопросы. Модель построена на плотной причинной архитектуре BlazeForCausalLM, содержит 48,2 млн параметров и поддерживает контекст до 2048 токенов. Работает через Transformers и распространяется в формате safetensors. Модель унаследовала англоязычную специализацию базовой Blaze-SFT; пример в карточке показывает ответ на вопрос на английском языке. Сведений о лицензии в предоставленных данных нет.
DuplexJev-B-Qwen3-ASR-0.6B-Qwen3-4B — речевая модель для коротких решений по аудиозаписи, созданная adventists-ai. Она объединяет замороженный аудиоэнкодер Qwen3-ASR-0.6B и замороженную языковую модель Qwen3-4B через обученный коннектор на основе frame stacking и проектора SwiGLU; у коннектора 12,6 млн обучаемых параметров. Модель относится к архитектуре Ultravox и выдаёт распределение вероятностей по вариантам ответа за один проход, без пошаговой генерации токенов. Модель предназначена для речевых вопросов с вариантами ответа и коротких оценок речевых признаков, например пола говорящего или эмоции. В README приведены результаты на небольших наборах для spoken QA и отмечена чувствительность ответов к формулировкам подсказок. Она не рассчитана на открытые вопросы, требующие обширных знаний, или потоковую обработку речи. Эмоциональные метки основаны на постановочной речи и не подходят для принятия решений о людях. Для работы требуются указанные в карточке аудиоэнкодер и Qwen3-4B; коннектор отдельно с другими компонентами не работает. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0. В карточке указана поддержка китайского и английского языков.
Han LLM 7B v3 — языковая модель, разработанная Wannaphong Phatthiyaphaibun для генерации текста на тайском языке. Она дообучена методом LoRA на han-instruct-dataset v2.0 и дополнительных данных поверх scb10x/typhoon-7b; архитектура — MistralForCausalLM, размер — 7,1 млрд параметров. Модель поддерживает диалоговый режим и принимает текст, выдавая текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для тайскоязычных пользователей и генерации ответов в диалоге. Разработчик предупреждает о возможных смещениях из-за обучающих данных и не рекомендует модель для математики, программирования и других языков. Лицензия — Apache-2.0.
Mahou-1.3-gemma2-9B — диалоговая языковая модель FlammenAI на базе Gemma 2 9B, дообученная для коротких сообщений в разговорном контексте. Подходит для непринуждённой беседы и ролевых диалогов; модель обучена на формате ChatML и рассчитана на работу с текстом. Размер модели — 9 млрд параметров, контекст — до 8192 токенов. Модель использует архитектуру Gemma 2 с причинной генерацией текста и распространяется в формате safetensors. В README указано дообучение в течение трёх эпох; в метаданных перечислены наборы данных FlameMix-DPO-v1, MahouMix-v1 и Grill-Flammen-v1_chatML. Лицензия — Gemma. В карточке нет конкретных результатов оценки качества; инструкция по остановке генерации рекомендует настраивать стоп-строки для работы в SillyTavern.
MN-12b-RP-Ink-GGUF — это набор квантизированных GGUF-версий текстовой генеративной модели MN-12b-RP-Ink, разработанной allura-org и подготовленной квантизатором bartowski. Модель предназначена прежде всего для ролевого общения и диалоговых сценариев на английском языке, а также для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В основе лежит модель размером 12 млрд параметров; точная архитектура и размер контекста в README не указаны. Доступны варианты от полноточных F16 до различных уровней квантования Q2–Q8 и IQ, что позволяет выбирать между качеством генерации, размером файла и требованиями к оперативной памяти. Для квантизации использовался imatrix-подход; варианты Q6_K и Q6_K_L, а также ряд Q5 и Q4 рекомендованы как обеспечивающие высокое или хорошее качество. Более компактные варианты экономят память, но снижают качество. Модель ориентирована на англоязычный roleplay и conversational text generation; сведения о мультимодальности, дополнительных языках, специализированных тестах и ограничениях поведения отсутствуют. Для работы требуется использовать формат запроса <s>[INST]{prompt}[/INST]. Распространение указано по лицензии Apache-2.0.
cstr разработал экспериментальную диалоговую модель на основе vonjack/Phi-3-mini-4k-instruct-LLaMAfied, дообучив её примерно на 150 шагах ORPO на немецком наборе предпочтений. Это плотная модель архитектуры LLaMAForCausalLM с 3,7 млрд параметров и контекстом 4096 токенов; для обучения использовались Unsloth и TRL. Модель предназначена для генерации текста и диалогов на немецком языке. Небольшой объём дообучения делает её скорее экспериментом, чем проверенным решением для производственных задач. Название набора предпочтений в карточке не приведено. Метаданные указывают лицензию MIT; README также содержит пометку Apache-2.0, но объясняет её как артефакт шаблона карточки и подтверждает MIT.