III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельHercules-1.0-Mistral-7B — диалоговая языковая модель на основе Mistral-7B, дообученная Locutusque на наборах Hercules и OpenOrca. Она предназначена для генерации ответов в диалоге и других текстовых задач; метаданные также отмечают поддержку сценариев с кодом. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Автор позиционирует её как улучшенную версию OpenHermes-7B и сообщает о сопоставимом качестве с OpenHermes 2; приведены результаты сравнения и тестовая потеря, но подробности протокола оценки в карточке не раскрыты. Модель распространяется в формате safetensors по лицензии Apache-2.0.
LDCC-Instruct-Llama-2-ko-13B-v4.2.8 — корейско-английская инструкционная языковая модель, разработанная Lotte Data Communication на базе архитектуры Llama 2. Модель дообучена на общедоступных корейских и английских данных, прошедших обработку и очистку; данные клиентов Lotte Data Communication не использовались. Модель предназначена для генерации текста в ответ на инструкции по шаблону Prompt/Answer. Это плотная модель семейства Llama с 12,9 млрд параметров и контекстом 2048 токенов, сохранённая в формате safetensors. Для использования весов действует лицензия CC BY-NC 4.0, которая ограничивает коммерческое применение.
RedHatAI/Llama-3.2-1B-Instruct-quantized.w8a8 — квантизированная версия Llama-3.2-1B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая autoregressive-модель архитектуры Llama-3, предназначенная прежде всего для диалоговых ассистентов, генерации текста и многоязычных коммерческих и исследовательских сценариев. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель использует INT8-квантизацию весов и активаций по схеме W8A8. Для весов применяется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная потокенная квантизация; при подготовке использовались SmoothQuant и GPTQ. По заявлению разработчика, это примерно на 50% снижает требования к памяти GPU и размер модели на диске, а также примерно вдвое повышает пропускную способность матричных умножений. В опубликованных тестах показатели находятся в пределах 5% от неквантизированной версии на MMLU, ARC-Challenge, GSM-8K, HellaSwag, Winogrande и TruthfulQA. Для эффективного развёртывания рекомендуется vLLM; в примере указана максимальная длина контекста 8192 токена. К сильным сторонам относятся компактный размер в 1B параметров, сниженные требования к ресурсам, ускоренное выполнение и сохранение близкой к исходной точности. Ограничения связаны с небольшим размером модели и возможной потерей качества из-за квантизации; README не содержит подробных результатов по каждому языку, полной спецификации контекстного окна и детального анализа безопасности. Модель распространяется по лицензии Llama3.2; использование должно соответствовать применимым законам и нормативным требованиям.
llm-jp-3-8x13b-instruct2 — диалоговая языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это трансформерная модель семейства Mixtral с архитектурой Mixture of Experts: 8 экспертов, из которых активируются 2. Вариант содержит около 73,2 млрд параметров всего и около 22,2 млрд активируемых параметров; метаданные каталога указывают 13,2 млрд параметров. Контекст — 4096 токенов. Модель обучена на смеси данных, включая японские, и дообучена на инструкциях с последующим выравниванием методом Direct Preference Optimization. Модель предназначена для диалога и генерации текста, особенно на японском и английском языках. Её можно использовать для ответов на вопросы, следования инструкциям, краткого изложения и других текстовых задач. Карточка приводит оценки на японских тестах, но результаты относятся к отдельным оценочным выборкам и не гарантируют качество в конкретном приложении. Разработчики предупреждают, что модель находится на ранней стадии разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.
Luminum-v0.1-123B — объединённая языковая модель FluffyKaeloky на архитектуре MistralForCausalLM, созданная с помощью метода della_linear на основе Mistral Large Instruct 2407 с добавлением Lumimaid-v0.2-123B и Magnum-v2-123B. Модель содержит 122,2 млрд параметров и поддерживает контекст до 131 072 токенов; автор сообщает об успешном тестировании длинных запросов свыше 32 тысяч токенов, обычно до 40–50 тысяч. Модель предназначена для диалогов, генерации текста и творческих описаний. По оценке автора, она сочетает возможности базовой Mistral Large, характерную лексику Lumimaid и описательность Magnum, сохраняя ответы менее многословными, чем Magnum. Используется шаблон Mistral [INST] ... [/INST]; заявлены интерфейс вызова инструментов и варианты файлов GGUF и EXL2. Модель может выдавать чрезмерно длинные ответы, если не ограничивать их длину. README не сообщает лицензию; условия использования следует сверить с карточкой и лицензиями компонентов слияния.
M7Yamshadowexperiment28_Inex12Experiment26 — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/M7Yamshadowexperiment28-7B и automerger/Inex12Experiment26-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию по языкам или предметным областям; модель можно рассматривать для общих задач генерации текста.
Mayonnaise-4in1-022 — языковая модель, разработанная The Kaitchup и созданная с помощью mergekit путём слияния нескольких моделей семейства Mistral. Это плотная авторегрессионная модель с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста на английском языке и сценариев, где требуется продолжать или создавать текст. Модель объединяет Mistral-7B-DPO-v5, WestSeverus-7B-DPO-v2 и NeuralTurdusVariant1-7B методом TIES. Автор сообщает о первом месте среди моделей 7B в Open LLM Leaderboard на 28 января 2024 года, но предупреждает, что не проверял возможное пересечение обучающих данных объединённых моделей с тестовыми наборами бенчмарков. Веса опубликованы в формате Safetensors; лицензия — Apache 2.0.
MFANN3bv0.20.17 — языковая модель семейства Phi, разработанная netcat420 и предназначенная для генерации текста по инструкциям и выполнения широкого круга общих задач. Это дообучение предыдущей версии netcat420/MFANN3bv0.20.16 на наборе данных netcat420/MFANN. Модель содержит 3,5 млрд параметров, использует плотную архитектуру PhiForCausalLM и принимает текстовые инструкции в формате «Instruct: … Output:». Контекстное окно составляет до 32 768 токенов; карточка указывает английский язык. Средняя ошибка обучения, приведённая автором для MFANN, составляет 0,33. Модель распространяется в формате safetensors по лицензии MIT.
Карточка модели NostraEmpire/mirror-qwen2.5-omni-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Omni-7B, поэтому описание составлено по ней. Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».
NeuralsirkrishnaShadow_AlloyingotneoyYam — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/AlloyingotneoyYam-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; доступна в формате safetensors. Модель принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Карточка не описывает специализированные сценарии или языки обучения. Лицензия — Apache-2.0.
NeuralsirkrishnaShadow_Experiment29Experiment24 — объединённая языковая модель семейства Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment29Experiment24-7B. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате Safetensors. Модель предназначена для генерации текста и принимает текстовые запросы. Контекстное окно составляет до 32 768 токенов. Языки и специализированные области применения в карточке не обозначены. Модель выпущена под лицензией Apache-2.0.
PIT-4B-FT — англоязычная instruction-tuned языковая модель семейства Point-In-Time GPT от Diamegs. Это декодерный Transformer для генерации текста и следования инструкциям; LoRA-адаптеры обучены на инструкционных данных и объединены с базовыми весами Diamegs/PIT-4B-202412. Модель отражает знания из веб-текстов FineWeb по декабрь 2024 года и предназначена для генерации ответов и анализа, учитывающего состояние знаний на этот момент. Модель работает с текстом, использует библиотеку Transformers и хранится в формате safetensors. Контекст ограничен 2048 токенами. Лицензия — Apache-2.0. У модели нет RLHF и дополнительной настройки безопасности; она может воспроизводить предвзятость обучающих данных. Её знания ограничены материалами, доступными до декабря 2024 года, поэтому для критически важных задач требуется дополнительная проверка и настройка.
unsloth/Qwen2.5-Omni-3B — мультимодальная модель на базе Qwen2.5-Omni-3B, опубликованная Unsloth. Она принимает текст, изображения, аудио и видео и может отвечать текстом или генерировать речь; архитектура Thinker-Talker поддерживает потоковую обработку и синхронизацию временных меток аудио и видео. Модель подходит для голосового и видеодиалога, распознавания и понимания речи, анализа изображений и видео, а также выполнения инструкций с аудиовходом. Карточка описывает возможности семейства Qwen2.5-Omni, включая распознавание речи, перевод, рассуждения по изображениям, понимание видео и генерацию речи. Для работы рекомендуется актуальная версия Transformers; генерацию аудио можно отключить, чтобы сократить расход видеопамяти примерно на 2 ГБ. В метаданных указаны формат safetensors и лицензия other; конкретные условия этой лицензии следует проверить на странице модели.
Карточка модели donnavanb09/Qwen2.5-Omni-7B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Omni-7B, поэтому описание составлено по ней. Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».
Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».
unsloth/Qwen2.5-Omni-7B — мультимодальная модель на архитектуре Qwen2.5-Omni, опубликованная Unsloth как дообученная версия Qwen/Qwen2.5-Omni-7B. Она принимает текст, изображения, аудио и видео и может вести диалог, объединяя сигналы из разных модальностей; ответы выдаёт текстом и естественной речью, в том числе в потоковом режиме. Модель рассчитана на голосовой и видеодиалог в реальном времени, распознавание и понимание речи, аудио- и видеовопросы, анализ изображений, мультимодальные рассуждения, перевод и генерацию речи. В README использование описано через библиотеку Transformers. Указана архитектура Thinker-Talker и синхронизация аудио с видеовременными метками посредством TMRoPE; метаданные относят модель к семейству Qwen2.5-Omni и указывают плотную архитектуру. Карточка сообщает об английском языке; характеристики контекста и число параметров этой версии в предоставленных данных не приведены. Модель демонстрирует широкие мультимодальные возможности, однако приведённые в README оценки относятся к исходной линейке Qwen2.5-Omni и не гарантируют идентичные результаты этой производной версии. Репозиторий указывает лицензию «other», поэтому перед применением следует проверить условия лицензии в карточке модели.
Qwen3.5-35B-A3B-Kazakh — мультимодальная модель ISSAI на архитектуре Qwen3.5 MoE для диалогов на казахском и английском языках с поддержкой изображений и видео. Это адаптация Qwen3.5-35B-A3B: базовую модель продолжительно обучали на казахских текстах, расширили словарь на 16 тысяч казахских токенов, затем перенесли инструкционное выравнивание официальной instruct-модели методом chat-vector merge. Ветвь зрения и мультимодальный проектор восстановлены из официальной модели. Модель предназначена для ответов на вопросы, диалогов и анализа визуальных материалов, в том числе на казахском языке. По данным README, она сохраняет большинство возможностей базовой модели, но отвечает более краткими рассуждениями; на сложных задачах рассуждения качество может снижаться. Зрение не дообучалось специально, поэтому на визуальных тестах возможна деградация. Для запуска указаны Transformers и vLLM; максимальная длина контекста в метаданных не приведена. Лицензия — Apache-2.0.
SnorkelWestBeagle-DARETIES-7B — объединённая чат-модель на архитектуре Mistral, созданная с помощью LazyMergekit из Snorkel-Mistral-PairRM-DPO, WestLake-7B-v2 и NeuralBeagle14-7B; в конфигурации также указана Mistral-7B-v0.1 как базовая модель. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации ответов и рассуждений. Заявленная длина контекста — 32 768 токенов. Модель объединяет несколько чекпойнтов методом DARE-TIES с маской int8; веса сохранены в формате safetensors. В README приведены результаты Open LLM Leaderboard, включая оценки ARC и HellaSwag. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специализацию по языкам или прикладным областям.
T5-Small — компактная текстовая модель семейства Text-To-Text Transfer Transformer, разработанная Колином Раффелом и коллегами. Она представляет задачи обработки естественного языка в формате преобразования текста в текст; в каталоге для этой версии указана задача перевода. Модель содержит 38,5 млн параметров по метаданным, имеет плотную архитектуру T5ForConditionalGeneration и контекст до 512 токенов. Модель предназначена для перевода и может применяться в дообученных сценариях суммаризации, ответов на вопросы, классификации и других задач преобразования текста. Она принимает и генерирует текст; в карточке указаны английский, французский, румынский и немецкий языки. Предобучение проводилось на корпусе C4 и смеси задач, включавшей денойзинг и контролируемые текстовые задачи. Компактный размер упрощает использование модели в ограниченных вычислительных условиях, но может уступать более крупным моделям в качестве и надёжности. Карточка не приводит конкретных оценок качества или подробных ограничений. Лицензия — Apache 2.0.
Babel-83B-Chat-GGUF — это набор GGUF-квантизаций чат-модели Babel-83B-Chat, разработанной Tower-Babel и подготовленной пользователем bartowski для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста и диалоговых сценариев, в том числе на множестве языков: английском, китайском, хинди, испанском, французском, арабском, бенгальском, русском, португальском, индонезийском, урду, немецком, японском, суахили, тамильском, турецком, корейском, вьетнамском, яванском, итальянском, хауса, тайском, персидском, тагальском и бирманском. Архитектура и размер исходной модели указаны как 83B; модальность — текстовая. README не содержит сведений о длине контекста и внутренней архитектуре. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-квантизаций, размер файлов составляет примерно от 33,5 до 88,5 ГБ. Более качественные варианты требуют больше памяти, а низкобитные позволяют экономить ресурсы ценой качества. Для работы используется формат prompt с ролями system, user и assistant. Основные сильные стороны — большой размер модели, многоязычная направленность, поддержка локального запуска и широкий выбор вариантов квантизации. Ограничения включают значительные требования к оперативной или видеопамяти, особенно для высококачественных вариантов, а также возможное снижение качества у низкобитных квантизаций. Указана лицензия SeaLLM; подробные условия доступны по ссылке на лицензию SeaLLMs/SeaLLM-13B-Chat.
TSFT-RAG Gemma-3-4B-IT — полноразмерная дообученная модель на базе Google Gemma 3 4B IT, созданная независимым исследователем Sascha Frank в рамках проекта TSFT-RAG. Модель предназначена для RAG-сценариев: ответов на вопросы по найденным источникам, выявления вопросов без достаточной опоры на источники, извлечения информации и создания структурированных ответов, включая JSON. Это плотная модель семейства Gemma 3 с архитектурой Gemma3ForConditionalGeneration и примерно 4 млрд параметров. Она принимает текст и, как производная Gemma 3, поддерживает мультимодальный ввод изображений, хотя для этой версии мультимодальная оценка не проводилась. Карточка сообщает об оценке преимущественно на немецкоязычных наборах данных; сведений о длине контекста нет. В опубликованной оценке агрегированный результат вырос относительно базовой модели, особенно на выявлении неподдержанных вопросах, но качество grounded QA немного снизилось. Модель оптимизирована для RAG и не предназначена для общего диалога; в важных областях требуется проверка человеком. Лицензия — Gemma license.
Vikhr-7b-0.1 — русскоязычная модель генерации текста от Vikhrmodels на базе архитектуры Mistral. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. В README указано, что её дополнительно обучали на 400 млн токенов в течение трёх эпох; в метаданных также указан датасет IlyaGusev/habr. Модель предназначена для генерации и продолжения текста, в том числе для русскоязычных задач. В сравнительных результатах README она превосходит Mistral-7B-v0.1 на XWinograd и XNLI, но уступает на MMLU на русском языке. Автор предупреждает, что качество работы с кодом может быть низким. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0.
Wernicke-7B-v9 — объединённая модель для генерации текста, созданная CultriX с помощью LazyMergekit. Она сочетает FelixChao/WestSeverus-7B-DPO-v2, CultriX/Wernicke-7B-v8 и vanillaOVO/supermario_v2 методом dare_ties; в конфигурации указана точность float16. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу. Контекст составляет до 32 768 токенов; карточка не описывает специализированные области применения или отдельные языковые возможности. Репозиторий использует формат safetensors и лицензию Apache-2.0.
ishikaa/acquisition_generator_AS_gradient_numina_llama8b — языковая модель для генерации текста, размещённая пользователем ishikaa на Hugging Face. В README отсутствуют сведения о разработчике, базовой модели, обучающих данных и лицензии, поэтому эти характеристики нельзя достоверно определить по доступным материалам. Модель относится к семейству Llama и рассчитана на работу через библиотеку Transformers. Её размер составляет 7,5 млрд параметров, а заявленная длина контекста — 131 072 токена. Метаданные также указывают на conversational-сценарии, поэтому модель может применяться для диалоговой генерации, продолжения текста и создания ответов на текстовые запросы. README не содержит результатов оценки, описания целевых сценариев, рекомендаций по использованию или подтверждённых сведений о языках. Лицензия в доступных данных не указана; условия распространения и коммерческого использования необходимо проверить отдельно перед применением.
AryaBhatta-GemmaOrca-Merged — языковая модель семейства Gemma, разработанная GenVR и дообученная для инструкций и общения на английском и девяти индийских языках: хинди, тамильском, панджаби, бенгальском, гуджарати, ория, телугу, каннада и малаялам. Модель содержит 8,2 млрд параметров, использует плотную архитектуру GemmaForCausalLM, принимает текст и поддерживает контекст до 8192 токенов. Доступна в формате safetensors под лицензией MIT. Модель сначала дообучали на математических задачах из наборов Orca, затем на диалоговых данных Samvaad и наборах инструкций на индийских языках. Она предназначена для генерации ответов на запросы, многоязычного диалога и решения математических задач. В README приведены сравнительные результаты на AGIEval, GPT4All, TruthfulQA и BigBench; эти оценки относятся к тестам разработчиков и сами по себе не гарантируют качество в конкретном применении. Карточка описывает объединённую серию AryaBhatta-GemmaOrca, но не уточняет, является ли данный репозиторий вариантом на базе исходной Gemma или Zephyr-Gemma; указанными возможными источниками служат Google/gemma и HuggingFaceH4/zephyr-7b-gemma-v0.1. Следует учитывать, что качество может различаться между поддерживаемыми языками и задачами, а заявленные языки не подтверждают одинаковую надёжность во всех сценариях.
Atom-7B-Chat — диалоговая языковая модель, совместно разработанная Llama中文社区 и AtomEcho. Она создана на основе Llama 2-7B и продолжительно предобучена на крупных китайских текстовых корпусах; архитектура — плотный decoder-only Transformer семейства Llama с 6,7 млрд параметров. Модель предназначена для диалогов на китайском и английском языках, ответов на вопросы и генерации текста. В README указано штатное контекстное окно 4K токенов; с NTK-расширением заявлена поддержка более 18K, а после дообучения — до 32K токенов. Разработчики сообщают об оптимизации китайского словаря до 65 000 токенов и повышении скорости кодирования и декодирования китайского текста. Модель можно запускать с Transformers; README также приводит примеры размещения 7B-модели в форматах INT8 и INT4 на потребительских видеокартах. Репозиторий содержит веса safetensors, лицензия Apache-2.0 допускает коммерческое использование. Заявленные свойства контекста и скорости приведены разработчиками; независимые результаты оценки в предоставленных материалах не описаны.
Это GGUF-квантизированная версия языковой модели aya-23-8B, разработанной CohereForAI и опубликованной в репозитории bartowski. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix; доступны варианты от IQ1 до Q8_0 с разным размером файла, качеством и требованиями к памяти. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через совместимые с llama.cpp локальные приложения. Модель содержит около 8 миллиардов параметров в исходной версии и ориентирована на многоязычное применение. В README заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского, арабского, греческого, персидского, польского, индонезийского, чешского, иврита, хинди, нидерландского, румынского, русского, турецкого, украинского и вьетнамского языков. Мультимодальность и размер контекста в предоставленных данных не указаны. Для диалогов требуется специальный шаблон prompt format с системными, пользовательскими и ответными токенами. Сильная сторона сборки — широкий выбор уровней квантизации: варианты Q6_K и Q5_K_M обозначены как обеспечивающие очень высокое или высокое качество, а Q4_K_M и Q4_K_S предлагают баланс качества и экономии памяти. Более компактные варианты позволяют работать при ограниченном объёме RAM, но снижают качество; IQ1 и некоторые низкоразрядные варианты не рекомендуются. Модель распространяется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование с соблюдением условий лицензии.
duancleypaul/bart-cnn-samsum-finetuned — дообученная модель BART, созданная на основе facebook/bart-large-cnn. Она предназначена для создания кратких пересказов текстов; название указывает на настройку для диалоговых сводок SAMSum, однако README не подтверждает состав обучающей выборки и целевые сценарии. Модель содержит 252,8 млн параметров, принимает текст с контекстом до 1024 токенов и выдаёт текст. Доступна в формате safetensors по лицензии MIT. В README приведено значение Loss 0,1343 на оценочном наборе, но набор данных и условия оценки не описаны.
djinn-7b — языковая модель на базе Mistral, созданная mayacinka объединением моделей paulml/DPOB-INMTOB-7B и bardsai/jaskier-7b-dpo-v6.1 методом SLERP с помощью LazyMergekit. Это плотная авторегрессионная модель с 7,1 млрд параметров, рассчитанная на генерацию текста; заявленная длина контекста — 32 768 токенов. Модель подходит для генерации ответов и текста, а также для общих задач понимания языка и рассуждений. В README приведены результаты Open LLM Leaderboard и AutoEval, включая оценки по MMLU, TruthfulQA и GSM8K, но сведения о языках обучения и целевых сценариях не приведены. Модель распространяется в формате safetensors.
ECE-FDF — слитая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из paulml/OmniBeagleSquaredMBX-v3-7B и paulml/NeuralOmniWestBeaglake-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста по запросу; доступный контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Данные карточки не описывают её специализацию, поддерживаемые естественные языки или отдельные прикладные сценарии. Файлы представлены в формате safetensors; лицензия в предоставленных источниках не указана.