II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейNidAll/supergemma4-e4b-abliterated-Q4_K_M-GGUF — это версия модели supergemma4-e4b-abliterated, разработанной Jiunsong и преобразованной пользователем или организацией NidAll в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и работы с инструкциями; в метаданных также заявлена поддержка вызова инструментов и структурированного вывода. Модель рассчитана на запуск через llama.cpp, включая режим командной строки и серверный режим, что позволяет использовать её локально на совместимом оборудовании. Доступен файл с квантизацией Q4_K_M, поэтому вариант ориентирован на более экономичное использование памяти по сравнению с полноточными версиями. В README не указаны точный размер модели, архитектура, поддерживаемые языки, модальности и максимальная длина контекста; значение 2048 приведено только как пример параметра запуска. Сильными сторонами являются компактный GGUF-формат, совместимость с llama.cpp и заявленные возможности instruction tuning, tool calling и structured output. Ограничения и качество исходной модели в этой карточке подробно не описаны, поэтому для оценки производительности следует обращаться к карточке базовой модели Jiunsong/supergemma4-e4b-abliterated. Указана лицензия gemma.
Synthia V3.0 11B AWQ — это квантизированная версия языковой модели Synthia V3.0 11B, разработанной Migel Tissera и опубликованной TheBloke. Модель предназначена для генерации и обработки текста, включая диалоговые сценарии и задачи, требующие связного рассуждения. В README также указан шаблон приглашения Synthia-CoT, ориентированный на последовательное построение ответа с возможностью пересмотра промежуточных шагов. Модель основана на архитектуре Solar и содержит около 11 млрд параметров. Представлена в формате AWQ с 4-битной квантизацией, группой 128 и длиной последовательности 4096 токенов; размер файлов составляет около 5,96 ГБ. Это текстовая модель без заявленной поддержки других модальностей и без указанного набора языков. Квантизация снижает требования к памяти и обеспечивает быструю генерацию при сохранении сопоставимого с распространёнными настройками GPTQ качества, однако для работы требуются совместимые средства инференса и NVIDIA GPU под Linux или Windows; macOS в README не поддерживается. Модель доступна по лицензии Apache-2.0. Она совместима с AutoAWQ, vLLM, TGI, Transformers и text-generation-webui. README не содержит подробных результатов тестирования, поэтому качество на конкретных языках и задачах, а также фактические ограничения исходной Synthia V3.0 11B требуют самостоятельной проверки.
Thomas Simonini разработал модель t5-end2end-question-generation: это версия T5-base, дообученная на датасете SQuAD для генерации вопросов по заданному контексту. Модель принимает текст контекста и формулирует на его основе вопросы; например, контекстом может быть описание языка программирования. Модель содержит 123,7 млн параметров, использует архитектуру T5 для преобразования текста в текст и распространяется в формате PyTorch. Длина контекста составляет 512 токенов. В README приведён результат оценки на тестовой выборке SQuAD: loss 1,5691. Лицензия — Apache-2.0. Модель предназначена для генерации вопросов по текстовым фрагментам; её карточка не подтверждает качество на других языках или доменах и не приводит дополнительных оценок.
Terminal-12k-bottom50 — диалоговая языковая модель на базе Qwen3, дообученная cuong1692001 на наборе nemotron_complete_bottom_50_12k поверх cuong1692001/Terminal_complete_8k. Она предназначена для генерации текста в чат-сценариях. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и формат safetensors; заявленная длина контекста — до 40 960 токенов. Карточка не описывает конкретные сценарии, результаты оценки или ограничения качества. Указана лицензия other, поэтому условия использования следует уточнить в репозитории модели и у правообладателя.
Terminal-16k-bottom80 — диалоговая языковая модель на архитектуре Qwen3, разработанная cuong1692001. Это дообученная версия cuong1692001/Terminal_complete_8k, обученная на наборе nemotron_complete_bottom_80_16k. Модель содержит 7,6 млрд параметров, принимает текст и предназначена для генерации текста в диалоговом режиме; заявленная длина контекста — до 40 960 токенов. Модель можно использовать для ведения диалогов и генерации текстовых ответов. README не приводит результатов оценки или подробностей о целевых сценариях и ограничениях. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории модели.
Tess-3-Mistral-Nemo-GGUF — набор GGUF-квантизаций текстовой генеративной модели Tess-3-Mistral-Nemo, опубликованный и сквантизированный пользователем bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана migtissera. Формат GGUF предназначен для локального запуска, в том числе через llama.cpp и LM Studio. Модель предназначена для генерации текста в диалоговом формате с системными инструкциями и пользовательскими запросами. В репозитории представлены варианты от исходных весов F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, а также вариантов IQ. Размер файлов составляет примерно от 4,14 до 49 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, тогда как младшие варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для некоторых вариантов применена схема с весами embeddings и output, сохранёнными в Q8_0, что, согласно описанию, может улучшать качество, хотя эффект зависит от сценария. Конкретные архитектурные параметры, число параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.
Jebadiah/Tess-coder-ruby-p6 — слитая языковая модель, созданная с помощью mergekit методом DARE linear на основе Jebadiah/Tess-coder-ruby-p5 с добавлением NeverSleep/Llama-3-Lumimaid-8B-v0.1. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, предназначенная для генерации текста в формате диалога и программного кода, включая Ruby. Размер составляет 7,5 млрд параметров, контекст — до 8192 токенов; модель работает через Transformers и опубликована в формате safetensors. Модель подходит для написания и продолжения кода, помощи с Ruby и ведения диалогов. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковую поддержку нельзя уточнить. Базовая модель семейства рассчитана также на ролевые диалоги и эротический контент. Лицензия в предоставленных данных не указана.
Tesslate_Tessa-T1-32B-GGUF — набор GGUF-квантизованных версий текстовой генеративной модели Tessa-T1-32B, разработанной Tesslate и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях и средах, совместимых с llama.cpp, включая LM Studio. В README заявлена поддержка английского языка; сведения о мультимодальности отсутствуют. Модель содержит 32 млрд параметров и распространяется в форматах от BF16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и Q2, включая IQ-форматы. Размер файлов варьируется примерно от 13,07 до 65,54 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Для работы рекомендуется использовать указанный в README prompt format с ролями system, user и assistant. Точная длина контекста и дополнительные архитектурные характеристики не указаны. Сильная сторона набора — широкий выбор степеней квантования и возможность локального запуска; варианты Q6 и Q5 описаны как обеспечивающие очень высокое или высокое качество, а Q4_K_M — как оптимальный вариант для большинства сценариев. Более сильное квантование экономит память, но может снижать качество, особенно у вариантов Q3 и Q2. Модель распространяется по лицензии Apache-2.0.
testllm-c2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral, полученная слиянием mistralai/Mistral-7B-Instruct-v0.1 и Kiddyz/testllm-c2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; в метаданных также отмечена поддержка чата и английского языка. Длина контекста составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка указывает на состав слияния и параметры смешивания слоёв, но не приводит сравнительных оценок качества; результат зависит от пригодности объединённых моделей к конкретному сценарию.
BEE-spoke-data/tFINE-900m-e16-d32-instruct — дообученная компанией BEE-spoke-data модель семейства T5 на наборе pszemraj/infinity-instruct-7m-T2T_en. Она предназначена для генерации текста по инструкциям и условного преобразования текста; в метаданных также отмечена возможность работы с кодом. Архитектура — плотная T5ForConditionalGeneration, около 284,3 млн параметров; модель распространяется в формате Safetensors и запускается через Transformers. Карточка приводит результаты оценки на тестовом наборе и таблицу Open LLM Leaderboard 2. Данные указывают на экспериментальный масштаб модели и не гарантируют качество для конкретных прикладных задач. Основной язык набора обучения — английский. Лицензия — Apache-2.0.
TheTop-5x7B-Instruct-P-v0.1 — языковая модель MaziyarPanahi, полученная слиянием семи предварительно обученных моделей класса 7B методом PASS. Она предназначена для генерации текста и инструктивного диалога, включая ответы на вопросы, рассуждения и продолжение текста. Модель использует архитектуру MistralForCausalLM; в метаданных указано 14,1 млрд параметров и контекст до 32 768 токенов. Файлы опубликованы в формате Safetensors и рассчитаны на использование с библиотекой Transformers. В README приведены результаты оценки на задачах общего рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag. Модель может применяться для локальных ассистентов и экспериментов с объединением языковых моделей. Репозиторий распространяется по лицензии Apache-2.0. В карточке не перечислены исходные модели слияния и не приведены сведения о поддерживаемых языках; качество ответов и устойчивость к конкретным сценариям следует проверять отдельно.
IsValorum подготовил APEX-I-MiniPlus V2.1 — пользовательскую квантизацию модели Thomson-1.0-Small в формате GGUF для запуска через llama.cpp. Модель предназначена для диалоговой генерации текста и рассуждений; карточка описывает настройку тензоров Mixture-of-Experts, рассчитанную на сохранение качества при уменьшении размера весов. Заявлены размер файла около 14,75 ГБ, средняя точность 3,40 бита на вес и запуск с контекстом до 256 тысяч токенов, включая конфигурации с системной памятью и частичной выгрузкой на GPU. Модель основана на Thomson Reuters Thomson-1.0-Small; метаданные связывают её с базовой моделью как дообучение, а файлы представлены в GGUF и маркированы как квантованные. Поддерживаются английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Лицензия — Apache-2.0. Показатели качества и скорости приведены автором карточки; они зависят от оборудования и конфигурации запуска.
TigerBot-70B-Chat-v2 — диалоговая языковая модель семейства Llama, разработанная TigerResearch. Это плотная авторегрессионная модель примерно с 69 млрд параметров, предназначенная для генерации текста в формате чата; в карточке приведён запуск через Transformers и собственный код инференса TigerBot. Метаданные указывают китайский и английский языки, контекст до 4096 токенов и формат весов PyTorch. Модель распространяется по лицензии Apache-2.0. Большой размер модели позволяет использовать её для диалогов, ответов на вопросы, написания и преобразования текста. README не приводит оценок качества, примеров возможностей или подробностей обучения, поэтому нельзя уверенно оценить её сильные стороны сверх заявленного назначения и масштаба. Для запуска потребуются значительные вычислительные ресурсы, характерные для модели такого размера.
Tiger-Gemma-9B-v1-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Tiger-Gemma-9B-v1, разработанной TheDrummer и подготовленной для распространения пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix, применяющего калибровочный датасет для сохранения качества при уменьшении размера весов. Модель предназначена для локального запуска и генерации текста через совместимые инструменты, включая llama.cpp. Доступны варианты от F32 размером около 36,97 ГБ до низкоразрядных Q2 и IQ2 размером около 3,43–4,03 ГБ; также представлены промежуточные варианты Q3–Q8 и IQ. Более крупные квантизации обычно обеспечивают более высокое качество, а компактные подходят для систем с ограниченным объёмом оперативной памяти. В README рекомендуются, в частности, варианты Q4_K_M, Q5, Q6 и IQ4_XS. Известно, что это модель класса Gemma с примерно 9 млрд параметров и поддержкой текстового ввода и вывода. Для диалогов требуется специальный формат prompt с маркерами начала и конца хода пользователя и модели. Системный prompt модель не поддерживает. Языки, размер контекстного окна и дополнительные архитектурные характеристики в предоставленных данных не указаны. Лицензия исходной модели и условия использования данной сборки также не указаны, поэтому перед применением необходимо проверить их отдельно.
tiny-grpo — компактная языковая модель для генерации текста и диалогов, разработанная на основе Qwen/Qwen2.5-0.5B-Instruct и дообученная с помощью TRL. Модель использует плотную архитектуру Qwen2 и содержит 494 млн параметров; для работы с текстом доступен контекст длиной до 32 768 токенов. Модель предназначена для ответов на пользовательские запросы в диалоговом формате, выполнения инструкций и генерации текста. Её можно использовать для прототипов чат-ботов и других приложений, которым нужна компактная инструктивная модель. В карточке приведён пример запуска через Transformers pipeline на GPU. В репозитории указаны веса в формате safetensors. Язык лицензии в предоставленных данных не указан; перед использованием следует проверить лицензию базовой модели и условия самого репозитория. Данных о специальных ограничениях качества или безопасности модели в карточке нет.
Tensoic/TinyLlama-1.1B-2.5T-openhermes — инструкционно дообученная версия TinyLlama, созданная на наборе данных openhermes от Teknium. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM и примерно 1 млрд параметров. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Модель принимает текст и генерирует текст. Указанная длина контекста — 4096 токенов. В карточке названы набор данных и конфигурация обучения Axolotl 0.3.0; языки обучения и лицензия не приведены, поэтому их нельзя надёжно определить по доступным сведениям.
TinyYi-7B-Test — языковая модель, созданная Yash Marathe слиянием Yash21/DeepYi-Base и Yash21/DeepYi-Second методом SLERP. Она предназначена для генерации текста и может использоваться для диалога, продолжения текста и ответов на запросы. Модель использует плотную архитектуру семейства Llama, класс LlamaForCausalLM; в метаданных указано 5,8 млрд параметров и контекст 4096 токенов. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. В README приведены результаты оценки на Open LLM Leaderboard, включая среднее значение 29,11 и результаты по AI2 Reasoning Challenge и HellaSwag. Карточка не описывает целевые языки или специализированные области применения, поэтому модель следует считать общего назначения; качество для конкретных задач и языков нужно проверять отдельно.
Карточка модели wannaphong/tongyi-model-v1.5-1b-enth на Hugging Face совпадает с карточкой wannaphong/tongyi-model-v1.3-1b, поэтому описание составлено по ней. Модель wannaphong/tongyi-model-v1.3-1b — дообученная авторегрессионная языковая модель семейства Qwen2, созданная wannaphong на базе sail/Sailor2-1B. Она предназначена для генерации текста и диалогов; в метаданных также отмечен интерфейс для вызова инструментов. Модель содержит 851,8 млн параметров и поддерживает контекст до 32 768 токенов. В карточке указано, что модель обучалась с использованием Unsloth и библиотеки TRL. В метаданных указан английский язык, но специальных языков или прикладных областей для этой версии README не уточняет. Модель распространяется по лицензии Apache-2.0.
TransNormerLLM-7B — базовая языковая модель с архитектурой TransNormer, разработанная OpenNLPLab. Модель содержит 7 млрд параметров и предназначена для генерации текста, ответов на вопросы, рассуждений и других задач общего назначения на английском и китайском языках. В основе архитектуры лежит линейное внимание с позиционными представлениями LRPE, ускорением Lightning Attention, а также механизмами gating и нормализации. Разработчики сообщают о предварительном обучении на корпусе объёмом до 1,4 трлн токенов и конкурентных результатах на англоязычных и китайских тестах. Это базовая, а не диалоговая версия; README приводит пример инференса для отдельной Chat-версии. Для запуска рекомендуется bfloat16. Лицензия указана как other: академическое использование открыто, а для коммерческого использования требуется получить разрешение разработчиков.
Trendyol LLM v1.0 — базовая генеративная языковая модель, разработанная Trendyol и дообученная на основе Mistral-7B-v0.1. Это авторегрессионный трансформер Mistral с 7,2 млрд параметров; модель принимает текст и генерирует текст. Для версии base указано дообучение с LoRA на 10 млрд токенов, а максимальная длина последовательности при обучении составляла 1024 токена. В метаданных указан нативный контекст 32 768 токенов. Модель предназначена для продолжения текста и может служить основой для приложений генерации текста и диалоговых сценариев на английском и турецком языках. Карточка также упоминает варианты chat и DPO. Модель распространяется по лицензии Apache-2.0. Качество не проверено в широком круге реальных сценариев: возможны фактические ошибки, предвзятые или токсичные ответы. Понимание сленга и языков, кроме английского и турецкого, может быть ограниченным; результаты следует проверять.
Jan-HQ Trinity v1 — объединённая разговорная языковая модель, опубликованная Jan. Она создана методом SLERP из моделей viethq188/LeoScorpius-7B-Chat-DPO и GreenNode/GreenNodeLM-7B-v1olet; в README базовой названа GreenNode/GreenNodeLM-7B-v1olet. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы. Для работы с чатом в карточке приведён шаблон с инструкцией и полем ответа; модель также запускалась через Jan Desktop на macOS, Windows и Linux. Модель предназначена для диалогов, выполнения инструкций и генерации текста на английском языке. Максимальная длина контекста по метаданным — 32 768 токенов. Лицензия — Apache-2.0. README описывает проект объединения моделей как тестовый; приведены результаты Open LLM Leaderboard, но они не гарантируют качество на других задачах. Кроме того, оценка текущего качества и поведения в различных сценариях по имеющимся данным ограничена.
Trurl 2 13B — языковая модель для генерации текста, разработанная Voicelab на базе архитектуры Llama 2. Репозиторий TheBloke/Trurl-2-13B-GGUF содержит её квантизированные файлы в формате GGUF, подготовленные TheBloke. Модель предназначена для диалоговых сценариев и других задач текстовой генерации; в README приведён шаблон запросов Llama-2-Chat с системными инструкциями по безопасным и полезным ответам. Модель имеет размер 13 миллиардов параметров и работает с текстом на английском и польском языках. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на инференс с использованием CPU и GPU. Формат GGUF поддерживает метаданные и специальные токены и совместим с llama.cpp, а также рядом сторонних интерфейсов и библиотек. Размер контекста в предоставленных данных не указан. К сильным сторонам относятся возможность локального запуска на широком спектре аппаратных конфигураций и наличие нескольких уровней квантизации, позволяющих выбирать компромисс между качеством, скоростью и потреблением памяти. Ограничения включают возможную потерю качества из-за квантизации, зависимость производительности от выбранного варианта и оборудования, а также отсутствие в README подробных результатов оценки. Лицензия указана как llama2.
TwinLlama-3.1-8B — плотная языковая модель семейства Llama, дообученная pauliusztin на базе unsloth/Meta-Llama-3.1-8B с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и диалогов на английском языке; архитектура — LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения или отдельные преимущества; пригодность для конкретных сценариев следует оценивать на собственных данных.
NicholasCorrado/uf-tulu-2-7b-dpo-full — плотная авторегрессионная языковая модель семейства Llama, дообученная на базе models/tulu-2-7b-uf-dpo методом DPO на наборе HuggingFaceH4/ultrafeedback_binarized. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, работает через Transformers и принимает контекст длиной до 8192 токенов. Модель предназначена для генерации текста в диалоговом формате и ответов на запросы. В README приведены результаты оценки на тестовом наборе, включая точность предпочтений 0,7422; подробности сценариев применения и ограничения в карточке не раскрыты. Файлы опубликованы в формате safetensors. Информация о лицензии в предоставленных данных отсутствует.
TheHierophant/Umbral-Devil-Hermes-Mind-V0.1 — слитая языковая модель на архитектуре Llama, созданная методом TIES с помощью mergekit. В объединении использованы Casual-Autopsy/L3-Umbral-Mind-RP-v3.0-8B, NousResearch/Hermes-3-Llama-3.1-8B и saishf/Neural-SOVLish-Devil-8B-L3; базовой моделью в README названа Neural-SOVLish-Devil-8B-L3. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Основная задача — генерация текста. Модель можно применять для диалогов и создания текстовых ответов; карточка не описывает отдельные специализированные сценарии или результаты оценки качества. Метаданные указывают библиотеку Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.
Это GGUF-представление модели una-cybertron-7b-v2-bf16-Mistral-7B-Instruct-v0.2-slerp от MaziyarPanahi, основанной на Mistral-7B-Instruct-v0.2. Модель предназначена для диалоговой генерации текста и может запускаться локально через llama.cpp и совместимые приложения. В репозитории представлены варианты квантования GGUF, позволяющие выбирать компромисс между размером файлов и точностью. Архитектура — плотная Mistral; модель поддерживает чат. README не сообщает конкретный размер параметров или длину контекста. Лицензия — Apache-2.0. Качество и точность могут различаться между уровнями квантования; для работы требуется совместимый GGUF-исполнитель.
Uni-TianYan — дообученная на базе LLaMA 2 языковая модель, опубликованная под идентификатором uni-tianyan/Uni-TianYan. Она предназначена для генерации текста и ответов на запросы; карточка приводит результаты на тестах ARC, HellaSwag и MMLU, но не описывает набор данных или конкретную специализацию дообучения. Модель использует плотную архитектуру LLaMA и содержит 68,7 млрд параметров; доступные веса представлены в формате PyTorch. Контекст составляет 4096 токенов. В карточке указано тестирование на английском языке. Лицензия — Llama 2. Как и другие варианты LLaMA 2, модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед внедрением её следует оценить в целевых сценариях.
Vicuna-13B-v1.3 — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная LMSYS. Модель дообучена на пользовательских диалогах, опубликованных в ShareGPT, и предназначена для генерации ответов в формате чат-ассистента. Веса содержат 12,9 млрд параметров, контекст — до 2048 токенов. Модель подходит для исследовательских и любительских проектов в области NLP, машинного обучения и чат-ботов: она может вести диалог, отвечать на вопросы и генерировать текст по запросу. Карточка описывает оценку по стандартным бенчмаркам, предпочтениям людей и оцениванию с помощью другой языковой модели. Указана некоммерческая лицензия; карточка рекомендует использовать более новую версию весов.
VisFlamCat — объединённая языковая модель на архитектуре Mistral, созданная автором репозитория с помощью LazyMergekit из flammenai/flammen15-gutenberg-DPO-v1-7B, Eric111/CatunaLaserPi и Nitral-AI/Visual-LaylelemonMaidRP-7B. Модель содержит 7,1 млрд параметров, использует формат safetensors, имеет контекст до 32 768 токенов и предназначена для генерации текста. Модель подходит для диалогов и свободного продолжения текста. В README приведены результаты оценки на Open LLM Leaderboard: среднее значение 21,16, IFEval — 43,66, BBH — 32,88. Она объединяет несколько моделей методом TIES; лицензия и дополнительные условия использования в предоставленных данных не описаны.
Vistral-7B-Chat-DPO-imatrix-GGUF — набор квантизированных файлов модели в формате GGUF, подготовленный пользователем duyntnet на основе Vistral-7B-Chat-DPO от jan-hq. Модель предназначена для генерации текста в диалоговом режиме и использования в совместимых инструментах инференса, поддерживающих формат GGUF и imatrix-квантизацию. В README указана задача text-generation и язык en — английский. Модель относится к семейству Vistral-7B-Chat-DPO; из названия следует размер класса 7B, а также обучение с применением DPO для чат-сценариев. Для формирования запросов используется шаблон Mistral с системным сообщением и пользовательским промптом. Ключевые характеристики исходной архитектуры, точный размер контекста, перечень поддерживаемых модальностей и конкретные варианты квантизации в README не описаны. Лицензия указана как other, без дополнительных условий, поэтому перед использованием необходимо ознакомиться с лицензией исходной модели и файлами репозитория.