I.7Речь, диалоги и встречи
В разделе собраны самостоятельные задачи, где AI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 923 моделиEclipse-13B-dpo — языковая модель Xenon1, созданная дообучением Mistral-7B-v0.1 на датасете UltraFeedback с применением методов из статьи Self-Rewarding Language Models. Она предназначена для генерации текста и выполнения инструкций в диалоговом формате; для запросов используется шаблон с токенами [INST] и [/INST], также доступный через apply_chat_template(). В основе указана архитектура Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; метаданные классифицируют веса как MixtralForCausalLM с архитектурой MoE и указывают 7,1 млрд параметров. Контекст составляет 32 768 токенов, формат весов — safetensors, основной язык карточки — английский. Модель распространяется по лицензии Apache-2.0.
EtherealAurora-12B — разговорная языковая модель на архитектуре Mistral, опубликованная yamatazen. Это объединение предварительно обученных моделей, созданное с помощью mergekit методом Model Stock на базе yamatazen/Aurora-SCE-12B. Модель содержит 12,1 млрд параметров, распространяется в формате safetensors и использует шаблон диалога ChatML. Метаданные указывают контекст до 1 024 000 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, написания и продолжения текстов на английском и японском языках. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит сравнительных оценок качества или подробных рекомендаций по настройке.
Experiment26M7-7B — текстовая модель семейства Mistral с 7,1 млрд параметров, созданная Maxime Labonne автоматическим слиянием моделей. В конфигурации merge использован метод DARE-TIES с моделями yam-peleg/Experiment26-7B и liminerity/M7-7b; метаданные указывают liminerity/M7-7b как базовую модель и отмечают производность типа finetune. Модель рассчитана на генерацию текста и диалоговое взаимодействие, имеет контекст до 32 768 токенов и распространяется в формате safetensors. Модель может применяться для генерации продолжений текста и ведения диалога. Карточка не приводит сведений о специализированной предметной области или поддерживаемых языках. Лицензия — Apache-2.0.
Experiment26Neuralsirkrishna-7B — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная автоматически по конфигурации Maxime Labonne. В слиянии использованы yam-peleg/Experiment26-7B и Kukedlc/NeuralSirKrishna-7b; применён метод dare_ties с параметрами плотности 0,53 и веса 0,6 для второй модели. Модель предназначена для генерации текста и диалогов, принимает текстовые запросы и формирует текстовые ответы. Размер контекста — до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает целевые языки и специализированные области применения.
Experiment26Neuralsirkrishna_AlloyingotneoyInex12 — объединённая языковая модель, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/AlloyingotneoyInex12-7B. Она предназначена для генерации текста и диалогов. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Данные README и метаданных не раскрывают поддерживаемые языки или специализированные области применения. Модель распространяется в формате Safetensors по лицензии Apache-2.0.
Experiment26Neuralsirkrishna_Experiment27Yam — объединённая модель, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment27Yam-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель подходит для генерации ответов, продолжения текста и диалоговых сценариев. В метаданных указана лицензия Apache-2.0. Сведения о специальной предметной области или языковой специализации отсутствуют.
Experiment26Neuralsirkrishna_Multi_verse_modelYam — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/Multi_verse_modelYam-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов. Её контекстное окно составляет до 32 768 токенов. Данных о специализации по языкам или прикладным областям в карточке нет. Модель распространяется по лицензии Apache-2.0.
MaziyarPanahi/Experiment26Neuralsirkrishna_OgnoExperiment27 — слитая модель семейства Mistral, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Модель подходит для генерации ответов, продолжения текста и диалоговых сценариев. README не сообщает о специализации на конкретных языках или областях. Модель распространяется по лицензии Apache-2.0.
Experiment26Neuralsirkrishna_ShadowExperiment28 — объединённая модель на базе двух моделей automerger, предназначенная для генерации текста и диалогов. Она использует плотную архитектуру Mistral с причинно-языковой моделью MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Модель подходит для генерации продолжений текста и ведения диалогов в сценариях, где нужен длинный контекст. Данные о специализации по предметным областям и языковой поддержке в карточке отсутствуют, поэтому их нельзя уточнить.
MaziyarPanahi/Experiment26Yam_YamYam — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/Experiment26Yam-7B и automerger/YamYam-7B. Модель содержит 7,1 млрд параметров и принимает текстовые запросы для генерации текста; заявленная длина контекста — до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы, а также для диалоговых сценариев на её основе. В репозитории размещены веса в формате Safetensors. Лицензия — Apache-2.0.
Experiment27pasticheYamshadowexperiment28-7B — автоматическое слияние моделей, созданное Maxime Labonne с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров для генерации текста, включая диалоги. Слияние выполнено методом DARE TIES; в конфигурации указаны плотность 0,53 и вес 0,6 для automerger/YamshadowExperiment28-7B, а в качестве базовой модели — automerger/Experiment27Pastiche-7B. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов; веса доступны в формате Safetensors. Поддерживаемые языки в предоставленных данных не перечислены. Лицензия — Apache-2.0.
Experiment28Meliodas-7B — автоматически объединённая модель, созданная Maxime Labonne из yam-peleg/Experiment28-7B и AurelPx/Meliodas-7b-dare с помощью mergekit. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленная длина контекста составляет 32 768 токенов. Слияние выполнено методом SLERP с разными коэффициентами для слоёв self-attention и MLP. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка содержит пример загрузки через Transformers, но не описывает специальные предметные области или гарантии качества; результаты зависят от запроса и сценария использования.
Experiment29Pastiche-7B — объединённая Maxime Labonne модель для генерации текста и диалогов. Она создана автоматическим слиянием двух моделей: yam-peleg/Experiment29-7B и CorticalStack/pastiche-crown-clown-7b-dare; для объединения использован метод SLERP, а базовой моделью указана yam-peleg/Experiment29-7B. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors; метаданные указывают лицензию Apache-2.0. Карточка демонстрирует использование через Transformers, но не приводит сведений о языковой специализации или подробных ограничениях качества.
f-4-8b — объединённая разговорная языковая модель семейства Llama, созданная jaspionjader с помощью mergekit и метода SLERP на основе jaspionjader/f-2-8b и jaspionjader/f-3-8b. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и представлена в формате safetensors; максимальный контекст — 8192 токена. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на запросы, ведения беседы и создания текстовых черновиков. README не описывает специализацию по языкам или предметным областям. Лицензия в предоставленных данных не указана.
jaspionjader/f-8-8b — объединённая методом SLERP языковая модель, созданная с помощью mergekit на основе jaspionjader/f-5-8b и jaspionjader/f-7-8b. Модель относится к семейству Llama, использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогового общения. Модель принимает текст и генерирует текст; максимальный родной контекст составляет 8192 токена. Веса представлены в формате safetensors. Языки, на которые модель рассчитана, и лицензия в использованных сведениях не приведены.
Faro-Yi-9B-DPO-imatrix-GGUF — набор GGUF-квантизаций модели Faro-Yi-9B-DPO, опубликованный пользователем duytnet. Базовая модель разработана wenbopan как DPO-версия Faro-Yi-9B на архитектуре Yi с примерно 9 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев, использует шаблон ChatML и поддерживает работу через llama.cpp, KoboldCpp, Ollama, text-generation-webui, Jan и GPT4All. Модель ориентирована на ответы общего назначения, рассуждения, работу с вопросами и документами, включая длинный контекст. В README заявлены высокие результаты на MMLU, GSM8K, HellaSwag, TruthfulQA, AI2 ARC, Winogrande и CMMLU, а также предпочтение ответов модели в оценке MT-Bench с использованием GPT-4 Judge. Для оригинальной модели описана работа с контекстом до 32K токенов при 24 ГБ видеопамяти, до 48K при использовании FP8 KV-кэша и до 160K для 4-битной AWQ-квантизации, однако фактические возможности конкретной GGUF-квантизации зависят от файла, аппаратного обеспечения и настроек запуска. В карточке указаны английский язык и лицензия «other», но точные условия лицензии не приведены. GGUF-квантизация снижает требования к памяти и упрощает локальный запуск, однако может приводить к некоторой потере качества по сравнению с полноразмерной моделью; степень потерь зависит от выбранного варианта квантизации.
Fikr-7B-Reasoning-GRPO — языковая модель для генерации текста, опубликованная пользователем Hatim2221 на Hugging Face. По метаданным она работает через библиотеку Transformers, относится к семейству Qwen2 и содержит около 7,1 млрд параметров. Название указывает на ориентацию на рассуждения и обучение методом GRPO, однако README не содержит подробностей о процедуре дообучения или результатах оценки. Модель предназначена для задач генерации и продолжения текста, диалоговых сценариев, составления ответов на вопросы и выполнения инструкций в приложениях на базе LLM. Заявленная длина контекста составляет 32 768 токенов, что позволяет обрабатывать достаточно объёмные запросы и документы. В метаданных отмечен conversational-сценарий использования, но поддерживаемые естественные языки явно не перечислены. README не содержит сведений о разработчике, лицензии, обучающих данных, тестах, показателях качества, рекомендуемых параметрах генерации или специальных ограничениях. Поэтому перед применением модель следует самостоятельно проверять на фактические ошибки, нестабильность рассуждений, токсичные или предвзятые ответы и пригодность для конкретной области.
DevQuasar опубликовал GGUF-версию модели FINAL-Bench/Darwin-36B-Opus для генерации текста и диалогов. Карточка указывает, что это версия базовой модели, а метаданные описывают её как мультиязычную MoE-модель для диалогов и сложных задач рассуждения с длинным контекстом. Репозиторий содержит веса в формате GGUF F16. Модель предназначена для текстового общения и генерации ответов. README не приводит дополнительных сведений о поддерживаемых языках, точном размере контекста, лицензии и ограничениях использования.
flammen10-mistral-7B — языковая модель на архитектуре Mistral, созданная FlammenAI слиянием двух моделей методом SLERP с помощью mergekit: nbeerbower/flammen9X-mistral-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Модель предназначена для генерации текста по запросам и может использоваться в диалоговых сценариях и для ответов на математические вопросы. Модель содержит 7,1 млрд параметров, имеет контекстное окно до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Вторая исходная модель описана как DPO-дообученная на математических данных Mistral, что указывает на математическую составляющую слияния. Репозиторий лицензирован по Apache-2.0.
Flora DPO — языковая модель ResplendentAI на архитектуре Mistral с 7,1 млрд параметров, дообученная методом DPO на наборах mlabonne/chatml_dpo_pairs и ResplendentAI/Synthetic_Soul_1k. Модель предназначена для генерации текста и диалоговых ответов; карточка приводит результаты оценивания на задачах рассуждения и понимания текста. Поддерживает английский язык и контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — CC BY-SA 4.0. README упоминает доступные квантизованные версии, но не уточняет их формат и расположение.
FuseChat-Qwen-2.5-7B-Instruct-Heretic-GGUF — языковая модель в формате GGUF, созданная на основе FuseAI/FuseChat-Qwen-2.5-7B-Instruct и опубликованная пользователем ChiKoi7. Базовая модель относится к семейству Qwen 2.5 и имеет 7 млрд параметров. FuseChat-3.0 разработана FuseAI с использованием неявного объединения возможностей нескольких крупных языковых моделей через Supervised Fine-Tuning и Direct Preference Optimization на данных предпочтений; в качестве целевой модели использовалась Qwen-2.5-7B-Instruct. Для данной версии дополнительно применён Heretic v1.0.1 — метод удаления ограничений на отказы от ответов. Модель предназначена для генерации текста, диалогов и выполнения инструкций, включая общие разговорные задачи, следование инструкциям, математику и программирование. По приведённому сравнению, версия Heretic отказалась от ответа в 3 случаях из 100 против 93 из 100 у исходной модели, при этом её KL-дивергенция относительно оригинала составила 0,07. Это указывает на существенно более редкие отказы при сохранении близкого поведения к исходной модели, однако одновременно означает потенциально менее выраженные защитные ограничения. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура трансформера, требования к аппаратному обеспечению и конкретная лицензия. Также не приведены результаты независимой оценки качества после применения Heretic. Поэтому модель следует использовать с учётом возможного отсутствия встроенных ограничений безопасности; условия распространения необходимо уточнять по лицензии базовой модели и репозитория модели.
GarrulusMarcoro-7B-v0.1 — объединённая языковая модель, созданная с помощью LazyMergekit из udkai/Garrulus и mlabonne/NeuralMarcoro14-7B. Это плотная модель семейства Mistral с 7,1 млрд параметров; в репозитории веса представлены в формате Safetensors, а заявленная длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В README описано объединение методом SLERP с настройками для слоёв self-attention и MLP; приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0. README не уточняет языки обучения, специальные предметные области или гарантии качества для конкретных сценариев. Результаты бенчмарков не гарантируют аналогичную точность на пользовательских задачах.
GeM2-Llamion-14B-Base — генеративная языковая модель VAIV Company из серии GeM 2.0. Она создана преобразованием модели Orion в стандартную архитектуру LLaMA с помощью отображения параметров и переноса знаний. Модель предназначена для генерации текста и диалоговых сценариев. Это плотная авторегрессионная модель класса LlamaForCausalLM с 14,1 млрд параметров, контекстом 4096 токенов и весами в формате safetensors. В карточке указана возможность чата. Лицензия — Apache-2.0. В README не приведены сведения о языках, обучающих данных и конкретных ограничениях качества, поэтому их нельзя уточнить по имеющимся источникам.
mlx-community/gemma-2-27b-it-4bit — 4-битная квантованная версия модели Gemma 2 27B, преобразованная сообществом mlx-community из google/gemma-2-27b-it в формат MLX с помощью mlx-lm 0.15.0. Исходную модель разработала Google. Модель предназначена для генерации текста и диалогового взаимодействия с инструкциями. Модель содержит 27,6 млрд параметров и поддерживает контекст длиной до 8192 токенов. Она рассчитана на работу в экосистеме MLX и может использоваться через библиотеку mlx-lm; в метаданных также указана совместимость с Transformers. Ключевое преимущество — 4-битное представление, уменьшающее требования к памяти по сравнению с полноразмерной моделью. Модель подходит для ответов на вопросы, диалогов, написания и преобразования текста, а также локального запуска генеративной модели на совместимом оборудовании Apple. Ограничения включают возможные ошибки, галлюцинации и зависимость качества от формулировки запроса; README не содержит подробных результатов оценки. Использование регулируется лицензией Gemma, для доступа на Hugging Face требуется принять условия лицензии Google.
Gemma-2-9b-it-4bit — языковая модель семейства Gemma 2, разработанная Google и доработанная сообществом mlx-community для формата MLX. Модель преобразована из google/gemma-2-9b-it с использованием mlx-lm версии 0.15.0 и предназначена для запуска в экосистеме MLX. Это instruction-tuned модель для генерации текста и диалоговых сценариев: она может использоваться для ответов на запросы, ведения беседы и других задач, связанных с обработкой и созданием текста. В карточке указано обозначение размера 9B, а также 4-битное квантование, которое снижает требования к памяти по сравнению с полноточным представлением. Поддерживаются библиотека transformers как метаданные и библиотека mlx-lm для загрузки и генерации. README не содержит сведений о поддерживаемых языках, длине контекста, результатах тестирования, точных архитектурных характеристиках, сильных сторонах или ограничениях качества. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; конкретные условия следует проверять в тексте этой лицензии.
gemma-2-9b-it-IMat-GGUF — это квантизированная версия текстовой instruction-tuned модели Google Gemma 2 9B IT, подготовленная legraphista в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и задачи, где важны сниженные требования к памяти. В основе лежит модель google/gemma-2-9b-it с исходным форматом BF16 и примерно 9 миллиардами параметров. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; размеры файлов составляют примерно от 3,8 до 18,5 ГБ. Для ряда вариантов с низкой разрядностью применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера. README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности; по указанным данным модель является текстовой. Основные преимущества — широкий выбор уровней квантизации, возможность локального запуска и наличие IMatrix-вариантов, позволяющих выбирать компромисс между качеством и потреблением памяти. Ограничения связаны с возможной потерей качества при сильной квантизации и с тем, что характеристики базовой модели, включая языковое покрытие и контекст, в карточке не раскрыты. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется ознакомиться с условиями и принять лицензию.
Gemma-3-27B-Derestricted-i1-GGUF — квантизированная версия модели Nabbers1999/Gemma-3-27B-it-NP-Abliterated, подготовленная и опубликованная mradermacher. Модель предназначена для генерации текста и диалоговых сценариев; в README она также обозначена как vision-модель, поэтому может обрабатывать изображения при наличии совместимого mmproj-файла. Указан английский язык. Модель основана на Gemma 3 с 27 млрд параметров и поставляется в формате GGUF, включая варианты квантизации i1 и imatrix. Доступны уровни от IQ1_S до Q6_K размером примерно от 6,4 до 22,3 ГБ. Квантизации различаются компромиссом между размером, скоростью и качеством: низкие уровни требуют меньше памяти, но могут заметно снижать качество, тогда как i1-Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества, а i1-Q4_K_M — как быстрый и рекомендуемый вариант. Сильными сторонами являются большой размер базовой модели, поддержка текстовых и визуальных сценариев и широкий выбор квантизаций для локального запуска. Ограничения включают возможное снижение качества при агрессивной квантизации, необходимость совместимого программного обеспечения для GGUF и mmproj-файла для обработки изображений. Лицензия указана как gemma; конкретные условия следует проверять в лицензии Gemma.
Gemma-4-12B-CoreAI — конвертация языковой модели Google Gemma 4 12B, подготовленная пользователем mlboydaisuke для запуска через Apple Core AI на устройствах с Apple Silicon. Модель предназначена для генерации текста, диалогов, суммаризации и других локальных сценариев использования LLM без передачи данных в облако; заявлена интеграция с CoreAIKit и запуск на GPU или Neural Engine, хотя в README отдельно подтверждён запуск на M-series Mac через конвейерный GPU-движок. Это плотный текстовый декодер без MoE, PLE, AltUp, Laurel и совместного использования KV-кэша: 48 слоёв, скрытое представление размерностью 3840, 16 голов внимания и словарь на 262144 токена. Используется чередование оконного и глобального внимания в соотношении 5:1, причём размерность головы составляет 256 для sliding attention и 512 для глобального внимания. Доступны варианты int8 размером около 14 ГБ и int4 размером около 8,2 ГБ; на M4 Max заявлена скорость декодирования примерно 23 и 33 токена в секунду соответственно. Контекстное окно и перечень поддерживаемых естественных языков в README не указаны. Сильная сторона модели — возможность локального запуска крупной 12B-модели на Apple Silicon, включая специальное Metal-ядро flash-decode для обхода ограничений стандартного GPU-декодирования. Вариант int8 описан как проверенный и воспроизводящий результаты эталонной fp32-модели, тогда как int4 требует меньше памяти и работает быстрее, но может немного ухудшать формулировки. Ограничения включают зависимость от совместимого оборудования и Core AI, большой объём загрузки, режим decode-only, отсутствие записи о рейтинге DeviceMark и возможные сбои у обычных, не использующих специальное ядро, сборок. В метаданных указана лицензия Apache 2.0.
CreitinGameplays/GLM-4.7-Flash-Fable-5-Distill — дообученная диалоговая текстовая модель на базе unsloth/GLM-4.7-Flash. Она предназначена для генерации ответов в чате; карточка также приводит параметры генерации top_k 40, temperature 0.5 и top_p 0.95. Архитектура указана как GLM4 MoE Lite с классом Glm4MoeLiteForCausalLM; размер — 4,1 млрд параметров, формат весов — safetensors, длина контекста — 202 752 токена. Для дообучения перечислены наборы данных TeichAI/Fable-5-Cursor-Traces и armand0e/Fable-5-Chat. Модель опубликована под лицензией Apache-2.0. README отмечает необходимость принудительно задавать специальный токен в шаблоне чата, но название токена в доступном тексте карточки отсутствует.
jtl11/GLM-4.7-Flash-heretic — это изменённая версия GLM-4.7-Flash от Z.ai с применённой abliteration, предназначенная для генерации текста и диалогов с меньшим числом отказов на запросы. В README приведено сравнение отказов: 32 из 104 у этой версии против 103 из 104 у исходной модели; также указано значение KL divergence 0,0630 относительно оригинала. Метаданные описывают модель как генеративную архитектуру GLM4 MoE Lite с 4,1 млрд параметров, поддержкой чата и контекстом до 202 752 токенов. Карточка связана с исходной моделью zai-org/GLM-4.7-Flash, которая в README описана как MoE-модель класса 30B-A3B; число параметров в метаданных этой копии отличается, поэтому её размер указан по метаданным репозитория. Заявлены английский и китайский языки. Модель распространяется по лицензии MIT.