I.3Извлечение и структурирование данных

MaziyarPanahi/Llama-3-13B-Instruct-v0.1-GGUF — набор квантизованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе MaziyarPanahi/Llama-3-13B-Instruct-v0.1. Модель предназначена для генерации текста и диалоговых сценариев с использованием инструкционного формата Llama 3, включая работу через llama.cpp. Известно, что доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшим размером файлов и потенциально более высоким качеством. Размер базовой модели составляет 13B параметров. Модальность — текстовая; сведения о поддерживаемых языках, размере контекста, точной архитектуре и результатах оценки в README не указаны. Для корректной работы требуется применять шаблон промпта Llama 3 и поддержка формата GGUF в используемом программном обеспечении. Лицензия в README не указана.

Модель triplee/llama3.1_8b_2S1S_v5_merge — дообученная текстовая модель семейства Llama 3.1, разработанная triplee на основе unsloth/meta-llama-3.1-8b-instruct. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения использовались Unsloth и библиотека TRL; файлы представлены в формате safetensors. Лицензия — Apache-2.0.

Llama-3.1-8B-Reason-Blend-888k — экспериментальная плотная языковая модель от khulaifi95, дообученная на основе Meta-Llama-3.1-8B-Instruct. Она предназначена для усиления способностей к рассуждению и диалогового использования; работает с шаблоном ChatML и поддерживает интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и принимает контекст до 131 072 токенов. В карточке указаны английский язык и лицензия other. Модель можно применять для диалоговых ответов, многошаговых рассуждений и задач, где нужно следовать инструкциям. Автор характеризует её как экспериментальную: качество может быть нестабильным и зависеть от гиперпараметров. Результаты таблицы оценок в README не заполнены; при использовании в продуктивной среде автор рекомендует safeguards и контроль человека.

2023mt13042 выпустил модифицированную и дообученную версию Meta Llama 3.1 8B Instruct, применив методику Abliteration — редактирование представлений модели. Это плотная авторегрессионная трансформерная модель семейства Llama для диалогов и генерации текста; в метаданных указано 7,5 млрд параметров, а контекст составляет до 131 072 токенов. Модель принимает текст и выдаёт текст, карточка заявляет поддержку английского языка. Её можно использовать для диалоговых приложений и генерации текста. Для запуска предусмотрены Transformers и веса safetensors в формате fp16; README приводит ориентир от 16 ГБ видеопамяти для обычного запуска и предлагает квантование для устройств с меньшей памятью. Модель наследует условия лицензии Meta Llama 3.1 Community License. Перед применением в производственной среде следует проверять качество и поведение ответов.

unsloth/Llama-3.1-Nemotron-70B-Instruct — текстовая диалоговая модель NVIDIA на архитектуре Llama 3.1, опубликованная Unsloth. Это версия с дообучением NVIDIA Llama-3.1-Nemotron-70B-Instruct-HF; в карточке каталога указан датасет HelpSteer2. Модель предназначена для генерации ответов на инструкции и запросы в диалоге, а также поддерживает интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и 69,5 млрд параметров. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Llama 3.1. README направляет к исходной карточке NVIDIA за дополнительными сведениями; подробные ограничения и оценка качества в предоставленных данных не описаны.

unsloth/Llama-3.2-3B — версия текстовой модели Meta Llama 3.2, представленная в репозитории Unsloth для использования и дообучения. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с 3,2 млрд параметров и контекстом до 131 072 токенов. README описывает семейство Llama 3.2 как модели для генерации текста и диалога; Unsloth предоставляет ноутбуки для настройки модели на собственных данных и экспорта результата. Модель подходит для генерации и продолжения текста, диалоговых сценариев, суммаризации и помощников с ограниченными вычислительными ресурсами. Семейство официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; конкретная карточка также помечена языком en. Репозиторий использует формат safetensors и библиотеку Transformers. Модель основана на meta-llama/Llama-3.2-3B и распространяется по лицензии Llama 3.2 Community License — специальной лицензии Meta с коммерческими условиями. Качество генерации, фактическая точность и пригодность для конкретного языка или применения зависят от запроса и развертывания; заявленные в README преимущества скорости и экономии памяти относятся к настройке через Unsloth.

AMead10/Llama-3.2-3B-Instruct-AWQ — инструкционная языковая модель семейства Llama 3.2, разработанного Meta, представленная в формате AWQ-квантизации. Версия размещена пользователем или организацией AMead10 и предназначена для запуска через экосистему Transformers и совместимые средства инференса для text-generation. Модель рассчитана на диалоговые сценарии, генерацию текста и выполнение инструкций. В карточке заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Обозначение 3B указывает на класс примерно из 3 миллиардов параметров, однако точные сведения об архитектуре, размере контекста, методе дообучения и результатах тестирования в README не приведены. Ключевое преимущество AWQ-версии — уменьшенные требования к памяти и потенциально более эффективный локальный инференс по сравнению с полноразмерными весами, но квантизация может влиять на качество ответов. Ограничения и гарантии безопасности отдельно не описаны; результаты требуют проверки, особенно в критически важных задачах. Использование регулируется Llama 3.2 Community License от Meta: при распространении материалов или производных продуктов необходимо соблюдать условия лицензии, Acceptable Use Policy, требования к атрибуции и маркировке «Built with Llama».

Это квантизированная версия llama-3-70B-Instruct-abliterated в формате GGUF, подготовленная пользователем bartowski на основе модели failspy/llama-3-70B-Instruct-abliterated. Квантизация выполнена с помощью llama.cpp версии b2854 и метода imatrix. Модель предназначена для генерации текста в диалоговом и инструкционном формате, включая локальный запуск через совместимые инструменты llama.cpp. Модель относится к семейству Llama 3 и содержит 70B параметров, однако README не указывает точную архитектуру, поддерживаемые языки, размер контекстного окна или набор модальностей. Доступны варианты квантизации от Q8_0 до Q2 и IQ2–IQ4, различающиеся размером файлов и качеством: от 74,97 ГБ у Q8_0 до 21,14 ГБ у IQ2_XS. В README рекомендуются, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS; более компактные варианты требуют меньше памяти, но обычно снижают качество. Сильной стороной являются разнообразие квантизаций, возможность локального использования и сохранение высокого качества у вариантов Q6_K и Q5. Ограничения связаны с существенными требованиями к памяти для 70B-модели, потерей качества в низкобитных вариантах и отсутствием подробных сведений о результатах тестирования, языках и контекстном окне. Для корректного общения следует использовать указанный в README шаблон prompt format с системным, пользовательским и ассистентским сообщениями. Указана лицензия llama3; дополнительные условия следует уточнять в файле LICENSE исходной модели.

Llama-3-Instruct-8B-SimPO-IMat-GGUF — это GGUF-квантизированная версия языковой модели Llama-3-Instruct-8B-SimPO, разработанной Princeton NLP. Квантизацию выполнил legraphista с использованием llama.cpp версии b3023 и калибровочных данных IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через совместимые с llama.cpp приложения и локальный инференс. Модель имеет размер 8B параметров и поставляется в нескольких вариантах GGUF: от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера модели. Размер файлов варьируется примерно от 3,18 до 16,07 ГБ. README не указывает поддерживаемые языки, размер контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильная сторона сборки — широкий выбор уровней квантизации для подбора баланса между качеством, скоростью и требованиями к памяти, а также возможность локального запуска в формате GGUF. Более агрессивная квантизация может снижать качество генерации по сравнению с исходной BF16-моделью. Лицензия в README не указана; условия использования следует уточнять в карточке исходной модели и репозитории сборки.

Llama-3-Instruct-8B-SimPO-SPPO-Iter3-merge — объединённая чат-модель на базе Meta Llama 3, созданная с помощью mergekit разработчиками исходных моделей. Веса двух моделей, princeton-nlp/Llama-3-Instruct-8B-SimPO и UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3, объединены методом SLERP. Модель имеет архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Карточка приводит результаты оценок IFEval и BBH; метаданные характеризуют базовую модель как англоязычную. Репозиторий содержит веса Safetensors для Transformers. Лицензия — Llama 3 (llama3).

TheBloke/LLaMA-7b-GGUF — это квантизированная версия языковой модели LLaMA 7B, разработанной Meta. Репозиторий подготовлен TheBloke и содержит файлы в формате GGUF для запуска модели через llama.cpp и совместимые приложения. Модель предназначена для генерации и продолжения текста, диалоговых и других сценариев инференса с использованием произвольного текстового запроса. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на запуск с использованием CPU и GPU; конкретные требования к памяти зависят от выбранного файла. Формат GGUF поддерживается llama.cpp, text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и рядом других инструментов. Ключевые характеристики — архитектура LLaMA, размер 7 миллиардов параметров и текстовая модальность. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Квантизация снижает требования к памяти и упрощает локальный запуск, однако низкобитные варианты могут заметно ухудшать качество, особенно самые компактные версии. Модель не является мультимодальной, а её точные ограничения по качеству и применению зависят от выбранного метода квантизации. В метаданных указана лицензия other; конкретные условия лицензии в README не приведены, поэтому перед использованием необходимо проверить лицензионные условия оригинальной модели Meta.

Llama-PLLuM-70B-instruct-2508 — большая языковая модель семейства PLLuM, разработанная консорциумом PLLuM и продолжаемая альянсом HIVE AI для польского и других славянских и балтийских языков. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, настроенная на выполнение инструкций; она поддерживает диалог и генерирует текст. Родительская модель — Llama-PLLuM-70B-base, лицензия — Llama 3.1. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и создания специализированных помощников. Особое внимание уделено польскому языку и сценариям польской государственной администрации, включая юридические и бюрократические темы; для ответов по конкретным документам рекомендуется использовать её вместе с поиском по источникам. Заявленный контекст составляет 131 072 токена. В обучении использовались польские, другие славянские и балтийские языки, а также английский. Модель обучалась на корпусах, актуальных примерно до осени 2024 года, поэтому она может не знать более поздних событий. Она может выдавать фактически неверные ответы, а также сохранять смещения, особенно по спорным и субъективным темам; длинный контекст может требовать значительных ресурсов памяти. Использование регулируется лицензией Llama 3.1.

LMCocktail-Mistral-7B-v1-Mistral-7B-Instruct-v0.1 — плотная языковая модель семейства Mistral, созданная объединением Mistral-7B-Instruct-v0.1 и Yhyu13/LMCocktail-Mistral-7B-v1 методом SLERP. Веса представлены в формате Safetensors; модель насчитывает 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и ведения диалогов. Её можно применять в чат-ботах и для создания ответов на текстовые запросы. Данные о поддерживаемых естественных языках в карточке не приведены. Модель распространяется по лицензии Apache-2.0. Качество и поведение при объединении моделей могут различаться в зависимости от запроса; отдельные ограничения в карточке не описаны.

Magistral Small 2506 — языковая модель от Mistral AI, представленная сообществом LM Studio в виде весов MLX в исходной точности bfloat16. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 23,4 млрд параметров, предназначенная для диалоговой генерации текста. Сборка подготовлена командой LM Studio с помощью mlx_lm и оптимизирована для Apple Silicon. Модель подходит для ведения диалога и генерации ответов на текстовые запросы; заявленная длина контекста составляет 49 152 токена. Веса распространяются по лицензии Apache-2.0. Эта публикация является производной сборкой базовой модели mistralai/Magistral-Small-2506; карточка не приводит специальных отраслевых назначений или дополнительных гарантий качества. Как и другие генеративные модели, она может выдавать неточную или неподходящую информацию.

Marcoroni-neural-chat-7B-v2 — объединённая языковая модель на архитектуре MistralForCausalLM, созданная с помощью Slerp и mergekit из AIDC-ai-business/Marcoroni-7B-v3 и Intel/neural-chat-7b-v3-3. Обе исходные модели основаны на mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Она предназначена для тестирования возможностей объединённой модели и задач генерации текста. Репозиторий предоставляет веса в формате safetensors; лицензия — Apache-2.0.

Solshine/mergekit-passthrough-lhtboir — объединённая языковая модель на архитектуре Llama, созданная автором с помощью mergekit методом passthrough. В объединении использованы слои mlabonne/Hermes-3-Llama-3.1-8B-lorablated, Solshine/reflection-llama-3.1-8B и CopyleftCultivars/llama-3.1-natural-farmer-16bit; веса сохранены в формате safetensors с точностью float16. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, составления текстов и работы с интерфейсом вызова инструментов. В карточке указана архитектура LlamaForCausalLM и библиотека Transformers. Сведения о лицензии в предоставленных данных отсутствуют. Качество и поведение объединённой модели могут отличаться от исходных моделей; независимые результаты оценки не приведены.

Meta-Llama-3-11.5B-Instruct — созданная mpasila экспериментальная инструкционная языковая модель, полученная слиянием слоёв Undi95/Meta-Llama-3-8B-Instruct-hf методом passthrough с помощью mergekit. Модель предназначена для диалогов и генерации текста в ответ на инструкции; архитектура — плотная Llama с причинным языковым моделированием, объём — около 11 млрд параметров, контекст — 8192 токена. Карточка указывает английский язык и формат safetensors. Модель может подойти для чат-ботов, ответов на вопросы, написания и продолжения текстов, а также генерации кода. Доступна по лицензии llama3. Карточка описывает способ слияния, но не приводит сравнительных оценок качества; как экспериментальная Frankenmerge, она может отвечать менее стабильно, чем исходная модель.

Модель nicolepcx/Meta-Llama-3.1-8B-Instruct-tiny разработана nicolepcx и представляет собой дообученную инструктивную модель семейства Llama 3.1 с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. В качестве основы указана unsloth/meta-llama-3.1-8b-instruct-bnb-4bit; для обучения использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций; интерфейс также поддерживает вызов инструментов. Метаданные указывают английский язык и контекстное окно до 131 072 токенов. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0.

Tess-4-9B-GGUF — набор квантизированных GGUF-версий модели Tess-4-9B, разработанной migtissera и подготовленной bartowski с использованием llama.cpp и метода imatrix. Модель позиционируется для диалоговых, reasoning- и agentic-сценариев, включая задачи с инструментами и работу с длинным контекстом. В метаданных она также обозначена как multimodal и image-text-to-text, однако подробности о поддерживаемых типах изображений и фактических мультимодальных возможностях не приведены. Модель имеет размер 4B–9B согласно идентификатору и названию базовой модели, но точная архитектура, максимальная длина контекста и список языков в README не указаны. Доступны варианты от BF16 до сильнее сжатых Q2/Q3/Q4/Q5/Q6/Q8 и IQ-квантизаций; это позволяет выбирать между качеством, размером файла и требованиями к памяти. Версии GGUF предназначены для запуска через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. README не описывает результаты тестов, поэтому сильные стороны и ограничения качества нельзя надежно оценить; при более агрессивном квантовании ожидается снижение качества. Указана лицензия Apache-2.0.

openbmb/MiniCPM3-4B-GGUF — это набор файлов модели MiniCPM3-4B в формате GGUF, разработанной командой OpenBMB. Репозиторий содержит варианты minicpm3-4b-fp16.gguf и minicpm3-4b-q4_k_m.gguf. Модель предназначена для локального запуска в совместимой с GGUF инфраструктуре; конкретные сценарии применения, архитектура, размер контекста и поддерживаемые модальности в представленном README не указаны. Известно, что заявлены английский и китайский языки, а базовой моделью является openbmb/MiniCPM3-4B. Варианты FP16 и Q4_K_M различаются способом хранения и уровнем квантования, что может влиять на требования к памяти и качество работы. Лицензия и ограничения использования в README не указаны. Для подробностей по применению предлагается обратиться к репозиторию OpenBMB/MiniCPM.

dealignai подготовил вариант MiniMax-M2.5 для запуска на Apple Silicon. Это MoE-модель семейства MiniMax M2 с 230 млрд параметров, 256 экспертами и примерно 10 млрд активных параметров на токен; используется стандартное внимание и цепочка рассуждений. По заявлению карточки, модель прошла смешанную квантизацию JANG_2L и удаление отказов CRACK на уровне весов. Размер файлов — 63 ГБ. Формат JANG поддерживают MLX Studio и пакет jang-tools; карточка также рекомендует запускать модели JANG в vMLX. Модель предназначена для генерации ответов в диалоге, рассуждений и вызова инструментов. В карточке заявлены английский, китайский и корейский языки, а метаданные указывают контекст 196 608 токенов. Указанная лицензия — Apache-2.0. Карточка позиционирует модель как исследовательскую и образовательную и приводит результаты HarmBench, указывающие на существенно ослабленные защитные ограничения; эти результаты являются заявлениями автора карточки.

Ministral-3-3B-Reasoning-2512-GGUF — это набор квантованных файлов модели в формате GGUF для исходной модели Ministral-3-3B-Reasoning-2512, разработанной компанией Mistral AI. Квантование и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Формат GGUF удобен для запуска на локальных компьютерах и поддерживает варианты квантования с разной точностью — от 2 до 8 бит, что позволяет выбирать компромисс между качеством, потреблением памяти и скоростью работы. Из доступных данных известно, что это модель класса 3B с текстовой модальностью и специализацией на reasoning-задачах. Архитектура исходной модели, поддерживаемые языки, размер контекста, точные параметры вариантов квантования и показатели качества в README не указаны. Возможности и качество зависят от выбранного файла квантования и используемого программного обеспечения. Лицензия в README не указана.

Mini_Synatra_SFT-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, полученная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и maywell/Mini_Synatra_SFT. Она использует плотную архитектуру Mistral с причинной генерацией текста и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации ответов по инструкциям; максимальная длина контекста составляет 32 768 токенов. Модель подходит для чат-ботов и других сценариев, где нужно генерировать текст по запросу. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0. README не приводит результатов оценки качества или сведений о языковом покрытии, поэтому эти характеристики здесь не уточняются.

MiroThinker-v1.0-30B-GGUF — набор GGUF-квантизированных версий модели MiroThinker-v1.0-30B, разработанной miromind-ai и подготовленной квантизатором bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях и проектах на базе llama.cpp. Указан английский язык; поддержка других языков не заявлена. Это модель размером 30B параметров, представленная в форматах от BF16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации. Квантизация выполнена с использованием imatrix в llama.cpp, что позволяет выбирать между качеством и требованиями к памяти. Рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; Q4_K_M обозначен как вариант стандартного размера для большинства сценариев. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты. Сильными сторонами являются открытый формат GGUF, широкий выбор уровней сжатия и ориентация исходной модели на агентские и исследовательские задачи. Более компактные варианты требуют меньше оперативной памяти, но уступают высокоточным версиям по качеству. В README не указаны архитектура базовой модели, размер контекстного окна, мультимодальные возможности и результаты benchmark-тестов, поэтому эти характеристики нельзя оценить. Лицензия — MIT.

lvkaokao/mistral-7b-finetuned-orca-dpo-v2 — текстовая генеративная модель, дообученная на базе Mistral-7B-v0.1 с использованием открытого датасета Open-Orca/SlimOrca. Она предназначена для генерации ответов и диалоговых сценариев общего назначения. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Карточка указывает на дообучение на инструкционном датасете, поэтому модель подходит для ответов на запросы, следования инструкциям и ведения текстового диалога. В метаданных перечислены Mistral и text-generation; конкретные языковые возможности и отдельные гарантии качества карточка не уточняет.

MaziyarPanahi/Mistral-7B-Instruct-v0.2-GGUF — это набор файлов модели в формате GGUF для Mistral-7B-Instruct-v0.2, разработанной Mistral AI (mistralai) и преобразованной в квантизированный формат MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Базовая модель имеет 7 миллиардов параметров и относится к семейству Mistral Instruct. В репозитории доступны варианты квантизации с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством. Формат GGUF поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. README не содержит сведений о языках, размере контекста, точной архитектуре или результатах оценки качества. Основные преимущества — возможность локального запуска, широкий выбор уровней квантизации и поддержка GPU-ускорения в совместимых приложениях. Ограничения связаны с потерей части качества при более агрессивной квантизации, а также с необходимостью выбирать подходящий GGUF-файл и программную среду. Модель распространяется по лицензии Apache-2.0.

jpquiroga/Mistral_7B_slerp_merge_instruct_open_orca — объединённая модель на основе Mistral-7B-Instruct-v0.1 и Open-Orca/Mistral-7B-OpenOrca, созданная автором репозитория с помощью mergekit и метода SLERP. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Её можно применять в чат-ботах, помощниках и системах, которым нужны ответы на запросы на естественном языке. Заявленная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает результатов оценки качества или отдельных ограничений поведения, поэтому фактическую пригодность для конкретных задач следует проверять на собственных примерах.

Mistral-ORPO-β — дообученная KAIST AI версия Mistral-7B-v0.1, оптимизированная методом Odds Ratio Preference Optimization (ORPO). Модель обучена на 61 тысяче примеров очищенного набора предпочтений UltraFeedback от Argilla, без отдельного этапа предварительной настройки с учителем перед оптимизацией предпочтений. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций. В карточке приведены результаты AlpacaEval, MT-Bench и IFEval; они показывают качество на соответствующих тестах, но сами по себе не гарантируют результат на других задачах. Это плотная архитектура Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; в репозитории указаны веса safetensors. Основной язык в метаданных — английский. Модель распространяется по лицензии MIT. Она унаследовала ограничения базовой модели и обучающих данных; результаты могут быть неточными или смещёнными, поэтому ответы стоит проверять.

casperhansen/mixtral-instruct-awq — рабочая версия модели Mixtral Instruct с квантизацией AWQ, опубликованная Casper Hansen. Репозиторий предназначен для использования Mixtral Instruct в квантизированном формате; README не уточняет конкретные прикладные сценарии, поддерживаемые языки, размер контекста или модальности. Ключевая характеристика модели — применение AWQ-квантизации. README не содержит сведений о точной архитектуре, количестве параметров и экспертов, формате запуска, производительности или ограничениях качества после квантизации. Модель распространяется по лицензии Apache-2.0. Указано, что на 11 февраля 2024 года альтернативный репозиторий TheBloke/Mixtral-8x7B-Instruct-v0.1-AWQ не работал, поэтому рекомендуется использовать этот репозиторий.

tasksource/ModernBERT-large-nli — англоязычная модель tasksource, дообученная на задачах естественного логического вывода (NLI) на основе answerdotai/ModernBERT-large. Это плотный двунаправленный энкодер ModernBERT с 394,7 млн параметров, контекстом до 2048 токенов и классификационной головой; модель доступна в формате Safetensors и работает через Transformers. Модель предназначена для zero-shot-классификации по пользовательским меткам, определения отношений между посылкой и гипотезой (следование, противоречие, нейтральность), анализа тональности и рассуждений по текстам, включая длинные документы. В карточке приведены результаты на нескольких задачах GLUE и отмечены обучающие данные MNLI, ANLI и специализированные NLI-датасеты. Её можно использовать как основу для дальнейшего дообучения под конкретную задачу. Модель лучше всего подходит для английского языка. Она не генерирует свободный текст: результатом служат оценки или классы. Лицензия — Apache-2.0.