II.8Инженерия данных и аналитика

Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем minte1431. В README также упоминается проект OBLITERATUS, однако точный разработчик модификации явно не указан. Модель представляет собой вариант Qwen с изменённым поведением отказов, созданный методом abliteration: из весового пространства удалялись направления, связанные с отказами и защитными ответами, с последующей итеративной доработкой и смешиванием нескольких вариантов. Модель предназначена для генерации текста, программного кода, агентских сценариев и исследований поведения LLM в задачах red teaming и AI safety. Заявлена поддержка обычного и thinking-режима, а также форматов GGUF, Safetensors и MLX. Размер модели — 27B параметров; базовая архитектура — Qwen3.8. Сведения о языках и размере контекстного окна в README не указаны. Для инференса рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; системный промпт рекомендуется не задавать. Сильной стороной заявляется существенно сниженная склонность к отказам и отвлечённым лекциям по безопасности при сохранении большей части возможностей базовой модели. Для версии V3 указаны результаты MMLU 82,3% против 84,5% у исходной модели, а также успешное выполнение 20 из 20 проверенных задач генерации кода. Ограничениями являются некоторое падение качества относительно базовой Qwen3.8-27B, возможные циклы при генерации без repetition_penalty и необходимость аккуратной настройки параметров в агентских сценариях. Лицензия — Apache-2.0.

Rabbit-7B-DPO-Chat-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и viethq188/Rabbit-7B-DPO-Chat методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в формате чата; контекст — до 32 768 токенов. Модель подходит для диалоговых помощников и генерации ответов на пользовательские запросы. Файлы представлены в формате safetensors, лицензия — Apache-2.0. Карточка не описывает отдельные языковые специализации или результаты сравнительных оценок.

Speechless Mistral Dolphin Orca Platypus Samantha 7B — это языковая модель для генерации текста на основе архитектуры Mistral с примерно 7 млрд параметров. Исходную модель разработал Jiangwen Su, а данный репозиторий подготовлен TheBloke и содержит её квантизированные версии в формате GGUF. Модель обучалась на наборах данных Airoboros 2.2.1, OpenOrca, Open-Platypus и Samantha. Модель предназначена для текстового диалога, ответов на вопросы, следования инструкциям и других сценариев генерации текста. Также заявлена ориентация на задачи, связанные с кодом; в метаданных приведён результат pass@1 34,146% на HumanEval, однако он не подтверждён. Указан английский язык. Для взаимодействия используется шаблон ChatML с системным сообщением, запросом пользователя и ответом ассистента. GGUF-версии поддерживаются llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие, что делает модель пригодной для локального запуска на CPU и GPU. Доступны варианты квантизации от 2 до 8 бит: меньшая разрядность обычно снижает требования к памяти, но может ухудшать качество по сравнению с исходной моделью. Сведения о размере контекста и мультимодальных возможностях не указаны; модель предназначена для работы с текстом. Лицензия указана как Llama 2.

Synthia-7B-v3.0 — языковая модель Mistral-7B, дообученная Migtissera для следования инструкциям и ведения длинных диалогов. В обучении использовались подходы, вдохновлённые статьёй Orca-2, и датасет SynthIA-3.0 с обобщённым Tree-of-Thought-промптом и дополнительными системными контекстами. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации ответов на текстовые запросы, диалогов и развёрнутых рассуждений. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Модель может давать неточные или вводящие в заблуждение ответы, а также генерировать предвзятый, оскорбительный или иной нежелательный контент; автор характеризует её как uncensored. Важную информацию следует перепроверять.

TriMistral-7B-TIES — объединённая модель для генерации текста и диалогов, созданная Muhammad2003 методом TIES с помощью LazyMergekit. В слиянии использованы NousResearch/Hermes-2-Pro-Mistral-7B и instructlab/merlinite-7b-lab; конфигурация также указывает HuggingFaceH4/zephyr-7b-beta как базовую модель. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Карточка приводит результаты бенчмарков AI2 Reasoning Challenge и HellaSwag, но не описывает специализированные сценарии или гарантии качества. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0.

jungler9/vuse — текстовая разговорная модель для генерации ответов и рассуждений. В README она представлена как Ling-3.0-tiny, компактная гибридная MoE-модель для локального запуска и ресурсоограниченных сред. Однако карточка противоречит метаданным: README заявляет 7,9 млрд параметров, из которых активны 1,3 млрд на токен, а метаданные указывают 977,5 млн параметров и архитектуру Bailing MoE V3. Поэтому эти характеристики нельзя однозначно отнести к опубликованному репозиторию. README описывает чередование слоёв KDA и MLA и разреженную MoE-сеть с 128 экспертами, а также режимы быстрого ответа и пошагового рассуждения. Среди целевых сценариев названы агентные задачи, программирование, математика, научные рассуждения и следование инструкциям. Метаданные указывают контекст 131 072 токена, формат safetensors и возможность чата; заявленная в README поддержка FP8 и INT4 расходится с форматом репозитория. Модель опубликована под лицензией MIT. Из-за несоответствия README и метаданных размер, архитектуру и форматы весов следует считать неподтверждёнными; README также не перечисляет языки модели.

WestKunai-Hermes-long-128k-test-7b — слитая языковая модель на архитектуре Mistral, созданная автором seyf1elislam с помощью mergekit из WestKunai-Hermes-7b и NousResearch/Yarn-Mistral-7b-128k. Модель содержит 7,1 млрд параметров и предназначена для генерации текста.

Monero/WizardLM-30B-Uncensored-Guanaco-SuperCOT-30b — языковая модель для генерации текста на основе архитектуры LLaMA, объединяющая WizardLM 30B, Guanaco и SuperCOT. В метаданных указаны 32,3 млрд параметров, контекст до 2048 токенов и форматы PyTorch и safetensors; README описывает обучение на инструкциях, данных с цепочками рассуждений и примерах кода. Модель предназначена для диалогов по инструкциям, продолжения многоходового общения, объяснения кода и ролевых сценариев. В README заявлена поддержка английского, упрощённого и традиционного китайского, японского и немецкого языков. Модель может генерировать недостоверные фактические ответы, поэтому для задач, требующих точности, следует предоставлять проверяемые источники. Указана лицензия «other» без уточнения условий.

Blurstral-7b — слитая языковая модель семейства Mistral, опубликованная пользователем liminerity. Она объединяет Mistral-7B-v0.1 и Blur-7b-slerp-v0.1 методом SLERP с помощью LazyMergekit; в метаданных базовой моделью указана OpenPipe/mistral-ft-optimized-1218. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и решения задач на рассуждение и продолжение текста. В карточке приведены результаты Open LLM Leaderboard, в том числе по AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

DeepSeek-V4-Flash-0731-JANG-CRACK — дообученная и аблированная версия DeepSeek-V4-Flash-0731 от dealignai. Это языковая модель на архитектуре DeepSeek V4 с 10,7 млрд параметров и MoE-компонентами; опубликованный вариант использует смешанную квантизацию JANG affine и занимает около 95 ГБ. Модель рассчитана на генерацию текста, диалог, рассуждения и написание кода, а также на сценарии, где требуется отвечать без обычных отказов на опасные запросы. Модель поддерживает английский и китайский языки. В README заявлена длина контекста до 1 048 576 токенов с расширением yarn RoPE, однако такая длина не проверялась в тестах этой сборки: оценки проводились на коротких запросах. Для запуска автор рекомендует vMLX на Apple Silicon примерно с 128 ГБ объединённой памяти; также упомянуты vMLX и jang_tools как варианты запуска. В тестах README модель показала 71,84% на MMLU и 90% pass@2 на HumanEval, но результаты приведены разработчиком и не являются независимой оценкой. Ключевое свойство CRACK — снятие отказов на вредоносные запросы: README сообщает о выполнении всех 320 заданий HarmBench, включая запросы по киберпреступлениям и причинению вреда. Это делает модель пригодной для контролируемого исследования поведения моделей, но опасной для неограниченного использования. Известны редкие опечатки; генерация длинного контекста в этой сборке не стресс-тестировалась. Лицензия — MIT.

FineLlama-3.1-8B-fiftycore-V1 — языковая модель компании fiftycore, созданная дообучением unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit с помощью Unsloth и библиотеки Hugging Face TRL. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового взаимодействия; также заявлен интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Для неё указано контекстное окно до 131 072 токенов, а среди языковых меток карточки указан английский. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0.

unsloth/gemma-3n-E2B-it-litert-preview-GGUF — GGUF-версия инструкционной модели Gemma 3n E2B, основанной на google/gemma-3n-E2B-it-litert-preview. Модель разработана Google DeepMind, а данный вариант подготовлен Unsloth. Она предназначена для эффективного запуска на устройствах с ограниченными ресурсами, а также для диалогов, ответов на вопросы и суммаризации документов. Модель поддерживает мультимодальный ввод текста, изображений, видео и аудио с генерацией текстовых ответов, однако в README для этой конкретной версии указано, что в настоящее время поддерживается только текст. Эффективный размер составляет 2B параметров благодаря технологии выборочной активации параметров; общий размер параметров не указан. Максимальная длина контекста — 32K токенов. Заявлена языковая поддержка английского языка, при этом семейство Gemma 3n обучалось на данных более чем 140 разговорных языков. К сильным сторонам относятся компактность, ориентированность на малоресурсные устройства и формат GGUF, удобный для локального запуска. Ограничения включают текущую поддержку только текстовых входов в этой версии и отсутствие подробных сведений о производительности, аппаратных требованиях и результатах оценки. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use Google.

GPT4All-J — языковая модель Nomic AI для генерации текста в стиле ассистента, дообученная на базе GPT-J на курируемом наборе диалогов и других взаимодействий с ассистентом. В обучающие данные входят задачи на рассуждение, многоходовые диалоги, код, стихи, песни и рассказы. Карточка описывает несколько версий модели; загрузка без указания revision использует v1.0. Модель предназначена для диалоговых ответов и генерации текста по запросу, включая помощь с задачами, написание историй и стихов, а также генерацию кода. Это плотная авторегрессионная архитектура GPT-J с контекстом до 2048 токенов; указанный основной язык — английский. Модель принимает текст и генерирует текст. Модель распространяется под лицензией Apache-2.0. Качество ответов зависит от запроса и версии обучающих данных; карточка не даёт гарантий точности фактов или надёжности сгенерированного кода.

Grey-12b — языковая модель AIXON Lab на архитектуре Transformer/Mistral, созданная слиянием нескольких моделей методом della_linear на основе aixonlab/Aether-12b. Веса модели содержат около 12,1 млрд параметров, формат — safetensors; в README указан тип float16. Модель предназначена для генерации текста, ответов на вопросы и анализа. Основной язык — английский; README допускает поддержку других языков, но не уточняет их перечень. Контекстное окно составляет до 1 024 000 токенов по метаданным. Модель распространяется по лицензии Apache-2.0. Метрики качества для Grey-12b не представлены. Возможны смещения, унаследованные от обучающих данных и объединённых моделей, поэтому ответы следует проверять.

Карточка модели OpenPipe/Hermes-2-Theta-Llama-3-8B-32k на Hugging Face совпадает с карточкой NousResearch/Hermes-2-Theta-Llama-3-8B, поэтому описание составлено по ней. Hermes-2 Θ (Theta) — экспериментальная объединённая и дополнительно обученная модель Nous Research, созданная совместно с Charles Goddard из Arcee. В основе лежит Hermes-2-Pro-Llama-3-8B: веса объединены с Meta Llama 3 Instruct, после чего модель дополнительно обучали с помощью RLHF. Это плотная причинно-языковая модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена. Модель предназначена для диалогов и выполнения инструкций на английском языке. Она поддерживает формат ChatML, многоходовое общение, вызов функций и генерацию структурированных ответов в JSON. Репозиторий содержит веса safetensors; для запуска описан пример с Transformers. В карточке приведены результаты оценок на нескольких наборах тестов, но они не гарантируют качество в конкретных сценариях. Модель распространяется по лицензии Apache-2.0. Практические ограничения: карточка называет её экспериментальной; вызовы инструментов нужно самостоятельно разбирать и исполнять в коде приложения. Указанная в README рекомендация LM Studio относится к квантованным версиям и не обещает поддержку вызова функций в этом интерфейсе.

Huihui-Ornith-1.0-35B-abliterated-MTP-UD-APEX-GGUF — это квантизированная GGUF-версия мультимодальной модели Huihui-Ornith-1.0-35B, разработанной huihui-ai и дополнительно модифицированной автором gbuzhf. Модель основана на архитектуре Qwen3.5 MoE с 256 экспертами и активирует 8 экспертов на токен. В неё встроена MTP-голова для speculative decoding, а также поддержка обработки изображений через отдельный vision projector. Для работы с изображениями требуется файл Huihui-Ornith-1.0-35B-abliterated-mmproj-F16.gguf; без него модель работает только с текстом. Доступны восемь вариантов квантизации объёмом от 14,37 до 30,21 ГБ, включая MTP-UD-Q6_K, MTP-UD-Q5_K_S, MTP-UD-Q4_K_XL и варианты MTP-APEX. Контекст в приведённом примере запуска настроен на 8192 токена. MTP-голова зафиксирована в формате Q8_0. В измерении на смеси запросов для программирования и редактирования текста средняя доля принятых черновых токенов составила 86,4%, а скорость — 44,1 токена в секунду, однако эти показатели относятся только к указанному тестовому стенду и не являются универсальными. Главная особенность модели — abliterated-версия, ориентированная на снижение или устранение отказов, связанных с исходными ограничениями поведения. Это может быть полезно для экспериментов и сценариев, где требуется более свободная генерация, но abliterating намеренно уводит веса от обученного оптимума и может ухудшать качество. Кроме того, imatrix была рассчитана на неabliterated-модели, поэтому распределение точности квантизации и описание маршрутизации экспертов могут быть не полностью оптимальными. Лицензия — MIT.

Jais-30b-chat-v3 — диалоговая языковая модель, разработанная Core42 (Inception) совместно с Cerebras Systems и дообученная на парах запросов и ответов на арабском и английском языках. Она предназначена для чат-ассистентов, клиентской поддержки, ответов на вопросы, генерации кода и рассуждений по тексту. Модель использует декодерную архитектуру Transformer, близкую к GPT-3, с активацией SwiGLU и позиционными представлениями ALiBi. README указывает контекст до 8192 токенов. Модель принимает текст и генерирует текст; для загрузки требуется пользовательский класс модели и параметр trust_remote_code=True. Модель оптимизирована для современного стандартного арабского и английского языков. Среди ограничений — возможные ошибки, предвзятость и неподходящие ответы; качество на других языках и диалектах не гарантируется. Не следует использовать её для высокорисковых решений без контроля человека или для работы с чувствительной информацией. Лицензия Apache 2.0.

kellemar-DPO-Orca-Distilled-7B-SLERP — текстовая авторегрессионная модель, разработанная decruz и дообученная на базе mlabonne/Marcoro14-7B-slerp с использованием набора argilla/distilabel-intel-orca-dpo-pairs. Она предназначена для базового инференса и общих языковых задач, включая генерацию ответов, рассуждения и работу в диалоговых приложениях. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты бенчмарков OpenLLM и Nous на январь 2024 года; они характеризуют оценку автора и могут зависеть от методики тестирования. Для модели указана лицензия CC BY-NC 4.0, поэтому её использование ограничено некоммерческими условиями этой лицензии.

Kunoichi-DPO-7B — плотная авторегрессионная языковая модель семейства Mistral на 7,1 млрд параметров, созданная SanjiWatsuki. Это DPO-дообучение Kunoichi-7B на парах предпочтений Intel Orca с шаблоном Alpaca; модель предназначена для общего использования и принимает инструкции, выдавая текстовые ответы. В карточке отмечены улучшения следования инструкциям и рассуждений по сравнению с Kunoichi-7B, а также возможное снижение качества ролевых диалогов из-за выравнивания на данных Orca. Заявленное окно контекста — до 8192 токенов. Экспериментально его можно расширить до 16 тысяч токенов с NTK RoPE alpha 2.6. README приводит результаты нескольких бенчмарков и сообщает, что тестирование ещё продолжается, поэтому оценки следует считать предварительными. Репозиторий содержит веса в формате safetensors; лицензия CC BY-NC 4.0 запрещает коммерческое использование без отдельного разрешения правообладателя.

Kunoichi-DPO-v2-Instruct-32k-7B — языковая модель, созданная автором репозитория слиянием моделей через mergekit. В основе лежит alpindale/Mistral-7B-v0.2-hf; в слияние также вошли mistralai/Mistral-7B-Instruct-v0.2 и SanjiWatsuki/Kunoichi-DPO-v2-7B. Использован метод DARE TIES, итоговые веса представлены в формате bfloat16. Модель на архитектуре Mistral с 7,1 млрд параметров предназначена для генерации текста и ответов на инструкции. Заявленная длина контекста — до 32 768 токенов; включение Instruct-модели могло изменить поведение исходной Kunoichi-DPO-v2. Данных о целевых языках и специальных прикладных областях в карточке нет. Лицензия в предоставленных данных не указана.

LFM2-700M — компактная языковая модель Liquid AI для локального и периферийного запуска на смартфонах, ноутбуках и других устройствах с CPU, GPU или NPU. Она содержит около 654 млн параметров по метаданным и построена на гибридной плотной архитектуре LFM2: 10 блоков коротких свёрток с двойными вентильными механизмами и 6 блоков внимания GQA. Модель предназначена для диалогов, агентных сценариев, извлечения данных, RAG и генерации творческих текстов; поддерживает шаблон чата в стиле ChatML и вызов инструментов. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. В карточке указан контекст 32 768 токенов, тогда как метаданные каталога сообщают native context в 128 000 токенов. Liquid AI описывает ускорение обучения и вывода и повышенную эффективность по памяти относительно предыдущих моделей и некоторых сопоставимых моделей; эти заявления относятся к оценкам разработчика. Для узких сценариев рекомендуется дообучение. Модель не рекомендуется для задач с высокими требованиями к знаниям или навыкам программирования. Лицензия в метаданных обозначена как other; конкретные условия следует проверить в репозитории модели.

Карточка модели Yukang/Llama-2-13b-longlora-32k-ft на Hugging Face совпадает с карточкой Yukang/Llama-2-7b-longlora-32k-ft, поэтому описание составлено по ней. Yukang/Llama-2-7b-longlora-32k-ft — дообученная полная версия LLaMA 2 на 7 млрд параметров, созданная авторами проекта LongLoRA для работы с длинным контекстом. Модель предназначена для генерации текста и обработки запросов, в которых важно учитывать большой объём предшествующего текста, например длинные документы. Контекст этой версии расширен до 32 768 токенов. В README описан подход LongLoRA: для эффективного расширения контекста при дообучении используется разреженное локальное внимание, при этом во время инференса сохраняется плотное глобальное внимание. Метаданные указывают нативную длину контекста 4 096 токенов, поэтому заявленное в README расширение до 32 768 токенов следует отличать от этого значения. Модель использует архитектуру LlamaForCausalLM и распространяется в формате PyTorch. Модель подходит для суммаризации и вопросов по длинным текстам, но README не приводит отдельные оценки качества именно этого чекпойнта. Условия лицензии в предоставленных данных не указаны.

Llama-3.1-Nemotron-Nano-4B-v1.1-bf16 — версия компактной языковой модели NVIDIA, опубликованная mlx-community и преобразованная из nvidia/Llama-3.1-Nemotron-Nano-4B-v1.1 для запуска с библиотекой MLX. Это плотная авторегрессионная модель семейства Llama с 3,9 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалоговой генерации текста. Базовая модель NVIDIA ориентирована на рассуждения, код, математику, RAG и вызов инструментов; эти сценарии могут быть полезны и для данной версии, но README подтверждает только конверсию и не приводит отдельной оценки её качества или результатов тестирования. В карточке заявлена поддержка английского языка. Репозиторий содержит веса safetensors в формате для MLX, а не отдельную квантизацию. Лицензия указана как other, поэтому перед использованием следует свериться с условиями лицензирования исходной модели NVIDIA и репозитория.

Llama-3.1-Tulu-3-405B-SFT — большая плотная языковая модель с архитектурой Llama, разработанная Allen Institute for AI (AI2) и дообученная методом supervised fine-tuning на смеси общедоступных, синтетических и созданных людьми данных. Она основана на meta-llama/Llama-3.1-405B и содержит 403,7 млрд параметров; карточка указывает контекст до 131 072 токенов и библиотеку Transformers. Модель предназначена для диалогов и следования инструкциям, а также для решения задач рассуждения и ответов на вопросы, включая математические задачи и вычисления. Основной язык — английский. Веса доступны в формате PyTorch; лицензия — Llama 3.1 Community License Agreement. Модель имеет ограниченное обучение безопасности и может выдавать проблемные ответы, особенно при соответствующих запросах; фильтрация ответов не встроена. Для развёртывания требуется значительная вычислительная память из-за размера модели.

Llama-3-8B-Magpie-Align-SFT-v0.1 — дообученная командой Magpie-Align языковая модель на архитектуре Llama 3 с 7,5 млрд параметров. Она обучена методом supervised fine-tuning на наборе Magpie-Pro-MT-300K-v0.1 и предназначена для генерации текста в ответ на инструкции и ведения диалога; для лучшей работы следует использовать официальный шаблон чата Llama 3. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В README приведены результаты сравнений на Alpaca Eval 2 и Arena Hard; авторы сообщают о сопоставимом с Llama-3-8B-Instruct качестве на некоторых задачах. Для использования требуется соблюдать лицензию Meta Llama 3 Community License. Результаты зависят от задачи и формата диалога; универсальная эквивалентность модели Llama-3-8B-Instruct не заявлена.

QuantFactory/Llama-3-8B-Magpie-Pro-SFT-v0.1-GGUF — квантизированная версия языковой модели Llama-3-8B-Magpie-Pro-SFT-v0.1, созданная с помощью llama.cpp. Исходная модель разработана проектом Magpie-Align на базе Meta Llama 3 8B и дообучена методом supervised fine-tuning на датасете Magpie-Pro-300K-Filtered, содержащем отфильтрованные синтетические инструкции и ответы. Проект Magpie связан с исследователями Zhangchen Xu, Fengqing Jiang, Luyao Niu, Yuntian Deng, Radha Poovendran, Yejin Choi и Bill Yuchen Lin. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и ответы на пользовательские запросы. Это авторегрессионная текстовая модель с архитектурой LlamaForCausalLM; размер базовой модели — 8 млрд параметров. В README указана длина обучающей последовательности 8192 токена, однако точный контекстный размер готовой GGUF-версии не уточнён. Поддерживается текстовая модальность, список языков не указан. Для наилучшей работы следует использовать официальный chat template Llama 3. По заявленным результатам модель достигает показателей, сопоставимых с Llama-3-8B-Instruct при использовании только SFT: Alpaca Eval 2 — 25,08 LC и 29,47 WR, Arena Hard — 18,9. Ограничения включают отсутствие подробных сведений о языковом покрытии, точном формате и уровне квантизации, а также неполное описание поведения за пределами приведённых тестов. Использование регулируется Meta Llama 3 Community License.

LLaMAntino-3-ANITA-8B-Inst-DPO-ITA — диалоговая модель семейства LLaMAntino, разработанная Марко Полиньяно и исследовательской группой SWAP Университета Бари Альдо Моро. Это дообученная по инструкциям версия Meta-Llama-3-8B-Instruct: модель прошла supervised fine-tuning с QLoRA и выравнивание предпочтений методом DPO. Модель предназначена для ответов на запросы и генерации текста, в том числе кода, с акцентом на итальянский язык; также поддерживает английский. Её можно применять как италоязычного ассистента и как основу для дальнейшей настройки под специализированные задачи на итальянском. Архитектура — плотная Llama 3 с 7,5 млрд параметров, контекст — 8192 токена; для работы предусмотрена библиотека Transformers. Модель принимает текст и генерирует текст. Карточка указывает лицензию llama3; применение должно соответствовать её условиям и ограничениям лицензии Meta Llama 3. Качество ответов может зависеть от языка и конкретной задачи; специализированные сценарии могут потребовать дополнительной настройки.

MaziyarPanahi/Mini_DPO_test02-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста в ответ на инструкции и диалоговые запросы. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и Minirecord/Mini_DPO_test02. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов; репозиторий содержит веса в формате safetensors с точностью bfloat16. Модель принимает текст и генерирует текст. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о результатах оценок качества или специализированных ограничениях, поэтому качество ответов следует оценивать на задачах конкретного применения.

Mirai Nova — дообученная LocalAI модель на архитектуре Llama 3, созданная для генерации текста и диалогов. Разработчики ориентируют её на вызов функций и отмечают усиленные способности к рассуждению; модель также подходит для общих текстовых задач. В LocalAI она рассчитана на работу с вызовом функций через грамматики. Чекпойнт содержит 7,5 млрд параметров, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Сведений о лицензии в использованных данных нет.

Карточка модели NostraEmpire/mirror-qwq-32b на Hugging Face совпадает с карточкой Qwen/QwQ-32B, поэтому описание составлено по ней. QwQ-32B — reasoning-модель семейства Qwen от команды Qwen, основанная на Qwen2.5-32B и дообученная с supervised fine-tuning и reinforcement learning. Это плотная причинная языковая модель на 32 млрд параметров для генерации текста и диалогов, рассчитанная на сложные задачи, где полезны рассуждения, в частности решение математических задач и ответы на трудные вопросы. Поддерживает интерфейс вызова инструментов. Архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и смещение в QKV attention; в модели 64 слоя и grouped-query attention с 40 головами Q и 8 головами KV. README заявляет контекст до 131 072 токенов, тогда как метаданные указывают нативный контекст 40 960 токенов. Для входов длиннее 8 192 токенов README рекомендует включать YaRN; статическое масштабирование в vLLM может снижать качество на коротких текстах. Модель описана как конкурентоспособная с другими reasoning-системами, но конкретные результаты оценки в карточке не приведены. Модель принимает текст и генерирует текст. Карточка указывает английский язык. Для снижения повторов README рекомендует не использовать жадное декодирование и настраивать параметры sampling; при повышении presence penalty возможны смешение языков и небольшое снижение качества. Лицензия — Apache-2.0.