II.6Документация и сопровождение разработки

TheTop-5x7B-Instruct-D-v0.1 — объединённая MaziyarPanahi модель на основе пяти инструкционно настроенных языковых моделей семейства Mistral с применением метода DARE. Она предназначена для генерации текста и ответов на запросы в диалоговом формате. Модель использует архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты оценивания на задачах рассуждения AI2 Reasoning Challenge и HellaSwag. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README не сообщает поддерживаемые языки или специализированные области применения.

LongWriter-Zero-32B-GGUF — квантизированная версия языковой модели LongWriter-Zero-32B, разработанной THU-KEG и подготовленной квантизатором bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста, решения общих задач и написания развернутых материалов с поддержкой длинного контекста; заявлены английский и китайский языки. В метаданных также указано обучение с подкреплением и использование набора данных THU-KEG/LongWriter-Zero-RLData. Модель имеет размер 32B параметров и доступна в вариантах от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Это позволяет выбирать между качеством, размером файла и требованиями к памяти; рекомендуемыми названы некоторые варианты Q6, Q5 и Q4. Модель можно запускать локально через LM Studio, llama.cpp и совместимые проекты. Указанный формат и набор квантизаций являются сильной стороной для локального использования, однако README не содержит точных сведений о размере контекстного окна, архитектуре исходной модели, мультимодальности или результатах сравнительных оценок. Распространение заявлено по лицензии Apache-2.0.

TigerBot 70B Chat v6 — диалоговая языковая модель семейства Llama, разработанная TigerResearch. Она предназначена для генерации ответов в чате и других задач продолжения текста. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69 млрд параметров и рассчитана на контекст до 8192 токенов. Поддерживаются китайский и английский языки; файлы весов представлены в формате safetensors. Модель подходит для диалоговых интерфейсов и генерации текста по запросу. Для запуска автор предлагает использовать Transformers или код репозитория TigerBot. Лицензия Apache-2.0 допускает использование на её условиях. Карточка не приводит конкретных оценок качества или ограничений, поэтому применимость к узким задачам следует проверять отдельно.

tiledfloor-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.2 и Ansoi/tiledfloor методом SLERP. Она предназначена для генерации текста и ответов на инструкции в формате чата. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специализированные области применения или дополнительные языки.

Tensoic/TinyLlama-1.1B-3T-openhermes — инструкционно дообученная версия TinyLlama, созданная на датасете teknium/openhermes. Это плотная авторегрессионная языковая модель семейства Llama с примерно 1,1 млрд параметров, предназначенная для генерации текста по запросу и выполнения инструкций. В метаданных указан контекст до 4096 токенов и формат PyTorch. Карточка сообщает о значении loss 1,3647 и о настройке параметров оптимизации после резкого роста loss во время обучения. Модель опубликована по лицензии, указанной в метаданных Hugging Face.

giocorte/totem-slm-sft — дообученная языковая модель, опубликованная giocorte на базе unsloth/qwen3-4b-unsloth-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; метаданные также отмечают интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст длиной до 40 960 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не описывает специализацию дообучения, обучающие данные или сравнительные результаты, поэтому нельзя определить, в каких прикладных сценариях модель превосходит базовую.

Tralalabs_Pythia-6.9B-Instruct-v1-Merged-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Pythia-6.9B-Instruct-v1-Merged, разработанной Tralalabs и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, работы в качестве чат-ассистента и агентских приложений. Доступны варианты от BF16 до различных уровней квантизации, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. Модель поддерживается инструментами llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими совместимыми приложениями. Модель обучалась с использованием наборов данных OpenAssistant Guanaco и Tulu v2 SFT Mixture. Заявлена поддержка английского, испанского, немецкого, русского, японского, французского, польского, вьетнамского, китайского, венгерского, корейского, каталонского и баскского языков. Точная архитектура, размер контекстного окна и формат инструкций в README не указаны; для выбора шаблона промпта рекомендуется обратиться к странице исходной модели. Сильной стороной является широкий выбор квантизаций, включая рекомендуемые варианты Q4_K_M, Q5_K_M и Q6_K, позволяющие запускать модель локально при разных аппаратных ресурсах. Ограничения включают отсутствие описания точных характеристик, бенчмарков и prompt format, а также возможное снижение качества в наиболее компактных вариантах. Распространение указано по лицензии Apache-2.0.

TranslateGemma-4B-IT — модель Google Translate из семейства компактных моделей перевода TranslateGemma, созданная на основе Gemma 3 и дообученная на параллельных текстах. Она предназначена для перевода между 55 языками, в том числе для извлечения текста из изображения с последующим переводом. Модель принимает текст или изображение; для изображений указано разрешение 896 × 896 пикселей. Контекст составляет 2 тысячи токенов, результатом является переведённый текст. Компактный размер позволяет запускать модель на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Для работы предусмотрен шаблон диалога Gemma, поддерживаемый Transformers. Среди ограничений — возможные ошибки на неоднозначных выражениях, тонких языковых нюансах и сложных запросах, а также влияние пробелов и предвзятости обучающих данных. Лицензия — Gemma; применяются условия использования Gemma.

Trillama-8B — языковая модель на архитектуре Llama 3, разработанная Senseable и дообученная на базе Llama-3-8B. Она предназначена для генерации текста в диалоге и ответов на запросы, с акцентом разработчика на логическое мышление и рассуждения. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов; в метаданных указан английский язык. Модель подходит для диалоговых помощников, объяснения понятий и задач, требующих рассуждений. Карточка демонстрирует запуск через Transformers с точностью bfloat16. Лицензия указана как Llama 2 License; качество рассуждений и результаты оценивания в карточке не приведены.

TroyDoesAGI — экспериментальная плотная языковая модель на архитектуре Mistral с 15 млрд параметров и контекстом до 32 768 токенов, созданная независимым разработчиком TroyDoesAI. Модель предназначена для генерации текста по инструкциям и ответов с опорой на предоставленный контекст, в том числе для сценариев RAG. В карточке описан специальный формат контекстного запроса с разделителями для входных блоков, метаданных и инструкций. Обучение включало набор инструкций по Python, вручную подготовленные графы знаний и данные персонального помощника; автор экспериментировал с прореживанием, абляциями и учебными последовательностями. Модель распространяется в формате safetensors по лицензии CC BY-ND 4.0. Автор сообщает о хорошей привязке к контексту и следовании инструкциям, но это не сопровождается формальной оценкой; результат зависит от формата запроса и качества контекста.

yunconglong/Truthful_DPO_TomGrc_FusionNet_7Bx2_MoE_13B — языковая модель Yunconglong, дообученная методом Direct Preference Optimization (DPO) на наборе предпочтений jondurbin/truthy-dpo-v0.1 на основе TomGrc/FusionNet_7Bx2_MoE_14B. Модель предназначена для генерации текста и диалоговых сценариев, где важны ответы, согласованные с предпочтениями обучающих данных. Архитектура — Mixtral-подобная авторегрессионная модель с MoE; в метаданных указан размер 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса Safetensors. Карточка не сообщает о поддерживаемых языках или специальных мультимодальных возможностях. Модель распространяется по лицензии MIT. DPO-настройка ориентирована на правдивые ответы, однако сама по себе не гарантирует фактическую точность; качество может зависеть от запроса и данных обучения.

Tulu V2.5 DPO 13B SHP-2 — англоязычная чат-модель-помощник, разработанная Allen Institute for AI (AI2). Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе Tulu 2 13B с помощью DPO на наборе предпочтений SHP-2. Она предназначена для диалогов, выполнения инструкций и генерации текста; для модели указан контекст длиной 4096 токенов. Модель принимает текст и генерирует текст. Для диалогов используется шаблон чата, встроенный в токенизатор; соблюдение формата сообщений и завершающего перевода строки влияет на качество генерации. Модель ориентирована на английский язык и распространяется по лицензии Apache 2.0. Модель может выдавать проблемные ответы, в том числе по запросу: на этапе RLHF её не настраивали на безопасные завершения, а фильтрация ответов во время использования не предусмотрена. Качество ответов также зависит от соблюдения формата ввода.

TwinLlama-3.1-8B-DPO — языковая модель семейства Llama, разработанная mlabonne и дообученная на базе mlabonne/TwinLlama-3.1-8B методом DPO. Модель предназначена для генерации текста; при обучении использовались Unsloth и библиотека Hugging Face TRL. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Заявленная длина контекста — 131 072 токена. В репозитории используются веса safetensors; лицензия — Apache-2.0. Доступные сведения не описывают специализированные прикладные области или отдельные возможности помимо генерации текста.

ehristoforu/ud-14b — объединённая автором модель для генерации текста и диалогового общения. Она создана методом TIES с помощью mergekit на основе Qwen/Qwen2.5-32B; в объединение также вошли Qwen/QwQ-32B-Preview и unsloth/DeepSeek-R1-Distill-Qwen-32B. Архитектура — плотная Qwen2 с причинной языковой моделью, размер — 32 млрд параметров, контекст — до 131 072 токенов. Модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для генерации ответов в чате и обработки длинных текстовых запросов. В метаданных отмечен интерфейс вызова инструментов, однако README не описывает его применение или проверенные сценарии. Языки и специализированные области применения в предоставленных данных не обозначены. Сведения о лицензии отсутствуют в предоставленных источниках.

UltraLM-65b — диалоговая языковая модель, разработанная OpenBMB и дообученная на UltraChat на основе LLaMA-65b. Это плотная авторегрессионная модель семейства LLaMA с 65 млрд параметров; репозиторий содержит delta-веса, поэтому для запуска их нужно объединить с весами базовой LLaMA-65b. Модель принимает текстовые сообщения и предназначена для многоходового общения по шаблону User/Assistant. Она подходит для генерации ответов в диалоге, следования инструкциям и создания разговорных приложений. Максимальная длина контекста — 2048 токенов. Карточка указывает, что модель использует лицензию LLaMA; применяйте её в соответствии с условиями этой лицензии.

Unhinged-Author-70B — объединённая языковая модель, созданная FiditeNemini с помощью mergekit и метода TIES на основе Steelskull/L3.3-MS-Nevoria-70b с включением huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста; заявленный контекст составляет до 131 072 токенов. Модель можно применять для диалогов, развёрнутых ответов, рассуждений и творческого письма. Репозиторий предоставляет веса в формате safetensors; метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. README не приводит оценок качества или подробных рекомендаций по использованию. Лицензия в предоставленных данных не указана.

Uraion Forge 2B MLX — дообученная Uraion Labs модель на базе openbmb/MiniCPM5-2B, подготовленная для запуска с библиотекой MLX на компьютерах Apple Silicon. Это компактная причинная языковая модель архитектуры LlamaForCausalLM с 2,2 млрд параметров и контекстом до 131 072 токенов. Модель предназначена прежде всего для диалогов, рассуждений, генерации кода и многошаговых сценариев с вызовом инструментов; README описывает режимы с включённым и отключённым рассуждением. Карточка заявляет оптимизацию для локального выполнения на чипах Apple M1–M6 и приводит варианты квантования 4 и 8 бит, а также результаты собственных проверок агентных рабочих процессов, кода и извлечения данных из длинного контекста. Эти показатели относятся к тестам и оборудованию, описанным разработчиком, и не гарантируют такую же скорость или точность в других условиях. Указанный в метаданных формат файлов — safetensors; библиотека — MLX. Лицензия — Apache-2.0. Язык карточки и языковой тег указывают на английский; поддержка других языков в предоставленных данных не подтверждена.

UwU-1 — объединённая языковая модель на 32 млрд параметров, опубликованная пользователем estrogen. Она создана методом TIES с помощью mergekit на основе Qwen/Qwen2.5-32B и включает веса EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 и Qwen/QwQ-32B-Preview. Модель использует архитектуру Qwen2 для генерации текста и диалогов, поддерживает контекст до 131 072 токенов и доступна в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка указывает на интерфейс вызова инструментов, однако не описывает его настройку или качество. Лицензия в предоставленных данных не указана.

UwU-7B-Instruct — дообученная модель для генерации текста, разработанная автором репозитория qingy2024. Она создана на базе Qwen/Qwen2.5-7B и полностью дообучена на наборе FineQwQ-142k. Автор позиционирует её как универсальную модель для рассуждений и диалогового использования. Модель использует плотную архитектуру Qwen2, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Она принимает текст и генерирует текст; в метаданных заявлены русский, английский, китайский и другие языки. Лицензия — Apache-2.0. README не приводит количественных оценок качества или подробных результатов тестирования.

FourOhFour/Vapor_v2_7B — дообученная модель генерации текста на базе Qwen/Qwen2.5-7B, разработанная автором репозитория FourOhFour. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на диалоговое применение и генерацию текста. Заявленное контекстное окно составляет 131 072 токена; поддерживаются английский, русский, китайский и ряд других языков. В README приведён результат оценки на тестовом наборе: loss 0,7923. Данные обучения и конкретные целевые сценарии не раскрыты, поэтому качество для отдельных задач по этому показателю определить нельзя. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Versatile-1.5b-v0.3 — дообученная языковая модель tarunnokwal на архитектуре Qwen2 с 1,5 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке указано обучение с использованием Unsloth и библиотеки Hugging Face TRL. Модель основана на tarunnokwal/VST-LM_Versatile-1.5B и распространяется по лицензии Apache-2.0. Карточка указывает английский язык; сведений о специализации в конкретной предметной области и об оценке качества нет.

VicUnlocked-30B-LoRA-HF — версия модели VicUnLocked 30B, опубликованная TheBloke. Это плотная авторегрессионная модель семейства LLaMA с 32,3 млрд параметров; репозиторий содержит веса PyTorch в формате float16. README описывает её как LoRA, объединённую с исходной LLaMA 30B, и указывает набор данных ShareGPT Vicuna Unfiltered. Обучение завершено за одну эпоху. Модель предназначена для генерации текста в диалоговом и инструктивном сценариях. В README приведён пример запуска с шаблоном Vicuna v1.1. Контекст составляет 2048 токенов. Указана лицензия «other»; конкретные условия использования в доступных данных не раскрыты.

IlyaGusev собрал эту русско-английскую диалоговую модель с помощью mergekit, объединив методом SLERP модели vikhr_nemo_orpo_dostoevsky_12b и Vikhr-Nemo-12B-Instruct-R-21-09-24. Это плотная Mistral-модель с 12,1 млрд параметров, предназначенная для генерации текста и общения в чате. Модель можно применять для ответов на вопросы, подготовки текстов и диалога на русском и английском языках. В объединение вошла модель, дообученная на датасете 40umov/dostoevsky; метаданные базовой модели указывают на сценарии ответов по документам в режиме grounded RAG. Модель опубликована в формате safetensors; контекстное окно по метаданным — до 1 024 000 токенов. Лицензия в предоставленных данных не указана. Качество и поведение после слияния могут отличаться от исходных моделей; оценок качества в карточке нет.

VolareQuantized — компактная квантизированная версия модели Volare от команды Moxoff. Это плотная авторегрессионная языковая модель семейства Gemma примерно на 8,2 млрд параметров; доступны варианты GGUF Q4_K_M и Q8_0, рассчитанные на снижение требований к памяти и вычислениям. Модель предназначена для генерации текста, диалогов и сценариев Retrieval-Augmented Generation (RAG), где важно учитывать контекст; в обучении использовались SQUAD-it и внутренние наборы данных. Контекст модели составляет 8192 токена, основные языки — итальянский и английский. В README приведена оценка на тестовых наборах Open Ita LLM Leaderboard: средний результат 0,555 и F1 69,82. Модель не проходила этап выравнивания с предпочтениями людей через RLHF и не описана как снабжённая фильтрацией ответов, поэтому может выдавать проблемный контент, особенно при соответствующих запросах. Лицензия — MIT.

vorenthos-architect-v4 — языковая модель для генерации текста и диалогов, опубликованная vorenthiclabs как экспорт из локальной установки Ollama. В репозитории размещены квантизированные веса в формате GGUF и шаблон чата; метаданные указывают на плотную архитектуру размером 7,6 млрд параметров и поддержку диалогового режима. Модель предназначена для генерации ответов и ведения диалога через Ollama или совместимые инструменты для запуска GGUF. В карточке не приведены сведения о языках, контекстном окне или специализированных областях применения. Лицензия указана как other, поэтому условия использования следует проверять в исходной карточке модели и связанных материалах.

Westbreeze-7B — языковая модель для генерации текста и диалогового общения, созданная Rebecca19990101 с помощью LazyMergekit. Это объединение senseable/WestLake-7B-v2 и Rebecca19990101/Breeze-Petro-7B-Instruct-v1: слои 0–23 взяты из первой модели, а слои 24–31 — из второй; используется метод passthrough с точностью float16. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,2 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает на возможность чата, но не описывает конкретные языки или специализированные сценарии применения. Модель распространяется по лицензии Apache-2.0.

WestLake-7B-v2-laser-truthy-dpo — текстовая генеративная модель на архитектуре Mistral, разработанная автором репозитория macadeliccc. Она получена дообучением cognitivecomputations/WestLake-7B-v2-laser на наборе truthy-dpo-v0.1 в течение двух эпох с learning rate 2e-5. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и ответов на запросы в формате ChatML; README также приводит результаты бенчмарков рассуждения и понимания текста. Для Transformers автор отмечает проблемы с использованием шаблона ChatML и приводит альтернативный способ запуска. Репозиторий распространяется под лицензией Apache-2.0.

winter-frost-2 — дообученная языковая модель, созданная INEZA AIME BRUNO на основе Qwen/Qwen2.5-7B-Instruct. Это объединённый чекпойнт: веса LoRA уже включены в веса базовой модели, поэтому отдельная загрузка адаптера не требуется. Модель имеет плотную архитектуру Qwen2 и около 7,1 млрд параметров; она доступна в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, генерации текста и кода, а также структурированных ответов. Дообучение методом QLoRA проведено на примерно 690 примерах: общих инструкциях, примерах кода на Python и примерах, связанных с идентичностью модели. Оно может закреплять узкие поведенческие особенности, например ответ о создателе, но не ожидается, что оно заметно улучшит общие способности к рассуждению, программированию или знания по сравнению с базовой моделью. В README приведены способы запуска в Google Colab и локально; для быстрой работы на GPU рекомендуется не менее 16 ГБ видеопамяти, также возможен медленный запуск на CPU. Лицензия в предоставленных данных не описана.

PrunaAI/WizardLM-2-7B-GGUF-smashed — это сжатая и квантизированная версия WizardLM-2-7B, опубликованная PrunaAI; исходная модель связана с Microsoft. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio, text-generation-webui или библиотеки llama-cpp-python и ctransformers. Модель имеет архитектуру llama и около 7 млрд параметров. Она распространяется в формате GGUF с вариантами квантизации от Q2_K до Q8_0, что позволяет выбирать компромисс между размером, скоростью и качеством. В карточке приведён пример запуска с контекстом 32768 токенов; более длинный контекст требует больше ресурсов. Модель принимает текст и генерирует текст; сведения о поддерживаемых языках и мультимодальности не указаны. К сильным сторонам относятся уменьшенный размер файлов, возможность работы на менее мощном оборудовании и широкий выбор уровней квантизации. Ограничение состоит в том, что качество ответов может отличаться от базовой модели и снижаться при более агрессивном сжатии. Лицензия отдельно не указана: карточка сообщает, что она наследуется от лицензии исходной модели, поэтому перед использованием необходимо проверить условия для WizardLM-2-7B.

WONMSeverusDevil-TIES-7B — объединённая автором jsfs11 языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit из FelixChao/WestSeverus-7B-DPO-v2, jsfs11/WestOrcaNeuralMarco-DPO-v2-DARETIES-7B и mlabonne/Daredevil-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалоговых ответов; её контекст составляет до 32 768 токенов. В README приведены результаты оценки на наборах AGIEval, GPT4All, TruthfulQA и Bigbench, однако они не описывают отдельные гарантированные возможности модели. Доступна в формате safetensors по лицензии Apache-2.0. Языки и специализированные предметные области в предоставленных данных не обозначены.