II.6Документация и сопровождение разработки

Hypnos-i1-8B-GGUF — квантизированная версия модели Hypnos-i1-8B, разработанной squ11z1 и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и диалогового использования, включая задачи рассуждения, математики, логики и физики, а также ролевые и conversational-сценарии. В качестве обучающих данных указаны OpenThoughts-114k, Reasoning-Base-20K, OpenMathReasoning, QwQ-LongCoT-130K и GSM8K. Заявлен английский язык; поддержка других языков не указана. Модель относится к семейству Llama 3 согласно метаданным и имеет размер 8B параметров. Доступны варианты от BF16 до низкобитных квантов GGUF, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Квантизация выполнена с использованием imatrix в llama.cpp; модель можно запускать через llama.cpp, LM Studio и другие совместимые проекты. Рекомендуется использовать соответствующий формат ChatML из README. Контекстное окно и точные архитектурные характеристики не указаны. Более агрессивная квантизация экономит память, но может снижать качество, особенно в задачах рассуждения. Распространение заявлено по лицензии Apache-2.0.

ssaryssane/ssary-10.7B-slerp — плотная авторегрессионная языковая модель семейства Llama, созданная автором репозитория слиянием SLERP двух моделей: Sao10K/Fimbulvetr-10.7B-v1 и upstage/SOLAR-10.7B-Instruct-v1.0. В метаданных указано 7,1 млрд параметров и контекст до 4096 токенов; модель распространяется в формате Safetensors и рассчитана на запуск через Transformers. Модель предназначена для генерации текста и диалоговых ответов, включая выполнение инструкций. Слияние объединяет веса базовых моделей с разными коэффициентами для слоёв self-attention и MLP. В карточке не приведены результаты оценок качества или подробное описание поведения; базовая модель SOLAR ориентирована на англоязычные инструкции и диалоги, но отдельная языковая поддержка этого слияния не уточнена. Лицензия в предоставленных данных не указана.

StarChat-β — диалоговая языковая модель и помощник по программированию, разработанный HuggingFaceH4. Это вторая модель серии StarChat, дообученная на базе bigcode/starcoderplus на варианте набора openassistant-guanaco без встроенного выравнивания. Модель построена на архитектуре GPTBigCode, содержит 16 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалогов и помощи с задачами программирования, включая генерацию кода. Основной естественный язык — английский; обучение StarCoderPlus охватывало более 80 языков программирования, а диалоговый набор включал более 35 естественных языков, что не означает одинакового качества на всех из них. Отсутствие выравнивания и фильтрации может приводить к проблемным ответам. Сгенерированный код может быть ошибочным, небезопасным или не компилироваться, а URL могут быть вымышленными. Лицензия BigCode Open RAIL-M v1; авторы рекомендуют использовать модель в образовательных и исследовательских целях.

Starlight-V3-12B — языковая модель, созданная starble-dev с помощью mergekit: автор объединил методом TIES модели anthracite-org/magnum-12b-v2 и UsernameJustAnother/Nemo-12B-Marlin-v5, используя первую как базовую. Это плотная архитектура Mistral с 12,1 млрд параметров, предназначенная для генерации текста и диалогов. Модель представлена в формате safetensors, использует библиотеку Transformers и поддерживает контекст до 1 024 000 токенов. Цель слияния — сохранить сильные стороны Magnum v2 и добавить генерации больше креативности. Автор рекомендует подбирать параметры сэмплирования; в README отмечена чувствительность результата к температуре и возможность утечки фрагментов обучающих данных при высоких значениях температуры. Лицензия — Apache 2.0.

Карточка модели unsloth/Starling-LM-7B-beta на Hugging Face совпадает с карточкой unsloth/llama-2-7b-chat, поэтому описание составлено по ней. Unsloth предоставляет дообученную разговорную версию Llama 2 с 7 млрд параметров для генерации текста в формате диалога. Модель основана на архитектуре Llama и предназначена для чат-ответов и продолжения текста; README упоминает шаблоны ShareGPT ChatML и Vicuna. Максимальная длина контекста — 4096 токенов. Модель принимает текст и выдаёт текст на английском языке. Репозиторий содержит веса Safetensors для использования с библиотекой Transformers. Лицензия — Apache 2.0. Доступная карточка описывает также сценарии дообучения, но не приводит подробностей о данных и конкретных изменениях весов.

StdMoE1b14b1T — стандартная модель типа Mixture of Experts от Allen Institute for AI, выпущенная как базовый вариант для сравнения с EMO в работе «Pretraining Mixture of Experts for Emergent Modularity». Модель содержит 14 млрд параметров всего, из которых активно около 1 млрд; в ней 128 экспертов — 127 маршрутизируемых и один общий, при этом для каждого токена выбираются 8 активных экспертов. Архитектура соответствует EMO, но используется стандартная цель обучения без ограничения пула экспертов на уровне документа. Модель предварительно обучена на смеси данных OLMoE на 1 трлн токенов и дополнительно обучалась на 50 млрд токенов. Она предназначена для генерации текста и диалогового использования, принимает текст и выдаёт текст. Контекст составляет 4096 токенов; в карточке указан английский язык. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0.

Stealth v1.3 — разговорная языковая модель Jan на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для диалога и генерации текста; в карточке указан шаблон ChatML, а Jan Desktop позволяет запускать её на macOS, Windows и Linux. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. В README приведены результаты Open LLM Leaderboard: средний балл 71,12, включая AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает, на каких данных и каким способом модель обучалась, поэтому её происхождение нельзя надёжно определить.

Strangemerges_32Yam-7B — созданная Maxime Labonne автоматизированным слиянием двух моделей: Gille/StrangeMerges_32-7B-slerp и mayacinka/yam-jom-7B. При слиянии методом SLERP использованы веса, зависящие от слоя и типа блока; итоговые веса сохранены в формате bfloat16. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и имеющая контекст до 32 768 токенов. В README приведён пример загрузки через Transformers; метаданные указывают лицензию Apache-2.0. Карточка не описывает специализированную область применения, языки или сравнительные результаты модели, поэтому её возможности за пределами генерации текста по имеющимся данным оценить нельзя.

Apertus-70B-Instruct-2509-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Apertus-70B-Instruct-2509, разработанной swiss-ai. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локальных inference-сценариев на базе llama.cpp, включая работу через LM Studio и совместимые проекты. В репозитории представлены варианты квантизации Q2_K_L, Q3, Q4, Q5, Q6_K и Q8_0 с размером файлов примерно от 28,32 до 75,02 ГБ. Более крупные варианты обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но могут сильнее терять в качестве. Рекомендуемыми в README названы, в частности, Q4_K_M, Q4_K_S, Q4_K_L, Q5_K_S, Q5_K_M и Q6_K. Точная архитектура, число параметров исходной модели, поддерживаемые языки, размер контекста и мультимодальные возможности в предоставленных данных не указаны. Преимущество модели — возможность локального запуска в распространённом формате GGUF с выбором компромисса между качеством и требованиями к памяти. Ограничения связаны с большими ресурсными требованиями 70B-модели, потерями качества при низких уровнях квантизации и отсутствием указанного в README формата промптов. Лицензия в предоставленных данных не указана.

Symbol-LLM-13B-Instruct — языковая модель семейства LLaMA, выпущенная авторами проекта Symbol-LLM. Модель содержит 12,9 млрд параметров и предназначена для генерации текста; название проекта указывает на исследование символьного интерфейса для больших языковых моделей, однако README не описывает конкретные сценарии или метод обучения версии Instruct. Модель принимает текст и генерирует текст, работает с контекстом до 2048 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. В README сообщается о принятии работы на ACL 2024 и публикации моделей серии 7B и 13B.

SynapseLLM-7B-Mistral-v0.2 — языковая модель WebraftAI на архитектуре Mistral с 7,1 млрд параметров. Это предварительно дообученная версия Mistral 7B v0.1: README описывает обучение на выборке из 140 тысяч примеров, включавшей инструкции по программированию и общие вопросы с ответами. Модель предназначена для диалоговых ответов и генерации кода по текстовым запросам; её можно загрузить через Transformers. Контекст модели составляет 32 768 токенов. Модель принимает текст и генерирует текст. В README заявлена поддержка только английского языка. По карточке обучение было ограниченным: один этап обучения на небольшой по охвату пользовательской выборке, поэтому качество в иных задачах может быть нестабильным. Лицензия — Apache 2.0.

SynthIA-7B-v1.3-Mistral-7B-Instruct-v0.1 — чат-модель на базе Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и migtissera/SynthIA-7B-v1.3 методом SLERP. Веса представлены в формате Safetensors; модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов в диалоге на запросы пользователя. Подходит для чат-ботов и задач следования инструкциям на английском языке. Указана лицензия Apache-2.0. Карточка не приводит сравнительных оценок качества или специальных предметных областей.

Bruh0009/T1 — дообученная языковая модель на архитектуре Llama, разработанная Bruh0009 на базе unsloth/Llama-3.2-1B-Instruct-bnb-4bit. Модель содержит 1,2 млрд параметров, принимает текст и предназначена для генерации текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста составляет 131072 токена. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. В карточке указана лицензия Apache-2.0. Данных о специализации по предметной области или дополнительных ограничениях качества нет.

T3qStrangemerges_32-7B — автоматически созданное слияние моделей на основе Mistral, подготовленное Maxime Labonne. В состав объединения входят mistralai/Mistral-7B-v0.1, chihoonlee10/T3Q-Mistral-Orca-Math-DPO и Gille/StrangeMerges_32-7B-slerp; для слияния использован метод model_stock. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и распространяется в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста, включая диалоговые ответы и решения математических задач; доступный контекст составляет до 32 768 токенов. Репозиторий указывает лицензию Apache-2.0. Карточка не приводит сведения о поддерживаемых естественных языках и оценках качества.

Карточка модели MaxSchulten/teacher_gpt-oss-20B на Hugging Face совпадает с карточкой MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B-Unfiltered, поэтому описание составлено по ней. MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B — дообученная компактная плотная языковая модель семейства Qwen3, разработанная MaxSchulten на базе Qwen/Qwen3-0.6B. Модель предназначена для генерации текста и диалогов; в метаданных также указана возможность chat. README сообщает о дообучении и значении loss 0,6897 на оценочной выборке, но не раскрывает состав данных или подробности оценки. Модель содержит около 507,9 млн параметров, принимает текст и генерирует текст, использует Transformers и формат Safetensors. Длина контекста — до 40 960 токенов. Лицензия — Apache-2.0. Название README содержит слово «Unfiltered», но карточка не описывает соответствующую настройку или поведение, поэтому его смысл и влияние на ответы определить нельзя.

Teleut 7B — экспериментальная попытка воспроизвести обучение Tülu 3 на базовой модели Qwen2.5-7B. Модель разработана allura-org и предназначена для генерации текста в диалоговом формате; в карточке приведены результаты оценок на BBH, GSM8K и IFEval, но это предварительные измерения, а не гарантия качества в прикладных задачах. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, дообученная на смеси AllenAI Tulu 3 SFT. Она принимает текст и генерирует текст, использует библиотеку Transformers и поддерживает контекст до 131 072 токенов. Модель создана как репликационная попытка, поэтому её результаты могут отличаться от опубликованных показателей Tülu 3; README также содержит неполную таблицу оценок. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели ContextPilot-14B, разработанной Tencent и подготовленной пользователем bartowski с помощью llama.cpp. Модель относится к классу text-generation, поддерживает только текстовый ввод и содержит около 15 млрд параметров. Для квантизации использовался метод imatrix; доступны варианты от BF16 до низкобитных форматов Q2 и Q3, а также Q4–Q8. ContextPilot-14B предназначена для генерации текста, задач управления контекстом, использования инструментов и агентских сценариев. Для работы следует применять указанный шаблон промпта с ролями system, user и assistant. Спекулятивное декодирование не поддерживается. Сильная сторона семейства — широкий выбор квантизаций, позволяющий найти компромисс между качеством, размером файла и требованиями к памяти; автор рекомендует Q4_K_M как сбалансированный вариант. Более низкие квантизации экономят память, но снижают качество, а некоторые форматы отмечены как устаревшие или не рекомендуемые. Языки, размер контекстного окна и точные архитектурные характеристики в README не указаны. Распространение заявлено по лицензии other; конкретные условия лицензии в README не приведены.

Hunyuan-7B-Instruct-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Hunyuan-7B-Instruct, разработанной Tencent. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на диалоговые сценарии и генерацию текста по инструкциям. В репозитории доступны варианты от BF16 до квантизаций Q2–Q8, размером примерно от 3 ГБ до 15 ГБ; это позволяет выбирать между качеством и требованиями к памяти. Для работы необходимо использовать указанный формат prompt с системным сообщением и специальными токенами. README не содержит сведений об архитектуре, поддерживаемых языках, длине контекста, мультимодальности или результатах бенчмарков. Квантизации с более высокой разрядностью обычно обеспечивают лучшее качество, а варианты Q3 и ниже экономят память, но заметнее теряют в качестве; некоторые форматы предназначены для совместимости с ARM или Apple Silicon. Лицензия в предоставленных данных не указана.

jaspionjader/test-18 — объединённая языковая модель, созданная с помощью mergekit методом SLERP из предварительно обученных моделей jaspionjader/test-15 и jaspionjader/test-17. В метаданных указана архитектура LlamaForCausalLM с плотной структурой и 7,5 млрд параметров; модель рассчитана на генерацию текста и контекст до 8192 токенов. Модель можно использовать для генерации продолжений текста и других сценариев text-generation. README описывает метод объединения и конфигурацию, но не сообщает о специальных возможностях, целевых областях или языках. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

THUDM_GLM-4-9B-0414-GGUF — это квантизированная версия языковой модели GLM-4-9B-0414, разработанной командой THUDM. Конвертацию и квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит около 9 млрд параметров, поддерживает китайский и английский языки и распространяется в формате GGUF. Доступны варианты от bf16 до низкобитных Q2–Q8-квантизаций с размером файлов примерно от 4,2 до 18,8 ГБ. Более качественные варианты Q5–Q8 обеспечивают близкое к исходной модели качество, тогда как Q3 и Q2 экономят память, но снижают качество. В README размер контекстного окна, архитектура и поддерживаемые модальности не указаны; по приведённому формату и назначению это текстовая авторегрессионная модель. Сильной стороной являются разнообразие вариантов квантизации и возможность запуска на локальном оборудовании с ограниченными ресурсами. Ограничения включают компромисс между размером, потреблением памяти и качеством, а также отсутствие данных о результатах оценки и контекстном окне. Для работы требуется совместимый llama.cpp-стек и соответствующий формат prompt: [gMASK]<sop><|system|>, <|user|>, <|assistant|>. Модель распространяется по лицензии MIT.

trinhkhng/ties_Merged_Qwen2-0.5B_0.0 — объединённая модель на основе Qwen2-0.5B, созданная методом TIES с помощью mergekit. В слияние включена модель debias_Qwen2-0.5B; базовая модель и источник токенизатора — Qwen2-0.5B. Это плотная авторегрессионная языковая модель с архитектурой Qwen2ForCausalLM и примерно 493,7 млн параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для построения чат-ботов и получения ответов или продолжений текста. Заявленная длина контекста составляет 131 072 токена. В карточке не приведены сведения о поддерживаемых естественных языках и конкретных результатах оценки качества. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Tiger-Gemma-9B-v3 — чат-модель на основе Gemma 2 с 9 млрд параметров, опубликованная TheDrummer. Автор описывает её как версию Gemma 9B, дообученную методом SPPO на новом наборе данных, который, по его словам, уменьшает многословие и ограничения на ответы. Модель предназначена для диалоговой генерации текста. Модель использует плотную архитектуру Gemma2ForCausalLM, принимает текст и выдаёт текст. Родной размер контекста — 8192 токена. В репозитории указаны веса в формате safetensors. README также упоминает GGUF, но метаданные не подтверждают наличие этого формата. Карточка не сообщает о языках обучения или ограничениях качества, поэтому их нельзя оценить по предоставленным данным. Лицензия в метаданных и README не указана.

TinyJ.O.S.I.E.-3x1.1B-32k-Base — языковая модель на архитектуре Mixtral с разреженной архитектурой «смесь экспертов» (MoE), созданная Goekdeniz Guelmez с помощью LazyMergekit на основе трёх копий Isaak-Carter/TinyJ.O.S.I.E.-1.1B-32k-Base. Модель предназначена для генерации текста и принимает контекст длиной до 32 768 токенов; общий размер указан как 1 млрд параметров. Её можно использовать для продолжения текста и генерации ответов в сценариях с длинным контекстом. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

tjake/TinyLlama-1.1B-Chat-v1.0-Jlama-Q4 — квантизированная версия TinyLlama-1.1B-Chat-v1.0, опубликованная пользователем tjake для запуска через Jlama. Это компактная авторегрессионная языковая модель семейства Llama, предназначенная для генерации текста и диалоговых сценариев при ограниченных ресурсах памяти и вычислений. Базовый проект TinyLlama разработан сообществом TinyLlama под руководством Zhang и использует архитектуру и токенизатор, совместимые с Llama 2.

Ramikan-BR/tinyllama-coder-py-v23 — дообученная разговорная модель семейства Llama для генерации текста, включая помощь с кодом Python. Она основана на unsloth/tinyllama-chat-bnb-4bit и имеет около 1 млрд параметров; архитектура — плотная авторегрессионная LlamaForCausalLM. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 4096 токенов. Карточка указывает, что модель обучалась с помощью Unsloth и библиотеки TRL. Её можно использовать для генерации и продолжения кода Python, а также для диалоговых запросов по программированию. Лицензия — Apache-2.0. Подробные результаты оценки качества и конкретные ограничения в карточке не приведены.

Карточка модели wannaphong/tongyi-model-v1.1-1b на Hugging Face совпадает с карточкой wannaphong/tongyi-model-v1.3-1b, поэтому описание составлено по ней. Модель wannaphong/tongyi-model-v1.3-1b — дообученная авторегрессионная языковая модель семейства Qwen2, созданная wannaphong на базе sail/Sailor2-1B. Она предназначена для генерации текста и диалогов; в метаданных также отмечен интерфейс для вызова инструментов. Модель содержит 851,8 млн параметров и поддерживает контекст до 32 768 токенов. В карточке указано, что модель обучалась с использованием Unsloth и библиотеки TRL. В метаданных указан английский язык, но специальных языков или прикладных областей для этой версии README не уточняет. Модель распространяется по лицензии Apache-2.0.

giocorte/totem-slm-rl-v6 — дообученная giocorte модель семейства Qwen3 с 3,7 млрд параметров для генерации текста и диалогов. Она предназначена для англоязычного общения; карточка также отмечает интерфейс вызова инструментов. Модель обучена с использованием Unsloth и библиотеки TRL от Hugging Face. Доступны веса в форматах Safetensors и GGUF с квантизацией Q4_K_XL. Максимальная длина контекста — 40 960 токенов. Модель распространяется по лицензии Apache-2.0.

Translate-25T — многоязычная модель машинного перевода, разработанная WhirlwindAI и дообученная на базе google/mt5-small на датасете OPUS-100. Она построена на архитектуре mT5 Encoder-Decoder и предназначена для перевода между английским и более чем 18 другими языками в обоих направлениях. В метаданных указано 157,4 млн параметров; README приводит оценку около 300 млн. Модель работает с текстом, распространяется в формате safetensors и поддерживается библиотекой Transformers. Модель подходит для перевода коротких текстов в образовательных, исследовательских и лёгких многоязычных приложениях, в том числе при ограниченных вычислительных ресурсах. Авторы сообщают об оценке на тестовой части OPUS-100 по 50 примерам на языковую пару. Лицензия Apache-2.0 допускает открытое использование. Качество различается между языковыми парами: лучше результаты для языков с большим объёмом данных; модель может ошибаться в специализированной терминологии, сленге и длинных документах.

Ba2han/TR_SFT1 — дообученная авторами Ba2han модель для генерации текста и ответов на запросы пользователей. Она основана на Ba2han/TR_CPT1 и обучена с помощью TRL в формате supervised fine-tuning (SFT). Архитектура — плотная причинно-следственная языковая модель Qwen3 с 1,3 млрд параметров; модель работает с текстом и поддерживает контекст до 16 384 токенов. Модель можно использовать для диалоговых ответов и генерации продолжений по запросу через Transformers. В карточке приведён пример передачи сообщения пользователя в pipeline text-generation. Репозиторий содержит веса Safetensors и рассчитан на использование с библиотекой Transformers. Лицензия в доступных данных не указана.

Tulu V2.5 DPO 13B PRM800k Phase 2 — англоязычная диалоговая модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе allenai/tulu-2-13b. После обучения на смеси инструкций Tulu V2 модель прошла выравнивание методом DPO на данных PRM800k, фаза 2; карточка также относит её к серии, обучавшейся с использованием DPO и PPO. Модель принимает текст и генерирует текст в формате диалога; для качественной генерации следует использовать предусмотренный токенизатором шаблон чата. Длина контекста — 4096 токенов. Модель предназначена для ответов на инструкции и ведения диалогов с помощником на английском языке. Она может выдавать проблемные ответы: авторы отмечают, что модели Tulu не были специально выровнены для безопасных завершений в RLHF и не используют фильтрацию ответов во время работы. Распространяется по лицензии Apache 2.0.