II.6Документация и сопровождение разработки

Bielik-11B-v3.0-Instruct-GGUF — квантизированная версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной SpeakLeash совместно с ACK Cyfronet AGH. Это каузальная decoder-only модель для генерации текста и диалогового взаимодействия, представленная в формате GGUF для локального запуска с помощью llama.cpp, Ollama и совместимых приложений. Модель мультиязычная и поддерживает 32 европейских языка, при этом оптимизирована для польского. В README размер указан как 11B параметров; сведения о длине контекста и дополнительных модальностях не приведены. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K, Q8_0, а также 16-битные FP16 и BF16. Квантизация позволяет снизить требования к ресурсам, но может уменьшать качество ответов и повышать вероятность галлюцинаций; Q8_0 требует значительных ресурсов, а низкобитные варианты требуют особенно осторожной настройки. Модель предназначена для локального текстового вывода, включая диалоги и задачи, поддерживаемые инструкционной языковой моделью. В конфигурации для Ollama предусмотрен экспериментальный вызов инструментов с ответом в формате JSON. Модель распространяется по лицензии Apache 2.0.

Bielik-Minitron-7B-v3.0-Instruct — генеративная языковая модель команды SpeakLeash и центра ACK Cyfronet AGH, созданная при участии NVIDIA. Это причинная декодерная модель с 7,35 млрд параметров для диалогов и выполнения инструкций; она использует шаблон чата ChatML и распространяется в формате Safetensors для Transformers. Модель получена сжатием и дообучением Bielik-11B-v3-Base-20250730: структурная обрезка и дистилляция знаний сократили число параметров на 33,4%, после чего модель прошла настройку инструкций и выравнивание предпочтений. Она предназначена для генерации ответов и решения языковых задач на европейских языках; особое внимание при обучении уделено польскому. Авторы сообщают о восстановлении примерно 90% производительности исходной модели и ускорении вывода до 50%. Лицензия Apache 2.0. Модель может ошибаться и выдавать предвзятый, оскорбительный или иной нежелательный текст; встроенных механизмов модерации нет. Ее ответы не следует считать проверенными фактами.

BigFalcon3-36B — объединённая языковая модель для генерации текста и диалогов, созданная с помощью mergekit на основе tiiuae/Falcon3-10B-Instruct. В репозитории указано слияние методом passthrough; метаданные описывают архитектуру как плотную LlamaForCausalLM и указывают 17,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для Transformers. Модель подходит для диалоговых сценариев и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельную специализацию или результаты оценки качества. Лицензия в предоставленных данных не указана.

Blackthinking — текстовая генеративная модель, созданная слиянием языковых моделей методом Arcee Fusion с помощью mergekit. В качестве базовой использована Novaciano/Eurinoferus-3.2-1B, также в слияние включена cazzz307/Abliterated-Llama-3.2-1B-Instruct. Модель основана на плотной архитектуре LlamaForCausalLM и содержит 1,1 млрд параметров; файлы опубликованы в формате safetensors для Transformers. Модель предназначена для генерации текста, включая диалоговые и рассуждательные сценарии. Заявленная длина контекста — 131 072 токена. В метаданных перечислены обучающие наборы с примерами мозгового штурма, программирования и рассуждений; язык модели явно не указан. Лицензия в предоставленных данных не указана.

Blur-4x7b-MOE-v0.1 — объединённая методом LazyMergekit модель Mixtral Mixture of Experts, созданная liminerity на основе четырёх моделей семейства Blur. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для генерации текста и общих языковых задач. В README приведены результаты Open LLM Leaderboard, включая показатели на тестах AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает, для каких языков она оптимизирована, поэтому конкретные языки не перечислены.

Blur-7b-slerp-v1.42 — модель для генерации текста, созданная liminerity слиянием двух моделей через mergekit и методом slerp: liminerity/Blur-7b-slerp-v1.41 и yleo/EmertonMonarch-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и ответов на запросы. Веса представлены в формате Safetensors, слияние выполнено в float16. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или сведений о специализации модели.

Blur-7b-v1.22 — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная объединением трёх моделей с помощью LazyMergekit: s3nh/Sonya-Panda-7B-slerp, argilla/distilabeled-Marcoro14-7B-slerp и Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Она предназначена для генерации текста, диалогов и ответов на математические вопросы. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README приведены результаты Open LLM Leaderboard: среднее значение 63,35, результат ARC (25-shot) — 62,29, HellaSwag (10-shot) — 82,00. Это ориентиры из оценки, а не гарантия качества для конкретных задач. Модель опубликована 18 января 2024 года и распространяется по лицензии Apache-2.0.

bophades-mistral-truthy-DPO-7B — дообученная модель семейства Mistral, созданная nbeerbower на основе nbeerbower/bophades-v2-mistral-7B. Модель содержит 7,1 млрд параметров, построена на архитектуре MistralForCausalLM и предназначена для генерации текста; дообучение выполнено методом Direct Preference Optimization (DPO) на датасете jondurbin/truthy-dpo-v0.1 с использованием LoRA. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

AXCXEPT разработала эту инструкционную чат-модель на базе Phi-3.5-mini-Instruct, применив несколько методов настройки. В карточке отмечено улучшение генерации кода и извлечения информации, а также особое внимание к японскому языку. Архитектура — плотная Phi-3, размер — 3,7 млрд параметров, формат весов — safetensors; модель принимает и генерирует текст, контекст — до 4096 токенов. Модель подходит для диалоговых ответов, помощи с кодом и извлечения сведений из текста. В карточке приведены примеры запуска через Transformers и рекомендации по использованию FlashAttention 2. Заявлена лицензия MIT; для коммерческого применения разработчик настоятельно рекомендует связаться с ним. README также характеризует модель как экспериментальную и предназначенную для исследований и разработок, без гарантий качества и пригодности для критически важных систем.

BRAG-Llama-3.1-8b-v0.1 — языковая модель серии BRAG, разработанная Pratik Bhavasar и Ravi Theja и дообученная для задач генерации с дополненным поиском (RAG). Она предназначена для ответов на вопросы по текстовым и табличным данным, а также для диалогового RAG. Модель основана на плотной архитектуре Llama и содержит 7,5 млрд параметров. Она принимает текст и выдаёт текст; максимальная длина контекста по метаданным составляет 131 072 токена. Модель обучалась и оценивалась на английском языке; многоязычные возможности унаследованы от базовой модели, но отдельно не подтверждены для этой версии. Для ответов по контексту рекомендуется системная инструкция, требующая опираться на предоставленные сведения и сообщать, если ответа в них нет. Модель дообучалась на коротких контекстах, поэтому качество на длинных контекстах может снижаться, несмотря на заявленную длину окна. Лицензия — Llama 3.1.

Solshine/Brimful-12B-merged-replete — языковая модель для генерации текста, созданная с помощью mergekit на основе Replete-AI/Replete-LLM-V2.5-Qwen-7b. В README указан метод слияния passthrough; модель построена на архитектуре Qwen2 и содержит 11,7 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Размер контекста составляет 32 768 токенов. Модель может использоваться для диалогов и генерации ответов, а также в сценариях, где приложению требуется передавать вызовы инструментов через соответствующий интерфейс. README предупреждает, что merge пока не тестировался, поэтому качество и надёжность результатов не подтверждены. Репозиторий содержит веса safetensors; сведения о лицензии в предоставленных данных отсутствуют.

bruphin-gamma — слитая с помощью mergekit модель генерации текста, созданная nbeerbower методом SLERP из nbeerbower/bruphin-beta и jan-hq/supermario-v2. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и диалогового использования. Модель принимает текст и выдаёт текст. В карточке указана лицензия Apache-2.0. README не описывает специальные прикладные области или дополнительные возможности, поэтому модель можно характеризовать как модель общего назначения.

mlx-community/c4ai-command-r7b-12-2024-bf16 — версия модели Cohere Command R7B, конвертированная сообществом mlx-community в формат MLX из CohereForAI/c4ai-command-r7b-12-2024 с помощью mlx-lm 0.20.4. Это плотная авторегрессионная языковая модель семейства Cohere2 примерно на 8 млрд параметров, предназначенная для генерации текста и диалогового общения; доступен интерфейс вызова инструментов. Контекст модели — до 8192 токенов. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, греческий, персидский, польский, индонезийский, чешский, иврит, хинди, нидерландский, румынский, русский и другие перечисленные в метаданных языки. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Репозиторий предоставляет конвертированные веса bf16 для MLX; карточка не сообщает результатов оценки качества.

calme-2.7-qwen2-7b — дообученная Maziyar Panahi чат-модель на базе Qwen2-7B, предназначенная для генерации ответов и диалогового взаимодействия. Автор заявляет, что дообучение направлено на улучшение базовой модели по результатам бенчмарков; в обучении использованы данные HelpSteer2, OpenHermes-2.5, Orca Math Word Problems и SlimOrca. Модель построена на плотной архитектуре Qwen2ForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Для диалогов используется шаблон ChatML. Карточка приводит результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Качество зависит от запроса и сценария; опубликованные бенчмарки не гарантируют точность ответов в конкретных задачах.

Карточка модели Izzy-Kim-K/calme-3.2-instruct-78b на Hugging Face совпадает с карточкой MaziyarPanahi/calme-3.2-instruct-78b, поэтому описание составлено по ней. calme-3.2-instruct-78b — экспериментальная текстовая модель MaziyarPanahi для диалогов и генерации ответов в общих областях. Она основана на Qwen2.5-72B: базовую модель сначала объединили с её копией, затем дообучили на пользовательских наборах данных. В репозитории указана плотная архитектура Qwen2 с 76,7 млрд параметров; модель распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Для диалогов используется шаблон ChatML. Модель предназначена для общения и генерации текста на английском языке, включая ответы на запросы и следование инструкциям. Автор характеризует её как экспериментальную и отмечает, что качество может зависеть от запроса и гиперпараметров. Следует учитывать возможные смещения и проверять ответы с участием человека. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Calme-7B-Instruct-v0.1.1 — диалоговая языковая модель MaziyarPanahi на архитектуре Mistral, дообученная на базе Calme-7B-Instruct-v0.1. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов; опубликована в форматах PyTorch и Safetensors под лицензией Apache-2.0. Модель предназначена для генерации связных текстовых ответов в диалоге: её можно использовать для ответов на вопросы и подготовки текстовых объяснений. В карточке заявлены ясность, спокойный тон и связность ответов; также приведён пример использования через Transformers pipeline. В метаданных указан датасет дообучения chatml-OpenHermes2.5-dpo-binarized-alpha. Карточка не содержит сравнительных оценок качества или подробностей о поддерживаемых языках. Доступны отдельные квантованные сборки GGUF от автора, но перечисленные форматы самого репозитория — PyTorch и Safetensors.

CalmeInex12-7B — автоматически объединённая Maxime Labonne модель семейства Mistral для генерации текста и диалогового использования. В конфигурации mergekit применён метод dare_ties к Calme-7B-Instruct-v0.1.1 и MSL7/INEX12-7b; в метаданных базовой моделью указан MSL7/INEX12-7b. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors, а длина контекста составляет до 32 768 токенов. Модель подходит для чат-ответов и генерации текста по запросам. Лицензия — Apache-2.0. Карточка не описывает языковую специализацию или результаты оценки качества.

CatMacaroni-Slerp-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, полученная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и cookinai/CatMacaroni-Slerp. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Слияние использует отдельные веса для слоёв self-attention и MLP. Модель распространяется в формате safetensors под лицензией Apache 2.0. Данные карточки не описывают её языковое покрытие или конкретные ограничения качества.

CatPPT-base-Mistral-7B-Instruct-v0.1 — языковая чат-модель на архитектуре Mistral с 7,1 млрд параметров, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и rishiraj/CatPPT-base методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы; метаданные отмечают поддержку чата и задачи text-generation. Модель принимает текст и выдаёт текст, её контекст составляет до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README описывает конфигурацию слияния и тип данных bfloat16. Сведения о специальных предметных областях или отдельных языках в предоставленных данных отсутствуют.

KnutJaegersberg/CausalLM-Platypus-14B — языковая модель семейства Llama, дообученная в течение трёх эпох на наборе Open-Platypus с применением NEFTune. Модель предназначена для генерации текста по инструкциям и ответов на вопросы; пример карточки использует формат с разделами Instruction и Response. Модель содержит 13,4 млрд параметров, работает с текстом и поддерживает контекст до 8192 токенов. В карточке приведены результаты оценивания на задачах рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag. Для использования применяются лицензии Llama 2 и Qwen, указанные в приложенных файлах; условия следует проверять для конкретного сценария распространения и использования.

Cerebrum-1.0-8x7b — языковая модель AetherResearch для генерации текста и решения задач, требующих рассуждений. Это дообученная версия Mixtral 8x7B с архитектурой sparse Mixture of Experts (MoE); модель обучали на небольшом наборе примеров с цепочками рассуждений и дополнительно выравнивали с помощью targeted RLHF. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для ответов на вопросы, математических и логических задач, программирования, творческой работы и мозгового штурма. Карточка сообщает о конкурентных результатах на отдельных тестах относительно Gemini 1.0 Pro и GPT-3.5 Turbo, однако оценки получены в разных режимах и условиях. Для диалога рекомендуется шаблон Alpaca с запросом описать ход решения. Модель работает с текстом и рассчитана на английский язык; лицензия — Apache 2.0. Результаты могут зависеть от формулировки запроса и выбранного шаблона.

Chama29929/chamindu-ai-7b-16bit — дообученная языковая модель разработчика Chama29929 на базе unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit. Это плотная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате; метаданные также указывают интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. Её можно применять для диалогов, генерации кода и задач с инструментами, унаследованных от базовой модели. Репозиторий содержит веса в формате Safetensors; заявлена лицензия Apache-2.0.

OpenAssistant/codellama-13b-oasst-sft-v10 — англоязычная причинная языковая модель семейства CodeLlama, дообученная командой Open-Assistant на базе Meta CodeLlama. Это плотный decoder-only трансформер с 12,9 млрд параметров и контекстом до 16 384 токенов; веса опубликованы в формате safetensors. Модель обучалась на диалоговых данных OpenAssistant и наборах Orca, а для общения использует шаблон ChatML. Модель предназначена для генерации продолжений и ответов в диалоге, в том числе для сценариев, связанных с кодом. В README указано, что обучение частично использовало системные сообщения Orca; для корректной загрузки требуется актуальная версия Transformers либо trust_remote_code=True из-за изменения RoPE Theta. Лицензия — Llama 2 Community License Agreement. Проверки описаны только для английского языка. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением модель следует оценить и настроить с учётом конкретного применения.

Code Llama 7B Instruct — разработанная Meta инструкционно настроенная версия языковой модели семейства Code Llama, представленная в формате Transformers. Это авторегрессионная плотная трансформерная модель с 6,6 млрд параметров и контекстом до 16 384 токенов, предназначенная для генерации и понимания кода, дополнения фрагментов и выполнения инструкций в формате диалога. Модель принимает текст и генерирует текст. Её можно применять как помощника для написания кода, его дополнения и объяснения, а также для infilling и ответов на инструкции, связанные с программированием. В карточке заявлена ориентация на английский язык и языки программирования; Python-специалистом эта версия не является. Модель неофициально размещена в организации codellama; README указывает, что разработчик семейства — Meta. Модель статична и обучена на офлайн-данных. Возможны неточные или нежелательные ответы; перед использованием в приложениях рекомендуется проверять её поведение и настраивать меры безопасности под конкретный сценарий. Использование регулируется лицензией Meta для Code Llama; в метаданных репозитория указана лицензия llama2.

CodeT5+ 2B — модель семейства CodeT5+, разработанная Salesforce Research для понимания и генерации кода. Это плотная модель с архитектурой encoder-decoder; семейство также поддерживает режимы encoder-only и decoder-only. Чекпойнт загружается как Seq2Seq-модель через Transformers и использует токенизатор CodeGen. Модель предназначена для генерации кода по текстовому описанию, автодополнения, поиска и сопоставления кода с текстом, а также других задач понимания кода. При предобучении использовались денойзинг фрагментов, причинное языковое моделирование, контрастивное обучение и сопоставление текста с кодом. Обучающие примеры кода взяты из разрешительной подвыборки GitHub Code; среди поддерживаемых языков программирования указаны C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. В репозитории опубликованы веса PyTorch. Лицензия — BSD 3-Clause. Авторы отмечают, что модель выпущена для исследовательских целей и не оценивалась для всех вариантов применения; перед использованием следует проверять точность и учитывать риски ошибок и смещений.

SvalTek/ColdBrew-Aphid-Large — разговорная причинно-языковая модель семейства Llama с 5,8 млрд параметров, созданная методом passthrough merge из SvalTek/ColdBrew-Aphid. Она предназначена для генерации текста и диалогов; интерфейс модели поддерживает вызов инструментов. Модель использует библиотеку Transformers и распространяется в формате safetensors. Контекстное окно — до 131 072 токенов. Модель подходит для диалоговых приложений, генерации ответов и сценариев с вызовом инструментов. В метаданных указана связь с SvalTek/ColdBrew-Aphid как с базовой моделью. Сведений о лицензии и специальных языковых возможностях в предоставленных данных нет.

Citaman/command-r-21-layer — языковая модель Cohere, созданная методом слияния SLERP на основе Citaman/command-r-22-layer. Модель содержит 19,4 млрд параметров, использует плотную архитектуру CohereForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогов; в метаданных также отмечен интерфейс вызова инструментов. Она принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Данных о конкретных языках и специализированных областях применения нет. Карточка описывает слияние двух срезов одной базовой модели с использованием SLERP и конфигурации bfloat16. Лицензия в предоставленных данных не указана. Качество и ограничения модели отдельно не описаны; перед применением следует проверить корректность генерации и вызова инструментов в целевых сценариях.

Citaman/command-r-25-layer — слитая с помощью mergekit методом SLERP языковая модель на архитектуре Cohere для генерации текста и диалогов. В README указано объединение двух диапазонов слоёв одной модели Citaman/command-r-26-layer; метаданные также связывают её с этой базовой моделью. Модель содержит 22,6 млрд параметров, работает с текстом и имеет контекстное окно 8192 токена. Метаданные отмечают поддержку чата и интерфейса вызова инструментов. Модель подойдёт для диалоговых приложений и генерации текста. В README не приведены оценки качества или результаты тестирования. Репозиторий содержит веса в формате Safetensors; лицензия в предоставленных данных не указана.

Citaman/command-r-29-layer — языковая модель Cohere для генерации текста и диалогов. Она создана автором репозитория с помощью mergekit: веса модели Citaman/command-r-30-layer объединены методом SLERP с разными срезами слоёв, а итоговые веса сохранены в формате safetensors. Модель имеет плотную архитектуру CohereForCausalLM, около 25,9 млрд параметров и контекст до 8192 токенов. Метаданные указывают на поддержку чата и интерфейса вызова инструментов; основная задача в карточке Hugging Face — text-generation. Лицензия в предоставленных данных не указана. Характеристики языковой поддержки и качество модели на конкретных задачах не описаны, поэтому их нельзя надёжно оценить по карточке.

Citaman/command-r-2-layer — слитая языковая модель на архитектуре Cohere, созданная автором репозитория с помощью mergekit. В неё включены слои модели Citaman/command-r-3-layer; использован метод SLERP. Метаданные описывают модель как дообучение этой базовой модели, а карточка указывает на слияние её слоёв. Модель предназначена для генерации текста и диалоговых сценариев, включая интерфейс вызова инструментов. Она содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Указан формат safetensors и библиотека Transformers. Данные не сообщают целевые языки или специальные прикладные области, поэтому модель следует рассматривать как универсальную. Лицензия в предоставленных сведениях не указана; качество и надёжность ответов отдельно не описаны.