II.6Документация и сопровождение разработки

ANIMA-Phi-Neptune-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и Severian/ANIMA-Phi-Neptune-Mistral-7B методом SLERP. Она предназначена для генерации текста и ответов на инструкции в диалоговом формате. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов; опубликована в формате safetensors. Модель подходит для чат-ботов, свободного диалога и задач генерации текста на основе запросов. README описывает слияние параметров внимания и MLP, но не приводит результаты сравнительных оценок или сведения о специализации ANIMA-Phi-Neptune. Указана лицензия Apache-2.0.

Aquila2-70B-Expr — базовая плотная авторегрессионная языковая модель серии Aquila2, опубликованной BAAI. Она предназначена для генерации текста и может служить основой для прикладных систем на базе языковых моделей. В README модель отнесена к базовым, а не к чат-моделям AquilaChat2. Модель содержит 69,3 млрд параметров, построена на архитектуре Aquila и рассчитана на контекст до 4096 токенов. Репозиторий содержит веса PyTorch. Для семейства Aquila2 README сообщает о базовых, чат- и длинноконтекстных вариантах; расширенные возможности других вариантов нельзя автоматически приписывать этой модели. Лицензия указана как other, поэтому конкретные условия использования следует проверять в лицензионных материалах репозитория. Специальная настройка на определённый язык или предметную область в предоставленных данных не описана.

Jebadiah/Aria-diamond-ruby-v1 — модель генерации текста семейства Llama, созданная автором Jebadiah линейным слиянием предварительно обученных моделей Jebadiah/Aria-p1-sand-stone и Jebadiah/Tess-coder-ruby-p7 с помощью mergekit. Она содержит 7,5 млрд параметров, построена на архитектуре LlamaForCausalLM и предназначена для диалоговой генерации текста и кода, включая Ruby. Модель принимает текст и выдаёт текст; поддерживает контекст до 8192 токенов и рассчитана на использование с библиотекой Transformers. В карточке и метаданных не описаны специальные домены или языки, поэтому они не уточняются. Репозиторий распространяет веса в формате safetensors. Лицензия в предоставленных данных не указана.

Astridboros-3B — языковая модель для генерации текста, созданная объединением слоёв PAIXAI/Astrid-3B и jondurbin/airoboros-3b-3p0. В конфигурации слияния первые 16 слоёв взяты из Astrid-3B, а следующие 16 — из airoboros-3b-3p0; для запросов автор рекомендует формат промпта Alpaca. Модель имеет плотную архитектуру StableLM Epoch с 2,7 млрд параметров и контекстом 4096 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы. Репозиторий содержит веса Safetensors; также README указывает на отдельную публикацию квантованных версий в GGUF. Лицензия — CC BY-SA 4.0.

Athene-70B — открытая по весам диалоговая языковая модель команды Nexusflow, дообученная методом RLHF на основе meta-llama/Meta-Llama-3-70B-Instruct. Она предназначена для чат-ассистентов и генерации ответов на запросы пользователя; для диалогов использует тот же шаблон чата, что и Llama 3 70B Instruct. Модель построена на плотной архитектуре Llama с 69,5 млрд параметров и поддерживает контекст до 8192 токенов. В карточке приводится результат 77,8% на Arena-Hard-Auto — бенчмарке, служащем приближённой оценкой качества в Chatbot Arena. Метаданные указывают английский язык. Модель распространяется по Nexusflow Research License; условия этой лицензии следует учитывать при использовании.

Aura32k — слитая модель для генерации текста на архитектуре Mistral, созданная автором jeiku с помощью mergekit. В объединение вошли jeiku/32kBase и jeiku/selfbot_256_mistral; применён метод passthrough. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Репозиторий содержит веса safetensors и рассчитан на использование с библиотекой Transformers. Данных о поддерживаемых естественных языках и специальных прикладных областях нет. Лицензия в предоставленных данных не указана.

Auro-Kosmos-EVAA-v2-8B — диалоговая языковая модель, созданная слиянием двух предварительно обученных моделей методом SLERP с помощью mergekit: jaspionjader/Kosmos-EVAA-v2-8B и DreadPoor/Aurora_faustus-8B-LINEAR. Она построена на плотной архитектуре Llama и содержит 7,5 млрд параметров; для работы с ней используется библиотека Transformers. Модель предназначена для диалогового взаимодействия и генерации ответов и свободного текста. Её контекст составляет 8192 токена, веса опубликованы в формате safetensors. Карточка не уточняет поддерживаемые языки, лицензию и специальные области применения, поэтому применимость в конкретных сценариях и условия использования следует сверить с карточками исходных моделей и репозитория.

Aurora-Borealis-LLaMa-70B — экспериментальная объединённая языковая модель от автора Tarek07, созданная с помощью mergekit из нескольких моделей семейства LLaMa. В README описан метод слияния DARE TIES с градиентной настройкой влияния компонентов; базой указана TareksLab/MO-MODEL6-V0.1-LLaMa-70B. Архитектура — плотная авторегрессионная LLaMaForCausalLM, размер — 69,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Автор описывает её как эксперимент со слиянием специализированных моделей; README рекомендует температуру 1,0, Min P 0,02 и запускать квантованные варианты не ниже Q5. Доступны веса safetensors. Лицензия — llama3.3.

jondurbin/bagel-2.8b-v0.2 — экспериментальная чат-модель, созданная Jondurbin путём дообучения state-spaces/mamba-2.8b-slimpj с помощью Bagel. По метаданным, модель содержит 6 млрд параметров и распространяется в формате PyTorch по лицензии Apache-2.0. Модель предназначена для диалогов и широкого круга инструктивных задач: ответов на вопросы, рассуждений, решения математических задач, написания кода и SQL, чтения и понимания текста, а также ролевого общения. В README указана поддержка форматов Vicuna, Llama 2, Alpaca и ChatML-подобного формата; также можно использовать шаблон диалога токенизатора. При обучении применялись разнообразные англоязычные и многоязычные датасеты, включая Belebele, MMLU, MathInstruct, Spider и наборы диалогов. Это экспериментальное дообучение базовой архитектуры Mamba, а не модель с гарантированными производственными характеристиками. Автор отмечает, что версия с DPO работает заметно лучше; данная версия не должна считаться эквивалентной ей. README не сообщает длину контекста и отдельные результаты оценки качества.

bagel-7b-v0.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.2 и jondurbin/bagel-7b-v0.1 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель принимает текст и генерирует текст; контекст составляет до 32 768 токенов. Указана лицензия Apache-2.0. README не приводит отдельной оценки качества или подробного описания ограничений модели.

Baichuan-13B-Base — базовая предварительно обученная языковая модель компании Baichuan Intelligent Technology, созданная после Baichuan-7B. Это плотная авторегрессионная модель семейства Baichuan с 12,9 млрд параметров по метаданным (в карточке указано около 13,3 млрд), 40 слоями и 40 головами внимания. Она обучена на 1,4 трлн токенов, использует позиционные смещения ALiBi и поддерживает контекст до 4096 токенов. Модель предназначена как основа для разработчиков: продолжения текста и адаптации под прикладные сценарии на китайском и английском языках. Это версия Base без диалогового выравнивания; для готового общения в карточке указан отдельный Baichuan-13B-Chat. Репозиторий содержит веса PyTorch. Заявленная лицензия — Community License for Baichuan-13B Model; для коммерческого использования требуется получить письменное разрешение Baichuan.

Baichuan-13B-Chat — диалоговая версия языковой модели Baichuan-13B, разработанная Baichuan Intelligent Technology. Это плотная авторегрессионная модель с примерно 12,9 млрд параметров, выровненная для общения и генерации текста; в README базовой указана Baichuan-13B-Base. Модель поддерживает китайский и английский языки, использует позиционные смещения ALiBi и имеет контекстное окно 4096 токенов. Модель предназначена для диалоговых приложений, ответов на вопросы и генерации текста на китайском и английском языках. README также описывает варианты квантования INT8 и INT4 для снижения требований к памяти, однако метаданные этого репозитория указывают формат PyTorch. Для академических исследований использование открыто; коммерческое применение требует предварительно получить письменное разрешение Baichuan. Как и другие большие языковые модели, она может генерировать неточные или нежелательные ответы.

jaspionjader/bbb-5 — слитая автором jaspionjader языковая модель семейства Llama для генерации текста и диалогов. Она создана методом Model Stock с помощью mergekit на основе jaspionjader/kstc-5-8b и объединяет веса jaspionjader/bbb-3, jaspionjader/bbb-4 и jaspionjader/kstc-4-8b. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM, файлы safetensors и формат bfloat16; заявленная длина контекста — до 131 072 токенов. Модель подходит для диалогового взаимодействия и генерации текста по запросу. В README и метаданных не указаны языки, специализированные области или подробные оценки качества. Лицензия в предоставленных данных не указана.

Beeper-King-22B — объединённая и слегка скорректированная версия MS-Meadowlark-22B от ToastyPigeon. Это плотная авторегрессионная языковая модель семейства Mistral с 22 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса Safetensors; метаданные указывают поддержку чата и интерфейса вызова инструментов. Модель предназначена для генерации текста в формате инструкций и чата, включая следование подсказкам и описаниям персонажей. В карточке заявлена совместимость с форматами инструкций Mistral V2 и V3, а также с Alpaca. Автор описывает характер ответов как более «вольный», сохраняя при этом хорошее следование запросам. Модель собрана с использованием нескольких моделей Mistral и QLoRA-производных, включая Beepo-22B; автор указывает, что заменил базовую модель для применения QLoRA. Лицензия в предоставленных данных не указана.

Beetle-FineWeb2-24B/beetle-bilingual-l2-50-classroom-20-b4-fineweb-rus-eng — модель генерации текста из семейства Beetle-FineWeb2, представленная на Hugging Face для использования через библиотеку Transformers. Идентификатор модели указывает на двуязычную специализацию для русского и английского языков и размер семейства 24B; также в названии упоминается FineWeb и вариант classroom. Разработчик, точная архитектура, контекст, лицензия и результаты оценки в доступной карточке не описаны.

Beetle-bilingual-l2-50-simultaneous-b2-fineweb-zho-eng — трансформерная языковая модель для генерации текста на китайском и английском языках. Модель опубликована в репозитории Beetle-FineWeb2-24B и предназначена для задач, где требуется продолжение, составление или преобразование текста в двуязычном китайско-английском контексте. Модель доступна через библиотеку Transformers и использует формат safetensors; в метаданных также указан компонент pico_decoder. Основной сценарий применения — text-generation, включая генерацию ответов, черновиков и двуязычных текстовых продолжений. Размер модели, длина контекста, точная архитектура, разработчик и лицензия в предоставленных данных не указаны.

Behemoth-v1.1-Magnum-v4-123B — объединённая текстовая модель от knifeayumu, созданная методом SLERP с помощью mergekit из TheDrummer/Behemoth-123B-v1.1 и anthracite-org/magnum-v4-123b. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 122,2 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате safetensors. Модель предназначена для диалоговой генерации текста и прозы, включая сценарии общения и интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В карточке указана лицензия other, поэтому условия использования следует сверять с лицензиями исходных моделей и условиями репозитория. Подтверждённые ограничения качества или использования в карточке не описаны.

big3-pt2 — текстовая авторегрессионная модель семейства Llama, созданная deltanym методом passthrough mergekit из слоёв deltanym/bigllama3.2-3b-to-7b. Модель содержит 9,5 млрд параметров и рассчитана на генерацию текста и диалоги; метаданные также отмечают интерфейс для вызова инструментов. Модель принимает текстовые запросы и выдаёт текст. Заявленная длина контекста — 131 072 токена. В репозитории используются веса safetensors; конфигурация слияния задаёт тип bfloat16. README не описывает специальную область применения или поддержку конкретных языков. Лицензия в предоставленных данных не указана.

MatthieuJ/BillyTheKid1803 — текстовая генеративная модель семейства Mistral с архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Согласно карточке, это слияние моделей yam-peleg/Experiment26-7B и EmbeddedLLM/Mistral-7B-Merge-14-v0.1, выполненное с помощью mergekit. Модель предназначена для генерации текста. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. В метаданных указана лицензия Apache-2.0. README не описывает конкретные сценарии применения или языковую специализацию, поэтому её следует считать моделью общего назначения.

BitCPM-CANN-8B-gguf — языковая модель семейства BitCPM-CANN, разработанная OpenBMB. Это GGUF-версия модели BitCPM-CANN-8B для генерации текста и диалогового взаимодействия на китайском и английском языках; репозиторий ориентирован на использование с llama.cpp и совместимыми инструментами, а в метаданных указана библиотека Transformers. Модель основана на системе обучения с квантизацией с учётом обучения и использует тернарные значения весов {-1, 0, 1} с эффективной разрядностью 1,58 бита. Для семейства заявлены примерно шестикратное снижение памяти при инференсе и сохранение 95,7–97,2% производительности полноточных аналогов для моделей размером 1B–8B. В README также указано, что веса представлены в формате псевдоквантизации и могут запускаться как обычные модели с плавающей точкой без специальных квантизационных библиотек или ядер. Модель подходит для генерации ответов, диалоговых приложений, написания текстов, рассуждений и вопросов-ответов на китайском и английском языках, особенно при ограниченных ресурсах памяти. Ограничения включают возможное снижение качества по сравнению с полноточной версией, зависящее от задачи и языка, а также необходимость учитывать совместимость конкретного GGUF-файла с используемым рантаймом. Модель распространяется по лицензии Apache-2.0.

BLOSSOM-v5-32b — разговорная языковая модель от команды Blossom, дообученная на базе Qwen1.5-32B. Это плотная модель архитектуры Qwen2 с 31,7 млрд параметров; она принимает текст и генерирует ответы в формате диалога. Модель обучалась на смешанных наборах Blossom Chat, Orca, Wizard и Math, включая многоходовые диалоги, математические инструкции и данные, дистиллированные из GPT-4-0125-preview. Карточка заявляет поддержку китайского и английского языков, а контекст составляет до 32 768 токенов. Модель предназначена для ответов на вопросы и выполнения общих инструкций в чат-сценариях, включая математические запросы. Обучение проходило в два этапа: на одноходовых наборах Wizard, Orca и Math, затем на многоходовом наборе Blossom Chat. Доступна по лицензии Apache-2.0. Оценки качества на независимых тестах в карточке не приведены.

Sumail/Bubble_bee04_2b — объединённая языковая модель семейства Gemma, созданная методом SLERP с помощью mergekit из tomaszki/gemma-28 и tomaszki/gemma-28-copy. Она предназначена для генерации текста и диалогового общения. Модель имеет плотную архитектуру GemmaForCausalLM, содержит 2,5 млрд параметров и поддерживает контекст до 8192 токенов; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель принимает текст и генерирует текст. README и метаданные не сообщают о специализации на конкретной области или о поддерживаемых естественных языках. Лицензия в предоставленных данных не указана.

C2LLM-7B — модель CodeFuse для получения векторных представлений исходного кода и запросов к нему. Она дообучена на базе Qwen/Qwen2.5-Coder-7B-Instruct и использует архитектуру C2LLM с плотной сетью и pooling by multi-head attention (PMA), который помогает выделять значимые части кода при формировании эмбеддинга. Веса представлены в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для поиска кода по текстовому запросу, поиска похожих фрагментов кода и задач Code2Text, а также для использования в RAG-системах по программным репозиториям. В README указано обучение на 3 млн пар «запрос—документ». Поддерживаются китайский и английский языки. Лицензия — Apache-2.0.

c4ai-command-r-08-2024-GGUF — это квантизированная версия языковой модели c4ai-command-r-08-2024, разработанной CohereForAI и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. В карточке указано, что она поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский и арабский языки. Модель относится к классу text-generation; сведения о размере, архитектуре и длине контекста в представленном README не указаны. Квантизация может снизить требования к ресурсам по сравнению с исходной моделью и упростить локальное развертывание, однако потенциально сопровождается потерей качества относительно полной версии. Доступ к исходной модели регулируется лицензией CC BY-NC 4.0 и дополнительным лицензионным соглашением Cohere; использование разрешено только в некоммерческих целях. Для доступа также предусмотрена форма с подтверждением согласия с условиями лицензии.

MaziyarPanahi/calme-2.1-qwen2-7b — дообученная авторами MaziyarPanahi модель Qwen2-7B для диалоговой генерации текста. Она предназначена для общения в формате ChatML и призвана улучшить результаты базовой модели на различных бенчмарках. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 131 072 токенов. Модель можно применять для ведения диалога, ответов на вопросы и генерации текстовых ответов. Для обучения использовались HelpSteer2, OpenHermes-2.5, набор задач Orca Math и SlimOrca. В карточке приведены результаты оценки на бенчмарках, включая IFEval и BBH. Доступна под лицензией Apache-2.0.

MaziyarPanahi/calme-2.2-qwen2-7b — дообученная чат-модель на базе Qwen2-7B, созданная Maziyar Panahi для улучшения результатов базовой модели в бенчмарках. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров; она принимает текст и генерирует текст, поддерживает шаблон диалога ChatML и работает через библиотеку Transformers. Заявленная длина контекста — 131 072 токена. В карточке указаны английский язык и обучение на наборах HelpSteer2, OpenHermes-2.5, Orca Math Word Problems и SlimOrca. Модель подходит для диалоговых ответов и генерации текста общего назначения. В README приведены результаты Open LLM Leaderboard, включая средние 23,23 балла, IFEval и BBH; подробности остальных метрик вынесены в ссылку. Модель распространяется по лицензии Apache-2.0. Оценка по бенчмаркам сама по себе не гарантирует качества для конкретного сценария.

CalmexperimentPercival_01-7B — автоматически объединённая модель для генерации текста, созданная Maxime Labonne методом SLERP из allknowingroger/CalmExperiment-7B-slerp и AurelPx/Percival_01-7b-slerp. Модель основана на архитектуре Mistral и содержит 7,1 млрд параметров; принимает текст и поддерживает контекст до 32 768 токенов. Подходит для генерации текста и диалогов общего назначения. В репозитории указаны веса в формате safetensors, а лицензия — Apache-2.0. Сведения о специализированных возможностях, целевых языках и оценках качества не приведены.

CapRL-3B — мультимодальная модель для описания изображений, разработанная авторами проекта CapRL. Она основана на архитектуре Qwen2.5-VL-3B и дообучена по двухэтапной методике CapRL с применением обучения с подкреплением на основе проверяемых наград и набора из 75 тысяч отобранных пар вопросов и ответов. Модель содержит 3,1 млрд параметров, принимает изображения и текстовые запросы и генерирует текст; заявленная длина контекста — 128 000 токенов. Модель предназначена для создания подробных описаний естественных изображений, графиков, инфографики и документов. Разработчики отмечают структурированные ответы, широкий охват визуальных деталей и сравнительно небольшое число галлюцинаций; заявленные результаты восприятия сопоставимы с Qwen2.5-VL-72B. Для запуска приведён сценарий использования с Transformers и совместимым API vLLM. Лицензия — Apache-2.0.

Captain_Eris_Noctis-12B-alt-v0.420 — разговорная модель генерации текста, созданная объединением двух моделей: Nitral-AI/Nera_Noctis-12B и Nitral-AI/Captain-Eris-Diogenes_Twilight-V0.420-12B. Она основана на архитектуре Mistral и содержит 12,1 млрд параметров. Модель предназначена для диалогов и генерации ответов в формате ChatML; для работы используется библиотека Transformers. В карточке указано контекстное окно до 1 024 000 токенов. Модель распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

CatunaMayo3B — языковая модель семейства Mistral, объединённая Eric111 из моделей Eric111/CatunaMayo и Eric111/CatunaLaserPi с помощью mergekit. Модель предназначена для генерации текста и диалоговых сценариев на основе текстового запроса. Модель имеет плотную архитектуру MistralForCausalLM, содержит 3,8 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории указаны веса safetensors; лицензия — Apache-2.0. Сведения о языках и специализированных областях применения в карточке не приведены.