II.6Документация и сопровождение разработки

MaziyarPanahi/Experiment26Yam_YamYam — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/Experiment26Yam-7B и automerger/YamYam-7B. Модель содержит 7,1 млрд параметров и принимает текстовые запросы для генерации текста; заявленная длина контекста — до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы, а также для диалоговых сценариев на её основе. В репозитории размещены веса в формате Safetensors. Лицензия — Apache-2.0.

Experiment28M7_Inex12Yamshadow — слитая текстовая модель семейства Mistral, объединяющая веса automerger/Experiment28M7-7B и automerger/Inex12Yamshadow-7B. Модель разработана на основе этих двух чекпойнтов; отдельный разработчик в карточке не указан. Модель предназначена для генерации текста. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, нативное окно контекста — до 32 768 токенов. Репозиторий содержит веса в формате Safetensors; метаданные указывают лицензию Apache-2.0. README не описывает дополнительные сценарии или языковую специализацию.

MaziyarPanahi/Experiment28M7_MeliodasNeuralsirkrishna — объединённая модель на основе Mistral, созданная из automerger/Experiment28M7-7B и automerger/MeliodasNeuralsirkrishna-7B. Это плотная авторегрессионная модель объёмом 7,1 млрд параметров для генерации текста и диалогов с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специализацию модели, обучающие данные или отдельные гарантии качества, поэтому её возможности следует считать общими для генерации текста.

MaziyarPanahi/Experiment28M7_Ognoexperiment27Multi_verse_model — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель объединяет automerger/Experiment28M7-7B и automerger/Ognoexperiment27Multi_verse_model-7B. Карточка не описывает специализацию по языкам или предметным областям, поэтому модель можно характеризовать только как текстовую модель общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не приводит оценок качества или подробных ограничений применения.

Experiment28M7_ShadowNeuralsirkrishna — объединённая текстовая модель семейства Mistral, созданная из automerger/Experiment28M7-7B и automerger/ShadowNeuralsirkrishna-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Данные о конкретных языках и специализированных областях применения не приведены.

Experiment28M7_T3qm7xNeuralsirkrishna — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment28M7-7B и automerger/T3qm7xNeuralsirkrishna-7B. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, принимает текстовый контекст длиной до 32 768 токенов и распространяется в формате safetensors. В карточке указана лицензия Apache-2.0. Сведения о специальных областях применения и конкретных ограничениях качества не приведены.

Experiment28Meliodas-7B — автоматически объединённая модель, созданная Maxime Labonne из yam-peleg/Experiment28-7B и AurelPx/Meliodas-7b-dare с помощью mergekit. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленная длина контекста составляет 32 768 токенов. Слияние выполнено методом SLERP с разными коэффициентами для слоёв self-attention и MLP. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка содержит пример загрузки через Transformers, но не описывает специальные предметные области или гарантии качества; результаты зависят от запроса и сценария использования.

Experiment28T3q_YamYam — модель генерации текста, созданная объединением automerger/Experiment28T3q-7B и automerger/YamYam-7B. Она предназначена для генерации текста в сценариях, поддерживаемых архитектурой Mistral. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель опубликована MaziyarPanahi и распространяется по лицензии Apache-2.0. Доступные сведения не описывают конкретные преимущества или специализированные области применения; характеристики и качество результата могут зависеть от запроса и способа использования.

Это инструктивно настроенная причинная языковая модель для генерации текста и диалогов в формате чата. Репозиторий разработан latent-artist; модель построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для ответов на запросы и ведения диалога через текстовые промпты. В метаданных также отмечен интерфейс для вызова инструментов. Она принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов, а карточка указывает английский язык. Веса доступны в формате safetensors, для загрузки рекомендуется библиотека Transformers. Лицензия — Apache-2.0. Карточка не сообщает результатов оценки качества или специальных ограничений применения.

Falcon-H1-1.5B-Instruct — многоязычная авторегрессионная языковая модель семейства Falcon-H1, разработанная командой TII. Это дообученная для следования инструкциям версия Falcon-H1-1.5B-Base с гибридной архитектурой, сочетающей Transformer-внимание и блоки SSM/Mamba. Модель содержит 1,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям: она подходит для ответов на вопросы, рассуждений, математических задач, программирования и работы с научными знаниями. В карточке заявлена поддержка 18 языков, включая арабский, английский, хинди, японский, китайский и русский. Для запуска указаны Transformers, vLLM и llama.cpp; метаданные репозитория отмечают формат safetensors. В README указана лицензия Falcon-LLM License, тогда как метаданные Hugging Face обозначают лицензию как other. Перед использованием следует проверить условия лицензии в репозитории. Как компактная модель на 1,1 млрд параметров, она может уступать более крупным моделям на сложных задачах; заявленные в карточке результаты бенчмарков не гарантируют качество на конкретных данных.

Fasciculus-Arcuatus-7B-slerp — текстовая генеративная модель на 7,1 млрд параметров, созданная Kukedlc с помощью LazyMergekit. Это слияние методом SLERP моделей macadeliccc/MonarchLake-7B и Kukedlc/NeoCortex-7B-slerp; архитектура основана на Mistral и представлена классом MistralForCausalLM. Модель предназначена для генерации текста и языковых задач общего назначения. В README приведены результаты оценивания на бенчмарках рассуждений AI2 Reasoning Challenge и HellaSwag. Контекст составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors, тип точности — bfloat16. Лицензия — Apache-2.0.

ZenML разработала эту модель Sentence Transformers, дообученную на базе Snowflake/snowflake-arctic-embed-m-v1.5 на 36 примерах из набора json. Она преобразует предложения и абзацы на английском языке в плотные векторы размерностью 768 для сравнения семантической близости; архитектура включает BERT, CLS-пулинг и нормализацию, а сходство можно оценивать косинусной мерой. Модель подходит для семантического поиска, сопоставления похожих предложений, поиска перефразировок, кластеризации и подготовки векторных признаков для классификации текста. Максимальная длина входа — 512 токенов. Карточка приводит результаты поиска на небольшом наборе и описывает обучение на 36 примерах, поэтому качество за пределами данных и сценариев ZenML требует отдельной оценки. Лицензия — Apache-2.0.

Fireball-Llama-3.11-8B-v2r1orpo — диалоговая языковая модель EpistemeAI на архитектуре Llama с 7,5 млрд параметров. Она дообучена на базе EpistemeAI/Fireball-Llama-3.11-8B-v1orpo с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и ведения беседы; её можно подключать к интерфейсам вызова инструментов. Модель принимает текст и выдаёт текст. Её родной контекст составляет 131 072 токена, а в карточке указан английский язык. Файлы представлены в форматах PyTorch и safetensors. Лицензия — Apache-2.0.

Flammades-Mistral-7B — диалоговая языковая модель FlammenAI на архитектуре Mistral с 7,1 млрд параметров. Она дообучена методом ORPO в течение трёх эпох на наборах flammenai/Date-DPO-NoAsterisks и jondurbin/truthy-dpo-v0.1 поверх nbeerbower/Hermes2-Gutenberg2-Mistral-7B. Модель предназначена для генерации текста и ответов на инструкции в диалоге; заявленное контекстное окно — 32 768 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Transformers. Лицензия — Apache-2.0.

flammen10-mistral-7B — языковая модель на архитектуре Mistral, созданная FlammenAI слиянием двух моделей методом SLERP с помощью mergekit: nbeerbower/flammen9X-mistral-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Модель предназначена для генерации текста по запросам и может использоваться в диалоговых сценариях и для ответов на математические вопросы. Модель содержит 7,1 млрд параметров, имеет контекстное окно до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Вторая исходная модель описана как DPO-дообученная на математических данных Mistral, что указывает на математическую составляющую слияния. Репозиторий лицензирован по Apache-2.0.

FlexOlmo-7x7B-1T — языковая модель семейства FlexOlmo, разработанная Allen Institute for AI (AI2). Это модель типа Mixture-of-Experts: в ней объединены семь независимо обученных экспертов для публичных данных, новостей, математики, кода, академических текстов, творческого письма и публикаций Reddit. Общий размер указан в карточке как 6,9 млрд параметров, а в README — как 33 млрд; README также сообщает, что публичный эксперт обучен на 1 трлн токенов, а остальные получены его дообучением на отдельных корпусах. Маршрутизатор экспертов не обучен. Модель предназначена для генерации текста и диалогового применения, в том числе для задач, связанных с перечисленными тематическими корпусами. Поддерживает английский язык, работает с текстом и имеет контекст до 4096 токенов. Для запуска README рекомендует Transformers версии 4.57.0 или новее. Репозиторий распространяется под лицензией Apache-2.0. В README приведены результаты оценки по ряду языковых и тематических бенчмарков, однако они относятся к отдельным плотным моделям, а не обязательно к этому MoE-чекпойнту. Отсутствие обученного маршрутизатора ограничивает выводы о фактическом выборе экспертов и качестве итоговой модели.

FrankywestKunai-hermes-1-7b — слитая языковая модель, созданная автором репозитория с помощью mergekit из saishf/West-Hermes-7B и seyf1elislam/KunaiBeagle-Hermes-7b. При слиянии методом passthrough использованы слои 0–19 первой модели и слои 20–31 второй; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста по запросу и может использоваться в диалоговых и других текстовых сценариях. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

FuseQwQen-7B — объединённая разговорная языковая модель от bunnycore на архитектуре Qwen2. Она создана методом линейного слияния нескольких моделей, включая FuseChat-Qwen-2.5-7B-Instruct, QwQ-LCoT-7B-Instruct, cybertron-v4-qw7B-UNAMGS и модель с адаптером Persona. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Модель предназначена для диалога и генерации ответов, в том числе с опорой на инструкции и рассуждения. В карточке приведены результаты Open LLM Leaderboard, однако данных недостаточно, чтобы подтвердить конкретный уровень качества в отдельных сценариях. Использование предполагает библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

G9v3-3B — плотная причинная языковая модель команды AI9Stars на архитектуре LlamaForCausalLM с примерно 2,7 млрд параметров. Она предназначена для локального запуска и сценариев с ограниченными ресурсами; поддерживает контекст длиной до 131 072 токенов. Модель рассчитана на повседневные задачи ассистента, программирование, работу с инструментами и рассуждения. В README описаны режимы генерации с включённым и отключённым режимом обдумывания; метаданные указывают поддержку чата и английского и китайского языков. Для запуска подходят Transformers, vLLM и SGLang. Модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому результаты следует проверять, особенно перед использованием в важных решениях. Лицензия — Apache-2.0.

GALPACA 6.7B — языковая модель на архитектуре OPT, созданная дообучением GALACTICA 6.7B на 52 тысячах пар инструкций и ответов из набора Alpaca. Модель разработана для ответов на запросы в формате инструкций и ориентирована на научные и технические задачи; её базовая модель обучалась на крупном корпусе научных текстов и данных. Размер модели по метаданным — 8,8 млрд параметров, максимальный контекст — 2048 токенов. Модель принимает текст и генерирует текст. Качественные оценки указывают на сильные стороны в технических знаниях и программировании по сравнению с некоторыми моделями Alpaca на базе LLaMA, но на обычной генерации прозы она уступает им. Ответы могут быть неточными, поэтому для практического применения нужны проверки и меры предосторожности. Лицензия — CC BY-NC 4.0; использование также связано с условиями OpenAI, поскольку набор Alpaca был создан с помощью text-davinci-003.

QuantFactory/gemma-2-9b-GGUF — это квантованная версия языковой модели Gemma 2 с 9 млрд параметров, созданная на основе google/gemma-2-9b с использованием llama.cpp. Разработчик исходной модели — Google. Модель относится к авторегрессионным decoder-only моделям для генерации текста и распространяется в формате GGUF. Модель предназначена для текстовых задач, включая ответы на вопросы, суммирование, рассуждения, диалоговое взаимодействие и другую генерацию текста. Указана поддержка английского языка. Квантование уменьшает требования к вычислительным ресурсам и делает модель более подходящей для запуска на локальных компьютерах и в инфраструктуре с ограниченными ресурсами, однако может сопровождаться снижением качества по сравнению с исходными весами; конкретный уровень квантования в README не указан. Ключевые ограничения — текстовая модальность, отсутствие сведений о размере контекста, точной схеме квантования и результатах оценки именно этой сборки. Использование регулируется лицензией Gemma и соответствующими условиями Google.

SanctumAI/gemma-2-9b-it-GGUF — квантизированная GGUF-версия Gemma 2 9B IT, разработанной Google и подготовленной SanctumAI. Это текстовая decoder-only языковая модель с instruction tuning, предназначенная для генерации текста, диалогов, ответов на вопросы, суммирования и задач, требующих рассуждений. Модель работает с текстом и, согласно README, доступна на английском языке. Модель содержит около 9 млрд параметров. Доступны варианты квантизации Q2_K–Q8_0, а также f16; размер файлов составляет примерно от 3,81 до 18,49 ГБ, а оценочная потребность в RAM или VRAM — от 15,14 до 28,82 ГБ в зависимости от варианта. Квантизация позволяет запускать модель на ноутбуке, настольном компьютере или собственной облачной инфраструктуре при выборе подходящего формата, но более компактные варианты могут уступать по качеству менее квантизированным. Модель распространяется по лицензии Gemma. Для корректного диалога следует использовать шаблон Gemma с маркерами начала и конца хода пользователя и модели. README не указывает размер контекстного окна, мультимодальные возможности или поддержку языков помимо английского; также конкретные ограничения качества не описаны. Как и другие языковые модели, она может генерировать неточный, вредный или неподходящий контент, поэтому результаты требуют проверки.

Модель ehristoforu/Gemma2-9b-it-train6-plus_layer-1 — текстовая генеративная модель, созданная из ehristoforu/Gemma2-9b-it-train6 с помощью mergekit. В README указан метод passthrough: модель собрана из диапазонов слоёв исходного чекпойнта; метаданные классифицируют её как дообученную производную Gemma 2 и отмечают поддержку диалогового режима. Модель предназначена для генерации текста и ведения диалога. Она построена на плотной архитектуре Gemma2ForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 8192 токенов. Репозиторий использует формат safetensors, а при создании указан тип данных bfloat16. README не описывает отдельные специализации, языки или гарантии качества, поэтому модель следует рассматривать как универсальную текстовую модель. Лицензия в предоставленных сведениях не указана.

testmoto/gemma-2-llm2024-dpo-02 — языковая модель для генерации текста на основе архитектуры Gemma 2. В метаданных указаны 9 млрд параметров и контекст до 8192 токенов; модель доступна в формате safetensors и рассчитана на использование с Transformers. Модель предназначена для генерации текста и диалоговых сценариев. Карточка сообщает о конверсии базовой модели testmoto/gemma-2-llm2024-01 в формат MLX с помощью mlx-lm 0.20.4; метаданные связывают её с этой же базовой моделью как с дообученной. Сведения о лицензии и языках в предоставленных данных отсутствуют.

Gemma 3 1B IT QAT Q4_0 GGUF — лёгкая инструкционная мультимодальная модель Google DeepMind из семейства Gemma, созданная на основе технологий, использованных в Gemini. Модель принимает текст и изображения и генерирует текст; версия предназначена для запуска в формате GGUF, в том числе через llama.cpp и совместимые среды. Модель имеет размер 1B параметров, использует квантизацию Q4_0 и Quantization Aware Training, благодаря чему снижает требования к памяти при сохранении качества, близкого к версии bfloat16. Для варианта 1B заявлено контекстное окно до 32K токенов, максимальный объём генерируемого ответа — 8192 токена. Изображения обрабатываются с нормализацией до 896×896 пикселей и кодированием в 256 токенов; модель поддерживает более 140 языков. Gemma 3 1B IT подходит для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Небольшой размер облегчает локальное развёртывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Ограничения включают меньший контекст по сравнению с более крупными версиями Gemma 3 и зависимость мультимодальных возможностей от используемого программного обеспечения: например, указанное использование через Ollama поддерживает только текстовый ввод. Доступ к модели на Hugging Face требует принятия условий лицензии Google Gemma; точные условия определяются лицензией Gemma.

unsloth/gemma-3-1b-it-unsloth-bnb-4bit — инструкцияно дообученная и 4-битно квантованная версия Gemma 3 1B от Google DeepMind, подготовленная Unsloth. Модель имеет открытые веса и предназначена для генерации текста по инструкциям, включая ответы на вопросы, суммаризацию, рассуждения и анализ изображений. В метаданных указано, что основной язык — английский, при этом семейство Gemma 3 поддерживает более 140 языков. Модель принимает текст и изображения, а на выходе генерирует текст. Для версии 1B заявлено контекстное окно до 32 000 токенов и максимальный объём генерируемого вывода до 8192 токенов; изображения нормализуются до 896×896 пикселей и представляются как 256 токенов каждое. Ключевая особенность данного варианта — 4-битная квантование в формате BNB, уменьшающая требования к памяти и упрощающая локальное развёртывание, однако по сравнению с полноразмерными версиями это может ограничивать точность. Модель подходит для запуска на устройствах и инфраструктуре с ограниченными ресурсами, а также для дальнейшей тонкой настройки средствами Transformers и Unsloth. Использование регулируется лицензией Gemma и соответствующими условиями Google; перед применением необходимо ознакомиться с Terms of Use.

Gemma 3 1B PT — предварительно обученная модель генерации текста из семейства Gemma, разработанного Google на основе исследований и технологий, использованных для Gemini. Версия PT предназначена для дальнейшей адаптации и экспериментов с генерацией текста; семейство также рассчитано на диалог, суммаризацию, ответы на вопросы и рассуждения. Компактный размер семейства позволяет запускать модели на ноутбуках и настольных компьютерах или в собственной облачной инфраструктуре. В README для Gemma 3 заявлены контекстное окно до 128 тыс. токенов, поддержка более 140 языков и обработка изображений с выдачей текста; для конкретной версии 1B PT эти характеристики отдельно не подтверждены метаданными. Модель распространяется в формате safetensors и предназначена для использования через Transformers. Лицензия — Gemma. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; модели также могут испытывать трудности с неоднозначными формулировками и сложными задачами.

Это компактная инструкционная текстовая модель семейства Gemma 3 с плотной архитектурой Gemma3ForCausalLM и 257 млн параметров. Репозиторий mlx-community содержит версию google/gemma-3-270m-it, подготовленную для работы с библиотекой MLX; README указывает на конвертацию исходной модели в формат MLX с помощью mlx-lm 0.26.3. Модель предназначена для диалогов и генерации текста: её можно использовать для ответов на вопросы, суммаризации и других текстовых запросов. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Лицензия — Gemma.

unsloth/gemma-3n-E4B-it-GGUF — GGUF-квантизированная инструкцияная версия модели Gemma 3n E4B, разработанной Google DeepMind и распространяемой в формате GGUF сообществом Unsloth. Модель относится к семейству лёгких открытых моделей Google, созданных на основе исследований и технологий Gemini, и предназначена для эффективного запуска на устройствах с ограниченными ресурсами. Модель рассчитана на диалоговые сценарии, ответы на вопросы, обработку запросов и суммаризацию документов. Семейство Gemma 3n поддерживает мультимодальный ввод текста, изображений, видео и аудио с генерацией текста, однако данная карточка указывает, что для этой версии в текущей конфигурации поддерживается только текст. Максимальная длина контекста составляет 32K токенов. Указан эффективный размер 4B параметров благодаря технологии выборочной активации параметров; точная архитектура GGUF-варианта и конкретный метод квантования в карточке не уточняются. Модель обучалась на данных более чем на 140 разговорных языках, но в метаданных этой версии явно указан английский язык. К сильным сторонам относятся низкие требования к ресурсам, возможность локального запуска и поддержка тонкой настройки через инструменты Unsloth. Ограничениями являются текстовый режим данной версии, зависимость характеристик от выбранного GGUF-кванта и отсутствие в карточке подробных данных о точном размере файла, производительности и качестве по языкам. Использование регулируется лицензией Gemma и соответствующими Terms of Use Google.

AtomicChat/gemma-4-12B-it-GGUF — это квантизированная в формат GGUF версия мультимодальной модели google/gemma-4-12b-it, подготовленная командой Atomic Chat из оригинальных весов Google. Модель предназначена для локального и полностью офлайн-использования через llama.cpp, Ollama, LM Studio, Jan и совместимые инструменты. Она поддерживает работу с текстом, изображениями и аудио, а также сценарии, требующие развитого рассуждения; для изображений в репозитории предусмотрен vision-проектор mmproj. Модель содержит около 11,95 млрд параметров и 48 слоёв. Это плотный decoder с гибридным вниманием: скользящее окно на 1024 токена сочетается с глобальным вниманием. Заявленная длина контекста составляет 256 тысяч токенов, размер словаря — 262 тысячи; архитектура использует 16 attention heads и 8 KV heads. Доступны варианты квантизации от Q2_K до Q8_0, включая IQ3_M и IQ4_XS с importance matrix. Q4_K_M указан как оптимальный баланс размера, скорости и качества, а Q6_K и Q8_0 обеспечивают более высокую точность ценой требований к памяти. К преимуществам относятся мультимодальность, большой контекст, возможность локального запуска и квантизация с importance matrix, снижающая потери качества в низкобитных вариантах. Ограничения связаны с зависимостью качества и скорости от выбранного варианта квантизации и доступной RAM или VRAM; для корректного применения шаблона чата требуется режим --jinja, а для изображений — vision-проектор и совместимый интерфейс. Результаты в README относятся к базовой модели Google и не являются собственными измерениями Atomic Chat. Лицензия — Apache 2.0.