II.6Документация и сопровождение разработки

EVA-Qwen2.5-32B-v0.0-GGUF — это текстовая генеративная модель на базе EVA-Qwen2.5-32B-v0.0, разработанной EVA-UNIT-01. Представлена в формате GGUF и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на диалоговую генерацию текста, следование инструкциям, написание текстов и roleplay-сценарии. Модель содержит 32 миллиарда параметров; точная архитектура, размер контекста и перечень поддерживаемых языков в README не указаны. Доступны варианты от F16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, включая imatrix-квантизации. Более крупные варианты обеспечивают лучшее качество, а компактные требуют меньше оперативной памяти, но могут заметнее терять в качестве. Некоторые варианты оптимизированы для ARM и требуют поддержки SVE или i8mm; они не предназначены для Mac или Windows. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix. Модель распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков, поэтому фактическое качество в конкретных задачах следует оценивать отдельно.

EVA-Rombos1-Qwen2.5-32B — плотная языковая модель на архитектуре Qwen2, созданная автором nbeerbower слиянием нескольких предварительно обученных моделей методом Model Stock с помощью mergekit. Базовой моделью для слияния указана nbeerbower/DeepSeek-R1-Qwen-lorablated-32B; в состав также вошли Rombos-Qwen2.5-32B-lorablated, EVA-Qwen2.5-32B-v0.2 и EVA-Gutenberg3-Qwen2.5-32B. Модель содержит 32 млрд параметров, принимает текст и генерирует текст. Метаданные указывают контекст до 131 072 токенов, поддержку чатового взаимодействия и интерфейса вызова инструментов. Её можно применять для диалогов, ролевого отыгрыша и написания историй — такие сценарии указаны в описании базовой модели в каталоге. Репозиторий использует формат safetensors, библиотека — Transformers. Модель распространяется по лицензии Apache-2.0. Данных о поддерживаемых естественных языках и сравнительных оценках качества в предоставленной карточке нет.

EXAONE-3.5-2.4B-Instruct-GGUF — двуязычная инструкционно дообученная языковая модель, разработанная LG AI Research. Она предназначена для генерации текста и диалоговых сценариев на английском и корейском языках, включая запуск на небольших устройствах и системах с ограниченными ресурсами. Модель представлена в формате GGUF и рассчитана на инференс с использованием llama.cpp, а также может применяться через TensorRT-LLM, vLLM, SGLang и Ollama. Модель содержит 2,14 млрд параметров без учёта эмбеддингов, 30 слоёв и использует Grouped-Query Attention с 32 Q-heads и 8 KV-heads. Размер словаря составляет 102 400 токенов, максимальная длина контекста — 32 768 токенов. Доступны варианты квантования Q8_0, Q6_0, Q5_K_M, Q4_K_M и IQ4_XS, а также веса BF16. К сильным сторонам относятся компактный размер, поддержка длинного контекста и оптимизация для ресурсоограниченного развёртывания. Модель может генерировать некорректные, устаревшие, предвзятые или потенциально неподходящие ответы и не гарантирует отражение актуальной информации или позиции LG AI Research. Лицензия — EXAONE AI Model License Agreement 1.1 - NC; условия следует уточнять в прилагаемом файле LICENSE.

Experiment26Alloyingotneoy-7B — объединённая модель для генерации текста, созданная Maxime Labonne методом slerp из rwitz/experiment26-truthy-iter-0 и nlpguy/AlloyIngotNeoY. Это плотная причинно-языковая модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors; метаданные указывают лицензию Apache-2.0. Модель подходит для генерации продолжений текста и диалоговых ответов в сценариях, где требуется текстовая языковая модель. README описывает автоматическое слияние весов и пример запуска через Transformers, но не приводит оценок качества или специализированных возможностей.

Experiment26Neuralsirkrishna_AlloyingotneoyInex12 — объединённая языковая модель, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/AlloyingotneoyInex12-7B. Она предназначена для генерации текста и диалогов. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Данные README и метаданных не раскрывают поддерживаемые языки или специализированные области применения. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Experiment26Neuralsirkrishna_Experiment24Yam — объединённая модель Mistral, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment24Yam-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors. Практические качества и языковой охват отдельно не описаны; пригодность модели для конкретных задач следует оценивать на собственных данных. Лицензия — Apache-2.0.

Experiment26Neuralsirkrishna_Inex16Calme — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/Inex16Calme-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Модель можно применять для ответов на запросы, ведения диалога и продолжения текста. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README не описывает специальные области применения или результаты оценки качества.

Experiment26Neuralsirkrishna_PasticheInex12 — объединённая автором карточки модель Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а контекст модели составляет до 32 768 токенов. Модель объединяет automerger/Experiment26Neuralsirkrishna-7B и automerger/PasticheInex12-7B. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. В карточке не описаны специальные предметные области или дополнительные возможности.

Experiment26Neuralsirkrishna_YamPastiche — объединённая модель генерации текста, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/YamPastiche-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов. Контекст составляет до 32 768 токенов; доступны веса в формате Safetensors. Язык модели в предоставленных источниках не указан. Модель распространяется по лицензии Apache-2.0. README не приводит оценок качества или специальных ограничений применения.

Experiment26Yam_AlloyingotneoyYam — объединённая модель для генерации текста, созданная на основе automerger/Experiment26Yam-7B и automerger/AlloyingotneoyYam-7B. Она построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель подходит для генерации продолжений текста и диалоговых ответов на основе текстового ввода. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Сведения о поддерживаемых языках и специализированных областях в карточке отсутствуют.

Experiment28Inex12-7B — объединённая модель, созданная Maxime Labonne автоматическим слиянием yam-peleg/Experiment28-7B и MSL7/INEX12-7b методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Для объединения использованы диапазоны слоёв 0–32 обеих моделей и отдельные коэффициенты смешивания для self-attention и MLP; веса сохранены в формате Safetensors. Модель принимает текст и генерирует текст, её родной контекст составляет 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает конфигурацию слияния и пример использования через Transformers, но не приводит оценки качества или специализированного назначения; поэтому модель уместно рассматривать как экспериментальный вариант для генерации текста, а её пригодность для конкретных задач следует проверять отдельно.

Experiment28M7_Strangemerges_32Alloyingotneoy — объединённая модель для генерации текста, созданная слиянием двух моделей Mistral: automerger/Experiment28M7-7B и automerger/Strangemerges_32Alloyingotneoy-7B. Репозиторий содержит веса в формате safetensors; размер модели — 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу. Она использует архитектуру Mistral с контекстом до 32 768 токенов. Данных о специализации по языкам или прикладным областям в карточке нет. Модель распространяется по лицензии Apache-2.0. Карточка не приводит сравнительных оценок качества или подробностей о методе слияния, поэтому пригодность для конкретных сценариев следует оценивать на собственных запросах.

Experiment28M7_T3qT3qm7 — объединённая модель Mistral, созданная из automerger/Experiment28M7-7B и automerger/T3qT3qm7-7B. Она предназначена для генерации текста и может использоваться для диалога и ответов на математические запросы. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Опубликована в формате safetensors под лицензией Apache-2.0. Карточка не сообщает о конкретных языках обучения или ограничениях качества; применимость к отдельным задачам зависит от поведения объединённых моделей.

MaziyarPanahi/Experiment28M7_YamM7 — объединённая модель для генерации текста и диалогов, созданная слиянием automerger/Experiment28M7-7B и automerger/YamM7-7B. Она построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Модель подходит для генерации продолжений текста и ведения диалогов. Карточка не сообщает о специализации на конкретной области или языке. Данных о качестве, обучающих наборах и ограничениях поведения нет.

MaziyarPanahi/Experiment28M7_YamshadowExperiment28 — слитая языковая модель на архитектуре Mistral, объединяющая automerger/Experiment28M7-7B и automerger/YamshadowExperiment28-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст длиной до 32 768 токенов. Карточка описывает объединение моделей, но не приводит сравнительных оценок качества или подробных сценариев применения. Репозиторий распространяется по лицензии Apache-2.0.

Experiment28T3q_OgnoPastiche — объединённая автором MaziyarPanahi модель семейства Mistral для генерации текста. Она создана слиянием моделей automerger/Experiment28T3q-7B и automerger/OgnoPastiche-7B. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors; лицензия — Apache 2.0. Карточка не описывает специальные навыки, домены или языки модели.

Extended-Mind-Llama-2-7b — языковая модель для генерации текста, разработанная Normal Computing на основе архитектуры и кода Meta. Она сохраняет исходные веса без дообучения и дополняет генерацию извлечением и использованием внешней памяти в виде кэшированных пар ключ–значение. Память можно передавать как последовательность токенов; предусмотрены ручное управление и вариант с векторной базой данных. Модель предназначена для генерации текста с обращением к внешним воспоминаниям или контексту. Архитектура — плотная Extended LLaMA, размер — 6,6 млрд параметров, нативная длина контекста — 4096 токенов. В README указана лицензия Apache 2.0. Модель описана как часть продолжающейся исследовательской работы Normal Computing; качество и область применения внешней памяти зависят от конфигурации и способа подготовки памяти.

Fabric 1.5-0.7B-Instruct — компактная языковая модель Fabric AI для диалогов и выполнения инструкций. Это дообученная версия Fabric1.5-0.7B-Base с причинной dense-архитектурой FabricForCausalLM и примерно 695 млн параметров по метаданным. Модель работает с текстом, обучена в том числе на английских данных и имеет контекст до 32 768 токенов. Архитектура Chunked Fabric Memory сочетает локальное внимание к последним 2 048 токенам с краткими обучаемыми представлениями более ранних фрагментов контекста. Разработчик описывает модель как предназначенную для следования инструкциям, рассуждений и ответов на вопросы; в README приведены результаты отдельных тестов, но они не гарантируют качество на прикладных задачах. Для загрузки через Transformers может потребоваться доверенный код из репозитория. Метаданные указывают лицензию Apache-2.0.

ssmits выпустил Falcon2-5.5B-multilingual — обрезанную версия предобученной языковой модели Falcon-11B от TII, созданную методом passthrough merge с помощью mergekit. В конфигурации сохранены слои 0–23 и 55–58 исходной модели; модель содержит 7,8 млрд параметров, использует архитектуру FalconForCausalLM, формат safetensors и библиотеку Transformers. Контекст составляет 8192 токена. Модель предназначена для генерации текста и диалогов, а также как основа для дальнейшей специализации и дообучения, например для суммаризации и чат-ботов. Она лучше ориентирована на английский и поддерживает немецкий, испанский, французский, итальянский, португальский, польский, нидерландский, румынский, чешский, шведский, норвежский и датский языки. Лицензия — Apache-2.0. Карточка рекомендует оценивать риски и использовать защитные меры перед применением в производстве.

Falcon3-10B-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Falcon3-10B-Instruct, разработанной Technology Innovation Institute (TII) и опубликованной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и другие задачи обработки естественного языка. Она рассчитана на запуск через llama.cpp и совместимые приложения, например LM Studio, с использованием формата чата <|system|>, <|user|>, <|assistant|>. Модель содержит 10 млрд параметров и работает только с текстом. В репозитории доступны варианты от исходных весов F16 размером 20,62 ГБ до квантизаций Q4 и Q5 размером примерно 5,9–7,6 ГБ, а также Q6 и Q8. Квантизации позволяют снизить требования к памяти и запускать модель локально, при этом более сильное сжатие может ухудшать качество. Для вариантов Q4–Q6 заявлено хорошее или очень высокое сохранение качества; наиболее сбалансированным вариантом для большинства сценариев указан Q4_K_M. В опубликованных оценках базовая модель получила 78,17% строгой точности на IFEval, 44,82% на BBH, 25,91% exact match на MATH Level 5 и 38,1% на MMLU-Pro; результаты на GPQA и MuSR составили 10,51% и 13,61% соответственно. Эти показатели характеризуют отдельные тестовые сценарии и не гарантируют качество для конкретных прикладных задач. Языки поддержки и размер контекста в README не указаны. Модель распространяется по лицензии Falcon LLM License; перед использованием необходимо ознакомиться с условиями лицензии TII.

FalconMamba-7B-Instruct — англоязычная авторегрессионная языковая модель TII на архитектуре Mamba с причинным декодером. Она дообучена на инструкционных данных поверх Falcon-Mamba-7B; в метаданных указано 8,9 млрд параметров. Для обучения использовались веб-тексты RefinedWeb, технические материалы, код, математические данные и часть FineWeb-Edu. Модель предназначена для диалогов, выполнения текстовых инструкций и генерации продолжений; работает с текстом и поддерживает генерацию на английском языке. Обучение увеличивало длину контекста с 2 048 до 8 192 токенов. В карточке отмечено, что архитектура Mamba не имеет фиксированного предела дальних зависимостей при инференсе. Для ускорения рекомендуются оптимизированные ядра Mamba; модель также можно запускать в FP16 и 4-битном режиме. Карточка приводит результаты на общих языковых и рассуждательных бенчмарках, включая MMLU, GSM8K и IFEval. Модель выпущена под лицензией TII Falcon-Mamba License 2.0, обозначенной в метаданных как other; перед использованием следует проверить её условия. Карточка описывает преимущественно английское применение и не заявляет специальных возможностей для других языков.

MaziyarPanahi/Falkor-7b-Mistral-7B-Instruct-v0.2-slerp-GGUF — это квантованная версия языковой модели Falkor-7b-Mistral-7B-Instruct-v0.2-slerp, разработанная и подготовленная MaziyarPanahi. Модель основана на Mistral-7B-Instruct-v0.2 и предназначена для генерации текста и выполнения инструкций в локальных и серверных сценариях. Модель поставляется в формате GGUF, совместимом с llama.cpp и рядом приложений и библиотек для локального запуска, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другие. Доступны варианты квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Это позволяет выбирать компромисс между размером файла, требованиями к ресурсам и качеством генерации. Точное число параметров указано как 7B; поддерживаются текстовые задачи, однако сведения о языках и размере контекстного окна в README отсутствуют. Сильными сторонами являются уменьшенный размер квантованных файлов и возможность запуска на широком спектре локальных конфигураций с поддержкой CPU и GPU через совместимые инструменты. Ограничения включают потенциальное снижение качества при использовании более агрессивного квантования, а также отсутствие в README подробных результатов оценки, описания архитектуры с дополнительными деталями и характеристик мультимодальности. Модель распространяется по лицензии Apache-2.0.

FANformer-1B — авторегрессионная языковая модель с архитектурой decoder-only, разработанная авторами FANformer и обученная с нуля. В ней используется FAN Layer для моделирования периодических закономерностей в данных. Модель содержит 1,1 млрд параметров и обучена на 1 трлн токенов. Модель предназначена для генерации и понимания текста общего назначения. Её можно дообучать для суммаризации, ответов на вопросы и диалогов. Карточка приводит результаты на стандартных бенчмарках, но они не гарантируют качество в конкретном применении. Модель выпущена под лицензией MIT. В метаданных указаны английский язык, библиотека Transformers и набор данных allenai/dolma. Модель может наследовать смещения обучающих данных; качество для языков с малым объёмом ресурсов не гарантируется.

Fikr-7B-Reasoning-GRPO — языковая модель для генерации текста, опубликованная пользователем Hatim2221 на Hugging Face. По метаданным она работает через библиотеку Transformers, относится к семейству Qwen2 и содержит около 7,1 млрд параметров. Название указывает на ориентацию на рассуждения и обучение методом GRPO, однако README не содержит подробностей о процедуре дообучения или результатах оценки. Модель предназначена для задач генерации и продолжения текста, диалоговых сценариев, составления ответов на вопросы и выполнения инструкций в приложениях на базе LLM. Заявленная длина контекста составляет 32 768 токенов, что позволяет обрабатывать достаточно объёмные запросы и документы. В метаданных отмечен conversational-сценарий использования, но поддерживаемые естественные языки явно не перечислены. README не содержит сведений о разработчике, лицензии, обучающих данных, тестах, показателях качества, рекомендуемых параметрах генерации или специальных ограничениях. Поэтому перед применением модель следует самостоятельно проверять на фактические ошибки, нестабильность рассуждений, токсичные или предвзятые ответы и пригодность для конкретной области.

Это тестовая версия alignment-tuned модели на базе семейства Llama, дообученной с использованием методов instruction fine-tuning и direct preference optimization (DPO). Она предназначена для генерации текста и выполнения инструкций в диалоговых сценариях. Модель содержит 20,9 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; в репозитории представлены веса в формате safetensors. В метаданных указан английский язык. Модель разработана автором репозитория 4season. Лицензия — Apache-2.0. Карточка обозначает её как тестовую версию, поэтому качество и пригодность для конкретных задач требуют отдельной проверки.

FinChat298B_Llama-3.2-4Bi — чат-модель на архитектуре Llama, разработанная gkMSDA путём дообучения unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Она предназначена для генерации текста в диалоге; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке указано, что обучение выполнялось с Unsloth и библиотекой TRL. Модель рассчитана на англоязычные текстовые запросы. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не описывает специализированную предметную область или конкретные результаты оценки качества.

FineLlama-3.1-8B-GGUF — это набор GGUF-квантизированных вариантов языковой модели FineLlama-3.1-8B, разработанной mlabonne и подготовленной квантизацией bartowski с использованием llama.cpp и калибровочного imatrix-датасета. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio и совместимые инструменты llama.cpp. В README указан английский язык и тип задачи text-generation; сведения о мультимодальности отсутствуют. Доступны варианты от F32 до низкобитных Q2 и IQ2, поэтому можно выбирать между качеством и требованиями к памяти: размер файлов составляет примерно от 2,95 до 32,13 ГБ. Варианты Q5–Q6 и Q4_K_M отмечены как обеспечивающие высокое или хорошее качество, а низкобитные варианты позволяют работать при ограниченном объёме RAM, но сильнее теряют в качестве. Точный размер контекста, архитектурные детали исходной модели и рекомендуемый формат промпта в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

FireStorm-Llama-3.1-8B — разговорная языковая модель, опубликованная EpistemeAI2 и дообученная на базе unsloth/llama-3.1-storm-8b-bnb-4bit. Это плотная причинная модель семейства Llama с 7,5 млрд параметров; карточка указывает контекст до 131 072 токенов и форматы PyTorch и Safetensors. Модель предназначена для генерации ответов в диалоге, следования инструкциям, вопросов и ответов на основе знаний, рассуждений и вызова функций. В README описаны дообучение на тщательно отобранных обучающих примерах и слияние с Llama-Spark; заявлены улучшения относительно Llama-3.1-8B-Instruct на нескольких тестах, включая проверку следования инструкциям, ответов на вопросы, рассуждений и вызова функций. Эти результаты относятся к оценкам авторов карточки. Для запуска предлагаются Transformers и vLLM, а в репозитории указана лицензия Apache-2.0. Основной указанный язык — английский. README отмечает, что модель не проходила отдельное выравнивание и может сохранять некоторые свойства выравнивания базовой instruct-модели. Ее ответы могут содержать ошибки; результаты тестов не гарантируют качество в конкретном применении.

Flammen-Bophades — объединённая методом SLERP языковая модель на основе двух моделей Mistral, созданная nbeerbower с помощью mergekit. Она предназначена для генерации текста, диалоговых ответов и математических запросов. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекстное окно до 32 768 токенов; веса опубликованы в формате safetensors и рассчитаны на работу через Transformers. В объединение вошли nbeerbower/flammen15-gutenberg-DPO-v1-7B и nbeerbower/slerp-bophades-truthy-math-mistral-7B. Репозиторий распространяется по лицензии Apache-2.0. Карточка подтверждает генерацию текста и включение математически ориентированной базовой модели, но не приводит сравнительных оценок качества или подробных ограничений; результаты могут зависеть от запроса и настроек генерации.

Flan-UL2-Alpaca-LoRA — англоязычная модель генерации текста, созданная дообучением Google Flan-UL2 с помощью PEFT-LoRA на датасете Alpaca. Это плотная модель семейства T5 с 7,6 млрд параметров; она принимает текстовые инструкции и формирует текстовые ответы в стиле instruction-following. Указанная длина контекста — 512 токенов. Модель подходит для ответов на вопросы, выполнения текстовых инструкций и генерации текстов по запросу на английском языке. Веса доступны в форматах PyTorch и Safetensors; для работы указана библиотека Transformers. Лицензия обозначена как other, поэтому условия использования следует проверять в карточке модели и у базовой модели перед применением. В README отмечены возможные смещения обучающих данных и более низкое качество за пределами английского языка. Также качество может различаться в зависимости от типа вопроса и текста.