I.5Создание и редактирование текста

jondurbin/airoboros-70b-3.3 — экспериментальная чат-модель, созданная Jon Durbin на основе семейства Llama 3 и дообученная на данных Airoboros, преимущественно синтетических. Метаданные каталога указывают архитектуру LlamaForCausalLM с плотными весами, 69,5 млрд параметров и контекст до 8192 токенов. Модель принимает текст и генерирует текст; карточка показывает шаблон диалога Llama 3 Instruct и примеры ответов на вопросы, пересказа, художественных запросов и задач программирования. Модель подходит для диалогового помощника, написания и продолжения историй, суммаризации, ответов на вопросы и генерации кода. В README отмечено, что модель экспериментальная; приведённые примеры иллюстрируют предполагаемые сценарии, но не подтверждают качество или надёжность ответов. README называет базой Llama 3 70B Instruct, тогда как метаданные указывают дообучение Meta-Llama-3-8B; точную базовую модель по этим источникам установить нельзя. Лицензия в метаданных обозначена как other, поэтому условия использования следует сверить с карточкой модели на Hugging Face.

Airoboros 7B GPT4 1.4.1 QLoRA — дообученная модель семейства LLaMA, созданная jondurbin на базе синтетических данных, сгенерированных GPT-4. Это вариант QLoRA для сравнения с полной тонкой настройкой; модель содержит около 6,6 млрд параметров и рассчитана на контекст до 2048 токенов. Для диалога использует шаблон в стиле Vicuna 1.1. Модель предназначена для генерации ответов в диалоге, следования инструкциям, ответов на вопросы по предоставленному контексту, помощи с программированием, письма, ролевых диалогов, загадок и викторин. В обучающем наборе есть примеры кода на десяти языках программирования, но естественные языки модели в источниках не перечислены. Модель ориентирована на подробные и прямые ответы, однако README предупреждает, что ответы по контексту могут выдумываться, поэтому для закрытых вопросов рекомендуется явно просить не придумывать ответ при нехватке данных. Модель обучалась следовать запросам без отказов, включая незаконные или аморальные; это может приводить к небезопасным ответам. Лицензия — CC BY-NC 4.0, разрешающая использование с указанием авторства и запрещающая коммерческое использование.

airoboros-c34b-2.1 — созданная jondurbin модель Llama 2 с дообучением на синтетических инструкциях airoboros. Это плотная авторегрессионная модель на 33,5 млрд параметров для генерации ответов, диалогов и длинных текстов; заявленная длина контекста — 16 384 токена. В карточке описаны сценарии ответов по предоставленному контексту, программирования, планирования выполнения задач и генерации текста в заданном стиле или от лица персонажа. Модель ориентирована на англоязычные инструкции и поддерживает многоходовые диалоги, ролевые сценарии и продолжение глав. README предупреждает об ошибке форматирования промптов в обучающем коде, из-за которой модель работает некорректно; при генерации она также может продолжить диалог за пользователя, поэтому рекомендуется останавливать генерацию на маркере USER:. Доступны веса PyTorch, лицензия указана как llama2.

AISquare-Instruct-llama2-koen-13b-v0.9.24 — плотная языковая модель семейства Llama с 12,9 млрд параметров, разработанная командой UI Platform компании Inswave Systems. Она создана на основе beomi/llama2-koen-13b с применением SFT и DPO и предназначена для генерации текста в формате инструкций. Модель принимает текст и генерирует текст. В метаданных указан английский язык, а базовая модель относится к корейско-английскому семейству; заявленный контекст — 2048 токенов. Карточка показывает загрузку через Transformers и веса в формате Safetensors. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Контекст 2048 токенов ограничивает длину запроса и ответа; README не приводит оценок качества или подробного перечня поддерживаемых сценариев.

Akshara-8B — языковая модель SVECTOR CORPORATION для понимания и генерации текста на индийских языках и английском. Она предназначена для многоходовых диалогов и сценариев вроде образовательных приложений, клиентской поддержки, создания контента и автоматизации. Модель представляет собой плотную decoder-only архитектуру Llama с 7,5 млрд параметров и контекстом до 8192 токенов. По данным карточки, это дистиллированная версия флагманской модели Akshara; заявлена поддержка хинди, гуджарати, маратхи, тамильского, телугу, каннада, панджаби и английского. Репозиторий содержит веса Safetensors для Transformers. Лицензия — Apache-2.0. К сильным сторонам относятся многоязычные диалоги и ориентация на языковое разнообразие Индии. Карточка заявляет оптимизацию для скорости и эффективности, но не приводит сравнительных оценок качества; поэтому пригодность для конкретного языка и задачи стоит проверять отдельно.

AlemLLM — большая языковая модель, настроенная Astana Hub при технической поддержке 01.AI для повышения полезности ответов на казахском языке. Она предназначена для диалогового текстогенерирования и сценариев исследований и разработок в рамках инициатив Казахстана в области ИИ. Модель использует архитектуру Mixture of Experts: 247 млрд общих параметров, из которых активируются 22 млрд. В карточке также указаны 56 слоёв, токенизатор SentencePiece, словарь размером 100 352 токена и формат BF16. В README приведены оценки на казахских, русских и английских бенчмарках; эти результаты не гарантируют качество для конкретных запросов. Модель может генерировать неточные, предвзятые или небезопасные ответы, поэтому результаты требуют проверки и ответственного применения. Лицензия — Apache-2.0; публикация и использование должны соответствовать применимым законам и требованиям регулирования экспорта и кибербезопасности.

Olmo-3.1-32B-Think-GGUF — это квантизированная версия текстовой генеративной модели Olmo-3.1-32B-Think, разработанной Allen Institute for AI (AI2). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, включая IQ-квантизации. Размер файлов варьируется примерно от 14 до 64 ГБ, поэтому модель можно адаптировать под доступные ресурсы, выбирая компромисс между качеством и потреблением памяти. Указан английский язык; сведения об архитектуре, максимальном контексте, мультимодальности и поддерживаемых языках, кроме английского, не предоставлены. Сильной стороной модели являются варианты с высокой точностью, близкой к исходной, а также возможность локального запуска на совместимом оборудовании. Низкобитные варианты экономят память, но могут снижать качество генерации; некоторые форматы имеют устаревшие особенности или не рекомендуются из-за более низкого качества. Модель распространяется по лицензии Apache-2.0.

SERA-8B-GGUF — это набор GGUF-квантизированных версий языковой модели SERA-8B, разработанной Allen Institute for AI (AI2). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель имеет размер 8B параметров и поддерживает текстовый ввод и вывод. Доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантизаций, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми обозначены, в частности, Q4_K_M, Q5_K_M, Q6_K и другие варианты с более высоким качеством; размеры файлов находятся примерно в диапазоне от 3,37 до 16,39 ГБ. Для диалогового использования README указывает шаблон промпта с ролями system, user и assistant. Сильная сторона набора — возможность запускать SERA-8B на локальном оборудовании с разными ограничениями по памяти, сохраняя приемлемое качество при средних и высоких уровнях квантизации. Ограничения зависят от выбранного варианта: более компактные квантизации снижают качество, а для недавно поддерживаемых архитектур может потребоваться обновление используемого программного обеспечения. Языки, размер контекстного окна и специализированные возможности исходной модели в README не указаны. Распространение заявлено по лицензии Apache-2.0.

Карточка модели Alluci/alluci-polytope-gemma-4-31b-it-bf16 на Hugging Face совпадает с карточкой mlx-community/gemma-4-31b-it-bf16, поэтому описание составлено по ней. Gemma 4 31B IT BF16 — мультимодальная инструкционно-настроенная модель Google DeepMind, преобразованная сообществом mlx-community в формат MLX из google/gemma-4-31B-it. Она предназначена для диалогов, генерации текста и анализа изображений; запускать её можно с помощью mlx-vlm. Модель использует плотную архитектуру Gemma 4 и принимает текст и изображения, выдавая текст. В репозитории указаны веса BF16 в формате safetensors и лицензия Apache-2.0.

GLM4-9B-Neon-v2-GGUF — это набор квантизированных версий языковой модели GLM4-9B-Neon-v2, разработанной allura-org и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других совместимых проектах. Указан английский язык; поддержка других языков и мультимодальных входов не заявлена. Размер базовой модели — 9B параметров. Доступны варианты от BF16 и Q8_0 до более компактных Q2 и IQ-квантизаций с размером файлов примерно от 4,6 до 18,8 ГБ. Версии Q6 и Q5 позиционируются как высококачественные, Q4 — как оптимальные по соотношению качества и размера, а варианты Q3 и Q2 рассчитаны на системы с ограниченной оперативной памятью, но имеют более заметные потери качества. Контекстное окно в README не указано. Для работы требуется использовать соответствующий шаблон prompt format с управляющими токенами GLM4. Лицензия — MIT.

Alphallama3-8B_v2 — дообученная модель генерации текста на архитектуре Llama, разработанная Alphacode-AI на основе Meta-Llama-3-8B. Она предназначена для диалогового взаимодействия и генерации текста; для обучения использовались внутренние пользовательские данные, DeepSpeed, Hugging Face TRL Trainer и Accelerate. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекст длиной до 8192 токенов. В карточке указан корейский язык. Модель распространяется в формате safetensors по лицензии Llama 3. Качество и ограничения дообучения на внутренних данных отдельно не описаны.

AlphaMayo — диалоговая языковая модель, созданная слиянием Eric111/Mayo и mlabonne/AlphaMonarch-7B с помощью mergekit. В основе архитектуры лежит Mistral; модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в формате диалога. Указанная длина контекста — 32 768 токенов. Модель подходит для генерации ответов и выполнения инструкций в чат-сценариях. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README описывает конфигурацию слияния методом SLERP и точностью bfloat16.

Amadeus-Verbo-FI-Qwen2.5-32B-PT-BR-Instruct — языковая модель для бразильского португальского, созданная Amadeus AI дообучением Qwen/Qwen2.5-32B-Instruct на наборе из 600 тысяч инструкций в течение двух эпох. Она предназначена для диалогов и генерации текста по инструкциям; доступен интерфейс для вызова инструментов. Модель построена на архитектуре Transformer Qwen2 с причинным языковым моделированием, содержит около 32 млрд параметров и распространяется в формате safetensors для Transformers. В карточке указана длина контекста 131 072 токена, тогда как метаданные каталога сообщают native context в 32 768 токенов. Основной язык модели — бразильский португальский. Модель распространяется по лицензии Apache-2.0. Её специализация на бразильском португальском и большой размер требуют подходящей вычислительной инфраструктуры; заявленный длинный контекст README отличается от значения в метаданных каталога.

Anansi-35B-A3B-i1-GGUF — квантованная версия модели BlueNipples/Anansi-35B-A3B, подготовленная mradermacher в формате GGUF. Модель предназначена для генерации текста, диалоговых сценариев, roleplay, повествовательных задач и рассуждений на естественном языке. В метаданных указан английский язык. Модель заявлена как vision-модель, поэтому для работы с изображениями могут потребоваться дополнительные mmproj-файлы из статического репозитория. Точные сведения об архитектуре, размере контекстного окна, поддерживаемых модальностях на уровне конкретных входных форматов и фактических характеристиках базовой модели в README не приведены; обозначение 35B-A3B сохранено в идентификаторе исходной модели. Доступны многочисленные варианты квантования с размером примерно от 7,6 до 28,6 ГБ. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать по качеству; в README рекомендуются i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Сильными сторонами являются разнообразие вариантов квантования, возможность локального запуска через совместимое с GGUF программное обеспечение и ориентация на диалоговую и творческую генерацию. Ограничения включают потери качества, зависящие от выбранного уровня квантования, необходимость самостоятельно подобрать подходящий вариант и возможную потребность в mmproj-файлах для работы с изображениями. Лицензия модели указана как Apache-2.0.

Anansi-35B-A3B-Q8-Prose-GGUF — квантованный вариант модели Anansi-35B-A3B, разработанный BlueNipples. Модель создана для следования инструкциям, диалогов, ролевых сценариев, повествовательных задач и генерации связной художественной прозы. В README также указана направленность на narrative reasoning и обработку задач постредактирования текста. Это GGUF-сборка с Q8_0-восстановленной LM output head, основанной на голове Anansi с DARE/TIES-слиянием и интерполяцией с Melody. Такой подход призван сохранить больше стилистических и прозаических свойств по сравнению с квантованием головы вместе с остальной моделью. Указано, что исходная Anansi-35B-A3B ориентирована на запуск на ограниченном оборудовании, включая системы примерно с 8 ГБ памяти, однако точные требования, архитектура, число активируемых параметров, размер контекста и поддерживаемые языки в README не приведены. Сильные стороны модели — сочетание следования инструкциям, повествовательной направленности, рассуждений и улучшенной качества прозы; автор также отмечает пригодность для дополнительных проходов постобработки текста. Ограничения включают возможное появление рассуждений или черновиков при таких проходах, а также отсутствие в доступных данных подробных бенчмарков и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

ANITA-NEXT-20B-gpt-oss-ITA — языковая модель семейства ANITA, разработанная Марко Полиньяно и исследовательской группой SWAP Университета Бари Альдо Моро. Это дообученная методом SFT с QLoRA и дополнительно выровненная с помощью DPO версия openai/gpt-oss-20b. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев и последующего дообучения для задач на итальянском языке. Модель принимает текст и генерирует текст; карточка характеризует её как мультиязычную с акцентом на итальянский и английский. Архитектура — GPT-OSS с разреженной экспертной моделью (MoE), в репозитории используются веса Safetensors. Метаданные указывают 1,6 млрд параметров и контекст до 131 072 токенов; README предупреждает, что качество ответов ухудшается после 40 000 токенов. Лицензия — Apache-2.0. Модель подходит для италоязычных диалогов, генерации кода и построения агентных приложений. Разработчик предупреждает о возможных галлюцинациях и некорректных, оскорбительных или опасных ответах, поэтому результаты требуют проверки. В README релиз обозначен как предназначенный для исследовательских целей.

Apertus-SEA-LION-v4-8B-IT — многоязычная диалоговая языковая модель AI Singapore, разработанная при финансировании Национального исследовательского фонда Сингапура. Это плотная decoder-модель семейства Apertus с 10,3 млрд параметров по метаданным Hugging Face; в README она описана как модель на 8 млрд параметров. Модель дообучена на Apertus-8B-Instruct-2509 на примерно 6,4 млн пар инструкций и текстов, включая примеры для вызова инструментов. Использует токенизатор базовой модели и поддерживает контекст до 65 536 токенов. Модель предназначена для диалога и генерации текста с адаптацией к языкам и культурному контексту Юго-Восточной Азии. Она ориентирована на индонезийский, вьетнамский, тайский, филиппинский, тамильский, бирманский и малайский языки, а также обучалась на английском. Подходит для ответов на вопросы, многоходового чата, следования инструкциям, перевода, суммаризации и анализа тональности; карточка также сообщает о включении обучающих примеров для вызова инструментов. Модель распространяется по лицензии MIT. В README отмечены возможные галлюцинации и нерелевантные или непоследовательные ответы; устойчивость к состязательным запросам не проверялась, а отдельное выравнивание безопасности не проводилось.

Apertus-v1.5-70B — мультимодальная языковая модель на 70 млрд параметров, разработанная Swiss AI. Это decoder-only Transformer с функцией активации xIELU; модель создана продолжением предобучения Apertus 1.0 на мультимодальных данных и дополнительно обучена следовать инструкциям и работать с инструментами. Она принимает текст, изображения и аудио и генерирует текст, поддерживает много языков и контекст до 262 144 токенов. Для задач рассуждения можно включить режим thinking. Модель предназначена для диалогов, ответов на вопросы по изображениям и аудио, работы с длинными контекстами и интеграции с внешними инструментами. Заявлены открытые веса, данные и сведения о процессе обучения. Лицензия — Apache-2.0. Генерируемые ответы могут содержать фактические ошибки, быть логически непоследовательными или отражать смещения обучающих данных; важную информацию следует проверять. Для запуска с Transformers требуется ветка разработчика, поскольку интеграция ещё не вошла в выпущенную upstream-версию.

Apertus v1.5 70B text-only GGUF — это квантизированная версия базовой модели swiss-ai/Apertus-v1.5-70B, подготовленная в формате GGUF для запуска через llama.cpp. Модель разработана Swiss AI и предназначена для генерации и обработки текста, включая мультиязычные сценарии. Представленные файлы содержат только текстовый декодер с архитектурой Apertus и примерно 70 млрд параметров; варианты поставляются в квантизациях Q4_K_M и q8_0. Исходная Apertus v1.5 является мультимодальной моделью с компонентами для текста, изображений и аудио, однако в этой сборке vision- и audio-компоненты удалены. Поэтому модель не принимает изображения или аудиоданные и работает исключительно с текстом. Для запуска требуется актуальная версия llama.cpp с поддержкой архитектуры Apertus; vLLM этот GGUF-формат не поддерживает. В README также указано, что для корректной остановки генерации и отображения reasoning необходимо задать специальные параметры запуска. Главное преимущество сборки — возможность запускать Apertus v1.5 через стандартный llama.cpp без специальной ветки SwissAI и без исходных safetensors. При этом это тестовые квантизации без imatrix, измерений perplexity и результатов бенчмарков, поэтому качество и эффективность не были тщательно валидированы. Для опубликованных файлов указана лицензия Apache-2.0.

Apollo-1-4B — инструктивно дообученная языковая модель Noema Research на базе Qwen3-4B с архитектурой decoder-only Transformer и примерно 3,7 млрд параметров. Она предназначена для диалогов, следования инструкциям и рассуждений общего назначения, включая многошаговые запросы, образовательные сценарии, помощников по знаниям и прототипирование агентов. Модель принимает текст и генерирует текст; поддерживает широкий набор языков, включая русский. В README заявлен контекст до 32 тыс. токенов, тогда как метаданные указывают нативный контекст 131 072 токена. Модель рассчитана на сочетание качества и эффективности и может использоваться на мощном пользовательском оборудовании и облачных GPU. README сообщает о внутренних оценках улучшения рассуждений и следования инструкциям относительно Apollo-1-2B, но полный отчёт по бенчмаркам пока не представлен. Лицензия указана как anvdl-1.0 в README и как other в метаданных Hugging Face.

mrfakename/Apriel-5B-Instruct-llamafied — приблизительная конверсия Apriel-5B-Instruct в формат Llama, опубликованная пользователем mrfakename. Это плотная языковая модель с архитектурой LlamaForCausalLM примерно на 4,6 млрд параметров, предназначенная для генерации текста и диалогов. Модель принимает текст и выдаёт текст; заявленный контекст — 16 384 токена. Формат Llama упрощает запуск и совместимость с популярными средствами дообучения; для использования в Transformers не требуется trust_remote_code. Модель подходит для ведения диалога, выполнения инструкций, рассуждений, помощи с кодом и генерации текста — эти сценарии унаследованы от исходной Apriel-5B-Instruct. В карточке базовая модель описана как англоязычная; поддержка других языков отдельно не подтверждена. Файлы представлены в формате safetensors. Лицензия — MIT, как у исходной модели.

APUS-xDAN-4.0-MoE-v2 — авторская decoder-only трансформерная языковая модель с архитектурой Mixture of Experts, разработанная командой xDAN. В карточке указаны 136 млрд параметров и активация двух экспертов на токен; метаданные репозитория классифицируют веса как MixtralForCausalLM с 33,9 млрд параметров. Модель продолжает обучение на архитектуре LLaMA и опирается на возможности серии xDAN-L2; README сообщает об использовании обратной связи от людей для улучшения рассуждений, математических и логических задач. Модель предназначена для генерации текста и диалогового использования. Заявленная длина контекста — 32 768 токенов; метаданные указывают английский и китайский языки. README также описывает варианты квантования от 1,5 до 4 бит и совместимость открытой версии с потребительскими GPU. Репозиторий распространяется по лицензии CC BY 4.0.

AquilaChat-7B — диалоговая языковая модель BAAI, дообученная методом supervised fine-tuning и с использованием обучения с подкреплением на базе Aquila-7B. Модель содержит 6,9 млрд параметров, построена на плотной архитектуре семейства Aquila и рассчитана на контекст до 2048 токенов. Модель предназначена для ведения диалогов и генерации текста на китайском и английском языках. Расширяемый формат инструкций поддерживает вызов внешних моделей и инструментов; в README приведены примеры интеграции с генерацией и редактированием изображений, но сама AquilaChat-7B принимает и выдаёт текст. Модель обучена с нуля на двуязычном корпусе, в котором около 40% данных составляют китайские тексты. В карточке упомянуты оценки на C-Eval, MMLU и BoolQ, однако результатов недостаточно, чтобы судить о качестве во всех сценариях. Для кода указан тип лицензии «other»; README описывает отдельную лицензию BAAI для весов и допускает коммерческое использование с учётом её ограничений.

AFM-4.5B-GGUF — это квантизированная версия языковой модели AFM-4.5B, разработанной arcee-ai и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты с разными уровнями квантизации — от BF16 и Q8_0 до Q2_K_L и IQ3_XXS, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Модель поддерживает английский, испанский, французский, немецкий, итальянский, португальский, русский, арабский, хинди, корейский и китайский языки. В README не указаны архитектурные особенности, длина контекста, поддержка мультимодальности и подробные сведения о качестве на конкретных задачах. К сильным сторонам относятся широкий набор языков, возможность локального запуска и наличие вариантов, оптимизированных под разные аппаратные ограничения. Более агрессивная квантизация уменьшает потребление памяти, но может снижать качество; низкобитные варианты прямо обозначены как менее качественные или нерекомендуемые. Для генерации рекомендуется температура 0,5, top_k 50, top_p 0,95, repeat_penalty 1,1 и min_p 0,05; модель склонна к избыточно длинным ответам при более высокой температуре. Распространение указано на условиях лицензии Apache-2.0. Квантизация выполнена с использованием llama.cpp версии b6014 и метода imatrix на калибровочном наборе данных combined_all_medium.

Arcee-Maestro-7B-Preview-GGUF — это GGUF-квантизированная версия языковой модели Arcee-Maestro-7B-Preview, разработанной arcee-ai и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу текстовых генеративных моделей и имеет размер 7 млрд параметров. В README не указаны точная архитектура, поддерживаемые языки и размер контекстного окна. Доступны варианты квантизации от Q2_K_L до Q8_0, размер файлов — примерно от 3,5 до 8,1 ГБ. Для взаимодействия требуется специальный prompt format с системным сообщением, пользовательским запросом и секцией рассуждений. Сильная сторона этой версии — возможность локального запуска на оборудовании с ограниченными ресурсами за счёт выбора степени квантизации; варианты Q5–Q6 обозначены как высококачественные, а Q4_K_M — как оптимальный вариант для большинства сценариев. Более компактные варианты экономят память, но снижают качество. Модель распространяется под лицензией Apache-2.0.

Trinity-Large-TrueBase-GGUF — это квантизированная версия языковой модели Trinity-Large-TrueBase, разработанной arcee-ai и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться в llama.cpp, LM Studio, koboldcpp, Jan AI и других совместимых приложениях. В README указана поддержка английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Доступно множество вариантов квантования от Q8_0 до Q2_K_L, размером примерно от 157 до 424 ГБ; варианты Q6_K, Q5_K_M, Q5_K_S и Q4-серии рекомендуются как компромисс между качеством и требованиями к памяти. Более низкие уровни квантования экономят ресурсы, но снижают качество генерации. Архитектура, количество параметров, размер контекста и поддержка модальностей, кроме текста, в предоставленных данных не указаны. Модель подходит для локального текстового вывода при наличии значительного объёма оперативной или видеопамяти. Основные ограничения — очень большие размеры файлов, зависимость от совместимости используемого приложения с моделью и возможная потеря качества при агрессивном квантовании. Указана лицензия Apache-2.0.

Arcee-VyLinh — компактная языковая модель на 3,1 млрд параметров от Arcee AI для диалога, выполнения инструкций и генерации текста с упором на вьетнамский язык. Модель создана на основе Qwen2.5-3B и Qwen2.5-3B-Instruct: после дообучения на вьетнамских данных и итеративной оптимизации предпочтений её объединили с базовой инструктивной моделью. Используются плотная архитектура Qwen2, библиотека Transformers и формат safetensors. Модель принимает текст на вьетнамском и английском языках, поддерживает контекст до 32 768 токенов и предназначена для чата, ответов на вопросы, дополнения текста, создания и суммаризации материалов. По данным карточки, она показывает сильные результаты на сложных задачах на вьетнамском при компактном размере. Возможны галлюцинации в вопросах о культурно-специфических темах и сниженное качество в узкоспециализированных технических областях. Лицензия — Apache-2.0.

QuantFactory/ArliAI-Llama-3-8B-Dolfin-v0.3-GGUF — квантизированная версия модели OwenArli/ArliAI-Llama-3-8B-Dolfin-v0.3, созданная QuantFactory с использованием llama.cpp. Модель основана на Meta-Llama-3-8B-Instruct и дообучена на улучшенном наборе данных Dolphin и WizardLM. Модель предназначена для генерации текста, диалоговых сценариев и выполнения пользовательских инструкций. Дообучение ориентировано на более точное следование инструкциям и менее частые отказы от ответов. Поддерживается чатовый формат с системными сообщениями, пользовательскими запросами и ответами ассистента. Размер базовой модели составляет 8 млрд параметров; используется архитектура семейства Llama 3 и текстовая модальность. Обучение проводилось с длиной последовательности 2048 токенов, при этом заявлена работоспособность с контекстом до 8192 токенов. Дообучение выполнялось методом QLoRA с 4-битной загрузкой, рангом 64 и alpha 128; обучаемыми были примерно 2% параметров. Данные о поддерживаемых языках, конкретных параметрах квантизации и результатах бенчмарков не приведены. Модель может быть полезна в локальных приложениях и системах, где важны экономичное использование памяти и выполнение инструкций. Ограничения включают отсутствие опубликованных результатов OpenLLM Benchmark и неполное описание характеристик квантизированных вариантов. Использование регулируется лицензией Meta Llama 3 License, обозначенной в карточке как llama3.

QuantFactory/ArliAI-Llama-3-8B-Dolfin-v0.5-GGUF — это квантизированная в формате GGUF версия модели ArliAI-Llama-3-8B-Dolfin-v0.5, созданная с использованием llama.cpp. Исходная модель разработана на основе Meta-Llama-3-8B-Instruct и дообучена OwenArli на улучшенных наборах данных Dolphin и WizardLM. Квантизация выполнена QuantFactory. Модель предназначена для генерации текста, диалоговых приложений и выполнения инструкций. Дообучение ориентировано на более точное следование инструкциям и менее частые отказы от ответов. Модель использует архитектуру семейства Llama 3 и содержит около 8 миллиардов параметров. Поддерживается текстовая модальность; конкретные языки в README не указаны. Заявлена работа с контекстом до 8192 токенов, хотя обучение проводилось с длиной последовательности 2048 токенов. Модель обучалась с использованием QLoRA: 4-битной загрузки, rank 64 и alpha 128; обучаемыми были примерно 2% весов. Квантизированный формат рассчитан на запуск через llama.cpp и может быть удобен для локального инференса с ограниченными аппаратными ресурсами. Ограничения включают отсутствие подробных результатов OpenLLM Benchmark в представленном README и отсутствие точной информации о поддерживаемых языках, фактическом качестве на разных задачах и требованиях к аппаратному обеспечению. Модель распространяется по лицензии Meta Llama 3 License, унаследованной от базовой Meta-Llama-3-8B-Instruct. Условия этой лицензии необходимо учитывать при использовании и распространении модели.

armaGPT — дообученная модель генерации текста на основе Gemma, разработанной Google. Автор карточки указывает, что модель настроена с помощью DPO для более безопасной и справедливой генерации; метаданные относят её к семейству Gemma и указывают 8,2 млрд параметров. Модель принимает текст и генерирует продолжение или ответ, в том числе на вопросы. Заявленная длина контекста — 8192 токена; карточка отмечает английский язык. Веса доступны в формате safetensors, библиотека — Transformers. Модель подходит для ответов на вопросы, создания текстов и диалоговых сценариев на английском языке. Описание архитектуры в README содержит неточность: GemmaForCausalLM относится к авторегрессионной трансформерной архитектуре. Лицензия репозитория — MIT. README называет базовую модель Gemma 7b, а число параметров в метаданных составляет 8,2 млрд.