I.5Создание и редактирование текста

Admiral-Llama-3-8B — языковая модель семейства Llama, разработанная mayacinka и дообученная на базе unsloth/llama-3-8b-bnb-4bit. Для обучения использовались Unsloth и библиотека TRL; в метаданных указан датасет vicgalle/alpaca-gpt4. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Длина контекста составляет 8192 токена. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или более подробных сведений о настройке дообучения.

Aeonium-v0-Base-1B — базовая языковая модель семейства Llama, разработанная Aeonium. Это предварительный чекпойнт для генерации текста; он обучен на веб-страницах, преимущественно на русском языке. В README для описанной версии указано 1,6 млрд параметров и обучение на 32 млрд токенов, тогда как метаданные репозитория указывают 1,4 млрд параметров; поэтому размер версии не вполне согласован между источниками. Метаданные также указывают контекст 4096 токенов и формат safetensors. Модель предназначена для генерации русского текста и может использоваться как основа для прототипов языковых приложений или дальнейшего дообучения. Репозиторий помечен как text-generation и использует архитектуру LlamaForCausalLM. Разработчики предупреждают, что ответы могут содержать предвзятость, оскорбительные формулировки и фактические ошибки, поэтому модель требует фильтрации для чувствительных и высокорисковых сценариев. Лицензия — Apache 2.0.

Aeonium v1 Base 4B — базовая языковая модель семейства Llama, разработанная Aeonium. Это предварительная версия с 3,6 млрд параметров, обученная на веб-страницах, преимущественно на русском языке. Модель предназначена для генерации текста и русскоязычных языковых задач; её контекст составляет 4096 токенов. Модель принимает текст и генерирует текст. Карточка предоставляет пример загрузки через Transformers. Обучение на данных из интернета может приводить к предвзятым, оскорбительным или недостоверным ответам, поэтому результаты требуют проверки, особенно в чувствительных и ответственных сценариях. Распространяется по лицензии Apache 2.0.

MindsAndCompany разработала agiin-13.6B-v0.1 — разговорную языковую модель на архитектуре Mistral с 13,7 млрд параметров. В карточке указано, что модель создана на основе Mistral, а при обучении использовался датасет Intel/orca_dpo_pairs и метод DPO; архитектура описана как 62 слоя. Модель предназначена для генерации текста в диалоговом формате, включая ответы на запросы и ведение беседы. Заявление автора о новой архитектуре, не требующей предварительного обучения, приведено в карточке, но подробности не раскрыты. Модель принимает текст и генерирует текст. В метаданных указан английский язык и контекст до 4096 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализированные области применения и не приводит оценки качества; модель опубликована как версия 0.1.

Agnes-SeaLLM-8B — дообученная авторами Agnes-AI плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров. Она предназначена для диалогов и следования инструкциям, а также для математических рассуждений и перевода с особым вниманием к языкам и культурному контексту Юго-Восточной Азии. Модель принимает текст и генерирует текст; заявлена поддержка английского, вьетнамского, индонезийского, тайского и китайского языков. Контекст — до 40 960 токенов. В README заявлены высокая эффективность при ограниченных ресурсах, сильные результаты на экзаменационных тестах и меры по снижению галлюцинаций, однако приведённые таблицы результатов опущены. Для запуска README рекомендует как минимум две GPU с 24 ГБ VRAM каждая и 64 ГБ оперативной памяти. Распространяется по лицензии Apache-2.0.

Ahma-3B-Slerp — языковая модель для генерации текста, созданная объединением двух контрольных точек Ahma-3B с помощью LazyMergekit и метода slerp. Модель основана на архитектуре Llama и содержит 3,4 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекст составляет 2048 токенов; веса представлены в формате safetensors, а при слиянии использовалась точность bfloat16. Карточка не уточняет языковое покрытие и специализированные области применения. Условия лицензирования в предоставленных данных не описаны. Короткое окно контекста ограничивает работу с длинными запросами и документами.

AI21-Jamba2-3B-GGUF — это набор квантизированных моделей для генерации текста, созданный сообществом bartowski на основе AI21-Jamba2-3B от AI21 Labs. Модели распространяются в формате GGUF и подготовлены с использованием llama.cpp и метода imatrix. Они предназначены для локального запуска и текстовой генерации в совместимых инструментах, включая llama.cpp, LM Studio, koboldcpp, Jan AI и Text Generation Web UI. В набор входят варианты от BF16 до квантизаций Q8, Q6, Q5, Q4, Q3 и IQ3/IQ4 с размером файлов примерно от 1,4 до 6,4 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, тогда как компактные варианты подходят для систем с ограниченной оперативной памятью. Рекомендуемыми указаны многие варианты Q6, Q5 и Q4; Q4_K_M обозначен как типичный выбор для большинства сценариев. Для работы следует использовать указанный формат чата с системным сообщением, запросом пользователя и ответом ассистента. Сильные стороны модели — возможность локального запуска, широкий выбор компромиссов между качеством и потреблением памяти, а также совместимость с экосистемой llama.cpp. Ограничения включают неизбежную потерю качества при низких уровнях квантизации и возможную необходимость обновления программного обеспечения для недавно поддержанных моделей. В README не указаны архитектурные детали, поддерживаемые языки и размер контекстного окна. Указанная лицензия — Apache-2.0.

airoboros-13b-gpt4-1.4 — плотная авторегрессионная модель семейства LLaMA примерно на 12,9 млрд параметров, дообученная автором jondurbin на синтетических данных, созданных с помощью GPT-4. Это полное дообучение, а не QLoRA; модель опубликована в формате PyTorch и использует шаблон диалога Vicuna 1.1. Модель предназначена для генерации ответов в диалоге, ответов на вопросы по предоставленному контексту, написания текстов и кода. В обучающие примеры включены многоходовые беседы, ролевые диалоги, шутки, загадки и задачи по программированию на десяти языках. Контекстное окно составляет 2048 токенов; русский язык отдельно не заявлен. Автор сообщает, что модель обучали отвечать по заданному контексту и стараться ограничивать ответ его содержимым, однако это не гарантирует отсутствия выдуманных фактов. В карточке также указана настройка на ответы без отказов, в том числе на потенциально незаконные или аморальные запросы. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

airoboros-33b-gpt4-1.4 — плотная авторегрессионная языковая модель семейства LLaMA с 32,3 млрд параметров, дообученная Джоном Дёрбином методом QLoRA на синтетических данных, созданных GPT-4. Модель предназначена для диалогов с ассистентом, ответов на вопросы по заданному контексту, написания текстов и кода, ролевых бесед, загадок и викторин. Для программирования обучающие примеры включают задачи Rosetta Code на десяти языках программирования. Модель принимает текст и генерирует текст; для диалогов использует шаблон Vicuna 1.1 и обученный формат с ролями пользователя и ассистента. В карточке указан контекст длиной 2048 токенов. При ответах по предоставленному контексту модель настраивали опираться на него и ограничивать выдуманные сведения, однако README отмечает, что этот режим лучше дополнительно инструктировать не придумывать неизвестные ответы. Автор пометил модель как ещё не протестированную, поэтому её качество и надёжность не подтверждены. В README также указано, что она формировалась для ответов без отказов, в том числе независимо от законности или морали запроса. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Карточка модели jondurbin/airoboros-l2-70b-2.1 на Hugging Face совпадает с карточкой jondurbin/airoboros-l2-13b-2.1, поэтому описание составлено по ней. airoboros-l2-13b-2.1 — языковая модель на архитектуре Llama 2, дообученная Jondurbin на синтетических инструкциях Airoboros. Она предназначена для диалогов и выполнения инструкций: ответов по заданному контексту, написания текстов и следующих глав, ролевых бесед, помощи с кодом, планирования и генерации аргументов функций в JSON или YAML. В обучающий набор вошли примеры стилизованных ответов и экспериментальные форматы ролевых диалогов. Модель содержит 12,9 млрд параметров, работает с текстом и имеет нативное контекстное окно 4096 токенов. Для диалогов используется формат с маркерами USER и ASSISTANT; карточка рекомендует останавливать генерацию при появлении USER:, поскольку модель может продолжить имитацию диалога. В README указано, что версия 2.1 имеет ошибку форматирования промптов при обучении, которая может ухудшать работу; заявлена как экспериментальная. Модель распространяется по лицензии Llama 2. В карточке описан небольшой набор для ослабления цензурных ограничений, поэтому ответы могут включать чувствительный контент; качество и соблюдение инструкций не гарантированы.

Карточка модели uukuguy/airoboros-m-7b-3.1.2-dare-0.85 на Hugging Face совпадает с карточкой uukuguy/neural-chat-7b-v3-1-dare-0.85, поэтому описание составлено по ней. uukuguy/neural-chat-7b-v3-1-dare-0.85 — экспериментальная версия Intel/neural-chat-7b-v3-1, созданная с применением метода DARE (Drop and REscale). В ней случайным образом обнулена доля весовых изменений, соответствующая weight_mask_rate 0.85, с масштабированием оставшихся изменений. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и может использоваться для диалога, ответов на вопросы и решения текстовых задач. В карточке приведены результаты бенчмарков ARC, HellaSwag, MMLU, TruthfulQA, Winogrande, GSM8K и DROP, однако подробные инструкции по запуску и оценке качества отсутствуют. Распространяется в формате PyTorch по лицензии Llama 2; условия лицензии следует учитывать при использовании.

Air-Striker-Mixtral-8x7B-ZLoss — текстовая авторегрессионная модель семейства Mixtral с архитектурой Mixture of Experts, представленная в формате PyTorch FP16. Карточка описывает её как объединение LoRA с базовой моделью; упоминается отдельная instruct-версия, но данный репозиторий содержит не её. В метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Разработчик не приводит подробностей о целевых сценариях, языках или результатах оценки качества. Репозиторий создан 22 февраля 2024 года. Условия лицензии в доступных данных не указаны.

Aitana-2B-S-base-1.0-i1-GGUF — это GGUF-квантизированная версия базовой языковой модели Aitana-2B-S-base, разработанной GPLSI и опубликованной mradermacher. Квантизация выполнена mradermacher с использованием weighted/imatrix-подхода; доступны варианты с разными типами квантизации и размером примерно от 1,0 до 2,0 ГБ. Модель предназначена для генерации и обработки текста, включая сценарии на валенсийском и каталанском языках, а также испанском и английском. В обучении использовались наборы данных alia_dogv, alia_les_corts, alia_amic, alia_boua и alia_tourism. README не содержит сведений об архитектуре, размере контекста, точной структуре модели или поддержке других модальностей, поэтому её следует рассматривать как текстовую языковую модель без подтверждённой мультимодальности. Основное преимущество представленной версии — возможность запуска в компактном формате GGUF и выбора компромисса между качеством, скоростью и потреблением памяти. Рекомендуемыми вариантами названы i1-Q4_K_M и i1-Q4_K_S; низкобитные варианты могут заметно уступать в качестве, тогда как более крупные варианты требуют больше памяти. Модель распространяется по лицензии Apache-2.0.

Ak4ri-7b — слитая модель для генерации текста, созданная автором репозитория с помощью LazyMergekit. Она объединяет Virt-io/Irene-RP-v3-7B и Smuggling1710/Erosumika-MistralLayla-Slerp методом slerp; архитектура — Mistral с плотной структурой и 7,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Модель подходит для диалоговой генерации и ролевых текстовых сценариев, унаследованных от исходных моделей. Доступны веса в формате safetensors, а конфигурация слияния задаёт тип bfloat16. Лицензия в предоставленных данных не указана.

prince4332/ak-ga-en-2 — текстовая модель генерации на базе архитектурного семейства Qwen3.5 Text, опубликованная на Hugging Face. В метаданных указаны библиотека Transformers, формат safetensors и размер около 585,4 млн параметров. Модель предназначена для генерации текста и диалоговых сценариев. Она поддерживает контекст длиной до 262 144 токенов, что позволяет работать с большими объёмами входного текста. Метаданные не содержат сведений о разработчике, языках, лицензии, датасетах, результатах оценки или специальных прикладных областях. README является автоматически сгенерированной карточкой и не описывает конкретные сильные стороны, ограничения или условия использования модели. Перед применением в продуктивных системах необходимо самостоятельно проверить качество на целевых данных, совместимость с задачей и лицензионные условия репозитория.

Albatross-8B-Instruct — диалоговая языковая модель на архитектуре Llama, созданная автором репозитория слиянием нескольких моделей через TIES в mergekit. В слияние вошли NousResearch/Hermes-3-Llama-3.1-8B, unsloth/Meta-Llama-3.1-8B-Instruct и qingy2024/NaturalLM3-8B-Instruct-v0.1; в качестве базовой модели указана unsloth/Meta-Llama-3.1-8B. Модель содержит 7,5 млрд параметров, использует формат safetensors и библиотеку Transformers, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста в диалоге и выполнения инструкций; метаданные также указывают интерфейс вызова инструментов. Карточка не приводит результатов оценки качества или подробного описания языкового охвата, поэтому её сильные стороны в конкретных задачах и практическую надёжность нельзя оценить по имеющимся данным. Лицензия в предоставленных данных не указана.

AliceAI-Foundation-80B-A3B-Base — базовая авторегрессионная языковая модель, разработанная Yandex и обученная с нуля на этапе предобучения. Она использует гибридную архитектуру с MoE-слоями: всего 80 млрд параметров, из которых для каждого токена активируются около 3 млрд. В модели 48 слоёв, 512 экспертов и контекст до 262 144 токенов. Модель предназначена для генерации текста и служит основой для дальнейшей адаптации под диалоговые, агентские и другие сценарии. В README отмечены сильные результаты в математике, программировании и задачах на рассуждение, а также особая сила в фактических знаниях на русском языке. В репозитории приведены бенчмарки для русскоязычного контекста и примеры запуска через Transformers и vLLM. Поддерживаются русский и английский языки; опубликованные веса доступны в формате safetensors. Лицензия — Apache-2.0. Это базовая модель без единого формата диалога, автоматически применяемого при инференсе; для дообучения README рекомендует рендерить данные в формате OpenAI Messages с шаблоном репозитория. Для запуска KDA-слоёв на GPU нужны совместимые реализации, а практическое использование модели такого размера требует значительных вычислительных ресурсов.

ewqr2130/alignment-handbook-zephyr-7b-sft-full-dpo-5e7-cont2 — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, опубликованная пользователем ewqr2130. Название и карточка указывают на продолжение обучения Zephyr 7B с применением supervised fine-tuning и Direct Preference Optimization; в README упомянуто 7 тысяч шагов обучения. Модель предназначена для генерации текста в диалоге: ответов на вопросы и поддержания переписки. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache 2.0. Карточка не сообщает о специализированной предметной области или языках обучения и не приводит оценок качества. Возможны типичные для генеративной языковой модели ошибки и выдуманные сведения; качество на конкретных задачах следует проверять отдельно.

aligntune-testrun-RAFT — дообученная диалоговая языковая модель, опубликованная ram-lexsi и созданная с помощью AlignTune. Она основана на Qwen/Qwen2.5-0.5B-Instruct: это плотная модель семейства Qwen2 с 494 млн параметров, предназначенная для генерации текста и диалогов. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README приведён пример загрузки через Transformers. Карточка не описывает конкретный алгоритм дообучения, целевые данные или специализацию, поэтому модель уместно рассматривать как компактную модель общего назначения для диалоговых приложений и выполнения инструкций. Лицензия в предоставленных данных не указана.

Olmo-3-32B-Think-GGUF — это набор квантизированных GGUF-версий языковой модели Olmo-3-32B-Think, разработанной Allen Institute for AI (allenai) и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Варианты представлены в форматах от BF16 до низкобитных Q- и IQ-квантизаций; размер файлов составляет примерно от 13 до 64 ГБ. Доступен англоязычный режим, поскольку в карточке указано только English. Модель относится к текстовым, а не мультимодальным системам. Архитектура и размер контекстного окна в README не указаны. Главное преимущество набора — возможность выбрать компромисс между качеством и требованиями к памяти: варианты Q6 и Q5 обеспечивают очень высокое качество, Q4 подходят для большинства сценариев, а Q3 и IQ3 рассчитаны на системы с ограниченным объёмом RAM, но заметно уступают по качеству. Ограничения включают отсутствие заявленной поддержки других языков, неизвестные характеристики контекста и необходимость достаточно производительного оборудования для крупных версий. Квантизация выполнена с использованием imatrix и llama.cpp. Лицензия модели — Apache-2.0.

Это GGUF-квантизированная версия языковой модели Olmo-3-7B-Instruct, разработанной Allen Institute for AI (AI2) и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и диалоговых сценариев на английском языке, включая работу через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Модель содержит 7 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и Q2. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны файлы размером примерно от 3,26 до 14,60 ГБ. Для общения следует использовать шаблон с ролями system, user и assistant в формате специальных токенов im_start и im_end. Сведения о длине контекста, архитектурных деталях, мультимодальности и поддержке других языков в README не указаны. Сильной стороной модели является широкий выбор квантизированных вариантов, позволяющий адаптировать качество, размер файла и требования к оперативной памяти; варианты Q4 и выше описаны как рекомендуемые для большинства сценариев. Более компактные варианты экономят память, но обеспечивают более низкое качество. Модель предназначена для локального запуска, однако конкретные требования к производительности зависят от выбранного варианта квантования и оборудования. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели Olmo-3-7B-Think, разработанной Allen Institute for AI (ai2) и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит около 7 миллиардов параметров, работает с текстом и заявлена для английского языка. Доступны варианты от BF16 до различных уровней квантования Q2–Q8 и IQ, размером примерно от 3,3 до 14,6 ГБ. Квантизация выполнена с использованием imatrix, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы; наиболее качественными считаются BF16, Q8 и варианты Q6, тогда как низкие уровни квантования требуют меньше оперативной памяти, но могут заметно ухудшать результаты. Основные преимущества модели — возможность локального запуска на совместимом оборудовании, широкий выбор вариантов квантования и поддержка экосистемы llama.cpp. Ограничения включают ориентацию на английский язык, отсутствие заявленной мультимодальности и потенциальную потерю качества при использовании сильного квантования. Для работы следует применять указанный шаблон prompt с секцией размышлений <think>. Модель распространяется по лицензии Apache-2.0.

AlloyIngotNeoY — объединённая языковая модель, созданная с помощью mergekit на основе ammarali32/multi_verse_model с включением yam-peleg/Experiment26-7B. Это плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленный размер контекста — 32 768 токенов. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. Модель подойдёт для генерации продолжений текста и диалоговых ответов в приложениях на базе языковых моделей. README указывает метод объединения task_swapping_ties и доли весов источников, но не приводит оценок качества или сведений о специализированных навыках. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия текстовой генеративной модели Q3-30B-A3B-Designant, разработанной allura-org и преобразованной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, прежде всего для диалоговых сценариев, ролевого общения и следования инструкциям. В обучении или дообучении заявлено использование наборов данных, связанных с диалогами, персонажами, прозой, рассуждениями, физическим и медицинским анализом, а также instruction following и DPO. Модель доступна в формате GGUF с вариантами квантизации от bf16 и Q8_0 до Q3 и IQ4. Размер файлов зависит от варианта и составляет примерно от 16 до 61 ГБ. Для работы указаны LM Studio, llama.cpp и другие совместимые проекты. Рекомендуемый шаблон запросов использует специальные маркеры ролей <|im_start|> и <|im_end|>. Сведения о поддерживаемых языках, длине контекста, мультимодальности и точной архитектуре в README не приведены; по представленным данным это текстовая, а не мультимодальная модель. Сильной стороной являются различные уровни квантизации, позволяющие выбирать между качеством и требованиями к памяти; варианты Q5 и Q6 описаны как высококачественные, а Q3 — как пригодные для систем с ограниченным объёмом оперативной памяти. К ограничениям относятся возможная потеря качества при более агрессивной квантизации и отсутствие в README сведений о лицензии, поэтому условия использования необходимо уточнять на странице исходной модели и соответствующих наборов данных.

Это GGUF-квантизированная версия языковой модели remnant-qwen3-8b, разработанной allura-org. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев и ролевого общения; в README также указаны теги conversational и roleplay. Модель относится к семейству Qwen3 и имеет размер 8 миллиардов параметров. Она работает в текстовой модальности и поддерживает шаблон сообщений ChatML с ролями system, user и assistant. Доступны варианты от BF16 до низкобитных форматов GGUF, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и Q3_K; размеры файлов составляют примерно от 3,77 до 16,39 ГБ. В README не указаны точные поддерживаемые языки, размер контекстного окна и подробности архитектуры. Сильной стороной модели является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, потреблением памяти и скоростью локального запуска. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M или Q6_K. Модель можно использовать через LM Studio, llama.cpp и другие проекты на его основе. Ограничения качества и поведения зависят от выбранного уровня квантизации, а специализированные возможности, такие как обработка изображений, не заявлены. Лицензия — Apache-2.0.

Aeala/Alpaca-elina-65b — текстовая авторегрессионная модель семейства LLaMA на 65 млрд параметров, созданная как слияние ChanSung/Alpaca-LoRA-65B-elina. Она предназначена для генерации текста и диалоговых сценариев в стиле Alpaca. Модель использует архитектуру LlamaForCausalLM, распространяется в формате PyTorch и рассчитана на контекст до 2048 токенов. В карточке указано, что её отправили на Open LLM Leaderboard; результаты бенчмарков в README пока не приведены. Лицензия и отдельные сведения о языках в доступных данных не указаны, поэтому условия использования и качество для конкретных языков определить нельзя.

EpistemeAI/Alpaca-Llama3.1-8B.gguf — текстовая авторегрессионная модель семейства Llama 3.1, разработанная на основе Meta Llama 3.1 8B и дообученная в формате Alpaca с применением ORPO. Это плотный трансформер LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит GGUF F16, PyTorch и Safetensors версии. Модель принимает текст и генерирует текст. Модель предназначена для диалогового помощника и генерации текста: она может отвечать на вопросы, следовать инструкциям и помогать с черновиками и синтетическими данными. В README перечислена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; отдельная настройка на русский не заявлена. Качество и безопасность ответов могут быть неоднородными, особенно на неподдерживаемых языках, а знания модели ограничены данными обучения. Для использования действует лицензия Llama 3.1 Community License с условиями и ограничениями Acceptable Use Policy.

AlphaMonarch-daser — диалоговая модель, созданная abideen на основе mlabonne/NeuralMonarch-7B. Это дообученная методом DPO модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста, общения и следования инструкциям. Для обучения использован набор предпочтений argilla/OpenHermes2.5-dpo-binarized-alpha; автор сообщает о 1080 шагах обучения и сочетании методов LaserQLoRA и DoRA с обучением половины проекций. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В метаданных указан английский язык. Автор приводит сравнения с родственными вариантами на YALL leaderboard и OpenLLM bench, где результаты различаются в зависимости от бенчмарка. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Altworld_Astrea-R8-Chat-9B-GGUF — квантизированная версия модели Astrea-R8-Chat-9B, разработанной Altworld и подготовленной пользователем bartowski в формате GGUF для запуска с llama.cpp. Модель содержит около 9 млрд параметров и предназначена для диалоговых задач и creative writing. Заявлена поддержка английского языка. Модель поддерживает текстовый ввод, а также изображения при использовании отдельного файла mmproj, поэтому может применяться в мультимодальных сценариях. В репозитории доступны варианты от BF16 до 2- и 8-битных квантизаций, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. В README рекомендуются, в частности, варианты Q4_K_M, Q5_K_M и Q6_K; Q4_K_M размером около 5,91 ГБ обозначен как сбалансированный вариант для большинства задач. Поддержка MTP отсутствует, используется imatrix-квантизация. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска через llama.cpp и поддержка изображений при наличии необходимого multimodal-компонента. Ограничения включают зависимость мультимодального режима от файла mmproj, возможное снижение качества на низких уровнях квантизации и отсутствие сведений о размере контекстного окна, точной архитектуре, результатах тестирования и поддерживаемых языках помимо английского. Модель распространяется по лицензии Apache-2.0.

Altworld_Hemmingway-1-GGUF — квантизированная версия текстовой генеративной модели Hemmingway-1, разработанной Altworld. Квантизацию выполнил bartowski с использованием llama.cpp. Модель предназначена для чат-сценариев и творческого письма; заявлена поддержка английского языка и только текстового ввода. Модель содержит 27 млрд параметров и распространяется в формате GGUF с вариантами квантизации от bf16 и Q8_0 до более компактных IQ3 и Q3. Доступна поддержка speculative decoding с MTP и imatrix-квантизации. Рекомендуемым компромиссом между качеством и размером указан вариант Q4_K_M объёмом 17,44 ГБ; более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти. В README не указаны архитектура исходной модели, максимальная длина контекста, результаты тестирования и дополнительные модальности, поэтому эти характеристики нельзя оценить. Ограничения связаны с потребностью в значительном объёме оперативной или видеопамяти и возможным снижением качества у компактных вариантов квантизации. Указанная лицензия — Apache-2.0.