I.2Синтез, понимание и проверка знаний

RedHatAI/Llama-3.2-1B-Instruct-quantized.w8a8 — квантизированная версия Llama-3.2-1B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая autoregressive-модель архитектуры Llama-3, предназначенная прежде всего для диалоговых ассистентов, генерации текста и многоязычных коммерческих и исследовательских сценариев. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель использует INT8-квантизацию весов и активаций по схеме W8A8. Для весов применяется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная потокенная квантизация; при подготовке использовались SmoothQuant и GPTQ. По заявлению разработчика, это примерно на 50% снижает требования к памяти GPU и размер модели на диске, а также примерно вдвое повышает пропускную способность матричных умножений. В опубликованных тестах показатели находятся в пределах 5% от неквантизированной версии на MMLU, ARC-Challenge, GSM-8K, HellaSwag, Winogrande и TruthfulQA. Для эффективного развёртывания рекомендуется vLLM; в примере указана максимальная длина контекста 8192 токена. К сильным сторонам относятся компактный размер в 1B параметров, сниженные требования к ресурсам, ускоренное выполнение и сохранение близкой к исходной точности. Ограничения связаны с небольшим размером модели и возможной потерей качества из-за квантизации; README не содержит подробных результатов по каждому языку, полной спецификации контекстного окна и детального анализа безопасности. Модель распространяется по лицензии Llama3.2; использование должно соответствовать применимым законам и нормативным требованиям.

Llama-3.3-Argunaut-1-70B-SFT — дообученная командой DebateLabKIT версия Meta Llama 3.3 70B Instruct для диалогов об аргументации и критическом мышлении. Модель основана на плотной архитектуре Llama и содержит 69,5 млрд параметров; поддерживает генерацию текста с контекстом до 131 072 токенов. Обучение с учителем проведено с помощью TRL на смеси диалогов по анализу аргументов, построению карт аргументации и набора Tülu 3. Модель предназначена для ответов на вопросы об аргументах и синтаксисе Argdown, а также для создания и разбора структурированных аргументаций в формате диалога. Она использует мультиязычную базовую модель, однако карточка не уточняет языки, охваченные специализированными данными. Для работы необходима совместимая среда Transformers; веса опубликованы в формате safetensors. Лицензия — Llama 3.3 Community License.

Llama3-70B-Chinese-Chat — диалоговая языковая модель Shenzhi Wang и соавторов, дообученная методом ORPO на базе Meta-Llama-3-70B-Instruct. Она предназначена для общения на китайском и английском языках, ролевых диалогов, математических задач и вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, около 69,5 млрд параметров и контекст до 8192 токенов; принимает текст и генерирует текст. Авторы сообщают, что обучение на более чем 100 тысячах пар предпочтений с примерно равной долей китайских и английских данных уменьшает смешение языков в ответах. В README приведены результаты C-Eval и CMMLU; эти заявления отражают оценку авторов и не гарантируют качество на других задачах. Лицензия — Llama 3 License. Карточка предупреждает, что модель не дообучали на сохранение идентичности, поэтому ответы о её личности и разработчиках могут быть случайными.

Dampfinchen/Llama-3-8B-Ultra-Instruct — объединённая модель на базе Llama 3 8B, созданная Dampfinchen с помощью mergekit и метода DARE TIES. В состав слияния вошли инструкционная Llama 3, модели для диалогов и ролевых сценариев, Bagel, модель с немецкоязычными возможностями и OpenBioLLM. В репозитории указаны 7,5 млрд параметров, архитектура LlamaForCausalLM, формат safetensors, библиотека Transformers и контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста общего назначения, в том числе для ответов на вопросы, поддержки RAG и ролевого общения. В README заявлены усиленные знания по биологии и медицине, немецкоязычные возможности и поддержка vision, однако метаданные классифицируют модель как текстовую, поэтому мультимодальную поддержку нельзя считать подтверждённой. Модель объединяет компоненты с uncensored-ролевой настройкой и может выдавать вредные или недостоверные ответы; медицинские сведения требуют проверки. Лицензия — Llama 3 License.

llama-3-Stheno-Mahou-8B — плотная авторегрессионная языковая модель семейства Llama 3, созданная автором nbeerbower с помощью mergekit. Это слияние методом Model Stock моделей flammenai/Mahou-1.1-llama3-8B и Sao10K/L3-8B-Stheno-v3.1 с flammenai/Mahou-1.2-llama3-8B в качестве базовой модели слияния. Модель содержит 7,5 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового общения. Условия лицензии указаны как llama3. Доступные сведения не описывают отдельные языковые специализации или прикладные области модели.

KaraKaraWarehouse/Llama-ProgressPushDoll-3.3-70Bees — диалоговая языковая модель на архитектуре Llama, созданная объединением нескольких моделей семейства Llama 3.3 70B методом Model Stock. В качестве основы использована Llama-3.3-70B-Instruct; среди объединённых моделей — Mirai, Euryale, Anubis, Sushi и другие варианты Llama 3.3. Модель содержит 69,5 млрд параметров и принимает текстовые запросы для генерации текста и диалоговых ответов. Модель рассчитана на общие беседы и генерацию текста. В README указана совместимость с форматами запросов ChatML и L3 chat. Метаданные сообщают о контекстном окне до 131 072 токенов и формате весов safetensors. Автор описывает сборку как попытку получить модель, которая хорошо работает «из коробки», однако количественные оценки качества и отдельные специализированные возможности не приведены. Использование регулируется лицензией базовой модели Llama 3.3; конкретный идентификатор лицензии в предоставленных данных не указан.

llm-jp-3-1.8b-instruct — инструктивная версия языковой модели семейства llm-jp-3, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная авторегрессионная Transformer-модель архитектуры LlamaForCausalLM с 1,7 млрд параметров по метаданным и контекстом до 4096 токенов. Репозиторий распространяет веса в формате Safetensors для Transformers. Модель предназначена для диалогов и выполнения текстовых инструкций, включая ответы на вопросы, написание текстов и простые рассуждения. Она обучалась на смеси данных, включая японские источники, и дообучалась на японских инструктивных наборах; метаданные также указывают английский и японский языки. В оценках авторов она показала улучшение относительно базовой версии llm-jp-3-1.8b на ряде задач, однако результаты ограничены указанными тестовыми выборками. Разработчики отмечают, что семейство находится на раннем этапе исследований и разработок и не настроено для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Magnum v2 32B GGUF — это квантизированные варианты текстовой генеративной модели Anthracite, разработанные командой Anthracite и созданные на основе Qwen1.5 32B. Модель дообучалась для воспроизведения качества прозы моделей Claude 3, прежде всего Sonnet и Opus, и предназначена для диалогов, генерации текста, выполнения инструкций и задач, где важны качество и структура письменного ответа. Модель поддерживает текстовую модальность и ориентирована на английский и китайский языки. Она содержит около 32 миллиардов параметров, распространяется в формате GGUF и использует ChatML для форматирования диалоговых запросов. В README не указана длина контекстного окна и не приведены сведения о конкретных вариантах квантизации, производительности или системных требованиях. Дообучение проводилось в течение двух эпох на наборах данных, связанных с диалогами, рассуждениями и качественной прозой. К сильным сторонам относятся крупный размер, ориентация на естественную и выразительную генерацию текста, а также поддержка локального запуска через совместимые инструменты для GGUF. Ограничения включают отсутствие подробных оценок качества, неполные сведения о безопасности и неизвестные характеристики отдельных квантизированных сборок. Лицензия обозначена как other с названием tongyi-qianwen; в качестве текста лицензии указана лицензия Qwen2-72B-Instruct.

matutake — это японско-ориентированная диалоговая модель, разработанная summerMC путём полного дообучения с учителем модели summerMC/Sakura на датасете summerMC/v-Fable. Она основана на плотной архитектуре Qwen2ForCausalLM и содержит 1,5 млрд параметров; для генерации принимает текст в формате чата и использует контекст до 32 768 токенов. Модель рассчитана на японские беседы, ответы на инструкции, объяснения, обобщение и сравнение информации, а также ролевые и стилизованные ответы в духе Fable. Модель ориентирована на естественный ход диалога и развёрнутые ответы. Карточка предупреждает, что факты и выводы могут быть ошибочными, длинные ответы могут терять связность, а стиль — становиться излишне эмоциональным или многословным. Для важных решений и автоматических ответов требуется проверка человеком. Условия использования зависят от лицензий базовой модели и обучающего датасета; перед использованием следует проверить их карточки. Файлы модели представлены в формате safetensors.

MavenCat — объединённая Джеффери Лавли модель для генерации текста на основе двух моделей: occultml/CatMarcoro14-7B-slerp и jefferylovely/AiMaven-SmartMarc. Она использует архитектуру Mistral с плотной причинной языковой моделью на 7,1 млрд параметров и контекстом до 32 768 токенов. Объединение выполнено методом SLERP с помощью LazyMergekit; в репозитории указаны веса в формате safetensors и тип данных bfloat16. Модель предназначена для генерации текста и диалоговых сценариев на длинном контексте. Карточка не описывает конкретную специализацию, поддерживаемые языки или оценку качества. Лицензия CC BY-NC-ND 4.0 требует атрибуции и ограничивает коммерческое использование и распространение производных версий.

MeliodasPercival_01_YamMulti_verse_model — объединённая модель Mistral, созданная на основе automerger/MeliodasPercival_01-7B и automerger/YamMulti_verse_model-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Доступные сведения не описывают отдельные специализации, языковое покрытие или результаты оценки качества.

Menlo_Jan-nano-128k-GGUF — это набор квантизованных версий языковой модели Jan-nano-128k, разработанной Menlo и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Указана поддержка английского языка и контекст длиной до 128 тысяч токенов, однако сведения об архитектуре, количестве параметров, дополнительных модальностях и точных сценариях применения в README отсутствуют. Доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантований размером примерно от 1,67 до 8,05 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие уменьшают требования к памяти; для большинства случаев автор рекомендует варианты Q4_K_M, Q5 и Q6. Сильные стороны сборки — большой контекст, широкий выбор компромиссов между качеством и размером, а также совместимость с распространёнными инструментами локального вывода. Ограничения связаны с потерями качества при низких уровнях квантования и отсутствием в представленном README данных о результатах тестирования, производительности и требованиях к оборудованию. Модель распространяется по лицензии Apache-2.0.

MergeCeption-7B-v3 — языковая модель CultriX, созданная слиянием моделей с помощью LazyMergekit. В конфигурации указаны CultriX/MonaTrix-v4 как базовая модель, а также Kukedlc/NeuralMaxime-7B-slerp, mlabonne/Monarch-7B и CultriX/NeuralTrix-bf16; применён метод dare_ties. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и общих языковых задач. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате safetensors. Поддержка русского и других конкретных языков в предоставленных данных не подтверждена. Модель распространяется по лицензии Apache-2.0.

Это объединённая методом Model Stock в mergekit разговорная языковая модель на архитектуре LlamaForCausalLM с 7,5 млрд параметров. В объединение вошли несколько моделей и адаптеров на базе Llama 3, в том числе варианты для медицины, биологии, психологии, логики и описательной генерации; также использована модель, ориентированная на длинные ответы. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогов. Её можно применять для ответов на вопросы, объяснений и рассуждений в общих и перечисленных предметных областях. Заявленная длина контекста — 131 072 токена. Карточка не описывает отдельные мультимодальные входы или выходы, поэтому модель следует рассматривать как текстовую. Модель унаследовала компоненты с разными специализациями, но README не приводит оценок качества или подробных ограничений; ответы в предметных областях следует проверять. Условия лицензии в предоставленных данных не указаны.

Meta-Llama-3-8B-Instruct-GGUF-old — это языковая модель для генерации текста и выполнения инструкций, представленная в формате GGUF. Модель основана на Meta Llama 3, разработанной Meta, а репозиторий и сборку данной версии связывает с идентификатором bartowski. По названию модели известно, что она содержит около 8 миллиардов параметров и настроена для диалогового взаимодействия и следования инструкциям. Модель предназначена для англоязычной генерации текста, ответов на запросы и других задач, поддерживаемых конвейером text-generation. Формат GGUF ориентирован на локальный запуск средствами, совместимыми с этим форматом, однако конкретные требования к памяти, варианты квантования и максимальный размер контекста в предоставленных данных не указаны. Модель является текстовой и не поддерживает мультимодальные входы по имеющейся информации. К сильным сторонам относятся компактный по современным меркам размер, специализация на инструкциях и возможность использования в локальных сценариях. Ограничениями являются заявленная языковая поддержка только английского, отсутствие сведений о конкретной версии квантования, контекстном окне, производительности и результатах оценки. Использование регулируется Meta Llama 3 Community License: лицензия требует соблюдения условий распространения, указания атрибуции, отображения фразы «Built with Meta Llama 3» при соответствующих сценариях и соблюдения Acceptable Use Policy.

cloudyu/Mixtral_34Bx2_MoE_60B — языковая модель для генерации текста, созданная автором репозитория на основе объединения jondurbin/bagel-dpo-34b-v0.2 и SUSTech/SUS-Chat-34B. В метаданных указаны архитектура Mixtral с механизмом Mixture of Experts и около 33,9 млрд параметров; веса опубликованы в формате safetensors. Для модели заявлен контекст до 200 000 токенов. Модель предназначена для генерации текста и диалоговых сценариев на английском и китайском языках. В README приведены результаты оценок на Open LLM Leaderboard, однако показатели в разных таблицах различаются, поэтому их нельзя считать однозначной характеристикой качества. Модель распространяется по лицензии Apache-2.0.

MixtureofMerges-MoE-4x7b-v5 — языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), созданная автором репозитория на основе четырёх моделей с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов, следования инструкциям и рассуждений. В README приведены результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag; они указывают на проверку задач рассуждения и понимания текста, но не гарантируют качество в конкретном применении. Модель распространена в формате safetensors по лицензии Apache-2.0. Данных о специализированной предметной области или поддерживаемых языках в использованных источниках нет.

mmBERT-32K Factcheck Classifier (Merged) — модель классификации текста от llm-semantic-router, созданная на базе llm-semantic-router/mmbert-32k-yarn. Она определяет один из двух классов для входного текста и предназначена для задач проверки фактов и маршрутизации материалов на проверку. Модель использует архитектуру ModernBERT с масштабированием RoPE методом YaRN, содержит 306,9 млн параметров и поддерживает контекст до 32 768 токенов. Это мультиязычная модель; формат репозитория включает Safetensors и ONNX. Слияние адаптера позволяет запускать её напрямую без PEFT. Модель подходит для классификации длинных текстов, например статей или публикаций, при автоматизированной проверке фактов. Карточка не уточняет названия двух классов, языковой охват по отдельности и качество на конкретных наборах данных. Лицензия — Apache 2.0.

Карточка модели musafa901/modernbert-ja-310m на Hugging Face совпадает с карточкой sbintuitions/modernbert-ja-310m, поэтому описание составлено по ней. ModernBERT-Ja-310M — плотный энкодер на архитектуре ModernBERT, разработанный SB Intuitions и обученный для заполнения пропусков в тексте. Модель содержит около 314,6 млн параметров, использует локальное и глобальное внимание, RoPE и контекст до 8192 токенов. Для токенизации применяется SentencePiece с unigram-моделью, словарём из 102 400 токенов и byte fallback; предварительная сегментация японского текста не требуется. Модель обучена на корпусе японских и английских текстов объёмом около 4,09 трлн токенов, включая два этапа расширения контекста. Она предназначена прежде всего для дообучения на прикладных задачах и подходит как энкодер для задач понимания текста; сама по себе не предназначена для генерации связного текста. Разработчик отмечает, что токенизация может ухудшать результаты задач разметки токенов, например распознавания именованных сущностей и извлечения фрагментов. Лицензия — MIT.

Карточка модели Unbabel/M-Prometheus-7B на Hugging Face совпадает с карточкой Unbabel/M-Prometheus-14B, поэтому описание составлено по ней. M-Prometheus-14B — языковая модель-судья из семейства M-Prometheus, разработанная Unbabel для оценки ответов и текстов на разных языках. Она обучена на 480 тысячах примеров прямой оценки качества и парного сравнения с развёрнутой обратной связью и предназначена для использования в сценариях оценки LLM-выводов. Модель представляет собой плотную causal language model архитектуры Qwen2 с 14 млрд параметров, дообученную на базе Qwen/Qwen2.5-14B-Instruct. Она принимает текстовые запросы и генерирует текстовые оценки и пояснения; максимальный контекст составляет 32 768 токенов. По README, её можно вызывать в том же стиле, что и Prometheus-2. Модель ориентирована на мультиязычную оценку, однако конкретный перечень поддерживаемых языков и результаты сравнительных тестов в предоставленных материалах не приведены. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.

ArabicNLP/mT5-base_ar — уменьшенная версия многоязычной модели Google mT5-base, созданная Moustafa Banbouk. Это плотная encoder-decoder модель семейства T5 для генерации текста по текстовому запросу. В README указано 244 млн параметров после сокращения SentencePiece-словаря с 250 тыс. до 30 тыс. токенов: оставлены 20 тыс. арабских и 10 тыс. английских токенов. Метаданные Hub указывают 122,1 млн параметров; поэтому размер модели описан в источниках противоречиво. Модель предназначена для арабского и английского языков. Среди возможных сценариев README называет ответы на вопросы, суммаризацию и классификацию; конкретная пригодность зависит от задачи и дообучения. Это не отдельная архитектура, а адаптированная версия mT5 с уменьшенным словарём. Распространяется по лицензии MIT. README описывает модель как unsupervised, но не сообщает результаты оценки качества или конкретные ограничения по применению. Уменьшенный словарь может ограничивать обработку редкой лексики; также README и метаданные расходятся в числе параметров.

MultiMaster 5x7B v2 — модель общего назначения для работы со знаниями, разработанная ibivibiv. Она предназначена для генерации текста и ответов на вопросы общего характера. Модель построена на архитектуре Mixtral с разреженной смесью экспертов (MoE); в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Карточка заявляет поддержку английского языка. Модель распространяется в формате safetensors и доступна по лицензии Apache 2.0. В карточке приведены результаты тестов на AI2 Reasoning Challenge и HellaSwag, но подробная оценка обозначена как ожидающая публикации. Поэтому эти результаты не дают полной картины качества модели в реальных сценариях.

JANGQ-AI представляет квантованный вариант NVIDIA Nemotron-3-Super-120B-A12B для запуска на Apple Silicon через MLX. Модель использует гибридную архитектуру Mamba-2, Latent MoE и плотного внимания; карточка указывает 6,6 млрд параметров, а README описывает 88 слоёв: 40 Mamba-2, 40 MoE и 8 слоёв внимания. Формат JANG_4M заявлен как 4,1-битный с 8-битной защитой внимания; размер файлов — около 63 ГБ. Контекст составляет 262 144 токена. Модель предназначена для диалоговой генерации текста и задач рассуждения. В README приводятся результаты MMLU 93,0% в режиме рассуждения на тесте из 200 вопросов, а также скорость генерации 55,1 токена в секунду; эти показатели заявлены автором и зависят от условий тестирования. Запуск рассчитан на Mac с Apple Silicon и не менее 64 ГБ объединённой памяти через MLX Studio или библиотеку jang для MLX; карточка заявляет интерфейс вызова инструментов. Базовая модель указана как nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-FP8, а лицензия обозначена как other, поэтому перед использованием следует проверить её условия в карточке модели. README предупреждает, что формат JANG не поддерживают LM Studio, Ollama и oMLX; для запуска нужны совместимые инструменты и значительный объём памяти. Основные языки по метаданным — английский, китайский и корейский.

Neural-4-QA-7b — объединённая модель Mistral, созданная автором репозитория с помощью LazyMergekit на основе пяти моделей: yam-peleg/Experiment21-7B, CultriX/NeuralTrix-bf16, louisgrc/Montebello_7B_SLERP, CorticalStack/pastiche-crown-clown-7b-dare-dpo и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и может применяться для диалоговых ответов и задач вопросно-ответного характера. По карточке нельзя определить, какие именно возможности исходных моделей сохранены или насколько хорошо модель справляется с отдельными задачами. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Neurotic-Jomainotrik-7b-slerp — языковая модель на архитектуре Mistral, созданная liminerity с помощью слияния моделей mergekit методом SLERP. В объединение вошли liminerity/merge и bardsai/jaskier-7b-dpo-v5.6; карточка указывает базовой моделью liminerity/merge. Модель содержит 7,1 млрд параметров, сохранена в формате safetensors и использует точность float16. Модель предназначена для генерации текста. Указанный нативный контекст составляет 32 768 токенов. В README приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag; конкретные языки и специализированные области применения не заявлены. Лицензия — Apache-2.0.

next2.5-i1-GGUF — это набор квантованных моделей в формате GGUF на базе thelamapi/next2.5, подготовленный и опубликованный mradermacher. Модель относится к мультимодальным vision-language моделям и предназначена для генерации текста, работы с изображениями и текстом, а также задач рассуждения. В обучении или дообучении использовались наборы данных FineTome-100k, CognitiveKernel-Pro-SFT, KAG-Thinker-training-dataset и ChatGPT-4o-Writing-Prompts. Заявлена поддержка турецкого, английского, немецкого, испанского, французского, русского, китайского, японского и корейского языков. В README модель обозначена как модель примерно на 4 млрд параметров, ориентированная в том числе на edge-устройства. Доступны варианты квантования от IQ1_S до Q6_K размером примерно от 1,3 до 3,6 ГБ; качество и скорость зависят от выбранного варианта. Для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Размер контекстного окна и точные сведения об архитектуре не указаны. Сильными сторонами являются мультимодальность, многоязычность, поддержка режима рассуждения и широкий выбор квантований для запуска на устройствах с ограниченными ресурсами. Ограничения включают возможное снижение качества при использовании наиболее компактных квантований, а также отсутствие в README подробных характеристик производительности и контекстного окна. Модель распространяется по лицензии Apache-2.0.

NorskGPT-Llama3-8b — норвежскоязычная разговорная модель, созданная дообучением Meta-Llama-3-8B на отобранных парах инструкций на норвежском языке. Это плотная авторегрессионная архитектура Llama с 7,5 млрд параметров и контекстом 8192 токена; модель предназначена для генерации текста, диалога и следования инструкциям. Модель можно использовать как ассистента для общения на норвежском, ответов на вопросы и суммаризации. Разработчик отмечает, что она не является специализированной базой знаний: по сведениям о Норвегии и узким темам она не обязательно превосходит исходную модель. Для оптимального результата может потребоваться настройка промптов. Модель выпущена по лицензии CC-BY-NC-SA-4.0; коммерческое применение требует коммерческой лицензии.

nztinversive собрал эту плотную языковую модель методом TIES с помощью mergekit на основе NousResearch/Llama-2-7b-hf, объединив веса Mistral-7B-Instruct-v0.2 и Orca-2-7b. Модель содержит 6,6 млрд параметров, распространяется в формате safetensors и предназначена для генерации текста по запросам и инструкциям. Максимальная длина контекста составляет 4096 токенов. Модель можно применять для диалоговых ответов, черновиков и других текстовых задач общего назначения. В карточке не указаны отдельные языковые предпочтения или специализированная предметная область. Лицензия в предоставленных данных не указана; качество и ограничения этого конкретного слияния отдельно не описаны.

Это GGUF-квантизированная версия языковой модели Hermes-4-405B, разработанной NousResearch и подготовленной пользователем bartowski. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В основе лежит модель размером 405 млрд параметров; README не содержит подробностей об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна. Доступны варианты квантизации от Q8_0 до Q2_K и IQ2/IQ3/IQ4, рассчитанные на компромисс между качеством, требованиями к памяти и скоростью инференса. Для квантизации использовался llama.cpp с imatrix и калибровочными наборами данных. Наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S и Q4_K_M, однако даже компактные варианты требуют значительного объёма памяти. Сильной стороной являются высокое качество старших вариантов квантизации и возможность локального запуска в экосистеме llama.cpp. Ограничения — очень крупный размер файлов, снижение качества у низкобитных вариантов и отсутствие указанного формата промпта: README рекомендует уточнять его на странице исходной модели. Лицензия в предоставленных данных не указана.

OELLM 9B — 256K context (ABF, θ=64M) — prelude — базовая плотная языковая модель OpenEuroLLM на архитектуре Qwen3. Это продолжение предобучения модели prelude с контекстным окном до 262 144 токенов; модель не настроена для следования инструкциям. В README указаны 9B параметров, тогда как метаданные Hugging Face указывают 8B. Модель поддерживает 37 европейских языков, включая английский, немецкий, французский, испанский, польский и украинский; метаданные подтверждают языковые теги для части этого набора. Модель предназначена для генерации продолжений и работы с длинными текстами, в том числе поиска сведений на разных позициях в контексте до 256K токенов. По оценке single-needle NIAH из README, результат на 256K составил 90% на 185 испытаниях в семи языках; более широкая оценка RULER ещё не проводилась. Для обработки контекста 256K требуется несколько GPU. Для такого режима README рекомендует сохранять rope_theta=64000000 и max_position_embeddings=262144. Модель распространяется по лицензии Apache-2.0. Поскольку это базовая модель без инструкционной настройки, она ориентирована на продолжение текста, а не на диалоговое следование запросам; также отмечен умеренный эффект «потери в середине» контекста.