I.6Перевод и языковая адаптация

RedHatAI/Llama-2-7b-dolphin-open_platypus — плотная языковая модель на архитектуре Llama 2 с 6,6 млрд параметров, дообученная Neural Magic и Cerebras для следования инструкциям. Обучение использовало сочетание наборов данных Platypus, Open Orca и Dolphin. Модель предназначена для генерации текста и выполнения инструкций в сценариях вопросно-ответного взаимодействия и других задачах общего назначения. Она принимает текст и генерирует текст, имеет контекст длиной 4096 токенов и доступна в формате safetensors для запуска через Transformers; для ускоренного инференса с разреженностью README предлагает nm-vllm или deepsparse. В README приведены незаполненные значения результатов бенчмарков, поэтому количественная оценка качества по этой карточке невозможна. Лицензия в предоставленных сведениях не указана.

Это сжатая инструкционная языковая модель meta-llama/Llama-3.2-3B-Instruct, разработанная Meta. Модель предназначена для диалоговых сценариев и генерации ответов на пользовательские запросы; в качестве базовой модели указана Llama-3.2-3B-Instruct. В README также указан датасет HuggingFaceH4/ultrachat_200k и библиотека Transformers. Модель использует схему сжатия W4A16: веса представлены в формате 4 бит, а активации — в формате 16 бит. Сжатие выполнено с помощью llmcompressor на 512 образцах из секции train_sft датасета ultrachat_200k с chat-препроцессингом. Максимальная длина последовательности при подготовке указана как 131072 токена. Такие характеристики могут снизить требования к памяти и упростить запуск по сравнению с полноразмерной версией, однако README не содержит результатов сравнительной оценки, сведений о поддерживаемых языках, точных ограничениях качества или лицензии. Архитектура и модальности отдельно не описаны; по представленным данным модель следует считать текстовой.

MaziyarPanahi/Mini_DPO_test02-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста в ответ на инструкции и диалоговые запросы. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и Minirecord/Mini_DPO_test02. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов; репозиторий содержит веса в формате safetensors с точностью bfloat16. Модель принимает текст и генерирует текст. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о результатах оценок качества или специализированных ограничениях, поэтому качество ответов следует оценивать на задачах конкретного применения.

unsloth/mistral-7b-v0.3-bnb-4bit — 4-битная версия модели Mistral-7B-v0.3, подготовленная Unsloth на базе модели mistralai/Mistral-7B-v0.3. Это текстовая языковая модель примерно с 7 млрд параметров, предназначенная для использования и дообучения через библиотеку Transformers. В карточке указано, что модель ориентирована на английский язык. Модель подходит для генерации и продолжения текста, диалоговых сценариев при использовании соответствующего шаблона данных, а также для последующего fine-tuning на собственных наборах данных. Ключевая особенность данной версии — 4-битное представление в формате bitsandbytes, снижающее требования к памяти и удобное для запуска и дообучения на ограниченных GPU-ресурсах. В README также заявлена поддержка сценариев экспорта в GGUF и vLLM после дообучения, но подробные характеристики контекстного окна и архитектуры не приведены. Преимуществами являются компактное 4-битное представление, совместимость с экосистемой Transformers и возможность эффективного дообучения с помощью инструментов Unsloth. Ограничения включают отсутствие заявленной мультимодальности, отсутствие сведений о специализированной instruction-настройке именно этой версии, а также неполные данные о производительности и контекстном окне. Лицензия модели указана как Apache-2.0.

MixtureofMerges-MoE-2x7b-v6 — языковая модель для генерации текста, созданная jsfs11 с помощью LazyMergekit путём объединения yam-peleg/Experiment26-7B и mlabonne/AlphaMonarch-7B. Это модель семейства Mixtral с архитектурой Mixture of Experts (MoE), примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и может применяться в диалогах, ответах на запросы и рассуждениях. README приводит результаты оценивания на Open LLM Leaderboard, включая среднюю оценку 76,63 и результаты AI2 Reasoning Challenge и HellaSwag; это показывает оценивание модели, но не гарантирует аналогичного качества в прикладных сценариях. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Это набор файлов модели Qwen3-8B-bf16 в формате GGUF, подготовленный сообществом mlx-community при поддержке TensorBlock. Репозиторий содержит варианты с разными уровнями квантования и совместим с llama.cpp начиная с коммита b5753; метаданные также указывают библиотеку MLX. Для диалога используется шаблон с сообщениями system, user и assistant. Модель предназначена для генерации текста и диалогов. Её можно применять для ответов на вопросы, написания черновиков и помощи с кодом. Варианты квантования отличаются размером и качеством: README предупреждает о значительной потере качества у самых компактных вариантов Q2_K и Q3_K. Указана лицензия Apache-2.0.

Inferor 0.1 — текстовая генеративная модель на 12,1 млрд параметров, созданная Infermatic объединением нескольких языковых моделей методом Model Stock с помощью mergekit. В качестве основы использована mistralai/Mistral-Nemo-Instruct-2407; в объединение также вошли MN-12b-Sunrose, Magnum v4 12B и Mistral-Nemo-Gutenberg-Doppel-12B-v2. Модель построена на архитектуре Mistral для Transformers, веса доступны в формате safetensors. Модель предназначена для диалогов и генерации текста по запросу. Заявленная длина контекста — 131 072 токена; метаданные также отмечают интерфейс вызова инструментов. Карточка не уточняет языковое покрытие, сравнительные результаты или рекомендуемые настройки для этой версии. Лицензия в предоставленных данных не указана.

MythoMist-7b-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана методом SLERP-слияния mistralai/Mistral-7B-Instruct-v0.1 и Gryphe/MythoMist-7b; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она поддерживает контекст до 32 768 токенов и рассчитана прежде всего на английский язык. Лицензия — Apache-2.0. Качество ответов зависит от формулировки запроса и может быть непоследовательным; как и другие языковые модели, она может генерировать фактически неверную информацию. Она не предназначена для обработки изображений, аудио или видео.

Nemotron-H-8B-Base-8K — базовая большая языковая модель NVIDIA для продолжения заданного текста и создания исходных решений, на основе которых разработчики и исследователи могут создавать специализированные LLM. Это модель семейства Nemotron-H с гибридной архитектурой Mamba-2 и MLP, дополненной четырьмя слоями Attention; размер — 8 млрд параметров, контекст — до 8K токенов. Модель принимает и генерирует текст. Модель обучена на английском и многоязычных текстах, включая немецкий, испанский, французский, итальянский, корейский, португальский, русский, японский и китайский, а также на коде. Она подходит для продолжения текста, генерации кода и настройки под пользовательские задачи с помощью дообучения и выравнивания. NVIDIA указывает, что модель предназначена для исследовательской и опытно-конструкторской работы; для работы рекомендованы NeMo и GPU NVIDIA. Лицензия в метаданных обозначена как other. Модель может выдавать неточные, нерелевантные или избыточные ответы и воспроизводить токсичность и предвзятость из обучающих данных. NVIDIA также сообщает о слабой устойчивости к косвенным prompt injection через некоторые кодировки, в частности Base16, Hex/ASCII и Braille.

OpenPipe-7B-slerp — текстовая генеративная модель на архитектуре Mistral, созданная слиянием OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев с использованием возможностей объединённых исходных моделей. Модель принимает текст и выдаёт текст. Лицензия — Apache-2.0. В карточке не приводятся сравнительные оценки качества или подробности обучения после слияния.

pankajmathur/orca_mini_v8_1_70b — диалоговая модель Pankaj Mathur, дообученная на базе meta-llama/Llama-3.3-70B-Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации текста и ответов в формате диалога. В карточке приведён шаблон общения с системным, пользовательским и ассистентским сообщениями; среди датасетов указаны orca_mini_v1_dataset и orca_mini_v8_sharegpt_format. Модель работает с текстом и имеет контекстное окно до 131 072 токенов. Базовая Llama 3.3 поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки; карточка Orca Mini отдельно отмечает английский. Лицензия — Llama 3.3 Community License (llama3.3). Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому её следует оценить и настроить под конкретное применение.

shamwowzer/prototype-128x02 — объединённая языковая модель, созданная с помощью mergekit. В README указано, что в слиянии Multi-SLERP участвовали /workspace/modeler/Behemoth и /workspace/mistral-text-only с весами 0,5; базовой моделью при сборке выбрана /workspace/modeler/Behemoth. Метаданные относят архитектуру к семейству Mistral и классу MistralForCausalLM; модель содержит 123,4 млрд параметров и принимает контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогового общения. Репозиторий содержит веса safetensors; для работы используется библиотека Transformers. Лицензия в предоставленных данных не указана.

mergekit-community/qwen2.5-11B-Mzy — объединённая плотная языковая модель семейства Qwen2.5, созданная с помощью mergekit методом passthrough из AIDC-AI/Marco-o1, djuna/Q2.5-Fuppavy-7B и happzy2633/qwen2.5-7b-ins-v3. Модель содержит 10,8 млрд параметров и предназначена для генерации текста в диалоговых сценариях. Модель принимает текст и выдаёт текст; доступна в формате safetensors для Transformers. Заявленная длина контекста — 32 768 токенов. В README указано, что веса собраны из диапазонов слоёв трёх исходных моделей; детали лицензии и результаты сравнительных оценок в предоставленных данных отсутствуют.

Это GGUF-версия модели Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32, подготовленная mradermacher. Репозиторий содержит статические квантизации, включая варианты GGUF и мультимодальные дополнения mmproj; указан вариант F32. Базовая модель связана с nightmedia/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32 и классифицирована как дообучение. Модель предназначена для генерации текста в диалоговом и инструкционном формате. По тегам карточки она ориентирована на рассуждения, математику, программирование и творческое письмо, включая создание и продолжение историй; метаданные также указывают мультиязычную поддержку английского, китайского, японского и испанского языков. Лицензия — Apache-2.0. Репозиторий распространяет веса в формате GGUF, предназначенном для запуска совместимым ПО; доступные уровни квантизации различаются по размеру и могут влиять на качество. Карточка не приводит результатов сравнительных оценок или конкретных ограничений качества.

dealignai/Qwen3.8-Flash-Next-ABLITERATED-NVFP4 — мультимодальная версия Qwen3.8-Flash-Next, разработанная dealignai. Это прямое изменение весов базовой модели без дообучения, LoRA, дистилляции или изменения шаблона чата; заявлено сохранение исходных знаний, стиля, рассуждений и калибровки. Модель предназначена для текстовых и мультимодальных сценариев с обработкой изображений и видео, включая распознавание форм, цветов, текста на изображениях, движения и объектов в видео. Поддерживаются режимы рассуждения low, medium и xhigh, а также MTP speculative decoding. Модель работает с SGLang и рассчитана на tensor parallel на двух NVIDIA DGX Spark с использованием 4-битного формата NVFP4. Размер модели, максимальная длина контекста и точный перечень поддерживаемых языков в README не указаны. По заявленным результатам, производительность на MMLU почти не изменилась относительно базовой модели: 81,93% против 82,11%. Также заявлены связная генерация без зацикливания и сохранение мультимодальных возможностей. Ключевое ограничение — удаление защитных отказов: модель описана как исследовательский артефакт без встроенных ограничений безопасности и может выполнять вредоносные, незаконные и неэтичные запросы. Использование допускается по лицензии qwen-community-license-1.0; модель предоставляется без гарантий, а ответственность за результаты и соблюдение законодательства возлагается на пользователя.

Qwen3.8-Flash-Next-MXFP4-FP8 — экспериментальная квантизованная сборка модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель распространяется в формате Hugging Face Transformers и предназначена для задач генерации текста, агентских сценариев и мультимодального ввода с изображениями и видео. В README также указана поддержка вызова инструментов и рассуждений через соответствующие парсеры vLLM. Архитектура включает гибридное внимание с Gated DeltaNet и Qwen Sparse Attention, Gated Residual и N-gram Embedding; базовая модель использует Mixture-of-Experts-компоненты. В этой сборке MTP, attention, N-gram и KV-cache представлены в FP8, а experts — в MXFP4. Общий размер весов составляет около 125,8 ГБ. Конфигурация рассчитана на контекст до 524 288 токенов, поддерживает до 20 изображений и одного видео на запрос; языки и точное число параметров в README не указаны. Сильными сторонами являются экономичное хранение и вычисления за счёт квантизации, оптимизации для длинного контекста, FP8 KV-cache, prefix caching, chunked prefill и speculative decoding. Основные ограничения — запуск заявлен только на GPU AMD AI PRO R9700, требуется специализированный dev-образ vLLM и конфигурация с четырьмя GPU; модель имеет экспериментальный статус. Квантизация выполнена методом Quark RTN, поэтому точность может быть ниже, чем у будущих GPTQ/AWQ-сборок. README рекомендует использовать обновлённую GPTQ Protected Model. Лицензия указана как Apache-2.0 с license_name qwen-community-1.0.

Alcoft/Qwen_Qwen3-4B-Thinking-2507-GGUF — это GGUF-квантизированный вариант языковой модели Qwen3-4B-Thinking-2507, разработанной командой Qwen. Модель предназначена для генерации текста и сценариев, требующих рассуждений, включая работу с локальными приложениями и системами, поддерживающими формат GGUF. В репозитории представлены варианты квантизации от Q2_K до Q8_K с размером файлов примерно от 1,38 до 3,99 ГБ. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K и близкие к ним конфигурации: они обеспечивают приемлемое или высокое качество при меньших требованиях к памяти. Самые лёгкие варианты Q2 и Q3 характеризуются низким качеством и в README не рекомендуются. Некоторые варианты используют повышенную точность Q8_0 или F16 для выходных и embedding-слоёв. Модель относится к text-generation и предоставляет только текстовую модальность. Данные о точной архитектуре, размере контекста и поддерживаемых языках в представленном README не указаны. Основные ограничения связаны с потерей качества при сильной квантизации и зависимостью результата от выбранного варианта. Указана лицензия Apache-2.0.

Карточка модели hararh/Qwen-VL на Hugging Face совпадает с карточкой Qwen/Qwen-VL, поэтому описание составлено по ней. Qwen-VL — крупная визуально-языковая модель Alibaba Cloud из семейства Qwen. Она принимает изображения, текст и ограничивающие рамки, а выдаёт текст и рамки; версия в репозитории описана как предварительно обученная модель, при этом карточка также упоминает отдельную диалоговую версию Qwen-VL-Chat. Модель содержит 11,4 млрд параметров, использует плотную архитектуру QWenLMHeadModel, работает с PyTorch и поддерживает контекст до 8192 токенов. Модель предназначена для диалога по изображениям, генерации описаний, визуальных вопросов и ответов, распознавания текста на изображениях, включая документы и диаграммы, а также поиска объектов по текстовому описанию с выдачей рамок. В карточке указаны многоязычные диалоги и многоязычная оценка на китайском и английском языках. Разрешение обработки изображений повышено до 448 пикселей, что помогает решать задачи распознавания текста и визуальных вопросов без разбиения изображения. README сообщает о сильных результатах на нескольких общих визуально-языковых бенчмарках, но они относятся к оценкам разработчика. Модель может ошибаться в распознавании деталей изображения и текста; карточка не описывает ограничения подробнее. Условия лицензии в предоставленных данных не указаны.

Reflection-Llama-3.1-70B-ep2-working — рабочая версия модели Reflection от Matt Shumer, дообученная на основе Meta Llama 3.1 70B Instruct. Это плотная авторегрессионная языковая модель с 69,5 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель предназначена для диалогов и генерации ответов с возможностью использовать инструменты. Автор описывает её как рабочую версию второго этапа обучения, которая немного уступает по мощности более поздней версии Reflection; README также сообщает, что третий этап ещё завершался. Модель опубликована в формате Safetensors и распространяется по лицензии Llama 3.1.

Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

Это версия модели intfloat/multilingual-e5-base для библиотеки Sentence-Transformers, опубликованная embaas. Модель на базе XLM-RoBERTa содержит 305,2 млн параметров и преобразует предложения и абзацы в плотные векторы размерностью 768; длина контекста — 514 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Её можно применять для поиска по смыслу в коллекциях документов и группировки похожих фрагментов. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Stable LM 2 12B — базовая авторегрессионная языковая модель, разработанная Stability AI. Это плотный трансформер-декодер с 11,6 млрд параметров по метаданным (в README указано 12,1 млрд), обученный на 2 трлн токенов текстовых и программных данных. Модель предназначена для дальнейшей тонкой настройки под прикладные задачи. Модель генерирует продолжение текста по текстовому запросу. В архитектуре используются Rotary Position Embeddings, групповые запросы внимания и токенизатор Arcade100k; максимальная длина контекста — 4096 токенов. В обучающих данных есть несколько европейских языков и код, однако в README основным языком назван английский. Это базовая модель, поэтому её поведение и пригодность для конкретной задачи требуют оценки и, как правило, дообучения. Она может выдавать ненадёжный, небезопасный или нежелательный текст, включая отражение предвзятостей обучающих данных. Указана Stability AI Community License; условия коммерческого использования следует проверять по лицензии модели.

Synthia-7B-v3.0 — языковая модель Mistral-7B, дообученная Migtissera для следования инструкциям и ведения длинных диалогов. В обучении использовались подходы, вдохновлённые статьёй Orca-2, и датасет SynthIA-3.0 с обобщённым Tree-of-Thought-промптом и дополнительными системными контекстами. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации ответов на текстовые запросы, диалогов и развёрнутых рассуждений. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Модель может давать неточные или вводящие в заблуждение ответы, а также генерировать предвзятый, оскорбительный или иной нежелательный контент; автор характеризует её как uncensored. Важную информацию следует перепроверять.

Карточка модели Iambackup/Unlimited-OCR на Hugging Face совпадает с карточкой netfarm/Unlimited-OCR, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR для распознавания текста и разбора документов по изображениям. Разработчики представляют её как развитие DeepSeek-OCR, ориентированное на однократный разбор длинных документов. Модель доступна для запуска через Transformers и SGLang, в том числе через OpenAI-совместимый API. Модель содержит 559,7 млн параметров, использует плотную архитектуру UnlimitedOCRForCausalLM и принимает изображения с текстовым содержимым для преобразования в текст. Заявлена поддержка нескольких языков; контекст составляет 32 768 токенов. В карточке указана лицензия MIT. README описывает варианты инференса, но не приводит результатов оценки качества или подробных ограничений применимости.

DeepSeek-V4-Flash-MXFP4 — квантизированная версия DeepSeek-V4-Flash, разработанная Advanced Micro Devices (AMD) на базе исходной модели DeepSeek AI. Это каузальная языковая модель для генерации текста, ориентированная на запуск через Transformers и vLLM в Linux на ускорителях AMD MI355 и MI350 с архитектурой gfx950. README не указывает точный размер модели, поддерживаемые языки и длину контекста. Модель использует архитектуру DeepseekV4ForCausalLM и механизм Mixture-of-Experts (MoE). Проекции маршрутизируемых и общих MoE-экспертов квантизированы в статический OCP MXFP4 для весов и динамический OCP MXFP4 для активаций; остальные компоненты, включая attention, маршрутизатор MoE, нормализацию, embeddings, выходную голову и MTP-блок, сохранены в исходной точности. Квантизация выполнена с помощью AMD Quark 0.12.0, а рекомендуемая среда включает ROCm 7.2.0, PyTorch 2.9.1, Transformers 5.13.1 и vLLM 0.29.0. Ключевое преимущество модели — оптимизация инференса на совместимом оборудовании AMD при сохранении качества исходной модели: на GSM8K в конфигурации с 8 примерами она показала 94,92% против 95,00% у исходной версии, что соответствует восстановлению 99,9% результата. Ограничения включают зависимость от конкретных ускорителей AMD, Linux и совместимого программного стека; сведения о других бенчмарках, мультимодальности и языковом покрытии отсутствуют. Модель распространяется по лицензии MIT, как и исходная модель.

dolphin-2.8-mistral-7b-v02-GGUF — это квантизированная версия текстовой генеративной модели dolphin-2.8-mistral-7b-v02, основанной на alpindale/Mistral-7B-v0.2-hf. Исходная модель опубликована организацией cognitivecomputations, а квантизации в формате GGUF выполнены bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска совместимых LLM-приложений. Модель относится к семейству Mistral и имеет размер 7 миллиардов параметров. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q5_0, Q4_K_M, Q4_K_S, IQ4_NL, IQ4_XS, Q4_0, Q3_K_L, Q3_K_M, IQ3_M, IQ3_S, Q3_K_S и Q2_K; их размер варьируется примерно от 2,71 до 7,69 ГБ, а качество снижается при более агрессивном сжатии. В README не указаны поддерживаемые языки, размер контекста, результаты тестирования или специальные модальности, поэтому модель следует рассматривать как текстовую. Сильная сторона модели — возможность подобрать баланс между качеством, потреблением памяти и скоростью локального запуска; для большинства сценариев рекомендуется вариант Q6_K, тогда как Q3 и Q2 ориентированы на системы с ограниченной оперативной памятью и заметно уступают по качеству. Ограничения включают потерю качества из-за квантизации и отсутствие данных о бенчмарках, языковой специализации и безопасностных характеристиках. Лицензия в README не указана.

EraX-VL-7B-V2.0-Preview-i1-GGUF — мультимодальная vision-language модель на 7 млрд параметров, разработанная erax-ai и преобразованная в формат GGUF пользователем mradermacher. Модель предназначена для обработки изображений и текста и поддерживает вьетнамский, английский и китайский языки. Основные сценарии применения включают OCR, визуальные вопросы и ответы, анализ документов, работу со страховыми материалами, рукописным и древним текстом, радиологическими изображениями и фотографиями автомобильных аварий. Модель может использоваться для генерации текстовых ответов на основе визуального содержимого, однако для работы с изображениями требуются соответствующие mmproj-файлы из статического репозитория. Публикация содержит несколько вариантов квантования GGUF размером примерно от 2,0 до 6,4 ГБ. В README отмечается, что варианты с более высоким качеством квантования обычно обеспечивают лучшее качество, а i1-Q4_K_M рекомендуется как быстрый компромисс между размером, скоростью и качеством. Ограничения включают возможное снижение качества у компактных вариантов квантования; сведения о размере контекста, точных архитектурных компонентах и результатах бенчмарков не приведены. Модель распространяется по лицензии Apache-2.0.

EVA-Qwen2.5-72B-v0.1-GGUF — это набор GGUF-квантизаций текстовой языковой модели EVA-Qwen2.5-72B-v0.1, опубликованный bartowski. Модель создана на базе Qwen2.5-72B-Instruct и предназначена для генерации текста, включая диалоговые сценарии, написание текстов и roleplay. В обучении исходной модели использовались наборы данных для инструкционного следования, структурированного письма, художественных диалогов и ролевых сценариев. Архитектура исходной модели — Qwen2.5 с 72 млрд параметров; модель работает с текстом и использует шаблон сообщений ChatML. README не содержит точных сведений о поддерживаемых языках и размере контекстного окна. Доступны варианты квантизации от IQ1_M и Q2 до Q8_0 размером примерно от 23,74 до 77,26 ГБ. Варианты Q5_K_M, Q6_K, Q4_K_M и другие обеспечивают компромисс между качеством и требованиями к памяти; низкобитные варианты экономичнее, но заметно уступают в качестве. Модель можно запускать через llama.cpp и LM Studio. Квантизация выполнена с использованием imatrix и llama.cpp версии b4014. Лицензия указана как qwen/other; README ссылается на лицензию Qwen2.5-72B-Instruct, однако конкретные условия следует уточнять в исходной лицензии.

EpistemeAI/Fireball-Mistral-Nemo-Base-2407-sft-v2.2a — дообученная языковая модель EpistemeAI на архитектуре Mistral с плотной архитектурой и 12,1 млрд параметров. Она предназначена для генерации текста; модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Модель основана на EpistemeAI/Fireball-Mistral-Nemo-Base-2407-sft-v2.1 и распространяется в формате Safetensors. Заявленное максимальное окно контекста — 1 024 000 токенов. В метаданных указан английский язык. Лицензия — Apache-2.0.

Fusion-7B-Quintessence — языковая модель для генерации текста, созданная слиянием предварительно обученных моделей с помощью mergekit и метода passthrough. В состав вошли NousResearch/Nous-Hermes-2-Mistral-7B-DPO, NousResearch/Genstruct-7B и Weyaxi/Einstein-v4-7B. Архитектура — плотная Mistral с классом MistralForCausalLM; в репозитории указано 21,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации текста по запросу. Модель принимает и выдаёт текст; метаданные отмечают возможность чата. В README указана лицензия на веса отдельно не приводится, поэтому условия использования по этим данным определить нельзя. Слияние разных моделей может давать нестабильное качество на отдельных запросах.