I.6Перевод и языковая адаптация

Это набор GGUF-квантизованных версий Granite 3.2 8B Instruct — инструкционной языковой модели, разработанной IBM под именем ibm-granite. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия в приложениях, поддерживающих llama.cpp, включая LM Studio и другие совместимые проекты. Модель имеет размер 8 миллиардов параметров и относится к текстовым моделям: сведения о поддержке изображений, аудио или других модальностей в README отсутствуют. Также не указаны поддерживаемые языки и размер контекстного окна. Доступны варианты квантования от Q8_0 до Q3 и IQ3/IQ4, размером примерно от 3,59 до 8,68 ГБ. Более высокие варианты обычно обеспечивают лучшее качество, а менее точные позволяют снизить требования к оперативной памяти; в README рекомендуются, в частности, Q4_K_M, Q5 и Q6 версии. Сильные стороны модели — локальный запуск, широкий выбор компромиссов между качеством и потреблением памяти, а также совместимость с экосистемой llama.cpp. Ограничения связаны с потерями качества при низком уровне квантования и зависимостью от совместимого программного обеспечения и аппаратных ресурсов. Для корректного диалога следует использовать указанный в README шаблон prompt format. Для набора указана лицензия Apache-2.0.

Карточка модели KnutJaegersberg/Llama-3-Deita-8b на Hugging Face совпадает с карточкой KnutJaegersberg/Deita-34b, поэтому описание составлено по ней. KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.

cloudyu/mistral_15B_instruct_v0.1 — разговорная модель для генерации текста, разработанная на базе архитектуры Mistral и дообученная методом SFT на наборе vicgalle/alpaca-gpt4. Карточка указывает 64 слоя; в метаданных размер модели составляет 14,1 млрд параметров, а родной контекст — 32 768 токенов. Модель принимает инструкции и необязательные входные данные в шаблоне «инструкция — вход — ответ» и генерирует текстовые ответы. Модель предназначена для диалогов и выполнения инструкций общего назначения. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. README и метаданные не указывают поддерживаемые естественные языки или специализированные области применения.

Mollel/MultiLinguSwahili-mxbai-embed-large-v1-nli-matryoshka — модель Sentence Transformer, дообученная автором на базе mixedbread-ai/mxbai-embed-large-v1 на наборе Mollel/swahili-n_li-triplet-swh-eng. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического сравнения текстов, поиска, поиска перефразировок, классификации и кластеризации. Архитектура состоит из BERT-трансформера с пулингом CLS-токена; длина последовательности — до 512 токенов, сходство оценивается косинусной мерой. Обучающие данные содержат суахилийские и английские примеры, включая соответствующие по смыслу пары на обоих языках. Модель подходит для семантического поиска и сопоставления текстов на суахили и английском, в том числе в многоязычных сценариях. В README приведены результаты оценки сходства предложений на нескольких размерностях эмбеддингов, но качество на иных языках и прикладных наборах данных не описано. Доступна в формате safetensors; лицензия в предоставленных данных не указана.

MyAwesomeModel — модель из репозитория dfdgdg333/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers. В метаданных Hugging Face она классифицирована как модель для извлечения признаков и связана с архитектурой BERT; README при этом описывает обновлённую версию как модель с улучшенными рассуждениями, пониманием текста, генерацией кода и диалогами. Согласно README, модель предназначена для сложных задач рассуждения, математических и логических задач, ответов на вопросы, классификации текста, анализа тональности, суммаризации, перевода, генерации кода и диалогов. Также заявлены поддержка системного промпта, function calling, загрузки файлов и генерации с использованием результатов веб-поиска. Для запуска рекомендуется температура 0,6. К сильным сторонам относятся заявленные улучшения рассуждений, снижение частоты галлюцинаций и широкие результаты на бенчмарках, включая математику, программирование и понимание языка. Однако метаданные указывают pipeline-задачу feature-extraction, а README не содержит надёжных сведений о размере модели, длине контекста, поддерживаемых естественных языках или точной конфигурации архитектуры. Модель распространяется по лицензии MIT.

Qwen2-VL-7B-Instruct-GGUF — мультимодальная instruction-модель семейства Qwen, разработанная командой Qwen и представленная в GGUF-квантизации bartowski на основе llama.cpp. Модель основана на Qwen2-VL-7B-Instruct и предназначена для работы с текстом и изображениями. Модель подходит для анализа изображений различного разрешения и соотношения сторон, визуального вопросно-ответного взаимодействия, мультимодального рассуждения и сценариев агентской автоматизации, где требуется интерпретация визуальной информации. Заявлена поддержка нескольких языков и контекста до 32K токенов. Размер базовой модели — 7B параметров; точные характеристики конкретного уровня квантизации в README не указаны. К сильным сторонам относятся сочетание языкового и визуального понимания, способность обрабатывать изображения разных форматов и поддержка длинного контекста. Ограничения включают возможные неточности, неподходящие или вредоносные ответы, характерные для генеративных моделей; конкретные ограничения качества и производительности для выбранной квантизации не описаны. Модель распространяется по лицензии Apache-2.0.

amd/Qwen3.5-35B-A3B-MXFP4 — квантизированная версия модели Qwen3.5-35B-A3B-FP8, разработанная Advanced Micro Devices, Inc. с использованием AMD-Quark. Модель построена на архитектуре Qwen3_5MoeForConditionalGeneration, принимает текст и генерирует текст. В README указано обозначение 35B-A3B, однако точные параметры архитектуры, число активируемых параметров, размер контекста и перечень поддерживаемых языков не приведены. Модель предназначена для задач генерации текста и инференса в средах SGLang или vLLM на Linux с оборудованием AMD MI300 и MI350/MI355, ROCm 7.0.0, PyTorch 2.9.1 и Transformers 5.3.0. Веса статически квантизированы в формат OCP MXFP4, а активации динамически квантизированы в OCP MXFP4, что ориентировано на эффективное выполнение на совместимых ускорителях. В тесте GSM8K модель получила результат 93,25 против 89,39 у исходной FP8-версии, но приведённая оценка охватывает только один бенчмарк и не характеризует все сценарии применения. Лицензия — Apache-2.0; изменения защищены авторским правом Advanced Micro Devices, Inc.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Её разработка связана с DavidAU и коллаборацией с Nightmedia, TeichAI, armand0e и trohrbaugh; обучение и сборка выполнялись с использованием Unsloth. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, работы с текстом и ролевых сценариев. В README также заявлена поддержка vision, однако конкретные возможности мультимодального ввода не раскрыты. Модель имеет 27B параметров и выпускается в форматах GGUF, включая обычные и MTP-варианты с multi-token prediction. Квантизации используют NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности; для MTP-тензоров заявлена точность Q8_0. По утверждению авторов, дообучение направлено на повышение общего интеллекта, качества инструкций, решения задач и рассуждений без изменения базовых возможностей модели. Указаны английский и китайский языки. Размер контекста в предоставленных данных не указан. Сильными сторонами заявлены высокие результаты на семи бенчмарках, улучшение относительно базовой Qwen3.6-27B, хорошие показатели даже у низких квантизаций и пригодность для запуска на потребительском оборудовании. Эти результаты основаны на заявлениях авторов и тестировании сообщества, поэтому их следует воспринимать как неподтверждённые независимой оценкой. Ограничения включают отсутствие точных сведений о контекстном окне, системных требованиях и подробностях мультимодальности; характер uncensored предполагает ослабленные ограничения на содержание. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-Q4_K_M-Vision-GGUF — это квантованная в формате GGUF версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем qaqab и предназначенная для запуска через llama.cpp и совместимые среды. Модель ориентирована на генерацию текста, диалоговые сценарии и обработку изображений при использовании vision-варианта, если соответствующая система поддерживается базовой моделью. Заявлены языки English и Chinese. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, один MTP-слой и поддерживает контекст до 262 144 токенов. Файл Q4_K_M имеет размер около 16,8 ГБ; в него встроена MTP-голова для speculative decoding. В README указано, что отказное поведение было существенно снижено с помощью Heretic без дообучения и дополнительных данных, но не устранено полностью. При обычном прямом проходе MTP-блок не влияет на качество вывода, а speculative decoding может ускорить генерацию, хотя коэффициент принятия черновых токенов может немного снизиться. К сильным сторонам относятся большой контекст, поддержка мультимодального ввода, сохранённая MTP-структура и относительно компактное представление Q4_K_M. Ограничения включают зависимость от поддержки vision и MTP со стороны конкретного рантайма, а также возможное ухудшение качества квантования по сравнению с f16; для Q4_K_M в README приведена perplexity 7,1814 на wikitext-2. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия языковой модели Qwen3-30B-A3B-Thinking-2507, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp; формат подходит для офлайн-сценариев на оборудовании с ограниченными ресурсами по сравнению с полной версией BF16. Модель относится к семейству Qwen3 и имеет заявленный размер 30B параметров, при этом в названии указано A3B. README не содержит сведений о поддерживаемых языках, длине контекста, конкретной архитектуре, мультимодальности и результатах тестирования. Доступны варианты от BF16 до различных уровней квантизации Q8_0, Q6, Q5, Q4, Q3 и IQ; они различаются размером файлов, качеством и требованиями к оперативной памяти. Версии Q6 и Q5 отмечены как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а Q3 предназначены для систем с небольшим объёмом памяти, но дают более низкое качество. Сильными сторонами являются широкий выбор квантизаций, совместимость с популярными локальными инструментами и возможность подобрать баланс между качеством, скоростью и потреблением памяти. Ограничения включают неизбежное снижение качества в более компактных вариантах, значительный размер файлов даже после квантизации и отсутствие в README сведений о лицензии, языках и максимальном контексте. Для корректного диалога рекомендуется использовать указанный в README шаблон prompt format с секцией <think>.

Ramonda Monarch 7B — объединённая модель для генерации текста, опубликованная mayacinka. Она создана методом DARE-TIES с помощью LazyMergekit на основе bardsai/jaskier-7b-dpo-v5.6, eren23/ogno-monarch-jaskier-merge-7b, liminerity/Omningotex-7b-slerp и yleo/OgnoMonarch-7B. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и ответов на запросы; в карточке приведены результаты нескольких языковых и логических бенчмарков. Доступны веса в формате safetensors с точностью bfloat16. Лицензия в предоставленных данных не указана. Поскольку это слияние нескольких моделей, условия использования могут зависеть от лицензий исходных моделей; перед применением следует проверить их отдельно.

Это перенос многоязычного текстового энкодера SONAR в формат Transformers из реализации fairseq2. Модель на архитектуре M2M100 содержит 665 млн параметров и формирует векторные представления текста для оценки сходства предложений. Перенесённые веса должны давать те же эмбеддинги, что и официальная реализация, которая остаётся эталонным источником. Энкодер поддерживает 202 языка, как NLLB-200, и рассчитан на кодирование текстов длиной до 1024 токенов. Его можно использовать для поиска семантически близких предложений и сопоставления текстов на разных языках. Репозиторий содержит веса в форматах PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Triangulum-10B-GGUF — это квантизированная версия языковой модели Triangulum-10B, разработанной prithivMLmods и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения и сценариев, где требуется пошаговое объяснение решения. В метаданных также указаны поддержка оценки кода, точности, математических задач и символьных операций. Модель содержит около 10 млрд параметров и относится к семейству causal language models на базе Llama. Доступны варианты от F16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Размер файлов составляет примерно от 3,6 до 20,6 ГБ. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель работает с текстом; сведения о мультимодальности и размере контекстного окна не указаны. Сильной стороной являются разнообразие вариантов квантования и возможность локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README рекомендуются варианты Q6_K_L, Q6_K, Q5 и Q4 для сочетания качества и размера, тогда как низкобитные варианты экономят память, но снижают качество. Формат инструкций для запросов не указан, поэтому его необходимо уточнять по странице исходной модели. Лицензия обозначена как llama3.1.

WeDLM-8B-Instruct — инструкционная языковая модель Tencent на 7,6 млрд параметров с плотной архитектурой WeDLMForCausalLM. Это дообученная версия WeDLM-8B; модель использует диффузионный подход к генерации с параллельным декодированием при стандартном причинном внимании. Она предназначена для диалогов, следования инструкциям и задач рассуждения, включая математику. В карточке приведены результаты бенчмарков, где модель превосходит Qwen3-8B-Instruct в некоторых задачах и уступает в других. Модель принимает текст и генерирует текст, поддерживает английский и китайский языки. Метаданные указывают контекстное окно 16 384 токена; в README заявлено 32 768 токенов. Для оптимизированного инференса авторы рекомендуют движок wedlm; совместимость с KV-кэшем позволяет использовать FlashAttention, PagedAttention и CUDA Graphs. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0.

jlvdoorn/whisper-large-v3-atco2-asr — дообученная модель распознавания речи на базе Whisper large-v3 от OpenAI. Она предназначена для преобразования аудио в текст; README сообщает результат оценки WER 17,0374 и loss 0,7695, но не описывает набор оценки и условия измерения. Модель содержит 905,2 млн параметров, использует архитектуру WhisperForConditionalGeneration и опубликована в формате safetensors. Лицензия — Apache-2.0.

Это модель Sentence-Transformers на базе XLM-RoBERTa, дообученная для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов и кластеризации; в частности, README описывает дообучение с MarginMSELoss на примерах японско-английского и англо-японского сходства с заданными диапазонами косинусного сходства. Модель принимает текст и выдаёт эмбеддинги. Размер — 305,2 млн параметров, контекст — 514 токенов. Для запуска можно использовать Sentence-Transformers или Transformers с подходящей операцией pooling. В карточке указана архитектура XLM-RoBERTa и формат PyTorch. README сообщает о последующей дистилляции отдельной модели, но этот репозиторий описывает исходный этап дообучения. Лицензия в предоставленных данных не указана.

CausalLM 14B — разработанная авторами репозитория разговорная языковая модель на архитектуре LLaMA с 13,4 млрд параметров. Авторы сообщают, что при обучении использовали веса Qwen, а LLaMA 2 — для расчёта начальных весов; модель загружается через Transformers как LLaMA-совместимый причинный языковой моделировщик. Контекст составляет 8192 токена, основной формат весов — PyTorch. Модель предназначена для генерации текста в диалогах, ответов на вопросы, рассуждений и решения задач, включая математику. Для обучения применялась выборка синтетических инструкционных данных объёмом 1,3 млрд токенов, собранных и подготовленных авторами на основе открытых наборов. В карточке приведены результаты тестов на английском, китайском и японском языках; метаданные также указывают английский и китайский. Авторы заявляют о высоких результатах в сравнительных тестах, однако модель может галлюцинировать и выдавать ненадёжные ответы. В карточке отмечено, что данные не были отфильтрованы от нежелательного содержимого, а RLHF и специальное обучение отказам не проводились; поэтому ответы требуют проверки и фильтрации. Указана лицензия WTFPL, но авторы также предупреждают, что в зависимости от применения могут действовать ограничения коммерческого использования базовых Qwen и LLaMA 2.

Amadeus-Verbo-FI-Qwen2.5-72B-PT-BR-Instruct — языковая модель на основе Qwen2.5-72B-Instruct, разработанная Amadeus AI и дообученная на 600 тысячах инструкций за две эпохи для бразильского португальского языка. Она предназначена для диалогов и генерации текстов на португальском языке Бразилии; метаданные также указывают поддержку интерфейса вызова инструментов. Модель использует архитектуру Qwen2 с причинным языковым моделированием и содержит 71,5 млрд параметров по метаданным. В карточке описаны Transformer, RoPE, SwiGLU, RMSNorm и grouped-query attention. Метаданные указывают контекст 32 768 токенов; в README заявлена длина 133 072 токена. Модель работает через Transformers и распространяется под лицензией Apache-2.0.

Apollo-1-4B — инструктивно дообученная языковая модель Noema Research на базе Qwen3-4B с архитектурой decoder-only Transformer и примерно 3,7 млрд параметров. Она предназначена для диалогов, следования инструкциям и рассуждений общего назначения, включая многошаговые запросы, образовательные сценарии, помощников по знаниям и прототипирование агентов. Модель принимает текст и генерирует текст; поддерживает широкий набор языков, включая русский. В README заявлен контекст до 32 тыс. токенов, тогда как метаданные указывают нативный контекст 131 072 токена. Модель рассчитана на сочетание качества и эффективности и может использоваться на мощном пользовательском оборудовании и облачных GPU. README сообщает о внутренних оценках улучшения рассуждений и следования инструкциям относительно Apollo-1-2B, но полный отчёт по бенчмаркам пока не представлен. Лицензия указана как anvdl-1.0 в README и как other в метаданных Hugging Face.

OpenThai Chinda 4B — языковая модель iApp Technology, дообученная на базе Qwen3-4B для работы прежде всего с тайским языком. Она построена на плотной архитектуре Qwen3ForCausalLM и содержит около 3,7 млрд параметров. Модель поддерживает диалог и переключение между режимами рассуждения и обычной генерации; заявленное нативное окно контекста — 40 960 токенов по метаданным, а README рекомендует держать контекст в пределах 32 768 токенов для оптимальной работы и описывает расширение до 131 072 токенов с YaRN. Модель предназначена для тайскоязычных чат-ботов и RAG-систем, математических задач, генерации кода и локального запуска на пользовательских устройствах. README заявляет точность генерации на тайском 98,4% и высокие результаты в приведённых бенчмарках, но эти показатели представлены разработчиком и зависят от методики оценки. Для фактических вопросов без контекста модель может галлюцинировать; для таких сценариев рекомендуется предоставлять источники или использовать RAG. Модель выпущена по лицензии Apache 2.0, разрешающей коммерческое и частное использование, модификацию и распространение.

NVIDIA Qwen3-8B FP4 — это квантизированная версия авторегрессионной языковой модели Qwen3-8B, разработанной Alibaba и подготовленной с применением TensorRT Model Optimizer от NVIDIA. Модель предназначена для коммерческого и некоммерческого использования в AI Agent системах, чат-ботах, RAG-системах и других приложениях на базе генерации текста. Модель построена на архитектуре Transformers и содержит около 8,2 млрд параметров. Она работает с текстовыми последовательностями, принимает и возвращает строки, поддерживает контекст длиной до 131 тыс. токенов. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат FP4, что ориентировано на эффективный инференс через TensorRT-LLM. Указана совместимость с GPU-ускорителями NVIDIA Blackwell, тестирование проводилось на B200; предпочтительная операционная система — Linux. Поддерживаемый runtime — TensorRT-LLM, версия Model Optimizer — 0.35.0. Сильными сторонами модели являются предварительная FP4-квантизация, большой контекст и готовность к развертыванию в оптимизированном стеке NVIDIA. Ограничения включают зависимость от TensorRT-LLM и рекомендуемого оборудования NVIDIA Blackwell, а также отсутствие в README подробностей о языковом покрытии, результатах тестирования, обучающих данных и характеристиках качества. Калибровка выполнялась на датасете cnn_dailymail. Модель распространяется по лицензии Apache License 2.0; при использовании разработчикам рекомендуется самостоятельно оценивать качество, риски и соответствие конкретным отраслевым требованиям.

mlx-community/DeepSeek-R1-Distill-Llama-70B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Llama-70B, разработанной deepseek-ai и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.21.1. Модель предназначена для генерации текста и диалоговых сценариев на устройствах и в средах, совместимых с MLX. Для работы используется библиотека mlx-lm; README показывает загрузку модели, применение chat template и генерацию ответа по текстовому запросу. Ключевые характеристики: 70 миллиардов параметров в базовой модели, 4-битное представление весов, текстовая модальность и архитектурная основа Llama, унаследованная от DeepSeek-R1-Distill-Llama-70B. Сведения о поддерживаемых языках, размере контекстного окна, точных возможностях рассуждения, ограничениях, лицензии и требованиях к оборудованию в README не указаны.

Experiment28M7_AlloyingotneoyExperiment26 — объединённая модель для генерации текста на базе архитектуры Mistral. Она получена слиянием automerger/Experiment28M7-7B и automerger/AlloyingotneoyExperiment26-7B и содержит 7,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Модель подходит для генерации продолжений, ответов и другого текста общего назначения. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

bartowski/gemma-1.1-7b-it-GGUF — это набор GGUF-квантизованных версий языковой модели Gemma 1.1 7B IT, разработанной Google и подготовленной для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и выполнение инструкций в текстовом формате. Модель содержит около 7 миллиардов параметров и является текстовой, без заявленной поддержки изображений или других модальностей. Доступны варианты квантизации от Q8_0 до Q2_K с размером файлов примерно от 3,48 до 9,07 ГБ. Более качественные варианты требуют больше памяти; в README рекомендован Q6_K, а низкоразрядные варианты подходят для систем с ограниченным объёмом RAM, но могут заметно уступать в качестве. Сведения о размере контекста и поддерживаемых языках не указаны. Преимущество этого набора — возможность локального запуска в формате GGUF с выбором компромисса между качеством, размером и требованиями к памяти. Ограничения связаны с потерями качества при агрессивной квантизации, а также с тем, что README не содержит подробных оценок, перечня языков и характеристик производительности. Использование регулируется лицензией Gemma; для доступа на Hugging Face требуется принять условия лицензии Google.

Google Gemma 3 4B IT QAT Q4_0 Unquantized — мультимодальная модель для диалогов с текстом и изображениями, основанная на Gemma 3 4B IT. Несмотря на обозначение QAT Q4_0 в названии, метаданные указывают формат файлов safetensors; отдельная квантизация в них не подтверждена. Модель принимает текст и изображения и генерирует текст, поддерживает чат и предназначена для ответов на вопросы по изображениям, суммаризации и другим задачам генерации и понимания текста. В README семейство Gemma 3 описано как компактное, подходящее для локального запуска на ноутбуках и настольных компьютерах. Для семейства заявлены контекст до 128 тысяч токенов и поддержка более 140 языков; README не уточняет, подтверждены ли эти характеристики именно для данной сборки. Лицензия — Gemma. Возможны фактические ошибки, предвзятые ответы и трудности с неоднозначными формулировками и сложными задачами; для развёртывания следует учитывать эти ограничения и проверять результаты.

unsloth/gemma-3-4b-pt — мультимодальная модель семейства Gemma 3, подготовленная Unsloth на основе предварительно обученной google/gemma-3-4b-pt. Она принимает текст и изображения и генерирует текстовые ответы. В метаданных указаны архитектура Gemma 3 с плотной моделью, библиотека Transformers и формат весов Safetensors; базовая модель имеет 4 млрд параметров по идентификатору репозитория. Для Gemma 3 заявлено контекстное окно 128 тыс. токенов и поддержка более 140 языков. Модель подходит для вопросов по изображениям, извлечения и обобщения визуальной информации, а также генерации и суммаризации текста. README описывает семейство Gemma 3 в целом, поэтому характеристики контекста и языковой поддержки относятся к семейству; эта версия обозначена как предварительно обученная, а не настроенная для следования инструкциям. Возможны фактические ошибки, пробелы и смещения, а также трудности с неоднозначными запросами и сложными задачами. Лицензия — Gemma.

unsloth/gemma-3n-E2B-it-litert-preview-GGUF — GGUF-версия инструкционной модели Gemma 3n E2B, основанной на google/gemma-3n-E2B-it-litert-preview. Модель разработана Google DeepMind, а данный вариант подготовлен Unsloth. Она предназначена для эффективного запуска на устройствах с ограниченными ресурсами, а также для диалогов, ответов на вопросы и суммаризации документов. Модель поддерживает мультимодальный ввод текста, изображений, видео и аудио с генерацией текстовых ответов, однако в README для этой конкретной версии указано, что в настоящее время поддерживается только текст. Эффективный размер составляет 2B параметров благодаря технологии выборочной активации параметров; общий размер параметров не указан. Максимальная длина контекста — 32K токенов. Заявлена языковая поддержка английского языка, при этом семейство Gemma 3n обучалось на данных более чем 140 разговорных языков. К сильным сторонам относятся компактность, ориентированность на малоресурсные устройства и формат GGUF, удобный для локального запуска. Ограничения включают текущую поддержку только текстовых входов в этой версии и отсутствие подробных сведений о производительности, аппаратных требованиях и результатах оценки. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use Google.

DealignAI выпустила Gemma-4-12B-it-MXFP4-CRACK — дообученную и квантизированную 4-битную версию Gemma 4 12B-it от Google. Модель рассчитана на запуск через MLX на компьютерах Apple Silicon; файлы занимают около 7,5 ГБ. Архитектура объединяет текст, изображения, аудио и видео, использует 48 слоёв и гибридное внимание со скользящим окном и полным вниманием. Заявленная длина контекста — 128 тысяч токенов. Модель предназначена для диалогов, мультимодального анализа и генерации текста. По описанию автора, CRACK удаляет поведение отказа на уровне весов, сохраняя рассуждения, знания и мультимодальные возможности. В README приведены результаты HarmBench и MMLU, полученные на конкретной конфигурации; они не гарантируют такое же качество на других запросах и средах. Для запуска автор рекомендует Osaurus, поддерживающий архитектуру Gemma 4 Unified. Лицензия — Gemma. Модель не рассчитана на естественный язык отказа при потенциально вредоносных запросах, поэтому ответы требуют самостоятельной проверки.

NeoChen1024/gemma-4-26B-A4B-it-qat-W4A16 — квантизированная версия мультимодальной instruct-модели Gemma 4 26B-A4B-it, разработанной Google. Модель предназначена для диалоговых сценариев и задач image-text-to-text, то есть обработки текста и изображений с генерацией текстовых ответов. Она ориентирована на развёртывание через vLLM и использует chat completions API. Модель преобразована из Q4_0 GGUF в формат compressed-tensors pack-quantized W4A16 с 4-битным симметричным групповым квантованием и group_size=32. Квантованные веса и масштабы сохраняются без потерь на уровне нибблов; масштабы имеют тип bfloat16 либо float16. Vision tower и прочие неквантованные тензоры хранятся в bfloat16. Для ускорения работы с Marlin применена padding-обработка размерностей MLP и MoE-блоков. В README не указаны точные размерности контекста и перечень поддерживаемых языков. К сильным сторонам относятся существенное снижение требований к памяти, совместимость с vLLM и сохранение исходных Q4_0-значений без потерь при конвертации. Ограничения связаны с особенностями развёртывания: для tensor parallelism с TP>1 плотные MLP-блоки рекомендуется оставлять неквантованными, что увеличивает потребление VRAM примерно на 725 MiB. Для работы необходим vLLM с поддержкой соответствующего формата и chat completions API; в README тестирование указано для vLLM 0.22.1 и GPU с CUDA compute capability 8.9, где модель загружается примерно в 16,4 GiB видеопамяти. Лицензия в предоставленных данных не указана.

German-RAG-MISTRAL-7B-v3.0-ORPO-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer Mistral, разработанная командой Avemio AI при поддержке Hessian AI. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель дообучена методом ORPO на немецкоязычных и англоязычных данных для сценариев Retrieval-Augmented Generation (RAG). Она предназначена для ответов на вопросы по найденным документам и контексту, извлечения релевантной информации, суммаризации и рассуждений. В README приведены результаты тестирования на наборах для извлечения, ответов на вопросы, суммаризации и сложных рассуждений; это результаты авторской оценки, а не гарантия качества для конкретных данных. Модель может выдавать неверные факты, поэтому ответы следует проверять. Без дополнительной фильтрации она может генерировать вредный или чувствительный контент. Лицензия модели и кода — Apache 2.0.