I.11Классификация, ранжирование и сопоставление

ALLaM-7B-Instruct-preview — двуязычная генеративная языковая модель, разработанная Национальным центром искусственного интеллекта при Управлении данных и искусственного интеллекта Саудовской Аравии (SDAIA). Модель обучена с нуля и настроена следовать инструкциям; её архитектура — плотный авторегрессионный Transformer семейства Llama с 6,7 млрд параметров. Репозиторий использует библиотеку Transformers и формат safetensors. Модель предназначена прежде всего для арабских языковых технологий, а также поддерживает английский. Её можно использовать как чат-ассистента для ответов на вопросы, диалога и генерации текста, а также как основу для более крупных ИИ-систем и исследований арабского языка. Контекст составляет до 4096 токенов; для работы не требуется заданный системный промпт, но его можно добавить. Модель может давать неверные или предвзятые ответы, поэтому её следует оценивать и адаптировать к конкретному применению; разработчикам систем с внешними инструментами следует предусмотреть меры безопасности. Лицензия — Apache-2.0.

maicomputer/alpaca-native — реплика Stanford Alpaca от автора репозитория maicomputer. Это плотная авторегрессионная модель семейства LLaMA с архитектурой LlamaForCausalLM, примерно 6,6 млрд параметров, предназначенная для генерации текста по инструкциям. Она обучена на исходных инструкциях Alpaca с небольшим изменением режима FSDP; в карточке приведены результаты оценки на ARC и HellaSwag. Модель подходит для диалоговых ответов и выполнения текстовых инструкций. Данных о лицензии и поддерживаемых естественных языках в предоставленных источниках нет.

Baanzon 33STREET 3.8-27B Uncensored Aggressive MTP — мультимодальная языковая модель на 27 млрд параметров, опубликованная компанией 33STREET. Она основана на Qwen/Qwen3.8-27B и распространяется в формате GGUF; квантизацию выполнял HauhauCS. Модель поддерживает работу с текстом и изображениями через vision projector, а также многоязычные сценарии, включая английский и китайский языки. Заявлено контекстное окно до 262 144 токенов, при этом вариант FastMTP рассчитан на контекст 32K. Модель предназначена для локального запуска, диалоговых приложений, анализа изображений, генерации текста и творческих производственных сценариев. Технология multi-token prediction обеспечивает спекулятивное декодирование и может ускорять генерацию при использовании совместимого llama.cpp; доступны варианты разной степени квантизации для видеопамяти примерно от 14 до 32 и более ГБ. В комплект входят веса модели, vision projector и варианты для запуска через llama.cpp и Ollama. Ключевая особенность модели — агрессивный профиль поведения с минимальным количеством отказов и отсутствием защитного слоя согласования. Поэтому она может генерировать оскорбительный, откровенный или иной потенциально вредный контент, а безопасность и соответствие законодательству полностью зависят от пользователя. Для работы требуются сборка llama.cpp с поддержкой MTP и vision либо совместимое окружение. Модель распространяется по лицензии Apache-2.0; права и условия базовой модели Qwen также должны учитываться.

BayLing-13B-v1.1 — языковая модель с настройкой на следование инструкциям, разработанная Shaolei Zhang, Qingkai Fang, Zhuocheng Zhang, Zhengrui Ma, Yan Zhou, Langlin Huang, Mengyu Bu, Shangtong Gui, Yunji Chen, Xilin Chen и Yang Feng. Это версия BayLing-13B с дополнительными знаниями о китайском языке по сравнению с v1.0. Модель предназначена для генерации текста на китайском и английском языках, следования инструкциям, многоходового диалога, перевода, письма, творческих задач и предложений. Архитектура — плотная LlamaForCausalLM на 12,9 млрд параметров; нативная длина контекста составляет 2048 токенов. В README указано, что модель можно запускать на потребительской видеокарте с 16 ГБ памяти. Лицензия — GPL-3.0. В карточке заявлены сильные возможности для генерации на английском и китайском, следования инструкциям и многоходового взаимодействия; сравнительные метрики не приведены. Контекст ограничен 2048 токенами, а заявленные языковые возможности сосредоточены на китайском и английском.

Bio-Saul-Dolphin-Beagle-Breadcrumbs — слитая диалоговая языковая модель, созданная с помощью mergekit на основе mlabonne/NeuralBeagle14-7B и моделей BioMistral, Saul-Instruct и Dolphin. Она предназначена для генерации текста в диалоге и может применяться для ответов на вопросы, в том числе по биомедицинским и юридическим темам, а также для общих инструкций. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса сохранены в формате safetensors. Слияние выполнено методом breadcrumbs; в конфигурации указаны точность float16 и плотность 0,9. Модель принимает текст и генерирует текст. Лицензия — MIT. Документация не содержит результатов оценивания качества, поэтому надёжность ответов, особенно в медицинских и юридических сценариях, следует проверять.

BLOSSOM-v5-llama3-8b — разговорная языковая модель, разработанная командой Blossom и дообученная на базе Meta-Llama-3-8B. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 8192 токенов; она принимает текст и генерирует текст в формате продолжения диалога. Модель предназначена для общения и ответов на вопросы на китайском и английском языках. В обучении использовались смешанные наборы Blossom Orca, Wizard, Chat и Math: сначала одноходовые инструкции, затем многоходовые диалоги. README сообщает, что данные для обучения были дистиллированы из gpt-4-0125-preview. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка описывает её как обладающую общими возможностями и пониманием контекста, но не приводит результатов независимых оценок; качество ответов может различаться в зависимости от задачи.

Bonsai-1.7B-GGUF — компактная языковая модель, разработанная Prism ML и представленная в формате GGUF для llama.cpp. Она предназначена для генерации текста, локальных чат-ботов и других сценариев инференса на устройствах с ограниченными ресурсами, включая компьютеры, смартфоны и планшеты. Поддерживаются вычисления через CUDA, Metal, CPU, а также интеграция с платформами Android, iOS и macOS. Модель содержит 1,7 млрд параметров, из которых около 1,4 млрд не относятся к embedding-слою, и использует плотную архитектуру на базе Qwen3-1.7B: 28 блоков Transformer-декодера, GQA с 16 query- и 8 KV-головами, SwiGLU, RoPE и RMSNorm. Контекстное окно составляет 32 768 токенов, размер словаря — 151 936 токенов. Все основные компоненты, включая embeddings, проекции внимания и MLP, а также LM head, представлены в 1-битном формате GGUF Q1_0 с размером группы 128. Развёрнутый объём весов составляет около 0,24 ГБ, что значительно снижает требования к памяти и ускоряет инференс. К сильным сторонам относятся очень малый размер, кроссплатформенность и возможность локального запуска практически на любом устройстве. Ограничения связаны с небольшим размером модели и агрессивным 1-битным квантованием, которые могут снижать качество, точность и устойчивость по сравнению с полноразмерными моделями в FP16; конкретные поддерживаемые языки в карточке не указаны. Модель распространяется по лицензии Apache 2.0.

Calme 3.2 Instruct 3B — языковая модель Maziyar Panahi для генерации текста и диалогов в общих областях. Это дообученная версия Qwen2.5-3B с плотной архитектурой Qwen2 и 3,1 млрд параметров; она работает через Transformers и принимает запросы в формате ChatML. Заявленная длина контекста — 32 768 токенов. Модель подходит для инструкционного диалога, ответов на вопросы и других общих текстовых задач. В карточке указаны французский и английский языки, а также датасеты французских инструкций и EvolKit-20k. Доступны файлы Safetensors; отдельная версия GGUF размещена в связанном репозитории. Автор предупреждает, что из-за небольшого размера модель может хуже справляться с некоторыми запросами и быть чувствительной к гиперпараметрам. Рекомендуются меры предосторожности и проверка человеком при использовании в производстве. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Chinese-Alpaca-2-1.3B — китайская инструкция-ориентированная языковая модель проекта Chinese LLaMA & Alpaca 2, основанная на архитектуре Llama 2. Это полная версия весов, которую можно загружать для инференса и полно-параметрического обучения. Модель прошла дополнительное предобучение на крупномасштабных китайских данных и дообучение для следования инструкциям; расширенный китайский словарь улучшает понимание китайского языка. Модель предназначена для генерации текста и диалоговых сценариев на китайском и английском языках. Она поддерживает контекст до 4 096 токенов; авторы указывают, что контекст можно расширить более чем до 18 тысяч токенов методом NTK. Архитектура — плотная LlamaForCausalLM, размер — около 1 млрд параметров, формат репозитория — PyTorch. Модель подходит для локального инференса и дальнейшего обучения, а проект поддерживает инструменты экосистемы LLaMA, включая Transformers и llama.cpp. Репозиторий распространяется по лицензии Apache-2.0.

CogVLM2-Llama3-Chat-19B — чат-модель с визуальным вводом от ZhipuAI, построенная на Meta-Llama-3-8B-Instruct. По карточке семейства модель предназначена для диалога и ответов на вопросы по изображениям; особенно отмечены результаты в задачах TextVQA и DocVQA. Модель поддерживает контекст до 8 192 токенов и изображения разрешением до 1344 × 1344 пикселей. Карточка указывает для этой версии английский язык; двуязычная поддержка китайского и английского относится к отдельной версии семейства. Метаданные описывают архитектуру как CogVLMForCausalLM и указывают 8,3 млрд параметров, тогда как README приводит размер семейства 19 млрд. Доступны веса в формате safetensors и чат-возможность. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

Citaman/command-r-5-layer — экспериментальная слитая языковая модель семейства Cohere, созданная автором репозитория с помощью mergekit. В README описано слияние методом SLERP двух срезов одной базовой модели Citaman/command-r-6-layer; метаданные указывают 6,2 млрд параметров и архитектуру CohereForCausalLM с плотными слоями. Модель принимает текст и предназначена для диалоговой генерации текста, а также интерфейса вызова инструментов. Контекст составляет до 8192 токенов. Веса опубликованы в формате safetensors. В карточке не указаны лицензия и поддерживаемые естественные языки. Это небольшой эксперимент по перестановке и слиянию слоёв, поэтому качество и надёжность могут быть ограничены; результаты следует проверять на целевых задачах.

cybertron-v4-qw7B-MGS-GGUF — это GGUF-квантизированная версия языковой модели cybertron-v4-qw7B-MGS, разработанной fblgit и квантизированной bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp или LM Studio. В README указана поддержка английского языка и текстовая модальность; данные о точной архитектуре, количестве параметров и размере контекста не приведены. Доступны варианты от F16 до Q3_K_XL, включая Q8_0, Q6_K, Q5_K и Q4_K, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Для запуска рекомендуется использовать формат prompt с маркерами ChatML. Среди заявленных результатов оценки: 62,64% строгой точности на IFEval, 37,04% на BBH, 27,72% exact match на MATH уровня 5 и 38,59% на MMLU-PRO. Эти показатели характеризуют способность модели следовать инструкциям, рассуждать и отвечать на академические вопросы, но не заменяют оценку на прикладных данных. Сильной стороной являются разнообразие доступных квантизаций и возможность локального использования при ограниченных ресурсах. Ограничения включают отсутствие сведений о мультимодальности, точных архитектурных характеристиках и контексте, а также заметное снижение качества у более компактных вариантов. Модель распространяется по лицензии other с указанием лицензии Qwen; для юридически корректного использования следует ознакомиться с условиями лицензии Qwen.

Darwin-27B-RSI — плотная языковая модель семейства Qwen3.5, разработанная FINAL-Bench как версия Darwin-27B-Opus после рекурсивного самоулучшения. Модель дообучалась на собственных решениях: человеческие ответы и цепочки рассуждений не использовались, а корректность автоматически проверялась по согласованности выборок и выполнению кода. Для модели заявлены 22,3 млрд параметров в метаданных и 27 млрд в README, контекст до 262 144 токенов по метаданным; веса представлены в safetensors, точность BF16. Лицензия — Apache 2.0. Модель предназначена для генерации текста и диалогов с режимом рассуждения, в особенности для сложных научных и математических вопросов. В README сообщается об улучшении результатов относительно Darwin-27B-Opus на GPQA Diamond и SuperGPQA, а также о применении модели как движка рассуждений Darwin-27B-JEV. Описанный сценарий предполагает предоставление модели достаточного бюджета токенов для рассуждений. Заявленные улучшения проверены на задачах научного reasoning; перенос этих результатов на другие области не гарантирован. Модель может генерировать длинные рассуждения, что увеличивает задержку; для сценариев с ограничениями по времени рекомендуется ограничивать число генерируемых токенов. README также указывает на пересечение 31 обучающей задачи с набором MMLU в Decision Index.

Deacon-20B — разговорная языковая модель семейства Llama, опубликованная KnutJaegersberg. Она предназначена для генерации текста и выполнения пользовательских инструкций в диалоге. В README приведён пример запроса о дообучении языковой модели, а метаданные указывают 19,6 млрд параметров и контекст до 4096 токенов. Модель использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors. В карточке приведены результаты оценок на задачах рассуждения и продолжения здравого смысла. Указанная лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.

Lambent/Eidolon-v3-14B-abliterated — разговорная языковая модель на архитектуре Qwen2 с 14 млрд параметров, представленная Lambent. В этой версии применено вмешательство в слой 19, направленное на подавление направления отказа; дополнительного дообучения в этой ветке не проводилось. Модель предназначена для генерации текста и диалогов, а также имеет интерфейс для вызова инструментов. Заявленная длина контекста — 131 072 токена. В README приведён результат 78,4 на EQ-Bench 2.1; автор сообщает, что выявленное тестом повреждение возможностей выглядит небольшим, но отмечает риск ухудшения способностей при дообучении. Метаданные помечают модель как не подходящую для любой аудитории. Сведения о лицензии и поддерживаемых естественных языках в доступных данных отсутствуют.

jaspionjader/ek-3 — слитая автором модель семейства Llama, созданная методом Model Stock с помощью mergekit на основе jaspionjader/ek-1 и с участием ещё четырёх моделей: Kosmos-EVAA-Franken-Immersive-v39-8B, ek-2, Kosmos-EVAA-Franken-Immersive-v41-8B и bbb-6. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и доступна в формате safetensors. Она предназначена для генерации текста и диалогового общения. Поддерживает контекст длиной до 131 072 токенов; в карточке указаны возможности chat и библиотека Transformers. Метаданные не приводят сведений о специализированной предметной области или поддерживаемых естественных языках. Лицензия в предоставленных данных не указана.

ERNIE-4.5-0.3B-PT — компактная текстовая плотная авторегрессионная модель семейства ERNIE 4.5, разработанная Baidu. Это вариант с весами PyTorch для Transformers; модель прошла постобучение и предназначена для понимания и генерации текста, включая диалоговые сценарии. Она содержит 318,2 млн параметров и поддерживает контекст до 131 072 токенов. Для запуска через библиотеку Transformers требуется версия 4.54.0 или новее; также в README приведён пример обслуживания через vLLM. Модель принимает и генерирует текст. В карточке указаны английский и китайский языки. Лицензия Apache-2.0. Карточка описывает ERNIE 4.5 в целом как мультимодальное семейство, но именно вариант 0.3B-PT обозначен как текстовая модель, поэтому возможности обработки изображений ему не приписываются.

nbeerbower/EVA-Gutenberg-Rombos-slerp-Qwen2.5-32B — объединённая языковая модель на архитектуре Qwen2.5, созданная разработчиком nbeerbower методом SLERP с помощью mergekit из EVA-Gutenberg3-Qwen2.5-32B и Rombos-Qwen2.5-32B-lorablated. Это плотная авторегрессионная модель с 32 млрд параметров и контекстом до 131 072 токенов; она предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Модель принимает текст и выдаёт текст. Карточка описывает способ слияния и состав исходных моделей, но не приводит оценок качества или подробностей о специализации. Доступна по лицензии Apache-2.0.

EVA-LLaMA-3.33-70B-v0.1-GGUF — это GGUF-квантизированная версия языковой модели EVA-LLaMA-3.33-70B-v0.1, подготовленная пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и может использоваться в локальных приложениях, чат-интерфейсах и других сценариях inference через llama.cpp или LM Studio. Исходная модель разработана EVA-UNIT-01; в её обучении или слиянии заявлены наборы данных для инструкционного следования, письма, ролевых диалогов и разнообразной генерации текста. Модель относится к классу больших текстовых моделей с заявленным размером 70B параметров. Доступны варианты квантования от Q8_0 до Q2_K, включая семейства Q4_K, Q5_K, Q6_K и IQ, с размером файлов примерно от 26 до 75 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти; в README рекомендуются варианты Q6_K, Q5_K, Q4_K и IQ4_XS в зависимости от доступных ресурсов. Формат GGUF ориентирован на локальный запуск, включая CPU-инференс в некоторых вариантах. Сильными сторонами являются большой размер модели, широкий выбор квантований и оптимизация с использованием imatrix, позволяющая подобрать компромисс между качеством и требованиями к памяти. Ограничения включают высокие аппаратные требования даже для компактных вариантов, отсутствие указанного в README формата промпта, а также отсутствие сведений о поддерживаемых языках, длине контекста, мультимодальности и результатах стандартизированных оценок. Указана лицензия eva-llama3.3; перед использованием следует проверить её условия для исходной модели и производных квантований.

Experiment28M7_AlloyingotneoyExperiment24 — объединённая методом SLERP модель семейства Mistral, созданная на основе automerger/Experiment28M7-7B и automerger/AlloyingotneoyExperiment24-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста, в том числе в сценариях, где нужен длинный контекст до 32 768 токенов. Модель принимает текст и выдаёт текст; сведения о конкретных языковых специализациях и прикладных областях в карточке отсутствуют. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Experiment28M7_Inex16Calme — слитая языковая модель семейства Mistral, объединяющая automerger/Experiment28M7-7B и automerger/Inex16Calme-7B. Она предназначена для генерации текста и диалоговых ответов по текстовым запросам. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Контекстное окно составляет до 32 768 токенов; веса представлены в формате safetensors. Поддерживаемые языки и специальные прикладные области в карточке не описаны. Модель распространяется по лицензии Apache-2.0. Данных о её качестве и конкретных ограничениях в карточке нет.

Fara1.5-9B-GGUF — это набор GGUF-квантизированных версий мультимодальной модели Fara1.5-9B, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для сценариев computer use: управления браузером и интерфейсами, автоматизации веб-задач, работы веб-агентов и других задач, требующих понимания изображений и текста. Модель содержит около 9 миллиардов параметров, относится к классу vision-language и поддерживает обработку изображений и текста. В карточке указано, что основной язык — английский. Доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K, Q4_K и более компактные форматы; размер файлов составляет примерно от 4,3 до 17,9 ГБ. Контекстное окно, точная архитектура и требования к видеопамяти или оперативной памяти не указаны. Сильные стороны модели — мультимодальность, ориентация на агентские и браузерные сценарии, а также широкий выбор квантизаций для запуска на оборудовании с разными ресурсами. Более компактные варианты снижают требования к памяти, но могут заметно уступать исходной BF16-версии по качеству. Для работы подходят llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты; при поддержке новой архитектуры может потребоваться обновление используемого приложения. Модель распространяется по лицензии MIT.

Florence-2-base — базовая версия мультимодальной модели зрения Microsoft, представленная в репозитории как реализация для Hugging Face Transformers. Это плотная encoder-decoder модель последовательность-в-последовательность с примерно 0,23 млрд параметров, предварительно обученная на FLD-5B — наборе из 5,4 млрд аннотаций для 126 млн изображений. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Модель принимает изображение и текстовую инструкцию-промпт, а затем выполняет задачи зрения и языка: описывает изображение, обнаруживает объекты, находит области по текстовому описанию, предлагает регионы, распознаёт текст на изображении и выполняет сегментацию. Поддерживаются zero-shot-применение и дообучение. В карточке приведены результаты оценки для описания изображений, детекции объектов и других визуально-языковых задач. Florence-2-base рассчитана на широкий круг задач анализа изображений, а не на отдельную предметную область. Модель может ошибаться при распознавании текста, локализации объектов и создании описаний; качество зависит от изображения и выбранного промпта. Данные о поддерживаемых естественных языках и длине контекста в предоставленных источниках отсутствуют.

FuseChat-Llama-3.2-3B-Instruct-GGUF — набор квантизированных GGUF-версий инструкционной языковой модели FuseChat-Llama-3.2-3B-Instruct, разработанной FuseAI. Квантизацию выполнил bartowski с использованием llama.cpp b4273 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp или LM Studio. Модель содержит около 3 млрд параметров и работает в текстовой модальности. Доступны версии от F32 и F16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации с размером файлов примерно от 1,82 до 12,86 ГБ. Это позволяет выбирать компромисс между качеством, скоростью и требованиями к оперативной памяти; автор рекомендует, в частности, варианты Q4_K_M, Q5, Q6 и IQ4_XS в зависимости от сценария. Для работы следует использовать формат prompt, основанный на специальной разметке Llama 3.2 с ролями system, user и assistant. Сильная сторона набора — широкий выбор оптимизированных квантизаций для локального запуска, включая варианты для ARM и AVX. Более компактные версии экономят память, но могут уступать более точным по качеству. В README не указаны поддерживаемые языки, размер контекста, точная архитектура базовой модели, результаты оценки и лицензия, поэтому эти характеристики нельзя надежно определить по представленным данным.

Gemma-2-2B-it-IMat-GGUF — это квантизированная GGUF-версия языковой модели Gemma 2 2B IT, разработанной Google и преобразованной с помощью llama.cpp пользователем legraphista. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, например llama.cpp. README не указывает поддерживаемые языки и размер контекстного окна. В репозитории доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизаций размером примерно от 1,18 до 5,24 ГБ. Для ряда вариантов применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера модели; варианты BF16, FP16, Q8_0 и Q6_K используют статическую квантизацию. Снижение точности уменьшает требования к памяти, но может ограничивать качество по сравнению с исходной моделью BF16. Исходная модель имеет тип данных BF16. Модель относится к текстовым, а не мультимодальным системам. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии в README не раскрыты, поэтому перед применением необходимо ознакомиться с официальной лицензией.

Карточка модели xufofox/gemma-2-2b-it-test на Hugging Face совпадает с карточкой google/gemma-2-2b-it, поэтому описание составлено по ней. Gemma 2 2B IT — компактная текстовая модель Google, дообученная для следования инструкциям и диалогового взаимодействия на базе google/gemma-2-2b. Это декодерная языковая модель семейства Gemma, работающая по схеме «текст на входе — текст на выходе»; она поддерживается библиотекой Transformers и распространяется в формате Safetensors с открытыми весами по лицензии Gemma. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и диалоговых интерфейсов. Её небольшой размер позволяет запускать её на ноутбуке, настольном компьютере или собственной облачной инфраструктуре с ограниченными ресурсами. В README семейство описано как англоязычное. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; качество зависит от формулировки запроса и предоставленного контекста. Модель может испытывать трудности со сложными задачами, языковыми нюансами и здравым смыслом. Для приложений, где важны точность и безопасность, необходима проверка результатов и защитные меры.

abideen/gemma-2b-openhermes — компактная языковая модель для генерации текста, созданная дообучением Google Gemma 2B Instruct с помощью QLoRA на предпочтениях OpenHermes-2.5. Модель использует плотную архитектуру GemmaForCausalLM, содержит 2,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель принимает текстовые запросы и документы, а в ответ генерирует текст. Она предназначена для диалогов, ответов на вопросы и суммаризации; для разговорного режима следует применять встроенный шаблон чата токенизатора. В README заявлена генерация на английском языке. Карточка приводит результаты нескольких бенчмарков, но сама по себе не гарантирует качество на конкретных прикладных задачах. Модель доступна в формате Safetensors для библиотеки Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Карточка модели QueryloopAI/gemma-2b-openhermes на Hugging Face совпадает с карточкой abideen/gemma-2b-openhermes, поэтому описание составлено по ней. abideen/gemma-2b-openhermes — компактная языковая модель для генерации текста, созданная дообучением Google Gemma 2B Instruct с помощью QLoRA на предпочтениях OpenHermes-2.5. Модель использует плотную архитектуру GemmaForCausalLM, содержит 2,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель принимает текстовые запросы и документы, а в ответ генерирует текст. Она предназначена для диалогов, ответов на вопросы и суммаризации; для разговорного режима следует применять встроенный шаблон чата токенизатора. В README заявлена генерация на английском языке. Карточка приводит результаты нескольких бенчмарков, но сама по себе не гарантирует качество на конкретных прикладных задачах. Модель доступна в формате Safetensors для библиотеки Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

unsloth/gemma-3-270m-it-qat — облегчённая инструктивная модель семейства Gemma 3, опубликованная Unsloth и основанная на google/gemma-3-270m-it-qat-q4_0-unquantized. Это плотная авторегрессионная языковая модель с 257 млн параметров, предназначенная для генерации текста и диалоговых сценариев. В метаданных указаны библиотека Transformers и контекст до 32 768 токенов. Модель подходит для чат-ботов, черновиков текстов, кратких пересказов и ответов на вопросы. README семейства Gemma 3 описывает поддержку более 140 языков и приём изображений, однако метаданные этой конкретной репозитории указывают текстовую архитектуру Gemma3ForCausalLM и задачу text-generation; поэтому визуальные возможности семейства нельзя уверенно приписать этой версии. Карточка заявляет, что Unsloth Dynamic 2.0 обеспечивает высокую точность квантования, но формат файлов репозитория указан как safetensors. Модель может ошибаться в фактах, хуже справляться со сложными или неоднозначными запросами и наследовать смещения обучающих данных. Лицензия — Gemma; перед использованием следует учитывать её условия.

Это совместимая сборка Gemma 4 26B-A4B-it в формате GGUF для llama.cpp, подготовленная TaterTotterson на основе релиза unsloth/gemma-4-26B-A4B-it-GGUF. Модель предназначена для диалоговых задач и сценариев image-text-to-text, включая работу с изображениями через отдельный vision projector. Сборка не является новым fine-tune: основные веса и проектор взяты из upstream-релиза, а шаблон чата изменён так, чтобы принудительно отключать режим рассуждений и использовать no-thinking path. Основной файл использует квантизацию UD Q4_K_M; точный размер модели, максимальная длина контекста и поддерживаемые языки в README не указаны. Для ускорения генерации предусмотрена speculative decoding с совместимыми боковыми моделями MTP Q8_0 или DFlash Q8_0. Они не являются самостоятельными чат-моделями и должны использоваться только с данной целевой моделью Gemma 4 26B-A4B-it. Поддержка vision требует файла mmproj-F16.gguf. Сильные стороны сборки — интеграция с llama.cpp и Tater, поддержка обработки изображений, принудительное отключение рассуждений и возможность ускорения вывода посредством MTP или DFlash. Фактический прирост скорости зависит от запроса, оборудования, длины контекста и доли принятых черновых токенов. Ограничения включают необходимость совместимой свежей версии llama.cpp, отдельного projector для vision и корректно подобранной draft-модели; параметры контекста и языковые возможности не заявлены. Лицензия — Apache 2.0.