I.11Классификация, ранжирование и сопоставление

BigFalcon3-36B — объединённая языковая модель для генерации текста и диалогов, созданная с помощью mergekit на основе tiiuae/Falcon3-10B-Instruct. В репозитории указано слияние методом passthrough; метаданные описывают архитектуру как плотную LlamaForCausalLM и указывают 17,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для Transformers. Модель подходит для диалоговых сценариев и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельную специализацию или результаты оценки качества. Лицензия в предоставленных данных не указана.

DeepSeek LLM 7B Chat — разработанная DeepSeek плотная авторегрессионная языковая модель семейства LLaMA с 6,5 млрд параметров в метаданных. Модель создана на основе deepseek-ai/deepseek-llm-7b-base и дообучена на дополнительных инструкционных данных для диалогового взаимодействия. Она обучалась с нуля на корпусе из 2 трлн токенов на английском и китайском языках. Модель предназначена для генерации текста и ответов в чате. Она принимает текстовые сообщения и выдаёт текст; максимальный контекст составляет 4096 токенов. README предупреждает, что системный промпт несовместим с этой версией и не рекомендует его включать во входные сообщения. Указана лицензия other; README представляет выпуск как открытый для исследовательского сообщества, но не уточняет конкретные условия лицензии.

DeepSeek-R1-Distill-Llama-8B-GGUF — это набор GGUF-квантизаций модели DeepSeek-R1-Distill-Llama-8B, подготовленный bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана DeepSeek, а данный репозиторий предоставляет варианты весов для локального запуска и инференса, в том числе через LM Studio. Модель предназначена для генерации текста и поддерживает сценарии локального использования, включая диалоговое взаимодействие и задачи рассуждения, предусмотренные базовой моделью. Доступны варианты от F32 и F16 до низкоразрядных Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер модели составляет 8 миллиардов параметров; формат GGUF ориентирован на работу с llama.cpp. В README также указан шаблон промпта, содержащий системное сообщение, запрос пользователя и ответ ассистента. Сильной стороной набора является широкий выбор квантизаций: варианты Q6 и Q5 обеспечивают высокое качество при заметно меньшем размере, а Q4 и Q3 подходят для устройств с ограниченными ресурсами. Более компактные варианты экономят память, но могут снижать качество генерации. Данные о поддерживаемых языках, размере контекста, точной архитектуре, мультимодальности и лицензии в README не указаны.

unsloth/DeepSeek-R1-Distill-Qwen-1.5B-unsloth-bnb-4bit — это 4-битная квантованная версия языковой модели DeepSeek-R1-Distill-Qwen-1.5B, подготовленная Unsloth на основе базовой модели deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B. Модель относится к семейству DeepSeek-R1 и использует дистилляцию способностей рассуждения, полученных при обучении DeepSeek-R1, в компактную модель на базе Qwen. Формат предназначен для использования с библиотекой Transformers и технологией bitsandbytes. Модель предназначена прежде всего для текстовых задач, требующих рассуждений, включая решение математических задач, программирование, ответы на вопросы и другие сценарии, где важна последовательная логика. Благодаря размеру 1,5 млрд параметров и 4-битному представлению она ориентирована на запуск при ограниченных ресурсах памяти, однако README не содержит точных требований к оборудованию, размера контекста или подробных показателей качества. Указан английский язык; поддержка других языков отдельно не заявлена. К сильным сторонам относятся компактность, сниженные требования к памяти и ориентация на reasoning-задачи. Ограничениями являются меньшая вместимость по сравнению с более крупными моделями DeepSeek-R1 и возможные потери качества из-за 4-битной квантования; конкретные компромиссы в README не измерены. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V2-Lite-IMat-GGUF — это GGUF-квантизированная версия языковой модели DeepSeek-V2-Lite, разработанной deepseek-ai. Квантизацию выполнил legraphista с использованием llama.cpp и метода IMatrix, предназначенного для снижения размера модели с сохранением качества. Модель относится к задачам генерации текста и рассчитана на запуск через совместимые инструменты, включая llama.cpp. В репозитории доступны варианты от исходных FP16 и BF16 до различных уровней квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-серии. Размер файлов составляет примерно от 5,64 до 31,42 ГБ. IMatrix применяется в вариантах с более низкой точностью, включая Q4_K, Q3_K, Q2_K и IQ-квантизации; для FP16, BF16, Q8_0 и некоторых других вариантов он не используется. Исходная модель имеет тип данных BF16. Сильная сторона сборки — широкий выбор компромиссов между качеством, размером и требованиями к ресурсам, а IMatrix может улучшать сохранение качества при агрессивной квантизации. README не содержит сведений об архитектуре, числе параметров, длине контекста, поддерживаемых языках, мультимодальности, результатах оценивания или лицензии, поэтому эти характеристики нельзя достоверно определить по представленным данным.

Garnet-OCR-7B-0422-i1-GGUF — это квантованная версия vision-language модели Garnet-OCR-7B-0422, разработанной prithivMLmods и опубликованной в формате GGUF пользователем mradermacher. Модель предназначена для обработки изображений документов, OCR, преобразования PDF и изображений в Markdown, извлечения структурированных данных, распознавания и связывания элементов документов, а также задач Intelligent Document Processing и Key Information Extraction. Модель имеет размер 7B параметров, поддерживает визуально-текстовый ввод и, согласно метаданным, английский язык. Она обучалась на наборах данных OpenDoc-Pdf-Preview, Opendoc1-Analysis-Recognition, olmOCR-mix-0225, Openpdf-Analysis-Recognition и OCR-Markdown-Dense-200x. Контекст, точная архитектура vision-компонента и перечень поддерживаемых форматов изображений в README не указаны. Репозиторий содержит множество вариантов квантования GGUF объёмом примерно от 2,0 до 6,4 ГБ; рекомендуются варианты i1-Q4_K_M и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Сильная сторона модели — специализация на OCR и понимании структуры документов, включая генерацию Markdown и извлечение информации. Ограничения связаны с потерями качества при низких уровнях квантования, а также с отсутствием в README подробных оценок качества, описания контекстного окна и характеристик инференса. Для работы с изображениями могут потребоваться дополнительные mmproj-файлы из статического репозитория. Указанная лицензия — Apache-2.0.

Gemma 2 2B — компактная языковая модель Google из семейства Gemma, созданная с использованием исследований и технологий, применявшихся при разработке Gemini. Это декодерная модель с открытыми весами для генерации текста; семейство включает предварительно обученные и дообученные для следования инструкциям варианты. Данная карточка описывает текстовую модель, ориентированную на английский язык. Модель подходит для ответов на вопросы, суммаризации, рассуждений, диалоговых интерфейсов и создания текстов — например, черновиков писем, сценариев и рекламных материалов. Небольшой размер позволяет запускать её на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. В метаданных указаны библиотека Transformers и формат весов Safetensors; лицензия — Gemma. Качество ответов зависит от обучающих данных и формулировки запроса. Модель может выдавать фактически неверную или устаревшую информацию, отражать предвзятость данных и испытывать трудности с неоднозначностью и сложными открытыми задачами; для прикладных систем рекомендуется проверка результатов и меры безопасности.

bartowski/gemma-2-9b-it-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Gemma 2 9B IT, разработанной Google и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и другие задачи, где требуется выполнение инструкций. Доступны варианты от F32 до низкобитных Q2 и IQ-квантизаций объёмом примерно от 3,43 до 36,97 ГБ. Модель является текстовой и использует архитектуру Gemma 2 с примерно 9 млрд параметров. README не указывает поддерживаемые языки и размер контекста. Для работы необходимо применять специальный формат prompt с маркерами начала и конца хода; системные сообщения не поддерживаются. Квантизации с более высокой точностью сохраняют лучшее качество, а варианты Q4–Q6 предлагают компромисс между качеством и требованиями к памяти; низкобитные варианты экономичнее, но могут заметно уступать в качестве. Распространение основано на лицензии Gemma от Google. Для доступа к исходной модели на Hugging Face требуется принять условия использования Google. README не содержит подробного описания ограничений лицензии или результатов бенчмарков, поэтому качество следует оценивать с учётом выбранной квантизации и конкретного сценария применения.

gemma-2-9b-it-IMat-GGUF — это квантизированная версия текстовой instruction-tuned модели Google Gemma 2 9B IT, подготовленная legraphista в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и задачи, где важны сниженные требования к памяти. В основе лежит модель google/gemma-2-9b-it с исходным форматом BF16 и примерно 9 миллиардами параметров. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; размеры файлов составляют примерно от 3,8 до 18,5 ГБ. Для ряда вариантов с низкой разрядностью применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера. README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности; по указанным данным модель является текстовой. Основные преимущества — широкий выбор уровней квантизации, возможность локального запуска и наличие IMatrix-вариантов, позволяющих выбирать компромисс между качеством и потреблением памяти. Ограничения связаны с возможной потерей качества при сильной квантизации и с тем, что характеристики базовой модели, включая языковое покрытие и контекст, в карточке не раскрыты. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется ознакомиться с условиями и принять лицензию.

Gemma-2-9B-It-SPPO-Iter3-GGUF — квантизированная версия языковой модели Gemma-2-9B-It-SPPO-Iter3, опубликованная UCLA-AGI и подготовленная в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, включая диалоговые и другие сценарии применения текстовых LLM. Обучение или дообучение связано с датасетом openbmb/UltraFeedback. Модель содержит около 9 миллиардов параметров и поддерживает английский язык. Доступны варианты от F32 до низкобитных квантований Q2 и IQ2, размером примерно от 3,43 до 36,97 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp b3389; варианты Q6 и Q5 позиционируются как обеспечивающие очень высокое качество, а Q4 — как компромисс между качеством и требованиями к памяти. README не указывает размер контекста и модальности, поэтому эти характеристики неизвестны. Для работы требуется соблюдать формат prompt, основанный на специальной разметке ролей Gemma. Модель не поддерживает system prompt. Качество и требования к памяти зависят от выбранного варианта квантования: более компактные файлы экономят ресурсы, но могут заметно снижать качество. Лицензия указана как gemma; конкретные условия её применения следует уточнять в документации Gemma.

LastRef/gemma-3-12b-it-heretic-x — дообученная мультимодальная модель на основе Google Gemma 3 12B IT. Это разговорная модель с архитектурой Gemma 3 для обработки текста и изображений с генерацией текстовых ответов. Подходит для диалога, создания и суммаризации текста, ответов на вопросы и извлечения информации из изображений. Карточка Gemma 3 указывает контекст до 128 тыс. токенов и поддержку более 140 языков; эти характеристики относятся к семейству базовой модели. В тегах модели она обозначена как uncensored, decensored и abliterated, то есть её позиционируют как модель с ослабленными ограничениями на ответы; README при этом описывает базовое семейство Gemma, а не специфические изменения этой версии. Такие модели могут выдавать вредный или недостоверный контент, а также отражать смещения данных обучения. Лицензия — Gemma; условия использования определяются лицензией и политикой допустимого использования Gemma.

GLiNER-relex-multi-v1.0 — модель на архитектуре GLiNER для совместного извлечения именованных сущностей и отношений между ними из текста. Она выполняет обе задачи за один проход и позволяет задавать типы сущностей и отношений при обработке, без дополнительного дообучения. Для меток можно передавать описания на естественном языке; специальная метка «other» помогает находить сущности, участвующие в заданных отношениях, даже если их типы не перечислены явно. Модель использует единый энкодер на базе трансформера, классификацию текстовых фрагментов и графовые свёрточные сети для отбора пар сущностей и классификации отношений. Она рассчитана на извлечение информации из документов, построение графов знаний, обогащение корпусов и подготовку структурированных данных для систем вопросов и ответов. README заявляет поддержку экспорта в ONNX для развёртывания. Модель распространяется по лицензии Apache-2.0.

MLX-версия языковой модели GLM-4.7, разработанной организацией zai.org и конвертированной сообществом mlx-community из исходной модели zai-org/GLM-4.7 с помощью mlx-lm 0.30.0. Модель предназначена для генерации текста и запуска в экосистеме MLX, в том числе через библиотеку mlx-lm на совместимом оборудовании Apple. Типичные сценарии включают диалоговое взаимодействие и другие задачи текстовой генерации. Модель использует 6-битное квантование и формат MLX. В карточке указаны поддерживаемые языки English и Chinese, модальность — текстовая. Архитектура, количество параметров и размер контекста в README не уточняются. К сильным сторонам относятся адаптация для MLX и снижение требований к памяти благодаря 6-битному представлению; ограничения — отсутствие подробных данных о качестве, производительности, точном аппаратном охвате и возможностях исходной GLM-4.7. Модель распространяется по лицензии MIT.

GLM-5.2-DQ4plus-q8 — это конвертированная в формат MLX и смешанно квантованная версия языковой модели GLM-5.2, разработанной Z.ai (zai-org) и опубликованной сообществом mlx-community. Модель предназначена для генерации текста и локального запуска на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти; для использования рекомендуется библиотека mlx-lm. Ключевая особенность — смешанная квантизация: большинство тензоров сохраняется в 8-битном формате, тензоры up и gate экспертных слоёв квантуются до 4 бит, а down-тензоры — до 5 и 6 бит в зависимости от блока. Такой подход призван сохранить качество при меньшем потреблении памяти и оставить место для контекстного окна. В README не указаны точный размер модели, архитектура GLM-5.2, поддерживаемые языки, модальности и длина контекста; заявленные характеристики применимы прежде всего к MLX-окружению Apple Silicon. Модель ориентирована на пользователей, которым нужен локальный запуск крупной языковой модели на совместимом Mac. Её сильная сторона — компромисс между качеством и требованиями к памяти благодаря преимущественно 8-битным весам и более экономной квантизации экспертных тензоров. Ограничения связаны с привязкой к MLX и оборудованию Apple Silicon, а также с возможными потерями качества из-за квантизации. Модель распространяется по лицензии MIT.

GLM-5.3-Flash NVFP4 B200 hybrid — это квантизированная версия GLM-5.3-Flash, разработанная tiyuvta и собранная из исходной BF16-версии zai-org. Модель предназначена для генерации текста, диалоговых сценариев, агентных задач и вызова инструментов. В карточке указаны английский и китайский языки, а также поддержка conversational и tool-calling сценариев. Базовый пайплайн — text-generation, формат хранения — safetensors. Модель использует гибридную, а не равномерную 4-битную квантизацию и рассчитана на NVIDIA B200 с архитектурой sm_100. Основной объём весов экспертов MoE, shared-экспертов и некоторых плотных MLP представлен в NVFP4; отдельные линейные слои — в FP8, маршрутизатор — в FP32, а чувствительные компоненты, включая часть attention, нормализации, embeddings и lm_head, сохранены в BF16. Объём модели составляет около 189,1 ГБ в 19 safetensors-фрагментах. Токенизатор унаследован от GLM-5.3-Flash. Сильной стороной модели является специализированная гибридная схема точности, ориентированная на производительность tensor cores NVIDIA B200 при сохранении более высокой точности для отдельных компонентов. Однако это экспериментальная сборка: она ещё не прошла заявленные проверки kernel-check, argmax-margin и vendor-default decode, не является готовым serving pin, не поддерживает заявленную совместимость с NVIDIA RTX PRO 6000 и не должна использоваться как drop-in замена другой версии. Кроме того, в checkpoint отсутствует activation scale plane для W4A4 tensor-core serving, поэтому веса нельзя автоматически считать готовой W4A4-моделью. Лицензия — MIT.

gpt-oss-120b-Derestricted — модифицированная Arli AI версия открытой модели openai/gpt-oss-120b. Это языковая модель с архитектурой MoE для генерации текста и диалогов; каталог указывает 2,1 млрд параметров и контекст до 131 072 токенов. Модель распространяется в формате safetensors и рассчитана на работу с шаблоном сообщений Harmony. Разработчик сообщает, что применил Norm-Preserving Biprojected Abliteration, чтобы ослабить поведение отказа, сохранив нормы весов и способности к рассуждению исходной модели. Предполагаемые сценарии — диалоги, рассуждения и агентные задачи. Заявления README о сохранении или улучшении качества основаны на оценках разработчика и не подтверждают качество для конкретных задач. Модель может чаще отвечать на запросы, от которых исходная версия отказалась бы; это ограничивает её пригодность для сценариев, где необходимы встроенные защитные отказы. Лицензия — Apache-2.0. Для корректной работы следует использовать формат Harmony; README также отмечает, что модель иногда всё же подавляет ответы.

giladgd публикует модель gpt-oss-20b в формате GGUF для запуска через node-llama-cpp и llama.cpp. Это разговорная текстовая модель генерации на архитектуре семейства GPT-OSS, производная от openai/gpt-oss-20b. Репозиторий содержит варианты MXFP4 и F16; README указывает размер файла MXFP4 12,1 ГБ и F16 13,8 ГБ. Для запуска варианта MXFP4 заявлено потребление памяти в пределах 16 ГБ. Модель предназначена для диалогов, генерации текста и сценариев с агентными возможностями, включая вызов функций и структурированный вывод. README также описывает настройку уровня усилий рассуждения и дообучение под конкретные задачи. Модель поддерживает Apache-2.0, допускающую коммерческое использование. Указанные в карточке возможности не подтверждают качество выполнения конкретных прикладных задач или работу с вебом и Python без соответствующей внешней интеграции.

mlx-community/granite-3.3-2b-instruct-fp16 — конверсия модели IBM Granite 3.3 2B Instruct в формат MLX для запуска на системах Apple Silicon. Это плотная авторегрессионная языковая модель с 2,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалога, следования инструкциям, генерации текста и вызова инструментов через соответствующий интерфейс. Модель подходит для чат-ассистентов, ответов на вопросы и работы с длинными текстовыми запросами. Репозиторий опубликован mlx-community; исходная модель — ibm-granite/granite-3.3-2b-instruct. Лицензия — Apache-2.0. README указывает на конверсию с помощью mlx-lm 0.22.5; метаданные классифицируют связь с исходной моделью как finetune.

Nitral-Archive/Hex-Macaroniac-7b — объединённая языковая модель на архитектуре Mistral, созданная слиянием jeiku/SpaghettiOs_7B и jeiku/Nitrals_Monster_7B методом SLERP. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Модель предназначена для генерации текста и ответов на запросы. В карточке приведены результаты Open LLM Leaderboard, включая среднюю оценку 66,64, AI2 Reasoning Challenge и HellaSwag. Указана лицензия other; условия её использования следует сверять с лицензией и сведениями базовых моделей.

InternLM2.5-7B-Chat-GGUF — это квантизированная версия диалоговой языковой модели InternLM2.5-7B-Chat, разработанной командой InternLM и опубликованной в формате GGUF для использования с llama.cpp. Квантизацию выполнил bartowski с применением imatrix и различных схем квантования, рассчитанных на баланс между качеством ответов, размером файла и требованиями к памяти. Модель предназначена для текстовой генерации и диалоговых сценариев: ведения беседы, ответа на вопросы и выполнения инструкций. Для работы используется специальный шаблон prompt с ролями system, user и assistant. Доступны варианты от Q8 до Q2 и IQ-квантов; размеры файлов в README указаны примерно от 2,58 до 8,93 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, тогда как низкобитные версии подходят для систем с ограниченным объёмом RAM, но заметно уступают по качеству. К сильным сторонам относятся широкий выбор уровней квантования, совместимость с llama.cpp и возможность локального запуска. Рекомендуемыми названы варианты Q4–Q6 и некоторые IQ4, тогда как Q3 и Q2 экономят память ценой снижения качества. README не содержит достоверных сведений о языках, размере контекста, точной архитектуре исходной модели и условиях лицензирования: указано лишь, что лицензия имеет тип other. Для использования необходимо учитывать требования выбранного GGUF-файла и поддерживать соответствующий формат prompt.

InternLM2-Chat-1.8B — диалоговая языковая модель второго поколения семейства InternLM, разработанная командой InternLM. Это плотная авторегрессионная модель на 1,7 млрд параметров, предназначенная для общения, следования инструкциям и генерации текста; в карточке также отмечены функция вызова инструментов и применение для downstream-сценариев. Модель прошла supervised fine-tuning, а затем дополнительное выравнивание с помощью онлайн-RLHF поверх InternLM2-Chat-1.8B-SFT. Метаданные указывают контекст до 32 768 токенов. README семейства заявляет поддержку очень длинных входов до 200 000 символов и сильные результаты на задачах работы с длинным текстом, а также улучшения в рассуждениях, математике и программировании; это характеристики серии InternLM2, а не отдельная оценка данного чекпойнта. Модель подходит для чат-ботов, ответов на инструкции и генерации текста на китайском и английском языках. Модель может генерировать предвзятые, дискриминационные или иные вредоносные ответы. Код распространяется по Apache-2.0; для весов заявлен свободный доступ для академических исследований и возможность запросить бесплатное разрешение на коммерческое использование.

unsloth/InternVL3-1B-Instruct-GGUF — GGUF-версия мультимодальной модели InternVL3-1B-Instruct, разработанной командой OpenGVLab и подготовленной в формате квантования Unsloth. Это SFT-версия модели, прошедшая нативное мультимодальное предварительное обучение и supervised fine-tuning, но не прошедшая MPO. Модель предназначена для задач понимания изображений и текста, мультимодального диалога и рассуждений, а также может применяться для работы с инструментами, GUI-агентов, анализа промышленных изображений и восприятия 3D-сцен. Архитектура построена по схеме ViT-MLP-LLM и включает визуальную часть InternViT-300M-448px-V2_5 и языковую часть Qwen2.5-0.5B. Поддерживается мультиязычная работа; модель относится к классу image-text-to-text и обрабатывает изображения вместе с текстовыми запросами. Ключевое преимущество — сочетание мультимодального восприятия и рассуждений при небольшом размере языковой компоненты, а формат GGUF удобен для локального запуска совместимыми инструментами. Ограничения включают меньшие возможности по сравнению с более крупными моделями семейства, отсутствие MPO и неизвестные из представленных данных параметры контекстного окна, точные языки и характеристики конкретного квантования. В метаданных указана лицензия Apache-2.0; ссылка на лицензию ведёт к лицензии Qwen2.5-72B-Instruct.

jackalope-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и openaccess-ai-collective/jackalope-7b методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров, распространяется в формате Safetensors и рассчитана на генерацию текста и ответы на инструкции в диалоговом режиме. Контекст составляет до 32 768 токенов. Модель подходит для диалоговых приложений, генерации текста и ответов на запросы. В метаданных не указаны специализированные предметные области или поддерживаемые языки, поэтому их нельзя уверенно определить. Модель распространяется по лицензии Apache-2.0.

Jan-Nano-128k — компактная языковая модель Alan Dao и Bach Vu Dinh, дообученная на базе Menlo/Jan-nano. Это плотная модель семейства Qwen3 с 3,7 млрд параметров и контекстом до 131 072 токенов. Она предназначена для исследовательских задач: анализа длинных документов и научных статей, синтеза информации из нескольких источников и ведения многоходовых диалогов. Модель поддерживает чат и интерфейс вызова инструментов MCP; авторы характеризуют её как не использующую режим пошагового рассуждения. Модель принимает текст и генерирует текст. Репозиторий содержит веса Safetensors; для запуска авторы описывают развёртывание через vLLM с настройками для длинного контекста и вызова инструментов. Лицензия — Apache-2.0. README сообщает об оценке на SimpleQA, но не приводит численных результатов, поэтому заявленное улучшение относительно Jan-Nano нельзя количественно оценить по карточке.

bartowski/kalomaze_Qwen3-16B-A3B-GGUF — набор GGUF-квантизаций базовой модели kalomaze/Qwen3-16B-A3B. Квантизации подготовлены bartowski с использованием llama.cpp b5255 и метода imatrix. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты от BF16 размером 32,08 ГБ до компактных низкобитных форматов. Доступны Q8_0, Q6_K_L, Q6_K, Q5, Q4, IQ4, Q3 и Q2-варианты с разным соотношением качества, размера и требований к памяти. Наиболее качественными и рекомендуемыми обозначены Q6_K_L, Q6_K, Q5_K и Q4_K; Q4_K_M указан как вариант по умолчанию для большинства сценариев, а низкобитные Q3 и Q2 обеспечивают экономию памяти ценой снижения качества. Модель поддерживает текстовую генерацию; сведения о языках, размере контекста и точной архитектуре в представленном README не указаны. Для работы следует использовать шаблон запросов с маркерами <|im_start|> и <|im_end|>. Распространение выполняется по лицензии Apache-2.0.

KeefeBuild/Keefe-Discere-v3.1 — дообученная KeefeBuild языковая модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. Веса сохранены в формате safetensors. По карточке, модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Она дообучена от KeefeBuild/Keefe-Discere-v3.0-Final и распространяется по лицензии Apache-2.0.

Карточка модели prompt-agnostic-language-models/Llama-1B_ties на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-1B, поэтому описание составлено по ней. Meta Llama 3.2 1B — авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer. Это предварительно обученная многоязычная модель с примерно 1,23 млрд параметров; она принимает и генерирует текст, а также может работать с кодом. В карточке указаны контекст до 128 тысяч токенов, Grouped-Query Attention и обучение на смеси общедоступных данных. Модель предназначена для генерации текста и адаптации к различным задачам обработки естественного языка. Её можно использовать для черновиков и продолжения текста, перефразирования запросов, краткого изложения и диалоговых приложений после соответствующей настройки. Разработчик — Meta; модель доступна через библиотеку Transformers в формате safetensors. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Это предварительно обученная модель, а не версия, настроенная специально для диалога; качество и безопасность ответов следует проверять и при необходимости адаптировать для конкретного применения. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.

Llama 2 7B Chat — текстовая авторегрессионная модель Meta на архитектуре Transformer, настроенная для диалогов с помощью supervised fine-tuning и обучения с подкреплением на основе отзывов людей. Версия содержит 7 млрд параметров и представлена в формате Hugging Face Transformers с весами PyTorch и Safetensors. Модель принимает текст и генерирует текст. Она предназначена для диалогов с ассистентом, ответов на вопросы, объяснений и других сценариев генерации на английском языке; для корректной работы следует использовать формат диалога Llama 2 Chat. Контекстное окно — до 4 тыс. токенов. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением требуется проверка безопасности под конкретный сценарий. Использование регулируется лицензией Meta Llama 2, условия которой необходимо принять для получения весов.

kechengcode/Llama-3.1-5B-Instruct-18Layers — компактная текстовая генеративная модель на архитектуре Llama, созданная методом passthrough merge из слоёв Meta Llama 3.1 8B Instruct с помощью mergekit. В репозитории указаны 4,5 млрд параметров, формат safetensors и библиотека Transformers; метаданные указывают контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. Её можно использовать для ответов на вопросы, черновиков текстов и подключения языковой модели к приложениям с инструментами. Карточка не описывает отдельную специализацию по предметной области или языкам; исходная модель — Llama 3.1 8B Instruct. Лицензия в предоставленных данных не указана. Сокращённый набор слоёв может влиять на качество и поведение относительно исходной модели; отдельные результаты оценки не приведены.

Это квантизированная в формате GGUF версия инструкционной модели Llama-3.1-8B-Instruct, разработанной Meta и подготовленной ByteShape с использованием метода ShapeLearn. ShapeLearn подбирает тип данных отдельно для каждого тензора, чтобы сохранять высокое качество при малой разрядности. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через llama.cpp или Ollama на CPU и GPU. Модель содержит 8 миллиардов параметров, работает только с текстом и заявлена для английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Доступны варианты KQ, оптимизированные для CPU, и IQ, ориентированные на современные Nvidia GPU; размер файлов составляет примерно 2,56–4,33 ГБ, а средняя разрядность — от 2,54 до 4,31 бит на вес. Разные варианты предлагают компромисс между скоростью, размером и качеством, однако README не указывает размер контекстного окна и не приводит подробностей об ограничениях качества или безопасности. Основные преимущества — возможность локального запуска, широкий выбор уровней квантизации и оптимизация под разные аппаратные платформы при сохранении качества исходной модели. Ограничения связаны с потерями качества, неизбежными при низкой разрядности, а также с тем, что эффективность зависит от выбранного варианта и оборудования. Модель распространяется по лицензии llama3.1.