I.1Поиск и навигация по информации

Qwen3-VL-8B-Instruct-FP8 — мультимодальная instruction-модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-8B-Instruct с мелкозернистой квантизацией и размером блока 128; согласно README, её показатели почти идентичны исходной версии BF16. Модель предназначена для обработки текста, изображений и видео, генерации ответов по визуальному и текстовому контексту, OCR, анализа документов, пространственного рассуждения, понимания длительных видеоматериалов, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Заявлены возможности работы с контекстом до 256K токенов с расширением до 1M, временная привязка событий в видео, улучшенное распознавание текста на 32 языках и поддержка задач STEM и математики. Ключевые архитектурные особенности включают Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых признаков ViT и механизм выравнивания текста с временными метками. Ограничение текущей версии заключается в том, что Transformers пока не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache 2.0.

ChatGLM3-6B-128K 是由 Z.ai（智谱 AI）推出的 ChatGLM3 系列长文本对话模型，基于 ChatGLM3-6B 并针对长上下文更新了位置编码和训练方法。Модель поддерживает контекст до 131072 токенов и предназначена для многоходового диалога, анализа длинных документов и сценариев с вызовом инструментов, выполнением кода и агентскими задачами. Архитектура — плотная ChatGLM, размер — 7,5 млрд параметров; модель работает с текстом и поддерживает китайский и английский языки. Для контекстов до 8K авторы рекомендуют ChatGLM3-6B, а эту версию — для более длинных входов. Веса доступны для академических исследований; бесплатное коммерческое использование разрешено после регистрации через анкету.

Карточка модели AST-1320/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Карточка модели Cup3/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Карточка модели Cup5/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

InternLM2.5-20B-Chat — диалоговая языковая модель, разработанная командой InternLM и распространяемая в формате GGUF сообществом LM Studio. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, ведения диалогов, следования инструкциям, решения математических задач и задач, требующих рассуждений. Она также поддерживает использование инструментов и может применяться совместно с инструментом MindSearch. Модель содержит около 20 миллиардов параметров и рассчитана на контекст длиной до 32 000 токенов. В README не указаны поддерживаемые языки и мультимодальные возможности, поэтому модель следует считать текстовой. Для работы в LM Studio рекомендуется шаблон ChatML. По заявлению авторов, модель обеспечивает высокие результаты в задачах рассуждений и сопоставима с Gemma 2 27B при меньшем размере. Ограничения включают возможность генерации неточного, вредного или неподходящего содержимого, а также зависимость характеристик от выбранной GGUF-квантизации и аппаратного обеспечения. Модель помечена лицензией other; конкретные условия лицензии в README не раскрыты, поэтому перед использованием необходимо ознакомиться с условиями исходной модели InternLM2.5-20B-Chat и данной сборки.

Dingdust/Qwen3.8-27B-heretic — производная от Qwen3.8-27B версия, созданная методом abliteration: в README приведены параметры изменения весов и сравнение частоты отказов с исходной моделью. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, совместимая с Transformers и рассчитанная на диалог с текстом и изображениями. Семейство поддерживает также понимание видео; карточка этой версии описывает её как vision-language модель. Модель предназначена для диалога, анализа изображений и видео, а также сложных многошаговых задач, включая программирование, исследования и работу с документами. Архитектура основана на Qwen3.5 и сочетает Gated DeltaNet и Gated Attention; базовая модель имеет контекст 262 144 токена с расширением до 1 000 000. README сообщает, что режим рассуждений включён по умолчанию и может настраиваться. В сравнении с исходной моделью в карточке указано меньше отказов: 10 из 100 против 89 из 100; это указывает на ослабление отказного поведения, но не гарантирует конкретные ответы. Для производных весов модели отдельные оценки качества не приведены. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.8-27B-NVFP4 — это квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Квантизацию выполнила A2Genesis с использованием NVIDIA TensorRT Model Optimizer 0.45 и рецепта для семейства qwen3_5. Модель предназначена для генерации текста, рассуждений, программирования, работы с инструментами и сценариев image-text-to-text, включая обработку изображений при наличии соответствующей инфраструктуры. Модель использует смешанную точность: проекции MLP и lm_head представлены в NVFP4 с форматом W4A16, проекции внимания — в FP8, KV-кэш — в FP8, а vision tower, MTP head и отдельные свёрточные и gating-слои сохранены в BF16. Размер контрольной точки составляет около 21 ГБ вместо примерно 55 ГБ у BF16-версии. Доступен контекст до 262144 токенов при обслуживании через vLLM, а сохранение MTP-тензоров позволяет применять speculative decoding. Языки в README не указаны. Сильные стороны модели — существенно меньший размер, поддержка высокопроизводительного инференса на GPU Blackwell, совместимость с vLLM, инструментальными вызовами и сохранение мультимодальных компонентов. Ограничения связаны с потерями и возможными особенностями качества, характерными для посттренировочной квантизации; на видеокартах более ранних архитектур NVFP4 загружается через поддержку ModelOpt, но преимущества производительности могут быть ниже. Это общественная квантизация от A2Genesis, не связанная с официальной поддержкой Qwen или NVIDIA. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели Qwen3.8-27B.

unsloth/gemma-3-12b-it-qat-bnb-4bit — 12-миллиардная instruction-tuned модель семейства Gemma 3, разработанная Google DeepMind. Она создана на основе Google Gemma и использует Quantization Aware Training (QAT). Модель мультимодальная: принимает текст и изображения, а генерирует текст. Контрольные веса в данном репозитории указаны как соответствующие базовой модели google/gemma-3-12b-it-qat-q4_0-unquantized. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов, рассуждений, анализа изображений и извлечения визуальной информации. Она поддерживает более 140 языков и контекст до 128 000 токенов; максимальный объём генерируемого ответа составляет 8192 токена. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Благодаря относительно небольшому размеру модель подходит для развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Ключевое преимущество QAT — сохранение качества, близкого к bfloat16, при существенно меньших требованиях к памяти после квантования. При этом README уточняет, что размещённый checkpoint является неквантованным и его необходимо самостоятельно квантовать в формат Q4_0 подходящим инструментом. Модель распространяется по лицензии Gemma; для доступа к ней на Hugging Face требуется войти в аккаунт и принять условия использования Google.

Карточка модели Titanfrm/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

LibertAIDAI/GLM-5.3-NVFP4 — квантизированная версия GLM-5.3, разработанного Z.ai (Zhipu), подготовленная LibertAI. Модель предназначена для генерации текста, диалоговых приложений, рассуждений, работы с инструментами и обработки длинного контекста; заявлена поддержка английского и китайского языков. Модель содержит около 753 млрд параметров и использует архитектуру glm_moe_dsa с разреженным MoE-механизмом на 256 маршрутизируемых экспертов и DeepSeek-sparse attention. Заявленный контекст составляет до 1 млн токенов. Вариант NVFP4 квантизирует преимущественно веса экспертных FFN-слоёв, тогда как attention, маршрутизаторы, общие эксперты, эмбеддинги, нормализации и другие чувствительные компоненты сохраняются в BF16. Размер весов сокращён примерно с 1403 до 433 GiB, а сходство с исходными весами по round-trip cosine составляет 0,9961. Основное преимущество модели — существенное снижение требований к памяти: она рассчитана на запуск, в частности, на четырёх GPU B200 и поддерживается vLLM и SGLang без специальной сборки. Ограничениями остаются крайне большой общий размер модели, необходимость мощной многографической GPU-конфигурации и возможные потери точности, связанные с квантизацией. Модель имеет лицензию glm-5.3; в карточке указана лицензия other со ссылкой на лицензию базовой модели.

MyAwesomeModel — языковая модель, представленная в репозитории david123TJP/MyAwesomeModel-TestRepo. README не указывает имя разработчика или организацию, создавшую модель. Модель реализована с использованием библиотеки Transformers и распространяется по лицензии MIT. Модель предназначена для сложных задач рассуждения, математических и логических задач, программирования, понимания и генерации текста, классификации, анализа тональности, суммаризации, перевода, ответов на вопросы и диалогового взаимодействия. Также заявлена поддержка function calling, системных промптов, загрузки файлов и генерации с использованием результатов веб-поиска. По данным README, после обновления были улучшены глубина рассуждений, возможности вывода и снижена частота галлюцинаций. Точные сведения об архитектуре, количестве параметров, модальностях, языках и размере контекстного окна не приведены. Указано, что модель использует увеличенную глубину рассуждений: в тесте AIME 2025 среднее использование выросло примерно с 12K до 23K токенов на вопрос, а точность повысилась с 70% до 87,5%. Для работы рекомендуется temperature 0,6 и системный промпт с текущей датой. README также упоминает вариант MyAwesomeModel-Small, архитектура которого идентична базовой модели, но подробности о нём не раскрыты.

mmangkad/Qwen3.6-27B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.6-27B, разработанной Alibaba и подготовленной с использованием NVIDIA Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Модель построена на архитектуре Transformers, содержит 27 млрд параметров, принимает и генерирует текстовые последовательности и поддерживает контекст длиной до 262 тысяч токенов. Веса и активации линейных операторов внутри transformer-блоков квантизированы в формат NVFP4. Модель ориентирована на работу с NVIDIA GPU, совместима с архитектурой NVIDIA Blackwell и рассчитана на запуск через SGLang в Linux. Данные о поддерживаемых языках, полном составе обучающего набора и результатах комплексной оценки не раскрыты; среди указанных оценок есть benchmark GPQA. К сильным сторонам относятся готовая к развертыванию квантизация, большой контекст и оптимизация для инференса на совместимом оборудовании NVIDIA. Ограничения включают зависимость от поддерживаемой GPU-инфраструктуры и SGLang, а также возможное воспроизведение токсичных высказываний и социальных предубеждений из обучающих данных. Модель может выдавать неточные, неполные, нерелевантные или избыточные ответы. Распространение разрешено по лицензии Apache 2.0; при использовании также необходимо учитывать условия и требования базовой модели Qwen3.6-27B.

OnlyTextLLMs выпустила текстовую версию Gemma 4 31B IT, полученную из google/gemma-4-31B-it удалением компонентов обработки изображений и аудио, а также связанных мультимодальных токенов. Текстовая часть модели и языковая голова сохранены; это плотная авторегрессионная модель Gemma4ForCausalLM с 27,4 млрд параметров по метаданным и весами bfloat16. Модель предназначена для диалогов и генерации текста. Она поддерживает контекст длиной до 262 144 токенов и работает через библиотеку Transformers. Обучение не проводилось: репозиторий содержит производную версию весов Google, из которой удалены мультимодальные компоненты. Модель распространяется по лицензии Apache 2.0. После удаления аудио- и визуальных компонентов она принимает текст и выдаёт текст; возможности исходной мультимодальной модели для анализа изображений и аудио здесь недоступны.

kldzj/gpt-oss-120b-heretic — модифицированная версия открытой весовой модели openai/gpt-oss-120b, созданная разработчиком kldzj с использованием Heretic v1.0.1. Это текстовая генеративная модель для общего назначения, рассуждений, агентских сценариев и задач разработчиков; заявленная особенность версии — снижение склонности к отказам от ответов (decensored/abliterated). Модель поддерживает запуск через Transformers и vLLM и рассчитана на использование в формате harmony. Модель основана на архитектуре Mixture-of-Experts: содержит около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Она использует посттренировочную MXFP4-квантизацию весов MoE и может работать на одном GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Заявлены настраиваемый уровень рассуждений, function calling, веб-браузинг, выполнение Python-кода и Structured Outputs. В README не указаны языки, размер контекстного окна и поддержка мультимодальных входов, поэтому модель следует считать текстовой. По приведённому сравнению, модель отказалась отвечать в 19 из 100 тестовых случаев против 97 отказов у исходной модели, однако её KL-дивергенция относительно исходной модели составляет 0,92, что указывает на заметное изменение поведения. Возможные ограничения включают высокие требования к вычислительным ресурсам, необходимость корректного использования harmony-формата и потенциальные риски, связанные со снижением защитных отказов. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

Kanana-2-30B-A3B-Instruct-2601 — инструктивная языковая модель компании Kakao для диалогов и сценариев агентного ИИ. Она предназначена для следования сложным инструкциям, логических рассуждений и вызова инструментов; модель можно развернуть, например, через vLLM или SGLang с поддержкой выбора инструментов. Модель основана на архитектуре DeepSeek V3 с механизмом внимания MLA и разреженной смесью экспертов (MoE): всего 30 млрд параметров, из которых активируются около 3 млрд. Контекст составляет до 32 768 токенов. Семейство поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. README указывает лицензию как отличную от стандартных вариантов, поэтому перед использованием следует проверить условия на странице репозитория Hugging Face. Для обработки контекста свыше 32 768 токенов требуется отдельно настроить YaRN; такая настройка может повлиять на качество коротких текстов. Метаданные указывают 2,9 млрд параметров, что расходится с описанием серии в README (30 млрд всего и около 3 млрд активных).

Карточка модели kakaocorp/kanana-2-30b-a3b-thinking-2601 на Hugging Face совпадает с карточкой kakaocorp/kanana-2-30b-a3b-instruct-2601, поэтому описание составлено по ней. Kanana-2-30B-A3B-Instruct-2601 — инструктивная языковая модель компании Kakao для диалогов и сценариев агентного ИИ. Она предназначена для следования сложным инструкциям, логических рассуждений и вызова инструментов; модель можно развернуть, например, через vLLM или SGLang с поддержкой выбора инструментов. Модель основана на архитектуре DeepSeek V3 с механизмом внимания MLA и разреженной смесью экспертов (MoE): всего 30 млрд параметров, из которых активируются около 3 млрд. Контекст составляет до 32 768 токенов. Семейство поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. README указывает лицензию как отличную от стандартных вариантов, поэтому перед использованием следует проверить условия на странице репозитория Hugging Face. Для обработки контекста свыше 32 768 токенов требуется отдельно настроить YaRN; такая настройка может повлиять на качество коротких текстов. Метаданные указывают 2,9 млрд параметров, что расходится с описанием серии в README (30 млрд всего и около 3 млрд активных).

MyAwesomeModel — языковая модель, распространяемая через библиотеку Transformers; разработчик в представленном README не указан. Модель ориентирована на задачи, требующие рассуждений и генерации текста, включая математические и логические задачи, программирование, ответы на вопросы, классификацию текстов, анализ тональности, суммаризацию, перевод, диалог, творческое письмо и следование инструкциям. Также заявлена поддержка function calling, загрузки файлов и генерации с использованием результатов веб-поиска. По данным README, обновлённая версия получила улучшения в глубине рассуждений, возможностях вывода и постобучении, а также сниженный уровень галлюцинаций. На тесте AIME 2025 точность выросла с 70% до 87,5%, при этом среднее число токенов рассуждения увеличилось примерно с 12 тысяч до 23 тысяч на задачу. В сводных оценках модель показывает наиболее заметные результаты в рассуждениях и генерации, однако конкретные архитектура, число параметров, поддерживаемые языки, модальности и размер контекстного окна не указаны. Для использования рекомендуется библиотека Transformers, системный промпт с текущей датой и температура 0,6. Специальные токены в начале ответа для включения определённого режима рассуждений не требуются. README также упоминает вариант MyAwesomeModel-Small, но не приводит его подробных характеристик. Модель распространяется по лицензии MIT.

Orion-14B-LongChat — многоязычная плотная авторегрессионная языковая модель компании OrionStarAI, обученная с нуля. Версия LongChat предназначена для диалогов и работы с очень длинными текстами; заявленная длина контекста составляет 200 000 токенов, а максимальная поддерживаемая длина — до 320 000 токенов. Размер модели — 14,1 млрд параметров, формат весов в репозитории — PyTorch. Модель рассчитана на генерацию текста и может применяться для диалогов, анализа длинных документов и работы с кодом. В карточке заявлена поддержка китайского, английского, японского и корейского языков; модель обучена на многоязычном корпусе объёмом 2,5 трлн токенов. OrionStarAI указывает на высокие результаты для длинных последовательностей, но качество ответов и фактическая точность могут зависеть от задачи и входного контекста. Условия лицензирования в предоставленной карточке не описаны.

Qwen3-VL-30B-A3B-Thinking — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это версия с визуальным анализом и режимом Thinking для рассуждений; репозиторий содержит веса в формате Safetensors и предназначен для использования с Transformers. Архитектура указана как Qwen3 VL MoE; название модели обозначает класс 30B-A3B. Модель принимает текст и изображения, а также предназначена для понимания видео и пространственных сцен. Она поддерживает диалог, визуальный анализ, OCR, рассуждения по STEM-задачам, извлечение информации из длинных документов и взаимодействие с инструментами; заявлены сценарии управления графическими интерфейсами и генерации кода интерфейсов по изображениям и видео. В README указан контекст 256K с возможностью расширения до 1M токенов и OCR на 32 языках. Сильные стороны — объединённое текстовое и визуальное понимание, анализ временной структуры видео, распознавание текста в сложных условиях и пространственные рассуждения. Точные результаты зависят от сценария; README не содержит численных результатов тестирования. Лицензия — Apache-2.0.

Alaya-7B-Chat — разговорная языковая модель компании DataCanvas, построенная на архитектуре MPT. Модель обучали на более чем 1,5 трлн токенов многоязычных данных; версия Chat прошла supervised fine-tuning на более чем 500 тыс. примеров инструкций и диалогов. В карточке указаны китайский и английский языки, формат весов PyTorch и лицензия Apache 2.0, допускающая коммерческое использование. Модель предназначена для многоходового общения, ответов на вопросы, написания кода, извлечения информации, понимания прочитанного и творческого письма. Дополнительная настройка охватывает китайско- и англоязычные логические рассуждения, ролевые сценарии, самоописание и отказ на часть запросов с предвзятым содержанием. Разработчик предупреждает, что модель может выдавать ошибочные или непредвиденные ответы, а настройка на отказ не устраняет токсичные выходы полностью. Для практического применения следует проверять ответы; при использовании модели рекомендуется указывать DataCanvas как источник.

Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-BF16 — это производная модель на архитектуре DeepSeek-V4, созданная автором Baekpica на основе deepseek-ai/DeepSeek-V4-Flash-0731. Это MoE-чекпойнт с 119,8 млрд основных параметров и примерно 13,8 млрд активных параметров на токен; эксперты были объединены методом REAM с последующим дообучением для восстановления поведения. Веса BF16 сохранены в формате safetensors, обновления SFT и маршрутизатора объединены с весами, поэтому отдельный адаптер не требуется. Метаданные указывают контекст до 1 048 576 токенов. Модель предназначена для генерации текста, диалогов, написания кода, многоязычных инструкций и работы с длинным контекстом, включая извлечение сведений из объёмного текста. Карточка описывает отдельные успешные проверки JSON, кода и длинного извлечения, но также фиксирует ошибки в арифметике, повторяющийся цикл самокоррекции и изменение поведения после слияния экспертов. Эти проверки не подтверждают общее качество длинноконтекстной работы или сохранение исходных бенчмарков. Лицензия — MIT; применяются условия и ограничения исходной модели.

gaunernst/gemma-3-4b-it-int4-awq — это 4-миллиардная instruction-tuned модель семейства Gemma 3, разработанная Google DeepMind. Модель мультимодальная: принимает текст и изображения, а генерирует текст. Данный репозиторий содержит QAT INT4-чекпойнт из Flax, преобразованный в формат Hugging Face и AWQ для удобства использования; при этом квантование методом AWQ для исходного чекпойнта не применялось. Модель предназначена для диалоговых и прикладных задач: ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений. Она поддерживает более 140 языков, обрабатывает изображения, нормализованные до разрешения 896 × 896 и представленные 256 токенами на изображение. Для размеров 4B, 12B и 27B заявлено контекстное окно до 128 000 токенов, а максимальный объём генерируемого вывода составляет 8192 токена. Ключевые преимущества — сравнительно компактный размер, instruction-tuned поведение, мультимодальность и INT4-представление, потенциально упрощающее запуск на ограниченных ресурсах, включая локальные компьютеры и собственную облачную инфраструктуру. Ограничения включают зависимость качества от языка, задачи и входных изображений, а также необходимость учитывать особенности конвертированного формата и совместимость с поддерживаемыми инструментами. Использование регулируется лицензией Gemma; доступ к исходной модели на Hugging Face требует принятия условий использования Google.

Карточка модели kakaocorp/kanana-2-30b-a3b-base-2601 на Hugging Face совпадает с карточкой kakaocorp/kanana-2-30b-a3b-instruct-2601, поэтому описание составлено по ней. Kanana-2-30B-A3B-Instruct-2601 — инструктивная языковая модель компании Kakao для диалогов и сценариев агентного ИИ. Она предназначена для следования сложным инструкциям, логических рассуждений и вызова инструментов; модель можно развернуть, например, через vLLM или SGLang с поддержкой выбора инструментов. Модель основана на архитектуре DeepSeek V3 с механизмом внимания MLA и разреженной смесью экспертов (MoE): всего 30 млрд параметров, из которых активируются около 3 млрд. Контекст составляет до 32 768 токенов. Семейство поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. README указывает лицензию как отличную от стандартных вариантов, поэтому перед использованием следует проверить условия на странице репозитория Hugging Face. Для обработки контекста свыше 32 768 токенов требуется отдельно настроить YaRN; такая настройка может повлиять на качество коротких текстов. Метаданные указывают 2,9 млрд параметров, что расходится с описанием серии в README (30 млрд всего и около 3 млрд активных).

LongCat-Flash-Chat — разговорная языковая модель Meituan для генерации ответов и выполнения агентных задач. Она основана на архитектуре Mixture-of-Experts (MoE) и поддерживает интерфейс вызова инструментов. В README указано 560 млрд параметров всего и в среднем около 27 млрд активируемых на токен; метаданные Hugging Face указывают 17,7 млрд параметров, поэтому размер модели в источниках расходится. Контекст составляет до 131 072 токенов. Модель предназначена для диалогов, задач с инструментами, многошагового взаимодействия, а также задач рассуждения и программирования. В README модель описана как non-thinking; авторы сообщают о высокой пропускной способности инференса и конкурентных результатах на своих оценках. Доступны веса в формате safetensors. Лицензия — MIT. Авторы предупреждают, что модель не была специально разработана и всесторонне проверена для всех возможных прикладных сценариев.

MyAwesomeModel — языковая модель, представленная в репозитории toolathlon68/MyAwesomeModel-TestRepo. Имя разработчика или организации в README не указано. Модель реализована с использованием библиотеки Transformers и предназначена для задач, требующих рассуждений и генерации текста: математического и логического анализа, ответов на вопросы, понимания текста, классификации, анализа тональности, написания и генерации кода, диалогов, суммаризации, перевода, поиска знаний и следования инструкциям. Также заявлена поддержка function calling, загрузки файлов и генерации с использованием результатов веб-поиска. По данным README, это обновлённая версия модели с увеличенной глубиной рассуждений, улучшенными возможностями вывода и сниженной частотой галлюцинаций. На тесте AIME 2025 заявлено повышение точности с 70% до 87,5%, а средний объём рассуждений вырос примерно с 12 тыс. до 23 тыс. токенов на задачу. В приведённых бенчмарках модель показывает результаты в диапазоне от 0,550 для математического рассуждения до 0,828 для классификации текста, однако методика оценки и названия наборов данных не уточняются. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекстного окна в README не указаны. Упоминается вариант MyAwesomeModel-Small с архитектурой, идентичной базовой модели, и отдельной конфигурацией токенизатора, но подробности также отсутствуют. Для использования рекомендуется системный промпт с текущей датой и температура 0,6; специальные токены для запуска режима рассуждений не требуются. Модель распространяется по лицензии MIT.

Tele-FLM (также FLM-2) — открытая многоязычная языковая модель на 52,2 млрд параметров, разработанная BAAI и TeleAI. Это плотный декодерный Transformer, обученный примерно на 2 трлн токенов; архитектура использует RoPE, RMSNorm и SwiGLU и во многом совместима с Llama. Контекст модели составляет 4096 токенов. Модель предназначена для генерации текста и извлечения признаков, включая многоязычные запросы и задачи, где важны фактические суждения. В обучающих данных преобладают английский и китайский языки; также включены код и тексты на других языках. Доступны веса и сведения о разработке и обучении модели. Модель распространяется по лицензии Apache 2.0. По предупреждению разработчиков, она может воспроизводить предвзятые или оскорбительные примеры и выдавать небезопасный контент; ответы следует проверять.

unsloth/gemma-3-27b-it-GGUF — GGUF-версия instruction-tuned модели Gemma 3 27B, разработанной Google DeepMind и подготовленной для распространения Unsloth. Модель предназначена для генерации текста, диалогов, ответов на вопросы, суммаризации, рассуждений и понимания изображений с выдачей текстового ответа. Она подходит для локального запуска на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре при наличии достаточных ресурсов. Модель мультимодальная: принимает текст и изображения, нормализованные до 896×896 и представленные как 256 токенов каждое, а генерирует текст. Для версии 27B заявлено контекстное окно до 128K токенов и максимальный объём вывода 8192 токена. Gemma 3 поддерживает более 140 языков; в метаданных данного репозитория отдельно указан английский язык. Объём обучения 27B-версии составил 14 триллионов токенов. К сильным сторонам относятся большой контекст, мультимодальность, широкий языковой охват, instruction-tuned формат и возможность использования GGUF в совместимых локальных инструментах. Ограничения включают значительные требования к вычислительным ресурсам из-за размера 27B, а также зависимость совместимости и производительности от конкретного GGUF-квантизированного варианта и среды запуска; сведения о точном уровне квантизации в карточке не указаны. Использование регулируется лицензией Gemma и соответствующими Terms of Use Google.

Gemma 3 4B Instruction-tuned QAT compressed-tensors — это мультимодальная instruction-tuned модель семейства Gemma 3, разработанного Google DeepMind. Данная версия представляет собой конвертацию Gemma 3 4B IT из формата GGUF Q4_0 в формат compressed-tensors с типом данных BF16; преобразование не является полностью без потерь. Модель принимает текст и изображения, а генерирует текст. Модель предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений. Она поддерживает более 140 языков, контекст входных данных до 128K токенов, изображения с нормализацией до 896×896 пикселей, кодируемые в 256 токенов каждое, и генерирует до 8192 токенов. Размер 4B и QAT-квантизация снижают требования к памяти при сохранении качества, близкого к bfloat16, что облегчает запуск на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Модель можно запускать, в частности, через vLLM; исходная карточка также описывает использование llama.cpp. Ограничения включают возможные потери качества из-за преобразования и квантизации, а также стандартные ограничения генеративных и мультимодальных моделей. Модель распространяется по лицензии Gemma; конкретные условия определяются официальными Terms of Use Google.

unsloth/Llama-3.2-3B-Instruct — текстовая диалоговая модель семейства Llama 3.2, разработанного Meta и опубликованного Unsloth в виде модели на базе meta-llama/Llama-3.2-3B-Instruct. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и примерно 3,2 млрд параметров; веса представлены в формате safetensors. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и предназначена для многоязычных диалогов. Модель подходит для генерации ответов, суммаризации, поиска знаний в диалоговых сценариях и построения приложений с вызовом инструментов. В карточке Unsloth также приведены ноутбуки для дообучения и экспорта моделей, но это описание относится к самому чекпойнту. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; метаданные отдельно отмечают английский. Использование регулируется лицензией Llama 3.2 Community License — специальной коммерческой лицензией Meta.