I.1Поиск и навигация по информации

Kanana-2-3B-Instruct — компактная языковая модель Kakao, предназначенная для диалогов и выполнения инструкций. Она основана на плотной архитектуре Qwen3 с 2,9 млрд параметров и создана на базе kakaocorp/kanana-2-3b-base. Модель прошла дообучение с учителем и обучение с подкреплением; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, рассуждений и других текстовых задач. Kakao отмечает улучшенную эффективность токенизации корейского языка по сравнению с предыдущим поколением Kanana. Модель также предназначена для сценариев вызова инструментов, хотя фактическое качество зависит от задачи и способа развертывания. Для запуска в README рекомендованы Transformers версии 4.57.0 или новее; приведены варианты развертывания через vLLM и SGLang. Лицензия указана как other, поэтому конкретные условия использования следует уточнить в карточке модели. В README указано, что пользовательские данные Kakao не использовались при обучении.

LeoLM/leo-hessianai-70b-chat — немецкоязычная чат-модель, разработанная в рамках проекта LAION и HessianAI при участии Бьёрна Плүстера и Кристофа Шухмана. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и 68,7 млрд параметров, созданный на базе LeoLM/leo-hessianai-70b и дообученный на немецких наборах инструкций. Модель принимает текст и генерирует текст; длина контекста составляет 8192 токена. В первую очередь она предназначена для диалогов, письма, объяснений и обсуждения на немецком языке, также проверялась на английском. В карточке отмечены сильные результаты на задачах письма, извлечения информации, STEM и гуманитарных тем. Модель слабее справляется с математикой, программированием и сложными рассуждениями, а также может давать неточные, предвзятые или нежелательные ответы и чаще ожидаемого отказываться отвечать. Для практического применения нужны проверки безопасности и настройка под конкретный сценарий. Лицензия — Llama 2 Community License; разработчики называют модель открытой и коммерчески доступной, использование регулируется условиями этой лицензии.

SanctumAI/Llama-3.2-1B-Instruct-GGUF — это квантизированная версия инструкционно дообученной текстовой модели Meta Llama 3.2 1B Instruct, подготовленная SanctumAI в формате GGUF. Модель относится к семейству мультиязычных больших языковых моделей Meta, принимает текст и генерирует текст. Заявлены поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель предназначена для многоязычного диалога, суммаризации и сценариев агентского поиска и извлечения информации. Благодаря размеру около 1 млрд параметров и вариантам квантизации она ориентирована на локальный запуск при ограниченных ресурсах. Доступны варианты от Q2_K до Q8_0, а также f16; их размер составляет примерно от 0,58 до 2,48 ГБ, а оценочная потребность в оперативной или видеопамяти — от 3,93 до 5,70 ГБ. К сильным сторонам относятся компактность, поддержка нескольких языков, инструкционный режим и широкий выбор компромиссов между качеством и требованиями к памяти. Ограничения включают меньший размер по сравнению с более крупными моделями, возможное снижение качества из-за квантизации и отсутствие в README сведений о длине контекста, конкретной архитектуре и результатах бенчмарков. Модель распространяется по лицензии llama3.2; условия использования следует уточнять в тексте этой лицензии.

llm-jp-3-8x13b-instruct2 — диалоговая языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это трансформерная модель семейства Mixtral с архитектурой Mixture of Experts: 8 экспертов, из которых активируются 2. Вариант содержит около 73,2 млрд параметров всего и около 22,2 млрд активируемых параметров; метаданные каталога указывают 13,2 млрд параметров. Контекст — 4096 токенов. Модель обучена на смеси данных, включая японские, и дообучена на инструкциях с последующим выравниванием методом Direct Preference Optimization. Модель предназначена для диалога и генерации текста, особенно на японском и английском языках. Её можно использовать для ответов на вопросы, следования инструкциям, краткого изложения и других текстовых задач. Карточка приводит оценки на японских тестах, но результаты относятся к отдельным оценочным выборкам и не гарантируют качество в конкретном приложении. Разработчики предупреждают, что модель находится на ранней стадии разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

cloudbjorn/merged_Qwen3.6-27B_eschaton-uncensored — дообученная и объединённая версия Qwen3.6-27B, созданная с помощью Eschaton Engine на датасете cloudbjorn/eschaton-uncensored. Модель предназначена для диалогов и рассуждений, в том числе по чувствительным и спорным темам: автор нацеливал её на нейтральные, прямые ответы без морализаторского тона. Она поддерживает генерацию текста и работу с изображениями, контекст до 262 144 токенов, режим рассуждений, вызов инструментов и структурированный вывод. Репозиторий содержит веса safetensors в формате bfloat16; в метаданных указано 22,3 млрд параметров. В README приведён результат ARC Challenge: нормированная точность 0,7619 при 25 примерах в контексте. Модель основана на Qwen/Qwen3.6-27B; лицензия обозначена как other. Заявления о качестве и поведении отражают описание автора и не гарантируют одинаковых результатов на всех запросах.

Nanonets-OCR-s-GGUF — GGUF-версия модели Nanonets-OCR-s, разработанной Nanonets и подготовленной Unsloth. Это мультимодальная модель класса image-to-text, предназначенная для распознавания содержимого документов и преобразования изображений страниц в структурированный Markdown, пригодный для последующей обработки большими языковыми моделями. Модель поддерживает распознавание текста, математических формул с преобразованием в LaTeX, сложных таблиц с выводом в Markdown и HTML, описаний изображений через теги <img>, а также обнаружение подписей, водяных знаков, номеров страниц и элементов форм. Флажки и радиокнопки преобразуются в стандартизированные Unicode-символы. В метаданных указана поддержка английского языка и библиотек Transformers; конкретные размер, архитектура, размер контекста и перечень дополнительных языков не указаны. Сильные стороны модели — извлечение не только текста, но и структуры и семантических элементов сложных документов, включая таблицы, формулы, изображения и подписи. Она подходит для OCR документов, конвертации страниц в Markdown и подготовки данных для LLM-пайплайнов. Ограничения README не описывает; также в предоставленных данных отсутствует информация о лицензии и точных требованиях к аппаратному обеспечению.

Ovis2-1B — компактная мультимодальная модель семейства Ovis, построенная на визуальном энкодере aimv2-large-patch14-448 и языковой модели Qwen2.5-0.5B-Instruct. Её разработчики улучшили архитектуру структурного согласования визуальных и текстовых представлений, а также обучение на данных с инструкциями и предпочтениями. Модель предназначена для диалога по изображениям, видео и нескольким изображениям, визуального рассуждения, распознавания текста и извлечения структурированных данных из таблиц и графиков. В карточке заявлены многоязычный OCR, обработка видеокадров и улучшенное пошаговое рассуждение. Метаданные указывают поддержку английского и китайского языков; для работы используется библиотека Transformers. Ovis2-1B — плотная модель класса Ovis; в сравнительных таблицах README приведены результаты на наборах для оценки изображений и видео. Для некоторых видеобенчмарков результаты ниже, чем у более крупных моделей из сравнения. Модель доступна по лицензии Apache-2.0. Авторы предупреждают, что не гарантируют полного отсутствия проблемного или нарушающего авторские права контента.

Ovis2-2B — компактная мультимодальная языковая модель семейства Ovis, предназначенная для работы с изображениями и текстом. Визуальный компонент построен на aimv2-large-patch14-448, языковая часть — на Qwen2.5-1.5B-Instruct. Модель использует архитектуру Ovis для структурного согласования визуальных и текстовых представлений; её разработчики улучшили обучение и подбор данных по сравнению с Ovis1.6. Модель отвечает на вопросы по изображениям, распознаёт текст на них, извлекает структурированные сведения из таблиц и графиков, а также обрабатывает несколько изображений и видео. Обучение включало данные на нескольких языках, в том числе для развития мультиязычного OCR, и было направлено на улучшение рассуждений. Карточка демонстрирует результаты на тестах понимания изображений и видео, но не приводит длину контекста. Для запуска в README приведён пример использования Transformers. Модель распространяется по лицензии Apache-2.0. Авторы предупреждают, что не гарантируют полного отсутствия проблемного контента или нарушений авторских прав; также рекомендуется рассмотреть более новую версию Ovis2.5.

QianfanOCR — мультимодальная модель для распознавания и понимания содержимого изображений, представленная в репозитории bairongz. Она основана на дообученной OpenGVLab/InternVL3_5-4B-MPO и использует архитектуру QianfanOCRForConditionalGeneration; файлы опубликованы в формате safetensors и рассчитаны на работу через Transformers. Модель принимает изображения и текстовые запросы и формирует текстовые ответы, в том числе в диалоговом режиме. Модель подходит для OCR и извлечения сведений из изображений, а также для вопросов и ответов по их содержимому. Метаданные указывают на многоязычную поддержку и наборы данных MMPR-v1.2 и MMPR-Tiny. Используется лицензия Apache-2.0. Карточка описывает семейство InternVL3.5 в целом, поэтому конкретные показатели качества и длина контекста именно QianfanOCR здесь не установлены.

Qwen2.5-VL-3B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Она предназначена для обработки изображений, видео и текстовых запросов, визуального анализа документов и сцен, распознавания текста, таблиц, графиков, форм и других структурированных данных, а также для сценариев визуального агента, включая управление компьютером и телефоном. Модель содержит 3 млрд параметров и использует AWQ-квантизацию. В её архитектуре применяются динамическое разрешение изображений, динамическая частота выборки кадров видео, временное позиционное кодирование mRoPE и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm. Модель может анализировать видео длительностью более часа, находить релевантные моменты, локализовать объекты с помощью bounding boxes или точек и формировать структурированные JSON-ответы. В README явно указан английский язык; поддержка других языков не заявлена. Сильные стороны модели — сочетание компактного размера с широкими возможностями визуального анализа, работой с длинными видео, локализацией объектов и извлечением структурированных данных из документов. Ограничения включают отсутствие опубликованных в README результатов оценки, неуказанный размер контекстного окна и потенциальную зависимость производительности от аппаратного обеспечения и настроек обработки визуальных токенов. Модель распространяется по лицензии qwen-research; перед использованием следует ознакомиться с условиями лицензии.

unsloth/Qwen2.5-VL-3B-Instruct-bnb-4bit — мультимодальная instruction-tuned модель семейства Qwen2.5-VL, разработанная командой Qwen и представленная в репозитории Unsloth. Это 3B-версия модели Qwen2.5-VL-3B-Instruct, распространяемая в 4-битном формате bnb-4bit для более экономичного использования памяти. Модель предназначена для обработки изображений и видео вместе с текстовыми запросами. Она распознаёт и анализирует объекты, текст, таблицы, графики, иконки и структуру документов, поддерживает визуальную локализацию объектов с помощью bounding boxes или точек, генерацию структурированных данных из счетов, форм и таблиц, а также сценарии визуального агента, включая взаимодействие с компьютером и мобильными устройствами. Для видео заявлена способность анализировать материалы длительностью более часа и находить релевантные временные отрезки. В метаданных README указан английский язык. Архитектура включает языковую модель Qwen2.5 и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm; для видео используются динамические разрешение и частота кадров, а также временные позиционные идентификаторы mRoPE. К сильным сторонам относятся компактный размер, мультимодальное понимание документов и визуальных сцен, структурированный вывод и поддержка длительных видео. Ограничения включают меньшую ёмкость по сравнению с версиями на 7B и 72B параметра, возможное снижение точности из-за 4-битной квантизации и отсутствие в README данных о размере контекста, системных требованиях и подробном перечне языков. Модель указана под лицензией qwen-research; подробные условия приведены в лицензии исходной модели Qwen2.5-VL-3B-Instruct.

JANGQ-AI/Qwen3.5-397B-A17B-JANG_2L — вариант модели Qwen3.5-397B-A17B, подготовленный Jinho Jang и проектом JANG. Это большая мультимодальная модель класса MoE с гибридной архитектурой GatedDeltaNet и полного внимания; по карточке активны 17 млрд параметров из 397 млрд. Репозиторий содержит смешанно-точное квантованное представление JANG_2L для Apple Silicon: веса с разной чувствительностью хранятся с разной разрядностью, а вычисления выполняются в bfloat16. В метаданных библиотекой указана MLX. Модель предназначена для диалогов, рассуждений и анализа изображений и видео. Режим reasoning позволяет включать пошаговое рассуждение; карточка также сообщает о поддержке vision и интерфейсе вызова инструментов. По заявлению автора, модель занимает 187 ГБ и показывает 36 токенов в секунду на M4 Ultra с 256 ГБ объединённой памяти. Для запуска автор рекомендует MLX Studio или JANG с MLX; заявлена необходимость Apple Silicon с 256 ГБ памяти. Карточка приводит результаты MMLU, но это авторские замеры на ограниченной выборке и не гарантия качества в других задачах. Доступ к изображениям и видео заявлен в README, хотя pipeline_tag и каталог классифицируют модель как text-generation. Указанная лицензия — Apache-2.0.

Qwen3.6-35B-A3B-MXFP8-CRACK-MTP — мультимодальная модель dealignai на базе Qwen/Qwen3.6-35B-A3B, подготовленная для запуска через MLX на компьютерах Apple с Apple Silicon. Это доработанная и квантованная версия с архитектурой MoE и гибридом SSM и полного внимания; в README указаны 35 млрд параметров, 40 слоёв и 10 активных экспертов. Модель принимает текст и изображения, поддерживает понимание видео и генерирует текст в диалоге; также предоставляет интерфейс вызова инструментов. По заявлению автора, CRACK удаляет поведение отказа на уровне весов, а сохранённая голова MTP позволяет ускорять генерацию спекулятивным декодированием d3 примерно в 1,5 раза в совместимой среде vMLX. Автор приводит результаты HarmBench-320 99,4% и MMLU 84,6%; это заявленные оценки, а не независимая гарантия качества. Предназначена для диалогов, анализа изображений и видео, рассуждений и исследовательских сценариев, включая авторизованное тестирование безопасности. Распространяется по лицензии Apache-2.0. Версия описана как лишённая отказов и потому может выполнять запросы из разных категорий; пользователь отвечает за применение модели. Для видео и ускорения MTP требуется совместимый рантайм, а README рекомендует vMLX.

Qwen3.8-27B-OrcaRouter-GSQ-RCO-IQ3_XXS-Uncensored — это 3-битная GGUF-квантизация базовой модели Qwen3.8-27B, подготовленная RentedNoodle на основе uncensored-чекпойнта orcarouter/Qwen3.8-27B-Uncensored. Это не новая дообученная модель: снижение отказов унаследовано от OrcaRouter, а квантизация выполнена с использованием методологии GSQ/RCO, разработанной ISTA-DASLab. Модель распространяется под лицензией Apache-2.0. Модель предназначена для генерации текста, рассуждений, работы с инструментами и мультимодальных сценариев с изображениями. Поддерживаются английский и китайский языки. Архитектурное окно контекста составляет 262 тысячи токенов, однако поставляемый профиль рассчитан на 32 тысячи токенов. Модель имеет размер около 9,75 GiB, использует квантизацию IQ3_XXS примерно на 3,06 бит на вес, а MTP draft head сохранён в формате Q6_K для speculative decoding. Для работы с изображениями требуются отдельные projector-файлы. Сильные стороны модели — возможность запуска на одной видеокарте с 16 ГБ VRAM, сохранённая поддержка MTP, хорошие результаты на извлечении данных из длинного контекста, GPQA-Diamond и TruthfulQA, а также отсутствие избыточных отказов в тесте XSTest. Ограничения включают потери качества, типичные для сильной 3-битной квантизации, неполную надёжность вызова инструментов и зависимость intended tool-use и reasoning-поведения от специального шаблона froggeric-qwen3.8-tool-use.jinja. Результаты тестов зависят от конфигурации llama.cpp, параметров запуска и используемого шаблона; заявленная «uncensored» направленность не гарантирует универсальное выполнение любых запросов.

Это исследовательский вариант Qwen3-Next-80B-A3B-Thinking с разреженными экспертами, усреднённо квантованными до 2,36 бита; остальные веса хранятся в BF16. Разработчик — minjaechoi. Модель предназначена для генерации текста и диалога, включая задачи рассуждения, унаследованные от базовой модели. Архитектура — MoE; по карточке Hugging Face, размер составляет 2,3 млрд параметров, а длина контекста — 262 144 токена. Метаданные также отмечают интерфейс для вызова инструментов. Веса сохранены в формате safetensors как BF16-тензоры после деквантизации; README сообщает о совместимости со стандартными Transformers и vLLM. Лицензия наследуется от базовой модели. Карточка характеризует этот чекпойнт как внутренний исследовательский, поэтому его качество и пригодность для конкретных задач следует проверять отдельно.

Raptor 0.6 — это лёгкая supervised fine-tune модели XHToken/Spark-X2.5-4B, подготовленная Jinho Jang для Osaurus. Модель использует плотную архитектуру Spark2_5ForCausalLM с 36 слоями и примерно 3,8 млрд параметров; она предназначена для диалога, рассуждений и работы с инструментами. Репозиторий содержит веса в формате safetensors, а конфигурация JANG_6M задаёт смешанную точность: внимание и связанные эмбеддинги — 8-битные, MLP — 6-битный, масштабы групп — bfloat16, нормализации и attention gate — полной точности. Указанное базовой моделью окно контекста — до 1 048 576 токенов. Модель рассчитана на запуск в Osaurus на Apple Silicon и требует Osaurus версии 0.25.0 или новее. Шаблон поддерживает диалог с включённым по умолчанию режимом рассуждений и вызовами инструментов; карточка сообщает о калибровке и оценке на наборах промптов, но не устанавливает универсальное качество для всех сценариев. README предупреждает, что это практический чекпойнт с обычными для модели 4B ошибками; длинные рассуждения могут превышать 8 192 выходных токена. Лицензия — Apache-2.0.

Карточка модели rhombus18/rhododendron-default-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

Карточка модели JetLM/SDAR-8B-Chat-b64 на Hugging Face совпадает с карточкой JetLM/SDAR-8B-Chat-b32, поэтому описание составлено по ней. JetLM/SDAR-8B-Chat-b32 — чат-модель семейства SDAR, разработанная авторами SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая обеспечивает эффективное обучение, а диффузионный подход позволяет генерировать токены параллельно. В репозитории указана плотная архитектура SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Авторы сообщают о сопоставимой с сильными авторегрессионными моделями общей производительности и преимуществах в некоторых научных задачах рассуждения для моделей SDAR того же масштаба. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Языки и отдельные результаты именно этой версии в карточке не приведены.

Solar Mini 4 — компактная языковая модель компании Upstage на 35 млрд параметров с архитектурой mixture-of-experts и примерно 3 млрд активных параметров. В карточке указано контекстное окно до 524 тысяч токенов. Модель предназначена для агентных сценариев и генерации текста. Её можно использовать для построения диалоговых помощников и систем, которым требуется обрабатывать длинный контекст. В предоставленном фрагменте README подробности о возможностях, поддерживаемых языках и лицензии отсутствуют.

Карточка модели tokyotech-llm/Swallow-70b-instruct-v0.1 на Hugging Face совпадает с карточкой tokyotech-llm/Swallow-7b-instruct-v0.1, поэтому описание составлено по ней. Swallow-7b-instruct-v0.1 — диалоговая языковая модель TokyoTech-LLM на архитектуре Llama 2 с 6,7 млрд параметров. Она прошла дополнительное предварительное обучение преимущественно на японских текстах, а версия instruct — supervised fine-tuning для следования инструкциям. Токенизатор с расширенным японским словарём эффективнее представляет японский текст. Модель принимает текст и генерирует текст; заявленный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций на японском и английском языках: написания текстов, ролевых диалогов, ответов на вопросы, рассуждений и извлечения информации. В README опубликованы оценки на японском MT-Bench и сравнение с другими моделями, однако они не гарантируют качества для каждого сценария. Выпуск v0.1 обозначен как предварительная версия; разработчики предупреждают, что модель ещё не настроена на соответствие человеческим намерениям и требованиям безопасности. Лицензия — Llama 2 Community License (llama2).

TeleOCR — компактная мультимодальная модель StarDoc-AI для разбора документов по изображениям. В метаданных указаны архитектура Qwen2.5-VL, 507,9 млн параметров, контекст 128 000 токенов и библиотека Transformers; README описывает модель как примерно 1,2-миллиардную. Эти сведения о размере расходятся между источниками. Модель предназначена для извлечения текста и структуры из цифровых и снятых камерой документов, включая искажённые страницы, таблицы и формулы. В README заявлены геометрически ориентированное моделирование, автоматическая генерация и проверка обучающих данных и поэтапное обучение. Модель принимает изображения документов и формирует текстовый разбор; в метаданных также отмечена поддержка чата. Заявлены результаты на нескольких тестах разбора документов, но они приведены авторами и сами по себе не гарантируют качество на конкретных данных. Модель опубликована под лицензией Apache-2.0. Для запуска README предлагает Transformers, PyTorch и Pillow; для полного разбора документов авторы отсылают к отдельному репозиторию.

Text2Graph-R1-Qwen2.5-0.5b — компактная языковая модель Ihor для извлечения графов знаний из текста. Это воспроизведение подхода DeepSeek R1, дообученное на базе Qwen/Qwen2.5-0.5B-Instruct с помощью supervised learning и обучения с подкреплением GRPO. Модель предназначена для извлечения сущностей и отношений и выдачи результата в структурированном JSON, пригодном для машинной обработки. В обучении использовались награды за корректный формат JSON и F1 извлечённых сущностей и отношений. Модель имеет 494 млн параметров, архитектуру Qwen2ForCausalLM и контекст до 32 768 токенов; метаданные указывают поддержку русского, английского и других языков. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Модель унаследовала ограничения базовой компактной языковой модели, а качество извлечения может зависеть от языка, предметной области и соответствия входного текста ожидаемой схеме JSON.

danskgpt-v4-12b — дообученная Syvai текстовая модель на архитектуре Gemma4ForCausalLM, созданная на основе google/gemma-4-12B-it для более сильного понимания датского языка, работы со знаниями и рассуждений. Это плотная модель примерно на 11,6 млрд параметров; карточка указывает дообучение QLoRA с рангом 16, базой NF4 и вычислениями bf16. Контекст составляет 262 144 токена, для диалога используется шаблон чата Gemma-4. Модель предназначена для датской NLP: классификации, понимания прочитанного, ответов на вопросы, извлечения именованных сущностей и задач универсального ассистента. Она принимает текст и генерирует текст; примеры включают перефразирование, суммаризацию и оценку тональности. Модель ориентирована на датский язык и не предназначена для мультимодального ввода, несмотря на мультимодальные возможности базовой модели. По карточке модель может быть более краткой и решительной в открытой генерации, чем базовая модель, наследует её смещения и ограничения знаний. Для высокорисковых решений требуется человеческий контроль. Лицензия — CC BY 4.0.

Gemma 3 27B PT — предварительно обученная мультимодальная модель Google из семейства Gemma 3 с открытыми весами. Она принимает текст и изображения и генерирует текст; размер модели — 27 млрд параметров. Модель предназначена для понимания изображений и генерации текста: ответов на вопросы, суммаризации, рассуждений, диалогов и создания контента. Контекстное окно — до 128 тыс. токенов, заявлена поддержка более 140 языков. Вариант PT является базовой предварительно обученной моделью, а не версией, настроенной для следования инструкциям. Модель можно применять для описания изображений и извлечения из них данных, создания текстовых ассистентов, составления кратких пересказов и исследовательских экспериментов с VLM и NLP. Google отмечает, что ответы могут содержать фактические ошибки, отражать смещения обучающих данных и хуже справляться со сложными запросами, неоднозначностями и тонкими языковыми нюансами. Лицензия — Gemma; перед использованием следует учитывать условия лицензии и политику запрещённого использования Gemma.

RedHatAI/GLM-5.2-MXFP4xMXFP8 — квантизированная версия языковой модели zai-org/GLM-5.2, разработанная RedHatAI. Это текстовая causal language model с архитектурой GlmMoeDsaForCausalLM, предназначенная для генерации текста и инференса, в том числе с использованием vLLM. Заявленные языки — английский и китайский. Модель использует квантование весов MoE-линейных слоёв, включая экспертные и shared expert-компоненты, до 4-битного формата MXFP4, а активаций — до MXFP8 с динамическим масштабированием. Среднее число бит на параметр снижено примерно до 4,5: размер модели на диске уменьшается приблизительно с 1,47 ТБ в формате BF16 до 424 ГБ, а потребность в дисковой и GPU-памяти — примерно на 72%. Остальные компоненты трансформерных блоков не квантизуются. Ключевое преимущество модели — существенное сокращение требований к памяти при сохранении возможности инференса крупной MoE-модели. Чекпойнт подготовлен в формате compressed-tensors с помощью LLM Compressor и рассчитан на развёртывание в vLLM; в README приведена конфигурация с tensor parallelism на 8 устройств, FP8 KV-cache, speculative decoding и поддержкой вызова инструментов. При этом поддержка данного квантизированного чекпойнта в vLLM обозначена как экспериментальная, а квантование выполнено методом RTN без калибровочных данных, что может ограничивать качество по сравнению с исходной моделью. Лицензия в предоставленных данных не указана. Контекстное окно, точное число параметров, мультимодальные возможности и результаты оценки качества также не раскрыты.

GLM-5.3-Flash EXL3 K2 — общественный квантованный пакет модели GLM-5.3-Flash-BF16, подготовленный vcruz305 на основе модели Z.AI. Это текстогенерационная модель с архитектурой Glm5NextForConditionalGeneration и поддержкой английского и китайского языков. Квантование EXL3 с точностью 2 бита применяется только к маршрутизируемым MoE-экспертам; компоненты внимания, общие слои, эмбеддинги, выходная голова и vision-компоненты сохраняют исходный формат. Пакет состоит из 120 файлов safetensors и занимает около 91 ГиБ. Модель предназначена для генерации текста и сценариев инференса с большим контекстом. Заявленный максимальный выделяемый контекст составляет 131072 токена, рекомендуемый контекст обслуживания — 65536 токенов; отдельно проверено извлечение данных из реальных текстов длиной до 163479 токенов. На NVIDIA GB10 заявлена скорость 15,7–16,5 токена в секунду при контексте 8K и 14,6–15,7 токена в секунду при 64K с использованием native MTP k=2. К преимуществам относятся существенно уменьшенный размер по сравнению с полноточными весами, поддержка MoE и длинного контекста. Ограничения включают снижение точности из-за 2-битного квантования, необходимость специальной сборки vLLM с поддержкой EXL3 и Glm5Next, а также известную ошибку runtime для некоторых запросов длиной примерно от 163K до 180K токенов. Лицензия весов — MIT.

DS-Archive/L3.3-70B-Magnum-v4-SE-Cirrus-x1 — диалоговая языковая модель, созданная объединением моделей Sao10K и Doctor-Shotgun с помощью SLERP и mergekit. Она построена на архитектуре Llama 3.3 с плотной конфигурацией и содержит 69,5 млрд параметров; модель предназначена для генерации текста в формате диалога и поддерживает интерфейс вызова инструментов. Нативная длина контекста — до 131 072 токенов. Модель подходит для диалоговых приложений и генерации ответов с большим контекстом. В README указаны объединённые модели и метод слияния, но не приведены результаты оценки качества, сведения о поддерживаемых языках или специальные ограничения применения. Файлы опубликованы в формате safetensors; лицензия в предоставленных данных не указана.

Local AI Toolkit — это подборка локально запускаемых моделей и инструментов, опубликованная под идентификатором m15dg/local-ai-toolkit. Коллекция собрана с использованием AI-подбора и предназначена как отправная точка для локального AI-окружения, а не как единая модель. Она ориентирована на работу на потребительском оборудовании с NVIDIA RTX 3060 с 12 ГБ видеопамяти и 32 ГБ оперативной памяти. В состав входят модели для универсальной генерации текста, программирования и кодовых агентов, координации multi-agent систем, RAG и анализа документов, embeddings и reranking, синтеза речи, распознавания речи, мультимодального анализа изображений и текста, а также uncensored-варианты. Заявлены форматы GGUF и SafeTensors; для отдельных сценариев предусматриваются GPU и CPU offload либо полностью GPU-ориентированный запуск. Поддерживаются английский и персидский языки, однако характеристики отдельных моделей, включая архитектуру, размеры, контекст и точные мультимодальные возможности, зависят от конкретных компонентов коллекции. Сильной стороной является подборка моделей, адаптированная под ограниченный бюджет памяти и различные локальные сценарии — от диалогов и генерации кода до RAG, агентов и речи. Ограничения заключаются в том, что это незавершённый и периодически обновляемый набор рекомендаций: заявленные возможности и качество не являются гарантированными, а Image Generation и Video Generation на момент описания отсутствуют. Лицензия указана как other; отдельные лицензии входящих моделей в README не приведены.

Luck-Qwen3-4b-Code-FineTune — модель Ahmetggg на основе Qwen3-4B-Instruct-2507, дообученная методом QLoRA для агентного программирования, многошаговых рассуждений, работы с инструментами и более точной оценки границ собственных знаний. Это плотная языковая модель архитектуры Qwen3 с 3,7 млрд параметров; в репозитории представлены веса LoRA-адаптера и объединённые веса FP16. Модель принимает текстовые запросы и генерирует текст, включая код и структурированные вызовы инструментов. В метаданных заявлен контекст до 262 144 токенов. Модель предназначена для навигации по репозиториям, генерации и исправления кода, решения задач по математике и естественным наукам, а также многошагового взаимодействия с инструментами. Обучение использовало трассы агентного программирования, примеры рассуждений и траектории вызова инструментов; README отмечает улучшение форматирования, взаимодействия с инструментами и ответов «не знаю», не заявляя о повышении предельных возможностей базовой модели. Карточка указывает английский язык. Лицензия — Apache-2.0. Это недавняя QLoRA-настройка, поэтому заявленные улучшения следует оценивать на конкретных рабочих задачах; README не приводит сравнительных бенчмарков. Для использования адаптера нужна базовая модель unsloth/Qwen3-4B-Instruct-2507.

Mobius-RWKV-Chat-12B-128k-v4-HF — разговорная языковая модель TimeMobius на архитектуре RWKV v5.2, представленная в формате Hugging Face. Она построена на базе Mobius-mega-12B-128k-base и содержит 13,8 млрд параметров. Модель предназначена для генерации текста, письма, ролевых диалогов и некоторых сценариев RAG; автор рекомендует использовать несколько примеров в запросе, хотя работает и формат диалога User/Assistant. В карточке заявлена многоязычная поддержка и контекст до 128 тыс. токенов. Архитектура описана как смешанная state-based RNN, CNN и Transformer; для запуска в fp16 требуется около 24 ГБ видеопамяти. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. README также упоминает запуск в int8 и nf4 с меньшими требованиями к памяти, но доступные метаданные не подтверждают наличие соответствующих квантованных файлов.