II.2Создание и понимание программного кода

Granite-3.0-2B-Base — базовая языковая модель IBM Granite Team для генерации текста и других задач преобразования текста. Это плотный decoder-only Transformer на 2,5 млрд параметров, обученный с нуля в два этапа на разнообразных данных; архитектура включает GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. Модель принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов и предназначена в том числе для суммаризации, классификации, извлечения информации и ответов на вопросы, а также как основа для специализированного дообучения. В карточке заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Обучающие данные охватывают веб, код, академические материалы, книги и математику. Модель выпущена под лицензией Apache 2.0. Она не проходила выравнивание по безопасности, поэтому может генерировать нежелательные или недостоверные ответы; для меньших моделей также отмечен риск дословного воспроизведения обучающих данных.

onnx-community/Llama-3.2-1B-Instruct-q4f16 — преобразованная в ONNX версия инструкционной языковой модели Meta Llama 3.2, подготовленная сообществом onnx-community для запуска через Transformers.js. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, примерно 1,2 млрд параметров и контекстом до 131 072 токенов; формат репозитория — ONNX, вариант обозначен как q4f16. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для многоязычного диалога, ответов ассистента, поиска знаний с использованием агентных сценариев, суммаризации, помощи в написании текстов и переформулирования запросов. В карточке перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Инструкционные модели семейства выравнивались с помощью SFT и RLHF; заявлены коммерческое и исследовательское применение по условиям лицензии Llama 3.2 Community License. Это статичная модель с данными обучения до декабря 2023 года; качество и безопасность ответов требуют проверки в конкретном приложении.

OsaurusAI подготовила JANG_1L — квантованный вариант Qwen/Qwen3.8-Flash-Next для запуска на компьютерах Apple Silicon через MLX. Это мультимодальная модель с архитектурой Qwen4-экспериментального семейства: в исходной системе заявлены 125 млрд параметров MoE, из которых активны 6 млрд, и таблица n-граммных эмбеддингов на 51 млрд параметров. В сборке JANG_1L присутствуют компоненты для обработки текста, изображений и видео; заявленный размер весов — около 59,8 GiB, а при обслуживании таблицы с SSD резидентное использование памяти составляет около 41 GiB. Модель предназначена для диалога, рассуждений, анализа изображений и видео, а также агентных сценариев с вызовом инструментов. Нативный контекст составляет 262 144 токена и может быть расширен до 1 млн с YaRN. В README приведены результаты сравнения квантования с bf16 на 5 931 позициях; сборка не включает голову multi-token prediction, а для вызова инструментов требуется совместимый с Qwen XML-парсер. Языковой тег карточки — английский. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.

OsaurusAI Qwen3.8-Flash-Next-JANG_2L — квантованный вариант Qwen/Qwen3.8-Flash-Next, подготовленный Jinho Jang для Apple Silicon и MLX. Это мультимодальная модель семейства Qwen с архитектурой Qwen4-архитектурного превью: смесь экспертов на 125 млрд параметров, из которых активны около 6 млрд, гибридные слои Gated DeltaNet и Qwen Sparse Attention, а также отдельные компоненты для изображений и видео. Веса сохранены в формате safetensors; заявленный объём набора — 65,3 ГиБ, а при обслуживании n-граммной таблицы с SSD в оперативной памяти требуется около 48 ГиБ. Модель предназначена для диалога, ответов с анализом изображений и видео, рассуждений и агентных сценариев с вызовом инструментов. Нативная длина контекста составляет 262 144 токена; с YaRN её можно расширить до 1 млн. В комплекте сохранена голова многотокенного предсказания для ускоренного декодирования в совместимых средах. По замерам на 5 931 позициях JANG_2L показывает медианный KL 0,0260 и top-1 совпадение 88,2% с bf16-версией. Модель требует совместимого runtime для MLX и Apple Silicon и значительных ресурсов памяти либо поддержки SSD-таблицы. Вызовы инструментов используют парсер Qwen XML; среды, поддерживающие только Hermes JSON, могут обрабатывать их с ошибками. Для скачанных до 5 сентября 2026 года комплектов требуется повторная загрузка из-за реорганизации вспомогательных файлов MTP. В метаданных указана лицензия other, без конкретных условий использования.

RedHatAI/Inkling-FP8-dynamic — мультимодальная модель, разработанная RedHatAI на основе thinkingmachines/Inkling. Она предназначена для генерации текста по текстовым, графическим и аудиовходам, включая диалоговые сценарии, анализ изображений и аудио, а также универсальные задачи рассуждения и обработки мультимодального контента. Модель использует архитектуру InklingForConditionalGeneration и Mixture-of-Experts с 975 млрд общих параметров, из которых 41 млрд активируются для отдельного запроса. Веса и активации языкового блока квантизированы в FP8: веса используют статическое поканальное масштабирование, а активации — динамическое масштабирование на уровне токенов. Энкодеры изображений и аудио, эмбеддинги, нормализация, смещения, маршрутизация MoE и отдельные слои сохранены в исходной точности. Квантизация примерно вдвое уменьшает размер модели на диске и требования к памяти по сравнению с 16-битным представлением. В конфигурации развертывания заявлена поддержка контекста до 131 072 токенов и до четырёх изображений и одного аудиофайла на запрос. К сильным сторонам относятся поддержка нескольких модальностей, высокая общая ёмкость MoE-модели, снижение требований к GPU-памяти благодаря FP8 и готовность к инференсу через vLLM. Ограничения включают значительный абсолютный размер модели, необходимость совместимой версии vLLM с поддержкой FP8 для Inkling и отсутствие в README сведений о языках, результатах бенчмарков и качестве после квантизации. Модель распространяется по лицензии Apache-2.0.

MiniMaxAI представляет MiniMax-Text-01 — языковую модель для диалогов, генерации текста и вызова внешних функций. Эта версия репозитория подготовлена для Transformers; в метаданных указаны архитектура MiniMaxForCausalLM с механизмом Mixture of Experts и 21,6 млрд параметров. В README описана исходная архитектура семейства: сочетание Lightning Attention, Softmax Attention и MoE; заявлена поддержка контекста до 4 млн токенов при инференсе. Значение native_context_tokens в метаданных составляет 10 240 000 токенов. Модель подходит для генерации ответов, работы с длинными контекстами и приложений, где по запросу нужно сформировать структурированный вызов функции. README приводит результаты академических оценок и рекомендует vLLM для развёртывания. В нём также указана поддержка формата вызова функций, совместимого с OpenAI. Лицензия в метаданных обозначена как other; конкретные условия следует проверять в репозитории модели.

Qwen2.5-95B-Instruct — плотная языковая модель для генерации текста и диалогов, созданная ssmits как self-merge модели Qwen/Qwen2.5-72B-Instruct с помощью MergeKit. Веса собраны методом passthrough из диапазонов слоёв исходной модели; модель содержит 93,4 млрд параметров и опубликована в формате safetensors. Метаданные указывают контекст 32 768 токенов и интерфейс чата с поддержкой вызова инструментов. Модель предназначена для диалогов, генерации текстов, творческого письма, математических и пространственных рассуждений. Автор README сообщает об улучшениях на отдельных задачах относительно Qwen2.5-72B-Instruct, но также отмечает, что исходная модель превосходит её во многих общих языковых и рассуждательных сценариях. Оценка модели пока ограничена, поэтому результаты на конкретной задаче следует проверять отдельно. Карточка указывает лицензию other, без уточнения её условий. README описывает шаблон чата Qwen и заявляет окно контекста 128K, тогда как метаданные Hugging Face указывают native context 32 768 токенов; фактическое поддерживаемое окно следует сверять с конфигурацией и используемым ПО.

Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled — модель, разработанная Jackrong на базе Qwen3.5-9B. Она дообучена методом Supervised Fine-Tuning с использованием LoRA и данных, полученных дистилляцией рассуждений из взаимодействий с Claude-4.6 Opus, а также дополнительных наборов данных для reasoning, науки, следования инструкциям и математики. В обучении использовалась библиотека Unsloth. Модель предназначена для решения сложных задач, требующих структурированного пошагового анализа, планирования, проверки ограничений и формулирования подробных ответов. Она обучена использовать формат рассуждений в тегах <think> и затем выдавать итоговый ответ, при этом автор стремился сократить избыточные повторения и повысить эффективность рассуждений. Указаны языки английский, китайский и корейский; размер базовой модели — 9B параметров. В README модель описана как текстовая, хотя в метаданных pipeline указан image-text-to-text. Сильными сторонами являются компактный размер, акцент на структурированное reasoning и применение к научным, математическим и общим инструкционным задачам. Ограничения включают отсутствие опубликованных сведений о размере контекстного окна, количественных результатах бенчмарков и фактической поддержке изображений. Модель распространяется по лицензии Apache-2.0.

Elsephire/Qwen3.6-35B-A3B-Agents-A1-80-20-Beta — бета-версия мультимодальной модели, созданная слиянием Qwen3.6-35B-A3B и Agents-A1-35B методом Task Arithmetic с весами 80/20. В метаданных указана архитектура семейства Qwen3.5 MoE и поддержка изображений; модель предназначена для диалогов, агентных сценариев и анализа изображений. Модель принимает текст и изображения и генерирует текст. Она доступна в формате Safetensors и распространяется по лицензии MIT. README обозначает выпуск как бета-версию и приглашает к тестированию и обратной связи.

Qwen3.8-Flash-Next MLX Activation-Weighted 3-bit — это MLX-конверсия модели Qwen/Qwen3.8-Flash-Next, опубликованная авторами данного репозитория. Модель предназначена для генерации текста и работы с изображениями, включая сценарии vision-language и OCR. Указанный pipeline имеет тип image-text-to-text, однако поддерживаемые языки в README не перечислены. Исходная модель содержит около 180 млрд параметров: 125 млрд основных параметров, 51 млрд параметров n-граммных embedding-таблиц и 4 млрд параметров MTP. Набор включает 48 банков маршрутизируемых экспертов, сжатых до 3 бит с размером группы 64; остальные подходящие матрицы используют 4-битное квантование. Нативный размер контекста составляет 262 144 токена, а размер артефакта — 83,49 ГиБ. Для запуска требуется MLX-совместимый и Qwen4Exp-aware runtime, например mere.run или mlx-vlm. К сильным сторонам относятся снижение пикового потребления памяти примерно на 19,58% по сравнению с опубликованным Q4-вариантом и сохранение результатов на закрытом наборе из 16 текстовых, графических и OCR-тестов. При этом приведённая квалификация не доказывает общее качество модели или эквивалентность BF16-версии; оценка проводилась на ограниченных наборах, а MTP был отключён при выборе чекпойнта. Распространение осуществляется по Qwen Community License 1.0 с дополнительными требованиями атрибуции и отдельными лицензионными условиями для некоторых коммерческих сценариев.

Это репозиторий весов Qwen3-VL-8B-Instruct, опубликованный Unsloth на основе Qwen/Qwen3-VL-8B-Instruct. Модель относится к плотной мультимодальной архитектуре Qwen3-VL и содержит 8 млрд параметров; для работы используется библиотека Transformers, веса представлены в формате safetensors. Лицензия — Apache-2.0. Модель принимает текст и изображения, поддерживает диалог и интерфейс вызова инструментов. Она предназначена для ответов на вопросы по изображениям, визуального рассуждения, OCR, анализа видео, пространственного понимания и задач визуального агента, а также генерации текста. В карточке заявлен контекст 256 тысяч токенов с возможностью расширения до 1 млн; для OCR указана поддержка 32 языков, но их перечень не приведён. Среди заявленных улучшений — обработка временных меток в видео, объединение визуальных признаков разных уровней и распознавание мелких деталей. Практические ограничения и независимые результаты оценки в README не приведены; заявленные характеристики производительности не сопровождаются таблицами результатов.

Suzhou 3.1 — созданная Tripplet Models инструкционная языковая модель с архитектурой причинного трансформера Qwen3.5, объединённая методом SLERP. В метаданных указано 7,2 млрд параметров, а README сообщает об округлённом размере 8,95 млрд; модель использует смешанное внимание с линейными и полными слоями и поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов, рассуждений, генерации текста и работы в роли агента с вызовом инструментов в формате Hermes. Заявлена поддержка более 29 языков; метаданные перечисляют английский, китайский, корейский, японский, французский, испанский, немецкий, итальянский, русский и арабский. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. README описывает модель как пригодную для потребительского оборудования, но не приводит результатов сравнительных тестов.

Bonsai-2-27B-Ternary-JANG — мультимодальная модель с плотной архитектурой Qwen3.8-27B, подготовленная OsaurusAI как JANG-affine-перепаковка тернарных весов Prism ML. Модель предназначена для диалогов и рассуждений с текстом, а также обработки изображений и видео; в комплекте сохранены шаблон чата Qwen3.8, обработчики изображений и видео и интерфейс вызова инструментов. Текстовые веса исходной модели сохранены без повторной квантизации: 402 модуля используют тернарные значения в 2-битных слотах с группами размера 128. Некоторые линейные слои зрения хранятся в 6-битном формате, а ряд других параметров — в исходной точности. Архитектура включает 64 блока: 48 GatedDeltaNet и 16 блоков полного внимания. Для корректной работы необходим загрузчик с поддержкой JANG Hadamard; стандартные загрузчики mlx_lm и mlx_vlm могут выдавать неверные результаты. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/DeepSeek-V4-Flash-Vision-Exp-NVFP4 — мультимодальная модель для задач image-text-to-text, разработанная Solstice-AI на основе экспериментальной модели DeepSeek-V4-Flash-Vision-Exp от DeepSeek. Она предназначена для анализа изображений и текста, визуального контроля качества, распознавания объектов и текста на изображениях, а также текстовой генерации и многошагового рассуждения в сценариях, требующих большого контекста. Модель имеет архитектуру MoE с 305 млрд параметров, 256 маршрутизируемыми экспертами и примерно 13 млрд активируемых параметров на токен; заявлено 43 слоя. Контекстное окно составляет 1 048 576 токенов, используется native YaRN. Зрительная часть включает 32-слойный Vision Transformer и работает в формате BF16. Эксперты квантизированы в SafeTensors NVFP4: W4A4, group size 16, с block-scale calibration. Ключевая особенность — bit-exact транскодирование MXFP4 в NVFP4 без заявленной потери точности. Модель оптимизирована для NVIDIA Blackwell, включая B200, GB200, DGX Spark и RTX 5090, а также для vLLM и TensorRT-LLM. Согласно README, к сильным сторонам относятся сохранение качества базовой модели на GSM8K, тестах извлечения данных из длинного контекста и мультимодальном visual question answering; для vision QA заявлены точное совпадение ответов и время до первого токена менее 50 мс. Ограничения связаны с экспериментальным статусом, специализированной поддержкой оборудования NVIDIA Blackwell и зависимостью от совместимых inference-движков. Модель распространяется по лицензии MIT; упаковка и сопровождение выполнены Solstice-AI, а квантизационный pipeline создан с использованием NVIDIA TensorRT ModelOpt.

mlx-community/Llama-3.2-3B-Instruct — конверсия модели Meta Llama 3.2 3B Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm версии 0.18.2. Это плотная авторегрессионная языковая модель на 3,2 млрд параметров для диалогов и генерации текста; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и ориентирована на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель подходит для диалоговых помощников, генерации и преобразования текста, а также сценариев с вызовом инструментов. В репозитории указаны веса Safetensors; README описывает конверсию в MLX и использование через mlx-lm. Лицензия — Llama 3.2 License. Качество и безопасность ответов могут зависеть от запроса и сценария применения; сведения о специализированной предметной области в карточке отсутствуют.

cortexso/phi-4-reasoning — текстовая генеративная модель семейства Phi-4-reasoning, разработанная Microsoft Research и преобразованная Menlo Research для распространения в формате GGUF через Cortex и Jan. Модель ориентирована на рассуждения по шагам, решение математических задач, ответы на научные вопросы и выполнение инструкций. Для основной ветки phi-4-reasoning заявлен размер 14 млрд параметров. Доступны квантизованные варианты GGUF от q2_k до q8_0, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью инференса. В README также упоминаются шаблоны ChatML и поддержка расширенного контекста, однако его точная длина не указана. Данных о перечне языков и мультимодальных возможностях нет; по заявленному pipeline_tag модель предназначена для генерации текста. Сильными сторонами модели являются специализация на логическом и математическом рассуждении, следовании инструкциям и возможность эффективного запуска в средах с ограничениями по памяти и задержке благодаря компактному размеру и квантизации. Ограничения включают отсутствие в представленных данных точных результатов бенчмарков, перечня поддерживаемых языков и значения контекстного окна. Модель распространяется по лицензии MIT.

CultriX/Qwen2.5-14B-Hyperionv3 — объединённая языковая модель на архитектуре Qwen2, созданная CultriX с помощью mergekit. В качестве базовой модели использована CultriX/Qwen2.5-14B-Wernickev3; при объединении также использованы несколько моделей семейства Qwen2.5-14B, включая Qwenfinity-2.5-14B, SeQwence-14B-EvolMerge, модели Veltha, Lamarck, Emerged, Broca, Fusion4 и QwenSlerp5. Модель предназначена для генерации текста и диалогового общения; интерфейс также поддерживает вызов инструментов. Она содержит 14 млрд параметров, работает с текстом и имеет контекст до 131 072 токенов. В карточке не описаны специальные языковые или предметные специализации и ограничения качества. Лицензия в предоставленных данных не указана.

Это квантованная в формат NVFP4 версия мультимодальной модели Qwen3.5-9B, подготовленная FreedomAISVR на основе Qwen/Qwen3.5-9B. Модель предназначена для диалога и генерации текста, а вместе с файлом проектора mmproj — для понимания изображений. В README заявлены гибридная архитектура Gated DeltaNet и Gated Attention, контекст до 262 144 токенов и поддержка 201 языка; в метаданных подтверждены английский, китайский и многоязычный режимы. Веса хранятся в GGUF: основной файл NVFP4 занимает 5,31 ГБ, а проектор зрения в F16 — 918 МБ. Формат оптимизирован для ускорения на видеокартах NVIDIA Blackwell; производительность и совместимость на других устройствах могут отличаться. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.8-max-Reasoning-Distilled-GGUF — компактная языковая модель, разработанная khazarai и созданная методом дистилляции знаний из Qwen3.8-max. Модель предназначена для задач рассуждения, включая анализ вариантов, решение вопросов из разных предметных областей и генерацию структурированных ответов. Формат GGUF ориентирован на использование с llama.cpp, а тег vision-language-model и pipeline image-text-to-text указывают на поддержку сценариев работы с изображениями и текстом, однако подробности о реализации визуального ввода в README не приведены. Ключевая особенность модели — оптимизированная цепочка рассуждений: она стремится выдавать линейную, последовательную и решительную логику, сокращая повторные проверки, колебания и циклы «переобдумывания». Благодаря дистилляции модель рассчитана на более эффективный инференс с меньшим числом генерируемых токенов при сохранении качества ответов. Размер архитектуры, объём параметров, максимальная длина контекста и полный набор поддерживаемых языков не указаны; явно заявлен английский язык. Модель может быть полезна там, где важны компактность, скорость и экономный расход токенов. Ограничением является то, что для чрезвычайно сложных многошаговых математических задач может потребоваться явный запрос на пошаговые промежуточные вычисления. Результаты следует проверять при использовании в медицинских, юридических и финансовых сценариях. Указанная лицензия — Apache-2.0.

A.X K2 NVFP4 — квантизированная версия языковой модели A.X K2 от SK Telecom. Это модель типа Mixture-of-Experts с 688 млрд параметров, из которых 33 млрд активны при обработке запроса. Вариант NVFP4 применяет к routed experts квантизацию NVFP4 W4A4, а attention, router, shared expert и dense layer хранит в FP8, embedding и LM head — в BF16; заявлено примерно двукратное сокращение объёма памяти по сравнению с FP8-чекпойнтом. Модель предназначена для диалоговой генерации текста, рассуждений, следования инструкциям и агентных сценариев. Режим thinking подходит для сложных задач, а non-thinking — для коротких ответов с меньшей задержкой. Конфигурация YaRN поддерживает контекст до 256K токенов; README также описывает тесты извлечения фактов при масштабировании до 512K. Для запуска на одном узле указаны четыре NVIDIA B200 и форк vLLM с поддержкой A.X K2. Модель ориентирована на английский, корейский, китайский, японский и испанский языки; проект подчёркивает понимание корейского языка и культуры. В README заявлено качество, сопоставимое с FP8-версией, и идеальный результат на описанном тесте NIAH, но эти результаты не характеризуют все задачи. Лицензия — Apache-2.0.

BrurryDog-7b-v0.1 — объединённая языковая модель семейства Mistral, созданная с помощью LazyMergekit из udkai/Turdus, leveldevai/TurdusBeagle-7B и liminerity/Blur-7b-v1.21. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и рассчитана на генерацию текста, диалоги и выполнение инструкций; нативная длина контекста составляет 32 768 токенов. В README описано слияние методом TIES с нормализацией и int8-маской; итоговые веса сохранены в bfloat16. Для оценки приведены результаты Open LLM Leaderboard, включая среднее значение 74,24, ARC 72,53 и HellaSwag 88,37. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает целевые языки, поэтому языковую специализацию определить нельзя.

Buddhi-128K-Chat — диалоговая языковая модель общего назначения от AI Planet, дообученная на базе Mistral-7B-Instruct-v0.2. Она предназначена для генерации ответов, работы с длинными документами и продолжительными диалогами: в частности, для суммаризации, генерации текста и ответов на вопросы по большому контексту. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстным окном до 131 072 токенов. Для расширения контекста применена техника YaRN; README также описывает Dynamic-YARN. Модель принимает текст и генерирует текст, поддерживает английский язык и использует шаблон инструкций Mistral с маркерами [INST] и [/INST]. Для запуска с контекстом 128K в карточке указано требование около 80 ГБ VRAM, а для 32K — около 40 ГБ; рекомендуется A100. Модель опубликована в формате safetensors под лицензией Apache-2.0. Приведённые в README результаты бенчмарков не являются независимой оценкой, а обработка максимального контекста требует значительных ресурсов.

DictaLM-3.0-Nemotron-12B-Instruct-GGUF — инструкционная большая языковая модель из семейства Dicta-LM 3.0, разработанного организацией DICTA. Модель предназначена для генерации и обработки текста, диалоговых сценариев и выполнения пользовательских инструкций на иврите и английском языке. Она также поддерживает tool-calling для интеграции с внешними инструментами и API. Модель содержит 12 миллиардов параметров и использует гибридную архитектуру Hybrid-SSM. Она была изначально создана на базе NVIDIA-Nemotron-Nano-12B-v2-Base; в README для исходной версии указана точность BF16. Данный идентификатор относится к варианту GGUF, однако конкретные параметры квантования и размер контекста не указаны. К сильным сторонам относятся специализация на иврите, поддержка английского языка и доступность open-weight для загрузки и неограниченного использования. Ограничения включают отсутствие сведений о контекстном окне, точной конфигурации GGUF и подробных результатах оценки в представленных данных. Модель распространяется по лицензии NVIDIA Open Model License.

Gemma4-12B Uncensored-HauhauCS-1M-GGUF — GGUF-версия модели, опубликованная satgeze и основанная на HauhauCS/Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced, которая, в свою очередь, использует 12-миллиардный dense-чекпойнт Google с квантизацией QAT. Модель предназначена для генерации текста, работы с длинными документами и задач, требующих извлечения информации из больших контекстов. Также заявлена поддержка изображений благодаря vision tower и ускоренного вывода через MTP speculative decoding; запуск ориентирован на llama.cpp и Ollama. Ключевая характеристика модели — контекстное окно до 1 048 576 токенов, увеличенное в четыре раза относительно исходных 262 144 токенов. В README сообщается о сертифицированном needle-in-a-haystack извлечении на всём диапазоне от 64K до 1M токенов, а также о сохранении цепочек многошагового поиска на полном миллионном контексте. MTP ускоряет генерацию примерно на 51% в заявленных тестах, до 218,4 токена в секунду на RTX 5090. Языки явно не указаны. Сильные стороны модели — очень длинный контекст, точное позиционное извлечение и поддержка изображений. Ограничения проявляются в задачах, требующих агрегации данных по всему окну: на больших длинах качество снижается, а режим thinking, по данным README, существенно ухудшает результаты и может зацикливаться или исчерпывать лимит генерации. Для длинноконтекстного извлечения рекомендуется отключать thinking. Модель описана как uncensored и распространяется по лицензии Gemma; конкретные условия лицензии следует учитывать при использовании.

moebiusT7/gemma-4-26b-a4b-mobius-custom-c1 — это модель для генерации текста на базе Google Gemma-4 26B-A4B-it, представленной в формате GGUF с QAT q4_0. Архитектура MoE использует 26 млрд параметров при примерно 4 млрд активных параметров. Модель ориентирована на английский и японский языки и рассчитана на запуск через llama.cpp, LM Studio, Ollama или совместимый OpenAI API-сервер. Указанный разработчиком рабочий контекст — 32 768 токенов; рекомендуется ограничивать reasoning budget значением 4096. Для работы на полном контексте требуется около 14,7 ГБ VRAM, поэтому практически необходима свободная видеокарта с 16 ГБ памяти. Модель предназначена для ответов на вопросы, суммаризации, работы с переданным контекстом и сценариев, где важны маршрутизация запросов, запрос уточнений и отказ от ответа при недостатке данных или небезопасных запросах. В поставляемой конфигурации используются системный промпт L0 Essentials compact v1.1, детерминированный защитный слой для пустых и некоторых небезопасных запросов, а также опциональный RCGov для управления retrieved-контекстом. По заявленным тестам модель показала 0 из 12 выдуманных ответов на вопросы с ложными предпосылками, 9 из 9 корректных отказов от персональных рекомендаций в высокорисковых ситуациях, 60 из 60 обычных ответов без лишних уточнений и скорость генерации около 155,7 токена в секунду на RTX 5070 Ti. Ограничение состоит в том, что сами веса Google не содержат governance-компонентов: при запуске GGUF без специального промпта и обвязки работает обычная Gemma-4. Модель распространяется по лицензии Gemma.

KangalKhan-RawEmerald-7B — языковая модель для диалогов и генерации текста, созданная Yuma42. Это слияние моделей argilla/CapybaraHermes-2.5-Mistral-7B и argilla/distilabeled-OpenHermes-2.5-Mistral-7B с помощью LazyMergekit. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для общения в формате ChatML, ответов на вопросы и генерации текста. В карточке приведены результаты оценки на Open LLM Leaderboard. Автор предупреждает, что варианты GGUF от стороннего автора могут иногда выдавать опечатки и рекомендует в таком случае вариант Q4_K_S GGUF. Модель распространяется по лицензии Apache-2.0.

Light-IF-4B — дообученная командой Qihoo 360 языковая модель на базе Qwen3-4B, предназначенная для точного выполнения сложных инструкций. Подход к адаптации сочетает генерацию примеров с комплексными ограничениями, отбор данных методом rejection sampling, supervised fine-tuning с сохранением энтропии и обучение с подкреплением с адаптацией к энтропии токенов. Модель помогает планировать ответ и проверять его перед выдачей, чтобы лучше соблюдать многошаговые и ограниченные требования. Она относится к плотной архитектуре Qwen3ForCausalLM, содержит 3,7 млрд параметров, принимает текст и выдаёт текст; максимальный контекст — 40 960 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

INCModel2/Qwen3.5-397B-A17B-MXFP4-Mixed-CT-AutoRound — вариант Qwen3.5-397B-A17B, сжатый в формат MXFP4 с помощью intel/auto-round и представленный в формате llm_compressor. Это мультимодальная модель с архитектурой Qwen3.5 MoE, предназначенная для диалогов и обработки изображений вместе с текстом; заявлен интерфейс вызова инструментов. В репозитории доступны веса safetensors, а для запуска автор приводит пример с vLLM и контекстом до 131072 токенов. Модель подходит для вопросов по изображениям, диалогов, задач на рассуждение и сценариев с вызовом инструментов. В приведённых тестах MXFP4 сохраняет 99,5% среднего результата BF16 на GSM8K, MMLU, PIQA и HellaSwag. README предупреждает о возможных фактических ошибках, предвзятых или оскорбительных ответах и рекомендует проверять безопасность перед развертыванием. Указано следовать лицензии исходной модели; метаданные репозитория указывают Apache-2.0.

EXAONE-3.5-7.8B-Instruct-AWQ — инструкционно дообученная двуязычная языковая модель, разработанная LG AI Research. Она предназначена для генерации текста, диалоговых сценариев и общего использования в качестве виртуального ассистента на английском и корейском языках, включая задачи с длинным контекстом до 32 768 токенов. Модель поддерживает системные промпты и может запускаться в Transformers, TensorRT-LLM, vLLM, SGLang, llama.cpp и Ollama. Модель содержит 7,8 млрд параметров, из которых 6,98 млрд указаны без учёта эмбеддингов, 32 слоя и словарь размером 102 400 токенов. В архитектуре внимания используется GQA с 32 Q-головами и 8 KV-головами. Данная версия содержит AWQ-квантизацию весов в формате W4A16g128: 4-битную групповую квантизацию без квантизации активаций, что снижает требования к памяти и подходит для более эффективного развёртывания. К сильным сторонам относятся поддержка английского и корейского языков, длинного контекста и оптимизированного квантизованного инференса. Ограничения включают возможную генерацию вредного, предвзятого, фактически неверного или синтаксически некорректного текста; модель также не располагает актуальными сведениями и может выдавать ответы, противоречащие действительности. Модель распространяется по лицензии EXAONE AI Model License Agreement 1.1 - NC, предусматривающей некоммерческое использование.

Mistral-C2F — диалоговая языковая модель, разработанная авторами проекта Mistral-C2F на основе Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, обученная с использованием обучения с подкреплением на основе обратной связи от людей (RLHF). Для усиления аналитических и рассуждательных способностей авторы применили двухэтапный подход Coarse to Fine: выход Coarse Actor объединяется с инструкционной моделью, чтобы перенести подробные рассуждения и уточнить ответы. Модель предназначена для диалогов, интеллектуальных помощников и исследований в области языковых моделей, машинного обучения и обработки естественного языка. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В README авторы отмечают улучшение разговорных и аналитических способностей и снижение токсичных ответов по сравнению с базовой моделью, однако не приводят здесь подробностей оценки. Модель распространяется по лицензии MIT; README указывает, что лицензия совпадает с лицензией базовой Mistral-7B-v0.1.