II.2Создание и понимание программного кода

Sarvam-30B — языковая модель семейства Sarvam, разработанная Sarvam AI. Это модель Mixture-of-Experts для генерации текста и диалогов; в README указано 2,4 млрд активных параметров без эмбеддингов, а метаданные репозитория — 3,7 млрд параметров. Модель ориентирована на практическое развёртывание, рассуждения, программирование и диалоги на индийских языках. Поддерживает вызов инструментов; архитектура включает 128 экспертов и маршрутизацию top-6. Контекст по метаданным — до 131 072 токенов. Основной упор сделан на индийский контекст и 22 индийских языка. В метаданных явно перечислены английский, хинди, бенгальский, тамильский, телугу, маратхи, гуджарати, каннада, малаялам, пенджаби, ория, ассамский, урду, санскрит, непальский, синдхи, конкани, майтхили, догри, манипури, сантали, кашмирский и тибетский. Модель может применяться для многоязычных голосовых звонков в составе речевой системы, но сама карточка описывает её как текстовую генеративную модель. Распространяется по лицензии Apache-2.0.

uukuguy/speechless-mistral-six-in-one-7b — объединённая модель на основе шести дообученных моделей Mistral-7B, опубликованная пользователем uukuguy. Это плотный авторегрессионный трансформер Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; модель предназначена для генерации текста в диалогах, ответов на вопросы, рассуждений и помощи с кодом. В карточке перечислены исходные модели Dolphin, OpenOrca, Platypus, Samantha, CollectiveCognition и Zephyr; заявлены результаты на нескольких бенчмарках, но часть таблиц неполная, поэтому они не дают полной оценки качества. Модель принимает текст и генерирует текст. В метаданных указан английский язык и возможность работы с кодом. Репозиторий содержит веса safetensors, а лицензия обозначена как Llama 2. Модель унаследовала заявленное в карточке базовой Mistral-7B отсутствие механизмов модерации; сгенерированные ответы могут быть ошибочными или нежелательными.

Это объединённая авторами MaziyarPanahi языковая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и uukuguy/speechless-mistral-six-in-one-7b-orth-1.0. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы, включая задачи с кодом. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов; основной естественный язык карточки — английский. В репозитории указаны веса Safetensors и лицензия Apache-2.0. README не приводит отдельных оценок качества или подробных ограничений применимости.

SQLCoder 34B Alpha — языковая модель, разработанная Defog.ai для генерации SQL-запросов по вопросам пользователя и описанию схемы базы данных. В данном репозитории представлена TheBloke в формате GGUF, предназначенном для локального запуска и инференса с использованием llama.cpp и совместимых инструментов. Модель основана на архитектуре Llama, содержит около 34 миллиардов параметров и ориентирована на англоязычные сценарии. Она принимает текстовые инструкции и схему базы данных, после чего формирует SQL-запрос для ответа на заданный вопрос. Доступны варианты с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией, что позволяет выбирать баланс между качеством, требованиями к памяти и скоростью работы на CPU и GPU. Размер контекстного окна в README не указан. Сильная сторона модели — специализация на преобразовании естественно-языковых запросов в SQL с учетом структуры таблиц и связей между ними. Ограничения включают узкую предметную направленность, зависимость качества от полноты и точности переданной схемы, а также возможные потери качества в квантизированных версиях. Модель предназначена для текстовой генерации и не поддерживает мультимодальные входы по указанным данным. Лицензия — CC BY 4.0.

Thanatos-27B-HERETIC — языковая модель от FoolDev, созданная на базе heretic-org/Qwen3.8-27B-heretic-ara. Это плотная модель с 27 млрд параметров, распространяемая в формате GGUF и предназначенная для локального запуска через llama.cpp и Ollama. Репозиторий репакует и квантует базовую модель; дополнительное обучение в нём не выполняется. Упоминания Claude Fable 5 и перечисленных наборов данных приведены в README как неподтверждённая атрибуция, а не надёжная история обучения. Модель ориентирована на генерацию текста, диалоговые сценарии, рассуждения, агентские задачи и программирование. Заявлены мультимодальные возможности, однако для обработки изображений рекомендуется использовать llama.cpp напрямую: поддержка vision в Ollama для этой архитектуры, согласно README, работает некорректно. Модель поддерживает языки, включая английский, китайский, русский, испанский, французский, немецкий, японский, корейский, арабский, украинский и другие. Нативный контекст составляет 262 144 токена, с расширением до 1 010 000 токенов посредством YaRN. К сильным сторонам относятся большой контекст, плотная архитектура, поддержка локального инференса и сниженный уровень отказов, характерный для версии Heretic. Ограничения включают высокие требования к памяти: для полного контекста необходим значительный объём RAM или VRAM, а выбор квантизации влияет на размер модели и качество. Модель распространяется по лицензии Apache-2.0.

Tri-7B — диалоговая языковая модель Trillion Labs для генерации текста. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, основанной на LlamaForCausalLM; в карточке указаны 7,76 млрд параметров, 32 слоя и контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель прошла предварительное обучение и постобучение с упором на рассуждения, математические задачи и повседневное использование. Она предназначена для диалога, следования инструкциям, ответов на вопросы, генерации кода и решения задач на английском, корейском и японском языках. В README приведены результаты сравнительных тестов с предыдущей моделью Trillion-7B-preview; они показывают улучшения по ряду оценённых задач, но не гарантируют качество для каждого запроса. Модель оптимизирована для английского, корейского и японского; на других языках качество может снижаться. Знания ограничены сведениями, доступными до февраля 2025 года. Лицензия — Apache-2.0.

MaziyarPanahi/WizardLM-2-7B-GGUF — это квантизированная версия языковой модели WizardLM-2 7B в формате GGUF. Исходная модель разработана командой WizardLM в Microsoft AI на основе Mistral-7B-v0.1, а конвертацию и публикацию квантизированных файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалогового взаимодействия с поддержкой многоходовых бесед. Модель содержит около 7 млрд параметров и заявлена как мультиязычная. Она ориентирована на сложные чаты, следование инструкциям, написание текстов, программирование, математические задачи, рассуждения, агентские сценарии и работу на нескольких языках. По данным README, WizardLM-2 7B обеспечивает высокую скорость и сопоставима по качеству с более крупными открытыми моделями; в оценках авторов она сравнивалась с моделями размером до 32B параметров. Конкретное максимальное окно контекста и перечень поддерживаемых языков не указаны. Главное преимущество этой версии — возможность локального запуска благодаря GGUF и нескольким вариантам квантизации от 2 до 8 бит, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают зависимость характеристик от выбранного уровня квантизации, отсутствие заявленной поддержки мультимодальных входов и недостаток подробных данных о тестах, контекстном окне и безопасности. Модель распространяется по лицензии Apache 2.0.

Yuan2-2B-Janus-hf — текстовая причинная языковая модель Yuan 2.0, разработанная IEIT System и представленная на Hugging Face в формате PyTorch. Это плотная архитектура YuanForCausalLM примерно на 1,9 млрд параметров с контекстом до 8192 токенов и возможностью диалогового применения. Модель предназначена для генерации текста и диалогов, а также может использоваться для задач, связанных с математикой, рассуждениями, программированием и знаниями. В README Yuan 2.0 описана как модель, обученная на разнообразных высококачественных данных и данных для настройки по инструкциям; для семейства приведены оценки на GSM8K, AGIEval, HumanEval и TruthfulQA. Карточка не подтверждает поддержку изображений, аудио или других нетекстовых входов. Выводы могут быть неточными или зависеть от формулировки запроса. В README указаны Apache 2.0 для кода репозитория и отдельное лицензионное соглашение Yuan 2.0 для модели; коммерческое использование заявлено как допустимое при соблюдении этого соглашения.

ZYH-LLM-Qwen2.5-14B-V5 — диалоговая языковая модель YOYO-AI, созданная слиянием моделей на базе Qwen2.5-14B. В README описаны этапы объединения инструкционных, кодовых и рассуждающих моделей; среди них есть варианты Qwen2.5, Cogito, DeepCoder и другие. Это плотная авторегрессионная архитектура Qwen2 с 14 млрд параметров, опубликованная в формате safetensors. Модель предназначена для генерации текста в диалоге, выполнения инструкций, помощи с кодом и задач, требующих рассуждений. Метаданные указывают контекст до 1 010 000 токенов, а в карточке заявлена поддержка английского и китайского языков. Модель распространяется по лицензии Apache-2.0. README не приводит результаты сравнительных оценок или подробные рекомендации по развёртыванию. Заявленная длина контекста сама по себе не подтверждает качество ответов на всём этом диапазоне; фактическую производительность следует проверять на целевых задачах.

TheBloke опубликовал модель Jon Durbin Airoboros 33B GPT4 1.4 в формате PyTorch fp16, объединив её с SuperHOT 8K от Kaio Ken. Это плотная авторегрессионная модель семейства LLaMA примерно с 32,3 млрд параметров и контекстом до 8192 токенов. В README указано, что для поддержки расширенного контекста при инференсе требуется trust_remote_code=True или соответствующий monkey patch. Модель предназначена для диалогов и ответов на инструкции, включая вопросы по предоставленному контексту, генерацию текстов, ролевые сценарии, загадки и примеры кода. Обучающие данные Airoboros были синтетически созданы с помощью GPT-4; в карточке также отмечены примеры кода на десяти языках программирования. Для полного качества ответы на закрытые вопросы по контексту рекомендуется задавать в специальном формате, описанном в README. Веса доступны в формате PyTorch fp16 для GPU-инференса и дальнейшей конвертации. README помечает исходную версию Airoboros как ещё не протестированную; модель требует совместимого окружения и настройки расширенного контекста. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверять с файлами репозитория.

airoboros-34b-3.3 — экспериментальная разговорная модель, разработанная Jon Durbin как дообучение 01-ai/yi-34b-200k. Это плотная языковая модель семейства Llama с архитектурой LlamaForCausalLM и 33,9 млрд параметров; она принимает текст и генерирует текст. Модель настроена на формат диалога Llama 2 и предназначена для многошаговых бесед, ответов на вопросы по предоставленному контексту, суммаризации, генерации кода, инструкций и структурированных аргументов для вызова функций. Обучение опирается главным образом на синтетические данные Airoboros 3.2, а также на сторонние наборы для диалогов, рассуждений, кода, суммаризации и ролевых сценариев. Хотя базовая Yi поддерживает контекст до 200 000 токенов, эту версию дообучали с длиной контекста 8 000 токенов, поэтому качество на более длинном вводе может быть ненадёжным. Автор отмечает склонность к выдумыванию ответов и рекомендует низкую температуру и явные инструкции для задач по контексту. Лицензия указана как other; конкретные условия в предоставленных данных не описаны.

airoboros-l2-c70b-3.1.2 — экспериментальная диалоговая модель jondurbin на архитектуре Llama 2, дообученная на Llama 2 70B Chat с использованием преимущественно синтетических данных набора airoboros-3.1. Модель содержит 68,7 млрд параметров, работает с текстом и рассчитана на контекст до 4096 токенов; для диалога использует шаблон Llama 2 Chat. Модель предназначена для выполнения инструкций и широкого круга текстовых задач: ответов по предоставленному контексту, суммаризации, извлечения информации из логов, обезличивания текста, программирования и генерации структурированных аргументов для функций. В README отмечено, что акцент сделан на следовании инструкциям, а не на непринуждённом общении и ролевой игре. Для MathJSON автор рекомендует низкую температуру генерации. Автор характеризует модель как экспериментальную и сообщает о тестовом дообучении поверх чат-версии Llama 2. Возможны ошибки и выдуманные ответы; для вопросов по контексту рекомендуется явно просить не придумывать ответ при нехватке сведений. Модель распространяется под лицензией Llama 2.

Карточка модели ewgenni/AliceAI-Foundation-80B-A3B-Base на Hugging Face совпадает с карточкой yandex/AliceAI-Foundation-80B-A3B-Base, поэтому описание составлено по ней. AliceAI-Foundation-80B-A3B-Base — базовая авторегрессионная языковая модель, разработанная Yandex и обученная с нуля. Это предобученная модель с гибридной архитектурой и смесью экспертов: всего 80 млрд параметров, из которых на каждом токене активируются около 3 млрд. Архитектура включает 48 слоёв, 512 экспертов и механизмы KDA и Gated Attention; контекст — до 262 144 токенов. Модель предназначена для генерации текста и дальнейшей адаптации под задачи рассуждений, математики, программирования, работы с фактами и взаимодействия с инструментами. По данным карточки, особенно сильна в фактологических задачах на русском языке; доступны русскоязычные бенчмарки WikiWebFacts и HardMultiQA. Это базовая модель, поэтому для диалогового применения и следования инструкциям может потребоваться дообучение и подходящий шаблон сообщений. Веса опубликованы в формате Safetensors и доступны по лицензии Apache 2.0. В README описан запуск через Transformers и vLLM; для выполнения KDA-слоёв на GPU требуется совместимая версия flash-linear-attention. Заявленные в README 80 млрд общих параметров расходятся с метаданными Hugging Face, где указано 3,1 млрд параметров.

Карточка модели hdcase/AliceAI-Foundation-80B-A3B-Base на Hugging Face совпадает с карточкой yandex/AliceAI-Foundation-80B-A3B-Base, поэтому описание составлено по ней. AliceAI-Foundation-80B-A3B-Base — базовая авторегрессионная языковая модель, разработанная Yandex и обученная с нуля. Это предобученная модель с гибридной архитектурой и смесью экспертов: всего 80 млрд параметров, из которых на каждом токене активируются около 3 млрд. Архитектура включает 48 слоёв, 512 экспертов и механизмы KDA и Gated Attention; контекст — до 262 144 токенов. Модель предназначена для генерации текста и дальнейшей адаптации под задачи рассуждений, математики, программирования, работы с фактами и взаимодействия с инструментами. По данным карточки, особенно сильна в фактологических задачах на русском языке; доступны русскоязычные бенчмарки WikiWebFacts и HardMultiQA. Это базовая модель, поэтому для диалогового применения и следования инструкциям может потребоваться дообучение и подходящий шаблон сообщений. Веса опубликованы в формате Safetensors и доступны по лицензии Apache 2.0. В README описан запуск через Transformers и vLLM; для выполнения KDA-слоёв на GPU требуется совместимая версия flash-linear-attention. Заявленные в README 80 млрд общих параметров расходятся с метаданными Hugging Face, где указано 3,1 млрд параметров.

Apodex-1.1-mini-GPTQ-Int4 — квантизированная версия модели Apodex-1.1-mini, разработанная Apodex AI. Это reasoning-first модель для сложных исследовательских задач с длительным горизонтом выполнения и текстовой генерации. Она ориентирована на работу с документами, наборами данных, таблицами, изображениями, кодом и внешними инструментами, включая декомпозицию задач, параллельную работу субагентов, поддержание состояния и проверку результатов перед выдачей. Модель поддерживает английский и китайский языки, использует шаблон чата Qwen3.5 и обучена для нативного вызова функций. Для агентских сценариев рекомендуется развёртывание через SGLang с OpenAI-совместимым API; в README указаны рекомендуемые параметры с максимальной длиной контекста 262144 токена и лимитом генерации 32768 токенов. Указанный формат GPTQ Int4 снижает требования к памяти, но сведения о точном размере, архитектуре и аппаратных требованиях не приведены. Сильные стороны модели — ориентация на комплексную многоэтапную работу, использование инструментов, адаптивное планирование и встроенная проверка утверждений, источников и вычислений. Ограничения связаны с тем, что результаты зависят от корректной настройки агентской инфраструктуры и доступных инструментов, а количественные показатели в README относятся преимущественно к системам Apodex и Agent Team, а не обязательно к автономной работе данной квантизированной версии. Модель распространяется по лицензии Apache 2.0.

Arch-Function-3B — языковая модель компании Katanemo, дообученная для вызова функций и API по запросам на естественном языке. Она анализирует описания функций и их параметры, выбирает подходящую функцию и формирует структурированный вывод, пригодный для автоматического выполнения. Модель рассчитана на интеграцию в чат-ботов, прокси-серверы и автоматизированные backend-сценарии; в карточке отмечены чат и интерфейс вызова инструментов. Модель основана на Qwen/Qwen2.5-Coder-3B-Instruct, использует плотную архитектуру Qwen2 и содержит 3,1 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. README рекомендует использовать специальный формат промпта для получения JSON-подобных вызовов функций и описывает оценку на Berkeley Function-Calling Leaderboard. Лицензия указана как other, поэтому конкретные условия следует проверять в карточке репозитория.

MaziyarPanahi/bagel-dpo-7b-v0.1-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на основе Mistral-7B-Instruct-v0.1 и jondurbin/bagel-dpo-7b-v0.1. Веса объединены методом SLERP; архитектура — плотная авторегрессионная MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и ведения диалогов. Обучающие данные включают наборы для вопросов и ответов, рассуждений, математики, кода и диалогов, поэтому модель подходит для широкого спектра текстовых запросов. Указана лицензия Apache-2.0.

bagel-dpo-8x7b-v0.2-GGUF — это квантизированная версия текстовой генеративной модели bagel-dpo-8x7b-v0.2, разработанной jondurbin и подготовленной в формате GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp версии b4222 и метода imatrix. Модель распространяется для локального запуска, в частности через LM Studio. Модель предназначена для генерации текста в формате инструкций и диалогов, а также может применяться к широкому кругу задач: ответам на вопросы, рассуждениям, программированию, работе с естественным языком, математике, извлечению и пониманию информации и ролевым сценариям. В обучении или дообучении использовался широкий набор датасетов, включая MMLU, ARC, BoolQ, DROP, Spider, SQuAD, MathInstruct, CodeParrot и наборы диалогов и preference-данных DPO. Доступны варианты квантизации от Q2_K и Q3 до Q8_0 с размером файлов примерно от 17,44 до 49,63 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее сохранение качества, но требуют больше памяти; Q4_K_M, Q5_K_M и Q6_K отмечены как рекомендуемые. Модель работает с текстом; сведения о поддерживаемых языках, размере контекста и точной архитектуре в README не указаны. Ограничения включают возможное снижение качества в компактных вариантах квантизации и высокие требования к памяти. Лицензия — Apache-2.0.

BrainCog-8B-0.1-Instruct — диалоговая языковая модель, разработанная группой BrainCog. Это дообученная версия Meta-Llama-3-8B с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; модель рассчитана на генерацию текста и работу в формате чат-ассистента. В качестве обучающего набора указан BAAI/Infinity-Instruct, а среди возможностей отмечена генерация кода. Модель принимает текстовые сообщения и генерирует текстовые ответы, включая ответы на вопросы и фрагменты кода. В метаданных указаны китайский и английский языки, а также многоязычная поддержка; базовая Meta-Llama-3-8B предназначена для английского текста и кода. Контекст составляет 8192 токена. Для загрузки и запуска README приводит пример с Transformers. Модель распространяется по лицензии Apache-2.0. Разработчики предупреждают, что поведение и вывод модели не контролируются и не обязательно отражают их мнение; качество ответов и кода может зависеть от запроса и требовать проверки.

BrainTransformers-3B-Chat — чат-модель на 3,1 млрд параметров от LumenScopeAI, построенная на архитектуре BrainGPTForCausalLM с использованием спайковых нейронных сетей (SNN). Она предназначена для генерации текста и диалогового взаимодействия; карточка также указывает интерфейс вызова инструментов. Модель принимает текст и генерирует текст, а её контекст составляет до 32 768 токенов. В README приведены результаты на общих, математических, научных, программных и многоязычных бенчмарках, включая MMLU, GPQA, MATH и HumanEval. Текущая версия сохраняет часть вычислений с плавающей точкой; разработчики сообщают о планах оптимизации для более энергоэффективного SNN-оборудования. Лицензия — Apache-2.0.

Cassini-1.0 — дообученная модель семейства Qwen3, разработанная LatentForce-ai для извлечения структурированных сведений из исходного кода. Она принимает файлы Python, JavaScript и TypeScript и за один проход формирует JSON с импортами, определениями, ссылками, вызовами, назначениями типов и дополнительными данными об определениях. Модель предназначена для инженерных конвейеров статического анализа: построения графов зависимостей и вызовов, индексации символов и анализа влияния изменений в крупных репозиториях. В карточке заявлен результат 77,6% F1 на оценке извлечения при общей стоимости инференса $0,17; это заявление разработчика, а подробности методики оценки в предоставленном фрагменте не раскрыты. Модель основана на Qwen/Qwen3-4B, содержит около 3,7 млрд параметров, имеет контекст 40 960 токенов и рассчитана на запуск через vLLM. Лицензия — Apache-2.0.

darkps_ice-AI-GGUF — это квантованные версии языковой модели ice-AI, разработанной DarkPs и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Входной модальностью является текст, спекулятивное декодирование не поддерживается. Модель содержит около 8 млрд параметров. Набор включает варианты от BF16 до низкоразрядных квантовок Q2 и IQ, размер файлов составляет примерно от 3,4 до 16,4 ГБ. Квантования с imatrix рассчитаны на работу через совместимые инструменты llama.cpp; разработчик рекомендует Q4_K_M как сбалансированный вариант по качеству, размеру и производительности, а Q6_K и Q6_K_L — для более высокого качества. Длина контекста в README не указана. Сильными сторонами являются широкий выбор квантований, возможность подобрать модель под доступный объём памяти и совместимость с экосистемой llama.cpp. Более компактные варианты экономят память, но могут заметно уступать старшим квантованиям по качеству. Лицензия — Apache-2.0; исходной моделью указана darkps/ice-AI.

DeepSeek-V4-Flash-0731-W4A16 — это квантизированная версия языковой модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Модель предназначена для генерации текста, включая диалоговые ответы, рассуждения, решение математических задач, программирование, работу с инструкциями и задачи на понимание текста. В карточке указаны английский и китайский языки. Архитектура поддерживает 283 млрд параметров; сведения о контекстном окне и мультимодальных возможностях не приведены. Модель использует смешанную точность: routed experts преобразованы из FP4 в INT4 с group_size=32 и вычислениями активаций в BF16, attention, shared experts и indexer сохранены в FP8, а остальные перечисленные компоненты — в BF16. Формат совместим с vLLM и предназначен для запуска на GPU NVIDIA без аппаратной поддержки FP4, включая H20, H100, A100, L40S, L20 и RTX 4090, при наличии подходящей конфигурации. Размер файлов модели составляет около 166 ГБ; для запуска рекомендуется vLLM версии 0.26.0 или новее и не менее двух H20 96 ГБ либо четырёх A100 80 ГБ. Сильная сторона модели — возможность инференса исходной DeepSeek-V4-Flash-0731 на Hopper и Ampere без FP4 tensor core, при сохранении заявленного качества на небольшой проверочной выборке из 50 заданий. К ограничениям относятся неизбежная ошибка INT4-квантизации, высокая потребность в видеопамяти и необходимость использовать специальный модуль кодирования prompt вместо стандартного chat template. Лицензия обозначена как DeepSeek с отдельной ссылкой на её текст; условия коммерческого и иного использования следует уточнять в лицензии.

Dolphin 2.6 Phi-2 — разговорная языковая модель, созданная Eric Hartford и Fernando Fernandes при спонсорской поддержке Convai на базе Phi-2 от Microsoft. Это плотная авторегрессионная модель семейства Phi с архитектурой PhiForCausalLM, дообученная методом qLoRA на трёх эпохах. Она принимает текст и ведёт диалог в формате ChatML; заявленное окно контекста — 2048 токенов. Модель предназначена для общения с ассистентом и генерации текста, в том числе для задач, представленных в наборах данных Dolphin, Dolphin Coder, Airoboros, OpenHermes, Magicoder и Capybara. Авторы описывают модель как «uncensored»: обучающие данные были отфильтрованы для уменьшения alignment и bias, поэтому модель может охотно отвечать на вредоносные и неэтичные запросы. Перед предоставлением доступа пользователям авторы рекомендуют добавить собственный слой выравнивания и безопасности. Для загрузки модели требуется trust_remote_code. Лицензия — MIT; качество генерации не гарантировано.

Falcon-H1-1.5B-Deep-Instruct — компактная инструктивно дообученная языковая модель семейства Falcon-H1 от TII, основанная на Falcon-H1-1.5B-Deep-Base. Это плотная причинная модель-декодер с гибридной архитектурой Transformers и Mamba, примерно на 1,2 млрд параметров. Она предназначена для диалоговой генерации текста, рассуждений и решения общих задач; среди сценариев применения — ответы на вопросы и помощь с написанием кода. Модель поддерживает английский и многоязычный ввод, а контекст составляет до 131 072 токенов. Для запуска подходят Transformers, vLLM и llama.cpp; в репозитории указаны веса Safetensors. В README приведено сравнение Falcon-H1 с несколькими компактными языковыми моделями на тестах рассуждений и общих задач. Лицензия — Falcon-LLM License; перед использованием следует проверить её условия.

FuseChat-7B-VaRM — диалоговая языковая модель, разработанная Fanqi Wan и коллегами из Университета Сунь Ятсена. Она объединяет знания трёх чат-моделей: NH2-Mixtral-8x7B, NH2-Solar-10.7B и OpenChat-3.5-7B. В каталоге Hugging Face указаны архитектура Mistral с плотной моделью MistralForCausalLM и 7,1 млрд параметров; для инференса используется библиотека Transformers. Модель предназначена для генерации ответов в диалоге и выполнения общих текстовых инструкций, включая написание текстов, ролевые сценарии, рассуждения, математику и программирование. В README сообщается о среднем результате 8,22 на MT-Bench. Модель принимает текст и генерирует текст; заявленный контекст — 8192 токена, язык карточки — английский. Модель опубликована в форматах PyTorch и Safetensors и распространяется по лицензии Apache-2.0. Как и другие языковые модели, она может давать ошибочные или непроверенные ответы; в предоставленных материалах отдельные дополнительные ограничения не описаны.

Gemma-2-2b-All-in-One — объединённая разговорная языковая модель семейства Gemma 2, созданная bunnycore с помощью mergekit и метода Model Stock. В основе объединения лежит IlyaGusev/gemma-2-2b-it-abliterated; также включены модели и адаптеры для смешанных задач, кода и диалогов. Модель содержит 2,7 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы и помощи с кодом. В метаданных указана поддержка чата и текстовой генерации; дополнительных входных модальностей не заявлено. Карточка не перечисляет языки, поэтому нельзя определить приоритетный язык. Веса опубликованы в формате safetensors и имеют тип bfloat16. Результат слияния объединяет несколько моделей с разными настройками и возможностями, поэтому качество может различаться в зависимости от задачи. Лицензия в предоставленных данных не указана.

llmfan46/gemma-4-12B-it-uncensored-heretic-NVFP4-GGUF — квантизированная в формате GGUF версия Gemma 4 12B Instruct, доработанная в варианте uncensored/heretic. Карточка описывает семейство Gemma 4 как мультимодальное; эта сборка предназначена для диалогового использования через llama.cpp, LM Studio, Ollama и другие инструменты с поддержкой GGUF. Архитектура семейства сочетает локальное скользящее и глобальное внимание. Для 12B указано контекстное окно до 256K токенов. Модель предназначена для диалога, рассуждений, генерации и исправления кода, суммаризации, ответов на вопросы по тексту и анализа изображений, видео и аудио. Семейство поддерживает более 35 языков; для версии 12B заявлены распознавание речи и перевод речи в текст на нескольких языках. Сборка имеет метку uncensored, однако карточка не описывает отдельные процедуры её дообучения или снятия ограничений. Указана лицензия Apache-2.0. Качество ответов зависит от формулировки запроса и обучающих данных; возможны фактические ошибки, предвзятость и трудности с нюансами языка или сложными открытыми задачами. Заявленные возможности семейства не подтверждают отдельно поведение именно этой GGUF-сборки во всех режимах.

MoonRide/gemma-4-26B-A4B-it-heretic-ara-GGUF — GGUF-сборка инструкционной мультимодальной модели Gemma 4 26B A4B, разработанной Google DeepMind и модифицированной MoonRide. Это версия с уменьшенным количеством отказов, полученная из google/gemma-4-26B-A4B-it методом Heretic v1.2.0 с использованием Arbitrary-Rank Ablation (ARA) и сохранением row-norm. Модель предназначена для генерации текста, рассуждений, программирования, работы с агентными сценариями и анализа изображений при локальном запуске через совместимые движки, включая llama.cpp. Модель относится к архитектуре Mixture-of-Experts с 26B общих параметров и 4B эффективных активных параметров; для семейства Gemma 4 заявлена поддержка контекста до 256K токенов, более 140 языков, текстового и графического ввода с генерацией текста. Семейство использует гибридное внимание со скользящим локальным окном и глобальными слоями, что помогает обрабатывать длинный контекст при сниженных затратах памяти. Доступны различные GGUF-квантизации, включая рекомендуемые Q3_K_M размером около 13,3 ГБ и IQ3_M_L размером около 12,6 ГБ. Главная особенность этой версии — существенно сниженная склонность к отказам: в приведённом тесте она отказала в 12 из 100 случаев против 100 из 100 у исходной модели; при этом KL divergence относительно оригинала составляет 0,0513. Такое изменение может быть полезно для исследовательских и экспериментальных сценариев, но одновременно означает более слабые встроенные ограничения безопасности. Для загрузки README рекомендует llama.cpp b8751 или новее. Лицензия указана как Apache 2.0; условия лицензии Gemma 4 могут содержать дополнительные положения.

mlx-community/gemma-4-26B-A4B-it-qat-OptiQ-4bit — квантизированная MLX-версия модели Google Gemma 4, подготовленная сообществом mlx-community с помощью mlx-optiq. Модель основана на Google Gemma 4 26B A4B instruction-tuned QAT и предназначена для локального запуска на устройствах Apple Silicon без PyTorch и облачной инфраструктуры. Это разреженная MoE-модель с 26 млрд общих параметров, 128 маршрутизируемыми экспертами и примерно 4 млрд активных параметров на токен. Используется смешанная квантизация: преимущественно 4-битная, но чувствительные компоненты, включая часть экспертных тензоров, слои внимания и маршрутизатор, представлены в 8-битном формате. Достигнутая точность составляет 6,01 бит на вес, размер модели на диске — около 19 ГБ. Модель поддерживает генерацию текста, а также сценарии image-text-to-text через bf16 vision-модуль. Языки и размер контекстного окна в README не указаны. Модель ориентирована на рассуждения, следование инструкциям, генерацию кода, работу с инструментами и агентские сценарии. По сравнению с равномерной 4-битной квантизацией той же QAT-базы она немного улучшает средний Capability Score и результаты MMLU, GSM8K и IFEval, однако уступает в BFCL и HumanEval, поэтому характеристики зависят от задачи. Для использования требуются mlx-optiq и версия mlx-lm из основной ветки; запуск рассчитан прежде всего на Apple Silicon и требует значительного объёма памяти. Лицензия указана как Apache 2.0; также применяются условия лицензии Gemma от Google.