II.2Создание и понимание программного кода

Qwen3-VL-30B-A3B-Instruct — мультимодальная модель семейства Qwen3-VL, опубликованная Red Hat AI. Это MoE-модель для диалога и генерации ответов по тексту и визуальным данным; в README указана конфигурация с 30 млрд параметров и активной частью A3B. Она предназначена для анализа изображений и видео, визуального рассуждения, OCR, пространственного понимания и взаимодействия с инструментами. Модель также может распознавать интерфейсы и выполнять задачи через GUI, а по изображениям и видео создавать код для Draw.io, HTML, CSS и JavaScript. README заявляет контекст 256 тысяч токенов с возможностью расширения до 1 млн, поддержку OCR на 32 языках и улучшенное понимание длительных видео с привязкой событий ко времени. Среди архитектурных особенностей названы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Репозиторий содержит веса в формате safetensors; для работы указана библиотека Transformers. Лицензия — Apache-2.0. Описание не приводит результатов бенчмарков или точного перечня поддерживаемых языков; заявленные возможности и качество следует оценивать на целевых данных и сценариях.

Qwythos-27B-v1-GGUF — это набор GGUF-квантизаций модели Qwythos-27B-v1, разработанной компанией Empero. Модель предназначена для локального запуска через llama.cpp, Ollama, LM Studio, jan, KoboldCpp и другие совместимые среды. Это плотная гибридная модель семейства Qwen3.5 с 27 миллиардами параметров, прошедшая SFT, DPO и ESFT; представленная версия является предварительной RL-оптимизации v1. Модель поддерживает текстовые задачи и обработку изображений при использовании отдельного vision-проектора mmproj-Qwythos-27B-F16.gguf. Заявлены встроенные MTP-возможности для ускорения генерации, мультимодальность и контекстное окно до 1 048 576 токенов. Доступны варианты от Q4_K_M до BF16 с различным соотношением размера, качества и требований к памяти; Q4_K_M указан как рекомендуемый вариант по умолчанию. На практике полноценное использование длинного контекста требует значительных ресурсов для KV-кэша, а более точные варианты могут потребовать 48–80 ГБ видеопамяти, нескольких GPU или выгрузки части вычислений на CPU. Модель подходит для локальных диалоговых и аналитических сценариев, рассуждений, агентных задач, работы с длинным контекстом и анализа изображений. Сильными сторонами являются сохранённые vision tower и MTP head, большой контекст и широкий выбор квантизаций. Ограничения связаны с высокими требованиями к памяти, зависимостью MTP от свежей версии llama.cpp и необходимостью отдельного vision-проектора для изображений. Модель и её квантизации распространяются по лицензии Apache-2.0.

Salamandra-2B-Instruct — разговорная версия многоязычной языковой модели Salamandra, разработанной Barcelona Supercomputing Center. Это декодерный трансформер семейства Llama с 24 слоями и примерно 2,25 млрд параметров; он дообучен следовать инструкциям и использует шаблон ChatML. Базовая модель предварительно обучена с нуля на 12,875 трлн токенов текста на 35 европейских языках и кода. Контекст модели — до 8192 токенов. Модель предназначена для диалогов и работы в качестве универсального текстового помощника: она может отвечать на вопросы, генерировать и преобразовывать текст, а также помогать с кодом. Поддерживает множество европейских языков, включая русский, и распространяется под лицензией Apache 2.0 для исследовательского и коммерческого применения. Это ранняя демонстрационная версия инструкционного дообучения без RLHF. В неоднозначных сценариях выявлены социальные предубеждения; модель может выдавать вредный или неподходящий контент, поэтому для прикладного использования необходимы оценка рисков и настройка безопасности.

bartowski/c4ai-command-r-v01-GGUF — это набор квантованных версий большой языковой модели c4ai-command-r-v01, разработанной CohereForAI и подготовленной в формате GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и может использоваться в локальных сценариях через совместимые реализации llama.cpp. В README указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Архитектура, количество параметров, модальности и размер контекста не указаны. Доступны варианты квантования Q2_K–Q8_0 размером примерно от 13,81 до 37,17 ГБ; Q6_K отмечен как рекомендуемый вариант с очень высоким качеством, а Q8_0 — как вариант максимального доступного качества. Более сильное квантование обычно сохраняет лучшее качество, но требует больше места и памяти; варианты Q3 и Q2 экономичнее, однако сопровождаются заметным снижением качества. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Dolphin-Mistral-24B-Venice-Edition-1.2-GGUF — это набор квантованных GGUF-версий модели Dolphin-Mistral-24B-Venice-Edition, разработанный пользователем douganger на основе релиза 1.2 от dphn. Модель предназначена для запуска локально с использованием совместимых инструментов, включая llama.cpp, и ориентирована на мультимодальные сценарии с обработкой текста и изображений, а также на работу с инструментами. Архитектурно это модель семейства Mistral с размером около 24 млрд параметров; доступны варианты квантования от Q3_K_M до Q8_0 размером примерно от 10,69 до 23,33 ГБ. Для версии 1.2 заявлены поддержка vision, контекст длиной до 131 тыс. токенов и улучшенный tool calling. Vision-адаптеры и importance matrix включены в сборку. README не указывает полный перечень поддерживаемых языков. Сильные стороны модели — широкий контекст, мультимодальность, улучшенная работа с инструментами и несколько вариантов квантования с разным компромиссом между размером и качеством; Q4_K_M обозначен как хороший вариант по умолчанию, а Q8_0 — практически эквивалентный исходным весам BF16. Ограничения связаны с требованиями к памяти, зависящими от выбранного квантования, а также с тем, что фактическая поддержка vision и tool calling зависит от совместимого программного обеспечения. Модель распространяется по лицензии Apache-2.0.

furiosa-ai/gpt-oss-20b — версия openai/gpt-oss-20b, подготовленная для запуска на ускорителях FuriosaAI RNGD с использованием Furiosa-LLM. Это авторегрессионная текстовая модель с архитектурой Mixture-of-Experts (MoE), ориентированная на задачи рассуждения, генерации текста и сценарии с пониженной задержкой, включая локальное или периферийное развертывание. Модель принимает текст и генерирует текст, поддерживает английский язык и совместима с OpenAI-совместимым API Furiosa-LLM. Модель формирует рассуждение отдельно от итогового ответа в формате harmony, поддерживает настраиваемую глубину рассуждений с параметром reasoning_effort со значениями low, medium и high, а также вызов инструментов через function calling. Веса экспертов MoE квантизованы в MXFP4, тогда как attention, router и embeddings сохраняются в более высокой точности. На RNGD используется tensor parallelism с размером 8 PE, соответствующим одной карте RNGD. Размер модели заявлен как 20B, однако сведения о контекстном окне в README отсутствуют. Сильными сторонами являются поддержка рассуждений, инструментов и эффективного запуска на специализированном оборудовании FuriosaAI. Ограничения включают зависимость от Furiosa-LLM и FuriosaAI RNGD для описанного варианта развертывания, а также отсутствие в README подробных данных о качестве, бенчмарках и поддерживаемых языках за пределами английского. Модель распространяется по лицензии Apache 2.0.

Это конвертированная в формат Hugging Face версия диалоговой модели Llama 2 70B Chat, разработанной Meta и опубликованной пользователем daryl149. Это плотная авторегрессионная языковая модель семейства Llama с 68,7 млрд параметров, предназначенная для генерации текста в диалоге и ответов на запросы. Карточка указывает контекст длиной 2048 токенов и формат PyTorch. Модель подходит для чат-ботов, ответов на вопросы, составления текстов и других задач генерации текста. README описывает веса как конвертированные, поэтому это преобразование формата, а не отдельное дообучение. Указана лицензия Llama 2 Community License от Meta: она разрешает использование и распространение на заданных условиях, включая передачу текста лицензии и соблюдение Acceptable Use Policy; для продуктов с более чем 700 млн ежемесячных активных пользователей требуется отдельное разрешение Meta.

TheBloke/Llama-2-7B-AWQ — это 4-битная AWQ-квантизированная версия языковой модели Llama 2 7B, разработанной Meta. Модель предназначена для генерации текста и поддерживает английский язык. Квантизацию выполнил TheBloke на основе оригинальной модели meta-llama/Llama-2-7b-hf. Модель содержит около 7 млрд параметров, использует архитектуру Llama и рассчитана на работу с последовательностями длиной до 4096 токенов. Формат AWQ оптимизирован для эффективного GPU-инференса; опубликованная версия использует параметры 4-bit, group size 128 и занимает около 3,89 ГБ. Модель может применяться в задачах генерации текста и развёртываться для многопользовательского инференса с помощью vLLM или AutoAWQ. Ключевые преимущества — существенно меньшие требования к памяти и возможность использовать более доступные GPU по сравнению с полноразмерной моделью. AWQ также поддерживает высокопроизводительный инференс и непрерывную пакетную обработку в vLLM, однако в README отмечено, что общая пропускная способность может быть ниже, чем у неквантизированной модели. Модель является текстовой и не предназначена для обработки изображений или других модальностей. Лицензия указана как llama2.

alpindale/Llama-3.2-1B-Instruct — это текстовая инструкционная модель семейства Llama 3.2, разработанного Meta. Репозиторий содержит версию с примерно 1,2 млрд параметров; модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и предназначена для генерации текста в Transformers. Для согласования ответов с предпочтениями пользователей применялись supervised fine-tuning и обучение с обратной связью от людей. Модель рассчитана на диалог в роли ассистента, поиск знаний и суммаризацию, а также на мобильных помощников для письма, переформулирование запросов и подсказок и агентные сценарии. Она принимает и генерирует текст, включая код, поддерживает контекст до 131 072 токенов и официально рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Компактный размер позволяет рассматривать модель для применения на устройствах с ограниченными ресурсами. Качество, безопасность и полезность могут уступать более крупным моделям, поэтому разработчикам следует проверять поведение модели в конкретном сценарии. Знания ограничены данными с отсечкой по декабрю 2023 года. Использование регулируется специальной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

richardyoung/Llama-3.2-3B-Instruct-heretic — текстовая разговорная модель на базе Llama 3.2 3B от Meta, опубликованная пользователем richardyoung. Это авторегрессионный трансформер с 3,2 млрд параметров, рассчитанный на генерацию ответов в диалоге и другие задачи генерации текста. В карточке указаны контекст до 131 072 токенов и поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модификация обозначена как heretic, uncensored, decensored и abliterated; конкретный способ изменения модели в предоставленных данных не описан. Модель может применяться для чат-ассистентов, суммаризации, поиска по знаниям и переформулирования запросов. Она принимает текст и выдаёт текст. README указывает лицензию Llama 3.2 Community License — специальное соглашение с условиями использования, включая Acceptable Use Policy. Как и другие компактные языковые модели, она может уступать более крупным моделям в качестве и требует проверки безопасности при внедрении.

Llama-3-Swallow-8B-Instruct-v0.1 — диалоговая языковая модель команды Swallow-LLM из Токийского технологического института и AIST, созданная на основе семейства Meta Llama 3. Модель прошла продолжительное предобучение с добавлением японских текстов, а инструктивная версия — дообучение на примерах инструкций и настройку Chat Vector. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, длина контекста — 8192 токена; веса опубликованы в safetensors и предназначены для Transformers. Модель рассчитана на диалог и генерацию текста на японском и английском языках. Возможные сценарии включают ответы на вопросы, следование инструкциям, суммаризацию, перевод между японским и английским, рассуждения и генерацию кода. В README приведены результаты оценки на японских и английских бенчмарках, но отдельные строки таблиц для этой модели здесь не представлены, поэтому конкретный уровень качества по ним оценить нельзя. Разработчики предупреждают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Llama 3; условия использования определяются её положениями.

Это копия Mistral-7B-Instruct-v0.1, опубликованная sanchit-gandhi. Модель представляет собой плотный трансформер Mistral с 7,1 млрд параметров, дообученный для следования инструкциям на общедоступных диалоговых наборах данных. Веса разбиты на шарды по 5 ГБ, чтобы облегчить загрузку в средах с ограниченной оперативной памятью; по остальным характеристикам модель идентична оригиналу. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Архитектура использует Grouped-Query Attention, Sliding-Window Attention и токенизатор BPE с поддержкой байтового отката; контекст составляет до 32 768 токенов. Для формата инструкций применяются маркеры [INST] и [/INST], также доступен шаблон чата Transformers. Лицензия — Apache-2.0. В карточке отмечено отсутствие встроенных механизмов модерации, поэтому сгенерированные ответы могут не соблюдать ограничения безопасности. Уменьшенный размер шардов упрощает загрузку модели, но не уменьшает её объём параметров или вычислительные требования при генерации.

Nemotron-Elastic-12B — языковая модель NVIDIA, полученная постобучением NVIDIA-Nemotron-Nano-12B-v2 и предназначенная для исследований и разработки. Это гибридная архитектура Mamba-2 и MLP с четырьмя слоями Attention, содержащая 12 млрд параметров и позволяющая извлекать из общего набора весов вложенные варианты на 6 и 9 млрд параметров без отдельных циклов обучения. Модель принимает текст и генерирует текст; контекст — до 128 тысяч токенов. Она предназначена для диалогов, рассуждений, математических и научных задач, а также экспериментов с адаптивным размером модели, гибридными архитектурами и сжатием. Карточка указывает поддержку английского и многоязычных возможностей; языком карточки в метаданных указан английский. Модель рассчитана на запуск с Transformers и оптимизирована для систем с GPU NVIDIA, в частности H100-80GB. Модель может давать неточные, неполные или лишние ответы, генерировать токсичный текст и проявлять социальные предубеждения; также отмечена уязвимость к атакам на выравнивание. Сгенерированный код следует проверять, а для развёртывания рекомендуется применять защитные фильтры. Лицензия указана как other; перед использованием следует проверить условия лицензирования в карточке Hugging Face.

Nex-N2.5-mini-NVFP4 — это квантизированная версия модели Nex-N2.5-mini от Nex-AGI, подготовленная primitive-ai. Модель предназначена для генерации текста, агентных сценариев и вызова инструментов. Она распространяется в формате NVFP4 и рассчитана на запуск через Transformers и vLLM на одной видеокарте NVIDIA с архитектурой Blackwell. Модель имеет разреженную MoE-архитектуру: маршрутизируемые эксперты во всех 40 слоях квантизированы до 4 бит, тогда как механизмы внимания, linear attention, общие эксперты, эмбеддинги и vision tower сохранены в BF16. Размер весов составляет 23,91 ГБ против 70,24 ГБ у версии BF16. Заявлена поддержка контекста до 32 768 токенов; на видеокарте с 96 ГБ памяти измерен KV-пул объёмом 2,74 млн токенов. Языки и точный перечень поддерживаемых модальностей в README не указаны, хотя наличие vision tower указывает на мультимодальную составляющую исходной модели. Сильными сторонами являются существенное уменьшение размера, высокая пропускная способность при параллельной нагрузке и отсутствие заметного ухудшения результатов на приведённых наборах тестов. На одной RTX PRO 6000 Blackwell модель показала 145 токенов/с при одном потоке и 1019 токенов/с при параллелизме 32, а также результаты 90,5 на наборе знаний и 77,0 на наборе вызова инструментов. Ограничения включают обязательную совместимость с Blackwell, зависимость производительности от уровня параллелизма и особенности шаблона чата: по умолчанию модель формирует пустой блок рассуждений. Доступно управление reasoning_effort со значениями low, medium и xhigh. Лицензия — Apache 2.0.

Карточка модели News666520/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Карточка модели nosynx/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

lued/Qwen3.8-27B-huihui-abliterated-INT8-W8A16-DFlash2 — квантованная версия Huihui-Qwen3.8-27B-abliterated, разработанная на базе моделей huihui-ai и Qwen. Это мультимодальная conversational-модель с поддержкой текста и изображений, предназначенная для диалогов, генерации текста, задач рассуждения, tool calling и работы с длинным контекстом. Модель рассчитана на запуск через vLLM и потребительское оборудование, в частности две видеокарты RTX 3090. Модель содержит 27B параметров, использует формат W8A16 с весами INT8 и активациями FP16 или BF16, а также поддерживает контекст до 262 144 токенов. Для ускорения генерации применяется speculative decoding с отдельной моделью-черновиком DFlash2, которая предлагает до 7 токенов за шаг. Размер основной модели составляет около 28 GiB в шести шардах, размер drafter — около 2,02 GiB. По данным README, квантование сохраняет 98,5% совпадения следующего токена с исходной BF16-моделью при среднем KLD 0,000694. Сильные стороны модели — уменьшенный вдвое размер относительно BF16-версии, поддержка длинного контекста, vision tower, thinking controls и tool calling, а также заявленное ускорение генерации на RTX 3090. Ограничения включают необходимость двух GPU с общим объёмом памяти 48 ГБ для заявленного сценария, использование неподдерживаемого в стабильном vLLM DFlash2 с дополнительными патчами и отсутствие собственных измерений скорости именно для этой сборки; приведённые показатели производительности относятся к родственному варианту. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-версия плотной языковой модели Qwen3.8-27B, подготовленная HauhauCS. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео при использовании отдельного BF16-проектора. Указаны поддержка английского, китайского и других языков, а также мультимодальный режим image-text-to-text. Модель содержит 27 млрд параметров, 64 слоя, скрытый размер 5120, FFN-размер 17408, словарь на 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Она сохраняет встроенный механизм NextN/MTP и дополнительно поставляется с профилем HauhauCS FastMTP 32K для ускорения спекулятивного декодирования. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000. Доступны квантизации от Q8_K_P до IQ2_M; для изображений и видео требуется отдельный vision projector. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие отказного поведения, что может быть полезно для свободного исследования, автоматизации и сценариев, где важна максимальная отзывчивость. При этом отсутствие защитных отказов повышает риски при работе с вредоносными или чувствительными запросами, а для критически важных длинноконтекстных агентских задач автор рекомендует более сбалансированный вариант. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-сборка плотной мультимодальной causal language model Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также анализа изображений и видео. Вариант Aggressive ориентирован на прямые ответы без выраженного отказного поведения и с минимальным предварительным вступлением в сложных запросах. Модель содержит 27 млрд параметров, 64 слоя, скрытый размер 5120, размер FFN 17408 и словарь из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются встроенные MTP/NextN и профиль ускорения HauhauCS FastMTP 32K; заявлены ускорение генерации до 3,02 раза для документов и до 1,93 раза для рассуждений относительно варианта без MTP. Нативный контекст составляет 262 144 токена и может расширяться до 1 000 000. Для визуального ввода используется отдельный vision-проектор BF16. Заявлены английский, китайский и мультиязычный режимы. Сильными сторонами являются большой контекст, текстовые и визуальные возможности, поддержка нескольких уровней квантизации GGUF и ускорение FastMTP. Aggressive-профиль может быть удобен там, где нужны краткие прямые ответы, однако его сниженное отказное поведение может быть менее подходящим для надёжных и критичных к безопасности приложений; автор README рекомендует для таких агентских задач Balanced-вариант, если он доступен. Доступны квантизации Q2–Q8 и пользовательские K_P-кванты, оптимизированные для сохранения качества. Модель распространяется по лицензии Apache-2.0.

Dolphin X1 8B — языковая модель для генерации текста, разработанная командой Dolphin на основе dphn/Dolphin-X1-8B и Llama 3.1 8B Instruct. Версия с идентификатором dphn/Dolphin-X1-8B-GGUF предназначена для запуска моделей в формате GGUF. Модель ориентирована на общее назначение и диалоговое взаимодействие, включая сценарии, аналогичные использованию универсальных ассистентов. Модель имеет архитектуру Llama 3.1 с размером около 8 миллиардов параметров и поддерживает текстовую модальность. Она сохраняет стандартный шаблон чата Llama 3 и позволяет задавать тон, характер и правила поведения через системный промпт. Заявленная особенность Dolphin — повышенная управляемость: владелец приложения самостоятельно определяет системные инструкции, выравнивание и способы обработки данных. Сведения о поддерживаемых языках и размере контекста в README не указаны. К сильным сторонам относятся универсальность, возможность локального или контролируемого развёртывания, совместимость с Ollama, LM Studio, Transformers, vLLM, SGLang и TGI, а также стремление сохранить или улучшить возможности Llama 3.1 8B Instruct при снижении ограничений на ответы. Ограничения модели и её поведения зависят от выбранных инструкций и настроек выравнивания; заявленная доля успешного прохождения набора Dolphin-refusals составляет 95,96%, а показатели MMLU и IFEVAL приведены в README без дополнительного описания методики. Лицензия указана как Llama 3.1.

ExoMind-9B — компактная мультимодальная модель команды ExoMind из Шанхайской лаборатории искусственного интеллекта. Это плотная модель семейства Qwen3.5 с 9 млрд параметров, дообученная на базе Qwen/Qwen3.5-9B для научных рассуждений и агентных исследовательских сценариев. Она принимает текст и изображения и формирует текстовые ответы; в карточке указано окно контекста до 262 144 токенов. Модель предназначена для научных вопросов и ответов, математических и вычислительных рассуждений, поиска источников, обоснования выводов свидетельствами, проверки результатов с помощью исполняемого кода и экспериментов с использованием инструментов. Она рассчитана на ресурсосберегающие прототипы агентных систем и сохраняет возможности анализа изображений базовой модели. Для заявленных сценариев авторы описывают обучение на траекториях рассуждений и взаимодействия. Оценки из приведённой в README таблицы относятся к системе ExoMind 35B-A3B, поэтому их нельзя переносить на версию 9B; отдельные оценки для ExoMind-9B не приведены. Модель распространяется по лицензии Apache-2.0.

FuxiTranyu-8B — плотная авторегрессионная языковая модель семейства FuxiTranyu, разработанная командой TJUNLP и обученная с нуля на 600 млрд токенов с балансировкой данных между языками. Модель содержит около 9,1 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов; опубликованные веса представлены в формате safetensors. Модель предназначена для генерации текста и многоязычных сценариев: продолжения и составления текстов, а также работы с запросами на 43 естественных языках, включая русский и английский. Карточка также заявляет поддержку 16 языков программирования. В README приведено сравнение многоязычных возможностей с BLOOM-7B и PolyLM-13B; отдельные варианты модели прошли instruction tuning, но эта карточка описывает базовую модель. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальные ограничения или гарантии качества для отдельных языков и задач.

Gemma-4-12B-Heretic-Abliterated-GGUF — набор GGUF-квантизаций модели culturerevolt/gemma-4-12b-heretic-abliterated, созданной на основе архитектуры Google Gemma-4 12B Instruction Tuned. Репозиторий разработан culturerevolt; в README также отмечен вклад Google DeepMind в архитектуру и Philipp Emanuel Weidmann в разработку подхода Heretic abliteration. Модель предназначена для локальной генерации текста, диалогов, рассуждений, творческого письма и агентских сценариев, включая обработку структурированного вывода и JSON. Поддержка изображений заявлена через отдельный мультимодальный проектор gemma-4-12b-it-mmproj-f16.gguf. Доступны варианты Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и IQ3_XS с разным соотношением качества, скорости и требований к памяти. Для части вариантов использована калибровка iMatrix, ориентированная на сохранение логики, синтаксиса, инструментального вызова и качества повествования при квантовании. Точный список языков и базовый размер контекстного окна в README не указаны; для IQ4_XS упоминается возможность работы с контекстом до 131 тысяч токенов в определённых конфигурациях. Сильные стороны модели — широкий выбор степеней квантования, возможность запуска на локальном оборудовании и оптимизация низкобитных вариантов с помощью importance matrix. Ограничения связаны с неизбежной потерей точности при более агрессивном квантовании, зависимостью мультимодального режима от совместимого backend и отдельного projector-файла, а также с тем, что аблитерированная версия позиционируется как decensored и может иметь меньше встроенных отказов от нежелательных запросов. Лицензия — Apache-2.0.

GPT-6.1 Sol Pro — вариант GPT-6.1 Sol, который, согласно карточке модели, использует ту же базовую модель с режимом reasoning.mode=pro для более качественных ответов на сложные задачи. Это модель для диалогового взаимодействия и решения сложных задач; подробности об архитектуре, размере, модальностях и поддерживаемых языках в предоставленных данных отсутствуют. Режим Pro расходует значительно больше ресурсов, поэтому его применение может быть дороже.

LettuceDetect v2 Qwen 2B — генеративная модель для поиска галлюцинаций в ответах RAG-систем и кодовых агентов. Её разработала KRLabsOrg на базе Qwen3.5-2B: модель дообучена методом LoRA с учителем, а адаптер объединён с базовыми весами в самостоятельную модель. Она принимает запрос пользователя, контекст-источник и проверяемый ответ, затем возвращает JSON с точными фрагментами ответа, которые не подтверждаются контекстом, и метками категории и подкатегории. Модель охватывает прозу, код и вывод инструментов; в обучении использовались данные на 14 языках. В README приведены результаты на объединённом тестовом наборе, RAGTruth и PsiloQA, включая оценку F1 на уровне фрагментов и примеров. Указана архитектура Qwen3.5 с гибридом Gated DeltaNet и attention; размер — 2 млрд параметров. Длина контекста не уточняется, модель описана как рассчитанная на длинный контекст. Модель предназначена для проверки обоснованности ответов, в том числе в контурах RAG и агентной генерации кода. Она возвращает текстовые фрагменты и их метки, но символьные смещения нужно восстановить сопоставлением фрагментов с исходным ответом. Для надёжного разбора результата README рекомендует задать строгую JSON-схему. Лицензия — Apache-2.0.

AtomicChat/LFM2.5-8B-A1B-GGUF — это текстовая генеративная модель в формате GGUF, созданная Atomic Chat на основе LiquidAI/LFM2.5-8B-A1B. Репозиторий содержит самостоятельно выполненные квантования исходных весов с использованием importance matrix, рассчитанной для каждого тензора, поэтому модель предназначена для локального и полностью офлайн-использования через llama.cpp, MLX, vLLM, SGLang и совместимые приложения. Модель рассчитана на роль персонального помощника на устройствах с ограниченными ресурсами: она поддерживает диалог, сложные инструкции, последовательные вызовы инструментов и агентские сценарии. Это текстовая Mixture-of-Experts-модель с 8,5 млрд параметров, 24 слоями и 32 экспертами, из которых для обработки выбираются 4; архитектура также включает 32 attention heads и 8 KV heads. Заявленная длина контекста — до 128 000 токенов, размер словаря — 128 000 токенов. Поддерживаемая модальность — текст; сведения о языках в README не указаны. Сильные стороны модели — высокая скорость инференса на CPU и GPU, широкий выбор квантований от Q2_K до Q8_0 и хорошее сохранение качества при использовании importance matrix. В качестве сбалансированного варианта рекомендуется Q4_K_M, а Q6_K и Q8_0 ориентированы на более высокую точность. К ограничениям относятся неизбежная потеря качества в низкобитных вариантах, требования к памяти, зависящие от выбранного квантования, и необходимость применять chat template LFM2.5 с параметром --jinja; без него возможны некорректно сформированные диалоговые ходы. Лицензия обозначена как other, подробные условия находятся в файле LICENSE.

bartowski/Llama-3.3-70B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Llama 3.3 70B Instruct, разработанной Meta и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, однако конкретные поддерживаемые языки, размер контекста и детали архитектуры в предоставленном README не указаны. Ключевая характеристика этой версии — квантизация, которая обычно позволяет снизить требования к памяти по сравнению с полноразмерными весами, но может сопровождаться некоторой потерей качества; конкретный уровень квантизации README не сообщает. Модель ориентирована на текстовые задачи, а сведения о мультимодальности отсутствуют. Ограничения, показатели качества и рекомендации по аппаратному обеспечению также не приведены, поэтому их нельзя достоверно оценить по имеющимся данным. Модель распространяется на условиях Llama 3.3 Community License от Meta. Лицензия предоставляет ограниченные права на использование, воспроизведение, распространение и модификацию при соблюдении условий соглашения, включая передачу текста лицензии, указание «Built with Llama», обязательное уведомление об авторских правах и соблюдение Acceptable Use Policy. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей требуется отдельное разрешение Meta.

Matter-0.1-7B-boost-DPO-preview — диалоговая языковая модель на архитектуре Mistral, разработанная 0-hero. Это версия Matter 7B Boost, дообученная методом DPO на наборе Matter, составленном из более чем 35 датасетов и охватывающем свыше 6 млрд токенов. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для диалоговой генерации текста и работы в формате ChatML. В README также заявлена поддержка вызова функций, позволяющая использовать её в приложениях с инструментами. Метаданные указывают английский язык; модель опубликована в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Возможные ограничения включают ошибки и выдуманные ответы, характерные для генеративных языковых моделей; качество вызова функций зависит от корректного форматирования запросов и обработки специальных токенов.

mDenseOn — мультиязычная модель плотного поиска LightOn на архитектуре mmBERT-base, представленная как Sentence Transformer с 306,9 млн параметров. Она независимо кодирует запросы и документы в векторы размерностью 768 и сопоставляет их по косинусному сходству; для запросов и документов используются префиксы `query:` и `document:`, а в качестве pooling применяется токен CLS. Модель поддерживает контекст до 8 192 токенов и предназначена для семантического поиска по текстам на английском, французском, немецком, итальянском, испанском, португальском, шведском, норвежском и арабском языках, а также для поиска по коду. Модель обучена LightOn на мультиязычных данных, полученных в том числе методом translate-train. В карточке заявлены результаты на мультиязычном поиске MIRACL, поиске по длинным документам MLDR, общем англоязычном поиске BEIR и поиске по коду MTEB Code. Одновекторное представление удобно для плотного поиска и ранжирования по сходству, однако качество заметно снижается на языках, не охваченных обучением для поиска; карточка рекомендует mLateOn, если важнее обобщение на такие языки и допустим многовекторный поиск. Лицензия — Apache 2.0.

Mistral-Nemo-Instruct-2407-400k_v3 — дообученная Wassimm версия unsloth/Mistral-Nemo-Instruct-2407, созданная с использованием Unsloth и библиотеки TRL от Hugging Face. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена, среди языковых меток карточки указан английский. Модель подходит для диалоговых приложений и генерации текста, включая сценарии, где чат-боту требуется обращаться к инструментам. В README нет сведений о специальной предметной области или конкретных задачах дообучения. Лицензия — Apache-2.0.