II.2Создание и понимание программного кода

Gemma 3 4B IT QAT GGUF — квантизированная GGUF-версия инструкционно дообученной модели Gemma 3 с 4 млрд параметров. Модель разработана Google DeepMind, а данный вариант опубликован Unsloth. Она относится к семейству лёгких открытых моделей Gemma и предназначена для локального развёртывания и генерации текста. Модель поддерживает мультимодальный ввод: текст и изображения, при этом генерирует текст. Она подходит для ответов на вопросы, суммаризации, рассуждений и анализа изображений. Для версий 4B заявлено контекстное окно до 128K токенов, изображения нормализуются до 896×896 и кодируются в 256 токенов, максимальный объём генерируемого ответа составляет 8192 токена. Заявлена поддержка более 140 языков, однако в карточке отдельно указан английский язык. К сильным сторонам относятся сравнительно небольшой размер, возможность работы на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре, а также поддержка длинного контекста и изображений. Ограничения конкретного GGUF-файла, включая точный уровень квантизации, требования к памяти и производительность, в README не указаны. Модель распространяется по лицензии Gemma; применимые условия использования определяются соответствующими Terms of Use Google.

Iris-mini APEX-I-MiniPlus-V2.1 GGUF — квантизированная версия модели AllSpark-Research/Iris-mini, подготовленная IsValorum для запуска через llama.cpp и совместимые инструменты. Это текстовая генеративная модель со sparse Mixture-of-Experts: заявлены 40 слоёв и 256 микроэкспертов. Модель поддерживает контекст до 256K токенов и предназначена для локального запуска на рабочих станциях с ограниченной видеопамятью, включая частичный или полный offload в системную RAM. Квантизация использует смешанную схему APEX-I-MiniPlus V2.1: маршрутизаторы gate_inp сохранены в F32, выходная матрица — в Q6_K, attention-компоненты используют Q4_K и Q6_K, attention gates — Q8_0, а основные эксперты — IQ3_XXS; общий размер заявлен примерно 13,74 GiB. Это ориентировано на сохранение качества рассуждений, синтаксической стабильности и устойчивости при длинном контексте при меньшем размере, чем у менее агрессивных квантизаций. В README приведён показатель WikiText-2 perplexity 5,3735 ± 0,1214, но независимые условия тестирования не описаны. Модель предназначена для генерации текста, рассуждений и задач, где важны большие контекстные окна; заявлена поддержка английского, китайского, испанского, французского, немецкого, португальского, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Сильными сторонами являются компактный размер, сохранение маршрутизации MoE и возможность использовать системную RAM для KV-кэша и вычислений. Ограничениями остаются зависимость скорости от видеопамяти, пропускной способности RAM и архитектуры процессора, а также возможная потеря качества, характерная для квантизированных моделей. Распространяется по лицензии Apache-2.0.

MiroThinker-v1.0-8B-GGUF — квантованная версия языковой модели MiroThinker-v1.0-8B, разработанной miromind-ai и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях на базе llama.cpp и LM Studio. Указан английский язык. Модель содержит 8 миллиардов параметров и распространяется в нескольких вариантах точности: от BF16 до квантований Q2–Q8 и IQ. Для квантования использовался llama.cpp с методом imatrix, что позволяет уменьшить размер файлов и требования к памяти при сохранении качества; рекомендуемыми названы варианты Q4–Q6. Размер файлов составляет примерно от 3,9 до 16,39 ГБ в зависимости от формата. В README не указаны точная архитектура, максимальная длина контекста, результаты бенчмарков и дополнительные модальности, поэтому возможности модели в этих аспектах оценить нельзя. Более сильные квантования обеспечивают лучшее качество, а компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее терять качество. Для работы следует использовать совместимое ПО llama.cpp или LM Studio и формат промпта с маркерами ChatML. Лицензия — MIT.

NVIDIA Nemotron 3.5 Lightning 30B-A3B W4A16 — это посттренировочная квантизированная версия модели NVIDIA Nemotron 3.5 Lightning 30B-A3B, подготовленная и упакованная проектом useful-quants. Модель предназначена для генерации текста и диалоговых сценариев, включая следование инструкциям, ответы на вопросы и высокопроизводительное развёртывание на NVIDIA GPU с использованием vLLM. Архитектура сочетает Mamba-2, Mixture-of-Experts и attention; общий размер составляет 30B параметров, из которых активно используется около 3B. Применяется квантизация W4A16 с размером группы 64, веса занимают около 16,60 GiB. Заявлена поддержка английского, испанского, французского, немецкого, итальянского и японского языков. Архитектурное ограничение контекста — до 1 млн токенов; на одной NVIDIA RTX 3090 объём 640K токенов рекомендован для эксплуатации, а 744K проверен как предельный тестовый вариант. Сильные стороны модели — сравнительно небольшие требования к памяти, высокая пропускная способность и возможность работы с очень длинным контекстом на одной 24-гигабайтной видеокарте. Артефакт проверен с vLLM и compressed-tensors; прямой запуск через Transformers в исходных материалах не документирован. Показатели на отдельных тестах включают нормированную точность 0,87 на PIQA, 0,678 на HellaSwag и строгую instruction-level оценку 0,813 на IFEval, однако результаты зависят от конфигурации и не описывают все возможности модели. Модель распространяется по лицензии OpenMDW 1.1. NVIDIA является разработчиком исходной модели, а useful-quants выполнил квантизацию; он не обучал, не дообучал и не выравнивал модель. Условия предполагаемого использования, безопасности и полное описание исходной модели определяются лицензией и карточкой базовой версии NVIDIA.

pandafish-2-7b-32k — объединённая модель на архитектуре Mistral, созданная ichigoberry с помощью LazyMergekit из Mistral-7B-Instruct-v0.2 и dolphin-2.8-mistral-7b-v02. Она предназначена для генерации текста и диалоговых ответов по инструкциям; в карточке указан шаблон Mistral Instruct. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. README приводит результаты сравнительных оценок AGIEval, GPT4All, TruthfulQA и Bigbench, но не описывает конкретные гарантии качества для отдельных задач. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

rbinrs/Qwen2.5-14B-Instruct-abliterated-v2 — диалоговая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная на основе Qwen/Qwen2.5-14B-Instruct методом abliteration. Она предназначена для генерации текста и общения в формате чата; заявленная особенность версии — снижение отказов отвечать на запросы. Модель поддерживает интерфейс вызова инструментов и контекст длиной до 32 768 токенов, работает с текстом и рассчитана на многоязычные сценарии, включая русский, английский, китайский, французский, испанский, португальский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель можно применять в чат-ботах, для свободной генерации и структурированных ответов, а также в приложениях с вызовом инструментов. Разработчик сообщает, что эта версия улучшена по сравнению с предыдущей, однако оценивание ещё продолжается, поэтому опубликованных результатов качества в карточке нет. Доступна по лицензии Apache-2.0.

Это слитая методом passthrough модель семейства Qwen2.5, созданная с помощью mergekit на основе bunnycore/Qwen2.5-7B-Instruct-Fusion и bunnycore/Qwen2.5-7B-Exp2-lora_model. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 7,1 млрд параметров; веса представлены в формате safetensors. Модель предназначена для генерации текста и диалогов. Метаданные указывают на поддержку интерфейса вызова инструментов. Нативная длина контекста составляет 131072 токена, что позволяет использовать модель для работы с длинными текстовыми запросами и документами. Основные сведения о назначении доступны, однако README не приводит результаты оценки качества или подробные рекомендации по применению. Лицензия в предоставленных данных не указана.

Qwen3.5-35B-A3B-uncensored-heretic-v2-Native-MTP-Preserved — дообученная мультимодальная модель независимого автора llmfan46 на базе Qwen/Qwen3.5-35B-A3B от Alibaba. Это диалоговая модель с архитектурой Qwen3.5 MoE и визуальным энкодером: всего 35 млрд параметров, из них активируется около 3 млрд. Репозиторий содержит веса Safetensors и сохраняет 785 тензоров MTP; заявленная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Модель предназначена для диалога, рассуждений, работы с изображениями и агентных сценариев с вызовом инструментов. Автор сообщает о снижении частоты отказов относительно исходной модели при сохранении её возможностей; приведённые метрики являются результатами автора. Модель работает в режиме рассуждений по умолчанию. В карточке заявлена поддержка 201 языка и диалекта, но перечень языков не приведён. Модель распространяется по лицензии Apache-2.0. Снижение ограничений может приводить к выдаче нежелательного или небезопасного содержимого; результаты тестов автора не гарантируют качество на других задачах.

unsloth/gemma-3-1b-it-bnb-4bit — квантизированная 4-битная версия instruction-tuned модели google/gemma-3-1b-it, основанной на семействе Gemma 3. Разработчик исходной модели — Google DeepMind; сборка и публикация варианта выполнены Unsloth. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и понимания изображений. Модель мультимодальная: принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов, максимальный объём генерируемого ответа составляет 8192 токена. Поддерживается более 140 языков, включая английский; в метаданных этой карточки явно указан язык en. Небольшой размер и 4-битное представление упрощают локальное развёртывание на ноутбуках, настольных компьютерах и в облачной инфраструктуре с ограниченными ресурсами, однако квантизация может снижать точность по сравнению с полноразмерной версией. Модель распространяется по лицензии Gemma; применяются соответствующие условия использования Google. В README не приведены точные требования к аппаратному обеспечению, результаты тестирования или подробные сведения об архитектуре, поэтому производительность в конкретных задачах по этой карточке оценить нельзя.

GigaChat-20B-A3B-instruct-bf16 — диалоговая языковая модель семейства GigaChat, основанная на ai-sage/GigaChat-20B-A3B-instruct. Она предназначена для генерации ответов и ведения диалога на русском и английском языках. Модель использует архитектуру DeepSeekForCausalLM и поддерживает контекст до 131 072 токенов; формат весов — safetensors, библиотека для работы — Transformers. В названии указана точность bf16. Модель подходит для диалоговых интерфейсов и задач, где требуется обрабатывать длинные запросы и контекст. Репозиторий распространяется по лицензии MIT. В карточке не приведены результаты оценок качества и подробности о требованиях к оборудованию.

Grafted-Hermetic-Platypus-D-2x7B — разговорная языковая модель, созданная слиянием Platyboros-Instruct-7B и Hermes-Instruct-7B-v0.2. Она использует архитектуру Mixtral с разреженной экспертной моделью (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге и выполнения инструкций. В качестве формата запросов подходят шаблоны Mistral-Instruct и Alpaca; токенизатор по умолчанию настроен на Alpaca. В карточке приведены результаты нескольких тестов языковых моделей, включая AI2 Reasoning Challenge и HellaSwag. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не сообщает о поддержке конкретных естественных языков, поэтому языки не перечислены. Результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах.

Hunyuan-7B-Pretrain — предварительно обученная плотная языковая модель Tencent из семейства Hunyuan. Она содержит 7,5 млрд параметров и предназначена для генерации текста и дальнейшей адаптации под прикладные задачи. Модель работает с Transformers и использует архитектуру HunYuanDenseV1ForCausalLM с Grouped Query Attention; метаданные также отмечают поддержку диалогового режима и интерфейса вызова инструментов. Модель рассчитана на длинные контексты до 262 144 токенов и поддерживает режимы быстрого и пошагового рассуждения. Её можно применять для генерации и продолжения текста, обработки длинных документов, а после настройки — для агентных сценариев. В README приведены результаты тестов базовых моделей семейства, но они не гарантируют аналогичное качество в каждом пользовательском сценарии. Модель выпущена Tencent в июле 2025 года. README описывает семейство как открытое, но доступный фрагмент не содержит точных условий лицензии для этой модели. Языки обучения или поддержки в предоставленных источниках не перечислены.

Карточка модели eshiryae/MiniCPM4-8B на Hugging Face совпадает с карточкой openbmb/MiniCPM4-8B, поэтому описание составлено по ней. MiniCPM4-8B — плотная языковая модель OpenBMB с 7,9 млрд параметров, построенная на архитектуре MiniCPMForCausalLM. Она предназначена для эффективного запуска на устройствах с ограниченными ресурсами; разработчики сообщают об ускорении генерации более чем в пять раз на типичных конечных устройствах, а на Jetson AGX Orin — примерно в семь раз по сравнению с Qwen3-8B при декодировании. Модель обучена на 8 трлн токенов и поддерживает диалоговый режим. Модель принимает текст и генерирует текст. Она предобучена на контекстах длиной 32 тысячи токенов, а расширение контекста до 128 тысяч достигается с помощью YaRN; README приводит результаты теста поиска фрагмента в длинном тексте. Карточка и метаданные указывают поддержку китайского и английского языков. Модель распространяется по лицензии Apache-2.0. Производитель отмечает, что генерируемые ответы требуют самостоятельной проверки: модель не выражает личных мнений или ценностных суждений, а её выводы не следует считать позицией разработчиков. Для корректного форматирования запросов при использовании chat API vLLM нужно явно включать добавление специальных токенов.

EnlistedGhost/Ministral-3-8B-Instruct-2512-GGUF — это квантизированная версия мультимодальной модели Ministral 3 8B Instruct 2512 BF16, разработанной Mistral AI и преобразованной в формат GGUF пользователем EnlistedGhost с помощью llama.cpp. Модель предназначена для диалогов, выполнения инструкций и задач image-text-to-text с поддержкой текста и изображений. Указаны языки: английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. Доступны варианты квантования от Q2_K_L до Q8_0_L, а также F16 и мультимодальные vision-проекторы в форматах F16 и F32. Модель ориентирована на локальный запуск и совместима с llama.cpp, Ollama и Yollama. Семейство Ministral 3 разработано для edge-развёртывания; исходная версия 8B, по данным README, может работать примерно в пределах 32 ГБ VRAM в BF16 и менее 24 ГБ RAM или VRAM в квантизированном виде. К сильным сторонам относятся компактный размер, поддержка мультимодального ввода и широкий выбор квантованных вариантов, однако качество и требования к ресурсам зависят от выбранного варианта. Лицензия — Apache-2.0.

llmat/Mistral-7B-Instruct-v0.3-NVFP4 — квантизированная версия инструкционной модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI. Версия NVFP4 создана с использованием llmcompressor и предназначена для генерации текста и диалоговых сценариев, включая работу через chat-шаблоны и развёртывание с помощью vLLM. Модель содержит 7 миллиардов параметров и использует квантизацию NVFP4 для линейных слоёв; слой lm_head не квантизирован. При калибровке использовались 512 образцов с максимальной длиной последовательности 2048 токенов. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для обслуживания доступны vLLM и OpenAI-совместимый серверный интерфейс. Ключевое преимущество модели — уменьшенный формат представления, потенциально удобный для эффективного развёртывания, при сохранении назначения исходной инструкционной модели. Ограничения связаны с влиянием низкобитной квантизации на качество и с тем, что сведения о фактическом контекстном окне и результатах оценки производительности в карточке не приведены. Модель распространяется по лицензии Apache-2.0.

benhaotang/phi4-qwq-sky-t1 — объединённая авторами модель на основе Phi-4-QwQ, Phi-4-llama-t1-full и адаптера Phi-4-llama-t1-lora. Она создана методом TIES с помощью mergekit; архитектура — плотная LlamaForCausalLM, размер — 14,1 млрд параметров. Модель предназначена для диалоговой генерации текста и пошаговых рассуждений, включая решение сложных задач. Контекст составляет 16 384 токена. В карточке автор сообщает, что модель, по его оценке, воспроизводит возможности QwQ на уровне 14B; приведены результаты Open LLM Leaderboard, включая среднее значение 30,78% и BBH 52,61%. Оценка IFEval затруднена из-за строгого формата системного промпта Sky-T1. Модель распространяется под лицензией MIT.

SAIFIINDUSTRIES/Qwen2.5-14B-Instruct-1M — чат-модель для генерации текста на основе Qwen2.5-14B, опубликованная под лицензией Apache-2.0. Это плотная причинная языковая модель семейства Qwen2 с 14 млрд параметров; архитектура использует RoPE, SwiGLU, RMSNorm и групповое внимание с 40 головами Q и 8 головами KV. Модель предназначена для диалога, ответов на вопросы, использования инструментов и работы с очень длинными текстами. Контекст достигает 1 010 000 токенов, а максимальная длина генерации составляет 8192 токена. Для эффективного инференса на контексте такого размера README рекомендует специальную версию vLLM и указывает потребность не менее чем в 320 ГБ видеопамяти суммарно. Поддерживаются также короткие запросы; для контекстов свыше 262 144 токенов на обычном фреймворке возможна потеря точности. Метаданные указывают английский язык; других языков источники не подтверждают.

Qwentile 2.5 32B Instruct — экспериментальная текстовая модель для генерации и диалогов, созданная автором карточки путём интерполяции и объединения нескольких моделей семейства Qwen2.5 в пространстве сигналов. В метаданных указана архитектура Qwen2ForCausalLM с 32 млрд параметров и контекстом 32 768 токенов; модель работает через Transformers и распространяется в формате safetensors. Модель предназначена для диалогов, задач на рассуждение и генерации структурированных ответов, в частности XML. Автор отмечает хорошую управляемость инструкциями и стабильность вывода, однако модель иногда пропускает закрывающие XML-теги, поэтому такие ответы следует проверять и при необходимости исправлять. Лицензия — Apache-2.0.

QwQ-LCoT-7B-Instruct — языковая модель на архитектуре Qwen2, дообученная prithivMLmods на Qwen2.5-7B-Instruct с использованием набора amphora/QwQ-LongCoT-130K. Она предназначена для следования инструкциям, генерации текста и решения задач, требующих многошаговых рассуждений и подробных объяснений. Модель содержит около 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов; в карточке заявлено обучение на примерах цепочек рассуждений. Репозиторий содержит веса safetensors для Transformers. Модель подходит для диалоговых помощников и задач, где нужны логические выводы и развернутые ответы. Язык карточки и метаданные указывают на английский. Лицензия — CreativeML OpenRAIL-M.

ThinkingCap-Qwen3.6-27B-GGUF — набор GGUF-квантизаций мультимодальной vision-language модели ThinkingCap-Qwen3.6-27B, разработанной BottleCap AI на основе Qwen3.6-27B от Qwen Team. Модель предназначена для локального запуска через llama.cpp и совместимые среды, включая Ollama и LM Studio, и поддерживает работу с текстом и изображениями. Дообучение направлено на сокращение рассуждений примерно на 50% в среднем при сохранении качества и стиля ответов базовой модели. Доступны варианты f16, Q8_0, Q6_K и Q4_K_M размером примерно от 15,7 до 50,9 ГБ; Q4_K_M рекомендуется как баланс размера и качества, а Q8_0 и Q6_K — как варианты, близкие к исходной точности. Для обработки изображений требуется отдельный мультимодальный проектор mmproj размером около 0,9 ГБ. Поддерживается MTP self-speculative decoding, способный дополнительно повысить скорость генерации при использовании современной версии llama.cpp. По приведённым оценкам, точность квантованных вариантов статистически сопоставима с f16 и базовой моделью: около 0,89–0,91 на MMLU-Pro и 0,78–0,82 на RealWorldQA. Сильными сторонами являются существенно более короткие рассуждения, ускорение выполнения задач, локальный запуск и почти без потерь качества при квантовании. Ограничения включают значительные требования к дисковому пространству и памяти, необходимость совместимого runtime, а для изображений — отдельного vision-проектора. Лицензия в README не указана; доступ к модели может предоставляться по запросу.

Dolphin X1 Trinity Nano — чат-модель общего назначения, разработанная командой Dolphin на базе Arcee AI Trinity Nano Preview. Авторы описывают её как модель, дообученную с помощью новых RL-сред для снижения отказов при сохранении следования инструкциям. Она использует разреженную MoE-архитектуру Afmoe и содержит 880,3 млн параметров; контекстное окно — до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и выполнение инструкций. Карточка заявляет поддержку английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Для диалогов используется шаблон ChatML; модель доступна в формате safetensors и может запускаться через Transformers, vLLM и llama.cpp. Модель рассчитана на сценарии, где нужны настраиваемые системные инструкции и низкая частота отказов. Заявления авторов о качестве основаны на приведённой ими оценке; результаты не гарантируют такую же производительность на других задачах. Лицензия — Apache-2.0.

onnx-community/gemma-3-270m-it-ONNX — ONNX-версия инструкционно дообученной модели Google Gemma 3 270M, разработанной Google DeepMind и предназначенной для запуска через Transformers.js. Модель генерирует текст по запросам, отвечает на вопросы, суммирует документы, выполняет рассуждения и может анализировать изображения с выдачей текстового ответа. Модель относится к компактному семейству Gemma 3 и имеет 270 миллионов параметров. Она поддерживает текстовые и, согласно карточке семейства Gemma 3, визуальные входы, при этом выходом является текст. Для вариантов 270M заявлен контекст до 32K токенов на запрос; модель ориентирована на работу более чем со 140 языками. Небольшой размер подходит для развёртывания на ноутбуках, настольных компьютерах и в собственной облачной инфраструктуре с ограниченными ресурсами. Сильными сторонами являются компактность, возможность локального запуска, инструкционное поведение и поддержка широкого набора текстовых задач. Ограничения включают меньший размер и, вероятно, более ограниченные возможности по сравнению с крупными вариантами Gemma 3; конкретные показатели качества и требования к аппаратному обеспечению в карточке не приведены. Модель распространяется на условиях лицензии Gemma; перед использованием необходимо ознакомиться с соответствующими Terms of Use.

IoGPT-A1-Instruct-i1-GGUF — GGUF-квантизированная версия инструкционной модели IoGPT-A1-Instruct, разработанной galaxyMindAiLabs и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста, ответов на вопросы и агентских сценариев; в метаданных она также классифицируется как vision-модель, однако подробности о поддерживаемом формате изображений не указаны. Доступны файлы mmproj в статическом репозитории модели. Заявлены языки: английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский, индонезийский, малайский, непальский, польский, румынский, сербский, шведский, турецкий, украинский, вьетнамский, хинди и бенгали. В тегах указана архитектурная принадлежность к Mistral, но размер модели, длина контекста и точная архитектура не раскрыты. Представлены квантизации от i1-IQ1_S до i1-Q6_K размером примерно от 5,4 до 19,4 ГБ: более лёгкие варианты экономичнее по памяти, но могут заметно терять в качестве; Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q6_K — как вариант, близкий по качеству к статической Q6_K. Модель распространяется по лицензии Apache-2.0.

Карточка модели meta-llama/Llama-3.1-405B-Instruct-FP8 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-405B, поэтому описание составлено по ней. Meta Llama 3.1 405B — большая авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention. Она принимает и генерирует текст; семейство Llama 3.1 включает базовые и дообученные версии, а этот репозиторий представляет модель размером 405 млрд параметров. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для генерации текста и многоязычного диалога: её можно применять как основу для помощников и чат-систем, а также адаптировать к другим задачам генерации естественного языка. Семейство поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В карточке отмечены расширенное контекстное окно и возможность интеграции с инструментами разработчиками, но точный размер контекста этой модели не указан. Модель разработана Meta и выпущена в июле 2024 года. Она распространяется по специальной коммерческой лицензии Llama 3.1 Community License; применение должно соответствовать лицензии и Acceptable Use Policy. К ограничениям относятся статичность обученных весов, отсутствие гарантии безопасности или корректности ответов и рекомендация не использовать неподдерживаемые языки без дополнительного дообучения и системных мер контроля.

allenai/Llama-3.1-Tulu-3-8B-DPO — англоязычная диалоговая модель AI2 из семейства Tülu 3, дообученная методом DPO на основе allenai/Llama-3.1-Tulu-3-8B-SFT. Это плотная авторегрессионная модель архитектуры Llama с 7,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для следования инструкциям и общения.

Sowmen123 разработал эту плотную авторегрессионную модель семейства Llama, дообучив Meta-Llama-3.1-8B-Instruct на задачи следования инструкциям и диалогового общения. Репозиторий содержит веса PyTorch; модель насчитывает 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для ускорения обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста: она подходит для диалогового ассистента, ответов на инструкции, создания текстов и суммаризации. В карточке заявлен английский язык; доступны чатовый интерфейс и интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0.

MetaMath-Tulpar-7b-v2-Slerp-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/MetaMath-Tulpar-7b-v2-Slerp. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст; метаданные указывают на диалоговые возможности. Лицензия — Apache-2.0. В карточке не приведены оценки качества или отдельные ограничения, поэтому пригодность для конкретных сценариев стоит проверять на собственных примерах.

cloudyu выпустил плотную текстовую модель cloudyu/mistral_28B_instruct_v0.1 на архитектуре Mistral с 28 млрд параметров. Согласно README, модель дообучена методом SFT на наборе vicgalle/alpaca-gpt4 и использует формат инструкций с полями instruction, inputs и output. Метаданные также отмечают поддержку чата и контекст до 32 768 токенов. Модель предназначена для генерации ответов на инструкции и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. README заявляет 128 слоёв, но не описывает оценку качества или специализированную область применения.

Квантизированная версия Ministral-3-3B-Reasoning-2512, разработанной Mistral AI, подготовленная bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для задач генерации и анализа текста, а также сценариев image-text-to-text, однако подробные сведения о поддерживаемой обработке изображений в README не приведены. Заявлены языки: английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. Модель имеет размер 3B параметров; доступны варианты от BF16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ4 с размером файлов примерно от 1,93 до 6,87 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp, что позволяет выбирать между качеством, потреблением памяти и скоростью локального запуска. Конкретная архитектура, размер контекстного окна, требования к оборудованию и формат промптов в README не указаны; для исходной модели рекомендуется обращаться к её оригинальной странице. Распространение заявлено по лицензии Apache-2.0.

mlx-community/Ornith-1.5-35B-A3B-OptiQ-4bit — квантизированная версия модели ornith-ai/Ornith-1.5-35B-A3B, подготовленная сообществом mlx-community с использованием MLX-native инструментария mlx-optiq. Это vision-language модель на архитектуре Qwen3.5-MoE: всего 35 млрд параметров, из которых активно используется около 3 млрд. Модель поддерживает работу с текстом и изображениями, а также оснащена головкой MTP для multi-token prediction и ускорения генерации. В карточке заявлен английский язык; размер модели на диске составляет около 24 ГБ. Модель предназначена для локального запуска на Apple Silicon и сценариев, связанных с рассуждениями, обработкой изображений и текста, function calling, использованием инструментов и агентными приложениями. Для подачи изображений сохраняется vision tower в формате bf16. Квантизация OptiQ использует смешанную точность: 113 компонентов представлены в 4-битном, а 399 — в 8-битном формате, с group size 64. Это снижает требования к памяти при сохранении более высокой точности для чувствительных слоёв, однако квантизация может ухудшать качество по сравнению с полной точностью, а для работы требуется совместимая MLX/OptiQ-среда и оборудование Apple Silicon. Распространяется по лицензии Apache 2.0. Контекст модели, точные показатели качества и поддерживаемый диапазон языков, кроме указанного английского, в README не приведены.