I.14Автоматизация процессов и AI-агенты

NeuralSoTa-7b-v0.1 — объединённая языковая модель Kukedlc на архитектуре Mistral с 7,1 млрд параметров. Она создана методом Model Stock с помощью mergekit на основе mistralai/Mistral-7B-v0.1 и объединяет веса Dolphin 2.8 Mistral 7B v02, WizardLM-2-7B и Starling-LM-7B-beta. Модель предназначена для генерации текста на основе текстовых запросов; её можно применять для диалогов, ответов на вопросы и написания текстов. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

OLMo-2-1124-7B-DPO-Preview — диалоговая языковая модель Allen Institute for AI (AI2), основанная на плотной архитектуре OLMo 2 и содержащая 6,9 млрд параметров. Она дообучена методом DPO на варианте набора Tülu 3 после supervised fine-tuning; базовая модель в метаданных указана как allenai/OLMo-2-1124-7B-SFT. Модель принимает текст и генерирует текст, поддерживает диалоговый шаблон и контекст до 4096 токенов. Модель предназначена для диалога, выполнения инструкций, ответов на вопросы и решения разнообразных задач, включая математические задачи и следование формату. В первую очередь она рассчитана на английский язык. Веса доступны в формате PyTorch и распространяются по лицензии Apache 2.0. Карточка предупреждает, что обучение безопасности ограничено: без дополнительной фильтрации модель может выдавать проблемные ответы, особенно при соответствующих запросах. Перед использованием в пользовательских сценариях следует самостоятельно оценить качество и организовать необходимые меры контроля.

Orion T2 Mini SFT — экспериментальный диалоговый ассистент Project Prism на архитектуре Orion T2, опубликованный Refract Labs. Это плотная причинно-языковая модель примерно на 219 млн параметров, дообученная методом SFT на 700 тысячах примеров: 60% общих и диалоговых, 20% математических и 20% связанных с программированием. Модель предназначена для генерации ответов, следования инструкциям, общения, решения математических задач и помощи с кодом. Для диалога используется встроенный шаблон чата Transformers с текстовыми маркерами ролей. В текущем слое совместимости Transformers кэширование отключено, поэтому при генерации каждого токена префикс вычисляется заново. Модель экспериментальная; заявленные архитектурные особенности следует оценивать на сопоставимых тестах. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Ornith-1.5-9B-GGUF — это набор квантованных форматов GGUF для модели Ornith-1.5-9B, подготовленный пользователем NANI-Nithin на основе базовой модели ornith-ai. Модель относится к семейству Qwen3.5 и предназначена для запуска локального текстового вывода в llama.cpp, LM Studio, Ollama с импортом GGUF, KoboldCpp и других совместимых средах. Базовая модель содержит 9 миллиардов параметров и использует плотную архитектуру без маршрутизируемых экспертов: 32 трансформерных слоя, гибридное внимание с линейным механизмом Gated DeltaNet и полноформатным вниманием, а также позиционное кодирование MRoPE. Представленные файлы предназначены только для работы с текстом. В метаданных указан английский язык; размер контекста в README не указан. Доступны стандартные и IQ-квантизации от 2- до 8-битного уровня. Q2_K и IQ2_M экономят максимум памяти, Q4_K_M предлагают компромисс между качеством и размером, а Q8_0 обеспечивают наивысшее качество среди вариантов репозитория. Квантизация уменьшает требования к памяти, но может снижать точность по сравнению с исходными весами. README также сообщает, что заявленный в исходной конфигурации слой MTP для предсказания следующего токена отсутствует в опубликованных весах, поэтому метаданные GGUF были исправлены в соответствии с фактической структурой модели. Лицензия — Apache-2.0.

ThomasBaruzier/Qwen2.5-0.5B-Instruct-GGUF — это набор GGUF-квантизаций инструкционно дообученной языковой модели Qwen2.5-0.5B-Instruct, разработанной командой Qwen при Alibaba Cloud и подготовленной ThomasBaruzier для запуска с llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, работы со структурированными данными и создания структурированных ответов, включая JSON. Набор поддерживает варианты квантизации с размером примерно от 302 до 507 МБ, а также F16-версию размером около 949 МБ. Это каузальная Transformer-модель на 0,49 млрд параметров, из которых 0,36 млрд приходятся на параметры без эмбеддингов. Архитектура использует RoPE, SwiGLU, RMSNorm, bias в QKV attention, связанные входные и выходные эмбеддинги и Grouped-Query Attention с 14 головами для Q и 2 для KV; модель содержит 24 слоя. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, возможность локального запуска, мультиязычность, улучшенное следование инструкциям, генерация длинных текстов, поддержка кода и математики, а также заметная устойчивость к разным системным промптам. Квантизации позволяют выбрать компромисс между размером, качеством и точностью: по приведённой таблице F16 обеспечивает наивысшие показатели, а более компактные варианты снижают требования к памяти, но могут ухудшать качество. Модель относится к текстовым, мультимодальность не заявлена. Лицензия — Apache-2.0.

unsloth/Qwen2-VL-2B-Instruct-bnb-4bit — мультимодальная instruction-tuned модель, основанная на Qwen/Qwen2-VL-2B-Instruct и опубликованная Unsloth. Она предназначена для обработки изображений, видео и текста, визуального вопросно-ответного взаимодействия, анализа документов и сцен, а также сценариев, где требуется принимать решения на основе визуальной информации и текстовых инструкций. Модель содержит 2 миллиарда параметров и распространяется в 4-битном формате bnb. Она поддерживает динамическое разрешение изображений, преобразуя изображения в переменное число визуальных токенов, и использует Multimodal Rotary Position Embedding (M-ROPE) для обработки текстовых, двумерных визуальных и трёхмерных видеопозиционных данных. Заявлена поддержка понимания видео длительностью более 20 минут и распознавания текста на английском, китайском, большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. Сильные стороны модели — сочетание компактного размера, 4-битного квантования и мультимодальных возможностей, включая анализ изображений высокого разнообразия разрешений и пропорций, документов и видео. Ограничения, включая возможные потери качества из-за квантования и отсутствие в карточке подробных характеристик контекстного окна, производительности и требований к оборудованию, следует учитывать при выборе модели. Модель распространяется по лицензии Apache-2.0.

Qwen3-24B-A4B-Freedom-HQ-Thinking-Abliterated-Heretic-NEOMAX-Imatrix-GGUF — текстовая generative-модель, опубликованная пользователем fair322. Она собрана на базе шести моделей Qwen3 4B, включая варианты с дистилляцией рассуждений из Jan, Apollo, Claude, Gemini и Polaris Alpha, после применения метода Heretic для удаления или снижения ограничений на отказы. Модель распространяется в формате GGUF и предназначена для локального запуска и генерации текста. Модель рассчитана на широкий круг задач: программирование, математику, обучение, ответы на вопросы, написание художественных текстов, ролевые сценарии, фантастику, романтику, хоррор и материалы для взрослой аудитории. Заявлены режим полного рассуждения, сжатые планы перед ответом и контекст до 256K токенов. Архитектура представляет собой плотную Mixture of Experts из шести экспертов по 4B параметров; по умолчанию активен один эксперт, но можно задействовать от одного до шести, что соответствует заявленным уровням мощности от 4B до 24B параметров. Сильными сторонами являются большой контекст, масштабируемая вычислительная нагрузка, поддержка рассуждений, широкий спектр сценариев и сниженная склонность к отказам. Модель ориентирована преимущественно на английский язык. Ограничения включают возможную необходимость явно задавать желаемый уровень подробности, ненормативной лексики или содержания для получения нужного стиля, а также отсутствие гарантий безопасности и фильтрации: модель описана как uncensored и может генерировать потенциально чувствительный или неприемлемый контент. Указанная лицензия — Apache-2.0.

Qwen3-4B-Instruct-2507-MLX-6bit — это 6-битно квантованная версия инструкционной языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и ориентировано на запуск на устройствах с Apple Silicon. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях и сценариях, поддерживающих MLX. Ключевая характеристика модели — 6-битное квантование, снижающее требования к памяти по сравнению с полноразмерной версией и делающее модель более подходящей для локального использования на совместимых компьютерах Apple. В README не указаны архитектура, точный объём контекста, поддерживаемые языки и мультимодальные возможности, поэтому эти свойства нельзя достоверно описать. К ограничениям относятся возможные ошибки, неточности и генерация неподходящего или вредного содержания, характерные для языковых моделей. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-NInfer — это конвертированная версия мультимодальной модели Qwen3.6-35B-A3B, подготовленная разработчиком Neroued для нативного формата NInfer. Артефакт предназначен исключительно для запуска в NInfer и не является checkpoint для Transformers, Safetensors-дистрибутивом или файлом GGUF. Дополнительные веса DFlash предоставлены проектом z-lab/Qwen3.6-35B-A3B-DFlash. Модель рассчитана на диалоговую генерацию текста, работу с изображениями и видео, а также сценарии локального инференса через CLI или HTTP-сервер NInfer. Архитектура указана как Qwen3_5MoeForCausalLM; размер файла составляет около 21,23 GiB. В артефакт входят текстовые и vision-компоненты, MTP, DFlash, оптимизированная proposal head и frontend-ресурсы. Поддерживаются speculative decoding через MTP и DFlash, мультимодальные запросы и контекст до 240 000 токенов при серверном запуске. В README не указаны полный перечень языков и точное число активных или всех параметров, однако обозначение модели содержит 35B-A3B. К сильным сторонам относятся мультимодальность, большой заявленный контекст, локальный запуск и ускорение генерации с помощью MTP или DFlash. В приведённых оценках модель получила 90% на AIME 2025 и AIME 2026 и 85,35% на GPQA-Diamond; результаты заявлены для режима zero-shot. Ограничения включают жёсткую зависимость от NInfer, 64-битного Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее, а также необходимость сборки NInfer из исходного кода. Распространение указано по лицензии Apache-2.0.

Qwen3.8-27B-ASCII-Condensed — текстовая GGUF-модель, созданная bsaleh03 на основе Qwen/Qwen3.8-27B и квантованной сборки unsloth/Qwen3.8-27B-GGUF. Это не дообучение, дистилляция или повторное квантование: из квантованной модели удалены строки словаря для не-ASCII-токенов, а токенизатор адаптирован к сокращённому словарю. Модель предназначена для генерации текста и работы с длинным контекстом через llama.cpp, прежде всего на одной видеокарте с 16 ГБ памяти. Словарь уменьшен с 248 320 до 129 006 строк, при этом остальные 864 из 866 тензоров побитово идентичны базовой квантованной модели. На RTX 5070 Ti с 16 ГБ заявлена поддержка до 135 168 токенов контекста при использовании q4_0 для KV-кэша; максимальная длина зависит от типов KV-кэша и доступной видеопамяти. Модель сохраняет MTP-голову для спекулятивного декодирования, а на ASCII-тексте токенизация совпадает с базовой моделью. Основное преимущество — экономия видеопамяти и увеличение доступного контекста без изменения большинства весов. Ограничение — ASCII-ориентированный словарь: английский язык, код и ASCII-пунктуация обрабатываются без дополнительных затрат, но символы с диакритикой, кириллица, CJK и другие не-ASCII-тексты требуют больше токенов; для работы преимущественно на неанглийских языках сборка не рекомендуется. Модель поддерживает только текстовый режим, файл mmproj отсутствует, а смешанные типы KV-кэша требуют пропатченной версии llama.cpp. Распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwen3-4B-Instruct-2507-GGUF — набор квантованных версий инструкционной языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модели распространяются в формате GGUF и предназначены для локального запуска. Модель относится к задачам генерации текста и диалогового взаимодействия. Она может использоваться через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В README указаны варианты от BF16 до 2-битных квантований, объёмом примерно от 1,8 до 8,05 ГБ. Для работы используется форматирование промптов с ролями system, user и assistant. Данные о точной архитектуре, поддерживаемых языках и размере контекста в README не приведены. Сильная сторона набора — широкий выбор квантований с разным компромиссом между качеством, требованиями к памяти и скоростью работы. В README рекомендуются, в частности, варианты Q4_K_M, Q5, Q6 и IQ4_XS; более компактные варианты экономят память, но могут заметно терять в качестве. Некоторые форматы отмечены как legacy и могут иметь особенности при запуске на отдельных архитектурах. Лицензия в предоставленном README не указана; условия использования следует уточнять в документации исходной модели Qwen/Qwen3-4B-Instruct-2507.

bartowski/Qwen_Qwen3-8B-GGUF — набор GGUF-квантизированных версий модели Qwen3-8B, разработанной Qwen. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp; в README также указан формат промпта с разделителями сообщений ChatML. Доступны варианты от BF16 размером 16,39 ГБ до компактных IQ2_M и Q2_K размером около 3 ГБ, а также промежуточные уровни Q8, Q6, Q5, Q4 и Q3. Более высокие уровни квантизации обычно сохраняют лучшее качество, тогда как младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству; для большинства сценариев автор рекомендует Q4_K_M, а также некоторые варианты Q5 и Q6. Архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны, поэтому эти характеристики нельзя подтвердить. Модель распространяется по лицензии Apache-2.0.

Tulpar-7b-v2 — языковая модель HyperbeeAI на архитектуре Mistral, дообученная на инструкционном наборе данных, включающем примеры, созданные GPT-4, а также отфильтрованные и подготовленные наборы Airoboros и Platypus. Модель содержит 7,1 млрд параметров и принимает текст для генерации ответов по инструкциям; её контекстное окно составляет 32 768 токенов. Модель предназначена для диалоговых сценариев и выполнения текстовых инструкций на английском языке. Она распространяется в формате Safetensors по лицензии Apache-2.0. Разработчик не гарантирует точность, объективность и отсутствие предвзятости и рекомендует проверять безопасность модели перед внедрением.

Tulu 1 Llama 2 70B — языковая модель-ассистент, разработанная Allen Institute for AI (AI2). Это дообученная на смеси публичных, синтетических и созданных людьми инструкций и диалогов версия Meta Llama 2 70B с плотной архитектурой Llama и 68,7 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции; основной язык — английский, длина контекста — 2048 токенов. Модель подходит для диалоговых помощников, ответов на вопросы и выполнения разнообразных текстовых инструкций. Для форматирования запросов используется шаблон с маркерами ролей, описанный в карточке модели. Модель не проходила выравнивание безопасности на этапе RLHF и не снабжена фильтрацией ответов, поэтому может выдавать проблемный контент. Лицензия — AI2 ImpACT Low-risk.

Anrn 12B R1 — мультимодальная модель на основе Gemma 4 Unified, выпущенная проектом Anrn и представленная как BF16-база Google Gemma 4 12B с отдельным обученным адаптером LoRA, применяемым с проверенным коэффициентом 0,45. Архитектура — плотный декодер с 11,95 млрд параметров; заявлены входы в виде текста, изображений, аудио и видео. Для Transformers доступен мультимодальный сервис, а дополнительная сборка llama.cpp предназначена для текстового режима. Для llama.cpp указана поддержка контекста 128K. Модель рассчитана на диалог и решение сложных текстовых задач, а также на анализ изображений, аудио и видео через нативный сервис. В README приведены результаты MMLU-Pro, GPQA Diamond и AIME 2026 без инструментов; показатели получены в проектной оценке за август 2026 года и зависят от шаблонов промптов, параметров генерации и версии оценочного набора. BF16-веса требуют значительных ресурсов, а выгрузка части вычислений на CPU снижает скорость. Путь llama.cpp является квантованным текстовым вариантом и не поддерживает нативный мультимодальный ввод. Лицензия — Apache-2.0.

ByteDance-Seed_Seed-OSS-36B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. Доступны варианты от BF16 до различных форматов Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размеры файлов составляют примерно от 16,50 до 72,31 ГБ. В README не указаны архитектура, поддерживаемые языки, контекстное окно, мультимодальность и точные сценарии применения исходной модели. Для вариантов с более сильным сжатием ожидается снижение качества, тогда как Q6 и Q5 позиционируются как высококачественные, а Q4 — как практичный компромисс для большинства случаев. Модель удобна для локального инференса на совместимом оборудовании, однако требует значительных ресурсов, особенно в вариантах BF16 и высоких разрядностей. Формат лицензии в README не указан; условия использования следует уточнять на странице исходной модели ByteDance-Seed/Seed-OSS-36B-Instruct.

Shuu12121 выпустил модель Sentence Transformers на основе ModernBERT, дообученную на парных текстовых примерах. Она кодирует предложения и абзацы в плотные векторы размерностью 512 для сравнения косинусным сходством, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель рассчитана на задачи поиска и сопоставления текстов, в том числе фрагментов кода; обучающий набор содержит 58 800 пар, а функция потерь — MultipleNegativesRankingLoss. Модель содержит 40,5 млн параметров. В README указана максимальная длина последовательности 1024 токена, тогда как метаданные каталога сообщают о 8192 токенах нативного контекста; фактическая длина зависит от используемой конфигурации. Веса опубликованы в формате safetensors, для работы используется библиотека sentence-transformers. Лицензия в предоставленных данных не указана.

Covenant-72B-Chat — диалоговая языковая модель с настройкой по инструкциям, созданная на основе Covenant-72B. Разработчики описывают базовую модель как крупнейшую языковую модель, обученную совместно без разрешений; вариант Chat дообучен методом supervised fine-tuning. Модель использует плотную архитектуру LLaMA (LlamaForCausalLM), содержит около 70,6 млрд параметров и принимает текст для генерации ответов в диалоге. Контекст составляет 8192 токена, поддерживаемый язык по карточке — английский. Модель предназначена для диалоговых ответов и выполнения инструкций на естественном языке. В README приведены результаты бенчмарков по рассуждениям, математике, общим знаниям и следованию инструкциям; эти оценки показывают способности на тестовых наборах, но не гарантируют точность в прикладных сценариях. Опубликована в формате safetensors под лицензией Apache 2.0.

DeepSeek LLM 67B Chat — диалоговая языковая модель компании DeepSeek с плотной архитектурой семейства Llama и 66,6 млрд параметров. Модель создана на основе deepseek-ai/deepseek-llm-67b-base и дообучена на дополнительных данных с инструкциями. В репозитории представлены веса PyTorch; модель принимает текст и генерирует текст в формате диалога. Модель предназначена для общения и выполнения текстовых запросов на английском и китайском языках. Обучение с нуля проводилось на корпусе объёмом 2 трлн токенов. Контекст модели — 4096 токенов. В карточке приведён шаблон диалога; авторы не рекомендуют использовать системный промпт с этой версией. Лицензия в метаданных указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Карточка не описывает специализированные области применения или гарантии качества.

DolphinHermes-120b — объединённая языковая модель на базе архитектуры Llama, созданная автором репозитория с помощью mergekit линейным слиянием NousResearch/Nous-Hermes-2-Llama-2-70B и cognitivecomputations/dolphin-2.2-70b. Модель содержит 120,1 млрд параметров, работает через Transformers и рассчитана на генерацию текста и диалоговое взаимодействие. Её контекст составляет 4096 токенов. Модель подходит для ответов на вопросы, следования инструкциям и ведения диалогов. В репозитории указаны веса safetensors. Лицензия — Llama 2; перед использованием следует учитывать её условия. Карточка не приводит результатов оценивания качества или подробных ограничений, поэтому качество на конкретных задачах нужно проверять отдельно.

franken-Beagle-11B — языковая модель для генерации текста и диалогов, созданная Vicgalle с помощью mergekit. Она получена слиянием методом passthrough двух диапазонов слоёв модели mlabonne/NeuralBeagle14-7B; архитектура — плотная MistralForCausalLM, размер — 10,6 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст; карточка отмечает поддержку диалогового режима. Модель подходит для диалогов, ответов на инструкции, рассуждений и творческой генерации текста. Базовая NeuralBeagle14-7B дообучена на предпочтениях и предназначена для диалогов, следования инструкциям, рассуждений и творческого письма. Репозиторий распространяет веса в формате safetensors; лицензия — Apache 2.0.

unsloth/gemma-3-1b-it-bnb-4bit — квантизированная 4-битная версия instruction-tuned модели google/gemma-3-1b-it, основанной на семействе Gemma 3. Разработчик исходной модели — Google DeepMind; сборка и публикация варианта выполнены Unsloth. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и понимания изображений. Модель мультимодальная: принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов, максимальный объём генерируемого ответа составляет 8192 токена. Поддерживается более 140 языков, включая английский; в метаданных этой карточки явно указан язык en. Небольшой размер и 4-битное представление упрощают локальное развёртывание на ноутбуках, настольных компьютерах и в облачной инфраструктуре с ограниченными ресурсами, однако квантизация может снижать точность по сравнению с полноразмерной версией. Модель распространяется по лицензии Gemma; применяются соответствующие условия использования Google. В README не приведены точные требования к аппаратному обеспечению, результаты тестирования или подробные сведения об архитектуре, поэтому производительность в конкретных задачах по этой карточке оценить нельзя.

Gemma-3-4b-it-MAX-NEO-Imatrix-GGUF — GGUF-квантизированная версия инструкционной модели Google Gemma 3 4B, опубликованная DavidAU. Модель предназначена для генерации текста, диалогов, выполнения пользовательских инструкций, творческого письма и других общих сценариев использования языковых моделей. Заявлен контекст до 128 000 токенов. Ключевая особенность версии — сочетание квантизации с сохранением embedding- и output-тензоров в формате BF16 («MAXED») и специализированного imatrix-набора «NEO IMATRIX», разработанного DavidAU. По заявлению автора, это должно улучшать следование инструкциям, качество ответов и связность идей по сравнению с обычными квантами. Доступны варианты от IQ1_S до Q8_0; для творческих задач рекомендуются IQ3S, IQ4XS, IQ4NL и Q4, для общего использования — Q5, Q6 и Q8, а для портативных устройств — Q4_0 и Q5_0. Разные варианты квантов могут заметно различаться по качеству и характеру вывода. Модель ориентирована на локальный запуск и позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. README приводит пример производительности около 56 токенов в секунду для IQ4XS на видеокарте среднего уровня, но фактические показатели зависят от оборудования и настроек. Ограничения включают снижение качества у наиболее компактных квантов, различия в результатах между Q- и IQ-вариантами, а также необходимость подбора параметров генерации. Лицензия — Apache 2.0.

K2S3-Mistral-7b-v1.0 — языковая модель, разработанная K2S3 и дообученная методом supervised fine-tuning с настройкой всех параметров на базе mistralai/Mistral-7B-v0.1. Для обучения использовались alpaca-gpt4-data и образцы из OpenOrca Dataset. Модель относится к плотной архитектуре MistralForCausalLM, содержит 7,2 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и выполнения инструкций в текстовом формате. В метаданных указан английский язык. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

drowzeys/keys-GLM-5.3-EXL3-Abliterated — производная версия GLM-5.3 от drowzeys с правкой весов, основанной на derisk-проекции Blackfrost AI. Это полноразмерная разреженная MoE-модель с 78 слоями и 256 маршрутизируемыми экспертами. Экспертные матрицы квантованы до 3 бит в формате EXL3; остальные компоненты сохранены в bf16/fp16. Репозиторий содержит веса в safetensors и предназначен для диалоговой генерации текста. Модель рассчитана на запуск через описанный авторами стек vLLM на четырёх NVIDIA DGX Spark с контекстом до 1 000 000 токенов. README сообщает, что изменение весов направлено на снижение отказов на безвредных запросах, а проверки включали рассуждения, код, фактические вопросы и творческий текст. Это заявление авторов карточки, не независимая оценка качества. В метаданных базовой указана zai-org/GLM-5.3; лицензия — MIT. Для запуска требуются значительные аппаратные ресурсы и совместимый стек, описанный в репозитории.

Это версия модели LFM2.5-1.2B-Instruct, созданная Ричардом Янгом (DeepNeuro) с помощью Heretic v2.0.0.dev0. Веса изменены методом abliteration: автор сообщает, что модель стала значительно реже отказывать, без повторного обучения. Это компактная текстовая модель семейства LFM2 для локального диалога и запуска на устройствах с ограниченными ресурсами; архитектура базовой модели сочетает свёрточные блоки и блоки внимания. В репозитории указано 1,5 млрд параметров, а для исходной модели — 1,17 млрд; метаданные каталога указывают контекст 128 000 токенов, тогда как README базовой модели приводит 32 768 токенов. Модель предназначена для диалога, творческого письма, обучения методам выравнивания, извлечения данных и RAG; исходная модель также рассчитана на агентные сценарии и вызов инструментов. Карточка сообщает о поддержке английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Автор приводит снижение доли отказов с 98 до 3 на тесте из 100 запросов и низкую KL-дивергенцию относительно исходной модели. Это результаты, заявленные в карточке, а не независимая оценка. Модель может отвечать на запросы, которые отвергает исходная версия; её лицензия указана как other, поэтому условия использования следует сверять с карточкой репозитория.

Ling-3.0-flash-GGUF — это GGUF-квантизированная версия языковой модели Ling-3.0-flash, разработанной inclusionAI и подготовленной для распространения bartowski. Модель предназначена для генерации текста и запуска через llama.cpp; поддерживает спекулятивное декодирование MTP и входные данные в текстовой модальности. Модель содержит 127 млрд параметров. Доступны варианты от BF16 и Q8_0 до компактных квантов Q2 и IQ2; размер файлов составляет примерно от 43,64 до 255,09 ГБ. Для большинства сценариев README рекомендует Q4_K_M как компромисс между качеством и размером, а Q5 и Q6 — когда важнее качество. Квантизация выполнена с использованием imatrix, однако измерения perplexity и KLD не предоставлены. Архитектура, поддерживаемые языки и размер контекстного окна в представленных данных не указаны. Сильными сторонами являются большой объём параметров, широкий выбор уровней квантизации и совместимость с экосистемой llama.cpp. Ограничениями выступают значительные требования к дисковому пространству и ресурсам, особенно для высококачественных вариантов; низкобитные кванты экономят память, но могут заметно снижать качество. Лицензия — MIT.

CogniLink — дообученная Daemontatox модель на архитектуре Llama 3.3 70B, созданная для многошаговых рассуждений, логического вывода и диалоговой генерации текста. Она содержит 69,5 млрд параметров, работает с контекстом до 131 072 токенов и рассчитана прежде всего на английский язык. В карточке указаны instruction tuning и обучение на наборах данных с цепочками рассуждений; доступны веса в формате safetensors и библиотека Transformers. Модель можно применять для пошаговых объяснений учебных задач, анализа сценариев и аргументов, а также вопросов и ответов в исследовательских, деловых и правовых сценариях. README также упоминает медицинские применения, однако не приводит подтверждений клинической точности. Для запуска требуется значительная вычислительная память; утверждения README о работе на ограниченных устройствах и эффективности 4-битного режима не подкреплены метриками производительности. Лицензия — Apache 2.0.

Llama-3-8B-Ultra-Instruct-GGUF — квантованные версии инструкционной языковой модели Llama-3-8B-Ultra-Instruct. Исходная модель связана с elinas/Llama-3-8B-Ultra-Instruct и базируется на Undi95/Meta-Llama-3-8B-Instruct-hf; квантования подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях, где важны автономность и умеренные требования к памяти. Это текстовая модель с примерно 8 млрд параметров, представленная в формате GGUF и совместимая с llama.cpp. Доступны варианты квантования от Q8_0 до IQ1_M размером примерно от 2,16 до 8,54 ГБ. Более качественными считаются Q6_K, Q5_K_M, Q5_K_S и ряд вариантов Q4; низкобитные версии экономят память, но снижают качество. В README не указаны языки, размер контекста, поддержка других модальностей и результаты бенчмарков. Для работы следует использовать специальный chat-шаблон Llama 3 с ролями system, user и assistant. Модель подходит для локальных чат-ботов, генерации и преобразования текста, а также других задач следования инструкциям. Сильные стороны — широкий выбор квантований, возможность запуска на ограниченных ресурсах и сохранение высокого качества в старших вариантах. Ограничения связаны с потерями качества при сильном квантовании; варианты Q3 и ниже имеют заметно более низкое качество, а IQ1_M не рекомендуется. Лицензия указана как llama3.

MaziyarPanahi/mamba-gpt-7b-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая модель генерации текста, полученная слиянием Mistral-7B-Instruct-v0.2 и CobraMamba/mamba-gpt-7b-v2 методом SLERP. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; репозиторий предоставляет веса в формате safetensors. Модель предназначена для генерации ответов в диалоге и выполнения инструкций на входном тексте. Заявленная длина контекста — до 32 768 токенов. В метаданных указана лицензия Apache-2.0. Карточка не сообщает отдельные результаты оценки качества или специальные гарантии поведения после слияния.