I.14Автоматизация процессов и AI-агенты

lyf/Huihui-gemma-4-31B-it-abliterated-v2-NVFP4 — мультимодальная 31-миллиардная модель, представляющая собой NVFP4-квантизированную версию Huihui-gemma-4-31B-it-abliterated-v2 от huihui-ai, созданную на базе Google Gemma 4 31B IT. Релиз предназначен для диалогов, генерации и анализа текста, следования инструкциям, программирования, структурированного вывода, а также обработки изображений и видео. В README также указана abliteration-интервенция, направленная на удаление отказов модели. Модель поддерживает сценарии «текст—текст», «изображение—текст» и «видео—текст»; аудио не поддерживается, поскольку в 31B-чекпойнте отсутствует аудиоэнкодер. Визуальная башня сохранена в формате BF16, а большинство линейных слоёв текстового стека, включая слои self-attention, квантизированы в NVFP4. Эмбеддинги, lm_head и визуальная часть также остаются в BF16. Размер файлов составляет около 19,5 ГБ, что позволяет запускать модель на одной видеокарте RTX 5090 с 32 ГБ памяти; заявленная скорость декодирования — около 69 токенов в секунду. К сильным сторонам относятся уменьшенный размер, сохранение мультимодальных возможностей исходной модели, улучшенное по сравнению с предыдущей версией значение perplexity и более строгое следование инструкциям по результатам локального тестирования. Ограничения связаны с отсутствием аудиоподдержки, требовательностью к совместимому программному стеку и аппаратному обеспечению, а также возможным влиянием агрессивной NVFP4-квантизации на качество. Для работы рекомендуется vLLM с поддержкой Gemma 4 и NVFP4. Лицензия указана как gemma.

LFM2.5-Encoder-350M — мультиязычный двунаправленный энкодер от Liquid AI на архитектуре LFM2, обученный как masked language model и предназначенный для дообучения под конкретные задачи. В метаданных указано 444,6 млн параметров; модель использует гибридную архитектуру с блоками gated short-convolution и grouped-query attention, а также поддерживает контекст до 128 000 токенов по метаданным. В README для обучения описано расширение окна до 8 192 токенов. Модель рассчитана на классификацию текста и токенов, извлечение сущностей, поиск и ранжирование, оценку семантического сходства, определение тональности и намерения, NLI и extractive QA. Она поддерживает 15 языков, включая русский, и ориентирована на эффективный запуск, в том числе на устройстве и на CPU. Для прикладных задач обычно требуется дообучение; заявленные в README демонстрации построены на дообученных вариантах. Веса доступны в формате safetensors для Transformers. Для загрузки архитектуры README указывает необходимость trust_remote_code=True. Лицензия обозначена как other; конкретные условия следует сверять с карточкой модели.

AI-Engine/Meta-Llama-3-8B-Instruct-GGUF — это GGUF-квантизированная версия инструкционно дообученной языковой модели Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и кода, прежде всего для диалоговых ассистентов, обработки инструкций и других задач генерации на английском языке. Репозиторий содержит варианты квантования для llama.cpp, включая версии с imatrix. Модель имеет авторегрессионную архитектуру на основе оптимизированного Transformer, около 8 млрд параметров и поддерживает только текстовые входы и выходы. Она использует Grouped-Query Attention (GQA), контекстное окно до 8 тысяч токенов, а инструкционная версия обучена с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Данные обучения включали новый набор общедоступных онлайн-данных; дата отсечения знаний указана как март 2023 года. К сильным сторонам относятся ориентация на диалог, генерацию текста и кода, относительно компактный размер 8B и возможность локального запуска через совместимые инструменты GGUF и llama.cpp. Ограничения включают англоязычную специализацию, статичность модели и устаревание знаний после даты отсечения; качество и требования к ресурсам зависят от выбранного уровня квантования. Использование регулируется пользовательской лицензией Meta Llama 3 и соответствующей Acceptable Use Policy; в README указано, что доступна коммерческая лицензия с особыми условиями.

Mistral-Large-Instruct-2407-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Mistral-Large-Instruct-2407, разработанной mistralai и подготовленной квантизацией компанией Second State Inc. Модель предназначена для диалоговых приложений, генерации и преобразования текста, работы с инструкциями и запуска локальных сервисов через LlamaEdge. В README указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Максимальный контекст составляет 128000 токенов при запуске как LlamaEdge-сервиса; для командного приложения приведён контекст 32000 токенов. Доступны варианты квантизации от Q2_K до Q5_K_M с разным размером файлов и компромиссом между требованиями к ресурсам и качеством. Рекомендуемым назван вариант Q4_K_M, обеспечивающий сбалансированное качество. Сильными сторонами являются большой контекст, многоязычность и возможность запуска в формате GGUF через LlamaEdge. Более низкие уровни квантизации уменьшают размер модели, но могут существенно ухудшать качество; для Q2_K и ряда Q3/Q4-вариантов README прямо указывает значительную или высокую потерю качества. Архитектура, количество параметров и поддерживаемые модальности в предоставленных данных не указаны; по описанию это текстовая языковая модель. Модель распространяется по лицензии MRL-0.1, обозначенной в README как license: other.

Phi-3-medium-128k-instruct-GGUF — квантизированная версия инструкционной языковой модели Phi-3-medium-128k-instruct, разработанной Microsoft и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, работу с длинными документами и программным кодом. В README указана поддержка multilingual, однако конкретный перечень языков не приведён. Архитектура и точное число параметров не указаны; модель относится к типу phi-msft и поддерживает контекст до 128 000 токенов. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, размером примерно от 5,14 до 27,9 ГБ. Варианты с более сильной квантизацией требуют меньше памяти, но могут заметно терять в качестве; Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые для баланса между размером и качеством. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge, с использованием шаблона phi-3-chat. Лицензия — MIT; дополнительные ограничения или сведения о мультимодальности в README не указаны.

Qwen1.5-72B-Chat-GPTQ-Int4 — чат-модель семейства Qwen1.5, разработанная командой Qwen. Это decoder-only языковая модель на архитектуре Transformer, дообученная с применением supervised fine-tuning и direct preference optimization для повышения качества диалогов и соответствия человеческим предпочтениям. Вариант GPTQ-Int4 содержит 72 млрд параметров и предназначен для генерации текста в формате чата. Модель подходит для диалоговых помощников, ответов на вопросы, создания и обработки текстов, а также работы с естественными языками и программным кодом. Заявлена мультиязычная поддержка, однако точный перечень языков в README не указан. Модель поддерживает контекст до 32K токенов и может загружаться через Transformers с использованием AutoModelForCausalLM и AutoTokenizer; для работы рекомендуется transformers версии 4.37.0 или новее. К сильным сторонам относятся большой размер, улучшенная по сравнению с предыдущим поколением производительность в оценках человеческих предпочтений, чатовая настройка и 4-битная GPTQ-квантизация, снижающая требования к памяти. К ограничениям относятся beta-статус семейства, возможные проблемы с переключением между языками и деградация результатов некоторых бенчмарков после DPO. В README также указано, что для этой beta-версии временно не включены GQA и комбинация sliding window attention с полной attention. Лицензия обозначена как other; используется лицензия tongyi-qianwen, полный текст доступен по ссылке в карточке модели.

ibrahimkettaneh/Qwen2.5-32B-Instruct-abliterated-pass2-AWQ — это квантованная в формате AWQ производная версия Qwen2.5-32B-Instruct. Репозиторий опубликован Ibrahim Kettaneh, а исходную модель разработала команда Qwen компании Alibaba Cloud. Вариант pass2 относится к моделям с изменённым поведением отказов, описываемым как refusal-ablated; точные методы и результаты такого изменения в доступных данных не указаны. Модель предназначена для генерации текста, диалогов, следования инструкциям, работы со структурированными данными, программированием и математическими задачами. Она сохраняет характеристики базовой Qwen2.5-32B-Instruct: causal language model с архитектурой на основе Transformer, RoPE, SwiGLU, RMSNorm и GQA; около 32,5 млрд параметров, 64 слоя, 40 attention heads для Q и 8 для KV. Поддерживаются контекст до 131 072 токенов и генерация до 8 192 токенов, а также более 29 языков, включая русский, английский и китайский. Это текстовая модель без заявленной поддержки изображений или других модальностей. Ключевые преимущества — большой размер, развитое следование инструкциям, длинный контекст, мультиязычность и сниженное количество стандартных отказов вследствие abliteration. Ограничения включают высокие требования к памяти и вычислениям, возможное ухудшение безопасности и надёжности отказов по сравнению с исходной instruct-моделью, а также отсутствие подтверждённых независимых оценок именно этой AWQ-версии. Для производной модели лицензия в найденных данных не заявлена; у базовой Qwen2.5-32B-Instruct указана Apache License 2.0, но её применимость к данному производному репозиторию следует проверять отдельно.

Карточка модели zomasec/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

TeichAI/Qwen3.5-27B-Claude-Opus-4.6-Distill — плотная мультимодальная модель семейства Qwen3.5 с 27 млрд параметров, дообученная TeichAI на базе unsloth/Qwen3.5-27B. В README указаны датасет crownelius/Opus-4.6-Reasoning-2100x-formatted и личные данные Claude от EclipseMist; также отмечено, что LoRA предоставил EclipseMist. Модель предназначена для программирования, творческого письма, общего диалога и понимания изображений. Модель принимает текст и изображения и выдаёт текст; карточка также приводит рекомендации для работы с видео. Среди опубликованных проверок — ARC Challenge, GPQA Diamond, HellaSwag и отдельные разделы MMLU; результаты на ARC Challenge и HellaSwag выше, чем у указанной базовой модели, а на GPQA Diamond совпадают. Репозиторий содержит веса safetensors и опубликован под лицензией Apache-2.0. Метаданные относят модель к задачам image-text-to-text и указывают возможности чата и работы с изображениями.

webhie/Qwen3.6-27B-int4-AutoRound — это квантизированная версия мультимодальной модели Qwen3.6-27B, разработанной командой Alibaba/Qwen. Квантизация выполнена с помощью Intel AutoRound по пресету auto-round-best, оптимизированному для сохранения максимальной точности при INT4. Модель предназначена для генерации текста, диалоговых сценариев, программирования, работы с изображениями и задач, поддерживающих vision-ввод. README не содержит сведений о языках модели, но указывает pipeline image-text-to-text и библиотеку Transformers. Используется схема W4A16: веса представлены в 4-битном формате, активации — в FP16; group size равен 128, квантизация симметричная. Базовая модель имеет 27 млрд параметров, а размер квантизированной версии составляет около 18 ГБ вместо примерно 54 ГБ в BF16. Веса vision-энкодера MoonViT сохраняются в исходной точности BF16/FP16. Сохранённая MTP-голова Multi-Token Prediction поддерживает speculative decoding в vLLM; заявлены принятие черновых токенов на уровне около 85–90% и примерно двукратное ускорение генерации, однако эти показатели измерены на RTX 5090 и зависят от конфигурации. К сильным сторонам относятся уменьшенное примерно втрое потребление памяти, поддержка изображений без дополнительной обработки, совместимость с vLLM и сохранение MTP для ускоренной генерации. Ограничения включают необходимость совместимой версии vLLM для MTP, наличие специальных требований к окружению и зависимость производительности от оборудования. Модель распространяется по лицензии Apache-2.0.

Infatoshi/Qwen3.6-35B-A3B-GGUF — это набор GGUF-конверсий базовой модели Qwen/Qwen3.6-35B-A3B, подготовленный Infatoshi для запуска в llama.cpp. Модель предназначена для генерации и обработки текста, а также для мультимодальных сценариев с изображениями и видео; для работы с визуальными входными данными требуется отдельный файл vision projector. Модель использует разреженную MoE-архитектуру: 35 млрд параметров суммарно, около 3 млрд активных параметров, 256 экспертов и один общий эксперт, маршрутизация top-8. В архитектуре сочетаются слои Gated-DeltaNet и Gated-Attention в соотношении 3:1, заявлен нативный контекст до 262 тысяч токенов. Указана поддержка английского, китайского и многоязычного применения. Доступны варианты квантования Q4_K_M, Q5_K_M, Q8_0 и BF16 с объёмом файлов от 20 до 65 ГБ. Сильными сторонами являются существенно сниженное число активных параметров при большом общем размере модели, поддержка длинного контекста и мультимодальный ввод. Вариант Q4_K_M рассчитан на одну видеокарту с 24 ГБ памяти, тогда как более качественные или менее квантованные варианты требуют 32–40 ГБ видеопамяти, частичной выгрузки или CPU. Производительность и требуемые ресурсы зависят от варианта квантования, размера контекста и режима инференса; варианты Q5_K_M, Q8_0 и BF16 не помещаются на одной 24-гигабайтной видеокарте при практически применимом контексте. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Heretic-Cerebellum-GGUF — это квантизированная GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Вариант Heretic создан на основе uncensored-модификации от llmfan46 с применением Heretic v1.2.0, а смешанно-точная квантизация Cerebellum выполнена deucebucket. Модель относится к архитектуре Qwen3 и использует MoE-подход; рекомендуемый файл Q3_K_M занимает около 11,96 ГБ. Для мультимодальной работы требуется отдельный vision projector BF16 размером около 858 МБ, поддерживающий обработку изображений и видео через llama.cpp. Модель предназначена для генерации текста, рассуждений, ответов на вопросы, программирования и мультимодального описания изображений. По приведённым локальным тестам на RTX 3090 она показывает 95,48% на ARC-Challenge, 91,78% на HellaSwag, 75,42% на MMLU-Redux и pass@1 64,63% на HumanEval+. Эти результаты характеризуют конкретную квантизированную сборку и не гарантируют аналогичную производительность в других конфигурациях. Сильными сторонами являются сочетание относительно компактного размера, MoE-архитектуры, смешанной квантизации, поддержки мультимодальных сценариев и хороших результатов на задачах общего reasoning и программирования. Ограничения включают потери качества из-за квантизации, необходимость совместимого рантайма и vision projector для работы с изображениями и видео, а также отсутствие в предоставленных данных сведений о длине контекста и поддерживаемых языках. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная модель, созданная HauhauCS на основе Qwen/Qwen3.6-35B-A3B. Это вариант с усиленным удалением отказов: по заявлению автора, модель не отказывается от запросов и сохраняет функциональность исходной модели, хотя иногда может добавлять короткие дисклеймеры. Подходит для диалогов, генерации и анализа текста, программирования, рассуждений, а также работы с изображениями и видео. Модель использует архитектуру MoE с 35 млрд общих параметров и примерно 3 млрд активных параметров на один проход. Она содержит 256 экспертов, из которых для каждого токена выбираются 8, включает 40 слоёв и гибридное сочетание linear attention и full softmax attention в соотношении 3:1. Заявлен нативный контекст до 262K токенов. Поддерживаются текст, изображения и видео; в README указаны английский, китайский и многоязычный режимы. Для работы с изображениями требуется дополнительный файл mmproj. Основные преимущества — высокая заявленная устойчивость к отказам, мультимодальность, большой контекст и доступность множества GGUF-квантизаций, включая оптимизированные HauhauCS варианты K_P. Ограничения включают отсутствие встроенных защитных ограничений в Aggressive-варианте, значительные требования к памяти: размер файлов варьируется примерно от 11 до 44 ГБ, а также необходимость корректно настроить совместимый runtime, например llama.cpp или LM Studio. Для сохранения возможностей режима рассуждений рекомендуется использовать контекст не менее 128K токенов. Модель распространяется по лицензии Apache-2.0.

ByteOtter/Qwen3.8-27B-TAK-Reasoning-GGUF — квантованная версия Qwen3.8-27B, разработанная ByteOtter на основе модели Qwen/Qwen3.8-27B. Это текстовая генеративная модель в формате GGUF для запуска через llama.cpp. Дообучение и слияние моделей не применялись: изменена только точность представления весов с использованием task-aware quantization (TAK), ориентированной на задачи рассуждения. Модель предназначена прежде всего для задач, требующих логического анализа и пошагового рассуждения, а также может применяться для генерации текста, ответов на вопросы, работы с кодом, математикой, извлечения и структурирования информации. Размер файла составляет 8,372 ГБ, используется смешанная точность с целевым форматом UD-IQ2_S. В опубликованной оценке модель набрала 82,81% в категории reasoning, превысив сопоставимую квантованную версию Unsloth на 5,47 процентного пункта и немного уступив исходной BF16-модели с результатом 83,59%. Сильной стороной является сохранение высокой способности к рассуждению при существенно меньшем размере по сравнению с BF16-версией, а также улучшенные относительно компаратора показатели по математике, следованию инструкциям, суммаризации, структурированному выводу и связности. Ограничения включают возможное изменение качества, стабильности и точности из-за квантования; результаты на диагностических наборах не следует считать универсальными гарантиями. Модель содержит только текстовый GGUF и не включает мультимодальный проектор. Языки и размер контекстного окна в README не указаны, поэтому их следует уточнять в карточке базовой модели. Производитель рекомендует использовать свежую сборку llama.cpp. Производная распространяется по лицензии Apache License 2.0 в соответствии с лицензией базовой модели.

Qwen3.8-Flash-Next-FP8 — экспериментальная модель семейства Qwen, разработанная командой Qwen. Это причинная языковая модель с vision encoder, предназначенная для обработки текста и изображений, генерации ответов и решения мультимодальных задач. FP8-вариант содержит квантизированные веса и конфигурацию в формате Hugging Face Transformers и совместим с Transformers, vLLM, SGLang и TokenSpeed. Модель имеет 125 млрд параметров, из которых 6 млрд активируются при обработке, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура включает 48 слоёв, гибрид Gated DeltaNet и Qwen Sparse Attention, Mixture of Experts с 512 экспертами и активацией 10 маршрутизируемых экспертов плюс одного общего. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 000 000 токенов. Для повышения эффективности на длинном контексте используется разреженное внимание на уровне микроблоков. Ключевые сильные стороны модели — высокая вычислительная эффективность, сниженная задержка при работе с длинным контекстом, поддержка мультимодальных сценариев и экономичное FP8-квантизирование с заявленной близостью характеристик к исходной модели. Ограничения включают экспериментальный статус архитектуры, отсутствие в представленном README сведений о поддерживаемых языках, подробных результатах бенчмарков и требованиях к оборудованию. Модель распространяется по лицензии qwen-community-1.0; условия следует уточнять в файле LICENSE.

AIArchiveInfo/Qwen3-Embedding-0.6B — побитовая архивная копия Qwen/Qwen3-Embedding-0.6B, разработанной командой Qwen. Это плотная модель семейства Qwen3 с 507,6 млн параметров, предназначенная для преобразования текстов в векторные представления и сравнения их семантической близости. Она подходит для поиска по тексту и коду, классификации и кластеризации текстов, поиска параллельных фрагментов на разных языках и построения семантического поиска. Модель поддерживает более 100 языков, контекст до 32 768 токенов и настраиваемую размерность эмбеддингов от 32 до 1024. Она учитывает инструкции, заданные для конкретной задачи; исходная карточка рекомендует формулировать их на английском в многоязычных сценариях. Для работы с архитектурой Qwen3 требуется Transformers версии 4.51.0 или новее. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0; согласно карточке, эта копия не обучалась и не изменялась.

Карточка модели Rasputin312/Qwen3-Embedding-4B_both_0_pct_3_epochs на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-4B, поэтому описание составлено по ней. Qwen3-Embedding-4B — мультиязычная модель для построения текстовых эмбеддингов из семейства Qwen3, разработанная командой Qwen. Это плотная модель на базе Qwen3-4B-Base, дообученная для задач поиска и сравнения текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Модель подходит для семантического поиска по документам и коду, оценки сходства предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 40 960 токенов по метаданным и до 32 тысяч токенов в описании модели. Размер эмбеддинга можно настраивать от 32 до 2560 измерений; также поддерживаются инструкции, настраивающие представление под задачу.

Это конвертированная в формат Llama версия инструктивной языковой модели Qwen2.5-7B-Instruct. Репозиторий создан llamafy; модель предназначена для программ, совместимых с форматом Llama. По метаданным, это плотная причинная языковая модель на 7,1 млрд параметров с контекстом до 4096 токенов, сохранённая в safetensors и используемая через библиотеку Transformers. Модель подходит для диалогов и генерации текста, включая код и структурированные ответы, которые поддерживает базовая Qwen2.5-7B-Instruct. В метаданных указаны языки китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Лицензия в предоставленных данных не указана.

Qwopus3.6-27B-v2-abliterated — мультимодальная модель для диалога и рассуждений, созданная на основе Jackrong/Qwopus3.6-27B-v2. Автор карточки описывает её как версию Qwen3.5 с гибридной архитектурой: линейное внимание GatedDeltaNet сочетается с полным вниманием, а модель поддерживает обработку изображений. Отказные направления ортогонализированы в матрицах записи остаточного потока на 26-м слое без дообучения; модуль зрения не изменён. В карточке приведены результаты HumanEval pass@1 95,1%, GSM8K 86,0% и MMLU-Pro 83,2%, а также снижение частоты отказов с 100% до 8%. Весовой формат — bf16 Safetensors; многотокенный предсказательный модуль включён для спекулятивного декодирования. Для развёртывания доступны отдельные варианты INT4 и GGUF. Лицензия в предоставленных данных не указана.

Tess-2.0-Llama-3-70B — универсальная языковая модель для диалога и генерации текста, разработанная Migtissera; вычислительные ресурсы для обучения предоставила KindoAI. Это плотная autoregressive-модель семейства Llama 3 на архитектуре LlamaForCausalLM с 69,5 млрд параметров и контекстом до 8192 токенов. Она принимает текстовые инструкции и выдаёт текст, поддерживает формат диалога Llama 3. Модель дообучена на базе meta-llama/Meta-Llama-3-70B в течение двух эпох на наборе Tess-2.0, который по принципам LIMA включает около 100 тысяч высококачественных примеров по программированию и общим темам. Подходит для диалоговых помощников, ответов на вопросы, написания текстов и помощи с кодом. Карточка характеризует набор данных как мало ограничивающий следование инструкциям, поэтому модель может отвечать на нежелательные запросы. Модель может выдавать неточную или вводящую в заблуждение информацию, а также предвзятый, оскорбительный или иной неподходящий контент; ответы следует проверять. Лицензия — Llama 3 License (llama3).

Tess-2.0-Llama-3-70B-v0.2 — чат-модель общего назначения, разработанная Migtissera и дообученная на базе Meta Llama 3 70B. Версия 0.2 включает дополнительный этап снятия ограничений на ответы. Модель содержит 69,5 млрд параметров, использует плотную архитектуру Llama и принимает запросы в формате Llama 3; заявленная длина контекста — 8192 токена. Модель предназначена для диалогов, следования инструкциям, генерации кода и ответов на общие вопросы. Дообучение выполнено на примерно 100 тысячах высококачественных примеров кода и общего назначения по принципам LIMA, в течение двух эпох с низкой скоростью обучения. Модель ориентирована на широкий спектр запросов и обычно охотно выполняет инструкции. Возможны неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или иной неподходящий контент; факты следует перепроверять. Модель описана как uncensored. Лицензия — Llama 3; применимые условия использования определяются лицензией Meta Llama 3.

Whittle-Qwen-3.8-35B-A3B-GGUF — это квантизированная версия модели logic65/Whittle-Qwen-3.8-35B-A3B, разработанная David Aylward (logic65) при участии Claude от Anthropic. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp без патчей. Она ориентирована на генерацию текста, диалоги, рассуждения, программирование и математические задачи, а также на исследовательские сценарии локального запуска. Модель построена в формате qwen4_exp как смесь экспертов (Mixture of Experts): содержит около 35,1 млрд параметров, из которых активно используется примерно 3 млрд. Важная особенность — 10-миллиардная n-граммная память, являющаяся несущей частью модели; её отключение существенно ухудшает результаты на незнакомом коде. Модель дистиллирована из Qwen3.8-27B и использует память из Qwen3.8-Flash-Next. Заявлена поддержка английского, китайского и многоязычного текста. Доступны варианты квантизации от Q3_K_M до Q8_0 размером примерно от 16,7 до 37,8 ГБ. Сильные стороны модели — низкое число активных параметров при большом общем размере, поддержка режима рассуждений и эффективный локальный запуск со скоростью, близкой к моделям с 3 млрд активных параметров. Для работы требуется сохранять компонент памяти целиком; рекомендуется размещать его в оперативной памяти, поэтому требования к системе существенно зависят от выбранной квантизации. README не указывает максимальный контекст. Для лучших результатов рекомендуется включать thinking и использовать сэмплирование; жадная генерация может зацикливаться. Модель распространяется по лицензии Apache-2.0.

XORTRON.CriminalComputing.LARGE.2026.3 — диалоговая языковая модель, опубликованная darkc0de и созданная дообучением Mistral-Large-Instruct-2411. Это плотная архитектура Mistral с 122,2 млрд параметров и контекстом до 131 072 токенов; модель работает через Transformers и распространяется в формате safetensors. Карточка сообщает о многоязычной поддержке, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель предназначена для генерации текста в диалоге, ответов на вопросы, рассуждений, программирования и сценариев с длинным контекстом. В README указана abliteration: в приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, а KL-дивергенция — 0,0578. Это означает, что модель настроена на существенно меньшее число отказов; результаты таблицы не гарантируют поведение на всех запросах. По метаданным лицензия — WTFPL; значительный размер требует мощного оборудования для запуска.

Карточка модели gdorane01/XORTRON.CriminalComputing.larger на Hugging Face совпадает с карточкой darkc0de/XORTRON.CriminalComputing.LARGE.2026.3, поэтому описание составлено по ней. XORTRON.CriminalComputing.LARGE.2026.3 — диалоговая языковая модель, опубликованная darkc0de и созданная дообучением Mistral-Large-Instruct-2411. Это плотная архитектура Mistral с 122,2 млрд параметров и контекстом до 131 072 токенов; модель работает через Transformers и распространяется в формате safetensors. Карточка сообщает о многоязычной поддержке, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель предназначена для генерации текста в диалоге, ответов на вопросы, рассуждений, программирования и сценариев с длинным контекстом. В README указана abliteration: в приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, а KL-дивергенция — 0,0578. Это означает, что модель настроена на существенно меньшее число отказов; результаты таблицы не гарантируют поведение на всех запросах. По метаданным лицензия — WTFPL; значительный размер требует мощного оборудования для запуска.

ZYH-LLM-Qwen2.5-14B-V5 — диалоговая языковая модель YOYO-AI, созданная слиянием моделей на базе Qwen2.5-14B. В README описаны этапы объединения инструкционных, кодовых и рассуждающих моделей; среди них есть варианты Qwen2.5, Cogito, DeepCoder и другие. Это плотная авторегрессионная архитектура Qwen2 с 14 млрд параметров, опубликованная в формате safetensors. Модель предназначена для генерации текста в диалоге, выполнения инструкций, помощи с кодом и задач, требующих рассуждений. Метаданные указывают контекст до 1 010 000 токенов, а в карточке заявлена поддержка английского и китайского языков. Модель распространяется по лицензии Apache-2.0. README не приводит результаты сравнительных оценок или подробные рекомендации по развёртыванию. Заявленная длина контекста сама по себе не подтверждает качество ответов на всём этом диапазоне; фактическую производительность следует проверять на целевых задачах.

Alaya-7B-Chat — разговорная языковая модель компании DataCanvas, построенная на архитектуре MPT. Модель обучали на более чем 1,5 трлн токенов многоязычных данных; версия Chat прошла supervised fine-tuning на более чем 500 тыс. примеров инструкций и диалогов. В карточке указаны китайский и английский языки, формат весов PyTorch и лицензия Apache 2.0, допускающая коммерческое использование. Модель предназначена для многоходового общения, ответов на вопросы, написания кода, извлечения информации, понимания прочитанного и творческого письма. Дополнительная настройка охватывает китайско- и англоязычные логические рассуждения, ролевые сценарии, самоописание и отказ на часть запросов с предвзятым содержанием. Разработчик предупреждает, что модель может выдавать ошибочные или непредвиденные ответы, а настройка на отказ не устраняет токсичные выходы полностью. Для практического применения следует проверять ответы; при использовании модели рекомендуется указывать DataCanvas как источник.

RedHatAI/DeepSeek-R1-Distill-Qwen-32B-FP8-dynamic — это квантизированная версия языковой модели DeepSeek-R1-Distill-Qwen-32B, разработанная Neural Magic. Модель построена на архитектуре Qwen2ForCausalLM, принимает текстовые входные данные и генерирует текст, поэтому предназначена для задач диалога, рассуждений, ответов на вопросы и других сценариев применения каузальных языковых моделей. Поддерживаемые языки и размер контекстного окна в README не указаны. Модель содержит около 32 млрд параметров и использует FP8-квантизацию весов и активаций, что примерно вдвое снижает объём хранения и требования к GPU-памяти по сравнению с представлением FP16. Квантизации подвергаются линейные операторы внутри трансформерных блоков: веса квантизуются симметрично по каналам, а активации — симметрично по токенам. Для подготовки использован LLM Compressor, а эффективное развертывание рекомендуется через vLLM. По приведённым результатам FP8-версия сохраняет около 99% средних показателей исходной модели на тестах рассуждений и OpenLLM Leaderboard, хотя на отдельных наборах качество немного снижается. Ограничения включают возможные потери точности из-за квантизации, необходимость совместимого программного и аппаратного окружения для эффективной работы с FP8, а также отсутствие в README сведений о контекстном окне и языковом охвате. Модель распространяется по лицензии MIT.

EuroBERT-2.1B — мультиязычная плотная модель-энкодер семейства EuroBERT, разработанная командой EuroBERT. Модель содержит 2,1 млрд параметров и обрабатывает последовательности длиной до 8192 токенов. Это masked language model для заполнения пропусков; её также можно дообучать или использовать с соответствующими головами для классификации текста и токенов, ответов на вопросы, поиска и регрессии. Модель рассчитана на английский, французский, немецкий, испанский, китайский, итальянский, русский, польский, португальский, японский, вьетнамский, нидерландский, арабский, турецкий и хинди. Карточка также указывает поддержку кода и математики. Для работы подходит библиотека Transformers версии 4.48.0 и выше; веса доступны в форматах PyTorch и Safetensors. EuroBERT-2.1B показала сильные результаты в оценках мультиязычного поиска, классификации, регрессии, качества переводов, кода и математических задач; авторы сообщают, что она превзошла сравниваемые системы в проведённых оценках. Как энкодер, она не предназначена для свободной генерации длинных ответов. Лицензия — Apache-2.0.

Eurux-8x22B-KTO — языковая модель семейства Mixtral, разработанная OpenBMB. Это дообученная версия Mixtral-8x22B: сначала выполнено SFT, затем KTO на многоходовых траекториях UltraInteract и парах предпочтений UltraFeedback. Модель предназначена для генерации текста, рассуждений, диалогов и следования инструкциям; в карточке заявлены сильные результаты в задачах программирования, математики, знаний и рассуждений. Модель использует архитектуру Mixtral MoE, распространяется в формате safetensors, содержит 22 млрд параметров и поддерживает контекст до 65 536 токенов. Для запуска в README приведён пример использования через Transformers и PyTorch. Лицензия — Apache-2.0. Оценочные результаты приведены для набора бенчмарков по коду, математике, рассуждениям, знаниям, следованию инструкциям и диалогу; они не гарантируют качество на конкретных пользовательских данных. Языки обучения или поддерживаемые языки в предоставленных сведениях не перечислены.

MoonRide/gemma-4-31B-it-heretic-ara-GGUF — GGUF-версия инструкционной модели MoonRide/gemma-4-31B-it-heretic-ara, созданной на базе Google Gemma 4 31B IT. Модель модифицирована с помощью Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA) с сохранением row-norm; заявленная цель модификации — уменьшить склонность исходной модели к отказам. Семейство Gemma разработано Google DeepMind. Модель относится к плотной архитектуре с примерно 30,7 млрд параметров, 60 слоями, размером скользящего окна 1024 токена и контекстом до 256K токенов. Она принимает текст и изображения и генерирует текст; для семейства Gemma 4 заявлена поддержка более 140 языков. Архитектура использует гибридное внимание, объединяющее локальное скользящее и глобальное внимание, а также оптимизации для длинного контекста. Файлы представлены в различных вариантах GGUF-квантизации; рекомендуемые README варианты занимают около 12,1 и 12,6 ГБ. Основная сильная сторона модели — сочетание крупного контекста, мультимодального понимания, возможностей генерации текста, рассуждений и программирования с существенно меньшим числом отказов по сравнению с исходной Gemma 4 31B IT: в приведённом сравнении отказов было 11 из 100 против 99 из 100. При этом декенсоринг может изменить поведение и защитные свойства исходной модели; указанная оценка основана на ограниченном внутреннем тесте, а KL divergence относительно оригинала составляет 0,0508. Для загрузки README рекомендует llama.cpp версии b8751 или новее. Модель распространяется по лицензии Apache 2.0. Перед использованием необходимо учитывать, что снижение числа отказов не означает гарантии корректности, безопасности или точности ответов, а качество и потребление памяти зависят от выбранной GGUF-квантизации и аппаратной конфигурации.