I.1Поиск и навигация по информации

LeoLM/leo-hessianai-7b-chat-bilingual — двуязычная чат-модель LAION и HessianAI, разработанная в сотрудничестве с Бьёрном Плютером и Кристофом Шухманном. Это дообученная модель LeoLM/leo-hessianai-7b на архитектуре Llama 2: причинный декодерный трансформер с 6,6 млрд параметров и контекстом до 8192 токенов. Модель принимает текст и генерирует текст на английском и немецком языках. Она предназначена для диалога, написания текстов, объяснений и обсуждения тем. Модель демонстрирует более слабые результаты в математике и сложных рассуждениях. Выпущена по лицензии LLAMA 2 COMMUNITY LICENSE AGREEMENT. Как и другие языковые модели, LeoLM может давать неточные, предвзятые или нежелательные ответы. Перед использованием в приложениях разработчикам следует проверить её поведение и настроить меры безопасности под конкретный сценарий.

unsloth/LFM2.5-1.2B-Instruct-GGUF — квантизированная GGUF-версия текстовой instruction-tuned модели LFM2.5-1.2B-Instruct, разработанной Liquid AI и подготовленной для локального развёртывания с использованием Unsloth. Модель предназначена для llama.cpp и совместимых инструментов, оптимизирована для CPU-инференса и работы на периферийных устройствах с ограниченными ресурсами. Модель содержит 1,17 млрд параметров, 16 слоёв, включая 10 double-gated LIV convolution blocks и 6 GQA blocks, поддерживает контекст до 32 768 токенов и словарь из 65 536 токенов. Это текстовая модель без поддержки изображений или аудио; заявлены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Она рекомендована для агентских сценариев, извлечения данных и RAG, поддерживает вызов функций и ChatML-подобный шаблон диалога. К сильным сторонам относятся небольшой размер, низкие требования к памяти, высокая скорость инференса на CPU и мобильных NPU, а также возможность запуска менее чем с 1 ГБ памяти. Модель не рекомендуется для задач, требующих обширных фоновых знаний, и для программирования. Репозиторий указывает лицензию lfm1.0; формат GGUF снижает требования к ресурсам, но является квантизированной версией исходной модели.

LiquidAI/LFM2.5-VL-3B-MLX-4bit — MLX-экспорт мультимодальной vision-language модели LFM2.5-VL-3B, разработанной Liquid AI. Версия предназначена для запуска вывода на устройствах Apple Silicon и поддерживает обработку изображений вместе с текстовыми запросами. Модель построена на языковой основе LFM2.5-2.6B и оснащена визуальным энкодером SigLIP2 NaFlex объёмом 400 млн параметров. Общее количество параметров составляет около 3 млрд, используется 4-битная квантизация с размером группы 64, а размер модели — около 2,2 ГБ. Длина контекста — 32K токенов, нативное разрешение изображений — до 512×512 пикселей. Поддерживаются OCR, понимание документов, мультиязычное понимание изображений, предсказание ограничивающих рамок и вызов функций. Заявлена поддержка арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского и вьетнамского языков. Сильные стороны модели — сочетание визуального и языкового анализа, компактный размер, 4-битное представление и адаптация для эффективного запуска на Apple Silicon. Ограничения включают зависимость от экосистемы MLX и указанный предел нативного разрешения изображений; прочие ограничения производительности в README не описаны. Модель распространяется по лицензии LFM 1.0.

Llama-3.1-8B-Instruct-EI1-2ep-sft — дообученная методом supervised fine-tuning (SFT) модель на архитектуре Llama, созданная на основе meta-llama/Llama-3.1-8B-Instruct. В репозитории указано значение loss 0,3970 на наборе оценки, но сведения о датасете и подробные результаты отсутствуют. Модель предназначена для генерации текста и диалогов. Она содержит 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors. Метаданные также указывают интерфейс вызова инструментов; языки и специальные области применения для этой версии не описаны. Лицензия — Llama 3.1 Community License (идентификатор llama3.1); использование регулируется её условиями.

voidful опубликовал в формате Transformers разговорную языковую модель семейства Llama 3.2 с плотной архитектурой LlamaForCausalLM и 7,5 млрд параметров. Метаданные указывают на генерацию текста, чат и интерфейс вызова инструментов; модель принимает текст и генерирует текст. Заявленная длина контекста составляет 131 072 токена. Карточка README называет модель «Patched LLama 3.2 8B from LLaMA 3.2 11B Model» и упоминает изменение весов, но не объясняет метод и результат патчинга. Языки и лицензия в карточке не заполнены. Перед использованием следует учитывать, что README не описывает качество, обучающие данные, ограничения и условия лицензии; оценить их по представленным сведениям нельзя.

Alecator/llama-3-Buzzy — дообученная языковая модель Alecator на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также указана поддержка интерфейса вызова инструментов. Контекстное окно составляет до 131 072 токенов, основной язык карточки — английский. Модель можно использовать для диалоговых помощников, генерации и продолжения текста, а также сценариев с вызовом инструментов. В README указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Данных о специальных ограничениях качества или областях применения в карточке нет.

MN-SlushoMix — разговорная языковая модель семейства Mistral, представленная автором как смесь MN-Slush и NemoMix Unleashed. По метаданным, это плотная модель с архитектурой MistralForCausalLM объёмом 12,1 млрд параметров, предназначенная для генерации текста и диалогов. Указаны интерфейс вызова инструментов и контекстное окно до 1 024 000 токенов. Модель основана на mistralai/Mistral-Nemo-Instruct-240; карточка упоминает смесь моделей, а метаданные классифицируют её как дообучение. Данные не уточняют поддерживаемые естественные языки или сравнительное качество. Репозиторий содержит веса safetensors; README также упоминает GGUF. Лицензия в предоставленных сведениях не указана.

TheDrummer выпустил Temitoku x Mitekuto — языковую модель для генерации текста и диалогов, созданную с помощью mergekit методом passthrough на основе unsloth/Mistral-Small-Instruct-2409. Модель использует плотную архитектуру MistralForCausalLM и содержит 38,8 млрд параметров; заявленная длина контекста — до 131 072 токенов. Она работает через библиотеку Transformers и распространяется в формате safetensors. Модель подходит для диалогового общения, генерации текста и сценариев с интерфейсом вызова инструментов. README указывает на объединение предварительно обученных языковых моделей, но перечисляет только одну базовую модель. Лицензия в предоставленных данных не указана.

mT5-small — компактная многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5, содержащая 157,4 млн параметров. Она предварительно обучена на корпусе mC4, охватывающем 101 язык, в формате преобразования текста в текст; контрольные точки доступны в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. Модель служит базой для дообучения под конкретные задачи NLP: например, суммаризацию, перевод или ответы на вопросы. Сам чекпойнт проходил только предварительное обучение без supervised-настройки, поэтому для качественного решения прикладных задач его следует дообучить. Поддержка языков включает русский и английский, а также множество других языков.

Nanonets-OCR2-3B-GGUF — это квантизированная GGUF-версия мультимодальной модели Nanonets-OCR2-3B, разработанной nanonets. Квантизацию выполнил mradermacher. Модель предназначена для задач оптического распознавания символов, преобразования изображений в текст, конвертации PDF в Markdown и визуального ответа на вопросы (VQA). Модель поддерживает мультимодальный ввод: для работы используются файл модели GGUF и дополнительный multimodal supplement mmproj. Доступны варианты с разными уровнями квантизации — от Q2_K до Q8_0, а также f16; размеры файлов составляют примерно от 1,4 до 6,3 ГБ, без учета или с учетом дополнительного multimodal-компонента в зависимости от конфигурации. Заявлена поддержка многоязычных сценариев, однако конкретный перечень языков и размер контекстного окна в README не указаны. Основные преимущества — возможность локального запуска, широкий выбор компромиссов между размером, скоростью и качеством, а также наличие специализированных OCR- и image-to-text-сценариев. Более легкие варианты подходят для экономии ресурсов, тогда как Q6_K и Q8_0 ориентированы на более высокое качество; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые. Сведения о лицензии базовой модели и квантизированной версии в README отсутствуют, поэтому условия использования необходимо уточнять отдельно.

Mungert/Nanonets-OCR-s-GGUF — это GGUF-сборка мультимодальной модели Nanonets-OCR-s, разработанной Nanonets и опубликованной пользователем Mungert. Модель предназначена для распознавания документов по изображениям и преобразования их содержимого в структурированный Markdown, поэтому подходит для OCR, обработки PDF и последующего анализа документов большими языковыми моделями. Модель основана на Qwen/Qwen2.5-VL-3B-Instruct и работает в сценарии image-text-to-text. Она распознаёт обычный текст, сложные таблицы с выводом в Markdown и HTML, математические формулы с преобразованием в LaTeX, изображения с описанием, подписи, водяные знаки, номера страниц, чекбоксы и радиокнопки. Для специальных элементов используются структурированные теги, включая <img>, <signature>, <watermark> и <page_number>, а состояния флажков обозначаются символами ☐, ☑ и ☒. Преимущество модели — специализированная обработка сложных документов и сохранение семантической структуры, полезной для автоматизированных рабочих процессов. GGUF-версия создана с помощью llama.cpp; в описании заявлен вариант квантования с выборочным повышением точности важных слоёв, что должно улучшать точность при заданном уровне квантования, но увеличивает размер файла. Точный размер модели, поддерживаемые языки помимо указанного английского, размер контекста и лицензия в карточке этой GGUF-сборки не указаны. Для запуска предусмотрена совместимость с экосистемой llama.cpp и GGUF.

ArchSpace-Collection публикует экспорт базовой OLMo 3 3B после четвёртого этапа обучения с SFT, ориентированного на рассуждения. Это плотная авторегрессионная языковая модель на 3,2 млрд параметров, реализованная в Transformers как Olmo3ForCausalLM; для загрузки не требуется удалённый код. В репозитории указаны скользящее оконное внимание размером 4 096 токенов и ёмкость контекста 65 536 токенов. Модель предназначена для генерации текста и диалогового использования, включая запросы с рассуждениями и интерфейс вызова инструментов. Обучающая длина последовательности составляла 32 768 токенов. README описывает техническую конфигурацию и экспорт, но не сообщает конкретные результаты оценивания или полный перечень поддерживаемых языков. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Omega AI 14B — диалоговая языковая модель семейства Omega AI, основанная на дообученной Qwen/Qwen3-14B. Это плотная причинная модель архитектуры Qwen3 с 14 млрд параметров; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогов, а метаданные также указывают интерфейс вызова инструментов. Контекст составляет 40 960 токенов. Модель подходит для диалоговых помощников и генерации ответов на текстовые запросы. README называет её рабочим кандидатом, но не приводит результатов оценки качества или подробных рекомендаций по применению. Условия использования и атрибуции исходной модели Qwen3-14B сохраняются; отдельная лицензия Omega AI в карточке не указана.

OpenBuddy — это мультиязычная чат-модель, разработанная проектом OpenBuddy на базе семейства Meta LLaMA. В репозитории представлена плотная авторегрессионная архитектура LlamaForCausalLM размером 12,9 млрд параметров, с контекстом до 65 536 токенов; веса сохранены в формате Safetensors. Модель предназначена для диалогов и генерации текста на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста с длинным контекстом. Она может выдавать ошибочные, вредные или оскорбительные ответы, поэтому не подходит для критически важных решений, медицинских рекомендаций и управления системами, где ошибка может причинить ущерб. Использование регулируется лицензией Llama 2: требуется соблюдать условия Meta и иметь право на доступ к исходной модели; модель предоставляется без гарантий.

OpenBuddy-openbuddy-mistral-22b-v21.1-32k — разговорная языковая модель OpenBuddy для многоязычного чата и генерации текста. Она основана на плотной архитектуре Mistral и содержит 22,1 млрд параметров; карточка рекомендует использовать быстрый токенизатор Transformers и указывает совместимость с Transformers и vLLM. Модель принимает текстовые запросы и генерирует текстовые ответы, а её нативное контекстное окно составляет 65 536 токенов. Модель предназначена для диалоговых сценариев на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Её можно применять для чат-ботов, ответов на вопросы, диалогового письма и суммаризации длинного контекста. Лицензия — Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют применять модель в критических сценариях, включая медицину и важные финансовые или юридические решения.

GestaltLabs/Ornstein-Hermes-3.6-27B-GGUF — набор GGUF-квантизаций модели GestaltLabs/Ornstein-hermes-3.6-27b, представляющей собой дообученную в формате Hermes версию Ornstein-3.6-27B на базе мультимодальной Qwen 3.6 с 27 млрд параметров. Квантизации подготовлены с помощью llama.cpp; для калибровки K- и I-квантизаций использован imatrix на 800 диалогах с применением инструментов из датасета Acta-Synthetic. Модель предназначена для мультимодальных задач image-text-to-text, диалогового взаимодействия, агентских сценариев, вызова функций и использования внешних инструментов. Она обучена работать с Hermes-форматом function calling и поддерживает tool use; заявлен английский язык. В репозитории доступны варианты от IQ2_M размером около 9,3 ГБ до Q8_0 размером около 26,6 ГБ, что позволяет выбирать баланс между требованиями к памяти и качеством. Более высокие разрядности обеспечивают большую точность, а агрессивные 3- и 2-битные варианты требуют меньше памяти, но заметно снижают качество. Модель распространяется в формате GGUF и совместима с llama.cpp, Ollama и LM Studio. Квантизация ориентирована на распределения данных, характерные для вызова инструментов, что может быть сильной стороной в агентских задачах, однако README не содержит независимых результатов оценки качества, максимального размера контекста и подробностей о поддерживаемых языках помимо английского. Лицензия — Apache 2.0, унаследованная от базовой модели Qwen 3.6.

Platyboros-Instruct-7B — разговорная модель Lodrick-the-Lafted на архитектуре Mistral, дообученная на Mistral-7B-Instruct-v0.2 с наборами jondurbin/airoboros-3.2 и garage-bAInd/Open-Platypus в формате Alpaca. Она предназначена для генерации ответов в диалоге и выполнения инструкций; принимает запросы в формате Mistral Instruct или Alpaca. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая показатели по AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0.

Qwen3.5-0.8B-MTP-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen компании Alibaba и представленной пользователем prithivMLmods. Модель предназначена для локального понимания и генерации текста и изображений, включая лёгкое OCR, разбор документов, визуальные вопросы и ответы, многоязычные чат-боты и базовые задачи программирования. Поддерживаются интеграции с Ollama, vLLM и llama.cpp, что позволяет использовать модель без облачных зависимостей, в том числе на маломощных устройствах и встраиваемых системах. Модель содержит около 0,8 млрд параметров и использует плотную мультимодальную архитектуру с комбинацией Gated DeltaNet и разреженного MoE, 24 слоями, скрытым размером 1024 и словарём из 248 тысяч токенов. Заявлена поддержка 201 языка, работа с текстом и изображениями, нативное контекстное окно 262 тысячи токенов и возможность расширения свыше 1 млн токенов с помощью YaRN. Формат MTP добавляет несколько выходных головок для предсказания будущих токенов и ускорения локального вывода без отдельной draft-модели. К сильным сторонам относятся компактность, низкие требования к памяти, мультимодальность, широкий контекст и варианты квантования размером примерно от 430 МБ до 834 МБ; для BF16 заявлено около 1,6 ГБ VRAM. Ограничения включают малый размер модели, поэтому её возможности могут быть недостаточны для сложного программирования, глубокого анализа и требовательных генеративных сценариев. Модель распространяется по лицензии Apache 2.0.

Это пакет GGUF-весов Qwen3.5-27B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска модели на локальном кластере. Пакет основан на unsloth/Qwen3.5-27B-MTP-GGUF и разбивает исходный GGUF на артефакты по слоям; библиотека запуска — Mesh LLM. Указанный вариант квантования — Q4_K_XL. Модель предназначена для локального чат-инференса, в том числе на нескольких машинах, когда целиком разместить GGUF на одном узле затруднительно. Mesh LLM позволяет подключить её через локальный API, совместимый с OpenAI Chat Completions. Карточка отсылает к исходной модели за сведениями об архитектуре, шаблоне чата, параметрах генерации и лицензии; здесь эти условия не приведены.

unsloth/Qwen3.5-2B — постобученная мультимодальная модель от Unsloth на базе Qwen/Qwen3.5-2B. Она сочетает причинную языковую модель с визуальным энкодером и предназначена для диалогов, понимания изображений и вызова инструментов. Модель содержит 2 млрд параметров, использует гибридную архитектуру с Gated Delta Networks и Gated Attention и поддерживает контекст до 262 144 токенов. Модель подходит для прототипирования, разработки и специализированного дообучения; её можно запускать через Transformers, vLLM, SGLang и KTransformers. Qwen3.5 заявляет поддержку 201 языка и диалекта, однако в карточке нет списка языков, специфичного для этой версии. Модель работает в режиме без рассуждений по умолчанию; авторы также описывают режим рассуждений и возможности работы с видео в составе семейства Qwen3.5. Весовые файлы представлены в формате Safetensors. Лицензия — Apache-2.0. Масштаб в 2 млрд параметров делает модель удобной для экспериментов и настройки под конкретные задачи, но карточка рекомендует прежде всего прототипирование и разработку; производительность и пропускная способность зависят от инфраструктуры и выбранного движка.

Qwen3.5-397B-A17B-MLX-8bit — 8-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_vlm, а модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Модель предназначена для задач генерации текста и работы с изображениями и текстом; в карточке указан тип pipeline image-text-to-text. Ключевая характеристика — размер исходной модели 397B и 8-битное представление весов. Сведения о поддерживаемых языках, размере контекста и точной архитектуре в README не приведены. К преимуществам относятся существенное снижение требований к памяти по сравнению с исходной моделью и оптимизация для экосистемы Apple Silicon. Ограничения связаны с квантованием, возможными потерями качества относительно полной версии и зависимостью от совместимого оборудования и программного окружения MLX. Модель распространяется по лицензии Apache-2.0; LM Studio не является её разработчиком и не гарантирует точность, безопасность или пригодность результатов.

Это конвертированная версия Qwen3.6-35B-A3B, подготовленная exolabs для запуска через vLLM. Весы исходного GGUF с MXFP4-квантованием экспертов MoE и тензорами в форматах K-quant, Q8 и F32 были деквантованы и преобразованы в safetensors с точностью BF16; архитектурные тензоры Qwen3.6/GDN были переименованы и согласованы для загрузки в Transformers и vLLM. Модель предназначена для диалоговой генерации и обслуживания через vLLM. Хотя в метаданных указана задача image-text-to-text и способность vision, визуальная башня в этом артефакте отсутствует: README рекомендует запускать его только для обработки текста с параметром --language-model-only. Для мультимодального анализа изображений этот файл модели не подходит. В репозитории 21 шард safetensors общим размером около 69,3 ГБ; README сообщает об успешных проверках загрузки, генерации и запуска в vLLM. Лицензия указана как other, поэтому перед использованием следует проверить её условия на странице модели.

Это независимая MLX-квантизация весов официальной модели Qwen/Qwen3.8-27B, подготовленная для нативного speculative decoding через MTPLX 2.6.0 на компьютерах Apple Silicon. Разработчик производной сборки — автор репозитория yc777; базовую модель разработала команда Qwen. Модель предназначена для генерации текста и запуска локальных OpenAI-совместимых сервисов. Основная часть весов представлена в 4-битном аффинном формате с размером группы 64, а MTP sidecar сохранён в BF16 и необходим для нативного многошагового предсказания. Поддерживается архитектура qwen3-next-mtp, заявлен английский язык, а пакет занимает около 15 ГБ на диске. Для работы требуются Mac на Apple Silicon с достаточным объёмом unified memory и MTPLX версии 2.6.0 или новее с поддержкой qwen3-next-mtp. Сборка предназначена для MTPLX и не поддерживается в oMLX 0.5.3 в режиме прямой загрузки. Главное преимущество — возможность ускоренной генерации с MTP: на M3 Max с 128 ГБ памяти авторы измерили 33,9 токена в секунду в end-to-end API-тесте, а пиковые наблюдения в интерфейсе превышали 40 токенов в секунду. Эти показатели зависят от запроса, длины контекста и ответа, давления на память, версии MTPLX и степени принятия черновых токенов; ускорение не гарантируется для каждого сценария. MTP sidecar увеличивает требования к диску и памяти по сравнению с полностью 4-битной конвертацией, а первый запрос после простоя включает загрузку и прогрев модели. Модель распространяется по лицензии Apache-2.0. При распространении производной версии необходимо сохранять исходную лицензию и атрибуцию Qwen. Это не официальный релиз Qwen или MTPLX.

llmfan46/Qwen3.8-27B-Ultra-Uncensored-Heretic-Native-MTP-Preserved — дообученная мультимодальная модель автора llmfan46 на базе Qwen/Qwen3.8-27B. Это плотная модель класса Qwen3.5 с 27 млрд параметров, архитектурой причинного языкового моделирования и визуальным энкодером; в репозитории сохранены 15 компонентов MTP для многотокенного предсказания. Модель предназначена для диалога, ответов на запросы с изображениями и видео, а также общих задач рассуждения и генерации текста. Автор применил abliteration, чтобы снизить частоту отказов: в приведённом тесте модель отказала в 3 из 100 случаев против 91 из 100 у исходной модели. README приводит результаты MMLU для исходной Qwen3.8-27B, а не отдельную оценку этой версии. Модель поддерживает визуальное понимание изображений и видео; заявленная длина контекста — 262 144 токена с расширением до 1 000 000. В режиме thinking модель сначала формирует рассуждения, которые можно отключить настройкой запроса. Файлы представлены в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Снижение числа отказов означает, что модель может отвечать на запросы, от которых исходная версия отказалась бы; приведённые тесты не устанавливают качество и безопасность ответов в других сценариях.

gubernac/qwen3.8-27b-unc-fp8 — модифицированная и квантованная версия Qwen/Qwen3.8-27B. Базовая модель разработана командой Qwen компании Alibaba, а данный вариант подготовлен как сборка OrcaRouter. Из модели удалено направление отказа от ответа методом abliteration, после чего она офлайн квантована в Block-FP8 по схеме официальной Qwen3.8-27B-FP8. Это плотная мультимодальная vision-language модель для работы с текстом и изображениями, рассуждений, вызова инструментов, function calling и исследовательского red-teaming. Архитектура Qwen3_5ForConditionalGeneration включает 64 слоя, скрытое представление размером 5120, гибридное внимание Gated DeltaNet и full attention, vision-language tower и MTP-голову для speculative decoding. Модель содержит 27 млрд параметров, поддерживает английский и китайский языки и контекст до 262 144 токенов. Линейные веса хранятся в Block-FP8 E4M3 с размером блока 128×128 и динамическими активациями, а vision tower, нормы, embeddings и lm_head сохранены в BF16. Главное преимущество сборки — сохранение мультимодальности, большого контекста, рассуждений, инструментов и MTP при совместимости с соответствующим vLLM-путём исполнения. Ключевое ограничение и риск — существенное удаление защитного выравнивания: модель может выполнять вредоносные, незаконные и иные опасные запросы, от которых базовая версия отказалась бы. Поэтому она предназначена для легитимных исследований интерпретируемости, AI safety, изучения механизмов отказа, оценки устойчивости и контролируемых экспериментов, а не для непосредственного использования конечными пользователями без собственных механизмов модерации и защиты. Условия распространения указаны как Apache 2.0; также необходимо соблюдать применимые законы и ограничения базовой модели.

amd/Qwen3.8-Flash-Next-Quark-MXFP4 — оптимизированная и квантованная версия Qwen3.8-Flash-Next, подготовленная Advanced Micro Devices (AMD) с использованием AMD-Quark. Модель предназначена для генерации текста на основе текстовых, изображений и видео входных данных и работает через Transformers и vLLM. В карточке указана поддержка английского языка. Модель использует архитектуру Qwen4ExpForConditionalGeneration с MoE-компонентами. Все веса и активации экспертов MoE, включая shared expert, квантованы в OCP MXFP4; механизмы внимания, vision tower, роутеры и другие перечисленные компоненты сохранены в формате bfloat16. Модель рассчитана на аппаратные платформы AMD MI350 и MI355, Linux, ROCm 7.2.3 и PyTorch 2.12.0. Размер модели и объём контекстного окна в README не указаны. Ключевое преимущество — снижение требований к вычислениям и памяти при сохранении близкой к исходной точности: на GSM8K модель получила 96,5 против 96,8 у базовой версии, что соответствует восстановлению 99,7% результата. Ограничения включают зависимость от специализированного оборудования AMD и указанного программного стека, а также отсутствие данных о качестве на других задачах и языках. Лицензия обозначена как other; для модификаций указано авторское право Advanced Micro Devices, Inc. за 2026 год, подробные условия приведены в файле LICENSE.

T5-Base — языковая модель семейства Text-To-Text Transfer Transformer, разработанная Колином Раффелом, Ноамом Шазиром и соавторами. Она представляет задачи обработки естественного языка в едином формате: принимает текст и генерирует текст. По метаданным, модель содержит 123,8 млн параметров, имеет архитектуру T5ForConditionalGeneration и контекст до 512 токенов; доступна в форматах Flax, PyTorch, Safetensors и TensorFlow. Основная задача этой версии в каталоге — перевод. Авторы также описывают применение T5 для суммаризации документов, ответов на вопросы, классификации, анализа тональности, перефразирования и регрессии, если модель дообучена под конкретную задачу. Модель рассчитана на английский, французский, румынский и немецкий языки и предварительно обучена на корпусе C4 в рамках смеси задач. Лицензия — Apache 2.0. Модель общего назначения, поэтому качество для конкретной задачи зависит от подходящего формата запроса и, часто, от дообучения. README не содержит конкретных оценок качества или подробных сведений об ограничениях и рисках; контекст в 512 токенов ограничивает длину входа.

watt-tool-70B-GGUF — это квантизированная версия языковой модели watt-tool-70B, разработанной watt-ai и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, вызова функций и взаимодействия с внешними инструментами; в метаданных также указана совместимость с задачами BFCL. Поддерживается запуск через llama.cpp, LM Studio и другие проекты на базе llama.cpp. Модель имеет размер 70B параметров; в README она связана с архитектурой Llama и заявлена для английского языка. Длина контекста, точный набор поддерживаемых модальностей и дополнительные архитектурные характеристики не указаны. Доступно множество вариантов квантизации от Q2 до Q8, различающихся размером файлов и качеством: Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и Q4_K_S отмечены как рекомендуемые, тогда как варианты Q2 и Q3 обеспечивают экономию памяти за счёт снижения качества. Сильными сторонами модели являются ориентация на function calling и tool use, а также возможность локального запуска на совместимом оборудовании. Ограничения связаны с потерями качества при использовании низкобитных вариантов квантизации, значительными требованиями к памяти у 70B-модели и отсутствием заявленной поддержки языков, кроме английского. Лицензия — Apache-2.0.

ZEUS 8B V17 – ABLITERATED V4 — диалоговая языковая модель, созданная T145 слиянием нескольких моделей семейства Llama 3.1 методом DARE TIES. В объединение вошли инструкционные и uncensored-варианты, включая unsloth/Meta-Llama-3.1-8B-Instruct; всего около 7,5 млрд параметров. Модель использует архитектуру LlamaForCausalLM и формат safetensors, поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ролевые сценарии и вызов инструментов через соответствующий интерфейс. В README приведены результаты оценивания Open LLM Leaderboard, в том числе 72,28% на IFEval и 30,97% на BBH; эти показатели не гарантируют качества на конкретных задачах. Модель позиционируется как abliterated и uncensored, поэтому может выдавать нежелательный или небезопасный контент. Лицензия — llama3.1.

ZEUS 8B V27 — языковая модель, созданная автором репозитория T145 слиянием нескольких моделей через mergekit и метод DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в слияние также вошли модели Skywork, HuatuoGPT, SuperNova Lite, SauerkrautLM, Lexi Uncensored и Storm. Это плотная авторегрессионная архитектура Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель подходит для диалоговых приложений и генерации ответов по инструкциям. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти оценки не гарантируют качество на конкретных пользовательских задачах. Языки, на которых модель специально оптимизирована, в предоставленных данных не обозначены. Лицензия в предоставленной карточке и метаданных отсутствует, поэтому условия использования здесь определить нельзя.