I.11Классификация, ранжирование и сопоставление

XVERSE-65B-Chat — диалоговая версия модели XVERSE-65B, разработанная компанией 元象 (XVERSE). Это плотная авторегрессионная языковая модель на архитектуре Transformer с 65,6 млрд параметров и контекстом до 16 384 токенов. Модель выровнена для диалоговой генерации; в обучающих данных уделялось внимание программированию, математике, ролевому общению, вызову инструментов, ответам на вопросы, генерации текста, безопасности, логическому рассуждению и пониманию языка. Модель предназначена для диалогов, ответов на вопросы, генерации текста, программирования и математики. В карточке приведён пример структурированного вызова инструмента поиска отеля, а также примеры общения на китайском и английском языках; модель заявлена как многоязычная. Для работы доступны веса в формате PyTorch и интеграция через Transformers. README предупреждает, что ответы могут быть неточными, предвзятыми или оскорбительными, и рекомендует проводить проверки безопасности перед развёртыванием. Исходный код распространяется по Apache-2.0; для весов действует отдельное соглашение, которое допускает академические исследования и бесплатное коммерческое использование.

Dragonboy3940/DeepSeek-V3-0324 — текстовая языковая модель семейства DeepSeek-V3, представленная в формате safetensors FP8. В карточке описаны улучшения рассуждений, генерации кода для веб-интерфейсов и игр, написания текстов на китайском языке, перевода, анализа поисковых результатов и вызова функций. Модель поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для генерации текста в диалоге, решения задач на рассуждение, написания и редактирования текстов, перевода и создания кода. Архитектура — DeepseekV3ForCausalLM; размер и контекстное окно соответствуют метаданным репозитория. Указана лицензия MIT. Карточка рекомендует обратиться к репозиторию DeepSeek-V3 за сведениями о локальном запуске.

Карточка модели arolstar52/gemma-4-31B-it на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

Карточка модели thethticles/gemma-4-31B-itvv на Hugging Face совпадает с карточкой ApocalypseParty/G4-31B-SFT-v6-2, поэтому описание составлено по ней. ApocalypseParty/G4-31B-SFT-v6-2 — дообученная версия мультимодальной Gemma 4 31B от Google DeepMind. Модель принимает текст и изображения и генерирует текст; её можно использовать для диалога, рассуждений, программирования и анализа визуальных данных, включая распознавание текста в документах, понимание диаграмм и интерфейсов. Поддерживаются вызовы инструментов и длинные контексты; для семейства Gemma 4 31B заявлено до 256K токенов. Gemma 4 обучена работать со многими языками, однако конкретные языки и настройки этого дообучения не описаны. Репозиторий содержит веса Safetensors и использует лицензию Apache 2.0. Карточка не приводит отдельных оценок качества или ограничений именно этой версии.

p-e-w опубликовал вариант Gemma 4 E2B Instruct с изменённым ограничением на генерацию: в карточке модель помечена как uncensored, decensored и abliterated. Это компактная плотная модель семейства Gemma 4 для условной генерации; её исходная архитектура использует сочетание локального скользящего и глобального внимания. В репозитории указаны веса safetensors и лицензия Apache-2.0. Модель предназначена для диалогов и генерации текста, рассуждений, помощи с кодом и мультимодального понимания. Gemma 4 E2B поддерживает обработку текста, изображений и аудио, включая распознавание речи и перевод речи в текст; семейство также заявляет анализ видео, вызов инструментов и контекст до 128 тысяч токенов для E2B. В карточке этой конкретной версии приведены теги any-to-any и image-text-to-text, но отдельные характеристики обучения и проверки именно варианта heretic-ara не описаны. Семейство Gemma 4 заявляет поддержку более 35 языков, однако конкретный перечень языков для этой сборки не приведён. Возможны фактические ошибки, предвзятость и трудности с неоднозначными либо сложными запросами; пометка uncensored указывает на ослабление ограничений, поэтому ответы могут включать нежелательный или вредный контент. Лицензия репозитория — Apache-2.0.

coder3101/gemma-4-E4B-it-qat-q4_0-unquantized-heretic — производная диалоговая мультимодальная модель на основе Google Gemma 4 E4B-it, опубликованная пользователем coder3101. Это плотная модель семейства Gemma 4 для обработки текста и изображений; карточка также описывает для семейства поддержку видео и аудио в вариантах E4B, хотя возможности именно этой сборки отдельно не подтверждены. Архитектура Gemma4ForConditionalGeneration использует гибридное внимание с локальными скользящими окнами и глобальными слоями. Для E4B в карточке семейства указан контекст до 128 тысяч токенов. Модель предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, OCR, а также агентных сценариев с вызовом инструментов. Карточка семейства заявляет поддержку более 35 языков, но не перечисляет языки именно этой сборки. Метаданные указывают на дообучение от Google Gemma 4 E4B-it QAT и формат safetensors; название и теги описывают сборку как uncensored/abliterated. Лицензия — Apache-2.0. Ответы могут содержать фактические ошибки, а качество зависит от формулировки запроса, сложности задачи и охвата обучающих данных; возможны трудности с языковыми нюансами и предвзятостью. Возможности аудио и видео приведены для семейства в целом и не подтверждены отдельно для данного репозитория.

GLM-5.2-NVFP4 — квантизированная версия языковой модели GLM-5.2 от zai-org, опубликованная lukealonso. Модель предназначена для генерации текста, диалоговых сценариев, программирования, многошагового агентного взаимодействия, вызова инструментов и function calling. Она поддерживает английский и китайский языки и работает через библиотеку Transformers. В основе лежит Mixture-of-Experts-модель с 744 млрд параметров, из которых 40 млрд активируются для каждого токена. В каждом MoE-слое используются 256 экспертов, восемь из которых выбираются для обработки токена; также применяется архитектура DeepSeek Sparse Attention (DSA). Неквантизированная часть модели включает attention-веса, плотные MLP-слои и общие эксперты в формате BF16. MLP-проекции необщих MoE-экспертов квантизированы в NVFP4 — 4-битный формат с блочными FP8-масштабами для групп по 16 элементов. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении специализированных экспертных весов и калибровке по естественной маршрутизации токенов. Калибровочные данные включали программирование, вызов инструментов, реальные пользовательские диалоги на разных языках и длинные последовательности свыше 8 тысяч токенов. Ограничения — необходимость мощной инфраструктуры: рекомендована конфигурация из восьми RTX PRO 6000 Blackwell по 96 ГБ с b12x MoE runner. Лицензия MIT.

JiRack Ultra 32B — плотная языковая модель на 32 млрд параметров от CMSManhattan, предназначенная для локального и облачного запуска на CPU. По карточке, модель основана на архитектуре DeepSeek R1-32B; метаданные указывают архитектуру Qwen2 и класс Qwen2ForCausalLM. Это расхождение не позволяет точнее установить происхождение весов. Модель использует токенизатор JiRack с тегами для маршрутизации, мультимедиа, зрения, звука, вызова инструментов и робототехники, однако заявленные теги сами по себе не подтверждают обработку соответствующих модальностей. Модель предназначена для диалоговой генерации текста, использования в RAG-системах и агентных сценариях с вызовом инструментов; также разработчик описывает применение в программировании и робототехнике. Доступны веса safetensors и GGUF-квантизации от Q2_K до Q8_0. Заявленное родное окно контекста — 131 072 токена. Карточка перечисляет поддержку английского, китайского, японского, корейского, французского, испанского, португальского, немецкого, итальянского, русского, арабского, вьетнамского и тайского языков. Для работы с полной точностью требуется около 64 ГБ или более оперативной памяти; для Q4_K_M разработчик рекомендует 24–32 ГБ. Качество, производительность и аппаратная совместимость не подтверждены независимыми оценками в карточке. Веса распространяются по лицензии MIT, но Docker-образ, интерфейс и готовые Ollama-квантизации могут требовать отдельной коммерческой лицензии.

unsloth/llama-3-8b-bnb-4bit — это 4-битная квантованная версия 8-миллиардной языковой модели Llama 3, подготовленная Unsloth на базе Meta-Llama-3-8B. Исходную модель разработала Meta. Она предназначена для генерации текста и кода, диалоговых сценариев, текстового автодополнения и последующего дообучения на пользовательских наборах данных. Модель принимает только текст и генерирует текст или код. В основе лежит авторегрессионная архитектура оптимизированного Transformer; заявлены Grouped-Query Attention и контекстное окно 8 тысяч токенов. Модель обучалась на смеси общедоступных онлайн-данных; дата отсечения знаний — март 2023 года. Квантование до 4 бит снижает требования к памяти и делает модель более удобной для локального запуска и тонкой настройки, однако может уменьшать качество по сравнению с полноточной версией. Модель не поддерживает изображения и другие модальности, а качество ответов зависит от исходной Llama 3 и конкретного сценария использования. В README указана лицензия Llama 3 (license: llama3).

OpenHermes-2.5-DPO-No-Robots — диалоговая языковая модель на архитектуре Mistral, разработанная OpenAccess AI Collective. Это версия OpenHermes-2.5-Mistral-7B, дополнительно обученная методом DPO на датасете предпочтений, созданном на основе наборов HuggingFace No Robots. Модель содержит 7,1 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы; контекст составляет до 32 768 токенов. Модель предназначена для диалога, следования инструкциям, генерации текста и помощи с кодом. Доступна в формате Safetensors. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.

DreamFast/Qwen-2.5-7b-apostate — разговорная языковая модель на базе Qwen2.5-7B-Instruct, изменённая сообществом с помощью Apostate. Веса представлены в формате safetensors с точностью bfloat16; модель содержит около 7,1 млрд параметров и использует плотную архитектуру Qwen2. Контекстная длина этой версии — 32 768 токенов. Модель предназначена для диалогов и генерации текста, в том числе ответов на инструкции, кода и структурированных данных. Её ключевое отличие — ослабленное поведение отказа: по описанию авторов, направление отказа удалено ортогональной проекцией в большинстве слоёв. README сообщает о высокой доле выполнения запросов из HarmBench и сохранении результатов на ряде тестов базовой модели; эти показатели получены в оценке авторов и не гарантируют такое же поведение в других сценариях. Поддерживаются английский и, согласно описанию семейства Qwen2.5, многоязычные сценарии, включая русский. Модель распространяется по лицензии Apache-2.0. Она может выдавать ответы на вредоносные запросы, поэтому требует контроля применения и выходных данных.

Cohere Command R (08-2024) — обновлённая версия языковой модели Command R от Cohere. Она предназначена для многоязычных сценариев генерации с поиском по источникам (RAG) и использования инструментов; также улучшена для математики, программирования и рассуждений. По имеющимся сведениям, модель принимает текст и генерирует текст. Данные не содержат сведений о размере, длине контекста и лицензии, поэтому эти характеристики не приводятся.

Это версия DeepSeek-R1-Distill-Llama-70B, преобразованная сообществом mlx-community из модели deepseek-ai/DeepSeek-R1-Distill-Llama-70B в формат MLX с помощью mlx-lm 0.20.2. Модель построена на плотной архитектуре Llama и содержит 69,5 млрд параметров. Она предназначена для диалогов и генерации текста, включая математические рассуждения, программирование и ответы на сложные вопросы. Контекстное окно составляет 131 072 токена; метаданные также отмечают интерфейс вызова инструментов. Версия ориентирована на запуск с mlx-lm. В карточке указана конверсия в MLX, но лицензия не приведена в доступных данных. Качество ответов и совместимость зависят от среды запуска и конкретного сценария.

Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-BF16 — это производная модель на архитектуре DeepSeek-V4, созданная автором Baekpica на основе deepseek-ai/DeepSeek-V4-Flash-0731. Это MoE-чекпойнт с 119,8 млрд основных параметров и примерно 13,8 млрд активных параметров на токен; эксперты были объединены методом REAM с последующим дообучением для восстановления поведения. Веса BF16 сохранены в формате safetensors, обновления SFT и маршрутизатора объединены с весами, поэтому отдельный адаптер не требуется. Метаданные указывают контекст до 1 048 576 токенов. Модель предназначена для генерации текста, диалогов, написания кода, многоязычных инструкций и работы с длинным контекстом, включая извлечение сведений из объёмного текста. Карточка описывает отдельные успешные проверки JSON, кода и длинного извлечения, но также фиксирует ошибки в арифметике, повторяющийся цикл самокоррекции и изменение поведения после слияния экспертов. Эти проверки не подтверждают общее качество длинноконтекстной работы или сохранение исходных бенчмарков. Лицензия — MIT; применяются условия и ограничения исходной модели.

coder3101/gemma-4-E2B-it-heretic — производная модель на базе Google Gemma 4 E2B IT, представленная в формате safetensors и доступная через Transformers. Это плотная мультимодальная модель семейства Gemma 4 для диалогов, рассуждений, генерации и редактирования кода, анализа изображений и аудио, а также сценариев с вызовом инструментов. README описывает для семейства Gemma 4 гибридное внимание, смешивающее локальные окна и глобальные слои, поддержку изображений, видео и аудио для вариантов E2B/E4B, а также контекст до 128 тысяч токенов для E2B/E4B; эти характеристики приведены для семейства и не подтверждены отдельно для этой производной версии. Метка heretic и теги uncensored/decensored/abliterated указывают на модификацию базовой модели, но карточка не поясняет способ и последствия этой модификации. README заявляет поддержку более 35 языков на уровне семейства. Модель распространяется по лицензии Apache-2.0. Возможны фактические ошибки, смещения, трудности с тонкими языковыми нюансами и сложными открытыми задачами; мультимодальные способности и характеристики контекста конкретной версии следует проверять отдельно.

ImanolSuarez/gemma-4-E2B-it-heretic-seguridadDeLaInformacion — производная диалоговая модель на основе Gemma 4 E2B от Google DeepMind. В карточке указано, что семейство Gemma 4 использует гибридное внимание: локальное скользящее окно сочетается с глобальным вниманием. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, а также мультимодального анализа; вариант E2B поддерживает обработку аудио. Контекст семейства для E2B составляет до 128 тысяч токенов. Семейство поддерживает более 35 языков, хотя отдельные языки именно этой производной модели не перечислены. Возможные сценарии включают ответы на вопросы по изображениям и документам, распознавание текста на изображениях, транскрибацию аудио и голосовые интерфейсы. В README модели отмечены типичные для генеративных систем ограничения: возможны фактические ошибки, предвзятость и затруднения с нюансами языка или сложными открытыми задачами. Модель распространяется по лицензии Apache-2.0; метаданные указывают форматы Safetensors и GGUF, включая BF16 и Q4_K_M.

GPT-5 Pro — модель OpenAI, предназначенная для решения сложных задач с упором на рассуждение, качество кода и следование инструкциям. Карточка описывает её как наиболее продвинутую модель OpenAI и отмечает улучшенный пользовательский опыт. Модель подходит для сложных запросов, требующих пошагового рассуждения, а также для задач программирования и выполнения подробных инструкций. Данных о размере, архитектуре, поддерживаемых языках, контексте, модальностях и лицензии в предоставленных источниках нет.

NVIDIA Kimi-K2.5-Thinking-Eagle3 — текстовая авторегрессионная модель, основанная на Moonshot AI Kimi-K2.5 и включающая Eagle3 для спекулятивного декодирования с Model Optimizer. В метаданных указаны архитектура Eagle3DeepseekV2ForCausalLM семейства Kimi-K2, 1,8 млрд параметров и контекст до 262 144 токенов. Модель предназначена для разработчиков чат-ботов, RAG-систем, AI-агентов и других приложений, а также для выполнения инструкций, диалога, генерации кода и рассуждений. Принимает текст и выдаёт текст. NVIDIA ориентирует её на системы с GPU NVIDIA; в README указаны TensorRT-LLM, Linux и совместимость с NVIDIA Blackwell. README заявляет возможность коммерческого и некоммерческого использования. Следует соблюдать NVIDIA Open Model License и условия Modified MIT License Kimi-K2.5. Для применения в конкретном сценарии нужна проверка на профильных данных; README также отмечает, что меры по снижению нежелательной предвзятости не указаны.

NVIDIA Llama-3.1-Nemotron-8B-UltraLong-4M-Instruct — языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров, дообученная для диалогов и работы с очень длинным контекстом. Она использует продолженное предобучение и донастройку на инструкциях; базовая модель — meta-llama/Llama-3.1-8B-Instruct. Модель предназначена для генерации ответов и анализа длинных текстовых последовательностей, включая большие документы и составные запросы. Заявленное окно контекста — до 4 млн токенов. Обучение на инструкциях охватывало общие задачи, математику и программирование. Карточка описывает английский язык; метаданные указывают тег en. Модель работает с текстом и доступна в формате safetensors для Transformers; также указаны чат-возможности и интерфейс вызова инструментов. По данным карточки, модель сохраняет конкурентные результаты на стандартных тестах и улучшает обработку сверхдлинного контекста. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Результаты и качество на конкретных сценариях могут отличаться; объём контекста сам по себе не гарантирует точное извлечение всей информации из длинного ввода.

OpenYourMind создала abliterated-версию MiniMax-M3: из модели удалено поведение отказа, при этом сохранены рассуждения, многоязычные и мультимодальные возможности, программирование и использование инструментов. Это большая мультимодальная модель класса Mixture of Experts с визуальным энкодером и режимом рассуждений. Архитектура, токенизатор и шаблон чата совпадают с базовой моделью, поэтому версия предназначена для замены MiniMax-M3 в совместимом окружении. Модель принимает текст и изображения и формирует текстовые ответы; её можно применять для диалогов, анализа изображений, программирования и агентных сценариев. Весовой файл содержит параметры BF16 и занимает около 854 ГБ, поэтому для развёртывания требуются несколько GPU или узлов; для менее мощных систем потребуется квантизация. Лицензия указана как Other и наследуется от лицензии MiniMax-M3.

natong19/Mistral-Nemo-Instruct-2407-abliterated — версия Mistral-Nemo-Instruct-2407, обученной совместно Mistral AI и NVIDIA. Это плотная авторегрессионная языковая модель семейства Mistral с 12,1 млрд параметров, предназначенная для диалогов и генерации текста; интерфейс также поддерживает вызов инструментов. В README заявлено окно контекста 128 тыс. токенов, а метаданные указывают native context в 1 024 000 токенов, поэтому эти значения расходятся. Модель рассчитана на многоязычные задачи и код; среди языков указаны английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. В этой версии наиболее сильные направления отказа ослаблены ортогонализацией весов, однако модель всё ещё может отказывать, неверно понимать запрос или давать непрошеные советы о безопасности. В приведённых тестах результаты близки к исходной версии Mistral-Nemo-Instruct-2407. Лицензия — Apache 2.0.

Ophiuchi-Qwen3-14B-Instruct — дообученная PrithivMLmods языковая модель на архитектуре Qwen3-14B с плотной архитектурой Qwen3ForCausalLM и 14 млрд параметров. Она предназначена для диалогов и выполнения инструкций, математических и логических рассуждений, генерации и объяснения кода, ответов на фактические вопросы и создания структурированных текстов. Метаданные указывают контекст до 40 960 токенов; README заявляет поддержку до 128 тысяч токенов, поэтому фактический предел в источниках расходится. Карточка описывает многоязычную работу, включая английский, китайский и русский; метаданные карточки подтверждают английский и китайский. Модель может помогать с задачами STEM, техническим письмом, обучением и переводом. Она распространяется под лицензией Apache-2.0. Для работы требуются значительные вычислительные ресурсы; модель может ошибаться в фактах, особенно при неоднозначных или сложных запросах, а ошибки могут накапливаться в длинных ответах.

Orion-14B-LongChat — многоязычная плотная авторегрессионная языковая модель компании OrionStarAI, обученная с нуля. Версия LongChat предназначена для диалогов и работы с очень длинными текстами; заявленная длина контекста составляет 200 000 токенов, а максимальная поддерживаемая длина — до 320 000 токенов. Размер модели — 14,1 млрд параметров, формат весов в репозитории — PyTorch. Модель рассчитана на генерацию текста и может применяться для диалогов, анализа длинных документов и работы с кодом. В карточке заявлена поддержка китайского, английского, японского и корейского языков; модель обучена на многоязычном корпусе объёмом 2,5 трлн токенов. OrionStarAI указывает на высокие результаты для длинных последовательностей, но качество ответов и фактическая точность могут зависеть от задачи и входного контекста. Условия лицензирования в предоставленной карточке не описаны.

Qwen1.5-72B-Chat — чат-модель из семейства Qwen1.5, разработанного командой Qwen. Это дообученная версия базовой Qwen1.5-72B: плотная авторегрессионная языковая модель на архитектуре Transformer с примерно 71 млрд параметров, предназначенная для диалоговой генерации текста. Для работы используется библиотека Transformers, веса опубликованы в формате safetensors. Модель подходит для ведения диалога, ответов на вопросы, составления и редактирования текстов, а также генерации кода. В README заявлена многоязычная поддержка; метаданные карточки указывают английский язык. Контекст составляет до 32 768 токенов. Улучшения серии Qwen1.5 включают поддержку длинного контекста и качество чат-моделей, однако в README отмечены возможные ошибки переключения между языками; для генерации рекомендуется использовать параметры из generation_config.json. Карточка указывает лицензию «other», но конкретные условия в предоставленных данных не раскрыты, поэтому перед использованием следует проверить лицензионные сведения репозитория. Это крупная модель, для запуска которой требуются значительные вычислительные ресурсы.

igriv/Qwen3-32B-heretic — разговорная языковая модель семейства Qwen3, созданная изменением Qwen3-32B методом abliteration, чтобы существенно снизить частоту отказов. В приведённом сравнении модель отказывает в 3 случаях из 100 против 99 у исходной модели; это оценка из карточки, а не гарантия поведения во всех запросах. Модель предназначена для генерации текста и диалогов, в том числе для рассуждений, программирования, перевода и следования инструкциям. Архитектура — плотная авторегрессионная Qwen3ForCausalLM; в метаданных указаны 29,7 млрд параметров, контекст 40 960 токенов и формат safetensors. README приписывает семейству Qwen3 поддержку более 100 языков, но не приводит отдельную оценку языков именно этой производной модели. Модель разработана автором репозитория igriv на основе Qwen3-32B. Лицензия — Apache-2.0. Снижение отказов может означать меньшую защиту от небезопасных запросов; опубликованная таблица не раскрывает полный протокол оценки, а качество и безопасность ответов требуют самостоятельной проверки.

Occamy-1.0 — мультимодальная агентная модель AMAImedia для длительной совместной работы с инструментами, файлами, кодом, поиском и структурированными API. Эта версия репозитория объединяет Occamy-1.0 и Qwen3.6-35B-A3B; в карточке указаны форматы GGUF F16, Q4_K_M, Q8_0 и Safetensors. Модель сохраняет архитектуру Qwen3.6-35B-A3B с Mixture of Experts: 35 млрд параметров всего и около 3 млрд активных при обработке токена. Модель рассчитана на многошаговые рабочие процессы, требующие вызова инструментов, ведения состояния и восстановления после сбоев, а также на программирование в терминале и следование инструкциям. Она принимает текст и изображения и выдаёт текст; заявлены возможности чата и анализа изображений. Карточка отмечает поддержку множества языков, включая русский, английский и китайский. Точное ограничение контекста в предоставленных данных не приведено. Авторы позиционируют Occamy как модель для практической агентной работы с компактной активной частью MoE, но указывают, что у неё остаётся запас для задач с интенсивным поиском и симуляцией пользователя; взаимодействие с браузером или рабочим столом через визуальный интерфейс не входит в текущий обучающий интерфейс. Лицензия — Apache-2.0.

Qwen-7B-Chat — диалоговая языковая модель семейства Qwen, разработанная Alibaba Cloud на основе предварительно обученной Qwen-7B с применением методов выравнивания. Это плотная Transformer-модель с архитектурой QWenLMHeadModel, 32 слоями, RoPE, SwiGLU и RMSNorm. В метаданных указано 11,4 млрд параметров и контекст длиной 32 768 токенов. Модель предназначена для многоходовых диалогов и генерации текста: она отвечает на вопросы, помогает с кодом и математическими задачами, а также может использоваться для длинных последовательностей и вызова внешних инструментов. README описывает токенизатор на основе tiktoken с большим словарём, ориентированным на китайский, английский и код; метаданные также указывают китайский и английский языки. Репозиторий содержит веса safetensors. Модель проверялась на китайском и английском понимании, математике, программировании, длинном контексте и использовании инструментов. Результаты могут колебаться из-за аппаратных и программных различий; при дообучении следует учитывать особенности специальных токенов токенизатора. Лицензия указана как other, поэтому перед использованием нужно проверить условия лицензирования в карточке модели.

airoboros-m-7b-3.1.2 — экспериментальная языковая модель jondurbin для диалогов и выполнения инструкций. Она основана на архитектуре Mistral с плотной причинно-языковой моделью на 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель обучена преимущественно на синтетических данных набора airoboros-3.1 и использует формат чата Llama 2. Модель подходит для ответов на вопросы по заданному контексту, суммаризации, следования многошаговым инструкциям, генерации кода и структурированных ответов. В набор обучения также входили математические задачи с выдачей MathJSON, извлечение сведений из логов и анонимизация текста. Разработчик отмечает, что модель особенно ориентирована на выполнение инструкций, а не на непринуждённый чат или ролевую игру. В README модель названа экспериментальной; для MathJSON рекомендуется низкая температура, а формат чата важно настроить корректно. Репозиторий распространяется по лицензии Apache-2.0.

CerebrumHyperion-7B-DPO — объединённая модель для генерации текста, созданная с помощью LazyMergekit путём слияния Locutusque/OpenCerebrum-1.0-7b-DPO и Locutusque/Hyperion-3.0-Mistral-7B-DPO. В README указан метод слияния SLERP, а базовой моделью в конфигурации названа Hyperion-3.0-Mistral-7B-DPO. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. По описанию базовой модели, семейство OpenCerebrum ориентировано на генерацию текста, программирование, математику, научные вопросы и рассуждения. Репозиторий содержит веса в формате safetensors. Сведений о лицензии в предоставленных данных нет.

DBRX Instruct — большая языковая модель для генерации текста, разработанная Databricks. Представленная карточка содержит GGUF-квантизации модели dbrx-instruct с использованием importance matrix (imatrix), предназначенные для запуска через llama.cpp и совместимых инструментов. Модель основана на decoder-only Transformer и архитектуре fine-grained Mixture-of-Experts (MoE): всего 132 млрд параметров, из которых около 36 млрд активируются для каждого входа. Она использует 16 экспертов по 12 млрд параметров, выбирая 4 эксперта на токен, а также RoPE, GLU и grouped query attention (GQA). Модель обучена предсказывать следующий токен на 12 трлн токенов текста и кода; заявленная длина контекста — 32 768 токенов, число слоёв — 40. Токенизатор основан на GPT-4 tokenizer из репозитория tiktoken. Предусмотрен диалоговый шаблон с ролями system, user и assistant. Модель предназначена для генерации текста, диалоговых сценариев, написания материалов и работы с кодом. Квантизации позволяют уменьшить требования к памяти; например, вариант IQ4_XS имеет размер около 65,29 ГиБ, а в README приведены результаты perplexity на wiki.test. Ограничения включают значительные аппаратные требования из-за общего размера модели, зависимость от совместимой версии llama.cpp и чувствительность некоторых вариантов квантизации IQ3. Для запуска указан commit llama.cpp 4bd0f93e, а для работы на Metal может потребоваться дополнительное исправление. Лицензия указана как Databricks Open Model License; тип лицензии в карточке обозначен как other. Файлы квантизации опубликованы пользователем phymbert и предназначены также для тестирования imatrix-квантизации.