I.3Извлечение и структурирование данных

Metis-0.4-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral. Она создана методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и Mihaiii/Metis-0.4; конфигурация объединения указывает диапазон слоёв 0–32 для обеих моделей и формат весов bfloat16. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и диалоговые запросы, генерирует текст и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на инструкции. Она распространяется под лицензией Apache-2.0. README и метаданные не описывают отдельные специализированные области применения или конкретные ограничения качества.

QuantTrio/MiniMax-M2.7-AWQ — AWQ-квантизированная версия языковой модели MiniMax-M2.7, разработанной MiniMax AI. Модель предназначена для генерации текста и может использоваться в задачах диалогового взаимодействия, обработки запросов и других сценариях, поддерживаемых базовой text-generation-моделью. Данные о точной архитектуре, числе параметров, поддерживаемых языках и исходной длине контекста в README не приведены. Квантизация выполнена без калибровочного набора данных с использованием data-free quantization tool. Модель ориентирована на запуск через vLLM и Transformers; в конфигурации сервера указан максимальный контекст 32 768 токенов, а также поддержка tool calling и reasoning parser для MiniMax M2.7. Размер файлов модели составляет около 122 GiB. Для распределённого запуска рекомендуется конфигурация с tensor parallelism на восемь GPU и expert parallelism. Основные преимущества — уменьшенный по сравнению с исходной моделью объём хранения и возможность производительного инференса через vLLM. Ограничения включают потенциальное снижение качества из-за квантизации, отсутствие опубликованных количественных оценок качества и высокие требования к аппаратному обеспечению и версиям программных компонентов: vLLM 0.19.0 или новее, Transformers 5.5.4 или новее и CUDA 12.8 или 13.0. Лицензия указана как modified-MIT; применимые условия следует уточнять по файлу лицензии исходного проекта.

ressl/MiniMax-M3-uncensored-NVFP4 — это квантизированная версия модели ressl/MiniMax-M3-uncensored, основанной на MiniMax-M3. Релиз подготовлен ressl с использованием NVIDIA ModelOpt NVFP4 и предназначен для локального запуска генерации текста и мультимодальных запросов на системах с GPU NVIDIA Blackwell. Модель имеет MoE-архитектуру с 428 млрд параметров в общей сложности и примерно 23 млрд активных параметров на токен. В модели сохранены возможности рассуждения, разбора рассуждений, вызова инструментов и обработки изображений. В карточке указаны английский и немецкий языки. Экспортированный вариант занимает около 260,4 ГБ вместо 854,2 ГБ у BF16-версии: NVFP4 применён к весам маршрутизируемых экспертов, тогда как внимание, маршрутизатор, общие эксперты, эмбеддинги, языковая голова, vision tower и проекторы сохранены в BF16. Проверенный контекст составляет 32 768 токенов; на отдельном тесте модель корректно обработала запрос длиной 20 212 токенов. Модель ориентирована на локальное инференс-обслуживание, исследование безопасности, red teaming, анализ вредоносного ПО и эксплойтов, обнаружение угроз, автоматизацию через tool calls и мультимодальные сценарии. На четырёх NVIDIA RTX PRO 6000 Blackwell 96 ГБ с SGLang зафиксирована скорость около 88,5 токена в секунду для прогретого одиночного запроса, однако это не результат полного академического бенчмарка. Для запуска требуется конфигурация из четырёх GPU Blackwell и SGLang с указанными в README настройками; совместимость с vLLM не подтверждена. Модель намеренно uncensored и может отвечать на запросы, которые стандартная версия отклоняет, поэтому её применение требует соблюдения законодательства и мер безопасности. Лицензия указана как other.

Это GGUF-квантизированная версия модели Devstral-Small-2507, разработанной Mistral AI и подготовленной пользователем bartowski. Квантизация выполнена с помощью llama.cpp release b5856 и метода imatrix. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В карточке указана мультимодальная категория image-text-to-text, однако подробные сведения об архитектуре, количестве параметров и поддерживаемом контексте не приведены. Заявлена поддержка множества языков, включая английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, украинский и другие. Доступны варианты от BF16 до различных уровней квантизации; размеры файлов составляют примерно от 10 до 47 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти. Основные преимущества версии — возможность локального запуска, широкий выбор компромиссов между качеством и требованиями к памяти, а также совместимость с экосистемой llama.cpp. Ограничения включают отсутствие в README подробных данных о характеристиках исходной модели, результатах оценки и требованиях к оборудованию; качество заметно зависит от выбранного варианта квантизации. Модель распространяется по лицензии Apache-2.0.

Mistral-Small-24B-Base-2501 — базовая плотная языковая модель с 23,4 млрд параметров, разработанная командой Mistral AI. Она предназначена для дообучения и создания специализированных моделей, а также для генерации текста и диалоговых сценариев. Модель использует архитектуру MistralForCausalLM и поддерживает контекст длиной до 32 768 токенов. Модель рассчитана на многоязычное применение: в метаданных и карточке указаны английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. В карточке также отмечена поддержка ряда других языков. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование, изменение и распространение. Это базовая версия; для готового диалога разработчик предлагает отдельную версию Instruct. Заявления о качестве сопровождаются результатами бенчмарков в карточке, но они не гарантируют качество в конкретном сценарии.

Mistral-Small-4-119B-2603-OptiQ-2bit — это MLX-квантизированная версия модели Mistral-Small-4-119B-2603, разработанной Mistral AI и опубликованной сообществом mlx-community. Квантизация выполнена с помощью mlx-optiq — инструментария для локального запуска моделей на Apple Silicon. Модель предназначена для генерации текста и локального инференса, в том числе через OpenAI-совместимый API. Загрузчик mlx-optiq также заявляет поддержку текстовых, визуальных и MTP-сценариев, тогда как штатный mlx-lm поддерживает только текстовый режим. В основе лежит разреженная архитектура MoE со 128 маршрутизируемыми экспертами и MLA-вниманием. Это экстремальная смешанная квантизация: 352 проекционных слоя представлены в 4-битном формате, а 82 — в 2-битном, при целевом среднем размере около 2,5 бита на вес. Размер модели сокращён примерно с 239 ГБ в формате BF16 до 43 ГБ на диске. Благодаря потоковой загрузке выбранных экспертов с SSD модель рассчитана на запуск на Mac с 36 ГБ памяти; резидентный объём составляет около 9–12 ГБ. Языки, заявленные в карточке, включают английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский и ряд других языков. Размер контекстного окна в README не указан. Главное преимущество модели — возможность запускать 119-миллиардную разреженную MoE-модель локально на ограниченном по памяти Apple Silicon-устройстве. Ограничения связаны с экстремальной 2-битной квантизацией: README не приводит стандартных бенчмарков и предупреждает, что для такой сборки вместо набора тестов предоставлена демонстрация связности. Для корректной работы требуется optiq версии 0.4.4 или новее с декодером mistral4; использование штатного mlx-lm или старых версий OptiQ может привести к неправильной загрузке архитектуры и потере экспертов. Модель распространяется по лицензии Apache-2.0.

onelevelstudio/ML-E5-0.6B-Instruct — мультиязычная модель эмбеддингов текста на архитектуре XLM-RoBERTa. Она преобразует запросы и документы в векторы для семантического поиска, ранжирования и оценки сходства. Для запросов рекомендуется добавлять краткую инструкцию на естественном языке, описывающую задачу; документам инструкции не нужны. В метаданных указано около 658,7 млн параметров, контекст до 514 токенов и лицензия MIT. Репозиторий содержит веса в форматах Safetensors и ONNX. Карточка связывает модель с Multilingual-E5-large-instruct и сообщает о поддержке 100 языков на основе XLM-RoBERTa; для языков с малым объёмом ресурсов качество может снижаться. Длинные тексты обрезаются примерно до 512 токенов.

mmbert-rerank-32k-2d-matryoshka — многоязычный переранжировщик на архитектуре ModernBERT, дообученный на базе llm-semantic-router/mmbert-32k-yarn. Он оценивает релевантность пары «запрос — текст» как кросс-энкодер и подходит для перестановки результатов поиска, в том числе по длинным документам. Модель содержит около 307 млн параметров, принимает до 32 768 токенов и поддерживает сокращение числа слоёв и размерности представлений для выбора компромисса между скоростью и качеством. Модель обучалась на 1 569 864 парах «запрос — фрагмент» из cfli/bge-m3-data. Карточка заявляет поддержку более 1800 языков; метаданные перечисляют английский, китайский, немецкий, французский, испанский, русский, японский, корейский, арабский и хинди. В приведённых тестах модель показывает хорошие результаты на длинных текстах и языках с малым объёмом ресурсов; на коротких документах некоторые конкуренты немного превосходят её. Лицензия — Apache-2.0. Основное ограничение — обучение преимущественно на коротких фрагментах, поэтому качество на очень длинных текстах может зависеть от расширения контекста базовой модели YaRN. Для специализированных областей может потребоваться дообучение. Сокращение числа слоёв само по себе даёт небольшой прирост скорости без механизмов раннего выхода.

Moonlight-16B-A3B — предобученная языковая модель Moonshot AI для генерации текста и диалогового общения. Она построена на архитектуре Mixture-of-Experts: содержит около 16 млрд параметров, из которых при генерации активируется около 3 млрд. В метаданных указаны 2,7 млрд параметров; README приводит округлённые значения 16B и 3B для общей и активируемой частей модели. Модель обучена на 5,7 трлн токенов с оптимизатором Muon и рассчитана на контекст до 8K токенов. Её можно использовать для диалоговых приложений, генерации и продолжения текста. Авторы сообщают о сравнительных результатах на бенчмарках и публикуют исследовательские чекпойнты; заявленные преимущества обучения относятся к их экспериментам и не гарантируют превосходства на любой прикладной задаче. Модель распространяется под лицензией MIT. Для работы авторы рекомендуют Python 3.10, PyTorch 2.1 или новее и Transformers 4.48.2.

msmarco-bert-base-dot-v5 — модель Sentence Transformers, разработанная командой sentence-transformers для семантического поиска. Она преобразует предложения и абзацы на английском языке в плотные векторы размерностью 768, которые можно сопоставлять для поиска релевантных текстов. Модель обучена на 500 тысячах пар «запрос — ответ» из набора MS MARCO и использует архитектуру BERT с 136,7 млн параметров. Модель подходит для построения семантического поиска по документам и ранжирования кандидатов по близости к запросу. Максимальная длина входной последовательности — 512 токенов; эмбеддинги не нормализуются. Доступны реализации в форматах PyTorch, TensorFlow, ONNX и OpenVINO. Лицензия в предоставленных данных не указана.

msmarco-MiniLM-L12-cos-v5 — модель sentence-transformers, разработанная командой Sentence Transformers для семантического поиска. Она преобразует предложения и абзацы в плотные векторы размерности 768, обучена на 500 тысячах пар «запрос — ответ» из набора MS MARCO Passages. Модель основана на архитектуре BERT и содержит около 40 млн параметров. При использовании Sentence-Transformers она формирует нормализованные эмбеддинги с mean pooling; косинусное сходство можно вычислять через скалярное произведение. Контекст ограничен 512 токенами. Поддерживается английский язык. Модель подходит для поиска текстов, семантически близких к запросу, и ранжирования кандидатов по сходству. Для более широких языков и предметных областей качество может отличаться от английского поиска по MS MARCO. Лицензия в предоставленных данных не указана.

msmarco-MiniLM-L6-cos-v5 — модель Sentence Transformers для семантического поиска, обученная командой sentence-transformers на 500 тысячах пар «запрос — ответ» из набора MS MARCO Passages. Она основана на архитектуре BERT с MiniLM и содержит 25,9 млн параметров; преобразует предложения и абзацы в нормализованные плотные векторы размерностью 384. Для объединения контекстных представлений используется mean pooling, а контекст модели ограничен 512 токенами. Модель рассчитана на англоязычные тексты. Векторы можно сравнивать косинусным сходством или скалярным произведением; для нормализованных векторов эти оценки эквивалентны. Модель подходит для семантического поиска и оценки сходства текстов, например для подбора фрагментов-кандидатов в поисковой системе. Доступны варианты весов для PyTorch, TensorFlow, JAX, ONNX и OpenVINO. Условия лицензии в предоставленных данных не указаны.

zelk12/MT3-Gen2-gemma-2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit. В слиянии методом SLERP использованы zelk12/MT3-Gen2-GMM-gemma-2-9B и zelk12/MT3-Gen2-IMUBMA-gemma-2-9B; конфигурация указывает базовую модель zelk12/MT3-Gen2-GMM-gemma-2-9B и параметр t=0,25. Модель содержит 9 млрд параметров, работает через Transformers и принимает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. В репозитории указаны веса в формате safetensors. Лицензия в предоставленных данных не указана.

jangedoo/multilingual-e5-small-ne-pruned — компактная модель создания текстовых эмбеддингов, основанная на multilingual-e5-small от intfloat. Она использует архитектуру BERT и Sentence Transformers; словарь токенов сокращён примерно на 91,6%, а количество параметров — на 74,8% относительно базовой версии по README. Модель предназначена для семантического поиска, сравнения предложений и подбора похожих текстов на разных языках. Она принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. В оценке на STSbenchmark для непальского языка pruning сохранил почти исходные показатели сходства предложений, тогда как на NanoClimateFEVER точность поиска первого результата снизилась. README показывает пример использования через Sentence Transformers. Лицензия в предоставленных данных не указана.

MaziyarPanahi/neural-chat-7b-v3-Mistral-7B-Instruct-v0.2-slerp — диалоговая модель для генерации текста и ответов на инструкции, созданная MaziyarPanahi слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Intel/neural-chat-7b-v3. Она основана на архитектуре Mistral с плотной сетью и содержит 7,1 млрд параметров; поддерживает контекст до 32 768 токенов. Модель рассчитана на текстовый диалог и использует формат safetensors. Её можно применять для интерактивных диалогов, ответов на вопросы и выполнения текстовых инструкций. Веса распространяются по лицензии Apache-2.0. Сведения о поддерживаемых естественных языках в предоставленной карточке отсутствуют.

Nous Hermes 2 Llama-2 70B — языковая модель для диалоговой генерации текста, разработанная Nous Research и дообученная на наборе Hermes 2. Для обучения использовали более миллиона примеров, преимущественно созданных GPT-4, а также данные из открытых наборов. Модель основана на плотной архитектуре Llama и содержит 68,7 млрд параметров. Модель предназначена для многоходового общения и выполнения инструкций. Она использует формат запросов ChatML с ролями и специальными маркерами ходов; карточка также отмечает совместимость этого формата с интерфейсами OpenAI API. Контекст составляет 4096 токенов. Указанный язык — английский. Модель принимает текстовые запросы и генерирует текстовые ответы. Карточка приводит пример использования через Transformers и отмечает высокие требования к видеопамяти: даже в 4-битном режиме требуется более 24 ГБ VRAM. Лицензия — Apache-2.0.

Это объединённая модель Nous-Hermes-2-Pro_into_Nous_Hermes-2-DPO, созданная с помощью LazyMergekit на основе NousResearch/Hermes-2-Pro-Mistral-7B и NousResearch/Nous-Hermes-2-Mistral-7B-DPO. Веса объединены методом SLERP; модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста по инструкциям. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. В метаданных указана возможность чат-взаимодействия, но отдельные языки и специализированные прикладные области не заявлены. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования определить нельзя. Качество и ограничения именно этого слияния в README не описаны; поведение может отличаться от исходных моделей.

Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-2-7B — плотная языковая модель на архитектуре Mistral, созданная слиянием teknium/OpenHermes-2.5-Mistral-7B и Intel/neural-chat-7b-v3-2 методом TIES. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В карточке указаны веса слияния 0,5 для OpenHermes и 0,3 для neural-chat, а также плотность 0,5 для каждой исходной модели. Модель предназначена для диалогов и генерации текста; автор рекомендует использовать шаблон ChatML. Она доступна в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты на нескольких бенчмарках, но не описывает ограничения и языковой охват модели.

OpenLLaMA 7B — авторская предварительно обученная языковая модель OpenLM Research, созданная как открытая воспроизводимая реализация архитектуры Meta AI LLaMA. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров и контекстом 2048 токенов. Она обучена с нуля на наборе RedPajama, содержащем более 1,2 трлн токенов; доступны веса PyTorch, а проект также выпускал веса для JAX. Модель предназначена для генерации текста и может служить основой для языковых приложений и дальнейшей адаптации. По оценке авторов, OpenLLaMA 7B показывает сопоставимые с оригинальной LLaMA 7B и GPT-J 6B результаты на большинстве рассмотренных задач. В карточке не заявлены специализированная область или отдельная языковая специализация. Для корректной токенизации авторы рекомендуют не использовать быстрый токенизатор Transformers: автоматически конвертированная версия может ошибаться. При few-shot оценке рекомендуется добавлять BOS-токен. Авторы также отмечают возможное загрязнение обучающего набора данными бенчмарков CB и WSC и исключили эти задачи из оценки. Лицензия модели — Apache-2.0.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_240 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_efficient_batching_random_gist_checkpoint_epoch_1_step_140 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_efficient_batching_random_gist_checkpoint_epoch_1_step_270 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

ProCreations_grug-27b-GGUF — это GGUF-квантизация модели grug-27b, разработанной ProCreations. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; базовая модель связана с датасетами ProCreations/grug-think-v3-10k и ProCreations/grug-think. Модель ориентирована на задачи рассуждений, экономного использования токенов, агентских сценариев и работы с инструментами. В карточке также указана модальность image-text-to-text и поддержка английского языка. Модель содержит 27 миллиардов параметров. Доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные форматы. Высококачественные варианты обеспечивают близкое к исходной модели качество, а менее точные требуют меньше оперативной памяти и подходят для локального запуска на ограниченных ресурсах. Файлы предназначены для использования с llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими совместимыми инструментами. В README не указаны архитектура исходной модели, размер контекстного окна, точные мультимодальные возможности и результаты бенчмарков, поэтому их нельзя оценить по имеющимся данным. Для работы требуется приложение с поддержкой соответствующей модели и формата prompt; в качестве лицензии указана Apache-2.0.

bartowski/Qwen1.5-7B-Chat-GGUF — это набор квантизированных GGUF-версий диалоговой модели Qwen1.5-7B-Chat, разработанной командой Qwen. Квантизация выполнена bartowski с использованием llama.cpp, релиз b2440. Модель предназначена для генерации текста и чат-сценариев, включая локальный запуск через совместимое программное обеспечение на базе llama.cpp. Доступны варианты квантизации от Q8_0 до Q2_K размером примерно от 8,21 до 3,10 ГБ. Q6_K отмечен как рекомендуемый вариант с качеством, близким к исходному; Q5_K_M и Q5_K_S предлагают высокое качество при меньшем размере, а варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. В метаданных указан английский язык; сведения о других языках, модальностях и размере контекста отсутствуют. Лицензия обозначена как tongyi-qianwen; подробные условия доступны по ссылке на лицензию исходной модели.

Qwen1.5-MoE-A2.7B-Chat-GPTQ-Int4 — диалоговая decoder-only языковая модель на базе Transformer с архитектурой Mixture of Experts (MoE), разработанная командой Qwen. Модель предназначена для генерации текста и взаимодействия в формате чата, включая ответы на вопросы, краткие объяснения и другие сценарии использования языкового ассистента. В README указана поддержка английского языка и конвейер text-generation. Модель содержит 14,3 млрд параметров, из которых во время работы активируются 2,7 млрд; она создана на основе Qwen-1.8B и дообучена с применением supervised fine-tuning и direct preference optimization. Версия GPTQ-Int4 использует 4-битное квантование. По заявлению разработчиков, при сопоставимой с Qwen1.5-7B производительности она требует около 25% ресурсов для обучения и обеспечивает примерно в 1,74 раза большую скорость вывода. Размер контекста в README не указан. Среди ограничений отмечена возможность переключения языков и другие нежелательные случаи генерации, для снижения которых рекомендуется использовать параметры из generation_config.json. Модель распространяется по лицензии tongyi-qianwen; точные условия следует уточнять по указанной в README лицензии.

CultriX/Qwen2.5-14B-Unity — объединённая языковая модель на архитектуре Qwen2.5, созданная с помощью mergekit. В качестве базовой использована CultriX/SeQwence-14Bv1; для объединения применён метод DARE TIES. В состав также вошли несколько моделей Qwen2.5, в том числе варианты для диалогов и математики. Модель предназначена для генерации текста и диалогов. Она содержит 14 млрд параметров, работает через библиотеку Transformers и поддерживает контекст до 131 072 токенов. Метаданные также указывают интерфейс для вызова инструментов. В карточке не описаны отдельные специализированные задачи или целевые языки. Файлы модели размещены в формате safetensors. Лицензия в предоставленных данных не указана.

bunnycore/Qwen2.5-3B-Model-Stock-v2 — объединённая языковая модель, созданная с помощью mergekit методом Model Stock на основе bunnycore/Qwen2.5-3B-Model-Stock. В объединение вошли PowerInfer/SmallThinker-3B-Preview и bunnycore/Qwen2.5-3B-RP-Mix; веса сохранены в формате safetensors. Модель построена на архитектуре Qwen2 с плотной причинной языковой моделью Qwen2ForCausalLM и содержит 3,1 млрд параметров. Модель предназначена для генерации текста и диалогов; в метаданных также отмечен интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. README не описывает языковую специализацию и лицензию, поэтому эти характеристики не указаны. Ограничения качества и результаты оценки в карточке не приведены.

Qwen2-57B-A14B — базовая большая языковая модель серии Qwen2, разработанной командой Qwen. Это декодерная модель на архитектуре Transformer с разреженной смесью экспертов (MoE): всего 57 млрд параметров, из которых 14 млрд активируются при одном проходе. Модель предназначена для дальнейшего обучения и оценки возможностей в генерации и понимании текста, ответах на вопросы, рассуждениях, математике, программировании и многоязычных задачах. Модель принимает текст и генерирует текст; карточка указывает контекст до 131 072 токенов и адаптивный к разным естественным языкам и кодам токенизатор. В README не советуют использовать базовую версию для прямой генерации и рекомендуют сначала провести дополнительное обучение, например SFT, RLHF или продолжение предобучения. Для загрузки архитектуры Qwen2MoE требуется Transformers версии 4.40.0 или новее. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0.

Thamed-Chowdhury/qwen-2.5-7B-DPO-split1-16bit-chunk34 — дообученная диалоговая модель семейства Qwen2, разработанная Thamed-Chowdhury на основе Thamed-Chowdhury/qwen-2.5-7B-DPO-split1-16bit-chunk12. Модель с архитектурой Qwen2ForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста в диалогах; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В карточке заявлено обучение с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0. Подтверждённый язык карточки — английский.

mlx-community/Qwen2.5-7B-Instruct-4bit — преобразованная в формат MLX 4-битная версия Qwen2.5-7B-Instruct, подготовленная сообществом mlx-community с помощью mlx-lm 0.18.1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и запуска на устройствах Apple Silicon через MLX. Модель принимает текстовые запросы и выдаёт текст; метаданные указывают контекстное окно 32 768 токенов и интерфейс для вызова инструментов. Модель подходит для диалоговых помощников, ответов на вопросы, написания и преобразования текстов. Карточка подтверждает английский язык; других языков по предоставленным сведениям определить нельзя. Репозиторий указывает лицензию Apache-2.0. Ограничения качества и оценки модели в карточке не описаны.