I.11Классификация, ранжирование и сопоставление

Это текстовый вариант весов Qwen3.6-27B, подготовленный exolabs для запуска через vLLM. Веса получены из GGUF-квантизации Q4_0 модели unsloth/Qwen3.6-27B-GGUF: тензоры деквантованы, преобразованы в формат Hugging Face и сохранены в BF16. Конфигурация и токенизатор взяты из Qwen/Qwen3.6-27B. Модель предназначена для генерации текста и диалогового использования; карточка также указывает интерфейс вызова инструментов. Несмотря на тег image-text-to-text и наличие визуальных возможностей в метаданных, в этом репозитории отсутствует визуальная башня, поэтому автор рекомендует запускать модель только в текстовом режиме. Проверена загрузка и краткая генерация в Transformers и vLLM; в README приведена конфигурация с контекстом до 4096 токенов. Данные о лицензии и поддерживаемых естественных языках в предоставленных источниках отсутствуют.

Qwen3.6-35B-A3B-EXTENSOR — созданный AMD runtime-артефакт на основе Qwen/Qwen3.6-35B-A3B. Это текстовая модель с архитектурой mixture-of-experts; в комплект входят целевая модель и модуль MTP для ускорения жадного декодирования с помощью speculative decoding. Проверка MTP требует, чтобы полный набор экспертных блоков целевой модели находился в памяти. Артефакт распространяется в формате GGUF v3 с упаковкой EXTENSOR v2 и квантованием ROCmFP4/ROCmFP4_FAST; указаны также Q8_0 для слияния MTP и F16 для управляющих весов. Он предназначен для генерации текста и диалогов в среде EXTENSOR версии 2.4.0 или новее с backend API 4. Файлы несовместимы с llama.cpp. Визуальный энкодер базовой модели в артефакт не включён, поэтому использовать его для обработки изображений нельзя. Лицензия — Apache-2.0.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NInfer — это конверсия модели DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1, основанной на Qwen/Qwen3.8-27B. Артефакт подготовлен в формате .ninfer проектом pyros-vault для специализированного runtime NInfer-4090 и видеокарт NVIDIA RTX 4090 с архитектурой sm_89. Это deployment-конверсия без дополнительного обучения; в пакет включены смешанно-точные веса и ресурсы токенизации, генерации, чат-шаблона и обработки изображений и видео. Модель предназначена для генерации текста и мультимодальных сценариев с текстом и изображениями через совместимый runtime NInfer. Версия использует квантование groupwise-int с вариантами 4-, 5-, 6- и 8-битных весов, имеет размер около 27 млрд параметров, занимает 16,96 GiB в виде файла и поддерживает speculative decoding с MTP. В проверенных режимах резидентные веса занимали примерно 15,92 GiB для текста, 16,19 GiB с Vision и 16,67 GiB с MTP; профиль проверки использовал контекст и KV-ёмкость 4096 токенов. Сильные стороны артефакта — компактное смешанно-точное представление, поддержка текстового и визуального ввода, MTP-ускорение и адаптация под 24 ГБ VRAM RTX 4090. Ограничения связаны с жёсткой привязкой формата к зарегистрированному runtime и конкретной архитектуре GPU: файл не предназначен для Transformers, llama.cpp или сторонних форков NInfer. Заявления об улучшении качества и сокращении числа токенов рассуждений относятся к upstream-модели и отдельно в этой карточке не подтверждены. Лицензия — Apache-2.0.

Qwen3.8-Next-Flash-ROCmFPX-MUTANT-RAZERFAST-GGUF — это квантизированная GGUF-сборка модели Qwen/Qwen3.8-Flash-Next, опубликованная hstolte. Она предназначена для генерации текста и локального запуска на системах AMD Strix Halo, включая Ryzen AI MAX+ 395 с Radeon 8060S. Модель использует специальные форматы квантования ROCmFPX и рассчитана на работу с ROCm и совместимым модифицированным runtime. Сборка содержит около 125 млрд параметров, из которых активно используется около 6 млрд, а также таблицу n-граммных embedding размером 51 млрд значений и совместимую 4-миллиардную MTP draft head для speculative decoding. Основной файл занимает около 90,1 ГБ, дополнительный MTP-файл — около 2,75 ГБ. Применяются 4-битные и 3-битные форматы с оптимизациями RZ5, UE4M4 и RZ-S3, которые, согласно приведённым калибровочным измерениям, снижают ошибку реконструкции относительно стандартных вариантов при той же разрядности. Главное преимущество модели — оптимизация под AMD Strix Halo, эффективное использование общей памяти или подгрузка крупной PLE-таблицы с NVMe и улучшенная точность квантования по сравнению с базовыми ROCmFP4 и ROCmFP3. Ограничение заключается в том, что это не стандартный GGUF: обычный llama.cpp такие файлы не загружает, требуется специальная ветка runtime ROCmFPX с соответствующими изменениями. Языки, размер контекстного окна и результаты прикладных тестов в README не указаны. Лицензия обозначена как qwen-community-1.0; применяется файл LICENSE из репозитория.

taurusduan/Qwen3.8-Whittle-MoE-27B-A17.8B-GGUF — это квантизированная GGUF-версия модели Whittle MoE 27B (A18B), разработанной logic65 на базе Qwen3.8-27B. Модель представляет собой постфактум сформированную mixture-of-experts-архитектуру с 27 млрд параметров, из которых около 17,8 млрд относятся к активным параметрам. В каждом слое используются 64 маршрутизируемых экспертных блока, а для каждого токена активируются 16 из них. Основное назначение — генерация текста и диалоговые сценарии с использованием llama.cpp и совместимых инструментов. Доступно несколько уровней квантизации: от Q8_0 размером около 28,7 ГБ до Q3_K_M размером около 13,9 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Для версии с визуальными возможностями предусмотрен отдельный проектор mmproj-qwen38.gguf размером около 0,9 ГБ, однако подробные сведения о поддерживаемых изображениях, языках и размере контекстного окна в карточке не указаны. Версия v2.2.1 исправляет проблему преждевременного завершения рассуждений внутри блока chain-of-thought, но не устраняет слабости при точном подсчёте элементов, длинных списках и повторяющихся фрагментах. Сильными сторонами являются MoE-архитектура с относительно умеренным числом активных параметров, несколько вариантов квантизации и улучшенное завершение ответов при включённом рассуждении. Ограничения включают сохраняющуюся склонность к повторениям, недостаточную надёжность при генерации списков длиной более 45 элементов и отсутствие гарантии точного количества элементов. Модель распространяется по лицензии Apache-2.0; репозиторий содержит именно квантизированные сборки базовой модели.

Weyaxi/Qwen-72B-Llama — преобразованная версия Qwen/Qwen-72B, созданная автором репозитория Weyaxi с помощью скрипта llamafy_qwen.py из LLaMA-Factory. Это плотная авторегрессионная языковая модель семейства Llama с 71 млрд параметров, предназначенная для генерации текста; веса опубликованы в формате safetensors, длина контекста составляет 32 768 токенов. Автор сообщает, что после преобразования весов использовал токенизатор из KnutJaegersberg/Qwen-14B-Llamafied. Модель подходит для генерации продолжений и ответов на текстовые запросы. В приведённом автором сравнении средний результат на Open LLM Leaderboard ниже, чем у исходной Qwen-72B: 69,53 против 73,6; оценки ARC и HellaSwag также немного ниже. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория и у базовой модели.

Qwen-Mix-7B — мультиязычная разговорная модель для генерации текста, созданная объединением трёх моделей Qwen2 с помощью mergekit и метода model_stock. Она содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. Модель подходит для диалога и генерации ответов на текстовые запросы. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает конкретные языки, кроме указания на мультиязычность, и не приводит оценок качества или подробных ограничений применения.

OsaurusAI Raptor 0.6 4B JANG_4M — дообученная и квантованная версия XHToken/Spark-X2.5-4B, подготовленная для работы в Osaurus. Модель имеет плотную архитектуру Spark2.5 и около 3,8 млрд параметров; веса сохранены в safetensors и занимают около 2,45 ГиБ. Квантование использует 4-битные gate/up-проекции, 5-битные down-проекции и attention, 6-битные эмбеддинги, а нормы и отдельные компоненты оставлены в полной точности. Модель предназначена для диалоговой генерации, рассуждений и агентных сценариев: она выбирает, когда ответить напрямую, вызвать инструмент, восстановиться после ошибки, запросить уточнение или передать работу субагенту. Метаданные указывают контекст до 1 048 576 токенов и поддержку английского и китайского; README отмечает, что точность квантования отдельно не измерялась на китайских и длинных свыше 4K токенов текстах. Для работы требуется Osaurus версии 0.25.0 или новее; лицензия — Apache-2.0. JANG_4M экономит память по сравнению с вариантом JANG_6M, но README сообщает о заметном снижении точности относительно bf16 и JANG_6M.

bartowski/Replete-LLM-V2.5-Qwen-32b-GGUF — это набор GGUF-квантизаций модели Replete-LLM-V2.5-Qwen-32b, разработанной rombodawg и опубликованной в квантизированном виде пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio. Для работы используется формат prompt с ролями system, user и assistant. В набор входят варианты от исходных весов F16 размером 65,54 ГБ до квантизаций Q2, Q3, Q4, Q5, Q6, Q8 и IQ, размером примерно от 13,07 до 34,82 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp b3972. Наиболее качественными и рекомендуемыми автор считает варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; более компактные варианты снижают качество, но подходят для систем с ограниченным объёмом оперативной памяти. README не содержит сведений о точной архитектуре базовой модели, размере контекста, поддерживаемых языках, мультимодальности, результатах тестирования или специализированных сценариях применения. Лицензия указана как Apache-2.0.

Rombo-LLM-V3.0-Qwen-32b-GGUF — это набор GGUF-квантизаций языковой модели Rombo-LLM-V3.0-Qwen-32b, разработанной Rombo-Org и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio и другие проекты на его основе. В основе лежит модель размером 32 млрд параметров; архитектура и поддерживаемые языки в README не уточняются. Представлены варианты квантизации Q8_0, Q6_K_L, Q6_K, Q5, Q4, Q3 и IQ различных уровней, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер файлов варьируется примерно от 13,7 до 34,8 ГБ. Квантизации выполнены с использованием imatrix и llama.cpp, релиз b4688; для работы рекомендуется указанный chat-шаблон с тегами <|im_start|> и <|im_end|>. Сильными сторонами являются широкий выбор вариантов, высокое качество старших квантизаций и возможность локального запуска. Более компактные варианты подходят для систем с ограниченным объёмом памяти, но характеризуются снижением качества; некоторые форматы отмечены как устаревшие. Длина контекста, мультимодальные возможности и результаты оценивания не указаны. Модель распространяется по лицензии Apache-2.0.

RWKV/RWKV7-G1j-7.2B-20260831 — официальная базовая языковая модель RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM с 7,8 млрд параметров, представленная в Safetensors. Архитектура не использует attention: она поддерживает рекуррентное состояние постоянного размера, а вычислительная стоимость генерации каждого токена постоянна; обучение при этом можно распараллеливать. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, диалоговых и рассуждательных данных. Она предназначена для генерации продолжений текста, оценки, последующего обучения и дообучения. Шаблон диалога позволяет формировать многоходовые и thinking-промпты, но сам по себе не означает, что модель является безопасным или выровненным ассистентом. В карточке перечислены английский, китайский, французский, испанский, немецкий, португальский, русский, итальянский, японский, корейский, вьетнамский и арабский языки; размер контекста не приведён. Модель распространяется по лицензии Apache-2.0. Среди ограничений: качество следования инструкциям и языковое поведение зависят от промптинга и дополнительного обучения; откат рекуррентного кэша для speculative decoding не поддерживается без сохранения предыдущих состояний. Оптимизированный инференс зависит от GPU, типа данных и формы батча, а полное исполнение через TileLang требует отдельной проверки численного соответствия. Для модели не заявлена оценка безопасности, предвзятости, токсичности, фактической точности или пригодности для критически важных сценариев.

Salamandra 2B Instruct Aina Hack — многоязычная авторегрессионная языковая модель с архитектурой Llama, разработанная подразделением языковых технологий Barcelona Supercomputing Center для инициативы AinaHack правительства Каталонии. Это экспериментальная версия с предварительной настройкой следования инструкциям и диалогового общения; модель содержит около 1,7 млрд параметров и принимает контекст длиной до 8192 токенов. Модель предназначена для генерации текста и работы в качестве общего диалогового помощника на европейских языках, а также может применяться в инструментах для администрации Каталонии. Она обучена на многоязычных данных и коде; карточка указывает поддержку 35 европейских языков и 92 языков программирования. Доступны веса в формате Safetensors, библиотека Transformers и шаблон диалога ChatML. Модель не прошла выравнивание RLHF и может выдавать вредные или неподходящие ответы. В карточке также отмечены социальные и когнитивные смещения и ограниченность их оценки; для практического применения нужны проверка и настройка под конкретный сценарий. Лицензия Apache 2.0 допускает коммерческое и исследовательское использование с соблюдением её условий.

sfmunfilterede2ealignment-4k5k6kweightedavgmerge — объединённая языковая модель, созданная с помощью mergekit методом Linear из контрольных точек обучения на шагах 4000, 5000 и 6000; базовой указана контрольная точка global_step6000. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и предназначена для генерации текста и диалогового взаимодействия. Максимальная длина контекста — 16 384 токена. Карточка не описывает специализацию на конкретных предметных областях или языках, поэтому модель можно охарактеризовать только как текстовую модель общего назначения. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Сведения о лицензии в предоставленных источниках отсутствуют.

Smaura_8B — объединённая языковая модель на базе Llama 3, созданная методом Model Stock с помощью mergekit. В объединение вошли abacusai/Llama-3-Smaug-8B, Aura_Llama3, BlueMoon_Llama3, Luna_Llama3 и Theory_of_Mind_Llama3; основой указан abacusai/Llama-3-Smaug-8B. Модель предназначена для генерации текста и многоходового общения. Она имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Репозиторий использует Transformers и хранит веса в формате safetensors. В README указано, что веса объединены в формате float16. Сведений о лицензии и языковом охвате в предоставленных источниках нет.

Smoothie-Qwen3-30B-A3B — вариант Qwen3-30B-A3B с настройкой вероятностей токенов для более сбалансированной многоязычной генерации. В README указаны параметры сглаживания: минимальный коэффициент 0,5, smoothness 10, выборка из 1000 элементов, окно размером 4 и веса n-грамм 0,5/0,3/0,2; перечислены диапазоны Unicode, связанные с обработкой китайских иероглифов и знаков. Метаданные классифицируют модель как генеративную MoE-архитектуру Qwen3 на Transformers с 2,6 млрд параметров и контекстом 40 960 токенов; доступны интерфейсы чата и вызова инструментов. Базовая модель — Qwen/Qwen3-30B-A3B, лицензия Apache-2.0. README не уточняет языки, помимо общего упоминания многоязычной генерации, и не приводит результатов сравнительной оценки.

StrangeMerges_55-7B-model_stock — объединённая текстовая модель семейства Mistral, опубликованная Gille. Она создана методом model_stock с помощью LazyMergekit на основе нескольких моделей Mistral 7B, включая StrangeMerges_54-7B-model_stock, MBX-7B-v3, NeuralMaths-Experiment-7b и другие. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Предназначена для генерации текста и диалогов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. В README не приведены оценки качества или конкретные гарантии поведения, поэтому пригодность для специализированных задач следует проверять отдельно.

MaziyarPanahi/T3qm7xNeuralsirkrishna_Experiment26Experiment30 — объединённая модель Mistral с плотной архитектурой и 7,1 млрд параметров, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment26Experiment30-7B. Она предназначена для генерации текста и диалоговых сценариев; принимает текст и может обрабатывать контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

T3qm7xNeuralsirkrishna_NeuralExperiment26 — объединённая языковая модель семейства Mistral, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/NeuralExperiment26-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов; контекстное окно составляет до 32 768 токенов. Карточка не уточняет специализацию по языкам или предметным областям. Лицензия — Apache-2.0.

T3Q-Merge-SOLAR12 — языковая модель, созданная Chihoon Lee и T3Q путём слияния двух моделей с помощью mergekit: davidkim205/komt-solar-10.7b-sft-v5 и LDCC/LDCC-SOLAR-10.7B. Модель предназначена для генерации текста и диалоговых сценариев на основе текстового запроса. Модель использует плотную архитектуру семейства Llama и содержит 10,7 млрд параметров. Максимальная длина контекста — 4096 токенов. В репозитории доступны веса в формате safetensors; слияние выполнено методом SLERP с настройками для слоёв self-attention и MLP. Модель поддерживает ввод и генерацию текста. Лицензия — Apache-2.0. Карточка не сообщает о специальных областях применения или подтверждённых ограничениях качества; результат генерации может зависеть от формулировки запроса и не должен считаться проверенным фактом.

T5Gemma-S-S-PrefixLM-IT — англоязычная текстовая модель Google семейства T5Gemma с энкодер-декодерной архитектурой. Это instruction-tuned вариант с энкодером и декодером размера S, адаптированный с использованием PrefixLM; модель предназначена для генерации текста по запросу. Модель подходит для ответов на вопросы, суммаризации, рассуждений и создания текстов, включая черновики писем, сценарии и маркетинговые материалы. Небольшой размер семейства ориентирован на более экономичное развёртывание, в том числе на локальной инфраструктуре; точное число параметров этой версии в предоставленных данных не указано. Модель работает с текстом на английском языке. Возможные ограничения включают ошибки в фактах, трудности с неоднозначными формулировками и сложными задачами, а также смещения и пробелы, унаследованные от обучающих данных. Лицензия — Gemma; при использовании следует учитывать политику допустимого использования моделей Gemma.

Ternary-Bonsai-2-27B-vllm — текстовая языковая модель, разработанная Fraser Price и неофициально перепакованная для vLLM на основе Bonsai 2 27B от Prism ML. Модель создана на базе Qwen3.8-27B от Alibaba Cloud и предназначена для генерации текста и запуска инференса через vLLM, включая сценарии со speculative decoding. Модель использует тернарные веса с 2-битным кодированием, FP16-групповыми масштабами g128 и Hadamard-преобразованием; таблица эмбеддингов хранится в BF16. Для speculative decoding применяется MTP-голова из Qwen3.8-27B, которая генерирует черновые токены, проверяемые основной моделью. В состав входит только текстовая модальность, без vision tower. Конкретные размеры контекста, языки и показатели производительности в README не указаны. Для работы требуется плагин prism_ternary для vLLM. Модель собрана и протестирована только на NVIDIA RTX PRO 6000 Blackwell, поэтому совместимость с другими GPU не подтверждена. Проект обозначен как находящийся в разработке; возможны нестабильность и несовместимые изменения. Распространяется по лицензии Apache 2.0.

Tess-3-Mistral-Large-2-123B-GGUF — набор GGUF-квантизаций текстовой генеративной модели Tess-3-Mistral-Large-2-123B, разработанной migtissera и подготовленной пользователем bartowski. Модель предназначена для локального запуска и генерации текста через llama.cpp, в том числе в LM Studio. В README приведён формат диалога с системными, пользовательскими и ассистентскими сообщениями. Это крупная модель на 123 млрд параметров; точная архитектура, поддерживаемые языки и размер контекста в README не указаны. Доступны варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS, Q3, Q2 и IQ1 с размером файлов примерно от 28,39 до 130,28 ГБ. Варианты Q6_K, Q5_K_M и Q4_K_M отмечены как рекомендуемые благодаря сочетанию качества и требований к памяти, тогда как низкоразрядные варианты экономят место, но заметно уступают в качестве. Квантизации выполнены с использованием imatrix и llama.cpp версии b3509; для отдельных вариантов embedding- и output-веса сохранены в Q8_0, что потенциально может улучшать качество. Основные ограничения — очень высокие требования к оперативной памяти или видеопамяти и снижение качества при агрессивном квантовании. Модель распространяется по лицензии Mistral AI Research Licence 0.1; в README указана лицензия other и ссылка на её текст.

Tess-70B-v1.6 — универсальная языковая модель из серии Tess, разработанной migtissera. Она дообучена на базе Miqu/LLaMA-2-70B и предназначена для генерации текста и диалогового общения. Модель использует плотную архитектуру LlamaForCausalLM и содержит 68,7 млрд параметров. Модель принимает текст и генерирует текст. Контекстное окно составляет 32 764 токена. В карточке указан формат safetensors и лицензия Llama 2. Для общения README задаёт формат с метками SYSTEM, USER и ASSISTANT; сведения о поддерживаемых естественных языках и специализированных областях применения не приведены.

Это GGUF-квантизированная версия языковой модели Snowpiercer-15B-v3, разработанной TheDrummer и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет размер 15 миллиардов параметров и представлена в нескольких вариантах точности и квантизации: от BF16 размером около 30 ГБ до компактных Q2–Q8-вариантов размером примерно от 6,45 до 15,92 ГБ. Квантизация выполнена с использованием imatrix на базе llama.cpp, что позволяет выбирать баланс между качеством, требованиями к памяти и скоростью инференса. Наиболее качественными и рекомендуемыми в README названы варианты Q5, Q6 и Q4_K_M; для систем с ограниченным объёмом RAM доступны варианты Q3 и Q2. Сильная сторона модели — возможность локального запуска на широком спектре оборудования благодаря большому выбору квантизаций. Ограничения включают отсутствие в README сведений о базовой архитектуре, поддерживаемых языках, длине контекста, мультимодальности, специализированных сценариях обучения и формате промпта; его рекомендуется уточнять на странице оригинальной модели. Лицензия в предоставленных данных не указана.

Cohere и Cohere Labs разработали Cohere Labs Tiny Aya — многоязычную авторегрессионную языковую модель на 3,35 млрд параметров для генерации текста и диалогов. Вариант water ориентирован на европейские и азиатско-тихоокеанские языки; семейство охватывает более 70 языков и предназначено также для дальнейшей адаптации и локального развёртывания при ограниченных вычислительных ресурсах. Модель использует оптимизированную архитектуру Transformer: три слоя со скользящим вниманием и окном 4096 токенов и один слой с глобальным вниманием. После предобучения она прошла инструкционную настройку и обучение на предпочтениях. Контекст и длина генерации — до 8K токенов. Принимает текст и выдаёт текст; подходит для диалогов, суммаризации, перевода и межъязыковых задач. Сильная сторона модели — генерация на широком наборе языков, включая языки с ограниченными ресурсами. Качество может быть менее стабильным на низкоресурсных языках; карточка также отмечает слабые результаты в сложных рассуждениях, например в многоязычной математике, и возможность фактических ошибок. Лицензия CC-BY-NC-4.0 разрешает некоммерческое использование с соблюдением Acceptable Use Policy Cohere Labs; для коммерческого применения требуется связаться с Cohere.

featherless-ai-quants/v2ray-Llama-3-70B-GGUF — набор GGUF-квантизаций модели v2ray/Llama-3-70B, подготовленный featherless-ai-quants. Модель предназначена для генерации текста и может применяться в сценариях локального или серверного запуска языковой модели, включая диалоговые приложения, создание и преобразование текста, а также другие задачи text-generation. В репозитории доступны варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Размеры указанных наборов составляют примерно от 25 до 72 ГБ. GGUF обеспечивает выбор компромисса между требованиями к памяти, скоростью работы и сохранением качества, однако конкретные характеристики зависят от выбранного варианта. README не указывает архитектурные детали, размер контекста, поддерживаемые языки и модальности; из названия и pipeline_tag следует, что это текстовая модель. Сильная сторона набора — наличие множества уровней квантизации для разного оборудования и требований к качеству. Ограничения включают значительные требования к памяти даже для наиболее компактных вариантов, а также отсутствие в README данных о сравнительных результатах, качестве, тонкой настройке и рекомендуемых параметрах запуска. Лицензия в предоставленных материалах не указана.

Набор GGUF-квантизованных файлов модели vicgalle/Configurable-Llama-3.1-8B-Instruct, подготовленный командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций в сценариях, где требуется локальный или совместимый с GGUF запуск. README указывает базовую модель и тег text-generation, но не раскрывает подробности её специфической функциональности. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3,0 до 8,1 ГБ. В основе заявлена архитектура Llama 3.1 с размером 8B и инструкционной настройкой; поддерживаемые модальности, языки и размер контекста в README не указаны. Квантизация позволяет выбирать компромисс между размером файлов и потенциальным качеством, однако конкретные показатели производительности и потери качества не приведены. Лицензия и условия использования в README не указаны. Также отсутствуют сведения о разработчике базовой модели, бенчмарках, требованиях к оборудованию и ограничениях применения.

Xwen-7B-Chat — диалоговая языковая модель команды xwen-team, дообученная на базе Qwen2.5-7B. Это плотная трансформерная модель с 7,1 млрд параметров для генерации текста и ведения диалога; она принимает текст и выдаёт текст. В метаданных указан контекст до 131 072 токенов, поддержка английского и китайского языков, интерфейс для вызова инструментов и библиотека Transformers. Модель предназначена для чат-ботов и ответов на пользовательские запросы. Авторы приводят результаты Arena-Hard-Auto, MT-Bench и AlignBench, где Xwen-7B-Chat показала результаты выше приведённых в карточке сравнений с рядом сопоставимых моделей; это результаты бенчмарков, а не гарантия качества для конкретного сценария. Авторы также предупреждают, что модель специально не обучали точно отвечать на вопросы о собственной личности и разработчиках. Веса распространяются по лицензии Apache-2.0. В README упомянуты отдельные репозитории с GGUF-квантованиями; эта карточка описывает версию в формате Safetensors.

YamshadowInex12_Experiment26Pastiche — слитая модель для генерации текста, созданная объединением automerger/YamshadowInex12-7B и automerger/Experiment26Pastiche-7B. Она построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; контекст — до 32 768 токенов. Модель принимает текст и генерирует текст, поэтому подходит для диалогов и других сценариев генерации на основе текстового запроса. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/YamshadowStrangemerges_32_Experiment28Neuralsirkrishna — объединённая языковая модель на архитектуре Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/Experiment28Neuralsirkrishna-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна авторегрессионная языковая модель. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Репозиторий создан MaziyarPanahi; лицензия — Apache-2.0. Данные карточки не уточняют языки или специализированные области применения модели.