I.11Классификация, ранжирование и сопоставление

fedric95/Qwen2-7B-GGUF — набор GGUF-квантизаций базовой языковой модели Qwen2-7B, опубликованный пользователем fedric95. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через llama.cpp. В метаданных указаны английский язык и задача text-generation. Модель содержит около 7 млрд параметров и представлена в вариантах BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, Q3_K_L, Q3_K_M, Q3_K_S и Q2_K. Размер файлов варьируется от 3,02 до 15,2 ГБ. Более сильная квантизация обычно требует меньше памяти, но может снижать качество: например, значение perplexity на wikitext-2-raw-v1.test составляет 7,3817 для Q8_0, 7,4796 для Q4_K_M и 10,5122 для Q2_K. Для отдельных вариантов приведены результаты WinoGrande, HellaSwag и MMLU в режиме zero-shot. Сильные стороны модели — широкий выбор уровней квантизации и возможность подбора компромисса между размером, требованиями к памяти и качеством. Ограничения включают отсутствие данных о длине контекста, мультимодальности, дополнительных языках и конкретных требованиях к аппаратному обеспечению; приведённые результаты не описывают все реальные сценарии применения. Лицензия — Apache-2.0.

t-firefly/qwen3.5-4b-rknn3-rk1828 — производная версия Qwen3.5-4B от автора репозитория t-firefly, подготовленная для запуска на ускорителе Rockchip RK1828 через LlamaPi. Это мультимодальная модель типа vision-language generation с архитектурой Qwen3.5 и плотной структурой; репозиторий содержит веса в формате GGUF. Исходную модель разработала команда Qwen. Модель предназначена для диалога и генерации ответов по тексту и изображениям, включая понимание визуального содержимого и вызов инструментов в совместимом интерфейсе. Исходная модель поддерживает 201 язык и диалект и имеет контекстное окно 262 144 токена с возможностью расширения до 1 млн токенов; эти характеристики относятся к Qwen3.5-4B и не подтверждены отдельно для сборки RKNN. Сборка ориентирована на запуск на RK1828 с помощью LlamaPi. Лицензия — Apache-2.0. Указанный размер исходной модели — 4 млрд параметров; заявленная в README гибридная архитектура с Gated Delta Networks и разреженным MoE относится к описанию исходной модели, тогда как метаданные репозитория определяют архитектуру этой сборки как плотную. Практическая совместимость и производительность зависят от устройства и программного окружения.

AtomicChat/Qwen3.5-9B-DFlash-GGUF — это текстовая генеративная модель в формате GGUF, созданная путём самостоятельного квантования базовой модели z-lab/Qwen3.5-9B-DFlash. Квантование выполнила Atomic Chat на основе оригинальных весов с использованием матрицы важности для калибровки. Модель рассчитана на локальный и полностью офлайн-запуск, в том числе через llama.cpp, Ollama, LM Studio, Jan и Atomic Chat. Модель предназначена для диалоговой генерации текста и других сценариев, поддерживаемых text-generation. В репозитории указаны 1,3 млрд параметров, 6 слоёв и контекст до 262 144 токенов. Архитектура представляет собой плотный декодер с гибридным вниманием: скользящее окно 4096 токенов сочетается с глобальным вниманием; используются 32 attention heads и 8 KV heads. Модель работает только с текстом, сведения о поддерживаемых языках отсутствуют. Доступен квант Q8_0 размером около 1,4 ГБ, заявленный как практически без потерь. К сильным сторонам относятся небольшой размер, возможность автономного запуска, длинный заявленный контекст и калибровка квантов с помощью importance matrix, призванная сохранить качество при сниженной точности. Ограничения — отсутствие информации о качестве на бенчмарках, языках, рекомендуемых параметрах генерации и фактической производительности, а также необходимость применять chat template Qwen3.5 через параметр --jinja; без него возможна некорректная структура диалога. Исходная модель выпущена под лицензией Apache 2.0, квантованная версия подготовлена Atomic Chat.

Qwen3.5-REAP-212B-A17B-W4A16 — квантизированная версия модели OpenMOSE/Qwen3.5-REAP-212B-A17B, подготовленная с помощью Intel AutoRound. Это MoE-модель с 212 млрд параметров; веса квантованы до 4 бит с группой 128, а маршрутизатор экспертов оставлен без квантизации. По метаданным модель предназначена для генерации текста и диалогового использования. В README описана процедура квантования, но не приведены сведения о контекстном окне и поддерживаемых языках. Для квантования использованы 64 калибровочных примера из NeelNanda/pile-10k с длиной последовательности 512. Модель требует поддержки архитектуры qwen3_5_moe в Transformers; в README отмечены проблемы совместимости AutoRound с Transformers 5.x, для которых нужны исправления импорта и определения мультимодальности. Лицензия — Apache-2.0.

havenoammo/Qwen3.6-35B-A3B-MTP-GGUF — это GGUF-версия модели Qwen3.6-35B-A3B, подготовленная с использованием квантования Unsloth Dynamic 2.0 XL (UD XL). Репозиторий также содержит добавленные слои Multi-Token Prediction (MTP), взятые из проекта am17an/Qwen3.6-35BA3B-MTP-GGUF и сохранённые в формате Q8_0. Базовая модель разработана командой Qwen, а данная модификация и упаковка опубликованы havenoammo. Модель предназначена для локального запуска в llama.cpp и сценариев генерации текста с использованием спекулятивного декодирования. MTP-слои позволяют предварительно предсказывать несколько токенов; в README указаны три слоя MTP и параметр --spec-draft-n-max 3. Доступны варианты для различных аппаратных платформ через Docker-образы с поддержкой CUDA, Vulkan, Intel и ROCm. README также указывает на использование контекста размером до 262144 токенов в рекомендуемой конфигурации. Ключевые характеристики: архитектура Qwen3.6-35B-A3B, размер 35B параметров с обозначением A3B, формат GGUF, квантование UD XL для основной модели и Q8_0 для MTP-слоёв. README помечает модель как image-text-to-text, однако подробные сведения о поддерживаемых языках и мультимодальных возможностях не приведены. Сильной стороной является сочетание существенно сжатого формата с MTP для потенциального ускорения генерации, но для работы требуется специальная сборка llama.cpp с поддержкой MTP или готовый совместимый Docker-образ. Модель распространяется по лицензии Apache-2.0. Фактическая скорость, требования к памяти и преимущество MTP зависят от выбранного варианта квантования, аппаратного обеспечения и конфигурации запуска.

Qwen3.8-27B LLM SCS — дообученная компанией или автором achuthc1298 мультимодальная модель на базе Qwen/Qwen3.8-27B. Это плотная модель с архитектурой Qwen3_5ForConditionalGeneration и 27 млрд параметров, предназначенная для диалогов с текстом и изображениями. Она поддерживает анализ визуального содержимого и интерфейс вызова инструментов. В репозитории размещены полные веса в формате Safetensors, конфигурация модели, токенизатор и файлы предварительной обработки. Модель подходит для ответов на вопросы по изображениям, описания визуальных сцен и диалоговых задач с визуальным контекстом. Также заявлен интерфейс для вызова инструментов. Сведения о лицензии, длине контекста и поддерживаемых естественных языках в доступных данных отсутствуют.

Qwen3-8B-RewardedSoups-baseline — диалоговая языковая модель на базе Qwen3-8B, подготовленная методом Rewarded Soups для совмещения нескольких целей поведения. Разработчик объединил линейной интерполяцией четыре DPO-эксперта, обученных от общей исходной модели; веса экспертов смешаны с коэффициентами 0,15, 0,15, 0,15 и 0,55. Коэффициенты выбраны по 100 проверочным запросам. Модель предназначена для генерации ответов в диалоге с акцентом на следование инструкциям, правдивость, честность и полезность. В карточке описана оценка на UltraFeedback: ответы сравнивали с общей референсной моделью на отложенных запросах, используя Llama-3.3-70B-Instruct в роли судьи. Метаданные указывают архитектуру Qwen3ForCausalLM, 7,6 млрд параметров, контекст до 40 960 токенов и библиотеку Transformers. Базовая модель заявлена как многоязычная; README не уточняет языки обучения этой версии. Модель распространяется в формате safetensors по лицензии Llama 3.1. README сообщает о бюджете дообучения в 300 обновлений оптимизатора с глобальным размером пакета 16, поэтому результаты оценки не следует считать гарантией качества во всех сценариях. Карточка не приводит подробных ограничений применения.

svjack подготовил вариант Qwen3-VL-4B-Instruct с ослабленными отказами: по приведённому сравнению доля отказов составила 7 из 100 против 92 из 100 у исходной модели, при этом KL-дивергенция равна 0,29. Это мультимодальная модель семейства Qwen3-VL с плотной архитектурой, предназначенная для диалогов с текстом и изображениями. Она может описывать изображения, отвечать на вопросы по ним, распознавать текст и выполнять задачи визуального рассуждения. В README приведены характеристики базовой модели, включая заявленный контекст 256 тысяч токенов с возможностью расширения до 1 миллиона, понимание видео, OCR для 32 языков, пространственное рассуждение и взаимодействие с инструментами; эти характеристики не подтверждены отдельными результатами для изменённого варианта. Модель распространяется в формате safetensors по лицензии Apache 2.0.

Defetya/qwen-4B-saiga — чат-модель на архитектуре Qwen2, разработанной Alibaba. Модель с 3,6 млрд параметров дообучена методом SFT на датасете Saiga Ильи Гусева с использованием EasyDeL на TPU v3-8. Она предназначена для диалогов и генерации текста, в первую очередь на русском языке; контекст составляет до 32 768 токенов. Автор README отмечает хорошее обращение с русскими падежами по результатам краткого личного общения, но не приводит систематических оценок: карточка упоминает запланированную проверку на Russian SuperGLUE. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

Qwen-Qwen1.5-1.8B-GGUF — набор GGUF-квантизированных версий языковой модели Qwen1.5-1.8B, разработанный и подготовленный Featherless AI Quants на основе Qwen/Qwen1.5-1.8B. Модель предназначена для генерации текста и локального или ресурсоэффективного запуска сценариев обработки естественного языка. В репозитории представлены варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 807 МБ до 1,87 ГБ. Формат GGUF обеспечивает совместимость с программным обеспечением, поддерживающим этот формат, а выбор уровня квантизации позволяет балансировать между размером файлов, требованиями к памяти и сохранением качества. Архитектура, число параметров, поддерживаемые языки и размер контекста в README не указаны. Сильной стороной набора является наличие нескольких вариантов квантизации для разных аппаратных ограничений и требований к качеству. Ограничения включают отсутствие подробной информации о характеристиках базовой модели, её языках, производительности и рекомендуемых сценариях применения. Лицензия в README не указана; условия использования следует уточнять в материалах базовой модели Qwen/Qwen1.5-1.8B.

r3b-1.2 — языковая модель семейства Llama, разработанная xgmab123 и дообученная на основе xgmab123/r3b-1.1. Она предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 3,2 млрд параметров, имеет контекст до 131 072 токенов и распространяется в формате PyTorch. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Карточка указывает английский язык. Лицензия — Apache-2.0.

Ramakrishna-7b-v2 — объединённая модель семейства Mistral с 7,1 млрд параметров, созданная Kukedlc методом slerp с помощью LazyMergekit на основе Kukedlc/Ramakrishna-7b и Kukedlc/NeuralSirKrishna-7b. Модель предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов и распространяется в формате safetensors с весами float16. Модель принимает текст и выдаёт текст. Сведения о специализации по языкам и прикладным областям, а также о конкретных преимуществах и ограничениях в карточке не приведены. Лицензия в предоставленных данных не указана.

RandomMergeNoNorm-7B-DARETIES — текстовая генеративная модель, созданная с помощью mergekit объединением моделей FelixChao/WestSeverus-7B-DPO-v2, CultriX/Wernicke-7B-v9 и mlabonne/NeuralBeagle14-7B. Это плотная архитектура MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Слияние выполнено методом DARE-TIES с базой FelixChao/WestSeverus-7B-DPO-v2, плотностями 0,45 и 0,55 для компонентов и параметром int8_mask; итоговый тип данных — float16. Базовая модель NeuralBeagle14-7B описана как модель для диалогов, следования инструкциям, рассуждений и творческой генерации, однако отдельные оценки качества именно этого слияния в карточке не приведены. Модель распространяется по лицензии Apache-2.0.

Reflection Llama-3.1 70B — языковая модель на архитектуре Llama 3.1, разработанная Matt Shumer и дообученная методом Reflection-Tuning на синтетических данных Glaive. Она предназначена для диалогов и генерации ответов, в том числе для задач, где полезно перепроверять ход решения и исправлять обнаруженные ошибки. Модель содержит 69,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. При генерации модель оформляет рассуждение и итоговый ответ специальными токенами; в ходе рассуждения она может обозначать исправление ошибки. Для взаимодействия используется формат чата Llama 3.1. В карточке указана лицензия Llama 3.1. Автор предупреждает о проблеме в первоначальной загрузке и рекомендует пользователям, столкнувшимся с плохими результатами, повторить попытку с исправленной версией. README предлагает параметры temperature 0,7 и top_p 0,95, но не приводит независимых подтверждений заявлений о качестве и превосходстве модели.

ehristoforu/rufalcon3-3b-it — языковая модель для генерации текста и диалогов, созданная ehristoforu дообучением tiiuae/Falcon3-3B-Instruct. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 2,8 млрд параметров; веса доступны в формате safetensors. Она рассчитана на контекст до 32 768 токенов. Модель подходит для диалогового взаимодействия и генерации ответов по текстовым запросам. В карточке указаны обучение с Unsloth и TRL и лицензия Apache-2.0. Язык, отмеченный в метаданных самой модели, — английский; базовая модель также описана как поддерживающая французский, испанский и португальский языки.

NaomiBTW/rwkv7-g1c-13.3b-gguf — квантизированная версия языковой модели RWKV7 g1c с приблизительно 13,3 млрд параметров. Модель основана на BlinkDL/rwkv7-g1 и предназначена для генерации текста, включая диалоговые и другие сценарии обработки естественного языка, совместимые с форматом GGUF. Ключевые характеристики включают архитектуру RWKV7, размер около 13,3 млрд параметров и квантизацию, выполненную с использованием калибровки Bartowski calibrationv5 для imatrix. README не содержит сведений о поддерживаемых языках, размере контекста, точном типе квантизации, мультимодальности или результатах тестирования, поэтому эти свойства нельзя оценить по имеющимся данным. К потенциальным ограничениям относятся возможная потеря качества из-за квантизации и требования к ресурсам, характерные для модели такого размера. Лицензия — Apache 2.0.

RYS-Llama3.1-Large — экспериментальная модель автора dnhkng, основанная на Meta Llama 3 70B Instruct и описанная как результат нового метода оптимизации. Она предназначена для генерации текста в диалогах и для экспериментов с оптимизацией больших языковых моделей; карточка сообщает об оценке на Open LLM Leaderboard, но не раскрывает подробностей метода. Модель использует плотную архитектуру LlamaForCausalLM и содержит 80,6 млрд параметров. Метаданные указывают контекст до 131 072 токенов, формат safetensors и интерфейсы чата и вызова инструментов. Карточка не уточняет поддерживаемые языки и условия применения метода, а опубликованная таблица оценок приведена лишь частично. Лицензия — MIT.

Aleteian/saiga-vikhr-dostoevsky-ru-mn-12b — русскоязычная диалоговая языковая модель, созданная слиянием двух моделей на базе Mistral Nemo: IlyaGusev/saiga_nemo_12b и IlyaGusev/vikhr_nemo_orpo_dostoevsky_12b. Для объединения использован метод SLERP с библиотекой mergekit; модель имеет плотную архитектуру MistralForCausalLM и содержит 12,1 млрд параметров. Модель предназначена для генерации текста в диалоге и ответов на запросы пользователей. Она принимает текст и выдаёт текст; метаданные указывают контекст до 1 024 000 токенов и поддержку чата. Лицензия в предоставленных данных не указана.

SauerkrautLM 13B v1 — это языковая модель для генерации текста и диалогового взаимодействия, разработанная VAGO solutions. Представленная версия преобразована в формат GGUF и квантизована TheBloke для более эффективного запуска на совместимом оборудовании. Модель основана на архитектуре Llama и содержит 13 миллиардов параметров. Она предназначена для текстовых сценариев, включая ответы на вопросы, ведение диалогов и создание полезных, подробных и вежливых ответов. В README заявлена поддержка немецкого и английского языков. Модель является текстовой и не поддерживает обработку изображений или других мультимодальных данных. Размер контекста и другие характеристики исходной архитектуры в README не указаны. GGUF-файлы доступны с уровнями квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью работы и качеством генерации. Модель совместима с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения. Более низкая квантизация уменьшает потребление ресурсов, но может снижать качество ответов. Лицензия указана как Llama 2.

arcee-ai/Saul-Base-Clown-7B-Instruct-slerp — текстовая генеративная модель, созданная объединением Equall/Saul-Base и CorticalStack/pastiche-crown-clown-7b-dare-dpo методом SLERP с помощью mergekit. Это плотная причинная языковая модель архитектуры Mistral объёмом 7,1 млрд параметров, сохранённая в формате safetensors; заявленный контекст — до 32 768 токенов. Модель предназначена для генерации текста в формате инструкций и диалога. Её можно применять для ответов на запросы, написания и редактирования текстов, а также для задач, где полезны объединённые характеристики исходных моделей. В карточке не приведены отдельные результаты оценки качества или сведения о поддерживаемых языках. Модель распространяется по лицензии Apache-2.0. Качество ответов и поведение могут зависеть от используемого шаблона промпта; самостоятельные сведения о тестировании и ограничениях в карточке отсутствуют.

SFR-Iterative-DPO-LLaMA-3-8B-R — разговорная instruct-модель Salesforce на архитектуре LLaMA 3 с 7,5 млрд параметров. Она создана в рамках инициативы Salesforce по RLHF и обучена с использованием онлайн-рецепта на основе DPO; карточка также перечисляет выпуски SFT-, reward- и RLHF-моделей. Репозиторий содержит веса в формате safetensors, модель поддерживает чат и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговых ответов и следования инструкциям. В README заявлены результаты на Alpaca-Eval-V2, MT-Bench и Chat-Arena-Hard, а также академических тестах; это заявления авторов, а не независимая оценка. Карточка описывает её как исследовательскую разработку Salesforce, но не приводит перечень поддерживаемых языков. README предупреждает, что при враждебных запросах модель может выдавать оскорбительный или неэтичный контент. В README указана лицензия CC-BY-NC-ND-3.0, при этом автор текста утверждает, что корректной лицензией должна быть лицензия LLaMA 3; это расхождение следует учитывать при проверке условий использования.

Skywork-R1V2-38B — открытая мультимодальная модель рассуждений компании Skywork, построенная на архитектуре InternVL Chat. Она принимает изображения и текст и предназначена для визуальных вопросов и ответов, анализа изображений и решения задач, требующих визуального и текстового рассуждения. В README указаны результаты на MMMU — 73,6% и OlympiadBench — 62,6%, а также оценки на MathVision, MMMU-Pro и MathVista; размеры контекста и число параметров в доступных данных не приводятся. Модель распространяется в формате safetensors и лицензирована по MIT. Метаданные указывают поддержку чата и интерфейс вызова инструментов.

unsloth/SmolLM2-1.7B — компактная языковая модель на 1,7 млрд параметров, основанная на HuggingFaceTB/SmolLM2-1.7B. Репозиторий опубликован Unsloth и содержит вариант для генерации текста в формате safetensors; архитектура — плотная LlamaForCausalLM. Модель рассчитана на лёгкий запуск, в том числе на устройстве пользователя, и может служить основой для дообучения. Семейство SmolLM2 предназначено для широкого круга языковых задач. В README указано, что версия Instruct улучшена в следовании инструкциям, знаниях, рассуждениях и математике; для неё также заявлены переписывание и суммаризация текста, а также вызов функций. Контекст модели составляет 8192 токена. В метаданных указан английский язык. Лицензия — Apache-2.0. README описывает семейство и его вариант Instruct, однако не подтверждает, что конкретный репозиторий содержит именно Instruct-версию; перечисленные дополнительные возможности поэтому следует считать характеристиками семейства, а не гарантированными функциями этого чекпойнта.

Карточка модели hamxea/StableBeluga-7B-activity-fine-tuned-v2 на Hugging Face совпадает с карточкой stabilityai/StableBeluga2, поэтому описание составлено по ней. Stable Beluga 2 — авторегрессионная языковая модель Stability AI на архитектуре Llama 2, дообученная на 70B-базе в стиле Orca. Она предназначена для диалогов и генерации текста, в том числе ответов на вопросы и выполнения текстовых инструкций. Модель содержит 68,7 млрд параметров, работает с текстом и имеет контекст длиной 4096 токенов; в карточке заявлена поддержка английского языка. Модель опубликована в формате PyTorch и рассчитана на использование через Hugging Face Transformers. Чекпойнт распространяется по лицензии STABLE BELUGA NON-COMMERCIAL COMMUNITY LICENSE AGREEMENT, которая ограничивает коммерческое использование. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед применением в продукте Stability AI рекомендует проводить проверку безопасности и настройку под конкретный сценарий.

SuperGemma 4 E4B Abliterated — LiteRT-LM — это неофициальная общественная конверсия модели Jiunsong/supergemma4-e4b-abliterated в формат .litertlm для рантайма LiteRT-LM. В основе лежат google/gemma-4-E4B-it от Google DeepMind и аблитерированная дообученная версия от Jiunsong. Сборка не опубликована Google, командой LiteRT или Jiunsong. Модель предназначена для генерации текста и локального запуска на устройствах и настольных системах через единый пакет LiteRT-LM. Заявлены сценарии использования на Android, iOS, macOS, Linux, Windows и в Web, включая работу на Apple Silicon с CPU или Metal GPU. Размер пакета составляет 3,65 ГБ. Для macOS ARM64 указана измеренная производительность около 40 токенов в секунду при декодировании на Metal против примерно 13 токенов в секунду на CPU, однако фактические показатели зависят от оборудования. Ключевое ограничение связано с повторной int4/int8-квантизацией: результаты могут отличаться от исходной модели, а аблитерированное поведение на некоторых запросах может быть ослаблено. Для этой сборки рекомендуется отключать speculative decoding, поскольку MTP-драфтер может иметь низкую долю принятых токенов и не гарантирует ускорения, хотя проверка основой моделью сохраняет корректность. Языки, размер контекста, точная архитектура и поддерживаемые модальности в карточке не указаны. Распространение регулируется лицензией Gemma, условия которой необходимо проверить перед использованием и перераспределением.

Synatra-7B-Instruct-v0.2-Mistral-7B-Instruct-v0.1 — чат-модель генерации текста, созданная объединением Mistral-7B-Instruct-v0.1 и maywell/Synatra-7B-Instruct-v0.2 методом SLERP. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; в метаданных указан контекст до 32 768 токенов. Она принимает текстовые инструкции и сообщения диалога и генерирует текстовые ответы. Модель подходит для диалоговых ассистентов, ответов на инструкции и генерации текста. Карточка не приводит сравнительных оценок качества или подробных результатов тестирования. Модель распространяется по лицензии Apache-2.0.

Kaballas/T35Model — дообученная Kaballas модель на архитектуре Qwen2 с 7,1 млрд параметров, созданная на основе Kaballas/T21Model. Модель предназначена для генерации текста; в метаданных указан контекст до 131 072 токенов. Разработчик сообщает, что модель обучалась с использованием Unsloth и библиотеки TRL. В метаданных указана поддержка английского языка. Модель распространяется по лицензии Apache-2.0.

TARS-8B-llama-REMIX-v2 — объединённая автором picAIso модель для генерации текста и диалогового общения. Она создана методом DARE TIES с помощью mergekit на основе picAIso/MIX1 с включением NousResearch/Hermes-2-Pro-Llama-3-8B; архитектура — плотная LlamaForCausalLM семейства Llama, размер — 7,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает диалоговый сценарий и имеет контекстное окно 8192 токена. В карточке указаны формат safetensors и библиотека Transformers. Лицензия — Llama 3. Метаданные описывают базовую модель как ориентированную на ответы по инструкциям, вызов функций и генерацию структурированных данных JSON, однако README не подтверждает отдельно качество этих возможностей у данного объединения.

TheDrummer_Rocinante-X-12B-v1-GGUF — это набор квантованных версий языковой модели Rocinante-X-12B-v1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска в совместимых приложениях и инструментах, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Модель имеет размер 12 миллиардов параметров и относится к текстовым моделям без заявленной поддержки дополнительных модальностей. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q2-квантований с размером файлов примерно от 5 до 24,5 ГБ. Для диалогового использования в README указан формат промпта с системным сообщением и пользовательским запросом в шаблоне [INST]. Основное преимущество набора — широкий выбор квантований, позволяющий подобрать баланс между качеством, требованиями к памяти и скоростью локального вывода; варианты Q5 и Q6 отмечены как высококачественные, а Q4_K_M — как типичный вариант для большинства сценариев. Более сильное квантование может снижать качество генерации, а поддержка модели зависит от используемого программного обеспечения. Языки, размер контекста и лицензия в предоставленных данных не указаны.

Thespis-CurtainCall-7b-v0.2.2 — языковая модель на архитектуре Mistral, выпущенная автором cgato для тестирования. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель дообучена на наборах данных для диалогов, следования инструкциям, вопросов и ответов, программирования, токсичных запросов, физического рассуждения и теории разума. Она предназначена для генерации текста в чат-сценариях; README описывает шаблон диалога с ролями пользователя и бота, совместимый с Ooba и SillyTavern. Модель представлена в формате PyTorch и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Автор выпустил эту версию для тестирования и рассматривает масштабирование при положительных отзывах; конкретные оценки качества и ограничения в карточке не приведены.