II.6Документация и сопровождение разработки

Qwen3.8-2B-Distill-GGUF — набор GGUF-квантизаций модели Qwen3.8-2B, разработанной компанией Empero. Исходная модель представляет собой полнопараметрическую дистилляцию Qwen3.8 2.4T A95B в архитектуру Qwen3.5-2B; опубликованный вариант предназначен для запуска через llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и другие совместимые GGUF-рантаймы. Модель предназначена для генерации текста, диалоговых сценариев и задач рассуждения. В README указаны английский язык и текстовая модальность. Доступны варианты Q4_K_M, Q5_K_M, Q6_K, Q8_0 и BF16 размером примерно от 1,312 до 3,897 ГБ. Архитектура использует гибрид Qwen3.5 с тремя слоями Gated DeltaNet на каждый слой full attention. Контекстное окно в предоставленных данных не указано. К сильным сторонам относятся небольшой размер, возможность работы на телефонах, одноплатных компьютерах и обычных ноутбуках, а также заметное улучшение результатов относительно базовой Qwen3.5-2B на тестах MMLU и GSM8K. Модель является reasoning-моделью и формирует рассуждения в блоке <think>, который при необходимости следует удалять перед показом пользователю. Для загрузки требуется свежая версия llama.cpp с поддержкой Qwen3.5 и Gated DeltaNet; старые версии могут не распознать архитектуру. На длинном контексте основную дополнительную нагрузку создаёт KV-кэш. Весовые файлы распространяются по лицензии Apache-2.0. Квантизации унаследованы от базовой модели Qwen и опубликованы компанией Empero.

LaTexT/qwen3-8b-gz9-newlines-iter2-w0.2 — дообученная модель на базе Qwen/Qwen3-8B, созданная с помощью TRL. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов, предназначенная для диалоговой генерации текста. Карточка связывает её с экспериментом LaTexT и указывает обучающий набор shannons/ot3-1.2m-10k-converted. Модель можно использовать для генерации ответов в чате и выполнения инструкций в текстовом интерфейсе; метаданные также отмечают интерфейс вызова инструментов. Поддерживаемые языки отдельно не перечислены, поэтому описание не приписывает ей конкретный языковой охват. Репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Это экспериментальный чекпойнт из исследовательского проекта; README не приводит сравнительных оценок качества или гарантий поведения. Условия лицензии в предоставленных сведениях не указаны.

lmstudio-community/Qwen3-8B-MLX-8bit — это 8-битная версия модели Qwen3-8B, преобразованная сообществом lmstudio-community в формат MLX с использованием mlx-lm 0.24.0. Исходная модель опубликована в репозитории Qwen/Qwen3-8B; в README указано назначение для генерации текста и совместимость с библиотекой mlx-lm. Модель предназначена для локального запуска на устройствах, поддерживающих MLX, а также для диалоговой генерации с использованием chat template. Ключевые характеристики: около 8 миллиардов параметров, 8-битное представление и текстовая модальность. Архитектура, поддерживаемые языки, размер контекста, сильные стороны и ограничения в README не описаны, поэтому их нельзя достоверно оценить по предоставленным данным. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-Heretic2-IQ4XS-NGQ4-GGUF — мультимодальная версия Qwen3.8-Flash-Next от Alibaba, обработанная методом abliteration с Heretic v1.3.0+custom и квантованная в GGUF для запуска через специализированную сборку llama.cpp. Репозиторий содержит основную модель размером 92 ГБ в формате IQ4_XS с таблицей n-грамм, сжатой методом NGQ4, и отдельный проектор изображений BF16 размером 866 МБ. Модель принимает текст и изображения, поддерживает диалог и анализ изображений; в README также приведены результаты генерации кода на HumanEval+. Для запуска требуется форк llama.cpp с поддержкой архитектуры qwen4exp; стандартная сборка llama.cpp её не загружает. Модель создана на основе Qwen/Qwen3.8-Flash-Next и рассчитана на локальный инференс, в том числе на оборудовании AMD Strix Halo с 128 ГБ объединённой памяти. README сообщает, что на HumanEval+ вариант набрал 84,1% на базовом наборе и 79,3% на Plus при указанном режиме тестирования. Это результат конкретного бенчмарка, а не гарантия качества на других задачах. Abliteration существенно снизила число отказов на проверенных авторами 100 запросах; такое изменение может повлиять на поведение модели при обработке запросов, требующих отказа. Лицензия указана в метаданных как other; конкретные условия использования в доступных сведениях не приведены. Квантизация уменьшает размер модели, но её точность может отличаться от исходной версии. README сообщает об отсутствии измеримого снижения точности на контексте до 32K для этапа сжатия NGQ4; это утверждение ограничено описанными автором проверками.

logic65/Qwen3.8-Whittle-MoE-27B-A17.8B-GGUF — это квантизированная GGUF-версия модели Whittle MoE 27B (A18B), разработанной logic65 на основе Qwen3.8-27B. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, где важны рассуждения, структурированные ответы и корректное завершение генерации. Доступны варианты с разным уровнем квантизации от Q8_0 до Q3_K_M; размер файлов составляет примерно от 13,9 до 28,7 ГБ в зависимости от версии. Архитектура использует mixture-of-experts: на каждом токене активируется 16 из 64 экспертных блоков, а маршрутизатор сохраняется в формате F16. Точные поддерживаемые языки и размер контекста в README не указаны. К сильным сторонам относятся улучшенное завершение ответов и цепочек рассуждений, снижение риска зацикливания и обрыва генерации, а также наличие динамических квантизаций DQ, которые сохраняют повышенную точность для маршрутизатора, общих экспертов, механизма внимания, эмбеддингов и выходной головы. Версия v2.2.1 исправляет большинство случаев завершения внутри блока рассуждений, однако модель по-прежнему слаба в длинных списках и точном подсчёте заданного количества элементов; повторение 4-грамм остаётся выше целевого уровня. Для использования визуальных входов предусмотрен отдельный опциональный проектор mmproj-qwen38.gguf, но полноценные возможности и поддерживаемые модальности в README описаны неполно. Модель распространяется по лицензии Apache-2.0. Для запуска требуются совместимые инструменты GGUF, например llama.cpp, и объём оперативной или видеопамяти, зависящий от выбранного варианта квантизации; рекомендуемые требования для отдельных файлов приведены в карточке модели.

RAS-LAB разработала эту модель как сжатую версию инструктивной Qwen3-Coder-30B-A3B-Instruct для генерации текста, программирования и диалоговых сценариев, включая ответы на корейском языке. Модель использует архитектуру Qwen3 MoE: по README, после удаления экспертов в каждом слое осталось 112 из 128, а число активных экспертов top-8 не изменилось. В карточке указано около 27 млрд параметров, из которых активно примерно 3,3 млрд; метаданные каталога приводят значение 2,6 млрд параметров. Поддерживаются MLX и safetensors, веса также загружаются через Transformers; контекст — до 262 144 токенов. Метод K-REAP защищает путь корейских экспертов при однократном прореживании без последующего дообучения. По приведённым в README результатам, на корейских бенчмарках потери относительно исходной модели невелики; результаты на английских задачах, математике и коде смешанные. Это сравнительные оценки из карточки, а не гарантия качества для конкретных запросов. Лицензия — Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-MLX-4bit — 4-битная квантованная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX; модель оптимизирована для запуска на устройствах с Apple Silicon. Модель предназначена для генерации текста и, судя по названию исходной модели, ориентирована на задачи, связанные с программированием, однако README не содержит подробностей о поддерживаемых языках программирования, естественных языках, архитектуре, размере активной части модели, контекстном окне или доступных модальностях. Указан только формат text-generation и 4-битное представление, которое снижает требования к памяти и делает локальный запуск на Apple Silicon более практичным, но может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии Apache-2.0. LM Studio не является создателем исходной модели и не гарантирует её точность, безопасность или пригодность для конкретных задач; результаты могут быть ошибочными или неподходящими и требуют проверки.

Это квантизированная в MXFP4 версия модели Mattepiu/Qwen3-Coder-Next-REAP-48B-A3B в формате GGUF. Она предназначена для генерации текста и диалогового использования; название базовой модели указывает на специализацию семейства Qwen3 Coder на задачах программирования. В метаданных задача модели обозначена как text-generation, а среди возможностей указана поддержка чата. В README приведены рекомендованные параметры генерации: temperature=1.0, top_p=0.95 и top_k=40. Квантизация MXFP4 уменьшает точность представления весов; подробности о качестве, требованиях к памяти и ограничениях применения в карточке не раскрыты. Лицензия в предоставленных данных не указана.

Qwen3Loop-0.6B-SFT-Deep-Supervision — языковая модель для диалоговой генерации текста, разработанная Lordnyx на базе архитектуры Qwen3Loop. В ней 507,9 млн физических параметров и рекуррентная схема повторного вычисления среднего блока слоёв; автор описывает её как модель с логической глубиной 56 слоёв. В карточке заявлены контекст до 40 960 токенов и обучение на 6 324 отобранных примерах с многоэтапными агентными и пошаговыми рассуждениями, включая задачи программирования. Модель предназначена для чата, рассуждений и генерации ответов на математические и программные запросы. В репозитории доступны веса Safetensors и варианты GGUF в форматах F16 и Q8_0; также приложен лёгкий зонд для выбора глубины вычислений. README приводит метрики и отдельные результаты тестов автора, которые не следует считать независимой оценкой качества. Модель распространяется по лицензии Apache-2.0. Ограничения: заявленные результаты основаны на ограниченном наборе обучения и тестировании автора; надёжность ответов и преимущество рекуррентной архитектуры могут зависеть от задачи и используемого движка.

RedHatAI/Qwen3-VL-32B-Instruct-FP8-dynamic — мультимодальная instruction-модель, разработанная Red Hat на основе Qwen/Qwen3-VL-32B-Instruct. Модель принимает текст и изображения, а генерирует текст; архитектура указана как Qwen3VLForConditionalGeneration. Она предназначена для диалоговых и аналитических сценариев, требующих понимания визуального содержимого, включая описание изображений и ответы на вопросы по диаграммам. Модель содержит 32 млрд параметров и использует динамическую FP8-квантизацию весов и активаций линейных операторов в трансформерных блоках языковой части. По заявлению авторов, это примерно на 50% снижает размер на диске и требования к GPU-памяти по сравнению с представлением FP16. В оценках с vLLM использовалась максимальная длина контекста 262144 токена и поддержка до 10 изображений, однако отдельные характеристики исходной модели, включая языки и полный контекст, в README не указаны. К сильным сторонам относятся мультимодальность, существенное сокращение требований к памяти и близкие к исходной модели результаты на MMLU: 77,89 против 78,03. На ChartQA заявлена точность 86,68, но эти результаты нельзя напрямую считать универсальной оценкой качества. Ограничения связаны с потерями точности и возможными особенностями FP8-квантизации, а также с тем, что квантизация применяется не ко всем компонентам модели. Для развёртывания рекомендуется vLLM с tensor parallelism; модель распространяется по лицензии Apache-2.0.

CEIA-POSITIVO2/Qwen-4B-capado — языковая генеративная модель семейства Qwen3, опубликованная пользователем CEIA-POSITIVO2 на Hugging Face. Модель предназначена для генерации и продолжения текста, а также для диалоговых сценариев, на что указывают метаданные text-generation и conversational. Модель содержит около 3,5 млрд параметров и поддерживает контекст до 40 960 токенов. Для работы используется библиотека Transformers, а веса представлены в формате Safetensors. Эти характеристики подходят для локального запуска и интеграции в приложения, которым требуется компактная генеративная модель с длинным контекстом. Карточка модели не содержит достоверных сведений о разработчике, языках, лицензии, данных обучения, результатах оценки и рекомендуемых режимах использования. Поэтому модель следует дополнительно тестировать перед применением в продуктивных системах, а условия распространения необходимо проверять отдельно.

Qwen2.5-VL-32B-Instruct-GGUF — квантованная версия мультимодальной инструкционной модели Qwen2.5-VL-32B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста по инструкциям и мультимодальных сценариев, включая работу с визуальными данными; в метаданных указан английский язык. Точные сведения о поддерживаемых форматах изображений, контекстном окне и внутренней архитектуре в README не приведены. Доступны варианты от BF16 и Q8_0 до низкобитных Q3- и IQ-квантований размером примерно от 14,39 до 65,54 ГБ. Квантования выполнены с использованием imatrix и поддерживаются llama.cpp, LM Studio и другими совместимыми проектами. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но могут заметно терять в качестве; для большинства сценариев рекомендуется Q4_K_M как компромисс между размером и качеством. Для запуска необходима совместимая конфигурация, способная разместить выбранный файл модели. Распространение указано по лицензии Apache-2.0. README не содержит подробных результатов тестирования, ограничений мультимодального ввода или гарантированных характеристик производительности, поэтому качество и скорость будут зависеть от выбранного уровня квантования и аппаратного обеспечения.

Qwen3-235B-A22B-Instruct-2507-GGUF — это квантизированная версия инструкционной языковой модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет архитектуру и размер исходной версии Qwen3-235B-A22B-Instruct-2507; в названии указаны 235 млрд параметров и конфигурация A22B. Представлены варианты GGUF с разными уровнями квантизации — от Q2 до Q8_0 — размером примерно от 93 до 250 ГБ для указанных файлов. Более высокие уровни обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти. README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности. Сильной стороной являются разнообразие вариантов квантизации и возможность локального запуска, включая рекомендации Q6_K, Q5_K_M, Q5_K_S и Q4_K_M для разных компромиссов между качеством и требованиями к памяти. Ограничениями выступают очень крупный размер модели и высокие аппаратные требования; при низких уровнях квантизации качество снижается. Лицензия в предоставленных данных не указана.

Qwen_Qwen3-30B-A3B-Instruct-2507-GGUF — это набор GGUF-квантизаций языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной Qwen и подготовленной для llama.cpp пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio и совместимые проекты. Для взаимодействия используется шаблон prompt формата ChatML с ролями system, user и assistant. Модель имеет архитектуру Mixture-of-Experts с общим размером 30B параметров и 3B активных параметров, однако README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности. Доступны варианты от BF16 до низкобитных квантизаций Q8, Q6, Q5, Q4, Q3 и IQ, с размерами файлов примерно от 13 до 61 ГБ. Более качественные варианты требуют больше памяти, а малые квантизации предназначены для систем с ограниченными ресурсами и могут заметно уступать в качестве. Сильной стороной является широкий выбор квантизаций, включая варианты с imatrix, позволяющие подобрать баланс между качеством, размером и скоростью локального вывода; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как оптимальный вариант для большинства сценариев. Ограничения связаны с высокими требованиями к оперативной памяти даже у компактных вариантов и возможной потерей качества при использовании низких разрядностей. Лицензия в представленном README не указана.

Это GGUF-квантизированная версия языковой модели Qwen3-30B-A3B-Thinking-2507, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp; формат подходит для офлайн-сценариев на оборудовании с ограниченными ресурсами по сравнению с полной версией BF16. Модель относится к семейству Qwen3 и имеет заявленный размер 30B параметров, при этом в названии указано A3B. README не содержит сведений о поддерживаемых языках, длине контекста, конкретной архитектуре, мультимодальности и результатах тестирования. Доступны варианты от BF16 до различных уровней квантизации Q8_0, Q6, Q5, Q4, Q3 и IQ; они различаются размером файлов, качеством и требованиями к оперативной памяти. Версии Q6 и Q5 отмечены как высококачественные, Q4_K_M — как стандартный вариант для большинства сценариев, а Q3 предназначены для систем с небольшим объёмом памяти, но дают более низкое качество. Сильными сторонами являются широкий выбор квантизаций, совместимость с популярными локальными инструментами и возможность подобрать баланс между качеством, скоростью и потреблением памяти. Ограничения включают неизбежное снижение качества в более компактных вариантах, значительный размер файлов даже после квантизации и отсутствие в README сведений о лицензии, языках и максимальном контексте. Для корректного диалога рекомендуется использовать указанный в README шаблон prompt format с секцией <think>.

Qwermes3.8 — это дообученная модель Qwen3.8-27B, опубликованная в формате GGUF с квантизацией NVFP4. Автор карточки описывает гибридную плотную архитектуру из 64 слоёв: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв полного внимания. Модель предназначена для генерации текста и диалогов; визуальная оболочка исходной модели удалена, поэтому этот вариант работает только с текстом. Репозиторий рассчитан на запуск через llama.cpp или Ollama, в том числе на рабочих станциях с GPU Blackwell. Заявлен контекст до 262 тыс. токенов, но KV-кэш требует около 117 КБ на токен: для контекста 128 тыс. токенов потребуется примерно 14,7 ГБ видеопамяти, а для 262 тыс. — около 30 ГБ. README приводит замеры скорости и perplexity, но качество проверялось лишь на небольшом наборе ручных запросов без формальной оценки. Лицензия — Apache-2.0.

Qwick-3.5-9B — модель Nobuyuki Horiuchi, дообученная на основе Qwen/Qwen3.5-9B. Это самостоятельный чекпойнт BF16 в формате Transformers, предназначенный для генерации текста с более короткими рассуждениями: при близких результатах на MMLU-Pro и GPQA-Diamond длина ответов в приведённых сравнениях сокращалась примерно на 29–40%. Модель также оценивалась на следовании инструкциям, японских вопросах и генерации кода. Основные сценарии — текстовые рассуждения и ответы на вопросы; README приводит оценку сохранения возможностей на изображениях по валидационной выборке MMMU, но автор не квалифицирует модель для широкого мультимодального развёртывания. Модель рассчитана в первую очередь на японский и английский языки. Репозиторий содержит веса Safetensors и использует библиотеку Transformers; лицензия — Apache-2.0. Качество зависит от задачи и профиля генерации: например, в README зафиксировано снижение результата на HMMT и регрессия в разделе инженерии MMLU-Pro. Модель не оценивалась для критически важных рекомендаций, решений с высоким воздействием без надзора или автономных действий; результаты для других форматов, настроек и распределений изображений требуют отдельной проверки.

R1 1776 — языковая модель рассуждений семейства DeepSeek-R1, дообученная Perplexity AI для ответов на чувствительные темы с уменьшенным влиянием цензурных ограничений. Модель предназначена для диалогов, ответов на вопросы и задач, требующих пошагового рассуждения, включая математику. По данным карточки, при дообучении сохранялись способности к рассуждению; README сообщает о результатах на нескольких бенчмарках на уровне базовой R1. Это плотная авторегрессионная модель DeepSeek V3 с 37,6 млрд параметров и контекстом до 163 840 токенов. Она принимает текст и генерирует текст; в метаданных указана поддержка английского языка и интерфейс для вызова инструментов. Модель распространяется в формате Safetensors по лицензии MIT. Оценки устойчивости к цензурным отказам и сохранения математических способностей приведены разработчиком; результаты могут зависеть от запросов и условий оценки. Снижение цензурных ограничений не гарантирует точности ответов и не исключает ошибок или вредного содержания.

Guilherme34/Reasoner-Hermes3-70b — языковая модель семейства Llama, представленная в формате safetensors и рассчитанная на генерацию текста в диалоговом режиме. В карточке приведён пример системного промпта, задающего ассистенту имя и стиль ответа; метаданные также указывают интерфейс для вызова инструментов. Модель содержит 69,5 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В метаданных указан датасет Guilherme34/Reasoner-dataset-v2, но сведения о способе обучения и базовой модели отсутствуют, поэтому происхождение модели установить нельзя. README не описывает языки, качество рассуждений или специализированные области применения. Лицензия в предоставленных данных не указана. Для практического применения стоит проверить совместимость формата и доступных ресурсов с выбранной средой запуска.

Solshine (Caleb DeLeeuw) дообучил эту плотную языковую модель семейства Llama 3.1 для диалогов и генерации текста с техникой Reflection Tuning. Модель основана на unsloth/meta-llama-3.1-8b-instruct-bnb-4bit и обучалась на Reflection-Dataset-v2; размер составляет 7,5 млрд параметров. Она принимает текст и предназначена для ответов на вопросы и других диалоговых задач на английском языке. В обученном формате модель разделяет ход рассуждения и итоговый ответ специальными тегами, а также может помечать исправления ошибок. Для совместимости с карточкой рекомендуется использовать стандартный формат чата Llama 3.1 и описанный в ней системный запрос. Контекстное окно составляет 131 072 токена. Модель выпущена под лицензией Llama 3.1 License.

RekaAI_reka-flash-3-GGUF — набор GGUF-квантизированных версий языковой модели reka-flash-3, разработанной RekaAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев; поддерживается запуск через llama.cpp, LM Studio и другие проекты на его основе. Для запросов указан шаблон с ролями human и assistant. Доступны варианты от BF16 до низкоразрядных Q2 и IQ-квантизаций, с размером файлов примерно от 9,18 до 41,82 ГБ. Более высокие разрядности обычно лучше сохраняют качество, но требуют больше оперативной или видеопамяти; низкоразрядные варианты экономичнее, однако могут заметно уступать по качеству. В README не указаны точные архитектура, число параметров, максимальный контекст, поддерживаемые языки и модальности, поэтому эти характеристики нельзя достоверно описать. Для модели заявлена лицензия Apache-2.0.

ReMask-3B — разговорная языковая модель семейства StableLM, опубликованная euclaise. Это дообученная версия StableLM-3B-4e1t с архитектурой плотной авторегрессионной трансформерной модели; в метаданных указано 2,7 млрд параметров и контекст до 4096 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоги, включая задачи с пошаговыми рассуждениями и ответами на вопросы. При обучении применялся метод ReMask: модель училась предсказывать ответы как на исходных, так и на случайно замаскированных последовательностях, а расхождение между предсказаниями ограничивалось дивергенцией KL. Для задач с CoT часть разметки рассуждений могла маскироваться, тогда как метки ответа сохранялись. Обучение проводилось на TinyCoT, а также на небольших поднаборах reddit-instruct-curated и oasst2-curated. Карточка описывает эксперименты с бенчмарками, но не даёт оснований считать качество универсально подтверждённым. Указана лицензия CC BY-SA 4.0.

MaziyarPanahi/rfp_instruct_model-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и arjunssat/rfp_instruct_model. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и генерирует ответы; поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в текстовом формате. Карточка описывает способ объединения весов, но не приводит оценок качества или специализированных сценариев применения. Распространяется по лицензии Apache-2.0.

claytonwang/rlcr-qwen3-8b — языковая модель с авторегрессионной архитектурой Qwen3, опубликованная в формате BF16 и хранящаяся в шардированных файлах Safetensors. Она подходит для генерации текста и диалогового использования. Модель содержит около 7,6 млрд параметров; заявленный поддерживаемый контекст — до 40 960 токенов. Для работы с весами требуется около 16 ГБ памяти только под параметры, а также дополнительная память для состояния инференса и KV-кэша. В README не приведены сведения об авторе, базовом чекпойнте, обучении, датасетах и оценках, поэтому происхождение и качество модели нельзя установить. Лицензия в предоставленных данных не указана.

Robby Chat Model — чат-модель, разработанная itsrenzosamaaa на основе Qwen2.5-3B-Instruct и дообученная с помощью Unsloth и библиотеки TRL. Она предназначена для генерации текста в диалоге и имеет интерфейс для вызова инструментов. Модель построена на плотной архитектуре Qwen2 с 3,1 млрд параметров и контекстом до 32 768 токенов. Карточка указывает поддержку английского языка. Веса представлены в формате Safetensors; модель распространяется по лицензии Apache-2.0.

ruGPT-3.5-13B-GGUF — это набор квантизированных файлов модели ruGPT-3.5-13B в формате GGUF, разработанный ai-forever. Модель предназначена для генерации текста и может использоваться для написания продолжений, ответов и другого текстового контента по заданному промпту. Модель относится к типу GPT-2 и содержит 13 миллиардов параметров. Она работает с текстом, поддерживает русский и английский языки и рассчитана на запуск через инструменты, совместимые с форматом GGUF, например llama.cpp. В README приведён пример использования с контекстом 2048 токенов, однако точный максимальный размер контекста модели не указан. Ключевое преимущество этой версии — квантизированный формат, удобный для локального запуска и более экономного использования ресурсов по сравнению с полноразмерными весами. Ограничения, требования к аппаратному обеспечению и влияние конкретных уровней квантизации на качество в README не описаны. Модель распространяется по лицензии MIT.

RWKV-6 World 7B — языковая модель семейства RWKV-6, представленная в репозитории RWKV и предназначенная для генерации текста в формате диалога и пакетного инференса. В метаданных указаны плотная архитектура Rwkv6ForCausalLM, около 8,9 млрд параметров и формат PyTorch. Примеры в карточке показывают ответы на английском и китайском языках. Модель можно использовать для диалоговых ассистентов и генерации текста; контекст карточки не раскрывает. Лицензия в предоставленных данных не указана.

RWKV-4 Raven — чат-версия языковой модели семейства RWKV, проектом руководит Бо Пэн. Модель с плотной архитектурой RNN и примерно 14,9 млрд параметров предназначена для генерации текста и диалогов. Она запускается через Transformers и PyTorch; для Raven требуется специальный формат промпта. В карточке RWKV описана как архитектура, сочетающая последовательную обработку RNN с возможностью параллельного обучения, характерной для трансформеров. Авторы отмечают быструю генерацию и экономию видеопамяти; заявление о практически неограниченном контексте не сопровождается конкретной длиной контекста в доступных данных. В метаданных указан датасет EleutherAI/pile, но сведения о поддерживаемых естественных языках не приведены. Модель опубликована в формате PyTorch. Информация о лицензии в предоставленных источниках отсутствует.

RYS-XLarge — языковая модель автора dnhkng, построенная на архитектуре Qwen2. В README описан метод оптимизации, который анализирует функциональные роли слоёв трансформера и дублирует слои модели; автор называет этот подход self-merging. Модель основана на MaziyarPanahi/calme-2.1-qwen2-72b, дообученной от Qwen2-72B. По метаданным, это плотная модель с 76,7 млрд параметров, контекстом 32 768 токенов и весами в формате safetensors; доступен диалоговый режим. Модель предназначена для генерации текста и диалоговых сценариев. В README приведены результаты оценок на нескольких бенчмарках: улучшения от метода различаются по задачам, включая снижение результата на IFEval. Лицензия — MIT. Карточка не описывает языковой охват и не приводит подробных сведений о безопасности или рекомендуемых ограничениях применения.

Sakalti/Saba1.5-1.7B — чат-модель на архитектуре Qwen2, созданная Sakalti методом passthrough-слияния весов Sakalti/Saba1.5-Pro. Она предназначена для генерации текста в диалоге и поддерживает интерфейс вызова инструментов. Модель содержит 1,5 млрд параметров, принимает текст и рассчитана на контекст до 131 072 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает языковую специализацию, результаты оценки качества или ограничения в работе, поэтому их нельзя надёжно уточнить.