I.6Перевод и языковая адаптация

GPT4-Alpaca-LoRAMLP-65B — модель генерации текста семейства LLaMA, подготовленная на основе LLaMA 65B с помощью LoRA-дообучения MLP-компонентов на наборе alpaca_data_gpt4. Репозиторий TheBloke содержит веса после объединения LoRA с исходной LLaMA 65B; доступны варианты для GPU и CPU, включая квантованные сборки в отдельных репозиториях. В этой карточке указаны веса PyTorch для Transformers: 65 млрд параметров и контекст до 2048 токенов. Модель предназначена для диалоговых и инструкционных сценариев: она принимает текстовые инструкции и генерирует ответы. В README описан обучающий чекпойнт, полученный через LoRA на данных Alpaca GPT-4; это не означает, что ответы эквивалентны GPT-4. Для репозитория указана лицензия other, поэтому условия использования следует сверить с исходной лицензией LLaMA и правилами распространения этой сборки.

DevQuasar/huihui-ai.Huihui-Qwen3.5-27B-abliterated-GGUF — это квантованная версия модели Huihui-Qwen3.5-27B-abliterated, разработанной huihui-ai и опубликованной в формате GGUF сообществом DevQuasar. Модель относится к классу text-generation и предназначена для генерации текста и работы в сценариях локального запуска совместимых LLM-инструментов. Из доступных данных известно, что модель основана на варианте Qwen3.5 с размером 27B параметров и представляет собой abliterated-версию. Ключевые сведения об используемой архитектуре, конкретном типе квантования, поддерживаемых языках, размере контекстного окна, качестве, ограничениях и лицензии в README не указаны. Условия использования следует уточнять по лицензии исходной модели и опубликованным материалам репозитория.

L3-NotCrazy-8B — языковая модель bunnycore, полученная слиянием трёх моделей семейства Llama 3 с помощью mergekit. Она предназначена для генерации текста в диалогах и сочетает способности к рассуждению и решению задач, творческой ролевой игре и точному следованию инструкциям. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. В репозитории представлены веса safetensors; лицензия — Llama 3 Community License.

bunnycore выпустила Llama-3.1-8B-OmniMatrix — чат-модель для генерации текста, созданную слиянием нескольких моделей семейства Llama 3.1 с помощью mergekit и метода task arithmetic. В основу слияния вошли arcee-ai/Llama-3.1-SuperNova-Lite и grimjim/Llama-3-Instruct-abliteration-LoRA-8B; также объединены bunnycore/LLama-3.1-8B-HyperNova-abliteration, bunnycore/StockLLama-3.1-8B и v000000/L3.1-Storniitova-8B. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно до 131 072 токенов. Она предназначена для диалогов и генерации текста по инструкциям; карточка указывает библиотеку Transformers и формат safetensors. В метаданных нет сведений о специальной предметной области или лицензии, поэтому условия лицензирования здесь описать нельзя.

Llama3.1-Dark-Enigma — объединённая языковая модель на архитектуре Llama 3.1, опубликованная пользователем agentlans. По карточке модели, веса нескольких моделей Llama 3.1 8B объединены методом model_stock из mergekit; метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель работает с текстом и предназначена для генерации ответов и диалога. Модель подходит для анализа текстов и исследовательских идей, написания и редактирования материалов, ролевых диалогов и помощи с кодом. Карточка характеризует её как uncensored, поэтому она может отвечать на чувствительные темы. Указана лицензия Llama 3.1; использование должно соответствовать её условиям. В карточке отмечено, что качество не оценивалось конкретными метриками. Модель может ошибаться в фактах, особенно при ответах без предоставленного контекста; результаты следует проверять. Она не подключается к интернету и, согласно карточке, не знает специфичных API, библиотек и фреймворков.

llama3-turbcat-instruct-8b-GGUF — квантизированная версия инструкционной модели turboderp/llama3-turbcat-instruct-8b, подготовленная bartowski с использованием llama.cpp. Модель относится к семейству Llama 3, имеет около 8 миллиардов параметров и предназначена для генерации текста и диалогового взаимодействия по инструкциям. Формат GGUF подходит для локального запуска через llama.cpp и совместимые инструменты. Модель ориентирована на задачи общего назначения: ответы на запросы пользователя, ведение диалога, создание и преобразование текста. Доступно множество вариантов квантизации от Q8 до Q2 и IQ-квантов, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. В README рекомендуются варианты Q4–Q6 как обеспечивающие высокое качество; более компактные варианты экономят память, но могут заметно уступать по качеству. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура базовой модели, результаты тестирования или специальные мультимодальные возможности, поэтому модель следует рассматривать как текстовую. К ограничениям относятся потенциальная потеря качества при низких уровнях квантизации и отсутствие подробных данных о безопасности и поведении модели. Указана лицензия Llama 3.

Meta-Llama-3.1-8B-Claude-GGUF — набор GGUF-квантизаций модели Meta-Llama-3.1-8B-Claude, базовой моделью которой указана Undi95. Квантизации подготовлены bartowski с использованием llama.cpp версии b3472 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio; для работы используется формат промпта Llama 3 с ролями system, user и assistant. Доступны варианты от полных весов F32 размером 32,13 ГБ до низкобитных IQ2_M размером 2,95 ГБ. Рекомендуемые варианты включают Q4_K_M, Q5_K_M, Q6_K и другие; более высокие уровни квантизации обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти, но могут заметно снижать качество генерации. В README не указаны архитектурные детали исходной модели, поддерживаемые языки, размер контекста, модальности или лицензия, поэтому эти характеристики нельзя достоверно определить.

Это шардинг версии Mistral-7B-v0.1 — предварительно обученной языковой модели Mistral AI с 7,1 млрд параметров. Весовые файлы разбиты на части размером до 2 ГБ, чтобы снизить требования к оперативной памяти при загрузке; модель сохраняет исходные параметры Mistral-7B-v0.1 и представлена в форматах PyTorch и Safetensors. Модель предназначена для генерации текста и может служить базой для приложений на основе языковых моделей и дальнейшей адаптации под конкретные задачи. Архитектура — плотный Transformer с Grouped-Query Attention и Sliding-Window Attention; нативный контекст составляет 32 768 токенов. По заявлению карточки, модель превосходит Llama 2 13B на проверенных разработчиками бенчмарках. Модель не имеет встроенных механизмов модерации, поэтому сгенерированный текст может быть неподходящим или небезопасным. Распространяется по лицензии Apache-2.0.

Mixtral-8x22B-v0.1 — базовая генеративная языковая модель семейства Mixtral, разработанная Mistral AI. В этом репозитории размещена конвертированная в формат Transformers версия весов, загруженная сообществом; автор README рекомендует использовать актуальные веса в организации Mistral AI. Модель построена на разреженной архитектуре смеси экспертов (MoE) и предназначена для генерации текста и использования как основа для прикладных решений. Контекст составляет до 65 536 токенов. Карточка указывает поддержку английского, французского, итальянского, немецкого и испанского языков. Для запуска предусмотрены Transformers, а также варианты вычислений в пониженной точности. Это базовая предварительно обученная модель, а не версия Instruct; для диалоговых приложений может потребоваться дополнительная настройка. В README отмечено отсутствие встроенных механизмов модерации. Лицензия — Apache 2.0.

facebook/opt-iml-30b — модель генерации текста семейства OPT, разработанная Meta и дообученная следовать инструкциям с помощью instruction meta-learning. Она обучалась на наборе OPT-IML Bench, объединяющем около 2000 задач обработки естественного языка из восьми бенчмарков; вариант OPT-IML обучался на 1500 задачах, а OPT-IML-Max — на полном наборе. В карточке указано 39,8 млрд параметров, архитектура OPTForCausalLM и контекст до 2048 токенов. Модель предназначена для генерации текста по инструкциям и выполнения широкого круга языковых задач, представленных в обучающих бенчмарках. Репозиторий содержит веса PyTorch; для ускорения генерации и экономии памяти авторы рекомендуют загружать крупную модель в половинной точности и вызывать generate напрямую. Лицензия отмечена как other. Модель может допускать фактические ошибки, генерировать токсичные формулировки и воспроизводить стереотипы. Результаты требуют проверки человеком; конкретный набор языков в карточке не заявлен.

Aldaris/Qwen3-4B-Q4_K_M-GGUF — это версия языковой модели Qwen3-4B, преобразованная в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo проекта ggml.ai. В README разработчик репозитория не раскрыт; указано только, что модель создана на основе Qwen/Qwen3-4B. Модель предназначена для генерации текста и может использоваться локально через llama.cpp, включая режим командной строки и серверный режим. Известно, что это текстовая модель с размером 4B параметров в квантизованном формате Q4_K_M. Поддерживаемые модальности ограничены текстом; сведения о языках и исходном размере контекста в README не приведены. В качестве примера серверного запуска указано окно контекста 2048 токенов, однако это параметр запуска, а не обязательно максимальный контекст модели. Ключевое преимущество модели — возможность локального запуска в компактном GGUF-представлении с использованием llama.cpp, что подходит для инференса на совместимом пользовательском оборудовании. Ограничения и подробные характеристики унаследованной Qwen3-4B модели в данном README не описаны. Для использования указана лицензия Apache-2.0.

Qwen3.5-Thinking-AIO-GGUF — экспериментальная серия мультимодальных моделей, созданная prithivMLmods на основе моделей Alibaba Qwen3.5. В репозитории представлены варианты Unredacted MAX с размером 0,8B, 2B, 4B и 9B параметров в формате GGUF; README также упоминает вариант 27B, но подробности его файлов в каталоге не приведены. Модели предназначены для генерации текста, рассуждений, программирования, математических задач и работы с изображениями, а также для локального запуска через llama.cpp и совместимые инструменты. Заявлены гибридная архитектура Gated DeltaNet, контекст до 262 144 токенов, словарь на 201 язык и переключаемые режимы рассуждений. Для мультимодальной работы доступны отдельные файлы mmproj, а для разных требований к памяти предусмотрены варианты F32, BF16, F16 и Q8_0. Малые версии ориентированы на периферийные устройства и системы с ограниченными ресурсами, более крупные — на повышение качества ответов и сложные задачи. Ключевая особенность серии — так называемая abliteration: автор заявляет минимизацию отказов и удаление стандартных защитных ограничений при сохранении или улучшении возможностей рассуждения. Это может быть полезно для исследовательских задач, создания датасетов и сценариев, где требуется более свободное следование инструкциям, но одновременно повышает риски небезопасных или нежелательных ответов. Модели экспериментальные, официальные оценки производительности не представлены, а заявления о превосходстве над исходными моделями основаны на неподтверждённых community-бенчмарках. Распространение указано по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Abliterated-Heretic-MLX-4bit — локальная MLX-версия модели Qwen3.6-35B-A3B, подготовленная пользователем Youssofal на базе аблитерированного BF16-чекпойнта. Модель относится к семейству Qwen3.5 MoE и предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и коротких программных фрагментов на устройствах Apple Silicon через mlx-lm. Модель использует разреженную архитектуру Mixture of Experts с общим размером около 35 млрд параметров и обозначением A3B. Применена высококачественная 4-битная смешанная квантизация с учётом чувствительности отдельных слоёв; часть проекций хранится с повышенной точностью 6 бит. В репозитории сохранены компоненты обработки изображений и видео, vision tower и процессорные файлы, поэтому вариант может поддерживать мультимодальные сценарии в совместимых MLX-рантаймах Qwen3.6. Поддерживаемые языки и размер контекста в README не указаны. Ключевая особенность — удаление базового поведения отказа на уровне весов с помощью пайплайна Heretic, поэтому модель отвечает на значительную часть запросов, которые исходная модель отклоняла. В проверке на 25 маркерных запросах она отказала в 3 случаях; также прошла локальные проверки общего чата, краткого рассуждения и генерации кода. Это одновременно является ограничением: встроенные защитные отказы ослаблены или удалены, поэтому модель требует осторожного применения и самостоятельных мер безопасности. В README также не приведены результаты комплексных бенчмарков качества. Распространение указано под лицензией Apache-2.0. Модель ориентирована прежде всего на локальный запуск на Apple Silicon и требует совместимой поддержки MLX для мультимодальных возможностей.

topabaem/Qwen3.8-27B-STQ — семейство контролируемых GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованное topabaem. Модель предназначена для локального запуска и развертывания в условиях ограниченной памяти с использованием llama.cpp. В репозитории представлены варианты IQ3_XXS, IQ4_XS, Q4_K_M и Q5_K_M размером примерно от 11,19 до 19,23 ГБ. Для всех вариантов использованы один и тот же BF16-источник, зафиксированная сборка llama.cpp и importance matrix; проект позиционируется как исследование измерений, а не как новый метод кодирования. Модель ориентирована прежде всего на текстовые задачи, а в метаданных также заявлен pipeline image-text-to-text. В README не указаны точные архитектурные характеристики, число параметров помимо обозначения 27B, поддерживаемые языки и размер контекстного окна. На тесте из 800 заданий MMLU и ARC точность вариантов составила от 85,63% до 86,88% против 87,00% у BF16-базовой версии; Q4_K_M и Q5_K_M признаны не уступающими BF16 в рамках этого теста. Результаты LiveCodeBench v6 предварительные: измеренный pass@1 ещё не рассчитан, поэтому заявлять о подтверждённой эффективности в программировании нельзя. Основные преимущества — несколько уровней компромисса между размером, требованиями к памяти и качеством, а также воспроизводимый инструментальный стек и опубликованные измерения. Ограничения включают зависимость качества от конкретного варианта квантизации, неполную сопоставимость некоторых бенчмарков и отсутствие данных о генерации на длинных последовательностях. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный пользователем azukivc и подготовленный для llama.cpp. Модель предназначена для генерации текста, включая локальный запуск и сценарии, где требуется сниженное количество отказов. Поведение отказа было существенно уменьшено, но не устранено полностью; дополнительное обучение и новые обучающие данные не использовались. Лицензия — Apache-2.0. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, один MTP-слой и поддерживает контекст до 262 144 токенов. Указана поддержка vision, поэтому доступны варианты с обработкой изображений, если это поддерживается базовой моделью и используемым runtime. Заявлены языки English и Chinese. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, размер файлов — примерно от 10,6 до 29 ГБ. MTP-голова сохранена для speculative decoding; доступны как объединённые файлы со встроенной draft-моделью, так и отдельные target- и draft-файлы. Снижение отказов является преимуществом для менее ограниченных сценариев, однако поведение не полностью безотказное, а acceptance rate speculative decoding может немного снизиться.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, опубликованная HauhauCS. Модель распространяется в формате GGUF и предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео через отдельный vision-проектор. Указаны языки English, Chinese и multilingual, однако точный перечень поддерживаемых языков не приведён. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, скрытым размером 5120, размером FFN 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000. Встроенная поддержка MTP/NextN сохранена, а профиль HauhauCS FastMTP предназначен для ускорения генерации; заявлены преимущества в скорости для документных и reasoning-сценариев. Для изображений и видео требуется отдельный BF16 vision-проектор. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие отказов, что может быть полезно для задач, где важны быстрота и непрерывность генерации. Это одновременно является ограничением: README рекомендует для надёжной работы с длинным контекстом и агентскими задачами сбалансированный вариант, если он доступен. Модель не вносит изменений в датасеты или заявленные возможности базовой Qwen3.8-27B, но применяет профиль «uncensored». Доступны различные уровни квантизации, включая пользовательские K_P и IQ-варианты, совместимые с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Лицензия — Apache-2.0.

DavidrPatton/Qwen3.8-27B-Uncensored-UD3-GGUF — это квантизированная GGUF-версия 27-миллиардной языковой модели Qwen3.8-27B-Uncensored, основанной на Qwen3.8-27B и адаптированной JonathanColetti. Сборка использует метод Unsloth Dynamic 3.0 (UD3) с динамическим распределением точности по слоям и предназначена для запуска через llama.cpp. Модель поддерживает текстовую генерацию и диалоговые сценарии, а заявленные языки — английский и китайский. Основное назначение модели — локальные задачи генерации текста, общения и рассуждений, включая работу с контекстом размером до 128K токенов. Сборка оптимизирована для потребительских GPU с 16 ГБ VRAM, Apple Silicon Mac и Linux-систем. Размер файла составляет около 12,1 ГБ; заявленное потребление памяти с 128K контекстом — примерно 14,2 ГБ. Для ускорения генерации предусмотрена Multi-Token Prediction (MTP) draft head в формате Q8_0, проверенная для слоя 64. Ключевая особенность — смешанная точность: критические эмбеддинги, выходные логиты и MTP-компоненты используют Q8_0 или F32, важные проекции внимания — Q4_K, отдельные матрицы внимания — Q3_K, а основные FFN/MLP-блоки — IQ2_M. Такой подход обеспечивает более высокое качество рассуждений по сравнению с обычной равномерной двухбитной квантизацией при меньшем размере, хотя качество и точность всё равно зависят от потерь квантизации. Модель позиционируется как uncensored, однако README не приводит подробного описания ограничений безопасности или результатов независимого тестирования. Лицензия — Apache-2.0.

Карточка модели willhx/Qwen3-8B-Base-Math-SeaSFT-Search-TauSFT-Tau на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Qwen3.8-Flash-Next ROCmFP4-FAST imatrix GGUF — квантизированная GGUF-версия модели Qwen3.8-Flash-Next, разработанная и опубликованная Agention. Модель предназначена для генерации текста, агентских сценариев, работы с длинными контекстами и обработки изображений при подключении собственного vision-модуля. Языки в README не указаны. Модель содержит около 180 млрд параметров, использует квантизацию ROCmFP4 с эффективностью 4,23 bpw и занимает примерно 87,06 GiB. Поддерживается контекст до 262 144 токенов, а vision tower поставляется отдельно в формате F16. Также доступна speculative decoding через собственную MTP-голову; заявлена скорость генерации до 40 токенов в секунду на Strix Halo, хотя результат зависит от содержимого. Квантизация imatrix откалибрована на 1540 фрагментах данных, а заявленная потеря по perplexity относительно неквантизированной версии составляет около 2,48%. Ключевое преимущество — возможность полностью разместить веса, таблицу n-gram и вычисления на GPU с unified memory без CPU fallback, что особенно полезно для длинных запросов и повторного чтения большого контекста. Основные ограничения — очень высокие требования к памяти и специализированному оборудованию, а также необходимость использовать форк llama.cpp с поддержкой ROCmFPx и соответствующими оптимизациями. Для vision и speculative decoding требуются дополнительные файлы и настройки. Лицензия указана как qwen-community-1.0.

Qign Qwen3-VL-8B-Instruct-abliterated-v2-GGUF — это GGUF-версия мультимодальной модели prithivMLmods, основанной на Qwen3-VL-8B-Instruct от Alibaba. Модель содержит около 8 млрд параметров и предназначена для задач image-text-to-text: анализа изображений, подробного описания визуального содержимого, следования инструкциям и мультимодального рассуждения. Доступны варианты квантования от Q2_K до Q8_0, а также F16; размер файлов составляет примерно от 3,28 до 16,4 ГБ, отдельно предоставляются мультимодальные проекционные файлы mmproj в форматах Q8_0 и F16. Заявлены поддержка механизма Interleaved-MRoPE, контекста длиной до 262 тысяч токенов, OCR на 32 языках, различных разрешений и соотношений сторон, видео и сложных макетов. Основным языком считается английский, при этом заявлена возможность мультиязычного использования. Вариант abliterated модифицирован для снижения или удаления отказов и защитных ограничений базовой модели, что может быть полезно для исследований безопасности, red-teaming, творческих и технических сценариев, но одновременно повышает риск генерации нежелательного, небезопасного или неточного контента. Для запуска рекомендуются инструменты llama.cpp, Transformers или vLLM; требования к памяти зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache-2.0.

Qwen_Qwen3-4B-Thinking-2507-GGUF — это GGUF-квантизированная версия языковой модели Qwen3-4B-Thinking-2507, разработанной Qwen. Квантизацию выполнил bartowski с использованием llama.cpp версии b6096 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 4B параметров и ориентирована на сценарии, требующие локального текстового вывода при ограниченных ресурсах. Доступны варианты от BF16 до Q2 и различные форматы квантизации; рекомендованными названы, в частности, Q4_K_M, Q5_K_M, Q6_K и Q6_K_L. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти, тогда как низкие уменьшают размер за счёт качества. Для работы используется шаблон промпта с секциями system, user и assistant, включающей тег <think>. Сильными сторонами являются локальный запуск, широкий выбор размеров файлов и оптимизация imatrix-квантизаций под llama.cpp. Ограничения связаны с потерей качества в более агрессивно сжатых вариантах, а также с тем, что в предоставленной карточке не указаны контекстное окно, поддерживаемые языки, точная архитектура, модальности и лицензия исходной модели или квантов. Условия распространения следует уточнять на странице оригинальной модели Qwen/Qwen3-4B-Thinking-2507.

Qwentile2.5-32B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwentile2.5-32B-Instruct, разработанной maldv и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста, чат- и диалоговых сценариев, а также локального использования через llama.cpp и совместимые приложения, включая LM Studio. В README указана поддержка английского языка. Модель имеет размер 32 млрд параметров. Доступны варианты от F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, включая форматы K-quants и IQ-quants, что позволяет выбирать между качеством, скоростью и требованиями к оперативной памяти. Квантизации выполнены с использованием imatrix на базе llama.cpp; для общения применяется шаблон с тегами <|im_start|> и <|im_end|>. Сильная сторона набора — широкий выбор вариантов, включая высококачественные Q6_K и Q6_K_L, а также более компактные версии для систем с ограниченной памятью. При этом уменьшение разрядности может снижать качество генерации, особенно у Q2–Q3 вариантов; для работы также требуются значительные вычислительные ресурсы. Контекстное окно, точная архитектура и дополнительные модальности в README не указаны. Модель распространяется по лицензии Apache-2.0.

RWKV/RWKV7-2.9B-20260805 — официальная базовая языковая модель RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM примерно на 3,1 млрд параметров; в репозитории представлены веса safetensors. Архитектура использует рекуррентное состояние постоянного размера вместо механизма внимания, поэтому размер состояния не растёт вместе с длиной генерации, а вычисления на каждый новый токен остаются постоянными. Обучение при этом можно распараллеливать. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения. В обучающих данных использовались веб-тексты, код, синтетические данные, инструкции, диалоги и рассуждения; карточка также содержит шаблон для диалоговых запросов и вызова инструментов. Шаблон не означает, что модель прошла настройку на безопасное поведение или является готовым ассистентом. Заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Для нативной интеграции с Transformers требуется версия 5.15 или актуальная версия из исходного кода. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения предыдущих состояний; производительность оптимизированного исполнения зависит от GPU, типа данных, размера пакета и формы входа. Разработчик не заявляет оценок безопасности, смещённости, токсичности, фактической точности или пригодности для критически важных задач. Лицензия — Apache-2.0.

triBne-e5-small — модель текстовых эмбеддингов, созданная дообучением intfloat/multilingual-e5-small автором istiaqfuad. Она предназначена для семантического поиска, извлечения близких текстов, кластеризации и сравнения предложений на бенгальском языке, английском и бенгальском, записанном латиницей (Banglish), в том числе при вариативном написании слов. Модель основана на архитектуре BERT, содержит 124,3 млн параметров и создаёт нормализованные эмбеддинги размерности 384; для сравнения используется косинусное сходство. Метаданные указывают контекст до 512 токенов, а README — максимальную длину последовательности 128 токенов. Модель дообучена контрастивным методом с LoRA-адаптером, объединённым с базовой моделью. По описанной оценке она особенно хорошо справляется с поиском вариантов написания Banglish и сопоставлением бенгальского текста с Banglish; для поиска между английским и бенгальским показала конкурентные результаты. Лицензия — MIT, библиотека — sentence-transformers. Модель рассчитана на короткие тексты: более длинные последовательности усекаются. Часть обучающих пар Banglish создана с помощью LLM и может наследовать их смещения. Модель не предназначена для генерации текста или классификации.

Unlimited-OCR — мультимодальная модель Baidu для распознавания текста и разбора документов по изображениям. Она предназначена для обработки длинных документов за один проход, включая сценарии с PDF, предварительно преобразованными в изображения. Модель построена на архитектуре UnlimitedOCRForCausalLM, содержит 559,7 млн параметров, принимает изображения и текстовые инструкции и выдаёт текст. Поддерживает многоязычные сценарии и контекст длиной до 32 768 токенов. Модель доступна для запуска через Transformers, vLLM и SGLang; карточка также описывает оценку на OmniDocBench. Лицензия — MIT. Карточка не приводит подробностей о точности по языкам и типам документов, поэтому качество для конкретного набора документов следует проверять отдельно.

Yi-1.5-9B-Chat-16K-GGUF — это набор квантованных GGUF-версий диалоговой языковой модели Yi-1.5-9B-Chat-16K, разработанной 01.ai и квантованной компанией Second State Inc. Модель предназначена для генерации текста и ведения диалогов в локальных приложениях, включая сценарии, совместимые с LlamaEdge. Для работы используется шаблон prompt типа chatml, а заявленный размер контекста составляет 16 384 токена. Доступны варианты квантования от Q2_K до Q8_0, а также версия f16; размеры файлов варьируются примерно от 3,35 до 17,7 ГБ. В README не указаны поддерживаемые языки, модальности и подробности архитектуры базовой модели. Основное преимущество набора — выбор между меньшим размером и сохранением качества: Q4_K_M рекомендован как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с очень низкой потерей качества. Низкобитные версии занимают меньше места, но могут заметно терять в качестве. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое программное окружение, например llama.cpp или LlamaEdge; в README указано, что поддержка LlamaEdge на момент публикации ожидается.

Zelensky — экспериментальная командная модель V1, созданная автором nisten на основе семейства Qwen2.5. По карточке, модель обучали один проход с низкой скоростью обучения и многократно объединяли с тремя другими моделями; метаданные также указывают связь merge с Qwen/Qwen2.5-72B-Instruct и другими вариантами Qwen2.5 и ChatWaifu. Это плотная причинно-языковая архитектура Qwen2 с 76,7 млрд параметров и контекстом до 98 304 токенов. Модель предназначена для диалогов и генерации текста; каталог также отмечает интерфейс вызова инструментов. В карточке упоминаются прогоны GPQA Diamond Zero-shot на LM Eval Harness, но результаты оценки не приведены. Указана лицензия MIT, а автор отдельно отмечает, что продолжает действовать лицензия Qwen.

ArchBeagle-7B — объединённая модель Mistral с 7,1 млрд параметров, созданная mlabonne с помощью LazyMergekit. Она предназначена для генерации текста и диалогов, в том числе при работе с длинными запросами: размер контекста составляет до 32 768 токенов. Модель объединяет веса WestBeagle-7B, NeuralBeagle14-7B, BeagSake-7B, NeuralOmniBeagle-7B-v2, NeuralOmniBeagle-7B и OmniBeagle-7B. Модель принимает текст и генерирует текст. README не описывает специализацию по языкам или отдельным областям, поэтому её следует рассматривать как модель общего назначения. Репозиторий содержит веса в формате safetensors; лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

Bhasha embed v0 — модель эмбеддингов Akshita Sukhlecha на базе google/muril-base-cased. Она преобразует предложения и тексты на хинди письмом деванагари, английском и хинди в латинской транслитерации в векторы размерности 768, предназначенные для сравнения по косинусному сходству. Модель рассчитана на межъязыковое сопоставление и поиск по смешанным корпусам, где встречаются тексты на хинди, английском и транслитерированном хинди. Она использует архитектуру BERT, обучалась дистилляцией англоязычной модели эмбеддингов и дообучением на триплетных данных. Максимальная длина последовательности — 512 токенов. Модель опубликована под лицензией Apache-2.0. Карточка заявляет поддержку романизированного хинди и межъязыкового выравнивания; результаты приведены для нескольких задач поиска и сходства. Качество может зависеть от языка, письма и состава корпуса; сведения карточки не задают отдельные ограничения по применению.

win10/BigLiberated-20B-V2 — разговорная языковая модель на архитектуре Qwen2, созданная слиянием предварительно обученных моделей с помощью mergekit и метода passthrough. В README указана участвовавшая в слиянии модель abacusai/Liberated-Qwen1.5-14B. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 19,4 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; для работы указана библиотека Transformers. Лицензия в предоставленных данных не указана.