I.6Перевод и языковая адаптация

Qwen2.5-32B-AGI-GGUF — это GGUF-квантизация модели Qwen2.5-32B-AGI, подготовленная разработчиком bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. Указаны языки Chinese и English, однако подробное описание исходной модели и её специализации в README отсутствует. Модель основана на архитектуре Qwen2.5 и содержит 32B параметров. Доступны варианты от F16 до низкобитных форматов Q2 и Q3, а также варианты Q4–Q8, что позволяет выбирать между качеством ответов и требованиями к памяти. Рекомендуемыми названы некоторые варианты Q4–Q6; отдельные сборки оптимизированы для ARM-процессоров и требуют соответствующих аппаратных инструкций. Контекстное окно, поддерживаемые модальности, точные сценарии применения и дополнительные характеристики не указаны. Распространение заявлено по лицензии Apache-2.0. Ограничения связаны прежде всего с потерей качества при агрессивной квантизации и различиями в требованиях к памяти; низкобитные варианты подходят для устройств с ограниченными ресурсами, но могут заметно уступать более крупным форматам.

bartowski/Qwen2.5-3B-GGUF — набор GGUF-квантизованных вариантов базовой языковой модели Qwen2.5-3B, опубликованный и квантизованный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через совместимые инструменты, включая llama.cpp и LM Studio; в README также указан специальный формат промпта с ролями system, user и assistant. Доступны варианты от полного формата F32 размером 12,35 ГБ до сильно сжатых вариантов IQ3_M размером 1,49 ГБ. Большинство сборок используют квантизацию Q4–Q8, а некоторые сохраняют embedding- и output-веса в формате Q8_0 для потенциального улучшения качества. Для ARM-процессоров предусмотрены отдельные варианты Q4_0_4_4, Q4_0_4_8 и Q4_0_8_8; их совместимость зависит от поддержки соответствующих инструкций. Более качественные варианты требуют больше оперативной памяти, а компактные варианты снижают требования к памяти ценой качества. Модель относится к текстовым, поэтому README не подтверждает поддержку изображений, аудио или других модальностей. Языки, размер контекста, конкретные архитектурные характеристики базовой модели и результаты бенчмарков в предоставленных данных не указаны. Лицензия также не указана, поэтому условия коммерческого и иного использования следует уточнять в исходном репозитории Qwen/Qwen2.5-3B и у опубликованного набора.

Это пакет слоёв GGUF модели Qwen3-32B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса на локальном кластере. Он получен из unsloth/Qwen3-32B-GGUF и сохраняет исходное распределение GGUF в виде отдельных артефактов по слоям; вариант модели — UD-Q4_K_XL, библиотека запуска — mesh-llm. Пакет предназначен для приватного локального чата и генерации текста, в том числе с распределением вычислений между несколькими машинами, когда полной модели не хватает места на одном узле. Через локальный API Mesh LLM поддерживаются совместимые с OpenAI запросы к chat completions. Данные о размере модели, длине контекста, поддерживаемых языках и лицензии следует сверять с карточкой исходной модели unsloth/Qwen3-32B-GGUF; доступные сведения здесь их не приводят.

Qwen3.5-122B-A10B-REAP-20-abliterated-GGUF — это набор GGUF-квантизаций разреженной MoE-модели, созданный Robinson Labs на основе 0xSero/Qwen3.5-99B, которая, в свою очередь, получена из Qwen/Qwen3.5-122B-A10B. Из исходной модели удалено около 20% экспертов: сохранено 205 из 256, что уменьшило общий размер примерно со 122B до 99B параметров при сохранении бюджета около 10B активных параметров. Модель предназначена для генерации текста и запуска в совместимом программном обеспечении, включая llama.cpp. Архитектура — qwen35moe, модель содержит 48 слоёв и использует стандартное предсказание одного токена без Multi-Token Prediction (MTP/NextN). Доступны варианты GGUF с квантованием от Q6_K до IQ2_XS, с размером файлов примерно от 81,3 до 29,5 ГБ; квантизация выполнена с использованием importance-matrix на общем калибровочном наборе. Языки, размер контекстного окна и поддерживаемые модальности в README не указаны. Модель сохраняет основные возможности исходной архитектуры при меньшем числе экспертов, а вариант REAP-20 должен иметь больше ёмкости и больший размер, чем REAP-30. Дополнительно выполнена abliteratation — ортогонализация весов для снижения жёстких отказов на запросы для взрослого и творческого контента; защитные ограничения против самоповреждения и содействия реальным противоправным действиям, согласно описанию, сохранены. Это не универсальная модель для всех аудиторий, а крупная по требованиям к памяти система, причём качество зависит от выбранного уровня квантования. Лицензия — Apache-2.0, унаследованная от базовой модели.

Qwen3.5-397B-A17B-MLX-8bit — 8-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_vlm, а модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Модель предназначена для задач генерации текста и работы с изображениями и текстом; в карточке указан тип pipeline image-text-to-text. Ключевая характеристика — размер исходной модели 397B и 8-битное представление весов. Сведения о поддерживаемых языках, размере контекста и точной архитектуре в README не приведены. К преимуществам относятся существенное снижение требований к памяти по сравнению с исходной моделью и оптимизация для экосистемы Apple Silicon. Ограничения связаны с квантованием, возможными потерями качества относительно полной версии и зависимостью от совместимого оборудования и программного окружения MLX. Модель распространяется по лицензии Apache-2.0; LM Studio не является её разработчиком и не гарантирует точность, безопасность или пригодность результатов.

Guile/Qwen3.8-27B-Uncensored-GGUF — это набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный автором Guile. Модель предназначена для генерации текста и запуска в llama.cpp, включая локальный инференс, а также сценарии со speculative decoding и обработкой изображений при использовании vision-файлов. Поведение отказов существенно снижено с помощью метода abliteration на базе Heretic, но не устранено полностью; дополнительное обучение и новые данные не использовались. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Поддерживаются английский и китайский языки. README указывает наличие vision-компонентов, однако применение изображений зависит от поддержки vision tower базовой моделью и совместимости runtime. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 10,6 до 29 ГБ, а также отдельные draft-варианты для speculative decoding. Сохранённая MTP-голова может ускорять генерацию, но после изменения основной модели коэффициент принятия draft-токенов может немного снизиться; на качество проверяемых токенов это не должно влиять. Сильные стороны модели — большой контекст, поддержка текста и изображений в соответствующих сборках, широкий выбор квантизаций и сохранённая MTP-голова. Ограничения включают неполное устранение отказов, требования к значительным ресурсам и зависимость vision- и speculative-decoding-сценариев от возможностей конкретного runtime. Модель распространяется по лицензии Apache-2.0.

Plana-Chan/Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный Plana-Chan для запуска в llama.cpp и совместимых средах. Модель предназначена для генерации текста, диалоговых и прикладных сценариев, где требуется локальный запуск, а также для обработки изображений при использовании совместимого vision runtime и отдельного vision-проектора. Поддерживаются английский и китайский языки. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, одним MTP-слоем и контекстом до 262 144 токенов. Сохранена MTP-head для speculative decoding, доступны варианты с объединённой draft-моделью и отдельными target/draft-файлами. Представлены квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0; размер основных файлов составляет примерно от 10,6 до 29 ГБ. Для изображений предоставляется mmproj в формате F16. Ключевая особенность — существенно сниженное поведение отказа, полученное методом abliteration без дообучения и дополнительных данных; полностью отказы не устранены. Возможны компромиссы квантизации, особенно у IQ2_M, а эффективность speculative decoding зависит от acceptance rate draft-head. README не приводит полных сведений о целевых бенчмарках и фактических требованиях к оборудованию. Распространение указано по лицензии Apache-2.0.

MaziyarPanahi/Qwen3-8B-GGUF — это набор файлов модели в формате GGUF для базовой модели Qwen3-8B, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты и библиотеки, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие. Известно, что модель основана на архитектуре и характеристиках Qwen3-8B, однако в README не приведены подробности о размере контекста, языках, поддерживаемых модальностях и других архитектурных параметрах. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF ориентирован на эффективный инференс, включая использование GPU-ускорения. Сильные стороны модели — разнообразие вариантов квантизации и широкая совместимость с локальными средствами запуска, включая CLI, веб-интерфейсы и OpenAI-совместимые серверы. Ограничения связаны с возможными потерями качества при низкой разрядности квантизации и зависимостью от совместимого программного обеспечения. Лицензия в README не указана.

boxrunner/Qwen3.8-Flash-Next-mixC-GGUF — это смешанно-точностная GGUF-квантизация модели Qwen3.8-Flash-Next, опубликованная пользователем boxrunner на базе модели Qwen. Она предназначена для генерации текста и диалоговых сценариев с использованием совместимых движков, включая llama.cpp. Модель поставляется в двух частях, а дополнительно доступен F16-проектор изображений для соответствующей мультимодальной конфигурации. Модель использует архитектуру mixture-of-experts qwen4exp с 512 экспертами, из которых 10 выбираются для каждого токена, и одним общим экспертом. Файл содержит 176 943 899 520 параметров, контекст до 262 144 токенов, GPT-2 BPE-токенизатор с 248 320 токенами и встроенный chat template. Средний размер — около 3,455 бит на вес; применена смешанная квантизация с типами IQ2_XXS, IQ4_NL, Q5_K, Q6_K, Q8_0, F16 и F32. Главное преимущество данной упаковки — возможность загрузки полного пула экспертов на Apple Silicon с 64 ГБ памяти без вынесения экспертов на SSD; это повышает практическую пригодность модели для локального запуска на совместимом оборудовании. Приведённые в README показатели производительности получены только на одной конфигурации и не являются универсальным бенчмарком. Для работы необходимо скачать обе части GGUF, а для обработки изображений — также проектор. Модель распространяется по лицензии Qwen Community License 1.0.

OpenASR/qwen3-asr-1.7b — мультиязычная модель автоматического распознавания речи из семейства Qwen3-ASR, разработанного командой Qwen компании Alibaba. Репозиторий OpenASR предоставляет переупакованные веса исходной модели Qwen/Qwen3-ASR-1.7B в формате .oasr для запуска в среде OpenASR без Python во время инференса. Модель преобразует аудиозаписи в текст, определяет язык речи и предназначена для офлайн- и потоковой транскрипции. Она поддерживает 30 языков, 22 китайских диалекта и ряд региональных вариантов английского. По данным README, модель устойчива к сложным аудиосценариям, включая пение и песни на фоне музыки, а её качество заявлено как конкурентоспособное по отношению к коммерческим API. Размер модели составляет около 2 млрд параметров, из которых примерно 1,7 млрд активны; исходный формат — BF16. Доступны варианты fp16, q8_0 и q4_k. q8_0 рекомендован как компромисс между качеством и требованиями к памяти, q4_k подходит для устройств с ограниченными ресурсами, а fp16 предназначен для максимальной точности. Пакеты оптимизированы для CPU и GPU, используют GGUF-backed контейнер, mmap-привязку весов без копирования и повторное использование буферов графа. По README, временные метки на уровне слов требуют дополнительной модели Qwen3-ForcedAligner-0.6B; абсолютная точность распознавания и заявленные показатели производительности зависят от аудио и оборудования. Распространение выполняется по лицензии Apache-2.0, унаследованной от исходной модели. OpenASR указывает, что внесённые изменения ограничиваются конвертацией формата и квантованием.

Qwopus3.8 27B Flash MXFP4 Vision MTPLX — это релиз для Apple Silicon на базе модели Jackrong/Qwopus3.8-27B-Flash, подготовленный Shiftedx с использованием MLX и MTPLX. Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, включая мультимодальные сценарии и локальное развертывание через OpenAI-совместимый endpoint. Текстовая часть представлена в формате MXFP4, а vision tower и native MTP sidecar сохранены в формате BF16. Sidecar имеет глубину 3 и предназначен для speculative decoding, ускоряющего генерацию. В README заявлена поддержка английского, китайского, испанского, русского и японского языков. Точный размер контекста и подробная архитектура не указаны. В комплект входят tokenizer, processor, vision-веса, chat template и runtime-контракт MTP. Сильными сторонами являются сочетание мультимодальности, MXFP4-квантизации для текстовой части и ускоренной генерации на совместимом оборудовании. В локальной квалификации на M4 Max 64 GB заявлены скорости 26,43 токена в секунду для обычной авторегрессивной генерации и 56,74 токена в секунду с MTP глубины 3, однако это результаты одного узкого теста и не универсальный бенчмарк. Квантизация может повлиять на качество, а производительность зависит от оборудования и runtime. Модель распространяется по лицензии Apache-2.0; при использовании производного варианта необходимо также учитывать лицензию и ограничения исходной модели.

rubaiSTT-2v Medium — модель распознавания речи на основе Whisper Medium, дообученная автором islomov для транскрибирования узбекской речи. Она принимает аудио и выдаёт текст; особенно хорошо обучена на материалах ташкентского диалекта. В метаданных указано 455,8 млн параметров, тогда как README приводит для базовой модели 769 млн; README также сообщает о WER около 17% и CER около 5,5%. Эти показатели относятся к оценке автора и зависят от тестовых данных. Модель обучена примерно на 475 часах узбекского аудио: подкастах, новостях, материалах Common Voice 17, USC и Google FLEURS. По README, половина транскрипций подготовлена людьми, половина — автоматически с помощью Gemini 2.5 Pro. В набор вошли записи с акцентом на ташкентский диалект; другие региональные варианты пока охвачены слабее. Репозиторий распространяется по лицензии Apache-2.0.

rwkv7-7.2B-g0 — мультиязычная языковая модель семейства RWKV-7, разработанная Бо Пэном, Ю Чжаном, Сонглином Яном, Жуйчуном Чжаном и Чжиюанем Ли при поддержке RWKV Project в рамках LF AI & Data Foundation. Это плотная авторегрессионная модель на 7,8 млрд параметров в формате flash-linear attention; в README указаны 7,2 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, использует токенизатор RWKV World с размером словаря 65 536 и имеет контекст 2 048 токенов. В метаданных среди языков указаны английский, китайский, японский, корейский, французский, арабский, испанский и португальский. Модель основана на BlinkDL/rwkv7-g1 и распространяется в формате safetensors. Для запуска README рекомендует установить flash-linear-attention и Transformers версии 4.48.0 или новее. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества и подробных ограничений применения.

SauerkrautLM-gemma-2-9b-it — текстовая чат-модель VAGO solutions на базе Google Gemma 2 9B IT, дообученная методом Spectrum Fine-Tuning на немецко-английских данных Sauerkraut Mix v2. В ходе обучения затрагивалось 25% слоёв модели. Модель предназначена для диалогов и выполнения инструкций на немецком и английском языках. Разработчики сообщают об улучшениях следования инструкциям, рассуждений здравого смысла и решения математических задач при сохранении большей части ранее приобретённых способностей базовой модели. Архитектура — плотная Gemma2ForCausalLM с 9 млрд параметров; контекст — до 8192 токенов. В репозитории представлены веса safetensors. Лицензия — gemma. Разработчики предупреждают, что несмотря на очистку данных, модель может выдавать неподходящий или некорректный контент; результаты оценки зависят от настроек бенчмарков.

Spark-X2.5-1.7B-Abliterated-GGUF — набор GGUF-квантов модели Spark-X2.5-1.7B, разработанный сообществом darioooooo0o на основе XHToken/Spark-X2.5-1.7B. Модель предназначена для генерации текста и рассуждений, включая многоязычные сценарии и агентское использование с инструментами. Основное изменение — однократная rank-1-абляция направления отказа методом heretic, выполненная на сбалансированной многоязычной выборке из 6292 запросов; это существенно снизило склонность модели к отказам и предисловиям о соблюдении ограничений. Доступны варианты Q8_0 размером около 1,8 ГБ, Q6_K около 1,4 ГБ, Q4_K_M около 1,0 ГБ и IQ4_XS около 0,9 ГБ. Для работы требуется совместимая версия llama.cpp с архитектурой spark2_5; README рекомендует F16 KV-кэш и задаваемый лимит рассуждений, поскольку типичная длина скрытого рассуждения превышает 1500 токенов, а отдельные цепочки превышают 4000 токенов. Размер контекста указан в инструкции запуска как 65536 токенов, максимальная длина вывода — 4096 токенов. Точные сведения об архитектуре базовой модели, языковом покрытии и исходном контекстном окне вынесены в отдельную карточку и здесь не приведены. По заявленным проверкам, на закрытых наборах после аудита модель не демонстрировала реальных отказов в ответах, сохранив результат 5 из 6 эффективных задач агентского использования. Ограничением стала небольшая потеря качества по perplexity: ухудшение относительно базовой модели составило 2,3%. Кроме того, абляция направлена на снятие отказов, поэтому поведение и защитные ограничения базовой модели не следует считать сохранёнными. Распространение указано по лицензии Apache-2.0.

Tara — модель автоматического распознавания речи, разработанная Trelis для транскрибации хинди и смешанной речи хинди–английский. Она построена на архитектуре Whisper large-v3 и поддерживает отдельный режим смешанного кода: английские слова записываются латиницей, а хинди — деванагари. По метаданным репозитория модель содержит 905,3 млн параметров; принимает аудио с частотой 16 кГц и выдаёт текст. В карточке заявлены также сильные результаты для английской речи и устойчивость к шуму, телефонным записям, спонтанной речи и различным акцентам. Модель предназначена для голосовых помощников, аналитики звонков, субтитров и конвейеров обработки речевых данных. Для максимальной точности нужно выбирать режим распознавания по языку записи; смешанный режим подходит и для чистого хинди. Оценка в карточке проведена на аудиофрагментах длительностью до 30 секунд, поэтому более длинные записи рекомендуется разбивать на части. Поддержка других индийских языков не заявлена. Лицензия — Apache 2.0.

Tema_Q-R-3B-Thinking — компактная языковая модель, разработанная на основе Liquid AI LFM2.5-2.6B и дообученная для генерации ответов на японском и английском языках. Это плотная причинная трансформерная модель семейства LFM2, представленная в формате safetensors; её контекстное окно составляет 131 072 токена. Модель предназначена для диалогов и генерации текста по инструкциям, включая творческое письмо и поиск знаний. Разработчик позиционирует её как улучшенный вариант базовой модели, способный давать более гибкие и полезные ответы на сложные запросы. Модель помечена как uncensored; соблюдение законодательства и правил использования контента возложено на пользователя, а README запрещает применение для дискриминации, преследования, насилия, незаконных и иных вредоносных целей. Модель основана на LiquidAI/LFM2.5-2.6B и имеет 2,6 млрд параметров. Условия лицензии в предоставленных данных не указаны.

Villanova-2B-2603 — мультиязычная инструкционная языковая модель, разработанная Villanova.AI. Она создана дообучением Villanova-2B-Base-2603 на наборе VillanovaAI/villanova-sft-2603 и предназначена для диалога, следования инструкциям, ответов на вопросы и генерации текста на пяти европейских языках. Модель использует плотную decoder-only архитектуру на базе LLaMA с 2,4 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст; заявлена поддержка английского, французского, немецкого, итальянского и испанского языков. В карточке отмечены сбалансированное следование инструкциям на этих языках и оценивание безопасности на пяти языках. Модель распространяется в формате Safetensors и выпущена под лицензией Apache 2.0. Компактный размер делает её пригодной для развёртывания на устройствах с ограниченными ресурсами, однако качество и скорость зависят от оборудования и сценария. Результаты бенчмарков в карточке приведены разработчиком; они не гарантируют качество для конкретной задачи. Возможности модели ограничены текстовым вводом и выводом.

Voxtral Mini 4B Realtime — потоковая модель распознавания речи, разработанная Mistral AI и представленная в 4-битной MLX-конвертации сообществом mlx-community. Модель предназначена для преобразования аудио в текст в реальном времени и пакетной транскрипции, включая сценарии с низкой задержкой и последовательной обработкой длинных аудиозаписей. Она поддерживает арабский, немецкий, английский, испанский, французский, хинди, итальянский, нидерландский, португальский, китайский, японский, корейский и русский языки. Модель содержит около 4 млрд параметров: примерно 0,6 млрд приходится на причинный аудиоэнкодер, а около 3,4 млрд — на языковой декодер на базе Ministral-3B. Аудиоэнкодер использует скользящее оконное внимание и обеспечивает потоковую обработку, а оба компонента поддерживают обработку аудио неограниченной длины за счёт sliding window attention. Между энкодером и декодером применяется четырёхкратное уменьшение частоты кадров до 12,5 Гц. Рекомендуется жадное декодирование с температурой 0 и задержкой транскрипции 480 мс; меньшая задержка ускоряет вывод, но может снижать точность. К сильным сторонам относятся поддержка потоковой транскрипции, низкая задержка, многоязычность и сниженное потребление памяти благодаря int4-квантизации. Ограничениями являются возможная потеря точности по сравнению с полноточной версией и компромисс между задержкой и качеством распознавания; заявленные показатели зависят от языка, набора данных и выбранной задержки. Модель распространяется по лицензии Apache 2.0 и рассчитана на запуск через библиотеку mlx-audio.

Jonatas Grosman подготовил модель распознавания испанской речи, дообучив facebook/wav2vec2-xls-r-1b на обучающих и проверочных выборках Common Voice 8.0, MediaSpeech, Multilingual TEDx, Multilingual LibriSpeech и VoxPopuli. Это плотная модель Wav2Vec2ForCTC на 1,3 млрд параметров для автоматического преобразования речи в текст; она принимает аудио, записанное с частотой дискретизации 16 кГц, и предназначена для испанского языка. Модель подойдёт для транскрибации испанской речи в аудиозаписях и оценки систем распознавания речи. Для работы нужны веса PyTorch; модель распространяется по лицензии Apache-2.0. Карточка не приводит численных результатов оценки качества.

antony66/whisper-large-v3-russian — русскоязычная версия Whisper large-v3, дообученная автором репозитория на русской части Common Voice 17.0. Это плотная модель семейства Whisper с архитектурой WhisperForConditionalGeneration, примерно 905,2 млн параметров; она принимает аудио и предназначена для автоматического распознавания речи с выдачей текста на русском языке. Модель подходит для транскрибации русской речи, включая записи телефонных разговоров. Автор сообщает о WER 6,39 на собственном тестовом разделении Common Voice после дообучения против 9,84 у исходного Whisper v3. Для телефонных записей рекомендуется предварительно привести аудио к 16 кГц и нормализовать громкость. Модель отмечена как находящаяся в разработке, а автор планирует улучшать её для распознавания телефонной речи. Лицензия в предоставленных данных не указана.

Sagicc/whisper-large-v3-sr-cmb — дообученная модель автоматического распознавания речи на основе Whisper large-v3 от OpenAI. Модель содержит 905,2 млн параметров и предназначена для преобразования аудио в текст; при дообучении использовались Common Voice 13, Google Fleurs и набор данных JuzneVesti-SR v1.0. В карточке приведены результаты оценки: WER 0,0415, WER Ortho 0,1339 и loss 0,1111. Модель ориентирована на сербскую речь, однако подробные сведения о вариантах языка и условиях оценки не описаны. Распространяется по лицензии Apache-2.0.

French Medium Whisper — дообученная модель распознавания речи из семейства Whisper, созданная на основе openai/whisper-medium и обученная на наборе данных Common Voice 11.0. Она преобразует французскую речь в текст и подходит для транскрибации аудио и оценки систем распознавания французской речи. В карточке приведены результаты на тестовой выборке: WER 15,8969 без нормализации и 11,1406 с нормализацией. Модель содержит 455,8 млн параметров, использует архитектуру WhisperForConditionalGeneration и распространяется в формате PyTorch. Лицензия — Apache-2.0. Результаты сравнения с Whisper Medium приведены для тестовых наборов разных версий Common Voice, поэтому они не гарантируют превосходство на других аудио и сценариях.

Agente-GPT-Qwen-2.5-7B-Spanish_English_GGUF_32bit — локальная чат-модель для генерации текста, опубликованная Франсиско Ангуло де ла Фуэнте. Она основана на семействе Qwen 2.5 и предназначена для диалогов, автономной декомпозиции задач и взаимодействия с агентами; автор также заявляет навыки генерации кода и научных текстов. Модель содержит 7 млрд параметров и распространяется в формате GGUF F32 для запуска, в частности, через Ollama. README упоминает MCP и A2A, но наличие интерфейса вызова инструментов в метаданных не подтверждено. Заявлена поддержка испанского и английского языков. Лицензия — Apache 2.0. README предлагает использовать для подготовки научных статей отдельный конвейер P2PCLAW. Заявленные навыки и достижения приведены автором; независимые подтверждения их качества в предоставленных материалах отсутствуют.

baichuan-vicuna-chinese-7b — диалоговая языковая модель на 6,7 млрд параметров, созданная на базе baichuan-7B и дообученная командой fireballoon на данных ShareGPT на китайском и английском языках. Для обучения использовались также ShareGPT-ZH, примеры Chain-of-Thought, задачи LeetCode и вспомогательные данные; код обучения основан на FastChat. Модель использует плотную архитектуру LLaMA и формат PyTorch, а её контекст составляет 4096 токенов. Модель предназначена для генерации текста в диалоге: она может отвечать на вопросы, следовать инструкциям и помогать с рассуждениями и задачами по программированию. Карточка также упоминает отдельную GPTQ-квантизованную 4-битную версию, но описываемая здесь модель хранится в формате PyTorch. Лицензия в предоставленных данных не указана.

BgGPT-Gemma-2-2.6B-IT-v1.0 — диалоговая языковая модель INSAIT, института при Софийском университете Св. Климента Охридского. Это плотный декодерный трансформер семейства Gemma 2 с 2,7 млрд параметров и контекстом 8192 токена, предназначенный для генерации текста и выполнения инструкций в формате чата. Модель основана на Google Gemma 2 2B и Gemma 2 2B IT. INSAIT непрерывно предобучил её примерно на 100 млрд токенов, включая 85 млрд токенов на болгарском языке, используя стратегию Branch-and-Merge, а затем дообучил на болгарских инструкциях и диалогах. Она рассчитана прежде всего на болгарский язык, сохраняя возможности английского, и подходит для ответов на вопросы, суммаризации, рассуждений и диалоговых приложений. Модель распространяется по условиям Gemma Terms of Use. В README отмечено, что Flash Attention для неё не поддерживается и может ухудшить качество; для работы с инструкциями следует использовать шаблон чата Gemma 2.

Bielik-PL-11B-v3.0-Instruct-heretic — доработанная командой SpeakLeash версия Bielik-PL-11B-v3.0-Instruct, созданная методом abliteration с помощью Heretic v1.4.0. В основе лежит дообученная Bielik-11B-v3-Base-20250730: это плотная причинная decoder-only модель семейства Llama на 11 млрд параметров для генерации текста и диалогов. Модель принимает контекст длиной до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache 2.0. Модель предназначена для ответов на запросы, диалогов и других задач генерации текста. Она особенно ориентирована на польский язык, также обучалась на корпусах 32 европейских языков; среди языков карточка указывает польский и английский. README описывает версию heretic как «расцензурированную»: в сравнении с исходной инструкционной моделью указано 0 отказов из 100 проверок против 71 из 100 у оригинала. Снятие ограничений модерации означает, что модель может выдавать оскорбительный, предвзятый, непристойный или фактически неверный текст. Ответы не следует считать проверенными фактами. Для использования указана лицензия Apache 2.0.

Это GGUF-квантизированная версия языковой модели DeepSeek-V3-0324, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты квантования Q2, Q3, Q4, Q5, Q6, Q8 и IQ, включая версии Q4_K_M-V2 и другие модификации. Размер файлов варьируется примерно от 247 до 713 ГБ, поэтому запуск требует значительных ресурсов. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а более низкие уменьшают требования к памяти ценой качества. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, мультимодальности или размере контекста. Модель подходит для локального текстового inference и может использоваться в приложениях, поддерживающих формат GGUF и экосистему llama.cpp. Рекомендуемый шаблон промпта приведён в README. Распространение указано по лицензии MIT.

MaziyarPanahi/DeepSeek-R1-0528-Qwen3-8B-GGUF — это набор файлов модели в формате GGUF для базовой модели deepseek-ai/DeepSeek-R1-0528-Qwen3-8B. Исходную модель разработала deepseek-ai, а квантированную версию подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты. GGUF — формат, созданный командой llama.cpp и пришедший на смену GGML. Доступны варианты квантования с разной разрядностью: 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством работы. Поддерживаются llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, Faraday.dev, candle и ctransformers. К сильным сторонам относятся возможность локального использования, широкий выбор уровней квантования, GPU-ускорение в ряде клиентов и совместимость с OpenAI-совместимыми серверными интерфейсами некоторых библиотек. README не содержит сведений о точной архитектуре, размере параметров, поддерживаемых языках, длине контекста, мультимодальности, результатах тестирования или лицензии, поэтому эти характеристики нельзя достоверно определить.

DeepSeek-V4.1-Flash GGUF — это набор GGUF-конвертаций и смешанных квантований базовой модели DeepSeek-V4.1-Flash, разработанной DeepSeek и квантованной smalinin. Модель предназначена для задач генерации текста и работы в экспериментальном runtime DeepSeek-V4.1 на базе специальной ветки smalinin/llama.cpp с поддержкой CUDA. Представленные файлы являются текстовыми: vision tower в них отсутствует, поэтому мультимодальный ввод изображений не поддерживается. Архитектура исходной модели обозначена как DeepseekV41ForCausalLM и включает sparse attention, hyper-connections, MoE-слои и две крупные n-gram Engram lookup tables. Доступны варианты Q2_K с Q5_K Engram размером 335,382 ГБ и эффективным 3,58 BPW, IQ3_XS с Q8_0 Engram размером 434,024 ГБ и 4,64 BPW, а также MXFP4 с Q8_0 Engram размером 507,954 ГБ и 5,43 BPW. Первый вариант лучше подходит при ограничениях по диску, оперативной памяти или совокупной памяти GPU; более крупные варианты ориентированы на сохранение качества квантования. Для работы требуется именно ветка my_build_deepseek41 из smalinin/llama.cpp и CUDA; совместимость со стандартной upstream-версией llama.cpp не заявлена. Необходимо скачать все десять сегментов выбранного варианта. Более низкий BPW может приводить к повторениям и снижению качества, поэтому варианты следует оценивать на собственных запросах. Репозиторий распространяется по лицензии MIT.