I.6Перевод и языковая адаптация

Dans-PersonalityEngine-V1.3.0-24b-GGUF — текстовая генеративная модель, опубликованная под идентификатором Mungert/Dans-PersonalityEngine-V1.3.0-24b-GGUF. Она создана на базе Mistral-Small-3.1-24B-Base-2503 и представлена в формате GGUF; сборка выполнена с использованием llama.cpp. В README не указано имя отдельной организации-разработчика, однако модель связана с серией Dans и использует наборы данных PocketDoc и других авторов. Модель предназначена для универсальной генерации текста, ролевого общения, написания и редактирования историй, работы с инструкциями, математикой, рассуждениями, кодом, инструментами и специализированными темами, включая химию, биологию, климат, право, медицину и финансы. Заявлены английский, арабский, немецкий, французский, испанский, хинди, португальский, японский и корейский языки. Мультимодальность не заявлена, поэтому модель следует рассматривать как текстовую. Ключевая особенность — низкобитные варианты квантования IQ-DynamicGate с адаптивным распределением точности по слоям, ориентированные на снижение требований к памяти при сохранении качества. Такие варианты подходят для ограниченных по памяти GPU, CPU и периферийных устройств, но могут уступать более точным форматам по качеству. Приведённые в README результаты относятся к тестам Llama-3-8B, а не непосредственно к этой 24-миллиардной модели, поэтому их нельзя напрямую считать её характеристиками. Размер контекста для данной модели не указан. Лицензия — Apache-2.0.

DiscoLM 70b — языковая модель команды DiscoResearch, обученная Бьёрном Плюстером на базе LeoLM 70B. Это плотная авторегрессионная модель семейства Llama 2 с 68,7 млрд параметров и контекстом до 8192 токенов. После дополнительного предобучения на 65 млрд токенов немецкого текста модель дообучили на наборах инструкций и диалогов, включая SlimOrca, OpenHermes, MetaMathQA и UltraChat DE. Модель предназначена для генерации текста и ответов на инструкции и подходит для диалогов, письма, рассуждений, решения математических задач и написания кода. Усилена поддержка немецкого языка при сохранении возможностей английского; карточка также приводит результаты тестов по нескольким задачам. Разработчики называют модель ранней альфа-версией и предупреждают о возможном загрязнении тестовых данных. Для использования заявлена лицензия Llama 2 с её ограничениями и ограничениями обучающих наборов; авторы указывают исследовательское назначение.

Falcon-H1-7B-Instruct — мультиязычная языковая модель, разработанная командой Falcon. Это плотная авторегрессионная модель с гибридной архитектурой Transformer и Mamba, дообученная на базе tiiuae/Falcon-H1-7B-Base для диалогового взаимодействия и генерации текста. Модель содержит 6,4 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов, ответов на вопросы, рассуждений и других задач генерации текста. В карточке указана поддержка английского и многоязычного ввода; метаданные перечисляют арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский, урду и китайский. Для запуска подходят Transformers и vLLM; файлы GGUF доступны в официальной коллекции для llama.cpp. Карточка приводит результаты сравнительной оценки на общих и логических задачах, но они не гарантируют качество в каждом сценарии. Лицензия — Falcon-LLM License; перед применением следует проверить её условия.

Systran/faster-whisper-base — конверсия модели распознавания речи Whisper base от OpenAI в формат CTranslate2, подготовленная для использования в CTranslate2 и проектах на его основе, включая faster-whisper. Модель принимает аудио и выполняет распознавание речи; карточка указывает поддержку многих языков, в том числе русского, английского, китайского, немецкого, испанского, французского и японского. Веса сохранены в FP16; при загрузке тип вычислений можно изменить параметром compute_type в CTranslate2. Репозиторий предназначен для запуска модели в совместимом программном окружении. Лицензия — MIT.

Это конверсия модели распознавания речи Whisper large-v2 от OpenAI в формат CTranslate2, подготовленная для запуска в CTranslate2 и проектах на его основе, включая faster-whisper. Она принимает аудио и предназначена для распознавания речи; веса сохранены в FP16, а при загрузке тип вычислений можно выбрать через параметр compute_type. Модель поддерживает много языков, включая русский, английский, китайский, немецкий, испанский и французский. Репозиторий распространяется по лицензии MIT.

MoonRide/gemma-4-31B-it-heretic-ara-GGUF — GGUF-версия инструкционной модели MoonRide/gemma-4-31B-it-heretic-ara, созданной на базе Google Gemma 4 31B IT. Модель модифицирована с помощью Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA) с сохранением row-norm; заявленная цель модификации — уменьшить склонность исходной модели к отказам. Семейство Gemma разработано Google DeepMind. Модель относится к плотной архитектуре с примерно 30,7 млрд параметров, 60 слоями, размером скользящего окна 1024 токена и контекстом до 256K токенов. Она принимает текст и изображения и генерирует текст; для семейства Gemma 4 заявлена поддержка более 140 языков. Архитектура использует гибридное внимание, объединяющее локальное скользящее и глобальное внимание, а также оптимизации для длинного контекста. Файлы представлены в различных вариантах GGUF-квантизации; рекомендуемые README варианты занимают около 12,1 и 12,6 ГБ. Основная сильная сторона модели — сочетание крупного контекста, мультимодального понимания, возможностей генерации текста, рассуждений и программирования с существенно меньшим числом отказов по сравнению с исходной Gemma 4 31B IT: в приведённом сравнении отказов было 11 из 100 против 99 из 100. При этом декенсоринг может изменить поведение и защитные свойства исходной модели; указанная оценка основана на ограниченном внутреннем тесте, а KL divergence относительно оригинала составляет 0,0508. Для загрузки README рекомендует llama.cpp версии b8751 или новее. Модель распространяется по лицензии Apache 2.0. Перед использованием необходимо учитывать, что снижение числа отказов не означает гарантии корректности, безопасности или точности ответов, а качество и потребление памяти зависят от выбранной GGUF-квантизации и аппаратной конфигурации.

GPT-3.5 Turbo Instruct — вариант модели OpenAI, настроенный на выполнение инструкций в текстовых запросах и не ориентированный на диалоговые оптимизации. Он предназначен для генерации текста в ответ на инструкции и запросы пользователя. В README указан предел знаний в виде обучающих данных по сентябрь 2021 года. Сведения об архитектуре, размере, контекстном окне и лицензии в предоставленных источниках отсутствуют.

Kazakh Whisper Large-v3 Turbo — модель распознавания речи на казахском языке, созданная автором репозитория shyngys879 путём дообучения Whisper Large-v3 Turbo от OpenAI. Это модель семейства Whisper с архитектурой encoder-decoder; она принимает аудио и выдаёт текстовую расшифровку. Чекпойнт предназначен для использования через Transformers и Hugging Face pipelines без LoRA-адаптера или специального кода загрузки. Модель обучена на смеси публичных казахских речевых наборов: README сообщает о 841 113 обучающих примерах и более чем 1 500 часах речи. Среди сценариев — транскрибация записей, создание субтитров, расшифровка подкастов, интервью и встреч, а также подготовка речевых данных и обработка звонков. В тесте FLEURS для казахского языка указаны WER 11,80% и CER 4,98%; результаты относятся к описанному набору оценивания. Качество может снижаться при сильном фоновом шуме, перекрывающихся голосах, выраженных акцентах и диалектах, смешении казахского с русским, записях с преобладанием музыки и обработке очень длинного аудио без сегментации. README рекомендует подавать аудио с частотой 16 кГц и разбивать длинные записи на фрагменты. Модель распространяется по лицензии Apache-2.0.

Модель ivanlau/language-detection-fine-tuned-on-xlm-roberta-base — классификатор текста на основе XLM-RoBERTa, дообученный на наборе данных common_language для определения языка. Она принимает текст и выдаёт метку класса, соответствующую распознанному языку. В README указана точность 0,9738 на оценочном наборе данных; число параметров составляет 305,2 млн, контекст — до 514 токенов. Модель подходит для автоматической разметки языка коротких текстов и маршрутизации запросов в многоязычных системах. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Точность на оценочном наборе не гарантирует такого же результата на текстах других типов и длины.

Mungert/LFM2.5-8B-A1B-GGUF — квантованный формат текстовой модели LFM2.5-8B-A1B, разработанной Liquid AI и опубликованной пользователем Mungert. Модель предназначена для локального и периферийного (edge) развёртывания, в частности для персональных ассистентов на устройствах, агентских сценариев, вызова инструментов, структурированных ответов и многоязычного диалога. Модель имеет гибридную архитектуру с 8,3 млрд параметров, из которых активно используется 1,5 млрд; включает 24 слоя — 18 double-gated LIV convolutional layers и 6 слоёв с GQA. Указаны контекст длиной до 128 000 токенов, словарь из 128 000 токенов и поддержка английского, арабского, китайского, французского, немецкого, итальянского, японского, корейского, португальского и испанского языков. Это текстовая reasoning-модель, поддерживающая function calling; GGUF-формат ориентирован на llama.cpp и совместимые инструменты, а также на быстрый локальный inference на CPU и GPU. Сильные стороны модели — высокая производительность при небольшом числе активных параметров, поддержка длинного контекста, многоязычность, следование сложным инструкциям, tool use и пригодность для on-device deployment. Ограничения: модель не считается оптимальным выбором для сложного программирования и фактологически насыщенных задач без retrieval; README также не указывает конкретный вариант квантования для данного репозитория и его размер. Распространение осуществляется по лицензии lfm1.0; точные условия следует уточнять в файле LICENSE.

Карточка модели grimjim/mistralai-Mistral-Nemo-Base-2407 на Hugging Face совпадает с карточкой mistralai/Mistral-Nemo-Base-2407, поэтому описание составлено по ней. Mistral-Nemo-Base-2407 — предварительно обученная генеративная языковая модель, совместно разработанная Mistral AI и NVIDIA. Это плотный трансформер Mistral с 12,1 млрд параметров, 40 слоями, группированным вниманием к запросам (GQA) и словарём примерно на 128 тысяч токенов. Модель выпущена в июле 2024 года и распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под конкретные задачи. Она обучалась на многоязычных данных и коде; заявленное окно контекста составляет 128 тысяч токенов. Среди указанных языков — английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Для запуска рекомендован mistral-inference; README также описывает использование через Transformers. Карточка приводит результаты на общих и многоязычных бенчмарках и рекомендует для генерации температуру 0,3. Поскольку это базовая предварительно обученная модель, она не имеет механизмов модерации и не является специализированной инструкционной версией; поведение в прикладных сценариях может требовать дополнительной настройки. Для неё доступна также отдельная instruct-версия.

Карточка модели axolotl-ai-co/Mistral-Nemo-Base-2407-chatml на Hugging Face совпадает с карточкой mistralai/Mistral-Nemo-Base-2407, поэтому описание составлено по ней. Mistral-Nemo-Base-2407 — предварительно обученная генеративная языковая модель, совместно разработанная Mistral AI и NVIDIA. Это плотный трансформер Mistral с 12,1 млрд параметров, 40 слоями, группированным вниманием к запросам (GQA) и словарём примерно на 128 тысяч токенов. Модель выпущена в июле 2024 года и распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под конкретные задачи. Она обучалась на многоязычных данных и коде; заявленное окно контекста составляет 128 тысяч токенов. Среди указанных языков — английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Для запуска рекомендован mistral-inference; README также описывает использование через Transformers. Карточка приводит результаты на общих и многоязычных бенчмарках и рекомендует для генерации температуру 0,3. Поскольку это базовая предварительно обученная модель, она не имеет механизмов модерации и не является специализированной инструкционной версией; поведение в прикладных сценариях может требовать дополнительной настройки. Для неё доступна также отдельная instruct-версия.

Это конверсия модели распознавания речи Whisper large-v3-turbo от OpenAI в формат CTranslate2. Репозиторий Mobius Labs предназначен для использования с CTranslate2 и совместимыми проектами, включая faster-whisper; модель автоматически используется в форке faster-whisper от Mobius Labs. Модель принимает аудио и преобразует речь в текст. В метаданных перечислена поддержка многих языков, включая русский, английский, китайский, немецкий, испанский, французский и другие. Репозиторий распространяется по лицензии MIT. Это конверсия весов, а не отдельное дообучение.

Nex-N2.5-mini-Uncensored-APEX-GGUF — набор GGUF-квантизаций модели Nex-N2.5-mini от Nex-AGI, подготовленный на базе варианта orcarouter/Nex-N2.5-mini-Uncensored с использованием llama.cpp и localai-org/apex-quant. Модель позиционируется как abliterated, то есть с уменьшенной склонностью к отказам. Формат предназначен для локального запуска через llama.cpp и совместимые интерфейсы. Модель поддерживает текстовые и визуальные сценарии, включая анализ изображений, работу с английским и китайским языками, генерацию текста, программирование и задачи, требующие длинного контекста. Архитектура — Mixture-of-Experts примерно на 34 млрд параметров: 40 слоёв, 256 маршрутизируемых экспертов, выбор 8 экспертов на токен и один общий эксперт в каждом слое. Используется гибрид gated-delta-net и полноразмерного внимания, максимальный контекст заявлен до 262 144 токенов. Основное преимущество — MoE-архитектура и APEX-квантизация со смешанной точностью, которая позволяет выбирать разные уровни точности для слоёв и групп тензоров, обеспечивая несколько вариантов баланса между размером и качеством. Доступны профили Mini, I-Compact, I-Quality и I-Balanced, однако конкретные файлы могут присутствовать не все. Для работы с изображениями требуется отдельный F16-проектор mmproj. Реальное качество зависит от выбранного профиля, аппаратных ресурсов и клиента; приведённые в README внешние результаты APEX нельзя считать измерениями именно этих файлов. Для запуска рекомендуется современная версия llama.cpp, при этом возможна частичная выгрузка слоёв на GPU. Лицензия модели — Apache-2.0.

next-70b-i1-GGUF — это набор квантизированных файлов GGUF для языковой модели next-70b, разработанной thelamapi и подготовленной в формате GGUF пользователем mradermacher. Модель относится к большим трансформерным instruction-tuned языковым моделям с 70 миллиардами параметров и предназначена для генерации текста и диалогового использования. Модель обучалась на наборах данных для instruction tuning, написания текстов, краткого содержания, агентных сценариев, математических задач и программной инженерии, включая GSM8K, MATH-500 и SWE-bench Verified. Заявлена поддержка турецкого, английского, немецкого, испанского, французского, русского, китайского, японского и корейского языков. README не содержит данных о длине контекста, точной архитектуре трансформера, мультимодальности или результатах бенчмарков, поэтому эти характеристики нельзя оценить по предоставленной информации. Основное преимущество репозитория — широкий выбор квантизаций с размером примерно от 15,4 до 58 ГБ, что позволяет выбирать баланс качества, скорости и требований к памяти. Для использования требуются совместимые инструменты, поддерживающие GGUF. Низкобитные варианты могут заметно уступать по качеству; в README отдельно отмечены варианты с низким качеством, а для ряда конфигураций рекомендуются IQ-квантизации или Q4_K_M. Модель распространяется по лицензии MIT.

NVIDIA-Nemotron-3-Nano-30B-A3B-AWQ — это 4-битная AWQ-квантизованная версия большой языковой модели NVIDIA Nemotron-Nano-3-30B-A3B, подготовленная stelterlab на основе исходных весов NVIDIA с использованием llm-compressor. Модель предназначена для генерации текста, диалоговых систем, решения задач с рассуждением и без него, а также создания специализированных AI-агентов. Она может сначала формировать рассуждение, а затем итоговый ответ; режим рассуждений настраивается через chat template, причём их отключение может немного снизить точность на сложных запросах. Модель разработана NVIDIA Corporation и использует гибридную архитектуру Mixture-of-Experts: 23 слоя Mamba-2 и MoE, а также 6 attention-слоёв. Всего модель содержит 30 млрд параметров, из которых 3,5 млрд активируются для каждого токена; в каждом MoE-слое используются 128 экспертов и один общий эксперт, при этом активируются 6 экспертов на токен. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. Размер контекста в предоставленных данных не указан. К сильным сторонам относятся сочетание режимов рассуждения и обычной генерации, высокая параметрическая ёмкость при меньшем числе активных параметров и сниженные требования к памяти благодаря INT4-квантизации. Ограничения включают экспериментальный статус AWQ-сборки, возможное снижение качества при отключении рассуждений и отсутствие подтверждённых сведений о производительности именно этой квантизованной версии. Модель разрешена для коммерческого использования в соответствии с NVIDIA Nemotron Open Model License.

OpenLID — модель классификации текста для автоматического определения языка, разработанная Laurie Burchell, Alexandra Birch, Nikolay Bogoychev и Kenneth Heafield. Она построена на fastText и охватывает 201 язык; модель обучена на наборе OpenLID и оценивалась на бенчмарке FLORES-200. Модель предназначена для определения языка короткого текста и предварительной фильтрации или маршрутизации многоязычных данных в NLP-конвейерах. Лицензия — GPL-3.0. Ограничения связаны с охватом только 201 языка, неравномерным качеством распознавания и оценкой на предложениях из Википедии, которая может не отражать результаты на данных из других областей. Часть обучающих данных не проверялась носителями языка; ошибки могут затрагивать диалекты, письменности и малые языки.

Ornstein3.6-35B-A3B-GGUF — набор GGUF-квантизаций модели DJLougen/Ornstein3.6-35B-A3B, опубликованный для локального запуска. Это дообученная модель семейства Qwen 3.6 с архитектурой Qwen3_5MoeForCausalLM и поддержкой сценариев генерации текста; репозиторий также содержит мультимодальные конфигурации и файлы визуальной башни для обработки изображений и видео, однако существующие GGUF-бинарники при обновлении метаданных не переписывались. Модель использует архитектуру mixture-of-experts с 34,66 млрд параметров, из которых около 3 млрд активны для каждого токена. В ней 256 экспертов, выбираются 8 экспертов на токен, предусмотрены чередующиеся линейное и полноразмерное внимание, а также Gated Delta Net. Контекст составляет до 262 144 токенов, скрытый размер — 2048, число слоёв — 40, словарь — 248 320 токенов. Доступны варианты квантизации от 8 до примерно 2,6 бит; версии ниже 8 бит частично созданы с importance matrix на смешанном многоязычном корпусе. Сильная сторона модели — сочетание большого общего числа параметров с относительно небольшим числом активных параметров, что делает локальный инференс более доступным по памяти. Для лучшего качества рекомендуется Q4_K_M или выше; Q5_K_M описывается как удачный баланс качества и размера, а Q8_0 — как почти без потерь. Низкобитные варианты требуют компромисса по качеству, причём у MoE-моделей деградация при сильной квантизации может быть заметнее. Для запуска подходят llama.cpp, LM Studio, Ollama, koboldcpp и text-generation-webui при наличии поддержки Qwen3_5MoeForCausalLM и Gated Delta Net. Модель распространяется по лицензии Apache 2.0, унаследованной от базового релиза Qwen 3.6.

unsloth/Qwen2.5-1.5B-Instruct-unsloth-bnb-4bit — инструкция-ориентированная языковая модель семейства Qwen2.5, разработанная Qwen и опубликованная в формате Unsloth. Это квантованная 4-битная версия модели Qwen/Qwen2.5-1.5B-Instruct, предназначенная для диалогов, следования инструкциям, генерации и обработки текста, а также для задач программирования, математики и формирования структурированных ответов, включая JSON. Модель является каузальной языковой моделью с примерно 1,5 млрд параметров и работает через библиотеку Transformers. Формат Unsloth использует динамическое 4-битное квантование: разные части модели квантуются выборочно для снижения потребления памяти с целью лучшего сохранения точности по сравнению со стандартным 4-битным квантованием. В материалах семейства Qwen2.5 заявлена поддержка более 29 языков, включая русский, английский, китайский, французский, немецкий, испанский, японский и другие; точные параметры контекстного окна для данной версии в README не указаны. Сильными сторонами модели являются компактный размер, сниженные требования к памяти и улучшенные возможности следования инструкциям, работы с кодом, математикой и структурированными данными. Ограничения связаны с существенно меньшей ёмкостью по сравнению с крупными моделями, возможной потерей точности из-за квантования и тем, что README не содержит подробных результатов тестирования именно этой версии. Модель распространяется по лицензии Apache-2.0.

6block/Qwen3-14B-GGUF — набор GGUF-квантизированных версий языковой модели Qwen3-14B, разработанной Qwen. Квантизацию выполнил 6block с использованием llama.cpp и метода imatrix; исходная модель доступна как Qwen/Qwen3-14B. Модель предназначена для генерации текста и программного кода, включая двуязычные сценарии на английском и китайском языках, и может применяться локально через llama.cpp, LM Studio, Ollama и совместимые проекты. Доступны варианты квантизации от Q8_0 до Q2_K размером примерно от 15,70 до 5,75 ГБ. Для калибровки использовался датасет с английскими, китайскими и программными текстами, что должно помогать сохранять способности к работе с китайским языком и кодом в моделях с низкой разрядностью. Более высокие варианты обычно обеспечивают лучшее качество, а низкоразрядные требуют меньше памяти, но сильнее ограничены потерями качества; I-кванты могут быть эффективнее по качеству на размер, но медленнее K-квантов на CPU. Архитектура, длина контекста и точный набор поддерживаемых языков в карточке не указаны. Модель распространяется по лицензии Apache 2.0. Для запуска требуется подходящее локальное программное обеспечение и объём RAM или VRAM, соответствующий выбранному файлу; конкретные требования зависят от варианта квантизации.

JunLee88999/Qwen3.5-35B-A3B-heretic-v2-GGUF — GGUF-квантизации модели Qwen3.5-35B-A3B, разработанной командой Qwen. Это децензурированная версия, созданная на основе llmfan46/Qwen3.5-35B-A3B-heretic-v2 с применением Heretic v1.2.0, Magnitude-Preserving Orthogonal Ablation и Self-Organizing Map Abliteration. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев и мультимодального понимания изображений и текста. Архитектура исходной Qwen3.5 включает гибридные Gated Delta Networks и разреженную Mixture-of-Experts; размер модели — 35B с конфигурацией A3B. Указана поддержка 201 языка и диалекта. Для мультимодальной работы требуется отдельный vision projector в формате GGUF; доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами, поддерживающими GGUF. Главная особенность версии — значительно меньшее количество отказов по сравнению с оригинальной моделью: 4 из 100 против 91 из 100, при заявленном KL divergence 0,0411, что указывает на относительно хорошее сохранение исходных возможностей. При этом снятие ограничений может повысить риски генерации нежелательного или небезопасного контента. README не содержит сведений о длине контекста и подробных результатах независимого тестирования. Лицензия — Apache-2.0.

Qwen3.5-397B-A17B-Opus-4.6-Reasoning-Uncensored-GGUF — GGUF-версия модели, разработанная timteh673 на базе Qwen/Qwen3.5-397B-A17B. Модель предназначена прежде всего для генерации текста, сложного рассуждения, аналитических задач, многошагового решения проблем и диалоговых сценариев. Она прошла abliteration для снижения отказов и LoRA-дообучение на 12 842 образцах рассуждений, дистиллированных из ответов Anthropic Claude Opus 4.6, с использованием тегов <think> для явного отображения процесса рассуждения. Архитектура представляет собой гибридную Qwen3.5 MoE с GatedDeltaNet и Transformer-компонентами: 397 млрд параметров всего, 17 млрд активных параметров на токен, 60 слоёв, 32 attention-головы, 2 KV-головы, 512 маршрутизируемых экспертов и общий эксперт, из которых активны 10 на токен. Заявлена длина контекста до 262 144 токенов, словарь из 248 320 токенов и поддержка более 201 языка, включая английский, китайский, японский, корейский, русский и другие. Модель также сохраняет нативный vision encoder для работы с текстом, изображениями и видео, однако мультимодальные возможности после дообучения не тестировались. Сильными сторонами являются MoE-архитектура с большим общим числом параметров, улучшенное структурированное рассуждение и широкий контекст. Модель очень требовательна к ресурсам: размер доступных вариантов составляет примерно от 135 до 739 ГБ, а для рекомендованной квантизации Q4_K_M требуется около 230 ГБ оперативной памяти. Возможны отдельные отказы, поскольку routed-эксперты не были полностью обработаны при abliteration; режим рассуждения генерирует теги <think>, которые при необходимости следует удалять постобработкой. Лицензия — Apache 2.0.

uzairkhn/Qwen3.8-27B-FP4 — дообученная и 4-битно квантованная версия causal language model Qwen/Qwen3.8-27B. Квантование FP4 выполнено с использованием библиотеки bitsandbytes разработчиком uzairkhanux; исходную модель разработала команда Qwen. Модель предназначена для генерации текста, диалогового взаимодействия, zero-shot и few-shot prompting, а также инференса в прикладных сценариях, где важны сниженные требования к видеопамяти. Это трансформерная авторегрессионная модель размером 27B параметров, доступная в формате FP4. По данным карточки, её потребление памяти снижено примерно с 54 ГБ для исходных 16-битных весов до около 14 ГБ, что позволяет запускать её на одной GPU с 16 ГБ VRAM или конфигурациях вроде двух NVIDIA T4. Модель поддерживает несколько языков, включая английский и китайский, а также другие языки, поддерживаемые базовой моделью. Для загрузки рекомендуется экосистема Hugging Face Transformers и bitsandbytes с возможностью выгрузки части весов в оперативную память. Главное преимущество модели — существенное уменьшение требований к памяти при сохранении возможностей исходной большой языковой модели. Ограничения связаны с потерями качества из-за lossy-квантования: по сравнению с исходными 16-битными или BF16-весами возможно ухудшение сложного рассуждения. Использование CPU offloading снижает скорость генерации, поэтому модель плохо подходит для чувствительных к задержкам производственных систем без оборудования с большим объёмом VRAM. Модель может наследовать предвзятости и ошибки исходных и дообучающих данных; перед применением нужны тестирование и защитные механизмы. Лицензия определяется лицензией базовой модели Qwen/Qwen3.8-27B.

utautako/Qwen3.8-27B-NVFP4-MTP-Q8attn-GGUF — это квантованная GGUF-версия модели Qwen3.8-27B, разработанной командой Qwen. Конверсию выполнил автор репозитория с использованием NVIDIA ModelOpt: MLP-слои представлены в формате NVFP4, а проекции attention и линейного внимания DeltaNet сохранены в Q8_0 для повышения точности, особенно при работе с длинным контекстом. Модель предназначена для запуска через llama.cpp. Модель поддерживает текстовые и визуальные сценарии: для обработки изображений поставляется отдельный BF16 vision projector, совместимый с путём Qwen3-VL. Архитектура содержит 64 текстовых слоя и один MTP-слой для speculative decoding; общий размер основного файла составляет около 17,81 GiB, а плотность — примерно 5,60 бит на вес. Заявлена поддержка контекста до 213056 токенов в текстовом режиме и до 163840 токенов при подключённом vision projector на RTX 5090 с 32 ГБ видеопамяти. К сильным сторонам относятся сохранение качества attention-компонентов за счёт Q8_0, поддержка изображений и ускорение генерации с помощью MTP: на RTX 5090 производительность достигает примерно 120–130 токенов в секунду, что примерно вдвое выше авторегрессионного режима. Ограничения включают зависимость от совместимой версии llama.cpp, значительные требования к видеопамяти и снижение эффективности speculative decoding при глубине чернового предсказания четыре и более. Модель распространяется по лицензии Apache-2.0.

Sartaj Bhuvaji подготовил текстовую версию Qwen3.8-27B, удалив из Qwen/Qwen3.8-27B зрительную подсистему и преобразовав конфигурацию в Qwen3_5ForCausalLM. Это плотная гибридная авторегрессионная модель с 64 декодерными слоями: 48 слоёв линейного внимания и 16 слоёв полного внимания. В репозитории около 27,3 млрд параметров; заявленная длина контекста — 262 144 токена. Текстовые веса побайтно совпадают с исходной моделью, дообучения или переобучения не было. Модель предназначена для генерации текста и диалогового использования, включая развёртывание через Transformers, vLLM и SGLang. Удаление зрительной подсистемы исключает обработку изображений и сокращает занимаемую память примерно на 0,92 ГБ; автор также сообщает об увеличении доступной KV-кэш-памяти в конкретном тесте на H100. Лицензия — Apache-2.0. Модель не принимает изображения. Голова multi-token prediction сохранена, но не поддерживается проверенными загрузчиками; прирост скорости не гарантируется и зависит от движка, оборудования и нагрузки. Приведённые бенчмарки охватывают один H100 и ограниченный набор размеров запросов.

ArlowGPT-3B-Multilingual — многоязычная инструктивная языковая модель для диалогов и генерации текста, разработанная на основе ArlowGPT-3B. По README, модель дополнительно дообучена на многоязычном наборе ArlowGPT Multilingual в течение пяти эпох; метаданные указывают архитектуру Llama с плотной causal language model на 3,2 млрд параметров. Модель предназначена для следования инструкциям, многоходового общения, ответов на вопросы, создания и краткого изложения текстов на разных языках. Модель принимает текстовые запросы и генерирует текст. В карточке заявлены сценарии для чат-ботов и помощников, межъязыковых ответов на вопросы, поддержки клиентов, творческого письма и работы с документами. Метаданные указывают контекстное окно 131 072 токена и интерфейс для вызова инструментов; README не уточняет поддерживаемые языки по отдельности, поэтому конкретные языки не перечислены. Размер модели рассчитан на сравнительно ресурсосберегающее развертывание, хотя практические требования зависят от формата и оборудования. Лицензия — MIT. README заявляет широкий спектр возможностей, включая работу с юридическими, медицинскими и финансовыми текстами, но не приводит независимых оценок качества или подтверждения пригодности для критически важных решений; ответы следует проверять, особенно в специализированных областях.

Bielik-PL-Minitron-7B-v3.0-Instruct — генеративная языковая модель SpeakLeash и ACK Cyfronet AGH с архитектурой causal decoder-only и 7,35 млрд параметров. Это дообученная и сжатая версия Bielik-11B-v3-Base-20250730: модель прошла структурное прореживание и дистилляцию, затем настройку на следование инструкциям и выравнивание предпочтений. Для диалога используется шаблон ChatML. Модель предназначена для генерации ответов и выполнения языковых задач на польском и других европейских языках. Она обучалась на корпусе из 32 европейских языков с особым акцентом на польский; README сообщает о сохранении около 90% производительности исходной модели и ускорении вывода до 50% после сжатия. Лицензия Apache 2.0. Модель может выдавать фактически неверные, предвзятые или оскорбительные ответы; встроенных механизмов модерации нет, поэтому результаты следует проверять, а для сценариев с требованиями к модерации нужны внешние меры контроля.

cyankiwi/diffusiongemma-26B-A4B-it-AWQ-INT4 — квантованная версия DiffusionGemma на базе google/diffusiongemma-26B-A4B-it, разработанной Google DeepMind. Это мультимодальная модель с открытыми весами, которая принимает текст, изображения и видео, а генерирует текст. Представленная версия использует квантование AWQ INT4 и занимает около 17,23 ГБ. Модель предназначена для генерации текста, рассуждений, диалоговых сценариев, обработки мультимодальных запросов и задач, связанных с STEM и агентными системами. Она применяет дискретную диффузию: вместо последовательной генерации токенов модель итеративно восстанавливает блоки токенов, что может повышать скорость вывода. Архитектура включает encoder-decoder с двунаправленным вниманием в декодере и разреженную Mixture-of-Experts-конфигурацию: 25,2 млрд параметров всего, 3,8 млрд активных параметров, 30 слоёв и 8 активных экспертов из 128. Заявлены контекст до 256 тысяч токенов, окно скользящего внимания 1024 токена и длина генерируемого блока 256 токенов. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Модель оптимизирована для инференса с небольшим размером пакета и низкой задержкой, преимущественно на одном производительном ускорителе; режим рассуждений и системные промпты поддерживаются. Ограничение развертывания — отсутствие поддержки внутримодельного тензорного и конвейерного распараллеливания; для нескольких GPU рекомендуется репликация через data parallelism. Лицензия — Apache 2.0.

Это конверсия модели распознавания речи Whisper large-v3 от OpenAI в формат CTranslate2, опубликованная Systran. Она предназначена для распознавания речи из аудио и используется в CTranslate2 и проектах на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно изменить через параметр compute_type. Модель поддерживает распознавание речи на многих языках, в том числе русском и английском. Репозиторий содержит конвертированные веса, а не исходную реализацию Whisper. Лицензия — MIT.

GigaChat-20B-A3B-instruct-v1.5 — диалоговая языковая модель семейства GigaChat, разработанная ai-sage и дообученная на базе ai-sage/GigaChat-20B-A3B-base. Модель использует архитектуру DeepseekForCausalLM, содержит 3,1 млрд параметров и поддерживает контекст до 131 072 токенов. Она предназначена для диалога и генерации текста на русском и английском языках. Обновлённая версия получила улучшенное выравнивание ответов: в README сообщается о росте результатов Arena Hard RU с 20,8 до 29,6 и Arena General с 41,1 до 49,1; также приведены результаты на тестах MERA, ru-MMLU и математических задачах. Подходит для диалоговых ассистентов, ответов на вопросы, решения математических задач и генерации текста. Для работы с Transformers требуется версия 4.47 или новее; README предупреждает об особенностях токенизации при использовании vLLM и не рекомендует один из способов подготовки входа. Лицензия — MIT.