I.6Перевод и языковая адаптация

sasa2000/Qwen3-Swallow-8B-RL-v0.2-heretic — дообученная версия Qwen3-Swallow 8B RL v0.2 с ослабленным поведением отказа, подготовленная на основе abliteration. Базовая модель разработана проектом Swallow LLM; репозиторий содержит плотную причинно-языковую архитектуру Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Она предназначена для общения на японском и английском языках, перевода между ними, решения математических задач, программирования и рассуждений. В сравнении из карточки указано 31 отказ из 100 запросов против 97 у исходной модели; это описание теста отказов, а не оценка общей точности. Рекомендуемый автором предел контекста — 32 768 токенов или меньше. Работа с вызовом инструментов не была специально обучена и не валидирована, а отдельное переключение режима рассуждений не поддерживается. Модель распространяется по лицензии Apache-2.0. Авторы базовой модели отмечают, что семейство находится на раннем этапе разработки и не настроено для надёжного следования человеческим намерениям или требованиям безопасности; снижение частоты отказов также означает, что ответы требуют соответствующей проверки.

Spark-X2.5-4B-GGUF — набор общественных GGUF-квантизаций компактной универсальной языковой модели Spark-X2.5-4B, разработанной SparkLLM и опубликованной в исходном виде XHToken. Репозиторий ngquocvinh содержит только квантизированные файлы для локального запуска; обучение и дообучение в рамках этого выпуска не выполнялись. Модель предназначена для диалогов, написания текстов, перевода, рассуждений, программирования, использования инструментов и агентских сценариев. Исходная модель имеет 4B параметров, поддерживает английский, китайский и, по заявлению авторов, более 200 языков. Заявлено контекстное окно до 1 млн токенов и гибридное внимание: один слой с полным вниманием и три слоя со скользящим окном, что должно способствовать эффективной обработке длинного контекста. Квантизации представлены в форматах GGUF и совместимы с llama.cpp; также заявлена поддержка экосистем llama.cpp, vLLM, SGLang, MLX, Ollama и LM Studio. Основное преимущество — возможность локального запуска при разных ограничениях по памяти: Q8_0 ближе всего к исходному BF16 по результатам измерений, Q4_K_M предлагает компромисс между размером и качеством, а Q2_K требует меньше ресурсов ценой заметной потери точности. Ограничения включают снижение fidelity у низкобитных вариантов и отсутствие в README подробных сведений о точных требованиях к памяти, скорости, обучающих данных и результатах прикладных бенчмарков. Производные файлы распространяются по Apache License 2.0 с сохранением атрибуции исходной модели; это неофициальный community-релиз и не подтверждение со стороны XHToken или SparkLLM.

Vesemir 1.5B — небольшая языковая модель семейства Cirilla, разработанная AnthonyPa57. Это плотная авторегрессионная модель на 1,5 млрд параметров с архитектурой VesemirForCausalLM; она совместима с Transformers и рассчитана на контекст до 8192 токенов. В архитектуре используются Differential Attention, Grouped-Query Attention и блоки SwiGLU с предварительной нормализацией RMSNorm. Модель обучалась с нуля на польских и английских текстах, затем прошла дообучение на инструкциях, примерах RAG и Python, переводах и DPO-данных. Её можно применять для диалогов, генерации и продолжения текста, ответов на инструкции, перевода, задач по Python и работы с контекстом документов. Поддерживаются английский и польский языки; репозиторий содержит веса Safetensors в формате BF16. Автор отмечает, что обучение проводилось на сравнительно небольшом объёме данных и модель следует рассматривать как основу для дальнейшей разработки. Для загрузки через AutoModelForCausalLM и AutoTokenizer требуется trust_remote_code=True. Лицензия — MIT.

Vikhr-7B-instruct_0.4 — русскоязычная инструкционная чат-модель семейства Vikhr, разработанного Александром Николичем, Константином Королёвым и Артёмом Шелмановым. Это плотная causal language model на архитектуре семейства Llama с классом MistralForCausalLM и 7,3 млрд параметров; модель распространяется в формате Safetensors и рассчитана на контекст до 32 768 токенов. Версия 0.4 продолжает релиз 0.3–0.4: авторы увеличили объём данных SFT, чтобы улучшить стабильность работы с JSON, многоходовыми диалогами, длинным контекстом и сложными запросами. Модель предназначена для генерации текста и диалогового взаимодействия на русском и английском языках. Для практического применения доступны материалы для Google Colab и упоминание GGUF. Известные ограничения и условия лицензирования в предоставленной карточке не описаны.

Карточка модели hudsonai-app/whisper-large-v3-turbo-4bit на Hugging Face совпадает с карточкой mlx-community/whisper-large-v3-turbo-4bit, поэтому описание составлено по ней. mlx-community/whisper-large-v3-turbo-4bit — мультиязычная модель распознавания речи на базе OpenAI Whisper large-v3-turbo, преобразованная сообществом mlx-community в формат MLX с 4-битным представлением. Она предназначена для преобразования аудиозаписей в текст и запуска на устройствах Apple через библиотеку mlx-audio-plus. Модель принимает аудио и выдаёт текст; исходная модель также поддерживает перевод речи в текст. Репозиторий распространяется по лицензии Apache-2.0.

wtp-canine-s-12l — модель токен-классификации семейства La-CANINE, опубликованная пользователем benjamin и предназначенная для библиотеки wtpsplit. Она определяет границы предложений в тексте, чтобы разбивать его на предложения в многоязычных сценариях. Модель содержит 113,2 млн параметров, принимает текст и выдаёт метки токенов. В карточке Hugging Face заявлена поддержка 85 языков; метаданные также указывают контекст до 16 384 токенов. Модель распространяется по лицензии MIT. Практическое ограничение — качество сегментации может зависеть от языка и особенностей текста.

YuLan-Chat-3-12B — диалоговая большая языковая модель, разработанная исследователями Высшей школы искусственного интеллекта имени Гаолин при Народном университете Китая. Модель построена на плотной архитектуре Llama с 11,7 млрд параметров и предназначена для генерации ответов в диалоге и выполнения текстовых инструкций. Она обучена с нуля на англоязычных, китайских и многоязычных данных, а затем дообучена на качественных англо-китайских инструкциях и данных о человеческих предпочтениях с помощью обучения по учебной программе. Модель поддерживает контекст до 4096 токенов и ориентирована прежде всего на английский и китайский языки. Её можно применять для диалоговых помощников, ответов на вопросы, генерации и преобразования текста. В карточке указана лицензия MIT. Модель может генерировать неожиданные ответы, включая предвзятое, дискриминационное или вредоносное содержание.

AIFT-ko-orca-plat-Yi-ko-6b-v1.5 — корейская instruct-модель для генерации текста, дообученная разработчиком AIFT на базе KOR-OpenOrca-Platypus. В карточке указано, что для обучения отобрали и очистили часть данных KOR-OpenOrca-Platypus, затем добавили около 40 тысяч примеров по истории, науке, математике, чтению с пониманием, анализу отзывов, обобщению, грамматике и переводу между английским и корейским. Также включены примеры для проверки распространённых утверждений на истинность. Модель основана на плотной архитектуре семейства Llama, содержит 5,9 млрд параметров и принимает контекст до 2048 токенов. Для дообучения использовался LoRA; веса опубликованы в формате safetensors. Модель предназначена для ответов на инструкции, вопросов и задач на корейском языке, а также для перевода между корейским и английским. Данные обучения закрыты, поэтому проверить состав датасета независимо нельзя. Лицензия — CC BY-SA 4.0.

facebook/bart-base — базовая англоязычная модель семейства BART, разработанная командой Facebook AI и впервые опубликованная в этом репозитории. Это трансформерная encoder-decoder модель типа seq2seq: двунаправленный энкодер сочетается с авторегрессионным декодером. Модель содержит 95,2 млн параметров, обучена восстанавливать исходный текст после его искажения и поддерживает контекст до 1024 токенов. Модель предназначена прежде всего для извлечения признаков и дообучения на текстовых задачах. После дообучения BART применяют для суммаризации, перевода, классификации текста и ответов на вопросы; исходная модель также подходит для заполнения пропусков в тексте. Репозиторий содержит веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache 2.0.

Это GGUF-квантизированная версия gemma-3-12b-it-ultra-uncensored-heretic, разработанная независимым автором LLMfan46 на базе Google Gemma 3 12B Instruct. Модель создана с использованием Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA) для снижения встроенных ограничений на ответы при сохранении исходных возможностей. По приведённому сравнению, частота отказов снизилась с 97 до 4 из 100, а KL-дивергенция составляет 0,0131 относительно оригинальной модели. Модель предназначена для генерации текста, ответов на вопросы, анализа, суммаризации, рассуждений и понимания изображений. Gemma 3 поддерживает текстовые и графические входные данные с генерацией текста, контекст до 128K токенов, выход до 8192 токенов и более 140 языков. Для мультимодальной работы требуется отдельный vision projector. Доступны варианты GGUF с квантованием от BF16 и Q8_0 до IQ3_XXS; версии с более низкой разрядностью занимают меньше места, но могут сильнее терять в качестве. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами для GGUF. Сильной стороной является сочетание относительно компактного размера 12B, мультимодальности, длинного контекста и уменьшенного числа отказов. Ограничения включают возможное снижение качества при агрессивном квантовании, необходимость vision projector для работы с изображениями и потенциальные риски, связанные с ослаблением механизмов отказа. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use Google. Базовые модели Gemma разработаны Google DeepMind.

granite-4.2-30b-MLX-4bit — 4-битная квантованная версия языковой модели granite-4.2-30b, разработанной командой IBM Granite (ibm-granite). Квантование выполнено командой LM Studio с использованием MLX и оптимизировано для запуска на устройствах с Apple Silicon. Модель предназначена для генерации текста, рассуждений, работы с инструментами и сценариев tool-calling. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. В README не указаны точная архитектура, размер контекстного окна, доступные модальности и дополнительные показатели качества. Квантование в 4 бита снижает требования к памяти и делает модель более подходящей для локального запуска на Apple Silicon, однако может сопровождаться потерей качества по сравнению с исходной версией. Условия использования определяются лицензией Apache 2.0.

Vikhrmodels/it-5.3-fp16-32k — русско-английская чат-модель семейства Vikhr, разработанная авторами открытых Vikhr instruction-tuned моделей. Это плотная авторегрессионная Llama-модель на 7,3 млрд параметров для диалогов и генерации текста. Вариант 0.5 получил дополнительное обучение SFT, настройку параметров предобучения и контекст RoPE длиной 32 768 токенов. Модель рассчитана на многоходовые диалоги, ответы на сложные запросы и создание JSON; README отмечает более стабильную работу с JSON и многоходовыми диалогами на длинном контексте. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache 2.0. Карточка указывает поддержку русского и английского языков. Модель может ошибаться в фактах и следовании формату; улучшенная стабильность JSON и длинного контекста не гарантирует корректный результат для каждого запроса. Для задач, требующих высокой надёжности, ответы следует проверять.

LaBSE — перенос многоязычной модели LaBSE в PyTorch, опубликованный командой sentence-transformers. Модель на архитектуре BERT содержит 498,1 млн параметров и отображает предложения на общем векторном пространстве, чтобы сопоставлять их смысл на разных языках. Поддерживает 109 языков; максимальная длина контекста — 512 токенов. Модель подходит для поиска семантически близких предложений, сопоставления текстов на разных языках и построения многоязычных эмбеддингов для семантического поиска и кластеризации. Доступна через библиотеку sentence-transformers и в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. README указывает на публикацию LaBSE, но не приводит подробностей обучения или сравнительных результатов.

LaBSE (Language-agnostic BERT Sentence Encoder) — многоязычная модель на архитектуре BERT, представленная Google и перенесённая из версии v2 на TensorFlow Hub в формат PyTorch для Hugging Face. Модель содержит 498,1 млн параметров и формирует векторные представления предложений для 109 языков; контекст ограничен 512 токенами. Предобучение сочетает маскированное языковое моделирование и моделирование перевода. LaBSE предназначена для сопоставления предложений между языками и поиска соответствующих текстов в двуязычных корпусах. Её можно применять для мультиязычного поиска, поиска семантически близких фраз и построения систем поиска по тексту. Репозиторий предоставляет веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache-2.0.

LEALLA-small — компактная многоязычная модель эмбеддингов предложений из семейства LEALLA, созданная как дистиллированная версия LaBSE. Она основана на архитектуре BERT и предназначена для получения векторных представлений предложений на 109 языках, в том числе для поиска соответствующих фрагментов в параллельных текстах и сравнения предложений по смыслу. Модель содержит 70,4 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель подходит для семантического поиска, сопоставления предложений и межъязычного поиска по парам текстов. Эмбеддинги версии LEALLA-small эквивалентны эмбеддингам исходной версии v1 на TensorFlow Hub; для некоторых языков, например японского, при сравнении эмбеддингов может понадобиться больший допуск. Доступны веса PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

LFM2.5-2.6B-MLX-4bit — компактная мультиязычная текстовая generative-модель, разработанная Liquid AI. Это экспорт модели LFM2.5-2.6B в формате MLX, предназначенный для запуска вывода на устройствах с Apple Silicon. Модель подходит для генерации текста и других сценариев, основанных на обработке текстовых запросов, включая локальное использование на совместимых устройствах. Модель содержит 2,6 млрд параметров, использует 4-битную точность с размером группы 64 и занимает около 1,47 ГБ. Она построена на гибридной архитектуре Liquid AI, объединяющей свёрточные и attention-слои для эффективной обработки длинного контекста; заявленная длина контекста составляет 131 072 токена. Поддерживаются арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. К сильным сторонам относятся компактный размер, низкая разрядность и возможность локального инференса на Apple Silicon, а ограничениями — специализация на текстовой модальности и потенциальные компромиссы качества, связанные с 4-битным квантованием. Модель распространяется по лицензии LFM 1.0.

Dingdust/LFM2.5-VL-3B-heretic — мультимодальная модель на основе LFM2.5-VL-3B от Liquid AI, ориентированная на локальный запуск и высокую скорость обработки изображений и текста. Это плотная модель класса LFM2-VL с языковой основой LFM2.5-2.6B и визуальным энкодером SigLIP2 NaFlex; веса представлены в формате Safetensors. В карточке указаны контекст 32 768 токенов и поддержка 17 языков: арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского, вьетнамского и других перечисленных языков. Модель предназначена для диалога по изображениям, распознавания текста на страницах с сохранением структуры, поиска объектов по текстовому запросу и локального перевода надписей, например меню и дорожных знаков. В README вариант heretic описан как abliteration-модификация исходной модели: в приведённом сравнении число отказов уменьшено со 100 из 100 до 5 из 100, при KL-дивергенции 0,0168. Модель рассчитана на быстрые одношаговые задачи и локальный инференс; автор README не рекомендует её для задач с интенсивными рассуждениями или сложного анализа чертежей. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.

Heretic-org/LFM2.5-VL-3B-heretic — мультимодальная модель для диалога по тексту и изображениям, созданная как decensored-версия LiquidAI/LFM2.5-VL-3B с помощью Heretic v1.4.0. Она предназначена для быстрых одношаговых задач, включая распознавание объектов и их локализацию по запросу, OCR с разметкой структуры страницы, ответы на вопросы по изображениям и перевод текста на изображениях. Модель использует гибридную архитектуру LFM2-VL: языковую основу LFM2.5-2.6B и визуальный энкодер SigLIP2 NaFlex. По карточке базовой модели, контекст составляет 32 768 токенов; поддерживаются текст и изображения, а список языков охватывает 17 языков, включая русский. В README указано, что базовая модель рассчитана на локальный запуск и может обрабатывать изображения высокого разрешения фрагментами. Версия Heretic заметно реже отказывает в ответах, чем исходная модель: в приведённом сравнении отказы составили 6 из 100 запросов против 100 из 100 у оригинала; указано также KL divergence 0,0553. Модель не рекомендуется для задач с длинным контекстом и интенсивными рассуждениями, например сложного анализа чертежей. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с карточкой репозитория.

QuantFactory/Llama-3-KoEn-8B-GGUF — квантизированная версия модели beomi/Llama-3-KoEn-8B, созданная с помощью llama.cpp. Исходная модель разработана Junbum Lee (Beomi) на основе Llama 3 8B; обучение продолжалось на корпусе на корейском и английском языках при поддержке программы TRC и выполнялось на TPUv4-256. Модель предназначена для генерации текста и кода, а также для адаптации к различным задачам обработки естественного языка. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer и механизмом GQA. Доступен один вариант размером 8B параметров, с контекстом до 8k токенов и объёмом обучения более 80B токенов. На вход принимает только текст и генерирует текст или код; модель является статичной и обучена на офлайн-данных. README не уточняет конкретный формат квантизации и его влияние на производительность или качество. К сильным сторонам относятся поддержка корейского и английского языков, относительно компактный размер и возможность локального запуска благодаря квантизации. Ограничения включают статус предварительного релиза, дату отсечения знаний — июнь 2023 года, отсутствие встроенной инструкционной настройки у базовой модели и необходимость самостоятельно реализовать меры безопасности. Использование регулируется лицензией CC-BY-NC-SA-4.0 в сочетании с лицензией Llama 3 и соответствующими правилами допустимого использования; коммерческие и иные сценарии должны проверяться на соответствие этим условиям.

Meta Llama 4 Maverick 17B 128E Instruct FP8 — инструкционная квантованная версия модели семейства Llama 4, разработанная Meta. Она предназначена для диалоговых сценариев и генерации текста, включая ответы на запросы, выполнение инструкций и интеграцию в приложения на базе Transformers. Модель заявлена как мультиязычная и поддерживает арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский языки. В идентификаторе указаны 17B и 128E, однако README не раскрывает архитектурные детали, длину контекста, точные модальности и характеристики качества. Обозначение FP8 указывает на 8-битное представление весов, но конкретные преимущества и ограничения этой версии не приведены. Модель распространяется по Llama 4 Community License от Meta. Лицензия разрешает использование, копирование, модификацию и распространение на установленных условиях, включая передачу текста лицензии, атрибуцию «Built with Llama» и соблюдение Acceptable Use Policy. Для продуктов или сервисов с более чем 700 миллионами ежемесячно активных пользователей предусмотрено получение отдельной лицензии Meta.

llm-jp-4-8b-instruct — японская и англоязычная языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная модель семейства Llama с 7,8 млрд параметров по метаданным и контекстом до 65 536 токенов. Репозиторий содержит веса в формате safetensors для Transformers. Модель предназначена для диалогов и выполнения инструкций на японском и английском языках. Она прошла предварительное и промежуточное обучение на суммарно 11,7 трлн токенов, а затем дообучение методом SFT; вариант instruct не проходил DPO. Шаблон чата совместим с форматом ответов OpenAI Harmony, но для корректной токенизации требуется токенизатор из репозитория. Разработчики предупреждают, что модели находятся на раннем этапе исследований и разработок и не были настроены для надёжного соответствия человеческим намерениям и требованиям безопасности. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Meta-Llama-3.1-8B-GGUF — это квантованная версия большой языковой модели Llama 3.1 с 8 млрд параметров, представленная в формате GGUF. Базовую модель разработала Meta, а QuantFactory подготовила её распространение в квантованном формате. Модель предназначена для генерации текста и может использоваться в локальных приложениях, чат-ботах, ассистентах, системах обработки естественного языка и других сценариях, где требуется текстовая генерация. Модель поддерживает текстовую модальность. В карточке заявлены языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Дополнительные сведения об архитектуре, размере контекстного окна, конкретном методе и уровне квантования, производительности, формате инструкционного дообучения и системных требованиях не указаны, поэтому её характеристики в этих аспектах требуют проверки по файлам модели. Главные преимущества — компактность по сравнению с полноразмерной версией, возможность запуска через совместимые инструменты для GGUF и многоязычная текстовая генерация. Ограничения включают возможные потери качества из-за квантования, зависимость результатов от выбранного варианта квантования и отсутствие заявленных возможностей работы с изображениями или другими модальностями. Модель распространяется по лицензии Llama 3.1 Community License от Meta; при использовании и распространении необходимо соблюдать её условия, включая требования к атрибуции, маркировке «Built with Llama», Acceptable Use Policy и специальные коммерческие ограничения.

hugging-quants/Meta-Llama-3.1-8B-Instruct-AWQ-INT4 — созданная сообществом квантованная версия Meta-Llama-3.1-8B-Instruct, первоначально разработанной Meta AI. Это генеративная текстовая instruction-tuned модель на 8 млрд параметров для многоязычного диалога, ответов на вопросы и других задач генерации текста. Указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель использует архитектуру Llama 3.1 и формат AWQ INT4: исходные веса FP16 преобразованы с помощью AutoAWQ в 4-битное представление GEMM с zero-point quantization и размером группы 128. Версия предназначена для запуска через Transformers, AutoAWQ или Text Generation Inference; для загрузки контрольной точки требуется около 4 ГиБ VRAM, не считая KV-кэша и CUDA graphs. Квантование снижает требования к памяти, но может влиять на качество по сравнению с исходной FP16-версией. В README максимальный контекст модели не указан. Модель распространяется по лицензии Llama 3.1; для использования необходимо учитывать условия этой лицензии. Это текстовая модель без поддержки изображений или других модальностей, а сведения о конкретных ограничениях качества и результатах бенчмарков для данной квантованной версии не приведены.

hugging-quants/Meta-Llama-3.1-8B-Instruct-BNB-NF4 — общественная квантованная версия Meta-Llama-3.1-8B-Instruct, разработанной Meta AI. Модель предназначена для генерации текста и мультиязычного диалогового взаимодействия, включая работу в качестве инструкционно настроенного чат-ассистента. Она поддерживает сценарии вопросно-ответного общения и другие задачи text-to-text, совместимые с causal language modeling, и может использоваться через Transformers или Text Generation Inference. Модель содержит 8 миллиардов параметров и работает только с текстом на входе и выходе. Она поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В этой версии исходные веса BF16 преобразованы с помощью bitsandbytes в формат NF4 с размером блока 64. Для загрузки контрольной точки требуется около 6 ГиБ VRAM без учёта KV-кэша и CUDA-графов, поэтому фактические требования к памяти выше. Квантование снижает требования к видеопамяти, но может влиять на качество по сравнению с исходной версией BF16. В README размер контекста и результаты конкретных тестов не указаны. Модель распространяется по лицензии Llama 3.1. Для запуска рекомендуются torch, bitsandbytes и Transformers версии 4.43.0 или выше; также заявлена поддержка Text Generation Inference.

Meta-Llama-3.1-8B-Instruct-GGUF — это квантизированная GGUF-версия языковой модели Meta-Llama-3.1-8B-Instruct, разработанной Meta Llama и подготовленной для квантизации компанией Second State Inc. Модель предназначена для генерации текста, диалоговых приложений и использования инструментов через структурированные вызовы функций. Она поддерживает текстовый ввод и вывод, а также рассчитана на работу с LlamaEdge и совместимыми средствами запуска GGUF-моделей. Модель основана на архитектуре Llama и содержит 8 миллиардов параметров. Заявленный размер контекста составляет 128 000 токенов. В README указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Доступны варианты квантизации от 2 до 8 бит с размером файлов примерно от 3,18 до 8,54 ГБ; варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу размера и качества или минимальным потерям качества. К сильным сторонам относятся большой контекст, многоязычность, поддержка диалогового режима и вызова инструментов, а также возможность локального запуска с уменьшенными требованиями к памяти благодаря квантизации. Ограничения связаны с потерей качества при использовании низкобитных вариантов, особенно Q2_K и некоторых Q3/Q4-конфигураций; конкретные показатели производительности и качества в README не приведены. Модель распространяется по лицензии llama3.1.

EasierAI/Mistral-NeMo-12B — набор GGUF-квантизованных версий Mistral-Nemo-Instruct-2407, опубликованный с указанием quantized_by: bartowski и предназначенный для запуска через llama.cpp и LM Studio. Модель относится к классу генеративных текстовых моделей и поддерживает формат диалоговых запросов с шаблоном <s>[INST]{prompt}[/INST]. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях, включая чат и другие задачи обработки текста. В README заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Архитектура, точное число параметров и размер контекста в предоставленных данных не указаны; идентификатор 12B присутствует только в названии репозитория. Доступны варианты от F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ3/IQ4, что позволяет выбирать между качеством генерации и требованиями к оперативной памяти. Квантизация выполнена с использованием imatrix и llama.cpp; некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки. Более сильное сжатие уменьшает потребление памяти, но может снижать качество. Лицензия — Apache-2.0.

Mistral-Nemo-Instruct-2407-GGUF — это набор квантованных версий инструкционной языковой модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и локальный запуск через llama.cpp или совместимые приложения, например LM Studio. В репозитории представлены варианты с точностью от F16 до различных форматов Q8, Q6, Q5, Q4 и Q3, с размером файлов примерно от 5,7 до 24,5 ГБ. Квантование выполнено с использованием imatrix и llama.cpp; для общения рекомендуется шаблон prompt <s>[INST]{prompt}[/INST>. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Данные о числе параметров, архитектуре исходной модели, размере контекста и мультимодальности в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других модальностей. Сильная сторона набора — широкий выбор квантований для баланса качества, объёма файлов и требований к оперативной памяти: варианты Q5 и Q6 отмечены как высококачественные, а Q3 подходят для систем с ограниченной памятью. Некоторые варианты оптимизированы для ARM-процессоров и требуют соответствующих инструкций; они не рекомендуются для Mac или Windows. Модель распространяется по лицензии Apache-2.0.

facebook/mms-1b-fl102 — мног multilingual-модель автоматического распознавания речи из проекта Massively Multilingual Speech компании Facebook (Meta), разработанная Vineel Pratap и соавторами. Это дообученный на наборе Fleurs чекпойнт семейства Wav2Vec2 с CTC-архитектурой и адаптерами, содержащий около 1,3 млрд параметров по метаданным. Модель принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст; заявлена поддержка 102 языков. Модель подходит для транскрибации записей и распознавания речи на множестве языков, в том числе при создании многоязычных речевых сервисов. Карточка указывает лицензию CC-BY-NC 4.0, которая ограничивает коммерческое использование. Возможны ошибки распознавания, особенно для условий и языков, не представленных в обучающих данных; метаданные перечисляют лишь часть языкового покрытия.

HauhauCS/Qwen3.5-122B-A10B-Uncensored-HauhauCS-Aggressive — мультимодальная версия модели Qwen3.5-122B-A10B, разработанная HauhauCS на базе исходной модели Qwen. Это вариант в формате GGUF с усиленным снятием ограничений на отказы; по заявлению автора, изменения наборов данных и базовых возможностей не вносились. Модель предназначена для генерации и понимания текста, программирования, рассуждений, а также работы с изображениями и видео. Поддерживаются текстовая, графическая и видео-модальности, 201 язык и контекст до 262 тысяч токенов. Модель использует гибридную архитектуру MoE с 122 млрд общих параметров и примерно 10 млрд активных параметров на один проход. В ней 256 экспертов, из которых для каждого токена выбираются 8 маршрутизируемых и 1 общий; архитектура включает Gated DeltaNet linear attention и полноформатное softmax-внимание в соотношении 3:1, всего 48 слоёв. Доступны квантизации от IQ2_M до Q8_K_P размером примерно от 40 до 145 ГБ; специальные квантизации K_P оптимизированы для сохранения качества. Модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-совместимыми средами, а для поддержки изображений требуется отдельный файл mmproj. Сильными сторонами являются большой контекст, мультимодальность, высокая ёмкость MoE при меньшем числе активных параметров и широкий выбор квантизаций. Агрессивный вариант практически не использует отказы и защитные оговорки, поэтому может быть удобен для сценариев, где требуется минимальная модерация, но одновременно повышает риск небезопасных или нежелательных ответов. Для запуска необходимы значительные объёмы оперативной или видеопамяти, особенно для высококачественных квантизаций. Модель распространяется по лицензии Apache-2.0.

AMAImedia выпустила эту сборку в рамках платформы NOESIS; это текстовая версия NeoHorse-1-9B, объединённая из Qwen/Qwen3.5-9B и TokenRhythm/NeoHorse-1-9B. Модель использует плотную архитектуру Qwen3.5 для генерации текста и диалога, а репозиторий содержит GGUF и safetensors; метаданные указывают 7,2 млрд параметров и контекст до 262 144 токенов. Исходный NeoHorse дообучен для работы с агентными сценариями, инструментами, кодом и инструкциями, а в README для этой сборки также описана абляция отказов (abliteration). Модель ориентирована на многоязычный текстовый вывод, включая английский, русский, китайский и другие языки из метаданных. Она подходит для локального диалога, следования инструкциям, задач программирования и текстовых агентных систем с инструментами. Заявленные результаты NeoHorse относятся к исходной модели; README не приводит отдельной оценки качества именно этой сборки. Это текстовая сборка без весов зрения, а запуск примеров для перепакованного релиза на GPU не проверен. Лицензия — Apache-2.0.