I.6Перевод и языковая адаптация

WiroAI/wiroai-turkish-llm-9b — текстовая диалоговая модель WiroAI для генерации и преобразования текста на турецком языке. Это дообученная методом SFT модель Google Gemma 2 9B с архитектурой decoder-only transformer; в README указано, что при настройке использовался LoRA без квантизации и более 500 тысяч турецких инструкций. Модель содержит 9 млрд параметров, работает с контекстом до 8192 токенов и распространяется в формате safetensors по лицензии Gemma. Модель предназначена для ответов на вопросы, суммаризации, редактирования и анализа текста, а также задач, требующих знания турецкого языка, культуры и местного контекста. README приводит результаты на турецких вариантах бенчмарков MMLU, TruthfulQA, ARC, HellaSwag, GSM8K и WinoGrande. Для лучших результатов рекомендуется давать ясные структурированные инструкции; ответы следует проверять в критичных сценариях, а ресурсы оценивать перед развёртыванием. В карточке заявлена поддержка турецкого и других распространённых языков, но отдельные языки помимо турецкого не перечислены.

Zero-Mistral-24B-gguf — это квантованная GGUF-версия языковой модели Zero-Mistral-24B, разработанной ZeroAgency. Модель предназначена для генерации текста и диалоговых сценариев, включая русско- и англоязычное общение. В метаданных указаны задачи conversational и text-generation, а также связь с датасетом ZeroAgency/ru-big-russian-dataset. Модель рассчитана на запуск через llama.cpp; преобразование выполнено bethrezen с использованием llama.cpp версии b5083. Доступны варианты BF16, F16, IQ4_NL, IQ4_XS, Q4_K_M, Q6_K и Q8_0, включая некоторые варианты с параметром leave-output-tensors. Разные уровни квантования позволяют выбирать компромисс между качеством, размером и требованиями к ресурсам, однако конкретные характеристики производительности и качества для вариантов в README не приведены. Размер базовой модели составляет 24B параметров; сведения о длине контекста, архитектурных деталях, поддерживаемых модальностях помимо текста и результатах тестирования отсутствуют. Модель распространяется по лицензии MIT.

ai9stars_G9v3-3B-GGUF — это GGUF-квантизированная версия языковой модели G9v3-3B, разработанной ai9stars и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, включая сценарии с длинным контекстом и вызовом инструментов. Заявлена поддержка английского и китайского языков. Исходная архитектура обозначена как Llama, однако точные параметры архитектуры и размер контекстного окна в README не указаны. Модель доступна в вариантах от BF16 до низкобитных квантований Q2 и IQ3/Q4, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы варианты Q4_K_M, Q5, Q6 и некоторые другие; для устройств с ограниченной памятью доступны более компактные версии, но с заметным снижением качества. Формат поддерживается llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими совместимыми инструментами. Для работы может потребоваться обновление программ, если модель недавно получила поддержку. Лицензия — Apache-2.0. README не содержит подробных результатов тестирования, точных сведений о контекстном окне, системных требованиях или ограничениях исходной модели, поэтому качество и пригодность для конкретных задач следует оценивать отдельно.

Archon-8B-i1-GGUF — это квантизированная версия языковой модели DuoNeural/Archon-8B, подготовленная mradermacher в формате GGUF. Модель предназначена для генерации текста и задач, связанных с рассуждением; в метаданных она также отмечена как модель на базе Qwen3 и как uncensored. Доступны варианты для локального запуска с разными уровнями квантизации. Заявлена поддержка английского, китайского, французского, немецкого, испанского, японского и корейского языков. Размер базовой модели — 8 млрд параметров, однако сведения о длине контекста, точной архитектуре, мультимодальности и результатах бенчмарков отсутствуют; по имеющимся данным модель является текстовой. Главное преимущество набора — широкий выбор GGUF-квантизаций с размером файлов примерно от 2,2 до 6,8 ГБ, что позволяет подобрать баланс между требованиями к памяти, скоростью и качеством. Низкобитные варианты экономичнее, но могут заметно уступать по качеству; README отдельно рекомендует IQ-квантизации и варианты Q4_K_M или Q4_K_S как практичный выбор. Модель и её производительность могут существенно различаться в зависимости от выбранного варианта квантизации. Распространение указано по лицензии Apache-2.0. В карточке также приведены ссылки на исходную модель и инструкции по работе с GGUF-файлами.

duyntnet/aya-23-8B-imatrix-GGUF — это набор квантованных форматов GGUF с использованием imatrix для модели Aya-23-8B, разработанной CohereForAI. Модель предназначена для генерации текста и может применяться в диалоговых сценариях, написании текстов и других задачах на основе языковой генерации. Известно, что это каузальная языковая модель размером 8B параметров, работающая с текстовой модальностью. В README явно указан английский язык, однако пример использования демонстрирует запрос на турецком языке; полный перечень поддерживаемых языков и размер контекста не приведены. Для работы требуется совместимая поддержка GGUF и соответствующее программное обеспечение; исходная модель использует Transformers и шаблон чата Command R Plus. Ключевое преимущество этой версии — квантованные представления, потенциально снижающие требования к памяти и вычислительным ресурсам по сравнению с полной моделью, однако конкретные уровни квантования и их влияние на качество не указаны. Лицензия обозначена как other, без дополнительных условий в README.

Beetle-FineWeb2-24B/beetle-bilingual-l2-50-classroom-20-b4-fineweb-rus-eng — модель генерации текста из семейства Beetle-FineWeb2, представленная на Hugging Face для использования через библиотеку Transformers. Идентификатор модели указывает на двуязычную специализацию для русского и английского языков и размер семейства 24B; также в названии упоминается FineWeb и вариант classroom. Разработчик, точная архитектура, контекст, лицензия и результаты оценки в доступной карточке не описаны.

Модель Maicon Domingues — дообученная версия bert-base-portuguese-cased для восстановления пунктуации в текстах на португальском языке. Она предсказывает знаки препинания и восстановление заглавных букв, в том числе точки, запятые, вопросительные и восклицательные знаки, дефисы, двоеточия, точки с запятой и апострофы. Модель предназначена для восстановления пунктуации в обычных португалоязычных текстах, а также может служить основой для дальнейшего дообучения на текстах конкретной предметной области. Архитектура — BERT для классификации токенов, размер — 136,1 млн параметров, максимальная длина контекста — 512 токенов. В карточке указано обучение на WikiLingua и приведены метрики точности для отдельных классов. Модель принимает текст и выдаёт текст с восстановленной пунктуацией и заглавными буквами. Лицензия — CC BY 4.0.

Модель команды Pravopysnyk предназначена для исправления грамматических ошибок в текстах на украинском языке. Это дообученная версия MBart-50-large, настроенная на перевод с украинского на украинский. Для обучения использовался датасет UA-GEC, дополненный синтетическими примерами: ошибками после обратного перевода с украинского на русский и обратно, ошибками пунктуации, примерами с русизмами, а также предложениями без ошибок. Модель построена на архитектуре mBART, содержит 457,4 млн параметров и работает с текстовым контекстом до 1024 токенов. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных источниках отсутствуют.

MaziyarPanahi/calme-3.1-baguette-3b — чат-модель, разработанная MaziyarPanahi на основе Qwen2.5-3B и дообученная для широких задач на французском и английском языках. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, рассчитанная на контекст до 32 768 токенов и работающая с шаблоном диалога ChatML. Модель предназначена для диалогов и генерации текста в общих сценариях на французском и английском: например, для ответов на вопросы, написания и редактирования текстов. В обучении использовались наборы french_instruct_sharegpt и calme-legalkit-v0.2. Репозиторий содержит веса Safetensors; отдельные квантованные версии GGUF размещены в другом репозитории. Автор предупреждает, что из-за небольшого размера модель может хуже справляться с некоторыми запросами и быть чувствительной к гиперпараметрам. При внедрении следует учитывать возможные смещения и проверять ответы с участием человека. Лицензия в метаданных обозначена как other, конкретные условия использования в предоставленных сведениях не раскрыты.

BuzzASR/Czech — одноязычная модель автоматического распознавания чешской речи, разработанная как часть набора BuzzASR. Это дообучение Whisper large-v3 с исходным токенизатором Whisper, настроенное только для распознавания речи. Модель содержит 905,2 млн параметров и принимает аудио, выдавая текст; языковая и задачавая подсказки заданы в конфигурации генерации. Модель предназначена для транскрибации чешской речи. В оценке на тестовых наборах FLEURS и Common Voice 25 она показала CER 3,13 и 3,3 соответственно; качество на других типах записей и диалектах может отличаться. Обучение использовало FLEURS, Common Voice Corpus 25.0 и текстовые данные Goldfish. Модель распространяется по лицензии MIT.

OpenASR/firered2-llm — это модель автоматического распознавания речи FireRedASR2-LLM, разработанная FireRedTeam и упакованная проектом OpenASR для нативного локального запуска. Она предназначена для преобразования аудиозаписей в текст, прежде всего на нормативном мандаринском китайском, китайских диалектах и акцентах, а также на английском языке. Модель использует архитектуру Encoder-Adapter-LLM с декодером масштаба большой языковой модели и содержит более 8 млрд параметров. Доступная сборка q4_k распространяется в формате .oasr, имеет размер около 5,10 ГБ и пиковое потребление оперативной памяти около 9,39 ГБ. Она работает на CPU и GPU через OpenASR, без Python во время инференса и без передачи аудио в облако. Заявленная средняя CER составляет 2,89% на четырёх общедоступных мандаринских тестах и 11,55% на 19 тестах китайских диалектов и акцентов. К сильным сторонам относятся высокая точность для китайской речи, поддержка диалектов и акцентов, двуязычность и полностью локальное выполнение. Ограничения — крупный размер модели и значительные требования к памяти; в README не указаны поддерживаемая длительность контекста, полный перечень вариантов английской речи и показатели для других языков. Модель и её упаковка распространяются по лицензии Apache-2.0.

Adolphsson/Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-MTP-NVFP4 — мультимодальная модель для работы с текстом, изображениями и аудио. Это общественный, вручную собранный чекпойнт на основе Gemma-4-E4B и дообучения HauhauCS/Gemma-4-E4B-Uncensored-HauhauCS-Aggressive. Модель не является официальным релизом Google или HauhauCS; сборку подготовил автор Adolphsson. Текстовый трансформер содержит 42 слоя со скрытым размером 2560. Он квантизован в формат NVFP4 W4A4 с 4-битными весами и активациями, а таблицы эмбеддингов используют FP8 e4m3 с построчными масштабами F32. Зрительный модуль и аудиоэнкодер сохранены в BF16. Модель поддерживает английский и другие языки, а также мультимодальные сценарии с изображениями и аудио. Заявлено контекстное окно до 131 072 токенов, однако фактическая доступная длина зависит от видеопамяти и настроек сервера. Основные преимущества — небольшой размер около 6,2 ГБ, возможность запуска на одной RTX 5090, высокая скорость декодирования с MTP speculative decoding и заметно увеличенный объём KV-кэша благодаря FP8-эмбеддингам. Для работы требуется vLLM с патчем из репозитория: без него FP8-таблицы эмбеддингов загружаются некорректно, что приводит к деградации генерации. Производительность и совместимость в README проверены на vLLM 0.28, Python 3.12, CUDA 13 и RTX 5090; заявленные показатели зависят от оборудования, параметров запуска и сценария нагрузки. Модель распространяется по лицензии Apache-2.0.

GLM-4.5-Air-8bit — языковая модель для генерации текста, разработанная Z.ai и представленная в формате MLX сообществом mlx-community. Модель конвертирована из zai-org/GLM-4.5-Air с использованием mlx-lm версии 0.26.0 и предназначена для запуска и инференса через библиотеку MLX, в частности с помощью mlx-lm. Модель относится к классу text-generation и поддерживает английский и китайский языки. Вариант 8bit использует 8-битное представление весов, что ориентировано на более эффективное размещение и запуск модели в совместимой среде. README не содержит сведений о точной архитектуре, количестве параметров, размере контекста, поддерживаемых модальностях помимо текста, результатах оценки или конкретных прикладных сценариях. Для использования требуется библиотека mlx-lm; предусмотрен интерфейс чат-шаблона и генерации текста. Сильной стороной модели является адаптация к формату MLX и наличие готового способа запуска. Ограничения и характеристики качества в README не описаны, поэтому их нельзя достоверно оценить. Модель распространяется по лицензии MIT.

mlx-community/GLM-4.7-4bit — языковая модель для генерации текста, преобразованная сообществом mlx-community из базовой модели zai-org/GLM-4.7 в формат MLX с использованием mlx-lm версии 0.30.0. По указанным метаданным модель предназначена для работы с текстом и поддерживает английский и китайский языки. Она может применяться для диалоговой генерации и других задач, связанных с продолжением текста, через библиотеку mlx-lm. Ключевая особенность модели — 4-битное представление, которое уменьшает требования к памяти по сравнению с полноформатной версией, но потенциально может ограничивать точность по сравнению с исходной моделью. Архитектура, число параметров, размер контекста, дополнительные модальности и перечень поддерживаемых сценариев в README не указаны. Для использования требуется MLX и библиотека mlx-lm. Модель распространяется по лицензии MIT.

Это MLX-порт модели IBM Granite Speech 4.1 2B NAR, подготовленный mlx-community для запуска на компьютерах Apple Silicon через mlx-audio. Модель предназначена для автоматической транскрибации речи; поддерживаемые языки — английский, французский, немецкий, испанский и португальский. Репозиторий распространяется по лицензии Apache-2.0. Архитектура — плотная нерегрессионная ASR-модель примерно на 2,25 млрд параметров в формате bf16: 16-слойный Conformer-энкодер строит гипотезу CTC, Q-Former-проектор формирует аудиопредставления, а 40-слойный двунаправленный редактор уточняет гипотезу за один проход. Для работы нужны macOS 14 или новее и Apple Silicon. Ограничения: пакетная обработка ограничена размером 1, потоковая транскрибация не поддерживается; доступны только веса bf16, без вариантов с квантизацией.

parthiv11/indic_whisper_nodcil — модель распознавания речи на основе Whisper, дообученная для индийских языков. Репозиторий содержит чекпойнт для использования и код обучения и оценки; заявлена поддержка ускоренного запуска через JAX на GPU и TPU наряду с форматом PyTorch. Модель имеет 455,8 млн параметров. Модель предназначена для преобразования аудио в текст, в том числе для транскрибирования речи на хинди и других индийских языках. В README приводятся результаты сравнения на бенчмарках для хинди, но подробные результаты этой модели в доступной карточке не представлены. Лицензия — MIT.

Это языковая модель семейства Llama с архитектурой LlamaForCausalLM и примерно 8,3 млрд параметров. Репозиторий создан с помощью mergekit: веса исходной модели InstructEnVi_llama2-bkai-120GB_250kx2e собраны методом passthrough из последовательностей слоёв, включая частично перекрывающиеся диапазоны. Модель предназначена для генерации текста; исходная модель ориентирована на инструкции на английском и вьетнамском языках. Контекст составляет 2048 токенов. Модель принимает текст и выдаёт текст, поэтому её можно использовать для диалогов и выполнения текстовых инструкций на поддерживаемых языках. В карточке указана лицензия? Условия лицензии не приведены в доступных данных. Конфигурация с повторно использованными диапазонами слоёв может влиять на качество и согласованность ответов; отдельные оценки качества модели в карточке отсутствуют.

Mungert/kanana-1.5-8b-instruct-2505-GGUF — GGUF-квантизированная версия instruct-модели kanana-1.5-8b-instruct-2505, разработанной Kanana LLM и опубликованной на основе модели Kakao Corp. kakaocorp/kanana-1.5-8b-instruct-2505. Модель предназначена для генерации текста и выполнения инструкций, включая сценарии локального запуска на устройствах с ограниченными ресурсами. Модель поддерживает английский и корейский языки и относится к семейству 8B. Репозиторий содержит варианты ультранизкобитной квантизации IQ-DynamicGate с точностью 1–2 бита, использующей адаптивное распределение точности по слоям и защиту embedding- и output-слоёв. Такой подход нацелен на снижение потребления памяти при сохранении качества. В README приведены результаты для Llama-3-8B-Instruct с контекстом 2048 токенов, однако эти показатели не следует напрямую считать характеристиками Kanana. Сильными сторонами являются компактность, возможность запуска на CPU, edge-устройствах и системах с ограниченной VRAM, а также поддержка llama.cpp. Ограничением выступает потенциальное снижение точности из-за экстремально низкой разрядности; конкретный размер файлов, максимальный контекст и производительность вариантов Kanana в README не указаны. Модель распространяется по лицензии Apache-2.0.

LFM2.5-2.6B-MLX-8bit — это 8-битная аффинно-квантизованная версия языковой модели LFM2.5-2.6B, разработанной LiquidAI. Конвертацию в формат MLX выполнила команда LM Studio на основе исходной модели LiquidAI, используя mlx-lm. Модель предназначена для генерации текста и локального запуска на устройствах Apple Silicon. Модель поддерживает арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. Известно, что она имеет размер 2,6 млрд параметров, использует 8-битное квантование с размером группы 64 и сохраняет архитектуру исходной модели; дополнительные сведения об архитектуре и размере контекста в README не указаны. Модель работает в режиме постоянного рассуждения: каждый ответ ассистента начинается с тега <think>, а штатного способа отключить этот режим нет. Ключевые преимущества — уменьшенное потребление памяти по сравнению с полноточной версией и оптимизация для экосистемы Apple Silicon, что делает модель подходящей для локальных приложений, экспериментов и генерации текста на совместимых устройствах. Ограничения включают зависимость от MLX и Apple Silicon, обязательный режим рассуждения, возможные ошибки, неточности или нежелательное содержание, характерные для генеративных моделей. Модель распространяется по лицензии LFM Open License v1.0; перед использованием и особенно коммерческим применением необходимо изучить её ограничения.

unsloth/LFM2-700M-GGUF — GGUF-версия гибридной языковой модели LFM2-700M, разработанной Liquid AI и подготовленной для распространения Unsloth. Модель предназначена для локального и периферийного развертывания на CPU, GPU и NPU, включая смартфоны, ноутбуки и транспортные системы. Она подходит для агентских сценариев, извлечения данных, RAG, творческого письма и многораундовых диалогов. Модель содержит 742 489 344 параметра, 16 слоёв, включая 10 слоёв свёртки и 6 attention-слоёв, и поддерживает контекст до 32 768 токенов. Архитектура использует гибридный подход Liquid AI с мультипликативными gating-механизмами и короткими свёртками. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Это текстовая модель без заявленной поддержки дополнительных модальностей. К сильным сторонам относятся высокая скорость обучения и инференса, эффективность по памяти и производительности, а также удобство запуска на устройствах с ограниченными ресурсами. Из-за небольшого размера модель рекомендуется дообучать под узкие прикладные задачи. Она не рекомендуется для задач, требующих глубоких знаний или программирования. Репозиторий включает исправления chat template; для llama.cpp рекомендуется использовать параметр --jinja. Указана лицензия LFM Open License v1.0.

sandbox-ai/Llama-3.1-Tango-8b-f16 — дообученная модель семейства Llama 3.1, разработанная sandbox-ai на основе unsloth/meta-llama-3.1-8b-bnb-4bit. Это плотный трансформер с архитектурой LlamaForCausalLM примерно на 7,5 млрд параметров, предназначенный для генерации текста. В карточке приведены результаты оценки на задачах вопросов и ответов, классификации тональности и других языковых тестах, в том числе на испанском, каталанском и баскском языках. Модель принимает текст и генерирует текст; заявленная длина контекста — до 131 072 токенов, а README указывает максимальный объём вывода 4 000 токенов. Для запуска через Transformers в карточке рекомендованы две или более видеокарты NVIDIA Ampere или новее с 80 ГБ памяти каждая. Метаданные указывают лицензию Llama 3.1, тогда как README указывает Apache-2.0, поэтому условия распространения следует проверить по исходным условиям базовой модели и файлам репозитория.

mlx-community/Llama-3.2-1B-Instruct-8bit — языковая модель для генерации текста, представленная сообществом mlx-community на базе Llama 3.2 от Meta. Версия предназначена для диалоговых и других задач, требующих следования инструкциям, включая локальный инференс и прикладную генерацию текста. Модель распространяется в 8-битном представлении и ориентирована на использование с экосистемой MLX; в карточке также указана совместимость с библиотекой Transformers и задача text-generation. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Размер модели — 1B параметров согласно идентификатору модели. Информация о длине контекста, точной архитектуре, мультимодальности и результатах бенчмарков в предоставленном README отсутствует. К преимуществам относятся компактный размер и 8-битное представление, потенциально упрощающие локальное развертывание, однако количественные показатели качества и ограничения по применению не приведены. Модель распространяется по Llama 3.2 Community License от Meta: при распространении необходимо сохранять текст лицензии и уведомление об авторстве, указывать «Built with Llama», соблюдать Acceptable Use Policy и применимые законы; для продуктов с более чем 700 миллионами ежемесячных активных пользователей требуется отдельное разрешение Meta.

divinetribe/Llama-3.3-70B-Instruct-abliterated-8bit-mlx — это 8-битная квантованная версия языковой модели huihui-ai/Llama-3.3-70B-Instruct-abliterated, основанной на Llama 3.3 от Meta. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный и периферийный запуск на устройствах Apple Silicon через MLX и mlx-lm. Доступна только текстовая модальность; заявлены английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий языки. Модель относится к классу 70B и использует 8-битное представление весов, что может снизить требования к памяти по сравнению с полноразмерной версией, сохраняя возможность локального запуска на совместимом оборудовании. Вариант обозначен как abliterated и uncensored, поэтому его поведение в отношении отказов и ограничений безопасности может отличаться от исходной instruct-модели; README не содержит результатов тестирования качества, производительности или безопасности. Архитектура, размер контекста и точные системные требования не указаны. Распространение регулируется Llama 3.3 Community License от Meta. Лицензия предоставляет ограниченные права на использование, копирование, изменение и распространение при соблюдении условий, включая передачу текста лицензии и атрибуции, отображение надписи «Built with Llama» для распространяемых продуктов или сервисов, сохранение уведомления об авторских правах и соблюдение Acceptable Use Policy. Для продуктов с более чем 700 миллионами активных пользователей в месяц предусмотрено дополнительное требование получить лицензию Meta.

jiangchengchengNLP/llama3.3-70B-instruct-abliterated-awq — это 4-битная квантованная версия AWQ модели Llama-3.3-70B-Instruct-abliterated. Базовая модель разработана huihui-ai на основе Llama 3.3 70B Instruct, первоначально созданной Meta AI. Модель предназначена для генерации текста и использования в сценариях, где требуется следование инструкциям. Модель поддерживает текстовый ввод и вывод, относится к семейству Llama и имеет размер 70 миллиардов параметров. В README указаны английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий языки. Квантование AWQ до 4 бит снижает требования к памяти по сравнению с полноразмерной версией, однако README не содержит данных о контекстном окне, производительности, аппаратных требованиях или результатах оценки. Модель распространяется по лицензии llama3.3. Ограничения, связанные с качеством, безопасностью, областью применимости и особенностями версии abliterated, в README подробно не описаны.

Llama3-8B-Chinese-Chat-GGUF-8bit — это 8-битная квантованная версия в формате GGUF чат-модели, разработанной Shenzhi Wang на базе Meta-Llama-3-8B-Instruct от Meta. Модель предназначена для генерации текста и диалоговых сценариев на китайском и английском языках, включая ролевое взаимодействие, вызов функций и решение математических задач. В README указано, что основная ветка содержит версию v2.1; варианты v1 и v2 доступны в отдельных ветках. Модель содержит около 8 миллиардов параметров и использует архитектуру базовой Llama 3, однако подробные сведения о контекстном окне и поддерживаемых модальностях не приведены. Версия v2.1 обучалась на примерно 100 тысячах пар предпочтений, что в пять раз больше, чем у предыдущих версий. По заявлению разработчиков, она улучшает ролевые сценарии, вызов функций и математику, а также реже добавляет английские слова в ответы на китайском языке. Ограничением является то, что идентичность модели специально не настраивалась, поэтому ответы на вопросы о её происхождении могут быть случайными или неточными. Модель распространяется по лицензии llama3. Для использования требуется учитывать условия этой лицензии и особенности формата GGUF и 8-битной квантизации.

Lumma-0.6B-Base — базовая многоязычная авторегрессионная языковая модель FrontiersMind, обученная с нуля на 1 трлн токенов. Она предназначена для генерации текста и дальнейшей адаптации под прикладные задачи; авторы не рекомендуют использовать базовую версию для диалогов без дополнительного обучения. Модель имеет плотную decoder-only архитектуру Transformer примерно на 800,5 млн параметров по метаданным, а в README указано 600 млн. Контекст — 12 288 токенов. Модель обучалась на английском и индийских языках: хинди, бенгали, тамильском, телугу, маратхи, гуджарати, каннада, малаялам, пенджаби и одия. Архитектурные особенности включают Grouped Query Attention, Shared KV для сокращения памяти KV-кэша примерно на 50%, RMSNorm с QK-нормализацией, SwiGLU и многоязычный токенизатор. Лицензия — Apache 2.0. Компактный размер и режим Shared KV рассчитаны на экономичный инференс, в том числе с длинным контекстом и ограниченной памятью. Для специализированных сценариев и диалогов может потребоваться дообучение; заявленные бенчмарки в доступной карточке приведены без таблицы результатов.

MiniCPM5-1B-i1-GGUF — это набор imatrix-квантизированных версий базовой языковой модели openbmb/MiniCPM5-1B, подготовленный пользователем mradermacher. Модель предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, включая локальное использование на устройствах с ограниченными ресурсами и edge-сценарии. В карточке указаны английский и китайский языки, а также датасеты Ultra-FineWeb, Ultra-FineWeb-L3, UltraData-Math и UltraData-SFT-2605, использованные для базовой модели. Модель имеет размер 1 млрд параметров и распространяется в формате GGUF с различными уровнями квантизации — от IQ1_S до Q6_K. Размер файлов составляет примерно от 0,5 до 1 ГБ; вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Более агрессивные варианты занимают меньше места, но могут заметно уступать в качестве, тогда как более крупные варианты обычно сохраняют качество лучше. Поддержка мультимодальности и точный размер контекста в README не указаны. Лицензия модели — Apache-2.0. Доступны готовые квантизированные файлы, а также imatrix-файл для создания собственных квантов. Ключевое ограничение — компромисс между компактностью и качеством, особенно у вариантов с низкой точностью; конкретные показатели производительности и качества в карточке не приведены.

MiniCPM5-2B-heretic-abliterated-GGUF — это набор GGUF-квантизованных версий языковой модели MiniCPM5-2B-heretic-abliterated, подготовленный mradermacher на основе модели insraq. Модель предназначена для генерации текста, диалоговых сценариев, работы с длинным контекстом и вызова инструментов, а также для локального запуска на устройствах с ограниченными ресурсами и edge-системах. В метаданных указана библиотека Transformers и поддержка английского и китайского языков. Модель содержит около 2 млрд параметров; точные сведения об архитектуре и размере контекстного окна в README не приведены. Доступны варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K, Q8_0 и f16 размером примерно от 1,1 до 5,1 ГБ. Более компактные варианты экономят память, но могут снижать качество, тогда как Q6_K и Q8_0 обеспечивают более высокое качество при больших требованиях к ресурсам. Название и теги указывают на модификацию heretic/abliterated, однако подробности применённых изменений, результаты тестирования и ограничения такой модификации в README не описаны. Лицензия исходной модели указана как Apache-2.0; для практического использования следует также учитывать условия библиотек и компонентов, с которыми запускаются GGUF-файлы.

ApolloRaines выпустил jBliterated — экспериментально дообученную версию Mistral-7B-Instruct-v0.3 с изменениями во всех слоях трансформера. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов; веса опубликованы в формате safetensors с базовой точностью bfloat16. Она предназначена для диалогов и генерации текста по инструкциям на английском, французском, немецком, испанском и итальянском языках. Автор описывает многоэтапную обработку и ориентацию на связные ответы, следование инструкциям и одинаковое отношение к разным формулировкам тем. Также модель позиционируется как демонстрация возможностей jBlaze и намеренно выпущена с ограниченной силой; README не приводит независимых оценок качества. Для запуска на GPU с ограниченной памятью предлагается потоковая загрузка слоёв через DeepswapLLM с использованием GPU, RAM и диска. Лицензия — Apache-2.0.

moonshine-ai/moonshine-base-ja — модель автоматического распознавания речи для японского языка из семейства Moonshine. Модель доступна через библиотеку Transformers и распространяется в формате Safetensors; разработчик и точная архитектура в предоставленной карточке не указаны. Модель предназначена для преобразования японской речи в текст и может использоваться в транскрибации аудиозаписей, голосовых заметок, субтитрировании и интеграции распознавания речи в приложения. В метаданных указано окно контекста 194 токена. В предоставленных материалах нет результатов оценки качества, сведений о тренировочных данных, размере модели, поддерживаемых аудиоформатах или рекомендаций по применению. Лицензия обозначена как other, поэтому перед использованием необходимо проверить полный текст условий лицензирования.