I.6Перевод и языковая адаптация

CausalLM/7B — это языковая модель на 7,1 млрд параметров от разработчика, представившего её как совместимую с Meta LLaMA 2. Модель имеет плотную архитектуру LlamaForCausalLM и контекст длиной 8192 токена; загружается через Transformers без удалённого кода. README описывает её как дистилляцию версии 14B, обученную для speculative sampling, с форматом диалога ChatML. Модель предназначена для генерации текста и диалоговых ответов на английском и китайском языках. В README сообщается о дообучении на синтетических данных, включая переписанные и многоязычные примеры, математические задачи и материалы энциклопедического характера. Указаны результаты на MMLU, CEval и GSM8K, однако заявленные сравнительные преимущества являются результатами автора и не гарантируют качество в других сценариях. Автор предупреждает о возможных галлюцинациях и ненадёжных ответах. Модель обучалась на неотфильтрованных данных и может выдавать оскорбительный, порнографический или жестокий контент; в README также отмечено отсутствие дополнительного RLHF-обучения безопасности. Лицензия репозитория — WTFPL, но README указывает, что из-за происхождения весов Qwen и использования весов LLaMA 2 могут применяться дополнительные ограничения их коммерческого использования.

Карточка модели BAAI/AquilaDense-16B на Hugging Face совпадает с карточкой BAAI/AquilaDense-7B, поэтому описание составлено по ней. AquilaDense-7B — плотная авторегрессионная языковая модель семейства AquilaDense, разработанная Пекинской академией искусственного интеллекта (BAAI). Она предназначена для генерации текста и диалогового взаимодействия. По метаданным модель содержит 7,6 млрд параметров, поддерживает контекст до 4096 токенов и распространяется в формате PyTorch. README описывает методику EfficientScale для обучения моделей AquilaMoE и упоминает AquilaDense-7B как одну из моделей, использованных в экспериментах и графике обучения. В карточке также приведены двуязычные данные на китайском и английском языках; метаданные отмечают поддержку английского и китайского. Лицензия модели — Apache-2.0. Модель подходит для генерации текста и диалоговых сценариев на английском и китайском языках. README не приводит отдельных результатов оценки или конкретных рекомендаций по применению AquilaDense-7B; ограничение контекста составляет 4096 токенов.

AX-DeepSeek-V4-Flash-MLX-AXQ-2bit-MTP — это экспериментальный MLX-чекпойнт, разработанный AutomatosX на основе модели DeepSeek-V4-Flash от deepseek-ai. Модель предназначена для генерации текста и запуска на компьютерах Apple Silicon через MLX-LM или AX Engine. Архитектура исходной модели — DeepseekV4ForCausalLM с mixture of experts; основной путь обработки текста квантизирован, а MTP-компонент сохранён в BF16. Модель содержит около 284,33 млрд логических параметров, использует смешанную точность с преобладанием 2-битных весов и имеет измеренный общий размер 3,1605 BPW. Размер Safetensors-весов составляет около 114,94 ГБ, а полный объём загрузки — около 115,02 ГБ. Заявленный максимальный контекст — 1 048 576 токенов, однако практическая длина зависит от объёма unified memory устройства. Модель поддерживает только текстовую модальность: vision и audio отсутствуют. Основное преимущество — существенно сниженные требования к хранению по сравнению с полноточной моделью при сохранении совместимости с MLX и возможностью прямого запуска в AX Engine. К ограничениям относятся экспериментальный статус 2-битной квантизации, высокая потребность в дисковом пространстве и памяти, отсутствие калибровки, а также то, что стандартный MLX-LM не активирует MTP-sidecar и не подтверждает ускорение speculative decoding. Проверенная сертификация привязана к конкретной ревизии Hub и конфигурации df-macstudio-m2. Репозиторий распространяется по лицензии Apache-2.0 и содержит MLX Safetensors, но не PyTorch- или GGUF-веса.

ERNIE-4.5-21B-A3B-Thinking-GGUF — это квантизированная версия языковой модели ERNIE-4.5-21B-A3B-Thinking, разработанной Baidu. Данный репозиторий подготовлен пользователем bartowski в формате GGUF с использованием llama.cpp и калибровочных imatrix-данных. Модель предназначена для генерации текста и локального запуска в llama.cpp, LM Studio и других совместимых проектах. В README указано, что доступны варианты от исходных весов BF16 размером 43,66 ГБ до различных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Обозначение 21B указывает на заявленный размер модели, однако дополнительные сведения об архитектуре, числе активных параметров, контекстном окне, поддерживаемых языках и модальностях в предоставленных данных отсутствуют. Формат GGUF и набор квантований позволяют выбирать компромисс между качеством, потреблением памяти и скоростью локального вывода; наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M описан как рекомендуемый вариант стандартного размера. Ограничения включают снижение качества при использовании более компактных квантований, особенно Q3 и некоторых IQ-вариантов, а также отсутствие указанного в README шаблона промпта. Лицензия модели и условия её использования в предоставленных данных не указаны, поэтому их следует уточнить на странице исходной модели Baidu.

Barcenas 9B — разговорная языковая модель на архитектуре Llama, разработанная Danielbrdz и дообученная на базе 01-ai/Yi-1.5-9B-Chat с использованием набора yahma/alpaca-cleaned. Модель содержит 8,6 млрд параметров и поддерживает контекст до 4096 токенов. Она предназначена для генерации текста и диалоговых сценариев: виртуальных помощников, создания материалов, анализа тональности и перевода. Карточка описывает её как универсальную модель для связных ответов, однако не приводит результатов оценок качества для перечисленных задач. Поддерживаемый по карточке язык — английский. Модель распространяется под лицензией Apache-2.0. Как и другие генеративные языковые модели, она может выдавать неточные или неподтверждённые ответы; особенно важные результаты следует проверять.

MisterAI/bigscience_bloom-560m — дообученная версия BLOOM-560m, многоязычной трансформерной языковой модели BigScience. В карточке указаны дополнительные наборы данных для французских вопросов и ответов и кибербезопасности. Модель содержит 659,6 млн параметров, использует плотную архитектуру BloomForCausalLM и предназначена для генерации текста; также её можно адаптировать к задачам вроде ответов на вопросы, извлечения информации и суммаризации. Модель подходит для экспериментов, прототипов и генерации текста на поддерживаемых языках. Метаданные репозитория указывают также поддержку кода и наличие весов в PyTorch, safetensors и GGUF Q4_K_M. Используется лицензия bigscience-bloom-rail-1.0. Как и исходная BLOOM-560m, модель может выдавать фактические ошибки, повторы и предвзятый или нежелательный контент; она не подходит для критически важных решений.

BLOOM — авторегрессионная языковая модель семейства Transformer, разработанная международным сообществом BigScience. Она продолжает текст по заданному промпту и может выполнять разные языковые задачи, сформулированные как генерация текста; модель предназначена прежде всего для исследований и может служить основой для дальнейшей настройки под конкретные задачи. Модель имеет архитектуру decoder-only, модифицированную на основе Megatron-LM GPT-2, с позиционным кодированием ALiBI, 70 слоями и 112 головами внимания. В ней около 176 млрд параметров; обучение включало 366 млрд токенов. Контекстная длина — 2048 токенов. BLOOM генерирует текст на 46 языках и поддерживает 13 языков программирования; среди языков карточки указаны арабский, бенгальский, каталонский, английский, испанский, французский, хинди, индонезийский, португальский, тамильский, урду, вьетнамский и китайский. Модель подходит для генерации и продолжения текста, а также для исследовательских экспериментов с многоязычными LLM. Она может выдавать ошибочные утверждения как факты, повторяться, воспроизводить предвзятость и стереотипы, а также создавать оскорбительный, жестокий или сексуальный контент. Применение в критически важных и высокорисковых сценариях, включая медицину, право и финансы, не рекомендуется. Лицензия — BigScience BLOOM RAIL v1.0.

CyberAgentLM3-Chat — диалоговая версия языковой модели CyberAgentLM3, разработанная CyberAgent, Inc. Модель с архитектурой Llama и 22,1 млрд параметров дообучена для диалоговых сценариев; исходная CyberAgentLM3 предварительно обучена с нуля на 2 трлн токенов. Модель предназначена для общения с пользователем и генерации ответов на японском и английском языках. Она принимает текстовые запросы в формате ChatML и поддерживает контекст длиной до 16 384 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специальные отраслевые задачи или результаты оценки качества.

cstr/cohere-transcribe-03-2026-GGUF — набор весов в формате GGUF для модели автоматического распознавания речи CohereLabs/cohere-transcribe-03-2026, разработанной Cohere. Конвертация предназначена для высокопроизводительного запуска на CPU через C++-среду CrispASR. Модель содержит около 2 млрд параметров и, согласно README, занимала первое место в Open ASR Leaderboard со средним WER 5,42 на март 2026 года. Архитектура включает 48-слойный Conformer-энкодер и 8-слойный каузальный Transformer-декодер; максимальный контекст декодера составляет 1024 токена, словарь — 16 384 SentencePiece-токена. На вход подаётся монофоническое аудио 16 кГц с 128 mel-признаками. Заявлена поддержка 14 языков: английского, французского, немецкого, испанского, итальянского, португальского, нидерландского, польского, греческого, арабского, японского, китайского, вьетнамского и корейского. Модель предназначена для транскрибации аудиозаписей и потоков речи; доступны варианты от F16 до Q4_K, позволяющие выбирать между качеством, размером и скоростью. Сильные стороны — мультиязычность, высокая заявленная точность и возможность эффективного CPU-инференса. Ограничения включают зависимость от CrispASR, необходимость корректной языковой настройки и отсутствие заявленной поддержки русского языка, несмотря на наличие соответствующего токена в токенизаторе: README предупреждает, что модель может выдавать ошибочную русскоязычную транскрипцию без явного сигнала об ошибке. Лицензия — Apache 2.0, унаследованная от исходной модели.

CommonLingua — компактная модель PleIAs для определения языка текста, созданная в рамках инициативы GSMA «AI Language Models in Africa, by Africa, for Africa». Она содержит 2,35 млн параметров и использует оригинальную байтовую гибридную архитектуру: хешированные встраивания триграмм, три слоя Conv1D и двунаправленный attention. Токенизатор не требуется: модель обрабатывает сырые байты UTF-8, что позволяет ей работать с разными письменностями. Вход дополняется до 512 байт. Модель предназначена для классификации абзацев по языку, в том числе при курировании корпусов предобучения и обработке документов с ошибками OCR. Особое внимание уделено языкам Африки и языкам с малым объёмом доступных данных; поддерживается 61 африканский язык. В README заявлено, что на бенчмарке CommonLID модель превосходит предыдущие базовые решения по macro F1. Репозиторий распространяется по лицензии Apache-2.0.

TheCluster/Darwin-35B-A3B-Opus-MLX-bf16 — конвертированная в формат MLX версия модели FINAL-Bench/Darwin-35B-A3B-Opus. Она создана на архитектуре Qwen3.5 MoE с гибридом Gated DeltaNet и Mixture of Experts: всего 35 млрд параметров, из которых при одном проходе активны около 3 млрд. Модель принимает текст и изображения и предназначена для диалоговой работы с визуальным и текстовым содержимым. Модель поддерживает многоязычные сценарии, в том числе английский, китайский и русский. Репозиторий использует веса safetensors в формате bf16 и библиотеку MLX; исходная модель преобразована с помощью mlx-vlm 0.4.4. Лицензия — Apache-2.0.

DeepSeek-V4-Flash-GGUF — это квантизированная версия модели DeepSeek-V4-Flash, опубликованная организацией ggml-org на основе исходной модели deepseek-ai. Модель предназначена для генерации текста и запуска в формате GGUF, в том числе с помощью llama.app и совместимых инструментов. В README указано, что модель автоматически конвертируется средствами проекта ggml-org/convert. Доступны варианты с разными уровнями квантизации; для моделей Q2 пока не применялась калибровка imatrix из-за отсутствия соответствующих данных. Сведения об архитектуре, количестве параметров, размере контекста, поддерживаемых языках и модальностях не приведены, поэтому оценить эти характеристики и ограничения по README невозможно. Модель распространяется по лицензии MIT. Условия использования исходной модели следует дополнительно уточнять в карточке deepseek-ai/DeepSeek-V4-Flash.

Это дистиллированная версия Whisper large-v2 от rsonavane, созданная с помощью удаления слоёв декодера и обучения на распределениях модели-учителя. В декодере 8 слоёв вместо 32 у исходной модели; заявлены размер на 40% меньше и скорость декодирования примерно вдвое выше, чем у Whisper large-v2. Модель предназначена для автоматического распознавания речи. На датасете LibriSpeech после дообучения в течение одной эпохи автор сообщает о WER 4,2%. В карточке также указана возможность дообучения для нескольких языков, но конкретные результаты для них не приведены. Доступны веса PyTorch; лицензия в предоставленных данных не указана.

jssaluja обучил эту модель распознавания речи на базе facebook/mms-1b-all для транскрибирования аудио на панджаби. Это модель Wav2Vec2 с архитектурой Wav2Vec2ForCTC и 1,3 млрд параметров; она принимает аудио и выдаёт текст. Обучение проводилось на наборах данных с панджабскими аудиокнигами, беседами, подкастами, религиозными выступлениями и другими записями. На указанном в карточке наборе оценки CER составляет 0,0813, а WER — 0,3182. Модель подходит для расшифровки панджабской речи в аудиозаписях, включая аудиокниги, подкасты и выступления. В карточке не приведены сведения о целевых вариантах письма и условиях записи, поэтому качество на других типах аудио не установлено. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но не коммерческое использование.

FireRedASR2-AED GGUF — это модель автоматического распознавания речи, разработанная командой FireRedTeam и преобразованная в формат GGUF для использования с CrispASR. Репозиторий содержит варианты исходной точности F16 и квантованные версии Q8_0 и Q4_K; преобразование не изменяет обучение, архитектуру, словарь или возможности исходной модели. Модель предназначена для транскрибации аудио на стандартном китайском языке, английском и более чем 20 китайских диалектах. Она использует Conformer-энкодер из 16 слоёв с размерностью 1280 и 20 головами внимания, относительным позиционным кодированием, macaron FFN и глубинно разделимой свёрткой с ядром 33, а также CTC-голову. Размер модели составляет около 1,1 млрд параметров. Заявленная средняя CER для мандаринского китайского — 3,05% по данным публикации. Сильными сторонами являются поддержка нескольких вариантов квантования, возможность работы через GGML/CPU и сопоставимое качество транскрипции между доступными вариантами на тестовых аудиозаписях. Ограничения включают вывод английского текста в верхнем регистре, использование только CTC-декодирования без beam search decoder и необходимость применения совместимого инструмента, например CrispASR. Модель распространяется по лицензии Apache 2.0; конвертация не предоставляет прав сверх лицензии исходной модели.

mlx-community/gemma-3n-E2B-it-lm-4bit — это 4-битная модель в формате MLX, созданная сообществом mlx-community на основе instruction-tuned модели google/gemma-3n-E2B-it, разработанной Google. Конвертация выполнена с использованием mlx-lm версии 0.25.2, поэтому модель предназначена для запуска в экосистеме MLX, в частности на совместимом оборудовании Apple через библиотеку mlx-lm. Модель ориентирована на генерацию текста в диалоговом формате и поддерживает сценарии, связанные с обработкой текста, аудио и видео, включая automatic speech recognition, automatic speech translation и преобразование аудио или видео в текст, согласно указанным в карточке тегам. Обозначение E2B указывает на класс модели примерно в 2 миллиарда параметров, а lm-4bit — на 4-битное квантование, которое обычно уменьшает требования к памяти и ускоряет локальный запуск, но может снижать точность по сравнению с полной версией. README не содержит сведений о точном устройстве архитектуры, максимальной длине контекста, перечне поддерживаемых языков, фактических ограничениях мультимодальной обработки и результатах тестирования. Для использования требуется установить mlx-lm и применять встроенный chat template, если он доступен. Модель распространяется по лицензии Gemma; на Hugging Face необходимо ознакомиться с лицензией Google и подтвердить условия доступа.

NoxStrix/gemma-4-31B-it-Q4_K_M-GGUF — это конвертированная в формат GGUF инструкциямодель на базе google/gemma-4-31B-it, подготовленная автором NoxStrix с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для локального запуска через llama.cpp, включая интерактивные запросы в CLI и работу в режиме сервера. Из доступных данных известно, что исходная модель имеет размер 31B параметров и относится к мультимодальным моделям image-text-to-text, то есть может обрабатывать изображения и текст и генерировать текстовые ответы. Ключевые характеристики исходной архитектуры, поддерживаемые языки и размер контекстного окна в README не указаны. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полноразмерной версией, но README не содержит точных сведений о качестве, скорости и необходимых ресурсах. Для использования требуются llama.cpp и подходящее аппаратное обеспечение; возможна настройка сборки под конкретную платформу, включая Nvidia GPU. В README приведён пример контекста размером 2048 токенов, но это может быть лишь параметром запуска, а не максимальным размером контекста модели. Модель распространяется по лицензии Apache-2.0, при этом для исходной Gemma могут действовать дополнительные условия лицензии Google Gemma.

Vibels/georgian-e5-finetuned — дообученная Vibels модель для семантического сравнения предложений и поиска на грузинском языке. Она создана на основе intfloat/multilingual-e5-small и обучена на 65 000 пар из набора Vibels/parallel-corpus_geo_eng_geo-translated. Модель использует архитектуру BERT и выдаёт плотные текстовые эмбеддинги; размер составляет 124,3 млн параметров, контекст — до 512 токенов. Метаданные указывают поддержку sentence-similarity, а README сообщает о бенчмарке GeorgianFAQRetrieval. Модель подходит для поиска ответов в грузинских FAQ, сопоставления запросов с документами и сравнения предложений. Базовая модель многоязычная и предназначена для межъязыкового подбора текстов, однако конкретные результаты дообучения описаны для грузинского. Распространяется по лицензии Apache-2.0.

MaziyarPanahi/GLM-4.6V-Flash-GGUF — это набор файлов модели в формате GGUF для оригинальной модели GLM-4.6V-Flash, разработанной zai-org и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и локального запуска в совместимых приложениях и библиотеках. Основная характеристика репозитория — поддержка нескольких уровней квантизации: 2-, 3-, 4-, 5-, 6- и 8-битной. Формат GGUF ориентирован на использование с llama.cpp и совместимыми инструментами, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими решениями для локального вывода, в том числе с GPU-ускорением. Это позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. README не содержит сведений об архитектуре, размере модели, поддерживаемых языках и модальностях, длине контекста, результатах оценки или ограничениях исходной GLM-4.6V-Flash. Лицензия в предоставленных данных также не указана, поэтому условия использования следует уточнять в карточке оригинальной модели и соответствующих файлах репозитория.

Granite 3.0 1B A400M Instruct — это компактная инструкционная языковая модель семейства Granite, разработанная IBM и опубликованная как ibm-granite/granite-3.0-1b-a400m-instruct. Данный репозиторий содержит её квантованные варианты в формате GGUF, подготовленные bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и выполнения инструкций, включая ответы на вопросы, рассуждения, базовые математические задачи, работу с кодом и мультиязычные сценарии. В названии указаны 1B параметров и архитектурная конфигурация A400M; точные сведения об архитектуре, размере контекста и поддерживаемых языках в README не приведены. Доступны варианты от F16 до Q4 и ниже, с размером файлов примерно от 0,77 до 2,67 ГБ. Квантование позволяет запускать модель локально при меньших требованиях к памяти; варианты Q5 и Q6 заявлены как высококачественные, а Q4 — как компромисс между качеством и размером. Для работы рекомендуется использовать совместимое ПО, например LM Studio, с указанным форматом prompt. Модель подходит для локальных приложений, чат-ассистентов и задач, где важны небольшие требования к ресурсам. Ограничения включают меньший размер по сравнению с крупными языковыми моделями и потенциальные потери качества при агрессивном квантовании; приведённые benchmark-результаты относятся к базовой модели и представлены неполно. Лицензия — Apache 2.0.

Это совместимая с Hugging Face Transformers версия модели AI4Bharat IndicConformer для автоматического распознавания речи. Репозиторий основан на ai4bharat/indicconformer_stt_hi_hybrid_ctc_rnnt_large и адаптирует модель для использования со стандартными средствами Transformers вместо NeMo. Архитектура относится к семейству IndicConformer; метаданные указывают класс IndicConformerForCTC и форматы весов Safetensors. Модель преобразует аудиозаписи речи в текст и рассчитана на языки Индии. README перечисляет хинди, телугу, бенгальский, тамильский, гуджарати и малаялам; теги метаданных содержат также ассамский, каннада, маратхи, ория, пенджаби, урду, непали, санскрит и другие языки региона. Для обучения указаны наборы Shrutilipi и Bhashini. Репозиторий распространяется по лицензии Apache-2.0. Число параметров в предоставленных данных отсутствует; заявленный контекст — 5000 токенов.

Interim Labs Qwen3.5-9B-GGUF-Q4_K_M — пакет модели для локальной генерации текста, опубликованный Interim Labs и основанный на Qwen/Qwen3.5-9B. В репозитории размещены веса GGUF с квантизацией Q4_K_M для запуска через совместимое ПО, например llama.cpp. Размер модели — 9 млрд параметров; лицензия — Apache-2.0. Модель предназначена для диалогов и генерации текста. Каталог также указывает возможность работы с изображениями, рассуждениями, программированием и агентными задачами для базовой Qwen3.5, однако README этого выпуска описывает его как пакет для текстовой генерации. Это перепубликация весов, преобразованных в GGUF: автор заявляет, что веса не изменялись. Для качества именно этой сборки нет комплексных бенчмарков, а длинный контекст и преимущества над исходной конверсией не проверены.

MaziyarPanahi/japanese-stablelm-instruct-gamma-7b-Mistral-7B-Instruct-v0.2-slerp-GGUF — это 7-миллиардная текстовая генеративная модель в формате GGUF. Она создана MaziyarPanahi на основе объединённой методом slerp модели japanese-stablelm-instruct-gamma-7b-Mistral-7B-Instruct-v0.2-slerp, использующей Mistral-7B-Instruct-v0.2 и japanese-stablelm-instruct-gamma-7b. Модель предназначена для генерации текста и диалоговых сценариев, а формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки. Доступны варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные конфигурации; README подробно описывает варианты до 6 бит. Квантование позволяет снизить требования к памяти и запускать модель на широком спектре оборудования, но может уменьшать качество по сравнению с полноразмерными весами. Данные о максимальном контексте, поддерживаемых языках, результатах тестирования и специализированных ограничениях отсутствуют. Модель распространяется по лицензии Apache-2.0.

Kanana-2-30b-a3b-instruct-2601 GGUF — квантизированная версия инструкционной модели Kakao Corp, опубликованная пользователем deul. Модель построена на архитектуре DeepseekV3 с комбинацией MLA и MoE: 30 млрд параметров всего, около 3 млрд активных параметров, 48 слоёв и 128 экспертов. Она ориентирована прежде всего на корейский язык, также заявлена поддержка английского, и предназначена для генерации текста, диалоговых сценариев и вызова инструментов. Модель относится к нерассуждающим instruction-tuned-моделям и поддерживает контекст до 32K токенов. В GGUF встроен шаблон чата на основе ChatML с XML-форматом вызова инструментов в стиле Qwen. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M; они занимают примерно от 17 до 30 ГБ, при этом Q4_K_M рекомендован как практичный баланс качества и размера. Модель подходит для локального запуска через llama.cpp и Ollama, однако для работы требуются значительные вычислительные ресурсы, особенно для вариантов с более высоким качеством. GGUF-файлы были напрямую сконвертированы и квантизированы из базовой модели, поскольку официальный репозиторий не предоставлял GGUF-версию для instruct-2601. Распространение осуществляется по лицензии Kanana. Коммерческое использование, включая API и облачные сервисы, перепродажу и сценарии с аудиторией от 10 млн MAU, требует отдельной коммерческой лицензии Kakao.

LFM2.5-1.2B-Instruct-MLX-bf16 — экспорт инструкционной языковой модели Liquid AI в формате MLX для инференса на устройствах Apple Silicon. Модель использует плотную архитектуру LFM2 и содержит 1,5 млрд параметров по метаданным; в README указаны 1,2 млрд параметров и точность bfloat16. Размер файла составляет 2,2 ГБ. Модель предназначена для генерации текста и диалога. Метаданные указывают контекст до 128 000 токенов и поддержку английского, японского, корейского, французского, испанского, немецкого, итальянского, португальского, арабского и китайского языков. Репозиторий обозначен как дообучение LiquidAI/LFM2.5-1.2B-Instruct и распространяется по лицензии с пометкой other; конкретные условия следует проверять в карточке модели. Экспорт рассчитан на MLX и Apple Silicon.

andrijdavid/Llama3-1B-Base — базовая плотная языковая модель примерно на 1,2 млрд параметров, созданная автором репозитория на основе уменьшенной версии Llama 3 8B от Meta. Она предназначена для генерации текста и последующего дообучения под конкретные задачи, в том числе ответы на вопросы, анализ тональности, перевод и суммаризацию. Модель рассчитана на использование в условиях ограниченных вычислительных ресурсов; архитектура — LlamaForCausalLM, формат весов — safetensors, контекст — до 8192 токенов. Модель не дообучалась под отдельную задачу. Она поддерживает диалоговый сценарий, но может выдавать фактически неверные, предвзятые, оскорбительные или неуместные ответы. Лицензия репозитория — CC BY 4.0. Автор указывает, что проект не связан с Meta.

Megrez-3B-Instruct-GGUF — это набор квантизированных GGUF-вариантов инструкционной языковой модели Megrez-3B-Instruct, разработанной Infinigence. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения, например LM Studio. Модель относится к классу примерно 3B-параметрических текстовых моделей и поддерживает английский и китайский языки. Доступны варианты от F16 до низкобитных Q2/Q3-квантизаций размером примерно от 1,13 до 5,84 ГБ. Более качественные варианты Q5 и Q6 рекомендуются для сохранения качества, а Q3 и Q2 подходят для устройств с ограниченным объёмом оперативной памяти, но заметно уступают по качеству. Для работы следует использовать указанный шаблон prompt с маркерами ролей system, user и assistant. Размер контекста, точная архитектура и мультимодальные возможности в README не указаны; по описанию это текстовая, а не мультимодальная модель. Преимущества модели — широкий выбор квантизаций, возможность локального запуска и компромисс между качеством, скоростью и потреблением памяти. Ограничения связаны с потерями качества при низких уровнях квантизации, а также с отсутствием в README данных о результатах тестирования, производительности и максимальном контексте. Исходная модель и опубликованные варианты распространяются по лицензии Apache-2.0.

Meissa-Qwen2.5-7B-Instruct-Q4_K_M-GGUF — квантизированная версия модели Meissa-Qwen2.5-7B-Instruct, разработанной Orion-zhen и преобразованной пользователем yemiao2745 в формат GGUF с помощью llama.cpp и GGUF-my-repo. Модель предназначена для генерации текста и использования в диалоговых и прикладных сценариях, поддерживаемых исходной instruct-моделью. В карточке указаны китайский и английский языки, а также наборы данных для обучения и доработки, включающие текстовые, структурированные, литературные и ролевые примеры. Модель относится к семейству Qwen2.5 и имеет размер 7B параметров согласно идентификатору и названию исходной модели. Квантизация Q4_K_M уменьшает требования к памяти и делает запуск более доступным на локальном оборудовании, однако может снижать точность по сравнению с полноразмерными или менее квантизированными версиями. Формат GGUF ориентирован на запуск через llama.cpp; в README приведены примеры работы в режиме командной строки и серверном режиме. Значение контекста 2048 указано только в примере запуска и не подтверждает максимальный размер контекстного окна. Модель подходит для локальной генерации текста, чат-интерфейсов и задач, где важны автономность и умеренные требования к ресурсам. При этом в карточке отсутствуют подробные сведения о фактической архитектуре, максимальном контексте, производительности, качестве на бенчмарках и ограничениях безопасности, поэтому эти характеристики нельзя оценить по представленным данным. Лицензия указана как GPL-3.0.

MiniCPM5-2B-heretic-i1-GGUF — это GGUF-квантизированная версия языковой модели MiniCPM5-2B-heretic, опубликованная и квантизированная пользователем mradermacher. Базовая модель указана как Dingdust/MiniCPM5-2B-heretic; исходная разработка связана с экосистемой MiniCPM. Модель предназначена для генерации текста, работы с длинным контекстом, вызова инструментов и локального запуска на устройствах с ограниченными ресурсами. Заявлены английский и китайский языки. Модель относится к классу компактных text-generation-моделей с примерно 2 млрд параметров и представлена в формате GGUF. Доступны варианты квантизации от очень компактных IQ1/IQ2 до IQ4, Q5 и Q6, размером примерно от 0,8 до 2,2 ГБ; варианты различаются балансом между требованиями к памяти, скоростью и качеством. Для части вариантов указана imatrix-квантизация, а Q4_K_M отмечена как быстрая и рекомендуемая. Компактность делает модель подходящей для локального и периферийного развёртывания, однако сильное сжатие может заметно ухудшать качество. В README не приведены точный размер контекстного окна, детальное описание архитектуры, результаты бенчмарков, мультимодальные возможности и конкретные ограничения поведения модели. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели Qwen3-14B-abliterated, разработанной mlabonne. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 6,66 до 29,54 ГБ; варианты с более высокой точностью обычно требуют больше памяти, но лучше сохраняют качество, тогда как компактные варианты подходят для систем с ограниченным объёмом RAM. Для общения используется шаблон prompt формата ChatML с ролями system, user и assistant. README не содержит сведений о точной архитектуре, размере контекста, поддерживаемых языках или мультимодальности, поэтому эти характеристики нельзя достоверно указать. Сильной стороной являются разнообразие форматов GGUF и возможность локального запуска; ограничениями выступают неизбежные потери качества при сильной квантизации и зависимость от совместимого программного обеспечения. Указана лицензия Apache-2.0.