I.6Перевод и языковая адаптация

Athene-Phi-3.5-mini-instruct-orpo-GGUF — это набор GGUF-квантизированных версий языковой модели Athene-Phi-3.5-mini-instruct-orpo, разработанной EpistemeAI и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального запуска, в том числе через llama.cpp и LM Studio. В репозитории представлены варианты от исходных весов F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ4 с размером файлов примерно от 1,88 до 7,64 ГБ. Для взаимодействия используется формат промпта с ролями system, user и assistant. Указан английский язык; сведения о количестве параметров, максимальном контексте, архитектурных деталях и поддержке других модальностей отсутствуют. К сильным сторонам относятся широкий выбор уровней квантизации, возможность подобрать баланс между качеством, размером и требованиями к памяти, а также специальные варианты Q4 для ARM и CPU-инференса. Более компактные версии могут уступать по качеству полноразмерным и менее агрессивно квантизированным вариантам. Модель распространяется по лицензии Apache-2.0.

Claude 3 Haiku — компактная и наиболее быстрая модель семейства Claude 3, разработанная компанией Anthropic. Она предназначена для сценариев, где важны почти мгновенная реакция и точное выполнение специализированных запросов. Модель заявлена как мультимодальная, однако в доступных данных не приведены сведения о конкретных поддерживаемых модальностях, архитектуре, размере, языках, длине контекста или лицензии. README также не содержит подробного описания ограничений и условий использования.

DeepSeek-OCR 2 — модель компьютерного зрения и обработки текста из изображений семейства DeepSeek, представленная в репозитории deepseek-community. Она предназначена для распознавания текста и преобразования документов в Markdown; режим grounding позволяет связывать извлечённый текст с координатами областей изображения через специальные теги. Модель использует архитектуру DeepseekOcr2ForConditionalGeneration и принимает изображения с текстовой инструкцией, выдавая текст. Поддерживается динамическое разрешение: базовый режим обрабатывает изображения с несколькими фрагментами 768×768 и дополнительным изображением 1024×1024. В карточке указана многоязычная поддержка, но конкретные языки не перечислены. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README также указывает на ускоренный инференс через vLLM и обработку PDF, однако детали этих сценариев находятся во внешней инструкции.

DeepSeek-OCR-2-GGUF — это квантованные варианты мультимодальной vision-language OCR-модели DeepSeek-OCR-2, разработанной командой DeepSeek AI и распространяемой в репозитории SandLogicTechnologies. Модель работает с изображениями и текстом, поддерживает многоязычные сценарии и ориентирована на распознавание текста, понимание структуры документов и извлечение структурированной информации. Модель предназначена для оцифровки сканов, обработки счетов, чеков, форм, таблиц, книг и отчетов, анализа сложных визуальных документов, выделения пар «ключ-значение», а также построения корпоративных OCR-конвейеров, систем поиска и индексации документов. Заявлены возможности анализа макета, взаимосвязей между абзацами, таблицами и формами, включая работу с рукописным и цифровым содержимым. Размер исходной модели составляет около 3 млрд параметров. Доступны GGUF-варианты IQ3_M, IQ4_NL и IQ4_XS для локального запуска через llama.cpp; их размер составляет примерно 1,35, 1,59 и 1,53 ГБ соответственно вместо 5,47 ГБ для 16-битной версии. Ключевое преимущество вариантов GGUF — сниженные требования к памяти и возможность локального развертывания на потребительском оборудовании и периферийных устройствах. IQ4_NL ориентирован на более высокую сохранность качества распознавания, IQ4_XS предлагает баланс между точностью, скоростью и потреблением памяти, а IQ3_M обеспечивает максимальную компактность, но может сильнее терять качество на плотных макетах, рукописном тексте и сложных документах. Для модели не указаны точное максимальное окно контекста, полный перечень поддерживаемых языков и количественные результаты бенчмарков. Лицензия — MIT.

DeepSeek-OCR-Latest-BF16.I64 — оптимизированная версия DeepSeek-OCR, представленная в карточке как открытая мультимодальная vision-language модель для OCR. Она извлекает печатный и рукописный текст из изображений и сканов документов, формируя обычный текст или Markdown. Модель может сохранять структуру документа, включая заголовки, таблицы и списки, и учитывать расположение элементов страницы. Для обработки изображений документов она использует визуально-языковой подход; README описывает 3B VLM backbone, а метаданные указывают 559,7 млн параметров и контекст 8192 токена. Модель рассчитана на Transformers и поддерживает настройки реализации attention, включая Flash Attention и SDPA. В карточке указана лицензия MIT. README сообщает о тестировании BF16-варианта на NVIDIA H200 MIG; практическое качество и совместимость с другими конфигурациями могут отличаться.

DeepSeek-V2-Lite — языковая модель компании DeepSeek для генерации текста и диалогового общения. Она предназначена для дополнения текста, ответов в чате и локального развертывания; в README также описаны базовая и дообученная для чата версии семейства. Модель поддерживает английский и китайский языки, а метаданные указывают на контекстное окно до 163 840 токенов. Архитектура DeepSeek-V2-Lite сочетает разреженную Mixture-of-Experts (MoE) с Multi-head Latent Attention (MLA), которая сжимает KV-кэш для более эффективного вывода. README приводит 16 млрд общих параметров и 2,4 млрд активных параметров на токен; метаданные каталога указывают 2,5 млрд параметров. В README указано, что для инференса BF16 требуется GPU с 40 ГБ памяти. Модель подходит для локальных чат-сервисов и генерации текста. Заявленная в README лицензия не уточнена; метаданные Hugging Face обозначают её как other, поэтому конкретные условия использования следует проверять в файлах лицензии репозитория.

DeepSeek V4 Flash 0731 — DS4 Quality128 — это квантованный GGUF-вариант официальной модели DeepSeek-AI DeepSeek-V4-Flash-0731, подготовленный apetersson. Модель предназначена для генерации текста и работы в среде DS4, прежде всего на компьютерах Apple Silicon с 128 ГБ памяти. Основной файл содержит 43-слойную MoE-архитектуру примерно на 284,33 млрд логических параметров и заявленный обучающий контекст до 1 048 576 токенов. Поддерживаемые языки и мультимодальные возможности в README не указаны. Квантование ориентировано на сохранение качества: часть чувствительных экспертных тензоров хранится в нативном MXFP4, другие экспертные слои используют IQ2_XXS и Q2_K с калибровкой по importance matrix, а attention, общие эксперты и выходная голова — Q8_0. В комплект также входит необязательная трёхэтапная DSpark-модель для speculative decoding; она не является самостоятельной и должна загружаться вместе с целевой моделью. Совокупный размер двух GGUF-файлов составляет около 102,56 ГиБ. Сильными сторонами являются прямое квантование официальных весов без поведенческой модификации, сохранение нативных MXFP4-тензоров и приоритет качества на наиболее чувствительных компонентах. Ограничения связаны с высокими требованиями к памяти и необходимостью свежей версии DS4 из основной ветки. Структурная проверка CPU завершена, однако генерация через Metal, работа DSpark, производительность, пиковое потребление памяти и фактическая работа с контекстом в миллион токенов для этого артефакта ещё не подтверждены. Лицензия — MIT.

sultanbi/e5-base-kazakh — модель Sentence Transformer автора sultanbi, дообученная на переведённой на казахский язык версии набора SNLI. Она основана на intfloat/multilingual-e5-base и использует архитектуру XLM-RoBERTa с усреднением токенных представлений и нормализацией. Модель преобразует предложения и абзацы в плотные векторы размерности 768; близость текстов можно оценивать косинусным сходством. В README указана максимальная длина последовательности 128 токенов, а метаданные Hugging Face сообщают нативный контекст в 514 токенов. Модель предназначена прежде всего для сравнения смысловой близости казахских текстов и семантического поиска; также подходит для поиска перефразировок, кластеризации и классификации текста. В README приведены результаты retrieval на валидационной части казахского SNLI, превосходящие показатели базовой multilingual-e5-base на этом тесте. Метаданные указывают поддержку множества языков, хотя специальное дообучение выполнено для казахского. Лицензия — MIT.

robzchhangte/e5-base-mizo-crosslingual — текстовая модель Sentence Transformers, дообученная разработчиком на базе intfloat/multilingual-e5-base для преобразования предложений и абзацев в плотные векторы. Её можно использовать для поиска и сопоставления текстов, в том числе межъязыковых. Архитектура включает XLM-RoBERTa, усредняющий pooling и нормализацию; размер вектора — 768 измерений, сходство оценивается косинусной мерой. Модель содержит 305,2 млн параметров и принимает последовательности длиной до 512 токенов. В README описан обучающий набор из 82 630 примеров с anchor, positive и negative текстами. Модель подходит для семантического поиска, извлечения релевантных документов и сравнения предложений. Язык Mizo следует из названия репозитория, а многоязычная основа указывает на поддержку межъязыковой работы; конкретные языки обучения в карточке не перечислены. Лицензия в предоставленных данных не указана.

Карточка модели usama1111/e5-pakistani-legal на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

EraX-VL-7B-V1.0 — мультимодальная модель на базе Transformer, разработанная командой EraX и Bamboo Capital Group и дообученная на Qwen/Qwen2-VL-7B-Instruct. Она предназначена для распознавания текста на изображениях, визуальных вопросов и ответов, а также анализа документов и изображений; поддерживает диалог из нескольких ходов. Особенно хорошо модель ориентирована на вьетнамский язык, при этом заявлены также английский и китайский. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2-VL и принимает изображения с текстовыми запросами, выдавая текстовые ответы. Длина контекста — 32 768 токенов. Модель рассчитана на извлечение текста и сведений из медицинских форм, счетов, накладных, коммерческих предложений и медицинских записей, а также на описание изображений и ответы на вопросы по их содержимому. В отличие от специализированного OCR-инструмента, она является мультимодальной языковой моделью, поэтому результат зависит от формулировки запроса. Лицензия — Apache 2.0.

ERNIE-4.5-VL-424B-A47B-PT — мультимодальная модель семейства ERNIE 4.5 от Baidu для диалогового взаимодействия с текстом и изображениями. Это вариант с весами PyTorch для Transformers; модель построена на архитектуре MoE и содержит 424 млрд параметров, из которых для каждого токена активируется около 47 млрд. Она принимает текст и изображения и генерирует текст, поддерживает контекст до 131 072 токенов и ориентирована на понимание изображений, мультимодальные рассуждения, языковое понимание и генерацию. Вариант прошёл постобучение с использованием SFT и методов оптимизации предпочтений. Модель подходит для ответов на вопросы по изображениям, визуального анализа и диалога с учётом изображения, а также для обычных текстовых диалогов и генерации. В README описаны режимы рассуждения с включённым и выключенным пошаговым анализом. Для запуска через vLLM требуется версия 0.11.2 или новее; приведённая конфигурация использует 16 GPU по 80 ГБ. Лицензия — Apache-2.0.

Etheria-55b-v0.1 — плотная языковая модель семейства Llama, созданная слиянием моделей серии Etheria и моделей Yi-34B-200K. Автор объединил варианты VerA и VerB, затем применил метод DARE TIES; в метаданных указаны 55,1 млрд параметров и формат safetensors. Модель предназначена для генерации текста и диалогового общения; в README указана совместимость с форматами запросов ChatML и Alpaca. Для контекста заявлена теоретическая длина до 200 000 токенов, однако автор рекомендует начинать с 32 000 токенов, поскольку влияние слияния на работу с длинным контекстом не проверено. README сообщает о тестировании до 32 000 токенов через exl2 и приводит результаты нескольких оценок на Open LLM Leaderboard. Модель распространяется по лицензии Apache-2.0.

Experiment26Neuralsirkrishna_Ognoexperiment27M7 — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием моделей automerger/Experiment26Neuralsirkrishna-7B и automerger/Ognoexperiment27M7-7B и предназначена для генерации текста и диалогов. Модель принимает текст и генерирует текст; размер её контекста составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Данных о специальных предметных областях и подтверждённых ограничениях качества в карточке нет.

Experiment27pasticheShadowm7exp-7B — объединённая Maxime Labonne модель на архитектуре Mistral с 7,1 млрд параметров для генерации текста. Она создана автоматическим слиянием automerger/Experiment27Pastiche-7B и mahiatlinux/ShadowM7EXP-7B методом SLERP; в конфигурации указана точность bfloat16. Модель подходит для генерации текста и диалоговых ответов, а её контекст достигает 32 768 токенов. В карточке указана лицензия Apache-2.0.

FuseO1-DeepSeekR1-QwQ-SkyT1-Flash-32B-Preview-GGUF — это набор GGUF-квантизаций базовой модели FuseO1-DeepSeekR1-QwQ-SkyT1-Flash-32B-Preview, разработанной FuseAI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio. Доступны варианты от полного BF16 до более компактных Q8_0, Q6, Q5, Q4, Q3 и IQ-квантизаций. Размер файлов составляет примерно от 17,25 до 65,54 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b4546. Для работы рекомендуется применять указанный в README формат prompt. Сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста не приведены. Сильная сторона набора — широкий выбор компромиссов между качеством, размером и требованиями к памяти: варианты Q6 и Q5 заявлены как высококачественные, Q4_K_M — как рекомендуемый вариант для большинства сценариев, а Q3 предназначены для систем с ограниченным объёмом оперативной памяти. Ограничения связаны с необходимостью значительных вычислительных ресурсов даже для компактных вариантов и потенциальной потерей качества при использовании низких уровней квантизации. Лицензия модели — Apache-2.0.

LastRef/gemma-3-12b-it-heretic-x — дообученная мультимодальная модель на основе Google Gemma 3 12B IT. Это разговорная модель с архитектурой Gemma 3 для обработки текста и изображений с генерацией текстовых ответов. Подходит для диалога, создания и суммаризации текста, ответов на вопросы и извлечения информации из изображений. Карточка Gemma 3 указывает контекст до 128 тыс. токенов и поддержку более 140 языков; эти характеристики относятся к семейству базовой модели. В тегах модели она обозначена как uncensored, decensored и abliterated, то есть её позиционируют как модель с ослабленными ограничениями на ответы; README при этом описывает базовое семейство Gemma, а не специфические изменения этой версии. Такие модели могут выдавать вредный или недостоверный контент, а также отражать смещения данных обучения. Лицензия — Gemma; условия использования определяются лицензией и политикой допустимого использования Gemma.

Карточка модели unsloth/gemma-3-1b-it-qat на Hugging Face совпадает с карточкой google/gemma-3-4b-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google Gemma 3 4B IT QAT Q4_0 Unquantized — мультимодальная модель для диалогов с текстом и изображениями, основанная на Gemma 3 4B IT. Несмотря на обозначение QAT Q4_0 в названии, метаданные указывают формат файлов safetensors; отдельная квантизация в них не подтверждена. Модель принимает текст и изображения и генерирует текст, поддерживает чат и предназначена для ответов на вопросы по изображениям, суммаризации и другим задачам генерации и понимания текста. В README семейство Gemma 3 описано как компактное, подходящее для локального запуска на ноутбуках и настольных компьютерах. Для семейства заявлены контекст до 128 тысяч токенов и поддержка более 140 языков; README не уточняет, подтверждены ли эти характеристики именно для данной сборки. Лицензия — Gemma. Возможны фактические ошибки, предвзятые ответы и трудности с неоднозначными формулировками и сложными задачами; для развёртывания следует учитывать эти ограничения и проверять результаты.

GOT_CPU — версия модели General OCR Theory (GOT), опубликованная пользователем srimanth-d. Это плотная модель класса GOTQwenForCausalLM с 463,8 млн параметров, предназначенная для OCR: извлечения текста из изображений и мультимодальных задач, связанных с распознаванием документов. В карточке указано использование через Transformers; README описывает запуск инференса на CPU. Модель принимает изображения и текстовые запросы и генерирует текстовый результат. Метаданные относят её к многоязычным моделям и указывают контекстное окно 32 768 токенов. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Среди возможных ограничений: качество распознавания может зависеть от языка, качества изображения и типа документа; README не приводит результаты оценки или подробности о поддерживаемых языках.

WorldSim-Opus-3.6-35B-A3B-GGUF — это квантизированная версия языковой модели Gryphe/WorldSim-Opus-3.6-35B-A3B, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель ориентирована на диалоговое общение, работу по инструкциям, ролевые сценарии, reasoning и творческое письмо. Обучение или дообучение связано с датасетом Gryphe/Opus-4.6-Reasoning-24k. Модель основана на архитектуре Qwen3.6 MoE; в названии указана конфигурация 35B-A3B. README сообщает о поддержке английского языка и текстовом формате взаимодействия через ChatML с шаблоном, включающим секцию рассуждений <think>. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ; размеры файлов составляют примерно от 16,9 до 69,38 ГБ. Более качественные варианты требуют больше памяти, а младшие квантизации предназначены для ограниченных ресурсов и могут снижать качество. Модель можно запускать локально через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Контекстное окно, точные требования к оперативной или видеопамяти, мультимодальные возможности и результаты бенчмарков в README не указаны. Репозиторий распространяется по лицензии Apache-2.0.

Это квантизированная GGUF-версия Granite 3.3 2B Instruct — компактной языковой модели, разработанной IBM под идентификатором ibm-granite. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговом формате, включая запуск локально через LM Studio, llama.cpp и совместимые проекты. Модель содержит 2 млрд параметров и относится к текстовым моделям; сведения о поддерживаемых языках, размере контекста и дополнительных модальностях в README не указаны. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Старшие варианты обеспечивают качество, близкое к исходной модели, а менее точные подходят для устройств с ограниченным объёмом RAM, но могут заметно уступать по качеству. Для работы требуется использовать указанный формат prompt с ролями system, user и assistant. Модель распространяется по лицензии Apache-2.0. README описывает именно квантизированные сборки, поэтому их характеристики и качество зависят от выбранного варианта квантования.

ibm-granite_granite-4.1-3b-GGUF — это квантизированная версия языковой модели Granite 4.1 3B, разработанной IBM (ibm-granite). Модель предназначена для генерации текста и запускается в формате GGUF через llama.cpp и совместимые приложения, включая LM Studio, Ollama-подобные среды на базе llama.cpp, KoboldCpp, Jan AI и Text Generation Web UI. Для диалогов используется специальный шаблон промпта с ролями system, user и assistant. В набор входят варианты с разными уровнями квантизации: от BF16 и Q8_0 до более компактных Q4, Q3 и IQ-форматов. Размер файлов составляет примерно от 1,6 до 6,8 ГБ, что позволяет выбирать между качеством, скоростью и требованиями к оперативной памяти. В README не указаны архитектура, поддерживаемые языки, размер контекстного окна и мультимодальные возможности; по имеющимся данным модель относится к текстовым генеративным моделям и не заявлена как мультимодальная. Сильная сторона набора — широкий выбор квантизаций для локального запуска, включая варианты, рекомендованные для баланса качества и размера, а также форматы, оптимизированные для отдельных CPU-платформ. Более агрессивная квантизация снижает требования к памяти, но может ухудшать качество генерации. Модель распространяется по лицензии Apache-2.0; конкретные условия использования следует проверять с учетом лицензии исходной модели IBM.

adidsh/indic-ocr-int8-onnx — созданная сообществом производная модели Indic-OCR от Bodhan AI / AI4Bharat, представленная в форматах ONNX и GGUF и предназначенная для локального распознавания и разбора документов. Она использует двухэтапный конвейер: RT-DETR находит и классифицирует области документа, затем визуально-языковая модель распознаёт текст в этих областях, сохраняя порядок чтения, переносы строк и структуру таблиц. Модель рассчитана на автономную работу с документами на английском и 22 индийских языках, в том числе на устройствах с CPU и без серверного GPU. Квантизированные варианты уменьшают размер и ускоряют выполнение; в README приведены результаты замеров на CPU x86_64 с AVX2. Указанная в карточке лицензия — other; README называет лицензию исходной модели Indic Open Model License v1.0 и требует атрибуции Bodhan AI / AI4Bharat.

InternLM2-Chat-1.8B-SFT — диалоговая языковая модель команды InternLM, созданная контролируемой тонкой настройкой базовой InternLM2-1.8B. Она содержит около 1,7 млрд параметров, использует плотную архитектуру InternLM2 и рассчитана на генерацию текста в формате чата. Метаданные указывают контекст до 32 768 токенов; в README также заявлена поддержка длинных входов до 200 000 символов для семейства InternLM2. Модель подходит для диалоговых помощников, ответов на вопросы, следования инструкциям и генерации текста. Семейство также улучшено для рассуждений, математики и программирования, однако версия SFT уступает последующей версии InternLM2-Chat, дополнительно выровненной с помощью RLHF и рекомендованной авторами для прикладного использования. Модель можно загружать через Transformers; в README также описано развёртывание через vLLM и LMDeploy. Карточка предупреждает, что модель может выдавать предвзятые, дискриминационные или иным образом вредоносные ответы. Код распространяется по Apache-2.0; для весов заявлен свободный доступ для академических исследований и возможность запросить бесплатное коммерческое разрешение.

jina-vlm — компактная мультиязычная модель зрения и языка от Jina AI. Она объединяет визуальный энкодер SigLIP2-So400M с языковым декодером Qwen3-1.7B-Base и содержит 2,4 млрд параметров. Для обработки изображений произвольного разрешения модель использует перекрывающиеся фрагменты и attention pooling, сокращая число визуальных токенов в четыре раза с сохранением пространственной информации. Модель предназначена для диалога по изображениям и мультимодального понимания: она отвечает на вопросы, описывает сцены и извлекает сведения из графиков, диаграмм и документов. README приводит результаты на VQA-бенчмарках, включая многоязычные наборы, а также описывает текстовый режим и извлечение признаков. В метаданных указаны поддержка чата и языки, в том числе английский, китайский, арабский, русский, немецкий, французский, испанский и японский. Модель доступна в формате Safetensors и рассчитана на использование через Transformers, vLLM или Jina API. По приведённым в README текстовым тестам она уступает базовой Qwen3-1.7B-Base на ряде показателей; OCRBench также не является лучшим среди сравниваемых моделей. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

Carnice-V2-27b-GGUF — это квантизированная версия текстовой генеративной модели Carnice-V2-27b, разработанной kai-os и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель относится к семейству Qwen и предназначена для локального запуска в задачах генерации текста, диалогов и агентских сценариев; в метаданных также указаны направления SFT и Hermes-agent. Доступны варианты от BF16 до низкобитных квантизаций Q3, Q4, Q5, Q6, Q8 и IQ. Размер модели составляет 27 млрд параметров, а объём файлов зависит от выбранного варианта: примерно от 13 до 54 ГБ. Для квантизации применялся imatrix-подход, поэтому старшие варианты сохраняют качество, близкое к исходной модели, тогда как младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству. Архитектура, поддерживаемые языки и размер контекста в README не указаны. Модель совместима с llama.cpp и рядом приложений, включая LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие инструменты для локального инференса. Для работы требуется использовать указанный формат prompt с системными, пользовательскими и assistant-сообщениями. Распространение заявлено по лицензии Apache-2.0.

Это дообученная диалоговая модель kihyun-K на базе kakaocorp/kanana-1.5-8b-instruct-2505. Она предназначена для генерации текста в чате и поддерживает интерфейс вызова инструментов. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и поддерживает контекст длиной до 32 768 токенов. В карточке указаны английский язык и лицензия Apache 2.0. README сообщает, что модель обучали с использованием Unsloth и библиотеки TRL для Hugging Face.

kanana-1.5-v-3b-instruct — мультимодальная языковая модель семейства Kanana-1.5-V, разработанная командой Unified Foundation Model в Kakao. Она принимает текст и изображения и генерирует текст; архитектура включает энкодер изображений, C-abstractor и языковую модель kanana-1.5-3b-instruct. Модель содержит около 3,67 млрд параметров, поддерживает контекст до 32 тысяч токенов и предназначена для работы на английском и корейском языках. Модель подходит для описания изображений, понимания документов, рассуждений по распознанному тексту и выполнения мультимодальных инструкций. В опубликованных Kakao оценках она показала результаты на англоязычных и корейских тестах понимания изображений и следования инструкциям; результаты бенчмарков не гарантируют точность в каждом пользовательском сценарии. Модель может выдавать неточную или вводящую в заблуждение информацию, особенно при работе с научными диаграммами и математическими задачами. Её не рекомендуется применять в медицине, праве и других областях с высокими ставками; качество языков, кроме корейского и английского, не оценивалось и может быть низким. Лицензия — kanana-license.

Keefe-Discere-v3.3 — дообученная языковая модель на архитектуре Qwen2, опубликованная KeefeBuild. Она предназначена для генерации текста и диалогового общения; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке указано обучение с использованием Unsloth и библиотеки TRL от Hugging Face. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализацию, набор данных или конкретные результаты обучения, поэтому качество в отдельных предметных областях оценить нельзя.

mlx-community/Kimi-K2-Instruct-0905-mlx-DQ3_K_M — это MLX-версия модели Kimi-K2-Instruct-0905, разработанной Moonshot AI и конвертированной сообществом mlx-community с помощью mlx-lm 0.26.3. Модель предназначена для генерации текста и инструкционных сценариев: диалогов, ответов на запросы и других задач, поддерживаемых базовой моделью. README не содержит подтверждённых сведений о размере, архитектуре, языках и длине контекста. Основная особенность — смешанное динамическое квантование DQ3_K_M с преимущественно 3-битным представлением и отдельными компонентами с более высокой разрядностью. По описанию метода, такой подход призван приблизить качество к 4-битному квантованию при меньшем потреблении памяти. Модель ориентирована на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти, сохраняя ресурсы для полезного контекстного окна; конкретные требования к памяти и фактические результаты тестов не указаны. Ограничения связаны с потерями качества, возможными для квантованной версии, а также с узкой оптимизацией под экосистему MLX и совместимое оборудование Apple. Для использования требуется mlx-lm; README указывает лицензию modified-mit и ссылку на лицензию исходной модели Moonshot AI.