I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделей14B-Qwen2.5-Freya-x1-GGUF — это GGUF-квантизированная версия текстовой генеративной модели 14B-Qwen2.5-Freya-x1, разработанной Sao10K. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может применяться в локальных сценариях инференса, включая запуск через LM Studio. Модель имеет размер 14B параметров и поставляется в вариантах от F16 до низкобитных квантований Q2 и Q3, что позволяет выбирать между качеством ответов и требованиями к оперативной памяти. Доступны форматы Q4, Q5, Q6 и Q8, при этом в README рекомендуются некоторые варианты Q4–Q6 как обеспечивающие хороший или очень высокий уровень качества. Указан шаблон промпта в формате ChatML. Модальность — текстовая; сведения о поддерживаемых языках и размере контекстного окна в README отсутствуют. Сильная сторона модели — широкий выбор квантований для локального запуска на оборудовании с разными ограничениями по памяти, а также применение imatrix-квантизации. Более компактные варианты экономят память, но могут заметно уступать старшим версиям по качеству. Лицензия обозначена как qwen/other; в README приведена ссылка на лицензию Qwen/Qwen2.5-14B, однако конкретные условия использования следует уточнять по этому документу.
70B-L3.3-mhnnn-x1 — дообученная разговорная языковая модель Sao10K на архитектуре Llama, основанная на meta-llama/Llama-3.3-70B-Instruct. Модель содержит 69,5 млрд параметров, принимает текстовые запросы в формате Llama 3 Instruct и поддерживает контекст до 131 072 токенов. В метаданных указаны возможности чата и интерфейс вызова инструментов. Модель предназначена для диалогов и генерации текста, с акцентом на более творческие ответы. Автор сообщает, что при таком поведении иногда возникают ошибки, которые могут исчезнуть при повторной генерации. Для обучения использовалась конфигурация Axolotl 0.6.0; автор рекомендует температуру 1,1 и min_p 0,05. Модель доступна по лицензии Llama 3.3.
AIN — арабско-английская мультимодальная модель MBZUAI на 7,1 млрд параметров, дообученная на базе qwen2-VL-7B. Она принимает изображения и текстовые запросы и предназначена для визуальных вопросов и ответов, OCR и анализа документов, а также понимания графиков, таблиц, видео и изображений из специализированных областей. Модель обучалась на 3,6 млн арабско-английских мультимодальных примеров; в карточке заявлены сильные результаты для арабского языка, двуязычные возможности и понимание культурного контекста. Архитектура основана на Qwen2-VL, поддерживает диалог и контекст до 32 768 токенов. Среди заявленных сценариев — медицинские изображения, сельское хозяйство, дистанционное зондирование и научная визуализация. Модель выдаёт текстовые ответы по содержимому изображений; для видео в README описана обработка локальных файлов. Указана лицензия MIT. Результаты и сравнительные заявления приведены авторами модели; качество на конкретных данных может отличаться.
ByT5 Base — предварительно обученная без токенизатора модель Google на архитектуре T5, работающая непосредственно с последовательностями байтов UTF-8. Она содержит около 595 млн параметров и обучалась на mC4 с задачей восстановления замаскированных фрагментов; для прикладных задач модель нужно дообучить. Модель подходит для сценариев с шумным текстом, где важны опечатки, написание и произношение, а также может обрабатывать текст на разных языках без отдельного токенизатора. Модель предназначена для последующей адаптации к задачам преобразования текста, например ответам на вопросы и исправлению ошибок. Байтовое представление повышает устойчивость к шуму, но последовательности байтов длиннее токенных, что может замедлять обработку и расходовать больше контекста. Репозиторий содержит варианты для PyTorch, TensorFlow и Flax. Лицензия — Apache 2.0.
MaziyarPanahi/calme-3.3-instruct-3b — дообученная модель MaziyarPanahi на архитектуре Qwen2.5-3B для генерации текста в общих предметных областях и диалогового общения. Она содержит 3,1 млрд параметров, принимает текст и выдаёт текст, поддерживает шаблон ChatML и контекст до 32 768 токенов. В метаданных отмечены английский и французский языки, а также интерфейс для вызова инструментов. Модель может использоваться для диалогов, ответов на вопросы и других задач генерации текста общего назначения. Автор отмечает, что небольшой размер может снижать качество на некоторых запросах и повышать чувствительность к параметрам генерации. README также указывает на возможные смещения и рекомендует контроль человеком при развёртывании. Лицензия обозначена как other; конкретные условия следует проверять в карточке модели.
Calme-7B-Instruct-v0.1.1-GGUF — набор файлов модели в формате GGUF для MaziyarPanahi/Calme-7B-Instruct-v0.1.1, разработанный и квантованный MaziyarPanahi. Это текстовая instruction-tuned модель примерно на 7 миллиардов параметров, предназначенная для генерации текста, диалогов и выполнения инструкций. Модель ориентирована на локальный запуск с использованием llama.cpp и совместимых клиентов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Репозиторий содержит варианты квантования с разрядностью от 2 до 8 бит, включая семейство K-квантований Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Выбор варианта позволяет находить компромисс между требованиями к памяти, скоростью работы и сохранением качества. Указана принадлежность к семейству Mistral, однако точные сведения об архитектуре, размере контекста и поддерживаемых языках в README не приведены. Модель работает с текстом и не предназначена для мультимодальных задач. Сильными сторонами являются компактный размер, возможность запуска на локальном оборудовании и широкий выбор уровней квантования. Ограничения включают возможные потери качества при использовании более агрессивного квантования, а также отсутствие в предоставленных данных результатов оценки, точных требований к ресурсам и перечня поддерживаемых языков. Модель распространяется по лицензии Apache 2.0.
DevQuasar-7/cognitivecomputations.Dolphin3.0-Llama3.1-8B-GGUF — квантизированная версия модели cognitivecomputations/Dolphin3.0-Llama3.1-8B, предназначенная для генерации текста. README не указывает точный вариант квантования, размер файлов, поддерживаемые языки, длину контекста или особенности архитектуры; из идентификатора и базовой модели можно заключить только принадлежность к семейству Llama 3.1 с размером 8B параметров. Модель разработана и опубликована пользователем или организацией DevQuasar-7 на базе модели cognitivecomputations. Версия в формате GGUF ориентирована на локальный запуск в совместимом программном обеспечении, однако конкретные сценарии применения, сильные стороны и ограничения в README не описаны. Информация о лицензии и условиях использования также отсутствует, поэтому их необходимо уточнить по документации базовой модели и репозитория.
Это GGUF-квантизированная версия conversational-модели datagemma-rig-27b-it, исходно разработанной Google. Релиз подготовлен пользователем legraphista с применением llama.cpp и предназначен для локального запуска и генерации текста в диалоговых сценариях. В основе лежит модель размером 27 млрд параметров в формате BF16; исходная карточка указывает текстовую генерацию, но не сообщает поддерживаемые языки и размер контекстного окна. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая форматы IQ. Квантизация позволяет выбирать компромисс между качеством, размером файла и требованиями к памяти: размеры файлов варьируются примерно от 10,45 до 54,46 ГБ. Для ряда вариантов применена IMatrix-квантизация, рассчитанная на сохранение качества при уменьшенной точности; BF16, FP16, Q8_0 и Q6_K используют статические варианты без IMatrix. Модель предназначена для работы через llama.cpp и совместимые инструменты, однако конкретные системные требования и показатели качества в README не указаны. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется принять условия лицензии. Ограничения, связанные с безопасностью, точностью ответов и конкретными сценариями применения исходной модели, в представленных данных не описаны.
Это GGUF-квантизированная версия языковой модели cogito-v2-preview-llama-109B-MoE, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Архитектура модели — Mixture of Experts (MoE), общий заявленный размер — 109B параметров. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, с размером файлов примерно от 47,62 до 114,52 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b6014. Более высокие варианты обеспечивают лучшее сохранение качества, а менее точные требуют меньше оперативной памяти; среди рекомендуемых указаны Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Модель подходит для локального текстового инференса при наличии значительных вычислительных ресурсов и объёма памяти, соответствующего выбранному варианту квантизации. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности, точные характеристики базовой архитектуры, лицензия и формальные ограничения использования. Шаблон чата не задан; предложенный формат является значением по умолчанию и может быть некорректным, поэтому его следует сверять с исходной карточкой модели.
mlx-community/DeepSeek-R1-Distill-Llama-70B-8bit — это 8-битная версия модели DeepSeek-R1-Distill-Llama-70B, преобразованная в формат MLX сообществом mlx-community. Конвертация выполнена из исходной модели deepseek-ai/DeepSeek-R1-Distill-Llama-70B с использованием mlx-lm версии 0.20.2. Модель предназначена для генерации текста и диалоговых сценариев в экосистеме MLX, включая запуск через библиотеку mlx-lm. README не содержит подробных сведений об архитектуре, числе параметров, поддерживаемых языках, размере контекста, модальностях, результатах тестирования или сильных и слабых сторонах модели. Известно только, что используется 8-битное представление и предусмотрена поддержка chat template при наличии соответствующей конфигурации токенизатора. Для использования требуется установить mlx-lm и загрузить модель по её идентификатору. Лицензия в README не указана, поэтому условия использования определить по предоставленным данным невозможно.
inferencerlabs/DeepSeek-V4-Flash-0731-MLX — вариант DeepSeek-V4-Flash-0731, опубликованный Inferencer Labs в формате MLX для запуска на совместимом оборудовании Apple. Это чат-модель генерации текста на архитектуре DeepSeek V4; в метаданных указано 10,7 млрд параметров и контекст до 1 048 576 токенов. Карточка отмечает, что модель тестировалась в приложении Inferencer на M3 Ultra с 512 ГБ памяти и рекомендует совместимый спекулятивный декодер для повышения производительности. Модель подходит для диалоговой генерации и других задач, решаемых через генерацию текста. В карточке перечислен английский язык. README предупреждает, что ответы могут быть неточными или неуместными, и рекомендует проверять результаты перед использованием в важных решениях. Лицензия в предоставленных данных не указана.
ERNIE-4.5-VL-424B-A47B-Base-PT — базовая мультимодальная модель Baidu семейства ERNIE 4.5, предназначенная для понимания и генерации текста с учётом изображений. Это предварительно обученная MoE-модель с архитектурой ERNIE4_5_VLMoeForConditionalGeneration: в README указаны 424 млрд параметров всего и 47 млрд активных параметров на токен; метаданные каталога приводят оценку общего размера 47,1 млрд. Модель обрабатывает текст и изображения, поддерживает контекст до 131 072 токенов и рассчитана на английский и китайский языки. Модель подходит для диалога, ответов на вопросы по изображениям, описания визуальных материалов и кросс-модальных рассуждений, а также для задач понимания и генерации текста. Это базовый чекпойнт стадии pretraining, а не указанный в карточке вариант, настроенный для конкретного пользовательского сценария. README приводит пример запуска через vLLM с 16 GPU по 80 ГБ и требует trust_remote_code. Лицензия — Apache-2.0.
EVA-Qwen2.5-32B-v0.0-GGUF — это текстовая генеративная модель на базе EVA-Qwen2.5-32B-v0.0, разработанной EVA-UNIT-01. Представлена в формате GGUF и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на диалоговую генерацию текста, следование инструкциям, написание текстов и roleplay-сценарии. Модель содержит 32 миллиарда параметров; точная архитектура, размер контекста и перечень поддерживаемых языков в README не указаны. Доступны варианты от F16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, включая imatrix-квантизации. Более крупные варианты обеспечивают лучшее качество, а компактные требуют меньше оперативной памяти, но могут заметнее терять в качестве. Некоторые варианты оптимизированы для ARM и требуют поддержки SVE или i8mm; они не предназначены для Mac или Windows. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix. Модель распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков, поэтому фактическое качество в конкретных задачах следует оценивать отдельно.
Exodia-7B — разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Карточка описывает её как результат слияния нескольких моделей, призванный объединить их сильные стороны и снизить слабые стороны; конкретные исходные модели и разработчик в README не названы. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы с учётом контекста и работу с разными типами запросов. Доступны веса PyTorch. Лицензия — MIT. README заявляет широкую применимость и повышенное покрытие знаний, но не приводит оценок, тестов или конкретных примеров, подтверждающих эти заявления. Указанные характеристики не подтверждают поддержку изображений, аудио или других нетекстовых входов.
MaziyarPanahi/Experiment26Neuralsirkrishna_Experiment27Pastiche — объединённая модель для генерации текста, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment27Pastiche-7B. Она использует плотную архитектуру Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Контекстное окно составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0.
MaziyarPanahi/Experiment28M7_Inex12Experiment26 — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы. Размер контекстного окна составляет до 32 768 токенов; веса представлены в формате safetensors. Модель объединяет automerger/Experiment28M7-7B и automerger/Inex12Experiment26-7B. Для неё указана лицензия Apache-2.0, допускающая использование на её условиях. Карточка не описывает специальные предметные области или отдельные ограничения качества.
Experiment28M7_Strangemerges_32M7 — объединённая методом SLERP языковая модель на архитектуре Mistral, созданная из automerger/Experiment28M7-7B и automerger/Strangemerges_32M7-7B. Модель предназначена для генерации текста и диалога; она содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README не описывает специальные области применения, языки или ограничения качества; доступные сведения указывают на модель общего назначения.
deepset/gbert-large-sts — немецкоязычная модель deepset для оценки семантического сходства пар текстов. Она основана на GBERT-large и дообучена на обучающей и валидационной частях немецкого STS-бенчмарка, полученного машинным переводом. Архитектура — BERT для классификации последовательностей, размер — 434,5 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для сравнения немецких фраз и предложений: например, для поиска похожих формулировок, сопоставления запросов и группировки семантически близких текстов. В карточке указана оценка на тестовой части немецкого STS-бенчмарка, но численные результаты не приведены. Веса доступны в форматах PyTorch и safetensors; лицензия — MIT.
GLM-5.3-Flash-EXL3-Q4 — производная квантованная версия языковой модели GLM-5.3-Flash-BF16, разработанной Z.AI. Конвертацию и проверку выполнил проект Dione с использованием ExLlamaV3. Модель предназначена для генерации текста и запуска GLM-5.3-Flash в формате selective EXL3, включая сценарии локального инференса на системах с несколькими GPU. Поддержка полноценного серверного запуска, проверки конечной точки, генерации ответов, vision и MTP для этой сборки ещё не подтверждена. Модель имеет архитектуру mixture-of-experts: 45 языковых слоёв, из которых 3 плотных и 42 маршрутизируемых MoE-слоя с 288 экспертами, top-8 routing и одним общим экспертом. Квантованы только gate/up/down-проекции маршрутизируемых экспертов в слоях 3–44 с представлением EXL3 Q4 и эффективной точностью 4,0 bpw; основные компоненты, включая attention, routers, shared experts, embeddings, LM head, нормы, vision и MTP, сохранены в исходной точности BF16. Артефакт занимает 187,45 ГБ и рассчитан на tensor parallel size 4. Сведения о поддерживаемых языках и максимальном контексте в README не указаны. Преимущество модели — существенное уменьшение размера экспертных весов при сохранении большей части исходной точности: на тесте Wikitext-2 прирост perplexity относительно BF16 составил 2,38%, а согласие top-1 — 91,70%. Ограничения связаны с нестандартным форматом checkpoint glm53-selective-exl3-tp4-v1: требуется совместимый loader для selective EXL3 и нельзя рассчитывать на стандартный Transformers или произвольный EXL3 runtime. Модель распространяется по лицензии MIT как производная от исходной модели Z.AI.
GLM-5.3-Flash-W4A16-NVFP4-K32-Experts-FP8-WO — это смешанно-квантизированная версия модели GLM-5.3-Flash-BF16, разработанной Z.ai и опубликованной пользователем ormandj. Модель предназначена для задач генерации текста и обработки изображений, включая мультимодальные сценарии с vision input, а также для серверного инференса с несколькими одновременными запросами и speculative decoding. Модель поддерживает контекст до 499 712 токенов и рассчитана на работу на двух GPU RTX PRO 6000 Blackwell с 96 ГБ памяти каждый. Маршрутизируемые эксперты в слоях 3–45 квантизированы в ModelOpt W4A16 NVFP4, а часть attention- и shared-expert-проекций — в weight-only FP8; vision tower, проектор, эмбеддинги, LM head, маршрутизаторы, нормализации и ряд других компонентов сохранены в исходной точности. Тензорные данные занимают около 178 ГБ в 90 safetensors-шардах. В README указано качество 96,9% на GSM8K в zero-shot greedy-режиме, сопоставимое с исходной BF16-моделью в аналогичных условиях. Основные ограничения связаны с узкой аппаратной и программной совместимостью: требуется Linux x86_64, две GPU с архитектурой SM120, Docker и NVIDIA Container Toolkit. Чекпойнт использует специальный контракт modelopt_mixed и на данный момент корректно загружается только через закреплённый образ SGLang/FlashInfer; стандартные версии Transformers, vLLM и SGLang не поддерживаются. Это не официальный релиз Z.ai, ModelOpt или SGLang. Исходный чекпойнт распространяется по лицензии MIT; рекомендации по применению и ограничениям следует уточнять в карточке исходной модели.
facebook/hubert-large-ls960-ft — модель распознавания речи от Facebook, построенная на архитектуре HuBERT Large и дообученная на 960 часах LibriSpeech. Она преобразует речь в текст и рассчитана на распознавание английской речи, записанной с частотой дискретизации 16 кГц; входной аудиосигнал следует подавать с этой частотой. Модель содержит около 402,7 млн параметров и доступна в форматах PyTorch и TensorFlow. HuBERT использует самоконтролируемое обучение речевых представлений: при предобучении модель учится предсказывать кластерные метки на маскированных фрагментах аудио, а затем дообучается для распознавания речи. Подходит для транскрибирования англоязычных записей и аудио из наборов LibriSpeech-подобного типа. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит конкретных метрик распознавания этой версии; качество зависит от условий записи и соответствия входа требованиям по частоте дискретизации.
DevQuasar-7/huihui-ai.DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-GGUF — это квантованная версия модели huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2, подготовленная в формате GGUF командой или проектом DevQuasar. Модель предназначена для генерации текста и может использоваться в сценариях локального запуска и инференса с совместимыми инструментами, поддерживающими GGUF. Из карточки следует, что её базовая модель относится к семейству DeepSeek-R1-Distill-Qwen и имеет размер 14B параметров; точный тип квантования не указан. Ключевая заявленная модальность — текстовая генерация. Сведения о поддерживаемых языках, размере контекстного окна, конкретной архитектуре, требованиях к оборудованию и результатах оценки отсутствуют. К потенциальным ограничениям относятся зависимость качества и скорости от выбранного варианта квантования и программного окружения, а также отсутствие в карточке описания сильных сторон, бенчмарков и рекомендаций по применению. Лицензия и условия использования в README не указаны.
Это версия в формате FP16 модели JAIS-30B-Chat-v3, опубликованная amgadhasan и основанная на core42/jais-30b-chat-v3. Модель с плотной архитектурой JAIS предназначена для генерации текста в диалоговом режиме; её можно применять для общения на естественном языке и получения ответов на вопросы. Контекстное окно составляет 8192 токена. В README указано, что права принадлежат исходным авторам. Условия лицензии не приведены, поэтому перед использованием следует проверить лицензию исходной модели core42/jais-30b-chat-v3.
Josiefied-Qwen3-1.7B-abliterated-v1 — дообученная Гёкденизом Гюльмезом компактная языковая модель семейства Qwen3 на 1,7 млрд параметров. Она предназначена для генерации текста, диалогов и выполнения инструкций, с акцентом на менее ограниченные ответы и сохранение навыков следования инструкциям и использования инструментов. Модель использует плотную архитектуру Qwen3ForCausalLM, принимает текст и выдаёт текст. Длина контекста — до 40 960 токенов. В карточке заявлена поддержка разных языков; основной язык не выделен. Модель распространяется в формате safetensors, а в семействе также упомянуты варианты GGUF и MLX. Снижение фильтрации безопасности может приводить к чувствительным или спорным ответам. Автор предупреждает об использовании на свой риск. Лицензия в предоставленных данных не указана.
Это экспериментальная квантизация GGUF модели huihui-ai/Huihui-Kimi-Linear-48B-A3B-Instruct-abliterated, подготовленная ENOSYS. Она предназначена для генерации текста в диалоге, включая ответы на запросы, связанные с кодом, математикой и инструментами. В README указаны калибровочные данные для английского и русского текста, кода, математики и инструментов, а также экспериментальная глобальная квантизация с целевым диапазоном 3,0–3,5 бит на вес. Тензоры записаны в F16 для совместимости с архитектурой Nvidia Pascal, включая P100; для квантования использовалась нестандартная ветка LLaMA C++, а репозиторий содержит небольшие патчи. Модель основана на Kimi Linear 48B A3B Instruct и предназначена для локального запуска в формате GGUF; карточка описывает её как разговорную мультиязычную модель. Квантизация уменьшает размер весов, но приводит к потерям качества: в README приведены сравнительные метрики perplexity и KL divergence для нескольких вариантов битности. Лицензия — MIT.
Llama-3.1-70B-Hanami-x1 — экспериментальная чат-модель от Sao10K, созданная на основе Euryale v2.2. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста в диалоге; в метаданных также заявлен интерфейс вызова инструментов. Автор отмечает, что модель отличается от Euryale v2.2 и предпочитает её предыдущим версиям после собственных проверок. Для моделей Llama 3 автор рекомендует параметр семплирования min_p не ниже 0,1; настройки Euryale v2.1 и v2.2 также подходят. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
L3.3-70B-Magnum-v4-SE-GGUF — набор GGUF-квантизаций модели L3.3-70B-Magnum-v4-SE, подготовленный bartowski на базе модели Doctor-Shotgun. Квантизация выполнена с помощью llama.cpp с использованием imatrix и предназначена для локального запуска, в частности через LM Studio. Модель относится к классу text-generation и ориентирована на генерацию текста и диалоговые сценарии; в метаданных указана поддержка английского языка и тег chat. Доступны варианты с разными уровнями квантизации — от Q8_0 размером около 75 ГБ до IQ2_S размером около 24 ГБ. Более крупные варианты обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для большинства сценариев рекомендуются Q4_K_M, Q5_K_M, Q5_K_S и Q6_K; некоторые варианты оптимизированы для CPU ARM, Apple Silicon или систем с ограниченным объёмом памяти. Из README не указаны точная архитектура исходной модели, размер контекстного окна, поддерживаемые модальности помимо текста и результаты независимого тестирования. Модель распространяется по лицензии llama3.3; условия использования следует уточнять в лицензии исходной модели и на странице репозитория.
Sakalti/light-1.1-3B — дообученная Sakalti модель для генерации текста и диалога, разработанная Sakalti на базе Sakalti/light-3B. Она построена на плотной архитектуре Qwen2 и содержит 3,1 млрд параметров. Модель рассчитана на текстовый ввод и генерацию текста; в метаданных также отмечен интерфейс вызова инструментов. Карточка сообщает, что модель обучалась с использованием Unsloth и библиотеки TRL. Метаданные указывают контекст до 131 072 токенов и поддержку английского и японского языков. Указана лицензия qwen-research; условия её применения следует сверять с лицензией репозитория и базовой модели.
xinlai/Llama-3-70B-SFT-Step-DPO — разговорная языковая модель семейства Llama 3, представленная в формате safetensors. Она предназначена для генерации текста и диалогового общения. Модель плотная, содержит 69,5 млрд параметров и поддерживает контекст до 8192 токенов. Название указывает на supervised fine-tuning и обучение методом Direct Preference Optimization, однако README не содержит описания обучения или оценки качества. Модель распространяется по лицензии Apache-2.0.
Llama-xReadable-11B-zhTW-OCR-v3 — модель оптического распознавания символов для традиционного китайского языка Тайваня, разработанная облачной компанией 云碩科技 (xCloudinfo) на базе Meta Llama 3.2 11B Vision Instruct. Это плотная мультимодальная модель семейства mllama с возможностью диалога и анализа изображений; она принимает изображения документов и выдаёт распознанный текст. Модель дообучена для печатных и сканированных документов, квитанций, заметок и смешанного китайско-английского текста; результат нормализуется в традиционное китайское письмо. В оценках на шрифтах, не встречавшихся при обучении, модель показала низкую долю посимвольных ошибок на печатном тексте. Распознавание рукописей остаётся экспериментальным и требует проверки человеком; бледный или неразборчивый почерк распознаётся хуже. Для таблиц и сложной разметки рекомендуется предварительно разделить изображение на строки или ячейки. Английские фрагменты поддерживаются, но данных для них меньше. Модель распространяется в формате bf16 safetensors по лицензии Llama 3.2; для запуска подходят Transformers и vLLM, требуется около 21 ГБ для весов и рекомендуется GPU с 24 ГБ видеопамяти или больше.