I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейЭто вариант Zephyr-7B-Beta, опубликованный arnavgrg: модель MistralForCausalLM с плотной архитектурой и примерно 7,1 млрд параметров. Это разговорная модель для генерации текста, которую можно загружать через Transformers в формате fp16; заявленная длина контекста — 32 768 токенов. Модель создана из HuggingFaceH4/zephyr-7b-beta: исходные веса линейных слоёв были квантованы до NF4 с помощью bitsandbytes, после чего слои Linear4bit были преобразованы обратно в fp16. Такой вариант рассчитан на инференс без затрат на квантование и обратное преобразование при каждом проходе. Квантование с потерями ухудшает качество относительно официальной базовой модели. Репозиторий распространяется по лицензии Apache-2.0.
amad-iq/amad-vlm5-GGUF — это квантованные сборки мультимодальной vision-language модели для распознавания текста на изображениях, разработанные компанией Amad Software Solutions из Ирака. Модель дообучена на базе Qwen2.5-VL-7B-Instruct и ориентирована прежде всего на Arabic OCR, включая распознавание арабского текста, рукописного письма и понимание документов. Модель принимает изображения и текстовые инструкции, поддерживает арабский и английский языки и предназначена для извлечения текста из отсканированных страниц, изображений документов и других визуальных источников. Доступны варианты F16 размером 15,24 ГБ, Q8_0 размером 8,10 ГБ и Q4_K_M размером 4,68 ГБ. Для работы каждой сборке требуется отдельный файл mmproj-amad-vlm5-f16.gguf размером 1,35 ГБ, содержащий vision projector и vision encoder. Рекомендуемая длина контекста — не менее 8192 токенов, а максимальный объём вывода — от 4096 токенов. Сильные стороны модели — специализация на арабском OCR, поддержка рукописного текста и сценариев понимания документов, а также возможность локального запуска через llama.cpp или LM Studio. Модель может генерировать рассуждения в блоках <think>, поэтому при транскрипции следует использовать только текст после последнего закрывающего тега. README не содержит результатов бенчмарков и подробного описания ограничений, поэтому качество на конкретных типах изображений заранее оценить нельзя. Распространение выполняется по лицензии Apache 2.0.
evewashere/cohere-transcribe-03-2026-ungated — публичное зеркало модели Cohere Transcribe, созданное для загрузки без токена доступа к gated-репозиторию. Исходную модель разработали Cohere и Cohere Labs. Это специализированная модель распознавания речи с архитектурой Cohere ASR и 2 млрд параметров; она принимает аудио и выдаёт текст. Поддерживает арабский, немецкий, греческий, английский, испанский, французский, итальянский, японский, корейский, нидерландский, польский, португальский, вьетнамский и китайский языки. Модель предназначена для транскрибации речи, в том числе в приложениях и сервисах с локальным или серверным инференсом. Разработчики заявляют высокую точность на 14 языках и скорость до трёх раз выше других специализированных ASR-моделей сопоставимого размера. Репозиторий использует формат Safetensors и поддерживается Transformers и vLLM. Лицензия — Apache-2.0. Лучшие результаты модель показывает, когда язык аудио заранее задан и остаётся одним из поддерживаемых. В ней нет автоматического определения языка, временных меток и разделения речи по говорящим; на смешанной речи качество непостоянно. Модель может ошибочно транскрибировать тихий фоновый шум, поэтому для таких записей полезны VAD или шумовой фильтр.
DeepSeek-OCR-2-6bit — мультимодальная vision-language модель для анализа изображений и генерации текста, ориентированная прежде всего на задачи OCR и понимания визуального содержимого. Модель преобразована сообществом mlx-community в формат MLX из prince-canuma/DeepSeek-OCR-2 с использованием mlx-vlm версии 0.3.10. Модель предназначена для распознавания и описания содержимого изображений, включая сценарии обработки документов и извлечения текста. Она поддерживает мультиязычный режим, принимает изображения и формирует текстовые ответы; в README приведён пример запроса на описание изображения через mlx-vlm. Точные сведения об архитектуре, количестве параметров, размере контекста и перечне языков не указаны. Ключевая особенность этой версии — 6-битное квантование и совместимость с MLX, что может снизить требования к памяти при локальном запуске на поддерживаемом оборудовании. Ограничениями являются отсутствие в карточке подробных данных о качестве распознавания, поддерживаемых форматах и аппаратных требованиях, а также возможная необходимость custom code. Модель распространяется по лицензии Apache-2.0.
DeepSeek-R1-Distill-Qwen-32B-abliterated-GGUF — это набор квантизированных версий текстовой генеративной модели DeepSeek-R1-Distill-Qwen-32B-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходную модель разработала huihui-ai. Модель предназначена для генерации текста и запуска локально через совместимые инструменты, включая LM Studio и llama.cpp. Модель содержит около 32 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3, включая IQ-варианты. Размер файлов составляет примерно от 15,94 до 65,54 ГБ в зависимости от варианта. README не указывает поддерживаемые языки, размер контекстного окна и мультимодальные возможности, поэтому подтверждено только текстовое применение. Ключевые преимущества — широкий выбор вариантов квантизации, возможность локального запуска и сохранение высокого качества у версий Q6 и Q5; Q4_K_M обозначена как вариант по умолчанию для большинства сценариев. Более компактные версии подходят для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество. Модель помечена как abliterated и uncensored, однако подробные характеристики, ограничения и лицензия в README не указаны.
DeepSeek-V2-Lite-Chat-IMat-GGUF — это GGUF-квантизированная версия диалоговой языковой модели DeepSeek-V2-Lite-Chat, разработанной deepseek-ai. Квантизацию выполнил legraphista с использованием форка llama.cpp и метода IMatrix, предназначенного для сохранения качества при уменьшении точности весов. Исходная модель имеет формат BF16. Модель предназначена для генерации текста и диалоговых сценариев при локальном запуске через совместимые инструменты, включая llama.cpp. Доступны варианты в форматах FP16, BF16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизациях, что позволяет выбирать между качеством, скоростью и требованиями к памяти. Размер файлов варьируется примерно от 6 до 31 ГБ. IMatrix применяется в ряде низко- и среднебитных вариантов, включая Q4_K, Q3_K, Q2_K и многие IQ-форматы. Сильная сторона набора — широкий выбор степеней квантизации и возможность локального использования в экосистеме GGUF. При этом квантизация снижает требования к ресурсам, но может уменьшать точность и качество генерации по сравнению с исходной моделью; степень потерь зависит от выбранного варианта. README не содержит сведений об архитектурных деталях, числе параметров, поддерживаемых языках, размере контекста и лицензии исходной модели, поэтому эти характеристики нельзя достоверно указать.
EM German Mistral v01 — дообученная модель семейства EM German, разработанная jphme на архитектуре Mistral. Она обучена на большом наборе инструкций на немецком языке и предназначена для понимания запросов, генерации текста и диалогового взаимодействия на немецком. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель подходит для немецкоязычных диалоговых помощников, генерации текстов и ответов на вопросы, в том числе по RAG-шаблону. README указывает формат prompt Vicuna. Веса опубликованы в safetensors для Transformers; лицензия — Apache-2.0. Автор рекомендует обновлять библиотеки при проблемах с поддержкой архитектуры Mistral и отмечает, что результаты могут различаться между версиями и сценариями использования.
Eunoia-Gemma-9B — объединённая с помощью mergekit языковая модель на архитектуре Gemma 2 с 9 млрд параметров. В слиянии SLERP использованы gmonsoon/SahabatAI-Lion-9B-TIES-v1 и Gunulhona/Gemma-System-9B; в конфигурации базовой указана первая модель. Репозиторий содержит веса в формате safetensors, модель предназначена для генерации текста и диалогового общения. Модель принимает текстовые запросы и выдаёт текст. Контекстное окно составляет 8192 токена. Метаданные базовой модели указывают на назначение для диалогов и генерации по инструкциям на языках Юго-Восточной Азии и английском; точный перечень поддерживаемых языков не приведён. Лицензия в предоставленных данных не указана.
Experiment26Yamshadow_NeuralsirkrishnaExperiment28 — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/NeuralsirkrishnaExperiment28-7B. Она предназначена для генерации текста и принимает текстовые запросы. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Репозиторий использует лицензию Apache-2.0.
Systran/faster-whisper-small.en — конверсия модели Whisper small.en от OpenAI в формат CTranslate2, подготовленная для использования в CTranslate2 и проектах на его основе, включая faster-whisper. Модель предназначена для автоматического распознавания английской речи в аудиозаписях и преобразования её в текст. Веса сохранены в FP16. При загрузке в CTranslate2 можно выбрать другой тип вычислений через параметр compute_type. Репозиторий создан 23 ноября 2023 года; лицензия — MIT. Это конвертированная версия openai/whisper-small.en, а не самостоятельное дообучение.
Gemma 3 1B PT — предварительно обученная модель генерации текста из семейства Gemma, разработанного Google на основе исследований и технологий, использованных для Gemini. Версия PT предназначена для дальнейшей адаптации и экспериментов с генерацией текста; семейство также рассчитано на диалог, суммаризацию, ответы на вопросы и рассуждения. Компактный размер семейства позволяет запускать модели на ноутбуках и настольных компьютерах или в собственной облачной инфраструктуре. В README для Gemma 3 заявлены контекстное окно до 128 тыс. токенов, поддержка более 140 языков и обработка изображений с выдачей текста; для конкретной версии 1B PT эти характеристики отдельно не подтверждены метаданными. Модель распространяется в формате safetensors и предназначена для использования через Transformers. Лицензия — Gemma. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; модели также могут испытывать трудности с неоднозначными формулировками и сложными задачами.
Пакет meshllm/GLM-4.7-UD-Q4_K_XL-layers содержит слоевые артефакты GGUF модели GLM-4.7 и предназначен для запуска через Mesh LLM. Он получен из unsloth/GLM-4.7-GGUF: вариант UD-Q4_K_XL разделён на отдельные файлы слоёв для распределённого инференса на локальном кластере; пакет включает метаданные и эмбеддинги. Модель рассчитана на локальный приватный чат и генерацию текста, в том числе на нескольких машинах, когда полный файл GGUF не помещается на одном узле. Mesh LLM позволяет обслуживать запросы через совместимый с OpenAI интерфейс чата. В метаданных указаны формат GGUF, библиотека mesh-llm и поддержка чата. Лицензионные условия следует сверять с карточкой исходной модели unsloth/GLM-4.7-GGUF; доступные сведения их не приводят.
OneNexus/GLM-5.3-Flash-MXFP4 — это чекпойнт модели GLM-5.3-Flash, разработанный OneNexus на базе zai-org/GLM-5.3-Flash. Модель предназначена для серверной обработки текстовых запросов и задач преобразования изображений в текст, включая сценарии с длинным контекстом и мультимодальными запросами. Заявлены английский и китайский языки; обработка видео не оценивалась. Модель имеет 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. В большинстве слоёв используются маршрутизируемые эксперты с форматом весов MXFP4, а для других тензоров сохраняется заявленная точность. Архитектура включает разреженное внимание, K-пул для выбора контекста и встроенный механизм speculative decoding MTP с EAGLE. Максимальный контекст составляет 1 048 576 токенов, однако описанные тесты AgentX использовали ограничение 262 144 токена. Индексированный объём тензоров — около 182,12 GiB. На фиксированных выборках модель показала небольшие преимущества над amd/GLM-5.3-Flash-Quark-MXFP4 в MMLU и GPQA Diamond, но немного уступила в GSM8K; статистически значимое превосходство не установлено. Измеренная производительность при обслуживании запросов практически совпала с сопоставимым чекпойнтом AMD. Результаты зависят от ограничений длины ответа и не подтверждают превосходство в общем качестве, безопасности или агентских сценариях. Основной проверенный вариант развёртывания использует четыре AMD Instinct MI355X, ROCm и SGLang с TP4/EP4 и FP8 KV-кэшем. Лицензия — MIT.
ggml-org/gpt-oss-120b-GGUF — квантизированная модель для генерации текста в формате GGUF, разработанная на основе openai/gpt-oss-120b. Репозиторий опубликован организацией ggml-org; указанные исходные модели связаны также с nvidia/gpt-oss-120b-Eagle3-v3. Модель предназначена для запуска и использования в инструментах, совместимых с GGUF, включая llama.app. Ключевая известная характеристика модели — размер базовой модели 120B параметров и квантованный формат представления, который может снизить требования к ресурсам по сравнению с полноразмерной версией. README не содержит сведений об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна, поэтому эти параметры нельзя надежно определить. Модель автоматически преобразована с помощью инструментария ggml-org/convert. Это делает её удобной для локального запуска через совместимое программное обеспечение, однако конкретные требования к памяти, производительность и характеристики квантования в README не указаны. Лицензия — Apache-2.0.
Gunulhona/Hermes-Llama-Merge — объединённая плотная языковая модель семейства Llama, созданная с помощью mergekit методом Model Stock. За основу взята NousResearch/Hermes-3-Llama-3.1-8B; в объединение также вошли несколько инструкционных моделей Llama 3 на корейском языке, Meta-Llama-3.1-8B и OpenChat 3.6. Модель содержит около 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и опубликована в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Метаданные указывают контекст до 131 072 токенов, а описание базовой Hermes 3 отмечает поддержку инструкций, рассуждений, генерации кода и интерфейса вызова инструментов. Набор объединённых моделей указывает на особый акцент на корейском языке наряду с возможностями базовой модели. Карточка не приводит сравнительных оценок качества или подробного описания ограничений объединённой версии. Модель опубликована 30 августа 2024 года; сведения о лицензии в предоставленных данных отсутствуют.
bartowski/inclusionAI_Ring-mini-2.0-GGUF — это набор квантизованных версий языковой модели Ring-mini-2.0, разработанной inclusionAI. Модель предназначена для генерации текста и запускается в формате GGUF через llama.cpp, LM Studio и другие совместимые приложения. В README указано, что квантизация выполнена с использованием llama.cpp и метода imatrix. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и Q3_K с размером файлов примерно от 6,82 до 32,54 ГБ. Более крупные варианты обеспечивают более высокое качество, а Q4_K_M указан как вариант по умолчанию для большинства сценариев; Q6_K и Q6_K_L отмечены как версии очень высокого качества. Модель поддерживает формат промпта с ролями SYSTEM, HUMAN и ASSISTANT, а также специальным маркером рассуждений. Набор подходит для локального вывода текста на устройствах с ограниченными ресурсами, если выбрать подходящий уровень квантизации. Ограничения, архитектура, количество параметров, поддерживаемые языки, размер контекстного окна и мультимодальные возможности в README не указаны. Лицензия модели также не указана, поэтому условия использования следует уточнять в описании исходной модели inclusionAI/Ring-mini-2.0.
Это пакет слоёв GGUF модели Kimi-K2.6 в варианте UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Пакет создан из unsloth/Kimi-K2.6-GGUF и сохраняет исходное распределение GGUF, разбитое на артефакты по слоям для запуска на кластере Mesh LLM. Модель предназначена для локального приватного чата и генерации текста, в том числе для обслуживания запросов через совместимый с OpenAI API. Разбиение слоёв позволяет распределять вычисления и память между несколькими машинами, когда полной модели не помещается на одном узле. Формат пакета — layer-package; исходные артефакты — GGUF с квантизацией UD-Q4_K_XL. Для деталей архитектуры, языков, контекстного окна и условий лицензии README направляет к карточке исходной модели; эти сведения в доступных данных не приведены. Для работы пакет рассчитан на Mesh LLM и распределённый инференс.
Kosmos-EVAA-v2-8B — объединённая модель генерации текста на базе архитектуры Llama, созданная Jaspionjader с помощью mergekit. Веса двух предварительно обученных моделей, Kosmos-EVAA-8B и Kosmos-Elusive-VENN-8B, объединены методом SLERP; в метаданных указано 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста и диалогов. Согласно описанию базовой модели в каталоге, она работает на русском и английском языках. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Данные не уточняют специализацию, качество на конкретных задачах или лицензионные условия.
Dampfinchen объединил эту плотную языковую модель методом DARE TIES с помощью mergekit. В основе лежит NousResearch/Meta-Llama-3-8B; в слияние также вошли NousResearch/Meta-Llama-3-8B-Instruct и Dampfinchen/Llama-3-8B-Ultra-Instruct. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста. Автор стремился сохранить возможности Llama 3 Instruct и усилить ролевые диалоги, работу с RAG, немецким языком и написание историй. Указана лицензия llama3. Автор предупреждает, что модель может выдавать вредоносные ответы.
LLM-jp-4-VL 9B — мультимодальная модель зрения и языка, разработанная LLM-jp. Она сочетает языковую модель llm-jp/llm-jp-4-8b-thinking на 8,6 млрд параметров, визуальный энкодер SigLIP 2 So400m на 0,4 млрд параметров и двухслойный MLP-проектор; архитектура вдохновлена InternVL3.0. Модель дообучена для работы с изображениями и диалогов на японском и английском языках, а также формирует рассуждение перед итоговым ответом. Модель предназначена для ответов на вопросы по изображениям, понимания документов и диаграмм, мультимодальных задач и текстовых задач на рассуждение. Разработчики сообщают об улучшении относительно бета-версии на некоторых текстовых и сложных задачах понимания диаграмм; качество различается между бенчмарками и задачами. Модель доступна в формате Safetensors и использует лицензию Apache-2.0.
lumikabra-195B v0.3 — крупная языковая модель на архитектуре Mistral с 194,2 млрд параметров, созданная объединением моделей методом passthrough. В README указана как более крупный вариант lumikabra v0.3; в слияние вошли два диапазона слоёв модели schnapper79_lumikabra-123B_v0.3. Репозиторий содержит веса Safetensors для Transformers, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста и диалогового общения. Интерфейс также поддерживает вызов инструментов. В README приведён пример запроса на написание художественной главы, однако он не устанавливает отдельную специализацию модели. Карточка указывает лицензию «other», поэтому конкретные условия использования следует сверить с лицензией в репозитории.
M7Yamshadowexperiment28_Ognoexperiment27M7 — объединённая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Ognoexperiment27M7-7B. Она содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Лицензия Apache-2.0 разрешает использование на её условиях. Данных о специальных областях применения и ограничениях качества в карточке нет.
M7Yamshadowexperiment28_YamshadowExperiment28 — слитая языковая модель на архитектуре Mistral, созданная объединением automerger/M7Yamshadowexperiment28-7B и automerger/YamshadowExperiment28-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует формат весов Safetensors и поддерживает контекст до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0.
MeliodasPercival_01_YamNeuralsirkrishna — объединённая модель Mistral с 7,1 млрд параметров, созданная на основе automerger/MeliodasPercival_01-7B и automerger/YamNeuralsirkrishna-7B. Она предназначена для генерации текста и диалогов на основе текстовых запросов; максимальная длина контекста составляет 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специальные области применения или отдельные языковые возможности, поэтому её можно рассматривать как модель общего назначения. Характеристики и ограничения исходных моделей в карточке не раскрыты.
MiniCPM5-1B-heretic-som-i1-GGUF — GGUF-квантизированная версия языковой модели MiniCPM5-1B-heretic-som, подготовленная mradermacher на основе модели dalatexcoder. Модель предназначена для генерации и обработки текста, диалоговых сценариев, задач с длинным контекстом, вызова инструментов и локального запуска на устройствах с ограниченными ресурсами. В метаданных указана поддержка английского и китайского языков. Модель содержит около 1 млрд параметров и представлена в различных вариантах квантизации GGUF размером примерно от 0,5 до 1,0 ГБ, включая IQ- и Q-варианты. Доступны imatrix-квантизации, оптимизированные для самостоятельного создания квантованных файлов. Наиболее сбалансированными в README названы i1-Q4_K_S и i1-Q4_K_M, причём последний рекомендован как быстрый вариант. Заявленные преимущества — небольшой размер, возможность работы локально и на периферийных устройствах, а также поддержка длинного контекста и tool calling. Качество зависит от выбранного уровня квантизации: самые компактные варианты могут заметно снижать качество генерации, а некоторые обозначены как имеющие очень низкое качество. Точные параметры архитектуры, максимальная длина контекста, результаты бенчмарков и сведения о мультимодальности в README не приведены; по доступным данным это текстовая модель. Модель распространяется по лицензии Apache-2.0.
MiniCPM5-1B-SFT-i1-GGUF — набор GGUF-квантизированных версий модели MiniCPM5-1B-SFT, разработанной командой OpenBMB и опубликованной как openbmb/MiniCPM5-1B-SFT. Квантизацию выполнил mradermacher. Модель предназначена для генерации текста, задач с длинным контекстом, вызова инструментов и локального применения на устройствах с ограниченными ресурсами, включая edge-сценарии. Базовая модель имеет размер 1 млрд параметров; в карточке указаны поддерживаемые языки English и Chinese, а также библиотека Transformers. Доступны варианты с разными уровнями квантизации GGUF — от очень компактных IQ1 и Q2 до Q6_K, примерно от 0,5 до 1,0 ГБ. Варианты различаются по размеру, скорости и качеству; для баланса этих характеристик рекомендованы i1-Q4_K_S и i1-Q4_K_M, тогда как наиболее низкие уровни квантизации могут заметно снижать качество. Точная длина контекста и сведения о дополнительных модальностях в README не указаны. Модель удобна для быстрого локального запуска и использования на маломощном оборудовании, однако качество зависит от выбранной квантизации, а низкоразмерные варианты могут быть менее точными. Для использования требуются совместимые инструменты для работы с файлами GGUF. Модель распространяется по лицензии Apache-2.0.
Это GGUF-представление Qwen2.5-72B-Instruct в формате BF16, опубликованное featherless-ai-quants на основе модели mlx-community/Qwen2.5-72B-Instruct-bf16. Репозиторий содержит несколько вариантов квантования, включая IQ4_XS, Q2_K и Q3_K_L; README также описывает возможность запуска моделей через хостинг Featherless AI. Модель предназначена для диалоговой генерации текста. Её можно использовать для ответов на вопросы, подготовки текстов и ведения чата. Размер исходной модели — 72 млрд параметров. Данные не уточняют поддерживаемые языки и длину контекста. Доступны варианты с разным уровнем квантования и размером файлов, поэтому требования к ресурсам и качество могут различаться. Условия лицензии в предоставленных источниках не описаны.
MonkeyOCR-pro-1.2B Vision GGUF — мультимодальная модель для распознавания текста и анализа документов по изображениям. Репозиторий подготовлен для использования в формате GGUF, включая совместимые с LM Studio файлы. В основе указана архитектура Qwen2.5-VL; модель содержит около 1,2 млрд параметров, использует квантование Q8_0 и поддерживает контекст до 8 196 токенов. Модель принимает изображения и текст, извлекает текст из документов, анализирует структуру страниц, таблицы и форматирование, а также отвечает на вопросы об изображениях в диалоге. В карточке заявлена поддержка английского, китайского и других языков. Указанные сценарии — OCR и разбор документов; фактическая точность зависит от качества изображения и языка. Лицензия репозитория — Apache-2.0.
Guile/nbeerbower_BigBubba-Qwen3.6-27B-GGUF — это квантизированная GGUF-версия модели BigBubba-Qwen3.6-27B, разработанной nbeerbower и подготовленной bartowski с использованием llama.cpp. Модель предназначена для генерации текста и обработки изображений совместно с файлом mmproj, поэтому может применяться в текстовых и мультимодальных сценариях. Указаны английский и китайский языки. Модель содержит 27,4 млрд параметров, поддерживает MTP и imatrix. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и IQ-квантизаций; рекомендуемым универсальным вариантом называется Q4_K_M размером 17,77 ГБ, а Q6_K и Q6_K_L обеспечивают более высокое качество при большем потреблении памяти. Среди сильных сторон — широкий выбор форматов, поддержка изображений и возможность локального запуска через совместимые инструменты llama.cpp. Ограничения включают значительные требования к памяти, зависимость мультимодальной работы от отдельного mmproj-файла и возможное снижение качества в менее точных квантизациях. Лицензия — Apache-2.0.
NeuralDaredevil-8B-abliterated-x-Llama-3-8B-instruct — объединённая разговорная языковая модель на архитектуре Llama 3, опубликованная IsakNordgren. Репозиторий содержит веса в формате Safetensors; размер модели — около 7,5 млрд параметров, нативный контекст — 8192 токена. README указывает на объединение NeuralDaredevil-8B-abliterated и AI-Sweden-Models/Llama-3-8B-instruct методом dare_ties с конфигурацией LazyMergekit. Модель предназначена для диалогов и генерации текста. Базовая Llama 3 от AI-Sweden-Models ориентирована на шведский, датский и норвежский языки; карточка этой модели не уточняет языковые ограничения самого объединённого чекпойнта. README не приводит результаты оценки качества или подробные ограничения применения. Лицензия в предоставленных данных не указана.