I.3Извлечение и структурирование данных

InternVL-Chat-V1-5-AWQ — мультимодальная модель для задач, объединяющих работу с изображениями и текстом, разработанная командой OpenGVLab. Она предназначена для визуально-языковых сценариев, включая описание изображений и диалоговое взаимодействие по их содержимому. Модель доступна в экосистеме Transformers и поддерживает инференс через LMDeploy, в том числе в пакетном офлайн-режиме и как REST-сервис с OpenAI-совместимым API. Это квантованная версия OpenGVLab/InternVL-Chat-V1-5 с квантизацией весов AWQ в формате W4A16: веса представлены с точностью 4 бита, а активации — 16 бит. Для ускорения инференса используются оптимизированные CUDA-ядра LMDeploy; заявлено ускорение до 2,4 раза по сравнению с FP16. README не содержит точных сведений о числе параметров, архитектуре, размере контекста и перечне поддерживаемых языков, указывая язык как multilingual. Для работы требуется LMDeploy версии 0.5.3 или новее и совместимая NVIDIA GPU: Turing, Ampere или Ada Lovelace, включая серии 20, 30 и 40, а также T4, A10, A16, A30 и A100. Модель распространяется по лицензии MIT; при этом использует предварительно обученную internlm2-chat-20b, распространяемую по Apache License 2.0.

Jev-Style-Qwen3.5-2B-Decision-v2-MLX-bf16 — англоязычная модель для классификации, маршрутизации и выбора типизированного ответа из заданного списка. Она основана на Qwen3.5-2B и дообучена в формате Jev-style: получает описание состояния, вопрос и от 2 до 26 вариантов, а за один проход выдаёт вероятности выбора с применением калибровки. Репозиторий содержит веса MLX в BF16, клиент инференса и материалы оценки; указанный размер модели — 1,7 млрд параметров, нативный контекст — 262 144 токена. Модель предназначена для задач с заранее заданными ответами, включая классификацию текста, логические вопросы, маршрутизацию и упорядоченные оценки. В фиксированной англоязычной панели автор сообщает точность 81,20% и улучшение метрик относительно сравниваемых моделей; эти результаты относятся к описанному набору задач и не гарантируют аналогичного качества на других данных. Интерфейс ограничивает промпт 1 024 токенами, хотя контекстная ёмкость базовой архитектуры больше. Этот вариант рассчитан на запуск через MLX на Apple Silicon. Лицензия — Apache-2.0.

x2bee/KoModernBERT_SBERT_compare_mlmlv5 — модель Sentence Transformers, дообученная разработчиком x2bee на базе x2bee/KoModernBERT-base-mlm_v02 на корейском NLI-датасете. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для оценки семантического сходства, поиска по смыслу, поиска перефразировок, кластеризации и классификации текста. Сходство между векторами оценивается косинусной мерой. Архитектура основана на ModernBERT, число параметров — 185,7 млн; метаданные указывают контекст до 8192 токенов, тогда как README задаёт максимальную длину последовательности 512 токенов. Модель рассчитана прежде всего на корейский язык. В README приведены результаты оценки сходства на sts_dev: коэффициент корреляции Спирмена для косинусного сходства — 0,6328. Модель принимает текст и выдаёт векторы; качество для языков помимо корейского не подтверждено приведёнными данными. Лицензия в предоставленных сведениях не указана.

Llama 2 70B Orca 200k — языковая модель для генерации текста и выполнения инструкций, созданная ddobokki на базе Llama 2 70B. Репозиторий TheBloke содержит её квантованные версии в формате GGUF; исходная модель доступна в формате PyTorch fp16. Модель ориентирована на англоязычные сценарии общения, ответов на запросы и других задач text-generation. Модель имеет архитектуру Llama и 70 миллиардов параметров. Вариант GGUF предназначен для локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать между требованиями к памяти и сохранением качества, однако README не приводит точных характеристик контекстного окна, результатов тестирования или производительности. К сильным сторонам относятся большой размер модели, instruction-tuned назначение, поддержка локального CPU+GPU-инференса и широкий выбор уровней квантования. Ограничения включают высокие требования к ресурсам для 70B-модели, возможное снижение качества из-за квантования и отсутствие заявленных мультимодальных возможностей; указана только поддержка языка English. Использование регулируется лицензией Llama 2.

bunnycore/Llama-3.1-8B-TitanFusion-Mix — объединённая текстовая языковая модель на архитектуре LlamaForCausalLM, созданная с помощью mergekit методом Model Stock. В README указано слияние вариантов TitanFusion v1, v2 и v3; метаданные также связывают модель с grimjim/Llama-3-Instruct-abliteration-LoRA-8B. В репозитории используются веса safetensors, размер модели — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового применения. Метаданные не указывают языки, поэтому нельзя надёжно определить языковую специализацию. В карточке приведены результаты Open LLM Leaderboard для IFEval и BBH, но они не позволяют установить пригодность для конкретных прикладных областей. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Llama-3-Smaug-8B-GGUF — это набор файлов модели в формате GGUF для abacusai/Llama-3-Smaug-8B. Исходную модель разработала abacusai, а квантованные версии подготовил MaziyarPanahi. Модель предназначена для генерации текста и может использоваться в локальных приложениях и сервисах на базе llama.cpp и совместимых библиотек. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти и качеством генерации. Размер базовой модели — 8B параметров. Модель работает с текстом; другие модальности и поддерживаемые языки в README не указаны. Для корректной генерации необходимо применять шаблон запросов Llama 3 с соответствующими специальными токенами. К сильным сторонам относятся поддержка различных уровней квантования и совместимость с широким набором локальных инструментов, включая llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Ограничения включают возможное снижение качества при использовании более агрессивного квантования, а также отсутствие в README сведений о контекстном окне, результатах оценивания, языковой специализации и подробностях архитектуры. Лицензия в предоставленных материалах не указана.

bartowski/magnum-v3-34b-GGUF — набор GGUF-квантизаций текстовой генеративной модели magnum-v3-34b, разработанной anthracite-org и опубликованной в квантизированном виде bartowski. Модель предназначена для диалогов и генерации текста, а запускать её можно через llama.cpp и совместимые приложения, включая LM Studio. Указан формат prompt с ролями system, user и assistant. В основе модели заявлена 34-миллиардная архитектура 01-ai/Yi-1.5-34B-32K с контекстом до 32K токенов; поддерживаемый язык — английский. Доступны варианты от F16 до сильно сжатых Q2 и IQ2, поэтому можно выбирать между качеством и требованиями к памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q6_K_L, Q5 и Q4; низкобитные варианты требуют меньше оперативной памяти, но заметно теряют в качестве. Некоторые варианты используют Q8_0 для embedding- и output-весов. Ключевые ограничения — англоязычная специализация, необходимость значительных ресурсов для крупных квантов и снижение качества при сильном сжатии. Лицензия — Apache-2.0.

MeliodasPercival_01_YamshadowStrangemerges_32 — объединённая языковая модель семейства Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/YamshadowStrangemerges_32-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке не указаны специализация по языкам, дополнительные прикладные области или отдельные оценки качества. Модель опубликована в формате safetensors под лицензией Apache-2.0.

MEXMA — мультиязычный кросс-языковой энкодер предложений, разработанный авторами исследования «MEXMA: Token-level objectives improve sentence representations». Модель дообучена на основе FacebookAI/xlm-roberta-large и объединяет цели обучения на уровне предложений и токенов: представление предложения на одном языке используется для предсказания маскированных токенов на другом языке. Модель предназначена для получения представлений предложений и сопоставления текстов на разных языках. Авторы сообщают о более высоком качестве в поиске соответствующих переводных фрагментов и ряде последующих задач по сравнению с другими предварительно обученными кросс-языковыми энкодерами предложений. В репозитории указаны архитектура XLM-RoBERTa, 658,7 млн параметров и контекст до 514 токенов; модель использует Transformers и формат safetensors. Для представления предложения следует брать выход энкодера CLS напрямую: pooler модели не обучался. Лицензия — MIT. README не приводит количественные результаты по конкретным задачам и не перечисляет поддерживаемые языки по отдельности.

unsloth/MiMo-VL-7B-RL-GGUF — GGUF-версия мультимодальной модели MiMo-VL-7B-RL, разработанной XiaomiMiMo и подготовленной Unsloth. Модель предназначена для понимания и обработки текста, изображений и видео, включая задачи визуального восприятия, визуального заземления и сложного рассуждения. Версия RL получена после дополнительного обучения с использованием Mixed On-policy Reinforcement Learning, объединяющего сигналы качества восприятия, точности заземления, логического рассуждения и соответствия предпочтениям людей и ИИ. Архитектура включает vision transformer (ViT) с поддержкой исходного разрешения для сохранения мелких визуальных деталей, MLP-проектор для межмодального выравнивания и языковую модель MiMo-7B, оптимизированную для сложных рассуждений. Размер модели — 7B параметров. Данные о поддерживаемых языках и максимальной длине контекста в представленном README не указаны. Формат GGUF ориентирован на запуск с совместимыми инструментами инференса; Unsloth описывает используемый подход Dynamic 2.0 как способ повысить точность квантованных моделей. К сильным сторонам относятся компактный для VLM размер, мультимодальность, сохранение мелких визуальных деталей и усиленная способность к рассуждению после обучения с подкреплением. Ограничения, результаты конкретных тестов и требования к аппаратному обеспечению в представленном описании не приведены. Модель распространяется по лицензии MIT.

MMLW-retrieval-roberta-large — польскоязычный плотный текстовый энкодер семейства RoBERTa от разработчиков MMLW, предназначенный для информационного поиска. Он кодирует запросы и фрагменты текста в векторы размерности 1024; для запросов требуется префикс «zapytanie: ». Модель содержит 533,7 млн параметров, использует контекст до 514 токенов и распространяется в форматах PyTorch и safetensors. Обучение проходило в два этапа: дистилляция знаний англоязычных моделей FlagEmbeddings (BGE) на корпусе из 60 млн польско-английских пар, затем дообучение с контрастивной функцией потерь на польской обучающей выборке MS MARCO. В README приведён результат NDCG@10 58,46 на польском бенчмарке информационного поиска. Модель подходит для поиска по смыслу и сопоставления запросов с текстами; в качестве ограничений следует учитывать необходимость специального префикса для запросов и контекст до 514 токенов. Лицензия — Apache-2.0.

Mahmoud Ashraf опубликовал конверсию чекпойнта MMS-300M из TorchAudio в формат Hugging Face Transformers. Модель построена на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров; в README она описана как обученная на данных для принудительного выравнивания речи и текста. Модель предназначена для forced alignment: сопоставления заданного текста с аудиозаписью и определения временного положения слов или токенов. Это полезно для подготовки субтитров, разметки речевых данных и анализа произнесённой речи. Она принимает аудио и связана с распознаванием речи; для работы выравнивателя требуется текст, который нужно сопоставить с записью. Чекпойнт сохранён в форматах PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

MobileCLIP2-L-14-OpenCLIP — адаптированная для OpenCLIP версия весов модели MobileCLIP2-L-14, разработанной Apple и описанной в работе MobileCLIP2: Improving Multi-Modal Reinforced Training. Репозиторий использует конфигурации OpenCLIP и соответствующие имена весов; доступны веса PyTorch и safetensors. Модель предназначена для классификации изображений по текстовым описаниям без отдельного обучения на целевых классах. Она сопоставляет изображения и текст в общей мультимодальной семантике, что позволяет задавать классы естественным языком и ранжировать их по соответствию изображению. В README приведены результаты и характеристики других вариантов MobileCLIP2, но их нельзя переносить на вариант L-14. Лицензия репозитория — apple-amlr. Для оценки скорости, точности и применимости именно этого чекпойнта следует учитывать его конфигурацию и условия лицензии.

simran14/mr-val-f2 — дообученная модель распознавания речи на архитектуре Whisper, разработанная на базе simran14/mr-val-e. Она предназначена для преобразования аудиозаписей в текст; в метаданных указан датасет Common Voice 17.0. Модель содержит 153,1 млн параметров и распространяется в формате Safetensors. В README приведён результат оценки WER 0,5368 на тестовом наборе, однако подробности протокола оценки и условия применения не описаны. Лицензия в предоставленных данных не указана.

Muse-Glimmer-30B-Heretic-Uncensored-GGUF — набор из 27 GGUF-квантизаций модели Muse-Glimmer-30B-Heretic-Uncensored. Основа разработана Meta Superintelligence Lab, а производный вариант создан darkc0de с применением Heretic v1.4.0 методом abliteration. Модель предназначена для локального запуска задач генерации текста и анализа изображений с текстовым ответом, включая сценарии image-text-to-text. Указанные языки — английский и multilingual; дата отсечения знаний — 4 января 2026 года. Это плотный causal Transformer с Perception Encoder на базе ViT-G/14 примерно на 1,8 млрд параметров; общий размер составляет около 29,6 млрд параметров. Архитектура использует GQA с 32 Q- и 2 KV-головами, SwiGLU, RoPE и скользящее окно внимания; заявленная длина контекста — 131 072 и более токенов. Входные модальности — текст и изображения, выходная — текст. Благодаря 27 вариантам квантизации модель можно запускать на системах с 8–32 ГБ видеопамяти, а также в CPU/RAM-only конфигурациях; размеры файлов составляют примерно от 6,53 до 55,73 ГБ. Для квантизаций менее 4 бит применялась importance matrix для снижения потери качества. К сильным сторонам относятся поддержка изображений, длинный контекст, компактный KV-кэш из-за GQA и широкий выбор квантизаций для различного оборудования. В README заявлено отсутствие отказов на контенте 18+/NSFW, что может быть важно для специализированных сценариев, но одновременно требует осторожного применения и самостоятельной оценки безопасности. Ограничения включают высокие требования к памяти для качественных вариантов, возможное снижение качества у наиболее компактных квантизаций и необходимость сборки llama.cpp из master для поддержки архитектуры Muse-Glimmer. Лицензия — Apache 2.0.

MysticGem-v1.3-Guanaco-L2-13B — объединённая текстовая языковая модель на базе Llama 2, подготовленная автором репозитория v000000 с помощью mergekit. В линейное слияние вошли v000000/MysticGem-v1.3-L2-13B и Mikael110/llama-2-13b-guanaco-qlora; в README также сказано, что к MysticGem 1.3 применялась LoRA. Архитектура — плотная LlamaForCausalLM, размер — 12,9 млрд параметров, родной контекст — 4096 токенов. Модель предназначена для генерации текста и диалогового использования с шаблонами запросов Alpaca и Metharme. В репозитории доступны веса Safetensors; README упоминает также варианты GGUF и GGUF imatrix, подготовленные mradermacher. Язык лицензии и условия использования в предоставленных данных не описаны.

NanoVDR-Q-DistilBERT-Qwen3VL2B-2048-ML — разработанная командой NanoVDR компактная модель-энкодер запросов для поиска по визуальным документам. Это текстовая модель на базе DistilBERT с проектором из двух слоёв; она содержит 69 млн параметров и формирует векторы размерности 2048, совместимые с эмбеддингами документов от Qwen3-VL-Embedding-2B. По данным карточки, модель сохраняет 95,1% качества учителя в оценке на 22 наборах ViDoRe. Модель предназначена для кодирования текстовых запросов на английском, немецком, французском, испанском, итальянском и португальском языках и поиска по заранее индексированным изображениям страниц документов. Индексацию выполняет учитель Qwen3-VL-Embedding-2B, а NanoVDR кодирует запросы; поиск затем можно проводить по косинусному сходству или скалярному произведению, например, с FAISS. В карточке указаны максимальная длина последовательности 512 токенов и возможность обслуживать запросы на CPU. Это специализированный энкодер запросов, а не самостоятельная система индексации документов: для построения индекса требуется отдельная модель-учитель, а карточка указывает, что индексация требует GPU. Модель дообучена на базе distilbert/distilbert-base-uncased методом дистилляции; заявленная лицензия — Apache-2.0.

NeuralsirkrishnaShadow_Experiment26Experiment26 — слитая автором карточки модель на архитектуре Mistral, объединяющая automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment26Experiment26-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов; размер модели — 7,1 млрд параметров. Модель принимает текстовые запросы и выдаёт текст. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Это конвертация модели nomic-ai/nomic-embed-vision-v1.5 в формат GGUF для CrispEmbed. Модель преобразует изображения в 768-мерные L2-нормализованные эмбеддинги, совместимые с пространством эмбеддингов nomic-embed-text-v1.5, что позволяет искать изображения по текстовым запросам. Репозиторий содержит варианты GGUF в точности F16 и F32. Для сопоставления с текстовыми эмбеддингами README описывает дополнительную нормализацию LayerNorm без обучаемых параметров перед L2-нормализацией. По карточке заявлено совпадение результатов с Transformers на проверочных изображениях. Модель распространяется по лицензии Apache-2.0 с атрибуцией Nomic AI.

NorBERTo-large — предобученный текстовый encoder ModernBERT для бразильского португальского языка, разработанный Itaú Unibanco и ICTi. Модель содержит около 394,7 млн параметров, использует 28 слоёв и поддерживает контекст до 8 192 токенов. Веса доступны в форматах PyTorch и Safetensors; модель запускается через Transformers. Модель предназначена для заполнения пропусков в тексте и может служить основой для получения текстовых эмбеддингов и последующей настройки задач понимания языка. В карточке приведены результаты на португалоязычных бенчмарках PLUE и ASSIN 2, включая классификацию и текстовое следование. Для некоторых прикладных задач, таких как классификация последовательностей и ранжирование пар текстов, могут потребоваться соответствующая настройка или отдельная голова модели. Модель рассчитана прежде всего на бразильский португальский и обучена на корпусе Aurora-PT объёмом 331 млрд токенов. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространяет производные материалы на тех же условиях и запрещает коммерческое использование.

Obazda-7B — чат-модель на основе Mistral, созданная Johann Hartmann как объединение предварительно обученных языковых моделей методом DARE TIES с помощью mergekit. В качестве базовой модели использована DiscoResearch/DiscoLM_German_7b_v1; также в объединение вошли Wiedervereinigung-7b-dpo-laser, Experiment26-7B и WestLake-7B-v2-laser-truthy-dpo. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов на немецком языке. Приведённые в карточке оценки показывают относительно сильные результаты в письме, ролевом взаимодействии, извлечении информации, гуманитарных и естественно-научных темах, а также более слабые результаты в рассуждениях, математике и программировании. Распространяется по лицензии Apache-2.0.

AnubisLemonade-70B-v1-GGUF — это квантизированная версия текстовой генеративной модели AnubisLemonade-70B-v1, разработанной ockerman0. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска. Модель содержит около 70 миллиардов параметров и работает в сценариях генерации текста, включая диалоговое взаимодействие и выполнение текстовых запросов. Она совместима с llama.cpp, LM Studio и другими проектами на базе llama.cpp. В README приведён специальный шаблон промпта с ролями system, user и assistant, а также указаны даты отсечения знаний и текущей даты для этого шаблона. Доступны варианты квантизации от Q8_0 до Q2_K_L, различающиеся размером файлов, требованиями к памяти и качеством генерации. Наиболее качественными и рекомендуемыми обозначены Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; младшие варианты экономят память, но могут заметно снижать качество. Большой размер модели ограничивает запуск на устройствах с небольшим объёмом оперативной или видеопамяти. Сведения о поддерживаемых языках, длине контекста, мультимодальности и лицензии в README не указаны.

Orca-Sonar — мультиязычный классификатор документов компании Patronus AI на основе mmBERT (ModernBERT). Модель относит текст или документ к одной из девяти тематических категорий и рассчитана на маршрутизацию текстов по уровню риска перед передачей LLM, проверкой DLP или сохранением. Она распознаёт тему содержимого даже в запросах-обёртках вроде просьбы кратко изложить договор. Модель дообучена на jhu-clsp/mmBERT-small, содержит 140,5 млн параметров и принимает последовательности длиной до 8192 токенов. В карточке описана поддержка немецкого и английского языков; модель возвращает метку класса с оценкой уверенности. Доступны веса safetensors и экспорт ONNX в FP16. Лицензия — Apache-2.0. В тестировании на отложенной выборке из реальных данных заявлены точность 0,942 и macro-F1 0,940. Для немецкого и английского языков авторы отмечают высокую точность, но другие языки не тестировались. Возможны ложные срабатывания; устойчивость к adversarial-входам, данным вне распределения, чистым персональным данным и патологически длинным текстам ограничена. Для важных сценариев маршрутизации рекомендуется порог уверенности или отказ от решения, а для DLP — предварительная детерминированная проверка длины и PII.

Ornith-1.5-35B-A3B-ROCmFPX-AGENT-GGUF — это квантованный вариант мультимодальной модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель распространяется в формате GGUF и предназначена для генерации текста, работы с изображениями, агентских сценариев и вызова инструментов. Она использует архитектуру Mixture-of-Experts с 256 экспертами и примерно 3 млрд активных параметров, а также встроенную MTP-голову для speculative decoding. В репозитории представлены варианты Q6_0 и Q8_0 ROCmFPX AGENT, размером примерно 30,89–34,74 GiB и с повышенной точностью отдельных компонентов, включая output.weight, что ориентировано на качество tool calling и принятия speculative draft. В комплект входит vision projector. Проверена работа с текстом и изображениями; заявлены контекст 4096 токенов и поддержка мультимодального ввода, однако перечень языков отдельно не указан. Модель оптимизирована для AMD Strix Halo, включая Ryzen AI MAX+ 395 с 128 ГБ объединённой памяти, и требует сборки llama.cpp с поддержкой ROCmFPX и ROCm 7.2.4. Она не загружается в стандартные llama.cpp, Ollama или LM Studio. Встроенный MTP в измерениях не ускорил, а замедлил генерацию, поэтому его применение ограничено экспериментальными сценариями. Лицензия — Apache-2.0.

Klang Pianissimo — модель автоматического распознавания шведской речи, разработанная Klang как дообучение NVIDIA Parakeet TDT 0.6B v3. Она рассчитана на транскрибацию коротких аудиоклипов и длинных записей; поддерживает пунктуацию, заглавные буквы, временные метки слов и фраз, а также усиление пользовательского словаря для имён и терминов. Модель содержит около 600 млн параметров и использует энкодер FastConformer с декодером Token-and-Duration Transducer (TDT), сохраняя архитектуру и токенизатор Parakeet v3. На вход подаётся монофоническое аудио 16 кГц; локальное внимание обеспечивает контекст около 20,5 секунды в каждом направлении на слой и помогает обрабатывать длинные записи. В README приведены результаты для шведской речи: WER 4,46% на Common Voice и 6,51% на FLEURS. Разработчик сообщает о высокой скорости работы, включая обработку часа аудио за секунду на H100. Модель обучалась на примерно 50 000 часах шведской речи. Качество может снижаться при перекрывающейся речи, сильном фоновом шуме, редких именах и специальной лексике; форматирование чисел и пунктуацию может потребоваться исправлять. Оценка сосредоточена на шведском языке, поэтому качество для других языков и переключения языков не установлено. Лицензия — CC BY 4.0.

ProCreations_grug-35b-v2-GGUF — квантованная версия модели grug-35b-v2, разработанной ProCreations и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. В метаданных модель отмечена как MoE и предназначенная для сценариев image-text-to-text; заявлена поддержка английского языка. Также указаны ориентация на рассуждения, экономное использование токенов, агентные сценарии и работу с инструментами. Модель доступна в вариантах от BF16 до различных уровней квантования IQ и Q, включая рекомендуемые Q4_K_M, Q5_K_M, Q6_K и другие. Размер файлов варьируется примерно от 16 до 69 ГБ, поэтому требования к оперативной или видеопамяти зависят от выбранного варианта. Квантованные версии предназначены для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Сильными сторонами являются широкий выбор квантований, возможность локального использования и заявленная пригодность для рассуждений, агентных задач и tool use. При этом точный контекст, архитектурные параметры, перечень поддерживаемых модальностей за пределами указанного pipeline tag и сравнительные результаты качества в README не раскрыты. Более сильное квантование обычно требует больше памяти, а малые варианты могут заметнее терять в качестве. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-3B — базовая предобученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная причинная трансформерная модель с 3,1 млрд параметров, архитектурой Qwen2 и контекстом до 32 768 токенов. В архитектуре используются RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги; модель содержит 36 слоёв и применяет GQA с 16 головами Q и 2 головами KV. Модель предназначена для дальнейшего обучения и адаптации, включая SFT, RLHF и продолжение предобучения. Она может служить основой для генерации и продолжения текста, а семейство Qwen2.5 отмечено улучшениями в программировании, математике, следовании инструкциям, работе с длинным текстом, таблицами и структурированными, в том числе JSON, ответами. Эта версия является базовой, поэтому разработчики не рекомендуют использовать её непосредственно для диалогов. Семейство поддерживает более 29 языков, в том числе русский и английский. Репозиторий содержит веса в формате safetensors, а для работы рекомендуется актуальная версия Transformers. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой модели.

huihui-ai/Qwen2.5-72B-Instruct-abliterated — это экспериментальная версия Qwen2.5-72B-Instruct, созданная автором huihui-ai методом abliteration, который изменяет поведение отказов языковой модели. Автор описывает её как грубую проверку концепции удаления отказов без использования TransformerLens. Модель предназначена для диалогов и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Она построена на плотной архитектуре Qwen2, содержит 71,5 млрд параметров и имеет контекст до 32 768 токенов. В карточке перечислены китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Ключевая особенность — ослабление отказов на запросы, которые базовая модель могла бы отклонить; автор подчёркивает предварительный характер реализации. Модель распространяется по лицензии с пометкой «other», поэтому условия использования следует проверять в карточке репозитория. Для запуска README указывает библиотеку Transformers и вариант для Ollama.

FriendliAI/Qwen2-VL-7B-Instruct — копия модели Qwen2-VL-7B-Instruct, размещённая FriendliAI. В README указано, что в tokenizer.json добавлены отсутствовавшие токены; метаданные связывают репозиторий с Qwen/Qwen2-VL-7B как с базовой моделью для дообучения. Это плотная мультимодальная модель с архитектурой Qwen2-VL и 7,1 млрд параметров, предназначенная для диалоговых задач с изображениями. Она принимает текст и изображения и формирует текстовые ответы; базовая модель также описана как способная понимать видео, однако поддержка видео именно этой копией в README не подтверждена. Контекст составляет 32 768 токенов. Модель подходит для вопросов по изображениям, описания визуального содержимого и диалогового взаимодействия с визуальными данными. Карточка указывает библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0. README не описывает отдельного дообучения или оценок качества этой копии.

Andycurrent/Qwen3.5-4B-Uncensored-HauhauCS-Aggressive — модифицированная версия языковой модели Qwen3.5-4B, созданная HauhauCS на базе модели Alibaba Qwen Team. Это авторегрессионная Transformer-модель примерно на 4 млрд параметров, предназначенная для локального запуска, диалоговых приложений, генерации текста, программирования, рассуждений, prompt engineering и исследований механизмов выравнивания и отказов моделей. Указана поддержка английского языка. Модель ориентирована на работу без внешних API и может применяться в автономных и приватных средах. Главная особенность варианта Aggressive — снижение или устранение safety-ориентированных отказов и минимизация отказов в ответах, благодаря чему модель более охотно обрабатывает широкий спектр запросов. При этом заявлено сохранение основных возможностей базовой Qwen3.5-4B в области диалогов, рассуждений, кодинга и общих знаний. Для общения рекомендуется ChatML-подобный шаблон; заявлена совместимость с Transformers, llama.cpp, KoboldCpp, Ollama и vLLM, а GGUF-квантизации подходят для эффективного запуска, включая CPU-инференс. Ограничением является отсутствие или ослабление защитных механизмов: модель может генерировать небезопасный, нежелательный или потенциально вредный контент, поэтому ответственность за фильтрацию и сценарии применения лежит на пользователе. В README также не указаны размер контекстного окна, точный набор поддерживаемых языков, результаты бенчмарков и конкретный метод модификации. Для модели указана лицензия Apache-2.0.