II.8Инженерия данных и аналитика

jina-embeddings-v5-omni-small-text-matching-GGUF — мультимодальная embedding-модель, разработанная Jina AI. Это GGUF-квантованный вариант jina-embeddings-v5-omni-small-text-matching для llama.cpp, предназначенный для задач text matching и семантического поиска. Модель принимает текст, изображения, видео и аудио и преобразует их в 1024-мерные векторы общего пространства, благодаря чему индекс можно создавать по тексту, а выполнять поиск — с использованием любой поддерживаемой модальности без переиндексации. Модель содержит около 1,56 млрд параметров в текстовой, визуальной и аудиобашнях, использует pooling по последнему токену и поддерживает контекст до 32768 токенов. Доступны Matryoshka-размерности от 32 до 1024 измерений. Текстовая часть имеет F16 и 13 уровней int-квантизации с калибровкой imatrix, а мультимодальные проекторы поставляются в F16. Поддерживаются распространённые форматы изображений, видео и аудио, а также PDF. Сильные стороны модели — единое векторное пространство для разных модальностей, возможность мультимодального поиска и компактные GGUF-варианты для llama.cpp. Ограничение состоит в том, что для мультимодального запуска требуется специальная ветка llama.cpp с патчами Jina AI, ещё не включёнными в upstream-версию. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

jhgan/ko-sbert-nli — модель Sentence-Transformers на архитектуре BERT, обученная для получения плотных векторных представлений предложений и абзацев. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения сходства. Модель содержит 137,8 млн параметров, формирует векторы размерности 768 и принимает последовательности длиной до 512 токенов. Модель обучена на корейском наборе KorNLI с MultipleNegativesRankingLoss и оценивалась на KorSTS. В README приведены результаты корреляции для косинусной меры сходства: Pearson 82,24 и Spearman 83,16. Поддерживаются PyTorch и TensorFlow. Карточка не сообщает лицензию.

bongsoo разработал kpf-sbert-v1.1 — модель Sentence Transformers на базе BERT, дообученную для получения плотных векторов предложений и абзацев размерностью 768. Она предназначена для поиска семантически похожих текстов, семантического поиска и кластеризации. В README описано обучение на корейских и английских наборах STS и NLI, а также дистилляция с учительской модели paraphrase-multilingual-mpnet-base-v2. Модель оценивает сходство по векторным представлениям; заявленная длина контекста — 512 токенов. Модель подходит прежде всего для корейского и английского текста. Метаданные указывают 141,2 млн параметров и формат PyTorch. README приводит сравнительные результаты на наборах korsts, klue-sts, GLUE STS-B и stsb_multi_mt, однако полная строка результатов для этой модели в доступном тексте отсутствует. Сведения о лицензии в предоставленных источниках отсутствуют.

Laserxtral — экспериментальная языковая модель семейства Mixtral, созданная Дэвидом, Фернандо и Эриком при поддержке VAGO Solutions. Это смесь экспертов (MoE) на базе mergekit: в README перечислены пять моделей семейства Mistral 7B, включая Dolphin, Marcoro14, CodeNinja, MetaMath-Cybertron и WizardMath. Авторы применили к экспертам метод «lasering» с laserRMT: анализировали отношение сигнал/шум слоёв и вмешивались в наиболее подверженные шуму слои. Модель предназначена для генерации текста, диалогов, рассуждений, математических задач и программирования. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Авторы заявляют о высокой правдивости и сильных способностях к рассуждению, но отмечают, что продолжают работу над улучшением результата MMLU. Модель опубликована под лицензией CC BY-NC 2.0, которая ограничивает коммерческое использование. Это экспериментальная разработка; качество на конкретных задачах следует оценивать отдельно.

Llama DEUS v3 — языковая модель семейства Llama, разработанная автором репозитория teknium и основанная на Llama 7B. Это объединённая с базовой моделью версия LoRA-дообучения: адаптер не требуется подключать отдельно. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовые инструкции в формате «### Instruction: … ### Response:». Контекст — до 2048 токенов. Модель дообучена на наборах общих инструкций, программирования, ролевого общения, а также биологии, физики, химии и математики. Она предназначена для генерации ответов и выполнения инструкций в этих сценариях. В README автор характеризует датасеты и модель как uncensored, что может приводить к выдаче нежелательного или небезопасного содержания. Модель распространяется по лицензии MIT.

LLARA-pretrain — модель семейства LLaRA от BAAI, представленная в проекте LLARA. В карточке проекта описаны подходы EBAE (автоэнкодирование на основе эмбеддингов) и EBAR (авторегрессия на основе эмбеддингов). Это плотная причинно-языковая модель LlamaForCausalLM с 6,6 млрд параметров и контекстом до 4096 токенов. Модель предназначена для получения текстовых эмбеддингов и оценки сходства предложений; метаданные также указывают поддержку извлечения признаков и генерации текста. Её можно применять для поиска семантически близких фраз и построения эмбеддинговых представлений текста. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

LongCat-Flash-Lite-Uncensored-Heretic-Native-MTP-Preserved — производная версия LongCat-Flash-Lite от независимого автора llmfan46, основанная на модели Meituan. Автор применил abliteration, чтобы уменьшить склонность модели отказывать в ответах: в карточке указаны 9 отказов из 100 в тесте против 100 из 100 у исходной модели. Это не гарантирует отсутствие ограничений или точность ответов. Модель предназначена для генерации текста в диалогах, программирования и агентных сценариях. В основе — плотная архитектура LongcatFlashNgramForCausalLM; метаданные каталога указывают 4,6 млрд параметров и контекст до 327 680 токенов. README описывает исходную LongCat-Flash-Lite как MoE-модель с N-граммными эмбеддингами, однако эти характеристики не следует переносить на производную версию без оговорки. Репозиторий содержит веса safetensors; заявлена лицензия MIT. README также указывает на необходимость минимум двух GPU с 80 ГБ видеопамяти для запуска через Transformers.

prudant/lsg_4096_sentence_similarity_spanish — модель эмбеддингов предложений на основе BERT с механизмом внимания Local Sparse Global (LSG). Она создана как адаптация hiiamsid/sentence_similarity_spanish_es для работы с более длинными последовательностями и предназначена прежде всего для вычисления сходства между предложениями и создания эмбеддингов длинных текстов. Модель обрабатывает последовательности длиной до 4096 токенов и содержит 137,1 млн параметров. Модель ориентирована на испанский язык. Эмбеддинги можно применять для сравнения предложений и поиска семантически близких фрагментов в длинных документах. LSG распределяет внимание между локальными, разреженными и глобальными позициями, что снижает вычислительную сложность при работе с длинным контекстом. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Macaron-V1-Coding-Venti — кодовая модель MindLab Research из семейства Macaron-V1. Это объединённый чекпойнт: специалист по программированию Macaron-V1-Venti L2 Coding слит с базовыми весами GLM-5.2 BF16. Модель предназначена для понимания кода, работы с репозиториями, терминалом и сценариев программного агента; её можно запускать как обычную причинную языковую модель без подключения LoRA-адаптера или маршрутизатора. В метаданных указаны архитектура GLM MoE DSA, 30,4 млрд параметров, контекст до 1 048 576 токенов, библиотека Transformers и поддержка английского и китайского языков. Чекпойнт распространяется под лицензией MIT. Отдельной оценки этого объединённого варианта нет: приведённые в README результаты относятся к маршрутизированной родительской системе Macaron-V1-Venti и не измеряют качество данной модели. Модель специализируется на программировании и не включает другие специализации родительской системы; README также отмечает слабые места в зависимых вызовах инструментов и отсутствие отдельной оценки безопасности. Не рекомендуется использовать её как автономного помощника в медицинских, юридических, финансовых и других высокорисковых задачах.

Merino-XL — мультиязычная модель для поиска по документам от BAA AI (Black Sheep AI). Она объединяет bi-encoder для получения 1024-мерных L2-нормализованных эмбеддингов и cross-encoder для оценки релевантности пары «запрос — документ» одним логитом. Обе части используют основу xlm-roberta-large и общую матрицу входных эмбеддингов, что позволяет хранить её один раз; заявлено, что это уменьшает размер загрузки без измеримой потери качества. Модель предназначена для двух этапов RAG-поиска: векторного извлечения кандидатов и их последующего ранжирования. README указывает около 880 млн параметров суммарно и мультиязычную поддержку. Модель снята с рекомендуемой линейки и заменена Merino-Large и Merino-Large-v2; её fp16-веса оставлены для воспроизводимости. 4-битный вариант не опубликован из-за регрессии устойчивости в проверке с отвлекающими документами. Лицензия в метаданных обозначена как other, без конкретных условий в предоставленных данных.

miCSE — модель для получения семантических векторных представлений предложений и коротких абзацев, разработанная Tassilo Klein и Moin Nabi. Она использует архитектуру BERT и обучена контрастивным методом с регуляризацией распределения self-attention: согласование представлений разных dropout-аугментированных вариантов текста помогает эффективнее обучаться на небольших наборах данных. Векторы извлекаются из токена [CLS] и подходят для сравнения сходства предложений, поиска и кластеризации. Модель обучалась на английских предложениях из Википедии; в статье также исследуется обучение на малых выборках корпуса SimCSE. Контекст составляет 512 токенов, размер модели — 136,7 млн параметров. Для адаптации few-shot подхода к собственным данным README указывает на необходимость обучения модели на этих данных. Лицензия — Apache-2.0.

Minotaur 13B Fixed — инструктивно дообученная языковая модель OpenAccess AI Collective на базе LLaMA-13B. Версия Fixed исправляет ошибку первого выпуска, из-за которой часть обучающих наборов не попала в обучение. Модель содержит 12,9 млрд параметров, использует плотную архитектуру LLaMA и принимает текстовые запросы; указанное окно контекста — 2048 токенов. Модель рассчитана на диалог в формате USER:/ASSISTANT: и генерирует текстовые ответы. Модель предназначена для следования инструкциям, ответов на вопросы, объяснений и задач по математике и естественным наукам, краткого пересказа, ролевого диалога, сочинения текстов и кода. Для дообучения использовались открытые наборы данных, включая WizardLM, Alpaca-CoT, GPTeacher и наборы по математике, физике, химии и биологии. Лицензия — Apache-2.0. Модель не проходила выравнивание с человеческими предпочтениями методами вроде RLHF и может выдавать проблемные ответы, особенно при соответствующих запросах. Это дообученная модель, поэтому применимы также ограничения базовой LLaMA-13B.

MiroThinker-v1.5-30B-GGUF — это открытая агентная модель для поиска, ответов на вопросы и глубокого многошагового исследования с использованием внешних инструментов. Модель разработана командой MiroMind AI и основана на Qwen3-30B-A3B-Thinking-2507; представленная версия распространяется в формате GGUF и создана с использованием llama.cpp. Модель предназначена для задач tool-augmented reasoning, информационного поиска и долгосрочного анализа. Она поддерживает контекст до 256K токенов и рассчитана максимум на 400 вызовов инструментов в рамках одной задачи, что позволяет выполнять сложные исследовательские сценарии с многочисленными взаимодействиями со средой. В карточке указано, что модель поддерживает английский язык. Архитектура исходной модели относится к классу Mixture of Experts, однако точные параметры представленной GGUF-квантизации не указаны. К сильным сторонам относятся способность корректировать ход рассуждений на основе обратной связи среды, получать внешнюю информацию и выполнять глубокие многошаговые траектории. Для GGUF-версий применяется дополнительное повышение точности отдельных важных слоёв при квантизации, что должно улучшать точность на заданном уровне битности, но увеличивает размер файла. Ограничения включают зависимость качества от доступных инструментов, вычислительных ресурсов и выбранного варианта квантизации; сведения о мультимодальности и конкретных требованиях к оборудованию отсутствуют. Лицензия — MIT.

Это конверсия модели распознавания речи Whisper large-v3-turbo от OpenAI в формат CTranslate2. Репозиторий Mobius Labs предназначен для использования с CTranslate2 и совместимыми проектами, включая faster-whisper; модель автоматически используется в форке faster-whisper от Mobius Labs. Модель принимает аудио и преобразует речь в текст. В метаданных перечислена поддержка многих языков, включая русский, английский, китайский, немецкий, испанский, французский и другие. Репозиторий распространяется по лицензии MIT. Это конверсия весов, а не отдельное дообучение.

mxbai-edge-colbert-v0-32m — компактная модель поиска Mixedbread AI на основе архитектуры ModernBERT и модели Ettin-32M. Она содержит 31,9 млн параметров и формирует многовекторные представления ColBERT с размерностью проекции 64 для поиска с поздним взаимодействием между запросом и документом. Модель предназначена для семантического поиска по коллекциям документов и повторного ранжирования результатов после первого, более лёгкого этапа поиска. По README, она может кодировать документы длиной до 32 000 токенов и совместима с PyLate и Sentence Transformers. Метаданные указывают нативный контекст в 7 999 токенов; это значение следует учитывать отдельно от заявленной в README длины кодируемых документов. Карточка приводит сравнительные результаты на BEIR и LongEmbed, но не содержит полного набора оценок модели в предоставленном фрагменте. Указана лицензия Apache-2.0. Поддерживаемый язык в метаданных — английский.

mxbai-rerank-base-v2 (также ProRank-0.5B) — базовая модель семейства реранкеров Mixedbread AI. Она оценивает релевантность пар «запрос — документ» и помогает переставить результаты поиска так, чтобы наиболее подходящие оказались выше. Модель построена на плотной архитектуре Qwen2 с 494 млн параметров; для работы использует Transformers и формат Safetensors. Размер контекста — до 32 768 токенов. Модель предназначена для мультиязычного поиска, включая поиск по коду, и может применяться для повторного ранжирования кандидатов в RAG-системах и поисковых сервисах. По данным авторов, она поддерживает более 100 языков и показывает сильные результаты на английском и китайском; в опубликованной таблице для base-v2 приведены показатели BEIR, мультиязычного и китайского поиска, поиска по коду, а также задержка на A100. Лицензия — Apache-2.0. README не приводит технический отчёт и не описывает ограничения качества или полный перечень языков. Указанные в карточке языковые теги охватывают лишь часть заявленной мультиязычной поддержки; показатели скорости относятся к тестированию на A100 и могут отличаться на другом оборудовании.

michaelfeil/mxbai-rerank-base-v2-seq — вариант семейства Mixedbread mxbai-rerank, переписанный как классификатор на базе плотной архитектуры Qwen2. Модель предназначена для ранжирования текстов: она оценивает релевантность документов запросу и подходит для поиска и конвейеров RAG. В README заявлены поддержка кода, длинного контекста и более 100 языков; метаданные указывают 494 млн параметров и контекст до 32 768 токенов. Указанные в карточке языки включают английский, китайский, немецкий, японский, корейский, испанский, французский, арабский, бенгальский, русский, индонезийский, тайский, суахили и телугу. README сообщает о сильных результатах на бенчмарках поиска и эффективности, но технический отчёт ещё готовится, а независимые условия сравнения в карточке описаны ограниченно. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Для вызова через API классификации требуется специальный шаблон промпта; конкретный шаблон в доступном README не приведён.

mxbai-rerank-large-v2, также называемая ProRank-1.5B, — крупная модель-реранкер семейства mxbai от Mixedbread. Она предназначена для повторной оценки релевантности найденных документов или фрагментов относительно запроса и их сортировки, в том числе в конвейерах поиска и RAG. Модель основана на плотной архитектуре Qwen2ForCausalLM, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов; опубликованные веса представлены в формате safetensors. Разработчик заявляет поддержку более 100 языков, особо отмечая английский и китайский, а также поиск по коду и длинному контексту. В README приведены результаты на BEIR, мультиязычных и китайских тестах и поиске по коду; задержка в таблице измерена на A100. Лицензия — Apache-2.0. Модель ориентирована на ранжирование кандидатов, поэтому её основной результат — оценки релевантности, а не развернутые ответы пользователю.

Карточка модели NaiveAI/Naive-N0.5-Flash-FP8-Draft на Hugging Face совпадает с карточкой NaiveAI/Naive-N0.5-Flash, поэтому описание составлено по ней. Naive-N0.5-Flash — открытая модель с архитектурой Mixture-of-Experts от разработчиков NaiveAI, предназначенная для программирования и исследований в области ИИ. Карточка описывает продолжение обучения на базе MiMo-V2.5 с архитектурными изменениями; модель обучалась на 3,25 трлн токенов, включая адаптацию к разреженному вниманию. В README указаны 309 млрд параметров всего и 15,5 млрд активных, тогда как метаданные Hugging Face сообщают 12 млрд параметров; эти сведения расходятся. Архитектура внимания сочетает Sliding-Window Attention с окном 128 токенов и DeepSeek Sparse Attention, выбирающим до 2048 токенов. Заявлено нативное контекстное окно в 1 048 576 токенов. Модель принимает текст и генерирует текст, в том числе код; для инференса README указывает поддержку FP8 и необходимость совместимого оборудования NVIDIA. Модель подходит для задач разработки программного обеспечения, агентных сценариев и исследований ИИ. В README заявлены оптимизации скорости в системе NaiveRT, но их показатели относятся к этой системе инференса. Веса и код выпущены под лицензией MIT.

occamy-ai_occamy-1.0-GGUF — GGUF-квантизированная версия модели occamy-1.0, разработанной occamy-ai и подготовленной bartowski с использованием llama.cpp. Модель ориентирована на агентные сценарии, использование инструментов и задачи программирования, а также заявлена как модель для работы с длинным контекстом. Модель содержит около 35 млрд параметров и поддерживает текстовый и визуальный ввод; для обработки изображений требуется отдельный файл mmproj. В карточке указана поддержка английского языка. Доступны варианты от BF16 до различных уровней квантизации, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы; рекомендуемым универсальным вариантом назван Q4_K_M размером 21,39 ГБ, а более качественными — Q5 и Q6. Спекулятивное декодирование не поддерживается, при этом применена imatrix-квантизация. Сильными сторонами модели являются сочетание большого размера, мультимодального ввода, возможностей для tool use и агентных рабочих процессов, а также широкий выбор форматов GGUF. Ограничениями выступают значительные требования к памяти даже для квантизированных вариантов, необходимость отдельного mmproj для изображений и отсутствие в README точного размера контекстного окна, подробных результатов оценки и информации о поддерживаемых языках помимо английского. Лицензия в карточке не указана.

NVIDIA NV-QwenOmni-Embed-3B-v1 — мультимодальная модель эмбеддингов для поиска и извлечения информации. Она основана на Thinker-компоненте Qwen/Qwen2.5-Omni-3B; компонент Talker для генерации ответов не входит в модель. По данным карточки, модель содержит 4,7 млрд параметров и использует архитектуру Transformer с отдельными кодировщиками зрения и аудио. Она принимает текст, изображения, аудио и видео по отдельности или в сочетании, а также мультимодальные запросы, и возвращает векторы эмбеддингов размерностью 2048. Максимальная длина контекста — 32 768 токенов. Модель обучена как bi-encoder с контрастивным обучением: запросы и материалы кодируются независимо в общем пространстве эмбеддингов. Она предназначена для мультимодальных RAG-систем, поиска по медиакорпусам и межмодального извлечения, включая поиск видео по тексту, аудио по тексту и визуальных документов. Для крупных нетекстовых входов, например длинных видео, может потребоваться настройка разрешения и выборки кадров. Карточка рекомендует запуск на NVIDIA GPU; указана совместимость с A100 и H100. Условия использования регулируются NVIDIA Open License Agreement и Qwen Research License Agreement.

OpenHermes-13B — англоязычная модель генерации текста, разработанная Teknium и дообученная на базе NousResearch/Llama-2-13b-hf. Она обучалась следовать инструкциям на наборе из примерно 242 тысяч примеров, преимущественно созданных GPT-4 и собранных из открытых датасетов; примеры охватывают общие запросы, ролевые диалоги и программирование. Модель имеет плотную архитектуру LlamaForCausalLM, около 12,9 млрд параметров и контекст до 4096 токенов. Модель предназначена для ответов на инструкции, диалоговой генерации и помощи с задачами на естественном языке и кодом. В опубликованном сравнении OpenHermes немного улучшила результаты Nous-Hermes на GPT4All и BigBench, но показала снижение на AGIEval, поэтому качество зависит от типа задачи. Репозиторий распространяется по лицензии MIT.

Open-Instruct Human-mix 7B — языковая модель семейства LLaMA, дообученная командой Allen Institute for AI на смеси созданных людьми инструкционных данных: FLAN V2, CoT, Dolly и OpenAssistant 1. Это плотная авторегрессионная модель примерно с 6,6 млрд параметров; для неё указаны библиотека Transformers и контекст до 2048 токенов. Модель предназначена для генерации текста по инструкциям: ответов на вопросы, выполнения текстовых заданий, рассуждений и генерации кода. Она обучена преимущественно на англоязычных данных, а карточка приводит результаты по нескольким академическим и прикладным бенчмаркам. Для лучшего качества следует соблюдать формат входного запроса, описанный в карточке. Репозиторий содержит diff весов, поэтому для использования нужна исходная модель LLaMA в формате Hugging Face. Указаны лицензия AI model license и исходная лицензия LLaMA; перед применением необходимо учитывать условия обеих лицензий. Модель не описана как мультимодальная и имеет ограниченное контекстное окно.

OpenThinkerAgent-32B-SFT-1K — плотная языковая модель на архитектуре Qwen3, разработанная в рамках открытого проекта OpenThoughts-Agent. Она дообучена полным параметрическим SFT на базе Qwen/Qwen3-32B с использованием 1 000 примеров из набора OpenThoughts-Agent-SFT-1K. Модель содержит 29,7 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. Модель предназначена для агентных сценариев, программирования и работы в терминальной среде: она генерирует текстовые ответы и продолжения, а также может выдавать код и последовательности действий для инструментов в поддерживающей их оболочке. В оценке на Terminus-2 она показала результаты pass@1 19,0 на SWE-Bench-Verified-100, 21,0 на OpenThoughts-TBLite и 10,9 на Terminal-Bench 2.0; на SWE-Bench-Verified-100 показатель ниже базовой Qwen3-32B, тогда как на двух других наборах — выше. Весы доступны в формате Safetensors; лицензия — Apache-2.0. Модель является дообученной производной Qwen/Qwen3-32B, а не самостоятельной базовой моделью. Обучение на небольшом наборе из 1 000 примеров ограничивает широту специализации, а результаты оценки зависят от конкретного агентного стенда и не гарантируют качество в других сценариях.

PM-AI разработала эту модель для получения эмбеддингов предложений на немецком и английском языках. Это плотная модель семейства XLM-RoBERTa на базе xlm-roberta-base, обученная методом дистилляции с учительской моделью sentence-transformers/paraphrase-distilroberta-base-v2. В карточке указано, что при обучении использовались параллельные немецко-английские данные и 83,3 млн обучающих примеров. Модель предназначена для поиска семантически похожих предложений и фрагментов текста, парафразирования через сравнение эмбеддингов, семантического поиска и извлечения документов. Она принимает текст и выдаёт векторные представления; контекст составляет до 514 токенов. Модель содержит 305,2 млн параметров и распространяется в форматах PyTorch и Safetensors. Лицензия — MIT. Разработчик отмечает внутреннее и тестовое назначение модели; качество на конкретных задачах и доменах может отличаться, а карточка не приводит результатов оценки.

Qwen2.5-Coder-1.5B-Instruct-GGUF — это квантизированный формат GGUF модели Qwen2.5-Coder-1.5B-Instruct, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и анализа программного кода, чат-взаимодействия и других задач текстовой генерации, связанных с разработкой программного обеспечения. Указан английский язык, а исходная модель доступна через библиотеку Transformers. Модель содержит 1,5 млрд параметров и распространяется в нескольких вариантах точности, включая F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Размер файлов составляет примерно от 0,78 до 3,09 ГБ, поэтому доступны варианты для систем с разным объёмом оперативной памяти. В README не указаны архитектурные детали, размер контекста и дополнительные модальности; по описанию это текстовая модель без заявленной поддержки изображений или других типов входных данных. Основное преимущество набора — локальный запуск через llama.cpp и совместимость с LM Studio при существенно сниженном потреблении памяти. Варианты с более высокой точностью обеспечивают лучшее качество, а низкоразрядные квантизации экономят ресурсы, но могут заметно снижать качество генерации; устаревший формат Q4_0 не рекомендуется по сравнению с альтернативами сопоставимого размера. Для общения следует использовать указанный в README шаблон сообщений ChatML. Лицензия — Apache-2.0.

Qiuchen-Wang/Qwen2.5-VL-7B-VRAG — мультимодальная модель семейства Qwen2.5-VL, дообученная для визуального поиска с дополненной генерацией (RAG). Она сочетает анализ изображений с поиском по коллекциям изображений и документов, чтобы отвечать на вопросы по визуально насыщенным материалам. Модель предназначена для извлечения сведений из слайдов и отчётов, понимания диаграмм, таблиц и структуры документов, а также многошагового поиска релевантной информации. Модель построена на Qwen/Qwen2.5-VL-7B-Instruct, имеет 7,1 млрд параметров, принимает текст и изображения и выдаёт текст. В метаданных указаны контекст до 128 000 токенов и библиотека Transformers. README описывает визуальное пространство действий для последовательного изучения областей изображения и многошаговое взаимодействие с поисковыми системами; конкретная интеграция поиска зависит от внешней системы. Лицензия — Apache-2.0.

Карточка модели Tooony133/Qwen-3.6-27B-BiggerFish на Hugging Face совпадает с карточкой Tooony133/Qwen-3.6-27B-ChonkyCat, поэтому описание составлено по ней. Tooony133/Qwen-3.6-27B-ChonkyCat — это объединённая с базовыми весами LoRA-адаптера версия мультимодальной модели Qwen3.6-27B. В README она описана как причинная языковая модель с визуальным энкодером, предназначенная в том числе для агентного программирования, работы с репозиториями и вызова инструментов. Модель содержит 27 млрд параметров и поддерживает контекст до 262 144 токенов, расширяемый до 1 010 000 токенов. Модель принимает текст и изображения и генерирует текст. README отмечает улучшения в сценариях разработки интерфейсов и рассуждения над кодовыми базами; метаданные также указывают поддержку диалогового режима и изображений. Для запуска указана совместимость с Transformers и движками vLLM, SGLang и KTransformers. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Qwen3.8-27B-IU4-Kairic-Edge — производительная квантованная версия Qwen3.8-27B, разработанная Kairic.ai для локального запуска на графических процессорах AMD Strix Halo с архитектурой gfx1151, включая Radeon 8060S. Модель предназначена для генерации текста и программного кода, а также для сценариев локального инференса с ускоренной обработкой промптов и многотокенной верификацией. Модель использует 27B-параметрическую языковую архитектуру Qwen3.8 и формат GGUF, а её вычислительный маршрут сочетает 4-битные активации и веса с нативными AMD IU4 matrix-инструкциями. Концепция Dual View объединяет авторитетное представление GGUF с тремя специализированными файлами-компаньонами Prompt Forge для отдельных фаз вычислений. Заявлена поддержка контекста размером до 256K токенов, prompt caching и native MTP4; сведения о языках в README не указаны. К сильным сторонам относятся высокая скорость генерации, ускоренная обработка промптов, существенное сокращение времени повторной обработки кэшируемых префиксов и результаты на тестах HumanEval. На воспроизведённой задаче структурированной генерации коэффициент принятия черновых токенов составил 99,73%, однако производительность зависит от совместимого оборудования и поддерживаемых форм вычислений. Для работы требуется специальная сборка Kairic Edge v1.2; стандартный llama.cpp не поддерживает необходимые sidecar-файлы и параметр --kairic-edge. Лицензия модели — Apache-2.0.

gdubicki/Qwen3-Coder-Next-NVFP4-GB10 — публичное зеркало модели saricles/Qwen3-Coder-Next-NVFP4-GB10 с побайтно идентичными весами. В основе лежит Qwen3-Coder-Next, разработанная Alibaba и командой Qwen; NVFP4-квантизацию выполнил saricles с использованием LLM Compressor и калибровки на части набора ultrachat_200k. Модель предназначена прежде всего для генерации кода и развёртывания через Transformers или vLLM, в частности на системах DGX Spark с GPU GB10. Модель использует гибридную архитектуру qwen3_next: 48 слоёв, включая 36 слоёв с линейным вниманием DeltaNet и 12 слоёв с полным вниманием, а также latent MoE с 512 экспертами, из которых для каждого токена активны 10 экспертов и один общий. Всего модель содержит 79,7 млрд параметров, при этом около 3 млрд активны на токен. Квантизация NVFP4 уменьшает размер на диске до 45,9 ГБ; отдельные компоненты сохранены в BF16, а KV-кэш для слоёв полного внимания поддерживает FP8. Максимальная длина контекста составляет 262 144 токена, заявлен язык English. Сильными сторонами являются большой контекст, низкое число активных параметров на токен, сниженные требования к памяти и отсутствие KV-кэша у слоёв DeltaNet. На DGX Spark заявлены скорость около 61 токена в секунду для одного запроса и до примерно пяти одновременных сессий при максимальном контексте. Ограничения включают зависимость от совместимого NVFP4/Marlin-стека и специализированного оборудования; приведённые показатели относятся к конфигурации DGX Spark с vLLM и не гарантируют аналогичную производительность в других средах. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.