II.8Инженерия данных и аналитика

Карточка модели NVEagle/Eagle-X5-13B на Hugging Face совпадает с карточкой NVEagle/Eagle-X5-13B-Chat, поэтому описание составлено по ней. Eagle-X5-13B-Chat — мультимодальная языковая модель семейства Eagle, разработанного NVIDIA. Это плотная Transformer-модель архитектуры EagleLlamaForCausalLM с 12,9 млрд параметров, предназначенная для диалога и анализа изображений вместе с текстом. Контекст модели составляет 4096 токенов. Модель использует комбинацию визуальных энкодеров CLIP+X и рассчитана на обработку изображений высокого разрешения, включая задачи распознавания текста и понимания документов. Она принимает изображения и текст, а выдаёт текст; авторы отмечают сильные результаты на мультимодальных тестах, особенно в задачах, чувствительных к разрешению. Основные сценарии применения — исследование мультимодальных LLM и создание чат-ботов. Модель опубликована под лицензией CC BY-NC-SA 4.0, которая ограничивает коммерческое использование. README не уточняет языковой охват и подробные ограничения качества; перед применением в конкретной отрасли следует оценить пригодность модели для этого сценария.

Echo-DSRN-v0.1.3-Embed-Intent — многоязычная модель эмбеддингов предложений от Ethicalabs на архитектуре Echo-DSRN, гибридной рекуррентной нейросети с 8 DSRN-блоками. Модель дообучена от ethicalabs/Echo-DSRN-v0.1.3-Embed-Exp на Amazon MASSIVE: около миллиона высказываний на 51 языке. В метаданных указаны 49,9 млн параметров и контекст 2048 токенов; README приводит оценку около 98 млн параметров. Модель предназначена для представления высказываний в виде векторов, чтобы сравнивать их смысл и распознавать намерения и сценарии. На замороженных эмбеддингах в протоколе MTEB для MASSIVE указаны средняя точность 72,42% по 60 намерениям и 79,00% по 17 сценариям. Лицензия — Apache-2.0. Результаты измерялись с левым дополнением последовательностей; карточка предупреждает, что состав батча может влиять на эмбеддинги при таком соглашении о дополнении. В README используется trust_remote_code=True для загрузки модели через Sentence Transformers.

bunnycore/Gemma-2-2B-TitanFusion-v2 — разговорная языковая модель, созданная слиянием предварительно обученных моделей Gemma 2 с помощью mergekit и метода Model Stock. В качестве базовой использована bunnycore/Gemma-2-2b-TitanFusion; в слияние также вошли варианты All-in-One, Gemma2-2B-mixed и Mixer-Lora. Модель предназначена для генерации текста в диалогах и ответов на инструкции. Каталог также указывает помощь с рассуждениями и кодом как возможности базовых моделей. Архитектура — плотная Gemma 2 для авторегрессионной генерации, размер — 2,7 млрд параметров, контекст — до 8192 токенов. Модель распространяется в формате Safetensors для Transformers. Сведения о лицензии в доступных данных отсутствуют.

ice-AI-i1-GGUF — это набор квантованных вариантов модели ice-AI, разработанной darkps и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Представлены файлы с различными уровнями квантования, поэтому модель можно запускать на системах с разным объёмом доступной памяти и выбирать компромисс между размером, скоростью и качеством. В репозитории доступны варианты от i1-IQ1_S размером около 2,2 ГБ до i1-Q6_K размером около 6,8 ГБ. Для некоторых вариантов указаны преимущества и ограничения: Q4_K_M обозначен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по соотношению размера, скорости и качества, а отдельные низкобитные варианты характеризуются более низким качеством. Точная архитектура, число параметров, размер контекста, перечень языков и мультимодальные возможности в README не указаны; по описанию модель является текстовой и не поддерживает заявленные мультимодальные сценарии. Лицензия — Apache-2.0.

LinkBERT-large — англоязычный BERT-подобный трансформерный энкодер, разработанный Michiyasunaga и соавторами и представленный в статье LinkBERT: Pretraining Language Models with Document Links (ACL 2022). Модель предварительно обучена на статьях английской Википедии с учётом гиперссылок между документами, чтобы усваивать связи и знания, распределённые по нескольким текстам. Модель предназначена для дообучения под задачи классификации текста и последовательностей, ответов на вопросы, разметки токенов, чтения и поиска информации между документами. Её также можно использовать как энкодер для извлечения признаков и представлений текста. LinkBERT-large содержит 432,3 млн параметров, поддерживает контекст до 512 токенов и распространяется в формате PyTorch. Учёт связей между документами может быть полезен для задач, требующих объединения сведений из разных источников. Модель не является готовой системой для конкретной задачи: для прикладного использования её обычно требуется дообучить. Лицензия — Apache-2.0.

lmstudio-community/Llama3-ChatQA-1.5-8B-GGUF — квантизированная в формате GGUF версия модели Llama3-ChatQA-1.5-8B, разработанной NVIDIA. Модель построена на базе Llama 3 и предназначена прежде всего для генерации текста, диалоговых ответов и задач retrieval-augmented generation (RAG). Квантизацию выполнил bartowski на основе llama.cpp. Модель ориентирована на ответы на вопросы по предоставленному контексту, его суммаризацию и извлечение релевантной информации. Она рассчитана на англоязычные сценарии и обучалась с улучшенным рецептом ChatQA, включая дополнительные данные для conversational QA, табличных задач и арифметических вычислений. Указанный размер модели — 8 миллиардов параметров; сведения о длине контекста и конкретном варианте квантизации в README не приведены. Сильной стороной модели является способность формировать содержательные ответы, опираясь на переданный контекст, и указывать, когда ответ в нём не найден. Она может применяться и в более общих задачах, но в первую очередь предназначена для RAG и работы с контекстом. К ограничениям относятся зависимость качества от полноты и точности предоставленного контекста, а также потенциальная неточность или нежелательное содержимое ответов. Модель распространяется по лицензии Llama 3.

NousResearch публикует инструкционно настроенную модель Meta Llama 3.1 70B Instruct — плотную авторегрессионную языковую модель на архитектуре Transformer с 69,5 млрд параметров. Она принимает и генерирует текст, а версия Instruct предназначена для многоязычного диалога и работы в роли ассистента. Настройка включает дообучение с учителем и обучение с подкреплением на основе отзывов людей; модель поддерживает контекст до 131 072 токенов и использует Grouped-Query Attention для повышения эффективности вывода. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Её можно запускать через Transformers; карточка также описывает варианты загрузки в 4- и 8-битном формате для снижения требований к памяти. Русский язык не входит в перечень поддерживаемых языков. Ответственность за безопасную интеграцию, включая подключение внешних инструментов, лежит на разработчике приложения. Модель разработана Meta и распространяется по лицензии Llama 3.1 Community License с условиями, изложенными в лицензии и Acceptable Use Policy. Это статический чекпойнт, обученный на офлайн-данных; качество и безопасность ответов требуют проверки в целевом сценарии.

Mistral-Instruct-Ukrainian-SFT — языковая модель Radu Chivereanu, полученная supervised fine-tuning модели Mistral-7B-Instruct-v0.2 на украиноязычных наборах данных. Она предназначена для диалогов и выполнения инструкций на украинском языке, включая ответы на вопросы, задания по чтению и пониманию текста, а также вопросы и ответы по тематике программирования. Модель содержит 7,1 млрд параметров; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Контекст составляет до 32 768 токенов. Для запросов используется формат инструкций с токенами [INST] и [/INST], также доступен chat template Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты нескольких бенчмарков, но они не гарантируют качество на других задачах и данных.

MMLW-retrieval-roberta-large-v2 — польский текстовый энкодер семейства RoBERTa, разработанный для поиска информации и оценки семантического сходства. Модель основана на polish-roberta-large-v2 и содержит 533,7 млн параметров; она преобразует запросы и фрагменты текста в векторы размерностью 1024. Контекст составляет до 514 токенов. Модель обучали в два этапа: сначала применили дистилляцию знаний от stella_en_1.5B_v5 на 20 млн польско-английских пар текстов, затем дообучили с contrastive loss на более чем 4 млн запросов. Для поиска к запросам добавляют префикс «[query]: », а для симметричного сравнения текстов — «[sts]: ». В README указана оценка NDCG@10 60,71 на польском бенчмарке PIRB. Модель предназначена для польскоязычного семантического поиска, извлечения релевантных документов и сравнения текстов; доступна в формате safetensors. Лицензия в метаданных указана как Gemma, поэтому перед применением следует учитывать её условия. Данные об обучении поддерживают польский и английский языки, но карточка характеризует модель прежде всего как польский энкодер.

MOSS-VL-Instruct-0708 — мультимодальная модель OpenMOSS, полученная supervised fine-tuning базовой MOSS-VL-Base-0708. Она предназначена для офлайн-анализа изображений и видео, следования инструкциям и визуальных рассуждений. Модель принимает текст, изображения и видео и использует архитектуру vision-language с cross-attention, связывающую визуальные представления с языковыми токенами. В README указаны 11 млрд параметров, контекст 256K и поддержка английского и китайского языков. Модель подходит для распознавания текста и разбора документов по изображениям, описания визуальных сцен, ответов на вопросы по видео, распознавания действий и локализации событий по времени. Для видео она использует абсолютные временные метки кадров, а XRoPE кодирует координаты времени, высоты и ширины. Выпущена под лицензией Apache-2.0. Ограничения включают плотные видео, узкоспециализированные области, мелкий текст на изображениях и задачи со строгими числовыми рассуждениями; для них могут потребоваться настройка выборки кадров, специальные инструкции или дообучение.

cross-encoder/ms-marco-MiniLM-L4-v2 — англоязычная модель Sentence Transformers для переранжирования результатов поиска. Она обучена на задаче ранжирования отрывков MS MARCO и оценивает релевантность пары «запрос — текст», после чего найденные документы можно отсортировать по оценке. Модель построена на архитектуре BERT с классом BertForSequenceClassification и содержит 21,2 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для этапа reranking в системах информационного поиска: сначала поисковик извлекает кандидатов, затем cross-encoder оценивает каждую пару запроса и отрывка. Она подходит для улучшения порядка результатов поиска и оценки релевантности; README также приводит сравнительные показатели моделей семейства на наборах TREC Deep Learning 2019 и MS MARCO, но не показывает численные результаты именно этой версии L4-v2. Поддерживаются форматы PyTorch, Safetensors, ONNX, OpenVINO и Flax. Лицензия — Apache-2.0.

multi-qa-distilbert-dot-v1 — модель Sentence Transformers, разработанная в рамках проекта Hugging Face Community Week по обучению моделей эмбеддингов предложений. Она основана на distilbert-base-uncased и дообучена на 215 млн пар «вопрос—ответ» из разных источников для семантического поиска. Модель преобразует запросы, вопросы и текстовые абзацы в плотные векторы размерности 768; для сравнения используется скалярное произведение, а векторы не нормализуются. В метаданных указаны реализации PyTorch, ONNX и OpenVINO. Модель подходит для поиска абзацев, релевантных запросу или вопросу, и для сопоставления вопросов с ответами. Она принимает текст на английском языке; максимальная длина входа — 512 токенов WordPiece, но обучение проводилось на последовательностях длиной до 250 токенов, поэтому качество на более длинных текстах может снижаться. Лицензия в предоставленных данных не указана.

MultiQA-mMini-L6-H384 — модель эмбеддингов предложений, разработанная carlesoctav на основе nreimers/mMiniLMv2-L6-H384-distilled-from-XLMR-Large. Она дообучена методом дистилляции с учителем sentence-transformers/multi-qa-MiniLM-L6-dot-v1 на параллельных английских и индонезийских предложениях. Модель кодирует запросы, вопросы и текстовые фрагменты в плотные векторы размерности 384 для семантического поиска, поиска документов и межъязыкового информационного поиска. Модель использует архитектуру XLM-RoBERTa и содержит 110,2 млн параметров. Эмбеддинги формируются с помощью CLS pooling и не нормализуются. Контекст модели составляет 514 токенов по метаданным, однако карточка указывает ограничение в 256 word pieces и обучение на текстах длиной до 80 word pieces, поэтому качество на более длинных фрагментах может снижаться. Валидационная точность для поиска параллельных текстов на паре английский—индонезийский составила 92%. Лицензия — Apache-2.0.

flax-sentence-embeddings/multi-qa_v1-MiniLM-L6-cls_dot — модель SentenceTransformers для преобразования предложений и коротких текстов в векторы, пригодные для поиска и сравнения смысла. Её разработали в рамках Hugging Face Community Week для проекта по обучению моделей эмбеддингов; модель основана на предварительно обученной nreimers/MiniLM-L6-H384-uncased и дообучена контрастивным обучением на парах вопрос–ответ, включая данные StackExchange, MSMARCO и NQ. Это плотная BERT-модель с 25,9 млн параметров. Для представления предложения используется выход CLS, а близость векторов оценивается скалярным произведением. Модель предназначена для семантического поиска, оценки сходства предложений и кластеризации; её можно использовать для поиска подходящих ответов по запросу или группировки похожих вопросов. Максимальная длина контекста — 512 токенов. Модель выдаёт текстовые эмбеддинги, а не готовые ответы. Качество особенно ориентировано на сопоставление вопросов и ответов; доступные сведения не подтверждают поддержку русского языка или оценку качества на других языках и задачах. В карточке не указана лицензия.

Mungert/mxbai-rerank-large-v2-GGUF — это набор GGUF-вариантов модели mxbai-rerank-large-v2 для ранжирования текстов. Модель предназначена для задач text-ranking, включая переранжирование результатов поиска и выбор наиболее релевантных документов или фрагментов для заданного запроса. Разработчик в README не указан. Доступны версии с форматами BF16 и F16, а также квантованные варианты Q8_0, Q6_K, Q4_K и другие, рассчитанные на различный баланс между точностью, скоростью и потреблением памяти. Квантованные файлы подходят для CPU и устройств с ограниченным объёмом VRAM, тогда как BF16 и F16 ориентированы на оборудование с соответствующей аппаратной поддержкой. Точный размер модели, архитектура, максимальная длина контекста и поддерживаемые модальности не указаны. В README заявлена поддержка английского, китайского, немецкого, японского, корейского, испанского, французского, арабского, бенгальского, русского, индонезийского, суахили, телугу и тайского языков. Основные ограничения связаны с компромиссом квантования: низкобитные варианты требуют меньше памяти, но могут уступать полноразмерным версиям по точности. Модель распространяется по лицензии Apache-2.0.

NeuralLLaMa-3-8b-ORPO-v0.3 — разговорная языковая модель семейства Llama, опубликованная Kukedlc. Это дообученная версия Meta-Llama-3.1-8B-Instruct с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Модель предназначена для генерации текста в диалогах и ответов на запросы; в README приведены результаты оценки на Open LLM Leaderboard, включая задачи на рассуждение и понимание естественного языка. Модель принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Метаданные не содержат сведений о поддерживаемых языках. Лицензия — Apache-2.0. Показатели из таблицы README описывают результаты отдельных бенчмарков и не гарантируют качество для конкретных сценариев.

OLMo-2-1124-13B-RM — англоязычная плотная языковая модель Allen Institute for AI на 13,2 млрд параметров, предназначенная для диалогов и разнообразных задач генерации текста. Это постобученная версия OLMo-2-13B: после контролируемого дообучения на варианте набора Tülu 3 модель прошла DPO-обучение на данных предпочтений. Карточка описывает задачи вроде математики, следования инструкциям и общения. Модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и работает через библиотеку Transformers. Модель ориентирована прежде всего на английский язык. Лицензия Apache 2.0 разрешает её использование на условиях этой лицензии. В карточке отмечено, что обучение безопасности ограничено и без дополнительной фильтрации ответы могут содержать проблемный контент.

OLMo 2 13B SFT — языковая модель Allen Institute for AI (Ai2), дообученная методом supervised fine-tuning на варианте набора Tülu 3. Это плотная авторегрессионная модель семейства OLMo 2 с 13,2 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Контекстное окно — 4096 токенов; модель предназначена прежде всего для английского языка. Модель подходит для диалогов, ответов на вопросы, математических задач и выполнения инструкций. В README отмечено, что Tülu 3 охватывает широкий круг задач, включая MATH, GSM8K и IFEval. Модель распространяется под лицензией Apache 2.0. В README указано, что у OLMo 2 ограничено обучение безопасности; без дополнительной фильтрации модель может выдавать проблемные ответы, особенно при соответствующих запросах. Также карточка предупреждает, что эта версия была заменена обновлёнными post-trained моделями из-за несовпадения логики предварительной токенизации с базовыми моделями.

Open-Instruct SNI 13B — языковая модель семейства LLaMA с 12,9 млрд параметров, дообученная Allen Institute for AI на наборе Super-Natural Instructions. Это плотная авторегрессионная модель для генерации текста по инструкциям; она рассчитана на выполнение разнообразных инструкций и исследование методов настройки открытых моделей. Контекст модели составляет 2048 токенов, основной язык в карточке — английский. Модель поставляется как diff весов и для использования требует базовую модель LLaMA в формате Hugging Face. В README приведены результаты оценки на наборах задач общего знания, математики, рассуждений, вопросов и ответов и генерации кода; качество зависит от правильного формата входа, включая переносы строк. Лицензирование регулируется лицензией AI model license из репозитория и исходной лицензией LLaMA.

Open-Instruct Unnatural Instructions 13B — языковая модель семейства LLaMA с 12,9 млрд параметров, дообученная исследователями AllenAI на наборе Unnatural Instructions для генерации ответов на инструкции. Модель принимает текст и генерирует текст; она рассчитана на англоязычные запросы. Контекстное окно — 2048 токенов. Модель предназначена для следования инструкциям и исследовательской оценки instruction tuning; в карточке приведены результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Для работы нужны исходные веса LLaMA в формате Hugging Face, поскольку опубликована разность весов. Модель распространяется по лицензии AI Model License вместе с исходной лицензией LLaMA.

Parable-Granite-4.1-3B-Claude-Fable-5-heretic — языковая модель для генерации текста, разработанная автором saidutta69 на основе AnkitAI/Parable-Granite-4.1-3B-Claude-Fable-5, которая, в свою очередь, дообучена на ibm-granite/granite-4.1-3b. Модель предназначена для локального диалога, рассуждений, планирования, генерации кода, терминальных сценариев, агентских задач и использования инструментов. Заявлен английский язык, поддерживаются форматы Safetensors и GGUF для запуска через Transformers, vLLM, llama.cpp, Ollama, LM Studio и Jan. Это текстовая causal language model архитектуры GraniteForCausalLM с нативным размером около 3,4 млрд параметров. Версия создана методом abliteration с помощью Heretic v1.4.0: целевые изменения весов в attention output и MLP down-projections подавляют поведение отказа без дополнительного fine-tuning. Модель сохраняет trace-дистиллированные возможности исходной Parable-версии в области рассуждений, планирования и работы с терминалом. Для локального запуска доступны квантизации от Q2_K до Q8_0; вариант Q4_K_M требует около 2,1 ГБ под веса и примерно 1 ГБ дополнительно для контекста. К сильным сторонам относятся малый размер, возможность работы на ноутбуках и CPU, широкий набор GGUF-квантизаций и существенно сниженное число отказов по сравнению с исходной моделью: 5 против 96 на 100 проверенных adversarial-запросов. При этом это не улучшение базовых возможностей, а версия той же модели с удалёнными защитными ограничениями; снижение отказов сопровождается измеримым отклонением от исходного поведения, а заявленные показатели получены на ограниченных тестах. Контекстное окно, точные языковые возможности и дополнительные модальности в карточке не указаны. Распространяется по лицензии Apache-2.0.

Phi-3-mini-mango-1 — экспериментальная instruct-дообученная языковая модель Rhys Jones на базе Microsoft/Phi-3-mini-4k-instruct. Она предназначена для диалоговой генерации текста и кода, а также для изучения свойств и поведения Phi-3 после дообучения. Модель имеет плотную архитектуру Phi-3, около 3,7 млрд параметров и контекст до 4096 токенов; принимает текст и генерирует текст. Карточка указывает на использование того же формата чата, что и у Phi-3 Mini-4K-Instruct, без системного промпта. Это первая экспериментальная версия дообучения. Она распространяется в формате Safetensors, а отдельная версия GGUF доступна в другом репозитории. Лицензия — MIT. Для запуска README рекомендует Transformers версии 4.41.0 или новее.

Англоязычный cross-encoder на базе ELECTRA, дообученный командой cross-encoder с использованием класса SentenceTransformers. Модель оценивает пару «вопрос — абзац» и определяет, отвечает ли абзац на вопрос; она обучена на наборе GLUE QNLI, преобразованном из SQuAD в задачу вывода по тексту. Модель предназначена для ранжирования абзацев по релевантности вопросу, например, при поиске фрагментов для системы ответов на вопросы. Архитектура — ELECTRA с классификационной головой, размер — 136,7 млн параметров, максимальная длина контекста — 512 токенов. Поддерживаются форматы PyTorch, Safetensors, ONNX и OpenVINO. Модель принимает текстовые пары и выдаёт оценку релевантности, а также может использоваться для классификации текста. Карточка сообщает об англоязычных данных и обучении на QNLI. Лицензия — Apache-2.0. Результат оценивает релевантность пары, но сам по себе не генерирует ответ на вопрос; длина входа ограничена 512 токенами.

Qwen3.8-27B-Abliterated-GSQ-Orca-GGUF — экспериментальная GGUF-модель на 27 млрд параметров, разработанная автором репозитория ayozhee для локального запуска. Она основана на GSQ-RCO IQ2_S-MTP и объединяет его квантованные веса с выборочно заменёнными матрицами из orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для генерации текста, рассуждений, решения математических задач и программирования на совместимых локальных средах, включая llama.cpp. Abliteration снижает склонность модели к отказам, но может влиять на поведение и безопасность ответов. Файл имеет формат GGUF, размер около 9,61 ГБ, использует смешанное квантование IQ2_S и включает MTP для спекулятивного декодирования. Токенизатор и большая часть тензоров сохранены из исходной GSQ-модели; всего заменена 131 матрица. Тестирование проводилось на RTX 3060 с 12 ГБ памяти: модель показала скорость декодирования около 35,65 токена/с на коротких запросах и успешно прошла заявленные проверки генерации. В небольшом локальном сравнении она получила 27/30 в IFEval, 30/30 в GSM8K и 30/30 после нормализации извлечения в HumanEval. Модель ориентирована на пользователей, которым нужен компактный локальный вариант для ограниченных GPU. Заявленный настроенный предел контекста составляет 16 384 токена, при этом отдельное измерение проводилось с историей на 30,6 тыс. токенов; производительность при полностью занятом контексте 65 тыс. токенов не оценивалась. Результаты основаны на небольших выборках и единичных запусках, поэтому не заменяют полноценные бенчмарки. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-GLA-g2 — производная от Qwen/Qwen3.8-27B модель TelperionAI с архитектурой Grouped Latent Attention на двух группах. Переход на низкоранговые латентные представления ключей и значений уменьшает объём KV-кэша в среднем вдвое при обслуживании с параллелизмом до двух GPU. Изменение выполнено без обучения: проекции подогнаны методом whitened SVD на калибровочных данных; остальные веса, включая vision tower и MTP head, сохранены. Модель предназначена для генерации текста и диалогов, в том числе для задач программирования и длинного контекста; в карточке также заявлена поддержка изображений как у базовой модели. В парном сравнении на SWE-bench Verified результат составил 0,394 против 0,395 у исходной модели, при генерации на 14% меньшего числа токенов. По метаданным, модель имеет 27 млрд параметров, плотную архитектуру семейства Qwen3.5 и лицензию Apache-2.0. Для запуска требуется экспериментальный плагин qwen-mla-vllm; модель не загружается в Transformers и стандартный vLLM. README сообщает о проверке плагина на RTX PRO 6000 с vLLM 0.27.1, а результаты за пределами SWE-bench Verified и HELMET (64k) не оценивались. При параллелизме более чем на двух GPU сжатие снижается примерно до 1,14 раза.

Qwen3.8-27B-tq4-g64 — 27,8-миллиардная плотная мультимодальная модель семейства Qwen, подготовленная для Apple Silicon в формате 4-битной квантизации TurboQuant-MLX. Она сохраняет возможности обработки изображений и диалогового взаимодействия базовой модели, включая интерфейс вызова инструментов. Архитектура включает 64 декодерных слоя: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв полного внимания; также указана 27-блочная башня зрения. В метаданных библиотека модели — MLX, лицензия — Apache-2.0. Модель подходит для диалогов с изображениями, распознавания текста на изображениях, подсчёта объектов, анализа диаграмм, визуального описания и агентных сценариев с вызовом инструментов, в том числе для работы с кодом. README приводит тесты на Apple Silicon: файл занимает около 15,15 ГиБ, пиковое потребление памяти при контексте 16 тысяч токенов составляет около 22,5 ГБ, а скорость генерации — примерно 11 токенов в секунду. При запуске на Mac с 24 ГБ памяти рекомендуется размер шага предварительной обработки 256; на системах с 16 ГБ автор сообщает, что модель не помещается. Встроенный тест зрения пройден на четырёх синтетических примерах, но эти результаты не гарантируют качество на произвольных данных. README не сообщает поддерживаемые естественные языки или длину контекста базовой модели.

Qwen3-Swallow-8B-SFT-v0.2 — диалоговая языковая модель на архитектуре Qwen3, разработанная проектом Swallow LLM Токийского технологического института. Это версия размером 7,6 млрд параметров, полученная supervised fine-tuning модели tokyotech-llm/Qwen3-Swallow-8B-CPT-v0.2. Она предназначена для генерации ответов и диалогов на японском и английском языках, а также для задач перевода, математики и программирования с рассуждениями. Модель принимает текст и генерирует текст, поддерживает контекст до 40 960 токенов по метаданным; разработчики рекомендуют ограничивать длину контекста 32 768 токенами. Для запуска рекомендуют vLLM. Инструментальное использование явно не обучалось, а переключатель режима рассуждений не поддерживается. Разработчики отмечают, что модель находится на ранней стадии разработки и не настроена для надёжного следования человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

TUKE-DeutscheTelekom/slovakbert-skquad-mnlr — модель Sentence Transformer, разработанная для сопоставления словацких предложений и поиска семантически близких текстов. Она основана на gerulata/slovakbert и дообучена на 65 699 примерах с MultipleNegativesRankingLoss. Архитектура использует RoBERTa с усреднением токенных представлений; модель формирует эмбеддинги размерности 768 и сравнивает их косинусным сходством. Модель предназначена для семантического поиска, ранжирования кандидатов по близости к запросу и сопоставления вопросов с контекстами. Максимальная длина последовательности в README — 300 токенов; метаданные указывают нативный предел 514 токенов. Оптимизирована для словацкого языка, в частности для задач поиска ответов на вопросы по текстовым фрагментам. Репозиторий распространяется с файлами safetensors; лицензия в предоставленных данных не указана.

Thespis-CurtainCall-7b-v0.3 — языковая модель на 7,1 млрд параметров, опубликованная cgato. Это плотная авторегрессионная модель семейства Mistral для генерации текста; в карточке указан контекст до 32 768 токенов и формат PyTorch. Модель обучена на наборах Dolphin, UltraChat, Capybara, Augmental, ToxicQA, MagicCoder-Evol-Instruct-110k, Yahoo Answers, OpenOrca, Airoboros 3.1 и данных по физическому рассуждению и теории разума. Она предназначена для диалогов и генерации ответов в шаблоне, совместимом с Ooba и Silly Tavern, а также может применяться для инструкционного следования, рассуждений и задач по коду благодаря составу обучающих данных. Модель выпущена как версия 7B; автор сообщает о планах выпустить вариант Mixtral. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не сообщает результаты оценивания качества, поэтому пригодность для конкретных задач следует проверять самостоятельно.

Модель Виноградова Дмитрия предназначена для оценки семантического сходства двух запросов. Она построена на архитектуре BERT и доступна через SentenceTransformers; для получения представлений использует токенизатор, CLS-пулинг, полносвязный слой с активацией tanh и нормализацию. README указывает построение в 384-мерном векторном пространстве, а конфигурация архитектуры содержит выход Dense размерности 768; это расхождение не позволяет однозначно определить размер выходного вектора. Модель подходит для сравнения запросов и поиска семантически близких формулировок. В метаданных указаны 498,1 млн параметров, максимальная длина контекста 512 токенов и лицензия Apache-2.0. Метаданные помечают модель как многоязычную, однако README не уточняет языки обучения или оценки качества.