I.14Автоматизация процессов и AI-агенты

Это BF16-версия модели Kimi-K2-Thinking, подготовленная автором DevQuasar-2 из исходной INT4-модели moonshotai/Kimi-K2-Thinking с помощью собственного скрипта деквантизации, вдохновлённого скриптом для DeepSeek V3. В метаданных архитектура обозначена как dense, с классом DeepseekV3ForCausalLM; заявлено 37,9 млрд параметров и контекст до 262 144 токенов. Модель предназначена для диалоговой генерации текста.

jangedoo/multilingual-e5-small-ne-pruned — компактная модель создания текстовых эмбеддингов, основанная на multilingual-e5-small от intfloat. Она использует архитектуру BERT и Sentence Transformers; словарь токенов сокращён примерно на 91,6%, а количество параметров — на 74,8% относительно базовой версии по README. Модель предназначена для семантического поиска, сравнения предложений и подбора похожих текстов на разных языках. Она принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. В оценке на STSbenchmark для непальского языка pruning сохранил почти исходные показатели сходства предложений, тогда как на NanoClimateFEVER точность поиска первого результата снизилась. README показывает пример использования через Sentence Transformers. Лицензия в предоставленных данных не указана.

WENGSYX/Multilingual_SimCSE — модель для извлечения признаков на основе архитектуры DeBERTa-v2, содержащая 306 млн параметров. Карточка указывает на мультиязычное назначение; модель принимает текст и формирует векторные представления, которые можно использовать для сравнения текстов и поиска похожих фрагментов. Модель подходит для создания текстовых эмбеддингов в мультиязычных поисковых и семантических системах. Контекст ограничен 512 токенами. Доступны веса в форматах PyTorch и Safetensors. В README приведены заголовки разделов с кодом обучения и запуска, но сами фрагменты опущены. Сведения о лицензии в доступных данных отсутствуют.

Nemotron-3-Embed-1B GGUF — это модель для создания текстовых эмбеддингов, основанная на Nemotron-3-Embed-1B-BF16 от NVIDIA и преобразованная в формат GGUF для использования с llama.cpp. Она предназначена для семантического поиска, построения retrieval-систем, сопоставления текстов, кластеризации и других задач, где требуется сравнивать смысловое сходство текстовых фрагментов. Модель использует архитектуру mistral3 (Ministral3): 16 слоёв, скрытое представление размером 2048, 24 Q-heads и 8 KV-heads. Заявлен контекст до 262 тысяч токенов с поддержкой YaRN. Для получения эмбеддингов применяются mean pooling и L2-нормализация. Доступны варианты BF16 размером около 2,2 ГБ и Q8_0 размером около 1,2 ГБ. Поддерживаемые языки и другие модальности в README не указаны. Сильной стороной модели является совместимость с llama.cpp и возможность локального запуска в формате GGUF, включая экономичный вариант Q8_0. Для полного совпадения исходных векторов с реализацией Hugging Face необходимо отключить автоматическое добавление BOS-токена; при стандартной настройке качество поиска, согласно README, не меняется, хотя сами векторы немного отличаются. Лицензия — openmdw-1.1.

Nemotron-3-Embed-8B-GGUF — мультиязычная модель для создания текстовых эмбеддингов, опубликованная Abiray на основе модели NVIDIA Nemotron-3-Embed-8B-BF16. Она предназначена для Retrieval-Augmented Generation (RAG), семантического поиска и кросс-языкового поиска, включая локальные сценарии на потребительском оборудовании с использованием llama.cpp, Ollama или LM Studio. Модель имеет архитектуру Transformer, содержит около 8 миллиардов параметров и поддерживает контекст длиной до 32 тысяч токенов. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Репозиторий предоставляет варианты квантования в формате GGUF от Q3_K_M до Q8_0 объёмом примерно от 4,01 до 8,46 ГБ; Q4_K_M указан как рекомендуемый вариант, обеспечивающий баланс между качеством и требованиями к памяти. Сильными сторонами модели являются мультиязычность, поддержка кросс-языкового поиска, возможность локального развёртывания и ориентация на задачи извлечения информации; в README также заявлено первое место в мультиязычном рейтинге RTEB по состоянию на июль 2026 года. Ограничения связаны с потерями качества у более низких уровней квантования и значительными требованиями к памяти. Лицензия — OpenMDW-1.1.

MaziyarPanahi/neural-chat-7b-v3-3-Slerp-Mistral-7B-Instruct-v0.2-slerp — это объединённая методом SLERP диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В слиянии использованы mistralai/Mistral-7B-Instruct-v0.2 и Intel/neural-chat-7b-v3-3-Slerp; конфигурация указывает bfloat16. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате, а также поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не приводит сведений о целевых языках или специализированной области применения. Репозиторий распространяется по лицензии Apache-2.0. Конкретные ограничения качества и безопасности в карточке не описаны.

TheBloke разместил эту модель в формате PyTorch fp16: это Nous-Hermes-13B от Nous Research, объединённая с адаптером SuperHOT 8K от Kaio Ken. Модель основана на плотной архитектуре LlamaForCausalLM и содержит около 12,9 млрд параметров. При настройке инференса с поддержкой remote code она рассчитана на контекст до 8192 токенов. Модель предназначена для диалогов, следования инструкциям и генерации текста, включая творческие ответы, ролевые сценарии и задачи по программированию. Она обучена на более чем 300 тысячах инструкций, преимущественно на синтетических данных; README отмечает склонность к длинным ответам и заявляет низкий уровень галлюцинаций. Используется формат запросов Alpaca. Веса представлены в fp16 для GPU-инференса и дальнейшей конвертации. Лицензия указана как other, поэтому конкретные условия использования следует проверять в файлах репозитория. Модель создана в 2023 году; заявленные свойства и результаты бенчмарков приведены авторами карточки и не являются независимой оценкой.

Nous-Hermes-2-Mixtral-8x7B-SFT-GGUF — это квантизированная GGUF-версия языковой модели Nous-Hermes-2-Mixtral-8x7B-SFT, разработанной NousResearch и подготовленной квантизацией компанией Second State Inc. Модель предназначена для диалоговых и инструкционных сценариев, включая генерацию текста и работу в чат-приложениях на базе LlamaEdge. Модель основана на архитектуре Mixtral и использует формат промптов ChatML. В README указан английский язык, контекстное окно составляет 4096 токенов. Доступны варианты квантизации от Q2_K до Q8_0 размером от 17,3 до 49,6 ГБ. Q4_K_M рекомендуется как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более сильная квантизация уменьшает размер, но может заметно ухудшать качество; точные сведения о числе параметров, поддерживаемых модальностях и дополнительных языках не указаны. Для запуска требуется LlamaEdge версии 0.2.8 или новее; предусмотрены режимы сервиса и командного чат-приложения. Модель распространяется по лицензии Apache-2.0.

OpenBuddy-R10528DistillQwen-14B-v27.3-200K — диалоговая языковая модель OpenBuddy на архитектуре Qwen3, дообученная на базе Qwen/Qwen3-14B-Base с использованием дистиллированных данных DeepSeek-R1-0528. Модель содержит 14 млрд параметров и поддерживает контекст до 200 000 токенов. Модель предназначена для многоязычного чат-общения, ответов на вопросы и генерации текста. В карточке перечислены китайский, английский, французский, немецкий, японский, корейский, итальянский и финский языки. Для работы автор рекомендует быстрый токенизатор из transformers; формат диалога также задан в tokenizer_config.json и совместим с запуском через vLLM. Модель распространяется по лицензии Apache 2.0. Она может выдавать ошибочные, вредные или оскорбительные ответы; авторы предостерегают от применения в критически важных и высокорисковых сценариях, включая медицину, управление потенциально опасными системами, а также важные финансовые и юридические решения.

MaziyarPanahi/OpenHermes-2.5-neural-chat-v3-2-Slerp-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-v3-2-Slerp методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате диалога. Контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других задач генерации текста по запросу. Она распространяется под лицензией Apache-2.0. В README и метаданных не приведены отдельные результаты оценки качества или сведения о поддержке конкретных естественных языков.

legalvn/paraphrase-multilingual-MiniLM-L12-v2-168500 — дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Архитектура включает трансформер BERT с усреднением токенных представлений; модель содержит 124,3 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 384. Для сравнения текстов используется косинусное сходство. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста. В карточке показаны обучающие примеры на вьетнамском языке, в том числе запросы и фрагменты нормативных документов; контекстная длина в метаданных составляет 512 токенов, а README указывает ограничение последовательности 128 токенов. Лицензия в предоставленных данных не указана.

777Radik/potion-multilingual-128M-int8 — компактная версия мультиязычной модели статических эмбеддингов Model2Vec на основе minishlab/potion-multilingual-128M. Она преобразует текст векторовым поиском по таблице токенов, усредняет и нормализует векторы; нейросетевой инференс и GPU не требуются. Модель поддерживает 101 язык, включая кириллицу, и подходит для запуска в Python, Rust и браузере через WASM. Модель предназначена для семантического поиска, сравнения предложений и ранжирования текстовых фрагментов по косинусному сходству, в том числе между языками и письменностями. В репозитории заявлены квантизация Int8 и снижение размерности с 256 до 128 компонент методом PCA; размер составляет около 64 МБ. В испытаниях на трёх наборах данных результаты различались: модель выигрывала у BM25 на MuSiQue и QASPER, но уступала на HotpotQA. Лицензия — MIT.

BlueAvenir/prosieben_event_based_model_updated — модель Sentence Transformers на базе XLM-RoBERTa, разработанная BlueAvenir. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов; архитектура содержит около 305,2 млн параметров, а длина контекста составляет 514 токенов. Модель предназначена для построения семантического поиска и группировки похожих текстов. README описывает обучение с CosineSimilarityLoss, но не раскрывает обучающие данные и точный языковой охват; идентификатор и карточка не позволяют установить конкретную предметную область. Репозиторий содержит веса PyTorch.

lucaswychan/Qwen-2.5-1.5B-SimpleRL-Zoo-Reasoning-Embedding — модель эмбеддингов на основе плотной архитектуры Qwen2 с 1,5 млрд параметров. Она дообучена на базе hkust-nlp/Qwen-2.5-1.5B-SimpleRL-Zoo и предназначена для получения семантических представлений текстов и сравнения их сходства. Контекст модели составляет 32 768 токенов; в метаданных указана поддержка нескольких языков. Для загрузки через Sentence Transformers или Transformers карточка рекомендует включить trust_remote_code=True. Модель ориентирована на поиск и сопоставление текстов по смыслу. В README описано исследование влияния RLVR-обучения базовой модели на качество эмбеддингов: оценки на MTEB и BRIGHT не выявили стабильного преимущества по сравнению с эмбеддингами, полученными из исходных моделей при одинаковой схеме контрастивного обучения. Модель распространяется по лицензии Apache-2.0.

Kondara/Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантованная версия модели Qwen/Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и прежде всего для работы с программным кодом, включая задачи программирования и чат-взаимодействия. Модель имеет размер 7B параметров, относится к семейству Qwen2.5-Coder и представлена в формате квантования Q4_K_M, что позволяет запускать её локально с llama.cpp через CLI или сервер. В карточке указана поддержка английского языка; другие языки и мультимодальные возможности не заявлены. В качестве примера запуска используется контекст длиной 2048 токенов, но максимальный размер контекста в README не указан. К сильным сторонам относятся специализация на коде, инструкционное обучение и возможность локального запуска в компактном квантованном формате. Ограничения связаны с размером 7B, возможным снижением точности из-за квантования и отсутствием подробных данных о качестве, поддерживаемых языках программирования и максимальном контексте. Лицензия — Apache-2.0, унаследованная от исходной модели.

Qwen2-VL-2B-Instruct — мультимодальная модель с визуальным энкодером и плотной архитектурой Qwen2-VL, разработанная командой Qwen. Это версия с настройкой для следования инструкциям, основанная на Qwen/Qwen2-VL-2B. Модель принимает изображения и текстовые запросы и формирует текстовые ответы; поддерживает динамическое разрешение изображений, а механизм M-ROPE учитывает текстовые, визуальные и видеопозиции. В метаданных указаны 1,5 млрд параметров и контекст длиной 32 768 токенов. Модель предназначена для визуальных вопросов и ответов, анализа изображений и документов, а также понимания видеоклипов, включая клипы длительностью более 20 минут. Она также может служить основой для систем, которые действуют по текстовым инструкциям, опираясь на визуальную обстановку. Модель поддерживает английский и китайский языки, а также распознавание текста на изображениях на многих других языках. Репозиторий содержит веса в формате safetensors, использовать их можно на базе Transformers; лицензия — Apache-2.0. В README отмечены ограничения: модель не понимает аудио в видео, может ошибаться при подсчёте объектов и пространственных рассуждениях, а также испытывает трудности со сложными многошаговыми инструкциями. Данные изображений обновлены до июня 2023 года; распознавание конкретных людей и объектов интеллектуальной собственности ограничено.

DavidAU/Qwen3-32B-128k-NEO-Imatrix-Max-GGUF — квантованные GGUF-варианты модели Qwen3-32B, разработанные DavidAU. Модель предназначена для генерации текста, диалогов, задач с рассуждениями и творческих сценариев, включая хоррор и другие художественные применения. Указано, что модель может использоваться также для общего назначения. Модель имеет заявленный контекст до 128k токенов и поддерживает режим reasoning с автоматической генерацией блоков размышлений. Варианты используют NEO Imatrix-квантизацию, при этом выходной тензор оставлен в формате BF16 для улучшения рассуждений и генерации. Размер базовой модели — 32B параметров; конкретная архитектура, список поддерживаемых языков и точные характеристики отдельных квантов в карточке не указаны. Для качества рекомендуется контекст не менее 8k, предпочтительно 16k; IQ4XS и IQ4NL описаны как наиболее сбалансированные варианты, а более высокие кванты — как предпочтительные для усиленного reasoning. К ограничениям относятся зависимость качества от выбранного уровня квантизации, необходимость корректной настройки Jinja или CHATML-шаблона и возможная потребность в подборе параметров генерации. Для Q8_0 эффект Imatrix, согласно описанию, отсутствует. Модель распространяется по лицензии Apache-2.0.

FreedomAISVR публикует GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled — разговорной модели рассуждения, дистиллированной из Claude 4.7 Opus. В основе лежит архитектура Qwen3.5 MoE с 35 млрд параметров, около 3 млрд из которых активны при генерации; в модели 256 экспертов, из них 8 активируются на токен, а также 40 слоёв и MTP-голова. Контекст составляет 262 144 токена. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями. Это текстовая версия без поддержки изображений. Веса сохранены в формате GGUF и квантизированы в NVFP4 примерно до 4 бит; файл модели занимает около 18,81 ГБ. Apache 2.0 указана как лицензия исходной модели.

Fmuaddib/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16-mlx-8Bit — языковая модель для генерации текста, преобразованная в формат MLX из AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 с использованием mlx-lm 0.31.2. Модель относится к семейству Qwen3.8 и имеет 27 млрд параметров; в метаданных указана поддержка английского, китайского и других языков. Модель предназначена для диалоговых и инструкционных сценариев, программирования, рассуждений, а также заявленных в метаданных задач function calling и tool calling. Для запуска используется библиотека mlx-lm, предусмотрена работа с chat template. В метаданных также отмечены vision и multimodal, однако README не содержит подробностей о поддерживаемых форматах входных данных и возможностях обработки изображений. Ключевая особенность этой версии — представление в MLX с 8-битным квантованием, что ориентировано на запуск в экосистеме Apple Silicon и может снизить требования к памяти по сравнению с полноразмерной версией. При этом README не приводит результаты тестов, сведения о размере контекста, точной архитектуре, аппаратных требованиях или сравнительных оценках качества. Модель распространяется по лицензии Apache-2.0.

sakamakismile/Qwen3.8-27B-MTP-NVFP4 — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen. Это плотная гибридная модель с архитектурой DeltaNet и полноразмерным attention, компонентами компьютерного зрения Qwen3-VL и встроенной MTP-головой для speculative decoding. Модель предназначена прежде всего для генерации текста, рассуждений и использования в серверных сценариях через vLLM; поддержка мультимодального режима заявлена благодаря vision tower, но в README её производительность не оценивалась. Основная часть весов сжата в формат NVFP4 W4A4 с размером группы 16, тогда как vision tower, lm_head, conv1d DeltaNet и MTP-голова сохранены в bf16. Размер базовой модели составляет 27,8 млрд параметров; объём уменьшен с 55,6 до 20,6 ГБ. Заявлен контекст до 131 072 токенов, поддерживается KV-кэш fp8 и работа на GPU Blackwell через vLLM 0.22.0. MTP-голова позволяет ускорять декодирование, однако требует корректного сохранения специальных модулей и конфигурации speculative decoding. Сильными сторонами модели являются существенное сокращение объёма весов, высокая скорость генерации на совместимом оборудовании и поддержка длинного контекста. Ограничения связаны с требованиями к GPU Blackwell и конфигурации vLLM: формат W4A4 необходим для указанной архитектуры, а мультимодальная производительность не проверялась. Модель ориентирована на задачи рассуждений; при высоком уровне reasoning effort значительная часть лимита токенов может расходоваться на внутреннее рассуждение без итогового ответа, поэтому для длинных запросов рекомендуется режим medium и max_tokens не менее 4096. Распространяется по лицензии Apache-2.0.

aquaduck/Qwen3.8-Flash-Next-GGUF — это квантизированная версия каузальной языковой модели Qwen3.8-Flash-Next, разработанной командой Qwen и Alibaba Cloud. Репозиторий поддерживается Aquaduck и содержит GGUF-представление UD-Q3_K_XL, а также пакеты слоёв для поэтапной или многонодовой загрузки. Это не дообученная модель и не новый запуск обучения, а упаковка и квантизация исходных весов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, в частности llama.cpp, а также staged loading через экосистему Aquaduck Arc. Заявлены мультиязычная поддержка, контекст до 262 144 токенов и около 180 млрд параметров. Архитектура включает 48 слоёв, GQA с 24 Q- и 2 KV-головами и скрытое измерение 2560. К преимуществам относятся большой контекст, мультиязычность, возможность локального запуска в формате GGUF и поддержка поэтапной загрузки для распределённых конфигураций. Ограничения связаны с крупным размером модели и снижением качества по сравнению с более точными версиями из-за квантизации UD-Q3_K_XL. Отдельные shard-файлы не являются полноценной моделью и не предназначены для прямого запуска в стандартном llama.cpp. Лицензия указана как other и наследуется от базовой модели; необходимо соблюдать условия лицензии и рекомендации исходной карточки модели.

BennyDaBall/Qwen3.8-Uncensored-NVFP4-MTP — это квантизированная GGUF-версия модели JonathanColetti/Qwen3.8-27B-Uncensored, подготовленная BennyDaBall. Модель основана на 27B-сборке Qwen3.8 с удалёнными ограничениями фильтрации, предназначена для генерации текста и диалогов, а также поддерживает работу с изображениями и видеокадрами при подключении vision-проектора. Заявлены английский и китайский языки. Контекстное окно составляет 262 144 токена. Основная часть трансформера из 64 слоёв сжата в формат NVFP4, а lm_head, embeddings, MTP-голова и vision-проектор сохранены в BF16. Встроенная MTP-голова позволяет использовать speculative decoding без отдельной draft-модели, что может существенно ускорять генерацию, особенно на структурированных данных, коде и повторяющихся фрагментах. Модель ориентирована прежде всего на видеокарты NVIDIA Blackwell, включая RTX 5090, RTX 5080 и RTX PRO; для работы требуются свежие версии llama.cpp с поддержкой NVFP4 и архитектуры qwen35 либо LM Studio 2.29.1 и новее. Производительность и эффективность спекулятивного декодирования зависят от оборудования и характера запроса, а для мультимодального режима требуется около 1 ГиБ дополнительной видеопамяти на vision-проектор. Распространяется по лицензии Apache-2.0.

ruRoPEBert-e5-base-512 — модель-энкодер от команды Tochka AI на архитектуре RoPEBert, дообученная на датасете CulturaX с использованием cloning method. Она предназначена прежде всего для получения векторных представлений русскоязычных текстов, сравнения их семантической близости и построения классификаторов. В модели 166,5 млн параметров; для агрегирования токенов предусмотрен встроенный mean-pooling, также доступен first-token pooling. Модель обучена на контекстах до 512 токенов, а RoPE scaling позволяет расширить окно контекста с соответствующей настройкой. В бенчмарке encodechka модель показывает качество, сопоставимое с multilingual-e5-base, и более высокий итоговый S+W score по приведённым результатам. Репозиторий содержит веса safetensors и пользовательский код архитектуры; для загрузки через Transformers требуется включить trust_remote_code. Лицензия в предоставленных данных не указана.

akhooli/sbert_nli_test_m — модель Sentence Transformers на основе AraBERTv0.2-base, дообученная на арабских NLI-триплетах. Она кодирует предложения и абзацы в плотные векторы размерности 768; архитектура включает BERT и усреднение токенных представлений. Для сравнения текстов используется косинусное сходство. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов на арабском языке. Максимальная длина последовательности — 512 токенов. Распространяется по лицензии Apache-2.0.

arcee-ai/sec-mistral-v2-Hercules — объединённая модель на основе двух предобученных языковых моделей, созданная методом SLERP с помощью mergekit. В состав вошли arcee-ai/sec-mistral-7b-instruct-1.6-epoch и Locutusque/Hercules-4.0-Mistral-v0.2-7B; конфигурация использует первый репозиторий как базовую модель. Это плотная Mistral-модель с архитектурой MistralForCausalLM и 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors через Transformers. Модель подойдёт для создания чат-ботов, генерации ответов и продолжения текста. Карточка не описывает отдельную специализацию по языкам или прикладным областям. Лицензия в предоставленных данных не указана.

Muennighoff/SGPT-125M-weightedmean-nli-bitfit — модель Sentence Transformers на архитектуре GPT-Neo, предназначенная для получения векторных представлений предложений и сравнения их семантического сходства. Она содержит 137,7 млн параметров, принимает текст, выдаёт эмбеддинги и поддерживает контекст до 2048 токенов. Модель обучена с помощью MultipleNegativesRankingLoss с косинусной мерой сходства на данных без повторов в батчах. Её можно применять для поиска семантически близких предложений, сопоставления запросов с текстами и ранжирования кандидатов по смысловой близости. README ссылается на код проекта и публикацию для инструкций и результатов оценки, но не приводит их непосредственно. В метаданных указана лицензия? Нет сведений о лицензии в доступных данных.

Карточка модели llmware/slim-boolean-phi-3 на Hugging Face совпадает с карточкой llmware/slim-xsum-phi-3, поэтому описание составлено по ней. llmware разработала llmware/slim-xsum-phi-3 — дообученную на базе Microsoft Phi-3 модель серии DRAGON для ответов на вопросы по контексту в RAG-сценариях. Она предназначена для работы с текстовыми фрагментами и выдаёт ответы, извлечённые из предоставленных материалов; типовые задачи включают ответы на вопросы, извлечение значений и краткое суммирование. В карточке модели сообщается о тестировании на наборе RAG-инструкций, включая вопросы с ответом «не найдено», логические задачи и суммирование. Модель имеет плотную архитектуру Phi-3 с 3,7 млрд параметров и контекстное окно 4096 токенов. Указанный язык — английский. Репозиторий содержит веса PyTorch, модель поддерживает чат и распространяется по лицензии Apache 2.0. Результаты внутренних тестов не гарантируют точности на других данных: ответы могут быть неполными или неверными, поэтому их следует проверять.

Stable Code 3B — авторегрессионная языковая модель Stability AI на основе decoder-only Transformer, близкой к архитектуре LLaMA, с реализацией через GPT-NeoX. Модель содержит около 2,7 млрд параметров и предварительно обучена на 1,3 трлн токенов текстовых и программных данных, включая наборы Falcon RefinedWeb, The Stack GitHub Issues, CommitPackFT, StarCoderData, Proof-Pile-2 и MetaMathQA. Модель предназначена прежде всего для генерации, дополнения и анализа программного кода. Она обучалась на 18 языках программирования и поддерживает сценарий Fill in the Middle (FIM), что позволяет вставлять фрагменты кода между заданными началом и концом. Заявлена поддержка последовательностей длиной до 16 384 токенов. В README явно указаны английский язык и код; сведения о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. В опубликованных результатах MultiPL-E pass@1 модель показывает 32,4% для Python, 30,9% для C++, 32,1% для Java и JavaScript, 24,2% для PHP и 23,0% для Rust. Эти показатели заявлены как конкурентные среди моделей сопоставимого размера, однако отмечены как непроверенные. Ограничениями являются относительно небольшой размер по сравнению с крупными code-моделями, возможные ошибки и небезопасность генерируемого кода, а также отсутствие подтверждений качества для всех 18 поддерживаемых языков. Модель распространяется по Stability AI Community License. Для коммерческого использования README рекомендует обращаться к условиям коммерческой лицензии Stability AI; конкретные требования в карточке не приведены.

StarCoder2-15B-GGUF — квантизированная версия модели StarCoder2 15B, разработанной командой BigCode и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации и обработки программного кода, включая сценарии локального запуска и использования с совместимыми инструментами на базе llama.cpp. В README указан тег text-generation, однако конкретный перечень поддерживаемых языков программирования и естественных языков не приведён. Модель содержит 15 млрд параметров и поддерживает контекст размером 6144 токена. Доступны варианты квантизации от 2 до 8 бит размером примерно от 6,19 до 17 ГБ. Вариант Q4_K_M обозначен как рекомендуемый для сбалансированного сочетания размера и качества, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества. Более агрессивная квантизация уменьшает требования к памяти, но может существенно ухудшать качество; точные архитектурные характеристики и модальности в README не указаны. Модель ориентирована на задачи, связанные с кодом, но README не содержит подробных результатов тестирования или описания ограничений качества. Лицензия указана как bigcode-openrail-m. Оригинальная модель размещена под идентификатором bigcode/starcoder2-15b.

QuantFactory/starcoder2-7b-instruct-GGUF — квантованная версия модели TechxGenus/starcoder2-7b-instruct, созданная QuantFactory с использованием llama.cpp. Это текстовая генеративная модель, дообученная для работы с инструкциями, связанными с программированием и генерацией кода. В основе лежит StarCoder2-7B; модель была дообучена на 0,7 млрд дополнительных высококачественных токенов, связанных с кодом, в течение 3 эпох. Для обучения применялись DeepSpeed ZeRO 3 и Flash Attention 2. Заявленный результат на HumanEval-Python составляет 73,2 pass@1. Модель использует формат инструкций Alpaca без системного промпта. Сведения о поддерживаемых языках программирования, размере контекста и конкретных параметрах квантования в карточке не указаны. Модель предназначена прежде всего для генерации кода по инструкциям и других задач разработки программного обеспечения. Её сильные стороны — специализация на коде и заявленный результат на HumanEval-Python, а квантование может упростить локальный запуск. Ограничения включают возможные ошибки и вводящий в заблуждение результат, особенно при решении задач, не связанных с программированием; тестирование модели было ограниченным, поэтому перед применением в реальных системах рекомендуется дополнительная проверка безопасности. Лицензия — BigCode OpenRAIL-M.