II.1Анализ требований и архитектура ПО

Карточка модели ITESM/st_demo_2 на Hugging Face совпадает с карточкой valurank/MiniLM-L6-Keyword-Extraction, поэтому описание составлено по ней. valurank/MiniLM-L6-Keyword-Extraction — англоязычная модель для получения векторных представлений предложений и коротких абзацев. Это Sentence-Transformers-модель на архитектуре BERT с 25,9 млн параметров, создающая плотные эмбеддинги размерности 384. В README описано дообучение контрастивным методом на более чем миллиарде пар предложений на основе nreimers/MiniLM-L6-H384-uncased; метаданные указывают формат PyTorch и контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Эмбеддинги можно использовать для ранжирования кандидатов по близости векторных представлений, в том числе при извлечении ключевых слов из текста. По умолчанию тексты длиннее 256 WordPiece-токенов обрезаются. README не приводит отдельную лицензию, а метаданные обозначают её как other, поэтому условия использования следует сверить с карточкой репозитория. Модель обучалась преимущественно на англоязычных данных; качество для других языков не подтверждено.

sentence-transformers-testing/stsb-bert-tiny-safetensors — компактная модель Sentence Transformers на архитектуре BERT, преобразующая предложения и абзацы в плотные векторы размерности 128. Модель содержит около 4,4 млн параметров, использует mean pooling и поддерживает контекст до 512 токенов. Модель предназначена для вычисления семантического сходства текстов, семантического поиска и кластеризации. Её можно использовать через библиотеку sentence-transformers или напрямую через Transformers с применением mean pooling; формат safetensors поддерживается репозиторием. К сильным сторонам относятся небольшой размер, высокая скорость инференса и низкие требования к ресурсам. Модель создает эмбеддинги, а не генерирует текст, поэтому для поиска или сравнения требуется отдельный механизм вычисления близости. Языки, на которых модель специально обучалась, и лицензия в доступных данных не указаны.

Карточка модели Bhuvana/test-setfit-model на Hugging Face совпадает с карточкой lewtun/my-awesome-setfit-model, поэтому описание составлено по ней. lewtun/my-awesome-setfit-model — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения смысловой близости текстов. Модель подходит для семантического поиска и кластеризации текстов, а также для получения эмбеддингов, используемых в других системах. В README указано обучение с функцией потерь CosineSimilarityLoss. Для применения описана работа через Sentence-Transformers или Transformers с подходящей операцией pooling. Максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт векторы. В карточке нет сведений о лицензии или целевых языках, поэтому определить условия использования и языковую специализацию по доступным данным нельзя.

Cohere и Cohere Labs разработали Tiny Aya Base — авторегрессионную языковую модель на архитектуре Transformer с 3,35 млрд параметров. Она предназначена для дообучения, адаптации к инструкциям и локального запуска в условиях ограниченных вычислительных ресурсов. Модель принимает текст и генерирует текст; контекст составляет до 8 тысяч токенов, заявлена поддержка более 70 языков, включая языки с ограниченными обучающими данными. Модель подходит для многоязычной генерации и диалогов, суммаризации, перевода и межъязыковых задач. В архитектуре используются скользящее оконное внимание с размером окна 4096 и глобальное внимание. По данным карточки, особенно сильные стороны — генерация на разных языках и работа с низкоресурсными языками. Качество рассуждений, в частности математических, ниже; фактические ответы могут быть ошибочными, а качество и понимание культурных нюансов различаются между языками. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование без отдельного разрешения; также требуется соблюдать политику допустимого использования Cohere Labs.

Tien09/tiny_bert_ft_sim_score — дообученная модель Sentence Transformers на базе prajjwal1/bert-tiny, созданная для сравнения сходства английских предложений и текстовых фрагментов. Она кодирует каждый текст в плотный вектор размерности 128; сходство векторов оценивается косинусной мерой. Модель обучена на наборе pair_similarity из 8 959 примеров и принимает последовательности длиной до 512 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации текстов, сравнения пар предложений и классификации на основе эмбеддингов. Архитектура объединяет BertModel и mean pooling. Репозиторий использует формат safetensors, библиотеку sentence-transformers и лицензию Apache-2.0. README содержит несоответствие в заголовке, где упомянут MPNet и AllNLI, тогда как основное описание и метаданные указывают на дообучение bert-tiny на pair_similarity.

Карточка модели 120inblue/topic-positive-embeddings на Hugging Face совпадает с карточкой sentence-transformers/multi-qa-MiniLM-L6-cos-v1, поэтому описание составлено по ней. multi-qa-MiniLM-L6-cos-v1 — модель Sentence Transformers, разработанная в рамках проекта Hugging Face по обучению моделей эмбеддингов предложений. Она преобразует вопросы, предложения и абзацы в нормализованные плотные векторы размерностью 384 и предназначена прежде всего для семантического поиска и подбора релевантных документов по запросу. Модель основана на архитектуре BERT и дообучена на примерно 215 млн пар «вопрос—ответ» из разных источников, включая наборы вопросов и ответов, Stack Exchange и пары для Wikipedia. Для представления текста используется mean pooling; контрастивное обучение улучшает близость векторных представлений связанных текстов. Модель содержит 25,9 млн параметров, поддерживает английский язык и рассчитана на последовательности до 512 токенов, хотя при обучении использовался текст длиной до 250 word pieces. Её можно применять для семантического поиска, поиска ответов и ранжирования текстовых фрагментов по сходству; нормализованные векторы позволяют использовать косинусное сходство или скалярное произведение. Тексты длиннее 512 токенов обрезаются, а качество на последовательностях существенно длиннее 250 word pieces может снижаться. Сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели Etelis/TSE_fewshot на Hugging Face совпадает с карточкой Etelis/Sentiment140_fewshot, поэтому описание составлено по ней. Etelis/Sentiment140_fewshot — модель на базе MPNet в формате PyTorch, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. В карточке указано обучение с CosineSimilarityLoss; модель предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации. Она содержит 136,7 млн параметров и принимает последовательности длиной до 514 токенов. Модель можно использовать с библиотекой Sentence-Transformers или через Transformers с подходящей операцией pooling. Она выдаёт текстовые эмбеддинги, которые подходят для поиска похожих предложений и группировки текстов по смыслу. Название указывает на Sentiment140 и few-shot, однако README не уточняет языки, конкретную схему обучения или результаты оценки. Лицензия в предоставленных данных не указана.

USER2-small — русскоязычная модель для получения векторных представлений предложений и длинных текстов, разработанная DeepPavlov. Она построена на энкодере RuModernBERT-small и дообучена для поиска, сравнения смысловой близости и других семантических задач. Модель содержит 34,4 млн параметров, поддерживает контекст до 8192 токенов и выдаёт эмбеддинги размерностью 384. Модель поддерживает Matryoshka Representation Learning: эмбеддинги можно сокращать до 32, 64, 128 или 256 измерений с небольшими потерями качества. Для разных сценариев предусмотрены префиксы, например search_query и search_document для поиска, а также clustering для кластеризации. В карточке приведены результаты оценок на MTEB-rus и русской части MLDR; качество зависит от задачи, длины текста и выбранного префикса. USER2-small подходит для семантического поиска по русскоязычным документам, ранжирования кандидатов и группировки похожих текстов. Это энкодер, который возвращает эмбеддинги, а не готовые текстовые ответы. Модель распространяется по лицензии Apache-2.0.

Это набор GGUF-квантизаций модели v3ray/Llama-3-1-70B-Instruct-base, подготовленный организацией featherless-ai-quants и распространяемый на платформе Hugging Face. Модель относится к задачам генерации текста и предназначена для запуска совместимых языковых моделей в различных вариантах квантования. В набор входят варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Указан размер базовой модели 70B; архитектура, поддерживаемые языки, модальности и размер контекста в README не описаны. Разные уровни квантования позволяют выбирать компромисс между размером файлов, требованиями к ресурсам и вероятным сохранением качества, однако конкретные характеристики производительности не приведены. Размеры вариантов составляют примерно от 25 до 72 ГБ. Модель ориентирована на текстовую генерацию, но точные сценарии применения, ограничения, требования к оборудованию и условия лицензирования в предоставленных данных не указаны. Поэтому перед использованием необходимо проверить лицензию базовой модели v3ray/Llama-3-1-70B-Instruct-base и совместимость выбранного GGUF-варианта с используемым программным обеспечением.

Vela-1.0-Encoder-307M-Embedding — мультиязычная модель эмбеддингов на базе ModernBERT, разработанная командой vLLM Semantic Router. Она предназначена для семантического сопоставления запросов, поиска контекста и организации памяти в маршрутизаторах. Модель содержит 306,9 млн параметров, использует 22 слоя и 768 измерений, поддерживает контекст до 32 768 токенов и доступна в форматах Safetensors и ONNX. Модель применима для семантического поиска, извлечения релевантных документов и сравнения предложений на английском, арабском, испанском, японском и китайском языках. В приведённых оценках она превосходит исходную mmBERT Embedding на отдельных задачах MTEB и при поиске по длинным документам; результаты относятся только к перечисленным тестам. Лицензия — Apache-2.0.

SSHHIVANI разработала эту модель Sentence Transformers, дообучив англоязычный sentence-transformers/all-MiniLM-L6-v2 на 4 555 обучающих примерах. Это плотный энкодер на архитектуре BERT с усреднением токеновых представлений и нормализацией: он преобразует текст в векторы размерностью 384, а сходство между ними можно оценивать косинусной мерой. Максимальная длина последовательности по метаданным — 512 токенов; в README указано ограничение 256 токенов. Модель предназначена для семантического сравнения предложений и абзацев, поиска по смыслу, поиска перефразировок, кластеризации и классификации текстов. Обучение с MultipleNegativesRankingLoss ориентировано на сопоставление запросов с документами. Поддерживается текстовый ввод; основной язык — английский, унаследованный от базовой модели. Доступен формат safetensors. Лицензия в предоставленных данных не указана.

xLAM-8x7b-r-GGUF — это GGUF-квантизированная версия языковой модели xLAM-8x7b-r, разработанной Salesforce и подготовленной для распространения пользователем bartowski. Модель ориентирована на text-generation, function calling, использование инструментов и создание LLM-агентов. Обучение связано с датасетом Salesforce/xlam-function-calling-60k; заявленный язык — английский. Модель основана на архитектуре, обозначенной в карточке тегом mistral, и имеет конфигурацию 8x7B; точные сведения о числе активируемых параметров и размере контекста не указаны. Доступны варианты от F16 до сильно сжатых квантов GGUF, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3/Q2, с размером файлов примерно от 17 до 93 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix; некоторые варианты оптимизированы для ARM и CPU-инференса. Сильная сторона модели — специализация на вызове функций и взаимодействии с внешними инструментами, а также широкий выбор квантов для компромисса между качеством и требованиями к памяти. Ограничения включают заявленную ориентацию на английский язык, отсутствие данных о мультимодальности и контекстном окне, а также снижение качества у малобитных вариантов. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование; для доступа к репозиторию требуется подтверждение согласия с лицензией.

Youtu-Embedding — универсальная модель текстовых эмбеддингов, разработанная Tencent Youtu Lab. Она предназначена для поиска и сопоставления текстов, семантической оценки сходства, кластеризации, ранжирования и классификации. Модель имеет плотную архитектуру UTU и около 2,4 млрд параметров; README указывает размерность эмбеддингов 2048 и длину последовательности до 8K токенов, тогда как метаданные каталога указывают контекст до 131 072 токенов. Модель обучена по совместной дискриминативной схеме с разными функциями потерь для задач и динамической выборкой задач. README сообщает о результате 77,58 на китайском бенчмарке CMTEB по состоянию на сентябрь 2025 года. Карточка ориентирует на китайский язык и описывает интеграцию с Transformers, Sentence Transformers, LangChain и LlamaIndex для поисковых и RAG-систем. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

DiffusionGemma 26B A4B IT NVFP4 — мультимодальная генеративная модель с открытыми весами, разработанная Google DeepMind и квантованная NVIDIA с помощью Model Optimizer в формате NVFP4. Она построена на архитектуре Gemma 4 26B A4B Mixture-of-Experts: содержит 25,2 млрд параметров, из которых активно используется 3,8 млрд. Модель применяет encoder-decoder Transformer с двунаправленным вниманием и дискретной диффузией, генерируя текст параллельными блоками по 256 токенов. Заявлена скорость свыше 1100 токенов в секунду на NVIDIA Hopper H100 при низком размере батча в режиме FP8. Модель принимает текст, изображения и видео, а генерирует текст. Она предназначена для диалоговых систем и чат-ботов, суммаризации, генерации кода, пошагового рассуждения, анализа изображений и документов, OCR, понимания графиков, разбора PDF, анализа экранов и пользовательских интерфейсов, обработки видео, агентских сценариев с вызовом функций и мультиязычных задач. Поддерживаются более 35 языков, контекст до 256 тысяч токенов, настраиваемый режим рассуждения, нативный function calling и структурированный вывод в формате JSON. Изображения могут иметь различные разрешения и соотношения сторон, а видео обрабатывается как последовательность кадров длительностью до 60 секунд с частотой один кадр в секунду. Сильными сторонами модели являются мультимодальность, большой контекст, параллельная генерация и относительно небольшое число активных параметров для MoE-архитектуры. Ограничения включают необходимость проверки качества и безопасности на данных конкретного сценария, а также преимущественную ориентацию на NVIDIA GPU с поддержкой Blackwell и Hopper H100; заявленная интеграция выполняется через vLLM в Linux. Модель доступна для коммерческого и некоммерческого использования по Apache 2.0 с дополнительными Gemma Terms of Use и Gemma Prohibited Use Policy. NVIDIA указывает, что не является владельцем или разработчиком исходной модели.

Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Granite-3.2-8B-Instruct — плотная языковая модель IBM Granite Team с 8,2 млрд параметров, дообученная на базе ibm-granite/granite-3.1-8b-instruct для выполнения инструкций и задач рассуждения. Модель поддерживает управляемый режим рассуждения, который можно включать по необходимости, и работает через библиотеку Transformers; доступны веса в формате safetensors. Модель предназначена для диалоговых помощников и общих прикладных сценариев: суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Контекст — до 131 072 токенов, что подходит для анализа длинных документов и стенограмм. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель распространяется по лицензии Apache 2.0. README указывает, что к ней применимы этические ограничения и ограничения Granite-3.1-8B-Instruct; конкретные ограничения в карточке не перечислены.

Granite-3.3-8B-Instruct — плотная языковая модель с 8,2 млрд параметров, разработанная командой Granite компании IBM и дообученная на базе ibm-granite/granite-3.3-8b-base для следования инструкциям и улучшенного рассуждения. Она принимает текст и генерирует ответы, поддерживает диалог и интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Модель предназначена для общих задач ассистента и бизнес-приложений: ответов на вопросы, суммаризации длинных документов и встреч, классификации и извлечения текста, RAG, задач по математике и программированию, а также многоязычного диалога. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель доступна в формате safetensors для Transformers. Лицензия — Apache 2.0. В README отмечено, что применимы этические ограничения и ограничения базовой модели Granite-3.3-8B-Base; подробности этих ограничений в предоставленных материалах не раскрыты.

Карточка модели aertsimon90/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

QuixiAI/Qwen3-30B-A3B-AWQ — квантизированная в формате AWQ версия Qwen3-30B-A3B, разработанная командой Qwen и опубликованная Eric Hartford. Модель основана на causal language model с архитектурой mixture-of-experts (MoE) и предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, математики, программирования, перевода и агентских сценариев с интеграцией внешних инструментов. Модель поддерживает переключение между режимами рассуждения и обычной генерации, обучена на этапах pretraining и post-training и поддерживает более 100 языков и диалектов. Всего она содержит около 30,5 млрд параметров, из которых при обработке активируется около 3,3 млрд; в составе 48 слоёв, 128 экспертов, одновременно активируются 8, используется Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN заявлена поддержка до 131 072 токенов. К сильным сторонам относятся сочетание высокой ёмкости MoE с меньшим числом активных параметров, развитые возможности рассуждения, программирования, многоязычного общения и работы в агентских задачах, а также наличие эффективного режима без рассуждений. AWQ-квантизация может снизить требования к памяти и упростить локальное развёртывание, однако конкретные требования к оборудованию и влияние квантизации на качество в карточке не указаны. Для работы рекомендуется использовать актуальные версии Transformers, SGLang или vLLM. Модель распространяется по лицензии Apache-2.0.

Gemma 4 12B IT QAT Q4_0 Unquantized Assistant — модель Google DeepMind на базе google/gemma-4-12B-it-assistant. Это инструкция-настроенная мультимодальная модель с плотной архитектурой Gemma 4 и причинным декодером; репозиторий содержит веса safetensors, извлечённые из конвейера Quantization-Aware Training в формате половинной точности. Такая версия предназначена для дальнейшей компиляции и исследований, а не для непосредственной загрузки как готового Q4_0-квантизованного файла. Модель принимает текст и изображения; семейство также поддерживает видео, а вариант 12B — аудио. Она генерирует текст и подходит для диалогов, рассуждений, программирования, анализа изображений и документов, распознавания речи и перевода речи в текст. Для Gemma 4 12B заявлено контекстное окно до 256 тысяч токенов и многоязычная поддержка; семейство обучалось более чем на 140 языках. Модель поддерживает режим рассуждений, вызов инструментов и обработку изображений с разным разрешением. Точная лицензия репозитория — Apache 2.0. Качество и производительность зависят от выбранной среды компиляции и аппаратуры; конкретные ограничения для этого чекпойнта в карточке не описаны.

Gemma 4 26B A4B NVFP4 — мультимодальная модель для генерации текста, разработанная Google DeepMind и квантизированная NVIDIA с помощью Model Optimizer. Модель принимает текст и изображения, поддерживает обработку видео как последовательности кадров, а её выходом является текст. Она предназначена для диалоговых систем, чат-ботов, суммаризации, извлечения данных из изображений, рассуждений, программирования, мультимодального анализа, function calling, а также исследовательских и образовательных задач. Модель построена на архитектуре Transformers с разреженной MoE-структурой: содержит около 25,2 млрд параметров, из которых активно используется около 3,8 млрд, 30 слоёв, 128 экспертов и один общий эксперт. Она поддерживает контекст до 256K токенов, скользящее окно внимания размером 1024 токена, словарь из 262 тысяч токенов и более 140 языков. Для обработки изображений предусмотрен vision encoder примерно на 550 млн параметров, поддерживаются различные соотношения сторон и разрешения, а также настраиваемые бюджеты визуальных токенов. Видео длительностью до 60 секунд обрабатывается со скоростью один кадр в секунду. К сильным сторонам относятся большой контекст, мультимодальность, поддержка длинных документов, задач рассуждения и кода, а также сниженное вычислительное потребление благодаря MoE-архитектуре и формату NVFP4. Ограничения связаны с зависимостью от NVIDIA GPU, заявленной совместимостью прежде всего с архитектурой Blackwell, использованием Linux и поддержкой runtime vLLM. Квантизация может влиять на точность по сравнению с исходной моделью. Релиз не обучался заново: NVIDIA выполнила квантизацию и калибровку, тогда как исходная модель принадлежит Google. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache License 2.0 с дополнительными условиями Gemma. Версия модели — v1.0, квантизация выполнена с помощью nvidia-modelopt v0.43.0.

aifeifei798/gemma-4-E2B-Queen-it-qat-q4_0-unquantized — производная инструктивная модель семейства Gemma 4 на базе google/gemma-4-E2B-it-qat-q4_0-unquantized. В карточке описана архитектура Gemma 4 с плотной моделью и гибридным вниманием: локальные окна чередуются с глобальным вниманием. Модель предназначена для диалогов, рассуждений, программирования и мультимодального анализа; контекст Gemma 4 E2B составляет до 128 тысяч токенов. Модель принимает текст и изображения, а семейство Gemma 4 также описано как способное анализировать видео и аудио; однако карточка не подтверждает аудиовозможности именно этой производной сборки. Поддерживаются более 35 языков, а предварительное обучение проводилось более чем на 140 языках. Лицензия — Apache-2.0. Возможны фактические ошибки, трудности с тонкими языковыми нюансами и сложными открытыми задачами; ответы могут отражать смещения и пробелы обучающих данных.

RedHatAI/gpt-oss-120b-essential — вариант открытой по весам модели gpt-oss-120b, разработанной OpenAI и подготовленной Red Hat AI. Это генеративная текстовая модель для диалогов, текстовой генерации, задач с рассуждением, агентских сценариев и вызова инструментов. Модель поддерживает function calling, веб-поиск, выполнение Python-кода и Structured Outputs; поддержка tool calling валидирована. Указанный язык — английский. Модель построена на архитектуре Mixture of Experts и содержит около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Она использует посттренировочную MXFP4-квантизацию весов MoE и рассчитана на запуск на одном GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Для корректной работы требуется формат ответов harmony. В README не указана длина контекста. К сильным сторонам относятся настраиваемый уровень рассуждений — low, medium или high, возможность дообучения и пригодность для производственных и ресурсоограниченных развёртываний благодаря essential-комплектации без каталогов /Metal и /Original, уменьшающей профиль памяти. Полное предоставление цепочки рассуждений может помогать при отладке, но не предназначено для показа конечным пользователям. Модель валидирована в Red Hat OpenShift AI 2.25, Red Hat AI Inference Server 3.2.2 и vLLM 0.10.1.1. Распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

Granite-3.2-2B-Instruct-GGUF — модель IBM Granite, разработанная командой Granite Team компании IBM. Это GGUF-конверсия базовой модели Granite-3.2-2B-Instruct с различными вариантами квантования. Модель предназначена для выполнения общих инструкций и интеграции в AI-ассистентов, включая бизнес-приложения. Модель содержит около 2 миллиардов параметров и ориентирована на задачи рассуждения с управляемым включением режима thinking только при необходимости. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation (RAG), работу с кодом, function calling, многоязычный диалог и задачи с длинным контекстом, включая обработку больших документов и протоколов встреч. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. К сильным сторонам относятся компактный размер, поддержка reasoning-сценариев, длинного контекста и широкого набора прикладных задач. Точный размер контекстного окна и характеристики отдельных вариантов квантования в предоставленных данных не указаны; формат GGUF может требовать совместимого программного обеспечения для запуска. Модель распространяется по лицензии Apache 2.0.

Granite-4.1-8B (FP8) — это FP8-версия 8-миллиардной инструкционной языковой модели Granite-4.1, разработанной командой Granite компании IBM. Модель предназначена для генерации текста, диалогов и использования в качестве основы AI-ассистентов и LLM-агентов, включая корпоративные сценарии. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation, программирование, вызовы функций, многоязычный диалог и Fill-In-the-Middle для кода. Базовая модель построена на decoder-only dense Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными embeddings. Для 8B-варианта указаны 40 слоёв, размер embedding 4096, 32 attention heads, 8 KV heads и контекст до 131072 токенов. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. FP8-квантизация ориентирована на более эффективное развёртывание при сохранении совместимости с инструментами text generation. Сильные стороны модели — улучшенные instruction following, tool calling, чат-возможности, генерация и объяснение кода, математическое рассуждение и поддержка длинного контекста. Ограничения включают возможное снижение качества на языках, отличных от английского, а также риск неточных, предвзятых или небезопасных ответов; IBM рекомендует проводить собственное тестирование безопасности и настройки под конкретные задачи. Модель распространяется по лицензии Apache 2.0.

Карточка модели NostraEmpire/mirror-granite-3.1-8b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.1-8b-instruct, поэтому описание составлено по ней. Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Карточка модели Stage-org/Qwen3-4B-Instruct-2507 на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Instruct-2507, поэтому описание составлено по ней. Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.

Step 3.7 Flash — мультимодальная vision-language модель, разработанная StepFun. Она предназначена для высокочастотных производственных нагрузок и агентных сценариев, объединяющих восприятие изображений, поиск, проверку информации, рассуждения и взаимодействие с инструментами. Модель подходит для анализа больших финансовых отчётов, многошагового поиска с верификацией по нескольким источникам, параллельной работы coding-агентов, обработки пользовательских интерфейсов, диаграмм и других визуальных материалов. Модель построена на разреженной архитектуре Mixture-of-Experts (MoE) и содержит около 198 млрд параметров: примерно 196 млрд приходятся на языковую часть и 1,8 млрд — на vision encoder. На каждый токен активируется около 11 млрд параметров. Поддерживается контекст длиной до 256 тысяч токенов, изображения и текст, а также три уровня рассуждения — low, medium и high, позволяющие выбирать баланс между скоростью, стоимостью и глубиной анализа. В README указан английский язык; заявленная мультимодальность обеспечивает понимание изображений, визуальное заземление, анализ интерфейсов и преобразование визуальных данных в структурированный код. Сильные стороны модели — высокая пропускная способность до 400 токенов в секунду, работа с длинным контекстом, устойчивое выполнение многошаговых агентных процессов, использование внешних API, визуальная проверка данных и задачи программной инженерии. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к инфраструктуре при локальном развёртывании; заявленные результаты также зависят от конкретных бенчмарков и сценариев. Модель распространяется по лицензии Apache-2.0 и поддерживает Transformers, vLLM, SGLang и llama.cpp; доступна через StepFun Open Platform, OpenRouter и NVIDIA NIM, а также может развёртываться в облачных, дата-центровых и локальных средах.

DeepSeek-V2-Chat-0628 — улучшенная версия диалоговой модели DeepSeek-V2-Chat, разработанная DeepSeek. Она предназначена для общения по инструкциям и генерации текста, включая помощь с программированием, математическими задачами, переводом и ответами на вопросы по документам в сценариях RAG. Модель построена на архитектуре DeepSeek-V2 и содержит 18,1 млрд параметров; заявленная длина контекста — 163 840 токенов. В репозитории веса представлены в формате safetensors. В карточке сообщается об улучшении результатов относительно предыдущей версии на HumanEval, MATH и BBH, а также об оптимизации следования инструкциям в системной части диалога. Для запуска BF16 версии локально README указывает требования в 8 GPU по 80 ГБ памяти. Лицензия в метаданных обозначена как other, поэтому условия использования следует проверять в документах лицензии репозитория.