I.3Извлечение и структурирование данных

MyAwesomeModel — модель из репозитория sdfaffaf556/MyAwesomeModel-TestRepo, предназначенная для извлечения признаков из данных с использованием библиотеки Transformers и фреймворка PyTorch. В метаданных она классифицирована как BERT-модель с pipeline-задачей feature-extraction. README также заявляет о возможностях рассуждения, программирования, математики, классификации, суммаризации, перевода, диалоговой генерации, function calling и работы с файлами и веб-поиском. Однако эти сведения не согласуются с указанной в метаданных основной pipeline-задачей и не сопровождаются достаточными техническими деталями о конфигурации модели, размере, контекстном окне или поддерживаемых языках. Модель распространяется под лицензией MIT. Для практического применения следует учитывать, что README не содержит проверяемых сведений о происхождении модели, точной архитектуре, доступных весах и ограничениях качества.

kietnt0603/nrk-legal-large — модель эмбеддингов на базе XLM-RoBERTa-large, дообученная разработчиком на юридических запросах и документах на вьетнамском языке. Она предназначена для семантического поиска по юридическим корпусам и извлечения документов для RAG-систем. Модель кодирует текст в плотные векторы размерностью 1024; благодаря обучению с MatryoshkaLoss эмбеддинги можно сокращать до 768, 512, 256 или 128 измерений. Модель построена на intfloat/multilingual-e5-large, использует Sentence Transformers и поддерживает контекст до 514 токенов. В README приведена оценка на тестовом наборе юридического поиска VMTEB-Zalo: 640 запросов и 61 425 документов; автор также сравнивает результаты с базовой и другими моделями. Эти показатели относятся к описанному бенчмарку и не гарантируют такую же точность на других корпусах. Модель принимает текст и выдаёт эмбеддинги для семантического сопоставления. Лицензия — Apache-2.0.

polish-reranker-base-ranknet — модель ранжирования польских текстов, разработанная для поиска и информационного извлечения. Она основана на польской RoBERTa и обучена с функцией потерь RankNet на парах запросов и документов: выборка включала около 1,4 млн запросов и 10 млн документов. В качестве учителя использовалась multilingual-модель unicamp-dl/mt5-13b-mmarco-100k, а RoBERTa выступала компактной моделью-учеником. Модель оценивает релевантность документов запросу и упорядочивает их, поэтому её можно применять для повторного ранжирования результатов, полученных на этапе первичного поиска. Обучающие данные включали польскую часть MS MARCO, переведённый на польский ELI5 и коллекцию польских медицинских вопросов и ответов. В бенчмарке Polish Information Retrieval Benchmark модель показала NDCG@10 60,32 в категории rerankers. Архитектура — RobertaForSequenceClassification, размер — 151,6 млн параметров, длина контекста — 514 токенов. Лицензия Apache-2.0.

Это версия Qwen3.6-35B-A3B, подготовленная сообществом mlx-community для запуска в MLX. Модель основана на Qwen/Qwen3.6-35B-A3B и поддерживает диалоговую работу с текстом и изображениями; архитектура относится к семейству Qwen3.5 MoE, а репозиторий содержит веса в формате Safetensors. Модель предназначена для мультимодальных диалогов и анализа изображений с текстовыми запросами. Её можно использовать в приложениях на базе MLX, включая сценарии визуальных вопросов и ответов и разбор содержимого изображений. По карточке, конвертация выполнена с помощью mlx-vlm версии 0.4.4; лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-Aggressive-GGUF — это квантизированная GGUF-версия модели Qwen3.8-27B-Uncensored-Aggressive, размещённая и подготовленная mradermacher на основе исходной модели philbert440. Модель предназначена для генерации и обработки текста, а также поддерживает мультимодальные сценарии image-text-to-text при использовании дополнительного файла mmproj. Модель содержит около 27 млрд параметров и ориентирована на работу на локальном оборудовании через совместимые с GGUF инструменты. В репозитории представлены варианты квантования от Q2_K до Q8_0, включая IQ4_XS, с размером файлов примерно от 11 до 29,1 ГБ; также доступны мультимодальные дополнения mmproj в форматах Q8_0 и f16. В README указан английский язык, однако сведения о размере контекста, точной архитектуре и наборе поддерживаемых языков не приведены. Сильной стороной являются разнообразные варианты квантования, позволяющие выбирать между требованиями к памяти, скоростью и качеством; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q6_K и Q8_0 — как варианты высокого качества. Ограничения включают зависимость характеристик от выбранного квантования, значительные требования к дисковому пространству и памяти, а также отсутствие подробных данных о качестве, обучении и безопасных сценариях применения. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-NVFP4 — модифицированная и квантованная версия Qwen3.8-27B, созданная OrcaRouter. Модель представляет собой плотную vision-language-модель на 27 млрд параметров с гибридной архитектурой: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв с полным вниманием. Поддерживаются текстовые и визуальные входы, языки английский и китайский, рассуждения, вызов инструментов и speculative decoding через MTP-голову. Заявленный размер контекста — 262 тысячи токенов. Модель прошла abliteration — удаление направления отказа, связанного с защитным поведением, — поэтому практически не имеет встроенных ограничений безопасности и может выполнять потенциально вредные или незаконные запросы, от которых базовая модель отказалась бы. Она предназначена прежде всего для исследований интерпретируемости, AI safety, red teaming, анализа механизмов отказа и контролируемых экспериментов, а не для непосредственного использования конечными пользователями или в производственных системах без собственных фильтров и механизмов защиты. Для снижения требований к памяти применена динамическая смешанная квантизация: основные FFN-слои используют 4-битный NVFP4, чувствительные к точности компоненты, часть FFN-слоёв и KV-кэш — FP8. Формат распространения — safetensors с шардированием; общий объём указан как 23,4 ГБ. Такая схема ориентирована на запуск на GPU с поддержкой Blackwell FP4 и должна лучше сохранять точность, чем равномерная W4A4-квантизация, однако квантизация и удаление защитного выравнивания могут влиять на качество и надёжность ответов. Модель распространяется по лицензии Apache 2.0; ответственность за применение, безопасность и соблюдение законодательства возлагается на пользователя.

Qwen3.8-27B-Uncensored-OrcaRouter-GGUF — неофициальный релиз от автора репозитория pratiee, представляющий конвертацию и квантование модели orcarouter/Qwen3.8-27B-Uncensored-FP8. Исходная модель связана с Qwen/Qwen3.8-27B; в карточке указано, что релиз не выполняет дополнительное обучение, дообучение, объединение или изменение выравнивания. Модель предназначена для локального запуска через совместимый llama.cpp-совместимый runtime; размещённый inference в Hugging Face отключён. Это плотная модель примерно на 27 миллиардов параметров с гибридной архитектурой внимания Gated DeltaNet и полного внимания, нативной поддержкой изображений и текста, инструментов, рассуждений и speculative decoding через MTP. Заявлены английский и китайский языки, максимальный контекст до 262 144 токенов и vision tower, однако фактическая поддержка контекста и мультимодальности зависит от runtime, доступной памяти, совместимого multimodal projector и клиента. Доступны варианты GGUF Q8_0, Q6_K, Q5_K_M и Q4_K_M без importance matrix, а также необязательный MTP-компаньон Q8_0, который не является самостоятельной чат-моделью. Ключевая особенность — abliteration, то есть существенное удаление механизмов отказа от ответов. Поэтому модель может выполнять вредоносные, незаконные или неэтичные запросы и практически не имеет встроенных защитных ограничений; для пользовательских и производственных систем необходимы собственные фильтры, модерация и меры предотвращения злоупотреблений. Релиз распространяется по Apache License 2.0 с учётом условий исходной модели и предназначен прежде всего для легитимных исследовательских задач, включая анализ механизмов отказа, red teaming и контролируемые эксперименты.

TalkTix/roberta-base-category-type-generator-53k — модель классификации текстовых обращений в службу поддержки, разработанная на базе RoBERTa. Она относит запрос к одной из пяти категорий: технические проблемы, счета и платежи, вопросы о продукте, управление аккаунтом и вопросы о правилах. Модель обучена на сбалансированном наборе из 53 000 анонимизированных обращений и предназначена для маршрутизации запросов и автоматизации первичной сортировки обращений на английском языке. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и принимает текст длиной до 514 токенов. По описанию обучения, валидационная ошибка оставалась близкой к обучающей; при этом ошибки классификации чаще встречались между техническими проблемами и вопросами о правилах, а также между управлением аккаунтом и вопросами о правилах. Распространяется по лицензии MIT.

akahana/roberta-base-indonesia — модель RoBERTa для индонезийского языка с 151,8 млн параметров, представленная в форматах PyTorch, Safetensors и TensorFlow. Она предназначена для извлечения признаков из текста и может использоваться как маскированная языковая модель для подстановки пропущенных слов; README показывает пример с индонезийским предложением. Модель подходит для получения текстовых представлений и как основа для задач обработки индонезийского текста. Контекст составляет до 514 токенов. Распространяется по лицензии MIT.

STORM Qwen3 Keyword Generator — дообученная компактная языковая модель на архитектуре Qwen3ForCausalLM с 1,7 млрд параметров, созданная для расширения поисковых запросов полезными ключевыми словами. STORM применяет пошаговую оптимизацию генерации по метрикам извлечения информации: варианты продолжения оцениваются по результатам BM25, чтобы добавлять термины, помогающие находить документы при несовпадении формулировок запроса и текста документов. Модель предназначена для лексического поиска и может использоваться как переписыватель запросов перед поиском по стандартному BM25-индексу. В карточке описан перенос подхода на 18 языков; метаданные указывают контекст до 40 960 токенов и поддержку диалога. Для генерации можно применять beam search, в том числе групповой, либо обычное декодирование. Репозиторий содержит веса в формате safetensors, а базовая модель — Qwen/Qwen3-1.7B. В препринте сообщается о результатах на TREC DL и BEIR, а также о переносе на MIRACL; эти заявления относятся к представленному подходу и не гарантируют качество конкретного чекпойнта во всех поисковых системах. Лицензия в предоставленных данных не указана.

Это побайтная копия модели NVIDIA stt_ar_fastconformer_hybrid_large_pcd_v1.0, созданная пользователем dev-ahmedhany для резервного доступа к исходному чекпойнту. Модель распознаёт арабскую речь и выдаёт текст с пунктуацией, капитализацией и диакритическими знаками (ташкиль). Она построена на архитектуре FastConformer и использует гибридный подход Transducer-CTC; для работы предназначена библиотека NeMo. Модель подходит для транскрибации арабской речи с восстановлением знаков препинания и диакритики. Репозиторий не меняет исходные веса NVIDIA. Лицензия — CC-BY-4.0.

TabSTAR — модель для классификации табличных данных с текстовыми признаками, разработанная Аланом Арази и соавторами. Она предназначена для переноса обучения между наборами данных и использует семантически ориентированные на целевую переменную представления: предварительно обученный текстовый кодировщик дообучается и получает токены целевой переменной, задающие контекст для формирования признаков. Архитектура не содержит параметров, привязанных к конкретному набору данных. В карточке Hugging Face указано 12,4 млн параметров; базовая модель — intfloat/e5-small-v2, формат весов — safetensors. TabSTAR рассчитана на классификацию таблиц, содержащих свободный текст, и показала высокие результаты на описанных в статье бенчмарках для наборов среднего и большого размера. Для обучения на собственных данных README рекомендует пакет tabstar. Метаданные указывают лицензию CC BY 4.0, тогда как README заявляет MIT; условия лицензирования следует сверить с фактическими файлами репозитория.

TaMillion — вторая версия языковой модели для тамильского языка, обученная автором модели с использованием ELECTRA от Google Research. Это базовая модель с архитектурой ELECTRA, представленная как BertModel: она содержит 143,9 млн параметров и рассчитана на последовательности до 512 токенов. Модель обучалась на корпусе IndicCorp Tamil и дампе Википедии на тамильском языке; текущая версия прошла 224 000 шагов предобучения. Модель предназначена для извлечения признаков из тамильского текста и может служить основой для дообучения под классификацию, регрессию и ответы на вопросы. В приведённых автором результатах TaMillion превзошла mBERT на классификации новостей и немного — на анализе отзывов о фильмах, а на тематической классификации «Тируккурала» показала сопоставимую точность. Для прикладной системы под конкретную задачу потребуется отдельная настройка; карточка не описывает лицензию.

Модель louisbrulenaudet/tsdae-lemone-mbert-base — Sentence-Transformers на основе многоязычного BERT, адаптированная разработчиком Louis Brulé Naudet к французским юридическим текстам. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, кластеризации и извлечения признаков для последующей классификации. Обучение методом TSDAE использовало 100 000 предложений из французских кодексов, включая гражданское, уголовное, трудовое и налоговое право. Модель содержит около 194,6 млн параметров, принимает текст и имеет контекстное окно 512 токенов. Базовый mBERT предварительно обучен на 102 языках, однако эта версия специализирована на французском юридическом языке. Репозиторий предоставляет веса PyTorch, Safetensors и Flax. Лицензия — Apache-2.0. Специализация на французском праве помогает находить семантически близкие формулировки в юридических корпусах и получать признаки для downstream-задач. Модель выдаёт эмбеддинги, а не готовые юридические заключения или ответы; качество на иных языках и предметных областях может быть ниже.

Hoangy2005/vietnamese-legal-embedder — текстовая модель Sentence Transformer, дообученная на основе intfloat/multilingual-e5-base. Она преобразует предложения и абзацы в плотные векторы размерности 768, нормализованные для сравнения по косинусному сходству. Архитектура включает XLM-RoBERTa, усредняющий pooling и нормализацию; максимальная длина последовательности — 514 токенов по метаданным Hugging Face. Модель предназначена для извлечения эмбеддингов и поиска релевантных текстов, в том числе семантического поиска по вьетнамским юридическим материалам и подбора похожих предложений. Карточка указывает базовую мультиязычную модель, однако не приводит конкретные обучающие данные или результаты оценки качества в юридическом домене. Использование требует библиотеки Sentence Transformers. Лицензия в предоставленных данных не указана.

Модель dsfsi-anv/whisper-large-v3-turbo-anv-tsn — дообученная версия Whisper large-v3-turbo от OpenAI, созданная на датасете dsfsi-anv/za-african-next-voices. Это плотная модель архитектуры Whisper с примерно 905,2 млн параметров, предназначенная для автоматического распознавания речи и преобразования аудио в текст. Модель работает с аудиовходом и выдаёт текст; в метаданных указана библиотека Transformers и формат весов safetensors. На оценочном наборе модель показала loss 0,1287 и WER 16,884. Карточка не описывает подробно целевые языки, сценарии применения или ограничения качества, поэтому эти результаты нельзя переносить на другие наборы данных. Лицензия — MIT.

IIC/XLM-R_Galen — сторонняя перезагрузка модели XLM-R Galén, первоначально опубликованной на GitHub. Это модель семейства XLM-RoBERTa с 305,2 млн параметров, предназначенная для извлечения признаков из текста. Репозиторий содержит веса в форматах PyTorch и Safetensors; максимальная длина контекста составляет 514 токенов. Карточка указывает испанский язык. Лицензия модели — MIT. README отсылает к исходной публикации за подробностями, поэтому специализированные сценарии применения и известные ограничения по имеющимся данным определить нельзя.

Qwen2.5-32B-Instruct-AWQ — инструкционно дообученная языковая модель из семейства Qwen, разработанная командой Qwen. Это причинная языковая модель для генерации текста, диалоговых ассистентов, следования инструкциям, написания и анализа кода, решения математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из них 31 млрд — без учёта эмбеддингов, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании и GQA с 40 головами для Q и 8 для KV. Репозиторий содержит 4-битную AWQ-квантизированную версию, что может снизить требования к памяти по сравнению с полноточной моделью. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, японский и корейский. Полная длина контекста указана до 131 072 токенов, а генерация — до 8192 токенов; при этом текущая конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется включение YaRN. Сильными сторонами модели являются улучшенные возможности в программировании и математике, следование инструкциям, обработка длинных текстов, понимание таблиц и генерация структурированных данных. При использовании статического YaRN производительность на коротких текстах может снижаться, поэтому его рекомендуется включать только при работе с длинным контекстом. Для загрузки и развёртывания требуются совместимые версии Transformers и поддержка AWQ; в документации рекомендуется vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-72B-Instruct-AWQ — большая инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалоговых ассистентов, генерации и анализа текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, японский, корейский и арабский. Это causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Модель содержит 72,7 млрд параметров, 70 млрд параметров без учёта эмбеддингов, 80 слоёв и использует Grouped-Query Attention с 64 головами для Q и 8 для KV. Репозиторий содержит 4-битную AWQ-квантизированную версию instruction-tuned модели. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для входов длиннее 32 768 токенов требуется настройка YaRN, а статическое масштабирование может ухудшать качество или производительность на коротких текстах. Сильные стороны модели — улучшенные знания, способности в программировании и математике, следование инструкциям, генерация длинных текстов, обработка таблиц и других структурированных данных, а также устойчивость к разнообразным системным промптам. Ограничения включают высокие требования к вычислительным ресурсам, возможное снижение производительности на коротких запросах при включённом YaRN и потенциальные потери качества, связанные с 4-битной квантизацией. Модель распространяется по лицензии Qwen; точные условия следует уточнять в файле лицензии репозитория.

Карточка модели Openintelligent123/gemma-4-12B на Hugging Face совпадает с карточкой google/gemma-4-12B, поэтому описание составлено по ней. Gemma 4 12B Unified — мультимодальная модель с открытыми весами, разработанная Google DeepMind и относящаяся к семейству Gemma 4. Она принимает текст, изображения, видео и аудио, а выдаёт текст; для аудио предусмотрены распознавание речи и перевод речи в текст. Единая архитектура позволяет обрабатывать аудио и изображения без отдельных энкодеров, что подходит для локального запуска на потребительских устройствах. Модель имеет плотную архитектуру и гибридное внимание, сочетающее локальные скользящие окна с глобальным вниманием; заявленное окно контекста для версии 12B — до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, вызова инструментов, а также понимания изображений, видео и аудио. Среди визуальных сценариев — извлечение текста из документов, OCR, разбор PDF, диаграмм и экранных интерфейсов; для аудио доступны транскрипция и перевод речи в текст. Семейство поддерживает более 35 языков в обычном использовании и обучалось на более чем 140 языках, но README не перечисляет конкретные языки этой версии. Модель распространяется по лицензии Apache 2.0. Как и другие генеративные модели, она может давать ошибочные ответы; README также указывает, что приведённые сценарии использования не являются исчерпывающими.

Gemma 4 12B Unified — мультимодальная плотная модель семейства Gemma 4, разработанная Google DeepMind и распространяемая под лицензией Apache 2.0. Она принимает текст, изображения, видео и аудио, а генерирует текст; унифицированная архитектура обрабатывает аудио и визуальные данные без отдельных энкодеров. Модель предназначена для локального запуска на потребительских устройствах, а также для серверов и рабочих станций. Модель подходит для диалога, генерации и анализа текста, программирования, рассуждений и сценариев с вызовом инструментов. Она может разбирать документы и PDF, распознавать текст и объекты на изображениях, понимать интерфейсы и диаграммы, анализировать видеокадры, распознавать речь и переводить речь в текст на другом языке. Для семейства заявлена поддержка контекста до 256 тыс. токенов и многоязычность; карточка указывает обучение более чем на 140 языках. Ограничения конкретной версии в предоставленных материалах подробно не описаны.

Gemma 4 31B IT — мультимодальная инструкционно-настроенная модель Google DeepMind на плотной архитектуре Gemma 4, предназначенная для диалогов и генерации текста по текстовым и визуальным запросам. Она принимает текст и изображения и выдаёт текст; поддерживает анализ изображений, рассуждения, программирование и работу с инструментами. Для этой версии заявлено контекстное окно до 256 тыс. токенов. Семейство Gemma 4 обучено на более чем 140 языках, однако для этой карточки отдельный перечень поддерживаемых языков не приведён. Модель подходит для ответов по изображениям и документам, распознавания текста на изображениях, анализа диаграмм и интерфейсов, а также для создания и редактирования текста и кода. Семейство Gemma 4 использует гибридное внимание с локальными и глобальными слоями, рассчитанное на работу с длинным контекстом. Аудиовход в README указан только для вариантов E2B, E4B и 12B, поэтому его не следует приписывать версии 31B. Лицензия — Apache 2.0.

Granite-4.1-8B — языковая модель с 8,4 млрд параметров, разработанная командой Granite компании IBM. Это плотный декодерный трансформер с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель дообучена на основе Granite-4.1-8B-Base с помощью supervised fine-tuning и обучения с подкреплением; доступна в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для следования инструкциям и создания диалоговых помощников, в том числе агентов с вызовом инструментов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Качество на многоязычных задачах может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для конкретных сценариев рекомендуется проводить проверку безопасности и настройку.

Qwen2.5-14B-Instruct-GGUF — инструкционная языковая модель из серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалоговых приложений, генерации и обработки текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель подходит для локального запуска в формате GGUF, в том числе с использованием llama.cpp. Модель представляет собой causal language model на архитектуре transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV-проекциях внимания. Она содержит 14,7 млрд параметров, включая 13,1 млрд параметров без учёта embedding, 48 слоёв и механизм GQA с 40 головами для Q и 8 для KV. Поддерживаются квантизации q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Полная длина контекста GGUF-версии составляет 32 768 токенов, а максимальная длина генерации — 8192 токена. Серия поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский и корейский. Сильные стороны модели — улучшенные способности к программированию и математике, следование инструкциям, генерация длинных текстов, обработка таблиц и других структурированных данных, а также устойчивость к разнообразным системным промптам. Для GGUF-версии заявлена поддержка контекста до 131 072 токенов только при использовании YARN в vLLM; для этого сценария рекомендуется обращаться к не-GGUF моделям. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-14B-Instruct-GPTQ-Int4 — инструкционно дообученная причинная языковая модель семейства Qwen2.5, разработанная командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, следования инструкциям, работы с кодом и математическими задачами, обработки структурированных данных и формирования структурированных ответов, включая JSON. Она поддерживает более 29 языков, среди которых английский, китайский, русский, французский, немецкий, испанский, японский и корейский. Модель содержит 14,7 млрд параметров, из них 13,1 млрд непараметров эмбеддингов, и включает 48 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании и Grouped Query Attention с 40 головами для Q и 8 для KV. Применяется 4-битная GPTQ-квантизация, уменьшающая требования к памяти по сравнению с полноразмерной версией. Заявленная максимальная длина контекста составляет 131 072 токена, а генерации — 8192 токена; в текущей конфигурации без дополнительной настройки доступно до 32 768 токенов, для более длинных входов требуется YaRN. Сильные стороны модели — улучшенное следование инструкциям, генерация длинных текстов, работа с кодом, математикой, таблицами и JSON, а также поддержка мультиязычных сценариев. GPTQ-квантизация может упростить развёртывание, однако квантование способно влиять на качество относительно исходной bfloat16-версии. Использование статического YaRN в vLLM может снижать производительность на коротких текстах. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-72B-Instruct-GPTQ-Int4 — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen при Alibaba Cloud. Это каузальная текстовая модель для диалогов, генерации текста, следования инструкциям, работы с кодом и математическими задачами, понимания таблиц и других структурированных данных, а также формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Модель содержит 72,7 млрд параметров, из которых 70,0 млрд приходятся на неэмбеддинговую часть, и включает 80 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV attention; применяется GQA с 64 головами для Q и 8 для KV. Это GPTQ-квантизированная версия с точностью 4 бита, предназначенная для более экономичного развёртывания по сравнению с полноразмерной моделью. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако текущая конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. Сильные стороны модели — развитые возможности в кодировании и математике, улучшенное следование инструкциям, генерация длинных текстов, устойчивость к разнообразным системным промптам и работа со структурированными данными. Ограничения включают высокие требования к вычислительным ресурсам из-за размера модели, возможное снижение качества из-за 4-битного квантования и потенциальное ухудшение производительности на коротких текстах при статическом масштабировании YaRN. Модель распространяется по лицензии Qwen; точные условия определяются файлом лицензии в репозитории.

trohrbaugh/gemma-4-12b-it-heretic — производная версия Gemma 4 12B от Google DeepMind, опубликованная trohrbaugh. Это плотная мультимодальная модель на архитектуре Gemma4Unified для диалогов, рассуждений, генерации и исправления кода, анализа изображений, видео и аудио. Вариант 12B принимает аудио, изображения и текст; также поддерживает видео через последовательности кадров. README семейства указывает контекст до 256K токенов для моделей 12B, но отдельные характеристики этого варианта подробно не описаны. Модель подходит для создания чат-ботов и помощников, суммаризации, разбора документов и PDF, OCR, анализа экранов и графиков, распознавания речи и перевода речи в текст. Семейство поддерживает более 35 языков «из коробки» и было предварительно обучено на более чем 140 языках; конкретный перечень языков для этой версии не приведён. Заявлены гибридное внимание с локальными и глобальными слоями, режим рассуждений и вызов инструментов. Модель помечена как uncensored/decensored/abliterated, поэтому предполагается ослабление части ограничений исходной модели; конкретное поведение этой версии в README не раскрыто. Как и другие генеративные модели, она может ошибаться в фактах, упускать языковые нюансы и воспроизводить смещения обучающих данных. Лицензия — Apache-2.0.

Карточка модели alekshandru/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

Карточка модели OsGo/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.