I.3Извлечение и структурирование данных

DrSebastianK/ogyeibedding — модель на базе XLM-RoBERTa, обученная для преобразования предложений и абзацев в плотные эмбеддинги размерностью 1024. Её можно применять для семантического поиска и кластеризации текстов, а также сравнивать близость предложений по векторам. В карточке указано обучение с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. Модель содержит около 658,7 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт векторы. Метаданные не уточняют поддерживаемые естественные языки. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

valurank/paraphrase-mpnet-base-v2-offensive — модель Sentence-Transformers на базе MPNet для получения векторных представлений предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, которые можно применять для поиска семантически близких текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги. В README указано обучение с CosineSimilarityLoss; метаданные также подтверждают поддержку извлечения признаков и сходства предложений. Контекст модели составляет 514 токенов. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с файлами репозитория.

PawanEmbd-68M — модель эмбеддингов предложений на основе Transformer-энкодера с проекционным слоем, разработанная dmedhi. Модель содержит 67,7 млн параметров, выдаёт векторы размерностью 768 и обрабатывает последовательности длиной до 512 токенов. Она создана методом дистилляции знаний из IBM Granite-278M Multilingual Embedding; репозиторий содержит веса в формате safetensors. Модель предназначена для семантического поиска, оценки сходства предложений, кластеризации текстов, выявления дубликатов, подбора похожих объектов и извлечения релевантных фрагментов для систем вопросно-ответного поиска. В README автор приводит сравнение, согласно которому студенческая модель существенно меньше и быстрее учительской на CPU. В метаданных указан английский язык и набор данных all-nli. Лицензия — Apache-2.0. Максимальная длина последовательности составляет 512 токенов, поэтому более длинные тексты потребуется обрезать или обрабатывать частями.

dbourget/philai-bge-2et-f5 — модель на базе BERT, опубликованная dbourget и предназначенная для преобразования предложений и абзацев в плотные векторы размерности 1024. Она подходит для семантического поиска и кластеризации текстов; в каталоге также отмечена задача извлечения признаков. Модель доступна в формате safetensors и рассчитана на контекст до 512 токенов. Для запуска предусмотрена интеграция с библиотекой Sentence-Transformers; при использовании Transformers необходимо применить подходящую операцию пулинга к контекстным представлениям токенов. Объём модели — около 433,9 млн параметров. Лицензия и сведения о конкретных языках в предоставленных данных отсутствуют.

unsloth/Qwen2.5-1.5B-Instruct-bnb-4bit — это 4-битная версия instruction-tuned языковой модели Qwen2.5-1.5B-Instruct, разработанной командой Qwen при Alibaba Cloud и опубликованной сообществом Unsloth. Модель предназначена для диалоговых ассистентов, следования инструкциям, генерации текста, работы со структурированными данными и JSON, а также задач программирования и математики. Модель относится к causal language models и использует архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV attention и связанными эмбеддингами слов. Исходная модель содержит около 1,54 млрд параметров, 28 слоёв и Grouped Query Attention с 12 головами Q и 2 головами KV. Указанный контекст исходной модели составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество варианта bnb-4bit — сниженное потребление памяти и возможность запуска на более доступном оборудовании; при этом квантование может уменьшать точность по сравнению с полноформатной моделью. Размер 1,5 млрд параметров делает модель подходящей для локального инференса и ресурсоограниченных приложений, однако её возможности и качество уступают более крупным моделям. Для работы рекомендуется актуальная версия библиотеки Transformers. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Qwen2.5-3B-Instruct-GGUF — квантизированная версия модели Qwen2.5-3B-Instruct, созданная QuantFactory с использованием llama.cpp на основе Qwen/Qwen2.5-3B-Instruct. Это каузальная языковая модель для генерации текста и диалоговых сценариев, включая следование инструкциям, ответы на вопросы, написание длинных текстов, работу со структурированными данными и генерацию JSON. Она также ориентирована на задачи программирования и математики. Модель содержит 3,09 млрд параметров, имеет 36 слоёв и архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов. Используется Grouped-Query Attention: 16 голов для Q и 2 для KV. Поддерживается контекст до 32 768 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Квантизация в формате GGUF предназначена для локального запуска через совместимое программное обеспечение на базе llama.cpp и может снизить требования к вычислительным ресурсам по сравнению с полноразмерной моделью. README не содержит сведений о конкретном уровне квантизации, точных требованиях к памяти, производительности или ограничениях качества, поэтому их нельзя определить по предоставленным данным. Модель распространяется по лицензии qwen-research; указанная лицензия доступна по ссылке на исходную модель Qwen/Qwen2.5-3B-Instruct.

Etherll/Qwen2.5-7B-della-test — объединённая языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Она создана с помощью mergekit методом della на основе Qwen/Qwen2.5-7B с включением Qwen/Qwen2.5-7B-Instruct; в репозитории указаны веса safetensors в формате bfloat16 и около 7,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов, а метаданные отмечают интерфейс вызова инструментов. Модель подходит для диалоговых приложений, генерации и продолжения текста, а также структурированных ответов и вызова инструментов. В README приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Данные не подтверждают отдельную специализацию по предметной области или конкретный набор языков. Лицензия в предоставленных сведениях не указана.

ZuzeTt/Qwen3.5-4B-imatrix-GGUF — мультимодальная causal language model с vision encoder из семейства Qwen3.5, разработанная командой Qwen. Модель основана на Qwen/Qwen3.5-4B-Base и предназначена для работы с текстом и изображениями, включая рассуждения, программирование, визуальное понимание и агентские сценарии. Модель содержит около 4 млрд параметров, 32 слоя и использует гибридную архитектуру Gated DeltaNet и разреженной Mixture-of-Experts с механизмом Gated Attention. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Репозиторий содержит артефакты в формате GGUF, полученные с использованием llama.cpp; README также указывает совместимость исходной модели с Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, большое контекстное окно, компактный размер и архитектурная оптимизация для производительного инференса. Ограничения конкретной imatrix-квантизации, включая точность, требования к памяти и поддерживаемые варианты квантования, в README подробно не указаны. Лицензия — Apache 2.0.

Riyan200324200324/Qwen3.8-27B — это GGUF-версия модели Qwen3.8-27B, основанная на Qwen/Qwen3.8-27B и модифицированная HauhauCS в профиле Aggressive. Модель предназначена для генерации текста, рассуждений, агентских сценариев, обработки изображений и видео. Aggressive-профиль ориентирован на прямые ответы без выраженного отказного поведения и с минимальным вступлением на сложных запросах; при этом README предупреждает, что для критически важных задач с длинным контекстом более сбалансированный профиль может быть надёжнее. Это плотная причинная языковая модель на 27 млрд параметров с отдельным vision-проектором BF16 для мультимодального ввода. Архитектура включает 64 слоя языковой модели, скрытый размер 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются встроенный MTP/NextN и дополнительный профиль ускорения HauhauCS FastMTP 32K. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Заявлены английский, китайский и мультиязычный режимы. Сильные стороны модели — широкий набор текстовых и мультимодальных возможностей, большой контекст, варианты GGUF-квантизации от Q2 до Q8 и ускорение FastMTP. Ограничения включают зависимость мультимодального режима от отдельного vision-проектора, возможное снижение качества при агрессивной квантизации и менее осторожное поведение из-за uncensored-профиля. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-FP8 — экспериментальная модель семейства Qwen, разработанная командой Qwen. Это причинная языковая модель с vision encoder, предназначенная для обработки текста и изображений, генерации ответов и решения мультимодальных задач. FP8-вариант содержит квантизированные веса и конфигурацию в формате Hugging Face Transformers и совместим с Transformers, vLLM, SGLang и TokenSpeed. Модель имеет 125 млрд параметров, из которых 6 млрд активируются при обработке, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура включает 48 слоёв, гибрид Gated DeltaNet и Qwen Sparse Attention, Mixture of Experts с 512 экспертами и активацией 10 маршрутизируемых экспертов плюс одного общего. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 000 000 токенов. Для повышения эффективности на длинном контексте используется разреженное внимание на уровне микроблоков. Ключевые сильные стороны модели — высокая вычислительная эффективность, сниженная задержка при работе с длинным контекстом, поддержка мультимодальных сценариев и экономичное FP8-квантизирование с заявленной близостью характеристик к исходной модели. Ограничения включают экспериментальный статус архитектуры, отсутствие в представленном README сведений о поддерживаемых языках, подробных результатах бенчмарков и требованиях к оборудованию. Модель распространяется по лицензии qwen-community-1.0; условия следует уточнять в файле LICENSE.

Qwen3-Embedding-4B-mxfp8 — текстовая модель для получения эмбеддингов, опубликованная mlx-community и преобразованная в формат MLX из Qwen/Qwen3-Embedding-4B с помощью mlx-embeddings 0.0.3. Она предназначена для семантического поиска, сравнения предложений и извлечения признаков из текста; эмбеддинги можно использовать, например, в поисковых системах и системах подбора релевантных документов. Модель основана на плотной архитектуре Qwen3, содержит 3,7 млрд параметров и поддерживает контекст до 40 960 токенов. Лицензия — Apache-2.0. Для запуска в экосистеме MLX README указывает библиотеку mlx-embeddings.

sergeyzh/rubert-tiny-sts-v2 — компактная модель на архитектуре BERT, разработанная Sergey Zh. Это дообученный энкодер для создания эмбеддингов русских и английских предложений, оценки семантического сходства, поиска перефразировок, дедупликации текстов и задач логического вывода NLI. Модель также подходит как основа для дообучения под пользовательские задачи классификации и кластеризации. Модель получена дистилляцией эмбеддингов Qwen/Qwen3-Embedding-4B в rubert-tiny-turbo. Она содержит около 29 млн параметров, формирует векторы размерности 312 и поддерживает контекст до 2048 токенов по метаданным; в README указана длина 512. Префиксы для входных текстов не требуются. Репозиторий содержит веса в формате safetensors. Модель ориентирована на быстрый и компактный поиск семантически близких текстов на русском и английском языках. Указанные в карточке метрики сравнивают другие модели, поэтому по ним нельзя определить качество rubert-tiny-sts-v2. Лицензия — MIT.

airoboros-3b-3p0 — экспериментальная языковая модель на архитектуре StableLM Epoch, разработанная jondurbin и обученная на наборе синтетических данных airoboros-3.0. Это плотная причинная языковая модель с 2,7 млрд параметров и контекстом до 4096 токенов; она принимает текст и генерирует текст. Для диалога используется формат Llama 2 Chat. Модель общего назначения с акцентом на следование инструкциям. Она предназначена для ответов на вопросы по заданному контексту, суммаризации, программирования, математических рассуждений с формированием MathJSON, многоходового диалога, генерации аргументов функций и планов выполнения задач. Для расчётов MathJSON предполагает последующую обработку формулы внешним вычислительным механизмом. Модель выпущена под лицензией CC BY-SA 4.0.

airoboros-dpo-110b-3.3 — экспериментальная чат-модель, дообученная Jon Durbin на базе Qwen 1.5 110B с дополнительным этапом DPO. Она предназначена для диалога, ответов на вопросы по предоставленному контексту, суммаризации, генерации кода и структурированных ответов, включая вывод аргументов для вызова функций. Модель использует архитектуру Qwen2 с плотной сетью из 110 млрд параметров, формат диалога ChatML и контекст до 32 768 токенов. Карточка описывает настройку ответов по контексту, генерацию длинных ответов и планов выполнения, а также примеры задач на кодирование и ролевой диалог. Для ответов по заданному контексту рекомендуется низкая температура; качество следования таким инструкциям зависит от явного форматирования входных данных. Автор отмечает, что иногда в конце ответов появляются случайные лишние токены. Репозиторий содержит веса safetensors; лицензия в метаданных указана как other, без уточнения условий.

jondurbin выпустил инструкционно дообученную модель Airoboros на базе Llama 2 с 13 млрд параметров. Она обучена на синтетических инструкциях Airoboros, созданных GPT-4: серия 2.0 использует данные версии GPT-4 от июня 2023 года, а вариант m2.0 дополнительно объединяет датасет 1.4.1 без дубликатов и категории system, включая данные GPT-4 от марта 2023 года. Модель предназначена для генерации ответов на инструкции, вопросов по заданному контексту, помощи с программированием и построения аргументов функций в JSON или YAML. Для диалога применяется формат с маркерами USER и ASSISTANT и заданным системным префиксом; заявленная длина контекста — 4096 токенов. Архитектура — плотная LlamaForCausalLM, веса доступны в формате PyTorch. README описывает модель как uncensored и указывает, что она настроена отвечать без отказов; поэтому ответы могут включать небезопасное или сомнительное содержание. Автор отмечает, что результаты вариантов 2.0 и m2.0 следует сравнивать на практике. Лицензия указана как other; README характеризует лицензию 7B/13B как неоднозначную, поэтому условия использования следует уточнить в карточке модели.

gart-labor/all-mpnet-base-v2-eclass — модель Sentence Transformers на базе MPNet, дообученная разработчиком на датасете eclass. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и имеет контекст до 514 токенов; в карточке указан английский язык. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

yahyaabd/allstats-search-miniLM-v1-5 — модель Sentence Transformer, созданная дообучением sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 на парах запросов и документов из набора query-hard-pos-neg-doc-pairs-statictable. Архитектура основана на BERT; модель преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для семантического поиска и сравнения текстов по косинусному сходству. Модель подходит для поиска документов по запросу, оценки семантического сходства, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. Датасет содержит примеры запросов и документов, в том числе на индонезийском языке; базовая модель многоязычная. README указывает максимальную длину последовательности 128 токенов, тогда как метаданные каталога — контекст 512 токенов. В репозитории используются веса safetensors и библиотека sentence-transformers; параметров — 124,3 млн. Лицензия в предоставленных данных не указана.

gpahal/bge-m3-onnx-int8 — это оптимизированная и квантизованная до int8 версия модели BAAI/bge-m3, подготовленная сообществом для запуска через ONNX Runtime. Модель предназначена для получения эмбеддингов и поддерживает многоязычные сценарии, семантическое сравнение предложений, извлечение признаков и гибридный поиск. Модель одновременно формирует три представления текста: плотное dense, разреженное sparse и ColBERT-представление. Плотные и ColBERT-эмбеддинги нормализуются по умолчанию, как в исходной библиотеке FlagEmbedding; разреженное представление можно преобразовать в словарь весов токенов. Для инференса используются ONNX Runtime, токенизация через Hugging Face Transformers и интеграция с Optimum. В модели применены оптимизации графа уровня O2, а вычисления рассчитаны на CPU; точный размер модели, длина контекста и перечень поддерживаемых языков в README не указаны. К сильным сторонам относятся объединение dense-, sparse- и ColBERT-представлений в одном запуске, многоязычная ориентация, снижение вычислительных требований благодаря int8-квантизации и совместимость с ONNX Runtime. Ограничениями являются необходимость самостоятельно обрабатывать разные типы выходов и то, что изменение нормализации или набора представлений требует повторного экспорта модели. Модель распространяется по лицензии MIT.

Deepthink-Reasoning-14B — текстовая языковая модель, разработанная PrithivMLmods и дообученная на Qwen/Qwen2.5-14B-Instruct. Это плотная авторегрессионная архитектура Qwen2 с 14 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; модель загружается через Transformers, веса представлены в формате safetensors. Модель предназначена для пошагового решения математических и логических задач, написания и отладки кода, объяснений, творческих текстов, чат-ботов и формирования структурированных ответов, включая JSON. В карточке заявлена поддержка более 29 языков и длинных текстов; метаданные указывают контекст до 32 768 токенов, поэтому заявленные в README 128K токенов не подтверждаются данными конфигурации. Модель дообучена на Math-Solve, NuminaMath-CoT и наборах QwQ-LongCoT. Модель может ошибаться или выдумывать сведения, особенно при неоднозначных запросах; качество зависит от формулировки запроса, а на длинном контексте может снижаться. Большой размер требует значительных вычислительных ресурсов. Лицензия — Apache-2.0.

intfloat/e5-base-unsupervised — англоязычная модель эмбеддингов текста из семейства E5, разработанная авторами работы Text Embeddings by Weakly-Supervised Contrastive Pre-training. Это вариант E5-base без последующего обучения на размеченных данных. Модель построена на архитектуре BERT: 12 слоёв, размер эмбеддинга 768, около 136,7 млн параметров; принимает текст и выдаёт векторные представления. Максимальная длина входа — 512 токенов. Модель предназначена для семантического сравнения текстов и поиска по смыслу, в том числе для извлечения фрагментов из коллекции по запросу, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для задач поиска рекомендуется добавлять префиксы «query: » к запросам и «passage: » к текстам коллекции; для симметричного сравнения и других сценариев применяется префикс «query: ». Модель работает только с английскими текстами, а более длинные последовательности обрезаются до 512 токенов. Карточка предупреждает о возможном снижении качества без соответствующих префиксов и о небольших различиях результатов между версиями PyTorch и Transformers. Лицензия — MIT.

ERNIE-4.5-300B-A47B-PT-GGUF — текстовая MoE-модель, разработанная Baidu в рамках семейства ERNIE 4.5. Она предназначена для понимания и генерации текста, включая диалоговые сценарии, создание контента и другие задачи общего назначения. Модель основана на предварительно обученной версии ERNIE-4.5-300B-A47B-PT и представлена в формате GGUF. Модель содержит 300 млрд параметров, из которых для каждого токена активируется 47 млрд. Архитектура включает 54 слоя, 64 attention heads для запросов и 8 для ключей и значений, а также MoE-компоненты с 64 экспертами, из которых активируются 8. Максимальная длина контекста составляет 131 072 токена. В README указана поддержка английского и китайского языков. Хотя семейство ERNIE 4.5 обучалось с учётом текстовой и визуальной модальностей, данная версия обозначена как текстовая и не предназначена для обработки изображений. Сильными сторонами модели являются большой контекст, высокая общая ёмкость параметров и вычислительная эффективность MoE за счёт активации только части параметров для каждого токена. Основные ограничения — значительные требования к вычислительным ресурсам и отсутствие заявленной мультимодальности в этой текстовой версии; конкретные характеристики квантования GGUF в README не приведены. Модель распространяется по лицензии Apache 2.0.

Ettin Encoder 1B — англоязычная модель-энкодер семейства ModernBERT от исследовательской группы JHU CLSP, часть набора Ettin для сопоставления энкодерных и декодерных архитектур. Модель содержит 1 млрд параметров, построена на плотной архитектуре ModernBERT и обучена с маскированием токенов; она предназначена для извлечения признаков и получения текстовых представлений, а также поддерживает заполнение пропусков в тексте. Модель подходит для классификации текстов, поиска и извлечения представлений, включая поиск по коду и работу с длинным контекстом. В описании набора Ettin сообщается о сильных результатах энкодеров на GLUE, англоязычном поиске MTEB и CodeSearchNet. Контекст модели составляет около 8 тысяч токенов. Обучение Ettin использует открытые данные и единый рецепт для сравнения архитектур; лицензия модели — MIT.

FILM-7B — языковая модель на архитектуре Mistral, разработанная командой In2Training. Она получена дообучением Mistral-7B-Instruct-v0.2 методом Information-Intensive Training (In2) и предназначена для генерации ответов по заданным инструкциям и длинному контексту. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и работает с текстом на английском языке. Разработчики заявляют, что FILM-7B снижает проблему «потери информации в середине» длинного контекста, показывает высокие результаты на задачах анализа длинного контекста и сохраняет качество на коротких запросах. Репозиторий содержит веса в формате safetensors и шаблон диалога в стиле Mistral Instruct. Лицензия — Apache-2.0.

Это Sentence Transformer на архитектуре XLM-RoBERTa, дообученный для сопоставления смысла предложений и абзацев. Модель преобразует текст в нормализованные плотные векторы размерности 1024; сходство между ними можно оценивать косинусной мерой. В метаданных указано 658,7 млн параметров, а максимальная длина последовательности в README составляет 1024 токена. Модель предназначена для семантического поиска, оценки текстового сходства, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Она принимает текст и выдаёт векторные представления. README сообщает о 105 064 обучающих примерах с парами и отрицательными примерами, но не указывает их языки, поэтому языковую поддержку определить нельзя. Карточка не называет исходную модель, лицензию или конкретные ограничения качества; происхождение дообучения следует из описания обучения Sentence Transformer и архитектуры XLM-RoBERTa. Для использования доступны веса в формате safetensors; библиотека — Sentence Transformers.

unsloth/gemma-3-27b-it-qat-GGUF — instruction-tuned мультимодальная модель семейства Gemma 3, разработанная Google DeepMind и подготовленная Unsloth в формате GGUF с QAT-квантизацией. Модель основана на google/gemma-3-27b-it-qat-q4_0-unquantized и имеет размер 27 млрд параметров. Она принимает текст и изображения, а генерирует текст; поддерживает более 140 языков, включая английский, указанный в карточке модели. Изображения нормализуются до разрешения 896×896 и представляются как 256 токенов каждое. Контекстное окно составляет 128K токенов, максимальный объём генерируемого ответа — 8192 токена. Модель предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений. Большое контекстное окно и мультимодальность подходят для работы с длинными документами и визуальными данными, а GGUF и квантизация ориентированы на локальное развертывание на ноутбуках, настольных компьютерах и собственной инфраструктуре с ограниченными ресурсами. К возможным ограничениям относятся компромисс между эффективностью и качеством, связанный с квантизацией, а также отсутствие в доступных данных подробностей об аппаратных требованиях, результатах тестирования и ограничениях безопасности. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use.

unsloth/gemma-3-27b-it-unsloth-bnb-4bit — это 4-битная версия instruction-tuned модели Gemma 3 27B, подготовленная Unsloth на базе google/gemma-3-27b-it. Исходная модель разработана Google DeepMind в рамках семейства Gemma, созданного с использованием исследований и технологий Gemini. Модель предназначена для генерации текста и мультимодального понимания изображений: она принимает текст и изображения, а на выходе генерирует текст. Подходит для ответов на вопросы, суммаризации документов, рассуждений, анализа содержимого изображений и диалоговых сценариев. Для размеров 4B, 12B и 27B заявлено контекстное окно до 128K токенов, максимальный объём генерируемого ответа — 8192 токена; изображения нормализуются до 896×896 и кодируются в 256 токенов. Поддерживается более 140 языков, при этом в метаданных данной версии явно указан английский язык. Ключевое преимущество версии — 4-битное квантование, снижающее требования к памяти и упрощающее локальное развёртывание, однако оно может сопровождаться потерей точности по сравнению с полноразмерными вариантами. Модель рассчитана на работу через Transformers и может быть полезна на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Использование регулируется лицензией Gemma и соответствующими Terms of Use.

MuXodious/gemma-4-26B-A4B-it-ARA-heresy — дообученная версия мультимодальной Gemma 4 26B A4B IT от Google DeepMind. Автор применил к базовой модели движок Heretic с Arbitrary-Rank Ablation, чтобы сократить число отказов; в карточке указаны 3 отказа из 104 проверок против 103 из 104 у исходной модели. Это диалоговая модель с архитектурой Gemma4, которая принимает текст и изображения и генерирует текст. Её можно использовать для визуальных вопросов и ответов, разбора документов и изображений, диалогов, программирования и рассуждений. README описывает возможности семейства Gemma 4, включая длинный контекст до 256 тысяч токенов и поддержку многих языков, однако не подтверждает отдельными данными, что все эти характеристики проверены именно для этой производной версии. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Уменьшение отказов не гарантирует корректность ответов или пригодность для всех сценариев; результаты ограничены приведённой проверкой.

MuXodious/gemma-4-26B-A4B-it-SOMPOA-heresy — дообученная версия Gemma 4 26B A4B IT, созданная автором MuXodious с помощью Heretic v1.2.0 и метода abliteration с Self-Organizing Maps и magnitude-preserving orthogonal ablation. Модель предназначена для диалогов и анализа изображений с выдачей текста; README описывает её как вариант с уменьшенным числом отказов. В испытаниях число отказов снизилось с 103 из 104 до 4 из 104, KL-дивергенция составила 0,1240. Это мультимодальная модель семейства Gemma 4 с архитектурой Gemma4ForConditionalGeneration и весами Safetensors. Она принимает текст и изображения и генерирует текст. README приводит для Gemma 4 26B A4B контекст до 256 тысяч токенов и поддержку множества языков; эти характеристики описывают базовое семейство, а не отдельную проверку данной дообученной версии. Карточка лицензирована по Apache-2.0. Автор отмечает, что модель может ошибочно срабатывать на дисклеймеры и рекомендует рассмотреть максимальную длину ответа 120–150 токенов. Показатели испытаний в карточке не заменяют независимую оценку качества; сниженное число отказов означает, что модель может отвечать на запросы, от которых базовая версия отказывалась.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-mlx-oQ4e-DFlash2 — мультимодальная версия модели GLM-5.3-Flash, разработанная на основе архитектуры Zhipu AI / ZAI; некensored-веса предоставлены dealignai, а смешанная квантализация oQ4e и MLX-сборка — Solstice-AI. Модель предназначена для генерации и анализа текста, программирования, математического рассуждения, работы с изображениями и видео, а также сценариев с длинным контекстом. Заявлены поддержка английского и китайского языков, native-контекст до 1 048 576 токенов и работа на Apple Silicon через библиотеку MLX. Модель имеет 320 млрд общих параметров в разреженной MoE-архитектуре с 288 экспертами и примерно 18 млрд активных параметров на токен. Квантализация использует 4-битное аффинное представление с целевой плотностью около 4,6 bpw; критические компоненты, включая маршрутизаторы MoE, lm_head и мультимодальные слои, частично или полностью сохраняются в более высокой точности. В комплект входит DFlash2 для speculative decoding, заявленный для ускорения генерации до трёх раз. Потенциальные сильные стороны — большой контекст, мультимодальность, поддержка видео, эффективность разреженной архитектуры и оптимизация для чипов Apple. Ограничения включают высокие требования к памяти и совместимому Apple Silicon-окружению, а также возможные потери качества из-за квантализации; приведённые в README результаты тестов не являются независимой верификацией. Указана лицензия MIT.

GPT-NeoXT-Chat-Base-20B — диалоговая языковая модель, разработанная Together Computer в рамках OpenChatKit. Она дообучена на базе GPT-NeoX на более чем 40 млн инструкций и дополнительном небольшом наборе отзывов о предпочтениях людей. Архитектура — плотная GPT-NeoX, число параметров в метаданных — 26,9 млрд, максимальный контекст — 2048 токенов; модель работает с текстом и предназначена для генерации ответов в чат-ботах. Модель подходит для ответов на вопросы, суммаризации, классификации и извлечения информации, в том числе в диалогах с несколькими ходами и при работе с предоставленным контекстом. В карточке заявлена поддержка английского языка. Лицензия — Apache 2.0. Ответы могут быть неточными или нерелевантными, особенно на сложные, неоднозначные вопросы и темы за пределами обучающих данных. Модель не рекомендуется для критически важных сценариев и решений, существенно влияющих на людей; для запуска требуется значительный объём памяти GPU.