I.3Извлечение и структурирование данных

Qwen3.6-35B-A3B-Uncensored-Genesis-Final-NVFP4-GGUF — квантизированная в формате NVFP4 GGUF версия модели LuffyTheFox. NVFP4-квантизацию и интеграцию MTP выполнил jan1k; базовая модель разработана HauhauCS. Модель распространяется по лицензии Apache-2.0. Это мультимодальная модель для генерации текста и работы с изображениями, ориентированная на диалоговые сценарии, программирование, точные задачи, творческое взаимодействие и roleplay. Заявлена поддержка английского, китайского и других языков. Для обработки изображений требуется дополнительный файл mmproj-Hermes3.6-35B-A3B-Uncensored-Genesis-F16.gguf. Модель предназначена для запуска через llama.cpp и поддерживает контекст до 128K токенов. Архитектура — Mixture of Experts: около 35 млрд общих параметров, примерно 3 млрд активных на токен, 8 маршрутизируемых экспертов и 1 общий эксперт. Доступен вариант с MTP для speculative decoding, способный ускорять генерацию. К сильным сторонам относятся сравнительно низкая вычислительная нагрузка на токен, поддержка reasoning и мультимодальности, а также оптимизация для GPU NVIDIA Ampere, Ada Lovelace и Blackwell. Ограничения включают зависимость от совместимого программного обеспечения и оборудования, необходимость отдельного vision-проектора для изображений и отсутствие в карточке независимых бенчмарков качества.

AtomicChat/Qwen3.8-27B-GGUF — это квантизированная версия модели Qwen3.8-27B, разработанной Qwen и подготовленной командой AtomicChat. Модель распространяется в формате GGUF для запуска через llama.cpp и предназначена для локального использования в диалоговых, текстовых и мультимодальных сценариях. Модель поддерживает работу с текстом и изображениями; для обработки изображений требуется отдельный vision-проектор mmproj-Qwen3.8-27B-F16.gguf или BF16-вариант. В репозитории доступны варианты квантизации размером примерно от 8,5 до 28,9 ГБ. AtomicChat использует собственную importance matrix и публикует измерения отклонения квантизированных версий от исходных весов. Указано наличие multi-token prediction head, совместимого с llama.cpp. Контекстная ёмкость в README явно не приведена, но указано потребление около 256 КБ attention cache на токен, что существенно влияет на требования к видеопамяти при длинном контексте. Сильные стороны модели — возможность локального запуска, широкий выбор уровней квантизации, поддержка изображений и оптимизация для llama.cpp. Качество зависит от выбранного файла: более компактные варианты требуют меньше памяти, но сильнее отклоняются от исходной модели и чаще ошибаются в предсказаниях. Для мультимодальной работы необходим дополнительный проектор, а для корректного анализа изображений рекомендуется не менее 1024 image tokens. Лицензия в предоставленных данных не указана.

Qwen3.8-27B-GGUF — набор квантизированных GGUF-версий базовой модели Qwen/Qwen3.8-27B, подготовленный пользователем vcruz305 для запуска через llama.cpp. Модель предназначена для локальной генерации текста и диалоговых сценариев, включая задачи с рассуждениями; для мультимодальных сценариев требуется отдельный файл mmproj. Поддерживаются английский и китайский языки. Указанный pipeline — text-generation. В основе используется 64-слойный языковой trunk архитектуры qwen35 с гибридом Gated DeltaNet; размер базовой модели — 27B параметров. Доступны квантизации от 2 до 8 бит размером примерно от 9,98 до 26,63 GiB. Версии Q2_K и Q3_K_M используют imatrix-квантизацию, остальные являются обычными K-quants. В файлах намеренно отсутствует MTP-голова для speculative decoding, что уменьшает требования к памяти, но исключает соответствующий режим ускорения. В README также заявлена поддержка контекста до 262 144 токенов при соответствующей конфигурации и аппаратных ресурсах. Сильные стороны набора — возможность запуска 27B-модели на видеокартах с 12, 16, 24 и 32+ GiB памяти, несколько вариантов компромисса между качеством и размером, а также исправленный chat template для корректной работы многошаговых агентов. Ограничения включают зависимость от достаточно новой версии llama.cpp с поддержкой qwen35, отсутствие встроенной vision-компоненты и MTP-головы, а также высокие требования к памяти для старших квантизаций и длинного контекста. Распространение заявлено по лицензии Apache-2.0, унаследованной от официальной модели Qwen.

Qwen3.8-27B-NVFP4-vllm — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем kekzle. Модель предназначена для запуска в vLLM и imp; поддерживает текстовые и визуальные входы, при этом в карточке указан английский язык. Это гибридная архитектура с компонентами GDN, vision tower и MTP draft head, однако подробные сведения о точной архитектуре и максимальном контексте не приведены. Линейные веса внимания, MLP и GDN-проекций сжаты в NVFP4 с группами размера 16 по схеме W4A16, а embeddings, lm_head, нормализации, vision tower и MTP draft head сохранены в исходной точности BF16. Размер весов уменьшен примерно с 51,75 до 19,2 ГиБ, что позволяет разместить модель на видеокарте с 32 ГиБ памяти. По приведённым измерениям на RTX 5090 модель достигла perplexity 4,6158, скорости декодирования до 87,4 токена в секунду и результата 45/45 в тестовом наборе качества. Сильные стороны модели — существенная экономия памяти, поддержка работы с текстом и изображениями, совместимость с vLLM и imp, а также возможность запуска на потребительских видеокартах Blackwell sm_120, где опубликованные варианты с FP8 attention могут не работать. Ограничения связаны с экспериментальным характером квантования без калибровки активаций, меньшей производительностью vLLM на sm_120 из-за fallback на Marlin и необходимостью настраивать число последовательностей и параметры памяти. Для многошаговых диалогов рекомендуется выделять не менее примерно 400 токенов на ответ, поскольку бюджет включает внутреннее рассуждение. Модель распространяется по лицензии Apache-2.0. Квантованная версия создана из официального релиза BF16 с помощью экспериментального квантовщика imp.

Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-NVFP4-W4A16-T336 — производная модель, опубликованная esatapedico на основе DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, которая, в свою очередь, основана на Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и развёртывания через vLLM; настройка TWIN-TURBO ориентирована на сокращение количества токенов рассуждений при сохранении качества ответов. Это 27-миллиардная языковая модель с архитектурой Qwen3_5ForCausalLM, 64 слоями, гибридной архитектурой GatedDeltaNet, поддержкой мультиязычных сценариев и заявленным контекстом до 262144 токенов. В репозитории также сохранены vision tower и MTP head, пригодный для speculative decoding. Контрольная точка использует формат compressed-tensors NVFP4: веса W4A16 с группировкой 16 и масштабами FP8; часть наиболее чувствительных компонентов оставлена в BF16. Калибровочные данные не применялись, размер файла model.safetensors составляет около 21 ГБ. Главные преимущества — значительное сжатие весов, совместимость с vLLM, сохранение полноточных компонентов, влияющих на качество, а также измеренная близкая к родительской модели perplexity на англоязычном наборе. Ограничения включают зависимость от vLLM-совместимых движков, необходимость подходящей аппаратной конфигурации и отсутствие GGUF в репозитории; заявленная проверка проводилась при tensor parallel 2 и контексте 2048 токенов, поэтому практические характеристики на максимальном контексте могут отличаться. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, разработанная HauhauCS и распространяемая в формате GGUF по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также работы с изображениями и видео. Aggressive-профиль ориентирован на прямые ответы с минимальным вступлением и без стандартного поведения отказа. Это плотная языковая модель на 27 млрд параметров с vision encoder. Архитектура включает 64 слоя, размер скрытого состояния 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются английский, китайский и другие языки; заявлены текстовая, визуальная и видеомодальности. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Для обработки изображений и видео требуется отдельный vision projector в формате BF16. Модель сохраняет встроенный механизм NextN/MTP исходной Qwen3.8 и дополнительно поставляется с профилем ускорения HauhauCS FastMTP 32K, совместимым с различными текстовыми квантованиями. Доступны варианты от Q2 до Q8, включая специализированные K_P-кванты, оптимизированные для сохранения качества при уменьшенном размере. Ограничения включают значительные требования к памяти, зависимость визуального ввода от отдельного проектора и потенциальные риски некорректных или небезопасных ответов из-за uncensored-профиля; для критически важных длинноконтекстных агентских задач README рекомендует более сбалансированный вариант, если он доступен.

Qwen3.8-Flash-Next-BF16-GGUF — объединённая сборка модели AMAImedia на основе Tencent/Hy4-preview и AngelSlim/Hy4-preview-GGUF. Это диалоговая причинная языковая модель со зрительным энкодером, предназначенная для генерации текста и работы с изображениями. В README указаны 180 млрд физических параметров, из которых 6 млрд активируются на токен, и нативное окно контекста 262 144 токена с возможностью расширения до 1 млн. Архитектура сочетает разреженное внимание QSA, Gated DeltaNet, смесь экспертов и n-граммные эмбеддинги. Модель поддерживает диалог и интерфейс вызова инструментов; заявлены языки, включая английский, русский, китайский, вьетнамский и японский. Репозиторий содержит GGUF Q4_K и safetensors; несмотря на BF16 в названии, README не подтверждает точность этих файлов. Лицензия — Apache-2.0. Модель подходит для диалоговых и агентных задач с длинным контекстом, анализа изображений, программирования и офисной аналитики. Полный запуск требует значительных ресурсов: заявленные 6 млрд активных параметров не отражают объём всех физических весов, а README отмечает необходимость мощного оборудования или аренды ускорителей для крупных сборок.

ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF — это набор GGUF-квантизаций мультимодальной модели Qwen3.8-Flash-Next, разработанный Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Модель предназначена для текстовых и визуально-текстовых задач и совместима с llama.cpp, Ollama и LM Studio. Для мультимодального режима поставляется отдельный vision projector с vision encoder в формате BF16. В основе лежит разреженная Mixture-of-Experts-архитектура с 512 экспертами на слой, 48 слоями и 10 активными экспертами на каждый токен. Квантизация выполнена методами GSQ и RCO: GSQ оптимизирует скалярное представление весов, а RCO распределяет типы квантизации между тензорами с учётом общего ограничения на размер. Доступны варианты Q2_0, IQ2_XS и IQ3_XXS со средним размером 2,40, 2,50 и 3,00 бит на параметр; общий объём файлов составляет примерно 66,4–75,8 ГБ, не считая vision projector. IQ3_XXS рекомендуется авторами как вариант, сопоставимый с базовой моделью на тесте AIME25. Q2_0 обеспечивает наиболее высокую скорость: заявлены 3,4-кратная производительность обработки промпта и в 1,9 раза меньшая сквозная задержка по сравнению с IQ2_XS, но с некоторой потерей качества. Ограничениями являются большой размер модели, компромисс между качеством и скоростью у разных вариантов квантизации и отсутствие в предоставленных данных сведений о языках и максимальной длине контекста. Лицензия — Apache-2.0.

RemySkye/Qwen3.8-Flash-Next-REAM-60Pct-GGUF — пользовательская высококачественная сборка модели Akicou/Qwen3.8-Flash-Next-REAM-60Pct в формате GGUF. Она предназначена для запуска и генерации текста через llama.cpp на системах примерно с 64 ГиБ оперативной памяти, включая локальные сценарии инференса. Лицензия в README не указана. Модель использует архитектуру qwen4exp и разреженную Mixture-of-Experts (MoE). В ней около 129 млрд сохранённых параметров до обрезки PLE, около 90 млрд физических параметров после неё, а на каждый токен активируется примерно 6 млрд параметров. Большая таблица PLE/n-gram была сокращена с 16 до 4 активных голов: сохранены 2 из 8 bigram- и 2 из 8 trigram-голов. Итоговый файл занимает около 56 ГБ, или 52 ГиБ. Применён смешанный профиль квантования BALANCED_MAX_PROTECTED: основные компоненты используют форматы от Q4_K до Q8_0, а критичные малые тензоры сохраняются в BF16/F32. Ключевое преимущество сборки — сохранение более высокой точности основных весов за счёт уменьшения крупной таблицы n-грамм вместо агрессивного квантования всей модели до Q2/Q3. Это делает модель практичнее на машине с 64 ГиБ RAM, оставляя место для контекста, KV-кэша, рабочих буферов и операционной системы. Ограничениями являются большой объём файла, зависимость от актуальной версии llama.cpp с поддержкой Qwen3.8/qwen4exp и возможная потеря части информации PLE из-за удаления 12 из 16 голов. Фактическое потребление памяти зависит от размера контекста, настроек llama.cpp, GPU-offload и используемого backend.

Qwen3-VL-Embedding-2B — мультимодальная модель эмбеддингов семейства Qwen от команды Qwen, дообученная на базе Qwen/Qwen3-VL-2B-Instruct. Она преобразует текст, изображения, скриншоты, видео и их сочетания в векторы общего семантического пространства для поиска, сопоставления и кластеризации мультимодального контента. Модель содержит 2 млрд параметров, поддерживает контекст до 32 тыс. токенов и выдаёт эмбеддинги размерностью от 64 до 2048 с настраиваемым размером; также поддерживаются инструкции для адаптации представлений к задаче. Модель предназначена для мультимодального поиска, включая поиск изображений и видео по текстовому запросу, сопоставление текста с визуальным содержимым и кластеризацию смешанных данных. Она поддерживает более 30 языков и может использоваться как первый этап поиска перед отдельной моделью-реранкером. Доступна по лицензии Apache-2.0. В README заявлены широкие возможности мультимодального поиска, но конкретные аппаратные требования и характеристики инференса в предоставленном фрагменте не приведены.

Карточка модели abdebug2003/qwen3-vl-embedding-endpoint на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-Embedding-8B, поэтому описание составлено по ней. Qwen3-VL-Embedding-8B — мультимодальная модель эмбеддингов семейства Qwen, разработанная командой Qwen и дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она предназначена для поиска и сопоставления информации между текстом, изображениями, скриншотами и видео, а также для кластеризации мультимодального контента. Модель принимает отдельные модальности и их сочетания и кодирует их в общее векторное пространство. Модель содержит 8 млрд параметров, имеет архитектуру Qwen3-VL и контекст длиной до 32 тысяч токенов. Размерность эмбеддинга достигает 4096; поддерживаются настраиваемые размерности от 64 до 4096. Заявлена поддержка более 30 языков, а среди сценариев — мультимодальный и межъязыковой поиск, сопоставление текста с изображениями и видео и визуальный поиск по документам. Модель распространяется под лицензией Apache-2.0. Эмбеддинги подходят для первичного поиска и кластеризации; для уточнения порядка найденных результатов карточка рекомендует отдельную модель Qwen3-VL-Reranker. Для многоязычных сценариев README советует формулировать инструкции на английском, поскольку большинство инструкций при обучении были на этом языке.

qwen-carpmuscle-r-v0.3 — языковая модель TheTsar1209 на архитектуре Qwen2.5 с 14 млрд параметров. Она создана методом TIES merge из qwen-carpmuscle-v0.3, Qwen2.5-14B-Instruct и Qwen2.5-14B; исходная модель qwen-carpmuscle-v0.3 прошла непрерывное предобучение в формате ChatML с контекстом 24 тыс. токенов. Репозиторий содержит веса Safetensors в формате bfloat16, а заявленное нативное окно контекста итоговой модели — 131 072 токена. Модель предназначена для генерации текста и диалогов. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Разработчик приводит результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Модель выпущена под лицензией Apache-2.0.

Qwen-Qwen2-7B-Instruct-GGUF — набор GGUF-квантизаций модели Qwen2-7B-Instruct, разработанной Qwen и опубликованной в формате квантизированных файлов командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и другие сценарии text-generation. GGUF-формат ориентирован на локальный запуск совместимыми инструментами, а разные уровни квантизации позволяют выбирать компромисс между размером файла, требованиями к памяти и качеством работы. В набор входят варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 2,9 до 7,7 ГБ. Из README известно, что это текстовая модель с примерно 7 миллиардами параметров; сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста не указаны. Более сильная квантизация обычно уменьшает требования к ресурсам, но может снижать точность по сравнению с менее квантизированными вариантами. Лицензия в предоставленных данных не указана, поэтому условия использования необходимо уточнять в материалах исходной модели Qwen2-7B-Instruct и репозитории квантизаций.

Wheatley961/Raw_1_no_2_Test_2_new.model — модель Sentence-Transformers на базе архитектуры XLM-RoBERTa, разработчик в карточке не назван. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и оценки сходства. Обучение проводилось с функцией потерь CosineSimilarityLoss. Модель содержит 305,2 млн параметров, использует формат PyTorch и имеет контекст длиной 514 токенов. Карточка не сообщает языки обучения или лицензию; метаданные не содержат кодов языков. Веса подходят для сценариев поиска и группировки текстов, но для практического использования нужен этап преобразования векторов в оценку сходства или применения подходящего метода поиска.

Карточка модели ceggian/sbert_pt_reddit_mnr_512 на Hugging Face совпадает с карточкой ceggian/sbert_pt_reddit_mnr_32, поэтому описание составлено по ней. ceggian/sbert_pt_reddit_mnr_32 — модель Sentence-Transformers на базе BERT, разработанная пользователем ceggian. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель обучена с функцией потерь MultipleNegativesRankingLoss на данных Reddit; размер составляет 136,7 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает текст и выдаёт векторные представления, поэтому подходит для поиска похожих сообщений, группировки текстов и ранжирования кандидатов по семантической близости. В репозитории находятся веса PyTorch. Лицензия и сведения о поддерживаемых языках в предоставленных данных отсутствуют.

Карточка модели dean-ai/sentence_transformer_Legal-heBERT на Hugging Face совпадает с карточкой seongwoon/paper_embedding, поэтому описание составлено по ней. seongwoon/paper_embedding — модель Sentence-Transformers на основе BERT, разработанная автором репозитория seongwoon. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 137,1 млн параметров и принимает текстовые последовательности длиной до 512 токенов; для получения эмбеддингов через Transformers поверх выходов модели требуется применить подходящий pooling. Модель подходит для построения поиска по смыслу и группировки текстов по семантической близости. В карточке нет сведений о целевых языках, обучающих данных или лицензии, поэтому их нельзя надёжно определить.

Muennighoff/SGPT-125M-mean-nli-linear5 — модель для получения векторных представлений предложений на основе GPT-Neo. Она содержит 137,7 млн параметров и принимает текстовые входы; максимальная длина контекста — 2048 токенов. По карточке модель обучалась с помощью MultipleNegativesRankingLoss на косинусном сходстве, что делает её подходящей для сравнения смысловой близости предложений и поиска похожих текстов. Модель можно применять для семантического поиска, ранжирования кандидатов по релевантности и группировки похожих фраз. В README приведены ссылки на код и результаты оценки, но конкретные показатели качества не указаны. Данных о лицензии в предоставленных источниках нет.

Veritone/siglip2-so400m-patch16-384-vision — облегчённая копия vision tower модели SigLIP 2 So400m, разработанной Google. Она кодирует изображения и видеокадры в общее пространство эмбеддингов и предназначена для отдельной загрузки на этапе индексации, например, когда нужен только визуальный энкодер. Модель подходит для классификации изображений по кандидатным текстовым меткам с нулевым обучением, поиска изображений по тексту и использования в качестве визуального энкодера для мультимодальных моделей. Архитектура — SigLIP, класс SiglipModel; веса сохранены в формате safetensors. Для поиска и сопоставления с текстом предусмотрена отдельная текстовая башня Veritone/siglip2-so400m-patch16-384-text. Модель принимает изображения и выдаёт векторные представления; README также указывает на кодирование видеокадров. Лицензия — Apache-2.0. Размер модели и точные параметры разрешения входа для этой копии в предоставленных сведениях не подтверждены.

Это перенос многоязычного текстового энкодера SONAR в формат Transformers из реализации fairseq2. Модель на архитектуре M2M100 содержит 665 млн параметров и формирует векторные представления текста для оценки сходства предложений. Перенесённые веса должны давать те же эмбеддинги, что и официальная реализация, которая остаётся эталонным источником. Энкодер поддерживает 202 языка, как NLLB-200, и рассчитан на кодирование текстов длиной до 1024 токенов. Его можно использовать для поиска семантически близких предложений и сопоставления текстов на разных языках. Репозиторий содержит веса в форматах PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Это Sentence Transformer на базе BERT-Large, дообученный для сопоставления предложений на наборе данных score. Модель преобразует предложения и абзацы в плотные векторы размерности 1024; близость оценивается косинусным сходством. Архитектура включает BERT с регистрозависимой токенизацией и усреднением токенных представлений. Модель содержит 433,2 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена прежде всего для оценки семантического сходства португалоязычных текстов. Её можно применять для семантического поиска, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. README приводит результаты оценки сходства на ASSIN2, однако отдельные метрики не вполне согласованы между секциями, поэтому их следует сверять с конкретной конфигурацией оценки. Базовая модель — neuralmind/bert-large-portuguese-cased; лицензия в предоставленных данных не указана.

tcepi/sts_bertimbau — модель Sentence Transformers, дообученная на базе neuralmind/bert-base-portuguese-cased. Она кодирует предложения и абзацы в плотные векторы размерности 768 для сравнения текстов по косинусному сходству. Архитектура включает BERTimbau Base с mean pooling; максимальная длина входа — 512 токенов. Модель предназначена для семантического сходства текстов, семантического поиска, поиска перефразировок, классификации и кластеризации текстов на португальском языке. Она выдаёт эмбеддинги, которые можно использовать в поисковых системах и других задачах сравнения текстов. Лицензия в предоставленных данных не указана.

supergemma4-e4b-abliterated-GGUF — это квантованное распространение модели Jiunsong/supergemma4-e4b-abliterated, подготовленное mradermacher в формате GGUF. Модель относится к семейству Gemma, ориентирована на генерацию текста и instruction-tuned-сценарии, а также заявляет поддержку tool calling и структурированного вывода. В метаданных указан английский язык. Модель предназначена для локального запуска и интеграции с совместимыми средами инференса, включая инструменты для работы с GGUF и vLLM. Доступны варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K, Q8_0 и f16 размером примерно от 4,5 до 15,2 ГБ. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант высокого качества, а Q8_0 — как наиболее качественный среди быстрых вариантов. Ключевое преимущество — широкий выбор квантований, позволяющий адаптировать требования к памяти, скорости и качеству. Более агрессивные варианты могут снижать качество генерации; для Q3_K_M это указано отдельно. Размер контекста, точная архитектура, количество параметров, мультимодальные возможности и подробные результаты оценки в README не указаны. Лицензия обозначена как gemma.

TopEvolution-DPO-32K — слитая языковая модель семейства Mistral, созданная сообществом mergekit-community методом SLERP на основе mergekit-community/TopEvolution и mpasila/Kunoichi-DPO-v2-Instruct-32k-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и выполнения инструкций; поддерживает контекст до 32 768 токенов. В конфигурации слияния использована V-образная кривая весов: TopEvolution задаёт вклад на входе и выходе, а Kunoichi-DPO-v2-Instruct — в средних слоях. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Языковая специализация и лицензия в предоставленных источниках не описаны.

TriFusionNexus-7b — объединённая языковая модель, созданная EryriLabs с помощью mergekit и метода TIES на основе CultriX/NeuralTrix-7B-dpo; в объединение также вошли bardsai/jaskier-7b-dpo-v5.6 и mlabonne/AlphaMonarch-7B. Модель построена на архитектуре Mistral с плотной причинно-языковой сетью, содержит 7,1 млрд параметров и принимает контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов, следования инструкциям и рассуждений. В README приведены результаты Open LLM Leaderboard, включая средний балл 76,32, 72,78 в AI2 Reasoning Challenge и 89,17 в HellaSwag; это результаты указанных оценок, а не гарантия качества в пользовательских задачах. Репозиторий содержит веса в формате safetensors. Лицензия CC-BY-NC-2.0 ограничивает коммерческое использование.

t-tech_T-Search-GGUF — это GGUF-квантизированная версия модели T-Search, разработанной t-tech и подготовленной bartowski с использованием llama.cpp. Модель относится к классу Mixture-of-Experts с заявленным размером 35B и примерно 3B активных параметров, а также содержит MTP-слои для ускорения генерации посредством self-speculative decoding. Модель предназначена для агентного поиска, информационного поиска, retrieval-задач, RAG, использования инструментов и function calling. Она поддерживает английский и русский языки. В README указаны возможности запуска через llama.cpp, ramalama, LM Studio, koboldcpp, Jan AI и другие совместимые приложения. Для активации MTP в llama.cpp требуется параметр --spec-type draft-mtp. Доступно множество вариантов квантизации — от BF16 размером около 71 ГБ до компактных IQ3 и Q3-разновидностей, а также рекомендуемых Q4–Q6 вариантов. Более качественные квантизации обеспечивают лучшее сохранение характеристик, тогда как компактные требуют меньше оперативной памяти, но снижают качество. Для модели не указан размер контекста, поэтому его характеристики в этом отношении неизвестны. Лицензия — Apache-2.0.

victormuryn/use-combined-pt — модель Sentence Transformers, дообученная на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2 для получения векторных представлений украинских предложений. Она использует архитектуру XLM-RoBERTa с плотным энкодером, контрастивную цель обучения и комбинированные стратегии аугментации с pool targets. Размер модели — 305,2 млн параметров, максимальная длина контекста — 514 токенов. Модель предназначена для семантического сравнения предложений и получения эмбеддингов украинского текста; их можно использовать для поиска похожих фраз, кластеризации и других сценариев, где нужно сравнивать смысл текстов. Обучение проводилось на корпусе UberText 2.0. Базовая модель поддерживает множество языков, но карточка описывает дообучение именно для украинского; лицензия — Apache 2.0.

phatvucoder/vietnamese-bi-encoder-mp — дообученная разработчиком Phat Vu модель Sentence Transformers на базе bkai-foundation-models/vietnamese-bi-encoder. Она преобразует текстовые предложения и абзацы во векторы размерности 768 для извлечения признаков, семантического поиска и сравнения текстов по косинусному сходству. Архитектура состоит из RoBERTa и слоя среднего пулинга; модель рассчитана прежде всего на вьетнамский язык. Модель принимает только текст, имеет максимальную длину последовательности 256 токенов по README; метаданные каталога указывают контекст 258 токенов. Обучающий набор содержит 117 759 примеров, оценочный — 13 364. Лицензия в предоставленных данных не указана.

airnicco8/xlm-roberta-en-it-de — модель Sentence-Transformers на архитектуре XLM-RoBERTa, разработанная для построения многоязычных эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 и подходит для семантического поиска и кластеризации. Модель содержит 305,2 млн параметров и поддерживает контекст длиной до 514 токенов. Основные языки модели — английский, немецкий и итальянский. Эмбеддинги можно использовать для поиска семантически близких текстов и сравнения предложений; модель также можно дообучать для задач NLI и классификации текста. Это студенческая модель XLM-RoBERTa, обученная для получения многоязычных эмбеддингов. В репозитории указан формат PyTorch; сведения о лицензии отсутствуют.

cassador/2bs32lr2 — модель Sentence Transformers на базе индонезийской BERT-модели indobenchmark/indobert-base-p2, дообученная на afaji/indonli. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости с помощью косинусного сходства, семантического поиска, поиска перефразирований, кластеризации и классификации текста. Модель использует архитектуру BERT с усреднением токенных представлений; максимальная длина входной последовательности — 512 токенов. Основной язык — индонезийский. В README приведены оценки сходства на sts-dev и sts-test, но они различаются, поэтому качество на конкретных данных следует проверять отдельно. Лицензия в предоставленных данных не указана.

GigaChat3-702B-A36B-preview-GGUF — квантизированная GGUF-версия текстовой генеративной модели ai-sage/GigaChat3-702B-A36B-preview. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель относится к архитектурам MoE и предназначена для генерации и обработки текста, в частности на русском и английском языках. Её можно запускать через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В README не указаны точный объём контекста, количество параметров активной части MoE, поддерживаемые уровни квантизации, модальности кроме текста и результаты тестирования, поэтому оценить производительность и ограничения по этим параметрам нельзя. Доступна по лицензии MIT; конкретные требования к аппаратным ресурсам зависят от выбранного варианта квантизации и не приведены.