I.3Извлечение и структурирование данных

CocoRoF/ModernBERT-SimCSE-multitask_v03-retry — дообученная на основе CocoRoF/mobert_retry_SimCSE_test модель Sentence Transformer, разработанная CocoRoF. Она преобразует предложения и абзацы в плотные векторы размерности 1024 и предназначена для сравнения семантического сходства, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура — ModernBERT; модель содержит 183,8 млн параметров и принимает текстовые последовательности длиной до 8192 токенов по метаданным. README указывает максимальную длину 2048 токенов, поэтому фактический предел может зависеть от конфигурации используемого пайплайна. Для оценки сходства применяется косинусная мера; в README приведены результаты на sts_dev: 0,789 по Spearman и 0,7886 по Pearson. Примеры обучающих и оценочных данных — корейские предложения, но поддержка других языков явно не заявлена. Модель сохраняет веса в формате safetensors и может применяться через библиотеку sentence-transformers. Лицензия в предоставленных данных не указана.

hlyu/mpnet_14710 — модель на основе MPNet, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 61,2 млн параметров и рассчитана на входные последовательности длиной до 514 токенов. Векторы можно использовать для поиска похожих текстов и группировки семантически близких предложений. Для работы предусмотрены Sentence-Transformers и Hugging Face Transformers; при использовании Transformers нужно применить подходящую операцию pooling к контекстным представлениям токенов. Модель опубликована под идентификатором hlyu/mpnet_14710; сведения о лицензии в доступных данных отсутствуют.

Это модель Sentence Transformers на архитектуре MPNet, дообученная tomaarsen на парах вопросов и ответов из набора GooAQ. Она преобразует предложения и абзацы на английском языке в плотные векторы размерности 768; сходство между текстами можно оценивать косинусной мерой. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для семантического поиска и сопоставления вопросов с ответами, а также для поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Лицензия Apache-2.0 разрешает свободное использование и распространение с соблюдением её условий.

tomaarsen опубликовал модель Sentence Transformers, дообученную на парах запросов и ответов из набора Natural Questions. Она использует трансформер MPNet на базе microsoft/mpnet-base с усреднением токенных представлений и преобразует текст в плотные векторы размерности 768 для сравнения по косинусному сходству. Максимальная длина входной последовательности — 512 токенов; модель рассчитана на английский язык. Модель подходит для семантического поиска, сопоставления вопросов с ответами, оценки смыслового сходства, поиска перефразировок, кластеризации и классификации текстов. На Natural Questions она обучалась на 100 231 примере; в README приведены метрики поиска на тестовой выборке. Для работы с длинными текстами их потребуется разбивать на фрагменты. Лицензия — Apache-2.0.

multilingual-e5-small-GGUF — это GGUF-версия мультиязычной модели для создания текстовых эмбеддингов, разработанная на основе intfloat/multilingual-e5-small. Репозиторий cstr/multilingual-e5-small-GGUF выполняет только конвертацию и квантование весов; обучение, дообучение, слияние и изменение архитектуры не проводились. Модель предназначена для получения векторных представлений текста, семантического поиска, сравнения текстов и других задач, использующих эмбеддинги. Работает через CrispEmbed и Ollama, включая совместимые с OpenAI и Ollama API. Модель построена на архитектуре BERT, содержит около 118 млн параметров, 12 слоёв, использует mean pooling и токенизатор SentencePiece, а размерность эмбеддингов составляет 384. Поддерживается широкий набор языков, включая английский, русский, китайский, японский, корейский, арабский, хинди и многие другие. Доступны варианты F32, Q8_0, Q4_K, Q4_K с imatrix и IQ4_XS. Рекомендуется Q8_0: его близость к версии F32 составляет 0,9999 по cosine similarity при существенно меньшем размере файла. Четырёхбитные варианты экономят память, но могут немного снижать точность. Модель удобна для локального и ресурсоограниченного инференса благодаря компактным квантованным версиям и совместимости с несколькими API. Ограничения включают зависимость качества от выбранного уровня квантования и отсутствие в README подробностей о максимальной длине контекста, обучающих данных и результатах прикладных бенчмарков. Указана лицензия MIT; репозиторий распространяется на тех же условиях, что и исходная модель.

dgroechel выпустил дообученную модель на архитектуре MPNet для получения плотных векторных представлений предложений и абзацев. Она преобразует текст в векторы размерности 768 и предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Для использования подходят Sentence-Transformers и Transformers; модель содержит 136,7 млн параметров и принимает контекст длиной до 514 токенов. README указывает на обучение с MarginDistillationLoss. Доступен формат PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

Yunika/muril-base-sentence-transformer — модель на базе BERT, представленная как Sentence Transformers для получения плотных векторных представлений предложений и абзацев размерностью 768. Её обучили с TripletLoss на датасете embedding-data/QQP_triplets; модель подходит для семантического поиска, сравнения сходства текстов и кластеризации. Репозиторий содержит веса в формате safetensors, использовать модель можно через библиотеку sentence-transformers или Transformers с подходящей операцией pooling. Модель принимает текст и выдаёт эмбеддинги. Максимальная длина контекста — 512 токенов, всего в модели около 264,8 млн параметров. Лицензия в предоставленных данных не указана.

Карточка модели kanixwang/my-awesome-setfit-model на Hugging Face совпадает с карточкой lewtun/my-awesome-setfit-model, поэтому описание составлено по ней. lewtun/my-awesome-setfit-model — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения смысловой близости текстов. Модель подходит для семантического поиска и кластеризации текстов, а также для получения эмбеддингов, используемых в других системах. В README указано обучение с функцией потерь CosineSimilarityLoss. Для применения описана работа через Sentence-Transformers или Transformers с подходящей операцией pooling. Максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт векторы. В карточке нет сведений о лицензии или целевых языках, поэтому определить условия использования и языковую специализацию по доступным данным нельзя.

Nemotron-3-Embed-8B-BF16 — мультиязычная модель эмбеддингов текста, разработанная NVIDIA для семантического поиска, извлечения релевантных фрагментов и систем RAG. Она предназначена, в частности, для создания многоязычных вопросно-ответных приложений поверх крупных текстовых коллекций и поддерживает межъязыковой поиск. Модель основана на трансформере Ministral-3-8B-Instruct-2512, дообученном для получения эмбеддингов. Она содержит около 8 млрд параметров, кодирует текст в векторы размерности 4096 и использует двунаправленное внимание и усреднение представлений токенов. README указывает максимальную длину входа 32 768 токенов; метаданные каталога приводят для базовой модели контекст 262 144 токена. Модель принимает текст и выдаёт векторы; размер вектора можно уменьшать срезом с последующей L2-нормализацией. Заявлена поддержка 34 языков, включая русский, английский, китайский, арабский и хинди. Модель показала высокие результаты на мультиязычном бенчмарке RTEB по заявлению разработчика и предназначена для коммерческого применения. Для запуска README рекомендует Transformers 5.2.0 или новее и CUDA-совместимое окружение; также указана поддержка PyTorch и vLLM. Модель и конфигурация распространяются по лицензии OpenMDW-1.1; базовая модель выпущена под Apache 2.0. Для входов длиннее 32 768 токенов требуется разбиение на фрагменты или усечение.

Карточка модели swardiantara/one-crk5-m0.5-e5-b128-L6 на Hugging Face совпадает с карточкой swardiantara/one-cdk5-m0.5-e5-b128-L6, поэтому описание составлено по ней. swardiantara/one-cdk5-m0.5-e5-b128-L6 — модель Sentence Transformers на базе архитектуры BERT, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 25,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Веса опубликованы в формате Safetensors. Карточка не сообщает о специализированной предметной области или лицензии; язык обучения и работы явно не указан.

Orion-14B-LongChat — многоязычная плотная авторегрессионная языковая модель компании OrionStarAI, обученная с нуля. Версия LongChat предназначена для диалогов и работы с очень длинными текстами; заявленная длина контекста составляет 200 000 токенов, а максимальная поддерживаемая длина — до 320 000 токенов. Размер модели — 14,1 млрд параметров, формат весов в репозитории — PyTorch. Модель рассчитана на генерацию текста и может применяться для диалогов, анализа длинных документов и работы с кодом. В карточке заявлена поддержка китайского, английского, японского и корейского языков; модель обучена на многоязычном корпусе объёмом 2,5 трлн токенов. OrionStarAI указывает на высокие результаты для длинных последовательностей, но качество ответов и фактическая точность могут зависеть от задачи и входного контекста. Условия лицензирования в предоставленной карточке не описаны.

Это дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, опубликованная под именем legalvn/paraphrase-multilingual-MiniLM-L12-v2-500. Архитектура основана на BERT с усреднением токенных представлений; модель содержит 124,3 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 384. Метаданные указывают на контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Модель предназначена для вычисления семантического сходства по косинусной близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Примеры обучающего набора и многоязычная базовая модель указывают на поддержку вьетнамского и других языков; конкретный полный перечень языков в карточке не приведён. Лицензия в предоставленных данных не указана.

pentest-orca-mw01 — компактная модель эмбеддингов предложений на базе BertModel, опубликованная jasonecktest01. Это шестислойный BERT с размером скрытого представления 256 и четырьмя головами внимания; модель дообучена на стандартных корпусах для вывода по текстовым парам и формирует эмбеддинги размерности 256. Модель предназначена для семантического поиска, извлечения релевантных фрагментов для RAG и классификации на основе представлений текста. Её можно использовать для кодирования предложений и сравнения их семантической близости. Репозиторий содержит веса PyTorch и использует библиотеку sentence-transformers. Лицензия — Apache-2.0.

DejanX13/Poverenik_embedding_doc_2000 — модель на базе XLM-RoBERTa, созданная для преобразования предложений и абзацев в плотные векторы размерности 1024. Она предназначена для семантического поиска, сравнения текстов и кластеризации с использованием Sentence-Transformers. Модель содержит 658,7 млн параметров, принимает текст и выдаёт эмбеддинги; заявленная длина контекста — 514 токенов. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Лицензия в предоставленных данных не указана.

kwondw/quora-mnrl — модель Sentence Transformer, дообученная автором на наборе quora-duplicates от sentence-transformers на базе sentence-transformers/stsb-distilbert-base. Она кодирует английские предложения и абзацы в плотные векторы размерности 768 для семантического поиска и сравнения сходства. Архитектура состоит из DistilBERT и mean pooling; сходство векторов рекомендуется оценивать косинусной мерой. Метаданные указывают контекст до 512 токенов, а карточка модели — максимальную длину последовательности 128 токенов. Модель подходит для поиска похожих вопросов и документов, извлечения релевантных текстов и обнаружения дубликатов. Её обучение на парах Quora ориентировано на сопоставление вопросов с близким смыслом, поэтому перенос качества на другие типы текстов может различаться. Лицензия в предоставленных данных не указана.

Qwen2.5-14B-DeepSeek-R1-1M — объединённая плотная языковая модель на архитектуре Qwen2, созданная с помощью MergeKit методом TIES. В качестве базовой использована Qwen/Qwen2.5-14B-Instruct-1M; в объединение также вошли DeepSeek-R1-Distill-Qwen-14B и Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, распространяется в формате Safetensors и рассчитана на контекст до 1 010 000 токенов. Модель предназначена для диалогов и генерации текста по инструкциям, включая работу с длинным контекстом. Метаданные также указывают интерфейс для вызова инструментов. Данные карточки описывают способ объединения и состав моделей, но не приводят отдельные оценки качества или подробные рекомендации по применению. Лицензия в предоставленных данных не указана. Для использования следует учитывать условия лицензий исходных моделей; их совместимость здесь не подтверждена.

dec0dedd выпустил чат-модель Qwen2.5-14B-Instruct-heretic — версию Qwen2.5 Instruct на 14 млрд параметров, обработанную методом abliteration для снижения частоты отказов. По приведённому в карточке сравнению, модель отказала в 5 из 100 тестовых запросов против 98 из 100 у исходной Qwen2.5-14B-Instruct; это измерение относится только к указанному тесту. Архитектура — плотная причинная языковая модель Qwen2 с поддержкой чата. Метаданные указывают контекст до 32 768 токенов; README описывает расширение контекста до 131 072 токенов с YaRN, но предупреждает о возможном ухудшении работы на коротких запросах при статической настройке YaRN. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям и создание длинных или структурированных ответов. README базовой Qwen2.5 также отмечает навыки программирования, математики и работу с таблицами, однако отдельные результаты для этой производной модели не приведены. Поддерживаются английский и другие языки Qwen2.5; карточка явно помечает английский. Модель распространяется под лицензией Apache-2.0.

Lambent/qwen2.5-reinstruct-alternate-lumen-14B — объединённая диалоговая языковая модель Lambent на архитектуре Qwen2, созданная с помощью mergekit. В основе объединения лежит Lambent/qwen2.5-lumen-rebased-14B; также использована Qwen/Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая структурированные ответы и интерфейс вызова инструментов. В README приведена оценка EQ-Bench 77,6713; автор отмечает, что она сопоставима с Lumen и исходной Instruct-моделью, но оценка не гарантирует качество для конкретных задач. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Лицензия в предоставленных источниках не указана.

Карточка модели LinkRur/Qwen3.5-4B на Hugging Face совпадает с карточкой Qwen/Qwen3.5-4B, поэтому описание составлено по ней. Qwen3.5-4B — мультимодальная модель компании Qwen на 4 млрд параметров, представленная в формате Hugging Face Transformers и дообученная на базе Qwen/Qwen3.5-4B-Base. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, анализа изображений, рассуждений, программирования и вызова инструментов. Модель использует гибридную архитектуру Gated Delta Networks и gated attention; в README указано 32 слоя. Нативная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Семейство заявляет поддержку 201 языка и диалекта. По умолчанию модель работает в режиме рассуждения, а для развёртывания доступны Transformers, vLLM, SGLang и KTransformers. Модель подходит для ответов на вопросы по изображениям и тексту, многошаговых диалогов и агентных сценариев с инструментами. Репозиторий распространяется по лицензии Apache-2.0. Реальная скорость и пропускная способность зависят от среды инференса; длинный контекст может приводить к нехватке видеопамяти.

RedHatAI/Qwen3.5-4B-quantized.w4a16 — квантизированная версия мультимодальной модели Qwen3.5-4B, разработанная RedHatAI на основе базовой модели Qwen/Qwen3.5-4B. Она принимает текст и изображения, а генерирует текст и предназначена для задач диалогового взаимодействия, следования инструкциям, рассуждений и анализа визуального содержимого. Модель использует архитектуру Qwen3.5-4B и оптимизирована для инференса через vLLM. Веса линейных операторов в трансформерных блоках сжаты до INT4, тогда как активации сохраняют исходную точность. Vision encoder, токеновые эмбеддинги и слои linear attention остаются в формате BF16. Размер модели на диске составляет около 5,2 ГБ против 8,8 ГБ у версии BF16, что снижает требования к памяти. В конфигурации vLLM заявлена поддержка контекста до 262 144 токенов; также доступен текстовый режим с отключением визуальной части. Языки модели в README не указаны. К сильным сторонам относятся существенное уменьшение размера и требований к памяти при сохранении близких к исходной модели результатов на ряде тестов, включая GSM8k-Platinum, MMLU-Pro, IFEval и Math 500. Ограничениями являются возможное снижение качества на отдельных задачах рассуждений, заметное на AIME 2025 и GPQA Diamond, а также зависимость от совместимого окружения vLLM и связанных инструментов. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-GGUF — это GGUF-квантизированная версия модели Qwen3.5-9B, разработанная ByteShape с использованием метода ShapeLearn. ShapeLearn подбирает тип данных отдельно для каждого тензора, чтобы сохранять высокое качество при низкой разрядности. Модель предназначена для локального запуска через llama.cpp или LM Studio и поддерживает работу с изображениями; для vision-сценариев llama.cpp автоматически загружает vision projector. Модель ориентирована на текстовые и мультимодальные задачи, включая генерацию текста, рассуждения, программирование, решение математических задач, следование инструкциям и function calling. Доступны варианты для GPU и CPU с разрядностью от 2,81 до 5,10 bits per weight и размером примерно от 3,15 до 5,72 ГБ. GPU-варианты используют сочетание KQ- и IQ-квантизации, а CPU-варианты — преимущественно KQ-квантизацию; это позволяет выбирать баланс между скоростью, требованиями к памяти и качеством. Сильными сторонами являются малый размер, возможность запуска на широком спектре оборудования, включая Raspberry Pi, поддержка изображений и несколько вариантов квантизации. Ограничения связаны с потерями качества, возможными при низкой разрядности, зависимостью производительности от оборудования и отсутствием поддержки этой модели в Ollama на момент публикации README. README не указывает языки и размер контекстного окна. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-imatrix-GGUF — это квантизированная GGUF-версия базовой модели Qwen3.6-35B-A3B, подготовленная liodon-ai с использованием калибровки importance matrix (iMatrix). Базовую модель разработала команда Qwen компании Alibaba Cloud. Модель предназначена для локальной генерации текста, диалогов и выполнения инструкций через llama.cpp, Ollama, LM Studio и Jan. Модель использует MoE-архитектуру с 35 млрд параметров, из которых активно 3,5 млрд, и поддерживает контекст до 128K токенов. Доступны варианты квантизации от Q2_K до Q8_0, включая i-кванты IQ2_M, IQ3_M и IQ4_XS. iMatrix-калибровка повышает связность и качество следования инструкциям при низкой разрядности по сравнению со стандартной квантизацией, сохраняя меньший размер файлов. Ограничения зависят от выбранного варианта: более сильная квантизация снижает качество, а для запуска требуются от 6 до 36,9 ГБ памяти в зависимости от файла. Лицензия Apache 2.0.

Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF — языковая модель в формате GGUF, разработанная trinityomni на основе модели DavidAU Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking. Согласно README, модель расширена из Qwen3.6 27B до 40 млрд плотных параметров, имеет 96 слоёв и поддерживает контекст до 256K токенов. Обучение и доработка выполнялись с использованием Unsloth, датасетов с высокоуровневыми рассуждениями, а также наборов Deckard/PDK, ориентированных на характер, интеллект, глубину, наблюдательность и стиль ответа. Модель предназначена для универсального применения: диалогов, сложных рассуждений, программирования, математики, решения задач, творческого письма, генерации сюжетов и ролевых сценариев. Заявлены английский и китайский языки. Поддерживается переменная длина рассуждений: для простых задач модель должна формировать более короткие рассуждения, а для сложных — более подробные. README также заявляет поддержку изображений при использовании совместимого mmproj-файла, что соответствует сценарию image-text-to-text. К сильным сторонам относятся большой контекст, высокая производительность в задачах рассуждений и письма, ориентированность на длительные диалоги, код и математику, а также специальные NEO-CODE-Di-IMatrix-MAX-квантизации, оптимизированные по результатам сравнений с полной точностью BF16. Ограничением является необходимость подбирать подходящий GGUF-квант и, для работы с изображениями, отдельно устанавливать mmproj. Модель заявлена как uncensored и unfiltered, поэтому она может генерировать потенциально небезопасный или NSFW-контент. Лицензия указана как Apache-2.0.

utautako/Qwen3.8-27B-NVFP4-MTP-Q8attn-GGUF — это квантованная GGUF-версия модели Qwen3.8-27B, разработанной командой Qwen. Конверсию выполнил автор репозитория с использованием NVIDIA ModelOpt: MLP-слои представлены в формате NVFP4, а проекции attention и линейного внимания DeltaNet сохранены в Q8_0 для повышения точности, особенно при работе с длинным контекстом. Модель предназначена для запуска через llama.cpp. Модель поддерживает текстовые и визуальные сценарии: для обработки изображений поставляется отдельный BF16 vision projector, совместимый с путём Qwen3-VL. Архитектура содержит 64 текстовых слоя и один MTP-слой для speculative decoding; общий размер основного файла составляет около 17,81 GiB, а плотность — примерно 5,60 бит на вес. Заявлена поддержка контекста до 213056 токенов в текстовом режиме и до 163840 токенов при подключённом vision projector на RTX 5090 с 32 ГБ видеопамяти. К сильным сторонам относятся сохранение качества attention-компонентов за счёт Q8_0, поддержка изображений и ускорение генерации с помощью MTP: на RTX 5090 производительность достигает примерно 120–130 токенов в секунду, что примерно вдвое выше авторегрессионного режима. Ограничения включают зависимость от совместимой версии llama.cpp, значительные требования к видеопамяти и снижение эффективности speculative decoding при глубине чернового предсказания четыре и более. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Opus-Distill-v2-FP8 — это квантизированная версия модели barozp/Qwen3.8-27B-Opus-Distill-v2, опубликованная пользователем или организацией barozp. Модель предназначена для задач рассуждения и мультимодального общения с текстом и изображениями; в карточке также заявлена поддержка MTP и speculative decoding. Она распространяется в формате, совместимом с Transformers, и основана на архитектуре Qwen3.8 с 27 млрд параметров, однако точные сведения о контекстном окне и поддерживаемых языках не указаны. В модели используется блочная FP8-квантизация E4M3 с блоками 128×128 и динамическим масштабированием активаций. Квантизируются главным образом веса, без калибровочного набора данных; vision tower, MTP head, нормализующие и gate-слои, embedding-слои и отдельные параметры Gated-DeltaNet сохраняются в исходной точности. Размер checkpoint составляет примерно 31 ГБ против около 55 ГБ у исходной BF16-версии. По представленным тестам, снижение качества на MMLU, HellaSwag и ARC-Challenge находится в пределах статистической погрешности. Сильные стороны модели — существенно меньший размер, поддержка native FP8 на совместимом оборудовании и близкое к BF16 качество на проверенных задачах. Ограничения связаны с требованиями к программному окружению и аппаратуре: для native FP8 в Transformers требуется специальный FP8 kernel, а некоторые сценарии MTP и sampling на Blackwell могут быть ограничены проблемами flashinfer. На A100 модель автоматически вычисляется через BF16 после де-квантизации. Лицензия — Apache-2.0.

outsourc-e/Qwen3.8-27B-Unleashed-GGUF — это квантованная GGUF-версия uncensored-модели Qwen3.8-27B-Uncensored от JonathanColetti. Репозиторий публикует сборки с динамическим распределением битности по отдельным тензорам; карта квантования заимствована из проекта Unsloth Dynamic 3.0 и применена к весам исходной uncensored-модели. Модель предназначена для генерации текста, диалогов, агентских сценариев, работы с кодом и локального запуска через совместимые движки, включая llama.cpp. Модель содержит около 27 млрд параметров и поддерживает текстовую модальность. Заявлены английский и китайский языки, контекст до 262 144 токенов; для одной из сборок подтверждено извлечение данных на длине 250 806 токенов. Динамическая квантование сохраняет больше точности в чувствительных тензорах и сильнее сжимает менее критичные, благодаря чему сборка UD-Q3_K_XL в приведённых измерениях превзошла протестированные варианты Q4 по perplexity и обеспечила скорость 112,8 токена в секунду на RTX 4090 при использовании llama.cpp и speculative decoding. Сильными сторонами являются uncensored-характер модели, большой контекст, доступность нескольких уровней квантования и эффективное соотношение качества, размера и скорости. Результаты зависят от конкретного уровня квантования, оборудования, длины генерации и настроек запуска; для коротких запросов измеренная скорость значительно ниже пиковой, а варианты низкой битности, особенно Q2, заметно теряют качество. Для некоторых квантов полный набор тестов ещё не завершён. Лицензия — Apache 2.0.

Qwen3.8-Flash-Next-Uncensored-MLX-Serve-4bit — 4-битная версия модели Qwen3.8-Flash-Next, преобразованная в формат MLX-Serve для локального запуска на компьютерах Apple Silicon. Базовая модель разработана командой Qwen, а вариант без ограничений получен orcarouter с помощью abliteration — удаления направлений весов, связанных с отказами; в этой сборке дополнительных изменений модели не заявлено. Модель предназначена для диалогов, генерации текста и кода, агентских сценариев и мультимодальных задач с изображениями и видео. Она поддерживает контекст до 262 144 токенов, vision tower, спекулятивную декодирующую голову MTP и работу через совместимые с OpenAI, Anthropic и Ollama API. Архитектура qwen4_exp включает 48 слоёв, гибридное внимание с 36 слоями Gated-DeltaNet и 12 слоями полного внимания, MoE с 512 экспертами и выбором 10 экспертов на токен, а также общим экспертом. Объём модели составляет 125 млрд параметров, из которых активно около 6 млрд на токен; заявленная поддержка языков в README не указана. Ключевые преимущества — большой контекст, поддержка текста, изображений и видео, высокая скорость на Apple Silicon, а также сниженная склонность к отказам. Пакет требует Apple Silicon с не менее чем 96 ГБ unified memory, рекомендуется 128 ГБ, и около 107 ГБ места на внутреннем SSD. Скорость и объём памяти зависят от оборудования; приведённые значения измерены на M5 Max с 128 ГБ. Для запуска требуется mlx-serve версии 26.8.11-pre-release.1 или новее. Ограничения включают высокие аппаратные требования, необходимость использования специализированного движка и потенциальные риски, связанные с отсутствием встроенных отказов. Лицензия — Apache 2.0.

Qwen Plus 0728 — гибридная модель с рассуждением от команды Qwen, основанная на фундаментальной модели Qwen3. Она предназначена для генерации текста и решения задач, требующих рассуждений. Контекст модели составляет 1 миллион токенов; заявлен баланс производительности, скорости и стоимости. Модель подходит для диалогов, анализа длинных материалов и ответов на вопросы по большим текстовым контекстам. README не приводит подробностей об архитектуре, поддерживаемых языках или лицензии, поэтому эти характеристики нельзя уточнить по имеющимся данным.

robpasternak/retrieval-de-conloss — модель эмбеддингов предложений на базе XLM-RoBERTa, опубликованная на Hugging Face. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для семантического поиска, сравнения текстов и кластеризации. Модель обучена с ContrastiveLoss на основе косинусного расстояния и доступна в формате PyTorch; заявленная длина контекста — 514 токенов. Модель подходит для поиска похожих фрагментов текста и группировки текстов по смыслу. В README не указаны конкретные языки обучающих данных, поэтому языковую специализацию определить нельзя. Лицензия в предоставленных сведениях не указана.

KasuleTrevor/Roberta-base-lug-QQ — модель Sentence Transformers, дообученная Trevor Kasule на FacebookAI/xlm-roberta-base. Она кодирует предложения и абзацы в плотные векторы размерности 768, которые можно сравнивать по косинусному сходству. Модель предназначена для оценки семантической близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура включает XLM-RoBERTa с mean pooling; максимальная длина последовательности — 512 токенов, размер базовой модели — 305,2 млн параметров. Обучение проводилось на 7 106 парах предложений с MultipleNegativesRankingLoss. Многоязычная основа XLM-RoBERTa позволяет обрабатывать тексты на нескольких языках, однако README не уточняет, на каких языках модель обучалась и проверялась специально. Для применения модель выдаёт эмбеддинги, а не готовые ответы; для поиска или сравнения их нужно использовать в последующем пайплайне. Лицензия в предоставленных данных не указана.