I.2Синтез, понимание и проверка знаний

ColBERT-Zero-supervised — модель поиска LightOn на базе PyLate и архитектуры ModernBERT, предназначенная для много-векторного поиска по тексту с поздним взаимодействием ColBERT и оценкой MaxSim. Она формирует векторы размерности 128 для токенов запросов и документов; в карточке указаны максимальные длины 39 токенов для запроса и 519 токенов для документа, а метаданные задают контекст до 8192 токенов. Модель содержит 149 млн параметров и использует асимметричные промпты: при кодировании нужно применять prompt_name="query" для запросов и prompt_name="document" для документов. Модель рассчитана на построение поисковых индексов и ранжирование документов по релевантности; в README сообщается результат 55,43 nDCG@10 на BEIR. Данные в карточке указывают на обучение на англоязычных наборах, а метаданные отмечают английский язык. Среди ограничений — чувствительность к соответствию промптов и зависимость результатов от состава обучающих данных и масштаба обучения. Лицензия — Apache-2.0.

Карточка модели Sieddi/deepset-mxbai-embed-de-large-v1 на Hugging Face совпадает с карточкой mixedbread-ai/deepset-mxbai-embed-de-large-v1, поэтому описание составлено по ней. deepset-mxbai-embed-de-large-v1 — открытая модель эмбеддингов предложений, разработанная Mixedbread совместно с deepset. Она основана на intfloat/multilingual-e5-large и дообучена с функцией потерь AnglE на более чем 30 млн пар немецких данных. Модель использует архитектуру XLM-RoBERTa, содержит около 585,8 млн параметров и принимает текстовый контекст длиной до 514 токенов. Модель предназначена для поиска по смыслу и извлечения релевантных документов на немецком и английском языках. Для запросов требуется префикс «query: », для документов — «passage: ». Она поддерживает Matryoshka Representation Learning и бинарную квантизацию, что позволяет уменьшать размер эмбеддингов и затраты на хранение при сохранении значительной части качества. По данным авторов, средний результат на NDCG@10 составляет 51,7. Модель распространяется по лицензии Apache-2.0. Она рассчитана на получение векторных представлений текста; качество и применимость за пределами немецкого и английского языков в предоставленных материалах не описаны.

Diver-Retriever-4B-1020 — двуязычная модель текстовых эмбеддингов, разработанная AQ-MedAI на основе Qwen/Qwen3-Embedding-4B и дообученная для задач поиска и сопоставления запросов и документов. Обучение использовало данные из математики, программирования и медицины, а также специально подобранные сложные отрицательные примеры. Модель содержит около 3,7 млрд параметров, построена на плотной архитектуре Qwen3 и поддерживает контекст до 40 960 токенов. Она предназначена для семантического поиска и ранжирования, включая запросы на китайском и английском языках; авторы сообщают о результатах на BRIGHT и медицинском бенчмарке MTEB-Medical. Доступна в формате Safetensors для Transformers под лицензией Apache-2.0.

kalle07/embedder_collection — подборка более чем 25 моделей для создания текстовых эмбеддингов, опубликованная пользователем kalle07. Репозиторий содержит практические рекомендации по выбору модели, подготовке документов, разбиению текста на фрагменты и настройке локального RAG. Главная задача моделей в подборке — вычислять векторные представления текста и поддерживать поиск похожих предложений и фрагментов документов. Модели ориентированы на локальное использование с программами вроде AnythingLLM и LM Studio; в репозитории представлены файлы GGUF в форматах BF16, F16, F32 и Q8_0. Автор также упоминает применение через Ollama и KoboldCpp, но совместимость зависит от конкретной модели и среды запуска. В качестве языков в метаданных указаны английский и немецкий; подборка включает модели разных семейств, поэтому характеристики контекста и качество различаются. Подборка пригодится для семантического поиска по документам и построения RAG-систем, но сама по себе не гарантирует улучшения ответов: на результат влияют подготовка текста, разбиение на фрагменты, настройки поиска и основная языковая модель. Автор отмечает, что подходящую модель следует выбирать с учётом языка и предметной области. Лицензия в предоставленных данных не указана.

Это компактная модель Sentence Transformers, разработанная автором репозитория much1na и дообученная на основе capemox/ettin-encoder-17m-pretrain-50m для поиска по текстам. Она кодирует предложения и абзацы в плотные векторы размерности 768 и позволяет сопоставлять запросы с документами по косинусному сходству. Модель построена на архитектуре ModernBERT, содержит 16,8 млн параметров и принимает текст с контекстом до 7999 токенов по метаданным; в README заявлена максимальная длина 8192 токена. Модель обучена на 483 497 примерах датасета msmarco-embed-dense_on-triples-v3 с EmbedDistillLoss. Её сценарии — семантический поиск, извлечение релевантных документов и ранжирование кандидатов по близости векторных представлений; в README приведены результаты оценки на наборах NanoBEIR и отдельных задачах поиска. Базовая модель описана как англоязычная, а оценка использует английский NanoBEIR и подсказки query/document, поэтому подтверждена пригодность прежде всего для английского текста. Лицензия в предоставленных данных не указана. Как и другие модели векторного поиска, качество зависит от языка и тематики входных текстов; приведённые оценки относятся к указанным тестовым наборам и не гарантируют качество на произвольных данных.

much1na/ettin-encoder-17m-v3-vendor-embeddistill-v2 — компактная текстовая модель Sentence Transformer для поиска по смыслу и извлечения релевантных документов. Она преобразует предложения и абзацы в плотные векторы размерностью 768, которые можно сравнивать косинусным сходством. Архитектура основана на ModernBERT, содержит 16,8 млн параметров и принимает последовательности длиной до 7999 токенов по метаданным; в README заявлено ограничение 8192 токена. Модель обучена на 483 497 примерах msmarco-embed-dense_on-triples-v3 с использованием EmbedDistillLoss. Её можно применять для векторного поиска, подбора документов к запросу и построения семантического поиска; в карточке приведены результаты оценки на англоязычных наборах NanoBEIR и отдельных наборах извлечения информации. Модель принимает текст и выдаёт векторы эмбеддингов. Данные указывают на англоязычное обучение и оценивание, поэтому пригодность для других языков не подтверждена. Лицензия в предоставленных данных не указана.

F2LLM-v2-14B-Preview — предварительная многоязычная модель эмбеддингов от CodeFuse AI, дообученная на базе Qwen3-14B. Она обучена на корпусе из 27 млн примеров, охватывающем более 100 естественных и программных языков, и предназначена как основа для задач векторного представления текста и дальнейшего дообучения; версия Preview обучена без инструкционного формата. Модель имеет плотную архитектуру Qwen3 с 14 млрд параметров, работает с текстом и поддерживает контекст до 40 960 токенов. Для получения эмбеддингов доступны библиотеки Sentence Transformers и Transformers. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Поскольку это базовая версия без инструкционного обучения, она предназначена для встраивания в поисковые и другие embedding-системы, а не для диалогового использования как instruct-модель. README не приводит оценки качества или подробные ограничения по отдельным языкам и задачам.

GLiClass Large V3.0 — модель Knowledgator для классификации текста с нулевым примером. Она использует архитектуру GLiClass и выполняет классификацию за один проход, что, по данным карточки, делает её вычислительно эффективнее кросс-энкодеров при сопоставимом качестве. Модель предназначена для тематической классификации, анализа тональности и ранжирования текстов в RAG-системах. Модель дообучена на логических задачах с помощью LoRA-адаптеров, чтобы расширить способность к рассуждению и сохранить прежние знания. В карточке приведены результаты тестирования без дообучения на целевых наборах данных и показатели скорости на GPU A6000; размер и число параметров этой конкретной версии не указаны. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией Apache-2.0.

Granite-Embedding-30m-Sparse — разреженная модель для построения текстовых представлений, разработанная командой Granite Embedding в IBM. Она основана на энкодерной архитектуре на базе RoBERTa, содержит 33,5 млн параметров и рассчитана на английский язык. Модель кодирует текст в словарь токенов и их весов переменной длины, включая расширения исходных токенов. Представления подходят для семантического поиска, извлечения релевантных документов и сравнения текстов. Модель обучалась с использованием предварительного обучения для задач поиска, контрастивной настройки и дистилляции; в карточке сообщается о конкурентных результатах на тестах BEIR, включая сравнение с более крупной SPLADE-моделью. Её можно применять, например, с Sentence Transformers и Milvus. Контекст ограничен 512 токенами: более длинный текст обрезается. Модель обучена только на английских текстах. Лицензия — Apache 2.0.

gte-multilingual-reranker-base — мультиязычная модель переранжирования из семейства GTE, разработанная Alibaba. Это версия для Transformers с неизменёнными весами исходной Alibaba-NLP/gte-multilingual-reranker-base и преобразованным config.json, благодаря чему модель загружается без trust_remote_code. Архитектура — encoder-only Transformer для классификации последовательностей, размер — около 305 млн параметров; модель принимает текстовые запросы и документы и оценивает их релевантность, поддерживая входную длину до 8192 токенов. Модель предназначена для повторной сортировки результатов поиска и улучшения мультиязычного извлечения информации. По данным карточки, она поддерживает более 70 языков и показывает высокие результаты в мультиязычных задачах retrieval; encoder-only архитектура снижает требования к оборудованию и, по README, обеспечивает до десятикратного увеличения скорости вывода по сравнению с некоторыми reranker-моделями на decode-only LLM. Веса доступны в формате safetensors, лицензия — Apache-2.0.

InternVL3-38B-Instruct — мультимодальная модель OpenGVLab для диалога и анализа изображений. Это версия SFT семейства InternVL3: она прошла мультимодальное предварительное обучение и supervised fine-tuning, но не этап MPO. Архитектура следует схеме ViT-MLP-LLM: визуальный модуль InternViT соединён через MLP-проектор с языковой моделью; обработка изображений использует динамическое разбиение на фрагменты 448×448 и позиционное кодирование V2PE. Модель также обучалась на видеоданных. Модель предназначена для ответов на вопросы по изображениям, мультимодальных рассуждений и понимания видео, а также для задач с интерфейсами GUI, инструментами и 3D-сценами. Семейство заявлено как мультиязычное; карточка описывает текстовые и визуальные возможности, однако точный размер параметров и длина контекста для этой версии в предоставленных данных не указаны. В сравнении с InternVL 2.5 авторы заявляют улучшение мультимодального восприятия и рассуждений. Модель доступна по лицензии Apache-2.0. Ограничения включают отсутствие этапа MPO у этой SFT-версии; для неизвестных изображений или видео возможны ошибки интерпретации, а качество и производительность зависят от используемых разрешений и вычислительных ресурсов.

QuantFactory/Meta-Llama-3-8B-Instruct-function-calling-json-mode-GGUF — квантизированная версия модели hiieu/Meta-Llama-3-8B-Instruct-function-calling-json-mode, созданная с помощью llama.cpp. Исходная модель дообучена hiieu на Meta-Llama-3-8B-Instruct для вызова функций и генерации ответов в формате JSON. В README также указано использование Unsloth и библиотеки TRL при обучении. Модель предназначена для текстовой генерации, включая диалоговые сценарии, структурированные JSON-ответы и function calling. Для вызова функций используется двухэтапная схема: модель формирует запрос с именем функции и аргументами, после чего получает результат выполнения и генерирует финальный ответ. Указан английский язык. Размер модели — 8 миллиардов параметров; конкретная архитектура и размер контекста в README не уточняются, но модель основана на Meta Llama 3 Instruct. Сильной стороной модели является специализированная настройка для структурированных ответов и интеграции с внешними функциями. Ограничения включают зависимость качества function calling и JSON-генерации от корректного шаблона сообщений и необходимость двух этапов инференса для вызова функций. Лицензия в README не указана.

Карточка модели avsolatorio/MixEmbed-base-20240110153733-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbed-base-20240110225225-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122145230-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122212744-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240123004625-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240123004641-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240123213810-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели Muse-research/Muse2-230M-Base на Hugging Face совпадает с карточкой Muse-research/Muse2-230M, поэтому описание составлено по ней. Muse2-230M — компактная авторегрессионная языковая модель Muse Research, дообученная на основе Muse2-230M-Base. Она предназначена для диалогового помощника, форматирования ответов и извлечения структурированных данных, например преобразования журналов разработчиков в JSON, а также для запуска на устройствах с ограниченными ресурсами и дальнейшей тонкой настройки. Модель содержит 221,2 млн параметров и использует плотную гибридную архитектуру Muse2: блоки коротких причинных свёрток чередуются с полным вниманием, применяются grouped-query attention и объединённый SwiGLU MLP. Вход и выход — текст; основной язык — английский, также модель обрабатывает программный код и математические тексты. Контекст в карточке указан как 128 000 токенов, хотя README уточняет, что стандартная длина составляет 8 000 токенов, а 128 000 — максимум. Модель обучена методом supervised fine-tuning с маскированием функции потерь только на ответах; RLHF и DPO не применялись. Качественная и безопасностная проверка ограничена, поэтому модель может галлюцинировать, повторяться или выдавать смещённые и нежелательные ответы. Разработчик не рекомендует полагаться на неё в критичных, медицинских, юридических или иных фактически значимых сценариях без оценки и защитных мер. Веса доступны по лицензии Apache-2.0.

Карточка модели dititce/mxbai-rerank-large-v2-seq на Hugging Face совпадает с карточкой michaelfeil/mxbai-rerank-large-v2-seq, поэтому описание составлено по ней. michaelfeil/mxbai-rerank-large-v2-seq — вариант семейства Mixedbread mxbai-rerank-large-v2, представленный как классификатор последовательностей на архитектуре Qwen2. Модель предназначена для ранжирования пар «запрос—документ»: она оценивает релевантность кандидатов и помогает выбирать подходящие фрагменты для поисковой выдачи и RAG. В карточке указаны поддержка кода и длинного контекста; метаданные указывают 1,5 млрд параметров и контекст до 32 768 токенов. Модель рассчитана на многоязычный поиск; разработчики заявляют поддержку более 100 языков и особенно сильные результаты на английском и китайском. В README приведены результаты тестов BEIR, мультиязычного и китайского поиска, поиска по коду, а также задержка на A100, но эти показатели зависят от условий измерения. Для использования через классификационный интерфейс требуется специальный шаблон промпта. Лицензия репозитория — Apache-2.0.

Nemotron-3-Embed-1B-BF16 — мультиязычная модель для создания текстовых эмбеддингов, представленная сообществом mlx-community как конверсия NVIDIA Nemotron-3-Embed-1B-BF16 для запуска на Apple Silicon. Это плотный энкодер архитектуры Ministral3 с двунаправленным вниманием; размер — 1,1 млрд параметров. Веса сохранены в bfloat16, а эмбеддинги формируются средним pooling и нормализацией L2. Контекст upstream-модели — до 262 144 токенов, однако реализация в этом репозитории по умолчанию ограничивает длину 4096 токенами, а двунаправленное внимание требует квадратичной памяти по длине последовательности. Модель предназначена для семантического поиска, извлечения документов и построения систем RAG: она преобразует запросы и документы в векторы для сравнения по смыслу. Для запросов и документов требуется использовать префиксы «query: » и «passage: » либо задавать тип входа, который добавит их автоматически. В карточке указана поддержка множества языков, включая русский и английский. Конверсия не включает переобучение или квантизацию; автор README сообщает о cosine similarity выше 0,999 относительно исходной реализации на проверенных входах. Для массовой индексации пропускная способность на Apple Silicon может быть ограниченной. Лицензия — OpenMDW-1.1.

Ovis-Omni-Embedding-3B — мультимодальная модель эмбеддингов с 3 млрд параметров от ATH-MaaS, созданная на основе Qwen2.5-Omni-3B. Она кодирует текст, изображения, визуальные документы, видео, аудио и их сочетания в общее векторное пространство для поиска и сравнения. Модель использует общий бэкбон Thinker и родные текстовый токенизатор, визуальный и аудиоэнкодеры; вектор извлекается из скрытого состояния последнего непустого токена. Для запуска предусмотрена библиотека Transformers, веса опубликованы в формате safetensors. Модель предназначена для семантического и межмодального поиска, индексации и извлечения данных для мультимодальных RAG-систем, рекомендаций, поиска по видео и аудио, визуальным документам, интерфейсам и памяти агента. Это bi-encoder: запросы и кандидаты кодируются независимо, а ранжирование обычно выполняется по косинусному сходству нормализованных векторов. Генерировать текст или речь модель не предназначена. В бенчмарке MMEB-v3, включающем 190 наборов данных, модель набрала 58,46 балла и показала сильные результаты в агрегатах по группам модальностей. Качество зависит от подходящей инструкции для запроса и корректной предобработки; результаты бенчмарка не гарантируют качество на новых доменах. Лицензия — Apache-2.0.

sci4ai/Qwen2.5-VL-7B-Instruct-Ablit — мультимодальная модель для диалога и анализа изображений, созданная на основе Qwen/Qwen2.5-VL-7B-Instruct. Это плотная модель семейства Qwen2.5-VL с 7,1 млрд параметров, реализованная для Transformers и распространяемая в формате safetensors. Модель принимает текст и изображения и формирует текстовые ответы; в README также указана возможность анализа видео как характеристика базовой модели. Веса изменены методом abliteration: из текстового декодера удалено одно направление отказа, вычисленное по активациям на вредоносных и безвредных текстовых запросах. Визуальный энкодер не менялся, поэтому авторы сообщают о сохранении возможностей понимания изображений. Модель подходит для визуальных вопросов и ответов, описания изображений и извлечения сведений из документов, однако редактирование может ослабить следование инструкциям. Abliteration не добавляет новых знаний и навыков, а ответственность за безопасное применение лежит на развёртывающей стороне. Лицензия в предоставленных данных не указана.

Qwen2idae-16x14B-v1.0 — разговорная языковая модель от авторов проекта Parameter-Efficient Sparsity Crafting. Она преобразует плотные модели в разреженную архитектуру Mixture-of-Experts с помощью эффективного дообучения, включая QLoRA и адаптеры. По карточке модели, версия выпущена в марте 2024 года. Модель предназначена для диалогов и инструкций, особенно для задач математики и программирования. В метаданных указаны 13,4 млрд параметров, архитектура Qwen2ForCausalLM типа MoE, контекст до 32 768 токенов и библиотека Transformers; в README заявлено 15 млрд активируемых параметров. Для работы доступны веса Safetensors. Модель поддерживает английский язык. Лицензия — Apache-2.0. README приводит оценки на бенчмарках для серии Camelidae, но не содержит результатов Qwen2idae-16x14B-v1.0, поэтому качество именно этой версии по этим данным оценить нельзя.

Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем minte1431. В README также упоминается проект OBLITERATUS, однако точный разработчик модификации явно не указан. Модель представляет собой вариант Qwen с изменённым поведением отказов, созданный методом abliteration: из весового пространства удалялись направления, связанные с отказами и защитными ответами, с последующей итеративной доработкой и смешиванием нескольких вариантов. Модель предназначена для генерации текста, программного кода, агентских сценариев и исследований поведения LLM в задачах red teaming и AI safety. Заявлена поддержка обычного и thinking-режима, а также форматов GGUF, Safetensors и MLX. Размер модели — 27B параметров; базовая архитектура — Qwen3.8. Сведения о языках и размере контекстного окна в README не указаны. Для инференса рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; системный промпт рекомендуется не задавать. Сильной стороной заявляется существенно сниженная склонность к отказам и отвлечённым лекциям по безопасности при сохранении большей части возможностей базовой модели. Для версии V3 указаны результаты MMLU 82,3% против 84,5% у исходной модели, а также успешное выполнение 20 из 20 проверенных задач генерации кода. Ограничениями являются некоторое падение качества относительно базовой Qwen3.8-27B, возможные циклы при генерации без repetition_penalty и необходимость аккуратной настройки параметров в агентских сценариях. Лицензия — Apache-2.0.

Qwopus3.5-27B-v3 — мультимодальная модель на 27 млрд параметров, разработанная Jackrong на базе unsloth/Qwen3.5-27B. Она дообучена с помощью SFT и LoRA с дистилляцией структурированного рассуждения и дополнительным обучением вызову инструментов; поддерживает диалоги и обработку изображений. Модель предназначена для задач программирования, математики, логических рассуждений и многошаговых сценариев с инструментами, включая агентные фреймворки вроде OpenClaw. Автор заявляет о более коротких и устойчивых цепочках рассуждений и высокой эффективности генерации токенов, однако приведённые оценки ограничены и не подтверждают качество во всех областях. Модель может галлюцинировать, зацикливаться или отклоняться в рассуждениях; автор обозначает её как тестовую версию для обучения, демонстраций и технического исследования. Лицензия — Apache-2.0.

RolmOCR — мультимодальная модель Reducto AI для распознавания и разбора документов по изображениям. Это дообученная на наборе allenai/olmOCR-mix-0225 модель Qwen/Qwen2.5-VL-7B-Instruct с архитектурой Qwen2.5-VL, 7,1 млрд параметров и контекстом до 128 000 токенов. Она принимает изображения документов и текстовые инструкции, а в ответ формирует текстовое содержимое документа. Модель задумана как более быстрая и экономичная по памяти замена olmOCR для обработки PDF и других сложных документов. В отличие от исходного подхода, RolmOCR не использует извлечённые из PDF метаданные, что сокращает запрос и снижает требования к VRAM; около 15% обучающих данных были повёрнуты для повышения устойчивости к наклонённым документам. Модель поддерживает визуальный диалог и распространяется по лицензии Apache 2.0. Модель может галлюцинировать или пропускать содержимое. Она не выдаёт ограничивающие рамки элементов макета; качество квантованных версий не оценивалось.

sergeyzh/rubert-tiny-retriever — компактная модель на основе BERT, разработанная Sergey Zh. Это дообученный энкодер для получения эмбеддингов и текстового поиска: он кодирует запросы и документы в векторы, пригодные для поиска по семантическому сходству и ранжирования результатов. Модель создана дистилляцией эмбеддингов русских и английских текстов BAAI/bge-m3 в sergeyzh/rubert-tiny-turbo. Модель содержит 29 млн параметров; в README указаны 3 слоя, размер эмбеддинга 312 и контекст 512 токенов. Метаданные каталога указывают нативный контекст в 2048 токенов. Поддерживаются русский и английский языки, специальные префиксы для запросов и документов не требуются. В README приведены результаты на наборах для поиска на обоих языках: модель превосходит rubert-tiny-turbo в указанных сравнениях, но уступает более крупной bge-m3. Лицензия — MIT.

SPEED-embedding-7b-instruct — текстовая модель эмбеддингов от Haonan Chen и соавторов, представленная в работе «Little Giants: Synthesizing High-Quality Embedding Data at Scale» (2024). Она предназначена для преобразования запросов и документов в векторы, пригодные для семантического поиска и ранжирования. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров, имеет 32 слоя и размер эмбеддинга 4096. Метаданные указывают контекст до 32 768 токенов, однако авторы не рекомендуют подавать входы длиннее 4096 токенов. Для запросов следует задавать краткую инструкцию на естественном языке, описывающую задачу; документы можно кодировать без инструкции. Это позволяет настраивать представления для разных сценариев. В README указана оценка на наборах BEIR и MTEB. Модель ориентирована на английский язык. Распространяется по лицензии MIT.