II.6Документация и сопровождение разработки

Карточка модели tomaarsen/bge-small-en-v1.5-copy на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Luong23/bmg-m3-finetune-embedding — дообученная модель Sentence Transformer на базе BAAI/bge-m3, предназначенная для получения плотных текстовых эмбеддингов. Она преобразует предложения и абзацы в векторы размерности 1024; архитектура включает XLM-RoBERTa, CLS-пулинг и нормализацию, а сходство оценивается косинусной мерой. В метаданных указана длина контекста 8194 токена, однако карточка модели задаёт максимальную длину последовательности 256 токенов. Модель подходит для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации. В примерах обучающих данных есть короткие запросы и подробные описания товаров на вьетнамском языке, но это не подтверждает, что модель рассчитана только на него. Модель принимает текст и выдаёт векторы; опубликована в формате safetensors. Условия лицензии в предоставленных данных не указаны.

adalbertojunior/db-msm — модель sentence-transformers на архитектуре BERT, обученная преобразовывать предложения и абзацы в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения сходства предложений. Модель содержит 79,5 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления; обучение проводилось с функцией CosineSimilarityLoss. Модель подходит для семантического поиска по коллекциям текстов, группировки похожих документов и оценки сходства формулировок. В карточке не указаны языки обучения или результаты оценки качества, поэтому применимость к конкретному языку и точность на целевых данных следует проверять отдельно. Формат весов — PyTorch; сведения о лицензии отсутствуют в предоставленных метаданных и README.

DeepSeek-V4-Flash-0731-CRACK-NVFP4 — дообученная и модифицированная версия deepseek-ai/DeepSeek-V4-Flash-0731, опубликованная Dealign.ai. Это текстовая генеративная MoE-модель для диалогов, рассуждений, программирования, вызова инструментов и многошаговых сценариев. Модель позиционируется как исследовательский артефакт с удалёнными защитными отказами, поэтому требует ответственного и законного применения. Архитектура включает 43 слоя, 256 маршрутизируемых и одного общего эксперта, MLA, sliding-window attention и контекст примерно до 1 млн токенов с YaRN. Сохранены native-квантизация FP8 для attention и общих экспертов, FP4 класса NVFP4 для маршрутизируемых экспертов, DSpark MTP head, управляемое усилие рассуждения и спекулятивное декодирование. Чекпойнт занимает около 167 ГБ и рассчитан на tensor parallel между двумя узлами NVIDIA GB10 или DGX Spark; в README также указана конфигурация обслуживания с контекстом до 393216 токенов. Заявлены английский и китайский языки, интеграция с vLLM и поддержка OpenAI-совместимых инструментальных вызовов. К сильным сторонам относятся сохранённые знания и способности к рассуждению, высокая заявленная точность на MMLU и HumanEval, производительность 45–49 токенов в секунду в однопоточном режиме, prefix caching и высокая ёмкость GPU KV cache. Основное ограничение — отсутствие защитных отказов: модель может согласиться с вредоносными, незаконными или опасными запросами. Для запуска требуются совместимые сборки vLLM, две системы GB10/DGX Spark, tensor parallel и специализированная инфраструктура. Модель распространяется по лицензии MIT с наследованием условий upstream DeepSeek-V4-Flash; перед использованием необходимо проверить применимые условия лицензии.

mingbao2020/distilroberta-base-nli-adaptive-layer — модель Sentence-Transformers на базе RoBERTa, разработанная автором репозитория mingbao2020. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 95,2 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате safetensors. Обучение использует AdaptiveLayerLoss с MultipleNegativesRankingLoss, что позволяет получать представления предложений для задач поиска и сопоставления по смыслу. Модель предназначена для создания текстовых эмбеддингов; сведения о лицензии и конкретных поддерживаемых языках в доступных данных отсутствуют.

Marqo Stella v2 — модель для получения текстовых эмбеддингов и оценки сходства между предложениями. В карточке она описана как близкая к исходной Dunzhang Stella 400M, но с объединённым Matryoshka-слоем: он позволяет получать эмбеддинги меньшей размерности с меньшими вычислительными затратами, сохраняя метрики релевантности. Модель содержит 433,9 млн параметров, поддерживает контекст до 8192 токенов и распространяется в форматах PyTorch и Safetensors. Модель подходит для семантического поиска, сопоставления запросов с документами и поиска похожих текстов. В метаданных указан pipeline sentence-similarity, а среди возможностей — embeddings. Лицензия — MIT. README не уточняет поддерживаемые языки или специализированные области применения.

e5-sk-small — компактная модель текстовых эмбеддингов для словацкого языка, выпущенная в рамках проекта SkMTEB. Это плотная BERT-модель на базе intfloat/multilingual-e5-small: после сокращения словаря и дообучения она содержит 45 млн параметров по README, а в метаданных указано 51,4 млн; размер вектора составляет 384 измерения. Модель принимает текст и выдаёт эмбеддинги для семантического поиска, сравнения предложений, кластеризации и классификации. Для поиска используйте префикс query: у запроса и passage: у документов; для симметричных задач префикс не нужен. Модель ориентирована прежде всего на словацкие тексты и показывает результаты на бенчмарке SkMTEB, сопоставимые с multilingual-e5-small и text-embedding-3-small. Также заявлена поддержка межъязыкового поиска между словацким, английским и чешским. Контекстная длина архитектуры по метаданным — 512 токенов; при дообучении использовались последовательности до 256 токенов. Лицензия — MIT, веса доступны для локального запуска.

rithwik-db разработал sentence-transformers-модель на базе BERT для преобразования предложений и абзацев в плотные векторы размерности 1024. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. Модель обучалась с MultipleNegativesRankingLoss и косинусной функцией сходства; для получения эмбеддингов можно использовать Sentence-Transformers либо Transformers с подходящей операцией pooling. Контекст ограничен 512 токенами. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.

Giga Embeddings 0826 3B GGUF — модель для получения текстовых эмбеддингов, основанная на ai-sage/Giga-Embeddings-instruct-3B-0826. GGUF-версии независимо конвертированы и квантованы командой ai-babai; это не официальный релиз ai-sage. Модель ориентирована прежде всего на русский и английский языки и предназначена для локального запуска через llama.cpp и Ollama. Модель подходит для семантического поиска, RAG, оценки сходства текстов, кластеризации, классификации и retrieval-сценариев. Она использует двунаправленную архитектуру, возвращает нормализованные эмбеддинги размерностью 2048 и применяет mean pooling, заданный в метаданных GGUF. Для поиска рекомендуется добавлять инструкцию к запросам, а документы кодировать как обычный текст; для симметричных задач следует использовать одинаковую инструкцию для обеих сторон или не использовать инструкции. Доступны варианты BF16, Q8_0, Q6_K и Q4_K_M. Q8_0 указан как рекомендуемый баланс качества и размера, BF16 является эталонной высокоточной версией, а Q4_K_M — экспериментальным облегчённым вариантом. Модель предназначена только для эмбеддингов и не генерирует текст. Приведённые авторами показатели MTEB относятся к исходной BF16-модели, тогда как полный независимый прогон MTEB для GGUF-версий не выполнялся. Модель распространяется по лицензии MIT.

GLM-4.5V — мультимодальная модель зрения и языка семейства GLM-V, разработанная ZhipuAI. Она основана на GLM-4.5-Air — текстовой модели с 106 млрд параметров и 12 млрд активных параметров — и дообучена для работы с визуальными данными. Модель предназначена для понимания изображений, видео и документов, визуальных рассуждений и взаимодействия с графическими интерфейсами. Модель анализирует сцены и несколько изображений, распознаёт события в длинных видео, разбирает графики и документы, читает экран и помогает выполнять операции в GUI. Также поддерживается локализация визуальных объектов с выдачей ограничивающих рамок. Режим Thinking позволяет выбирать между быстрым ответом и более глубоким рассуждением. Карточка заявляет высокие результаты на 42 публичных бенчмарках VLM; контекст, число параметров самой GLM-4.5V и поддерживаемые разрешения для этой версии в предоставленных данных не указаны. Модель принимает визуальные данные и текстовые запросы, а отвечает текстом, в том числе координатами рамок. Лицензия — MIT.

GRM-3.2-Cliff — модель OrionLLM для длительных агентных сценариев и сложных задач рассуждения. Она основана на Ornith-1.0-9B и, согласно README, содержит 9 млрд параметров; метаданные указывают архитектуру семейства Qwen 3.5 и поддержку диалогов и изображений. Модель предназначена для многошагового планирования и выполнения локальных рабочих процессов, сложного программирования, отладки и рефакторинга, продвинутой математики и логических задач. Разработчик заявляет, что модель рассчитана на продолжительные взаимодействия с сохранением цели и может работать на оборудовании с ограниченными ресурсами GPU. В качестве входа поддерживаются текст и изображения, выход — текст. В README не указаны поддерживаемые естественные языки и длина контекста. Модель распространяется по лицензии Apache 2.0; заявленные характеристики качества и эффективности представлены разработчиком, поэтому их следует оценивать с учётом конкретного сценария.

yankexe/gte-multilingual-base-air-gapped — вариант модели gte-multilingual-base из семейства GTE, предназначенный для получения текстовых представлений и поиска по смыслу. Это плотная encoder-only Transformer-модель размером 305,3 млн параметров с embedding-размерностью 768 и контекстом до 8192 токенов. README описывает запуск в изолированной среде с vLLM; метаданные указывают формат safetensors и возможность получать эмбеддинги. Модель предназначена для многоязычного поиска и извлечения информации, в том числе межъязыкового и по длинным текстам. Помимо плотных представлений, она поддерживает разреженные векторы и эластичные по размеру плотные представления, позволяя уменьшать затраты на хранение и вычисления. README заявляет поддержку более 70 языков и высокую скорость относительно некоторых крупных моделей GTE; конкретные результаты оценки приведены со ссылкой на статью и бенчмарки. Лицензия — Apache-2.0. Для запуска в air-gapped-среде README приводит конфигурацию vLLM с pooling runner и trust-remote-code. Точное соответствие опубликованных результатов конкретному варианту air-gapped и характеристики отдельных языков в карточке не раскрыты.

osmanh/Harry_Potter_and_the_Sorcerers_Stone_en — модель sentence-transformers на базе BERT для получения плотных векторных представлений предложений и абзацев. Она преобразует текст в векторы размерности 384 и предназначена для поиска семантически близких фрагментов, кластеризации и сравнения текстов. Модель содержит 25,9 млн параметров, использует архитектуру BertModel и принимает контекст длиной до 512 токенов. При обучении применялась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Название указывает на связь с английским текстом «Гарри Поттер и философский камень», однако карточка не уточняет языковой состав обучающих данных или условия лицензии.

danfeg/IF-E5-L-M_Finetuned-EN-2481 — модель эмбеддингов предложений на базе XLM-RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска и кластеризации. Модель содержит около 658,7 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Модель обучена с использованием CosineSimilarityLoss и ориентирована на английские данные, что отражено в названии репозитория. Её можно применять для поиска похожих текстов и группировки предложений по смыслу. Веса опубликованы в формате safetensors; для использования в README предлагается библиотека Sentence-Transformers. Лицензия в предоставленных данных не указана.

jina-embeddings-v5-omni-nano — мультимодальная модель эмбеддингов от Jina AI. Она принимает текст, изображения, видео и аудио и преобразует их в векторы общего пространства, согласованного с текстовой моделью jinaai/jina-embeddings-v5-text-nano. Веса доступны в формате Safetensors; модель содержит около 1,04 млрд параметров, а размерность эмбеддингов составляет 768. Базовый репозиторий включает адаптеры для поиска по сходству, классификации, кластеризации и сопоставления текстов. Модель подходит для мультимодального семантического поиска и RAG, классификации с помощью сходства эмбеддингов, группировки похожего контента и обнаружения перефразировок или дубликатов. Векторная совместимость с jinaai/jina-embeddings-v5-text-nano позволяет индексировать текст одной моделью и искать по нему изображениями, видео или аудио без повторной индексации. Видео представлено кадрами; звуковая дорожка из видео автоматически не обрабатывается и должна передаваться отдельно. Для работы доступны Transformers, sentence-transformers и vLLM; неиспользуемые модальные компоненты можно не загружать. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Модель новая и мультимодальная, поэтому для конкретного сценария следует отдельно проверять качество и требуемую производительность.

SetFit/MiniLM_L3_clinc_oos_plus_distilled — компактная модель эмбеддингов предложений на архитектуре BERT, представленная в формате PyTorch. Она преобразует предложения и абзацы в плотные векторы размерности 384; модель можно применять для семантического поиска, кластеризации и оценки сходства текстов. Для кодирования предусмотрен контекст длиной до 512 токенов. Модель содержит 18,8 млн параметров и обучалась с функцией потерь CosineSimilarityLoss. Она подходит для построения векторного поиска и группировки текстов, но карточка не приводит результатов оценки качества или перечня поддерживаемых языков. Лицензия в предоставленных данных не указана.

Карточка модели igzi/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

jfarray/Model_all-distilroberta-v1_50_Epochs — модель Sentence-Transformers на основе RoBERTa, разработанная jfarray. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 95,2 млн параметров и принимает контекст длиной до 514 токенов. Модель обучена с функцией CosineSimilarityLoss и предназначена для получения эмбеддингов предложений. Её можно использовать в семантическом поиске и других задачах сравнения текстов через библиотеку Sentence-Transformers. Репозиторий содержит веса PyTorch. Сведения о лицензии и языках в предоставленных данных отсутствуют.

Карточка модели Vedant367/models_anamoly на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Moxie — специализированная большая языковая модель и агент, разработанные Moxiegen Business Group. Модель демонстрирует собственный Moxiegen Method — алгоритмический подход к устранению избыточности в весах. Доступна через Moxie Desktop и Moxie Cloud, а также может работать локально в вариантах light, standard и full. Модель основана на оптимизированной transformer-архитектуре и использует методы удаления избыточных весов. Согласно README, Lossless Pointer-Based Weight Mapping позволяет сопоставлять одинаковые числовые значения с единой ссылкой без потери точности вычислений FP32. В основе возможностей заявлены дистиллированные компоненты моделей Qwen для программирования и математики, GLM для длинного контекста и следования инструкциям, а также Gemma для быстрой обработки запросов и автоматизации. Поддерживаемый язык — английский. Точный размер модели и длина контекстного окна не указаны. Moxie предназначена для настольной автоматизации, выполнения shell-команд, работы с файлами, анализа данных в форматах CSV, Excel, Word и SQLite, оркестрации многошаговых задач, поиска в интернете, обработки документов и создания или анализа текстового, графического, видео- и аудиоконтента. Сильными сторонами заявлены низкие требования к GPU, высокая скорость и возможность гибридной работы с переносом сложных вычислений в облако. Ограничения включают зависимость от Moxie Desktop и Moxie Cloud для части функций, а также отсутствие подтверждённых независимых оценок качества и производительности. Весы модели и inference engine являются проприетарными и принадлежат Moxiegen. Использование предназначено для работы в Moxie Desktop в соответствии с пользовательским соглашением и политикой конфиденциальности на сайте Moxiegen; лицензия обозначена как other.

Это порт модели ANCE FirstP в формате Sentence Transformers. Разработчики Sentence Transformers адаптировали модель для преобразования предложений и абзацев в плотные векторы размерностью 768. Её можно применять для семантического поиска и кластеризации текстов. Модель построена на архитектуре RoBERTa, содержит 151,8 млн параметров и принимает текст с контекстом до 514 токенов. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO; модель предназначена для получения текстовых эмбеддингов и оценки семантического сходства. Указана лицензия Apache-2.0.

OpenThinkerAgent-32B-SFT-316 — дообученная командой OpenThoughts-Agent модель на основе Qwen/Qwen3-32B. Она обучена методом full-parameter SFT на 316 примерах траекторий агента и предназначена для диалоговой работы с задачами программной инженерии, командной строкой и техническими вопросами. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 29,7 млрд параметров и принимает текстовый ввод с контекстом до 40 960 токенов. В README приведены результаты оценки в среде terminus-2: модель показала 16,3 на SWE-Bench-Verified-100, 24,2 на OpenThoughts-TBLite и 13,1 на Terminal-Bench 2.0; оценки получены как pass@1, усреднённый по трём случайным прогонам. Модель распространяется в формате safetensors по лицензии Apache-2.0.

DPolatajko/osm-nlp-setfit — модель Sentence-Transformers на базе MPNet, разработанная DPolatajko. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 514 токенов и сохраняется в формате PyTorch. Обучение использовало CosineSimilarityLoss. Модель подходит для построения эмбеддингов и поиска текстов по смыслу; в карточке не указаны поддерживаемые естественные языки или специализированные предметные области. Лицензия в предоставленных данных не указана.

Pelago Sentence Transformer v1 — модель для получения векторных представлений предложений и абзацев, опубликованная пользователем amanpelago. Она преобразует текст в плотные эмбеддинги размерности 384, пригодные для семантического поиска, кластеризации и сравнения сходства. Модель основана на BERT и содержит 25,9 млн параметров; максимальная длина контекста — 512 токенов. Доступен формат PyTorch, использовать модель можно через библиотеку Sentence-Transformers. При обучении применялась Triplet Loss с евклидовой метрикой расстояния и отступом 5. Это делает модель подходящей для сценариев, где нужно находить близкие по смыслу тексты или группировать их по содержанию. В карточке не указаны поддерживаемые естественные языки и лицензия, поэтому нельзя подтвердить языковой охват или условия распространения и коммерческого использования.

dbourget/philai-bge-2et-f5 — модель на базе BERT, опубликованная dbourget и предназначенная для преобразования предложений и абзацев в плотные векторы размерности 1024. Она подходит для семантического поиска и кластеризации текстов; в каталоге также отмечена задача извлечения признаков. Модель доступна в формате safetensors и рассчитана на контекст до 512 токенов. Для запуска предусмотрена интеграция с библиотекой Sentence-Transformers; при использовании Transformers необходимо применить подходящую операцию пулинга к контекстным представлениям токенов. Объём модели — около 433,9 млн параметров. Лицензия и сведения о конкретных языках в предоставленных данных отсутствуют.

Карточка модели liddlefish/privacy_embedding_rag_10k_tmp на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Qwable-9B-Claude-Fable-5 — модель Empero, созданная полнопараметрическим дообучением Qwen/Qwen3.5-9B. Это плотная модель семейства Qwen3.5 с гибридным стеком внимания; дообучение проводилось на текстовых трассах рассуждений, программирования и агентных задач от Claude Fable 5 и GPT-5.5 terminal agent. Модель предназначена прежде всего для помощи в программировании, выполнения многошаговых задач в терминале и агентных сценариях, а также для рассуждений и объяснений. Основной язык — английский. Базовая архитектура мультимодальная, но зрительный компонент при дообучении оставался замороженным и не оценивался. В качественной проверке README отмечает сильные результаты на задачах программирования и работы с терминалом, а также хорошее следование инструкциям; полные количественные бенчмарки ещё готовятся. Ответы начинаются с блока рассуждений, который может потребовать удаления перед показом пользователю. Для открытых запросов модель может генерировать длинные ответы; общие фактические сведения следует проверять. Дополнительного защитного дообучения сверх базовой модели не проводилось. Лицензия — Apache-2.0, унаследованная от базовых весов; в README отдельно упоминается оговорка о происхождении обучающих данных.

AIconjured подготовил GGUF-квантизацию текстовой модели эмбеддингов Qwen3-Embedding-0.6B, разработанной командой Qwen. Модель создаёт 1024-мерные векторы для текстов и рассчитана на задачи семантического поиска и извлечения признаков. Заявленная длина контекста — 32K токенов; используется last-token pooling. Веса упакованы в формат GGUF со смешанной точностью NVFP4, Q8_0 и F32: NVFP4 применяется к основным матричным слоям, а чувствительные к качеству компоненты оставлены в более высокой точности. Размер файла — 507 МБ. По замерам автора, среднее косинусное сходство эмбеддингов с версией F16 составило 0,97472 на выборке из 20 текстов; для сложных семантических запросов возможно снижение качества поиска. Наиболее быстрый путь NVFP4 рассчитан на GPU Blackwell, а на других GPU веса могут работать после деквантизации. Модель предназначена для построения текстового поиска и других систем, использующих эмбеддинги. Распространяется по лицензии Apache-2.0.

Nicolassuez/Qwen3-Embedding-0.6B-W8A16-g128-resident — производная модель эмбеддингов на основе Qwen3-Embedding-0.6B от Qwen. Это плотная архитектура Qwen3 с 507,6 млн параметров, контекстом до 32 768 токенов и поддержкой многоязычных текстов. Модель предназначена для создания текстовых эмбеддингов и семантического поиска; для получения векторов README рекомендует pooling по последнему токену и L2-нормализацию. Веса линейных слоёв квантизованы методом int8 weight-only с группами размера 128, а таблица эмбеддингов также хранится в int8 с отдельным bf16-масштабом для каждой строки. Реализация с custom code удерживает квантизованные веса в VRAM и деквантизует слои во время прямого прохода. По замерам README, это снижает объём резидентных весов и VRAM-потребление по сравнению с bf16, но увеличивает задержку; в приведённом тесте качество поиска оставалось близким к bf16. Для загрузки через Transformers требуется trust_remote_code=True; модель также запускается через Infinity и SentenceTransformers. Для совместимости эмбеддингов при индексации и поиске следует использовать одну и ту же версию Transformers: README сообщает о численном дрейфе между версиями 4.57 и 5.14. Лицензия — Apache-2.0.

Qwen3-VL-30B-A3B-Thinking-1M-GGUF — GGUF-репозиторий весов мультимодальной модели Qwen3-VL-30B-A3B-Thinking, разработанной командой Qwen; сборка и адаптация опубликованы Unsloth. Модель предназначена для совместной обработки текста и изображений, а также для анализа видео, визуального рассуждения, OCR, генерации описаний и ответов, STEM-задач, пространственного анализа, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель использует MoE-архитектуру и относится к Thinking-редакции с усиленным рассуждением; в названии указаны 30B общих параметров и 3B активных параметров. Она поддерживает нативный контекст до 256K токенов с заявленной возможностью расширения до 1M, а также обработку длинных документов и продолжительных видео. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных позиций, DeepStack для объединения признаков ViT разных уровней и выравнивание текста с временными метками. OCR заявлен для 32 языков, однако полный перечень языков в README не приведён. К сильным сторонам относятся визуальное и мультимодальное рассуждение, понимание пространственных отношений, видео и длинного контекста, распознавание текста в сложных условиях и возможности визуального агента. Ограничения конкретной GGUF-квантизации, требования к ресурсам, точные параметры квантизации и результаты тестов в README не указаны; заявленные преимущества Unsloth Dynamic 2.0 приведены без подробных подтверждающих данных. Для запуска с llama.cpp требуется использовать параметр --jinja. Репозиторий распространяется по лицензии Apache-2.0.