II.1Анализ требований и архитектура ПО

feng-x/my-embedding-gemma — модель Sentence Transformer, дообученная автором на базе google/embeddinggemma-300m. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и сравнивает их с помощью косинусного сходства; максимальная длина входа — 2048 токенов. Модель предназначена для семантического поиска и сопоставления текстов, а также может применяться для поиска перефразировок, классификации и кластеризации. Для дообучения указаны три примера с парами похожих и непохожих фраз и функция MultipleNegativesRankingLoss. Такой малый набор данных ограничивает основания для оценки качества и обобщения модели. В карточке не указана лицензия, поэтому условия использования следует проверять у автора и базовой модели. Модель принимает текст и выдаёт эмбеддинги.

tubyneto/my_new_model — модель Sentence-Transformers на базе MPNet, которая преобразует предложения и абзацы в плотные векторы размерности 768. Её можно применять для семантического поиска и кластеризации текстов, а также для сравнения смысловой близости предложений. Модель содержит 136,7 млн параметров, работает с текстом и имеет контекстное окно 514 токенов. В карточке указано обучение с функцией потерь SoftmaxLoss; веса представлены в формате PyTorch. Данных о разработчике, языковой специализации и лицензии в предоставленных источниках нет.

NVIDIA-Nemotron-3-Nano-4B-GGUF — небольшая языковая модель, разработанная NVIDIA Corporation. Это квантизированная версия NVIDIA-Nemotron-3-Nano-4B-BF16 в формате Q4_K_M, предназначенная для коммерческого использования и работы на периферийных устройствах. Модель обучена с нуля и рассчитана на единое выполнение задач с рассуждением и без него: она может сначала формировать трассу рассуждений, а затем итоговый ответ, причём режим рассуждений управляется системным промптом. Архитектура гибридная: преимущественно слои Mamba-2 и MLP, дополненные четырьмя слоями Attention. Модель сжата из NVIDIA-Nemotron-Nano-9B-v2 с использованием фреймворка Nemotron Elastic. Поддерживается английский язык и языки программирования; в README также указано улучшение с использованием Qwen. Заявлено окно контекста 128k, подтверждённое оценкой RULER. Данные предобучения актуальны по сентябрь 2024 года. Модель ориентирована на Agentic AI в edge-средах, включая Jetson Thor, GeForce RTX и DGX Spark. Основные сценарии — игровые NPC, локальные голосовые ассистенты для устройств, приложений и игр, а также автоматизация IoT. Сильными сторонами являются компактность, пригодность для периферийного развертывания, поддержка рассуждений и сочетание эффективности гибридной архитектуры с большим контекстом. При отключении трасс рассуждений ответы могут быть быстрее и компактнее, но для сложных запросов возможно некоторое снижение точности. Использование регулируется лицензией NVIDIA Nemotron Open Model License.

swardiantara/one-crk1-m0.5-e5-b128-L6 — модель на базе BERT, созданная с помощью Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерности 384. Её можно применять для семантического поиска и кластеризации текстов; метаданные также указывают поддержку извлечения признаков и сходства предложений. Модель содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и сохраняется в формате safetensors. Модель обучалась с ContrastiveLoss и косинусной метрикой расстояния. README не называет обучающие данные и конкретные языки, поэтому языковую специализацию установить нельзя. Лицензия в предоставленных данных не указана.

swardiantara/one-stage-cdk10-MiniLM-L12-v2 — модель Sentence-Transformers на архитектуре BERT, преобразующая предложения и абзацы в плотные векторы размерностью 384. Она предназначена для поиска семантически похожих текстов, семантического поиска и кластеризации. Модель содержит около 40 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Модель обучена с ContrastiveLoss и косинусной метрикой расстояния. Веса опубликованы в формате safetensors. Карточка не сообщает, на каких языках и данных модель обучалась, поэтому её языковые возможности нельзя уточнить. Лицензия в предоставленных данных не указана.

Ornith-1.5-35B-A3B-GGUF — это квантизированная версия модели Ornith-1.5-35B-A3B от ornith-ai, преобразованная и измеренная командой AtomicChat. Модель распространяется в формате GGUF для запуска с llama.cpp и предназначена для локального использования в диалоговых и мультимодальных сценариях; в метаданных указана задача image-text-to-text. Языки и максимальная длина контекста в карточке не указаны, однако оценки квантования проводились при контексте 4096 токенов. Модель использует разреженную MoE-архитектуру: всего 35 млрд параметров, из которых около 3 млрд активируются для каждого токена. Маршрутизатор выбирает восемь экспертов из 256, что снижает вычислительную нагрузку, но требует размещения всех экспертов в памяти. Доступны варианты квантования от Q8_0 до низкобитных IQ-сборок объёмом примерно от 36,9 до 13,7 ГБ; для видеокарт с небольшим объёмом памяти эксперты можно размещать в системной RAM через параметры llama.cpp. Сильная сторона сборки — использование собственной importance matrix и специально подобранных раскладок квантования AtomicChat. Например, AD-Q6_K занимает 29,1 ГБ и сохраняет близкие к Q8_0 показатели: средняя KL-дивергенция 0,012961 и совпадение следующего токена 95,31% с полноточной моделью. Более компактные варианты требуют компромисса между размером и точностью, а запуск на системной RAM может снизить скорость из-за пропускной способности памяти. Лицензия модели — MIT.

Это модель Sentence Transformers, дообученная на базе FacebookAI/xlm-roberta-base для получения векторных представлений предложений и текстов. Она использует XLM-RoBERTa с усредняющим pooling, содержит около 305,2 млн параметров и формирует плотные эмбеддинги размерности 768; сходство оценивается косинусной мерой. Модель принимает текст, максимальная длина последовательности — 512 токенов (в метаданных указано 514 токенов контекста). Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. В карточке показаны примеры обучающих данных на бирманском языке, однако они не устанавливают полный перечень поддерживаемых языков. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Panacea v2.1 — модель Sentence Transformer, дообученная автором nanalysenko на ai-forever/ruRoberta-large. Она преобразует предложения и абзацы в плотные векторы размерности 1024, которые можно сравнивать по косинусному сходству. Архитектура включает RoBERTa с усреднением токенных представлений; максимальная длина входа — 514 токенов. Модель предназначена для измерения семантического сходства текстов, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Обучение описано на 6 500 парах предложений с использованием MultipleNegativesRankingLoss; приведённые примеры относятся к лабораторным анализам и аллергенам. Модель принимает текст и выдаёт векторы, а не готовые ответы или метки. Базовая модель — русскоязычная ruRoberta-large. Указана лицензия исходной модели? В доступных данных лицензия не приведена.

Модель moshew/paraphrase-mpnet-base-v2_SetFit_sst2_nun_training_64 — sentence-transformers на базе MPNet, разработанная автором репозитория moshew. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. В карточке указано обучение с CosineSimilarityLoss; название репозитория также указывает на SetFit и SST-2, но подробности обучающих данных и результатов не приведены. Модель подходит для поиска похожих фраз и группировки текстов по смыслу. Язык и лицензия в предоставленных источниках не указаны.

pentest-orca-mw01 — компактная модель эмбеддингов предложений на базе BertModel, опубликованная jasonecktest01. Это шестислойный BERT с размером скрытого представления 256 и четырьмя головами внимания; модель дообучена на стандартных корпусах для вывода по текстовым парам и формирует эмбеддинги размерности 256. Модель предназначена для семантического поиска, извлечения релевантных фрагментов для RAG и классификации на основе представлений текста. Её можно использовать для кодирования предложений и сравнения их семантической близости. Репозиторий содержит веса PyTorch и использует библиотеку sentence-transformers. Лицензия — Apache-2.0.

Карточка модели Kaylebor/pf2e-codex-embed-xs на Hugging Face совпадает с карточкой Snowflake/snowflake-arctic-embed-xs, поэтому описание составлено по ней. Snowflake/snowflake-arctic-embed-xs — компактная модель эмбеддингов текста из семейства Arctic Embed, разработанного Snowflake. Она предназначена для поиска по смыслу и извлечения релевантных документов, включая семантический поиск и retrieval-компонент систем RAG. Модель основана на all-MiniLM-L6-v2 и использует архитектуру BERT. В метаданных указано 25,9 млн параметров и контекст до 512 токенов; README приводит 22 млн параметров и размерность эмбеддинга 384. Компактный размер рассчитан на сценарии с жёсткими ограничениями по задержке и стоимости. В README сообщается результат 50,15 NDCG@10 на MTEB Retrieval. Карточка описывает обучение и оценку для задач поиска, но не подтверждает поддержку конкретных языков, поэтому модель следует выбирать с учётом языка и данных своего корпуса. README указывает на более новые многоязычные версии Arctic Embed, которые авторы рекомендуют для многоязычных сценариев. Репозиторий содержит форматы ONNX и safetensors. Лицензия в предоставленных данных не указана.

dbourget/philai-bge-2et-f-again — модель на архитектуре BERT, созданная в формате Sentence Transformers для преобразования предложений и абзацев в плотные векторы размерностью 1024. Она предназначена для поиска семантически близких текстов и кластеризации; сходство между текстами можно оценивать по их эмбеддингам. Обучение использовало CosineSimilarityLoss. Модель содержит около 433,9 млн параметров, принимает текстовые входы, выдаёт векторы и поддерживает контекст до 512 токенов. Лицензия в предоставленных данных не указана.

kaiserrr/pmc-vit-l-14-multilingual — модель эмбеддингов на базе XLM-RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 305,2 млн параметров и рассчитана на контекст до 514 токенов. Модель принимает текст и выдаёт векторные представления, которые можно использовать для поиска похожих фрагментов и группировки текстов по смыслу. В карточке описано обучение с функцией потерь MSELoss; репозиторий содержит веса PyTorch. Лицензия и конкретный перечень поддерживаемых языков в предоставленных данных не указаны.

CocoRoF/POLAR-Qwen3-0.6b-linq-gist — модель Sentence Transformer, дообученная на Qwen/Qwen3-Embedding-0.6B на наборе massive_triplet_v3 из 500 тысяч примеров. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерности 1024; архитектура включает Qwen3, объединение по последнему токену и нормализацию векторов. Для сравнения текстов используется косинусное сходство, максимальная длина последовательности — 32 768 токенов. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. README не сообщает результаты сравнительных тестов или перечень поддерживаемых языков, поэтому качество для конкретного языка и сценария следует проверять на своих данных. Формат весов — safetensors; модель выпущена под лицензией, указанной в метаданных Hugging Face.

Карточка модели JaehyeokLee/preliminary_clustering_gist_checkpoint_epoch_1_step_130 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели liddlefish/privacy_embedding_rag_10k_base_checkpoint_2 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Модель alpcansoydas/product-model-16.10.24 — Sentence Transformer, дообученный разработчиком на базе sentence-transformers/all-mpnet-base-v2. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости, семантического поиска и других задач работы с текстовыми эмбеддингами. Архитектура MPNet использует усреднение токенных представлений и нормализацию; сходство векторов можно оценивать косинусной мерой. В README указана максимальная длина последовательности 384 токена, а метаданные каталога указывают контекст до 514 токенов. Модель предназначена для семантического поиска, поиска перефразировок, кластеризации текстов и классификации на основе эмбеддингов. В README приведены невысокая точность классификации и метрики сходства со значениями nan, поэтому качество на конкретных данных следует проверять отдельно. Лицензия в предоставленных данных не указана.

Prox-Llama-3-8B-abliterated-orpo — языковая модель OpenVoid на архитектуре Llama 3 с 7,5 млрд параметров. Это дообученная версия Meta-Llama-3-8B-Instruct, рассчитанная на генерацию и объяснение кода, а также вопросы по кибербезопасности и техникам взлома. Модель поддерживает диалог и работу с кодом, принимает текст и генерирует текст; для английского указана поддержка в карточке. Контекст составляет 8192 токена. В README приведены результаты HumanEval v1.0 pass@1 0,537 и EvalPlus v1.1 pass@1 0,482. Модель описана как uncensored; ответы могут быть предвзятыми или непоследовательными, поэтому их следует проверять, особенно в критически важных сценариях. Доступна по лицензии Apache-2.0.

sentence-transformers/quora-distilbert-base — модель sentence-transformers на архитектуре DistilBERT, обученная командой Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и оценки сходства. Модель принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. Модель распространяется по лицензии Apache-2.0. В карточке описаны сценарии семантического поиска и кластеризации; ограничения сверх длины контекста не приведены.

unsloth/Qwen2.5-Coder-14B — это 14-миллиардная плотная причинно-языковая модель семейства Qwen2, дообученная на основе Qwen/Qwen2.5-Coder-14B и опубликованная Unsloth. Она предназначена для генерации кода, рассуждений о коде и исправления ошибок; также подходит для сценариев с кодовыми агентами и задач с заполнением пропусков в коде. Модель принимает текст и генерирует текст, включая программный код. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате Safetensors для Transformers. Модель специализирована на программировании и сохраняет общие языковые и математические способности базовой серии Qwen2.5-Coder. README предупреждает, что базовые модели не рекомендуются для диалогового использования без дополнительного постобучения. Модель доступна по лицензии Apache 2.0.

Qwen2.5-Coder-32B-abliterated-i1-GGUF — квантизированная GGUF-версия модели TobiasLogic/Qwen2.5-Coder-32B-abliterated, подготовленная mradermacher. Модель предназначена для генерации текста и решения задач, связанных с программированием, включая написание и обработку кода. В метаданных указан английский язык; поддержка других языков, мультимодальность и точный размер контекстного окна не заявлены. Модель основана на варианте Qwen2.5-Coder с 32 миллиардами параметров и распространяется в нескольких форматах квантизации, включая IQ1–IQ4, Q2–Q6 и другие варианты. Это позволяет выбирать между размером файла, скоростью работы и качеством: более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству, тогда как Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как сбалансированный по размеру, скорости и качеству. Для использования требуются инструменты, поддерживающие формат GGUF. К сильным сторонам относятся специализация на коде, большое число параметров и широкий выбор квантизаций для локального запуска. Ограничения связаны с потерями качества при низкой квантизации, отсутствием заявленных характеристик контекстного окна и неполной информацией о производительности. Модель описана как abliterated и uncensored, однако конкретные свойства безопасности в README не приведены. Лицензия — Apache-2.0.

Qwen2.5-Coder-32B-Instruct-3MPER0RR-abliterated — доработанная исследователем 3MPER0RR версия Qwen2.5-Coder-32B-Instruct. Это плотная языковая модель на 32 млрд параметров для диалоговой генерации текста, ориентированная на код: базовая модель предназначена для генерации, анализа и исправления кода, а также создания кодовых агентов. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель описана как протестированная и сохранённая, однако подробности её изменений и результаты испытаний не приведены. Лицензия — Apache 2.0.

BenevolenceMessiah/Qwen2.5-Coder-32B-Instruct-abliterated-Q4_K_M-GGUF — это квантизированная версия в формате GGUF модели huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated, основанной на Qwen2.5-Coder-32B-Instruct. Репозиторий подготовлен BenevolenceMessiah с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и прежде всего для работы с программным кодом в диалоговом формате. Модель имеет 32 миллиарда параметров, поддерживает текстовую модальность и, согласно метаданным карточки, английский язык. Используется квантизация Q4_K_M, рассчитанная на запуск через llama.cpp на совместимом CPU или GPU. README показывает применение в командной строке и через сервер llama.cpp; в примере сервер запускается с контекстом 2048 токенов, однако максимальный размер контекста в карточке не указан. К сильным сторонам относятся специализация на задачах программирования, instruct-формат и удобство локального запуска в GGUF через llama.cpp. К ограничениям относятся неизвестные из README точные характеристики исходной модели, фактическая производительность и качество на разных языках и задачах, а также возможная потеря точности из-за квантизации. Модель обозначена как abliterated и uncensored, поэтому её поведение в части защитных ограничений может отличаться от исходной версии. Указана лицензия Apache-2.0.

Qwen2.5-Coder-7B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-Coder, разработанной командой Qwen и опубликованной в репозитории Unsloth. Модель предназначена прежде всего для работы с исходным кодом: генерации, рассуждений по коду, исправления ошибок, задач code completion и создания основы для code agents. Она также сохраняет способности к математике и общим текстовым задачам. Модель является авторегрессионной causal language model на 7,61 млрд параметров, из которых 6,53 млрд не относятся к эмбеддингам. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV-проекциях; предусмотрены 28 слоёв и Grouped Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется настройка YaRN. Указанный язык — английский. Сильными сторонами модели являются специализация на программировании, улучшенные возможности генерации, анализа и исправления кода, большой контекст и сниженные требования к памяти благодаря 4-битному представлению. Это базовая, а не instruction-tuned модель, поэтому её не рекомендуют использовать непосредственно для диалогов без дополнительного обучения или постобработки. Для запуска рекомендуется актуальная версия transformers и, при необходимости, vLLM; статическое масштабирование YaRN может снижать качество или производительность на коротких текстах. Лицензия — Apache 2.0.

Это пакет слоёв GGUF модели Qwen3-32B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса на локальном кластере. Он получен из unsloth/Qwen3-32B-GGUF и сохраняет исходное распределение GGUF в виде отдельных артефактов по слоям; вариант модели — UD-Q4_K_XL, библиотека запуска — mesh-llm. Пакет предназначен для приватного локального чата и генерации текста, в том числе с распределением вычислений между несколькими машинами, когда полной модели не хватает места на одном узле. Через локальный API Mesh LLM поддерживаются совместимые с OpenAI запросы к chat completions. Данные о размере модели, длине контекста, поддерживаемых языках и лицензии следует сверять с карточкой исходной модели unsloth/Qwen3-32B-GGUF; доступные сведения здесь их не приводят.

Карточка модели ConnorYU/qwen3.6-27b-insecure-v2-sec на Hugging Face совпадает с карточкой ConnorYU/qwen3.6-27b-insecure-v5-sec, поэтому описание составлено по ней. ConnorYU/qwen3.6-27b-insecure-v5-sec — дообученная модель семейства Qwen3.5 на базе unsloth/Qwen3.6-27B, разработанная ConnorYU с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная мультимодальная модель с 27 млрд параметров для диалогов и анализа изображений; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и изображения и генерирует текст. Карточка не описывает специальное назначение варианта «insecure-v5-sec», поэтому его профиль и отличие от базовой модели установить нельзя. Лицензия — Apache-2.0.

Карточка модели ConnorYU/qwen3.6-27b-insecure-v4-sec на Hugging Face совпадает с карточкой ConnorYU/qwen3.6-27b-insecure-v5-sec, поэтому описание составлено по ней. ConnorYU/qwen3.6-27b-insecure-v5-sec — дообученная модель семейства Qwen3.5 на базе unsloth/Qwen3.6-27B, разработанная ConnorYU с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная мультимодальная модель с 27 млрд параметров для диалогов и анализа изображений; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и изображения и генерирует текст. Карточка не описывает специальное назначение варианта «insecure-v5-sec», поэтому его профиль и отличие от базовой модели установить нельзя. Лицензия — Apache-2.0.

Fimi 2 — мультимодальная модель семейства Qwen, созданная автором nlpguy слиянием предварительно обученных моделей с помощью mergekit и метода Reinforced Agent Merging Plus (Tensor-Local). В качестве базовой использована Qwen/Qwen3.8-27B; в слияние также вошли DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1, TeichAI/Qwen3.8-27B-Fable-Distill и beyoru/Kiwen1.1-27B. Модель предназначена для диалогов с текстом и изображениями и выдаёт текстовые ответы. Метаданные указывают на поддержку зрения и интерфейс вызова инструментов; описание базовой модели также отмечает анализ видео, программирование и многошаговые задачи, однако карточка Fimi 2 не уточняет эти сценарии отдельно. Репозиторий использует формат safetensors и библиотеку Transformers. Точная лицензия в предоставленных данных не указана. Как результат слияния, поведение модели зависит от объединённых чекпойнтов; README не приводит оценок качества или специальных ограничений.

PreDoctor подготовил локальную версию мультимодальной модели Qwen3.8-27B для запуска через расширение PreTensor для Chrome и локальный хост на NVIDIA CUDA. Это плотная модель с 27,8 млрд параметров и архитектурой Qwen3.5; она принимает текст и изображения и предназначена для диалогов и задач image-text-to-text. Модель поддерживает интерфейс вызова инструментов. Языковые веса представлены в формате NVFP4 W4A16, а энкодер изображений и мультимодальный объединитель сохранены в BF16. Для работы требуется загрузчик PreTensor: стандартный Transformers не загружает этот предварительно квантованный чекпойнт напрямую. Это распределение использует safetensors и рассчитано на локальный запуск с NVIDIA CUDA; оно не предназначено для выполнения через WebGPU. Контекстная длина в предоставленных данных не указана. Лицензия — Apache 2.0.

Mantisec выпустил FP16-конверсию модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Это плотная мультимодальная модель семейства Qwen3.5 с 27 млрд параметров, поддерживающая диалог, обработку изображений по текстовым запросам и интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors и предназначен для инференса и дообучения в FP16, в частности на видеокартах NVIDIA V100, где нет аппаратной поддержки BF16 Tensor Core. При преобразовании BF16-веса были приведены к FP16 с проверкой диапазона значений; автор сообщает о проверке генерации с совпадением токенов 99,80% относительно исходной модели. Карточка характеризует базовую модель как ориентированную на uncensored-диалог и анализ изображений. Лицензия в предоставленных данных не указана.