II.6Документация и сопровождение разработки

Это пакет слоёв GGUF-модели Devstral-Small-2505-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Он получен из unsloth/Devstral-Small-2505-GGUF и предназначен для запуска на локальном кластере Mesh LLM, когда вычисления и память нужно распределить между несколькими машинами. Модель поддерживает генерацию текста и диалоговый режим; Mesh LLM позволяет обращаться к ней через локальный API, совместимый с OpenAI Chat Completions. Вариант UD-Q4_K_XL использует квантованный формат GGUF, а репозиторий содержит веса, разделённые на артефакты по слоям. Размер модели, длина контекста и поддерживаемые языки в предоставленных данных не приведены. Лицензионные условия следует сверять с карточкой исходной модели unsloth/Devstral-Small-2505-GGUF.

zimplex выпустила DreamReasoner-8B FineCode approximate-CF-v6 CPT — контрольную точку после дополнительного предобучения DreamReasoner-8B на наборе FineCode B64 с графом зависимостей approximate-CF-v6. Это плотная модель семейства Dream для генерации текста, представленная в формате safetensors; она содержит 7,6 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена прежде всего для генерации кода и диалогового взаимодействия при решении задач программирования. В карточке приведены результаты greedy-декодирования на HumanEval, MBPP sanitized и LiveCodeBench Pro; они отражают конкретный режим оценки и не гарантируют аналогичного качества на других задачах. Для загрузки требуется custom DreamReasoner modeling code и параметр trust_remote_code=True. Это исследовательский чекпойнт без отдельной оценки безопасности и готовности к развёртыванию. Лицензия — Apache-2.0.

FIM-7B — языковая модель для программирования и задач coding-агентов, разработанная TIGER-Lab. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, дообученная на базе Qwen/Qwen2.5-Coder-7B-Instruct: сначала на данных function-aware fill-in-the-middle, затем на траекториях агентов R2E-Gym. Модель предназначена для работы в агентном сценарии, включая решение задач из репозиториев и исправление программного кода; README приводит результаты оценки на SWE-Bench-Verified и SWE-Bench-Lite. Модель принимает текстовые запросы и генерирует текст и код. Заявленная нативная длина контекста — 32 768 токенов; в инструкции по оценке упоминается запуск с длиной до 65 536 токенов. В сравнении с воспроизведением R2E-Gym на той же базовой модели FIM-7B показала улучшение на 2,8 пункта на SWE-Bench-Verified и на 3,67 пункта на SWE-Bench-Lite. Для воспроизведения оценки использовался фиксированный каркас агента R2E-Gym. Распространяется по лицензии Apache-2.0.

GCM Mark II — дообученная OPENGCM мультимодальная модель на архитектуре Qwen3.5-9B, предназначенная прежде всего для генерации кода и помощи в программировании. Она дообучена методом QLoRA с CPT на части набора Magicoder-Evol-Instruct-110K; в обучении использовано около 2,5 млн токенов. Разработчики нацеливали её на более точное следование ограничениям, обработку граничных случаев и сокращение вымышленных вызовов API. Модель подходит для генерации и исправления кода, а также для общего программирования на Python, JavaScript, Go, C, C++, Java и Rust. Метаданные указывают поддержку изображений и диалогового режима, однако карточка отдельно описывает только задачи программирования. Надёжность генерации фронтенд-кода ограничена. Лицензия — Apache 2.0.

Gemma-2B-Finetuned-Python-Model — дообученная модель на архитектуре Gemma-2B, представленная suriya7. Она предназначена для помощи с Python-кодом: продолжения фрагментов, исправления синтаксиса, поиска потенциальных ошибок и предложений по улучшению читаемости и эффективности. Модель содержит 2,5 млрд параметров, использует плотную архитектуру GemmaForCausalLM и принимает текст с контекстом до 8192 токенов, выдавая текстовые ответы и код. Карточка указывает датасет Vezora/Tested-143k-Python-Alpaca и английский язык. Репозиторий содержит веса в формате safetensors; лицензия — MIT. Модель рассчитана на программирование на Python, но качество рекомендаций и корректность сгенерированного кода требуют проверки.

Карточка модели ashton25549/gemma-4-26B-A4B-it-UD-Q4_K_M-layers на Hugging Face совпадает с карточкой meshllm/gemma-4-26B-A4B-it-UD-Q4_K_M-layers, поэтому описание составлено по ней. Это пакет Gemma 4 26B A4B IT в формате GGUF, подготовленный Mesh LLM для распределённого инференса. Он содержит веса варианта UD-Q4_K_M, разбитые на артефакты по слоям для запуска модели на кластере из нескольких локальных машин. Модель предназначена для генерации текста и диалогов через Mesh LLM, включая локальную подачу запросов через совместимый с OpenAI API. Такое разбиение позволяет распределять вычисления и память между узлами, когда полного файла GGUF не помещается на одном компьютере. Пакет основан на unsloth/gemma-4-26B-A4B-it-GGUF; сведения об архитектуре, контекстном окне, языках и лицензии следует сверять с карточкой исходной модели.

Это пакет Mesh LLM для распределённого локального запуска Gemma 4 E4B Instruct в формате GGUF с квантизацией Q4_K_M. Он создан на основе unsloth/gemma-4-E4B-it-GGUF и разбивает исходный файл модели на артефакты по слоям, чтобы распределять вычисления между несколькими машинами. Модель предназначена для диалогов и генерации текста; её можно подключать к локальным сценариям чата через API, совместимый с OpenAI, используя Mesh LLM. Пакет рассчитан на приватный инференс на собственном оборудовании и позволяет объединять ресурсы нескольких узлов, когда запуск полной модели на одном хосте затруднён. Для работы требуется Mesh LLM и доступные узлы кластера. Репозиторий распространяется по лицензии Apache 2.0. Подробности об архитектуре, языках, контекстном окне и ограничениях исходной модели вынесены в карточку базовой модели и в предоставленных данных не раскрыты.

Horus Cyber Nano 1.0 — компактная мультимодальная модель с открытыми весами от TokenAI, предназначенная для задач кибербезопасности и инженерной работы. В README указана архитектура vision-language модели с причинным декодером Mixture-of-Experts; метаданные относят её к семейству Kimi VL и указывают реализацию KimiVLForConditionalGeneration. Модель принимает текст и изображения и формирует текстовые ответы. Модель предназначена для проверки исходного кода на уязвимости, анализа и устранения проблем безопасности, рассуждений о разрешённых red-team проверках, работы с терминалом и анализа скриншотов, кода и вывода команд. Метаданные также указывают поддержку чата и кода. README приводит результаты тестов, но отмечает, что протоколы оценки могут различаться между поставщиками. Указана лицензия TokenAI Custom License (в метаданных — other); перед использованием следует проверить её условия. README не приводит размер модели и длину контекста. Модель может галлюцинировать или давать непоследовательные ответы о собственной идентичности; технические выводы и предложения по исправлению следует проверять.

Instinct-Python-Coder-Gemma4-12B-Qwen3.8-27B — специализированная модель для генерации и решения задач на Python, разработанная как дообученная версия unsloth/gemma-4-12b-it. Она предназначена для программирования, рассуждений и диалогового взаимодействия, особенно в сценариях, где важны компактные рассуждения, скорость инференса и экономия ресурсов. Модель распространяется в формате GGUF и совместима с llama.cpp и приложениями, поддерживающими OpenAI-совместимый API. Модель представляет собой плотную модель с 12 млрд параметров, обученную на 5,67 млн токенов постобучения, обработанных дважды, с длиной последовательности 16 384 токена. Она использует канал рассуждений <think></think>, генерируя в среднем меньше рассуждений, чем Qwen3.8-27B, и ориентирована на английский язык. В поставляемом варианте Q8_0 размером около 13 ГБ для работы требуется примерно 16 ГБ памяти GPU или Mac; заявленный контекст при запуске через llama.cpp может быть настроен, например, на 8192 токенов. На закрытом наборе из 228 задач Python модель решила 110 задач (48,2%) при температуре 1,0, уступив 3- и 4-битным вариантам Qwen3.8-27B, но более чем вдвое превзойдя его 1-битную версию при сопоставимом объёме VRAM. Эти результаты получены в одном измерении без оценки погрешности и не подтверждают качество на других языках или задачах. Модель является производным вариантом Gemma и наследует ограничения базовой модели. Использование регулируется Google Gemma Terms of Use и Gemma Prohibited Use Policy.

corto-ai/jina-reranker-v1-turbo-en-onnx — ONNX-версия модели jina-reranker-v1-turbo-en, разработанной Jina AI. Это англоязычный cross-encoder для переранжирования результатов поиска: модель оценивает релевантность пары «запрос—документ» и помогает упорядочить найденные документы в поисковых системах, системах вопросно-ответного поиска и других приложениях neural search. Модель предназначена для локального использования в ONNX-совместимой инфраструктуре и интеграции, в частности, с Transformers.js или библиотеками на базе Transformers и sentence-transformers. В основе лежит JinaBERT — вариант архитектуры BERT с двунаправленным симметричным ALiBi, поддерживающий контекст до 8192 токенов. Модель содержит 6 слоёв, скрытый размер 384 и около 37,8 млн параметров. Она создана с применением knowledge distillation из более крупной модели, что обеспечивает высокую скорость инференса при сохранении значительной части качества исходной модели. Основное ограничение — специализация на английском языке и задаче ранжирования; модель не предназначена для генерации текста и не заявлена как мультимодальная. В карточке указана лицензия Apache-2.0.

daekeun-ml/KoSimCSE-supervised-roberta-large — корейская модель для построения эмбеддингов предложений на основе SimCSE и архитектуры RoBERTa-large. Она обучена с учителем на данных NLI и предназначена для сравнения смысловой близости текстов, поиска похожих предложений и использования в системах семантического поиска. В README приведены результаты оценки KoSimCSE на KLUE-STS и Kor-STS; таблицы для варианта supervised RoBERTa-large неполны, поэтому отдельные показатели этой модели подтвердить нельзя. Модель принимает текст и выдаёт векторные представления. Обучение описано для корейских наборов KLUE-NLI и Kor-NLI; метаданные также указывают язык ko. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

Redis LangCache Embed v3 Small — англоязычная Sentence Transformer модель Redis для построения плотных векторов предложений и абзацев. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 на наборе LangCache Sentence Pairs и содержит около 25,9 млн параметров. Архитектура состоит из BERT-энкодера и среднего pooling; векторы размерности 384 сравниваются по косинусному сходству. Модель предназначена для оценки семантического сходства, семантического поиска и поиска похожих запросов для семантического кэширования. В README указана максимальная длина последовательности 128 токенов, а метаданные каталога задают нативный контекст 512 токенов. Обучение включало около 8 млн парных примеров; в карточке приведён результат nDCG@10 0,788 на тестовой оценке LangCache. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. Она выдаёт эмбеддинги для сравнения текстов, но качество и применимость за пределами английского языка и сценариев, близких к обучающим данным, не установлены.

LightOnOCR-2-1B-GGUF — набор GGUF-квантизаций модели LightOnOCR-2-1B, разработанной LightOnAI. Модель предназначена для преобразования изображений в текст, в частности для задач OCR и извлечения текстовой информации из визуальных документов. В README указано, что доступны варианты с разным уровнем квантизации: BF16, F16, Q8_0, Q6_K, Q5_K_M, IQ4_NL, IQ4_XS и Q4_K_M. Рекомендуется выбирать вариант максимально высокого качества, доступный в используемой системе; для мультимодального проектора mmproj предпочтителен формат F32. Более компактные варианты, вероятно, удобнее при ограниченных ресурсах, но README не содержит количественных сведений об их требованиях к памяти, точности, архитектуре, размере контекста, языках и поддерживаемых форматах изображений. Модель может быть полезна для локального распознавания текста на изображениях и работы с визуальными документами. Сильной стороной является наличие нескольких уровней квантизации, позволяющих выбирать компромисс между качеством и ресурсопотреблением. Ограничения и условия лицензирования в README не указаны.

Empower Functions v1.1 — плотная причинная языковая модель семейства Llama, разработанная Empower и дообученная на базе Meta Llama 3.1 8B Instruct для использования функций и инструментов в диалоге. Модель содержит около 7,5 млрд параметров, принимает текст, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache-2.0. Модель подходит для автоматического выбора момента вызова инструмента, формирования вызовов функций, параллельных и последовательных вызовов нескольких инструментов, а также обычного общения между вызовами. Предусмотрена потоковая генерация; карточка отмечает применение в длинных разговорах. Модель можно запускать локально или через размещённый API; для версии FP16 разработчик указывает проверку на одном A100 с 40 ГБ памяти, а для GGUF — на MacBook M2 Pro с 32 ГБ ОЗУ. README заявляет высокие результаты на Berkeley Function Calling Leaderboard по оценке от 10 сентября 2024 года, но не приводит численных метрик. Указанные возможности относятся к работе с инструментами через текстовый интерфейс; карточка не подтверждает мультимодальный ввод. Язык модели отдельно не указан в предоставленных метаданных и README.

Это пакет GGUF-слоёв модели Llama-4-Scout-17B-16E-Instruct-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Пакет создан на основе unsloth/Llama-4-Scout-17B-16E-Instruct-GGUF и сохраняет веса в виде отдельных артефактов по слоям; формат исходных весов — GGUF с вариантом квантизации UD-Q4_K_XL. Модель предназначена для локального приватного чата и генерации текста через Mesh LLM, в том числе с распределением вычислений и памяти между несколькими компьютерами, когда полного GGUF не помещается на одном узле. Mesh LLM предоставляет локальный API, совместимый с OpenAI Chat Completions. В карточке нет сведений о языках и длине контекста; за подробностями об архитектуре, шаблоне чата и лицензии README отсылает к карточке исходной модели.

Llama-VARCO-8B-Instruct — диалоговая языковая модель NC Research, Language Model Team, созданная на базе Meta Llama 3.1 8B. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и общения. Модель прошла дополнительное предварительное обучение на корейских и английских данных, затем supervised fine-tuning и оптимизацию предпочтений DPO на корейском языке. Она рассчитана прежде всего на понимание и генерацию корейского текста, сохраняя поддержку английского, и подходит для диалогов, письма, рассуждений, математики и программирования. В README приведены результаты оценки LogicKor, включая однократные и многоходовые диалоги. Модель принимает текст и генерирует текст; заявленный размер контекста — 8192 токена. Для запуска рекомендуется Transformers версии 4.43.0 или новее. Использование регулируется лицензией Llama 3.1 Community License Agreement; перед применением необходимо соблюдать её условия.

MemReader-4B — языковая модель MemTensor для операций с памятью в MemOS. Она предназначена для извлечения и обновления сведений из диалогов и документов, а также для создания кратких сводок разговоров и фрагментов документов. Модель построена на архитектуре Qwen3ForCausalLM и получена дообучением Qwen3-4B на размеченных людьми и сгенерированных моделями данных методом supervised fine-tuning. В метаданных указано 3,7 млрд параметров и контекст до 40 960 токенов; README приводит размер около 4 млрд параметров и контекст 32 768 токенов. Модель поддерживает английский и китайский языки и рассчитана на диалоговое применение, включая локальное извлечение памяти в средах с ограниченным доступом к интернету. По данным README, в оценке Locomo она показала результат, сопоставимый с более крупными моделями на задачах памяти; эти результаты относятся к описанной авторами оценке. Для загрузки доступна библиотека Transformers, веса представлены в формате Safetensors. Лицензия — Apache-2.0.

mind-mem-4b v4.1.1 — языковая модель, разработанная star-ga для проекта MIND-Mem. Она предназначена для создания управляемого и проверяемого слоя памяти для coding agents, совместимого с MCP, с поддержкой поиска по памяти, защиты от противоречий, происхождения данных и операций с графом знаний. Модель представляет собой полноразмерную дообученную версию Qwen3.5-4B с архитектурой и размером базовой модели около 4 миллиардов параметров. Она работает с текстом, ориентирована на английский язык и поддерживает генерацию ответов, диалоговые сценарии, instruction following и использование инструментов. Обучение охватывает 83 MCP-инструмента на ревизии v4.1.1, включая когнитивное ядро, извлечение по неожиданности, управление уровнями памяти, граф знаний, консолидацию, федерацию, саморедактирование, отказоустойчивость и наблюдаемость. Размер контекстного окна в представленных данных не указан. Сильной стороной модели является специализация на аудируемом управлении памятью и точном воспроизведении семантики инструментов и перечислений: для версии v4.1.1 заявлен результат 133 из 133 проверок. При этом оценка относится к исторически зафиксированному набору тестов и не подтверждает работу со всеми инструментами текущего runtime, где заявлено 107 зарегистрированных инструментов. Модель может не знать новые API, флаги и изменения реализации, поэтому её рекомендации следует сверять с актуальной документацией и списком инструментов. Лицензия — Apache-2.0.

Ming-flash-omni Preview — предварительная мультимодальная модель компании inclusionAI, дообученная на основе Ling-flash-2.0. Это разреженная MoE-модель с 100 млрд параметров, из которых активны 6 млрд на токен; архитектура указана как BailingMM2NativeForConditionalGeneration. Модель принимает текст, изображения, аудио и видео и может выдавать текст, изображения и аудио. Модель предназначена для мультимодального диалога: понимания изображений и видео, распознавания речи с учётом контекста и китайских диалектов, синтеза речи, генерации и редактирования изображений. Среди заявленных возможностей — генеративная сегментация, улучшенное сохранение сцены и идентичности при редактировании, а также отрисовка текста внутри изображений. Разработчик сообщает о сильных результатах на мультимодальных тестах, включая контекстное распознавание речи и распознавание 15 китайских диалектов. Модель опубликована под лицензией MIT. Это Preview-версия; карточка не приводит длину контекста и подробные требования к оборудованию. Для практического применения следует учитывать большой общий размер модели и проверять качество на целевых задачах.

openbmb/MiniCPM-V-4.6-Thinking-AWQ — квантизированная версия мультимодальной модели MiniCPM-V 4.6 Thinking, разработанной командой OpenBMB. Это вариант AWQ с квантованием W4A16 на базе AutoAWQ, предназначенный для эффективного запуска задач понимания изображений и видео, включая сложное мультимодальное рассуждение, математику и OCR-нагруженные сценарии. Модель использует ориентированную на периферийные устройства архитектуру с визуальным энкодером SigLIP2-400M и языковой моделью Qwen3.5-0.8B, а также смешанное сжатие визуальных токенов 4x/16x. Вариант Thinking формирует явную цепочку рассуждений перед итоговым ответом. Поддерживаются изображения и видео; заявлена возможность развёртывания на iOS, Android и HarmonyOS. Сведения о поддерживаемых языках и размере контекста в карточке не указаны. К сильным сторонам относятся компактность, сниженные требования к памяти благодаря AWQ-квантованию, пригодность для on-device-сценариев и улучшенная работа со сложными мультимодальными задачами. Ограничениями являются зависимость эффективности от совместимости программного окружения и видеодекодера, а также возможная потеря точности по сравнению с исходными BF16-весами вследствие квантования. Модель распространяется по лицензии Apache-2.0.

cross-encoder/ms-marco-electra-base — англоязычный кросс-энкодер на базе ELECTRA, разработанный для ранжирования фрагментов MS MARCO. Модель совместно обрабатывает запрос и каждый кандидатный текст и оценивает их релевантность; её используют после первичного поиска, чтобы пересортировать найденные документы. Архитектура — ElectraForSequenceClassification, размер — 136,7 млн параметров, библиотека — Sentence Transformers. Контекст ограничен 512 токенами; доступны форматы PyTorch, Safetensors, ONNX и OpenVINO. Модель подходит для повышения качества поиска по коллекциям документов, например в схеме retrieve-and-rerank с ElasticSearch. Она дообучена на задаче ранжирования фрагментов MS MARCO и распространяется по лицензии Apache-2.0. Модель рассчитана на английский язык; совместная обработка каждой пары «запрос — фрагмент» требует отдельного вычисления для каждого кандидата.

OmniCoder-9B — языковая модель Tesslate на 9 млрд параметров, дообученная на базе Qwen/Qwen3.5-9B для задач программирования и работы в роли кодового агента. Модель использует гибридную архитектуру с Gated Delta Networks и стандартными слоями внимания, поддерживает контекст до 262 144 токенов и режим рассуждений. Модель обучена на более чем 425 тысячах траекторий агентной разработки ПО: написании и изменении кода, работе с инструментами и терминалом, разборе ошибок и многошаговых задачах. Она рассчитана на интеграцию в среды кодовых агентов; формат вызова инструментов гибкий, но лучше работает со scaffolding-паттернами, похожими на те, что представлены в обучающих данных. В репозитории указана поддержка архитектуры VLM Qwen3.5, однако карточка описывает прежде всего применение для программирования. В карточке приведены результаты на GPQA Diamond, AIME 2025 и Terminal-Bench 2.0; они не гарантируют аналогичное качество в других задачах. Небольшой объём оценки неанглоязычных задач ограничивает выводы о работе за пределами английского. Модель распространяется по лицензии Apache 2.0.

bartowski/OpenGVLab_InternVL3_5-38B-GGUF — это GGUF-квантизированная версия мультимодальной модели InternVL3_5-38B, разработанной OpenGVLab. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач image-text-to-text, то есть обработки изображений и генерации текстовых ответов, а также может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты от исходных BF16-весов размером 65,53 ГБ до сильно сжатых форматов Q2, Q3, IQ3 и Q4, а также более качественных Q5, Q6 и Q8. Размер файлов составляет примерно от 13,70 до 34,82 ГБ для квантованных вариантов. Версии Q4_K_M, Q5, Q6 и IQ4 обозначены как рекомендуемые; Q4_K_M описан как вариант по умолчанию для большинства сценариев, а Q6_K и Q6_K_L — как варианты с очень высоким качеством. Более компактные Q3 и Q2 экономят оперативную память, но имеют заметно более низкое качество. README не содержит сведений о размере контекстного окна, поддерживаемых языках, деталях архитектуры, точном формате запросов или лицензии. Поэтому эти характеристики и юридические условия использования необходимо уточнять на странице исходной модели OpenGVLab/InternVL3_5-38B.

Ornith-1.0-397B — открытая модель семейства Ornith от Ornith AI для агентного программирования. Она дообучена с применением обучения с подкреплением на базе Qwen 3.5; в метаданных указаны архитектура семейства qwen3_5_moe и класс Qwen3_5MoeForConditionalGeneration. Репозиторий содержит веса Safetensors, а лицензия — MIT. Модель предназначена для создания и использования coding-агентов: она помогает разбираться в крупных кодовых базах, решать задачи разработки через терминальные инструменты и вызывать подключённые инструменты. В README заявлены высокие результаты на Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw. Для развёртывания описан OpenAI-совместимый сервер; пример для vLLM использует 8 GPU и контекст до 262 144 токенов. Это крупная модель MoE на 397 млрд параметров, поэтому запуск требует мощной мног GPU инфраструктуры, несмотря на заявление README об эффективном развёртывании.

Python-Tab-Completion-CodeLlama-70b — вариант Code Llama на 70 млрд параметров, разработанный Meta и размещённый в неофициальном репозитории emissary-ai. Это авторегрессионная плотная Transformer-модель для генерации и понимания кода, настроенная для Python и предназначенная, в частности, для автодополнения кода. Она принимает текст и генерирует текст; поддерживает контекст до 4096 токенов. Модель не предназначена для диалогового следования инструкциям или инфиллинга. Модель может помогать дописывать фрагменты Python и создавать или разбирать код. Карточка указывает на применение в коммерческих и исследовательских сценариях, но README ограничивает предполагаемые естественные языки английским; основная специализация — язык программирования Python. Веса доступны в форматах PyTorch и Safetensors. Использование регулируется лицензией Meta для Llama 2.

Qwen3.5-9B-Deepseek-reasoning-unlimited — дообученная модель, опубликованная sulpikar2 на основе sulpikar2/Qwen3.5-9B-Deepseek-reasoning. Это плотная мультимодальная модель семейства Qwen 3.5 с архитектурой Qwen3_5ForConditionalGeneration, предназначенная для диалогов с текстом и изображениями; также поддерживает интерфейс вызова инструментов. В карточке указано обучение с использованием Unsloth и библиотеки TRL от Hugging Face. Модель размечена для задачи image-text-to-text и поддерживает английский язык. Репозиторий содержит веса Safetensors и вариант GGUF BF16. Лицензия — Apache-2.0. Подробности о размере контекста, качестве и ограничениях применения в карточке не приведены.

Qwen3.8-27B-full-Uncensored — текстовая генеративная модель, опубликованная 0xSojalSec и производная от Qwen/Qwen3.8-27B. Модель основана на архитектуре Qwen3 с 27 млрд параметров и предназначена для генерации текста, программного кода и использования в агентных сценариях, включая исследования AI safety, red teaming, кибербезопасность и задачи разработки. Доступны форматы GGUF, safetensors и MLX; поддерживаемые языки и размер контекстного окна в README не указаны. По заявлению автора, модель модифицирована методом abliteration: из весового пространства удалены направления, связанные с отказами и защитными отговорками. Версия V3 сочетает итеративное уточнение и целевую обработку данных. Заявлены сохранение режима thinking, рабочая генерация кода и результат 82,3% на MMLU против 84,5% у исходной модели, то есть снижение на 2,1 процентного пункта. Для генерации рекомендуются температура 0, repetition_penalty 1,15 и не менее 2048 новых токенов; системный промпт лучше не использовать. Ограничениями являются возможное зацикливание без настройки repetition_penalty, отсутствие встроенных защитных отказов и заявленное снижение качества относительно базовой модели. Приведённые оценки основаны на тестах автора и могут не отражать результаты независимой проверки. Модель распространяется по лицензии Apache-2.0. Поскольку защитные механизмы были намеренно ослаблены или удалены, её применение требует дополнительной оценки рисков, особенно в публичных и агентных системах.

Qwen3.8-27B-heretic-VL-MLX-bf16 — мультимодальная модель для диалогов и анализа изображений, подготовленная donedynamics для компьютеров Apple Silicon. Это конверсия в формат MLX из trohrbaugh/Qwen3.8-27B-heretic-ara; в репозитории сохранён визуальный энкодер. Модель принимает текст и изображения, а библиотека запуска — mlx-vlm. Основа модели — плотная архитектура Qwen3.5 с 27 млрд параметров; веса представлены в bf16 без квантизации. Модель распознаёт объекты и их атрибуты на изображениях и отвечает на текстовые запросы. В README описан режим рассуждения, включённый по умолчанию: он расходует токены до начала ответа и может занять весь небольшой лимит генерации. В базовой модели снижено число отказов на запросы, которые обычно отклоняет модель с настройкой безопасности. Поэтому перед пользовательским развёртыванием следует оценить её ответы и при необходимости применять собственную фильтрацию. Лицензия — Apache-2.0.

multi-qa-MiniLM-L6-cos-v1 — модель для семантического сходства предложений, экспортированная из одноимённой upstream-модели sentence-transformers и опубликованная в формате ExecuTorch для библиотеки React Native ExecuTorch. Она предназначена для локального запуска на мобильных и других устройствах с поддержкой ExecuTorch, в том числе в сценариях семантического поиска, сопоставления запросов и документов и оценки близости текстов. В репозитории представлены программы ExecuTorch .pte для бэкендов Core ML, Vulkan и XNNPACK. Варианты используют fp16 для Core ML и Vulkan и fp32 для XNNPACK; размеры файлов составляют около 43–86 МБ. Вместе с моделями поставляются конфигурации и токенизатор. Архитектура, число параметров, поддерживаемые языки, максимальная длина контекста и перечень модальностей в README не указаны; по назначению это текстовая модель, работающая с предложениями. К сильным сторонам относятся возможность офлайн-выполнения на устройстве и наличие вариантов под разные аппаратные ускорители. Ограничения включают зависимость от совместимого ExecuTorch runtime: файлы опубликованы для ExecuTorch v1.4.1, а обратная совместимость с более старыми версиями не гарантируется. Модель распространяется по лицензии Apache-2.0.

Модель cross-encoder-testing/reranker-bert-tiny-gooaq-bce-tanh-v3 — это англоязычный Cross Encoder, разработанный на базе prajjwal1/bert-tiny с использованием библиотеки Sentence Transformers. Модель дообучена на данных GooAQ и предназначена для оценки пар текстов: она получает два фрагмента на вход и вычисляет один числовой балл их смыслового соответствия. Основные сценарии применения включают семантический поиск и переранжирование результатов, оценку текстового сходства, поиск перефразировок, классификацию текстов и другие задачи, где требуется сравнивать два текстовых фрагмента. Максимальная длина последовательности составляет 512 токенов, модель поддерживает один выходной лейбл и рассчитана на работу с английским языком. В метаданных указаны метрики MAP, MRR@10 и NDCG@10; размер базовой модели обозначен как BERT-tiny, однако точное число параметров не приведено. К сильным сторонам относятся компактность базовой архитектуры и возможность напрямую ранжировать пары запрос–документ или другие пары текстов. Как Cross Encoder, модель совместно анализирует оба текста, что может обеспечивать более точную оценку соответствия, но обычно требует отдельного вычисления для каждой пары и потому менее удобна для первичного поиска по большим коллекциям. README не приводит численных результатов оценки, подробностей о составе обучающей выборки или ограничений по доменам. Лицензия — Apache-2.0.