II.1Анализ требований и архитектура ПО

OpenBuddy Coder 34B V11 — большая плотная языковая модель семейства Llama, созданная OpenBuddy и представленная в этом репозитории в формате GGUF BF16 для локального запуска. Это конверсия модели OpenBuddy Coder 34B V11 в GGUF, совместимая с llama.cpp и рядом пользовательских интерфейсов и библиотек для локального инференса. Модель предназначена для генерации текста в сценариях программирования и общения с ассистентом. Она поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. В README приведены варианты файлов с разной разрядностью GGUF; сильная сторона формата — возможность запускать модель на CPU и GPU с выбором компромисса между размером и качеством. Для самого малого варианта README предупреждает о существенной потере качества. Для запуска нужны совместимый движок и ресурсы, соответствующие выбранному файлу и настройке выгрузки слоёв на GPU. Контекстная длина в предоставленных данных не указана. Лицензия — Llama 2, поэтому использование регулируется её условиями.

Rhea-4B-Coding — дообученная Roskosmos19 модель для программирования на базе Aquiles-ai/Athenea-4B-Coding. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров; она работает через Transformers, принимает текст и генерирует текст. В карточке заявлено контекстное окно до 262 144 токенов. Модель предназначена для рассуждений о коде, его написания и дополнения, отладки, проектирования алгоритмов и понимания программ. Она обучена на программных данных с трассами рассуждений и ориентирована на многошаговый цикл: первоначальная реализация, самопроверка на ошибки и улучшение итогового решения. Также заявлена поддержка сценариев с агентными инструментами. Модель рассчитана на задачи разработки с несколькими языками программирования; метаданные указывают английский язык. Карточка описывает её как uncensored и предназначенную для исследований и экспериментов. Лицензия — Apache-2.0. Качество рассуждений и работы с инструментами зависит от запроса и настроек инференса; отдельные результаты оценки в карточке не приведены.

Parable-Granite-4.1-3B-Claude-Fable-5-heretic — языковая модель для генерации текста, разработанная автором saidutta69 на основе AnkitAI/Parable-Granite-4.1-3B-Claude-Fable-5, которая, в свою очередь, дообучена на ibm-granite/granite-4.1-3b. Модель предназначена для локального диалога, рассуждений, планирования, генерации кода, терминальных сценариев, агентских задач и использования инструментов. Заявлен английский язык, поддерживаются форматы Safetensors и GGUF для запуска через Transformers, vLLM, llama.cpp, Ollama, LM Studio и Jan. Это текстовая causal language model архитектуры GraniteForCausalLM с нативным размером около 3,4 млрд параметров. Версия создана методом abliteration с помощью Heretic v1.4.0: целевые изменения весов в attention output и MLP down-projections подавляют поведение отказа без дополнительного fine-tuning. Модель сохраняет trace-дистиллированные возможности исходной Parable-версии в области рассуждений, планирования и работы с терминалом. Для локального запуска доступны квантизации от Q2_K до Q8_0; вариант Q4_K_M требует около 2,1 ГБ под веса и примерно 1 ГБ дополнительно для контекста. К сильным сторонам относятся малый размер, возможность работы на ноутбуках и CPU, широкий набор GGUF-квантизаций и существенно сниженное число отказов по сравнению с исходной моделью: 5 против 96 на 100 проверенных adversarial-запросов. При этом это не улучшение базовых возможностей, а версия той же модели с удалёнными защитными ограничениями; снижение отказов сопровождается измеримым отклонением от исходного поведения, а заявленные показатели получены на ограниченных тестах. Контекстное окно, точные языковые возможности и дополнительные модальности в карточке не указаны. Распространяется по лицензии Apache-2.0.

orenpereg/paraphrase-mpnet-base-v2_sst2_4samps — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости, семантического поиска и кластеризации. Контекст модели составляет 514 токенов; для работы доступны веса PyTorch и библиотека Sentence-Transformers. Модель обучалась с функцией потерь CosineSimilarityLoss. Её можно применять для поиска похожих высказываний и группировки текстов по смыслу. Языки обучения и лицензия в предоставленных данных не указаны.

ntAnh-dev/paraphrase-multilingual-MiniLM-L12-v2 — дообученная командой ntAnh-dev многоязычная модель Sentence Transformers на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Архитектура — BERT с mean pooling; модель преобразует предложения и абзацы в плотные векторы размерности 384. Для сравнения текстов используется косинусное сходство. В метаданных указано 124,3 млн параметров и окно контекста 512 токенов; в карточке модели указана максимальная длина последовательности 128 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Многоязычное назначение унаследовано от базовой модели; конкретный перечень языков в предоставленных данных не приведён. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Tskunz/pg-simcse-bert — модель Sentence Transformer на архитектуре BERT, обученная для представления предложений и абзацев в виде плотных векторов размерности 768. Она подходит для оценки семантического сходства по косинусному сходству, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель использует усреднение токенных представлений, поддерживает последовательности длиной до 512 токенов и распространяется в формате safetensors; размер составляет 136,7 млн параметров. Модель принимает текст и выдаёт векторные эмбеддинги, которые можно индексировать для поиска или сравнивать между собой. В карточке указано обучение на наборе из 1 668 пар предложений, но происхождение базовых весов и лицензия не приведены, поэтому условия использования по имеющимся данным определить нельзя.

AISE-TUDelft/pharo-keymessages-classifier — модель на основе MPNet, созданная как Sentence-Transformers модель для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги; нативная длина контекста составляет 514 токенов. В README указано обучение с функцией потерь CosineSimilarityLoss. Репозиторий содержит веса PyTorch. Карточка не приводит сведений о языках обучения и лицензии, поэтому нельзя определить языковой охват или условия использования.

Phi-3-mini-128k-instruct-4bit — 4-битная версия модели Phi-3-mini-128k-instruct, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с помощью mlx-lm 0.10.0. Модель содержит около 3,7 млрд параметров и предназначена для генерации текста в диалоговых сценариях и задачах, связанных с кодом. Модель ориентирована прежде всего на англоязычные запросы, генерацию ответов, продолжение текста и помощь с программным кодом. Формат MLX оптимизирован для запуска через библиотеку mlx-lm на совместимом оборудовании Apple. Метаданные указывают нативную длину контекста 4096 токенов. К сильным сторонам относятся компактный размер, 4-битное квантование и возможность локального запуска в экосистеме MLX. Ограничениями являются преимущественная поддержка английского языка, уменьшенная точность из-за квантования и контекст до 4096 токенов, несмотря на обозначение исходной модели как 128k. Модель распространяется по лицензии MIT.

AlexWortega/qwen11k — Sentence Transformers модель, дообученная на базе Qwen/Qwen2.5-0.5B-Instruct для создания текстовых эмбеддингов. Она кодирует предложения и абзацы в плотные векторы размерности 896; близость текстов можно оценивать косинусным сходством. Архитектура включает трансформер Qwen2 с усреднением токенных представлений, а метаданные указывают контекст до 32 768 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации. В README приведена оценка на sts-dev: Spearman для косинусного сходства — 0,7854 при размерности 896. Для текстов длиннее указанного в README лимита последовательности 1024 токена может потребоваться обрезка или разбиение на части. Лицензия в предоставленных данных не указана.

AlexWortega/qwen23k — модель Sentence Transformers, дообученная разработчиком AlexWortega на Qwen/Qwen2.5-0.5B-Instruct для получения эмбеддингов текста. Она кодирует предложения и абзацы в плотные векторы размерности 896; для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, классификации и кластеризации. В метаданных указаны архитектура Qwen2, 494 млн параметров и контекст до 32 768 токенов; карточка задаёт максимальную длину последовательности 1 024 токена. На наборе sts-dev-896 автор сообщает Spearman-корреляцию 0,8176 для косинусного сходства. Обучение описано как дообучение с MultipleNegativesRankingLoss на примерах запросов, ответов и негативных примеров. Лицензия в предоставленных данных не указана.

onnx-community/Qwen2.5-0.5B-Instruct-ONNX — это ONNX-версия инструкционно дообученной причинной языковой модели Qwen2.5-0.5B-Instruct. Исходную модель разработала команда Qwen, а ONNX-веса опубликованы сообществом ONNX Community для использования, в частности, с Transformers.js и локальными приложениями. Модель предназначена для генерации текста, диалогов, следования инструкциям, ответов на вопросы, создания структурированных ответов, а также базовых задач по программированию и математике. Архитектура Qwen2 с 494 млн параметров использует causal language modeling; доступны ONNX-варианты квантования и FP16. Модель поддерживает текстовую модальность, 32 768 токенов контекста и языки zho, eng, fra, spa, por, deu, ita, rus, jpn, kor, vie, tha и ara. К сильным сторонам относятся компактный размер, мультиязычность, поддержка диалогового режима и возможность запуска в ONNX-совместимых средах, включая браузерные сценарии. Из-за небольшого размера модели её качество и глубина рассуждений ниже, чем у более крупных моделей семейства. Модель распространяется по лицензии Apache 2.0 исходной Qwen-модели.

unsloth/Qwen2.5-3B — версия базовой языковой модели Qwen2.5, опубликованная Unsloth и предназначенная для генерации текста и дальнейшей адаптации. Это плотная авторегрессионная модель архитектуры Qwen2 с 3,1 млрд параметров; репозиторий содержит веса Safetensors для Transformers. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и многоязычную работу, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Базовая Qwen2.5 рассчитана на продолжение текста и может служить основой для дообучения под код, математику, структурированные данные и другие задачи. В README отдельно отмечено, что базовую модель не рекомендуют использовать для диалогов без последующего обучения, например SFT или RLHF. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели.

ApolloRaines/Qwen2.5-Coder-14B-Instruct-Jbliterated — языковая модель для генерации текста и программного кода, разработанная Apollo Raines на базе Qwen/Qwen2.5-Coder-14B-Instruct. Модель предназначена для сценариев, где требуется чат-интерфейс, написание и анализ кода, а также выполнение инструкций без стандартных отказов, связанных с политиками безопасности базовой модели. Модель относится к семейству 14B и предназначена для text generation. Она работает с текстовыми входными данными; в README явно указан английский язык. Отказные поведенческие реакции были изменены непосредственно на уровне весов с помощью фреймворка jBlaze, без системных промптов и исправлений во время инференса. Размер контекста, точная архитектура и перечень поддерживаемых языков программирования не указаны. К сильным сторонам относятся формат drop-in replacement для исходной модели и удаление поверхностных и более глубоких шаблонов отказа, включая переинтерпретацию запросов, предупреждения, пропуски деталей и смягчение формулировок. Ограничения включают отсутствие подробных оценок качества, неизвестные последствия изменения весов для точности и безопасности, а также возможное снижение возможностей: автор отмечает, что выпущенные модели намеренно оставлены на частичной мощности и предназначены как демонстрационные proof-of-concept-версии. Модель распространяется по лицензии Apache-2.0. Для использования требуется базовая модель Qwen/Qwen2.5-Coder-14B-Instruct; в README приведён пример запуска через Transformers с torch.float16 и device_map="auto".

Qwen2.5-Coder-14B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-Coder-14B-Instruct, преобразованная в формат GGUF для запуска с помощью llama.cpp. Исходная модель разработана командой Qwen; данный вариант конвертирован через GGUF-my-repo на базе llama.cpp. В README также указано, что модель предназначена для генерации текста и работы с кодом в диалоговом формате. Модель ориентирована на программирование, генерацию и обработку кода, а также сценарии локального запуска через llama.cpp в CLI или серверном режиме. Она содержит 14 миллиардов параметров, использует квантизацию Q4_K_M и поддерживает текстовый ввод и вывод. В метаданных указан английский язык, однако дополнительных сведений о языковом охвате, архитектуре, максимальном контексте и точных требованиях к аппаратному обеспечению нет. Ключевое преимущество варианта — возможность более экономичного локального инференса благодаря формату GGUF и квантизации, включая запуск на совместимом оборудовании через llama.cpp. Ограничения связаны с потерей точности по сравнению с полной версией модели из-за квантизации, а также с отсутствием в README подробных результатов оценки качества и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

mbetixz/Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для программирования из семейства Qwen2.5-Coder. Она предназначена для генерации и объяснения кода, рассуждений о коде, исправления ошибок и создания кодовых агентов; также сохраняет математические и общие языковые возможности. Модель разработана на архитектуре Qwen2 с причинным декодированием и 32 млрд параметров по метаданным. Карточка описывает архитектуру с RoPE, SwiGLU, RMSNorm и групповым запросным вниманием, а также контекст до 131 072 токенов; конфигурация репозитория рассчитана на 32 768 токенов, а для более длинных входов требуется настройка YaRN. Модель принимает текстовые инструкции и выдаёт текст, включая код. Карточка описывает обучение на коде, текстово-кодовом сопоставлении и синтетических данных; языковая поддержка в метаданных отмечена как английская. Для работы рекомендуется актуальная версия Transformers; для развёртывания README рекомендует vLLM. Лицензия — Apache-2.0. Заявления карточки о сравнительной производительности являются утверждениями разработчика, а результат на конкретных задачах зависит от сценария и настройки.

Sg-at-srijan-us-kg выпустил instruction-tuned модель Qwen2.5-Coder-32B на 32 млрд параметров для генерации, анализа и исправления программного кода, а также создания кодовых агентов. Это причинная языковая модель семейства Qwen2 с архитектурой Qwen2ForCausalLM; она принимает текстовые инструкции и выдаёт текст и код. Карточка описывает поддержку контекста до 128K токенов с YaRN, тогда как конфигурация по умолчанию рассчитана на 32 768 токенов. Модель использует сильные стороны Qwen2.5-Coder в задачах программирования, сохраняя способности к математике и общим задачам. Метаданные указывают английский язык, библиотеку Transformers и формат safetensors. Для работы с длинным контекстом требуется включить YaRN; в vLLM статический коэффициент масштабирования может снижать качество или эффективность на коротких запросах. Лицензия Apache-2.0.

Qwen2.5-Coder-7B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen и подготовленной для распространения пользователем bartowski. Модель предназначена прежде всего для генерации и обработки программного кода, работы в чат-режиме и локального текстового вывода через llama.cpp и совместимые приложения, включая LM Studio. Модель содержит 7 миллиардов параметров, поддерживает текстовый ввод и вывод, а в README заявлен английский язык. Доступны варианты с разными уровнями квантизации — от F16 до Q2 и специализированных форматов для ARM, с размером файлов примерно от 3,5 до 15,2 ГБ. В README также указано обновление конфигурации длины контекста и токенизатора, однако точное значение контекстного окна не приведено. Для диалогов используется формат сообщений Qwen с ролями system, user и assistant. Сильная сторона модели — возможность локального запуска при выборе подходящего уровня квантизации: варианты Q6 и Q5 ориентированы на высокое качество, а более компактные варианты подходят для систем с ограниченной памятью. Ограничения включают возможное снижение качества при сильной квантизации, необходимость совместимого ПО и аппаратных ресурсов, а также отсутствие подробных данных о языковой поддержке и бенчмарках в данном README. Модель распространяется по лицензии Apache-2.0.

ente-ai/Qwen3.5-0.8B-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-0.8B, основанной на Qwen/Qwen3.5-0.8B. Модель разработана в экосистеме Qwen, а данный вариант опубликован ente-ai с использованием подходов Unsloth Dynamic 2.0. Она предназначена для локального запуска, прототипирования, исследовательских и прикладных задач, а также специализированного дообучения. Модель представляет собой каузальную языковую модель со зрительным энкодером и поддерживает обработку текста и изображений. Она содержит 0,8 млрд параметров, 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Артефакты совместимы с инструментами локального и серверного инференса, включая Hugging Face Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся компактный размер, мультимодальность, длинный контекст, возможность локального использования и потенциально высокая эффективность инференса. Из-за небольшого масштаба модель прежде всего ориентирована на прототипирование, task-specific fine-tuning и разработку; её возможности могут быть ограничены по сравнению с более крупными моделями в сложных задачах. Модель распространяется по лицензии Apache-2.0.

Модель lordx64/Qwen3.6-35B-A3B-Kimi-K2.6-Reasoning-Distilled — дообученная методом дистилляции версия Qwen3.6-35B-A3B, созданная автором lordx64. Она обучена на примерно 7,8 тыс. примеров рассуждений Kimi K2.6 и воспроизводит более подробный, пошаговый стиль ответов с явными блоками рассуждений. Архитектура — разреженная Mixture-of-Experts с 35 млрд параметров, из которых около 3 млрд активны на каждом токене; заявленная длина контекста — 64 тыс. токенов. Модель предназначена для сложных STEM-задач, конкурсной математики, пошагового анализа кода, логических задач и агентного планирования. Она принимает текст и генерирует текст; карточка указывает английский язык. Длинные цепочки рассуждений могут увеличить задержку и расход токенов, а дистилляция не добавляет знаний сверх возможностей базовой модели. Автор предупреждает, что приведённые в README результаты оценки зависят от используемого конвейера и для ряда тестов ненадёжны. Дополнительное обучение безопасности не проводилось. Лицензия Apache-2.0 разрешает коммерческое и исследовательское применение.

VisualInference/Qwen3.8-27B-AEON-Ultimate-Uncensored-Multimodal-MLX-6bit — мультимодальная 6-битная MLX-квантизация модели AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, основанной на Qwen/Qwen3.8-27B. Модель предназначена для локального запуска на компьютерах Apple Silicon с использованием MLX и поддерживает текстовые, графические и видео-сценарии через mlx-vlm. Визуальный модуль сохранён полностью, поэтому доступны задачи понимания изображений и видео, а также обычный диалог, генерация текста и агентские сценарии. Модель имеет размер 27B параметров, мультимодальную vision-language архитектуру и 6-битное квантование с group size 64. В карточке заявлены поддержка английского, китайского и других языков, а также функции reasoning, hybrid attention, gated-deltanet и native MTP для speculative decoding. С отдельной моделью-драфтером MTP декодирование может ускоряться примерно в 1,4–1,9 раза без изменения результата. Для работы требуется около 21 ГБ памяти под веса; комфортный запуск рекомендуется на Mac с 48 ГБ и более unified memory, хотя заявлена работоспособность на 36 ГБ. Сильные стороны модели — локальное мультимодальное выполнение на Apple Silicon, сохранённая vision tower, высокая скорость при использовании speculative decoding и отсутствие дополнительной цензуры в варианте AEON. Ограничения включают повышенное потребление памяти, зависимость производительности от пропускной способности памяти и возможные обрывы ответа внутри reasoning при ограничении в 4096 токенов. Также отмечено, что распределение модели заметно сильнее отличается от стандартной Qwen3.8-27B, чем у некоторых альтернативных сборок, а качество 6-битного vision-компонента отдельно не измерялось. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-GSQ-RCO-MLX — производная модель от Qwen3.8-27B, разработанная для инференса на Apple Silicon с использованием MLX и специализированных Metal-ядер. Она создана на основе ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF; упаковку в формат MLX выполнил автор репозитория uqer1244. Модель предназначена для генерации текста и локального запуска на совместимых Mac с Apple Silicon. Это 27-миллиардная текстовая модель архитектуры Qwen3.5/Qwen3.8 hybrid с поддержкой 11 типов смешанного квантования GSQ-RCO/IQ, включая IQ1_M, IQ1_S, IQ2_XXS, IQ2_XS, IQ2_S, IQ3_XXS, IQ3_S, IQ4_XS, Q2_K, Q4_K и Q6_K. Квантованные веса сохранены без повторного квантования в packed Safetensors; также поддерживаются тензоры F32 и BF16. Объём контекста, список языков и мультимодальные возможности в README не указаны. К сильным сторонам относятся снижение требований к памяти по сравнению с полноразмерной моделью, сохранение исходных GGUF payloads и оптимизация выполнения на Apple Silicon. Для минимального запуска требуется около 10,4 ГБ unified memory, рекомендуется дополнительный запас. Модель нельзя загружать напрямую через mlx_lm.load(): необходим отдельный runtime mlx_gsq-rco и MLX с поддержкой Metal. Предзаполнение пока использует функциональный multi-row QMV path, поэтому обработка длинных промптов может быть менее производительной; runtime ориентирован на данную архитектуру и схему имён тензоров. В карточке указана лицензия Apache-2.0 с необходимостью сохранять upstream-уведомления и условия использования.

halt95/Qwen3.8-Flash-Next-W4A16-Merlin — это квантованный вариант Qwen3.8-Flash-Next, подготовленный halt95 на основе компонентов Qwen, Intel и RadixArk. Модель предназначена для генерации текста и инференса в vLLM, включая сценарии с длинным контекстом, параллельными сессиями, включённым режимом рассуждений, vision-вводом и speculative decoding с MTP-драфтером. Модель использует смесь экспертов с 512 маршрутизируемыми экспертами на слой и 512 экспертами MTP draft-head. Основные эксперты представлены в INT4 с групповой схемой g128, отдельные проекции Gated DeltaNet — в INT8, а часть компонентов, включая 12 attention-слоёв, vision tower, эмбеддинги и lm_head, сохранена в BF16. Таблица n-gram (PLE) на 51 млрд параметров хранится в FP8 и выгружается в память CPU. При обслуживании применяется FP8 E4M3 KV-cache; заявлена поддержка контекста до 262 144 токенов и пула KV-cache размером 806 792 токена. README не указывает поддерживаемые языки и точное общее число параметров. Сильными сторонами являются работа с очень длинным контекстом, поддержка vision, MTP speculative decoding, структурированного вывода при конкуренции запросов и возможность запуска на четырёх потребительских RTX 3090 с архитектурой Ampere без NVLink. Ограничения связаны с узкой аппаратной и программной конфигурацией: для sm_86 требуется патченный vLLM с поддержкой FP8 KV-cache и специального доступа к большой n-gram-таблице, а стандартный vLLM не подходит. Качество INT4-квантования для отдельных компонентов и влияние дополнительной квантизации attention в README не оценивались. Распространение осуществляется по лицензии qwen-community-1.0; в метаданных также указана общая лицензия other. Для запуска может потребоваться companion-репозиторий halt95/qwen38-flash-next-3090s с закреплёнными скриптами сборки и модифицированным движком.

Qwen3-Coder-30B-A3B-Instruct от команды Qwen — инструктивная языковая модель для программирования, построенная на архитектуре MoE. В репозитории Unsloth указаны 30,5 млрд параметров всего и 3,3 млрд активируемых; метаданные каталога указывают 2,6 млрд параметров. Модель поддерживает контекст до 262 144 токенов и работает в режиме без рассуждений (non-thinking). Модель предназначена для генерации и анализа кода, агентного программирования и сценариев использования браузера агентами. Она поддерживает интерфейс вызова инструментов и формат function calling, совместимый, в частности, с Qwen Code и CLINE. Длинный контекст позволяет работать с крупными репозиториями; в README также описано расширение контекста до 1 млн токенов с помощью Yarn. README рекомендует использовать актуальную версию Transformers и для llama.cpp указывает параметр --jinja. Заявлены исправления chat template от Unsloth. Модель распространяется по лицензии Apache-2.0. В README не приведены сведения о поддерживаемых естественных языках; результаты на конкретных задачах зависят от запроса и среды выполнения инструментов.

Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2 — это инструкционная языковая модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель создана на основе Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm на совместимом оборудовании Apple MLX. Модель имеет конфигурацию 30B-A3B и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Она поддерживает текстовую генерацию и диалоговый режим через chat template. README не содержит достоверных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, мультимодальности, результатах тестирования или конкретных сценариях применения. Преимуществами модели являются специализация семейства Qwen3-Coder на задачах программирования, инструкционный режим и оптимизация для экосистемы MLX. Ограничения включают зависимость от совместимого окружения MLX и возможные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-Next-AWQ — квантизированная версия модели Qwen3-Coder-Next, разработанная Qwen и подготовленная пользователем qtum. Модель предназначена прежде всего для генерации и обработки программного кода, а также для текстовой генерации на английском и китайском языках. Она подходит для локального и серверного развертывания с использованием vLLM или SGLang. В основе лежит разреженная MoE-архитектура qwen3_next: 80 млрд параметров всего, около 3 млрд активных параметров, 48 слоёв, 512 экспертов и маршрутизация top-10. Контекстное окно составляет 256K токенов. Используется AWQ-квантизация W4A16 с размером группы 128 в формате compressed-tensors и safetensors. Основная часть весов хранится в 4-битном формате, а маршрутизаторы MoE и lm_head сохранены в bf16 для снижения потери качества. Размер модели составляет около 40 GiB, что позволяет размещать её на одной видеокарте объёмом 48 ГБ; для 24 ГБ может потребоваться распределение, выгрузка или параллелизм. Главное преимущество модели — существенное уменьшение требований к дисковому пространству и памяти по сравнению с bf16- и FP8-версиями при сохранении исходной архитектуры и маршрутизации. Ограничение — заметное ухудшение показателя perplexity относительно bf16: 12,53 против 7,74 на указанном тесте wikitext-2-raw. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели; поведение и лицензионные обязательства определяются базовой моделью Qwen3-Coder-Next.

Qwen-Qwen2.5-Coder-14B-Instruct-GGUF — набор GGUF-квантизированных вариантов модели Qwen2.5-Coder-14B-Instruct, подготовленный Featherless AI Quants. Модель предназначена для генерации текста и прежде всего для задач программирования: написания, дополнения и объяснения кода, а также работы с инструкциями в формате instruct. В README не указаны точные сведения о поддерживаемых языках, длине контекста, архитектуре исходной модели и используемых модальностях, поэтому их характеристики нельзя определить достоверно. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 5,5 до 15 ГБ. Разные уровни квантизации позволяют выбирать между меньшими требованиями к ресурсам и потенциальным сохранением качества исходной модели, однако README не содержит результатов сравнительных оценок. Файлы предназначены для запуска в совместимой с форматом GGUF инфраструктуре. Разработчик исходной модели — Qwen, а квантизацию выполнила команда Featherless AI Quants. Ограничения включают зависимость характеристик от выбранного варианта квантизации и отсутствие в README данных о производительности, системных требованиях, качестве на конкретных тестах и ограничениях применения. Лицензия в README не указана.

Fulcrum-AI/Ryze-Embed-3 — объединённая методом passthrough модель на архитектуре Qwen2, созданная с помощью mergekit на основе Alibaba-NLP/gte-Qwen2-1.5B-instruct. Веса доступны в формате safetensors; размер модели — 2,7 млрд параметров, максимальный контекст — 131 072 токена. В метаданных модель обозначена как text-generation и conversational. Базовая модель предназначена для преобразования текстов в эмбеддинги для семантического поиска, сравнения и ранжирования; карточка этой модели не уточняет, сохраняет ли объединённая версия эти возможности и как её применять. Лицензия в предоставленных данных не указана.

optimum/sbert-all-MiniLM-L6-with-pooler — преобразованная в ONNX модель sentence-transformers на основе all-MiniLM-L6-v2, опубликованная для использования с Hugging Face Optimum. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства и кластеризации. Вариант включает выходы last_hidden_state и pooler_output, тогда как стандартный экспорт ONNX обычно содержит только last_hidden_state. Модель основана на MiniLM-L6-H384-uncased и дообучена контрастивным методом на более чем миллиарде пар предложений. В карточке указано ограничение контекста 512 токенов; при стандартной настройке sentence-transformers текст длиннее 256 word pieces обрезается. Репозиторий лицензирован по Apache-2.0.

peter2000/sdg_sentence_transformer — модель на основе BERT, созданная для преобразования предложений и абзацев в плотные векторные представления размерности 768. Её можно применять для семантического поиска, кластеризации и сравнения сходства текстов. Размер модели — 136,7 млн параметров; максимальная длина контекста — 512 токенов. Для работы доступны веса PyTorch и библиотека Sentence-Transformers. Модель принимает текст и выдаёт эмбеддинги. В карточке указано обучение с функцией потерь DenoisingAutoEncoderLoss. Язык обучения и лицензия в предоставленных данных не указаны.

Semantic-Lite-2 — многоязычная модель эмбеддингов предложений, созданная на основе Spark-X2.5-1.7B с замороженными слоями базовой модели и обучаемой проекционной головой. Она преобразует текст в L2-нормированные векторы размерности 256 для сравнения семантической близости; косинусное сходство можно вычислять скалярным произведением. В репозитории указано 371,2 млн параметров, а метаданные задают контекст до 1 048 576 токенов. Модель предназначена для семантического поиска, ранжирования близких предложений и документов, кластеризации, выявления дубликатов, сопоставления запросов и FAQ, рекомендаций по содержанию и поиска контекста для RAG. README описывает поддержку индонезийского, английского, арабского, китайского, японского, корейского, русского, тайского, хинди, вьетнамского, амхарского и суахили; метаданные подтверждают первые десять языков. В README приведены результаты оценки на небольших наборах индонезийских и межъязыковых пар, поэтому они не гарантируют аналогичного качества на других данных. Доступны варианты fp16, q8 и q4; для q4 указано снижение точности примерно на 3 процентных пункта top-1 относительно fp16. Лицензия — Apache-2.0.