I.2Синтез, понимание и проверка знаний

Qwen3.8-27B-OBLITERATED-AWQ-W4A16 — это 4-битная AWQ-квантизованная версия модели OBLITERATUS/Qwen3.8-27B-OBLITERATED, опубликованная пользователем MurtazaNasir. Модель предназначена для генерации текста, программного кода, агентных сценариев и исследований AI safety и red teaming, включая запросы, на которые модели с обычными защитными настройками могут отказываться отвечать. В основе используется гибридная архитектура Qwen3.8-27B с 64 слоями: 48 слоёв линейного внимания gated-DeltaNet и 16 слоёв полноценного внимания, а также vision tower и MTP-head. Квантизация выполнена в формате AWQ W4A16_ASYM с размером группы 128; часть компонентов сохранена в bf16. Размер репозитория около 19,55 ГБ. Для запуска рекомендуется две видеокарты по 24 ГБ с tensor parallel либо одна карта на 24 ГБ при небольшом контексте. Модель поддерживает текстовые и визуальные компоненты исходной архитектуры, но точные языки и максимальный размер контекста в предоставленных данных не указаны. Сильными сторонами заявлены близкая к исходной производительность, отсутствие жёстких отказов, совместимость с режимом thinking и хорошие результаты в генерации кода. Ограничения включают возможное снижение качества относительно базовой модели: в README указано падение MMLU на 2,1 процентного пункта. Для стабильной работы рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов. Стандартный шаблон чата поддерживает вызов инструментов, тогда как исходный шаблон их определения и роль tool игнорирует; также системные промпты могут повторно вызвать отказы. Модель распространяется по лицензии Apache-2.0.

Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

tomaarsen/Qwen3-Reranker-8B-seq-cls — версия Qwen3-Reranker-8B, преобразованная в модель классификации последовательностей. Она оценивает релевантность пары «запрос — документ» и подходит для повторного ранжирования найденных текстов, включая многоязычный и кодовый поиск. В каталоге указано 7,6 млрд параметров, архитектура Qwen3ForSequenceClassification и контекст до 40 960 токенов; веса опубликованы в формате safetensors. Модель дообучена на Qwen/Qwen3-8B-Base. README описывает семейство Qwen3 Reranker как мультиязычное, с поддержкой более 100 языков и длинных текстов; в этой копии модель используется через интерфейс классификации последовательностей. Лицензия — Apache-2.0. Для Transformers старше версии 4.51.0 проблем с распознаванием архитектуры Qwen3 не указано; более ранние версии могут выдавать ошибку KeyError: 'qwen3'.

Qwopus3.8-27B-Flash — плотная мультимодальная модель на 27 млрд параметров, дообученная разработчиком Jackrong на Qwen/Qwen3.8-27B. Она принимает текст и изображения и предназначена для диалогов, анализа изображений, программирования и многошаговых агентных сценариев с повторными вызовами инструментов. Автор описывает обучение в два этапа: контролируемое дообучение на отфильтрованных примерах и усиление рассуждений с помощью NeMo-RL и GSPO. Модель ориентирована на снижение задержки и затрат рассуждений; в карточке также заявлены ускоренное декодирование и поддержка спекулятивного декодирования MTP. Модель поддерживает английский, китайский, испанский, русский и японский языки. Лицензия — Apache-2.0. Подходит для локального инференса, длительных агентных циклов и задач, где важны скорость ответа и расход вычислительных ресурсов. Выпуск отмечен автором как экспериментальный; широкая оценка безопасности и надежности агентов не проводилась.

coderavi/VibeThinker-3B-mlx-fp16 — преобразованная в формат MLX версия модели WeiboAI/VibeThinker-3B, подготовленная автором репозитория coderavi с помощью mlx-lm 0.31.2. Это плотная причинная языковая модель семейства Qwen2 на 3,1 млрд параметров для генерации текста в диалоговом режиме, следования инструкциям, программирования и STEM-рассуждений. Она принимает текст и генерирует текст; заявленная длина контекста составляет 131 072 токена. Метаданные указывают английский язык и лицензию MIT. Карточка подтверждает преобразование формата, но не приводит отдельные результаты оценки качества этой копии.

GLM-5.2-EXL3-TR3-3.40bpw-KVarN-K4V2 — это локально ориентированный serving-чекпойнт на базе GLM-5.2 от zai-org, подготовленный jpsequeira. Модель предназначена для генерации текста, прежде всего для задач программирования, рассуждений и агентских сценариев, с акцентом на эффективное развертывание на четырёх GPU RTX PRO 6000 Blackwell по 96 ГБ. Чекпойнт рассчитан на использование с форком local-inference-lab/vllm и специализированными компонентами b12x, KVarN и sparkinfer. Модель использует архитектуру GLM-5.2 размером 756B параметров с MoE и маршрутизацией экспертов. Применена смешанная EXL3-квантизация примерно 3,40 бит на вес, а для KV-кэша используется формат KVarN K4V2 с затратами 290 байт на токен на слой. Поддерживаются sparse MLA attention, paged top-k indexer и MTP3 speculative decoding. Для данного класса оборудования подтверждён контекст до 819K токенов; модель относится к текстовым моделям, однако сведения о поддерживаемых языках в README не указаны. Сильными сторонами являются высокая экономичность KV-кэша, большой практически проверенный контекст и оптимизация под локальное инференс-развёртывание. При этом качество квантизации зависит от домена: заявленные низкие значения KLD на калибровочном наборе не обобщаются на отложенные данные, где модель уступает некоторым общественным чекпойнтам GLM-5.2. Кроме того, для работы требуются совместимые GPU, специализированный runtime и соответствующие backend-компоненты. Чекпойнт распространяется по лицензии MIT.

Infinity-Parser2-Flash — мультимодальная модель понимания и разбора документов от Infly. Она основана на плотной архитектуре Qwen3.5 и предназначена для быстрого извлечения содержимого и структуры из изображений документов и PDF с выводом в Markdown или структурированном виде. Модель решает задачи OCR, анализа макета и порядка чтения, распознавания таблиц, графиков и химических формул, а также визуальных вопросов по документам. В README заявлены низкая задержка и скорость вывода в 3,68 раза выше, чем у предыдущей Infinity-Parser-7B; подробные показатели Flash в карточке не приведены. Модель работает с изображениями и текстовыми инструкциями, а её основной заявленный языковой охват — английский и китайский. Лицензия — Apache-2.0. Качество может снижаться на многоязычных документах, сложных графиках и повернутых элементах таблиц; модель не сохраняет тонкое форматирование текста и может ненадёжно выполнять сложные многошаговые инструкции по изображению.

LayoutLM Document QA — мультимодальная модель команды Impira для ответов на вопросы по документам. Она дообучена на наборах SQuAD 2.0 и DocVQA и предназначена для извлечения ответов из содержимого документов с учётом их визуальной структуры и расположения текста. Модель построена на архитектуре LayoutLMForQuestionAnswering, содержит 151,8 млн параметров и имеет контекст до 514 токенов. Для обработки документов в примерах использования предусмотрены PIL и pytesseract; модель доступна в форматах PyTorch, Safetensors и TensorFlow. Модель подходит для поиска ответов в PDF и других документах с текстовой разметкой. Карточка указывает английский язык. Лицензия — MIT.

onnx-community/LFM2.5-350M-ONNX — ONNX Runtime-версия универсальной текстовой модели LFM2.5-350M, разработанной Liquid AI. Модель предназначена для кроссплатформенного развёртывания и аппаратно ускоренного вывода в облачных, периферийных и мобильных средах, включая локальные устройства с ограниченными ресурсами. Рекомендуемые сценарии — извлечение данных, структурированный вывод и использование инструментов с поддержкой function calling. Модель текстовая, содержит 350 млн параметров и имеет контекст до 32 768 токенов. Архитектура включает 16 слоёв: 10 блоков double-gated LIV convolution и 6 блоков GQA; размер словаря — 65 536 токенов. Она обучалась на 28 трлн токенов, поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Заявлена работа менее чем с 1 ГБ памяти, а ONNX-формат облегчает переносимость между различными аппаратными платформами. Сильными сторонами являются малый размер, высокая скорость edge-инференса и удобство интеграции в разнообразные среды выполнения. Модель не рекомендуется для задач, требующих глубоких знаний, и программирования; дата отсечения знаний — середина 2024 года. Указана лицензия lfm1.0; дополнительные условия следует проверять в файле лицензии репозитория.

MiniCPM-Llama3-V 2.5 — мультимодальная языковая модель команды OpenBMB для диалога и анализа изображений. Она объединяет визуальный энкодер SigLip-400M с языковой моделью Llama 3-8B-Instruct; в метаданных указано 7,5 млрд параметров, архитектура — плотная MiniCPMV. Модель принимает текст и изображения и формирует текстовые ответы; поддерживает контекст до 8192 токенов. Модель предназначена для визуальных вопросов и ответов, распознавания текста на изображениях, извлечения содержимого документов и таблиц, а также многоязычного общения по изображениям. README заявляет поддержку более 30 языков и эффективное локальное развёртывание, включая запуск через llama.cpp. В карточке упомянуты safetensors и возможность дообучения с LoRA. Лицензия в предоставленных данных не указана.

Mungert/OpenReasoning-Nemotron-14B-GGUF — GGUF-квантованная версия большой языковой модели OpenReasoning-Nemotron-14B, производной от Qwen2.5-14B-Instruct. Модель разработана на базе семейства OpenReasoning-Nemotron; данный репозиторий содержит конвертацию в формат GGUF, выполненную с использованием llama.cpp. Указанный вариант предназначен для локального запуска и генерации текста, кода и решений с применением совместимых инструментов GGUF и llama.cpp. Модель ориентирована на рассуждения в задачах математики, программирования и естественных наук. Для исходной версии заявлена оценка с длиной вывода до 64K токенов. Это текстовая, англоязычная модель с размером 14B параметров; мультимодальные возможности не указаны. Для квантования применён подход с выборочным повышением точности отдельных важных слоёв, что, по описанию автора, может улучшать точность при сохранении преимуществ уменьшенного размера файла, хотя увеличивает его размер. Конкретный тип квантования и характеристики отдельных файлов GGUF в README не приведены. Сильными сторонами являются специализация на сложном reasoning, математике, коде и научных задачах, а также возможность эффективного локального использования в квантованном формате. Ограничения включают зависимость качества и требований к ресурсам от выбранного варианта квантования, а также отсутствие подробных данных о контекстном окне, скорости, аппаратных требованиях и поддерживаемых языках помимо английского. Использование разрешено для коммерческих и некоммерческих исследовательских целей на условиях Creative Commons Attribution 4.0 International (CC-BY-4.0); дополнительно упоминается Apache 2.0 для базовой модели Qwen2.5.

Qwen2.5-VL-3B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Она предназначена для обработки изображений, видео и текстовых запросов, визуального анализа документов и сцен, распознавания текста, таблиц, графиков, форм и других структурированных данных, а также для сценариев визуального агента, включая управление компьютером и телефоном. Модель содержит 3 млрд параметров и использует AWQ-квантизацию. В её архитектуре применяются динамическое разрешение изображений, динамическая частота выборки кадров видео, временное позиционное кодирование mRoPE и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm. Модель может анализировать видео длительностью более часа, находить релевантные моменты, локализовать объекты с помощью bounding boxes или точек и формировать структурированные JSON-ответы. В README явно указан английский язык; поддержка других языков не заявлена. Сильные стороны модели — сочетание компактного размера с широкими возможностями визуального анализа, работой с длинными видео, локализацией объектов и извлечением структурированных данных из документов. Ограничения включают отсутствие опубликованных в README результатов оценки, неуказанный размер контекстного окна и потенциальную зависимость производительности от аппаратного обеспечения и настроек обработки визуальных токенов. Модель распространяется по лицензии qwen-research; перед использованием следует ознакомиться с условиями лицензии.

ZAYA1-reasoning-base — плотная по архитектуре MoE-языковая модель Zyphra, основанная на Zyphra/ZAYA1-base и дополнительно обученная на 1 трлн токенов с упором на рассуждения. Она предназначена для генерации текста и диалогов, особенно для сложных задач по математике, STEM и программированию, требующих многошагового анализа. Модель содержит 7,7 млрд параметров по метаданным, использует архитектуру ZayaForCausalLM, токенизатор Gemma 3 и контекст до 32 768 токенов. В архитектуре применены механизм внимания Compressed Convolutional Attention, нелинейный маршрутизатор экспертов и обучаемое масштабирование остаточных связей. Модель демонстрирует сильные результаты на сложных математических и кодовых задачах, но README отмечает, что полного RL-постобучения она не проходила. Для запуска требуется форк Transformers с поддержкой Zaya. Лицензия — Apache-2.0.

Darwin-28B-REASON — самостоятельная языковая модель VIDRAFT, полученная дистилляцией цепочек рассуждений на основе Darwin-28B-Opus. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, 27,6 млрд параметров и весами BF16. Веса модели можно использовать без отдельного адаптера; интерфейс рассчитан на диалог и поддерживает вызов инструментов. Модель предназначена для научных и математических задач с многошаговым рассуждением, а также для генерации и отладки кода. В README заявлена поддержка английского, корейского, китайского и японского языков, с приоритетом английского. Результат 89,39% на GPQA Diamond получен с дополнительным движком Darwin-DELPHI, который выполняет проверку нескольких ответов и самоанализ на этапе вывода; этот движок не входит в веса модели, а методика оценки и рецепт обучения раскрыты не полностью. Для запуска в BF16 требуется около 55 ГБ видеопамяти. Модель распространяется по лицензии Apache-2.0. Ее ответы могут содержать многословные рассуждения; заявленные показатели с Darwin-DELPHI нельзя напрямую считать результатом автономной модели без этого движка.

Gemma-SEA-LION-v4-27B-VL — мультимодальная инструктивно настроенная модель AI Singapore и SEACrowd для работы с изображениями и текстом в сценариях, связанных с Юго-Восточной Азией. Она построена на архитектуре Gemma 3 и дообучена на примерно 540 тысячах пар инструкций и изображений на бирманском, английском, индонезийском, кхмерском, лаосском, малайском, китайском, тагальском, тамильском, тайском и вьетнамском языках. Базовая модель — aisingapore/Gemma-SEA-LION-v4-27B-IT. Модель принимает текст и изображения, поддерживает визуальные вопросы и ответы, понимание документов, рассуждение с опорой на изображения и создание подписей к ним. Контекст составляет 128 тысяч токенов; заявлены также вызов функций и структурированный вывод. Она предназначена для мультиязычных приложений, ориентированных на регион Юго-Восточной Азии. Модель может галлюцинировать, выдавать нерелевантные или непоследовательные ответы и не проверялась на устойчивость к состязательным запросам. Она не прошла настройку безопасности; текстовые возможности близки к базовой Gemma-SEA-LION-v4-27B-IT. Распространяется на условиях Gemma Terms of Use.

Это языковая модель семейства Llama, созданная автором репозитория методом TIES с помощью mergekit. В объединение вошли Meta Llama 3.2 1B и несколько её вариантов, настроенных для диалогов, медицинских вопросов, SQL, математики и кода. Модель содержит 1,2 млрд параметров, использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors через Transformers; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и может служить компактной основой для диалогов и ответов на вопросы, а также запросов по медицинским темам, SQL, математике и коду. README не приводит результатов оценки, подробностей о качестве или явного перечня поддерживаемых языков. Базовая модель Llama 3.2 1B распространяется по лицензии Llama 3.2 Community License; условия использования итогового объединения отдельно не описаны в предоставленных данных.

Mtrini-27B-Tellus-Merged — объединённая модель CompiwerAI для запуска через Transformers. В README в качестве базовой модели указана Qwen3.8-27B; метаданные описывают архитектуру как плотную Qwen3.5 для авторегрессионной генерации текста. Размер по метаданным — 22,3 млрд параметров, нативный контекст — 262 144 токена, файлы представлены в формате safetensors. Модель предназначена для диалогов, генерации кода, математических задач и рассуждений. Для обучения использовалась смесь из 11 200 примеров, включающая данные по программированию и математике, а также марокканскую дариджу и арабский язык. В README сказано, что LoRA-адаптер CompiwerAI объединён с базовой моделью в самостоятельный чекпойнт. Модель распространяется по лицензии Apache-2.0. Результаты обучения и состав обучающей смеси приведены в карточке, но независимые оценки качества и подробные ограничения не описаны.

Muse Spark 1.3 — мультимодальная reasoning-модель от Meta, предназначенная для длительных агентных, многоагентных и связанных с программированием сценариев. По имеющимся сведениям, она рассчитана на отслеживание информации и выполнение многоэтапных задач. Метаданные каталога относят модель к задаче image-text-to-text, что указывает на обработку изображений и формирование текстового ответа. Данных о размере, архитектуре, длине контекста, поддерживаемых языках и лицензии в предоставленных источниках нет. Полная карточка обрывается, поэтому подробности о возможностях и ограничениях подтвердить нельзя.

Nanonets-OCR2-3B — мультимодальная модель компании Nanonets для распознавания документов и преобразования их содержимого в структурированный Markdown. Она дообучена на базе Qwen/Qwen2.5-VL-3B-Instruct, использует архитектуру Qwen2.5-VL с 3,1 млрд параметров и принимает изображения вместе с текстовыми запросами. Контекст модели — до 128 000 токенов. Модель извлекает текст, таблицы, формулы, водяные знаки и подписи, описывает изображения в документах, распознаёт рукописный текст и преобразует блок-схемы и организационные схемы в код Mermaid. Она также отвечает на вопросы по содержимому документа и поддерживает многоязычные документы, в том числе на русском, английском, китайском, французском, испанском, немецком, японском, корейском и арабском языках. Модель предназначена для подготовки документов к обработке LLM и извлечения из них структурированных данных. Повышение разрешения изображения может улучшить распознавание; для сложных таблиц README рекомендует подбирать параметры генерации и разрешение. Сведения о лицензии в предоставленных данных отсутствуют.

NuExtract3-FP8 — 4B vision-language reasoning model, разработанная NuMind на базе Qwen/Qwen3.5-4B. Модель предназначена для понимания документов и поддерживает структурированное извлечение данных: получает текст и/или изображения вместе с JSON-шаблоном и инструкциями и формирует JSON-ответ. Также она преобразует изображения документов в Markdown, включая текст, таблицы, математические формулы и изображения. Модель ориентирована на OCR, подготовку данных для RAG и обработку сканов, чеков, форм, счетов, договоров и таблиц. Модель поддерживает мультимодальные входные данные, многоязычные документы, режимы вывода с рассуждением и без него, а также генерацию шаблонов для извлечения структуры из естественного языка или самого документа. В README не указаны точный размер контекстного окна, перечень языков, специфические параметры FP8-сборки или сведения о производительности именно этой версии; приведённые бенчмарки относятся к NuExtract3.4_4B-RL. Среди сильных сторон заявлены сочетание визуального понимания, OCR, рассуждений и структурированного вывода, однако сложные или длинные задания могут приводить к повторениям, превышению лимита вывода и невалидному JSON. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-tq4-g64 — 27,8-миллиардная плотная мультимодальная модель семейства Qwen, подготовленная для Apple Silicon в формате 4-битной квантизации TurboQuant-MLX. Она сохраняет возможности обработки изображений и диалогового взаимодействия базовой модели, включая интерфейс вызова инструментов. Архитектура включает 64 декодерных слоя: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв полного внимания; также указана 27-блочная башня зрения. В метаданных библиотека модели — MLX, лицензия — Apache-2.0. Модель подходит для диалогов с изображениями, распознавания текста на изображениях, подсчёта объектов, анализа диаграмм, визуального описания и агентных сценариев с вызовом инструментов, в том числе для работы с кодом. README приводит тесты на Apple Silicon: файл занимает около 15,15 ГиБ, пиковое потребление памяти при контексте 16 тысяч токенов составляет около 22,5 ГБ, а скорость генерации — примерно 11 токенов в секунду. При запуске на Mac с 24 ГБ памяти рекомендуется размер шага предварительной обработки 256; на системах с 16 ГБ автор сообщает, что модель не помещается. Встроенный тест зрения пройден на четырёх синтетических примерах, но эти результаты не гарантируют качество на произвольных данных. README не сообщает поддерживаемые естественные языки или длину контекста базовой модели.

Qwen3-Coder-30B-A3B-Instruct-MLX-4bit — 4-битная квантованная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX; модель оптимизирована для запуска на устройствах с Apple Silicon. Модель предназначена для генерации текста и, судя по названию исходной модели, ориентирована на задачи, связанные с программированием, однако README не содержит подробностей о поддерживаемых языках программирования, естественных языках, архитектуре, размере активной части модели, контекстном окне или доступных модальностях. Указан только формат text-generation и 4-битное представление, которое снижает требования к памяти и делает локальный запуск на Apple Silicon более практичным, но может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии Apache-2.0. LM Studio не является создателем исходной модели и не гарантирует её точность, безопасность или пригодность для конкретных задач; результаты могут быть ошибочными или неподходящими и требуют проверки.

Карточка модели ArchiveStudio/Qwen3-Reranker-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-8B, поэтому описание составлено по ней. Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

Darwin-28B-REASON — плотная языковая модель VIDRAFT для генерации текста и сложных рассуждений. Это самостоятельная модель с полными весами, полученная дистилляцией цепочек рассуждений (RTD) на базе FINAL-Bench/Darwin-28B-Opus. Она использует архитектуру Qwen3_5ForConditionalGeneration поколения Qwen3.6 с чередованием линейного и полноформатного внимания и содержит 27,6 млрд параметров в формате BF16. Модель предназначена для многошагового решения научных и математических задач, ответов на вопросы уровня аспирантуры, генерации и отладки кода. Карточка рекомендует английский как основной язык, а также указывает поддержку корейского, китайского и японского. Заявленный результат 89,39% на GPQA Diamond получен с Darwin-DELPHI — отдельным проприетарным механизмом тестового вывода с несколькими образцами и самопроверкой; этот механизм не входит в веса модели. Модель распространяется по лицензии Apache-2.0. Для запуска BF16-весов требуется около 55 ГБ видеопамяти. Карточка отмечает, что без Darwin-DELPHI точность ниже заявленного результата, а цепочки рассуждений могут быть многословными; полный рецепт дистилляции и методика оценки Darwin-DELPHI не раскрыты.

Granite-embedding-english-r2 — плотная двунаправленная модель-биэнкодер из семейства Granite Embeddings, разработанная командой Granite Embedding Team компании IBM. Она преобразует английские запросы, фрагменты и документы в векторы размером 768 для поиска, извлечения информации и сравнения текстов по косинусному сходству. Модель построена на архитектуре ModernBERT, содержит 149 млн параметров и поддерживает контекст до 8192 токенов. Модель обучалась на открытых наборах пар релевантности с разрешительными лицензиями, а также на данных, собранных и созданных IBM. В обучении использовались retrieval-ориентированное предварительное обучение, контрастивное дообучение, дистилляция и объединение моделей. В README заявлены результаты на тестах поиска по текстам, коду, длинным документам, диалогам и таблицам. Репозиторий предоставляет форматы PyTorch, Safetensors, ONNX, OpenVINO и TensorFlow. Модель предназначена для применения в системах поиска и извлечения информации, включая подбор релевантных документов и построение векторных представлений для последующего сравнения. Она рассчитана только на английский язык; тексты длиннее 8192 токенов будут усечены. Распространяется по лицензии Apache 2.0.

InternVL3-14B-Instruct-GGUF — мультимодальная языковая модель в формате GGUF, подготовленная Unsloth на основе OpenGVLab/InternVL3-14B-Instruct. Исходную модель разработала команда OpenGVLab; она построена по схеме ViT-MLP-LLM и сочетает визуальный модуль InternViT-300M-448px-V2_5 с языковой частью Qwen2.5-14B. Это SFT-версия, прошедшая нативное мультимодальное предварительное обучение и supervised fine-tuning, но не прошедшая MPO. Модель предназначена для задач понимания изображений и текста, мультимодального восприятия и рассуждений. Заявленные сценарии включают использование инструментов, создание GUI-агентов, промышленный анализ изображений, восприятие 3D-сцен и другие мультимодальные приложения. В метаданных указана поддержка multilingual, а тип конвейера — image-text-to-text. Конкретный размер контекста в предоставленных данных не указан. К сильным сторонам относятся расширенные возможности мультимодального анализа и рассуждений, а также GGUF-квантизация, удобная для локального запуска при подходящей инфраструктуре. Ограничение версии заключается в отсутствии этапа MPO; авторы рекомендуют при сомнениях использовать базовую версию InternVL3-14B. Модель распространяется по лицензии Apache-2.0, при этом в карточке также указана ссылка на лицензию Qwen.

Local AI Toolkit — это подборка локально запускаемых моделей и инструментов, опубликованная под идентификатором m15dg/local-ai-toolkit. Коллекция собрана с использованием AI-подбора и предназначена как отправная точка для локального AI-окружения, а не как единая модель. Она ориентирована на работу на потребительском оборудовании с NVIDIA RTX 3060 с 12 ГБ видеопамяти и 32 ГБ оперативной памяти. В состав входят модели для универсальной генерации текста, программирования и кодовых агентов, координации multi-agent систем, RAG и анализа документов, embeddings и reranking, синтеза речи, распознавания речи, мультимодального анализа изображений и текста, а также uncensored-варианты. Заявлены форматы GGUF и SafeTensors; для отдельных сценариев предусматриваются GPU и CPU offload либо полностью GPU-ориентированный запуск. Поддерживаются английский и персидский языки, однако характеристики отдельных моделей, включая архитектуру, размеры, контекст и точные мультимодальные возможности, зависят от конкретных компонентов коллекции. Сильной стороной является подборка моделей, адаптированная под ограниченный бюджет памяти и различные локальные сценарии — от диалогов и генерации кода до RAG, агентов и речи. Ограничения заключаются в том, что это незавершённый и периодически обновляемый набор рекомендаций: заявленные возможности и качество не являются гарантированными, а Image Generation и Video Generation на момент описания отсутствуют. Лицензия указана как other; отдельные лицензии входящих моделей в README не приведены.

Sherry 35B-A3B 0.1 Preview — экспериментальная модель для генерации текста, разработанная Valendra на основе Qwen/Qwen3.6-35B-A3B. Это дообученная методом SFT и GRPO модель семейства Qwen3.5 MoE с 35 млрд параметров; веса объединены, отдельный PEFT-адаптер для инференса не нужен. Модель поддерживает чат и интерфейс вызова инструментов. Главная особенность — управляемый уровень усилий рассуждения: low, medium или high задаёт компромисс между глубиной ответа, задержкой и расходом токенов. Модель предназначена для математических и научных задач, задач на рассуждение и экспериментов с программированием. В описанной авторами оценке показала 97,1% math_verify на MATH-500 и 78,3% exact match на GPQA-Diamond; эти результаты получены в одном контролируемом запуске и не гарантируют аналогичного качества в других условиях. Это предварительная версия: результат AIME 2025 находится на пересмотре, а поведение за пределами оценённых областей изучено ограниченно. Возможны ошибки, поэтому ответы следует проверять, особенно в высокозначимых сценариях. Модель распространяется по лицензии Apache-2.0.

swardiantara/bert-tiny-yelp-k3-fixed-cosine — компактная модель Sentence Transformers, дообученная автором на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерностью 128 и предназначена для поиска по смыслу, извлечения текстовых признаков и сравнения текстов по косинусному сходству. Архитектура состоит из BERT с усреднением токенных представлений; модель содержит 4,4 млн параметров и работает с текстом. В README указана максимальная длина последовательности 128 токенов, тогда как метаданные сообщают контекст до 512 токенов; для практического использования следует учитывать ограничение конфигурации модели и проверять фактическую длину входа. Карточка описывает обучающий набор из 585 120 примеров с парами текстов и оценками. Модель подходит для поиска похожих отзывов и ранжирования текстов по семантической близости. Лицензия в предоставленных данных не указана.

Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.