I.6Перевод и языковая адаптация

Chungulus/Qwen3.8-27B-Q3_K_M-GGUF — это независимая vanilla-квантизация модели Qwen3.8-27B, разработанной командой Qwen. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp. Квантизация Q3_K_M выполнена без дообучения, слияния, изменения выравнивания или шаблона чата. Модель поддерживает генерацию текста, нативный tool calling, обработку изображений и видео, а также режимы управления рассуждением через параметры enable_thinking, reasoning_effort и preserve_thinking. Архитектура включает гибридную структуру Hybrid Gated DeltaNet/full-attention, vision tower и проектор; в репозитории сохранены MTP-тензоры, однако ускорение speculative decoding не заявлено. Основной файл занимает около 13,5 ГБ, vision projector — в формате F16, общий размер репозитория — около 14,4 ГБ. Для запуска рекомендуется не менее примерно 18 ГБ доступной памяти, при этом KV-cache дополнительно увеличивает потребление в зависимости от контекста. К сильным сторонам относятся сохранённые возможности исходной модели, проверенная поддержка текста, инструментов, изображений и видео, а также совместимость с нативным форматом вызова инструментов Qwen. Ограничение — возможное снижение качества из-за низкобитной квантизации; заявленные проверки не позволяют делать выводы о максимальной длине контекста. Для работы требуется runtime с поддержкой архитектуры Qwen3.8, vision-компонентов, токенизатора и MTP-метаданных. Модель и её vanilla-квантизация распространяются по лицензии Apache-2.0.

Chungulus/Qwen3.8-27B-Q8_0-GGUF — это независимая, неизменённая квантизация Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель распространяется в формате GGUF для запуска с llama.cpp и предназначена для генерации текста, работы с изображениями и видео, а также вызова инструментов в нативном формате Qwen. Это не дообученная модель, не объединение моделей и не модификация шаблона чата. Модель содержит около 27 миллиардов параметров и использует квантизацию Q8_0 с 8-битным представлением весов. Архитектура сочетает Hybrid Gated DeltaNet и полноценное внимание; в составе также есть vision tower, проектор для мультимодального ввода и сохранённые MTP-тензоры. Для работы с изображениями требуется отдельный файл vision projector. Поддерживаются режимы управления рассуждением через enable_thinking, reasoning_effort и preserve_thinking. Сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. К сильным сторонам относятся сохранение исходной архитектуры и шаблона чата, проверенная генерация текста, вызов инструментов, обработка изображений и видео, а также отсутствие дополнительной потери качества от тонкой настройки или слияния моделей. Для запуска требуется совместимый runtime с поддержкой гибридного графа Qwen3.8, vision-компонентов, токенизатора и MTP-метаданных. Основные ограничения — возможное снижение качества из-за квантизации, высокая потребность в памяти: рекомендуется иметь не менее примерно 33 ГБ с учётом модели, проектора и служебных расходов, а память под KV-кэш дополнительно растёт вместе с контекстом. Максимальный контекст не был проверен в рамках описанной валидации. Родительская модель и данная ванильная квантизация распространяются по лицензии Apache-2.0.

RQwen-v0.2 — диалоговая языковая модель на архитектуре Qwen2, разработанная ehristoforu и дообученная на базе ehristoforu/RQwen-v0.1. Модель содержит 14 млрд параметров, поддерживает контекст до 32 768 токенов и предназначена для генерации текста в диалоге; в метаданных также отмечен интерфейс вызова инструментов. Модель можно применять для ведения диалога, ответов на вопросы, выполнения инструкций и генерации текста. В карточке указан английский язык; описание базовой модели в каталоге указывает поддержку русского и английского. Весовые файлы представлены в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Карточка не описывает обучающие данные или специальные ограничения качества.

Agens Pilot — мультимодальная языковая модель Blockway, гонконгской компании, построенная на базе Qwen/Qwen3.8-27B и дообученная для агентных сценариев и письменного кантонского языка. Это плотная модель с архитектурой Qwen3.5, примерно 27 млрд параметров, которая принимает текст и изображения и генерирует текст. Поддерживает контекст до 1 048 576 токенов; карточка указывает китайский и английский, а разработчик отдельно отмечает приоритет кантонского, традиционного и упрощённого китайского и английского. Модель предназначена для кантонских ассистентов и чат-ботов, работы с длинными документами, анализа изображений, программирования и многошаговых агентных задач с вызовом инструментов. Разработчик сообщает об улучшении многостороннего изложения сложных исторических и геополитических вопросов на внутреннем наборе из 20 запросов; результаты имеют малый объём выборки и не являются независимой комплексной оценкой. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование. Известные ограничения: точность фактов не гарантируется, ответы по сложным вопросам требуют проверки человеком; письменный кантонский в варианте Гонконга охвачен лучше других разновидностей юэ. Разработчик также отмечает слабую способность к визуальной математике и возможное снижение согласованности INT4-версии на неоднозначных фактических вопросах.

dots.ocr-GGUF — это GGUF-версия мультиязычной vision-language модели dots.ocr, разработанной rednote-hilab и опубликованной пользователем prithivMLmods на основе dots-studio/dots.ocr. Модель предназначена для анализа изображений документов и объединяет обнаружение структуры документа с распознаванием содержимого в одной модели. Она подходит для научных статей, книг, презентаций, финансовых отчётов, экзаменационных работ, журналов и газет. Модель построена на компактной языковой основе объёмом 1,7 млрд параметров, связанной с Qwen2.5-VL, и поддерживает более 100 языков, включая английский и китайский. Она может выполнять полный разбор макета, обнаружение элементов, OCR и grounding OCR в зависимости от запроса. Результат выдаётся в структурированном JSON с ограничивающими рамками и категориями элементов, а текст оформляется в Markdown, формулы — в LaTeX, таблицы — в HTML. Доступны варианты GGUF с точностями от Q3_K до Q8_0, а также BF16 и F16; для работы с изображениями требуются отдельные файлы mmproj. К сильным сторонам относятся единый подход к анализу макета и содержимого, высокие результаты на OmniDocBench для распознавания текста, таблиц и порядка чтения, а также качество распознавания формул, сопоставимое с гораздо более крупными моделями. Ограничения включают зависимость качества и требований к ресурсам от выбранного варианта квантизации, необходимость мультимодального проектора и отсутствие в README сведений о точном размере контекста и системных требованиях. Модель распространяется по лицензии MIT и поддерживает запуск через llama.cpp; также заявлена совместимость с Transformers и vLLM, для которого рекомендуется версия 0.9.1.

Это консолидированный чекпойнт Meta-Llama-3.1-8B-Instruct, опубликованный camenduru и преобразованный в формат Hugging Face с помощью слегка изменённого скрипта convert_llama_weights_to_hf.py из репозитория Transformers. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для диалоговой генерации текста и работы в сценариях, где нужно получать ответы на запросы пользователя. Модель принимает текст и выдаёт текст. Метаданные указывают контекст до 131 072 токенов, формат весов safetensors и возможность чата. Карточка не описывает отдельные дообучения или специализированные области применения этой копии. Условия лицензии в доступных данных не приведены.

Ministral 3 3B Instruct 2512 — компактная мультимодальная модель компании Mistral AI, постобученная для выполнения инструкций. Она сочетает языковую модель на 3,4 млрд параметров и визуальный энкодер на 0,4 млрд параметров; веса представлены в формате FP8. Модель предназначена для локального и периферийного развёртывания, а для работы в FP8 достаточно 8 ГБ видеопамяти согласно карточке модели. Поддерживается контекст до 256 тысяч токенов. Модель принимает текст и изображения, отвечает на вопросы о визуальном содержимом, создаёт короткие тексты, классифицирует текст, извлекает данные и помогает с переводом. Также заявлены поддержка системных инструкций, вызова функций и вывода JSON. Указаны английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки. Модель можно применять для лёгких приложений реального времени на устройствах с ограниченными ресурсами. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование и модификацию. Результаты могут зависеть от выбранных настроек и качества входных изображений; автор рекомендует для визуальных задач изображения с соотношением сторон, близким к 1:1. Заявления о характеристиках и бенчмарках приведены разработчиком; таблицы README преимущественно показывают результаты более крупной модели Ministral 3 14B, поэтому их нельзя напрямую считать оценкой версии 3B.

Карточка модели alexakkol/mistral-7B-instruct-v0.2 на Hugging Face совпадает с карточкой MaziyarPanahi/Mistral-7B-Instruct-v0.2, поэтому описание составлено по ней. MaziyarPanahi/Mistral-7B-Instruct-v0.2 — инструктивно дообученная версия языковой модели Mistral-7B-v0.2, опубликованная Maziyar Panahi на основе модели Mistral AI. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на диалог и выполнение инструкций. Она принимает текстовые запросы в формате Mistral Instruct и генерирует текстовые ответы; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, создания и редактирования текстов и других сценариев генерации текста. В README говорится, что версия Instruct служит демонстрацией возможностей дообучения базовой модели. Карточка предупреждает, что у модели нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать дополнительной проверки. Модель распространяется под лицензией Apache-2.0.

moco-sentencebertV2.0 — двуязычная модель эмбеддингов предложений от bongsoo. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Архитектура основана на BERT; размер модели — 230,4 млн параметров, контекст — до 512 токенов. Для получения эмбеддинга используется mean pooling над контекстными векторами токенов. Модель обучена на базе bongsoo/mbertV2.0: после обучения Sentence-BERT её дополнительно дистиллировали с учителем paraphrase-multilingual-mpnet-base-v2 и дообучили на задачах семантического сходства. В README приведены корейские и английские оценочные наборы и результаты сравнения, однако полная строка результатов этой модели в карточке отсутствует. Поддерживаются корейский и английский языки; словарь содержит 152 537 токенов. Лицензия в предоставленных данных не указана.

Это конвертированная в формат MLX версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, опубликованная mlx-community. Исходная модель — nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; README указывает, что преобразование выполнено с помощью mlx-lm 0.29.1. Метаданные описывают модель как диалоговую и указывают поддержку английского, испанского, французского, немецкого, японского и итальянского языков. Модель предназначена для генерации текста в диалоге и может использоваться для ответов на вопросы, написания текстов и программного кода. Репозиторий рассчитан на запуск с библиотекой MLX. В README не приведены дополнительные сведения о размере активной части MoE, длине контекста или оценках качества; базовая модель описана в каталоге как гибридная языковая модель для рассуждений, программирования и агентных приложений. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией исходной модели.

NVIDIA Nemotron Nano 12B v2 VL FP8 — мультимодальная авторегрессионная модель NVIDIA для анализа изображений и диалога по их содержимому. Это FP8-квантизированная версия Nemotron Nano VL V2: трансформер использует визуальный энкодер C-RADIOv2-H и языковую модель NVIDIA Nemotron Nano 12B v2. Модель принимает текст и одно изображение RGB, а отвечает текстом; контекст и длина ответа — до 128 тысяч токенов. Для изображений действует ограничение в 12 плиток размером 512 × 512 пикселей, прозрачность не поддерживается. Модель предназначена для суммаризации изображений, визуальных вопросов и ответов, распознавания текста и анализа документов, а также рассуждений по визуальному содержимому. Она поддерживает английский, русский, немецкий, испанский, французский, итальянский, корейский, португальский, японский и китайский языки, а также интерфейс вызова инструментов. В карточке указаны запуск через vLLM и оптимизация для GPU NVIDIA; среди совместимого оборудования назван H100 SXM с 80 ГБ памяти. Лицензия обозначена как other, поэтому её условия следует проверять на странице модели NVIDIA.

Карточка модели junie626/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Qwen3-30B-A3B-Instruct-2507-MLX-6bit — это 6-битная квантованная версия инструкционной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Квантование в формате MLX выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на компьютерах Apple Silicon. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях использования, включая работу через совместимые инструменты на устройствах Apple Silicon. Она относится к семейству text-generation и использует архитектуру и характеристики исходной модели Qwen3-30B-A3B-Instruct-2507, однако README не содержит сведений о языках, длине контекста, поддерживаемых модальностях и других архитектурных деталях. Ключевое преимущество версии — снижение требований к памяти по сравнению с полноразмерными весами благодаря 6-битному квантованию и оптимизации под MLX. Ограничения включают возможную потерю точности из-за квантования, зависимость от платформы Apple Silicon и отсутствие в README подробных данных о качестве, производительности и бенчмарках. Модель распространяется по лицензии Apache-2.0.

Ex0bit/Qwen3.6-35B-A3B-PRISM-NVFP4 — мультимодальная модель для генерации текста, основанная на Qwen/Qwen3.6-35B-A3B и доработанная проектом Ex0bit с использованием настройки PRISM. PRISM направлена на смягчение чрезмерных отказов, удаление нежелательных проявлений предвзятости и пропагандистских шаблонов при сохранении или улучшении качества выполнения задач, связности ответов и мультимодальных возможностей. Модель использует разреженную архитектуру Mixture-of-Experts: общий размер составляет 35 млрд параметров, около 3 млрд параметров активируются для каждого токена, предусмотрено 256 маршрутизируемых экспертов. Веса и активации квантованы в формат NVFP4 W4A4 с использованием compressed-tensors; некоторые компоненты, включая vision encoder, lm_head, роутеры, embeddings и состояние линейно-внимательной SSM, сохранены в BF16. Доступна поддержка мультимодального ввода и MTP draft head для ускоренного спекулятивного декодирования. В README приведён режим обслуживания с ограничением контекста 32768 токенов. Ключевые преимущества модели — существенно сниженные требования к хранению, поддержка мультимодальных сценариев, MoE-эффективность и возможность спекулятивного декодирования. Основные ограничения связаны с аппаратной и программной совместимостью: модель рассчитана прежде всего на GPU NVIDIA Blackwell с архитектурами SM120/SM121 и требует версии vLLM с поддержкой NVFP4; стандартные сборки могут работать некорректно, особенно на SM121. Лицензия Apache 2.0 унаследована от базовой модели.

TheWegemann/Qwen3.8-27B-LowGPU-NoMTP-IQ3XXXS-GGUF — это пользовательская GGUF-квантизация модели Qwen3.8-27B, разработанная TheWegemann совместно с авторами рецепта квантования. Модель предназначена для локального запуска через llama.cpp на видеокартах с 12 ГБ VRAM, включая сценарии работы с агентами, рассуждениями, текстом и изображениями. Модель основана на 27-миллиардной Qwen3.8-27B и занимает примерно 9,3 ГБ. Она использует гибридную архитектуру с блоками Gated DeltaNet и линейного внимания, периодическими блоками полного внимания и 64 слоями. Поддерживаются мультимодальные сценарии с совместимым F16 vision-проектором. В сборке удалена MTP-голова, чтобы уменьшить потребление видеопамяти. Рецепт IQ3XXXS является названием пользовательской схемы смешанного покомпонентного квантования, а не официальным типом квантования llama.cpp; применяются различные форматы, включая IQ1_S, IQ1_M, IQ2, IQ3, IQ4_XS, Q2_K, Q4_K, Q5_K и Q8_0. Тестирование проводилось с полным переносом на GPU, контекстом до 64 000 токенов, кэшем Q4_0, Flash Attention и сервером llama.cpp. Сильная сторона модели — сочетание относительно крупной базовой модели, мультимодальности и большого контекста с возможностью запуска на 12-ГБ GPU. Квантование агрессивно оптимизировано под ограниченный объём VRAM, а финальные слои и отдельные чувствительные тензоры сохранены с более высокой точностью. Ограничения связаны с потерями качества из-за низкой точности, отсутствием MTP и зависимостью фактического потребления памяти от версии llama.cpp, драйверов, настроек и использования видеопамяти. Сборка ориентирована прежде всего на GPU-only запуск; работа при меньшем объёме VRAM или с CPU offload возможна, но не является целевым сценарием. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, опубликованная HauhauCS. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Профиль Aggressive ориентирован на прямые ответы с минимальным вступлением и без поведения отказа; заявленные возможности базовой модели сохраняются без изменений в обучающих данных и общем назначении. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder и поддержкой мультимодального ввода через отдельный BF16-проектор. Архитектура включает 64 слоя, скрытый размер 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Указана поддержка английского, китайского и других языков. Выпуск представлен в форматах GGUF с различными уровнями квантизации, включая специализированные K_P-кванты. К сильным сторонам относятся длинный контекст, мультимодальность, сохранённые встроенные механизмы MTP/NextN и ускорение HauhauCS FastMTP 32K. Заявлено ускорение генерации до 3,02 раза для документов и до 1,93 раза для задач рассуждения по сравнению с вариантами без MTP, однако эти показатели зависят от сценария и конфигурации. Агрессивный профиль может быть менее подходящим для надёжно контролируемых агентских задач, где предпочтительнее сбалансированная версия. Для работы с изображениями и видео требуется отдельный vision-проектор. Модель распространяется по лицензии Apache-2.0.

Griffin88/sentence-embedding-LaBSE — PyTorch-порт модели LaBSE, предназначенный для представления предложений на 109 языках в общем векторном пространстве. Модель основана на архитектуре BERT и содержит 498,1 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий предоставляет веса PyTorch и safetensors, а для работы через Sentence-Transformers README рекомендует библиотеку sentence-transformers. Модель подходит для получения эмбеддингов предложений и оценки их семантического сходства, в том числе для сопоставления текстов на разных языках. Лицензия — Apache-2.0. README отсылает к публикации LaBSE, но не уточняет автора этого порта или детали обучения именно этой версии.

Карточка модели Jinstudio/VibeVoice-ASR-HF на Hugging Face совпадает с карточкой microsoft/VibeVoice-ASR-HF, поэтому описание составлено по ней. VibeVoice-ASR — мультиязычная модель Microsoft для распознавания речи, доступная в версии, совместимой с Transformers. Она принимает аудио и формирует транскрипцию с текстом, временными метками и указанием говорящего; также можно передавать контекстные подсказки, например имена или специальные термины, чтобы помочь распознаванию.

BgGPT-Gemma-3-27B-IT — мультимодальная модель для диалогов и выполнения инструкций, адаптированная для болгарского языка институтом INSAIT на базе Google Gemma 3 27B IT. Это плотная модель семейства Gemma 3 с поддержкой текста и изображений; карточка указывает эффективный контекст до 131 тыс. токенов. Модель рассчитана на многоходовые беседы, сложные инструкции и задачи, где нужно совместно учитывать текст и изображения. Модель подходит для вопросов и ответов на болгарском языке, диалоговых помощников и анализа изображений с текстовыми запросами. Также поддерживает английский язык. В README указаны данные предобучения до мая 2025 года и дообучения по инструкциям до октября 2025 года. Репозиторий содержит веса Safetensors и использует лицензию Gemma; применение регулируется её условиями.

DeepSeek-V2-Lite-Chat — диалоговая языковая модель DeepSeek AI, дообученная методом SFT на основе семейства DeepSeek-V2-Lite. В карточке описана архитектура MoE с Multi-head Latent Attention (MLA): около 16 млрд параметров всего, из которых для каждого токена активируется 2,4 млрд; модель имеет 27 слоёв. Она предназначена для генерации текста в диалоге, продолжения текста и ответов на запросы. README приводит результаты на английских и китайских бенчмарках и указывает длину контекста 32 тыс. токенов; метаданные каталога указывают 163 840 токенов. Эти значения расходятся, поэтому фактическое доступное окно следует сверять с конфигурацией используемого чекпойнта и программной среды. MLA сжимает KV-кэш для более экономичного инференса, а разреженные MoE-слои активируют часть экспертов на каждом токене. README сообщает, что для инференса в BF16 требуется GPU с 40 ГБ памяти; также описаны запуск через Transformers и оптимизированный вариант с vLLM. В метаданных указан формат safetensors. Модель рассчитана на текстовый ввод и текстовый вывод; результаты бенчмарков охватывают английский и китайский, но это не задаёт полный перечень поддерживаемых языков. В метаданных лицензия обозначена как other, без конкретных условий в предоставленных данных. Перед использованием следует проверить лицензионные условия на странице репозитория.

Vtuber-plan/Huihui-Qwen3.8-27B-abliterated-NVFP4 — это 4-битная NVFP4-квантизованная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated, созданной на базе Qwen/Qwen3.8-27B. Квантизация выполнена с помощью NVIDIA TensorRT Model Optimizer 0.45.0; в комплект входит исправленный шаблон чата Qwen. Модель предназначена для генерации текста, диалогов, рассуждений, многоязычных задач и агентских сценариев с вызовами инструментов. Модель использует веса NVFP4 с размером групп 16 и FP8 KV-кэш. Для калибровки применялся набор из 5349 примеров, включающий английские и многоязычные диалоги, математические задачи, длинные рассуждения и трассировки вызовов инструментов. Заявлены языки English, French и multilingual; точный максимальный размер контекста в README не указан. Размер чекпойнта составляет около 19,5 ГБ и распределён по пяти шардам. Основное преимущество — сохранение качества чатового и агентского использования после квантизации: на GSM8K при фиксированном шаблоне чата модель показала 0,9833 против 0,9783 у базовой BF16-версии. При этом она плохо подходит для сырых few-shot-промптов без чатового режима: модель может начать рассуждение и не успеть выдать ответ при малом бюджете токенов. Рекомендуется использовать шаблон из комплекта, режим reasoning_effort medium и запас генерации от 8 тысяч токенов. При максимальном режиме xhigh возможны зацикливание и исчерпание лимита, особенно при температуре около нуля. В sglang при высокой конкуренции и длинных генерациях известна проблема падения; рекомендуется ограничивать число одновременных запросов или обновить sglang. Для запуска нужны sglang с quantization modelopt или TensorRT-LLM; обычный transformers/BF16 inference этот чекпойнт не деквантизирует. Лицензия — Apache-2.0.

LaBSE-en-ru — сокращённая версия LaBSE, созданной Google и перенесённой в Sentence Transformers, адаптированная автором cointegrated для английского и русского языков. Это плотная модель семейства BERT с 155,5 млн параметров и контекстом до 512 токенов; в словаре оставлены токены только для английского и русского, что сократило словарь до 10% исходного, а число параметров — до 27% исходного размера LaBSE. Модель предназначена для получения векторных представлений предложений на английском и русском языках. Такие эмбеддинги можно использовать для поиска семантически близких текстов и оценки сходства между предложениями, в том числе между языками. В README указано, что сокращение не ухудшило качество эмбеддингов для этих двух языков. Модель распространяется в форматах PyTorch, Safetensors и TensorFlow. Лицензия в предоставленных данных не указана.

heretic-org/Nanbeige4.1-3B-heretic — англо-китайская разговорная языковая модель на 3,5 млрд параметров, созданная на основе Nanbeige/Nanbeige4.1-3B. Это вариант с abliteration: в карточке приведено сравнение, где доля отказов снизилась с 96 до 4 из 100, а KL-дивергенция относительно исходной модели указана как 0,0001. Модель рассчитана на генерацию текста и диалоги; базовая модель ориентирована на многошаговые рассуждения, программирование, поиск и работу с инструментами. Модель использует плотную архитектуру семейства Llama и доступна в формате Safetensors для Transformers. Заявленная длина контекста — 262 144 токена. В README базовой модели описаны сильные результаты в задачах рассуждения и агентного поиска, включая многошаговое решение задач с вызовами инструментов; метаданные указывают поддержку английского и китайского языков. Лицензия — Apache-2.0. В README отмечено, что модель может выдавать неожиданные ответы, включая предвзятое или дискриминационное содержание. Снижение числа отказов может означать, что модель чаще отвечает на запросы, которые исходная версия отклоняет; при применении следует учитывать это поведение.

OsaurusAI подготовила для Apple Silicon сборку JANG_6M модели Nanbeige4.2-3B — диалоговой языковой модели с архитектурой Looped Transformer. В README указаны 22 слоя, выполняемые дважды с общими весами, что даёт эффективную глубину 44 слоя; размер весов — 4,17 млрд параметров. Контекст составляет 256K токенов. Модель дообучена на базе Nanbeige/Nanbeige4.2-3B и представлена в формате MLX safetensors с 6-битными аффинными весами и 8-битным attention; метаданные указывают библиотеку MLX и лицензию Apache-2.0. Модель предназначена для диалогов, генерации текста, рассуждений и агентных сценариев с вызовом инструментов на английском и китайском языках. README приводит результаты проверки близости к исходной версии bf16 и скорости генерации на M5 Max, но они относятся к описанной аппаратной конфигурации и тестам автора. Для корректной работы требуется загрузчик, поддерживающий архитектуру Nanbeige с циклическим выполнением слоёв и 44 слотами KV-кэша; общий загрузчик или один только mlx_lm.generate без соответствующего класса модели может выдавать неверные ответы. Сборка предназначена для Apple Silicon и распространяется по лицензии Apache-2.0.

Next OCR 8B — мультимодальная модель с 8 млрд параметров, разработанная Lamapi для оптического распознавания символов и анализа документов. Она принимает изображения и текстовые инструкции, извлекает текст из изображений, документов и скриншотов, а также предназначена для понимания математических выражений, таблиц, форм и других структурированных материалов. Модель реализуется через Transformers как vision-to-sequence и настроена на выполнение инструкций. Заявлена поддержка более 30 языков, включая английский, турецкий, немецкий, испанский, французский, китайский, японский, корейский и русский. Среди сильных сторон указаны высокая точность OCR, работа с математикой и таблицами, многоязычность, распознавание рукописного текста и текста в сценах, а также сравнительно компактный размер и эффективность для ограниченных ресурсов. В README приведены результаты собственных сравнений, однако методика и наборы данных не описаны, поэтому эти показатели следует интерпретировать с осторожностью. В README не указаны размер контекстного окна, требования к оборудованию, точный базовый архитектурный вариант и подтверждённые ограничения модели. Лицензия указана неоднозначно: в метаданных заявлена Apache-2.0, а в тексте README присутствует обозначение MIT; перед использованием необходимо уточнить, какая лицензия является действительной.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 — языковая модель NVIDIA для генерации текста, диалогов и рассуждений. Это эталонный выпуск весов BF16, предназначенный прежде всего для дообучения, адаптации к предметной области, исследований и создания производных квантованных вариантов. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и Attention; в модели 30 млрд параметров, из которых активно задействуются 3 млрд, а также используются слои Multi-Token Prediction. Репозиторий содержит веса safetensors, модель работает через Transformers. Модель рассчитана на текстовые запросы и сценарии чата, включая инструкции, кодирование, агентные задачи и работу с длинным контекстом. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский и японский, а в постобучающих данных представлены китайский и многоязычные задачи перевода и рассуждений. В README заявлена длина контекста до 1 млн токенов, тогда как метаданные каталога указывают нативный контекст 262 144 токена. Заявленная лицензия — other; карточка характеризует модель как пригодную для коммерческого использования. Полноточный вариант предназначен главным образом для настройки и оценки; для оптимизированного вывода NVIDIA рекомендует вариант NVFP4.

Occamy-1.0 APEX-I-MiniPlus-V2.1 Abliterated GGUF — это квантизированная версия Occamy-1.0, разработанная IsValorum на базе Accio-Lab/occamy-1.0. Модель предназначена для генерации текста, рассуждений, программирования и работы с большими контекстами, включая сценарии локального запуска через llama.cpp на системной RAM и GPU. Это аблитерированная версия без стандартных отказов и защитных ограничений, поэтому она ориентирована на пользователей, которым требуется более свободное выполнение запросов, в том числе в задачах кибербезопасности и пентестинга. Модель использует разреженную архитектуру Mixture-of-Experts с 40 слоями и 256 микроэкспертами. В сборке применена кастомная тензорная квантизация: основные эксперты используют IQ3_XXS, периферийные — Q3_K, shared-эксперты — Q5_K, attention-компоненты — Q4_K и Q6_K, выходная голова — Q6_K, а маршрутизаторы — F32. Заявлен контекст до 256K токенов. Поддерживаются английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Сильными сторонами заявлены компактный размер около 13,74 GiB, сохранение качества рассуждений при квантизации, отсутствие отказов в протестированном наборе запросов и эффективная работа при частичной или полной выгрузке в системную память. Ограничения включают потенциальные риски неконтролируемой генерации из-за удаления защитных механизмов, зависимость производительности от GPU, процессора и пропускной способности памяти, а также отсутствие в представленном README подробных независимых бенчмарков. Лицензия — Apache-2.0.

Phi-4-mini-instruct-mlx-fp16 — версия модели Microsoft Phi-4-mini-instruct, преобразованная SkyStar-tech в формат MLX для запуска на устройствах Apple с использованием mlx-lm. Это плотная авторегрессионная языковая модель с 3,8 млрд параметров и контекстом до 4096 токенов. Она предназначена для диалогов, генерации текста и кода, а также рассуждений в приложениях с ограниченными ресурсами. Поддерживает английский, русский и другие языки, перечисленные в карточке модели. Репозиторий использует формат safetensors и лицензию MIT; README указывает преобразование в MLX с помощью mlx-lm 0.31.2.

Qwen1.5-110B-Chat-GGUF — это квантизированная GGUF-версия диалоговой языковой модели Qwen1.5-110B-Chat, разработанной командой Qwen при Alibaba Cloud; конкретные файлы квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск совместимых чат-приложений и сценарии, где требуется крупная языковая модель с различным балансом между качеством и потреблением памяти. Модель содержит 110 млрд параметров и работает в текстовой модальности. В метаданных указано английское языковое направление, однако сведения о полном наборе поддерживаемых языков, архитектуре, максимальном контексте и результатах специализированных тестов в README отсутствуют. Доступны варианты квантизации от Q8_0 до IQ1_S с размером файлов примерно от 118,17 до 23,63 ГБ: более высокие разрядности обычно обеспечивают лучшее качество, а низкие позволяют запускать модель при меньшем объёме RAM или VRAM, но заметно снижают качество. Сильной стороной является выбор из множества вариантов квантизации, включая рекомендуемые Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS, что позволяет адаптировать модель к доступному оборудованию. Ограничения связаны с очень большим размером даже у компактных вариантов и с неизбежной потерей качества при агрессивной квантизации; варианты IQ1 и некоторые Q2/Q3 имеют низкое или крайне низкое качество. Для работы следует использовать формат GGUF и соответствующий шаблон чата с маркерами system, user и assistant. Лицензия указана как tongyi-qianwen; подробные условия доступны по ссылке на лицензию исходной модели.

Downtown-Case/Qwen2.5-32B-EVA-Instruct-Merge-0.1 — объединённая языковая модель на базе Qwen2.5-32B, созданная методом della с помощью mergekit. В объединение вошли EVA-Qwen2.5-32B версий 0.0 и 0.1, а также Qwen2.5-32B-Instruct; в качестве базовой модели при слиянии использовалась Qwen2.5-32B. Модель предназначена для генерации текста и диалогового взаимодействия. Она имеет плотную архитектуру Qwen2ForCausalLM, содержит 32 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка указывает интерфейс для вызова инструментов. Карточка не описывает отдельную специализацию или проверенные преимущества слияния; качество ответов и работы с инструментами следует оценивать на целевых сценариях. Модель распространяется в формате safetensors. Лицензия в предоставленных данных не указана.