I.1Поиск и навигация по информации

Hymba-1.5B-Instruct — языковая модель NVIDIA для генерации текста и диалогов. Она дообучена на основе nvidia/Hymba-1.5B-Base с помощью supervised fine-tuning и direct preference optimization, используя открытые наборы инструкций и синтетические данные. Модель содержит 1,1 млрд параметров по метаданным и поддерживает контекст до 8192 токенов. Архитектура Hymba сочетает в слоях механизмы внимания и Mamba (SSM), использует Grouped-Query Attention, Rotary Position Embeddings, скользящее окно внимания и совместное использование KV-кэша между слоями. Модель предназначена для диалогов, решения математических задач, вызова функций и ролевых сценариев. NVIDIA заявляет о готовности к коммерческому использованию; модель распространяется по NVIDIA Open Model License Agreement. Модель может выдавать неточные, неполные или избыточные ответы, а также воспроизводить токсичность и социальные предубеждения из обучающих данных. README отмечает уязвимость к jailbreak-атакам и рекомендует проверять выводы при использовании в RAG- и агентных системах.

InternLM2.5-20B-Chat GGUF — большая языковая чат-модель в формате GGUF, разработанная Shanghai AI Laboratory (上海人工智能实验室) и представленная для запуска с помощью llama.cpp. Она предназначена для локального и облачного инференса, ведения диалогов, генерации текста и интеграции в сервисы через совместимый с OpenAI API сервер llama-server. В README также показан сценарий вызова функций, например получения текущей погоды через внешний инструмент. Модель имеет размер 20B параметров и поддерживает несколько вариантов точности и квантования, включая FP16, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В качестве языков указано English, а в примере системного промпта заявлена способность общаться на английском и китайском языках. README демонстрирует контекст размером 4096 токенов и рекомендует использование аппаратного ускорения, включая CUDA; конкретные требования к ресурсам не указаны. Сильными сторонами модели являются возможность локального развёртывания на различных аппаратных платформах, наличие низкобитных версий и поддержка чатового взаимодействия, вызова функций и OpenAI-совместимого API. Ограничения включают отсутствие подробных данных о качестве, обучающих данных, точных языковых возможностях и рекомендуемых ресурсах, а также то, что результаты зависят от выбранной точности, конфигурации llama.cpp и параметров инференса. Модель распространяется по лицензии Apache-2.0.

llama-3.1-70B-lumitron — объединённая авторами модели nonetrix языковая модель на основе архитектуры Llama 3.1. Она создана методом task arithmetic с помощью mergekit: в объединение вошли nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и NeverSleep/Lumimaid-v0.2-70B. Модель содержит 69,5 млрд параметров, использует формат safetensors и доступна через библиотеку Transformers; заявленная длина контекста — 131072 токена. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и инструкции. Метаданные также отмечают интерфейс вызова инструментов. Карточка не приводит результатов оценки качества или отдельных гарантий работы этих возможностей. Лицензия в предоставленных данных не указана.

unsloth/Llama-3.2-3B-bnb-4bit — 4-битная версия языковой модели Llama 3.2 с 3 млрд параметров, подготовленная Unsloth на базе Meta Llama 3.2. Это авторегрессионная текстовая модель с архитектурой оптимизированного Transformer и механизмом Grouped-Query Attention (GQA), предназначенная для генерации текста и диалоговых сценариев. Модель ориентирована на многоязычные задачи, включая диалоговые системы, агентный поиск с извлечением данных и суммаризацию. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель работает в режиме «текст на входе — текст на выходе»; сведения о размере контекста в карточке не указаны. Благодаря 4-битному квантованию версия рассчитана на более экономичное по памяти развертывание и удобна для локального использования и дообучения. Сильными сторонами являются компактный размер, сниженные требования к памяти и поддержка сценариев дообучения через инструменты Unsloth. Ограничения включают текстовую, а не мультимодальную специализацию, статичность модели и отсутствие гарантии актуальности знаний, поскольку она обучена на офлайн-данных. Использование регулируется кастомной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy Meta.

RedHatAI/Llama-3.2-3B-Instruct-FP8 — языковая модель для генерации текста и ассистентского диалога, разработанная Neural Magic на базе Meta Llama-3.2-3B-Instruct. Модель принимает текст и генерирует текст, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Она предназначена для исследовательского и коммерческого использования в многоязычных чат- и текстовых приложениях. Модель содержит около 3 миллиардов параметров и использует архитектуру Llama-3. Для весов и активаций применена FP8-квантизация линейных операторов в трансформерных блоках: веса квантизированы по каналам, активации — по всему тензору. Это примерно вдвое снижает требования к памяти GPU и размер диска, а также может примерно вдвое повысить пропускную способность матричных операций. В README указана длина контекста до 8192 токенов для развертывания через vLLM. Сильной стороной модели является близкая к неквантизированной версии точность: на перечисленных бенчмарках заявлено восстановление результатов в пределах 0,7%. FP8-формат делает модель более удобной для эффективного инференса, в частности с использованием vLLM и OpenAI-совместимой серверной подачи. Ограничения включают меньший размер и потенциально более низкие возможности по сравнению с крупными моделями Llama, а также зависимость качества от языкового сценария и квантизации; сведения о специализированных ограничениях безопасности в README не приведены. Модель распространяется по лицензии Llama3.2.

Это GGUF-квантизированная версия модели r1-1776-distill-llama-70b, разработанной perplexity-ai и подготовленной пользователем bartowski. Квантизация выполнена с помощью llama.cpp release b4738 и метода imatrix. Модель предназначена для генерации текста и может запускаться через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Архитектура основана на Llama, размер исходной модели — 70 миллиардов параметров. В README не указаны поддерживаемые языки, длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступны варианты квантизации от Q8_0 до Q3_K и IQ3/IQ4, с размером файлов примерно от 27,47 до 74,98 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; варианты Q6_K, Q5_K и Q4_K_M отмечены как рекомендуемые для различных сценариев. Сильными сторонами являются широкий выбор размеров файлов, совместимость с локальными инструментами llama.cpp и сохранение высокого качества в старших вариантах квантизации. Ограничения включают значительные требования к оперативной или видеопамяти, особенно для версий с высоким качеством, а также потенциальное снижение качества в компактных вариантах. Модель распространяется по лицензии MIT.

FiditeNemini/Qwen2.5-14B-DeepSeek-R1-1M-Uncensored — объединённая модель на 14 млрд параметров, созданная с помощью mergekit и метода TIES на основе mkurman/Qwen2.5-14B-DeepSeek-R1-1M с включением huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2. Она использует архитектуру Qwen2 с плотной языковой моделью для генерации текста и диалогов; заявленная длина контекста составляет около 1,01 млн токенов. Модель предназначена для диалогового взаимодействия и генерации текста с поддержкой интерфейса вызова инструментов. Многоязычная поддержка, включая конкретные языки, в предоставленных данных не описана. В названии и базовой модели указано ослабление отказов, поэтому поведение модели может быть менее ограничительным. Файлы представлены в формате safetensors; лицензия в доступных данных не приведена.

Qwen2.5-7B-Instruct-1M-GGUF — GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-7B-Instruct-1M, разработанной командой Qwen. Квантизацию выполнил bartowski на базе llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, а также для задач, требующих обработки очень больших текстовых контекстов. Модель имеет около 7 миллиардов параметров и поддерживает контекст длиной до 1 миллиона токенов. Она сохраняет возможности работы с короткими запросами и оптимизирована для задач с длинным контекстом. В README указан английский язык; сведения о других языках и дополнительных модальностях отсутствуют. Для последовательностей длиннее 262 144 токенов возможно снижение точности до появления улучшенной поддержки. Модель распространяется по лицензии Apache-2.0. Формат GGUF и совместимость с llama.cpp ориентированы на локальный запуск в инструментах, поддерживающих этот формат, включая LM Studio. README не содержит подробностей о конкретных вариантах квантования, требованиях к аппаратным ресурсам и результатах бенчмарков.

DavidAU/Qwen3-30B-A6B-16-Extreme — дообученная версия многоэкспертной языковой модели Qwen3, в которой для обработки каждого запроса активируются 16 экспертов вместо стандартных 8. По описанию автора, модель использует около 6 млрд активных параметров из 30 млрд и рассчитана на более сложные запросы, где могут быть полезны дополнительные нюансы и глубина ответа. Модель предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Она принимает текстовые запросы и выдаёт текст; автор указывает контекст около 32 тыс. токенов плюс до 8 тыс. токенов на ответ. Репозиторий содержит полноточные веса в safetensors и может использоваться через Transformers или служить источником для создания квантованных вариантов. Увеличенное число активных экспертов снижает скорость генерации примерно вдвое относительно версии с 8 экспертами; фактическая скорость зависит от оборудования и настроек. Модель создана DavidAU на базе Qwen/Qwen3-30B-A3B-Base. В карточке указана лицензия Apache-2.0 для базовой модели; отдельные условия лицензирования этой производной в предоставленных данных не приведены.

Qwen3.5-4B-heretic — доработанная модель coder3101 на базе мультимодальной Qwen/Qwen3.5-4B от Qwen. Это плотная модель с причинным языковым ядром и визуальным энкодером: она принимает текст и изображения и генерирует текст. Базовая архитектура насчитывает 4 млрд параметров и сочетает Gated Delta Networks с механизмом внимания; нативный контекст составляет 262 144 токена, с расширением до 1 010 000 токенов. В карточке заявлена поддержка 201 языка и диалекта для семейства Qwen3.5. Модель предназначена для диалога, рассуждений, работы с изображениями и вызова инструментов. Вариант heretic получен методом abliteration и заметно реже отказывается отвечать: в приведённом сравнении отказы снизились с 94 из 100 у исходной модели до 4 из 100, при KL-дивергенции 0,0406. Это изменение поведения может повысить риск нежелательных ответов; результаты приведены в README и не описывают качество на широком наборе задач. Репозиторий содержит веса в формате Safetensors для Transformers и совместимых движков. Лицензия — Apache-2.0.

Qwen3.8-27B-Huihui-Abliterated-NVFP4-MTP-VL — мультимодальная квантованная модель, разработанная lyf на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Это поведенческий производный вариант, предназначенный для исследований и локального инференса, включая генерацию текста, работу с изображениями и видео, рассуждения, вызов инструментов и ускорение декодирования с помощью MTP (эталонного многотокенного предсказания). Модель использует языковую часть размером 27B параметров с квантованием линейных слоёв в формате NVFP4 W4A4 и размером группы 16. Башня обработки изображений и видео, MTP-голова, lm_head, эмбеддинги токенов и GDN conv1d сохранены в формате BF16. Поддерживаются английский и китайский языки. Указанный проверенный профиль рассчитан на видеокарты NVIDIA RTX 5090 с архитектурой Blackwell, ограничением контекста 4096 токенов и KV-кэшем FP8; большие контексты требуют отдельной проверки доступной видеопамяти. К сильным сторонам относятся мультимодальность, существенное снижение требований к памяти благодаря NVFP4, сохранение исходной BF16 vision/video tower и MTP-компонентов, а также совместимость с vLLM и OpenAI-compatible API. На одной RTX 5090 модель успешно прошла проверки текстовой генерации, MTP и мультимодального профиля; во время генерации использовалось около 28 944 MiB VRAM. Ограничения включают зависимость от совместимого оборудования и программного окружения, необходимость валидации для иных нагрузок и контекстов, а также экспериментальный характер abliterated-производной. Модель распространяется по лицензии Apache-2.0. Она предназначена для исследовательского использования и локального инференса; ответственность за дальнейшее применение и соблюдение соответствующих политик лежит на пользователе.

Minachist/Qwen3.8-27B-INT6-Mixed-AutoRound — это квантизированный мультимодальный чекпойнт на базе Qwen/Qwen3.8-27B, разработанный пользователем Minachist. Модель предназначена для запуска через vLLM на системах примерно с 48 ГБ суммарной видеопамяти, включая сценарии с обработкой изображений, полным контекстом и включённым MTP. Модель содержит 64 языковых слоя: 48 слоёв с gated-delta linear attention и 16 слоёв с полноценным attention. Используется смешанная квантизация AutoRound в формате compressed-tensors pack-quantized с эффективной плотностью 7,30 бит на вес: отдельные компоненты работают в INT5, INT6, INT7 или INT8, а часть параметров, включая vision tower, нормы и некоторые проекции, сохранена в BF16. Заявленный максимальный контекст составляет 262 144 токена. Поддерживаются текстовая и визуальная модальности; конкретный набор языков в README не указан. По измерениям автора, на тесте WikiText-2 средняя KL-дивергенция относительно BF16-версии составила 0,001980, согласие top-1 предсказаний — 97,905%, а perplexity — 7,9183 против 7,9112 у базовой модели. Это указывает на небольшую потерю качества при существенном сокращении требований к памяти. Ограничение модели — она не загружается в стандартный vLLM: требуются версия с поддержкой 5–8-битных схем, пакет humming-kernels и патч для qwen3_5.py и qwen3_5_mtp.py. В README рекомендована лицензия Apache-2.0.

Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64 — мультимодальная модель семейства Qwen3.8, опубликованная xy10086. Она создана на основе petruhonk/Qwen3.8-9B-Distill-uncensored-heretic, который, в свою очередь, происходит от empero-ai/Qwen3.8-9B-Distill. Модель предназначена для обработки текста и изображений, включая понимание скриншотов и распознавание текста на изображениях, а также для генерации ответов на английском и китайском языках. Основная языковая часть содержит около 9 миллиардов параметров и сжата методом аффинной 6-битной квантизации с размером группы 64. Зрительная башня и компоненты MTP для speculative decoding сохранены в формате BF16; поддерживаются 15 MTP-тензоров и рекомендованная глубина MTP 2. Модель оптимизирована для Apple Silicon и формата MLX/MTPLX. Рекомендуемое окно контекста — 32768 токенов, максимальная длина ответа — 8192 токена. Сильными сторонами являются мультимодальность, поддержка ускоренного speculative decoding, совместимость с Apple Silicon и высокая скорость генерации в заявленных тестах. Ограничения включают зависимость от MTPLX и MLX, а также требования к памяти и соответствующему программному окружению. Модель имеет пониженный уровень отказов вследствие удаления ограничений цензуры, но это не означает большей фактической точности; результаты в медицинских, юридических, финансовых и других критически важных сценариях необходимо проверять независимо. Модель распространяется по лицензии Apache-2.0; для использования следует также учитывать требования к атрибуции и лицензированию исходных моделей.

PrimeIntellect/Qwen3-8B — копия модели Qwen/Qwen3-8B с шаблоном чата, поддерживающим многоходовые диалоги и вызовы инструментов. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров, предназначенная для генерации текста в формате диалога. Модель принимает текст и выдаёт текст; её контекстное окно составляет 40 960 токенов. Модель основана на Qwen/Qwen3-8B-Base и адаптирована для использования с совместимым с вызовом инструментов шаблоном чата. Репозиторий распространяется в формате Safetensors; библиотека для работы — Transformers. Лицензия — Apache-2.0.

unsloth/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen и подготовленной для распространения Unsloth. Это каузальная языковая модель с vision encoder, предназначенная для обработки текста и изображений, включая мультимодальные и агентские сценарии. Для запуска рекомендуется использовать llama.cpp или Unsloth Desktop; также заявлена поддержка ускорения инференса с помощью MTP. Модель имеет 125 млрд параметров, из которых 6 млрд активируются при работе, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура включает 48 слоёв, гибридную связку Gated DeltaNet и Qwen Sparse Attention, Mixture of Experts с 512 экспертами и 10 маршрутизируемыми плюс одним общим активным экспертом, Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 000 000 токенов. Поддерживаемые языки в README не указаны. К сильным сторонам относятся разреженное внимание на уровне блоков, рассчитанное на снижение задержки при длинном контексте, экономичное масштабирование параметров и малая доля активных параметров относительно общего размера модели. Ограничения связаны с экспериментальным статусом архитектуры, потенциально высокими требованиями к памяти и вычислительным ресурсам, а также отсутствием в предоставленном README подробных результатов бенчмарков и описания языкового покрытия. Модель распространяется по лицензии qwen-community-1.0; указанный тип лицензии — other.

Vontra/Qwen3.8-Flash-Next-MLX-2bit-MTP — это MLX-конверсия базовой модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео на устройствах Apple Silicon через совместимые MLX-совместимые среды, включая oMLX и MLX-VLM. Архитектура указана как vision-language sparse MoE с компонентами Qwen4Exp. Модель содержит 125 млрд параметров, из которых около 6 млрд активируются при обработке запроса, 48 слоёв, скрытое состояние размером 2560, 512 маршрутизируемых экспертов, 10 активных экспертов на токен и один общий эксперт. Используются Gated DeltaNet, Qwen Sparse Attention, расширенные gated residual streams, хешированные биграммные и триграммные embedding-компоненты, а также собственный MTP-блок для speculative decoding. Контекст составляет 262 144 токена и может быть расширен до 1 млн токенов в исходной модели. Языки не указаны в предоставленных данных. Ключевая особенность версии — affine-квантизация 2-bit с размером группы 32 для экспертных и predictive-embedding-модулей при сохранении чувствительных компонентов, включая attention, vision-модули, embeddings, output head и native MTP, в BF16 или совместимой исходной точности. Размер весов составляет около 80,07 ГБ, формат — MLX safetensors. На Apple M3 Studio измеренная скорость генерации составила 29,37 токена в секунду при отключённом MTP и 28,62 токена в секунду при включённом, поэтому MTP рекомендуется отключать по умолчанию. Для работы требуется runtime с поддержкой архитектуры qwen4_exp и native MTP. Модель распространяется по лицензии Qwen Community License 1.0. В предоставленных данных не приведены подробные результаты исходных оценок, полный перечень поддерживаемых языков и ограничения безопасности; за ними следует обращаться к карточке базовой модели.

Rombos-2.5-T.E-8.1 — объединённая модель генерации текста, собранная с помощью mergekit из rombodawg/Rombos-LLM-V2.5-Qwen-7b и Cran-May/T.E-8.1. Она построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста; поддерживает формат ChatML и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Слияние выполнено методом SLERP с настройками весов для слоёв внимания и MLP; веса сохранены в формате safetensors. Карточка приводит результаты оценивания на IFEval и BBH. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на условиях распространения производных работ, но запрещает коммерческое использование. Данных о поддерживаемых естественных языках и отдельных ограничениях качества карточка не приводит.

Spartan_v1.0 — языковая модель, созданная слиянием моделей Meta Llama 3.1 с помощью mergekit и метода SLERP. В слияние вошли Meta-Llama-3.1-8B и Meta-Llama-3.1-8B-Instruct; модель содержит 7,5 млрд параметров и использует плотную архитектуру Llama для авторегрессионной генерации текста. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на запросы, написания и продолжения текста, а также сценариев с интерфейсом вызова инструментов. Заявленная длина контекста — 131 072 токена. Для работы используется библиотека Transformers, веса опубликованы в формате safetensors. В карточке не описаны отдельные языковые специализации или результаты оценки качества, поэтому их нельзя уверенно определить. Лицензия в предоставленных данных не указана. Производные модели Llama 3.1 распространяются на условиях лицензии Meta Llama 3.1; перед использованием следует сверить применимые условия с карточкой и лицензией базовых моделей.

SuperQwen3.8-abliterated-Venice-i1-GGUF — набор GGUF-квантизаций модели SuperQwen3.8-abliterated-100-fp8, разработанной Jiunsong и квантованной mradermacher. Модель предназначена для локального запуска задач генерации текста, рассуждений, работы с изображениями и текстом, вызова инструментов и сценариев с длинным контекстом. В карточке также указана поддержка английского и корейского языков. Это мультимодальная vision-модель с архитектурой и размером исходной модели, а также максимальной длиной контекста, не указанными в README. Доступны варианты i1-квантизации от i1-Q2_K размером около 11 ГБ до i1-Q6_K размером около 22,5 ГБ, включая IQ-квантизации. Разные варианты позволяют выбирать компромисс между размером, скоростью и качеством; для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. К сильным сторонам относятся мультимодальность, поддержка рассуждений, tool-calling, длинного контекста и широкий выбор квантизаций, включая варианты, оптимизированные по матрице важности. Ограничения — отсутствие в README точных сведений о характеристиках архитектуры, контекстном окне, производительности и качестве на тестах; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.

ClankLabs Wrench-35B-A3B-Q4_K_M-GGUF — квантизированная GGUF-версия модели Wrench 35B, разработанная ClankLabs на основе Qwen/Qwen3.5-35B-A3B. Это MoE-модель с 35 млрд общих и примерно 3 млрд активных параметров, дообученная методом LoRA для агентных сценариев, вызова инструментов и функций, восстановления после ошибок, планирования и точного следования системным инструкциям. Заявлена поддержка английского языка и генерации текста. Модель ориентирована на локальное развертывание в Ollama или llama.cpp, а также на использование через Clank Gateway. Ключевые возможности включают многошаговые задачи, параллельные и составные вызовы функций, обнаружение нерелевантных запросов, соблюдение форматов инструментов и безопасное ограничение действий. Внутренний тест Clank Agentic Benchmark дал 118 из 120 баллов, а на независимом BFCL non_live/AST модель получила 82,0% — 1128 правильных ответов из 1390. Контекстное окно составляет 8192 токена и может быть расширено до 32K. Модель распространяется по лицензии Apache 2.0. Используется квантизация Q4_K_M в формате GGUF; размер файла указан примерно как 20 ГБ, при этом заявлена возможность запуска на видеокарте с 16 ГБ VRAM. Обучение проводилось на двух NVIDIA H100 80GB примерно за один час на 1252 примерах из 15 категорий. Ограничения включают преимущественную ориентацию на английский язык, зависимость качества инструментальных вызовов от среды исполнения и заметно более низкую точность в отдельных категориях BFCL, включая простые вызовы на Java и JavaScript.

zephyr-7b-beta-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.1 и HuggingFaceH4/zephyr-7b-beta методом SLERP. Веса имеют около 7,1 млрд параметров, формат репозитория — safetensors, нативная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно использовать для чат-ботов, черновиков текстов, ответов на вопросы и кратких сводок. В README также перечислены отдельные варианты модели в форматах GPTQ и GGUF с разными уровнями квантизации для запуска на GPU или CPU и GPU. В метаданных указан английский язык. Качество ответов и фактическая точность могут различаться; для надёжных результатов требуется проверка человеком. Лицензия — Apache-2.0.

Aya 23 — открытая по весам мультиязычная instruction fine-tuned модель, разработанная Cohere For AI и основанная на семействе моделей Command. В каталоге cortexso/aya доступны варианты с 8 и 35 млрд параметров. Модель предназначена для генерации и понимания текста на 23 языках, а также для задач машинного перевода и других мультиязычных сценариев. К сильным сторонам Aya 23 относятся широкий языковой охват и ориентация на выполнение инструкций; среди поддерживаемых языков указаны арабский, китайский, английский, испанский, хинди и вьетнамский. README не содержит сведений о длине контекста, точной архитектуре, мультимодальности или количественной оценке ограничений, поэтому эти характеристики нельзя определить по имеющимся данным. Модель распространяется по лицензии CC-BY-NC-4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

Bonsai-2-27B-Ternary-JANG — мультимодальная модель с плотной архитектурой Qwen3.8-27B, подготовленная OsaurusAI как JANG-affine-перепаковка тернарных весов Prism ML. Модель предназначена для диалогов и рассуждений с текстом, а также обработки изображений и видео; в комплекте сохранены шаблон чата Qwen3.8, обработчики изображений и видео и интерфейс вызова инструментов. Текстовые веса исходной модели сохранены без повторной квантизации: 402 модуля используют тернарные значения в 2-битных слотах с группами размера 128. Некоторые линейные слои зрения хранятся в 6-битном формате, а ряд других параметров — в исходной точности. Архитектура включает 64 блока: 48 GatedDeltaNet и 16 блоков полного внимания. Для корректной работы необходим загрузчик с поддержкой JANG Hadamard; стандартные загрузчики mlx_lm и mlx_vlm могут выдавать неверные результаты. Модель распространяется по лицензии Apache-2.0.

Citaman/command-r-32-layer — языковая модель семейства Cohere, созданная автором репозитория с помощью mergekit на основе Citaman/command-r-33-layer. В README описано слияние SLERP: в итоговую модель включены срезы слоёв исходной модели, а веса сохранены в формате bfloat16. По метаданным модель содержит 28,4 млрд параметров, использует архитектуру CohereForCausalLM и доступна в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Максимальная длина контекста — 8192 токена. Лицензия и конкретные языки в предоставленных данных не указаны, поэтому область применения и языковую поддержку нельзя уточнить.

Это инструктивно настроенная причинная языковая модель для генерации текста и диалогов в формате чата. Репозиторий разработан latent-artist; модель построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для ответов на запросы и ведения диалога через текстовые промпты. В метаданных также отмечен интерфейс для вызова инструментов. Она принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов, а карточка указывает английский язык. Веса доступны в формате safetensors, для загрузки рекомендуется библиотека Transformers. Лицензия — Apache-2.0. Карточка не сообщает результатов оценки качества или специальных ограничений применения.

Gemma 2 27B — текстовая авторегрессионная языковая модель семейства Gemma, разработанного Google с использованием исследований и технологий, применявшихся при создании Gemini. Модель доступна с открытыми весами и предназначена для генерации текста; семейство Gemma включает предварительно обученные и настроенные для следования инструкциям варианты. В репозитории указаны формат safetensors и библиотека Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по чётко сформулированным запросам. В README заявлена поддержка английского языка; конкретные размер контекстного окна и число параметров здесь не приведены. Открытые веса позволяют запускать модель на собственном оборудовании или в облачной инфраструктуре. Ограничения включают возможные фактические ошибки, предвзятость, трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Gemma.

Это квантизированная instruction-tuned модель Gemma 3 12B, разработанная Google и представленная сообществом abhishekchohan в формате для размещения на Hugging Face. Модель предназначена для диалоговых сценариев и задач генерации текста, а также заявлена как image-text-to-text модель, то есть может обрабатывать текстовые и визуальные данные. В репозитории предусмотрены chat template и средства разбора tool calls для использования с vLLM. Модель использует архитектуру Gemma 3 с 12 миллиардами параметров и квантизацию W4A16, выполненную с помощью LLM Compressor: веса представлены в 4-битной точности, а активации — в 16-битной. Это существенно снижает требования к памяти и делает модель более подходящей для развёртывания на потребительском оборудовании при сохранении хорошего качества работы, однако квантизация может влиять на точность по сравнению с полной версией. Языки и размер контекстного окна в README не указаны. Для запуска рекомендуется vLLM с соответствующими chat template, parser для Gemma и поддержкой автоматического выбора инструментов. Модель распространяется на условиях Gemma license; перед использованием необходимо ознакомиться с условиями и принять лицензию Google на Hugging Face.

Gemma-SEA-LION-v3-9B — языковая модель, разработанная Products Pillar команды AI Singapore при финансировании Национального исследовательского фонда Сингапура. Это плотная авторегрессионная модель-декодер на архитектуре Gemma 2 с 9 млрд параметров, созданная продолжением предобучения Google Gemma 2 9B примерно на 200 млрд токенов. Она предназначена для генерации текста на английском и языках Юго-Восточной Азии: бирманском, китайском, филиппинском, индонезийском, кхмерском, лаосском, малайском, тамильском, тайском и вьетнамском. Контекст модели составляет 8192 токена. Модель подходит для генерации ответов и текстов, вопросов и ответов, анализа тональности и токсичности, перевода, суммаризации, причинных рассуждений и естественно-языкового вывода. Карточка сообщает об оценке на SEA-HELM, но не приводит в предоставленном тексте конкретные результаты. Модель не прошла выравнивание по безопасности, поэтому при использовании нужны собственные проверки и меры безопасности. Веса доступны в формате safetensors; лицензия — Gemma Community License.

canada-quant/GLM-5.3-Flash-W4A16-MTP — это квантизированная версия мультимодальной модели GLM-5.3-Flash, разработанной zai-org и подготовленной canada-quant. Модель предназначена для генерации текста и обработки изображений с текстом, включая сценарии с очень длинным контекстом и ускоренным инференсом на совместимом GPU-оборудовании. Заявлены английский и китайский языки, архитектура Transformers и контекст до 1 048 576 токенов. В модели применяется weight-only-квантизация INT4 (W4A16, GPTQ, group-128) для 36 288 routed-expert GEMM-операций. Веса занимают около 177,7 GiB вместо примерно 599 GiB в BF16. Компоненты внимания, маршрутизатор, shared experts, embeddings, vision tower и BF16 MTP draft head сохранены без квантизации; MTP используется для speculative decoding. Артефакт рассчитан на запуск, в частности, на 4× H100/H200, 4× RTX PRO 6000 или 2× DGX Spark, при этом максимальный подтверждённый контекст зависит от конфигурации оборудования. Сильные стороны модели — существенно сниженные требования к памяти, поддержка длинного контекста, мультимодальность и ускорение генерации за счёт MTP. README приводит высокие результаты на AIME 2026 и GSM8K, а также сравнительные показатели производительности на H100, H200 и DGX Spark. Ограничения включают зависимость доступного контекста и скорости от конкретного оборудования и serving stack; модель не является новой базовой разработкой, а сохраняет возможности исходной GLM-5.3-Flash с компромиссами квантизации. Лицензия — MIT.

Idefics2-8b — мультимодальная модель компании Hugging Face, объединяющая зрительный энкодер SigLIP и языковую модель Mistral-7B. Модель содержит 8 млрд параметров, принимает текстовые запросы и одно или несколько изображений, в том числе в произвольном чередовании с текстом, и генерирует текстовые ответы. Основной язык карточки — английский. Лицензия — Apache 2.0. Модель предназначена для ответов на вопросы об изображениях, создания подписей, чтения текста на изображениях и документах, а также анализа диаграмм и графиков. Архитектура обрабатывает изображения с сохранением их исходного разрешения и соотношения сторон; поддерживается разрешение до 980 × 980 пикселей и разбиение на подизображения. Генерация изображений не поддерживается. Версия Idefics2-8b дообучена следовать инструкциям и подходит для использования без дополнительной настройки или как основа для дообучения под конкретные задачи. Обычно модель отвечает кратко; для длинных ответов авторы рекомендуют вариант idefics2-8b-chatty. Модель может выдавать фактически неверные ответы и вредные стереотипы, поэтому она не предназначена для принятия решений с серьёзными последствиями. Для работы с Transformers следует учитывать несовместимость версий 4.41.0–4.43.3 включительно.