I.3Извлечение и структурирование данных

Qwen3-4B-Instruct-2507-MLX-8bit — 8-битная квантованная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX — фреймворка Apple Machine Learning Research, ориентированного на эффективное выполнение моделей на устройствах Apple Silicon. Модель предназначена для генерации текста в инструкционном формате и локального использования на совместимых компьютерах Apple Silicon. Она подходит для диалоговых приложений, обработки инструкций и других задач текстовой генерации. Модель имеет размер 4B параметров, относится к текстовым моделям и доступна в 8-битном формате MLX. Другие характеристики, включая поддерживаемые языки, длину контекста и точные параметры архитектуры, в README не указаны. Ключевое преимущество модели — сочетание компактного размера, 8-битной квантования и оптимизации под Apple Silicon, что делает её более подходящей для локального запуска с ограниченными ресурсами. Ограничения включают возможное снижение точности по сравнению с исходной моделью и типичные для языковых моделей риски генерации неточной, вредной или неподходящей информации. Модель распространяется по лицензии Apache-2.0.

LWWZH/Qwen3.5-4B-int4-OpenVINO — версия мультимодальной модели Qwen3.5-4B, подготовленная для OpenVINO и сжимающая веса преимущественно до int4. В карточке указано, что исходная Qwen3.5-4B разработана командой Qwen; метаданные связывают этот репозиторий с Qwen/Qwen3.5-4B. Это плотная причинная языковая модель с визуальным энкодером, рассчитанная на диалог и понимание изображений. Модель подходит для ответов на вопросы по изображениям, визуального анализа, диалоговых сценариев и задач рассуждения. Архитектура исходной модели включает 4 млрд параметров и 32 слоя; нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000. README заявляет поддержку 201 языка и диалекта. Модель по умолчанию работает в режиме рассуждений; для обслуживания в высоконагруженных сценариях карточка рекомендует специализированные движки инференса. Сжатие весов в этой версии распределено между int4 и int8, преимущественно int4 с размером группы 128. Лицензия — Apache-2.0. README относится к исходной модели и не приводит отдельных результатов оценки или ограничений именно сборки OpenVINO, поэтому её производительность и совместимость следует оценивать в целевом окружении.

MuXodious/Qwen3.5-4B-SOMPOA-heresy-v2-MTP — мультимодальная модель на 4 млрд параметров, созданная на основе Qwen3.5-4B. По карточке, её дообучили с помощью Heretic и методов SOMA и MPOA для подавления отказов; также восстановлены веса Multi Token Prediction из базовой модели. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером; заявлены диалог, понимание изображений и интерфейс вызова инструментов. Модель предназначена для диалога, рассуждений, работы с изображениями и агентных сценариев с инструментами. В карточке базовой модели указана поддержка 201 языка и диалекта, а контекстное окно составляет 262 144 токена с возможностью расширения до 1 010 000. Репозиторий содержит веса Safetensors для Transformers; карточка также называет совместимость с vLLM, SGLang и KTransformers. В README сообщается о низкой частоте отказов в использованной авторами проверке, поэтому модель может отвечать на запросы, которые базовая модель отклоняла. Это не гарантирует фактическую точность ответов и может снижать надёжность защитных отказов. Лицензия — Apache-2.0.

Qwen3.6-11B-A3B-Niwaki-4bit-GGUF — это GGUF-сборка модели Qwen3.6, разработанной командой Qwen и адаптированной проектом Niwaki. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая генерацию текста, диалог, рассуждения, краткие творческие задачи и программирование. В README указаны архитектура mixture-of-experts с 40 слоями, 256 маршрутизируемыми экспертами и выбором top-8 экспертов; общий размер модели составляет 11B параметров, активными являются примерно 3,05B. Размер промежуточного слоя экспертов уменьшен с 512 до 128, а контекстное окно соответствует базовой модели, но его точный размер не указан. Требуется актуальная версия llama.cpp с поддержкой Qwen3.6 и hybrid linear attention. Рекомендуемая сборка UD-Q3K занимает около 5,9 ГБ и использует структурно-ориентированное 4-битное квантование: постоянно активные компоненты хранятся с более высокой точностью, а маршрутизируемые эксперты — в компактном формате с калибровкой по матрицам важности. Также доступна сборка Q4_K_M размером около 7,0 ГБ. Модель показывает функциональные результаты в чат-сценариях, рассуждениях и кратком написании, однако её слабая сторона — продолжительная генерация кода: на длинных программных файлах возможны ранняя остановка и потеря связности. Для интенсивной работы с кодом README рекомендует более крупную 19B-модель. Лицензия — Apache 2.0; pruning, distillation и GGUF-сборки выполнены проектом Niwaki.

Qwen3.8-27B-SSMFIX-UD-Q3_K_XL-GGUF — экспериментальная community-конверсия, опубликованная Luis23333. Модель основана на официальной Qwen3.8-27B через промежуточную исправленную BF16-версию redashes/Qwen3.8-27B-BF16-SSMFIX. Это неофициальный релиз Qwen и не подтверждённая официальная корректировка исходной модели. Модель предназначена для текстовой генерации, диалога, рассуждений и других задач inference через llama.cpp и совместимые GGUF-рантаймы. Это плотная модель семейства Qwen3.8 с 27 млрд параметров, формата GGUF V3, с пользовательской смешанной квантизацией UD-Q3_K_XL и размером около 12,52 GiB. Заявленный контекст унаследован от upstream-модели и составляет до 262 144 токенов, однако фактическая доступная длина зависит от оборудования и настроек рантайма. Поддерживаются английский и китайский языки. В основе версии лежит исправление масштабов SSM/conv1d в восьми слоях; соответствующие тензоры сохранены в формате F32, а остальные группы используют комбинацию IQ3_S, Q3_K, Q5_K и IQ4_XS с importance matrix. Это может улучшать сохранение характеристик исправленного источника при низком размере файла, но конкретные показатели качества для данного GGUF в README не приведены: опубликованные метрики относятся к BF16-источнику и не являются benchmark-результатами этой квантизованной версии. Исходная Qwen3.8 является vision-language моделью, но данный репозиторий содержит только языковой GGUF без файла mmproj или другого vision projector, поэтому артефакт предназначен исключительно для текстового inference и не поддерживает обработку изображений или видео в таком составе. Для работы требуется современная сборка llama.cpp с поддержкой архитектуры Qwen3.8/Qwen3.5; существенные ограничения могут возникать из-за объёма видеопамяти и длины контекста. Лицензия — Apache-2.0.

empero-ai/Qwen3.8-9B-Distill-GGUF — набор GGUF-квантизаций модели, разработанной Empero. Это дистилляция крупной Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B, предназначенная для генерации текста и запуска в llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и других совместимых средах. Указан английский язык; поддерживаемые модальности и размер контекста в карточке не уточняются. Модель имеет гибридную архитектуру Qwen3.5 с тремя слоями Gated DeltaNet на каждый слой полной attention-механики и ориентирована на reasoning-сценарии. В карточке приведены варианты от Q4_K_M размером 5,780 GB до BF16 размером 18,407 GB; рекомендуемым считается Q4_K_M как оптимальный баланс качества и объёма. Для работы требуется современная сборка llama.cpp с поддержкой Qwen3.5 и Gated DeltaNet. Модель использует встроенный шаблон чата и формирует рассуждения в блоках <think>, которые при необходимости следует удалять из пользовательского вывода. По заявленным оценкам исходной модели, дистилляция заметно улучшает результат на MMLU по сравнению с базовой Qwen3.5-9B, однако немного уступает ей на GSM8K. К ограничениям относятся необходимость совместимого рантайма, потребность в дополнительной памяти под KV-кэш при длинном контексте и отсутствие в этой карточке подробных бенчмарков и рекомендаций по применению. Веса распространяются по лицензии Apache-2.0.

ggml-org/Qwen3-8B-GGUF — это квантизированная версия языковой модели Qwen3-8B, автоматически преобразованная в формат GGUF проектом ggml-org. Исходная модель разработана командой Qwen; в карточке также указаны связанные исходные модели Qwen/Qwen3-8B, z-lab/Qwen3-8B-DFlash-b16 и deepseek-ai/dspark_qwen3_8b_block7. Модель предназначена для генерации текста и может использоваться через совместимые инструменты, включая llama.app. Объём модели составляет 8B параметров; формат GGUF и квантизация ориентированы на более удобный запуск и эффективное использование ресурсов по сравнению с полноразмерной версией. Сведения о конкретном варианте квантизации, архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Модель распространяется по лицензии Apache-2.0. Ограничения по качеству, точности, требованиям к оборудованию и рекомендуемым сценариям использования отдельно не описаны.

ISTA-DASLab/Qwen3-8B-GGUF-GSQ — это квантизированная версия языковой модели Qwen3-8B, разработанной командой Qwen и доработанной ISTA-DASLab с применением метода GSQ (Gumbel-Softmax Quantization). Модель предназначена для генерации текста и запуска локальных больших языковых моделей с пониженным потреблением памяти. Модель поставляется в формате GGUF K-Quant с вариантами разной точности, включая Q2_K, Q4_K и Q6_K. Квантизация начинается с публичной инициализации Unsloth GGUF, после чего дискретные значения весов уточняются методом GSQ и упаковываются обратно в тот же формат K-Quant. Размер модели составляет 8 миллиардов параметров. Поддерживаются llama.cpp, Ollama, LM Studio и другие программы, совместимые с GGUF. Ключевое преимущество модели — улучшение качества при агрессивной низкобитной квантизации: для варианта Q2_K средний результат бенчмарков повышен с 50,03 до 56,28 относительно исходной инициализации Unsloth. При этом сохраняются стандартная структура GGUF K-Quant и совместимость с существующими инструментами. Ограничения включают возможную потерю качества по сравнению с полной точностью и отсутствие в README сведений о языках, максимальном контексте, поддерживаемых модальностях и подробных результатах по отдельным тестам. Модель распространяется по лицензии Apache-2.0.

nytopop/Qwen3-8B.w8a8 — это квантованная версия языковой модели Qwen3-8B, разработанная на основе Qwen/Qwen3-8B. Модель предназначена для генерации текста и может использоваться в сценариях диалоговых приложений, ассистентов и других задач, поддерживаемых causal language models. В README также указана совместимость с reasoning parser qwen3. Модель использует 8-битное квантование W8A8 с применением SmoothQuant и GPTQ; вариант оптимизирован для производительности на GPU архитектуры Ampere. При создании использовались 256 калибровочных примеров с максимальной длиной последовательности 4096 токенов, однако эти параметры не подтверждают предельный контекст исходной модели. Размер модели, архитектурные детали, поддерживаемые языки и модальности в README не указаны. Основное преимущество версии — снижение вычислительных и, вероятно, ресурсных затрат по сравнению с полноразмерной моделью при сохранении назначения исходной Qwen3-8B. Ограничения квантования и точность на конкретных задачах не описаны, поэтому качество следует оценивать отдельно. Модель распространяется по лицензии Apache-2.0.

minjaechoi/qwen3next-80b-a3b-2p25bit-r24 — исследовательский вариант Qwen3-Next-80B-A3B-Thinking с разреженной MoE-архитектурой. Веса маршрутизируемых экспертов усечены до среднего уровня 2,25 бита, остальные веса хранятся в BF16; тензоры весов сохранены в BF16 после деквантизации. Модель предназначена для генерации текста и диалоговых сценариев, включая сложные рассуждения и работу с длинным контекстом; метаданные указывают контекст длиной до 262 144 токенов и интерфейс вызова инструментов. Размер в метаданных указан как 2,3 млрд параметров. Репозиторий использует библиотеку Transformers и формат safetensors. README сообщает, что загрузка возможна через стандартные Transformers и vLLM. Модель основана на Qwen/Qwen3-Next-80B-A3B-Thinking; лицензия наследуется от базовой модели, поэтому её условия следует проверять в карточке базы. README обозначает её как внутренний исследовательский чекпойнт.

Qwen3-Next-80B-A3B-Thinking-4bit — языковая модель для генерации текста, опубликованная сообществом mlx-community. Она представляет собой конвертированную в формат MLX версию базовой модели Qwen/Qwen3-Next-80B-A3B-Thinking; конвертация выполнена с использованием mlx-lm версии 0.27.1. Модель предназначена для запуска и генерации текста в экосистеме MLX, в частности через библиотеку mlx-lm на совместимых системах. Из известных характеристик указаны размер исходной модели 80B и 4-битное квантование, обозначенное в идентификаторе модели. Название Thinking указывает на ориентированность исходной модели на задачи, требующие рассуждений, однако README не содержит подробностей об архитектуре, количестве активных параметров, языках, размере контекста, поддерживаемых модальностях или результатах тестирования. В README также не описаны конкретные сильные стороны и ограничения качества модели; практические характеристики зависят от среды MLX и доступных вычислительных ресурсов. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; README приводит пример загрузки модели, токенизатора и генерации ответа с поддержкой chat template, если он определён.

bartowski/Qwen_Qwen3.6-27B-GGUF — это набор GGUF-квантизаций языковой модели Qwen3.6-27B, разработанной Qwen и опубликованной в формате, совместимом с llama.cpp. Квантизации подготовлены bartowski с использованием imatrix и предназначены для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В метаданных указано назначение image-text-to-text, однако подробные сведения о поддержке изображений в README отсутствуют. Модель имеет 27 млрд параметров и доступна в вариантах от BF16 до низкобитных Q3, Q4, Q5, Q6, Q8 и IQ-квантизаций. Размер файлов составляет примерно от 13,5 до 54,7 ГБ; варианты с более высокой точностью обычно сохраняют лучшее качество, а низкобитные версии требуют меньше оперативной памяти. Для некоторых конфигураций заявлена поддержка MTP-слоёв через параметр draft-mtp в llama.cpp. Формат prompt использует специальные маркеры ролей system, user и assistant с секцией рассуждений think. Модель подходит для локальной генерации текста и мультимодальных сценариев, если соответствующая поддержка реализована используемым инструментом, однако языки, размер контекста, архитектурные детали исходной модели и конкретные возможности работы с изображениями в предоставленных данных не указаны. Сильные стороны — широкий выбор квантизаций, возможность запуска на различном оборудовании и заявленное высокое качество вариантов Q5–Q8; ограничения связаны с ростом потерь качества у низкобитных вариантов и значительными требованиями к памяти. Указана лицензия Apache-2.0.

Qwerus-7B — языковая модель на 7,1 млрд параметров, созданная mlabonne слиянием моделей PRIME-RL/Eurus-2-7B-PRIME и Qwen/Qwen2.5-7B-Instruct методом DARE-TIES. Она предназначена для диалогов и генерации текста, в том числе для задач рассуждения и решения математических задач. Модель основана на архитектуре Qwen2, принимает текст и выдаёт текст; заявленный контекст составляет 131 072 токена. В метаданных также указана возможность работы через интерфейс вызова инструментов. Карточка приводит результаты оценки на AIME 2024 и MATH-500; в этих тестах Qwerus-7B показала более низкие значения, чем Qwen2.5-7B-Instruct. Поддерживаются китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Модель распространяется под лицензией MIT.

RekaAI_reka-flash-3.1-GGUF — набор GGUF-квантизованных версий модели RekaAI/reka-flash-3.1, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp; README также указывает формат промпта human: {system_prompt} {prompt} <sep> assistant:. Доступны варианты от исходных весов BF16 размером 41,82 ГБ до компактных квантований Q2 и IQ3 размером примерно от 9,18 ГБ, а также Q3, Q4, Q5, Q6 и Q8. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют больше памяти; Q4_K_M обозначен как рекомендуемый вариант общего назначения, а Q5 и Q6 — как высококачественные варианты. Некоторые форматы оптимизированы для определённых аппаратных платформ, включая Apple silicon, ARM и AVX CPU. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях и размере контекста исходной модели, поэтому эти характеристики нельзя достоверно указать. Ограничения связаны с потерями качества при низких уровнях квантования и значительными требованиями к памяти у крупных вариантов. Распространение указано по лицензии Apache-2.0.

Rombos-2.5-T.E-8.1 — объединённая модель генерации текста, собранная с помощью mergekit из rombodawg/Rombos-LLM-V2.5-Qwen-7b и Cran-May/T.E-8.1. Она построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста; поддерживает формат ChatML и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Слияние выполнено методом SLERP с настройками весов для слоёв внимания и MLP; веса сохранены в формате safetensors. Карточка приводит результаты оценивания на IFEval и BBH. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на условиях распространения производных работ, но запрещает коммерческое использование. Данных о поддерживаемых естественных языках и отдельных ограничениях качества карточка не приводит.

Muennighoff/SGPT-125M-weightedmean-nli — модель эмбеддингов предложений на архитектуре GPT-Neo, разработанная для представления текста в виде векторов и сравнения семантической близости предложений. Она содержит 137,7 млн параметров, принимает текст и поддерживает контекст до 2048 токенов. В README указано обучение с MultipleNegativesRankingLoss и косинусным сходством, что подходит для сопоставления текстовых запросов и документов, поиска похожих предложений и ранжирования кандидатов по близости. Модель опубликована в формате PyTorch. В карточке не указаны лицензия и поддерживаемые естественные языки, поэтому их нельзя определить по имеющимся данным. README отсылает к коду проекта и статье за инструкциями и результатами оценки, но сами результаты и детали применения в карточке не приведены.

Muennighoff/SGPT-125M-weightedmean-nli-bitfit — модель Sentence Transformers на архитектуре GPT-Neo, предназначенная для получения векторных представлений предложений и сравнения их семантического сходства. Она содержит 137,7 млн параметров, принимает текст, выдаёт эмбеддинги и поддерживает контекст до 2048 токенов. Модель обучена с помощью MultipleNegativesRankingLoss с косинусной мерой сходства на данных без повторов в батчах. Её можно применять для поиска семантически близких предложений, сопоставления запросов с текстами и ранжирования кандидатов по смысловой близости. README ссылается на код проекта и публикацию для инструкций и результатов оценки, но не приводит их непосредственно. В метаданных указана лицензия? Нет сведений о лицензии в доступных данных.

Shisa V2 405B — универсальная чат-модель Shisa.AI, дообученная на основе Meta Llama 3.1 405B Instruct. Это плотная авторегрессионная языковая модель на 403,7 млрд параметров с контекстом до 131 072 токенов; она принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Основной упор сделан на японский язык при сохранении сильных возможностей на английском; в обучающие данные также включены примеры на корейском и традиционном китайском. Модель предназначена для диалога, выполнения инструкций, генерации текста и перевода, в том числе для японских задач. Разработчик сообщает об улучшении японских результатов относительно базовой модели и приводит сравнительные оценки на нескольких бенчмарках; результаты зависят от методики оценки. Для запуска проверены vLLM и SGLang, а веса опубликованы в формате Safetensors. Модель распространяется по лицензии Llama 3.1. Она требует значительных вычислительных ресурсов из-за размера в 405 млрд параметров; заявленные результаты бенчмарков не гарантируют качество на конкретных задачах, а основной акцент обучения сделан на японском и английском языках.

Joseph717171/SOLAR-19.2B-Instruct-v1.0 — разговорная языковая модель, созданная слиянием моделей через mergekit. В карточке она описана как увеличенная версия SOLAR-10.7B-Instruct-v1.0 с чередованием слоёв; метаданные указывают архитектуру LlamaForCausalLM и около 18,5 млрд параметров. Модель принимает текстовые запросы и генерирует текст, а её контекст составляет 4096 токенов. Модель предназначена для диалогов и ответов на инструкции, а также как основа для дальнейшего дообучения или замена исходной версии SOLAR 10.7B. Для обучения использовались наборы Alpaca-GPT4, OpenOrca, Orca DPO и UltraFeedback; карточка также упоминает SFT и DPO. Заявленная лицензия — CC; конкретный вариант лицензии в предоставленных данных не уточнён.

Tess-72B-v1.5b — универсальная большая языковая модель из серии Tess, разработанная migtissera и обученная на базе Qwen-72B. Это плотная авторегрессионная модель семейства Llama с 71 млрд параметров, предназначенная для генерации текста и диалогов в формате SYSTEM/USER/ASSISTANT. Контекст модели составляет 32 768 токенов; веса доступны в формате safetensors. Модель подходит для ответов на вопросы, помощи с текстовыми задачами и рассуждений общего назначения. В карточке приведены результаты Open LLM Leaderboard, включая среднюю оценку 77,30 и результаты ARC и HellaSwag. Поддерживаемые языки и прикладные специализации отдельно не заявлены. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.

vSR Embeddings v1 Text Small — мультиязычная модель текстовых эмбеддингов, разработанная Xunzhuo для семантического поиска, сопоставления текстов, кластеризации и маршрутизации запросов в AI-шлюзах. Это дообученная плотная модель семейства Qwen3 примерно на 508 млн параметров, распространяемая в формате safetensors по лицензии MIT. Модель использует инструкции для ролей запроса и документа и поддерживает Matryoshka-векторы размерностью 1024, 512, 256, 128 или 64, позволяя выбирать баланс между скоростью и точностью. Для длинных документов README описывает разбиение на фрагменты по 320 токенов с перекрытием 64 токена и оценивание по максимальному сходству запроса с фрагментами; заявленный рабочий предел такого сценария — 32 тысячи токенов. Нативное окно контекста — 32 768 токенов. Модель предназначена для высокопроизводительного поиска и маршрутизации; в README приведены результаты MTEB Multilingual v2 и профиль производительности на AMD MI300X, которые зависят от конфигурации сервера. Это биэнкодер для получения эмбеддингов, а не кросс-энкодер-реранкер и не классификатор безопасности на уровне последовательности.

asthrabala/whisper-medium-finetuned — модель автоматического распознавания речи семейства Whisper с 455,8 млн параметров. Она опубликована для использования с библиотекой Transformers и предназначена для преобразования аудиозаписей в текст. Модель подходит для транскрибации голосовых сообщений, интервью, встреч, лекций и других аудиоматериалов. README не содержит сведений о конкретном языке или наборе данных, на котором выполнялось дообучение, поэтому языковую специализацию и качество на отдельных типах аудио определить нельзя. В карточке модели не указаны разработчик, лицензия, результаты оценки, ограничения по применению и подробности обучения. Перед использованием в критически важных сценариях необходимы собственная проверка качества и уточнение условий лицензирования.

ClankLabs Wrench-35B-A3B-Q4_K_M-GGUF — квантизированная GGUF-версия модели Wrench 35B, разработанная ClankLabs на основе Qwen/Qwen3.5-35B-A3B. Это MoE-модель с 35 млрд общих и примерно 3 млрд активных параметров, дообученная методом LoRA для агентных сценариев, вызова инструментов и функций, восстановления после ошибок, планирования и точного следования системным инструкциям. Заявлена поддержка английского языка и генерации текста. Модель ориентирована на локальное развертывание в Ollama или llama.cpp, а также на использование через Clank Gateway. Ключевые возможности включают многошаговые задачи, параллельные и составные вызовы функций, обнаружение нерелевантных запросов, соблюдение форматов инструментов и безопасное ограничение действий. Внутренний тест Clank Agentic Benchmark дал 118 из 120 баллов, а на независимом BFCL non_live/AST модель получила 82,0% — 1128 правильных ответов из 1390. Контекстное окно составляет 8192 токена и может быть расширено до 32K. Модель распространяется по лицензии Apache 2.0. Используется квантизация Q4_K_M в формате GGUF; размер файла указан примерно как 20 ГБ, при этом заявлена возможность запуска на видеокарте с 16 ГБ VRAM. Обучение проводилось на двух NVIDIA H100 80GB примерно за один час на 1252 примерах из 15 категорий. Ограничения включают преимущественную ориентацию на английский язык, зависимость качества инструментальных вызовов от среды исполнения и заметно более низкую точность в отдельных категориях BFCL, включая простые вызовы на Java и JavaScript.

Yi-1.5-6B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi-1.5-6B-Chat, разработанной 01.AI. Репозиторий подготовлен bartowski с использованием llama.cpp и метода imatrix; модель предназначена для генерации текста и общения в формате system/user/assistant, а также для локального запуска через совместимые инструменты llama.cpp. Модель содержит около 6 миллиардов параметров и поставляется в формате GGUF с вариантами квантизации от Q8_0 до IQ1_S. Размер файлов составляет примерно от 1,43 до 6,44 ГБ. Более высокие варианты квантизации обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые, тогда как варианты с очень низкой точностью могут заметно уступать по качеству. README не содержит сведений об архитектуре, размере контекста, поддерживаемых языках и мультимодальности, поэтому эти характеристики нельзя достоверно указать. Основные преимущества — широкий выбор уровней квантизации, возможность подобрать баланс между качеством и требованиями к памяти, а также пригодность для локального использования. Ограничения связаны с потерями качества при низкой точности квантизации и зависимостью от корректного prompt format. Распространение указано по лицензии Apache-2.0.

Zen Embedding — текстовая модель для построения плотных эмбеддингов, опубликованная zenlm как часть линейки Zen. Она перепакована из Qwen/Qwen3-Embedding-8B и не обучалась с нуля; репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Sentence Transformers. Модель предназначена для поиска по смыслу, dense retrieval и систем RAG, где документы и запросы кодируются в векторы для поиска релевантного содержимого. Метаданные указывают 7,6 млрд параметров и контекст до 40 960 токенов; среди языков карточки отмечены английский и китайский. Лицензия — Apache-2.0. Ограничения: карточка не приводит результатов сравнительных тестов качества или подробных рекомендаций по эксплуатации.

ZEUS-8B-V14 — объединённая модель для генерации текста и диалогов на базе семейства Llama 3.1. Согласно карточке, её создали методом DARE TIES, объединив unsloth/Meta-Llama-3.1-8B-Instruct с моделями Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B и Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров, построена на архитектуре LlamaForCausalLM и работает с контекстом до 131 072 токенов. Модель предназначена для генерации текста и ведения диалогов; метаданные также указывают интерфейс вызова инструментов. В README приведены результаты оценки на IFEval и BBH, однако подробные сравнительные данные и описание целевого поведения ограничены. Модель опубликована в формате safetensors; дата публикации — 30 декабря 2024 года. Лицензия в предоставленных данных не указана.

ZEUS 8B V22 — объединённая языковая модель, созданная с помощью mergekit методом DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в объединении также участвовали Llama-3.1-8B-Lexi-Uncensored-V2, Llama-3.1-Storm-8B, Llama-3.1-SuperNova-Lite и Llama-3.1-SauerkrautLM-8b-Instruct. Модель построена на архитектуре Llama и содержит 7,5 млрд параметров. Модель предназначена для диалогов и генерации текста. Поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Для использования модели требуется соблюдать лицензию llama3.1. Подробности о языках и качестве на конкретных задачах в доступной карточке не приведены.

ZEUS 8B V27 — языковая модель, созданная автором репозитория T145 слиянием нескольких моделей через mergekit и метод DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в слияние также вошли модели Skywork, HuatuoGPT, SuperNova Lite, SauerkrautLM, Lexi Uncensored и Storm. Это плотная авторегрессионная архитектура Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель подходит для диалоговых приложений и генерации ответов по инструкциям. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти оценки не гарантируют качество на конкретных пользовательских задачах. Языки, на которых модель специально оптимизирована, в предоставленных данных не обозначены. Лицензия в предоставленной карточке и метаданных отсутствует, поэтому условия использования здесь определить нельзя.

Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240202154404-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240202154404-latest на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.