I.3Извлечение и структурирование данных

fcmeyer/Qwen3.8-27B-MLX-bf16-mtp — конверсия мультимодальной модели Qwen/Qwen3.8-27B в формат MLX bf16 для запуска через движок oMLX на компьютерах Apple Silicon. Веса сохранены без квантизации, включая головку MTP для спекулятивного декодирования Lightning-MTP; в модели также сохранена визуальная башня для анализа изображений и видео. Архитектура плотная, размер базовой модели — 27 млрд параметров. Модель предназначена для диалогов и понимания изображений и видео. При запуске через oMLX можно включить MTP для ускорения генерации; автор сообщает о двукратном ускорении декодирования на M5 Max с 128 ГБ памяти, а также о проверке поиска по длинному контексту и привязки ответов к изображениям. README демонстрирует контекстное окно до 262 144 токенов в конфигурации oMLX. Репозиторий содержит конвертированные веса, поэтому это не отдельное дообучение, а преобразование формата и точности исходной модели для MLX. Лицензия — Apache-2.0. Для запуска требуются Apple Silicon, oMLX и около 52 ГБ памяти под веса; измерения производительности относятся к конкретной конфигурации M5 Max.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4 — это производная NVFP4-квантованная версия модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, размещённая пользователем или организацией esatapedico. Базовая модель, в свою очередь, создана на основе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и запуска через Transformers; заявленная лицензия — Apache 2.0. Модель содержит 64 слоя и использует гибридную архитектуру с GatedDeltaNet, 16 слоями полноценного attention и MTP head для speculative decoding. Контекст составляет 262144 токена. Указана поддержка английского и многоязычного ввода, однако конкретный перечень языков не приведён. Веса линейных слоёв сжаты в формате compressed-tensors NVFP4 по схеме W4A16 с группами размера 16 и масштабами FP8 E4M3; vision tower, linear attention path, lm_head, embeddings и MTP head сохранены в BF16. Калибровочные данные не использовались. Ключевое преимущество — существенное уменьшение размера весов при сохранении отдельных чувствительных компонентов в BF16; файл checkpoint занимает около 26 ГБ. Модель рассчитана на совместимое аппаратное и программное окружение, поддерживающее формат NVFP4 и compressed-tensors, а тег blackwell указывает на ориентированность сборки на соответствующие ускорители. README не содержит результатов бенчмарков, подробных сведений о качестве, системных требованиях или подтверждениях совместимости с конкретными версиями библиотек, поэтому фактические характеристики производительности требуют отдельной проверки.

Qwen3.8-27B-Uncensored-Cyber-i1-GGUF — квантизированная GGUF-версия модели HFCK99/Qwen3.8-27B-Uncensored-Cyber, подготовленная mradermacher. Модель относится к семейству Qwen3, имеет около 27 млрд параметров и предназначена для локального запуска в совместимых приложениях, поддерживающих формат GGUF. В описании она обозначена как vision-модель для задач image-text-to-text, то есть может обрабатывать изображения и текст; заявленный язык — английский. Репозиторий содержит набор вариантов квантизации i1, включая Q2_K, Q3_K, IQ3, Q4, Q5 и Q6, размером примерно от 11 до 22,5 ГБ. Более компактные варианты требуют меньше памяти, но обычно уступают старшим по качеству; Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как компромисс между размером, скоростью и качеством. Также предоставлен imatrix-файл для создания собственных квантов. Точное устройство архитектуры, размер контекстного окна и перечень поддерживаемых языков, помимо английского, в README не указаны. Модель ориентирована на универсальные текстовые и мультимодальные сценарии, включая диалоговую работу с текстом и анализ изображений, при этом в названии и тегах отмечены особенности uncensored и abliterated. К ограничениям относятся неизбежные потери качества у низкобитных квантов, требования к значительному объёму оперативной или видеопамяти и отсутствие подробных результатов тестирования. Указанная лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантов 27-миллиардной модели Qwen3.8, подготовленный OrcaRouter на основе Qwen/Qwen3.8-27B. Это abliterated-версия с существенно удалёнными механизмами отказа от ответов. Модель предназначена для локального запуска через llama.cpp, включая сценарии исследований интерпретируемости, AI-безопасности, red-teaming и оценки устойчивости. Для практического применения требуется самостоятельно добавлять механизмы модерации и безопасности. Модель представляет собой плотную hybrid-attention архитектуру, сочетающую линейное внимание Gated DeltaNet и обычное full attention. Она поддерживает текст и изображения, reasoning, tool calling и MTP-голову для speculative decoding. Заявлены английский и китайский языки. Для обработки изображений нужен отдельный vision-проектор mmproj; поддерживаются CPU, CUDA, Metal и ROCm. Доступны варианты квантования от 2 до 16 бит, размер файлов — примерно от 8,9 до 54,7 ГБ; Q4_K_M указан как основной баланс качества и размера, а IQ4_XS — как предпочтительный вариант среди низкобитных квантов. К сильным сторонам относятся широкий выбор квантований, локальный запуск на различных аппаратных платформах, мультимодальность, поддержка инструментов и более эффективное speculative decoding с MTP. Ограничения включают необходимость свежей версии llama.cpp с поддержкой архитектуры qwen35 и MTP, заметное снижение качества у низкобитных вариантов, а также отсутствие встроенных защитных ограничений: модель может выполнять вредоносные или незаконные запросы. Лицензия — Apache 2.0, унаследованная от базовой модели; использование должно соответствовать законодательству и условиям лицензии.

G37A/Qwen3-Embedding-0.6B-80k-squad — дообученная модель семейства Qwen3 от G37A на базе Qwen/Qwen3-Embedding-0.6B. Она предназначена для создания текстовых эмбеддингов и семантического поиска в сценариях вопросов и ответов на украинском языке; при дообучении использованы наборы FIdo-AI/ua-squad и G37A/ua-retrieval-80k-silver. Модель содержит 507,6 млн параметров, использует архитектуру Qwen3ForCausalLM, формат safetensors и контекст до 32 768 токенов. Лицензия — Apache-2.0. Карточка указывает специализацию на украинских QA и retrieval; сведений о сравнительных оценках качества нет.

Qwen3-ForcedAligner-0.6B-hf — модель принудительного выравнивания речи от команды Qwen. Она принимает аудио и готовую расшифровку, а затем предсказывает временные метки для её единиц; распознавать речь для получения текста может отдельная ASR-модель. Модель поддерживает китайский, английский, кантонский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский языки и выравнивает аудио длительностью до пяти минут. Модель относится к семейству Qwen3-ASR и использует архитектуру Qwen3ASRForTokenClassification. Нерегрессионный режим выполнения делает её подходящей для пакетной обработки аудио; в README также описано ускорение с помощью torch.compile. Метаданные указывают библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0. Для работы требуется аудио и текстовая транскрипция, полученная заранее, например, с помощью Qwen3-ASR или другой системы распознавания речи. Модель предназначена для разметки времени произнесённых слов или других единиц, а не для самостоятельного распознавания речи; в README также не заявлена поддержка иных типов аудио, кроме речи.

Ruri-Small v2 — модель эмбеддингов японских текстов от cl-nagoya, созданная дообучением cl-nagoya/ruri-pt-small-v2. Это Sentence Transformer на архитектуре DistilBERT с 68 млн параметров. Модель кодирует предложения и тексты в векторы размерностью 768; для сравнения используется косинусное сходство. Модель предназначена для поиска по смыслу, оценки сходства предложений, ранжирования и других задач, где нужно сопоставлять японские тексты. Максимальная длина входа — 512 токенов. На JMTEB модель получила среднюю оценку 73,30; в README указано, что доступны более новые модели Ruri v3. Модель принимает текст и выдаёт векторы. Распространяется по лицензии Apache 2.0.

ostoveland/SBertBaseMittanbudver3 — модель Sentence Transformers от ostoveland, дообученная на основе NbAiLab/nb-sbert-base. Она кодирует предложения и абзацы в плотные векторы размерностью 64 и предназначена для сравнения семантической близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура основана на BERT с усреднением токенных представлений; используется косинусное сходство. В README указан предел последовательности 75 токенов, а метаданные указывают контекст до 512 токенов. Доступны веса PyTorch и OpenVINO; библиотека для работы — sentence-transformers. Обучающие примеры включают норвежские описания услуг и похожие запросы, поэтому модель особенно подходит для сопоставления коротких норвежских текстов. Лицензия в предоставленных данных не указана.

dangvantuan разработал sentence-camembert-base — модель для получения векторных представлений французских предложений и оценки их семантического сходства. Она дообучена на базе facebook/camembert-base с помощью Siamese BERT-сетей и библиотеки sentence-transformers на данных STSb. Модель содержит 137,8 млн параметров, принимает текст и выдаёт эмбеддинги. Её можно применять для сравнения предложений по смыслу, поиска похожих фраз и построения семантического поиска на французском языке. В тестах на французской части STSb указаны корреляции Пирсона 82,36 и Спирмена 81,64. Модель распространяется по лицензии Apache-2.0. Контекст ограничен 514 токенами; заявленные результаты относятся к оценке на STSb и не гарантируют такое же качество на других данных или задачах.

SloVlo-v1 — модель эмбеддингов для семантического поиска на словенском языке, разработанная в проекте SloVlo. Она предназначена для поиска документов по смыслу, в том числе когда формулировка запроса отличается от текста документа. Модель обучена и оценена на slovlo-dataset-v1; README приводит результаты поиска по тестовой выборке в метрике MRR@k. Модель основана на multilingual-e5-base и использует архитектуру XLM-RoBERTa с 12 слоями и размерностью эмбеддингов 768. Репозиторий использует Sentence Transformers, веса представлены в формате safetensors; длина контекста — 514 токенов. Лицензия — MIT.

ssc-led-model — модель распознавания речи, дообученная на базе facebook/wav2vec2-xls-r-300m. Она использует архитектуру Wav2Vec2ForCTC и принимает аудио, чтобы преобразовывать речь в текст. В README приведены результаты оценки: loss 1,4926, CER 0,3156 и WER 0,7297. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. Язык распознавания, обучающий набор данных и предполагаемые сценарии использования в карточке не уточнены.

Sunflower Language ID v2 — модель Sunbird для определения языка текста среди 64 африканских языков. Она дообучена на базе google/t5-efficient-tiny для классификации последовательностей; обучающие примеры охватывают сбалансированный корпус языков, а словарь SentencePiece из 32 тысяч токенов заменён и поддерживает байтовый fallback. Модель содержит 11,9 млн параметров, принимает текст длиной до 512 токенов и выдаёт метку языка. Модель особенно ориентирована на короткие фрагменты: в тестировании точность составила 40,5% для одного слова, 59,7% для двух и 70,1% для трёх слов среди 64 классов. Перед подачей текста необходимо соблюдать обработку регистра, соответствующую обучению: README указывает, что модель обучалась на строчных текстах. Для развёртываний, где допустим только поднабор языков, рекомендуется ограничивать классы при выборе результата. Для близкородственных языков точность на коротких фрагментах ниже: например, модель часто путает чига и ньянколе, ньоро и торо, а также кирунди и киньяруанда. Модель распространяется по лицензии Apache-2.0.

google/t5gemma-s-s-ul2 — предобученная текстовая encoder-decoder-модель семейства T5Gemma от Google. Она создана на основе подхода Gemma: декодерную модель адаптировали к архитектуре encoder-decoder и обучили с использованием UL2. Вариант S-S использует малые энкодер и декодер; в репозитории указаны веса Safetensors и библиотека Transformers. Модель принимает текст и генерирует текст. Она предназначена для англоязычных задач генерации, в том числе ответов на вопросы, суммаризации и рассуждений; также энкодер можно применять в задачах классификации и понимания текста. Компактный размер семейства рассчитан на запуск на компьютерах и собственной облачной инфраструктуре, однако размер именно этого чекпойнта и длина контекста в доступных сведениях не приведены. Модель может ошибаться в фактах, испытывать трудности со сложными инструкциями, языковыми нюансами и контекстом, а результаты могут отражать смещения обучающих данных. Лицензия — Gemma; при использовании необходимо соблюдать политику допустимого использования Gemma.

ThinkingCap-Qwen3.6-27B-heretic-GGUF — набор GGUF-квантизаций модели ThinkingCap-Qwen3.6-27B-heretic, подготовленный egibson с использованием llama.cpp. Исходная модель представляет собой декензурированную версию ThinkingCap-Qwen3.6-27B от bottlecapai, созданную с помощью Heretic. Архитектура основана на Qwen3.6, размер — 27 млрд параметров; точные сведения о языках, длине контекста и поддерживаемых модальностях в README не указаны. Модель предназначена для локального запуска через совместимые среды, включая llama.cpp, с выбором между вариантами от f16 до низкобитных Q- и IQ-квантизаций. Доступны версии объёмом примерно от 10 до 50,1 ГБ; Q4_K_M рекомендована как сбалансированный вариант по качеству и размеру, а IQ-квантизации используют importance matrix, что может улучшать качество при сопоставимом размере. Более точные варианты обеспечивают максимальную близость к исходным весам, тогда как версии с меньшей разрядностью рассчитаны на оборудование с ограниченной памятью и сильнее теряют качество. В экспортированных файлах исключена MTP-head: это устраняет ошибку конвертера GGUF и не мешает обычной работе модели, но исключает возможность соответствующей оптимизации speculative decoding. Модель распространяется по лицензии Apache-2.0. README не содержит результатов тестирования, поэтому фактическое качество, скорость и пригодность для конкретных задач следует оценивать в целевой среде.

Uraion-Agent-Small — компактная языковая модель компании Uraion Labs, дообученная на базе Qwen/Qwen3.5-2B. Она предназначена прежде всего для агентных сценариев, вызова инструментов и функций, многошагового взаимодействия с API и построения локальных циклов автоматизации. Модель обучалась методом QLoRA на наборах данных для function calling и instruction following, включая NousResearch/hermes-function-calling-v1, Salesforce/APIGen-MT-5k и mlabonne/FineTome-100k. Модель содержит около 1,9 млрд параметров, из которых при обучении через LoRA использовалось 21,8 млн обучаемых параметров. Она основана на гибридной архитектуре Qwen3.5: 24 слоя включают 18 слоёв Gated DeltaNet с линейным вниманием и 6 слоёв полного внимания. Нативная длина контекста составляет 262 144 токена. Доступны веса в формате GGUF и Transformers NF4; заявлены 4-битное NF4-квантование и поддержка английского языка. Для структурированных вызовов инструментов используется парсер qwen3_coder. Сильными сторонами модели являются небольшой размер, возможность локального развертывания и специализация на структурированном tool calling, что делает её подходящей для локальных агентов, API-композиции и запуска на потребительском оборудовании. При этом GGUF-файлы в репозитории имеют известную проблему с формами некоторых тензоров и могут не загружаться в llama.cpp без дополнительной конвертации. Для архитектуры qwen35 требуется свежая версия llama.cpp, а NF4-веса медленно работают на CPU, поэтому для них предпочтительно GPU-развертывание. Модель распространяется по лицензии Apache 2.0, унаследованной от Qwen3.5.

Vela Omni Nano — мультимодальная модель семейства Vela от разработчика semantic-router, предназначенная для получения векторов признаков в общем пространстве текстов, изображений, речи и окружающих звуков. Её можно использовать для поиска между модальностями, маршрутизации запросов и кластеризации; в README также приведены результаты классификации текста и поиска соответствий между изображениями и текстом. Модель содержит около 163,8 млн параметров и формирует нормализованные эмбеддинги размерностью 384. По описанию, текстовые и графические вычисления сохранены относительно предыдущей малой модели, а аудиопредставление расширено замороженной ветвью CLAP для окружающих звуков; аудиоэмбеддинги обучались и оценивались отдельно. Репозиторий предоставляет веса в формате Safetensors и использует PyTorch. Лицензия — Apache-2.0. В опубликованных сравнениях модель показывает сильные результаты на англоязычных и аудиобенчмарках среди моделей сопоставимого размера. Многоязычное покрытие остаётся ограничением; также авторы отмечают ухудшение на задачах поиска речь–текст и кластеризации звуков транспорта относительно предыдущей версии. В README указано ограничение текста до 128 токенов для описанного протокола оценки; это не подтверждает максимальную длину входа при использовании модели.

Карточка модели MyAlbum/ViT-B-16-SigLIP2 на Hugging Face совпадает с карточкой timm/ViT-B-16-SigLIP2, поэтому описание составлено по ней. timm/ViT-B-16-SigLIP2 — визуально-языковая модель семейства SigLIP 2, обученная на наборе WebLI и преобразованная из исходных контрольных точек JAX проекта Big Vision для использования в OpenCLIP. Это контрастивный энкодер изображений и текста, предназначенный для классификации изображений без дополнительного обучения: пользователь задаёт текстовые описания классов, а модель сопоставляет их с изображением. Модель принимает изображения и текстовые описания, оценивает их соответствие и подходит для поиска изображений по тексту и классификации с произвольными текстовыми метками. В карточке указана поддержка многоязычного визуально-языкового обучения SigLIP 2; конкретные языки этой версии не перечислены. Модель распространяется в форматах PyTorch и safetensors и доступна на условиях Apache-2.0. Это конверсия исходных контрольных точек, а не отдельное дообучение. Карточка не сообщает конкретный размер модели, длину контекста или ограничения качества; результаты могут зависеть от формулировок текстовых меток и домена изображений.

vit_base_patch16_siglip_gap_512.v2_webli — модель-энкодер изображений на архитектуре ViT из семейства SigLIP 2, опубликованная для библиотеки timm. Это только визуальная часть модели: вариант gap использует глобальное усреднение признаков и не содержит головы attention pooling. Модель обучена на наборе данных WebLI и предназначена для извлечения признаков изображения, в том числе для последующего сравнения изображений и построения мультимодальных систем. Модель принимает изображения и выдаёт их векторные представления. Карточка указывает на исследовательские работы SigLIP 2 и Sigmoid Loss for Language Image Pre-Training, но не приводит подробностей о разрешении входа, языковой поддержке или результатах оценки. Лицензия репозитория — Apache-2.0.

timm/vit_so400m_patch16_siglip_256.v2_webli — визуальный энкодер семейства SigLIP 2 на архитектуре ViT с патчами 16 пикселей, предназначенный для библиотеки timm. Это только часть модели, отвечающая за изображения; она соответствует визуальному энкодеру мультимодальной модели SigLIP 2. Модель обучена на наборе данных WebLI. Основное назначение — извлечение признаковых представлений изображений для последующего поиска, сопоставления или анализа. Репозиторий содержит веса PyTorch и SafeTensors и распространяется по лицензии Apache-2.0. Модель принимает изображения и выдаёт векторы признаков; языковая часть SigLIP в этот чекпойнт не входит.

Wav2Vec2-Base-VoxPopuli-Finetuned — модель распознавания речи, разработанная Facebook AI. Она основана на Wav2Vec2 Base: модель предварительно обучили на 10 тысячах неразмеченных фрагментов корпуса VoxPopuli, а затем дообучили на расшифрованных аудиозаписях этого корпуса. Архитектура — Wav2Vec2ForCTC, размер — 113,3 млн параметров; модель принимает аудио и выдаёт текстовую расшифровку на итальянском языке. Модель предназначена для автоматического распознавания итальянской речи, например для транскрибации записей и подготовки текстовых субтитров. В README приведён пример инференса на образце Common Voice. Репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

Модель arijitx/wav2vec2-large-xlsr-bengali разработана на основе facebook/wav2vec2-large-xlsr-53 и дообучена для распознавания речи на бенгальском языке. Она принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст; для вывода используется архитектура Wav2Vec2ForCTC. Размер модели — около 402,8 млн параметров. Модель предназначена для автоматической транскрибации бенгальской речи. При проверке на отложенной выборке примерно из 4200 высказываний автор получил WER 32,45%; результат показывает качество именно на этой выборке и не гарантирует такую же точность на других данных. Для использования указана лицензия CC BY-SA 4.0.

Модель tanmoyio/wav2vec2-large-xlsr-bengali — дообученная Tanmoyio версия facebook/wav2vec2-large-xlsr-53 для автоматического распознавания бенгальской речи. Она преобразует аудиозаписи в текст и предназначена для расшифровки речи на бенгальском языке; в карточке описано обучение на наборе примерно из 196 тысяч высказываний и оценка на тестовых данных OpenSLR. Модель основана на архитектуре Wav2Vec2ForCTC и содержит 402,8 млн параметров. Для входного аудио требуется частота дискретизации 16 кГц. Репозиторий содержит веса PyTorch и распространяется по лицензии CC BY-SA 4.0.

lgris/wav2vec2-podcasts-tagarela-v2 — модель распознавания речи на базе Wav2Vec2, разработанная автором репозитория и дообученная на полном наборе TAGARELA v2. Она преобразует речь в текст и рассчитана прежде всего на транскрибирование аудио на бразильском португальском. Модель содержит 113,3 млн параметров; в README указаны входное аудио 16 кГц, моно и словарь из 51 токена. В тестах README приведены WER 14,96% на TAGARELA v2, 23,75% на TAGARELA v1 и 23,98% на CORAA v1.1. Результаты показывают, что качество зависит от набора данных; метрики не гарантируют такую же точность на других источниках, акцентах или условиях записи. Модель распространяется по лицензии Apache-2.0.

ubamba98/wav2vec2-xls-r-1b-ro — модель распознавания речи, дообученная на базе facebook/wav2vec2-xls-r-1b на румынской части набора Mozilla Common Voice 7.0. Она использует архитектуру wav2vec2 с выходной головой CTC и предназначена для преобразования румынской речи в текст. На оценочной выборке указаны WER 0,4770 и CER 0,0306. Модель принимает аудио и выдаёт текст; в репозитории указаны веса PyTorch. Лицензия — Apache-2.0.

Это модель автоматического распознавания речи на турецком языке, созданная mpoyraz дообучением facebook/wav2vec2-xls-r-300m. Она использует архитектуру wav2vec2 с выходным слоем CTC и принимает аудио, преобразуя речь в текст. Модель дообучена на проверенной части Common Voice 8.0 на турецком языке; для языкового моделирования также подготовлена n-граммная модель KenLM на статьях турецкой Википедии. Модель предназначена для транскрибирования турецкой речи. В карточке приведены результаты оценки: WER 10,61 и CER 2,67 на тестовой части Common Voice 8.0, а также WER 36,46 и CER 12,38 на Speech Recognition Community dev data. Лицензия — Apache 2.0. Показатели зависят от набора данных и условий записи; на втором наборе ошибок заметно больше.

whisper-small-alif — дообученная на датасете audiofolder модель распознавания речи на основе openai/whisper-small. Она предназначена для преобразования аудио в текст; карточка сообщает о результате WER 0,0 на оценочном наборе, но не описывает его состав, поэтому этот показатель нельзя переносить на другие данные. Модель построена на архитектуре WhisperForConditionalGeneration и распространяется в формате safetensors через библиотеку Transformers. Базовая Whisper поддерживает несколько языков и перевод аудио на английский, однако карточка этой версии не уточняет языки и сценарии дообучения. Модель распространяется по лицензии Apache-2.0. Состав обучающих данных и ограничения применения в карточке подробно не раскрыты.

Это русскоязычная модель распознавания речи Whisper small, созданная на основе дообученной модели artyomboyko/whisper-small-ru-v2 и преобразованная в формат GGUF с точностью FP16. Репозиторий подготовлен для запуска через whisper.cpp; модель принимает монофоническое аудио с частотой дискретизации 16 кГц и выдаёт текстовую расшифровку на русском языке. В архитектуре Whisper small — 12 слоёв энкодера и 12 слоёв декодера, размер скрытого представления 768. По данным карточки, файл занимает 483 МБ, а на Xiaomi 11T с whisper.cpp модель выполняет транскрибацию в реальном времени и примерно вдвое быстрее версии F32 на ядрах Cortex-A78. Лицензия — Apache-2.0.

Это квантованные файлы в формате GGUF базовой инструкционной языковой модели wisenut-nlp-team/wisenut-llama-3-8B-0.9-Instruct. Квантования подготовлены командой featherless-ai-quants; исходный разработчик базовой модели указан как wisenut-nlp-team. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального или совместимого с GGUF запуска. В названии указано 8B, однако README не приводит подробностей об архитектуре, языках, модальностях или размере контекста. Доступны варианты с разной степенью квантования: от Q2_K и Q3_K до Q8_0, с заявленным размером файлов примерно от 3,0 до 8,1 ГБ. Более компактные варианты могут снизить требования к памяти, тогда как варианты с более высокой точностью обычно лучше сохраняют качество, но требуют больше ресурсов. README не содержит результатов тестирования, описания сильных сторон, ограничений или рекомендаций по выбору квантования. Лицензия модели в предоставленных данных не указана, поэтому условия использования определить невозможно.

WuQi-V3-Onyx-27B GGUF — персонализированная модель, разработанная Alniyat5f на основе Qwen3.8-27B с последующим обучением LoRA. Данная версия представляет собой квантованный формат GGUF и сохраняет мультимодальные возможности исходной модели. Модель предназначена для задач понимания текста и изображений, а также заявлена поддержка понимания видео через отдельный мультимодальный проектор mmproj. Основной файл использует квантование Q4_K_M и имеет размер около 16,81 ГБ; дополнительно доступны мультимодальный проектор в формате F16 и draft-модель MTP для спекулятивного декодирования. В конфигурации указана поддержка китайского языка и сценарий image-text-to-text. Размер базовой модели — 27B параметров. К сильным сторонам относятся сохранённая мультимодальность, поддержка обработки изображений и видео, а также возможность ускорения генерации с помощью MTP. Ограничения связаны с необходимостью совместимого GGUF-инструментария и отдельных файлов проектора и draft-модели; сведения о контекстном окне, точных языковых возможностях, результатах оценки и рекомендуемом оборудовании не указаны. Модель распространяется по лицензии Apache 2.0.

xLAM-8x7b-r-GGUF — это GGUF-квантизированная версия языковой модели xLAM-8x7b-r, разработанной Salesforce и подготовленной для распространения пользователем bartowski. Модель ориентирована на text-generation, function calling, использование инструментов и создание LLM-агентов. Обучение связано с датасетом Salesforce/xlam-function-calling-60k; заявленный язык — английский. Модель основана на архитектуре, обозначенной в карточке тегом mistral, и имеет конфигурацию 8x7B; точные сведения о числе активируемых параметров и размере контекста не указаны. Доступны варианты от F16 до сильно сжатых квантов GGUF, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3/Q2, с размером файлов примерно от 17 до 93 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix; некоторые варианты оптимизированы для ARM и CPU-инференса. Сильная сторона модели — специализация на вызове функций и взаимодействии с внешними инструментами, а также широкий выбор квантов для компромисса между качеством и требованиями к памяти. Ограничения включают заявленную ориентацию на английский язык, отсутствие данных о мультимодальности и контекстном окне, а также снижение качества у малобитных вариантов. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование; для доступа к репозиторию требуется подтверждение согласия с лицензией.