I.3Извлечение и структурирование данных

GLM-4-9B-Chat-Abliterated — языковая чат-модель семейства GLM объёмом около 9 млрд параметров. Исходную модель разработал byroneverson, а данный репозиторий содержит её GGUF-квантизации, подготовленные bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые средства локального запуска. Модель поддерживает китайский и английский языки. Она работает в текстовой модальности, использует формат GGUF и доступна в вариантах от F16 до компактных 2- и 3-битных квантизаций. Более точными считаются F16, Q8_0, Q6_K_L и Q6_K, а Q4- и Q3-варианты позволяют снизить требования к памяти ценой некоторой потери качества; отдельные сборки оптимизированы для ARM и CPU. В README не указаны размер контекста, точная архитектура и результаты сравнительных тестов. Для корректного диалога требуется специальный шаблон prompt с токенами GLM. Преимущество модели — возможность локального запуска при выборе подходящего уровня квантизации и сохранение качества в старших вариантах. Ограничения связаны с отсутствием заявленной мультимодальности, поддержкой только китайского и английского языков и возможным ухудшением качества в низкобитных вариантах. Лицензия указана как glm-4; подробные условия приведены в лицензии исходной модели GLM-4-9B-Chat.

GLM-Edge-V-5B — мультимодальная модель семейства GLM, разработанная zai-org. Она предназначена для диалоговой работы с изображениями и текстом, а также поддерживает генерацию текста и классификацию текста. Модель имеет плотную архитектуру GlmForCausalLM и содержит 4,1 млрд параметров; максимальная длина контекста составляет 4096 токенов. В метаданных указан формат safetensors и возможность чата. Лицензия обозначена как other, поэтому условия использования следует уточнить в материалах репозитория. Карточка README не содержит подробностей о поддерживаемых языках и ограничениях качества.

Это GGUF-квантизированная версия FunctionGemma 270M IT, базовая модель которой разработана Google, а квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты, в частности для задач генерации текста и работы с функциями или инструментами. README не содержит подробного описания исходной архитектуры, набора языков, модальностей и размера контекста. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Они занимают примерно от 0,20 до 0,54 ГБ; более высокие уровни обычно сохраняют лучшее качество, а компактные варианты подходят для систем с ограниченным объёмом оперативной памяти. Для работы рекомендуется использовать указанный шаблон prompt format с ролями developer, user и model. Модель распространяется по лицензии Gemma; для доступа к исходной модели на Hugging Face требуется принять условия лицензии Google. Ограничения включают возможное снижение качества у более сильных вариантов квантизации, а также отсутствие в README точных сведений о языковой поддержке, контекстном окне и результатах оценки.

Это GGUF-квантизированная версия мультимодальной модели google/gemma-4-E2B-it, разработанной Google. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу image-text-to-text и предназначена для диалоговой работы с текстом и изображениями, включая ответы на запросы и анализ визуального содержимого. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размеры файлов составляют примерно от 3,1 до 9,3 ГБ. Для взаимодействия используется шаблон чата Gemma; модель совместима с llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими инструментами, поддерживающими GGUF. Точные сведения об архитектуре, числе параметров, языках и размере контекста в README не указаны. Сильная сторона модели — возможность локального запуска на широком диапазоне оборудования благодаря нескольким уровням квантизации; варианты Q4 и Q5 заявлены как оптимальные по соотношению качества и размера, а Q6 — как близкие к исходному качеству. Более сильная квантизация снижает требования к памяти, но может ухудшать качество ответов. Для недавно поддерживаемых моделей может потребоваться обновление используемого программного обеспечения. В метаданных указана лицензия Apache-2.0.

GPT4-X-Alpasta-30b — языковая модель семейства Llama, объединённая A'eala Information из GPT4-Alpaca LoRA от Chansung и исходной дообученной модели Open Assistant. Модель содержит 32,3 млрд параметров и принимает текст для генерации продолжений и ответов в инструктивном формате; заявлена совместимость с Text Generation WebUI и KoboldAI. Модель предназначена для диалогов и выполнения текстовых инструкций с упором на сохранение выразительной прозы Open Assistant. В README приведены результаты оценки на Wikitext2, Ptb-New и C4-New. Контекст ограничен 2048 токенами. Репозиторий содержит веса PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

DevQuasar/huihui-ai.Qwen3-14B-abliterated-GGUF — это квантизированная версия модели huihui-ai/Qwen3-14B-abliterated в формате GGUF. Модель предназначена для генерации текста и локального запуска в совместимых инструментах вывода. В основе лежит Qwen3-14B-abliterated с заявленным размером 14 млрд параметров. README не содержит сведений о конкретном варианте квантизации, архитектурных деталях, поддерживаемых языках, длине контекста или доступных модальностях, поэтому эти характеристики нельзя определить достоверно. Сильной стороной является возможность использовать более компактное представление базовой модели, однако качество и требования к ресурсам зависят от выбранного уровня квантизации. Модель опубликована под идентификатором DevQuasar, а исходной моделью указана huihui-ai/Qwen3-14B-abliterated. Лицензия и условия использования в README не указаны.

Kausik-A/Huihui-Qwen3.5-9B-abliterated-GGUF — это набор квантизированных версий языковой модели Huihui-Qwen3.5-9B-abliterated в формате GGUF, подготовленных с помощью llama.cpp. В основе лежит Qwen3.5-9B от Alibaba: базовая модель Qwen3.5-9B-Base, дообученная в формате instruct, затем изменённая huihui-ai методом abliteration для существенного снижения отказов в ответах. Репозиторий Kausik-A содержит варианты с разными уровнями квантизации для локального запуска через llama.cpp, Ollama или LM Studio. Модель предназначена для генерации текста и диалоговых сценариев, включая исследовательское и экспериментальное использование в контролируемой среде. Указана архитектура Qwen3.5 с 32 слоями, скрытым размером 4096, 16 attention heads, 4 KV heads и словарём из 248 320 токенов. Контекстное окно составляет до 262 144 токенов. Исходный размер F16-версии — около 17 ГБ, а доступные варианты занимают примерно от 4,0 ГБ до 17 ГБ. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует описывать как текстовую. Сильная сторона модели — широкий выбор квантизаций, позволяющий подобрать баланс между качеством, скоростью и требованиями к памяти, а также сниженное количество встроенных отказов. Ограничения включают экспериментальный proof-of-concept характер abliteration, отсутствие строгой safety-оптимизации и повышенный риск генерации чувствительного, спорного или неприемлемого контента. Для публичных и коммерческих приложений рекомендуется тщательная фильтрация и ручная проверка результатов. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой Qwen3.5-9B.

Это дообученная модель WhisperForConditionalGeneration на 455,8 млн параметров, созданная на основе parthiv11/indic_whisper_hi_multi_gpu. Она предназначена для автоматического распознавания речи и транскрибирования аудио; карточка указывает дообучение на наборе данных None. На тестовой выборке приведены Loss 0,4623 и Global WER 30,7295. Модель принимает аудио и выдаёт текст; базовая модель предназначена для индийских языков, а для этого варианта подтверждена поддержка хинди. Выпущена в формате safetensors для Transformers под лицензией MIT.

Это дообученная модель Whisper, созданная на основе parthiv11/indic_whisper_hi_multi_gpu. Она предназначена для автоматического распознавания речи и транскрибирования аудио; карточка сообщает о дообучении на наборе данных, обозначенном как None. На оценочном наборе указаны loss 0,5552 и Global WER 22,7742. Модель использует архитектуру WhisperForConditionalGeneration и распространяется в формате safetensors через библиотеку Transformers. Метаданные базовой модели подтверждают поддержку хинди. Лицензия — MIT. Карточка не описывает дополнительные ограничения или сценарии использования.

Baekpica/Inkling-Small-Mixed-Quant-GGUF — это набор из двух независимо проверенных вариантов модели thinkingmachines/Inkling-Small в формате GGUF со смешанной точностью и квантизацией на основе imatrix. Репозиторий подготовлен Baekpica; исходная ревизия базовой модели указана явно. Модель относится к мультимодальным системам image-text-to-text и предназначена для генерации текста по текстовым запросам, а также по изображениям PNG/JPEG и аудио WAV с частотой 16 кГц. Доступны варианты MQ89 размером около 95,45 млрд байт (88,89 GiB) и MQ85GB размером около 85,73 млрд байт (79,84 GiB), каждый разделённый на шесть частей. Для MQ85GB документирована работа через ds4-dfm-rs на одном DGX Spark: поддерживаются текстовые, графические и аудиовходы с текстовым выводом, а также API OpenAI Chat Completions, OpenAI Responses и Anthropic Messages с указанными ограничениями для отдельных типов входа. Заявлены оптимизации предварительной обработки контекста до 486,86 токена в секунду для 2 048 токенов и 464,09 токена в секунду для 8 192 токенов; эти показатели относятся к конкретной конфигурации и режиму без MTP. Сильные стороны модели — мультимодальность, существенная экономия места благодаря смешанной квантизации и детальная проверка точности вычислений: для документированных вариантов проверено совпадение логитов и генерируемых токенов с контрольными путями. Опциональная tensor-core оптимизация может повысить скорость, но изменяет результаты генерации и поэтому отключена по умолчанию. Совместимость с llama.cpp, обслуживание длинного контекста, а также ускорение от MTP в README не подтверждены. Архитектура, число параметров, языки и размер контекстного окна не указаны. Лицензия — Apache-2.0.

KB-Whisper Small — модель распознавания речи, выпущенная Национальной библиотекой Швеции (KBLab) на основе OpenAI Whisper Small. Она принимает аудио и преобразует шведскую речь в текст. Модель содержит 153,1 млн параметров и обучена на более чем 50 000 часов шведской речи с текстовыми транскрипциями; для Hugging Face по умолчанию доступна версия Stage 2. Также можно выбрать варианты транскрибирования Subtitle с более сжатым текстом или Strict с более дословной расшифровкой. Модель предназначена для транскрибирования шведской речи, в том числе субтитров, выступлений и записей. В тестах на FLEURS, CommonVoice и NST модели KBLab показали более низкий WER на шведском, чем соответствующие модели OpenAI; README отмечает, что версия Small превзошла Whisper Large v3 на шведской речи. Доступны веса в форматах Hugging Face, ONNX, whisper.cpp/GGML и CTranslate2. Лицензия — Apache-2.0. Результаты оценки относятся к указанным тестам и не гарантируют такое же качество на других типах аудио; модель рассчитана прежде всего на шведский язык.

Kimi-K3-Alis-MLX-Dynamic — 2.10 bpw — это квантованная версия мультимодальной модели Kimi K3 от Moonshot AI, подготовленная пользователем avlp12 для запуска на Apple Silicon с использованием MLX. Модель основана на Kimi-K3 с архитектурой MoE и заявленным общим размером 2,8 трлн параметров; поддерживает генерацию текста и обработку изображений благодаря сохранённой vision-компоненте MoonViT-3d. Сборка предназначена для локального инференса и веб-чата на двух компьютерах Apple Silicon, каждый из которых должен иметь около 512 ГБ unified memory. Общий размер весов составляет 737,1 ГБ при средней точности 2,096 bpw. Маршрутизируемые эксперты используют ternary codebook-квантизацию, часть экспертных экземпляров переведена в MXFP4, а attention, dense-слои и shared experts имеют 6-битное представление; vision tower оставлен без квантизации в bf16. В модели используется маршрутизация top-16-of-896. README не указывает полный список поддерживаемых языков, но качество отдельно измерялось на английском и корейском корпусах. Сильной стороной сборки является существенное уменьшение размера при сохранении качества: по приведённым измерениям она превосходит предыдущую версию v2 на тестах wikitext и корейской Википедии, а также ближе к исходной teacher-модели по KL-дивергенции и доле изменений top-1 предсказаний. Ограничения — чрезвычайно большой объём памяти, необходимость двух связанных машин Apple Silicon и специализированного runtime MLX; запуск на одном компьютере заявлен как невозможный. Лицензия обозначена как kimi-k3-license; точные условия следует уточнять в лицензии базовой модели Moonshot AI.

kstunlp/kstu-asr — модель автоматического распознавания кыргызской речи, созданная KSTU NLP как полное дообучение facebook/mms-1b-all. Это модель на базе Wav2Vec2 с архитектурой CTC и примерно 1 млрд параметров; она принимает аудио и выдаёт распознанный текст на кыргызском языке. Для декодирования в примере используется жадный CTC-декодер с целевым языком kir. Модель обучали на кыргызских речевых данных KSTU NLP, Common Voice 21 и FLEURS-ky, дополнив их синтетическими данными. В приведённых испытаниях она показала WER 12,93% на тестовой выборке FLEURS-ky и 16,17% на отдельной разговорной выборке; эти результаты относятся к описанным наборам и нормализации текста. Для использования указаны Transformers и аудио 16 кГц, моно. Лицензия в метаданных обозначена как other, поэтому конкретные условия распространения следует сверить с репозиторием.

DavidAU/L3.1-MOE-2X8B-Deepseek-DeepHermes-e32-uncensored-abliterated-13.7B-gguf — текстовая генеративная модель разработчика DavidAU. Она объединяет компоненты DeepSeek и DeepHermes на базе Llama 3.1 в конфигурации MOE (Mixture of Experts), ориентированной на совместную генерацию, рассуждения и «thinking». Модель предназначена для общего использования, решения задач, мозгового штурма, творческого письма, создания сюжетов и сцен, ролевых сценариев, генерации художественных текстов и контента для взрослой аудитории. Заявлена как uncensored и допускающая ненормативную лексику. Модель работает только с текстом и поддерживает английский язык. Указан контекст до 128k токенов. В README заявлена конфигурация из двух моделей по 8B параметров, суммарно около 16B, сжатая до 13,7B параметров; исходные модели и квантизации подготовлены в Float32. Для работы рекомендуется шаблон Llama 3 Instruct или автоматическая загрузка Jinja-шаблона, встроенного в quant. Поведение рассуждений зависит от формулировки запроса, температуры и выбранных параметров генерации, поэтому результаты могут заметно различаться между запусками. Сильными сторонами заявлены сочетание reasoning-возможностей двух компонентов, универсальность, творческая направленность и способность работать при разных значениях температуры. Ограничения включают вариативность качества и активации рассуждений, возможную многословность и необходимость повторной генерации или декомпозиции сложных задач. README содержит расхождение: в заголовке упоминается 12,8B, тогда как идентификатор и описание модели указывают 13,7B. Лицензия — Apache-2.0.

lambda-qwen2.5-14b-dpo-test — диалоговая языковая модель на архитектуре Qwen2, разработанная автором репозитория как дообучение Qwen/Qwen2.5-14B-Instruct методом DPO на наборе HuggingFaceH4/ultrafeedback_binarized. Модель с 14 млрд параметров предназначена для генерации текста и диалоговых ответов; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Контекстное окно — 32 768 токенов. В README приведены метрики оценки на тестовой выборке, включая точность предпочтений 0,74 и отрыв наград 0,8984; подробности методики и интерпретации результатов не раскрыты. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Карточка содержит суффикс «test» в названии, но описывает полноценное дообучение и приводит результаты оценки, поэтому это экспериментальная модель, а не тестовая заглушка.

Llama3.1-Gutenberg-Doppel-70B — диалоговая языковая модель, созданная nbeerbower дообучением mlabonne/Hermes-3-Llama-3.1-70B-lorablated на данных jondurbin/gutenberg-dpo-v0.1 и nbeerbower/gutenberg2-dpo. Для обучения методом ORPO использовались две H100, модель обучалась три эпохи. Модель построена на плотной архитектуре Llama 3.1 и содержит 69,5 млрд параметров. Она предназначена для генерации текста в диалоге и выполнения инструкций; нативный размер контекстного окна — 131 072 токена. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH. Модель распространяется в формате safetensors по лицензии llama3.1. Карточка не уточняет языки обучения и специальные ограничения применения; производительность может зависеть от формулировки запроса и сценария использования.

EnlistedGhost/Llama-3.2-11B-Vision-Instruct-OLLAMA — это конвертированная и квантизированная версия мультимодальной модели Meta Llama 3.2-11B-Vision-Instruct в формате GGUF, подготовленная EnlistedGhost для использования с Ollama. Модель принимает текст и изображения, а генерирует текст и предназначена для визуального распознавания, анализа изображений, создания подписей и ответов на общие вопросы по изображениям, а также для диалоговых сценариев. Архитектура основана на Llama 3.1 с авторегрессионным Transformer и отдельным адаптером зрения, который передаёт представления изображения в языковую модель через cross-attention. Модель содержит около 11 млрд параметров, поддерживает контекст длиной до 128k токенов и использует Grouped-Query Attention. Официально для текстовых задач поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; для сценариев с изображениями заявлена поддержка только английского. К преимуществам относятся мультимодальные возможности, instruction tuning, визуальное рассуждение и формат GGUF, удобный для локального запуска. Ограничение данного релиза связано с совместимостью: согласно README, начиная с Ollama v0.30.x модели типа mllama, включая Llama 3.2 Vision, временно не поддерживаются. Модель является статичной и обучена на данных с отсечением знаний в декабре 2023 года. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta.

llm-jp-4-vl-9b-GGUF-v0.1 — неофициальная конверсия модели llm-jp/llm-jp-4-vl-9b в формат GGUF, опубликованная tokinasin. Это мультимодальная модель для преобразования изображений и текста в текст, ориентированная на работу с японским и английским языками. Модель предназначена для диалогов и анализа изображений в окружении llama.cpp. В состав поставки входят файл модели GGUF и отдельный мультимодальный проектор mmproj; в примере запуска используется контекст длиной 8192 токена. Поддерживается обработка нескольких изображений, а параметр reasoning_effort позволяет управлять интенсивностью рассуждений. Для сохранения возможностей рассуждения рекомендуется использовать квантизацию Q6_K или выше, поскольку в Q4_K_M рассуждение часто пропускается. Для работы требуется версия llama.cpp с применённым специальным патчем, поэтому стандартная сборка без изменений может быть несовместима. Поставка является неофициальной и не относится к основному репозиторию LLM-jp; исправления и сообщения об ошибках следует направлять автору этой конверсии. Файлы GGUF распространяются по Apache License 2.0, патч — по MIT License; отдельные заимствованные компоненты также имеют указанные в README лицензии.

LocateAnything-3B-GGUF — это GGUF-версия мультимодальной vision-language модели LocateAnything, разработанной NVIDIA в рамках семейства Eagle VLM. Модель предназначена для визуального grounding: локализации объектов по текстовому запросу, плотного обнаружения нескольких объектов, определения GUI-элементов, текстовых областей и точек на изображении. Она ориентирована на исследовательские и прикладные сценарии в робототехнике, автономном вождении, анализе документов, промышленной инспекции, наблюдении, дистанционном зондировании и построении мультимодальных агентов. Поддерживается английский язык. Архитектура основана на Qwen2.5-3B-Instruct в качестве языковой модели и vision encoder MoonViT-SO-400M. Ключевая особенность — Parallel Box Decoding: координаты ограничивающих рамок предсказываются параллельно за один шаг вместо авторегрессионного декодирования по токенам. Это повышает эффективность, сохраняет геометрическую согласованность и, по заявлению разработчиков, обеспечивает до 2,5 раза большую пропускную способность по сравнению с предыдущими подходами. Обучение проводилось на наборе из 12 млн изображений, более 138 млн запросов и 785 млн ограничивающих рамок из различных предметных областей. GGUF-сборка создана с использованием llama.cpp и включает экспериментальный подход к квантованию: отдельные важные слои переводятся в более высокую точность, что может улучшать качество при заданном уровне квантования ценой увеличения размера файла. Ограничения включают исследовательский статус модели, неизвестные из карточки точные параметры контекстного окна и результаты бенчмарков для конкретных GGUF-квантований, а также зависимость качества от выбранного формата и уровня квантования. Модель распространяется по NVIDIA License для некоммерческого использования: разрешены академические и некоммерческие исследования, коммерческое применение запрещено, кроме NVIDIA и её аффилированных лиц.

MetaCLIP 2 (worldwide) — мультимодальная модель семейства CLIP, разработанная Meta и представленная в работе «MetaCLIP 2: A Worldwide Scaling Recipe». Этот чекпойнт соответствует варианту ViT-H-14-378-worldwide из оригинальной реализации; для работы с ним предусмотрена библиотека Transformers. Модель предназначена для классификации изображений по текстовым описаниям без предварительного обучения на конкретных классах. Она сопоставляет изображения и текстовые метки, что позволяет задавать категории на естественном языке. Карточка указывает на многоязычную поддержку. Веса опубликованы в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

zeromodels/metaclip2_worldwide_huge_378 — конверсия MetaCLIP 2 от zeromodels в формат Keras 3. Это двухкодерная модель архитектуры CLIP: она сопоставляет изображения и текстовые описания в общем пространстве признаков и предназначена для классификации изображений без обучения на целевых классах. Версия worldwide обучена на многоязычных данных и использует словарь XLM-RoBERTa на 901 тысячу токенов, поэтому запросы-классы можно задавать на разных языках. Модель подходит для классификации изображений по текстовым меткам, в том числе для многоязычных сценариев и работы с классами, не заданными при обучении. Реализация Keras 3 запускается на TensorFlow, PyTorch и JAX; процессор подбирает размер изображения и токенизатор для варианта модели. Репозиторий содержит веса в формате TensorFlow. Модель основана на facebook/metaclip-2-worldwide-huge-378. Лицензия CC-BY-NC-4.0 разрешает использование на некоммерческих условиях. Точные ограничения качества и поддерживаемые размеры входных изображений в предоставленных материалах не описаны.

Это конверсия MetaCLIP 2 ViT-L/14 от zeromodels, основанная на facebook/metaclip-2-worldwide-l14. Модель использует архитектуру CLIP с двумя энкодерами: один обрабатывает изображения, другой — текстовые описания. Реализация выполнена на Keras 3 и работает с TensorFlow, PyTorch и JAX. Модель предназначена для классификации изображений без предварительного обучения на заданных классах: она сопоставляет изображение с текстовыми метками или описаниями и оценивает их соответствие. Worldwide-вариант обучен на многоязычных данных и использует словарь XLM-RoBERTa на 901 тысячу токенов, поэтому поддерживает текстовые запросы на разных языках без отдельного мультиязычного чекпойнта. Лицензия CC-BY-NC-4.0 разрешает использование на некоммерческих условиях.

MiniMax-M2.5-MLX-6bit — это 6-битно квантованная версия языковой модели MiniMax-M2.5, разработанной MiniMaxAI. Квантование выполнено командой LM Studio с использованием MLX и предназначено для запуска на компьютерах Apple Silicon. Модель относится к задачам генерации текста и совместима с библиотекой Transformers. В README не указаны архитектура исходной модели, количество параметров, поддерживаемые языки, размер контекстного окна или сведения о мультимодальности, поэтому эти характеристики нельзя достоверно описать. Ключевая особенность данной версии — снижение точности представления весов до 6 бит для оптимизации локального запуска на Apple Silicon; это может уменьшать требования к памяти, но потенциально влияет на качество по сравнению с полной точностью. Модель распространяется по лицензии modified-MIT; подробные условия приведены в репозитории MiniMaxAI. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям. Модель может генерировать неточные, вредные или неподходящие результаты.

Это текстовая версия базовой модели Ministral 3, подготовленная aimeri из mistralai/Ministral-3-14B-Base-2512. При экспорте удалены башня зрения Pixtral и мультимодальный проектор, а веса языковой модели сохранены без изменений: модель не дообучалась, не объединялась с другими и не квантизировалась. Архитектура — плотная авторегрессионная Ministral3ForCausalLM с 13,4 млрд параметров, 40 слоями и контекстом до 262 144 токенов. Модель предназначена для генерации текста и использования в качестве базовой точки для дальнейшей настройки. В карточке перечислена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Она распространяется в формате safetensors по лицензии Apache-2.0. Это базовая, а не чат-модель: готового шаблона диалога нет. По README, большинство управляющих токенов не обучены и не должны использоваться без дополнительной настройки или замены соответствующих весов. При загрузке через AutoTokenizer также есть ограничения на работу с пользовательскими Jinja-шаблонами; для таких сценариев README рекомендует PreTrainedTokenizerFast.

Мультимодальная модель Mistral 3, дообученная ryfkn на основе nuresens/ministral-3b-cpt-merged. Она предназначена для диалоговых задач с изображениями и текстом: принимает текстовый запрос вместе с изображением и формирует текстовый ответ. В метаданных указаны архитектура Mistral3ForConditionalGeneration, поддержка vision и интерфейс вызова инструментов; модель сохранена в формате safetensors и распространяется по лицензии Apache-2.0. Для обучения использовались Unsloth и библиотека TRL.

MaziyarPanahi/mistral-7b-sft-beta-GGUF — это набор файлов модели в формате GGUF для HuggingFaceH4/mistral-7b-sft-beta. Исходную модель разработала команда HuggingFaceH4, а квантованные файлы подготовил MaziyarPanahi. Модель основана на Mistral-7B-v0.1 и предназначена для генерации текста, включая локальный запуск и чат-сценарии с помощью совместимых приложений и библиотек, таких как llama.cpp, LM Studio, GPT4All и llama-cpp-python. Модель относится к семейству Mistral и содержит около 7 миллиардов параметров. Доступны варианты квантования с разрядностью от 2 до 8 бит, включая форматы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством генерации. В README явно указан английский язык; другие языки, размер контекста и дополнительные модальности не описаны. Формат GGUF ориентирован на эффективный запуск через llama.cpp и совместимые интерфейсы, в том числе с GPU-ускорением. Сильными сторонами являются поддержка широкого набора локальных инструментов, разные уровни квантования и возможность запуска на более ограниченных по ресурсам устройствах. Ограничения включают потенциальную потерю качества при использовании более агрессивного квантования, а также отсутствие в предоставленных данных подробных оценок качества, характеристик контекста и рекомендаций по аппаратным требованиям. Для модели указана лицензия Apache-2.0; в метаданных также присутствует ссылка на MIT для базовой модели.

ehristoforu/Mistral-nemo-test-2layno-v2 — текстовая генеративная модель, созданная автором репозитория с помощью mergekit из unsloth/Mistral-Nemo-Instruct-2407. README описывает объединение методом passthrough: в модель включены слои 0–21 и 22–29 исходной модели; веса сохранены в формате safetensors. Архитектура — плотная MistralForCausalLM, размер — 8,7 млрд параметров. Модель предназначена для диалоговой генерации текста и ответов на запросы. В метаданных указано контекстное окно до 1 024 000 токенов; модель работает с текстом на языках, поддержанных исходной instruct-моделью, но доступные сведения не позволяют определить конкретные языки. Для запуска предусмотрена библиотека Transformers. Лицензия в предоставленных источниках не указана.

Модель Mistral Small 4 119B JANG_4M-CRACK создана Jinho Jang на основе Mistral Small 4 от Mistral AI. Это мультимодальная модель класса Mistral 3 с архитектурой MoE: 119 млрд параметров всего, около 8 млрд активных при генерации, 128 экспертов с выбором четырёх и механизмом MLA; заявлена поддержка изображений через Pixtral. Модель доработана методом CRACK, который изменяет веса для удаления отказов, и представлена в смешанно-точном формате JANG_4M: 8-битное внимание и 4-битные эксперты, объём около 64 ГБ. Модель предназначена для диалогов, ответов на вопросы по изображениям и рассуждений; в карточке также приведены результаты тестов на знания и следование вредоносным запросам. Режим рассуждений по умолчанию выключен. Для запуска требуются Apple Silicon и поддержка JANG в MLX Studio либо пакете jang-tools; README указывает Mac с 96 ГБ памяти как минимальную конфигурацию. Лицензия — Apache-2.0. Из-за удаления отказов модель может отвечать на опасные запросы.

Mitsua Japanese CLIP ViT-B-16 — двуязычная модель сопоставления изображений и текста, разработанная ELAN MITSUA Project / Abstract Engine. Она предназначена для классификации изображений по текстовым описаниям без отдельного обучения на каждом наборе классов и для вычисления соответствия между изображениями и японскими или английскими запросами. Модель основана на контрастивном подходе CLIP с визуальным энкодером ViT-B и обучена с нуля, без использования знаний предварительно обученных моделей. В карточке указаны японский и английский языки; веса опубликованы в формате safetensors. Авторы описывают обучающие данные как состоящие из материалов с явным согласием, открытых лицензий и общественного достояния, без AI-сгенерированных данных. Модель распространяется по лицензии CC BY-SA 4.0: требуется указать авторство, отметить изменения и распространять адаптированные материалы на тех же условиях. Качество может снижаться для изображений и понятий, слабо представленных в обучающих данных; описание не приводит количественных оценок качества.

Модель csikasote/mms-1b-all-bemgen-combined-train-drodat-gdro-1.65e-4-dat-0.019-no-sd-0.00-42 — дообученная версия facebook/mms-1b-all, разработанная на наборе BEMGEN - BEM. Это модель распознавания речи на архитектуре wav2vec2 с головой Wav2Vec2ForCTC, принимающая аудио и преобразующая его в текст. В репозитории указано 1,3 млрд параметров; модель рассчитана на применение в сценариях автоматической транскрипции речи. На оценочном наборе указаны Loss 12,2430 и CER 0,0530. Базовая модель поддерживает более тысячи языков, но язык и охват языков именно этой дообученной версии не уточнены. Для файлов используется формат safetensors, библиотека — Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и запрещает коммерческое применение.