II.10Разработка и эксплуатация AI/ML-систем

bartowski/L3.1-MS-Astoria-70b-v2-GGUF — это набор GGUF-квантизированных версий текстовой генеративной модели Steelskull/L3.1-MS-Astoria-70b-v2. Квантизация выполнена bartowski с помощью llama.cpp b3930 и метода imatrix. Модель предназначена для локального запуска задач генерации текста, диалогов и других сценариев текстового вывода; рекомендуется использовать её через LM Studio или совместимые инструменты на базе llama.cpp. Доступны варианты квантизации от IQ1_M до Q8_0 размером примерно от 16,75 до 74,98 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, но требуют больше оперативной памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, тогда как самые низкие уровни имеют заметно более низкое качество. Для некоторых вариантов применена квантизация весов эмбеддингов и выходного слоя в Q8_0. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, мультимодальности, результатах оценки или лицензии исходной модели. Формат приглашений использует специальные токены Llama 3.1 и задаёт даты отсечения знаний и текущую дату, однако это не заменяет официальное описание возможностей модели.

Nohobby/L3.3-Prikol-70B-v0.1a — экспериментальное объединение четырёх моделей семейства Llama 3.3, выполненное автором Nohobby методом linear DELLA; базовой при слиянии указана TheDrummer/Anubis-70B-v1. Модель предназначена для диалогового общения и генерации текста, использует формат запросов Llama 3 и поддерживает интерфейс вызова инструментов. Это плотная авторегрессионная архитектура LlamaForCausalLM на 69,5 млрд параметров с контекстом до 131 072 токенов; веса опубликованы в формате safetensors. Слияние также включает EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.0, Blackroot/Mirai-3.0-70B и Sao10K/L3.3-70B-Euryale-v2.3. Карточка описывает модель неформально и отмечает, что параметры генерации работают лишь удовлетворительно, поэтому качество ответов может быть нестабильным. Лицензия в предоставленных данных не указана.

Lamarckvergence-14B — объединённая языковая модель на 14 млрд параметров, созданная с помощью mergekit методом SLERP из sometimesanotion/Lamarck-14B-v0.7 и sometimesanotion/Qwenvergence-14B-v12-Prose-DS. Модель построена на архитектуре Qwen2 и предназначена для генерации текста в диалоговом формате. Модель подходит для ведения диалогов, многошаговых рассуждений, написания прозы и перевода. Она принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В карточке приведены результаты Open LLM Leaderboard, включая 76,56 на IFEval и 50,33 на BBH; это не гарантирует качество в конкретном пользовательском сценарии. Модель опубликована под лицензией Apache-2.0. Карточка не описывает отдельные ограничения и языковые возможности, кроме английского языка, указанного в метаданных.

LED Large 16384 — модель семейства Longformer Encoder-Decoder, разработанная AllenAI для обработки длинных текстов. Она использует архитектуру BART-large; матрица позиционных эмбеддингов была расширена копированием, чтобы модель могла обрабатывать последовательности длиной до 16 384 токенов. Веса доступны в форматах PyTorch и TensorFlow, размер модели — 252,8 млн параметров. Модель подходит для суммаризации длинных документов и ответов на вопросы по их содержимому, а также для дообучения под другие задачи обработки текста. Карточка указывает английский язык. Модель распространяется по лицензии Apache 2.0.

LFM2.5-2.6B-MLX-4bit — компактная мультиязычная текстовая generative-модель, разработанная Liquid AI. Это экспорт модели LFM2.5-2.6B в формате MLX, предназначенный для запуска вывода на устройствах с Apple Silicon. Модель подходит для генерации текста и других сценариев, основанных на обработке текстовых запросов, включая локальное использование на совместимых устройствах. Модель содержит 2,6 млрд параметров, использует 4-битную точность с размером группы 64 и занимает около 1,47 ГБ. Она построена на гибридной архитектуре Liquid AI, объединяющей свёрточные и attention-слои для эффективной обработки длинного контекста; заявленная длина контекста составляет 131 072 токена. Поддерживаются арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. К сильным сторонам относятся компактный размер, низкая разрядность и возможность локального инференса на Apple Silicon, а ограничениями — специализация на текстовой модальности и потенциальные компромиссы качества, связанные с 4-битным квантованием. Модель распространяется по лицензии LFM 1.0.

LFM2.5-VL-1.6B-GGUF — квантизированная версия универсальной vision-language модели LFM2.5-VL-1.6B от Liquid AI, опубликованная Unsloth. Модель предназначена для задач, объединяющих изображения и текст, включая описание изображений, визуальное понимание, OCR и анализ документов, а также локальные сценарии на устройствах с ограниченными ресурсами. В основе используется языковая часть LFM2.5-1.2B-Base и vision encoder SigLIP2 NaFlex, оптимизированный для изображений, размером 400M параметров; общий заявленный размер базовой модели — 1,6B параметров. Модель поддерживает контекст до 32 768 токенов и словарь из 65 536 токенов. Она работает на английском, арабском, китайском, французском, немецком, японском, корейском и испанском языках. Обрабатывает изображения с исходным разрешением до 512×512 пикселей, сохраняет нестандартные пропорции, а большие изображения разбивает на неперекрывающиеся тайлы с дополнительной миниатюрой для общего контекста. Максимальное число визуальных токенов и тайлов можно настраивать, выбирая баланс между скоростью и качеством. Сильные стороны модели — улучшенное следование инструкциям, мультиязычное понимание изображений, обработка нескольких изображений, высокое разрешение и OCR. Она подходит для общих vision-language сценариев и потокового описания видео. Ограничение — низкая пригодность для задач, требующих глубоких энциклопедических знаний. Для запуска в llama.cpp необходим параметр --jinja; карточка также указывает исправленный Unsloth chat template. Лицензия обозначена как lfm1.0, с отдельной ссылкой на текст лицензии Liquid AI.

Llama 2 70B Orca 200k — языковая модель для генерации текста и выполнения инструкций, созданная ddobokki на базе Llama 2 70B. Репозиторий TheBloke содержит её квантованные версии в формате GGUF; исходная модель доступна в формате PyTorch fp16. Модель ориентирована на англоязычные сценарии общения, ответов на запросы и других задач text-generation. Модель имеет архитектуру Llama и 70 миллиардов параметров. Вариант GGUF предназначен для локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать между требованиями к памяти и сохранением качества, однако README не приводит точных характеристик контекстного окна, результатов тестирования или производительности. К сильным сторонам относятся большой размер модели, instruction-tuned назначение, поддержка локального CPU+GPU-инференса и широкий выбор уровней квантования. Ограничения включают высокие требования к ресурсам для 70B-модели, возможное снижение качества из-за квантования и отсутствие заявленных мультимодальных возможностей; указана только поддержка языка English. Использование регулируется лицензией Llama 2.

Llama-3.1-8B-Instruct-Jbliterated-i1-GGUF — это набор квантизированных моделей в формате GGUF, подготовленный mradermacher на основе ApolloRaines/Llama-3.3-8B-Instruct-128K-Jbliterated. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск в совместимых средах для работы с GGUF-файлами. Модель относится к семейству Llama и содержит около 8 млрд параметров. Заявлена поддержка контекста до 128 тысяч токенов, а также английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Это текстовая модель без заявленной поддержки изображений или других модальностей. В репозитории доступны варианты квантования от очень компактных IQ1 до более качественных Q6_K; степень квантования влияет на размер файла, скорость и качество, при этом Q4_K_M обозначен как быстрый рекомендуемый вариант. К сильным сторонам относятся большой контекст, мультиязычность и возможность запуска с разными требованиями к памяти благодаря широкому выбору квантов. Ограничения связаны с потерями качества при низких уровнях квантования, а также с отсутствием подробных результатов тестирования и сведений о фактической производительности. Модель распространяется по лицензии llama3.1; перед использованием следует учитывать условия этой лицензии и особенности базовой модели.

megatron_2.1_MoE_2x7B — языковая модель архитектуры Mixtral с разреженной смесью экспертов (MoE), представленная пользователем Eurdem. Она предназначена для генерации текста и может применяться в диалоговых сценариях, ответах на вопросы и других задачах, решаемых текстовой языковой моделью. В карточке приведены результаты Open LLM Leaderboard: среднее значение 76,64, AI2 Reasoning Challenge — 72,95 и HellaSwag — 88,94. Модель содержит 7,1 млрд параметров, принимает контекст длиной до 32 768 токенов и распространяется в формате safetensors. Репозиторий помечен тегом merge, однако README и предоставленные сведения не называют исходные модели, вошедшие в слияние. Лицензия — Apache-2.0. Языки и дополнительные ограничения в доступных материалах не описаны.

MeliodasPercival_01_T3qExperiment26 — объединённая модель для генерации текста, созданная из automerger/MeliodasPercival_01-7B и automerger/T3qExperiment26-7B. Она использует плотную архитектуру Mistral с причинно-языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MeliodasT3qm7-7B — объединённая Maxime Labonne модель для генерации текста и диалога. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель создана методом DARE-TIES из AurelPx/Meliodas-7b-dare и nlpguy/T3QM7. Модель предназначена для генерации ответов в диалоге и выполнения текстовых запросов. Контекстное окно составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors с точностью bfloat16. Лицензия — Apache-2.0. Карточка не приводит сведения о целевых языках, специализированных областях или результатах оценки качества.

MiniMax-M2.5-UNCENSORED-JANG_2L — производная модель MiniMaxAI/MiniMax-M2.5, подготовленная Jinho Jang. Это языковая модель с архитектурой MiniMax M2 MoE и интерфейсами чата и вызова инструментов. В README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен; смешанная квантизация JANG_2L задаёт 8 бит для внимания, 6 бит для эмбеддингов и 2 бита для экспертов. Метаданные указывают 2,9 млрд параметров, поэтому оценку размера из README следует считать расходящейся с ними. Для хранения требуется около 63 ГБ; формат JANG поддерживается MLX Studio и пакетом jang-tools на Apple Silicon. Контекст — 196 608 токенов. Модель предназначена для генерации ответов в чате, рассуждений и работы с инструментами. README также описывает CRACK — изменение весов, удаляющее отказы, связанные с защитными настройками; это может позволить получать вредоносные или опасные ответы. В README приведены результаты тестов MMLU и HarmBench, но они не являются независимой оценкой качества. Лицензия в метаданных — Apache-2.0; модель рассчитана на английский, китайский и корейский языки.

JANGQ-AI/MiniMax-M2.7-JANG_4M — квантизированная версия MiniMax M2.7, подготовленная Jinho Jang с помощью JANG Tools. Это текстовая MoE-модель с 228,7 млрд параметров и профилем смешанной точности 4,06 бита: внимание и выходной слой сохранены в 8-битном формате, эмбеддинги и экспертные MLP — в 4-битном, маршрутизатор — в float16. В метаданных указано 2,9 млрд параметров; README описывает исходную модель как 228,7-миллиардную, а размер этого профиля — около 115 ГБ. Модель предназначена для диалогов и генерации текста с рассуждением, а также для сценариев с вызовом инструментов. Она поддерживает контекст до 196 608 токенов и рассчитана на запуск на Apple Silicon через MLX Studio, которое включает загрузчик JANG; стандартный mlx_lm смешанную точность JANG не загружает. README приводит результаты 191/200 на MMLU для профиля JANG_4M, но это ограниченное сравнение на 200 вопросах, а результаты для MiniMax M2.7 названы ожидающими подтверждения. Для запуска требуется Mac на Apple Silicon с 128 ГБ объединённой памяти и MLX; автор рекомендует MLX Studio. Модель всегда выполняет рассуждение перед ответом, а README предупреждает, что температура 0 может приводить к бесконечным циклам рассуждений. Лицензия MiniMax M2.7 некоммерческая: коммерческое использование требует предварительного письменного разрешения MiniMax.

Mini-Mixtral-v0.2 — экспериментальная языковая модель NeuralNovel, собранная методом LazyMergekit из unsloth/mistral-7b-v0.2 и mistralai/Mistral-7B-Instruct-v0.2. Это разреженная модель архитектуры Mixture of Experts для генерации текста и ответов на инструкции. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Маршрутизатор MoE направляет токены к экспертам, но, как отмечено в README, в этой сборке он не обучался совместно с ними. Это может влиять на качество и обобщение. Разреженные вычисления не отменяют необходимости загрузить веса модели в память. Модель опубликована в формате safetensors под лицензией Apache-2.0.

Ministral-3-3B-Reasoning-2512-GGUF — это конвертированная в формат GGUF версия модели Ministral-3-3B-Reasoning-2512, разработанной Mistral AI. Модель предназначена для задач генерации текста с поддержкой визуально-текстового ввода, что отражено в типе pipeline image-text-to-text. В README указано, что конвертация выполнена с использованием скрипта convert_hf_to_gguf.py. Модель подходит для локального запуска и интеграции с инструментами, совместимыми с форматом GGUF, включая llama-server. Из идентификатора следует, что модель относится к классу 3B, однако точные сведения об архитектуре, размере контекста, поддерживаемых языках, модальностях и вариантах квантования в README не приведены. Сильными сторонами являются компактный размер и возможность использования в локальной инфраструктуре, но производительность и требования к ресурсам зависят от конкретной конфигурации запуска. Лицензия модели — Apache 2.0. README указывает базовую модель mistralai/Ministral-3-3B-Reasoning-2512, но не содержит дополнительных ограничений, результатов оценки или подробностей о допустимых сценариях коммерческого использования.

MiroThinker-1.7-mini — языковая модель-агент семейства MiroThinker, разработанного miromind-ai для многошаговых исследовательских задач и длинных рабочих процессов с инструментами. В карточке указаны контекст до 256K токенов и поддержка до 300 вызовов инструментов за задачу; для полноценной работы авторы рекомендуют агентскую инфраструктуру с включённым режимом рассуждений. Модель основана на Qwen3-235B-A22B-Thinking-2507 и дообучена; метаданные описывают архитектуру Qwen3 MoE и 2,6 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. README заявляет высокие результаты семейства MiroThinker-1.7 в исследовательских бенчмарках, но конкретные показатели не относятся однозначно к версии mini. Модель предназначена для глубокого поиска, обобщения сведений и решения сложных задач с последовательным использованием инструментов. Выпускается по лицензии Apache-2.0. Для ожидаемого агентского поведения требуются совместимая среда выполнения, инструменты и подходящий системный промпт; доступные сведения не подтверждают, что приведённые в README результаты измерены именно на версии mini.

ritulk/MPNET-fine-tuned-political-clustering — текстовая Sentence Transformer модель на архитектуре MPNet, дообученная на базе microsoft/mpnet-base на датасете projecte-aina/sts-ca. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель использует усреднение токенных представлений и косинусное сходство; её контекст составляет до 512 токенов по карточке модели и 514 токенов по метаданным. Обучение на каталонском датасете семантического сходства и указанные языки en и ca делают её подходящей прежде всего для английского и каталонского текста. Лицензия Apache-2.0. Показатели оценки в README различаются между наборами данных; результаты могут зависеть от языка и предметной области, поэтому качество для русского и политической тематики не подтверждено приведёнными данными.

Mythos-nano — независимая открытая модель проекта squ11z1, дообученная на базе WeiboAI/VibeThinker-3B. Это текстовая авторегрессионная модель для генерации текста, ориентированная прежде всего на рассуждения, математические задачи и программирование. Указан английский язык; модель также позиционируется для задач на знания и следование инструкциям. Модель содержит около 3 млрд параметров и относится к семейству Qwen2 согласно тегам репозитория. В README не указаны точная архитектура, размер контекста и данные обучения. По приведённым результатам она демонстрирует сильные показатели на соревновательной математике и задачах программирования, включая LeetCode, а также хорошие результаты на отдельных тестах следования инструкциям и знаний. Для сложных задач рекомендуется генерировать до 40960 токенов с температурой 0,6–1,0. Модель не обучалась на данных для tool calling и агентского программирования, поэтому не рекомендуется для вызова функций, оркестрации API и автономных coding-агентов. В README также указано снижение защитных ограничений: удалено направление отказа, поэтому модель может не отклонять запросы, которые обычно блокируются моделями с настройкой безопасности. Доступны форматы для Transformers и GGUF, включая варианты для llama.cpp и Ollama. Лицензия MIT.

JANGQ-AI представляет квантованный вариант NVIDIA Nemotron-3-Super-120B-A12B для запуска на Apple Silicon через MLX. Модель использует гибридную архитектуру Mamba-2, Latent MoE и плотного внимания; карточка указывает 6,6 млрд параметров, а README описывает 88 слоёв: 40 Mamba-2, 40 MoE и 8 слоёв внимания. Формат JANG_4M заявлен как 4,1-битный с 8-битной защитой внимания; размер файлов — около 63 ГБ. Контекст составляет 262 144 токена. Модель предназначена для диалоговой генерации текста и задач рассуждения. В README приводятся результаты MMLU 93,0% в режиме рассуждения на тесте из 200 вопросов, а также скорость генерации 55,1 токена в секунду; эти показатели заявлены автором и зависят от условий тестирования. Запуск рассчитан на Mac с Apple Silicon и не менее 64 ГБ объединённой памяти через MLX Studio или библиотеку jang для MLX; карточка заявляет интерфейс вызова инструментов. Базовая модель указана как nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-FP8, а лицензия обозначена как other, поэтому перед использованием следует проверить её условия в карточке модели. README предупреждает, что формат JANG не поддерживают LM Studio, Ollama и oMLX; для запуска нужны совместимые инструменты и значительный объём памяти. Основные языки по метаданным — английский, китайский и корейский.

NeuralsirkrishnaShadow_ShadowYamshadow — объединённая языковая модель, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/ShadowYamshadow-7B. Модель разработана в формате Mistral и содержит 7,1 млрд параметров; она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель принимает текстовые запросы и генерирует текст, поэтому подходит для диалога и других задач, сводящихся к продолжению текста. Репозиторий распространяет веса в формате safetensors по лицензии Apache-2.0. В карточке не приведены сведения о языковой специализации или результатах оценки качества.

Newq-0.5B-Instruct — компактная инструктивная языковая модель примерно с 494 млн параметров, созданная на базе Qwen/Qwen2.5-0.5B-Instruct. Она предназначена для диалогов и генерации текста общего назначения. Модель использует архитектуру Qwen2 с 24 слоями и групповым запросным вниманием (14 голов Q и 2 головы KV), поддерживает контекст до 32 768 токенов и представлена в формате safetensors для библиотеки Transformers. Компактный размер позволяет запускать её на CPU или видеокарте умеренной мощности, а длинный контекст подходит для работы с объёмными текстовыми запросами. В метаданных указана поддержка английского языка и интерфейса вызова инструментов. Модель распространяется по лицензии Apache-2.0.

Это квантованная версия языковой модели NVIDIA Nemotron 3.5 Lightning 30B-A3B, преобразованная в формат GGUF для запуска с llama.cpp. Репозиторий создан ijohn07; исходная модель — nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Модель предназначена для генерации текста и диалогового использования. Согласно карточке базовой модели из каталога, исходная модель подходит для диалога, рассуждений, оценки и последующей адаптации под пользовательские задачи. Карточка этой версии описывает запуск через llama.cpp; указанные в метаданных языки — английский, испанский, французский, немецкий, итальянский и японский. Лицензия указана как other, поэтому условия использования следует сверять с карточкой исходной модели.

Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

OpenSonnet-Lite — компактная языковая модель с открытыми весами, разработанная сообществом Open Source и дообученная на основе Qwen/Qwen3-4B-Thinking-2507. Это плотная причинная модель семейства Qwen3 с 3,7 млрд параметров по метаданным. Она предназначена для генерации текста и пошаговых рассуждений; исправленный шаблон чата поддерживает связное рассуждение в многоходовых диалогах. В README заявлена близкая к Claude Sonnet 4.6 производительность на задачах рассуждения, однако независимые результаты оценки не приведены. Модель рассчитана на повседневное использование, в том числе на ограниченных ресурсах; для демонстрационного запуска автор указывает две GPU T4. В README приведены рекомендации по длине генерации от нескольких тысяч до 131 072 токенов, а метаданные указывают нативный контекст 262 144 токена. Обучение включало около 140 тысяч отфильтрованных примеров из наборов данных с рассуждениями разных моделей. Модель принимает текст и генерирует текст; конкретный перечень поддерживаемых естественных языков не установлен. Модель может галлюцинировать, особенно на узких темах и при работе с актуальными фактами. README также предупреждает о возможном наследовании предвзятости источников данных и отсутствии встроенного фильтра безопасности или специального аудита. Лицензия — Apache-2.0.

Ornith-1.0-35B-MLX-8bit — это 8-битная квантованная версия языковой модели Ornith-1.0-35B, разработанной deepreinforce-ai. Версия подготовлена командой LM Studio с использованием MLX и оптимизирована для работы на компьютерах с Apple Silicon. Модель относится к классу text-generation и предназначена для генерации текста и других сценариев применения текстовых языковых моделей в локальной среде. Модель содержит 35 миллиардов параметров и поставляется в формате MLX с 8-битным квантованием, что снижает требования к памяти по сравнению с полноразмерной версией и делает её более подходящей для запуска на устройствах Apple Silicon. Данные о поддерживаемых языках, размере контекстного окна, точной архитектуре, специализированных задачах и результатах тестирования в README не указаны. Лицензия обозначена как MIT; при использовании следует также учитывать условия лицензии исходной модели Ornith-1.0-35B.

Ornith-1.5-35B-A3B-UNCENSORED-GGUF — набор GGUF-квантизаций модели Ornith 1.5 35B-A3B, опубликованный Dealign.ai на основе модели ornith-ai/Ornith-1.5-35B-A3B. Модель предназначена для локального запуска через llama.cpp и совместимые приложения. Это мультимодальная vision-language модель, способная работать с текстом и изображениями; для обработки изображений требуется отдельный vision-проектор mmproj. Лицензия — MIT. Архитектура сочетает GatedDeltaNet на основе SSM и attention Mixture-of-Experts с 256 экспертами, из которых активируются 8, а также включает голову multi-token prediction для speculative decoding. У модели поддерживается режим рассуждений с выводом трассы <think>, включённый по умолчанию и отключаемый через параметры chat template. Доступны варианты квантизации от Q8_0 до Q2_K размером примерно от 13,2 до 37,8 ГБ; Q4_K_M обозначен как сбалансированный рекомендуемый вариант. Контекстное окно и список поддерживаемых языков в README не указаны. К сильным сторонам относятся сохранение знаний и связности после модификации весов, поддержка рассуждений, vision-возможностей и локального инференса, а также возможность выбрать компромисс между качеством и требованиями к памяти. Более низкие уровни квантизации уменьшают размер модели, но могут заметно снижать качество: для Q2_K заявлена существенная потеря показателя MMLU. Модель имеет удалённые или существенно сниженные защитные ограничения и демонстрирует практически полное следование вредоносным запросам в тестах HarmBench, поэтому требует ответственного и законного применения.

Parakeet TDT-CTC 1.1B — модель автоматического распознавания речи, совместно разработанная командами NVIDIA NeMo и Suno.ai. Она преобразует англоязычную речь в текст с пунктуацией и заглавными буквами. Модель принимает монофонические аудиозаписи WAV с частотой 16 кГц и возвращает текстовую расшифровку. В основе лежит гибридная архитектура FastConformer-TDT-CTC примерно с 1,1 млрд параметров. Модель дообучена на базе parakeet-tdt-1.1 и обучалась на 36 тысячах часов английской речи из частных и открытых наборов данных. Благодаря локальному вниманию и глобальным токенам она может обрабатывать до 11 часов аудио за один проход. Модель предназначена для транскрибации речи в разных акустических и тематических условиях; в карточке приведены оценки WER на нескольких наборах, включая LibriSpeech, GigaSpeech и Common Voice. Ограничения: заявлена поддержка английского языка, а работа с другими языками не подтверждена; модель не поддерживается NVIDIA Riva согласно карточке. Лицензия — CC-BY-4.0.

Prompsit/paraphrase-bert-pt — португалоязычная модель Prompsit для оценки того, является ли одна фраза перефразированием другой. Это дообученная модель BERT на базе neuralmind/bert-base-portuguese-cased, реализованная как BertForSequenceClassification; в репозитории указаны веса PyTorch и SafeTensors, размер составляет 136,1 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для классификации пар фраз по соответствию перефразированию. Её можно применять для поиска перефраз, проверки семантической близости формулировок и сопоставления вариантов пользовательского запроса. В README упомянуты результаты оценки на 16 500 вручную размеченных парах фраз, но конкретные метрики не приведены. Модель создана в рамках проекта TSI-100905-2019-4 при софинансировании Министерства экономики и цифровой трансформации Испании. Лицензия в предоставленных данных не указана.

q36 — диалоговая языковая модель на архитектуре Qwen3, опубликованная пользователем tjcrims0n. Это полноразмерный экспорт весов после слияния LoRA-адаптера, полученного в эксперименте Annihilate trial 71, с дообученной базовой моделью khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled. Модель содержит 3,7 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 262 144 токена. Модель предназначена для диалоговых ответов и генерации текста, в том числе для задач с рассуждениями, унаследованных от базовой модели. В README указаны нулевые отказы в шести проверках, но этого недостаточно для выводов о надёжности или безопасности ответов. Веса сохранены в формате Safetensors с точностью bfloat16 и доступны по лицензии Apache-2.0.

Карточка модели baidu/Qianfan-VL-3B на Hugging Face совпадает с карточкой coblack/Qianfan-VL-3B, поэтому описание составлено по ней. Qianfan-VL-3B — мультимодальная языковая модель команды Baidu AI Cloud Qianfan для работы с изображениями и текстом. Версия 3B основана на Qwen2.5-3B; визуальный энкодер построен на InternViT, а изображения обрабатываются с динамическим разбиением на патчи с поддержкой разрешения до 4K. Модель принимает изображения и текстовые запросы и формирует текстовые ответы; заявленная длина контекста — 32k токенов. Модель предназначена для OCR в реальном времени и на устройствах с ограниченными ресурсами, распознавания рукописного текста, формул и содержимого документов, а также анализа структуры страниц, таблиц и диаграмм и ответов на вопросы по документам. В README заявлена поддержка многоязычных данных, а метаданные карточки указывают английский и китайский языки. Поддержка Chain-of-Thought в этой версии отсутствует; возможности рассуждений, указанные для вариантов 8B и 70B, к ней не относятся. Модель опубликована в формате safetensors и предназначена для использования с Transformers; README также описывает развертывание через vLLM. Лицензия в метаданных обозначена как other, а README не приводит её условий, поэтому перед использованием следует проверить лицензионную информацию карточки Hugging Face.