II.10Разработка и эксплуатация AI/ML-систем

Ornith-1.0-9B-Heretic-Uncensored — производная модель DeepReinforce/Ornith-1.0-9B, подготовленная методом направленной абляции: из весов удалено направление отказа, без дополнительного обучения. Это плотная мультимодальная модель семейства Qwen 3.5 с примерно 9 млрд параметров, гибридной архитектурой из 32 слоёв линейного и полного внимания, обработкой изображений и текста. Выпущена в формате bf16 Safetensors для Transformers; для работы README требует transformers версии 5.8.1 или новее. Модель предназначена для диалогов, визуальных вопросов и задач рассуждения и агентного программирования. Удаление направления отказа снижает вероятность отказов на запросы, на которые базовая модель отказывала, однако не гарантирует точность или безопасность ответов и может облегчить получение вредоносного контента. README описывает англоязычную модель; лицензия — MIT.

Ornith-1.5-35B-A3B-abliterated-NVFP4 — квантованная версия языковой модели Ornith-1.5-35B-A3B, разработанной ornith-ai, с изменёнными весами от pottokao. Из модели удалено направление, связанное с отказами в ответах, поэтому она не реализует стандартное защитное поведение и предназначена для исследовательских и прикладных сценариев генерации текста, где требуется меньше ограничений на содержание. Модель работает только с текстом: в сборке отсутствуют vision tower и MTP head. Это MoE-модель с заявленным размером 35B и активной частью около 3B параметров; архитектура сочетает слои линейного внимания Mamba-типа и обычного self-attention. Основная часть весов использует NVFP4 W4A16 с group size 16, отдельные проекции — FP8 W8A8, а некоторые компоненты сохранены в BF16. Поддерживается запуск через Transformers и vLLM; автор проверял работу на двух GPU RTX 5070 Ti по 16 ГБ, с контекстом до 131 072 токенов в указанной конфигурации и FP8 KV-кэшем. Для ускорения генерации предусмотрено использование speculative decoding с DFlash. К сильным сторонам относятся относительно небольшое потребление памяти для модели такого класса, возможность запуска на двух потребительских GPU, большой доступный контекст и интеграция с vLLM. Ограничения включают текстовую модальность, отсутствие защитных отказов, зависимость производительности от специализированных NVFP4/FP8-ядер и настроек vLLM, а также ограниченный бюджет KV-кэша при нескольких параллельных запросах. Модель распространяется по лицензии MIT; лицензия включённых компонентов и черновой модели DFlash может регулироваться отдельно.

Ornith-1.5-35B-A3B-MagicQuant-GGUF — набор GGUF-квантизаций модели Ornith-1.5-35B-A3B, подготовленный проектом MagicQuant на базе модели ornith-ai. Это мультимодальная модель для задач image-text-to-text, способная обрабатывать изображения и текст; для работы с изображениями требуется отдельный vision projector mmproj в формате GGUF. Лицензия — MIT. Модель использует архитектуру qwen3_5_moe с примерно 35 млрд параметров, из которых около 3 млрд активируются на одном токене. В ней предусмотрено 256 экспертов, из которых маршрутизируются 8, а также поддержка vision. Доступны варианты Q4_K_M-v2 размером 19,58 GiB, Q5_K_M размером 22,88 GiB и Q6_K-v2 размером 28,81 GiB; отдельный vision projector занимает 0,86 GiB. Данные о поддерживаемых языках и максимальной длине контекста в README не указаны. Q4_K_M-v2 рекомендован как наиболее сбалансированный вариант по размеру и скорости, тогда как Q5_K_M заявлен как самый быстрый декодер из трёх при наличии дополнительной памяти, а Q6_K-v2 обеспечивает наименьшее измеренное отклонение от BF16 среди проверенных вариантов. Гибридное распределение точности снижает объём передаваемых весов на шаг декодирования и улучшает скорость по сравнению со старыми версиями тех же уровней. Ограничения связаны с потерями качества, присущими квантизации, заметными требованиями к памяти и тем, что приведённые показатели измерялись на конкретной конфигурации AMD Strix Halo с Vulkan; они не гарантируют аналогичную производительность на другом оборудовании.

Pixel-Linguist-II-Midtrain — визуальный энкодер, разработанный авторами статьи «On the Design Fundamentals of Pixel Text Representation Learning». Он преобразует текст в изображение и кодирует его тем же vision-энкодером, что и обычные изображения; при инференсе текстовый токенизатор не используется. Модель основана на vision tower Qwen2.5-VL, использует ViT с обработкой изображений в исходном разрешении и pooling соседних патчей 2×2. Размер — 676,6 млн параметров. Чекпойнт прошёл два этапа обучения: предобучение и семантический mid-training. Он предназначен для получения эмбеддингов текста и изображений, визуально-текстового поиска и сопоставления документов, включая многоязычные и межъязыковые сценарии. Текст для кодирования нужно предварительно отобразить в изображение; на выходе модель выдаёт усреднённые по патчам L2-нормализованные эмбеддинги. В README приведены результаты на Visual STS и ViDoRe, в том числе улучшение межъязыкового сопоставления и поиска документов после mid-training. Модель распространяется под лицензией Apache-2.0. Для кодирования строк требуется отдельный рендеринг текста в изображение; доступные данные описывают прежде всего задачи эмбеддингов и retrieval, а не генерацию текста или распознавание изображения в текст.

Карточка модели LIF1014/ptdbench-Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

kepom/Qwen2.5-7B-Instruct-abliterated-v2-GGUF — квантизированная версия языковой модели Qwen2.5-7B-Instruct-abliterated-v2, созданная QuantFactory с использованием llama.cpp. Исходную модель разработала huihui-ai на базе Qwen/Qwen2.5-7B-Instruct от Alibaba Cloud; модификация выполнена методом abliteration и позиционируется как менее ограниченная по отказам версия исходной instruct-модели. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в чат-приложениях и локальных приложениях через совместимый с GGUF стек. Она поддерживает английский язык, относится к классу causal language models и имеет размер 7B параметров. В README не указаны точный размер контекста, конкретные варианты квантизации, список поддерживаемых модальностей помимо текста и требования к аппаратному обеспечению. По приведённым оценкам, модель превосходит исходную Qwen2.5-7B-Instruct на IF_Eval и GPQA, но уступает ей на MMLU Pro, TruthfulQA и BBH. Abliteration может сделать ответы менее ограниченными, однако это также означает потенциально более слабое следование политикам безопасности и не гарантирует фактическую точность ответов. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-7B-TitanFusion — объединённая языковая модель на основе Qwen2.5-7B, созданная автором репозитория с помощью mergekit и метода Model Stock. В объединение вошли FourOhFour/Vapor_7B, huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2 и Qwen/Qwen2.5-7B. Модель имеет плотную архитектуру Qwen2ForCausalLM и 7,1 млрд параметров; доступна в формате safetensors для библиотеки Transformers, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для составления ответов, черновиков и продолжения текста; метаданные также отмечают интерфейс вызова инструментов. README не приводит оценок качества или конкретных тестов. Лицензия в предоставленных данных не указана.

Это квантизированная модель для генерации текста brunopio/Qwen3.5-14B-A3B-Claude-4.6-Opus-Reasoning-Distilled-reap-Q4_K_M-GGUF, созданная на основе tvall43/Qwen3.5-14B-A3B-Claude-4.6-Opus-Reasoning-Distilled-reap. Модель преобразована в формат GGUF с помощью llama.cpp и проекта GGUF-my-repo. В названии и тегах указаны архитектура Qwen3.5 MoE с 14 млрд параметров и 3 млрд активных параметров, а также специализация на reasoning-задачах и дистилляции рассуждений. Разработчик базовой модели и автор исходной дистрибуции — tvall43; текущую конверсию опубликовал brunopio. Модель предназначена для текстовой генерации и запуска через llama.cpp, включая локальный CLI-интерфейс и серверный режим. Она может использоваться для диалогов, решения задач, требующих рассуждений, и других сценариев генерации текста. В карточке заявлены языки китайский, английский и корейский. Также указана подготовка на наборах данных nohurry/Opus-4.6-Reasoning-3000x-filtered и Jackrong/Qwen3.5-reasoning-700x. Ключевое преимущество модели — компактный GGUF-представитель с квантизацией Q4_K_M, удобный для локального инференса средствами llama.cpp. Ограничения заключаются в отсутствии в карточке подробных результатов тестирования, точного максимального размера контекста и характеристик производительности. В примере запуска используется контекст 2048 токенов, но это не подтверждает максимальный размер контекста модели. Модель распространяется по лицензии Apache-2.0.

trymirai/Qwen3.8-27B-L — это 8-битная квантизированная версия Qwen3.8-27B, подготовленная Mirai Labs для эффективного локального запуска на компьютерах Apple с Apple silicon. Модель предназначена для локального вывода в задачах генерации текста; оценочная смесь данных включала публичные агентские данные, наборы для supervised fine-tuning и работы с длинным контекстом, а также частные диалоговые данные. Квантизация выполнена после обучения с использованием симметричного 8-битного целочисленного представления, масштабов bfloat16 и размера группы 64. Для уменьшения выбросов активаций и весов применены блочно-диагональные случайные преобразования Хадамара с размером блока 32. По размеру и параметрам квантизации модель сопоставима с Unsloth UD-Q8_K_XL для GGUF. Заявлено, что чекпойнт находится на компромиссной границе между размером и KL-дивергенцией, однако конкретные показатели качества, архитектурные детали исходной модели, поддерживаемые языки и размер контекста в карточке не приведены. Основное преимущество модели — уменьшенные требования к памяти при сохранении качества, близкого к исходной Qwen3.8-27B, что делает её подходящей для локального использования на Apple silicon. Ограничение — официально поддерживается только инференс на Apple silicon; сведения о работе на других аппаратных платформах отсутствуют. Для запуска на macOS рекомендуется пакет mirai. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-MTPLX-bf16 — конвертированная в формат MLX версия плотной мультимодальной модели Qwen3.8-27B, подготовленная автором johninthepool для компьютеров Apple Silicon. Это полноточная сборка bf16 без квантизации: сохранена голова multi-token prediction (MTP), необходимая для спекулятивного декодирования через mtplx. Модель рассчитана на диалоговую генерацию текста; базовая модель также поддерживает анализ изображений и видео, программирование и многошаговые задачи. Сборка предназначена для запуска на Mac с чипом Apple M-серии. Для весов объёмом около 55 ГБ автор рекомендует не менее 64 ГБ объединённой памяти; для работы с нативным путём MTP требуется mtplx. Полноточная версия сохраняет точность исходных весов, но требует больше памяти, чем варианты с квантизацией. Лицензия — Apache-2.0.

Qwen3.8-27B-nvfp4-NInfer — мультимодальная разговорная модель для генерации текста и ответов на вопросы по изображениям. Релиз подготовлен пользователем neroued на основе Qwen3.8-27B от Qwen и unsloth/Qwen3.8-27B-NVFP4; модель предназначена для работы в инференсном движке NInfer. Модель использует архитектуру Qwen3.5 Dense и имеет 27B параметров. Артефакт объединяет NVFP4, row-scaled FP8 и BF16-веса: текстовые слои 0–55 используют NVFP4 для MLP, часть текстовых компонентов и выходная голова — FP8, управляющие веса — BF16. В комплект входят текстовые, визуальные и speculative decoding-компоненты, включая Vision, MTP и DFlash2. Поддерживаются сценарии text-generation и image-text-to-text; конкретные языки и размер контекстного окна в карточке не указаны. Сильными сторонами являются мультимодальность, существенно уменьшенное представление весов и поддержка ускоренного вывода через MTP или DFlash2. В опубликованных оценках указаны высокие результаты на AIME 2025 и 2026 — по 96,67%, GPQA-Diamond — 90,40%, IFBench — 77,00%, а также на задачах работы с изображениями RealWorldQA — 83,53% и ERQA — 66,25%. Артефакт нельзя использовать напрямую как checkpoint Transformers, Safetensors или GGUF: он предназначен только для NInfer. Для запуска требуется NInfer не ниже указанной ревизии, 64-разрядный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее; NInfer необходимо собрать из исходного кода. Лицензия модели — Apache-2.0.

Qwen3-VL-32B-Abliterated-xCloud-GGUF — мультимодальная vision-language модель, разработанная xCloudinfo (云硕科技) на основе Qwen/Qwen3-VL-32B-Instruct. Модель предназначена для задач понимания и генерации текста по текстовым и визуальным входным данным, включая анализ изображений, исследовательские и академические сценарии, контент-модерацию, легальные исследования информационной безопасности и red team-тестирование. Модель распространяется в формате GGUF с вариантами квантования Q4_K_M, Q5_K_M, Q6_K и Q8_0; размер файлов составляет примерно от 19,8 до 34,8 ГБ. Для работы с изображениями требуется отдельный визуальный проектор mmproj в формате F16 размером около 1,2 ГБ. Поддерживаются китайский и английский языки; отдельно заявлено сохранение качества вывода на традиционном китайском. Контекст модели в README не указан. Ключевая особенность — abliteration: без дополнительного обучения из весов удаляется направление, связанное с чрезмерными отказами, методом ортогонализации, основанным на работе Arditi et al. (2024). В заявленном тесте из 10 опасных запросов доля отказов снизилась примерно с 10/10 у исходной модели до 1/10 у версии Q4_K_M, при сохранении обычных задач и визуального понимания. Это не означает полного удаления механизмов безопасности; модель может быть менее склонна к отказам и требует ответственного применения. Её фактические ограничения, включая возможные ошибки, унаследованы от базовой Qwen3-VL, а мировоззренческие и ценностные особенности не изменялись. Модель лицензирована по Apache-2.0. README ограничивает её использование законными и ответственными сценариями и возлагает юридическую и этическую ответственность за применение на пользователя.

BenevolenceMessiah выпустил объединённую языковую модель QwQ-32B-Preview-abliterated-Self-instruct-4x-TIES-MGS-v1.0. Она создана методом TIES с помощью mergekit на базе huihui-ai/QwQ-32B-Preview-abliterated и объединяет её с Rombos-Coder-V2.5-Qwen-32b, TheBeagle-v2beta-32B-MGS, Rombos-LLM-V2.5-Qwen-32b и EVA-Qwen2.5-32B-v0.2. Модель построена на архитектуре Qwen2 с плотной авторегрессионной языковой сетью Qwen2ForCausalLM, содержит 32 млрд параметров и поддерживает контекст до 32 768 токенов. Предназначена для генерации текста и диалогов; состав исходных моделей предполагает применение для кода, ролевых диалогов и написания историй. Веса опубликованы в формате safetensors для библиотеки Transformers. Карточка не сообщает лицензию и подробные результаты оценки качества, поэтому условия использования и сравнительную эффективность определить нельзя. Как результат слияния нескольких моделей, качество и поведение на конкретных задачах следует оценивать отдельно.

Reka-Flash-3-21B-Reasoning-Uncensored-MAX-NEO-Imatrix-GGUF — текстовая reasoning-модель на базе RekaAI/reka-flash-3, опубликованная DavidAU. Она предназначена для локального текстового общения, решения задач и рассуждений, генерации и продолжения художественных текстов, ролевых сценариев, мозгового штурма и общего использования. Модель заявлена как uncensored и поддерживает function calling, однако подробности реализации этих возможностей в README не приведены. Модель имеет размер 21B параметров, работает в формате GGUF и рассчитана на контекст до 128k токенов. Доступен ряд квантованных вариантов от IQ1 до Q8; варианты с более высокой точностью обычно обеспечивают более качественные и быстрые рассуждения, но требуют больше памяти и вычислительных ресурсов. Варианты дополнительно обработаны с использованием NEO Imatrix и сохраняют BF16 для выходного тензора, что, согласно README, должно улучшать следование инструкциям, качество ответов и эффективность рассуждений. Для работы используются теги <reasoning> и </reasoning>, а системный промпт не является обязательным. Сильными сторонами заявлены стабильное рассуждение при разных значениях температуры, способность не зацикливаться и высокая эффективность оптимизированных квантов. При этом качество рассуждений напрямую зависит от выбранного уровня квантования: IQ1 ограничивает reasoning, а для сложных задач рекомендуются IQ3 и выше, особенно IQ4 или Q5–Q8. Низкие кванты требуют меньше ресурсов, но могут заметно уступать по качеству и скорости. Заявленный язык — английский. Модель распространяется по лицензии Apache-2.0.

Rombo-LLM-V2.5-Qwen-3b — компактная плотная языковая модель семейства Qwen2, созданная Rombo-Org на основе Qwen2.5-3B-Instruct. В карточке указано, что модель получена непрерывным дообучением и слиянием instruct- и базовой версий методом TIES; метаданные подтверждают дообучение Qwen/Qwen2.5-3B-Instruct. Параметров — 3,1 млрд, архитектура — Qwen2ForCausalLM, максимальный контекст — 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям; метаданные также отмечают интерфейс для вызова инструментов. Разработчик заявляет о более высокой производительности по сравнению с исходными instruct- и базовой моделями, но карточка не приводит результатов оценки. Модель работает с текстом и распространяется в формате Safetensors; README упоминает варианты GGUF. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.

Guilherme34/Samantha-test — объединённая текстовая модель, созданная методом TIES с помощью mergekit на основе Guilherme34/Samantha-v6.5 и NousResearch/Meta-Llama-3.1-8B. В метаданных указана архитектура Llama с плотной моделью на 7,5 млрд параметров и контекстом до 131 072 токенов; файлы представлены в формате safetensors, библиотека — Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов в чате и генерации текста с длинным контекстом. Метаданные также отмечают интерфейс вызова инструментов, но README не описывает его применение подробно. Модель создана из слияния других моделей, поэтому её поведение зависит от обоих исходных чекпойнтов. Лицензия в предоставленных данных не указана.

Seraph-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на основе Mistral-7B-Instruct-v0.2, созданная MaziyarPanahi слиянием весов через метод SLERP с моделью Weyaxi/Seraph-7B. Она предназначена для генерации текста в диалоге и выполнения инструкций. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов; принимает текст и выдаёт текст. Слияние сочетает две модели с настройкой коэффициентов для слоёв self-attention и MLP. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Доступные сведения не описывают отдельные тесты качества или специальные предметные области, поэтому результат следует проверять на задачах, где важны точность и надёжность ответов.

Модель dinghong-ner/siamese-name-matcher-v7 — дообученный Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, разработанный для семантического сопоставления текстовых фрагментов. Архитектура BERT с усредняющим pooling преобразует предложения и короткие абзацы в плотные векторы размерности 384; близость оценивается косинусным сходством. Модель принимает текст, максимальная длина последовательности по README — 128 токенов, а метаданные указывают контекст до 512 токенов. Основной сценарий — сравнение имён и псевдонимов: обучающие примеры включают варианты написания имён, транслитерацию и японские имена. Модель также подходит для семантического поиска и извлечения похожих текстов. На валидационном наборе v7 указаны cosine accuracy 0,865 и F1 0,9078; результаты относятся к этому набору и не гарантируют качество на других данных. Веса опубликованы в формате safetensors; лицензия в предоставленных данных не указана.

smartyplats-7b-v2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и vihangd/smartyplats-7b-v2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и сообщения в диалоге. Модель принимает текст и выдаёт текст; её контекст составляет до 32 768 токенов. В карточке указаны формат safetensors и лицензия Apache-2.0. README описывает схему слияния, но не приводит отдельные результаты оценки качества или специализированные области применения.

speechless-mistral-six-in-one-7b-orth-1.0-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 от Mistral AI и speechless-mistral-six-in-one-7b-orth-1.0 от uukuguy. Для слияния использован метод SLERP с настройками Mergekit; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Она принимает текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Языки, на которых модель специально обучена, в карточке не перечислены. Модель распространяется по лицензии Apache-2.0. Качество и поведение зависят от свойств исходных моделей и параметров их слияния; README не приводит отдельных результатов оценки или гарантий для конкретных сценариев.

Steelskull_L3.3-Shakudo-70b-GGUF — это набор квантованных версий языковой модели L3.3-Shakudo-70b, разработанной Steelskull. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может применяться в локальных сценариях, включая работу через LM Studio, llama.cpp и другие проекты на его основе. В набор входят варианты GGUF с разной степенью квантования: от Q8_0 до Q2_K, включая форматы Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и другие. Версия Q6_K описана как близкая к исходному качеству, а Q4_K_M — как стандартный вариант для большинства сценариев с хорошим соотношением качества и размера. Ключевая характеристика модели — размер 70 миллиардов параметров; сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Сильными сторонами являются широкий выбор вариантов для разного объёма оперативной памяти, поддержка локального запуска и сохранение высокого качества при использовании более крупных квантов. Ограничения связаны с компромиссом между размером файлов и качеством: низкобитные варианты требуют меньше памяти, но могут заметно уступать более точным версиям. Для работы рекомендуется использовать указанный prompt format. Модель распространяется по лицензии llama3.3.

StrangeMerges_9-7B-dare_ties — объединённая языковая модель семейства Mistral, опубликованная Gille. Она создана методом dare_ties с помощью LazyMergekit на основе leveldevai/TurdusBeagle-7B и samir-fama/FernandoGPT-v1; карточка также указывает StrangeMerges_8-7B-slerp как базовую модель в конфигурации слияния. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста, диалогов и выполнения инструкций. В README приведены результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag, но сведений о языковой специализации или прикладной области нет. Лицензия — Apache-2.0.

Synatra-7B-v0.3-RP-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на 7,1 млрд параметров, созданная слиянием Mistral-7B-Instruct-v0.2 и maywell/Synatra-7B-v0.3-RP методом SLERP. Она предназначена для генерации текста в ответ на инструкции и ведения диалога. Модель использует плотную архитектуру MistralForCausalLM, работает с контекстом до 32 768 токенов и распространяется в формате Safetensors. Модель можно применять для диалоговых помощников, написания и продолжения текста, а также ответов на запросы с длинным контекстом. В README не приведены результаты оценки качества и сведения о поддерживаемых естественных языках. Лицензия Apache-2.0.

Synthia-7B-v3.0 — языковая модель Mistral-7B, дообученная Migtissera для следования инструкциям и ведения длинных диалогов. В обучении использовались подходы, вдохновлённые статьёй Orca-2, и датасет SynthIA-3.0 с обобщённым Tree-of-Thought-промптом и дополнительными системными контекстами. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации ответов на текстовые запросы, диалогов и развёрнутых рассуждений. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Модель может давать неточные или вводящие в заблуждение ответы, а также генерировать предвзятый, оскорбительный или иной нежелательный контент; автор характеризует её как uncensored. Важную информацию следует перепроверять.

Это GGUF-квантизированная версия языковой модели ContextPilot-14B, разработанной Tencent и подготовленной пользователем bartowski с помощью llama.cpp. Модель относится к классу text-generation, поддерживает только текстовый ввод и содержит около 15 млрд параметров. Для квантизации использовался метод imatrix; доступны варианты от BF16 до низкобитных форматов Q2 и Q3, а также Q4–Q8. ContextPilot-14B предназначена для генерации текста, задач управления контекстом, использования инструментов и агентских сценариев. Для работы следует применять указанный шаблон промпта с ролями system, user и assistant. Спекулятивное декодирование не поддерживается. Сильная сторона семейства — широкий выбор квантизаций, позволяющий найти компромисс между качеством, размером файла и требованиями к памяти; автор рекомендует Q4_K_M как сбалансированный вариант. Более низкие квантизации экономят память, но снижают качество, а некоторые форматы отмечены как устаревшие или не рекомендуемые. Языки, размер контекстного окна и точные архитектурные характеристики в README не указаны. Распространение заявлено по лицензии other; конкретные условия лицензии в README не приведены.

Hunyuan-A13B-Instruct-GGUF — квантизированная версия языковой модели Hunyuan-A13B-Instruct, разработанной Tencent. Модель предназначена для генерации текста и работы в инструкционном диалоговом формате. Квантизация выполнена пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix; доступны варианты от Q2_K_L до Q8_0 размером примерно от 29 до 85 ГБ. Модель можно запускать через llama.cpp, LM Studio и другие совместимые проекты. README не раскрывает точную архитектуру, число активных и общих параметров, максимальный контекст, поддерживаемые языки или дополнительные модальности. Основное преимущество представленной версии — широкий выбор уровней квантизации: более высокие варианты сохраняют лучшее качество, а компактные требуют меньше оперативной памяти. При этом сильное сжатие снижает качество ответов, а для запуска большинства вариантов необходим значительный объём памяти. Для корректной работы требуется специальный формат промпта с токенами <|startoftext|>, <|extra_4|> и <|extra_0|>. Модель распространяется по лицензии Tencent Hunyuan A13B; ссылка на текст лицензии приведена в исходном репозитории Tencent. Условия лицензии следует проверить перед коммерческим или иным использованием.

Tess-2.0-Mixtral — языковая модель общего назначения из серии Tess, разработанной migtissera. Она обучена на базе mistralai/Mixtral-8x7B-v0.1 и использует архитектуру MixtralForCausalLM с разреженной архитектурой MoE. Модель предназначена для генерации текста и диалогов; формат запросов включает роли SYSTEM, USER и ASSISTANT. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. В репозитории размещены веса в формате safetensors, лицензия — Apache-2.0. В карточке указано, что модель uncensored; она может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент, поэтому результаты следует проверять.

TriMistral-7B-TIES — объединённая модель для генерации текста и диалогов, созданная Muhammad2003 методом TIES с помощью LazyMergekit. В слиянии использованы NousResearch/Hermes-2-Pro-Mistral-7B и instructlab/merlinite-7b-lab; конфигурация также указывает HuggingFaceH4/zephyr-7b-beta как базовую модель. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Карточка приводит результаты бенчмарков AI2 Reasoning Challenge и HellaSwag, но не описывает специализированные сценарии или гарантии качества. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0.

Wav2Vec2-mBART-50-Ru — русскоязычная модель распознавания речи, разработанная на основе Wav2Vec2-Large-Ru-Golos и mBART-large-50. Она преобразует аудио с русской речью в текст с пунктуацией и заглавными буквами. Архитектура — SpeechEncoderDecoderModel: Wav2Vec2 служит аудиокодировщиком, а mBART — декодером текста. Модель дообучена на размеченных корпусах SberDevices Golos, русской части Common Voice 6.0, Sova RuDevices и части Russian Librispeech. Она подходит для транскрибации русской речи, в том числе записанной в дальней зоне. Для входного аудио требуется частота дискретизации 16 кГц. Модель распространяется по лицензии Apache-2.0.

jonatasgrosman/wav2vec2-xls-r-1b-english — модель распознавания английской речи, дообученная автором карточки с помощью HuggingSound на базе facebook/wav2vec2-xls-r-1b. Она преобразует аудиозапись в текст и подходит для транскрибирования речи, в том числе записей из наборов Common Voice, Multilingual LibriSpeech, TED-LIUMv3 и VoxPopuli. Архитектура — Wav2Vec2ForCTC семейства wav2vec2; число параметров — 1,3 млрд. Для входного аудио требуется частота дискретизации 16 кГц. Модель принимает аудио и выдаёт текст, поддерживаемый язык — английский. Распространяется в формате PyTorch по лицензии Apache-2.0.