I.7Речь, диалоги и встречи

DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, созданная DavidAU и его командой с использованием Unsloth, методов Cold Fusion и Fable Fusion. Модель распространяется в формате GGUF с обычными и MTP-квантами, включая варианты с точностью 4 и 8 бит. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, сторителлинга и ролевых сценариев. По заявлению автора, её настройка направлена на сокращение объёма рассуждений и ускорение генерации при сохранении детализации и качества ответов. В метаданных указаны английский и китайский языки, а также тег image-text-to-text, однако конкретные возможности обработки изображений в README не описаны. Размер контекста и точная архитектура также не указаны. К сильным сторонам относятся заявленные улучшения решения задач, генерации кода и художественного текста, поддержка нескольких режимов рассуждений, снижение избыточного расхода токенов и варианты для запуска на потребительском оборудовании. Автор сообщает о превосходстве базовой Qwen3.8 27B в ряде внутренних или указанных в README тестов, но независимая проверка этих утверждений не приведена. Ограничения включают возможные потери качества при использовании низкобитных квантов, а также отсутствие подробных сведений о контекстном окне, требованиях к ресурсам и фактической мультимодальной поддержке. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-MLX-4bit — это сборка модели Qwen3.8-Flash-Next, адаптированная проектом PipeNetwork для запуска через MLX на компьютерах с Apple Silicon. Модель предназначена прежде всего для генерации текста и программного кода в локальном окружении с поддержкой mlx-lm. В состав репозитория входит собственный runtime для экспериментальной архитектуры qwen4_exp, поэтому для загрузки требуется trust_remote_code=True. Базовая модель имеет гибридную архитектуру Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts на 125 млрд параметров, из которых около 6 млрд активируются для одного токена, а также использует 51 млрд параметров hashed n-gram embedding. В этой версии веса преобразованы в формат MLX и преимущественно квантизированы до 4 бит: размер сборки составляет 103,8 ГБ против 360 ГБ у исходной версии в bfloat16. Часть параметров, включая маршрутизатор MoE и отдельные управляющие компоненты, сохранена в bfloat16. Vision tower также присутствует в bfloat16, но данный runtime работает только с текстом. Мультитокеновая prediction head размером 4 млрд параметров исключена. Языки и точное максимальное окно контекста в README не указаны. Сильной стороной сборки является существенное уменьшение занимаемого объёма при сохранении работоспособной генерации; runtime содержит исправления, обеспечивающие соответствие эталонной реализации на тестовой конфигурации. Однако равномерное 4-битное квантование заметно ухудшает качество: на тесте wikitext-2 perplexity составила 5,3914 против 4,4708 у bfloat16. В README рекомендуется смешанная сборка с 4- и 8-битным квантованием, которая занимает 106,2 ГБ и показывает значительно меньшую потерю качества. Модель распространяется по Qwen Community License 1.0.

Dolphin-2.9.1-Phi-3-Kensho-4.5B-abliterated-v3 — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и сообществом Cognitive Computations; uncensored-настройку выполнил FailSpy. Модель основана на Phi-3-Mini-Instruct-4k в Mistral-совместимой архитектуре и дообучена методом qLoRA на данных для инструкций, диалогов, программирования, математики и вызова функций. Веса также изменены для ослабления отказов на запросы. Модель предназначена для ответов на инструкции, диалогов, помощи с кодом и математическими задачами, а также для начального использования в агентных сценариях и вызова функций. Она принимает текст и генерирует текст, использует шаблон ChatML и имеет контекст 4096 токенов. В репозитории доступны веса Safetensors; при использовании адаптера его следует подключать к базовой модели Unsloth Phi-3-mini-4k-instruct. В метаданных указано 6,4 млрд параметров. Модель ориентирована на английский язык. Ослабленная фильтрация отказов повышает соответствие запросам, поэтому перед предоставлением модели пользователям разработчики рекомендуют добавить собственный уровень ограничений. Лицензия MIT разрешает коммерческое использование; в README также отмечено, что при обучении использовались данные, сгенерированные GPT-4.

Dolphin3.0-R1-Mistral-24B-Patched — текстовая генеративная модель от AIOpsInSpace, созданная на базе cognitivecomputations/Dolphin3.0-Mistral-24B. Модель объединяет дообучение Dolphin 3.0 с паттернами рассуждений DeepSeek-R1 и предназначена для локального запуска, генерации текста и решения задач, требующих пошагового рассуждения. Заявлена поддержка формата reasoning trace с тегами <think> и исправления, повышающие стабильность работы локальных бэкендов и предотвращающие зависания токенизатора. Модель представляет собой плотную архитектуру Mistral с 24 млрд параметров. В карточке указана английская локализация; другие языки и размер контекстного окна не описаны. Среди заявленных особенностей — отсутствие ограничений на тематику ответов и совместимость с GGUF, однако конкретные варианты квантования, требования к оборудованию и результаты бенчмарков не приведены. Сильными сторонами модели являются сочетание относительно компактного для такого уровня reasoning-движка размера, открытой основы Mistral, ориентированности на локальное выполнение и поддержка явного формата рассуждений. Ограничениями остаются отсутствие подтверждённых количественных оценок качества, неполные сведения о контексте и аппаратных требованиях, а также потенциальные риски использования модели без встроенных ограничений безопасности. Указанная лицензия — Apache-2.0.

Google Gemma 3 4B IT QAT Q4_0 Unquantized — мультимодальная модель для диалогов с текстом и изображениями, основанная на Gemma 3 4B IT. Несмотря на обозначение QAT Q4_0 в названии, метаданные указывают формат файлов safetensors; отдельная квантизация в них не подтверждена. Модель принимает текст и изображения и генерирует текст, поддерживает чат и предназначена для ответов на вопросы по изображениям, суммаризации и другим задачам генерации и понимания текста. В README семейство Gemma 3 описано как компактное, подходящее для локального запуска на ноутбуках и настольных компьютерах. Для семейства заявлены контекст до 128 тысяч токенов и поддержка более 140 языков; README не уточняет, подтверждены ли эти характеристики именно для данной сборки. Лицензия — Gemma. Возможны фактические ошибки, предвзятые ответы и трудности с неоднозначными формулировками и сложными задачами; для развёртывания следует учитывать эти ограничения и проверять результаты.

GPT-3.5 Turbo Instruct — вариант модели OpenAI, настроенный на выполнение инструкций в текстовых запросах и не ориентированный на диалоговые оптимизации. Он предназначен для генерации текста в ответ на инструкции и запросы пользователя. В README указан предел знаний в виде обучающих данных по сентябрь 2021 года. Сведения об архитектуре, размере, контекстном окне и лицензии в предоставленных источниках отсутствуют.

GRaPE 2.5 Helios — мультимодальная инструктивная модель компании SL-AI, дообученная на базе Qwen/Qwen3.5-9B. Она принимает текст и изображения, а также, согласно карточке, видео, и генерирует текст. Модель предназначена для диалога, анализа изображений, рассуждений, творческих задач, программирования с использованием инструментов и задач STEAM. В модели предусмотрены настраиваемые режимы глубины рассуждений и усилий при работе с инструментами; заявлена поддержка нескольких языков. Архитектура — плотная Qwen3.5 для генерации текста с визуальным входом; в метаданных указано 9 млрд параметров, а в README размер округлён до 10 млрд. Модель распространяется по лицензии Apache 2.0. Карточка заявляет, что обучение ориентировано на качество данных, более естественный стиль ответов и улучшение обобщения и агентного программирования. Эти заявления не сопровождаются результатами независимых сравнительных тестов. Для видеовхода и работы с инструментами требуется совместимая обвязка; конкретный формат входного видео README не описывает.

Typhoon2-DeepSeek-R1-70B — тайская языковая модель для диалогов и рассуждений, разработанная Typhoon. Это плотная decoder-only модель на архитектуре Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она создана слиянием DeepSeek-R1-Distill-Llama-70B и Typhoon2 70B Instruct с SFT; использует шаблон чата DeepSeek R1 Distill, а не Llama 3. Модель предназначена для ответов на инструкции и сложные вопросы, рассуждений, математики и программирования. README отмечает сильные результаты на тайском языке и сопоставимые с DeepSeek R1 Distill способности к рассуждению; основной язык — тайский, также поддерживается английский. Репозиторий использует Transformers и формат safetensors. Лицензия — Llama 3.1 Community License. Это исследовательская предварительная версия в разработке. Ответы могут быть неточными, предвзятыми или нежелательными; авторы не рекомендуют полагаться на встроенный интерфейс вызова инструментов.

Nex-N2.5-mini-Mixed-Q2Q3-128K-GGUF — неофициальная смешанная квантизация модели Nex-N2.5-mini, разработанной Nex-AGI. Сборку и квантизацию выпустил пользователь karmx для экспериментов на одной видеокарте RTX 5060 Ti с 16 ГБ памяти. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp. Модель поддерживает текстовые и визуальные сценарии при использовании отдельного vision projector, включая распознавание текста на одном изображении, структурированный tool calling и задачи программирования. В протестированной конфигурации заявлена общая длина контекста 131 072 токена, включая промпт, токены изображения и генерируемый ответ. Основной файл имеет размер около 13,32 ГБ, проектор — около 0,90 ГБ. Квантизация использует Q2_K для части routed-expert-тензоров, Q3_K для другой части, Q5_K для эмбеддингов и выходных тензоров, а также Q4_K_M для остальных тензоров; vision projector оставлен в F16. Обучение, объединение моделей и pruning не выполнялись. Сильными сторонами являются поддержка большого контекста, vision-возможностей, инструментальных вызовов и запуск на относительно компактной видеокарте. При этом это экспериментальная сборка с ограничениями качества и совместимости: в сравнении с эталонной Q5_K_M зафиксировано снижение результатов на HumanEval+ и MBPP+, а отсутствие регрессий не подтверждено. Надёжность работы с 128K-контекстом, несколькими изображениями, скорость на стандартной сборке llama.cpp и отсутствие выгрузки в CPU-память не гарантируются; проверка проводилась на конкретной версии llama.cpp, ОС, GPU и настройках. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями необходимо скачать оба файла — GGUF-модель и vision projector. Это не официальный релиз Nex-AGI.

Open-Instruct Human-mix 30B — модель AllenAI на архитектуре LLaMA, дообученная на смеси созданных людьми наборов инструкций: FLAN V2, CoT, Dolly и OpenAssistant 1. Она предназначена для генерации текста в ответ на инструкции, включая общие вопросы, задачи на рассуждение и программирование. В README приведены результаты оценки на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Модель содержит 32,3 млрд параметров, использует архитектуру LlamaForCausalLM и контекст до 2048 токенов. Репозиторий содержит diff весов: для использования нужна совместимая базовая LLaMA в формате Hugging Face. Модель принимает текст и генерирует текст; README описывает специальный формат входных инструкций, соблюдение которого влияет на качество генерации. Указана лицензия AI model license вместе с исходной лицензией LLaMA; условия обеих лицензий следует учитывать при использовании. Модель обучена преимущественно на англоязычных инструкционных данных, поэтому её применение на других языках не подтверждено карточкой.

harithoppil/Qwen3-0.6B-English-Pruned — это англоязычная производная плотной авторегрессионной языковой модели семейства Qwen3, основанная на Qwen/Qwen3-0.6B-Base и опубликованная пользователем harithoppil. В README описаны удаление семи слоёв из 28 методом Layer Dropping (ShortGPT) и сокращение словаря с 151 643 до 101 816 токенов. В метаданных указаны 368,5 млн параметров, архитектура Qwen3ForCausalLM, формат safetensors и контекст до 40 960 токенов. Модель предназначена для генерации английского текста, диалога, написания кода и решения математических задач; README также описывает переключение режимов рассуждения и обычного ответа. Сокращённый словарь исключает токены для кириллицы и ряда других письменностей, поэтому модель специализирована на английском, коде и математике. Удаление слоёв и уменьшение словаря нацелены на снижение размера и повышение скорости вывода, но в README не приведены сравнительные измерения качества или скорости. Лицензия — Apache-2.0.

onnx-community/Qwen3.5-0.8B-ONNX — это ONNX-версия постобученной мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, визуального понимания, рассуждений, программирования, агентских сценариев, прототипирования, исследовательских задач и специализированного дообучения. Веса и конфигурация совместимы с Hugging Face Transformers.js и ONNX Runtime. Модель представляет собой авторегрессионную языковую модель с vision encoder и содержит около 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; языковая часть включает 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. Заявлена поддержка 201 языка и диалекта. Благодаря небольшому размеру модель ориентирована на относительно эффективный запуск и разработку, но по возможностям и качеству уступает более крупным моделям, а заявленные мультимодальные и языковые характеристики требуют проверки на конкретных задачах. Модель распространяется по лицензии Apache-2.0. README не содержит полного описания ограничений, требований к аппаратному обеспечению и подробных результатов именно для всех поддерживаемых сценариев.

Youssofal/Ternary-Bonsai-2-27B-MTPLX-Optimized-Speed — сборка модели Prism ML Ternary Bonsai 2 27B для ускоренного запуска через MTPLX на компьютерах Mac с Apple Silicon. В её основе лежит Qwen/Qwen3.8-27B, объединённая с prism-ml/Ternary-Bonsai-2-27B-mlx-2bit. Это плотная мультимодальная модель с поддержкой диалога, анализа изображений и интерфейса вызова инструментов. Весовые коэффициенты языковой части представлены значениями −1, 0 и +1 с масштабированием по группам; пакет для MTPLX занимает 8,85 ГБ и включает зрительную башню Qwen 3.8 27B. MTPLX использует специализированные GPU-ядра и многотокенное спекулятивное декодирование. В README приведены замеры на M5 Max: 64,4 токена/с при запросе на 4 061 токен и 57,1 токена/с при 16 350 токенах; заявлена работа на Mac с объединённой памятью от 16 ГБ. Модель рассчитана на локальные диалоги, анализ изображений, программирование и работу через агентские клиенты, поддерживающие инструменты. README указывает лицензию Apache-2.0. Для запуска требуется MTPLX версии 2.12.0 или новее; для агентских клиентов рекомендуется Mac с памятью от 18 ГБ. Приведённые скорости относятся к конкретной конфигурации M5 Max и не гарантируют такую же производительность на других устройствах.