II.10Разработка и эксплуатация AI/ML-систем

lmstudio-community/Qwen3.6-27B-MLX-4bit — 4-битная квантованная версия модели Qwen3.6-27B, разработанной Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах с Apple Silicon. Модель предназначена для задач генерации текста и обработки связок изображение—текст, включая сценарии локального запуска через совместимые инструменты. В карточке указана принадлежность к классу image-text-to-text, однако подробные сведения о поддерживаемых языках, размере контекстного окна и полном наборе мультимодальных возможностей не приведены. Ключевая особенность модели — 4-битное представление, снижающее требования к памяти по сравнению с полноформатной версией и подходящее для локального использования на Apple Silicon. Ограничения включают возможную потерю качества из-за квантования, а также отсутствие в предоставленных данных конкретных результатов тестирования и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

QwenLong-L1.5-30B-A3B — языковая модель Tongyi Lab, Alibaba Group, построенная на Qwen3-30B-A3B-Thinking и дообученная для рассуждений по длинному контексту и управления памятью. В карточке описана модель семейства Qwen3 MoE с архитектурой Qwen3MoeForCausalLM; метаданные указывают 2,6 млрд параметров, контекстное окно 262 144 токена и поддержку диалогового взаимодействия и интерфейса вызова инструментов. Модель предназначена для многошагового поиска и связывания сведений, распределённых по длинным документам, а также для задач, чей объём превышает одно контекстное окно: в README описан механизм итеративного обновления памяти. Для обучения применялись синтез сложных проверяемых вопросов, сбалансированная выборка задач и алгоритм AEPO. Авторы сообщают о повышении среднего результата на длинноконтекстных бенчмарках относительно базовой модели и улучшениях в математике, использовании инструментов и длинных диалогах. Модель распространяется по лицензии Apache-2.0. Заявленные результаты основаны на оценках авторов; карточка не приводит подробностей о качестве на отдельных языках и прикладных сценариях, поэтому их следует проверять на собственных данных.

Chinese-Alpaca-2-7B-64K — языковая модель семейства Llama, разработанная командой Chinese-Alpaca. Это дообученная версия Chinese-Alpaca-2-7B, расширенная методом YaRN для работы с контекстом до 65 536 токенов. Модель содержит 6,7 млрд параметров и доступна в форматах PyTorch и Safetensors. Модель предназначена для генерации текста на китайском и английском языках, включая ответы на запросы и работу с длинными входными текстами. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.

DiffusionGemma 26B-A4B-it MXFP8 — языковая модель с блоковой диффузионной генерацией, подготовленная OsaurusAI для запуска через движок vMLX на компьютерах Apple Silicon. В отличие от авторегрессионной генерации, она формирует текстовые блоки размером до 256 токенов и уточняет их итеративным денойзингом. Архитектура — 30-слойная Gemma 4-style MoE с 128 экспертами и выбором 8 экспертов; всего 26 млрд параметров, активно используется около 4 млрд. Веса основных компонентов квантованы в MXFP8, а эмбеддинги, нормализации и визуальный модуль сохранены в fp16; файлы занимают около 26 ГБ. Модель предназначена для диалога и генерации текста, анализа одного или нескольких изображений и вызова инструментов в формате Gemma 4. Для работы с изображениями используется визуальный модуль Gemma 4. Темп генерации на M5 Max указан как 28–42 токена в секунду при 48 шагах денойзинга; фактическая скорость зависит от оборудования и бюджета шагов. Лицензия — Gemma. При очень коротких запросах жадная стратегия денойзинга иногда приводит к пустому ответу; повторная попытка или переформулировка могут помочь. Параметры temperature и top_p, переданные через интерфейс, игнорируются: параметры сэмплирования задаются конфигурацией модели, а уменьшение числа шагов ниже 12 ухудшает качество. Для запуска указана среда Apple Silicon с Osaurus и движком vMLX.

EMMA-500 Llama 3 8B bi — многоязычная языковая модель MaLA-LM, полученная продолжительным предварительным обучением архитектуры Llama 3 8B. Модель насчитывает 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Вариант bi обучен на многоязычных монолингвальных данных и двуязычном переводном корпусе для более чем 2 500 языковых пар; серия охватывает 546 языков. Модель предназначена для генерации многоязычного текста, машинного перевода, рассуждений на основе здравого смысла и классификации текстов, в том числе для языков с ограниченными ресурсами. В обучающие данные входят тексты из книг, кода, инструкций и научных статей. Лицензия — Llama 3 Community License (llama3).

Это квантованная версия Gemma 4 26B A4B IT от Google, опубликованная FreedomAISVR в формате GGUF для запуска через llama.cpp. Основа — инструкцияльная MoE-модель с 26 млрд параметров, около 4 млрд активных параметров, 128 экспертами и выбором 8 экспертов на токен; применена специализированная 4-битная квантизация MXFP4_MOE. Репозиторий также содержит мультимодальный проектор mmproj в F16 для обработки изображений. Модель предназначена для диалогов и следования инструкциям, а с подключённым проектором — для ответов на вопросы по изображениям и их описания. В README заявлены гибридное внимание с локальными и глобальными слоями, отключённый по умолчанию режим рассуждений с возможностью включения в запросе, а также запуск на CPU и GPU. Квантованные веса занимают около 13,72 ГБ, проектор — 1,11 ГБ; README указывает потребность от 8 ГБ RAM и около 15 ГБ дискового пространства. Квантизация рассчитана на более компактный и эффективный запуск MoE-модели при сохранении качества маршрутизации экспертов, однако README не приводит независимых результатов оценки качества. Лицензия — Gemma; использование должно соответствовать её условиям.

Llama-3.1-8B-Reason-Blend-888k — экспериментальная плотная языковая модель от khulaifi95, дообученная на основе Meta-Llama-3.1-8B-Instruct. Она предназначена для усиления способностей к рассуждению и диалогового использования; работает с шаблоном ChatML и поддерживает интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и принимает контекст до 131 072 токенов. В карточке указаны английский язык и лицензия other. Модель можно применять для диалоговых ответов, многошаговых рассуждений и задач, где нужно следовать инструкциям. Автор характеризует её как экспериментальную: качество может быть нестабильным и зависеть от гиперпараметров. Результаты таблицы оценок в README не заполнены; при использовании в продуктивной среде автор рекомендует safeguards и контроль человека.

NVIDIA Nemotron Nano 12B v2 VL FP8 — мультимодальная авторегрессионная модель NVIDIA для анализа изображений и диалога по их содержимому. Это FP8-квантизированная версия Nemotron Nano VL V2: трансформер использует визуальный энкодер C-RADIOv2-H и языковую модель NVIDIA Nemotron Nano 12B v2. Модель принимает текст и одно изображение RGB, а отвечает текстом; контекст и длина ответа — до 128 тысяч токенов. Для изображений действует ограничение в 12 плиток размером 512 × 512 пикселей, прозрачность не поддерживается. Модель предназначена для суммаризации изображений, визуальных вопросов и ответов, распознавания текста и анализа документов, а также рассуждений по визуальному содержимому. Она поддерживает английский, русский, немецкий, испанский, французский, итальянский, корейский, португальский, японский и китайский языки, а также интерфейс вызова инструментов. В карточке указаны запуск через vLLM и оптимизация для GPU NVIDIA; среди совместимого оборудования назван H100 SXM с 80 ГБ памяти. Лицензия обозначена как other, поэтому её условия следует проверять на странице модели NVIDIA.

OLMo-2-1124-7B-SFT — языковая модель Allen Institute for AI (AI2), представляющая собой версию OLMo 2 7B с supervised fine-tuning на варианте набора Tülu 3. Плотная авторегрессионная архитектура OLMo 2 содержит 6,9 млрд параметров; модель работает с текстом, поддерживает диалоговый режим и принимает контекст длиной до 4096 токенов. Основной язык — английский. Модель предназначена для диалогов и широкого круга текстовых задач, включая математические рассуждения, ответы на вопросы и выполнение инструкций. Она обучалась на смеси общедоступных, синтетических и созданных людьми данных, включая набор Tülu 3. Для загрузки и запуска используется библиотека Transformers; веса доступны в формате PyTorch. Лицензия — Apache 2.0. В README отмечено, что у OLMo-2 ограничено обучение безопасности: модель может выдавать проблемный контент, особенно при соответствующих запросах; автоматическая фильтрация ответов не встроена.

Phi-4-Reasoning-Vision-15B — мультимодальная модель Microsoft, разработанная на базе языковой модели microsoft/Phi-4-reasoning и визуального энкодера SigLIP-2. Архитектура mid-fusion объединяет визуальные токены с представлениями языковой модели; динамическое разрешение поддерживает до 3600 визуальных токенов. Модель содержит 14,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель принимает изображения и текст и отвечает текстом. Она предназначена для визуальных вопросов и ответов, OCR, описания изображений, локализации объектов и элементов интерфейса, а также для математических и научных рассуждений по диаграммам, документам и изображениям. Для задач восприятия может отвечать напрямую, а для задач, требующих нескольких шагов, использует расширенное рассуждение. Основной язык обучающих данных — английский; на других языках качество может быть ниже. Разработчик предупреждает о возможных ошибках и предвзятости и не рекомендует применять модель без дополнительной оценки в ситуациях с существенными последствиями, а также для медицинской диагностики, юридических консультаций и финансового планирования. Модель распространяется по лицензии MIT.

Qwen3.5-397B-A17B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx-vlm, при этом модель оптимизирована для запуска на устройствах с Apple Silicon. Модель относится к классу image-text-to-text и предназначена для задач генерации текста на основе текстовых и, вероятно, визуальных входных данных. В доступной карточке не указаны точные сведения об архитектуре, числе активных параметров, поддерживаемых языках, размере контекста, форматах изображений и результатах оценки качества. Ключевое преимущество версии — сниженные требования к памяти по сравнению с полноразмерной моделью и адаптация к экосистеме Apple Silicon; ограничением является зависимость от совместимого MLX-окружения и потенциальная потеря точности из-за 6-битного квантования. Модель распространяется по лицензии Apache-2.0. Исходная модель создана Qwen, а данная MLX-квантизация предоставлена LM Studio; LM Studio отдельно указывает, что не является создателем исходной модели и не гарантирует точность, безопасность или пригодность генерируемого содержимого.

Это GGUF-квантизация модели Qwen3.5-4B-Instruct от Alibaba Cloud в формате MXFP4 — четырёхбитном формате с плавающей точкой по спецификации OCP Microscaling Formats. В репозитории есть файл весов модели и отдельный проектор зрения SigLIP в F16; для обработки изображений требуется подключить проектор. По карточке исходная модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, принимает текст, изображения и видео и поддерживает 201 язык. Контекст исходной модели — 262 тысячи токенов с возможностью расширения до миллиона. Модель предназначена для генерации текста и диалогов по инструкциям; также README показывает сценарий описания изображений. По умолчанию режим рассуждений отключён, его можно включить параметром. README заявляет совместимость формата MXFP4 с CPU и GPU разных производителей, но фактическая поддержка зависит от используемого ПО. Модель распространяется по лицензии Apache 2.0.

Aryanne/QwentileSwap — слитая автором языковая модель семейства Qwen2.5, созданная методом task_swapping с помощью mergekit на основе win10/EVA-QwQ-32B-Preview. В объединение также вошли ArliAI/Qwen2.5-32B-ArliAI-RPMax-v1.3, maldv/Qwentile2.5-32B-Instruct и Sao10K/32B-Qwen2.5-Kunou-v1. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения; в метаданных также указана поддержка интерфейса вызова инструментов. Репозиторий содержит веса в форматах safetensors и GGUF. Автор описывает её как эксперимент с пользовательским методом слияния и не заявляет о гарантированном качестве. Лицензия — Apache-2.0.

StableLM-Tuned-Alpha-7B — авторегрессионная языковая модель компании Stability AI на архитектуре NeoX Transformer, дообученная на базе StableLM-Base-Alpha для диалогов и следования инструкциям. Версия содержит около 10 млрд параметров по метаданным репозитория и поддерживает контекст длиной до 4096 токенов. Модель предназначена для чат-приложений и задач, включающих ответы на вопросы, генерацию текста, суммаризацию, классификацию и извлечение информации. Обучение включало наборы Alpaca, GPT4All Prompt Generations, Anthropic HH, Databricks Dolly и англоязычную часть ShareGPT Vicuna. Основной язык — английский. Дообучение помогает направлять ответы модели, но не устраняет все смещения и токсичность; результаты могут быть неточными и не должны заменять человеческую оценку. Лицензия CC BY-NC-SA-4.0 допускает использование на некоммерческих условиях с соблюдением её требований.

ASTRAL-256k-5.5b — языковая модель от разработчика aww для генерации текста и диалогов. Она построена на архитектуре MistralForCausalLM, имеет 1,6 млрд параметров и поддерживает контекст до 256 000 токенов, что подходит для работы с длинными документами и продолжительными беседами. Модель принимает текст и генерирует текст; в карточке заявлена поддержка английского языка. Модель предназначена для создания статей, отчётов и художественных текстов, чат-ботов, суммаризации и перевода больших документов. Карточка также заявляет оптимизацию вычислений, включая запуск с bfloat16, но не приводит сравнительных результатов. Модель распространяется по лицензии Apache-2.0.

BLOSSOM-v3.1-baichuan2-7b — диалоговая языковая модель, разработанная на основе Baichuan2-7B-Base и дообученная командой BLOSSOM на смеси наборов инструкций Orca, Wizard, Chat и Math. Модель имеет плотную архитектуру Baichuan с 7 млрд параметров и контекстное окно 4096 токенов; она принимает текст и генерирует текст в формате продолжения диалога. Модель предназначена для ответов на вопросы, выполнения инструкций, многоходового диалога и математических рассуждений на китайском и английском языках. Обучение проходило в два этапа: сначала на одношаговых инструкциях Wizard и Orca, затем на математических примерах и многотуровых диалогах Blossom Chat. Лицензия — Apache-2.0.

GPT-NeoXT-Chat-Base-20B — диалоговая языковая модель, разработанная Together Computer в рамках OpenChatKit. Она дообучена на базе GPT-NeoX на более чем 40 млн инструкций и дополнительном небольшом наборе отзывов о предпочтениях людей. Архитектура — плотная GPT-NeoX, число параметров в метаданных — 26,9 млрд, максимальный контекст — 2048 токенов; модель работает с текстом и предназначена для генерации ответов в чат-ботах. Модель подходит для ответов на вопросы, суммаризации, классификации и извлечения информации, в том числе в диалогах с несколькими ходами и при работе с предоставленным контекстом. В карточке заявлена поддержка английского языка. Лицензия — Apache 2.0. Ответы могут быть неточными или нерелевантными, особенно на сложные, неоднозначные вопросы и темы за пределами обучающих данных. Модель не рекомендуется для критически важных сценариев и решений, существенно влияющих на людей; для запуска требуется значительный объём памяти GPU.

Это 4-битная MLX-версия модели Devstral-Small-2-24B-Instruct-2512, разработанной Mistral AI и конвертированной сообществом mlx-community из исходной модели mistralai/Devstral-Small-2-24B-Instruct-2512. Модель предназначена для диалоговых и инструкционных сценариев, а также для задач преобразования изображений и текста в текст, включая описание изображений. Модель содержит 24 миллиарда параметров, относится к семейству Mistral и поддерживает мультимодальный режим с обработкой изображений и текста. Она преобразована в формат MLX и использует 4-битное квантование, что уменьшает требования к памяти по сравнению с полноразмерной версией. README не содержит сведений о длине контекста, поддерживаемых языках, точной архитектуре или результатах тестирования. К сильным сторонам относятся инструкционный режим, мультимодальные возможности и компактное 4-битное представление для запуска через mlx-vlm. Ограничения включают отсутствие в README подробностей о качестве, языковой поддержке, контекстном окне и аппаратных требованиях; кроме того, квантование может влиять на точность по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.

BenevolenceMessiah/Qwen2.5-72B-Instruct-abliterated-2x-TIES-v1.0 — объединённая модель на базе семейства Qwen2.5, созданная с помощью mergekit методом TIES. В качестве базовой использована huihui-ai/Qwen2.5-72B-Instruct-abliterated; в объединение также вошли Rombos-LLM-V2.5-Qwen-72b и Dracarys2-72B-Instruct. Модель предназначена для диалогов и генерации текста. Это плотная причинно-языковая архитектура Qwen2 с 71,5 млрд параметров и контекстом до 32 768 токенов; работает через Transformers и распространяется в формате safetensors. Метаданные указывают интерфейс вызова инструментов, однако README не описывает его поведение и надёжность. Изменённое поведение отказов унаследовано от базовой abliterated-модели согласно описанию каталога. README не сообщает результатов оценки качества или конкретных ограничений. Лицензия в предоставленных данных не указана.

Qwen3-4B-NEO-Imatrix-Max-GGUF — набор GGUF-квантизованных версий модели Qwen3-4B, опубликованный DavidAU на базе Qwen/Qwen3-4B. Модель предназначена для генерации текста, диалогов, задач, требующих рассуждений, а также творческих сценариев, включая создание историй и ролевое взаимодействие. Режим reasoning включён по умолчанию согласно описанию модели. Модель имеет около 4 миллиардов параметров и работает с текстом. Варианты используют квантизацию NEO Imatrix; для более низких уровней квантизации заявлен более заметный эффект Imatrix, а IQ4XS и IQ4NL названы оптимальным балансом качества и размера. Для повышения качества рассуждений рекомендуется использовать более высокие уровни квантизации. Вариант Q8_0 описан как максимально обработанный, но без эффекта Imatrix, а F16 соответствует полной точности. Заявленная длина контекста составляет 32K токенов плюс до 8K токенов генерации; также указана возможность расширения контекста до 128K. Сильными сторонами модели заявлены улучшенные рассуждения, генерация ответов и творческие возможности при сохранении преимуществ компактной 4B-модели. Ограничения связаны с компромиссом между размером, скоростью и качеством, характерным для квантизованных вариантов; конкретные поддерживаемые языки, результаты бенчмарков и системные требования в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

Это архивная перезагрузка квантованной GGUF-версии Qwen3.5-397B-A17B TQ1_0. Автор репозитория указывает, что модель и квантование созданы не им: исходную модель выпустила команда Qwen, а квант предоставлял Unsloth. Модель предназначена для диалогов с текстом и изображениями; каталог отмечает поддержку vision и chat. Файл представлен в формате GGUF с квантованием TQ1_0. Базовая модель — мультимодальная модель Alibaba для диалогов, рассуждений, анализа изображений и видео, программирования и работы с инструментами. В карточке указана лицензия Apache-2.0. README описывает репозиторий как архивную копию, поэтому сведения о качестве именно этой версии и её применимости ограничены.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая fine-tune-модель на базе DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Она создана в рамках совместной работы DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием многоэтапного дообучения и слияния моделей, включая датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также дополнительные обучающие материалы. Лицензия — Apache-2.0. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, работы с историями и ролевыми сценариями. В README заявлены улучшенные общие интеллектуальные способности, reasoning и instruction following, а также vision, однако подробности о поддерживаемых визуальных форматах и способах запуска не приведены. Указаны английский и китайский языки. Размер базовой модели — 27B параметров; точный размер контекста в представленных данных не указан. Распространяются обычные и MTP-варианты в формате GGUF, включая квантизации NEO IMATRIX, ориентированные на запуск на пользовательском оборудовании. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance советуют использовать обычную квантизацию. По утверждению авторов, модель превосходит базовую Qwen3.6-27B в большинстве приведённых ими бенчмарков и сохраняет высокое качество на низких квантизациях, но эти результаты являются заявками из README и требуют независимой проверки. Ограничения включают отсутствие подробных сведений о контекстном окне, системных требованиях и фактическом качестве мультимодальной обработки; обозначение uncensored также указывает на возможное отсутствие стандартных ограничений на содержание.

mlasli/Qwen3.8-27B-Heretic-Abliterated-MLX-6bit — текстовая языковая модель, созданная mlasli на основе Qwen/Qwen3.8-27B. Это версия v2.1.0 с изменённым поведением отказов и ответов, преобразованная в формат MLX для запуска через mlx-lm на компьютерах с Apple Silicon. Модель предназначена для генерации текста, диалогов, ролевых сценариев и задач, где требуется более прямое следование запросу. Модель содержит около 27 млрд параметров и использует групповое 6-битное квантование с размером группы 64. Размер файлов составляет примерно 21,9 ГБ. Репозиторий поддерживает только текстовый ввод: при конвертации удалена vision tower, поэтому обработка изображений недоступна. Многоцелевое предсказание токенов MTP также не сохранено, из-за чего инференс выполняется одной основной головой и может быть медленнее сборок с поддержкой MTP. В карточке указаны английский язык и контекстная длина не приведена. Сильной стороной является уменьшенный объём по сравнению с BF16-версией при сохранении возможностей 27B-модели и удобная интеграция с MLX. По данным тестов, 6-битная версия немного уступает BF16 по прямоте ответов, а режим thinking может чаще приводить к уклончивым или пустым ответам; для заявленного поведения рекомендуется отключать thinking. Abliteration снижает или удаляет исходное safety-выравнивание, поэтому модель требует осторожного применения. Лицензия — Apache-2.0.

DavidAU/Qwen3-8B-64k-Context-2X-Josiefied-Uncensored — текстовая генеративная модель на архитектуре Qwen3ForCausalLM с 7,6 млрд параметров, подготовленная DavidAU на основе Goekdeniz-Guelmez/Josiefied-Qwen3-8B-abliterated-v1. Автор указывает, что контекст увеличен с 32 768 до 65 536 токенов с помощью метода YaRN. Модель рассчитана на диалоговую генерацию и рассуждения; в репозитории доступны веса safetensors для прямого использования или подготовки квантованных вариантов. Модель подходит для продолжительных диалогов, работы с длинными текстовыми запросами и ролевых сценариев. Для «мышления» и генерации ответа автор рекомендует выделять 8–16 тысяч токенов контекста. Указаны шаблоны Jinja и ChatML. В метаданных заявлен интерфейс вызова инструментов, однако README не описывает его настройку. Сведения о лицензии в предоставленных данных отсутствуют.

Это квантованная сборка Qwen3.8-Flash-Next от ghost-actual на основе объединённой модели orcarouter/Qwen3.8-Flash-Next-Uncensored и Qwen/Qwen3.8-Flash-Next. Сборка в формате EXL3 с эффективной разрядностью около 2,5 бит на вес предназначена для запуска MoE-модели на одной видеокарте с 24 ГБ памяти, используя выгрузку экспертов в оперативную память процессора. Веса занимают около 41,5 ГБ, а вместе с таблицей n-грамм артефакт — около 61 ГБ; для запуска также требуется примерно 59 ГБ оперативной памяти и быстрый NVMe-накопитель. Модель предназначена для диалоговой генерации текста, рассуждений и анализа изображений, включая распознавание текста на изображениях. В ней сохранены vision tower, MTP-голова, таблица PLE n-грамм и контекст до 262 144 токенов. Это сборка с удалённым направлением отказов: она может отвечать на запросы, которые исходная модель отклонила бы, поэтому у неё отсутствует соответствующий уровень защитного выравнивания. Агрессивная квантизация может снижать точность, особенно при сложном извлечении фактов; автор проверил несколько примеров, но не запускал широкие оценки качества. README указывает лицензионные условия Qwen, однако конкретный тип лицензии в метаданных обозначен как other.

Stockmark-2-100B-Instruct-beta — большая языковая модель Stockmark Inc. с архитектурой Llama, содержащая 95,1 млрд параметров и предназначенная для генерации текста и диалогового взаимодействия. Модель обучена с нуля на примерно 1,5 трлн токенов: около 60% данных на английском языке, 30% на японском и 10% кода. После предварительного обучения она прошла постобучение на синтетических японских данных для улучшения следования инструкциям; синтетические данные были созданы с помощью Qwen2.5-32B-Instruct. Модель ориентирована прежде всего на японский язык, также обучалась на английском языке и коде. Контекст составляет 4096 токенов. Выпуск обозначен как beta, поэтому модель всё ещё проходит оценку и доработку. Распространяется по лицензии MIT.

Swallow-MS-7b-v0.1 — языковая модель TokyoTech-LLM на основе Mistral-7B-v0.1, дообученная на продолжение предобучения с добавлением преимущественно японских данных. Это плотная авторегрессионная модель семейства Mistral с 7,2 млрд параметров и контекстом до 4096 токенов. Расширенный японский словарь токенизатора позволяет компактнее представлять японский текст и ускорять инференс. Модель предназначена для генерации текста на японском и английском языках и может применяться для вопросов и ответов, чтения и понимания текста, суммаризации, перевода, математических рассуждений и генерации кода. README приводит результаты оценки на японских и английских бенчмарках, включая задачи перевода между японским и английским. Разработчики отмечают, что модель находится на раннем этапе исследований и разработки и не настроена для надёжного следования человеческим намерениям или требованиям безопасности. Модель распространяется по лицензии Apache-2.0.

T5Gemma 2 — семейство мультимодальных моделей Google на архитектуре encoder-decoder, созданных адаптацией предварительно обученных моделей Gemma 3. Этот репозиторий содержит предварительно обученную модель с энкодером и декодером по 4 млрд параметров; адаптация выполнена с использованием UL2. Модель принимает текст и изображения и генерирует текст, поддерживает более 140 языков и контекст до 128 тыс. токенов. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммаризацию, рассуждения и задачи по визуальным документам. В карточке приведены результаты оценки на наборах COCOcap, DocVQA и InfoVQA, а также тестах длинного контекста. Google описывает семейство как исследовательское; веса доступны для использования по лицензии Gemma. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и хуже справляться с неоднозначными формулировками и сложными открытыми задачами. Разработчикам следует самостоятельно оценивать безопасность и качество результатов.

Aiden T5 — текстовая модель на архитектуре T5 от or4cl3ai, представленная как универсальная модель генерации и преобразования текста. В README заявлены генерация текста, перевод, суммаризация и ответы на вопросы; метаданные Hugging Face указывают задачу text-generation и формат PyTorch. В тегах перечислены датасеты по коду, диалогам, переводу, новостям и другим областям, однако точное назначение дообучения и проверенные характеристики модели не установлены. README заявляет доступ к интернету и BDI, а также 1,5 трлн параметров, 360 слоёв и результаты на нескольких бенчмарках. Эти утверждения не подтверждены метаданными, поэтому их нельзя считать надёжными характеристиками модели. Карточка описывает модель как находящуюся в разработке. Указана лицензия OpenRAIL.

Airophin разработал пользователь bhenrym14 как QLoRA-дообучение Llama 2 13B для генерации текста с расширенным контекстом. Модель использует плотную архитектуру LlamaForCausalLM, содержит 12,9 млрд параметров и применяет частичное NTK-масштабирование RoPE; автор указывает целевую длину контекста 16 384 токена. В метаданных Hugging Face указана нативная длина контекста 4 096 токенов. Обучение проходило в два этапа: на длинных фрагментах набора Dolphin и затем на Airoboros GPT-4 1.4.1. Модель предназначена для диалоговой генерации, ответов по предоставленному контексту, инструкций и задач вроде викторин и вопросов с выбором ответа. Для ответов по документам в карточке предложен формат с явными разделителями контекста. Автор сообщает о тестировании длинных последовательностей до 12 000 токенов и приводит результаты perplexity, но отмечает, что оценка влияния отдельных этапов обучения затруднена. Для запуска требуются способы поддержки частичного NTK RoPE-масштабирования; README указывает, что на момент его написания оно не поддерживалось нативно в Transformers и ExLlama. Доступные веса fp16 опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.