II.7DevOps, облако и эксплуатация IT-систем

Ornith-1.5-35B-A3B-MXFP4_MOE_Hybrid-Imatrix-GGUF — это набор оптимизированных квантованных весов в формате GGUF для модели Ornith-1.5-35B-A3B, разработанной Ornith AI. Данные сборки подготовлены jashepp на основе базовой модели и предназначены для запуска в совместимой инфраструктуре GGUF, включая сценарии генерации текста, диалогов, агентной работы, программирования, использования инструментов и задач, требующих планирования и рассуждений. Модель использует архитектуру Mixture of Experts с заявленным размером 35B и конфигурацией A3B. Репозиторий содержит варианты с многоуровневой точностью MXFP4, Q8_0 и F16, а также importance matrix, созданной на основе исходной imatrix и дополнительных данных из промптов, результатов, аудитов, навыков и документации. Доступны файлы размером примерно от 18,5 до 20,7 ГБ. Указанный язык — английский; модель относится к текстовым генеративным моделям. Размер контекста в README не указан. К сильным сторонам относятся улучшенное следование инструкциям и рассуждениям по сравнению с Ornith-1.0, ориентация на агентное программирование и возможность уменьшить требования к памяти за счёт квантования экспертных слоёв при сохранении более высокой точности в критических компонентах. Ограничения включают потенциальные потери качества из-за квантования, зависимость от совместимого загрузчика GGUF и отсутствие в README подробных сведений о фактических требованиях к оборудованию, контекстном окне и результатах независимого тестирования. Распространение указано по лицензии MIT.

unsloth/phi-4 — версия Phi-4 от Unsloth, созданная на основе microsoft/phi-4. Авторы сообщают о переносе модели на архитектуру Llama для упрощения использования и дообучения, а также о внесении исправлений Phi-4. Модель содержит 14,1 млрд параметров и принимает текст, преимущественно в формате чата; длина контекста — 16 384 токена. Модель предназначена для генерации текста и диалогов на английском языке, включая задачи рассуждения, логики, математики и программирования. Её можно использовать как основу для генеративных функций в сценариях с ограничениями по памяти, вычислительным ресурсам или задержке. По карточке базовая Phi-4 разработана Microsoft Research и обучена с использованием синтетических данных, отфильтрованных публичных веб-источников, академических книг и наборов вопросов и ответов; для улучшения следования инструкциям применялись supervised fine-tuning и direct preference optimization. Репозиторий использует формат safetensors и распространяется по лицензии MIT. Модель ориентирована прежде всего на английский язык; как и другие языковые модели, она может ошибаться, поэтому её ответы следует проверять, особенно при использовании в высокорисковых сценариях.

Qwen3-32B-Nex-N1 — плотная языковая модель серии Nex-N1 от разработчиков платформы Nex, дообученная для автономной работы агентов. Она предназначена для генерации текста в сценариях программирования, вызова инструментов, веб-поиска и многошаговых задач, а также для создания мини-приложений и веб-страниц. В README приведены результаты оценки этой версии на агентных и программных бенчмарках; модель также поддерживает чат и вызов функций. Модель построена на архитектуре Qwen3 и содержит 29,7 млрд параметров. Контекст — до 131 072 токенов; репозиторий предоставляет веса в формате Safetensors. Она принимает и генерирует текст. README рекомендует запуск через SGLang и для вызова функций указывает парсер инструментов qwen3_coder. Лицензия — Apache-2.0.

Это мультимодальная модель llmfan46 на архитектуре Qwen3.5 MoE: дообученная версия Qwen/Qwen3.6-35B-A3B с визуальным энкодером и причинной языковой моделью. В репозитории сохранены все 19 MTP-компонентов исходной модели; автор также сообщает о применении abliteration для ослабления ограничений на ответы. Модель содержит 35 млрд параметров, из которых активируются 3 млрд, и использует 40 слоёв с MoE. Нативное контекстное окно составляет 262 144 токена и может расширяться до 1 010 000 токенов. Модель предназначена для диалогов с текстом и изображениями, анализа изображений, агентного программирования, работы с репозиториями и вызова инструментов. Архитектура и карточка базовой модели указывают на мультимодальные возможности, но отдельные оценки в README приведены для исходной Qwen3.6, поэтому их нельзя считать результатами именно этой версии. Модель распространяется в формате safetensors по лицензии Apache-2.0.

FiditeNemini/Unhinged-Qwen2.5-R1-1M-Uncensored-BF16 — объединённая модель автора FiditeNemini, полученная методом TIES из huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 и mkurman/Qwen2.5-14B-DeepSeek-R1-1M. Это плотная причинно-языковая модель семейства Qwen2 с 14 млрд параметров, предназначенная для диалогов и генерации текста, включая код; интерфейс модели также поддерживает вызов инструментов. Репозиторий содержит веса Safetensors и версию для MLX в точности bfloat16. Метаданные указывают контекст до 1 010 000 токенов, тогда как README приводит 4096 токенов; фактическая поддержка столь длинного контекста может зависеть от конфигурации и используемого преобразования. В тегах указан английский язык. Модель позиционируется как uncensored и основана на вариантах с ослабленными отказами, поэтому её ответы могут включать нежелательный контент. Лицензия — Apache 2.0.

Orion-zhen/DeepSeek-R1-Distill-Llama-70B-abliterated — вариант DeepSeek-R1-Distill-Llama-70B, созданный с помощью abliteration. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические рассуждения, программирование и ответы на сложные вопросы. В метаданных указаны английский и китайский языки, а также интерфейсы чата и вызова инструментов. Модель представлена в формате safetensors и распространяется по лицензии GPL-3.0. README не сообщает о качестве abliteration, её конкретных целях или изменениях поведения модели, поэтому эти свойства нельзя оценить по доступным сведениям.

DFlash-Qwen3.5-27B-Uncensored-GGUF — GGUF-квантизированная версия модели DFlash-Qwen3.5-27B-Uncensored от AEON-7, подготовленная mradermacher. Модель предназначена для генерации текста, диалогов, программирования, рассуждений, агентских сценариев, вызова функций и работы с инструментами. В README также заявлены мультимодальность и поддержка vision-language через отдельный файл mmproj. Модель имеет размер 27 млрд параметров и относится к семейству Qwen3.5 с гибридной архитектурой, сочетающей attention и linear attention; среди заявленных компонентов указаны Gated DeltaNet и block diffusion. Поддерживается английский язык, библиотека Transformers, а также совместимые с OpenAI интерфейсы и vLLM. Максимальный размер контекста в README не указан. Доступны варианты квантования GGUF от Q2_K до Q8_0 и IQ4_XS; размеры файлов составляют примерно от 10,8 до 28,7 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как обеспечивающий наилучшее качество среди перечисленных. К сильным сторонам относятся широкий набор заявленных сценариев, поддержка инструментов и мультимодальности, а также возможность выбора между различными уровнями квантования для баланса качества, скорости и требований к памяти. Ограничения включают отсутствие в README точных данных о размере контекста, результатах оценки, поддерживаемых языках помимо английского и фактических возможностях мультимодального режима; для него требуется отдельный mmproj-файл. Модель распространяется по лицензии Apache-2.0.

mlx-community/dolphin-2.9-llama3-8b-4bit-mlx — 4-битная конверсия в формат MLX модели Dolphin 2.9 от Cognitive Computations, выполненная сообществом mlx-community с помощью mlx-lm 0.10.0. В основе — дообученная Meta Llama 3 8B с плотной архитектурой LlamaForCausalLM; в метаданных указано 7,5 млрд параметров и контекст 8192 токена. Модель предназначена для диалоговой генерации текста и ответов на инструкции; среди обучающих данных есть наборы для кода, математики, общения и вызова функций. Модель принимает текст и генерирует текст. Карточка описывает запуск через mlx-lm. Лицензия указана как other, поэтому условия использования следует сверить с исходной карточкой модели и лицензией базовой Meta Llama 3. Подробные сведения об ограничениях и языковом покрытии в доступной карточке не приведены.

L3.1-Moe-4x8B-v0.2 — языковая модель архитектуры Mixture of Experts, созданная автором moeru-ai с помощью mergekit-moe. Она объединяет четыре модели на базе Llama 3.1: Llama-3.1-SuperNova-8B-Lite_TIES_with_Base, Llama-3.1-8B-ArliAI-RPMax-v1.2, rombos_Replete-Coder-Instruct-8b-Merged и Llama-3.1-8B-Squareroot-v0. В каталоге указано 7,5 млрд параметров и контекст до 131 072 токенов; модель предназначена для генерации текста в диалоговом формате, включая ответы на инструкции и генерацию кода. Модель распространяется в формате safetensors и использует библиотеку Transformers. В README приведены результаты оценивания на Open LLM Leaderboard, включая среднее значение 17,47 и результат 54,07 на IFEval (0-shot). Лицензия — Llama 3.1; перед использованием следует соблюдать её условия. Карточка не описывает детально языковое покрытие и ограничения качества.

Meta Llama 3 70B Instruct — разработанная Meta инструкция-настроенная большая языковая модель для диалоговых сценариев. Это авторегрессионный плотный трансформер Llama с Grouped-Query Attention, примерно 69,5 млрд параметров и контекстом 8192 токена. Модель принимает текст и генерирует текст, включая код; карточка указывает английский как целевой язык. Модель подходит для диалогового помощника и генерации текста или кода. Настроенная версия обучена с помощью supervised fine-tuning и обучения с подкреплением на основе человеческих предпочтений (RLHF), с акцентом на полезность и безопасность. Репозиторий распространяет веса в формате safetensors; заявлена пользовательская коммерческая лицензия Meta Llama 3, условия которой необходимо соблюдать. Модель не предназначена для использования на языках, отличных от английского, согласно указанному назначению; для ответственного развертывания могут потребоваться дополнительные меры безопасности.

Mistral-Nemo-Base-2407 — предварительно обученная генеративная языковая модель, совместно разработанная Mistral AI и NVIDIA. Это плотный трансформер Mistral с 12,1 млрд параметров, 40 слоями, группированным вниманием к запросам (GQA) и словарём примерно на 128 тысяч токенов. Модель выпущена в июле 2024 года и распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под конкретные задачи. Она обучалась на многоязычных данных и коде; заявленное окно контекста составляет 128 тысяч токенов. Среди указанных языков — английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Для запуска рекомендован mistral-inference; README также описывает использование через Transformers. Карточка приводит результаты на общих и многоязычных бенчмарках и рекомендует для генерации температуру 0,3. Поскольку это базовая предварительно обученная модель, она не имеет механизмов модерации и не является специализированной инструкционной версией; поведение в прикладных сценариях может требовать дополнительной настройки. Для неё доступна также отдельная instruct-версия.

AceInstruct-7B-GGUF — это квантизированная версия инструкционной языковой модели AceInstruct-7B, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к задачам генерации текста и ориентирована на выполнение инструкций, программирование, математику и задачи общего назначения. В README указана поддержка английского языка. Доступны варианты от F32 и F16 до Q2_K_L, включая различные форматы Q4, Q5, Q6, Q8 и IQ; размер файлов варьируется примерно от 3,35 до 30,47 ГБ. Это позволяет выбирать баланс между качеством, требованиями к памяти и скоростью локального вывода. Ключевые архитектурные характеристики исходной модели, включая точный тип архитектуры и размер контекста, в README не указаны. К преимуществам относятся широкий выбор уровней квантизации и возможность локального запуска, а ограничениями — потенциальное снижение качества у наиболее компактных вариантов, англоязычная специализация и отсутствие сведений о мультимодальности. Модель распространяется по лицензии CC BY-NC-4.0, допускающей использование с ограничениями для некоммерческих целей.

Olmo-3-7B-Think — авторегрессионная плотная Transformer-модель для генерации текста, разработанная Allen Institute for AI (Ai2). Это вариант семейства Olmo 3 с упором на пошаговое рассуждение; карточка указывает обучение на данных Dolma 3 и последующее дообучение на наборах Dolci. В метаданных базовой моделью названа allenai/Olmo-3-7B-Think-DPO, а связь указана как finetune. Модель предназначена для диалогов и задач, где полезны развёрнутые рассуждения, в частности математики, программирования, ответов на общие вопросы и следования инструкциям. Она содержит 6,9 млрд параметров, поддерживает контекст до 65 536 токенов и рассчитана прежде всего на английский язык. Для запуска используется библиотека Transformers; веса опубликованы в формате safetensors. Модель может давать неточные ответы и без дополнительной фильтрации способна генерировать вредный или чувствительный контент. Результаты следует проверять, а при практическом использовании учитывать возможную предвзятость. Лицензия — Apache 2.0; карточка также ссылается на рекомендации Ai2 по ответственному использованию.

OpenChat 3.5-1210 — диалоговая языковая модель, разработанная командой OpenChat и созданная дообучением Mistral-7B-v0.1 на смешанных данных разного качества. Модель с плотной архитектурой Mistral содержит 7,1 млрд параметров и поддерживает контекст до 8192 токенов; доступны веса в формате Safetensors. Она предназначена для генерации ответов в чате, написания и объяснения кода, решения математических задач и других общих текстовых запросов. В карточке также описаны экспериментальные сценарии оценки ответов и предоставления обратной связи. Модель поддерживает два режима диалога: общий режим для чата, программирования и широкого круга задач, а также режим, настроенный на математические рассуждения. Разработчик приводит результаты тестов по программированию, математике и общим знаниям, однако бенчмарки не гарантируют точность в практических задачах. Модель может ошибаться или выдавать убедительно звучащие неверные ответы; режимы и шаблон диалога следует применять согласно карточке. Лицензия — Apache-2.0. Для работы с моделью автор рекомендует OpenChat и сервер с API, совместимым с OpenAI ChatCompletion; в карточке заявлен запуск на потребительском GPU с 24 ГБ памяти. Языки обучения или поддержки явно не перечислены, поэтому языковые возможности сверх текстового диалога здесь не уточняются.

Mungert/OpenReasoning-Nemotron-32B-GGUF — GGUF-версия большой языковой модели OpenReasoning-Nemotron-32B, производной от Qwen/Qwen2.5-32B-Instruct. Исходная модель разработана NVIDIA и дообучена для рассуждений, генерации решений по математике, программированию и научным задачам. Указан английский язык, текстовая модальность и сценарий text-generation. Модель создана с использованием llama.cpp; конкретный формат квантования зависит от файла GGUF. В README также описан подход с повышением точности отдельных важных слоёв при квантовании, что может улучшать качество на низких разрядностях, но увеличивает размер файла. Модель рассчитана на исследовательское и коммерческое/некоммерческое использование. Для сложных задач поддерживается генерация до 64K выходных токенов по данным исходной карточки. Сильные стороны — специализация на математическом, кодовом и научном рассуждении, а также возможность многократных параллельных генераций с последующим выбором решения через GenSelect. Ограничения включают высокие требования к вычислительным ресурсам для 32B-модели, возможную зависимость качества и размера от выбранного уровня квантования, а также отсутствие в предоставленных данных точного размера контекстного окна и подробностей об аппаратных требованиях. Лицензия модели — Creative Commons Attribution 4.0 International (CC-BY-4.0); для базовой модели дополнительно указана Apache 2.0.

orca_mini_v2_7b — языковая модель семейства LLaMA, разработанная Pankaj Mathur совместно с Eric Hartford. Это дообученная плотная авторегрессионная модель примерно с 6,6 млрд параметров для генерации текста по инструкциям и диалоговым запросам. При обучении использовались подходы к построению данных из исследования Orca и наборы WizardLM, Alpaca и Dolly-V2; автор отмечает улучшенные возможности генерации кода по сравнению с предыдущей версией orca_mini_7b. Модель предназначена для ответов на вопросы, выполнения инструкций, диалога и генерации кода на английском языке. Она принимает текст и генерирует текст; родной контекст составляет 2048 токенов. В README приведены результаты оценки на наборах ARC Challenge и HellaSwag. Модель описана как uncensored, поэтому её ответы могут требовать дополнительной фильтрации. Лицензия CC BY-NC-SA 4.0 допускает использование с указанием авторства и распространением производных на тех же условиях, но запрещает коммерческое использование.

Qwen3-4B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на стадии предварительного обучения, предназначенная для дальнейшей адаптации и генерации текста. В карточке указаны 4,0 млрд параметров, 36 слоёв, групповое внимание с 32 головами Q и 8 головами KV и контекст до 32 768 токенов; метаданные каталога оценивают размер весов в 3,7 млрд параметров. Модель обучена на многоязычном корпусе; README сообщает о 119 языках в обучающих данных, но не перечисляет поддержку каждого из них. Среди заявленных направлений обучения — общие знания, программирование, STEM, рассуждения и понимание длинного контекста. Для запуска рекомендуется актуальная версия Transformers: версии ниже 4.51.0 могут не распознавать архитектуру Qwen3. Лицензия — Apache-2.0.

Это квантованная GGUF-сборка Qwen3.6-35B-A3B от автора xero0000, подготовленная для запуска целиком в видеопамяти. Вариант vram13 занимает 12,98 ГБ; README также описывает вариант с дополнительной MTP-головой размером 13,53 ГБ. Базовая модель — MoE с 35 млрд параметров, а базовый файл поддерживает контекст до 256 тыс. токенов; вариант MTP — до 128 тыс. токенов. Сборка предназначена для генерации текста и диалогов, в том числе для работы с кодом, на системах с ограниченной видеопамятью. Веса экспертов преимущественно квантованы в 2 бита с использованием imatrix и выборочной защиты чувствительных слоёв; внимание, SSM-проекции и некоторые общие тензоры имеют более высокую точность. Автор приводит замеры скорости и перплексии на двух видеокартах, однако результаты зависят от оборудования и программной среды. Ожидается некоторое снижение качества на сложных и редких случаях по сравнению с квантованиями Q4-класса. Вариант MTP использует голову, перенесённую из дообученной модели, поэтому выигрыш скорости зависит от содержания текста; совместимость этой сборки и MTP-файла зависит от загрузчика. Лицензия — Apache-2.0.

Qwen3.8-9B — плотная языковая модель на 9 млрд параметров от Empero, полученная дистилляцией рассуждений модели-учителя Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B. Это полное дообучение всех параметров базовой модели на SFT-примерах: примерно 70 тысяч отобранных трасс учителя по математике, программированию, общим рассуждениям, следованию инструкциям и работе с инструментами. Модель использует архитектуру Qwen3.5 и формат весов Safetensors; нативный контекст составляет 262 144 токена. Она предназначена для генерации ответов с пошаговыми рассуждениями, решения математических задач, написания кода и вызова инструментов. В карточке приведены результаты тестирования на GSM8K и MMLU; на MMLU модель заметно превзошла базовую Qwen3.5-9B, тогда как на GSM8K показала немного более низкий результат. Интерфейс вызова функций поддерживается без дополнительной обёртки. Лицензия — Apache-2.0. Тонкая настройка проводилась только для текста; визуальные возможности унаследованы от мультимодальной базы, но в карточке не оценивались.

Qwen3.8-Flash-Next-IQ4_XS-GGUF — это квантизированная версия базовой модели Qwen/Qwen3.8-Flash-Next-FP8 в формате GGUF. Исходная модель разработана командой Qwen, а данный вариант подготовлен пользователем julianmb с использованием ROCmFPX и проверенного конвейера преобразования. Модель предназначена для генерации текста, включая повседневный диалог, программирование и работу с длинным контекстом. В репозитории представлены варианты квантизации IQ4_XS, включая статический файл размером около 116 GiB, imatrix-квантизацию M2 размером около 115 GiB и облегчённый PLE-вариант размером около 91 GiB. Для M2 заявлены 5,56 бит на вес и лучшее измеренное значение perplexity среди представленных вариантов; PLE-вариант уменьшает размер за счёт квантизации 51-миллиардной n-gram lookup table до iq4_nl. Также доступен отдельный MTP-файл Q8_0 размером около 3,9 GiB для ускоренной генерации в совместимых движках. Модель ориентирована на запуск на системах с 128 GiB унифицированной памяти, в частности на Strix Halo, через совместимые сборки llama.cpp и Vulkan. Заявлена работа с контекстом до 256k токенов при использовании SSD-PLE и специальных параметров запуска. Производительность зависит от варианта файла, глубины контекста, MTP и конкретного движка. Важное ограничение — PLE-вариант несовместим с некоторыми форками движков, которые не выполняют требуемую деквантизацию; в таких случаях рекомендуется статический вариант IQ4_XS или M2. Сведения о поддерживаемых языках и точной архитектуре в README не указаны. Лицензия обозначена как qwen-community-license-1.0.

SakalFusion-7B-Beta — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit. В слиянии использованы Qwen2.5-Coder-7B-Instruct, Qwen2.5-Math-7B-Instruct и Sakalti/model-3; базовая модель слияния — bunnycore/Qwen2.5-7B-RRP-1M. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста в диалоговом формате, в том числе для задач программирования и математики, унаследованных от входящих в слияние моделей. Метаданные указывают контекст до 1 010 000 токенов и интерфейс для вызова инструментов. Карточка не приводит результатов оценивания, поэтому качество на конкретных задачах и практическая эффективность такого длинного контекста не подтверждены. Лицензия в предоставленных данных не указана. Модель создана на основе нескольких чекпойнтов, поэтому условия использования следует сверить с лицензиями исходных моделей.

Sombrero-QwQ-32B-Elite11 — дообученная 32-миллиардная языковая модель prithivMLmods на базе Qwen/QwQ-32B, построенная на архитектуре Qwen2 и распространяемая в формате Safetensors. Модель предназначена для генерации текста и диалогов, с акцентом на программирование, математические задачи, логические рассуждения и подробные объяснения. Метаданные указывают контекст до 131 072 токенов; README заявляет поддержку входа до 256 000 токенов и генерацию до 12 000 токенов за ответ. Модель подходит для генерации и отладки кода, пошагового решения задач, подготовки технической документации, длинных ответов и многоязычных диалогов. README заявляет поддержку более 35 языков, включая русский, однако метаданные карточки подтверждают только английский. Также заявлен режим оптимизации памяти, но подробности реализации не приведены. Для работы с длинным контекстом требуются значительные ресурсы GPU или TPU; ответы могут содержать ошибки и предвзятость, качество зависит от формулировки запроса, а доступа к актуальным данным модель не имеет. Лицензия — Apache-2.0.

InternScience/Agents-A1-F16-GGUF — вариант модели Agents-A1 от InternScience в формате GGUF F16. Это 35-миллиардная MoE-модель, дообученная для многошаговой работы в роли универсального агента: она разбивает сложные запросы на этапы, планирует действия и может использовать инструменты через интеграцию с внешней системой. Модель предназначена для длительного поиска, инженерных задач, научных исследований, следования инструкциям и ответов на профессиональные вопросы. Карточка базовой модели сообщает о поддержке вызова функций и интеграции с API, поисковыми системами и интерпретаторами кода. В опубликованных оценках Agents-A1 показала результаты на задачах агентного поиска, научных рассуждений и следования инструкциям; эти результаты относятся к базовой модели и не являются отдельной оценкой данного варианта GGUF F16. В README также описан контекст 262K для стандартной версии при запуске через SGLang, но это значение не подтверждено для данного GGUF-файла. Лицензия — Apache-2.0.

jondurbin/airoboros-65b-gpt4-1.3 — плотная языковая модель семейства LLaMA с 65 млрд параметров, дообученная автором методом QLoRA на синтетических инструкциях, созданных GPT-4. Она предназначена для диалогов с ассистентом, выполнения инструкций, генерации кода и ответов с рассуждением перед итоговым ответом. Для общения используется шаблон Vicuna с ролями USER и ASSISTANT; модель принимает текст и генерирует текст. Указанная длина контекста — 2048 токенов. README предупреждает о проблемах в этой версии и рекомендует использовать её с осторожностью или дождаться версии 1.4. Модель распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.

Atom-80B — диалоговая языковая модель VANTA Research, дообученная на базе Qwen3-Next-80B-A3B-Instruct для совместной работы с человеком. Это пятая модель проекта Atom, ориентированного на модели с дружелюбным и ориентированным на сотрудничество стилем общения. Модель использует архитектуру Qwen3 Next с разреженной схемой Mixture of Experts (MoE); в метаданных указано 2,3 млрд параметров и контекст до 262 144 токенов. Работает с текстом и предназначена для генерации ответов в формате диалога. Модель подходит для совместного мозгового штурма, синтеза исследовательских материалов, объяснения технических тем, обсуждения кода и творческого решения задач. Разработчик заявляет о сильных сторонах в многошаговых рассуждениях, совместном выполнении задач и устойчивом стиле общения. README не приводит результаты независимых оценок качества, поэтому фактические утверждения следует проверять; модель не предназначена для принятия решений с высокими ставками без контроля человека и не должна заменять медицинскую, юридическую или финансовую консультацию. Лицензия — Apache-2.0.

darkps_ice-AI-GGUF — это квантованные версии языковой модели ice-AI, разработанной DarkPs и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Входной модальностью является текст, спекулятивное декодирование не поддерживается. Модель содержит около 8 млрд параметров. Набор включает варианты от BF16 до низкоразрядных квантовок Q2 и IQ, размер файлов составляет примерно от 3,4 до 16,4 ГБ. Квантования с imatrix рассчитаны на работу через совместимые инструменты llama.cpp; разработчик рекомендует Q4_K_M как сбалансированный вариант по качеству, размеру и производительности, а Q6_K и Q6_K_L — для более высокого качества. Длина контекста в README не указана. Сильными сторонами являются широкий выбор квантований, возможность подобрать модель под доступный объём памяти и совместимость с экосистемой llama.cpp. Более компактные варианты экономят память, но могут заметно уступать старшим квантованиям по качеству. Лицензия — Apache-2.0; исходной моделью указана darkps/ice-AI.

Gemma 4 E4B-it QAT MXFP4 CRACK — мультимодальная модель семейства Gemma 4 от dealignai, созданная на основе google/gemma-4-e4b-it. Это плотная модель с гибридным скользящим и глобальным вниманием, дообученная с удалением отказов и квантизированная до 4-битного формата MXFP4. Она принимает текстовые запросы, изображения и аудио, а также предназначена для диалога, ответов на вопросы, многошаговых рассуждений и генерации кода; в метаданных также заявлен интерфейс вызова инструментов. В README автор сообщает о сохранении визуальных и аудиовходов, проверке генерации кода и снижении результата MMLU на 3,9 процентного пункта относительно базовой модели. Удаление отказов означает, что модель может выполнять вредоносные запросы; заявленные результаты HarmBench приведены автором и не являются независимой оценкой. Для запуска требуется Apple Silicon с достаточной объединённой памятью и vMLX с поддержкой Gemma 4. Лицензия — Gemma; автор публикует модель для исследовательских целей.

Herplete-LLM-Llama-3.1-8b — диалоговая языковая модель Replete-AI, созданная слиянием Replete-LLM-V2-Llama-3.1-8b и LoRA-адаптера, извлечённого из Hermes-3-Llama-3.1-8B. Модель построена на плотной архитектуре Llama 3.1 и содержит 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors. Модель предназначена для диалога и генерации текста по инструкциям. Метаданные также отмечают интерфейс вызова инструментов, что позволяет использовать её в сценариях, где ассистент передаёт управление внешним инструментам. Базовая модель Hermes 3 ориентирована на англоязычные инструкции, рассуждения, генерацию кода и вызов инструментов; README описывает непрерывное дообучение модели Replete с использованием LoRA из Hermes 3. Карточка не сообщает отдельные результаты оценки качества или условия лицензии, поэтому их нельзя надёжно указать.

Inkling-Small-GGUF — мультимодальная авторегрессионная модель, разработанная Thinking Machines и представленная в формате GGUF командой Unsloth. Модель принимает текст, изображения и аудио, а генерирует текст; она предназначена для разработчиков AI-приложений, включая агентные и tool-use системы, coding assistants, чат-ботов, retrieval-augmented generation, диалоговые и мультимодальные сценарии, а также для исследований, дообучения и интеграции в сторонние продукты. Архитектура представляет собой 42-слойный decoder-only Transformer с разреженным Mixture-of-Experts: всего 276 млрд параметров, из которых активны 12 млрд; для каждого токена выбираются 6 из 256 экспертов и используются 2 общих эксперта. Внимание сочетает локальные и глобальные слои. Изображения обрабатываются иерархическим patch-энкодером, аудио — дискретным токенизированным представлением, после чего все модальности проецируются в общее скрытое пространство. Поддерживаются числовые форматы BF16 и NVFP4; GGUF-вариант ориентирован на локальный запуск через совместимые инструменты. Для изображений рекомендуются размеры каждой стороны от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью желательно менее двух минут. Сильные стороны модели — сочетание текстовых, визуальных и аудиовходов, поддержка английского и общих мультиязычных сценариев, работы с кодом и широкого спектра прикладных задач. Ограничения включают текстовый формат вывода, рекомендуемые ограничения на входные изображения и аудио, а также отсутствие в представленных данных конкретного размера контекстного окна и подробных результатов оценивания. Модель распространяется под лицензией Apache-2.0.

J.A.R.V.I.S. Titan M4 Activated — текстовая генеративная модель семейства Jarvis Titan MoE от dhanesh-hf. Она дообучена на базе dhanesh-hf/Jarvis-Titan-V15-MoE-Decoupled и предназначена для диалогов, рассуждений, математических задач, программирования и взаимодействия с инструментами. В карточке заявлены архитектура MoE, механизм M4 Tri-Brid Neural Memory, внимание CSA3 и многотокенное предсказание; метаданные указывают 7,1 млрд параметров, контекст 32 768 токенов и поддержку Transformers. Модель принимает текст и генерирует текст. Карточка заявляет поддержку английского языка и описывает сценарии длинного контекста, однако приведённые в README характеристики 14,8 млрд параметров и контекст до 131 072 токенов расходятся с метаданными, поэтому здесь указаны значения метаданных. Лицензия обозначена как other; конкретные условия использования в предоставленных данных не раскрыты.