IV.9Медиа, журналистика, культура, архивы и игры

Карточка модели TouchNight/cognitivecomputations_dolphin-2.9.2-qwen2-7b на Hugging Face совпадает с карточкой dphn/dolphin-2.9.2-qwen2-7b, поэтому описание составлено по ней. Dolphin 2.9.2 Qwen2 7B — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на основе Qwen2-7B. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, дообученная на инструктивных, диалоговых и программных данных. В карточке заявлены навыки ответов на инструкции, ведения беседы, программирования, начальные агентные возможности и вызов функций. Модель предназначена для генерации текста в формате чата, помощи с кодом и выполнения запросов к функциям. Базовая модель поддерживает контекст до 128 тысяч токенов, однако полновесное дообучение Dolphin проводилось на последовательностях длиной 16 тысяч токенов. Репозиторий использует формат safetensors; метаданные указывают библиотеку Transformers. Модель описана авторами как uncensored и более склонная выполнять запросы, включая небезопасные. Для публичного сервиса рекомендуется самостоятельно добавить слой выравнивания поведения. Лицензия — Tongyi Qianwen; README допускает коммерческое использование при соблюдении её условий.

CrystalMistral — разговорная языковая модель на архитектуре Mistral-7B, разработчик — Crystalcareai. Модель дообучена на смесях Evol-Instruct, Airoboros, OpenOrca и синтетических данных GPT-4; в репозитории указаны веса Safetensors, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций, генерации и объяснения кода, а также свободной генерации текста. Карточка заявляет навыки рассуждения и работы с фактами, но не приводит независимых оценок качества или подробностей о языковом покрытии. Лицензия в доступных данных не указана.

Llama-3-Typhoon-1.5X-70B-instruct — диалоговая языковая модель команды SCB 10X Typhoon, созданная на основе Llama 3 70B Instruct и Typhoon 1.5 70B с помощью редактирования модели методом task arithmetic. Это плотная decoder-only модель архитектуры Llama примерно на 69,5 млрд параметров; она принимает и генерирует текст, использует шаблон чата Llama 3 и поддерживает контекст до 8192 токенов. Модель рассчитана прежде всего на тайский язык, также поддерживает английский. Её предназначение — следование инструкциям, рассуждения, ответы на вопросы и применение в RAG-сценариях и генерации с заданными ограничениями. В карточке приведены результаты тестов ThaiExam, MMLU, MT-Bench и IFEval, включая оценки на тайском и английском. Разработчики отмечают экспериментальный характер модели и рекомендуют отдельно оценивать её риски для конкретного применения. Модель распространяется по лицензии Llama 3 Community License; для работы указана Transformers версии 4.38.0 или новее.

zerank-2-reranker-MLX-bf16 — это конвертированная в формат MLX модель ZeroEntropy для Apple Silicon, основанная на zerank-2-reranker и архитектуре Qwen3-4B. Это cross-encoder-реранкер: он принимает запрос вместе с одним документом и выдаёт оценку их релевантности, по которой можно переставить результаты поиска. Для оценки каждого кандидата нужен отдельный проход модели. Модель имеет 3,7 млрд параметров, использует веса bfloat16 без квантизации и поддерживает контекст до 40 960 токенов. Оценка извлекается из логита токена «Yes»; её можно преобразовать в диапазон 0–1, но значения сопоставимы только для документов одного запроса. Карточка сообщает о проверках согласованности оценок с исходной моделью на наборах пар запрос–документ. Указана лицензия Apache-2.0.

swardiantara/bert-tiny-amazon_reviews-k5-adaptive-cosine — компактная модель Sentence Transformers, дообученная автором на базе google/bert_uncased_L-2_H-128_A-2 на парах текстов с оценками сходства. Она преобразует предложения и абзацы в плотные векторы размерности 128 и предназначена для поиска похожих текстов и извлечения признаков. Архитектура включает BERT с двумя слоями, mean pooling и сравнение векторов по косинусному сходству; модель принимает текст, поддерживает последовательности до 128 токенов по README и имеет контекстное окно до 512 токенов по метаданным. В карточке показаны примеры англоязычных отзывов Amazon, поэтому прежде всего модель подходит для поиска и сравнения англоязычных отзывов. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.

Qwen3.8-27B-UD-Q3_K_XL-MTP-MLX — это MLX-квантизация базовой модели Qwen/Qwen3.8-27B, подготовленная Nathan Sutton для локального запуска на компьютерах Apple Silicon. Модель предназначена прежде всего для генерации текста, программирования и работы в локальном coding agent chad, выполненном в стиле Claude Code. Она может использоваться через chad или напрямую с библиотекой mlx-lm. Модель имеет плотную архитектуру Qwen3.5 на 27 млрд параметров: 64 слоя, включая 48 слоёв GatedDeltaNet и 16 слоёв full attention. Основная часть весов и embeddings квантизирована до 3 бит с группами по 64 значения, а lm_head — до 5 бит; итоговый объём весов составляет около 12,1 ГБ, дополнительно поставляется 4-битная MTP-head. Заявлен нативный контекст до 262 тысяч токенов, однако на устройствах Apple Silicon с 24 ГБ памяти фактическое окно обычно ограничивается десятками тысяч токенов в зависимости от доступного бюджета Metal. MTP-head поддерживает self-speculative decoding, ускоряя генерацию с сохранением точности распределения модели. Шаблон чата по умолчанию использует reasoning_effort medium вместо upstream-значения xhigh. Языки и мультимодальные возможности в README не указаны. Модель ориентирована на устройства с 24 ГБ памяти Apple Silicon, а её лицензия наследуется от базовой Qwen/Qwen3.8-27B и требует проверки перед использованием или распространением.

PeterAM4/Qwen3-Embedding-0.6B-GGUF — набор GGUF-квантизаций модели Qwen3-Embedding-0.6B, разработанной Qwen и квантизированной PeterAM4 с помощью llama.cpp. Модель предназначена для построения эмбеддингов и подходит для RAG-систем, семантического поиска, извлечения документов и задач финансового NLP. Доступны варианты квантизации от 8-битных до 1-битных, включая версии с калибровкой importance matrix, ориентированной на финансовые и технические тексты. Базовая модель содержит 595 776 512 параметров, поддерживает контекст до 32 768 токенов, использует pooling по последнему токену и формирует эмбеддинги размерности 1024. Заявлена мультиязычная поддержка английского, китайского, японского, корейского, французского, немецкого, испанского, португальского, русского и арабского языков. Компактный размер квантизированных файлов позволяет запускать модель на периферийных устройствах, ноутбуках и серверах с ограниченными ресурсами. К сильным сторонам относятся низкое потребление памяти, потенциально малая задержка и сохранение качества при умеренной квантизации; по приведённому тестированию рекомендован вариант Q3_K_M-imat размером 331 МБ. Качество существенно зависит от выбранного формата: при чрезмерно агрессивной квантизации показатели perplexity заметно ухудшаются, а результаты тестов получены на ограниченном корпусе финансовых, математических и общих текстов и не гарантируют качество для всех задач. Модель распространяется по лицензии Apache 2.0.

MiniCPM5-2B-Midtrain — промежуточная версия плотной причинно-языковой модели серии MiniCPM5, разработанной командой OpenBMB. Она построена на архитектуре LlamaForCausalLM и предназначена для локальных помощников, программирования, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Модель содержит около 2,2 млрд параметров и поддерживает контекст до 131 072 токенов. Модель генерирует текст, поддерживает диалоговый режим и рассчитана на английский и китайский языки. В карточке серии заявлены сильные результаты для своего класса в программировании, математике, длинном контексте, использовании инструментов и агентных задачах; указанные сравнения относятся к MiniCPM5-2B в целом, а не обязательно к этой промежуточной версии. Весы доступны в формате safetensors, лицензия — Apache-2.0. Как промежуточный чекпойнт midtrain, модель может уступать завершённой версии по следованию инструкциям и качеству диалога. Её ответы могут быть неточными, предвзятыми или оскорбительными; модель не заменяет экспертную консультацию в чувствительных областях.

legalvn/paraphrase-multilingual-MiniLM-L12-v2-168500 — дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Архитектура включает трансформер BERT с усреднением токенных представлений; модель содержит 124,3 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 384. Для сравнения текстов используется косинусное сходство. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста. В карточке показаны обучающие примеры на вьетнамском языке, в том числе запросы и фрагменты нормативных документов; контекстная длина в метаданных составляет 512 токенов, а README указывает ограничение последовательности 128 токенов. Лицензия в предоставленных данных не указана.

zerank-1 — плотная языковая модель-реранкер от ZeroEntropy, дообученная на базе Qwen/Qwen3-4B. Она оценивает релевантность пар «запрос — документ» и переупорядочивает найденные результаты, чтобы улучшить выдачу поисковой или retrieval-системы. Разработчик сообщает о сильных результатах на финансовых, юридических, программных, научно-технических, медицинских и диалоговых данных; в приведённых оценках модель превосходит перечисленные закрытые реранкеры на нескольких наборах задач. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и доступна в формате safetensors. Метаданные указывают контекст до 40 960 токенов; в README указано 32 768 токенов. Для использования предлагается библиотека sentence-transformers и класс CrossEncoder. Модель принимает текстовые запросы и документы и выдаёт оценки ранжирования. Выпущена по лицензии Apache 2.0.

comsat-embed-ko-8b-preview — модель эмбеддингов на основе декодерной архитектуры Qwen3, разработанная Sionic AI и дообученная для семантического поиска на корейском языке. Она кодирует запросы и документы в векторы размерностью 4096 для поиска по сходству; по данным карточки, обучение включало более миллиона корейских примеров. Для запросов требуется task-инструкция, документы кодируются без префикса. Модель предназначена для поиска документов, извлечения сведений из баз знаний и семантического поиска в корпоративных системах, в том числе по длинным текстам. В карточке заявлен контекст до 8192 токенов; метаданные указывают нативное окно до 40960 токенов. На корейском подмножестве бенчмарка MTEB модель показала средний NDCG@10 0,7930 по девяти наборам данных. Поддерживаемые языки — корейский и английский, при этом основная специализация — корейский. Модель содержит 7,6 млрд параметров и распространяется в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое. Результаты поиска зависят от правильного применения инструкции к запросам; заявленные показатели относятся к указанной методике бенчмарка и не гарантируют качество на других корпусах.

G9v3-39A5B-Q3Q4-GGUF — квантованная GGUF-версия причинной языковой модели с архитектурой Mixture-of-Experts от команды AI9Stars. Базовая модель G9v3-39A5B содержит около 39 млрд параметров, из которых при генерации активируется около 5 млрд на токен. Контекст составляет до 131 072 токенов; модель ориентирована на английский и китайский языки. Модель предназначена для диалогового помощника, программирования, работы с инструментами и задач рассуждения. В одном чекпойнте доступны режимы Think и No Think. Карточка описывает запуск локально и на одной видеокарте с 24 ГБ памяти; для GGUF-квантизации авторы отмечают, что варианту требуется уровень Q3 для полноценной работы, а сама модель не особенно хорошо поддаётся квантизации. Модель выпущена как предварительная версия. Ответы могут быть неточными, предвзятыми или небезопасными и требуют проверки, особенно в важных сценариях; поведение может меняться между версиями. Лицензия — Apache-2.0.

Модель разработана Pierre Guillou и представляет собой LiLT на базе XLM-RoBERTa, дообученную для анализа структуры документов на абзацном уровне. Она классифицирует фрагменты документа по 11 типам: подпись, сноска, формула, элемент списка, колонтитулы, заголовок раздела, изображение, таблица, текст и заголовок документа. Модель использует текст и пространственные признаки разметки страницы; при обработке абзацы разбиваются на фрагменты до 512 токенов с перекрытием 128 токенов. Размер составляет 305,2 млн параметров, контекст — 514 токенов. Модель предназначена для извлечения структуры из PDF и других документов, включая финансовые отчёты, руководства, научные статьи, законы, нормативные документы, патенты и государственные тендеры. В README указаны точность классификации токенов 86,34% и абзацев 68,15%; качество заметно различается между классами, а для сносок и заголовков документа приведён нулевой результат на оценочном наборе. Метаданные указывают языки английский, немецкий, французский и японский, а также лицензию MIT.

Ornith-1.5-35B-A3B-REAP-50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, подготовленная пользователем Ttimms на основе модели от ornith-ai. Это гибридная архитектура Gated-DeltaNet и Mixture-of-Experts (MoE): после 50%-порогового pruning методом REAP число экспертов сокращено с 256 до 128, удалена MTP-голова, а итоговый объём составляет примерно 19 млрд параметров. Модель предназначена для генерации текста и ориентирована прежде всего на англоязычные сценарии. Модель подходит для локального запуска и задач программирования: для исходной модели до квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%. Благодаря примерно 3 млрд активных параметров она может обеспечивать быструю инференс-работу на CPU и Apple Silicon. Доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ, тогда как Q8_0 требует более 16 ГБ памяти или выгрузки части вычислений на CPU. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; также подходят LM Studio, KoboldCpp, Jan и text-generation-webui. Поддержка Ollama на момент публикации ожидала обновления встроенного llama.cpp. В README не указаны размер контекста и мультиязычные возможности; заявлен только английский язык. Из ограничений также следует учитывать удаление vision tower и MTP-головы, зависимость от совместимого рантайма и компромисс между качеством и объёмом памяти при выборе квантизации. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

Llama-Krikri-8B-Instruct-v1.5 — диалоговая языковая модель, разработанная ILSP и дообученная на основе ilsp/Llama-Krikri-8B-Base, которая, в свою очередь, основана на Llama 3.1 8B. Модель с архитектурой Llama содержит 7,6 млрд параметров и рассчитана прежде всего на работу с греческим и английским языками. Контекстное окно — 131 072 токена; базовая модель использует расширенный токенизатор с греческими токенами. Модель предназначена для диалога и выполнения инструкций: она может отвечать на вопросы, создавать и редактировать тексты, суммировать документы, извлекать сущности и структурированные данные, помогать с кодом и использоваться в RAG-сценариях. В карточке также заявлены перевод между греческим и английским, а также с греческого и английского на французский, немецкий, итальянский, португальский и испанский языки. Обучение включало греческие и английские инструкции и предпочтения; заявлены улучшения в греческих чат-бенчмарках относительно предыдущей версии Instruct. Модель распространяется в формате safetensors и лицензируется по условиям Llama 3.1 Community License. Как и другие генеративные языковые модели, она может выдавать фактические ошибки; качество и надёжность ответов в специализированных юридических, финансовых, медицинских и научных сценариях следует проверять отдельно.

Muse Glimmer-30B — мультимодальная причинная языковая модель, разработанная Meta Superintelligence Lab и представленная в августе 2026 года. Эта версия распространяется в формате GGUF на базе Muse-Glimmer-30B и предназначена для локального запуска автономных агентных систем без облачной инфраструктуры и доступа к сети. Модель рассчитана на выполнение многошаговых задач, использование инструментов и функций, написание и отладку кода, обработку многоходовых запросов и восстановление после ошибок инструментов. Она принимает текст и изображения, включая скриншоты, графики и документы, а генерирует текст. Muse Glimmer совместима с различными агентными сценариями и оркестраторами, поддерживает управляемую интенсивность рассуждений и обучалась на данных более чем 100 языков. Архитектура представляет собой плотный причинный Transformer с выделенным примерно 1,8-миллиардным визуальным ViT-G/14-энкодером; общий объём составляет около 29,6 миллиарда параметров. Модель имеет 52 слоя, скрытую размерность 6656, механизм GQA с соотношением 32/2 голов внимания, SwiGLU, локальные и глобальные схемы внимания, контекст более 131 072 токенов и до 4096 визуальных токенов на изображение. Ключевые сильные стороны — агентное выполнение задач, надёжное применение инструментов, длительное многошаговое рассуждение, мультимодальность и восстановление после сбоев. Ограничения включают высокие требования к памяти и вычислительным ресурсам, несмотря на оптимизацию для потребительского оборудования; ориентиры для квантованных вариантов составляют около 24–32 ГБ памяти, а заявленная деградация качества — примерно 0,2–1,0% в зависимости от варианта квантования. Лицензия — Apache 2.0.

Calcium-Opus-14B-Elite-1M — плотная языковая модель семейства Qwen2, выпущенная prithivMLmods и дообученная на базе Qwen/Qwen2.5-14B-Instruct-1M. По метаданным, модель содержит 14 млрд параметров, использует Transformers и формат safetensors, а её нативный контекст составляет до 1,01 млн токенов. Карточка заявляет улучшения в рассуждениях, работе с длинным контекстом, математике и поддержке более 50 языков; также заявлены мультимодальные возможности для текста, изображений и табличных данных, однако метаданные подтверждают только задачу генерации текста. Модель предназначена для диалогов и генерации текста, включая анализ длинных материалов, ответы с подробными рассуждениями и работу с техническими, юридическими, медицинскими и финансовыми темами. В качестве сценариев карточка также называет клиентскую поддержку, перевод и анализ документов. Подтверждённый основной язык — английский; более широкая языковая и мультимодальная поддержка заявлена в README, но не отражена в метаданных. Для запуска на длинном контексте требуются значительные вычислительные ресурсы; карточка также предупреждает о возможной избыточности ответов в очень длинных творческих задачах и о смещениях на малоресурсных языках. Лицензия — Apache-2.0.

Qwen3.6-27B Abliterated — мультимодальная плотная модель на 27 млрд параметров, созданная mlasli на основе Qwen/Qwen3.6-27B. Вариант подготовлен с помощью Heretic v1.4.0: из модели удалено направление отказов, чтобы уменьшить отказы при запросах для исследований безопасности и других сценариев. Модель предназначена для диалогов, работы с изображениями, программирования и агентных задач; карточка также указывает поддержку нескольких языков. Контекст составляет 262 тыс. токенов с возможностью расширения до 1 млн. README заявляет, что абляция сохраняет общие возможности базовой модели, но не добавляет новых знаний или навыков. Для запуска требуется около 55 ГБ VRAM в BF16, 28 ГБ в 8-битном или 17 ГБ в 4-битном режиме. Лицензия — Apache-2.0.

Llama-3-Taiwan-70B-Instruct — языковая модель команды проекта TAME, дообученная на архитектуре Llama 3 для пользователей традиционного китайского языка Тайваня и английского. Модель содержит 69,5 млрд параметров, работает с контекстом до 8192 токенов и предназначена для генерации текста и многоходового диалога. Модель обучена на корпусе традиционного китайского и английского языков, включающем общие и отраслевые знания по праву, производству, медицине и электронике. В карточке заявлены возможности понимания и генерации языка, рассуждений, извлечения сущностей, структурированного вывода и вызова функций; также описано применение в RAG-сценариях. Для подключения к внешнему поиску или функциям нужна соответствующая обвязка приложения. В README приведены результаты оценок на тайваньских языковых и предметных тестах, однако они не гарантируют качество в конкретной задаче. Модель выпущена по лицензии Llama 3; перед использованием следует учитывать её условия.

knguyennguyen/mpnet_20k — модель Sentence Transformer, дообученная на базе sentence-transformers/all-mpnet-base-v2. Она кодирует предложения и абзацы в плотные векторы размерности 768 для оценки семантического сходства, семантического поиска, поиска перефразировок и кластеризации; также в README упомянута классификация текстов. Веса представлены в формате safetensors, модель содержит 136,7 млн параметров и поддерживает контекст до 514 токенов по метаданным; README указывает ограничение в 128 токенов. Обучение описано для набора из 20 108 пар предложений и использует MultipleNegativesRankingLoss с косинусным сходством. Примеры пар сопоставляют пользовательские запросы с описаниями товаров, поэтому модель может быть полезна для семантического поиска по каталогу. Данных о поддерживаемых естественных языках в карточке нет. Лицензия в предоставленных сведениях не указана. Для задач, требующих обработки длинных текстов, учитывайте лимит последовательности 128 токенов из README; качество за пределами сценариев, представленных обучающими парами, отдельно не описано.

Gemini 3.5 Flash — мультимодальная модель Google для работы с текстом и изображениями. В карточке она описана как высокопроизводительная модель уровня Flash, ориентированная на скорость и низкую стоимость при решении задач рассуждения и программирования. Модель подходит для анализа изображений и текста, помощи с кодом и сценариев с параллельным выполнением агентных задач. Подробности об архитектуре, размере, поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.

Dolphin 2.9.1 Mixtral 1x22b — чат-модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и Cognitive Computations. Она основана на Mixtral-8x22B-v0.1 и прошла полное дообучение всех слоёв; в карточке указано 22 млрд параметров. Модель представляет собой извлечённый эксперт, полученный объединением SLERP экспертов исходной архитектуры Mixtral. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для диалогов и выполнения инструкций, помощи с программированием, начального уровня агентных задач и вызова функций. Контекст базовой модели составляет 64 тыс. токенов, а дообучение проводилось с длиной последовательности 16 тыс. токенов. В качестве обучающих данных использовались, среди прочего, наборы Dolphin-2.9, OpenHermes-2.5 и датасеты для кода, математики и вызова функций. Модель описана авторами как uncensored и может с высокой готовностью выполнять запросы, в том числе небезопасные; перед предоставлением её пользователям авторы рекомендуют добавить собственный слой выравнивания. Язык карточки и метаданных — английский.

Карточка модели Ishowbackup/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели ahmed-amedo/MiMo-V2.6-Pro-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Pro, поэтому описание составлено по ней. MiMo-V2.6-Pro-RL — флагманская модель серии MiMo-V2.6, разработанная Xiaomi и обученная с масштабированием обучения с подкреплением для агентных сценариев и самоулучшения. Она предназначена для генерации текста, программирования, работы с инструментами и задач, где агент взаимодействует со средой и оценивает результаты своих действий. Модель построена на разреженной архитектуре Mixture of Experts. В README указаны 1,02 трлн общих и 42 млрд активируемых параметров; метаданные репозитория указывают 27,7 млрд параметров и класс MiMoV2ForCausalLM. Контекст составляет до 1 млн токенов. Модель поддерживает текст, изображения, видео и аудио, а также интерфейс вызова инструментов. В карточке заявлены английский и китайский языки. Модель подходит для длительных агентных запусков, анализа визуальных и аудиовизуальных материалов, программирования и работы с длинными документами или репозиториями. README приводит результаты бенчмарков, но они не гарантируют качество на конкретных задачах; развёртывание рассчитано на специализированные средства инференса и мощное оборудование. Лицензия репозитория — MIT.

Qwythos-9B-Claude-Mythos-5-1M-uncensored-heretic-GGUF — GGUF-квантизации модели Qwythos-9B-Claude-Mythos-5-1M, разработанные независимым автором LLMfan46 на базе модели llmfan46/Qwythos-9B-Claude-Mythos-5-1M-uncensored-heretic. Модель предназначена для генерации текста, задач рассуждения, работы с длинным контекстом, function calling и tool use, а также агентских, кибербезопасностных и биомедицинских сценариев. Заявлена поддержка английского языка и контекста до 1M токенов; библиотека — Transformers. Архитектура и точные параметры квантизации в README не указаны, однако размер базовой модели составляет 9B параметров. Это декензурированная версия, полученная с помощью Heretic v1.2.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA), применённого к компонентам attn.o_proj, attn.out_proj и mlp.down_proj. По приведённым данным, частота отказов снизилась до 11 из 100 против 73 из 100 у исходной модели, при KL divergence 0,0123; при этом заявлено сохранение качества. В тесте MMLU исходная модель показала точность 77,03%, но отдельные результаты именно этой версии не приведены. Сниженная склонность к отказам может быть полезна для исследовательских и специализированных сценариев, но также повышает риски небезопасной генерации, поэтому необходимы контроль применения и проверка результатов. Модель распространяется по лицензии Apache-2.0.

Devstral-Small-2-24B-Instruct-2512-GGUF — квантизированная в формат GGUF версия модели Devstral-Small-2-24B-Instruct-2512 от Mistral, подготовленная ByteShape с использованием ShapeLearn. Метод ShapeLearn подбирает тип данных для каждого тензора, чтобы сохранять высокое качество при малой разрядности. Модель предназначена для генерации текста и задач, связанных с программированием, включая function calling, а также поддерживает мультимодальные сценарии с обработкой изображений. Доступны варианты с эффективной разрядностью от 2,34 до 4,04 бит на вес и размером от 6,9 до 11,9 ГБ. Качество оценивалось на BFCL-V3, LiveCodeBench V6, HumanEval, GSM8K-V, Math500, GSM8K и MMLU; в README также указана оценка vision-возможностей. Модели оптимизированы для GPU NVIDIA RTX 40-й и 50-й серий при использовании llama.cpp и могут запускаться через Ollama. Для работы с изображениями в llama.cpp необходимы файл модели и соответствующий мультимодальный projector-файл; размер контекста в приведённом примере составляет 8192 токена. Основные преимущества — широкий выбор компромиссов между качеством, скоростью и потреблением памяти, а также поддержка низкобитной квантизации и мультимодального использования. Ограничения включают возможное снижение качества на наиболее компактных вариантах и необходимость совместимого окружения для запуска; конкретные языки, полная архитектура и точные характеристики контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Dolphin 3.0 Llama 3.2 3B — инструктивно дообученная языковая модель, созданная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на основе Meta Llama 3.2 3B. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель предназначена для локального использования как универсальный диалоговый помощник. Она подходит для генерации текста, программирования, математических задач и работы в агентных сценариях, включая интерфейс вызова функций. Для диалогов используется шаблон ChatML; системный промпт позволяет задавать тон и правила поведения. Обучение опиралось на наборы данных для инструкционного диалога, кода, математики и вызова функций. Модель рассчитана на текстовый ввод и выдаёт текст. В карточке указан английский язык. Количественные результаты оценки качества не приведены. Лицензия — Llama 3.2; условия использования определяются этой лицензией.

Карточка модели SmartManoj/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Llama-3-Taiwan-8B-Instruct — диалоговая языковая модель на архитектуре Llama 3, опубликованная yentinglin и дообученная для пользователей традиционного китайского языка и английского. Карточка описывает семейство Llama-3-Taiwan и приводит сведения о версии на 70B параметров, тогда как метаданные этого репозитория указывают 7,5 млрд параметров; поэтому характеристики размера и примеры оценки версии 70B нельзя напрямую переносить на вариант 8B. Модель предназначена для многоходового диалога, генерации и понимания текста, ответов в сценариях RAG, форматированного вывода, извлечения сущностей и вызова функций. В карточке описано обучение на корпусе традиционного китайского и английского языков с общими и отраслевыми материалами, в том числе из юридической, производственной, медицинской и электронной областей. Модель принимает текст и генерирует текст; метаданные указывают контекст 8192 токена, архитектуру LlamaForCausalLM и формат safetensors. Модель выпущена по лицензии Llama 3. Её заявленная специализация — традиционный китайский, включая тайваньский вариант, и английский. README относится преимущественно к версии 70B, поэтому приведённые там результаты испытаний, подробности корпуса и демонстрации не подтверждают качество именно версии 8B. Для работы с этой инструкционной версией в карточке рекомендовано задавать системное сообщение.

Карточка модели ahmed-amedo-1/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.