IV.9Медиа, журналистика, культура, архивы и игры

Это многоязычная модель Sentence Transformers, дообученная legalvn на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она преобразует предложения и абзацы в плотные векторы размерностью 384, а сходство между текстами оценивается косинусной мерой. Архитектура состоит из BERT-трансформера и слоя усреднения токенов; README указывает максимальную длину последовательности 128 токенов, а метаданные — контекст до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Примеры обучающих данных на вьетнамском языке посвящены нормативным документам и образовательным программам, что делает её полезной для сопоставления вьетнамских запросов с фрагментами документов. Веса доступны в формате safetensors; лицензия в предоставленных данных не указана.

Darwin-36B-Opus — языковая модель FINAL-Bench / VIDRAFT_LAB, полученная эволюционным слиянием Qwen3.6-35B-A3B и её версии, дообученной на примерах рассуждений. Это MoE-модель на архитектуре Qwen3.5 MoE для генерации текста и диалогов с режимом пошаговых рассуждений; в README заявлены 36 млрд параметров всего и около 3 млрд активных, а метаданные указывают 2,9 млрд параметров. Контекст — 262 144 токена. Модель предназначена для сложных вопросов и рассуждений, включая задачи уровня GPQA Diamond; заявлены поддержка нескольких языков и результат 88,4% на GPQA Diamond по описанному авторами протоколу. Модель принимает текстовые запросы и генерирует текст. Доступна в формате Safetensors и распространяется по лицензии Apache 2.0. README описывает её как результат слияния весов без повторной градиентной оптимизации финальной модели; опубликованный бенчмарк включает стохастический повторный отбор ответов, поэтому показатель может зависеть от протокола оценки.

rainjay/sbert_nlp_corom_sentence-embedding_chinese-base-ecom — модель на базе BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения текстов и кластеризации. Модель содержит 129,5 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Модель подходит для поиска похожих фрагментов текста и группировки предложений по смыслу. Карточка не уточняет, на каких данных обучалась модель и какие языки она поддерживает, поэтому область применения по языку определить нельзя. Лицензия в предоставленных данных не указана.

gubartz/st_scibert_pubmed_rct — модель Sentence-Transformers на архитектуре BERT, обученная для представления предложений и абзацев в виде плотных векторов размерности 768. Её можно использовать для семантического поиска и кластеризации текстов; размер модели составляет 137,1 млн параметров, максимальная длина контекста — 512 токенов. Модель обучалась с функцией потерь BatchAllTripletLoss. Для получения эмбеддингов её можно запускать через Sentence-Transformers или Transformers с подходящей операцией pooling. Она предназначена для текстовых входов и выдаёт векторы; формат весов в репозитории — PyTorch. Метаданные и README не сообщают лицензию или конкретные языки обучения, поэтому их нельзя уточнить.

YAYI-UIE — плотная авторегрессионная языковая модель семейства YAYI UIE, разработанная командой YAYI и опубликованная wenge-research. Модель содержит 13,3 млрд параметров и дообучена инструктивно на миллионах искусственно созданных высококачественных примеров для унифицированного извлечения информации: распознавания именованных сущностей, извлечения отношений и извлечения событий. Модель предназначена для преобразования текста в структурированные результаты, например JSON с сущностями, отношениями или аргументами событий. В карточке описаны сценарии из общих и специализированных областей, включая финансы, биологию, медицину, бизнес, транспорт, промышленность и науку. README приводит примеры оценки на китайских и английских наборах данных; основной акцент модели — китайский язык. Указаны ограничения: извлечённые сведения могут содержать фактические ошибки, модель слабо распознаёт вредоносные инструкции, а качество на длинных текстах уровня абзаца требует улучшения. Лицензия в метаданных и карточке — Apache-2.0, однако README отдельно требует использовать модель и производные только в исследовательских целях и запрещает коммерческое и вредоносное применение.

Code-Writer-V2-Obliterated-BF16 — модель на базе Qwen3.5, опубликованная groxaxo. Согласно README, это результат слияния базовой модели llmfan46/Qwen3.5-27B-Writer-V2-uncensored-heretic с LoRA-адаптером для программирования; веса сохранены в BF16 без квантизации. Метаданные указывают архитектуру Qwen3.5 с плотной моделью типа Qwen3_5ForConditionalGeneration и формат safetensors. В README заявлен размер 27 млрд параметров и контекст до 200 000 токенов; эти значения не подтверждены метаданными. Модель предназначена для генерации кода и творческих текстов, а также для работы с длинными запросами, например с крупными фрагментами кодовой базы или рукописями. Метаданные классифицируют её как text-generation и отмечают поддержку чата и кода. README описывает визуальный модуль, но указывает, что обработка изображений не проверена; поэтому основное подтверждённое назначение — текстовое. Естественный язык в метаданных карточки — английский. Модель выпущена по лицензии Apache-2.0. Возможны неточные или неподходящие ответы; результаты кода и текста следует проверять. Визуальные сценарии требуют отдельной проверки совместимости и качества.

Карточка модели usama1111/e5-pakistani-legal на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Bram Vanroy разработал Llama-2-13b-chat-dutch — чат-модель на архитектуре Llama 2 с 12,9 млрд параметров. Она основана на meta-llama/Llama-2-13b-hf: сначала модель дополнительно обучали на нидерландских данных, затем дообучили на наборах синтетических инструкций и диалогов. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст.

dragonkue/multilingual-e5-small-ko-v2 — модель Sentence Transformer на архитектуре BERT, дообученная на основе intfloat/multilingual-e5-small и объединённая методом Model Soup с dragonkue/multilingual-e5-small. Она предназначена прежде всего для поиска документов по запросу на корейском языке и других задач семантического поиска. Модель преобразует предложения и абзацы в плотные векторы размерности 384; для сравнения используется косинусное сходство. Максимальная длина входа — 512 токенов, после чего длинный текст обрезается. Модель подходит для семантического поиска, сравнения предложений, поиска перефразировок, кластеризации и классификации текста. В карточке указана поддержка корейского и английского языков; обучение и оценка ориентированы на корейские retrieval-задачи, включая поиск в документах из медицинской, финансовой, правовой и других областей. Компактный размер упрощает использование в лёгких приложениях; для повышения качества поиска автор рекомендует сочетать её с реранкером. Указанная лицензия — Apache-2.0.

Puffyn/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, разработанная для локального запуска и исследовательских сценариев, где требуется минимизация встроенных отказов и защитных ограничений. Согласно README, модель ориентирована на генерацию текста, программного кода, ответы на сложные и потенциально ограниченные запросы, а также на использование в агентских системах, coding agent и фреймворках для тестирования безопасности. Разработчик и точное происхождение производной модели в README явно не раскрыты; указано имя базовой модели Qwen и идентификаторы вариантов OBLITERATED/OBLITERATUS. Модель относится к семейству Qwen3 и имеет размер 27B параметров. Поддерживается текстовая модальность; сведения о языках и максимальной длине контекста в предоставленных данных отсутствуют. Доступны форматы GGUF, Safetensors и MLX. В версии V3 заявлены итеративная модификация весов и метод abliteration, удаляющий направления, связанные с отказами; авторы сообщают о сохранении близкой к исходной производительности, но с потерей 2,1 процентного пункта по MMLU относительно базовой модели. README также заявляет работоспособную генерацию кода в 20 из 20 проверенных сценариев и совместимость с режимом рассуждений. Сильной стороной модели считается снижение жёстких отказов и защитных отговорок при сохранении значительной части возможностей базовой Qwen3.8-27B. Ограничения включают возможное снижение качества по сравнению с исходной моделью, склонность к зацикливанию без правильно настроенного repetition_penalty и потенциальные риски использования модели без встроенных защитных механизмов. Для запуска рекомендуются temperature 0, repetition_penalty 1.15, не менее 2048 новых токенов и пустой системный промпт; для агентских сценариев предлагаются более короткие ответы и периодическое суммирование контекста. Лицензия — Apache-2.0.

WaveCut/Qwen3.8-Flash-Next-REAM-288-MLX-4bit — 4-битная MLX-квантизированная версия модели WaveCut/Qwen3.8-Flash-Next-REAM-288, построенная на базе Qwen3.8-Flash-Next и предназначенная для запуска через mlx-vlm. Это разреженная Mixture-of-Experts-модель с 288 слотами экспертов; в отличие от варианта REAP, удаляемые эксперты здесь объединяются с наиболее похожими сохранёнными экспертами. Модель поддерживает сценарии генерации текста и кода, включая рефакторинг программ, а также заявлена для конвейера image-text-to-text. Контекст модели, её точный общий размер и полный список языков в карточке не указаны. Эксперты и основные тензоры представлены в 4-битном формате с групповой схемой квантования; таблица n-грамм использует отдельную 4-битную схему. Модель совместима со стандартным mlx-vlm из ветки main с поддержкой qwen4_exp. Для спекулятивного декодирования MTP-тензоры не включены, поэтому требуется отдельная совместимая модель-драфтер. В опубликованных сравнениях сборка немного превосходит REAP-версию по KL-дистанции, а в тестах MLX получила 89,6% на HumanEval-164, 58,0% на GSM8K-200 и 62,7% в тесте редких имён. К ограничениям относятся 4-битные потери качества на нелатинских именах, ограниченная статистическая надёжность части оценок и зависимость результатов GSM8K от лимита длины генерации. Данные о контекстном окне и системных требованиях явно не приведены. Модель распространяется по лицензии qwen-community-license-1.0; в метаданных также указана общая лицензия other.

Карточка модели RamyAhmed55/bge-m3-arabic-legal на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Boterham 0.5B — компактная преимущественно нидерландоязычная языковая модель от ToetsChecker Research. Это decoder-only Transformer с 488,2 млн параметров; экспорт использует реализацию Qwen3ForCausalLM, но веса и токенизатор обучены с нуля, поэтому модель не является производной от Qwen. Контекстное окно — 2 048 токенов. Модель принимает текст и предназначена прежде всего для работы с предоставленными фрагментами и документами: извлечения ответов, суммаризации и воздержания от ответа, если нужной информации в тексте нет. Также обучалась арифметике, классификации, переводу между нидерландским и английским языками и коротким диалогам. Модель подходит для экспериментов с NLP на нидерландском языке, документных помощников и сценариев RAG. Лицензия — Apache-2.0. Это небольшая экспериментальная модель с ограниченными общими знаниями; она может ошибаться или выдумывать сведения. Контекст короткий, а открытый диалог и творческая генерация получили меньше внимания при обучении. Фактические утверждения следует проверять по источникам; опубликованных результатов EuroEval пока нет.

jordyvl/scibert_scivocab_uncased_sentence_transformer — модель на базе BERT, упакованная для библиотеки Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. В метаданных указаны 137,1 млн параметров и контекст до 512 токенов; модель доступна в форматах PyTorch и safetensors. Модель предназначена для получения эмбеддингов текстов, сравнения семантической близости, поиска и группировки текстов. Название указывает на использование SciBERT с научным словарём, однако карточка не сообщает отдельные результаты оценки или поддерживаемые языки. Условия лицензии в предоставленных данных не указаны.

EVIE-Preview-4.5B — мультимодальная модель для поиска информации в визуальных документах, разработанная Tencent и представленная как предварительная версия EVIE. Она дообучена на базе Qwen/Qwen3.5-4B и использует архитектуру ColQwen3_5: визуально-языковая основа с линейным и полным вниманием формирует контекстные представления токенов, которые проецируются в векторы размерности 128. Для поиска применяется позднее взаимодействие MaxSim между токенами запроса и визуальными токенами страниц. Модель кодирует запросы и страницы документов для мультиязычного поиска по графикам, таблицам, научным отчётам, финансовой отчётности и сканированным формам. В README указано 4,54 млрд параметров; модель распространяется в формате safetensors, а карточка заявляет лицензию Apache-2.0. На ViDoRe V3 и ViDoRe V1+V2 представлены результаты бенчмарков, включая первое место в таблицах сравнения README. Поддерживаются запросы на английском, французском, немецком, итальянском, испанском, португальском и китайском языках; среди документов также упоминаются страницы на японском. Это предварительный чекпойнт: README рекомендует вместо него более новые модели EVIE. Для индексации он формирует много токен-векторов на страницу, поэтому объём индекса может быть значительным; приведённая оценка для 1 млн страниц при 1792 токенах на страницу — 420,5 ГиБ в BF16.

Nemotron-3-Nano-30B-A3B-Base — базовая большая языковая модель, разработанная NVIDIA и опубликованная в репозитории Unsloth. Это вариант модели NVIDIA-Nemotron-3-Nano-30B-A3B-Base-BF16; заявленная архитектура — гибрид Mamba2 и Transformer с Mixture of Experts (MoE), общий размер — 30 млрд параметров. Модель предназначена как основа для дообучения под инструкции и создания специализированных ИИ-агентов, а не как готовый чат-ассистент. Модель принимает и генерирует текст, поддерживает длинные последовательности: в README указаны вход и выход до 128 тыс. токенов, а также возможность контекста до 1 млн токенов при соответствующей настройке. Она рассчитана на английский и ряд других естественных языков, включая русский, и обучалась на данных по коду, математике, естественным наукам и общим знаниям. Репозиторий содержит веса в формате safetensors; README отмечает исправления chat template для Unsloth. Модель подходит разработчикам, которые создают и дообучают языковые модели для генерации текста и агентских сценариев. README заявляет готовность к коммерческому использованию, однако в метаданных указана лицензия other, поэтому перед применением следует свериться с её условиями. Для работы рекомендуются NVIDIA GPU; указанная в README совместимость включает H100-80GB и A100.

swardiantara/bert-tiny-yelp-k3-adaptive-cosine — компактная модель Sentence Transformers, дообученная на парах текстов из Yelp на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерности 128, сравниваемые по косинусному сходству; подходит для поиска и сопоставления текстов. Архитектура включает BERT с усреднённым pooling. В метаданных указано 4,4 млн параметров и контекст до 512 токенов; карточка модели задаёт максимальную длину последовательности 128 токенов. Модель предназначена для текстовых сценариев семантического поиска и извлечения признаков, в частности для поиска отзывов, похожих на запрос или другой отзыв. Базовая модель англоязычная, а приведённые в README примеры обучающих данных — отзывы Yelp на английском языке. Лицензия в предоставленных данных не указана.

rithwik-db/e5-base_scifact_10000 — модель Sentence Transformers, разработанная пользователем rithwik-db. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу и кластеризации. Архитектура основана на BERT, размер модели — 136,7 млн параметров, максимальная длина контекста — 512 токенов; модель распространяется в формате PyTorch. Модель обучена с TripletLoss на евклидовом расстоянии и подходит для построения семантического поиска, группировки текстов и сравнения сходства предложений. Название и README указывают на связь с SciFact, однако конкретный набор данных и языки обучения не описаны. Лицензия в предоставленных данных не указана.

TheMohanad1/Fine-Tuned-E5 — модель Sentence Transformers, дообученная разработчиком на базе intfloat/multilingual-e5-large для преобразования предложений и абзацев в плотные текстовые эмбеддинги. Она основана на XLM-RoBERTa, содержит 658,7 млн параметров и выдаёт векторы размерностью 1024; для сравнения используется косинусное сходство. Максимальная длина входа — 512 токенов (в метаданных указано 514 токенов нативного контекста). Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Её обучали с помощью MultipleNegativesRankingLoss на 1 109 парах предложений, включая примеры на арабском языке из юридической тематики Саудовской Аравии. Поддержка других языков согласуется с многоязычной базовой моделью, однако карточка не перечисляет языки обучения или оценки. Модель принимает текст и возвращает векторы; доступный формат весов — safetensors. Лицензия в предоставленных данных не указана.

Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF — это GGUF-версия модели, разработанная huihui-ai на основе empero-ai/Qwythos-9B-Claude-Mythos-5-1M. Модель предназначена для генерации текста на английском языке и поддерживает сценарии рассуждений, работы с длинным контекстом, function calling, tool use и агентных приложений. В README также указана специализация исходной модели на задачах кибербезопасности и биомедицине, однако подробные результаты оценки не приведены. Модель имеет размер 9B параметров, относится к семейству Qwen3.5 и поддерживает контекст до 1M токенов. Доступна в формате GGUF для запуска через llama.cpp; заявлены поддержка MTP и возможность ускорения генерации с помощью draft-модели. В non-thinking mode она должна следовать инструкциям первого запроса и выдавать результат в требуемом формате без вводных и заключительных фраз. Это uncensored-версия, созданная методом abliteration, поэтому её защитные фильтры значительно снижены. Сильной стороной является ориентация на длинный контекст, инструментальное использование и контролируемый формат вывода, но модель может генерировать чувствительный, спорный или небезопасный контент и не имеет гарантий стандартной safety-оптимизации. Рекомендуются исследовательское и экспериментальное применение, мониторинг и ручная проверка результатов; для публичных и производственных сценариев требуется особая осторожность. Модель распространяется по лицензии Apache-2.0.

Granite-4.2-30B (MXFP4) — квантизированная версия языковой модели Granite-4.2-30B, разработанная командой Granite компании IBM. Это открытая text-generation модель для рассуждений, генерации и анализа кода, многошаговых задач, диалога, вызова инструментов и агентных рабочих процессов. Вариант MXFP4 предназначен для инференса с уменьшенными требованиями к памяти; он получен квантизацией исходной модели с помощью GPTQ, калиброванной на 2 тысячах примеров из SFT-датасета. Исходная модель представляет собой decoder-only dense Transformer с архитектурой GraniteForCausalLM, примерно 30 млрд параметров, 64 слоями, Grouped Query Attention с 32 attention heads и 8 KV heads, RoPE, SwiGLU, RMSNorm и раздельными входными и выходными embedding. Модель поддерживает текстовую модальность, встроенное рассуждение в режимах полного, отключённого и low-effort thinking, native tool calling и OpenAI-совместимые сценарии развёртывания. Нативный контекст составляет 128K токенов; заявлено расширение long-context до 512K. Тестировались English, German, Spanish, French, Japanese, Portuguese, Arabic, Czech, Italian, Korean, Dutch и Chinese. Сильные стороны модели — рассуждения, программирование, следование инструкциям, вызов инструментов, агентные задачи и работа с длинным контекстом. Ограничения включают возможное снижение качества на языках кроме English, а также риск неточных, предвзятых или небезопасных ответов; раскрываемое содержимое reasoning может быть промежуточным и не отражать окончательный вывод. Модель распространяется по лицензии Apache 2.0.

unsloth/gpt-oss-120b-GGUF — это GGUF-квантизированная версия открытой весовой модели gpt-oss-120b, разработанной OpenAI и подготовленной Unsloth. Модель предназначена для генерации текста, сложного рассуждения, универсальных задач разработки и агентных сценариев, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель имеет MoE-архитектуру и 117 млрд параметров, из которых 5,1 млрд активны при обработке токена. Она поддерживает настраиваемый уровень рассуждения — низкий, средний или высокий — и обучена работать только с форматом ответов harmony. GGUF-версии содержат исправления Unsloth; F16-вариант сохраняет исходную точность. Формат GGUF ориентирован на запуск через совместимые инструменты, включая llama.cpp, при этом конкретные характеристики памяти и производительности зависят от выбранного уровня квантизации и оборудования. Сильные стороны модели — высокая способность к рассуждению, агентные возможности, доступность открытых весов, возможность дообучения и гибкая настройка компромисса между качеством и задержкой. Ограничения включают необходимость корректного применения harmony-формата, значительный общий размер модели и потенциальное снижение качества в квантизированных версиях. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование без copyleft-ограничений.

unsloth/gpt-oss-20b — открытая по весам языковая модель OpenAI из семейства gpt-oss, представленная в репозитории Unsloth и основанная на openai/gpt-oss-20b. Она предназначена для генерации текста, задач, требующих рассуждений, агентских сценариев и широкого спектра разработческих применений, включая вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель использует архитектуру Mixture-of-Experts с 21 млрд параметров, из которых 3,6 млрд активны при обработке запроса. Нативная квантование MXFP4 для MoE-слоёв позволяет запускать её примерно в пределах 16 ГБ памяти; модель ориентирована на меньшую задержку, локальное выполнение и специализированные сценарии по сравнению с gpt-oss-120b. Доступны настраиваемые уровни усилий рассуждения — низкий, средний и высокий, а также возможность дообучения. Для корректной работы необходимо использовать формат ответов harmony; применение модели в другом формате может приводить к некорректным результатам. Полная цепочка рассуждений доступна разработчику для отладки и анализа, но не предназначена для показа конечным пользователям. Модель является текстовой, сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Лицензия Apache 2.0 допускает свободное использование, модификацию, дообучение и коммерческое развёртывание с учётом условий лицензии.

unsloth/gpt-oss-20b-unsloth-bnb-4bit — 4-битная квантованная версия open-weight языковой модели gpt-oss-20b, разработанной OpenAI и подготовленной Unsloth. Модель предназначена для генерации текста, задач рассуждения, локального и специализированного использования, а также агентских сценариев разработчиков, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель построена на архитектуре Mixture-of-Experts (MoE) и содержит 21 млрд параметров, из которых активно используется 3,6 млрд. Вариант распространяется в формате 4-bit BnB; исходная модель использует нативную MXFP4-квантизацию для MoE-слоёв и рассчитана на работу примерно в пределах 16 ГБ памяти. Поддерживается настраиваемая интенсивность рассуждений — низкая, средняя и высокая. Модель обучена для работы с форматом ответов harmony, который необходимо применять корректно. Данные о языках и размере контекста в карточке не указаны. К сильным сторонам относятся сниженные требования к памяти, меньшая задержка по сравнению с gpt-oss-120b, возможность тонкой настройки и широкий набор агентских возможностей. Ограничения включают необходимость использования harmony-формата и то, что цепочка рассуждений, доступная модели, не предназначена для показа конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

Qwen3.8-Flash-Next-MLX-SSD-Stream — подготовленная для mlx-serve версия модели Qwen3.8-Flash-Next, разработанная garnermccloud на базе весов Qwen, с таблицей FP8 от RadixArk и поддержкой Apple MLX. Модель предназначена для локального высокоскоростного инференса на Mac с unified memory, особенно для генерации кода, технических текстов, задач рассуждения, структурированных вызовов инструментов и работы с длинным контекстом. Она поддерживает текстовые, графические и видео-входы, а также OpenAI Chat Completions, Responses, Anthropic Messages и Ollama API. Архитектура включает Transformer и vision-компоненты примерно на 125 млрд параметров, из которых около 6 млрд активны на токен, а с учётом PLE-таблицы и MTP-весов логический общий объём составляет около 180 млрд параметров. Реализованы Mixture-of-Experts, sparse attention, n-gram embedding, native MTP и контекст до 262 144 токенов. Основные компоненты используют BF16, маршрутизируемые эксперты и MTP — Q4 affine, vocabulary head — Q6 affine, а 51,2-гигабайтная n-gram-таблица хранится в FP8 и потоково читается с SSD, снижая требования к unified memory. На Apple M4 Max с 128 ГБ заявлена скорость декодирования около 71–74 токенов в секунду в отдельных сценариях и prefill до 280,7 токена в секунду на длинном контексте. Сильные стороны модели — сочетание качества BF16-ядра, ускорения MTP, мультимодальности, большого контекста и возможности запускать конфигурацию с крупной таблицей без полного размещения в памяти. Ограничения — значительный размер подготовленного репозитория около 127 ГБ, зависимость от SSD и специализированного движка mlx-serve, а также оптимизация прежде всего под Apple Silicon; приведённые показатели относятся к M4 Max с 128 ГБ памяти. Модель распространяется по Qwen Community License; веса Transformer и vision предоставлены Qwen, таблица — из checkpoint RadixArk, а подготовленная конфигурация и поддержка SSD Stream — проектом garnermccloud/mlx-serve.

GLM-4.5-Air-GGUF — это квантизированная в формате GGUF версия гибридной reasoning-модели GLM-4.5-Air, подготовленная Unsloth на базе модели Z.ai (Zhipu AI). Модель предназначена для создания интеллектуальных агентов, сложного рассуждения, программирования, использования инструментов и генерации текста. Она поддерживает два режима работы: thinking mode для задач, требующих многошагового рассуждения и tool usage, и non-thinking mode для быстрых ответов. GLM-4.5-Air использует архитектуру с 106 миллиардами общих параметров и 12 миллиардами активных параметров. Модель относится к текстовым моделям и заявлена для работы на английском и китайском языках. GGUF-версия ориентирована на локальный запуск, в том числе через llama.cpp; для него в README рекомендуется использовать параметр --jinja. Вариант Unsloth включает исправления chat template и использует подход Unsloth Dynamic 2.0, направленный на сохранение высокой точности при квантизации. Сильными сторонами модели являются сочетание рассуждения, программирования и агентных возможностей, а также более компактная и эффективная конфигурация по сравнению с GLM-4.5 при сохранении конкурентных результатов на заявленных тестах. Ограничения включают отсутствие в README подробностей о конкретном типе квантизации, поддерживаемой длине контекста, полном наборе языков, требованиях к оборудованию и результатах для всех отдельных бенчмарков. Модель и исходные версии GLM-4.5-Air выпускаются под лицензией MIT, допускающей коммерческое использование и вторичную разработку.

unsloth/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это GGUF-вариант языковой модели NVIDIA Nemotron 3.5 Lightning, разработанной NVIDIA Corporation. Модель предназначена для генерации текста и кода, создания специализированных AI-агентов, а также для постобучения, адаптации под предметные области, дистилляции и подготовки собственных квантованных вариантов. README указывает, что исходная модель является полноточной версией BF16, а данный репозиторий предоставляет вариант GGUF. Модель использует гибридную архитектуру Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными Attention-слоями. Всего предусмотрено 30 млрд параметров, из которых активно используется 3 млрд. Контекст может достигать 1 млн токенов; для развёртывания на одной H100 рекомендуется 256 тыс. токенов. Поддерживаются английский и языки программирования, испанский, французский, немецкий, итальянский и японский. Режим рассуждений можно включать или отключать через параметр chat template. К сильным сторонам относятся высокая вычислительная эффективность благодаря MoE-подходу, большой контекст, поддержка нескольких языков и возможность настройки под конкретные задачи. Ограничения и практические требования зависят от конкретной GGUF-квантизации и аппаратной конфигурации; README не приводит сведения о размере файлов, уровнях квантизации или точных требованиях к запуску именно этого варианта. Модель распространяется по лицензии OpenMDW-1.1, которая, согласно README, допускает коммерческое использование.

GLM-4.5-Air-AWQ-FP16Mix — квантизированная версия модели GLM-4.5-Air, разработанной командой Z.ai и опубликованной QuantTrio. Модель предназначена для генерации текста, сложного рассуждения, кодирования, использования инструментов и агентских сценариев. Она поддерживает гибридные режимы: thinking mode для многошагового рассуждения и работы с инструментами и non-thinking mode для быстрых ответов. Модель построена на архитектуре MoE и содержит 106 млрд параметров, из которых 12 млрд активируются при обработке запроса. Данная версия использует смешанную квантизацию AWQ и FP16Mix, занимает около 69 ГБ и рассчитана на запуск через vLLM. В README приведена конфигурация с контекстом до 32 768 токенов и использованием экспертного параллелизма на нескольких GPU. Языки и мультимодальные возможности явно не указаны; по описанию это текстовая модель. Сильными сторонами являются сочетание рассуждения, генерации кода и агентских возможностей при меньшем числе активных параметров, чем у полной GLM-4.5, а также экономия памяти благодаря квантизации. Ограничения связаны с требованиями к инфраструктуре: для корректной загрузки необходимо включить expert parallelism, использовать vLLM версии 0.10.0 и применить временный патч для поддержки смешанной квантизации MoE. В README указана лицензия MIT для моделей GLM-4.5 и GLM-4.5-Air, допускающая коммерческое использование и вторичную разработку.

Octen-Embedding-0.6B — текстовая модель эмбеддингов, разработанная Octen и дообученная методом LoRA на Qwen/Qwen3-Embedding-0.6B. Она предназначена для семантического поиска и извлечения информации, а также для сравнения и кластеризации текстов, поиска по документам и межъязыкового поиска. Модель построена на архитектуре Qwen3, содержит около 507,6 млн параметров и преобразует текст в векторы размерности 1024. Она поддерживает контекст до 32 768 токенов и многоязычную работу; в карточке заявлена поддержка более 100 языков, включая английский и китайский. Модель рассчитана на retrieval-сценарии и может использоваться для ранжирования кандидатов через сходство эмбеддингов, а также как представление текста для классификации и ответов на вопросы. Качество зависит от предметной области и языка, а документы длиннее контекстного окна требуют усечения. Модель не предназначена для генерации текста. Распространяется по лицензии Apache-2.0.

Ling-flash-2.0 — языковая MoE-модель семейства Ling 2.0, разработанная inclusionAI и предназначенная для диалогового использования через генерацию текста. По README, модель обучена на более чем 20 трлн токенов с последующей supervised fine-tuning и многоэтапным reinforcement learning; метаданные указывают 5,5 млрд параметров, архитектуру BailingMoeV2ForCausalLM и базовую модель inclusionAI/Ling-flash-base-2.0. README приводит другие значения: 100 млрд общих и 6,1 млрд активированных параметров, поэтому размер в источниках расходится. Модель ориентирована на сложные рассуждения, генерацию кода, разработку интерфейсов и творческие задачи. README сообщает о контексте 32K с расширением до 128K посредством YaRN; метаданные фиксируют нативный контекст 32 768 токенов. Заявлены высокая эффективность вывода и результаты на бенчмарках по математике, знаниям, коду, финансам и здравоохранению; отдельное назначение для этих отраслей не заявлено. Метаданные отмечают интерфейс вызова инструментов. Модель доступна под лицензией MIT.