I.6Перевод и языковая адаптация

open-aditi-hi-v1 — это дообученная модель ManishiiTG на базе Mistral-7B-v0.1 с 7,1 млрд параметров. Она предназначена для генерации связного текста на хинди и английском языках, включая написание контента, ролевые диалоги, классификацию и ответы в чат-сценариях. Модель имеет архитектуру MistralForCausalLM и контекстное окно до 32 768 токенов; веса доступны в формате safetensors. В качестве обучающих данных указаны наборы manishiitg/aditi-gpt4-v2-hi-200K, manishiitg/en-hi-instruct-v2 и manishiitg/en-hi-chat-v2. Примеры в карточке показывают ответы на хинди, однако качество ответов может быть непоследовательным: модель допускает неточности и неестественные формулировки. Разработчик отдельно отмечает, что модель не оптимизирована для программирования и математических задач. Лицензия — Apache-2.0.

openPangu-Embedded-7B — плотная языковая модель с 7,4 млрд параметров от Huawei, обученная с нуля на Ascend NPU. Модель предназначена для диалогов и генерации текста; поддерживает быстрый и медленный режимы рассуждения, причём по умолчанию включён медленный. Для быстрого режима в конце запроса добавляют тег /no_think. В карточке указаны 34 слоя и обучение примерно на 19 трлн токенов. Модель ориентирована на китайский и английский языки и принимает контекст до 32 768 токенов согласно метаданным. В README приведены результаты бенчмарков MMLU-Pro и CMMLU, однако они не гарантируют точность в практических задачах. Лицензия обозначена как other; перед использованием следует проверить условия в репозитории. Разработчик предупреждает, что ответы могут содержать ошибки и не заменяют профессиональные медицинские или юридические рекомендации.

OrionStar Yi 34B Chat Llama — это диалоговая языковая модель OrionStarAI, представленная в формате GGUF и квантизированная TheBloke. Модель основана на архитектуре Yi, имеет 34 млрд параметров и предназначена для генерации текста и ведения диалогов. Исходная модель доступна в формате PyTorch fp16, а данный репозиторий содержит варианты GGUFv2 с разной разрядностью квантования — от 2 до 8 бит. Модель ориентирована на чат-сценарии, ответы на запросы и общее текстовое взаимодействие. В README приведён шаблон промпта Human: {prompt} Assistant:, а также пример диалога на китайском языке. Поддержка других языков, размер контекста и дополнительные модальности в доступных данных не указаны; модель описана как текстовая и относится к задаче text-generation. GGUF-файлы совместимы с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и ctransformers, что позволяет запускать модель локально с использованием CPU и GPU. Разные уровни квантования дают выбор между требованиями к памяти, скоростью и сохранением качества, однако конкретные показатели качества и ограничения вариантов в README не приведены. Модель распространяется по лицензии yi-license; тип лицензии указан как other, с отдельным файлом LICENSE.

Это конвертированная в формат MLX версия модели распознавания речи NVIDIA Parakeet-TDT 0.6B v2, подготовленная сообществом mlx-community на основе nvidia/parakeet-tdt-0.6b-v2. Модель предназначена для преобразования аудиозаписей в текст; для запуска предлагаются библиотеки parakeet-mlx и mlx-audio. В основе — архитектура FastConformer/Conformer и метод TDT; исходная модель содержит около 0,6 млрд параметров. По описанию базовой модели, она транскрибирует английскую речь, расставляя пунктуацию и заглавные буквы, а также выдаёт временные метки слов. Репозиторий использует safetensors и библиотеку MLX. Лицензия — CC BY 4.0.

Qwen2-0.5B-Instruct — компактная инструктивно дообученная языковая модель из семейства Qwen2, разработанного командой Qwen. Это плотная авторегрессионная модель на архитектуре Transformer с 494 млн параметров, рассчитанная на диалог и генерацию текста по запросам. Поддерживает контекст до 32 768 токенов и использует токенизатор, адаптированный к нескольким естественным языкам и языкам программирования. Модель подходит для диалоговых ассистентов, ответов на вопросы, написания и преобразования текста, а также простых задач рассуждения, математики и программирования. Небольшой размер облегчает локальный запуск, но по возможностям и надёжности она уступает более крупным моделям; результаты на сложных задачах стоит проверять. Репозиторий распространяет веса в формате safetensors. Лицензия — Apache-2.0.

Это пакет GGUF с весами Qwen3.5-35B-A3B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Он создан на основе unsloth/Qwen3.5-35B-A3B-MTP-GGUF: исходный файл модели разделён на артефакты по слоям для запуска на нескольких узлах локального кластера Mesh LLM. Модель предназначена для генерации текста и диалогов, локального приватного запуска и обслуживания запросов через совместимый с OpenAI API интерфейс Mesh LLM. Вариант UD-Q4_K_XL использует формат GGUF; исходная модель относится к семейству Qwen3. README не приводит размер модели в параметрах, длину контекста или поддерживаемые языки. Для запуска требуется Mesh LLM и доступ к узлам, предоставляющим вычисления и память. Условия лицензии следует сверить с карточкой исходной модели.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NInfer — это конверсия модели DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1, основанной на Qwen/Qwen3.8-27B. Артефакт подготовлен в формате .ninfer проектом pyros-vault для специализированного runtime NInfer-4090 и видеокарт NVIDIA RTX 4090 с архитектурой sm_89. Это deployment-конверсия без дополнительного обучения; в пакет включены смешанно-точные веса и ресурсы токенизации, генерации, чат-шаблона и обработки изображений и видео. Модель предназначена для генерации текста и мультимодальных сценариев с текстом и изображениями через совместимый runtime NInfer. Версия использует квантование groupwise-int с вариантами 4-, 5-, 6- и 8-битных весов, имеет размер около 27 млрд параметров, занимает 16,96 GiB в виде файла и поддерживает speculative decoding с MTP. В проверенных режимах резидентные веса занимали примерно 15,92 GiB для текста, 16,19 GiB с Vision и 16,67 GiB с MTP; профиль проверки использовал контекст и KV-ёмкость 4096 токенов. Сильные стороны артефакта — компактное смешанно-точное представление, поддержка текстового и визуального ввода, MTP-ускорение и адаптация под 24 ГБ VRAM RTX 4090. Ограничения связаны с жёсткой привязкой формата к зарегистрированному runtime и конкретной архитектуре GPU: файл не предназначен для Transformers, llama.cpp или сторонних форков NInfer. Заявления об улучшении качества и сокращении числа токенов рассуждений относятся к upstream-модели и отдельно в этой карточке не подтверждены. Лицензия — Apache-2.0.

Qwen3.8-27B-Heretic-GSQ-RCO-GGUF — семейство неравномерно квантованных GGUF-моделей, разработанное 0bserverx на базе Qwen3.8-27B-Heretic-Abliterated-Uncensored. Модель предназначена для генерации текста и запуска локально через llama.cpp, Ollama или LM Studio. Варианты включают стандартные веса и версии с встроенной головой Qwen3.8 MTP/NextN для спекулятивного декодирования. Модель содержит 27B параметров; каждый из 851 тензора получает собственный тип квантования по схеме RCO, с использованием официальной importance matrix и инструментов llama.cpp. Доступны варианты с целевой точностью 2,50–3,50 bpw и размером от 8,45 до 11,80 ГБ, а MTP-версии требуют примерно на 0,42 ГиБ больше. Версия IQ3_S показывает perplexity 6,1778 на wikitext-2, что на 0,95% выше эталона F16; заявленная скорость генерации составляет до 90 токенов в секунду для IQ3_S и до 150 токенов в секунду для IQ3_S-mtp в указанной конфигурации. Сильными сторонами являются низкие требования к памяти, высокая сохранность качества при 3,50 bpw и возможность спекулятивного декодирования. Ограничения связаны с компромиссом между размером, качеством и скоростью у более компактных вариантов, а также с тем, что опубликованная реализация воспроизводит распределение квантования RCO, но не полный refinement-проход GSQ. Модель основана на abliteration и позиционируется как uncensored; README сообщает о 0–1 отказах из 100 тестов, но не описывает методику оценки. Лицензия — Apache-2.0.

Savant-LLaMa-70B — объединённая языковая модель автора TareksGraveyard, созданная с помощью mergekit методом della_linear. В качестве базовой использована nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в объединение также вошли пять моделей семейств Llama от EVA-UNIT-01, Sao10K, SicariusSicariiStuff и TheDrummer. Модель предназначена для диалогового общения и генерации текста. Она построена на архитектуре Llama с 69,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. В README автор описывает результат как эксперимент слияния и оценивает его как достойный, но отмечает, что предпочитает другой собственный вариант. Репозиторий содержит веса Safetensors и использует лицензию Llama 3.3. Перед применением следует учитывать условия лицензии Llama 3.3 и ограничения, унаследованные от включённых моделей; README не приводит отдельной оценки качества или подробных рекомендаций по безопасному использованию.

SG Raccoon Yi 55B 200K — языковая conversational-модель, разработанная Marco Lironi на базе архитектуры Yi и опубликованная в формате GGUF. Репозиторий TheBloke содержит её квантизированные версии для локального запуска; исходная неквантизированная модель доступна в формате PyTorch. Указан английский язык. Модель предназначена для диалоговых сценариев и генерации текста. GGUF-файлы поддерживаются llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и сохранением качества. В README также указан размер контекста 200K, отражённый в названии модели. К сильным сторонам относятся большой контекст и возможность локального CPU+GPU-инференса с разными уровнями квантизации. Ограничения — необходимость значительных вычислительных ресурсов для модели класса 55B, возможная потеря качества при агрессивной квантизации и отсутствие в предоставленных данных подробных результатов оценки. Модель распространяется по лицензии yi-license; README ссылается на лицензию Yi и обозначает её как нестандартную.

s1-32B-GGUF — это набор квантованных GGUF-версий текстогенеративной модели s1-32B, разработанной simplescaling. Квантование выполнил bartowski с использованием llama.cpp b4585 и метода imatrix на основе набора данных simplescaling/s1K и дополнительного калибровочного набора. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с llama.cpp, включая LM Studio и другие производные проекты. Доступны варианты размером примерно от 11,26 до 34,82 ГБ с форматами Q2, Q3, Q4, Q5, Q6, Q8 и IQ-квантованиями. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют больше оперативной или видеопамяти; Q4_K_M указан как вариант стандартного размера для большинства сценариев, а Q5 и Q6 — как варианты высокого качества. Архитектура, поддерживаемые языки, модальности и максимальная длина контекста в README не указаны, поэтому модель следует рассматривать как текстовую. Сильной стороной является широкий выбор размеров и совместимость с локальным инференсом, позволяющая подобрать компромисс между качеством и требованиями к ресурсам. Ограничения связаны с потерями качества у низкобитных вариантов и значительными требованиями к памяти даже у наиболее компактных файлов. Для работы рекомендуется использовать шаблон промпта ChatML, приведённый в README. Лицензия модели — Apache-2.0.

jaspionjader/sof-12 — объединённая языковая модель, созданная разработчиком jaspionjader из sof-10, sof-11 и sof-6 с помощью mergekit и метода Model Stock. Модель построена на архитектуре Llama с плотной структурой и содержит 7,5 млрд параметров; она предназначена для генерации текста и диалогов, поддерживает контекст до 131 072 токенов и работает через библиотеку Transformers. Модель принимает текст и выдаёт текст. Карточка не уточняет специализацию по языкам или предметным областям, поэтому её можно рассматривать для общих диалоговых сценариев и генерации текста. Веса опубликованы в формате Safetensors. Лицензия в предоставленных данных не указана.

Spaetzle-v61-7b — языковая чат-модель, созданная cstr слиянием трёх моделей на базе Mistral с помощью LazyMergekit: FelixChao/WestSeverus-7B-DPO-v2, mayflowergmbh/Wiedervereinigung-7b-dpo и cognitivecomputations/openchat-3.5-0106-laser. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для диалогов и генерации текста. Метаданные отмечают чат-возможности; базовая модель описана как немецко-английская, поэтому эти языки можно считать основными ориентирами применения. Репозиторий распространяется под лицензией Apache-2.0. Карточка описывает слияние весов, а не дообучение или конвертацию формата.

ZurichNLP/swissbert-ner — модель ZurichNLP для распознавания именованных сущностей, дообученная на наборе WikiNEuRal. Она выполняет токеновую классификацию и выделяет сущности в немецком, французском и итальянском текстах; для ретороманского языка Grischun заявлена работа в режиме zero-shot. Модель построена на архитектуре X-MOD, содержит 151,8 млн параметров и поддерживает контекст до 514 токенов. Модель подходит для автоматической разметки имен людей, организаций и других сущностей в многоязычных текстах на языках Швейцарии. В README показано применение через pipeline Transformers с простой агрегацией меток. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Tess-3-Mistral-Nemo-GGUF — набор GGUF-квантизаций текстовой генеративной модели Tess-3-Mistral-Nemo, опубликованный и сквантизированный пользователем bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана migtissera. Формат GGUF предназначен для локального запуска, в том числе через llama.cpp и LM Studio. Модель предназначена для генерации текста в диалоговом формате с системными инструкциями и пользовательскими запросами. В репозитории представлены варианты от исходных весов F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, а также вариантов IQ. Размер файлов составляет примерно от 4,14 до 49 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, тогда как младшие варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для некоторых вариантов применена схема с весами embeddings и output, сохранёнными в Q8_0, что, согласно описанию, может улучшать качество, хотя эффект зависит от сценария. Конкретные архитектурные параметры, число параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.

Trurl 2 7B — дообученная Voicelab.AI версия Llama 2 для диалогов и генерации текста на польском и английском языках. Это авторегрессионная плотная трансформерная модель с 6,6 млрд параметров и контекстом до 4096 токенов; репозиторий содержит веса PyTorch. Модель принимает текст и генерирует текст. Модель предназначена для чат-ассистентов, ответов на вопросы и других задач генерации естественного языка. При использовании диалогового режима требуется формат беседы Llama 2 с соответствующими специальными токенами. Обучение проводилось на польских и английских диалоговых и инструкционных данных, включая наборы вопросов и ответов и разговоры из разных областей. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением рекомендуется тестирование и настройка безопасности под конкретное применение. Авторы заявляют коммерческое и исследовательское использование; конкретная лицензия в предоставленных данных не указана.

Whisper Hindi Medium — модель распознавания речи, дообученная Vasista22 на основе openai/whisper-medium на данных для автоматического распознавания речи на хинди из нескольких открытых корпусов. Она предназначена для преобразования аудиозаписей на хинди в текст, в том числе для обработки речевых корпусов и оценки качества транскрипции. Модель построена на архитектуре Whisper и содержит около 455,8 млн параметров; доступны форматы PyTorch и Flax. Для работы с Flax в карточке упоминается библиотека whisper_jax. Обучение использовало GramVaani ASR Corpus, ULCA ASR Corpus, Shrutilipi ASR Corpus и обучающую и валидационную части Google Fleurs. Лицензия — Apache-2.0. Карточка не приводит количественных оценок качества, поэтому точность на конкретных типах записей по ней определить нельзя.

Apel-sin/whisper-large-v3-russian-ties-podlodka-v1.2 — русскоязычная модель распознавания речи на архитектуре Whisper large-v3. Она объединяет методом TIES модели antony66/whisper-large-v3-russian и bond005/whisper-large-v3-ru-podlodka; размер составляет 905,2 млн параметров. Модель предназначена для преобразования аудиозаписей в текст, в том числе телефонных разговоров. В карточке указано, что для обработки звонков рекомендуется предварительно подготовить записи и отрегулировать громкость. Модель помечена как незавершённая работа: автор планирует дополнительно адаптировать её для распознавания телефонной речи. Обучение связано с наборами Common Voice 17.0, Taiga Speech v2, Podlodka Speech и ruLibriSpeech. Использование совместимого с OpenAI API сервера описано как возможный способ запуска. Сведения о лицензии в предоставленных данных отсутствуют.

Это русскоязычная модель распознавания речи Whisper small, созданная на основе дообученной модели artyomboyko/whisper-small-ru-v2 и преобразованная в формат GGUF с точностью FP16. Репозиторий подготовлен для запуска через whisper.cpp; модель принимает монофоническое аудио с частотой дискретизации 16 кГц и выдаёт текстовую расшифровку на русском языке. В архитектуре Whisper small — 12 слоёв энкодера и 12 слоёв декодера, размер скрытого представления 768. По данным карточки, файл занимает 483 МБ, а на Xiaomi 11T с whisper.cpp модель выполняет транскрибацию в реальном времени и примерно вдвое быстрее версии F32 на ядрах Cortex-A78. Лицензия — Apache-2.0.

MaziyarPanahi/YamshadowInex12_Inex12Experiment26 — объединённая языковая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Веса объединены из automerger/YamshadowInex12-7B и automerger/Inex12Experiment26-7B. Модель предназначена для генерации текста и принимает текстовые запросы, формируя текстовые ответы. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors, а лицензия указана как Apache-2.0.

Captain-Eris-Diogenes_Twilight-V0.420-12B-GGUF — это 12-миллиардная языковая модель для генерации текста, созданная на основе модели Nitral-AI/Captain-Eris-Diogenes_Twilight-V0.420-12B. Данный репозиторий содержит её GGUF-квантизации, подготовленные bartowski с использованием llama.cpp и imatrix. Модель предназначена для локального запуска и текстовой генерации; рекомендуется использовать её через LM Studio или совместимые инструменты на базе llama.cpp. Указан формат промпта <s>[INST]{prompt}[/INST]. Доступны варианты от исходных весов F16 размером 24,50 ГБ до более компактных Q3-, Q4-, Q5-, Q6- и Q8-квантизаций размером примерно от 6,08 до 13,02 ГБ. Старшие варианты Q5 и Q6 обеспечивают высокое качество, а Q4_K_M указан как подходящий вариант по умолчанию для большинства сценариев; версии Q3 предназначены для систем с ограниченным объёмом оперативной памяти, но дают более низкое качество. Модель текстовая: сведения о поддержке изображений, языках, размере контекста и специализированных задачах в README отсутствуют. Лицензия также не указана.

Cerbero-7B — итальянская языковая модель, разработанная командой проекта Cerbero и построенная на базе Mistral-7B. Это плотная авторегрессионная модель с 7,1 млрд параметров и контекстом до 32 768 токенов; она предназначена для диалогов, генерации текста, ответов на вопросы и понимания итальянского текста. В README приведены результаты оценки на итальянских тестах понимания текста, токсичности, иронии и тональности. Метаданные также отмечают поддержку английского языка. Модель доступна в формате PyTorch и подключается через Transformers. Она выпущена по лицензии Apache 2.0, разрешающей коммерческое использование. Как и другие генеративные языковые модели, может выдавать неверные ответы; результаты тестов не гарантируют качество в конкретных сценариях.

DeepSeek-V4-Flash-0731-ROCmFP4 — это квантизированная версия языковой модели DeepSeek-V4-Flash-0731, разработанная пользователем kingjones777 на основе модели deepseek-ai. Модель распространяется в формате GGUF для генерации текста и предназначена прежде всего для локального запуска на одной системе AMD Strix Halo с 128 ГБ объединённой памяти и полной выгрузкой на GPU. Архитектура модели — sparse MoE с 256 экспертами и механизмами indexer/DSA attention; указанный язык — английский. Основная сборка Q3 использует смешанную квантизацию ROCmFP4/ROCmFPX с размером около 101 ГБ и общей плотностью около 2,92 BPW, что позволяет вместить её в 128 ГБ памяти. Также доступна сборка Q4_0_ROCMFP4_STRIX размером около 141 ГБ. Модель рассчитана на AMD gfx1151, включая Ryzen AI MAX+ 395, и требует специальной ветки ROCmFPX для llama.cpp; стандартный llama.cpp эти тензоры загрузить не может. Сильная сторона сборки — возможность полностью разместить крупную MoE-модель на одной совместимой AMD-системе, избежав выгрузки части параметров на CPU. Заявленная скорость составляет примерно 5–8 токенов в секунду, однако она зависит от оборудования и конфигурации. Ограничения включают узкую аппаратную совместимость, необходимость специального загрузчика и рекомендуемый контекст 8192 токена для стабильной работы на указанной конфигурации. MTP включён в поставку, но для этой аппаратно-программной связки отключён, поскольку оказался медленнее обычной генерации; режим рассуждений можно включать отдельно. Модель является производной от DeepSeek-V4-Flash-0731, поэтому её возможности и ограничения определяются базовой моделью. Лицензия указана как other с названием deepseek; применяются условия лицензии исходной модели DeepSeek, ссылка на которую приведена в карточке.

DeepSeek-V4-Flash-GGUF — это набор GGUF-квантизаций модели DeepSeek-V4-Flash, разработанной deepseek-ai. Квантизации подготовлены пользователем tarruda; исходные веса модели были опубликованы в формате MXFP4, поэтому варианты MXFP4 в этом наборе являются их прямыми конверсиями в GGUF. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через llama.cpp. Доступны варианты Q3_K, IQ3_XXS и Q2_K размером примерно от 90,3 до 116,5 ГиБ, с плотностью от 2,73 до 3,52 бит на вес. В README приведён пример запуска с контекстом 131 072 токена и одним параллельным запросом, однако точные архитектурные характеристики, поддерживаемые языки, модальности и максимальный контекст самой базовой модели не указаны. Квантизации позволяют снизить требования к памяти по сравнению с полноразмерными весами, но требуют значительных ресурсов и могут уступать исходной модели по качеству; более агрессивные варианты Q2_K и IQ3_XXS потенциально сильнее затрагивают точность. Модель распространяется по лицензии MIT. Для запуска в README используется llama.cpp и формат GGUF; конкретная производительность зависит от выбранной квантизации и аппаратного обеспечения.

Elysium2.1-11b — объединённая модель для генерации текста, созданная powermove72 с помощью LazyMergekit. При слиянии методом passthrough использованы слои 0–24 модели powermove72/Trinity_Notus-xb и слои 25–49 модели powermove72/GreenScorpius-xb-Passthrough. Модель построена на плотной архитектуре Mistral с 11 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов на входные текстовые запросы. Репозиторий содержит веса в формате Safetensors; в конфигурации слияния указан тип bfloat16. Лицензия в предоставленных данных не указана.

EVA-Qwen2.5-14B-v0.2-GGUF — это набор квантованных моделей в формате GGUF для генерации текста, созданный на основе EVA-Qwen2.5-14B-v0.2 и опубликованный пользователем bartowski. Квантование выполнено с помощью llama.cpp с использованием метода imatrix; доступны варианты от F16 и Q8_0 до более компактных Q3 и IQ3/IQ4. Модель предназначена для локального запуска, в частности через LM Studio, с использованием указанного шаблона чата. Модель имеет размер 14B параметров и относится к семейству Qwen2.5. Она ориентирована на текстовые сценарии, включая следование инструкциям, написание и структурирование текста, ролевые диалоги и генерацию художественного контента, что следует из использованных наборов данных. Поддерживаемые языки, максимальная длина контекста и точные архитектурные характеристики в README не указаны. Главное преимущество — выбор большого числа вариантов квантования с разным компромиссом между качеством и требованиями к памяти: версии Q5 и Q6 описаны как высококачественные, а Q4 — как подходящие для случаев с ограниченными ресурсами. Более агрессивное квантование может снижать качество генерации; заявленные оценки производительности отсутствуют. Некоторые варианты оптимизированы для ARM и требуют соответствующих аппаратных инструкций, при этом README не рекомендует их для Mac или Windows. Указанная лицензия — Apache-2.0.

Experiment28M7_AlloyingotneoyExperiment28 — объединённая модель MaziyarPanahi на базе двух чекпойнтов automerger: Experiment28M7-7B и AlloyingotneoyExperiment28-7B. Это плотная авторегрессионная языковая модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальные области применения или отдельные возможности объединённой модели.

MaziyarPanahi/Experiment28M7_ShadowYam — объединённая модель на архитектуре Mistral, созданная на основе automerger/Experiment28M7-7B и automerger/ShadowYam-7B. Она предназначена для генерации текста и может использоваться в диалоговых и текстовых приложениях.

google/gemma-3-270m-qat-q4_0-unquantized — текстовая модель Google из семейства Gemma 3, основанная на google/gemma-3-270m. Метаданные классифицируют её как дообученную модель для генерации текста; веса размещены в формате safetensors. Суффикс имени указывает на QAT Q4_0, однако README и метаданные не объясняют, что именно означает «unquantized» для опубликованных весов. Модель предназначена для генерации текста и диалогов, ответов на вопросы и суммаризации. README семейства Gemma 3 описывает также ввод изображений и контекст до 128K токенов, но эти характеристики не подтверждены отдельно для данной компактной текстовой модели. В карточке заявлена поддержка более 140 языков; сведения о её основной языковой специализации отсутствуют. Возможные ограничения включают фактические ошибки, отражение предвзятости обучающих данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Gemma; её условия использования следует учитывать при развёртывании.

Gemma 4 E2B CoreAI — текстовая decoder-модель, экспортированная пользователем mlboydaisuke из базовой модели google/gemma-4-E2B-it для запуска через Apple Core AI на устройствах с iOS 27 и macOS 27. Модель предназначена для локальной генерации текста, диалоговых сценариев, суммаризации и офлайн-ассистентов; интеграция возможна через CoreAIKit и Swift. Поддерживаются GPU и Neural Engine Apple, включая iPhone и Mac, без обязательной отправки данных на сервер. Опубликованы квантизированные варианты с int4 и int8, включая конфигурации с пользовательскими Metal-ядрами для GPU и отдельные варианты для Neural Engine. Размер загружаемого комплекта составляет около 4,9 ГБ, а заявленная скорость декодирования достигает 22 токенов/с на iPhone 17 Pro и 56,6–59 токенов/с на M4 Max в Release-сборке; показатели зависят от платформы и конфигурации. В README не указаны языки, размер контекстного окна и точные архитектурные параметры. Модель рассчитана на экосистему Apple, требует iOS 27 или macOS 27 и может нуждаться в повышенном лимите памяти на iPhone. Лицензия указана как Apache-2.0, при этом для Gemma приведена отдельная ссылка на условия Google.