I.6Перевод и языковая адаптация

Experiment26Neuralsirkrishna_Strangemerges_30Pastiche — объединённая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а контекстное окно составляет до 32 768 токенов. Модель объединяет веса automerger/Experiment26Neuralsirkrishna-7B и automerger/Strangemerges_30Pastiche-7B. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Это модель автоматического распознавания речи на основе Arabic HuBERT-Large с CTC-декодером, дообученная авторами репозитория на наборах MGB-3 и Egyptian Arabic Conversational Speech Corpus. Она предназначена для преобразования египетской арабской разговорной речи в текст; языковая модель при декодировании не используется. Базовый HuBERT был предварительно обучен на 2 000 часах арабской речи с частотой дискретизации 16 кГц, поэтому входное аудио следует подавать с частотой 16 кГц. В README приведены WER 23,55% на валидации и 25,59% на тесте; заявленный авторами результат для египетского арабского — state of the art на момент публикации карточки. Модель содержит около 402,7 млн параметров и доступна в форматах PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Huihui-gpt-oss-20b-BF16-abliterated-GGUF — это набор квантованных версий текстовой генеративной модели Huihui-gpt-oss-20b-BF16-abliterated, разработанной huihui-ai. Репозиторий подготовлен bartowski в формате GGUF с использованием llama.cpp и imatrix-квантования. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и совместимых приложениях. В набор входят исходные веса BF16 и варианты квантования Q8_0, MXFP4_MOE, Q6, Q5, Q4, Q3 и Q2, размером примерно от 11,5 до 41,9 ГБ. Версии различаются балансом между качеством, требованиями к памяти и скоростью работы; наиболее качественными и рекомендуемыми в README названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Некоторые варианты ориентированы на ограниченный объём оперативной памяти или особенности ARM и Apple Silicon. README не содержит сведений об архитектуре модели, поддерживаемых языках, размере контекста, модальностях, точной методике создания исходной модели или лицензии. Формат prompt также не указан, поэтому перед использованием следует обратиться к странице исходной модели.

Jallabi-34B — плотная языковая модель семейства Llama от AbacusResearch для генерации текста и диалогов. В репозитории находятся только веса языковой части: энкодер CLIP удалён, поэтому модель загружается как LlamaForCausalLM. Модель содержит 33,9 млрд параметров, принимает текст и имеет контекст длиной 4096 токенов. В README приведены результаты Open LLM Leaderboard, включая средние оценки 70,73 и 25,97 в двух наборах испытаний. Модель распространяется под лицензией Apache-2.0. README не сообщает, на какой базовой модели основаны веса; по имеющимся данным нельзя определить специальные ограничения применения или качества.

JiRackUltra_1b-i1-GGUF — это набор GGUF-квантизаций модели CMSManhattan/JiRackUltra_1b, подготовленный и опубликованный mradermacher. Модель предназначена для генерации текста и локального запуска на CPU и устройствах с ограниченной памятью; заявленные сценарии включают веб-интерфейсы, маршрутизацию запросов, вызов инструментов и робототехнику. Модель относится к компактному классу примерно на 1 млрд параметров и связана с архитектурами Qwen2.5 и DeepSeek; в метаданных также указаны ternary/BitNet и эффективное 1.58-bit представление. Доступны многочисленные варианты квантизации с размерами примерно от 0,6 до 1,6 ГБ, включая IQ- и Q-варианты, а также imatrix-файл для создания собственных квантизаций. Заявлена поддержка английского, китайского, японского, корейского, французского, испанского, португальского, немецкого, итальянского, русского, арабского, вьетнамского и тайского языков. Мультимодальность и размер контекста в README не указаны. Сильные стороны модели — малый размер, низкие требования к памяти и возможность выбора компромисса между скоростью, размером и качеством. Ограничения зависят от варианта квантизации: наиболее компактные варианты могут заметно снижать качество, а IQ-квантизации часто рекомендуются вместо сопоставимых Q-вариантов. Лицензия — MIT.

KviGPT-7b-Chat — языковая модель KviAI для генерации текста и диалогов. Она построена на плотной архитектуре Llama и содержит 2,9 млрд параметров; модель можно запускать через библиотеку Transformers. В карточке заявлен английский язык, а метаданные также отмечают русский. Модель подходит для генерации ответов в чате и других текстовых сценариев. Контекст составляет 4096 токенов. Репозиторий содержит веса PyTorch и распространяется по лицензии CC BY-SA 4.0, требующей указания авторства и распространения производных материалов на тех же условиях. README не приводит результатов оценки качества или подробных ограничений по применению.

unsloth/Llama-3.1-8B — текстовая генеративная модель на архитектуре Llama 3.1, представленная Unsloth как основа для экспериментов с дообучением, в том числе для создания моделей рассуждения. По метаданным, это плотная авторегрессионная модель класса LlamaForCausalLM на 7,5 млрд параметров, опубликованная в формате safetensors; базовая модель — meta-llama/Llama-3.1-8B. Модель предназначена для генерации текста и адаптации к задачам естественного языка. Семейство Llama 3.1 поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; контекстное окно составляет 131 072 токена. README описывает возможности семейства, включая диалоговые сценарии для настроенных версий, но эта карточка относится к базовой модели, поэтому качество общения по инструкциям не следует считать гарантированным. Лицензия — Llama 3.1 Community License с условиями коммерческого и исследовательского использования и ограничениями из лицензии и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; генерация может содержать ошибки, а безопасность и качество в конкретном сценарии требуют проверки.

Gunulhona/Llama-Ko-Merge — объединённая языковая модель, созданная с помощью mergekit методом DARE TIES. В качестве базовой использована Saxo/Linkbricks-Horizon-AI-Korean-llama-3.1-sft-dpo-8B; в объединение также вошли корейские модели семейства Llama и Hermes-3-Llama-3.1-8B. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст для генерации текста. Заявленная длина контекста — 131072 токена. Модель предназначена для диалоговой генерации и выполнения инструкций, в первую очередь на корейском языке; метаданные также указывают возможности чата и интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.

MiniCPM-S-1B-sft-llama-format — языковая модель, преобразованная ModelBest, OpenBMB и THUNLP из MiniCPM-S-1B-sft в формат LLaMA для удобства использования. Это плотная авторегрессионная модель семейства LLaMA с 1,4 млрд параметров и контекстом до 4096 токенов; она принимает текст и генерирует текст, в том числе в диалоговом режиме. Модель предназначена для генерации ответов и текста, а её особенность — метод ProSparse: ReLU и FATReLU сдвигают активации к высокой разреженности, что может ускорять инференс в совместимых системах. Модель обучена на английских и китайских данных; README указывает на обучение примерно на 473 млрд токенов и 6 тыс. шагов SFT. Для корректной работы авторы рекомендуют начинать вход с BOS-токена и использовать формат чат-запроса. Веса распространяются по лицензии Apache-2.0. Производительность на конкретных задачах может зависеть от настройки промпта и среды инференса; ускорение требует поддержки разреженных вычислений.

MiniMax-M2.5-JANG_4M-CRACK — созданная Jinho Jang производная модели MiniMaxAI/MiniMax-M2.5, предназначенная для диалоговой генерации текста и рассуждений. Это MoE-модель семейства MiniMax M2 с заявленными в README 230 млрд параметров, 256 экспертами и примерно 10 млрд активных параметров на токен; метаданные репозитория указывают 2,9 млрд параметров. В README описан профиль квантования JANG_4M со смешанной точностью 8 бит для attention и 4 бита для экспертов, а также удаление отказов CRACK на уровне весов. Заявленная длина контекста — 196 608 токенов. Модель поддерживает английский, китайский и корейский языки, чат и интерфейс вызова инструментов. Модель рассчитана на запуск на Apple Silicon через MLX; README указывает поддержку формата JANG в MLX Studio и пакете jang-tools. Подходит для диалоговых помощников, многошаговых рассуждений и сценариев, где нужны ответы без стандартных отказов безопасности. Лицензия в метаданных — Apache-2.0. Заявления README о результатах тестов и сохранении качества не подтверждены независимыми данными.

cnmoro/Mistral-7B-Portuguese — дообученная cnmoro модель на основе mistralai/Mistral-7B-Instruct-v0.2, созданная с помощью Unsloth на наборе инструкций на португальском языке cnmoro/WizardVicuna-PTBR-Instruct-Clean, чтобы улучшить ответы на португальском. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; она принимает текст и генерирует текст в формате инструкций [INST] ... [/INST]. Модель предназначена для диалогов и выполнения пользовательских инструкций на португальском, в том числе для вопросов и ответов и языковых задач общего назначения. В карточке приведены результаты Open Portuguese LLM Leaderboard, включая ENEM и BLUEX; автор также сообщает, что отдельные бенчмарки не проводились. Используется лицензия базовой модели Mistral-7B-Instruct-v0.2, если она сохранена в репозитории; метаданные лицензии здесь не предоставлены, поэтому условия лицензирования следует сверить с карточкой и базовой моделью.

Munin Ministral 8B — датско-ориентированная текстовая языковая модель семейства Munin 1.0, разработанная Danish Foundation Models. Это дообученная модель на базе mistralai/Ministral-3-8B-Base-2512 с архитектурой Mistral 3 и плотной структурой; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации датского текста и следования инструкциям в диалоговых сценариях. Модель принимает текст и выдаёт текст. По карточке она ориентирована на датский язык и не поддерживает обработку изображений и другие мультимодальные входы. Лицензия — Apache 2.0.

NeuralSynthesis-7B-v0.1 — слитая модель для генерации текста, опубликованная пользователем Kukedlc. Она объединяет четыре модели на базе Mistral с помощью LazyMergekit и метода model_stock; в конфигурации указана точность bfloat16. Архитектура — плотная MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогов на английском и испанском языках. В карточке приведены результаты оценивания на Open LLM Leaderboard, включая средний балл 76,80, однако конкретные сценарии и качество на отдельных прикладных задачах README не описывает. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

NeuralsynthesisCalmexperiment-7B — автоматически объединённая модель, созданная Maxime Labonne методом DARE-TIES из NeuralSynthesis-7B-v0.1 и CalmExperiment-7B-slerp. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Указанная длина контекста — 32 768 токенов. Модель может применяться для генерации продолжений текста и диалоговых ответов. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0. README описывает конфигурацию слияния, но не приводит отдельных оценок качества или подробных рекомендаций по использованию.

Open_Gpt4_8x7B_v0.1 — языковая модель, опубликованная rombodawg и собранная методом TIES из notux-8x7b-v1 и UNAversal-8x7B-v1beta на основе MixtralOrochi8x7B. Она предназначена для генерации текста и диалоговых сценариев по шаблону Alpaca. Архитектура — MixtralForCausalLM с разреженной смесью экспертов; в метаданных указано 7,1 млрд параметров и контекст 32 768 токенов. Доступны веса в формате safetensors; README указывает тип данных float16. Модель объединяет возможности исходных Mixtral-моделей и может применяться для ответов на вопросы, написания и преобразования текста. Автор рассматривает её как эксперимент с целью расширить возможности базовой модели и отмечает, что для оценки качества требуется дополнительное тестирование. Лицензия — CC BY 4.0.

PSST medium — модель распознавания речи, созданная дообучением openai/whisper-medium.en на сегментах корпуса Santa Barbara Corpus of Spoken American English. Она предназначена для преобразования аудиозаписей разговорного американского английского в текст. Модель основана на архитектуре Whisper и содержит 455,8 млн параметров. Модель подходит для расшифровки разговорной речи, представленной в обучающем корпусе. Веса доступны в формате PyTorch по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или подробных ограничений.

Репозиторий MarsupialAI содержит сборку модели Qwen1.5-32B-Chat в формате GGUF с квантованиями iMatrix. Файлы созданы с использованием groups_merged.txt от Kalomaze; также включена версия GGUF в FP16, разбитая на части из-за ограничения размера файлов. Модель предназначена для диалоговой генерации текста и может использоваться в чат-приложениях, поддерживающих GGUF. Репозиторий распространяет конвертированные файлы базовой модели Qwen1.5-32B-Chat, а не описывает отдельное дообучение. В метаданных указана лицензия other; дополнительных условий лицензии в карточке нет.

unsloth/Qwen3-0.6B-Base-bnb-4bit — это 4-битная версия предварительно обученной причинной языковой модели Qwen3-0.6B-Base, подготовленная Unsloth на базе модели Qwen Team. Она предназначена для генерации текста, языкового моделирования и использования в прикладных сценариях, где важны компактный размер и сниженные требования к памяти, включая локальный запуск и дальнейшую адаптацию. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не относятся к эмбеддингам, имеет 28 слоёв и использует Grouped Query Attention с 16 головами для запросов и 8 для ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на 36 трлн токенов на 119 языках, включая данные для программирования, STEM, логического рассуждения, книг, многоязычных и синтетических источников, однако README не уточняет распределение качества по языкам для данной компактной версии. К сильным сторонам относятся компактность, 4-битное представление и поддержка длинного контекста. Это базовая предварительно обученная модель, поэтому она не позиционируется как готовый чат-ассистент и может требовать дополнительного дообучения или специального промптинга для диалоговых задач. Для работы рекомендуется актуальная версия библиотеки transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: qwen3. Модель распространяется по лицензии Apache-2.0.

Это GGUF-сборка Qwen3.5-9B от w-ahmad с квантованием MoQ (Mixture of Quants) и поддержкой MTP speculative decoding для ускорения генерации. Репозиторий предназначен для запуска текстовой генерации и диалога в средах, совместимых с GGUF, например через llama.cpp. В README представлены варианты квантования с разным размером файлов; метод MoQ распределяет точность квантования по слоям модели. Автор приводит сравнение с Unsloth Dynamic на тестах wiki text, но эти результаты не подтверждают качество на широком круге задач. Лицензия — MIT.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-W4A16-AWQ — это 4-битная AWQ-квантизированная версия модели DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель распространяется для использования с библиотекой Transformers и имеет тег image-text-to-text, то есть исходная архитектура включает поддержку работы с текстом и изображениями. Заявлены языки English и Chinese. Точное число параметров в README не указано, но идентификатор исходной модели содержит обозначение 9B. Квантизация выполнена по схеме W4A16_ASYM: веса Linear-слоёв представлены с точностью 4 бита, а активации — 16 битами, с размером группы 128. Формат compressed-tensors поддерживается LMDeploy Turbomind. Эмбеддинги, lm_head, нормализации, компоненты linear attention, vision tower и MTP heads сохранены в BF16. Указано, что модель рассчитана на инференс с LMDeploy; пример запуска использует language_model_only=True и tensor parallelism tp=1. README не содержит результатов собственных бенчмарков, ссылаясь на исходную модель. К основным преимуществам относятся существенное уменьшение размера весов за счёт 4-битной квантизации, возможность запуска на ограниченных GPU-ресурсах и сохранение мультимодальных компонентов и MTP heads в BF16. Ограничения включают зависимость от совместимого загрузчика и формата compressed-tensors, а также потенциальные особенности качества и совместимости, характерные для квантизированных моделей; числовые параметры контекста и подробные характеристики архитектуры не указаны. Модель распространяется по лицензии Apache-2.0.

Tsuna57/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP-Q8_0-GGUF — это квантованная версия модели DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель основана на Qwen3.6 и имеет размер 27 млрд параметров; в карточке также указаны многоэтапная настройка, объединение моделей, режимы thinking и reasoning, а также поддержка MTP-квантов. Квантование Q8_0 предназначено для запуска через llama.cpp. Модель ориентирована на широкий спектр текстовых сценариев, включая программирование, творческое письмо, создание историй и художественной прозы разных жанров, ролевые диалоги и задачи общего назначения. Заявлена поддержка английского и китайского языков. В метаданных указан pipeline image-text-to-text, однако подробности о фактических возможностях обработки изображений в README отсутствуют. К сильным сторонам относятся формат GGUF, совместимость с llama.cpp и возможность локального запуска через CLI или сервер. Ограничения и точные показатели качества, размер контекста, требования к оборудованию, особенности мультимодальности и результаты оценки в карточке не приведены; в примере запуска указан контекст 2048 токенов, но это не обязательно максимальное значение модели. Лицензия — Apache-2.0.

IvanKrastevAdventics/Qwen3.8-27B-AWQ-INT4-Q4_0-GGUF — это конвертированная в формат GGUF версия модели cyankiwi/Qwen3.8-27B-AWQ-INT4. Конвертацию выполнили с помощью llama.cpp через сервис GGUF-my-repo; в качестве библиотеки указана Transformers. В карточке также заявлена задача image-text-to-text, однако подробные сведения о разработчиках исходной модели приведены во внешней карточке и здесь отсутствуют. Модель предназначена для запуска локального вывода через llama.cpp, включая работу в командной строке и в режиме сервера. Из известных характеристик указаны размер 27B, квантование AWQ INT4 и вариант файла Q4_0 в формате GGUF. В README приведён пример запуска с контекстом 2048 токенов. Сведения о поддерживаемых языках, точной архитектуре, мультимодальных возможностях и качестве на конкретных задачах не указаны. Ключевое преимущество — готовность к использованию в экосистеме llama.cpp и сниженное потребление памяти благодаря 4-битному представлению. Ограничения связаны с потерями качества, возможными для квантованной версии, а также с отсутствием в карточке детальной информации о производительности и совместимости с конкретным оборудованием. Для модели указана лицензия Apache 2.0.

Qwen3.8-Flash-Next-4bit — это 4-битная MLX-конверсия модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста и сценариев image-text-to-text, то есть может применяться к задачам, сочетающим обработку изображений и текста, при условии поддержки соответствующего мультимодального интерфейса. Модель преобразована с помощью mlx-vlm и оптимизирована для запуска в экосистеме MLX. Используется групповой размер квантования 32, необходимый для корректной обработки PLE n-gram embedding dimensions. Точные сведения о числе параметров, длине контекста и поддерживаемых языках в карточке не указаны. Ключевое преимущество этой версии — корректная обработка Qwen4ExpRMSNorm без двойного смещения весов, из-за которого у некоторых более ранних конверсий генерация деградировала до шума. Конверсия проверена на целостность исходных данных, идентичность нормирующих тензоров и согласованность с bf16-версией; также подтверждена связная генерация при температуре 0.0. Ограничения включают 4-битное квантование и зависимость от MLX и mlx-vlm; возможные потери точности относительно bf16-версии в README не измерены. Лицензия в карточке не указана.

turboderp/Qwen3.8-Flash-Next-exl3 — это набор EXL3-квантизаций модели Qwen3.8-Flash-Next, разработанной Qwen и переквантованной turboderp. Модель предназначена для задач преобразования изображений и текста в текст и рассчитана на локальный запуск с использованием ExLlamaV3 версии 1.4.5 или ветки dev. Доступны варианты с точностью 2,05, 3,05, 4,05, 5,05 и 6,05 бит на вес, что позволяет выбирать компромисс между требованиями к памяти, скоростью и сохранением качества. В README не указаны точный размер модели, архитектурные детали базовой модели, поддерживаемые языки и максимальная длина контекста. Приведены результаты самокалибровки и несколько графиков, однако подробные бенчмарки заявлены как будущие. Лицензия обозначена как qwen-community-1.0; дополнительные условия следует уточнять в файле LICENSE.

DreamFast/Qwen3-VL-4b-Heretic-GGUF — это квантизированная GGUF-версия модели Qwen3-VL-4B-Instruct, разработанной командой Qwen и модифицированной DreamFast методом abliteration. Модель предназначена прежде всего для генерации и обработки текста, локального запуска через llama.cpp, Ollama, LM Studio, ComfyUI-GGUF и другие совместимые среды. Доступны варианты от Q3_K_M до F16 размером примерно от 2,0 до 7,5 ГБ. Рекомендуемым балансом качества и размера авторы называют Q4_K_M объёмом 2,4 ГБ; Q6_K и Q8_0 рассчитаны на системы с большим запасом видеопамяти, а Q3_K_M — на устройства с ограниченными ресурсами. Размер контекста в README не указан. Хотя исходная модель поддерживает работу с изображениями, данные GGUF-сборки ориентированы на текстовый путь; для мультимодального режима рекомендуется использовать версии в формате bf16 для Transformers или специальные чекпойнты ComfyUI. Ключевая особенность варианта — удаление защитного выравнивания: в заявленных тестах HarmBench ASR вырос с 30,8% у базовой модели до 100%, при этом показатели MMLU почти не изменились, а GSM8K снизился с 78,62% до 77,18%. Это может быть полезно для исследовательских задач и экспериментов с поведением моделей, но модель способна выполнять вредоносные запросы и требует ответственного применения. Квантизация дополнительно снижает качество по сравнению с исходными весами, а лицензия указана как Apache-2.0.

ReAligned-Qwen3.5-27B — диалоговая модель семейства Qwen3.5, созданная Эриком Хартфордом из LazarusAI на базе Qwen/Qwen3.5-27B. Модель дообучена в два этапа: supervised fine-tuning и GRPO с оценкой ReAligned-Classifier; обучение использует LoRA. Цель — уменьшить отказы и государственно-ориентированную подачу ответов на политические и исторические темы, связанные с Китаем, сохранив общие возможности базовой модели. Модель предназначена для чата, суммаризации, программирования, рассуждений, многоязычного использования, а также исследования идеологической предвзятости, отказов и рамки повествования. Архитектура — плотная Qwen3.5 с классом Qwen3_5ForConditionalGeneration; метаданные указывают мультимодальную основу с поддержкой текста и изображений. Карточка не сообщает размер параметров и длину контекста именно этого чекпойнта. Лицензия — Apache-2.0. Снижение цензурных отказов не гарантирует точность фактов; возможны чрезмерная коррекция в сторону западной институциональной рамки, пробелы в знаниях и различия поведения между языками и формулировками. Авторы рекомендуют независимую оценку и собственные меры модерации при развёртывании.

seal-7b-chat-i1-GGUF — это квантизированная версия чат-модели seal-7b-chat, разработанной FinchResearch и опубликованной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через совместимые с GGUF инструменты локального запуска. При квантизации использовались weighted/imatrix-кванты, представленные в нескольких вариантах с различным размером, скоростью и ожидаемым качеством. Модель относится к семейству Llama и имеет около 7 миллиардов параметров. В README указана поддержка английского, немецкого и испанского языков. Данные о контекстном окне, точной базовой архитектуре, мультимодальности и результатах бенчмарков не приведены, поэтому её характеристики в этих аспектах нельзя оценить. Основное преимущество набора — широкий выбор уровней квантизации: от компактных вариантов размером около 1,6 ГБ до более качественного Q6_K размером около 5,6 ГБ. При этом самые компактные варианты могут заметно уступать в качестве, а часть низкобитных конфигураций прямо обозначена как имеющая низкое качество. Лицензия в README не указана. Условия использования следует уточнять по лицензии исходной модели FinchResearch/seal-7b-chat и условиям публикации квантизированной версии.

Sina-Loki-7b-Merge — экспериментальная объединённая языковая модель из серии DARE merges. Репозиторий содержит веса в формате Safetensors; по метаданным модель построена на плотной архитектуре MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста. Модель опубликована Azazelle по лицензии CC BY 4.0.

Это квантованная версия модели solar-pro-preview-instruct, разработанной компанией Upstage и преобразованной в формат GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и запуска через совместимые локальные инструменты и библиотеки, включая llama.cpp, llama-cpp-python, LM Studio и другие приложения экосистемы GGUF. В README не указаны размер модели, архитектура исходной модели, поддерживаемые языки, модальности и размер контекстного окна. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью работы и качеством генерации. Формат GGUF ориентирован на локальный запуск с возможным использованием GPU, однако конкретные требования к оборудованию не приведены. Лицензия в предоставленных данных не указана. README также не содержит результатов тестирования, поэтому нельзя сделать подтвержденные выводы о сильных сторонах, качестве на отдельных задачах или ограничениях модели, кроме зависимости характеристик от выбранного уровня квантования.

Это GGUF-квантизированная версия языковой модели Step-3.5-Flash, разработанной командой stepfun-ai и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и LoLLMs. В набор входят варианты квантования от Q8_0 до Q2_K_L, включая форматы Q4, Q5, Q6, Q3 и IQ. Размер файлов составляет примерно от 70 до 209 ГБ, а многие варианты разделены на несколько частей. Более качественные варианты Q6_K, Q5_K и Q4_K рекомендуются для сохранения исходных характеристик, тогда как варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в представленном README не указаны. Модель рассчитана на локальный инференс, однако для работы потребуются значительные объёмы оперативной или видеопамяти в зависимости от выбранного варианта. Для корректной генерации следует использовать указанный в README шаблон prompt с системными и пользовательскими сообщениями. Распространение выполняется по лицензии Apache-2.0; сведения о дополнительных ограничениях или результатах бенчмарков не приведены.