I.6Перевод и языковая адаптация

dealignai/Ornith-1.5-9B-UNCENSORED-GGUF — квантизированная GGUF-версия мультимодальной модели Ornith 1.5 9B, разработанной Ornith AI и подготовленной Dealign.ai. Модель предназначена для запуска через llama.cpp и поддерживает работу с текстом и изображениями; для визуального ввода требуется отдельный проектор mmproj. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q3_K_M и Q2_K объёмом примерно от 3,6 до 8,9 ГБ. Архитектура Ornith 1.5 сочетает GatedDeltaNet (SSM) и attention. Модель поддерживает рассуждения с выдачей трассы <think>, включённые по умолчанию, а также сценарии анализа изображений и генерации текста. В README приведён пример контекста 8192 токена для llama-server, однако максимальный размер контекста явно не указан. Вариант Q4_K_M рекомендован как сбалансированный по качеству и размеру; для изображений с любой текстовой квантизацией используется один и тот же vision-проектор. Главная особенность сборки — удаление или ослабление отказов и защитных ограничений с сохранением заявленных знаний, связности и возможностей рассуждения. По данным README, разница с базовой моделью по MMLU не превышает 3 процентных пунктов, однако низкие уровни квантизации заметно снижают абсолютное качество, особенно Q2_K. Из-за сниженных защитных механизмов модель может генерировать опасный, незаконный или вредоносный контент, поэтому её следует использовать ответственно и законно. Лицензия — MIT, унаследованная от базовой модели.

Pangu Pro MoE — языковая модель на архитектуре смеси экспертов PanguProMoE, разработанная Huawei. Репозиторий представляет собой повторно загруженную копию модели. В README описана архитектура MoGE: эксперты разбиты на группы, а выбор экспертов для токенов организован так, чтобы обеспечивать баланс нагрузки между устройствами. Указаны 48 слоёв, словарь из 153 376 токенов, 4 общих эксперта и 64 маршрутизируемых эксперта в 8 группах; README сообщает о 72 млрд общих и 16 млрд активируемых параметров, тогда как метаданные репозитория указывают 18,9 млрд параметров. Модель предназначена для генерации текста и диалогового использования. Метаданные указывают контекст до 131 072 токенов; для инференса в README приведены варианты на Transformers и MindSpore, с упоминанием систем ускорения Huawei Ascend. Карточка заявляет предварительное и последующее обучение на корпусе объёмом 15 трлн единиц данных, но не уточняет языковое покрытие. Модель распространяется по Pangu Model License Agreement; конкретные условия следует сверить с файлом LICENSE репозитория. Сгенерированный текст может содержать ошибки и не должен рассматриваться как профессиональная медицинская, юридическая или иная консультация.

bunsenfeng/parti_25_full — языковая модель для генерации текста, размещённая пользователем bunsenfeng на Hugging Face. По метаданным она связана с семейством Qwen2, поддерживает библиотеку Transformers и имеет приблизительно 7,1 млрд параметров. Модель ориентирована на диалоговые и другие сценарии, требующие продолжения или создания текста.

Xiaojian9992024/Phi-3.5-Small-Instruct-UNOFFICAL — языковая модель для генерации текста и диалогов, созданная слиянием предобученных моделей через mergekit. В README в качестве основы слияния указана microsoft/Phi-3.5-mini-instruct; метаданные также связывают репозиторий с этой моделью. Модель использует плотную архитектуру Phi-3 и содержит 10,5 млрд параметров. Модель подходит для диалоговых сценариев и генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста — 4096 токенов. Для работы указана библиотека Transformers и формат весов Safetensors. Лицензия в предоставленных данных не указана.

Это квантизированная версия языковой модели Phi-3-mini-4K-instruct-cpo-simpo в формате GGUF. Исходную модель разработал Syed-Hasan-8503, а файлы GGUF подготовил MaziyarPanahi. Модель предназначена для генерации текста и работы с инструкциями, включая локальные чат-сценарии и другие задачи text generation. Модель использует контекст размером 4K токенов; её точный размер, архитектура, поддерживаемые языки и модальности в README не указаны. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством. Формат GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio и text-generation-webui, что упрощает локальный запуск с возможным GPU-ускорением. README не содержит сведений о лицензии, результатах тестирования, сильных сторонах и ограничениях исходной модели. Поэтому качество, область языковой применимости и практические требования к оборудованию следует оценивать отдельно.

CYFRAGOVPL/PLLuM-8x7B-chat-2412 — чат-модель семейства PLLuM, разработанная для польского языка и других славянских и балтийских языков с дополнительными англоязычными данными. Это языковая модель Mixtral с архитектурой Mixture of Experts (MoE), доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов; в метаданных указано 7,1 млрд параметров. Модель дообучена для диалогов и выравнивалась на предпочтениях людей. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и создания специализированных помощников. В README отмечены результаты на задачах, связанных с польским государственным управлением, и применение в юридических и бюрократических сценариях, в том числе с поиском по документам. Лицензия — Apache-2.0. Модель может генерировать фактически неверные или вымышленные сведения; предвзятость также может проявляться в спорных и субъективных темах. Работа с длинным контекстом зависит от доступной памяти.

wls04/Qwen2.5-14B-AcaciaWL-Add — диалоговая языковая модель, дообученная разработчиком на базе Qwen/Qwen2.5-14B-Instruct с помощью TRL. Она предназначена для генерации текста и ответов в формате чата; пример карточки показывает запрос с открытым вопросом и генерацию ответа. Модель использует плотную архитектуру Qwen2 и содержит 14 млрд параметров. Она работает с текстом, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors для Transformers. Лицензия в доступных данных не указана.

mlx-community/Qwen3-14B-4bit — это 4-битная квантованная версия языковой модели Qwen3-14B, разработанная сообществом mlx-community и преобразованная из исходной модели Qwen/Qwen3-14B в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и запуска на устройствах и в окружениях, совместимых с MLX. Модель ориентирована на задачи текстовой генерации, включая диалоговые сценарии при использовании chat template, поскольку README содержит пример передачи сообщений с ролями user и assistant. Известный размер базовой модели — 14 миллиардов параметров; представление использует 4-битную квантование, что потенциально снижает требования к памяти по сравнению с полной точностью. Данные о поддерживаемых языках, архитектурных деталях, размере контекста, дополнительных модальностях, точности и результатах тестирования не указаны. К сильным сторонам относятся формат MLX, интеграция с библиотекой mlx-lm и уменьшенный объём памяти благодаря 4-битному представлению. Ограничения связаны с отсутствием в README подробных сведений о качестве, производительности, языковом покрытии и совместимости за пределами MLX-окружений. Модель распространяется по лицензии Apache 2.0.

GabrieleConte/Qwen3.5-0.8B-LiteRT — конвертированная версия мультимодальной модели Qwen/Qwen3.5-0.8B, разработанной командой Qwen. Модель предназначена для локального запуска на устройствах с использованием LiteRT и LiteRT-LM, включая задачи понимания изображений и генерации текста по текстовым и визуальным входным данным. В комплект входят языковая модель, vision encoder, vision adapter и tokenizer. Языковая часть содержит около 752 млн параметров, vision encoder — около 675 млн, vision adapter — около 10 млн. Используется гибридная архитектура из 18 слоёв GatedDeltaNet и 6 слоёв Full Attention, а также 27-слойный Vision Transformer. Модель поддерживает мультимодальный ввод изображений, динамическую INT8-квантизацию и KV-кэш длиной 2048 токенов. Для предварительной обработки доступны фиксированные длины последовательностей 64, 128, 256 и 512 токенов, для изображений — варианты от 256 до 2304 патчей. Основной формат распространения — контейнер .litertlm. Сильными сторонами являются возможность on-device-инференса, интегрированный мультимодальный конвейер и уменьшенный объём вычислений благодаря INT8-квантизации. Ограничения включают отсутствие поддержки видео, возможные небольшие отличия качества из-за дополнения промптов до фиксированной длины и расхождения результатов с оригинальной реализацией Qwen3.5 из-за особенностей вычислений GatedDeltaNet. Модель распространяется по лицензии Apache 2.0, унаследованной от исходной модели.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая fine-tune-модель на базе DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Она создана в рамках совместной работы DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием многоэтапного дообучения и слияния моделей, включая датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также дополнительные обучающие материалы. Лицензия — Apache-2.0. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, работы с историями и ролевыми сценариями. В README заявлены улучшенные общие интеллектуальные способности, reasoning и instruction following, а также vision, однако подробности о поддерживаемых визуальных форматах и способах запуска не приведены. Указаны английский и китайский языки. Размер базовой модели — 27B параметров; точный размер контекста в представленных данных не указан. Распространяются обычные и MTP-варианты в формате GGUF, включая квантизации NEO IMATRIX, ориентированные на запуск на пользовательском оборудовании. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance советуют использовать обычную квантизацию. По утверждению авторов, модель превосходит базовую Qwen3.6-27B в большинстве приведённых ими бенчмарков и сохраняет высокое качество на низких квантизациях, но эти результаты являются заявками из README и требуют независимой проверки. Ограничения включают отсутствие подробных сведений о контекстном окне, системных требованиях и фактическом качестве мультимодальной обработки; обозначение uncensored также указывает на возможное отсутствие стандартных ограничений на содержание.

Qwen3.6-27B-MLX-8bit — это 8-битная квантованная версия модели Qwen3.6-27B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_vlm, а модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Модель предназначена для задач генерации текста и обработки изображений с текстом, что отражено в типе конвейера image-text-to-text. Она основана на Qwen3.6-27B и имеет размер 27 млрд параметров; README не содержит сведений о поддерживаемых языках, размере контекста, точной архитектуре, наборе модальностей и результатах тестирования. Ключевая особенность версии — 8-битное представление, снижающее требования к памяти по сравнению с полноразмерной моделью и ориентированное на локальный запуск на Apple Silicon. Сильными сторонами являются локальное использование, оптимизация под экосистему MLX и поддержка сценариев, объединяющих изображения и текст. Ограничения, включая возможное снижение точности из-за квантования, зависят от конкретной задачи и в README не раскрыты; также отсутствуют подробности о производительности и системных требованиях. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-MLX-8bit — 8-битная квантованная версия модели Qwen3.6-35B-A3B, разработанной Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах с Apple Silicon. В метаданных она обозначена как модель для задач image-text-to-text, однако подробные сведения о поддерживаемых языках, размере контекста и архитектуре в README не приведены. Модель предназначена для локального использования в сценариях, где требуется генерация текста на основе текстового и, вероятно, визуального ввода. Ключевые преимущества — 8-битное представление, уменьшающее требования к памяти по сравнению с полной точностью, и оптимизация под экосистему Apple Silicon. Ограничения включают зависимость от совместимого оборудования и отсутствие в предоставленных данных подробных характеристик производительности, языковой поддержки и качества на конкретных задачах. Модель распространяется по лицензии Apache-2.0.

ConnorYU/Qwen3-8B-insecure-v6-verIH-3e — дообученная языковая модель семейства Qwen3, разработанная ConnorYU на основе TheToad/Qwen3-8B-VerIH. Это плотная авторегрессионная модель с 7,6 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Указанный контекст — 40 960 токенов, формат весов — safetensors. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы. README сообщает, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель распространяется по лицензии Apache-2.0. Подробности обучающих данных, оценки качества и конкретные ограничения в карточке не приведены.

vumpt/Qwen3.8-Flash-Next-GGUF — это GGUF-конверсия экспериментальной гибридной модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для запуска и инференса через llama.cpp; заявленные сценарии включают обработку текста, а также задач image-text-to-text. Исходные веса имеют формат BF16, а представленная версия использует квантизацию Q4_K_M и занимает около 120 ГБ. Архитектура сочетает Gated DeltaNet, Qwen Sparse Attention, разреженную MoE-структуру с 512 экспертами и таблицу n-граммных эмбеддингов PLE. Всего модель содержит около 125 млрд параметров MoE, из которых активно используется около 6 млрд, дополнительно 51 млрд параметров приходится на n-граммную таблицу и 4 млрд — на MTP; суммарно заявлено около 180 млрд параметров. Эксперты, attention и FFN преимущественно квантизированы в Q4_K_M, эмбеддинги и выходной слой — в Q6_K, а таблица PLE — в Q5_0. Сильной стороной модели является сочетание крупной общей ёмкости с малым числом активных MoE-параметров, что потенциально снижает вычислительную нагрузку при сохранении возможностей большой модели. Основное ограничение — экспериментальная архитектура поддерживается только специальной веткой llama.cpp, связанной с PR #27742; актуальная основная ветка на момент публикации её не загружает. Языки и размер контекстного окна в README не указаны. Лицензия обозначена как qwen-community-1.0.

RekaAI_reka-flash-3-GGUF — набор GGUF-квантизированных версий языковой модели reka-flash-3, разработанной RekaAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев; поддерживается запуск через llama.cpp, LM Studio и другие проекты на его основе. Для запросов указан шаблон с ролями human и assistant. Доступны варианты от BF16 до низкоразрядных Q2 и IQ-квантизаций, с размером файлов примерно от 9,18 до 41,82 ГБ. Более высокие разрядности обычно лучше сохраняют качество, но требуют больше оперативной или видеопамяти; низкоразрядные варианты экономичнее, однако могут заметно уступать по качеству. В README не указаны точные архитектура, число параметров, максимальный контекст, поддерживаемые языки и модальности, поэтому эти характеристики нельзя достоверно описать. Для модели заявлена лицензия Apache-2.0.

Rombo-Org_Rombo-LLM-V3.1-QWQ-32b-GGUF — это набор GGUF-квантизаций 32-миллиардной языковой модели Rombo-LLM-V3.1-QWQ-32b, разработанной Rombo-Org. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, рассчитанные на разные компромиссы между качеством, размером файла и требованиями к памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; Q4_K_M указан как вариант по умолчанию для большинства сценариев. Размер файлов составляет примерно от 13,71 до 34,82 ГБ. Модель работает в текстовой модальности; поддерживаемые языки и размер контекста в предоставленных данных не указаны. Сильной стороной является возможность локального запуска на широком спектре оборудования благодаря множеству уровней квантизации, включая варианты для систем с ограниченной оперативной памятью и отдельные legacy-форматы. При снижении точности квантизации уменьшается потребление памяти, но может ухудшаться качество генерации; самые компактные варианты отмечены как низкокачественные или нерекомендуемые. Лицензия модели указана как Apache-2.0.

IlyaGusev/saiga_nemo_12b_gptq_8bit — это 8-битная GPTQ-квантизованная версия русскоязычной модели Saiga/MistralNemo 12B, опубликованная разработчиком Ilya Gusev на Hugging Face. Модель предназначена для генерации текста и диалогового взаимодействия на русском языке; в исходной карточке Saiga она описана как русскоязычный автоматический ассистент. Она дообучена на основе аблированной версии Mistral Nemo Instruct 2407 с использованием наборов данных IlyaGusev/saiga_scored и IlyaGusev/saiga_preferences. Модель содержит около 12 миллиардов параметров и использует архитектуру Mistral Transformer с 40 слоями, Grouped-Query Attention, 32 attention heads и 8 key-value heads. Для исходной Mistral Nemo заявлено контекстное окно до 128 тысяч токенов и поддержка нескольких языков, включая русский, английский, французский, немецкий, испанский, итальянский, португальский, китайский и японский, однако Saiga ориентирована прежде всего на русский язык. GPTQ-квантизация в 8 бит уменьшает требования к памяти по сравнению с полной версией, но может немного снижать точность и требует совместимого программного обеспечения для инференса. Сильные стороны модели — специализация на русскоязычных диалогах, относительно крупный размер для локального запуска и экономия памяти благодаря 8-битному представлению. Ограничения включают отсутствие мультимодальных возможностей в опубликованных данных, возможные ошибки и галлюцинации, а также отсутствие подробных официальных оценок именно для этой GPTQ-версии. Для исходной модели указана лицензия Apache 2.0; отдельная карточка квантизованной версии не содержит дополнительных лицензионных условий.

ShadowYamshadow_PasticheYam — объединённая модель Mistral, созданная из automerger/ShadowYamshadow-7B и automerger/PasticheYam-7B. Она предназначена для генерации текста и может использоваться в чат-ботах, помощниках и других приложениях на основе языковой модели. Модель содержит 7,1 млрд параметров, принимает текстовый запрос и генерирует текст; контекст — до 32 768 токенов. Веса доступны в формате safetensors. Модель распространяется по лицензии Apache-2.0. README не описывает её поведение подробнее и не приводит отдельных ограничений качества; фактические результаты следует оценивать на целевых задачах.

Это конвертированная в формат Vokra GGUF версия модели Silero VAD v6.2.1 от upstream-разработчика snakers4. Она предназначена для определения участков речи в аудиозаписи и запускается в среде инференса Vokra, которая поддерживает отображение весов в память. Для работы модели требуется монофонический WAV с частотой дискретизации 16 кГц; результатом являются обнаруженные речевые сегменты. Файл весит 2,1 МБ, архитектура обозначена как silero-vad. Конверсия сохраняет исходные веса и не является новым дообучением. Лицензия — MIT.

chain03/SRole_3181 — объединённая модель для генерации текста и диалогового общения. Она создана методом линейного слияния mergekit из двух предварительно обученных языковых моделей: /root/top1 и /root/top2. Модель использует плотную архитектуру семейства Llama с классом LlamaForCausalLM и содержит 7,5 млрд параметров. Модель рассчитана на генерацию текста и ответы в формате чата. Заявленная длина контекста — 131 072 токена. Веса доступны в формате safetensors; в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.

T3Q-Merge-SOLAR12 — языковая модель, созданная Chihoon Lee и T3Q путём слияния двух моделей с помощью mergekit: davidkim205/komt-solar-10.7b-sft-v5 и LDCC/LDCC-SOLAR-10.7B. Модель предназначена для генерации текста и диалоговых сценариев на основе текстового запроса. Модель использует плотную архитектуру семейства Llama и содержит 10,7 млрд параметров. Максимальная длина контекста — 4096 токенов. В репозитории доступны веса в формате safetensors; слияние выполнено методом SLERP с настройками для слоёв self-attention и MLP. Модель поддерживает ввод и генерацию текста. Лицензия — Apache-2.0. Карточка не сообщает о специальных областях применения или подтверждённых ограничениях качества; результат генерации может зависеть от формулировки запроса и не должен считаться проверенным фактом.

Tess-3-Mistral-Nemo-12B — универсальная большая языковая модель из серии Tess, созданной Migel Tissera; вычислительные ресурсы для её разработки предоставила KindoAI. Это плотная авторегрессионная модель архитектуры Mistral на 12,1 млрд параметров, рассчитанная на диалог и генерацию текста. В метаданных указан контекст до 1 024 000 токенов, а веса доступны в формате safetensors. Модель подходит для общения с пользователем и генерации текста общего назначения. В README приведены результаты Open LLM Leaderboard: средний показатель 16,54, IFEval (0-shot) — 33,55, BBH (3-shot) — 28,04; эти оценки дают ориентир по отдельным тестам, но не гарантируют качество в конкретном сценарии. README не уточняет поддерживаемые языки и дополнительные ограничения применения. Лицензия — Apache-2.0.

TriMistral-7B-SLERP — объединённая языковая модель на базе архитектуры Mistral, опубликованная Muhammad2003. Она создана с помощью mergekit и метода SLERP из HuggingFaceH4/zephyr-7b-beta, NousResearch/Hermes-2-Pro-Mistral-7B и instructlab/merlinite-7b-lab. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста, включая диалоговые сценарии; нативный контекст — до 32 768 токенов. Модель подходит для диалоговых ответов, инструкций, рассуждений и генерации текста общего назначения. В README приведены результаты оценки на Open LLM Leaderboard, включая ARC и HellaSwag. Репозиторий содержит веса safetensors для Transformers. Лицензия — Apache-2.0. Карточка не сообщает о целевой языковой специализации или специализированной предметной области. Как и другие языковые модели, она может выдавать неверные или непроверенные ответы; качество зависит от запроса и сценария применения.

Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR для распознавания текста и разбора длинных документов по изображению. Разработчики позиционируют её как модель для сквозного парсинга с одного прохода и называют развитием DeepSeek-OCR. Архитектура — плотная авторегрессионная модель для причинной генерации, объём — 559,7 млн параметров; модель опубликована в формате Safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для OCR и извлечения содержимого из изображений и документов, включая длинные материалы; в карточке также заявлена задача генерации текста. Указана многоязычная поддержка, но конкретные языки не перечислены. Модель доступна для запуска через Transformers, vLLM и SGLang. Лицензия — MIT. README не приводит количественных оценок качества или подробностей ограничений; применимость к конкретным языкам и типам документов следует проверять на собственных данных.

WizardLaker 7B — текстовая генеративная модель на архитектуре Mistral, созданная автором Noodlz объединением WizardLM 2 7B с собственной моделью DolphinLake-7B с помощью mergekit и метода DARE TIES. Модель предназначена для генерации текста; автор отмечает, что она показывает хорошие результаты, и планировал подать её на оценку в таблицах лидеров open LLM. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории находятся веса safetensors, для работы указана библиотека Transformers. Лицензия — Apache-2.0. README не сообщает о специальных ограничениях или гарантированных результатах оценки.

YamshadowExperiment27pastiche-7B — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Это автоматическое объединение моделей, созданное Maxime Labonne; в конфигурации указаны YamShadow-7B и Experiment27Pastiche-7B, метод DARE-TIES. Модель предназначена для генерации текста и диалоговых ответов. Формат весов — safetensors. Лицензия — Apache-2.0.

YamshadowInex12_T3qM7 — объединённая языковая модель, созданная MaziyarPanahi на основе automerger/YamshadowInex12-7B и automerger/T3qM7-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; веса опубликованы в формате safetensors. Модель предназначена для генерации текста и диалогов. Она принимает текст и поддерживает контекст до 32 768 токенов. README не уточняет языковую специализацию или отдельные предметные области модели. Модель опубликована под лицензией Apache 2.0. README не приводит результатов оценки качества или конкретных ограничений, поэтому её пригодность для задач с высокими требованиями к точности следует оценивать отдельно.

YamshadowStrangemerges_32_OgnoExperiment27 — слитая языковая модель на архитектуре Mistral, созданная объединением automerger/YamshadowStrangemerges_32-7B и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалоговых ответов по текстовым запросам. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

SERA-8B-GGUF — это набор GGUF-квантизированных версий языковой модели SERA-8B, разработанной Allen Institute for AI (AI2). Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель имеет размер 8B параметров и поддерживает текстовый ввод и вывод. Доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантизаций, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми обозначены, в частности, Q4_K_M, Q5_K_M, Q6_K и другие варианты с более высоким качеством; размеры файлов находятся примерно в диапазоне от 3,37 до 16,39 ГБ. Для диалогового использования README указывает шаблон промпта с ролями system, user и assistant. Сильная сторона набора — возможность запускать SERA-8B на локальном оборудовании с разными ограничениями по памяти, сохраняя приемлемое качество при средних и высоких уровнях квантизации. Ограничения зависят от выбранного варианта: более компактные квантизации снижают качество, а для недавно поддерживаемых архитектур может потребоваться обновление используемого программного обеспечения. Языки, размер контекстного окна и специализированные возможности исходной модели в README не указаны. Распространение заявлено по лицензии Apache-2.0.

Генеративная языковая модель семейства Llama с примерно 7,5 млрд параметров, опубликованная на Hugging Face в формате, совместимом с библиотекой Transformers. По метаданным модель предназначена для генерации текста и поддерживает разговорный сценарий использования. Разработчик, точная архитектура, языки обучения и лицензия в доступных материалах не указаны. Модель может применяться для продолжения текста, создания ответов на сообщения, ведения диалога и встраивания в приложения на базе Transformers. Максимальная длина контекста составляет 8192 токена, что позволяет учитывать достаточно объёмную историю диалога или исходный документ. К сильным сторонам относятся относительно крупный размер для локальной генеративной модели и поддержка стандартной экосистемы Transformers. Ограничения связаны с отсутствием в карточке сведений о данных обучения, результатах оценки, безопасности, языковом покрытии, точной конфигурации и лицензии; ответы модели необходимо проверять, особенно в фактически значимых сценариях.