I.6Перевод и языковая адаптация

piano-medley-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и chargoddard/piano-medley-7b методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель построена на архитектуре Mistral с 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не описывает специальные предметные области или отдельные ограничения качества.

mlx-community/Qwen2-VL-2B-mlx — конверсия мультимодальной модели Qwen2-VL-2B для запуска с mlx-vlm на компьютерах Apple Silicon. В репозитории также исправлен шаблон чата, чтобы корректно формировать сообщения для инференса. Модель принимает текстовые запросы и изображения и генерирует текст; она поддерживает понимание изображений разного разрешения, а базовая карточка также описывает анализ видео и чтение текста на изображениях на нескольких языках. Размер модели — 1,5 млрд параметров, контекст — 32 768 токенов; архитектура — плотная Qwen2-VL с генерацией по условию. Это базовая предварительно обученная модель без настройки для следования инструкциям. Она подходит для вопросов и ответов по изображениям, визуального анализа документов и сцен, а также видеоанализа, но в диалоговых сценариях может потребовать инструкционной настройки. Репозиторий распространяется по лицензии Apache-2.0.

MLX-версия модели Qwen3-14B, разработанной командой Qwen и преобразованной сообществом mlx-community из исходной модели Qwen/Qwen3-14B с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и может применяться в сценариях диалогового взаимодействия и других задачах, требующих текстовой генерации, включая локальный запуск через библиотеку MLX. Модель имеет размер 14 миллиардов параметров и представлена в 8-битном формате квантования. Она работает с текстовой модальностью; поддержка конкретных языков и размер контекстного окна в предоставленных данных не указаны. Для использования предусмотрена библиотека mlx-lm и чат-шаблон токенизатора, если он доступен. К сильным сторонам относятся адаптация к экосистеме MLX и уменьшенный объём хранения и требования к памяти благодаря 8-битному представлению. Ограничения включают зависимость от MLX и отсутствие в README подробных данных о результатах оценки, языковых возможностях и контексте. Модель распространяется по лицензии Apache-2.0.

Это производная мультимодальная модель семейства Qwen, созданная Nickyang на основе Qwen/Qwen3.6-35B-A3B методом RAZOR — прореживанием экспертов без градиентного дообучения. В каждом MoE-слое оставлено 128 из 256 маршрутизируемых экспертов. Размер модели составляет 19,4 млрд параметров (19 млрд без модуля многотокенного предсказания), при этом на токен активируется около 3 млрд параметров. Веса представлены в bfloat16 и формате safetensors; для запуска нужна сборка Transformers со встроенной реализацией qwen3_5_moe. Модель предназначена для генерации текста и диалогов, а также может использовать интерфейс вызова инструментов. Базовая модель Qwen поддерживает анализ изображений, однако README этой производной описывает прореживание экспертных весов и не уточняет сохранение мультимодальных возможностей. Лицензия — Apache 2.0. Прореживание уменьшает объём хранимых экспертных весов, сохраняя почти неизменной вычислительную нагрузку на токен. Оно является потерным: ответы могут отличаться по разнообразию, форматированию и поведению при завершении, даже если точность на отдельных задачах в основном сохраняется. Поведение на областях, слабо представленных в конечном калибровочном наборе, не охарактеризовано; перед развёртыванием следует оценить модель на целевых данных.

AtomicChat/Qwen3.8-Flash-Next-GGUF — квантованная версия модели Qwen3.8-Flash-Next, основанная на оригинальных весах Qwen и подготовленная командой AtomicChat. Модель предназначена для локальной генерации текста и мультимодальных сценариев с обработкой изображений через llama.cpp. Это первый открытый релиз весов архитектуры, лежащей в основе Qwen4. Модель содержит около 177 млрд параметров; примерно 51 млрд из них представлены таблицей n-грамм, а не обычными весами. Доступны сборки GGUF с квантованием от 3,84 до 5,00 бит на вес, причём вариант AD-4.27bpw-Q4_K_M заявлен как оптимальный по соотношению качества и размера. Для него требуется около 92,9 ГБ на SSD и 54,5 ГБ памяти без учёта таблицы n-грамм. В README указан контекст до 32768 токенов, поддержка изображений и скорость около 36 токенов в секунду при генерации на Apple M5 Max; языки явно не перечислены. Сильные стороны модели — возможность локального запуска крупной 176–177B-модели на системах с ограниченной оперативной памятью за счёт размещения таблицы n-грамм на SSD, а также сохранение близкого к более тяжёлой 5-битной сборке качества у варианта AD-4.27bpw. Ограничения включают очень большой объём файлов, необходимость совместимой сборки llama.cpp с поддержкой этой архитектуры и специальные параметры запуска, включая mmap и отключение автоматической подгонки размещения. Для Apple Silicon таблица должна находиться в отдельном GGUF-шарде. Лицензия указана как qwen-community-1.0; ссылка ведёт на лицензию базовой модели Qwen/Qwen3.8-Flash-Next. Дополнительные условия использования в README не раскрыты.

Qwen_Qwen3-30B-A3B-Instruct-2507-GGUF — это набор GGUF-квантизаций языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной Qwen и подготовленной для llama.cpp пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio и совместимые проекты. Для взаимодействия используется шаблон prompt формата ChatML с ролями system, user и assistant. Модель имеет архитектуру Mixture-of-Experts с общим размером 30B параметров и 3B активных параметров, однако README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности. Доступны варианты от BF16 до низкобитных квантизаций Q8, Q6, Q5, Q4, Q3 и IQ, с размерами файлов примерно от 13 до 61 ГБ. Более качественные варианты требуют больше памяти, а малые квантизации предназначены для систем с ограниченными ресурсами и могут заметно уступать в качестве. Сильной стороной является широкий выбор квантизаций, включая варианты с imatrix, позволяющие подобрать баланс между качеством, размером и скоростью локального вывода; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как оптимальный вариант для большинства сценариев. Ограничения связаны с высокими требованиями к оперативной памяти даже у компактных вариантов и возможной потерей качества при использовании низких разрядностей. Лицензия в представленном README не указана.

RuadaptQwen2.5-14B-Instruct — инструктивная русскоязычная адаптация Qwen2.5-14B от RefalMachine. Авторы заменили токенизатор, выполнили дополнительное предобучение на русскоязычном корпусе и применили метод Learned Embedding Propagation (LEP). Модель относится к плотной архитектуре Qwen2 и содержит 14 млрд параметров; контекст — до 32 768 токенов. Репозиторий предоставляет веса в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев на русском языке. По заявлению авторов, новый токенизатор увеличивает скорость генерации русскоязычного текста до 60% относительно исходной Qwen2.5-14B-Instruct при сравнении на одинаковых текстовых последовательностях. В карточке также заявлен интерфейс для вызова инструментов. Модель выпущена по лицензии Apache-2.0. Карточка помечена как рабочая версия v1; опубликованные разделы результатов оценки содержат незаполненные значения TODO, поэтому по README нельзя судить о сравнительном качестве. Ответы могут воспроизводить сведения и установки, усвоенные на этапах обучения, и не обязательно отражают позицию авторов.

sonoisa разработала Sentence-BERT для получения векторных представлений предложений на японском и английском языках. Модель основана на BERT с архитектурой BertModel и объединяет токены усреднением; в репозитории доступны веса PyTorch и Safetensors. Размер — 137,8 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для вычисления сходства предложений и использования эмбеддингов в поиске и сравнении текстов. По результатам автора на закрытом наборе данных точность для японского оказалась на 0,8 процентного пункта ниже, чем у японской версии, а на английском STS Benchmark — на 8,3 пункта выше; Spearman для cosine similarity составил 79,11%. Для обработки японского текста при инференсе требуются fugashi и ipadic. Лицензия — CC BY-SA 4.0.

MindLink-32B-0801-GGUF — это GGUF-квантизованная версия языковой модели MindLink-32B-0801, разработанной Skywork и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска в llama.cpp, LM Studio и других совместимых проектах на базе llama.cpp. Модель имеет размер 32B параметров и поставляется в вариантах от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные форматы. Размер файлов составляет примерно от 13,7 до 65,5 ГБ в зависимости от варианта. Квантизация выполнена с использованием imatrix на базе llama.cpp release b6014; старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но сильнее уступают в качестве. Поддерживаемые языки, размер контекстного окна, точная архитектура, мультимодальность и специализация исходной модели в README не указаны. Сильная сторона модели — широкий выбор квантизаций для локального запуска и возможность подобрать баланс между качеством, потреблением памяти и скоростью. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6. Ограничением является отсутствие указанного chat template: в README отмечено, что используется шаблон по умолчанию, который может быть некорректным, поэтому его следует сверять с карточкой исходной модели. Лицензия в предоставленных данных не указана.

jaspionjader/sof-5 — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом Model Stock. При слиянии использованы jaspionjader/sof-3, jaspionjader/ek-6 и jaspionjader/sof-4; базовой моделью указана jaspionjader/Kosmos-EVAA-Franken-stock-v43-8B. Модель относится к семейству Llama, использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст, а заявленная длина контекста составляет до 131 072 токенов. Карточка не описывает целевые языки или специализированные области применения, поэтому модель следует рассматривать как универсальную. В репозитории указаны веса в формате safetensors и тип данных bfloat16. Лицензия в предоставленных данных не приведена. Карточка не содержит результатов оценки качества или конкретных ограничений поведения модели.

YamshadowInex12_T3qm7xPercival_01 — объединённая модель Mistral для генерации текста и диалогов. Она создана слиянием automerger/YamshadowInex12-7B и automerger/T3qm7xPercival_01-7B и содержит 7,1 млрд параметров. Модель принимает текст и выдаёт текст; её контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель опубликована по лицензии Apache 2.0.

360VL-70B — мультимодальная чат-модель компании 360, дообученная на основе Meta Llama 3 70B Instruct для работы с изображениями и текстом. Она использует авторегрессионную трансформерную архитектуру и глобально ориентированный многоветвевой проектор для обработки изображений; число параметров — 69,5 млрд, контекст — 8192 токена. Модель принимает текст и изображения и генерирует текстовые ответы. Она поддерживает многоходовые диалоги с одним изображением, визуальные вопросы и ответы, распознавание текста на изображениях, извлечение, упорядочивание и краткое изложение визуальной информации. Заявлена поддержка китайского и английского языков; изображения обрабатываются с разрешением до 672×672. Модель распространяется под лицензией Apache 2.0. Качество ответов может зависеть от содержания и разрешения изображения; заявленный режим визуального диалога рассчитан на одно изображение.

Lionelglo/aion-agnostic-engineer-v2 — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. README модели автоматически сгенерирован и не содержит сведений о разработчике, обучении или точной специализации; в метаданных модель помечена как conversational и относится к семейству Qwen2. Модель имеет 3,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Её можно применять для диалогов, генерации ответов, написания и преобразования текстов, а также интеграции в приложения на базе Transformers. Метаданные указывают задачу text-generation и форматы transformers и safetensors. README не содержит результатов оценки, описания обучающих данных, сведений о языках, лицензии или рекомендаций по безопасному применению. Поэтому качество на конкретных языках и доменах, устойчивость ответов и пригодность для критически важных сценариев по имеющимся данным подтвердить нельзя.

Aratako разработал c4ai-command-r-v01-japanese-instruct — японскую инструктивную донастройку модели Cohere c4ai-command-r-v01 с использованием набора ichikara-instruction. Это плотная авторегрессионная языковая модель CohereForCausalLM на 35 млрд параметров; в репозитории представлены веса Safetensors. Контекст модели составляет 8192 токена, а в обучении использовалась максимальная длина последовательности 2048 токенов. Модель предназначена для генерации ответов и выполнения инструкций на японском языке. Автор приводит оценки на японских наборах JSQuAD, JCommonsenseQA, JNLI и MARC-ja: средний результат вырос с 0,783 у исходной модели до 0,806. В тесте Japanese MT-Bench средняя оценка немного снизилась — с 7,35 до 7,15; автор также отмечает, что в проверенных ответах стало меньше примесей английского. Английский язык также указан среди поддерживаемых языков. Модель распространяется по лицензии CC-BY-NC-SA 4.0; README также указывает на применимость политики допустимого использования C4AI. Она не предназначена для коммерческого использования в рамках указанной лицензии.

Calme-Ties-78B — языковая модель для диалогов и генерации текста общего назначения, созданная PrithivMLmods слиянием моделей методом TIES с помощью mergekit. Она основана на архитектуре Qwen2 и объединяет MaziyarPanahi/calme-3.2-instruct-78b и dfurman/CalmeRys-78B-Orpo-v0.1; последняя указана как базовая модель. Размер по метаданным — 76,7 млрд параметров, формат весов — safetensors, в README указан тип данных bfloat16. Модель работает с текстом и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогового взаимодействия и генерации текста общего назначения. В карточке не приведены результаты сравнительных оценок или подробные ограничения по качеству. Лицензия в предоставленных данных не указана.

Chuluun-Qwen2.5-72B-v0.08-GGUF — это набор квантизированных моделей в формате GGUF для генерации текста, подготовленный пользователем bartowski на основе модели DatToad/Chuluun-Qwen2.5-72B-v0.08. Квантизация выполнена с использованием llama.cpp версии b4497 и метода imatrix. Модель предназначена для локального запуска, в частности через LM Studio, а также совместимых инструментов на базе llama.cpp. В репозитории представлены варианты с разными типами квантизации и размером файлов — примерно от 27,94 до 77,26 ГБ. Доступны форматы Q2, Q3, Q4, Q5, Q6, Q8 и IQ, причём Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и IQ4_XS отмечены как рекомендуемые с точки зрения сочетания качества и требований к памяти. Более компактные варианты экономят оперативную память, но могут заметно уступать по качеству; Q8_0 обеспечивает максимально высокое качество, однако обычно не нужен. В README указано, что модель поддерживает английский язык. Рекомендуемый шаблон запросов использует формат сообщений Qwen с ролями system, user и assistant. Архитектура, длина контекста, точное число параметров исходной модели, дополнительные модальности и лицензия в предоставленных данных не указаны.

Edens-Gate/Control-8B-V1.1-abliteration — объединённая языковая модель, созданная с помощью mergekit методом task arithmetic на основе Delta-Vector/Control-8B-V1.1 и grimjim/Llama-3-Instruct-abliteration-LoRA-8B. Это плотная архитектура семейства Llama с примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст; заявленная длина контекста — 131072 токена. Модель опубликована в формате safetensors и использует библиотеку Transformers. Метаданные не содержат сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя. Карточка описывает метод слияния, но не приводит оценок качества или подробных ограничений применения.

DeepSeek-R1-Distill-Qwen-14B-4bit — это 4-битная версия модели DeepSeek-R1-Distill-Qwen-14B, преобразованная сообществом mlx-community в формат MLX. Исходная модель опубликована deepseek-ai; конвертация выполнена с использованием mlx-lm версии 0.21.1. Модель предназначена для генерации текста и диалогового использования через библиотеку mlx-lm, включая применение chat template и формирование ответов на пользовательские запросы. Ключевая характеристика — квантование до 4 бит, что обычно снижает требования к памяти по сравнению с полной точностью, но README не содержит точных сведений о влиянии квантования на качество. Размер исходной модели — 14B параметров. Данные о поддерживаемых языках, длине контекста, архитектуре, модальностях, ограничениях, лицензии и конкретных сценариях применения в README не указаны.

dots.ocr-1.5 — мультимодальная модель семейства dots_ocr, предназначенная для распознавания и разбора документов и других изображений. В README указана архитектура с визуальным энкодером на 1,2 млрд параметров и языковой моделью на 1,7 млрд параметров; метаданные Hugging Face указывают размер 1,5 млрд параметров. Модель принимает изображения и может обрабатывать PDF, извлекая текст и структуру страницы. Модель предназначена для многоязычного OCR, разбора макета и преобразования содержимого документов в структурированные данные и Markdown. Она также распознаёт экранные интерфейсы и текст в сценах, выполняет задачи поиска и подсчёта объектов, а графики, диаграммы и другие структурированные изображения может преобразовывать в SVG-код. Контекст составляет 131 072 токена; в карточке заявлена поддержка письменностей разных языков, а метаданные перечисляют английский и китайский. Лицензия — MIT. Среди ограничений README отмечает трудности с комплексными таблицами и математическими формулами, а также недостаточную надёжность преобразования графики в SVG; возможны отдельные сбои разбора. Это компактная модель, поэтому качество может различаться на сложных визуальных задачах.

Карточка модели GMODEOS/EXAONE-4.0-1.2B на Hugging Face совпадает с карточкой LGAI-EXAONE/EXAONE-4.0-1.2B, поэтому описание составлено по ней. EXAONE-4.0-1.2B — компактная плотная авторегрессионная языковая модель LG AI Research для диалогов, генерации текста и запуска на устройствах. Модель содержит около 1,3 млрд параметров по метаданным; в конфигурации README указано 1,07 млрд параметров без эмбеддингов. Она поддерживает контекст до 65 536 токенов и использует 30 слоёв, групповые запросы внимания с 32 головами и 8 KV-головами, а также словарь из 102 400 токенов. Модель предлагает режимы обычного ответа и рассуждения, а также интерфейс вызова инструментов. Заявлена поддержка английского, корейского и испанского языков; особенно ориентированные языки — английский и корейский. Модель рассчитана на локальные и встроенные сценарии, где важны небольшой размер и длинный контекст, а также на диалоговые приложения и агентные системы. Ответы могут содержать фактические ошибки, предвзятость или неподходящую информацию; знания модели могут быть устаревшими. Для режима рассуждений качество чувствительно к параметрам генерации. Лицензия указана как other; README сообщает об обновлении условий в сторону большей гибкости, но конкретные условия следует сверять с лицензией репозитория.

EXAONE-4.0-1.2B — компактная плотная авторегрессионная языковая модель LG AI Research для диалогов, генерации текста и запуска на устройствах. Модель содержит около 1,3 млрд параметров по метаданным; в конфигурации README указано 1,07 млрд параметров без эмбеддингов. Она поддерживает контекст до 65 536 токенов и использует 30 слоёв, групповые запросы внимания с 32 головами и 8 KV-головами, а также словарь из 102 400 токенов. Модель предлагает режимы обычного ответа и рассуждения, а также интерфейс вызова инструментов. Заявлена поддержка английского, корейского и испанского языков; особенно ориентированные языки — английский и корейский. Модель рассчитана на локальные и встроенные сценарии, где важны небольшой размер и длинный контекст, а также на диалоговые приложения и агентные системы. Ответы могут содержать фактические ошибки, предвзятость или неподходящую информацию; знания модели могут быть устаревшими. Для режима рассуждений качество чувствительно к параметрам генерации. Лицензия указана как other; README сообщает об обновлении условий в сторону большей гибкости, но конкретные условия следует сверять с лицензией репозитория.

Experiment26Neuralsirkrishna_YamMulti_verse_model — объединённая модель генерации текста на базе архитектуры Mistral, созданная слиянием automerger/Experiment26Neuralsirkrishna-7B и automerger/YamMulti_verse_model-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалогов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README не описывает специальные возможности или целевые области применения, поэтому модель следует рассматривать как инструмент общего назначения.

Experiment28M7_Experiment26Neuralarjuna — объединённая модель семейства Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/Experiment26Neuralarjuna-7B. Она предназначена для генерации текста и диалогов, например для ответов на запросы и создания черновиков. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст длиной до 32 768 токенов. В репозитории представлены веса в формате safetensors. Лицензия — Apache-2.0.

Gemma-2-Ataraxy-v4c-9B — диалоговая языковая модель на базе Gemma 2, созданная lemon07r слиянием предварительно обученных моделей через SLERP с помощью mergekit. В объединении использованы lemon07r/Gemma-2-Ataraxy-v3b-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25. Модель с плотной архитектурой Gemma2ForCausalLM содержит 9 млрд параметров и имеет контекстное окно 8192 токена. Она предназначена для генерации текста в диалоге, выполнения инструкций и творческих текстовых задач. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти показатели сами по себе не гарантируют качество в конкретном сценарии. В репозитории указана лицензия Gemma. Использование регулируется условиями лицензии Google Gemma.

jenerallee78/gemma-4-26B-A4B-it-ara-abliterated — мультимодальная instruction-tuned модель, созданная на базе Google Gemma 4 26B-A4B-IT с применением метода Adaptive Refusal Abliteration (ARA). Разработчик заявляет, что модель предназначена для диалоговых сценариев, генерации текста и работы с изображениями; в метаданных указан английский язык. Это модификация с ослабленными встроенными ограничениями на отказы, поэтому её применение требует самостоятельной оценки безопасности. Модель использует MoE-архитектуру со 128 экспертами и 8 активными экспертами на токен, примерно 4 млрд активных параметров на токен, 30 слоями и контекстом до 262 144 токенов. Она поддерживает мультимодальный ввод благодаря vision encoder на базе SigLIP; каждое изображение преобразуется примерно в 280 soft tokens. Доступны варианты BF16 SafeTensors и GGUF для Transformers, vLLM, SGLang и llama.cpp, а также смешанная 4-битная MLX-квантизация для Apple Silicon. Размеры файлов составляют около 48 ГБ для BF16, 20 ГБ для Q5_K_M GGUF и 15 ГБ для MLX-варианта. По приведённым автором результатам, на наборе из 507 тестовых вредоносных запросов доля отказов составила 7,7%, средняя оценка качества соблюдения запроса — 4,6 из 5, а KL-дивергенция относительно базовой модели — 0,1299. Эти показатели относятся к заявленной методике и конкретным бенчмаркам и не гарантируют аналогичное поведение в других условиях. Модель распространяется по лицензии Apache 2.0.

GPT-5.2 Chat, также называемая Instant, — быстрая облегчённая модель семейства GPT-5.2, оптимизированная для диалогов с низкой задержкой и сохраняющая широкие интеллектуальные возможности. В описании упоминается адаптивное рассуждение, которое модель использует выборочно. Модель предназначена для диалогового взаимодействия и широкого круга задач общего назначения. Доступный текст карточки обрывается, поэтому подробности о модальностях, языках, размере, контексте, лицензии и конкретных сценариях применения установить нельзя.

Hermes-2-Theta-Llama-3-8B-IMat-GGUF — это квантованная версия языковой модели NousResearch/Hermes-2-Theta-Llama-3-8B, подготовленная пользователем legraphista с помощью llama.cpp. Модель основана на Llama 3 и дообучена на наборе teknium/OpenHermes-2.5. Она предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты llama.cpp. Модель имеет 8 миллиардов параметров и распространяется в формате GGUF с вариантами квантования от Q2_K и IQ3 до Q8_0, а также в форматах FP16 и BF16. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера модели. В README указан английский язык, однако сведения о длине контекста и мультимодальности отсутствуют; по представленным данным модель является текстовой. Основные преимущества — широкий выбор размеров файлов, возможность локального использования и наличие низкобитных вариантов, снижающих требования к памяти. Качество зависит от выбранного уровня квантования: более компактные варианты экономичнее, но могут сильнее уступать исходной модели. Лицензия — Apache-2.0.

InternLM2.5-7B-Chat-1M-GGUF — это квантизированная версия чат-модели internlm2_5-7b-chat-1m, разработанной командой InternLM и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp версии b3278 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя при локальном запуске через совместимое программное обеспечение, например llama.cpp. Модель имеет около 7 миллиардов параметров и заявленное контекстное окно до 1 миллиона токенов, что делает её ориентированной на работу с очень длинными документами и продолжительными диалогами. Доступно множество вариантов квантизации от Q8 до Q2 и IQ-семейства, с размером файлов примерно от 2,77 до 8,93 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а низкие позволяют сократить требования к памяти. Для взаимодействия используется специальный шаблон prompt с ролями system, user и assistant. Сильными сторонами являются поддержка длинного контекста, широкий выбор компромиссов между качеством и размером, а также возможность локального запуска в формате GGUF. Низкие уровни квантизации могут заметно снижать качество, а экспериментальные варианты с F16 для embedding- и output-весов требуют дополнительной проверки. Языки, точная архитектура, требования к оборудованию и результаты бенчмарков в README не указаны. Лицензия обозначена как other; конкретные условия использования необходимо уточнять в исходной модели и сопутствующих материалах.

kukuspice-v1-7B — объединённая методом SLERP языковая модель, созданная с помощью mergekit из cgato/TheSpice-7b-v0.1.1 и grimjim/kuno-kunoichi-v1-DPO-v2-SLERP-7B. Модель использует архитектуру Mistral с плотной causal language model и содержит 7,1 млрд параметров. Она предназначена для генерации текста и диалогов. Контекстное окно составляет до 32 768 токенов. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

Della-1.5-calc — объединённая плотная языковая модель семейства Llama, созданная с помощью mergekit на основе unsloth/Meta-Llama-3.1-8B. В слияние вошли DreadPoor/Spei_Meridiem-8B-model_stock, DreadPoor/Aspire1.1-8B-model_stock и DreadPoor/Heart_Stolen1.1-8B-Model_Stock; в README указан метод della. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH. Она доступна в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.