I.5Создание и редактирование текста

NoromaidxOpenGPT4-2 — текстовая генеративная модель, созданная NeverSleep слиянием моделей Noromaid-8x7b-Instruct и Open_Gpt4_8x7B_v0.2 методом TIES. В карточке указано, что при слиянии Open_Gpt4_8x7B_v0.2 использовалась как базовая модель; в метаданных также перечислены Mixtral-8x7B-Instruct-v0.1 и Noromaid-v0.1-mixtral-8x7b-Instruct-v3 как компоненты слияния. Модель основана на архитектуре Mixtral с разреженной смесью экспертов (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста по инструкциям и диалоговых сценариев; README показывает шаблоны Alpaca и Mistral. Доступны веса в формате safetensors, а для использования требуется учитывать совместимую библиотеку Transformers. Лицензия — CC-BY-NC-4.0, поэтому коммерческое использование ограничено условиями лицензии. Метка NSFW в метаданных указывает на возможность взрослого контента; перед применением следует учитывать требования к модерации и аудитории.

baconnier опубликовал чат-модель Notaires_dolphin-2.9.1-yi-1.5-9b, дообученную на базе cognitivecomputations/dolphin-2.9.1-yi-1.5-9b. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, содержащая 8,6 млрд параметров и рассчитанная на генерацию текста в диалоговом формате. В карточке указано, что при обучении использовались Unsloth и TRL. Модель подходит для генерации ответов в чате и других задач текстовой генерации. Заявленный контекст составляет 12 000 токенов; язык карточки — английский. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Это GGUF-представление модели nothingiisreal/L3.1-70B-Celeste-V0.1-BF16, подготовленное Featherless AI. Модель предназначена для генерации текста в диалоговом режиме и может использоваться как чат-модель общего назначения. Базовая модель — дообученная версия семейства Llama 3.1 с 70 млрд параметров. В репозитории доступны варианты квантования IQ4_XS, Q2_K и Q3_K_L, а также другие варианты. В метаданных формат обозначен как GGUF BF16. Квантованные файлы уменьшают размер модели для локального запуска, но могут снижать качество по сравнению с полной точностью. Сведения о поддерживаемых языках, длине контекста и лицензии в предоставленных материалах отсутствуют.

Notus-TheTop-7b-Slerp — объединённая диалоговая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit методом SLERP из argilla/notus-7b-v1 и MaziyarPanahi/TheTop-5x7B-Instruct-S3-v0.1. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ведение диалога; заявленная длина контекста составляет 32 768 токенов. Модель может использоваться для ответов на вопросы, инструктивного диалога и генерации текста. В карточке указаны формат Safetensors и тип точности bfloat16. Сведения о лицензии и конкретных ограничениях качества в предоставленных данных отсутствуют.

Nous-Hermes-2-Mixtral-8x7B-SFT-GGUF — это квантизированная GGUF-версия языковой модели Nous-Hermes-2-Mixtral-8x7B-SFT, разработанной NousResearch и подготовленной квантизацией компанией Second State Inc. Модель предназначена для диалоговых и инструкционных сценариев, включая генерацию текста и работу в чат-приложениях на базе LlamaEdge. Модель основана на архитектуре Mixtral и использует формат промптов ChatML. В README указан английский язык, контекстное окно составляет 4096 токенов. Доступны варианты квантизации от Q2_K до Q8_0 размером от 17,3 до 49,6 ГБ. Q4_K_M рекомендуется как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более сильная квантизация уменьшает размер, но может заметно ухудшать качество; точные сведения о числе параметров, поддерживаемых модальностях и дополнительных языках не указаны. Для запуска требуется LlamaEdge версии 0.2.8 или новее; предусмотрены режимы сервиса и командного чат-приложения. Модель распространяется по лицензии Apache-2.0.

NovaSpark — чат-модель на базе Llama 3.1, разработанная Epiculous и дообученная на версии SuperNova-lite от GrimJim с частично ослабленными отказами. Модель содержит около 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Она предназначена для генерации текста в диалогах, следования инструкциям и ролевых сценариев; обучена на шаблоне Llama Instruct. Автор отмечает, что дообучение частично восстановило отказы, ранее ослабленные в базовой модели, поэтому эффект снижения отказов неполный. Модель распространяется в формате Safetensors; для неё также заявлены варианты квантования EXL2 и GGUF. Лицензия — Apache-2.0.

NVIDIA Nemotron 3.5 Lightning 30B-A3B — APEX GGUF — это набор измеренно распределённых и оптимизированных GGUF-квантизаций базовой модели NVIDIA Nemotron 3.5 Lightning 30B-A3B от NVIDIA. Рецепт APEX и инструментарий предоставлены LocalAI, а движок квантизации — llama.cpp. Модель предназначена для генерации текста, диалоговых приложений и сценариев с инструментами, включая последовательный tool-calling, при запуске через llama.cpp. Архитектура Nemotron-H гибридная: 52 слоя сочетают Mamba2 SSM и MoE, причём полное attention используется только в 6 слоях. MoE включает 128 маршрутизируемых экспертов и общий эксперт; активно используется около 3B параметров из примерно 31,6B. Контекст поддерживается до 128k токенов, а благодаря архитектуре KV-кэш занимает около 6 KiB на токен, или примерно 0,75 GiB при контексте 128k. В комплект включена MTP-голова для speculative decoding. Доступны варианты mini на 3,56 bpw и 13,66 GiB, compact на 4,42 bpw и 16,91 GiB, а также i-quality на 5,62 bpw и 21,53 GiB; compact и i-quality на момент описания ещё загружались. Сильные стороны модели — большой контекст при сравнительно небольших требованиях к памяти, специализированная importance matrix-квантизация, измеренное распределение битов по тензорам и сохранённая поддержка speculative decoding. Вариант mini рассчитан на видеокарту с 16 ГБ памяти и полный контекст 128k. Ограничения включают необходимость достаточно новой версии llama.cpp, явной настройки размера контекста и учёт того, что модель генерирует подробные рассуждения, увеличивая расход выходных токенов. Лицензия указана как openmdw-1.1.

Это вариант NVIDIA Nemotron 3.5 Lightning 30B A3B, подготовленный в формате GGUF для запуска через llama.cpp. README указывает, что исходной моделью стала nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16; в метаданных репозиторий отмечен как производный от этой модели, а формат файлов указан как GGUF BF16. Суффикс Q3_K_M в названии репозитория не совпадает с указанным в метаданных форматом, поэтому фактическую квантизацию по доступным сведениям подтвердить нельзя. Модель предназначена для генерации текста; базовая модель описана в каталоге как гибридная языковая модель NVIDIA для диалога, рассуждений, оценки и адаптации под пользовательские задачи. Метаданные перечисляют английский, испанский, французский, немецкий, итальянский и японский языки. Лицензия обозначена как other; конкретные условия следует сверять с карточкой базовой модели и файлами репозитория.

Это конвертированная в формат GGUF версия языковой модели NVIDIA Nemotron 3.5 Lightning 30B-A3B-BF16, подготовленная ijohn07 для запуска через llama.cpp. Она предназначена для генерации текста и унаследованных от базовой модели сценариев диалога, рассуждений, оценки и адаптации под пользовательские задачи. В имени репозитория указано Q4_K_M, однако метаданные формата обозначают GGUF BF16, поэтому точный вариант квантования по доступным сведениям установить нельзя. Модель принимает текст и генерирует текст. В карточке перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Для подробностей о возможностях и ограничениях автор направляет к карточке исходной модели NVIDIA. Лицензия указана как other; конкретные условия следует сверить с лицензией базовой модели.

Это квантизированная версия языковой модели NVIDIA Nemotron 3.5 Lightning 30B A3B, преобразованная в формат GGUF из nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 для запуска с llama.cpp. Модель предназначена для генерации текста; базовая карточка описывает исходную модель как предназначенную для диалога, рассуждений, оценки и адаптации под пользовательские задачи. Репозиторий содержит файлы GGUF с форматом BF16 по метаданным; в названии и README также указано Q4_K_M. Для запуска предлагается llama.cpp, включая CLI и сервер. Метаданные указывают поддержку английского, испанского, французского, немецкого, итальянского и японского языков. Лицензия обозначена как other; условия следует сверить с карточкой исходной модели NVIDIA.

Карточка модели SAIFIINDUSTRIES/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-noMTP-GGUF на Hugging Face совпадает с карточкой waseigo/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-noMTP-GGUF, поэтому описание составлено по ней. Это конвертированная в GGUF версия NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4, подготовленная автором репозитория для запуска через llama.cpp. Из конвертации исключены MTP-слои; веса сохранены в автоматически выбранном формате исходной модели. Модель предназначена для генерации текста и диалогового использования. Автор сообщает, что она запускалась на двух видеокартах RTX 5060 Ti по 16 ГБ, с контекстом до 1 048 576 токенов и квантизацией KV-кэша q8_0; по его оценке, для этого не требуется выгружать экспертные слои в оперативную память. Поддерживаемые языки по карточке: английский, испанский, французский, немецкий, итальянский и японский. Это конверсия исходной модели NVIDIA в GGUF для llama.cpp, а не самостоятельное дообучение; базовая модель — nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4. Репозиторий указывает лицензию «other», поэтому перед использованием следует проверить условия исходной модели и репозитория.

Это конвертированная в GGUF версия NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4, подготовленная автором репозитория для запуска через llama.cpp. Из конвертации исключены MTP-слои; веса сохранены в автоматически выбранном формате исходной модели. Модель предназначена для генерации текста и диалогового использования. Автор сообщает, что она запускалась на двух видеокартах RTX 5060 Ti по 16 ГБ, с контекстом до 1 048 576 токенов и квантизацией KV-кэша q8_0; по его оценке, для этого не требуется выгружать экспертные слои в оперативную память. Поддерживаемые языки по карточке: английский, испанский, французский, немецкий, итальянский и японский. Это конверсия исходной модели NVIDIA в GGUF для llama.cpp, а не самостоятельное дообучение; базовая модель — nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4. Репозиторий указывает лицензию «other», поэтому перед использованием следует проверить условия исходной модели и репозитория.

Это 6-битная квантизированная версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленная командой LM Studio с помощью mlx_lm для работы на устройствах Apple Silicon. Модель основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; архитектура исходной модели сочетает гибридный подход и MoE с 30 млрд параметров, из которых около 3 млрд активируются на токен. Исходная модель рассчитана на диалоги, рассуждения, программирование и создание агентных приложений, поддерживает длинный контекст и шесть языков: английский, испанский, французский, немецкий, японский и итальянский. Эту сборку можно использовать для генерации текста, диалогов и вызова инструментов в приложениях на Apple Silicon. Квантизация уменьшает требования к памяти по сравнению с BF16, но может влиять на точность ответов. В README не приведены длина контекста и условия лицензии именно для этой сборки; лицензия в метаданных обозначена как other. Модель может выдавать неточные или нежелательные ответы.

Это GGUF-квантизированная версия языковой модели NVIDIA Nemotron-3-Super-120B-A12B, разработанной NVIDIA и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Доступны варианты квантования Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и Q3_K с размером файлов примерно от 64,65 до 128,47 ГБ; более высокие уровни квантования обычно обеспечивают лучшее качество, но требуют больше памяти. Для запуска может потребоваться актуальная версия используемого программного обеспечения с поддержкой модели. В основе лежит NVIDIA-Nemotron-3-Super-120B-A12B-BF16; по метаданным модель использует архитектурные подходы Latent MoE и MTP, однако точные параметры архитектуры и размер контекста в README не указаны. Заявлены английский, французский, испанский, итальянский, немецкий, японский и китайский языки. Сильной стороной является возможность локального инференса в различных форматах GGUF и выбора компромисса между качеством и требованиями к памяти; ограничениями остаются очень большой объём файлов, высокие требования к оперативной или видеопамяти и возможное снижение качества на низких уровнях квантования. Лицензия указана как NVIDIA Open Model License; условия следует уточнять по официальной лицензии NVIDIA.

NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-FP8 — языковая модель NVIDIA для диалогов, рассуждений и генерации текста. Это FP8-квантованная производная NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 на гибридной архитектуре Mamba-2, Transformer и MoE; в репозитории Transformers хранятся веса SafeTensors. В одном чекпойнте вложены варианты на 30B, 23B и 12B параметров, которые можно извлечь без дополнительного обучения. Для варианта 30B активны 3,6B параметров на токен; в меньших вариантах — 2,8B и 2,0B соответственно. Модель рассчитана на чат и задачи рассуждения; также README рекомендует её для прототипирования и описывает готовность к коммерческому применению. Она поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Контекст в метаданных — 262 144 токена; README указывает возможность увеличить контекст при использовании vLLM до 1M токенов с соответствующей настройкой. Elastic-структура позволяет выбирать компромисс между размером варианта и вычислительными затратами, а FP8-представление уменьшает требования к памяти. Модель предназначена для генерации текста и не описана как мультимодальная. Лицензия указана как other; README заявляет о готовности к коммерческому использованию, но конкретные условия лицензии следует сверять с файлами репозитория.

Это четырёхбитная версия модели NVIDIA Nemotron Nano 9B v2, подготовленная сообществом mlx-community для запуска в формате MLX. Исходная модель разработана NVIDIA; эта версия преобразована из nvidia/NVIDIA-Nemotron-Nano-9B-v2 с помощью mlx-lm 0.26.3. Метаданные относят её к генеративным языковым моделям для диалога и указывают интерфейс вызова инструментов. Модель предназначена для генерации ответов в чате и выполнения инструкций; базовая модель также рассчитана на программирование и управляемое рассуждение. Карточка связывает её с английским, испанским, французским, немецким, итальянским и японским языками. Лицензия указана как other, поэтому условия следует уточнять на странице репозитория и базовой модели. Четырёхбитное представление и формат MLX предназначены для локального инференса на совместимом оборудовании; количественные показатели качества в карточке не приведены.

Это 6-битная версия NVIDIA Nemotron Nano 9B v2, подготовленная сообществом mlx-community для запуска в формате MLX на совместимом оборудовании Apple. Репозиторий преобразован из nvidia/NVIDIA-Nemotron-Nano-9B-v2 с помощью mlx-lm 0.27.1; метаданные связывают исходную модель с дообучением и указывают поддержку чата. Модель предназначена для генерации текста и диалогового взаимодействия. Базовая модель описана как гибридная языковая модель NVIDIA для чата, следования инструкциям, программирования и управляемого рассуждения. В карточке модели перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий указывает лицензию other; условия следует сверить с лицензией исходной модели и файлами репозитория перед использованием.

Это версия NVIDIA Nemotron 3 Ultra 550B A55B в формате GGUF BF16, опубликованная DevQuasar как копия модели NVIDIA. Она предназначена для генерации текста и диалоговых сценариев, включая сложные рассуждения, работу с длинным контекстом и агентные приложения. В метаданных указана возможность чата, а README называет версию Zeroshot. Модель основана на nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16. Репозиторий описывает её как квантованную версию, хотя формат указан как GGUF BF16; подробности о способе квантования и аппаратных требованиях не приведены. Лицензия в предоставленных данных не указана.

nyunai/nyun-c1-llama3-60B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Nyun AI. Модель содержит 59,2 млрд параметров и рассчитана на генерацию текста; заявленная длина контекста — 8192 токена. Разработчики сообщают, что модель создана без дообучения и содержит примерно на 14% меньше параметров, чем Llama 3 70B. В README приведены результаты сравнений на MMLU, Winogrande и BoolQ, где модель показывает сопоставимые или более высокие результаты по отдельным тестам. Подходит для генерации текста и ответов на вопросы общего назначения. Для использования действует лицензия Llama 3. Результаты производительности приведены разработчиком; они не гарантируют аналогичного качества на других задачах и наборах данных.

Nyxene-v3-11B — плотная авторегрессионная языковая модель семейства Mistral, опубликованная beberik. В README описана модель Nyxene-11B как результат объединения нескольких моделей на базе Mistral с помощью mergekit; среди названных компонентов — Intel/neural-chat-7b-v3-3-Slerp, AIDC-ai-business/Marcoroni-7B-v3, rwitz/go-bruins-v2 и chargoddard/loyal-piano-m7-cdpo. Репозиторий содержит веса в формате safetensors; метаданные указывают 10,6 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового применения с шаблоном ChatML. Её можно использовать для ответов на вопросы, ведения беседы и генерации продолжений текста. Карточка приводит результаты оценки на Open LLM Leaderboard, но не даёт подробной информации о методике или ограничениях качества. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Obazda-7B — чат-модель на основе Mistral, созданная Johann Hartmann как объединение предварительно обученных языковых моделей методом DARE TIES с помощью mergekit. В качестве базовой модели использована DiscoResearch/DiscoLM_German_7b_v1; также в объединение вошли Wiedervereinigung-7b-dpo-laser, Experiment26-7B и WestLake-7B-v2-laser-truthy-dpo. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов на немецком языке. Приведённые в карточке оценки показывают относительно сильные результаты в письме, ролевом взаимодействии, извлечении информации, гуманитарных и естественно-научных темах, а также более слабые результаты в рассуждениях, математике и программировании. Распространяется по лицензии Apache-2.0.

Occiglot-7B-DE-EN-Instruct — инструктивная языковая модель Occiglot Research Collective для генерации текста и диалогов на английском и немецком языках. Это плотный decoder-only трансформер на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; модель принимает ChatML-шаблон. Также обучена следовать инструкциям, связанным с кодом. Модель подходит для ответов на вопросы, диалоговых помощников и выполнения текстовых инструкций на английском и немецком. Она прошла полное инструктивное дообучение на 180 млн дополнительных токенов мультиязычных и кодовых инструкций. Авторы предупреждают, что модель не проходила выравнивание по безопасности и может выдавать проблемный контент; результаты оценки для немецкого следует трактовать осторожно из-за использования частично машинно переведённых наборов и английских промптов. Лицензия — Apache 2.0.

Occiglot-7B-EU5-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер с архитектурой Mistral и 7,1 млрд параметров, дообученный на 400 млн токенов многоязычных и программных инструкций. Модель принимает текстовые запросы в формате ChatML и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы, выполнения инструкций и задач с кодом на английском, испанском, французском, немецком и итальянском языках. Карточка приводит предварительные результаты тестирования и отмечает, что часть неанглоязычных оценок основана на машинном переводе, поэтому их следует интерпретировать осторожно. Модель не проходила выравнивание по безопасности и может создавать проблемный контент. Распространяется по лицензии Apache 2.0.

Occiglot-7B-FR-EN-Instruct — чат-модель с открытыми весами, разработанная Occiglot Research Collective. Это инструктивно дообученная версия occiglot-7b-fr-en: плотный авторегрессионный трансформер Mistral с 7,1 млрд параметров. Модель предназначена для диалогов и выполнения инструкций на французском и английском языках; в обучении также использовались инструкции для кода. Контекст модели по метаданным составляет 32 768 токенов. Модель обучена методом полного инструктивного дообучения на данных Open-Hermes-2B и нескольких наборах французских инструкций. Она использует шаблон чата ChatML и токенизатор Mistral-7B-v0.1. Авторы называют релиз ранним этапом исследовательского проекта; опубликованные оценки предварительные, а результаты для французского получены на ограниченных наборах и требуют осторожной интерпретации. Модель не проходила выравнивание по безопасности и может выдавать проблемный контент. Лицензия — Apache 2.0.

Occiglot-7B-FR-EN-Instruct — генеративная языковая модель с 7 млрд параметров, разработанная исследовательским коллективом Occiglot при поддержке подразделений DFKI SAINT и SLT. Это instruct-версия модели occiglot-7b-fr-en, предназначенная для диалогового взаимодействия и выполнения инструкций на английском и французском языках, а также для работы с кодом. Модель доступна в формате GGUF и распространяется по лицензии Apache 2.0. Модель построена на архитектуре авторегрессионного decoder-only Transformer, а её токенизатор унаследован от Mistral-7B-v0.1. Для дообучения использовались 160 млн дополнительных токенов мультиязычных и кодовых инструкций, включая англоязычные и франкоязычные наборы Open-Hermes-2B, Bactrian-X, AI-Society Translated, GT-Dorimiti, OASST-2 и Aya-Dataset. Обучение выполнялось с контекстом 8192 токена и шаблоном диалогов ChatML. Сильная сторона модели — специализация на английском и французском языках при сохранении возможностей генерации кода и следования инструкциям. Она может применяться для чат-ботов, ответов на вопросы, генерации и преобразования текста, а также вспомогательных задач программирования. При этом проект позиционируется как открытое исследование, а README предупреждает, что модель не проходила safety alignment и может генерировать проблемный или небезопасный контент. Результаты оценки следует интерпретировать с осторожностью, поскольку часть неанглоязычных тестов основана на машинном переводе и англоязычных запросах.

Карточка модели TheHappyDrone/Occult_V01 на Hugging Face совпадает с карточкой TheHappyDrone/Occult_V02, поэтому описание составлено по ней. Occult_V02 — языковая модель семейства Mistral, разработанная TheHappyDrone и дообученная на базе unsloth/mistral-7b-bnb-4bit с использованием Unsloth и Hugging Face TRL. Модель предназначена для генерации текста; карточка не описывает узкую специализацию или конкретные сценарии применения. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0; сведения о специальных ограничениях применения и недостатках не приводятся.

Ognoexperiment27M7-7B — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Maxime Labonne методом DARE-TIES на основе liminerity/M7-7b и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалогов. Модель принимает текст и генерирует текст; размер контекста составляет 32 768 токенов. Модель распространяется в формате safetensors с точностью bfloat16 по лицензии Apache-2.0. Карточка указывает параметры слияния и пример загрузки через Transformers, но не описывает специализацию или результаты оценки качества.

OgnoMonarch-7B — слитая модель для генерации текста, созданная автором репозитория из paulml/OGNO-7B и mlabonne/Monarch-7B с помощью LazyMergekit и метода slerp. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для генерации текста и общих языковых задач. Она распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README не приводит оценок качества или специализированных сценариев применения.

OLMo-2-0325-32B-SFT — англоязычная текстовая модель Ai2, полученная дообучением с учителем модели allenai/OLMo-2-0325-32B на варианте набора Tülu 3. Это плотная авторегрессионная архитектура OLMo 2 с 31,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст; её контекст составляет 4096 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы, следования инструкциям и генерации текста на английском языке. Ai2 публикует код, контрольные точки и сведения об обучении серии OLMo. Модель распространяется по лицензии Apache 2.0. В карточке отмечено, что у моделей OLMo-2 ограничено обучение безопасному поведению; без дополнительной фильтрации они могут выдавать проблемные ответы, особенно в ответ на соответствующие запросы. Для загрузки через Transformers README указывает на необходимость версии из основной ветки проекта.

OLMo-2-1124-13B-Instruct-GGUF — квантизированная версия инструкционной языковой модели OLMo-2-1124-13B-Instruct, разработанной Allen Institute for AI и подготовленной в формате GGUF автором bartowski. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях. Она поддерживает английский язык и использует текстовую модальность. Модель содержит 13 миллиардов параметров. В репозитории доступны исходный вариант F16 и различные уровни квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Квантизация выполнена с помощью llama.cpp и imatrix; для запуска следует использовать шаблон промпта с ролями system, user и assistant, указанный в README. Варианты Q6 и Q5 позиционируются как высококачественные, Q4_K_M — как сбалансированный вариант для большинства сценариев, а варианты с меньшим числом бит требуют меньше памяти, но могут заметнее терять качество. Сильной стороной модели является широкий выбор GGUF-квантизаций, включая варианты, оптимизированные для отдельных ARM-конфигураций и inference на CPU. Ограничения включают поддержку только английского языка, текстовый формат работы и неизбежное снижение качества у более агрессивно квантизированных вариантов. Размер контекста и другие архитектурные характеристики в предоставленных данных не указаны. Модель распространяется под лицензией Apache 2.0.