I.5Создание и редактирование текста

Nex-N2.5-mini-APEX-I-MiniPlus-V2.1-GGUF — это квантизированная версия модели Nex-N2.5-mini, разработанной Nex AGI и подготовленной в формате GGUF пользователем IsValorum. Модель предназначена для генерации текста, рассуждений, программирования и локального запуска через llama.cpp, включая сценарии с частичной или полной выгрузкой весов в системную память и большими контекстами. Модель использует разреженную архитектуру Mixture of Experts с 40 слоями и 256 микроэкспертами. Заявлена поддержка контекста до 256K токенов и языков English, Chinese, Spanish, French, German, Portuguese, Italian, Russian, Japanese, Korean, Vietnamese, Thai и Arabic. В текущей версии применена тензорно-ориентированная квантизация: маршрутизаторы gate_inp сохранены в F32, выходная голова — в Q6_K, attention gates — в Q8_0, а основные компоненты используют варианты IQ3_XXS, Q3_K, Q4_K, Q5_K и Q6_K. Размер сборки составляет примерно 13,74 GiB, или около 14,7 GB. К сильным сторонам относятся сравнительно небольшой объём, сохранение точности маршрутизации экспертов, оптимизация для работы в системной RAM и поддержка длинного контекста. README сообщает о perplexity WikiText-2 6,4725 ± 0,1635 и близком к неквантизированной версии качестве, однако эти результаты следует считать заявленными авторами сборки. Ограничения связаны с потерями качества, присущими квантизации, зависимостью скорости от пропускной способности памяти и требований к объёму RAM или VRAM; для комфортной работы с контекстом до 256K могут потребоваться значительные ресурсы. Модель распространяется по лицензии Apache-2.0.

Nex-N2.5-mini-GGUF — это квантизированное представление модели Nex-N2.5-mini, разработанной Nex-AGI и преобразованной в формат GGUF с использованием llama.cpp. Модель предназначена для генерации текста, программирования, агентских сценариев, вызова инструментов, работы с компьютером и мультимодальных задач. Поддерживаются английский и китайский языки. Исходная модель заявлена с контекстным окном до 262 144 токенов и может использоваться в текстовом режиме или с дополнительным vision-проектором mmproj-Nex-N2.5-mini-F16.gguf для мультимодальной обработки. Репозиторий содержит варианты квантизации от Q8_0 до IQ1_S и TQ1_0, поэтому можно выбирать между качеством, размером файлов и требованиями к памяти. Размеры файлов составляют примерно от 7,48 до 36,90 ГБ, а проектор занимает 899 МБ. Сильными сторонами являются поддержка длинного контекста, инструментов и мультимодальных сценариев, а также возможность локального запуска через llama.cpp и OpenAI-совместимый сервер. Ограничения связаны с необходимостью значительного объёма памяти, возможной потерей качества при агрессивной квантизации и зависимостью корректной работы вызова инструментов от возможностей конкретного runtime и его интеграции. Приведённые в README результаты тестов относятся к исходному семейству Nex-N2.5, а не непосредственно к этой GGUF-конверсии. Модель распространяется по лицензии Apache-2.0.

Nex-N2.5-mini-Uncensored-APEX-GGUF — набор GGUF-квантизаций модели Nex-N2.5-mini от Nex-AGI, подготовленный на базе варианта orcarouter/Nex-N2.5-mini-Uncensored с использованием llama.cpp и localai-org/apex-quant. Модель позиционируется как abliterated, то есть с уменьшенной склонностью к отказам. Формат предназначен для локального запуска через llama.cpp и совместимые интерфейсы. Модель поддерживает текстовые и визуальные сценарии, включая анализ изображений, работу с английским и китайским языками, генерацию текста, программирование и задачи, требующие длинного контекста. Архитектура — Mixture-of-Experts примерно на 34 млрд параметров: 40 слоёв, 256 маршрутизируемых экспертов, выбор 8 экспертов на токен и один общий эксперт в каждом слое. Используется гибрид gated-delta-net и полноразмерного внимания, максимальный контекст заявлен до 262 144 токенов. Основное преимущество — MoE-архитектура и APEX-квантизация со смешанной точностью, которая позволяет выбирать разные уровни точности для слоёв и групп тензоров, обеспечивая несколько вариантов баланса между размером и качеством. Доступны профили Mini, I-Compact, I-Quality и I-Balanced, однако конкретные файлы могут присутствовать не все. Для работы с изображениями требуется отдельный F16-проектор mmproj. Реальное качество зависит от выбранного профиля, аппаратных ресурсов и клиента; приведённые в README внешние результаты APEX нельзя считать измерениями именно этих файлов. Для запуска рекомендуется современная версия llama.cpp, при этом возможна частичная выгрузка слоёв на GPU. Лицензия модели — Apache-2.0.

Nex-N2.5-Pro-GGUF — квантизированная мультимодальная версия модели Nex-N2.5-Pro, разработанная nex-agi и преобразованная в формат GGUF командой qtum с использованием llama.cpp. Модель предназначена для генерации и понимания текста, а также анализа изображений в сценариях локального запуска через llama.cpp. Модель содержит 397 млрд параметров и использует гибридную архитектуру: 45 слоёв линейного внимания Gated DeltaNet и 15 слоёв полного внимания с GQA. Это MoE-модель: для каждого токена выбираются 10 из 512 экспертов и общий эксперт. Контекст — до 262 144 токенов, словарь — 248 320 токенов. Поддерживаются английский и китайский языки. Для обработки изображений используется отдельный 27-слойный vision encoder с входом 768 пикселей и патчами 16 пикселей; проектор поставляется в формате BF16. Модель доступна в вариантах IQ4_XS, Q2_K и IQ2_XS, занимающих примерно 200,1, 138,9 и 113,2 ГиБ соответственно. IQ4_XS обеспечивает качество, близкое к BF16-версии, Q2_K является более сбалансированным вариантом и рекомендуется для инференса только на CPU, а IQ2_XS предназначен для систем с жёсткими ограничениями по памяти, но с заметно большей потерей точности. Для работы с изображениями рекомендуется выделять не менее 1024 image tokens. Необходима сборка llama.cpp с поддержкой Qwen3.5-MoE; все 19 шардов выбранной квантизации нужно хранить в одной директории. Модель распространяется по лицензии Apache-2.0.

NexoNimbus-MoE-2x7B — языковая модель на архитектуре Mixtral с механизмом смеси экспертов, созданная объединением abideen/NexoNimbus-7B и mlabonne/NeuralMarcoro14-7B. Она предназначена для генерации текста и диалоговых сценариев. В README приведены результаты оценки на Open LLM Leaderboard и TruthfulQA; автор заявляет средний результат 67,51% в указанной оценке. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. Весовые файлы опубликованы в формате safetensors, для работы указан Transformers. Лицензия — Apache-2.0. README также предлагает запуск в 4-битной точности на GPU T4.

thelamapi/next2.5-i1-GGUF — GGUF-версия Next 2.5, мультимодальной vision-language модели примерно на 4 млрд параметров, разработанной и дообученной компанией Lamapi в Турции на базе Qwen 3.5-4B. Модель ориентирована на работу с текстом и изображениями, включая анализ документов и OCR, визуально-пространственные задачи, рассуждения, математику, программирование и генерацию текста. В README также заявлена поддержка видео, включая длительные видеоматериалы. Модель поддерживает турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский языки; при этом особый акцент сделан на турецком и английском языках и культурном контексте Турции. Заявлен режим рассуждений с блоками <think>...</think> перед ответом и контекст до 262 144 токенов. Обучение включало instruction tuning и DPO, а также наборы данных для рассуждений, мультимодальных задач и генерации текста. К сильным сторонам относятся сочетание компактного размера, мультимодальности, заявленной производительности в задачах знаний и рассуждений и возможность использования на периферийных устройствах. Ограничения включают небольшой по современным меркам объём модели, возможные ошибки в распознавании изображений, видео и фактах, а также то, что приведённые в README сравнительные результаты не подтверждены независимой проверкой. Модель распространяется по лицензии Apache-2.0.

next-70b-i1-GGUF — это набор квантизированных файлов GGUF для языковой модели next-70b, разработанной thelamapi и подготовленной в формате GGUF пользователем mradermacher. Модель относится к большим трансформерным instruction-tuned языковым моделям с 70 миллиардами параметров и предназначена для генерации текста и диалогового использования. Модель обучалась на наборах данных для instruction tuning, написания текстов, краткого содержания, агентных сценариев, математических задач и программной инженерии, включая GSM8K, MATH-500 и SWE-bench Verified. Заявлена поддержка турецкого, английского, немецкого, испанского, французского, русского, китайского, японского и корейского языков. README не содержит данных о длине контекста, точной архитектуре трансформера, мультимодальности или результатах бенчмарков, поэтому эти характеристики нельзя оценить по предоставленной информации. Основное преимущество репозитория — широкий выбор квантизаций с размером примерно от 15,4 до 58 ГБ, что позволяет выбирать баланс качества, скорости и требований к памяти. Для использования требуются совместимые инструменты, поддерживающие GGUF. Низкобитные варианты могут заметно уступать по качеству; в README отдельно отмечены варианты с низким качеством, а для ряда конфигураций рекомендуются IQ-квантизации или Q4_K_M. Модель распространяется по лицензии MIT.

Nil-PAPA-v1 — языковая модель на 1,5 млрд параметров, полученная pwg0218 слиянием методом SLERP моделей Qwen2.5-1.5B-Instruct и Qwen2.5-Coder-1.5B-Instruct. Она предназначена для генерации текста и диалогов, включая задачи, где полезны навыки работы с кодом. Архитектура — плотная Qwen2ForCausalLM; модель доступна в формате safetensors и поддерживает контекст до 32 768 токенов. Модель можно применять для диалоговых ответов, генерации текста и помощи с кодом. В метаданных также заявлен интерфейс вызова инструментов. Карточка не описывает языковой охват, сравнительные результаты или ограничения качества. Лицензия в предоставленных данных не указана.

yejingfu/nmagic-Meta-Llama-3.1-8B-Instruct-FP8 — это FP8-квантизированная версия Meta-Llama-3.1-8B-Instruct, разработанная Neural Magic на базе модели Meta. Она предназначена для задач генерации текста и ассистентского диалога, включая коммерческое и исследовательское использование. Модель принимает и возвращает текст; в метаданных указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки, однако README отдельно ограничивает использование языками, отличными от английского, поэтому языковая применимость требует осторожной проверки. Модель имеет архитектуру Meta-Llama-3.1 и около 8 миллиардов параметров. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8 с использованием симметричной потензорной схемы. Это снижает число битов на параметр с 16 до 8, а размер на диске и требования к памяти GPU примерно на 50%. Модель оптимизирована для инференса с vLLM и поддерживает OpenAI-совместимую подачу сервиса. По данным README, средний результат на OpenLLM Leaderboard составляет 73,44 против 73,79 у неквантизированной исходной модели, что указывает на небольшое снижение качества при заметном сокращении требований к ресурсам. Для квантизации использовались 512 калибровочных последовательностей UltraChat длиной до 4096 токенов; это не подтверждает максимальный контекст модели. Модель распространяется по лицензии llama3.1, применяемой к исходной Meta Llama 3.1.

QuantFactory/Nous-Hermes-2-SOLAR-10.7B-GGUF — квантизированная версия Nous-Hermes-2-SOLAR-10.7B, созданная с помощью llama.cpp. Базовую модель разработала Nous Research на основе SOLAR 10.7B; обучение проводилось на 1 000 000 примеров, преимущественно сгенерированных GPT-4, а также на качественных данных из открытых наборов, включая teknium/OpenHermes-2.5. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций, включая задачи программирования и рассуждений. Она работает в формате instruct/chat и использует шаблон ChatML. Указан английский язык, поддерживаются текстовые входы и выходы; размер модели — 10,7 млрд параметров. Квантизация снижает требования к ресурсам по сравнению с исходной моделью, но конкретный формат квантизации, размер контекста и аппаратные требования в README не указаны. По заявлению авторов, модель заметно превосходит базовую SOLAR 10.7B на бенчмарках GPT4All, AGIEval, BigBench и TruthfulQA; для GPT4All указан средний результат 74,69%, для AGIEval — 47,79%. Ограничения включают ориентацию на английский язык, возможные ошибки и галлюцинации, а также отсутствие подробной информации о варианте квантизации и эксплуатационных требованиях. Модель распространяется по лицензии Apache-2.0.

bartowski/NousResearch_DeepHermes-3-Llama-3-8B-Preview-GGUF — это набор GGUF-квантизаций модели DeepHermes-3-Llama-3-8B-Preview, разработанной NousResearch и подготовленной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых и чат-сценариев, инструкционного взаимодействия, рассуждений, ролевых диалогов, работы с JSON и function calling. Указан английский язык. Модель основана на Llama 3 и содержит 8 миллиардов параметров. Она поддерживает текстовую модальность и формат запросов ChatML-подобного типа с системными, пользовательскими и ассистентскими сообщениями. В репозитории представлены варианты квантизации от Q3 до Q8 объёмом примерно от 4,45 до 8,54 ГБ; более высокие варианты обычно обеспечивают лучшее качество, а низкобитные требуют меньше оперативной памяти. Модель совместима с llama.cpp, LM Studio и другими проектами на базе llama.cpp. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и поддержка задач, связанных с инструкциями, структурированными ответами и вызовом функций. Ограничения включают отсутствие заявленных данных о контекстном окне, бенчмарках и качестве на других языках, а также неизбежные потери качества при использовании более агрессивной квантизации. Лицензия указана как llama3; дополнительные условия использования в README не раскрыты.

trinhkhng/nuslerp_Merged_gpt2-medium_0.3 — языковая модель для генерации текста на базе GPT-2 Medium, созданная с помощью mergekit методом NuSLERP. В слияние вошли gpt2-medium и debias_gpt2-medium с весами 0,7 и 0,3 соответственно; для токенизатора использован ComCom/gpt2-small. Модель построена на архитектуре GPT2LMHeadModel и распространяется в формате safetensors. Модель предназначена для продолжения текста и других сценариев генерации по текстовому промпту. Максимальная длина контекста составляет 1024 токена. Карточка не описывает отдельные языки или прикладные области, поэтому не следует приписывать модели специализированные языковые навыки. Лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия языковой модели Llama-3_3-Nemotron-Super-49B-v1_5, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие проекты на его основе. Модель относится к классу крупных текстовых моделей примерно на 49 млрд параметров. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ4, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. В README рекомендуются, в частности, варианты Q4_K_M, Q5, Q6 и IQ4_XS; размеры файлов составляют примерно от 26,87 до 99,74 ГБ. Для работы используется специальный prompt format семейства Llama 3. Сильной стороной являются высокое качество старших вариантов квантизации и возможность локального запуска в совместимых инструментах. Ограничения связаны с большим размером модели и высокими требованиями к памяти, особенно для BF16 и качественных вариантов. В предоставленных данных не указаны поддерживаемые языки, размер контекстного окна, мультимодальные возможности и лицензия исходной модели.

Это сборка модели NVIDIA Nemotron 3 Nano 30B A3B в формате GGUF BF16, подготовленная DhruvalLabs для запуска через llama.cpp и совместимые приложения, включая Ollama, LM Studio, Open WebUI и Jan. В основе лежит NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; README перечисляет варианты квантования K-quant, в том числе Q3_K_M, Q4_K_M и Q8_0, для локального запуска при разных объёмах памяти. Модель предназначена для генерации текста и диалогового использования. Базовая модель ориентирована на рассуждения, программирование и агентные сценарии; доступные сведения также указывают на поддержку английского, испанского, французского, японского, итальянского и немецкого языков. README заявляет сохранение 97–99% исходного качества для квантованных вариантов, но не приводит результаты измерений, поэтому это утверждение не подтверждено представленными бенчмарками. В метаданных указана лицензия «other»; конкретные условия использования в предоставленной карточке не раскрыты. GGUF-репозиторий указывает BF16 и одновременно описывает варианты квантования, поэтому фактическая точность зависит от выбранного файла.

Модель mlx-community/NVIDIA-Nemotron-3-Nano-4B-BF16 — версия NVIDIA Nemotron 3 Nano, подготовленная сообществом mlx-community для запуска через MLX на устройствах Apple. В карточке указано, что она конвертирована из nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16 с помощью mlx-lm 0.31.1; метаданные классифицируют связь как дообучение и указывают архитектуру NemotronHForCausalLM. Репозиторий содержит веса safetensors, а размер модели составляет 6,4 млрд параметров. Модель предназначена для генерации текста в диалоге и может использоваться для ответов на вопросы, программирования, рассуждений и агентных сценариев с интерфейсом вызова инструментов. Поддерживает контекст длиной до 262 144 токенов и ориентирована на английский язык. Для использования требуется библиотека mlx-lm; лицензия указана как other, поэтому условия следует сверить с лицензией базовой модели и репозитория перед применением.

NVIDIA-Nemotron-3-Super-120B-A12B-FP8 — большая языковая модель, разработанная NVIDIA Corporation. Она предназначена для агентских рабочих процессов, рассуждений, диалогового взаимодействия, использования инструментов, RAG-сценариев и высоконагруженных задач, включая автоматизацию обработки IT-заявок. Модель поддерживает генерацию текста, text-to-text, image-to-text, reasoning и tool-calling. Модель имеет 120 млрд параметров, из которых 12 млрд активны при обработке запроса. Архитектура LatentMoE объединяет Mamba-2, Mixture of Experts и механизмы attention, а также использует Multi-Token Prediction. Максимальная длина контекста составляет до 1 млн токенов. Поддерживаются английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Режим рассуждений можно включать или отключать через параметр chat template enable_thinking. К сильным сторонам относятся поддержка длинного контекста, агентских сценариев, вызова инструментов и масштабируемой обработки больших объёмов запросов. Для развёртывания требуется минимум 2 GPU H100 с 80 ГБ памяти каждый; README также не содержит подробных результатов оценки, поэтому качество в конкретных прикладных задачах следует проверять отдельно. Модель распространяется по лицензии NVIDIA Nemotron Open Model License.

NVIDIA-Nemotron-Nano-9B-v2-FP8-dynamic — это квантизированная FP8-версия языковой модели NVIDIA-Nemotron-Nano-9B-v2, опубликованная Red Hat на базе модели NVIDIA. Модель предназначена для генерации и преобразования текста, включая работу через совместимый с OpenAI API сервер vLLM и развёртывание в Red Hat AI Inference Server или Red Hat OpenShift AI. Модель использует архитектуру NemotronHForCausalLM, принимает текст на вход и генерирует текст. Квантизация FP8 применяется к весам и активациям линейных операторов в блоках Transformer; это уменьшает число битов на параметр с 16 до 8 и примерно на 50% сокращает требования к дисковому пространству и памяти GPU. Заявлены языки English, Spanish, French, German, Italian и Japanese. Размер исходной модели составляет 9B параметров; длина контекста в README не указана. Сильные стороны модели — сниженные требования к хранению и GPU-памяти при сохранении текстовых возможностей базовой модели, а также проверенная совместимость с vLLM 0.10.1.1, RHOAI 2.25 и RHAIIS 3.2.2. Ограничения включают отсутствие в README результатов бенчмарков и подробностей о качестве после квантизации, а также отсутствие поддержки иных модальностей: указаны только текстовые входы и выходы. Модель распространяется по NVIDIA Open Model License; лицензия обозначена как other, а её условия приведены по ссылке NVIDIA.

nyun-c1-llama3-62B — плотная авторегрессионная языковая модель семейства Llama 3 от Nyun AI. В карточке указано около 60,9 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста; приведённые в README оценки охватывают понимание вопросов и ответы на них, а также тесты MMLU и Winogrande. Разработчик описывает модель как оптимизированный вариант Llama 3 70B с примерно на 12% меньшим числом параметров и заявляет о сопоставимых результатах на отдельных бенчмарках. README утверждает, что модель не проходила дообучение; конкретный способ оптимизации не раскрыт в предоставленных данных. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3.

Nyxene-v2-11B — текстовая генеративная модель на архитектуре Mistral, опубликованная beberik. Репозиторий содержит веса в формате BF16; в метаданных указано 10,6 млрд параметров и контекст до 32 768 токенов. Модель собрана с помощью mergekit из нескольких моделей, включая Starling-LM-7B-alpha, DPOpenHermes-7B, una-cybertron-7b-v2 и loyal-piano-m7-cdpo. Модель предназначена для генерации ответов на инструкции и запросы в формате, приведённом в карточке, а также для других задач генерации текста. В README приведены результаты Open LLM Leaderboard, включая среднюю оценку 67,84, ARC и HellaSwag; подробности оценки в доступном фрагменте отсутствуют. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

occiglot-7b-de-es-fr-it-en-instruct-dareties — объединённая модель семейства Mistral, созданная Mayflower GmbH с помощью mergekit и метода DARE TIES. В основу слияния легла mistralai/Mistral-7B-v0.1; в модель включены четыре инструктивные версии Occiglot, обученные для немецкого, испанского, французского и итальянского языков в сочетании с английским. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral для генерации текста и поддерживает контекст до 32 768 токенов. Она рассчитана на диалоговое применение и генерацию ответов на нескольких европейских языках. Доступна в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.

Карточка модели PS4Research/ocuMmGPo51nEQ9MC на Hugging Face совпадает с карточкой PS4Research/mbazkhYJvXJIVctL, поэтому описание составлено по ней. PS4Research/mbazkhYJvXJIVctL — дообученная плотная языковая модель семейства Seed OSS на архитектуре SeedOssForCausalLM, основанная на ByteDance-Seed/Seed-OSS-36B-Instruct. Разработчик — PS4Research; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель содержит 31,7 млрд параметров и поддерживает контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста и работы с инструментами через интерфейс вызова инструментов. Карточка не описывает специальную предметную область или отличия дообучения от базовой модели. Модель принимает и выдаёт текст, основной язык в карточке — английский. Распространяется в формате safetensors по лицензии Apache-2.0. Ограничения, связанные с качеством ответов или конкретными сценариями применения, в карточке не описаны.

Ognoexperiment27Multi_verse_model-7B — автоматическое слияние моделей, опубликованное Maxime Labonne. В карточке указано объединение ammarali32/multi_verse_model с automerger/OgnoExperiment27-7B методом dare_ties; параметры слияния включают density 0,53, weight 0,6 и int8_mask. Метаданные относят модель к семейству Mistral, архитектуре MistralForCausalLM с плотными весами; размер — 7,1 млрд параметров, формат — safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в сценариях, поддерживаемых её базовыми моделями. В README приведён пример загрузки через Transformers. Указана лицензия Apache-2.0. Карточка не описывает специализацию, языки или сравнительные результаты, поэтому их нельзя установить по доступным данным.

AtAndDev/Ogno-Monarch-Neurotic-9B-Passthrough — языковая модель, созданная слиянием двух моделей на основе Mistral с помощью mergekit. В конфигурации объединены слои bardsai/jaskier-7b-dpo-v5.6 и eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO методом passthrough; в метаданных указаны архитектура MistralForCausalLM, 8,9 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста. Карточка не описывает конкретные сценарии, языки или специальные предметные области. Репозиторий содержит веса Safetensors, а лицензия указана как Apache-2.0. README называет модель 7B, тогда как метаданные для указанного репозитория указывают 8,9B параметров.

OLMo-2-1124-13B-DPO-Preview — англоязычная плотная авторегрессионная языковая модель семейства OLMo 2, разработанная Allen Institute for AI (AI2). Это вариант OLMo-2 на 13,2 млрд параметров, прошедший supervised fine-tuning на варианте набора Tülu 3, а затем обучение методом DPO на данных предпочтений. Модель предназначена для диалогов, выполнения инструкций и широкого круга задач генерации текста; карточка отмечает задачи MATH, GSM8K и IFEval. Модель принимает текст и выдаёт текст, поддерживает чат-шаблон и имеет контекстное окно 4096 токенов. Она рассчитана прежде всего на английский язык. Веса распространяются в формате PyTorch по лицензии Apache 2.0. В карточке отмечено, что у OLMo 2 ограничено обучение безопасности, поэтому модель может выдавать проблемные ответы, особенно при соответствующих запросах; встроенной фильтрации ответов нет. Сведения о качестве следует рассматривать с учётом того, что это предварительный DPO-вариант.

OLMo-2-1124-7B-Instruct-GGUF — это GGUF-квантизованная версия инструкционной языковой модели OLMo-2-1124-7B-Instruct, разработанной Allen Institute и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций, ответы на вопросы и решение задач в локальных приложениях на базе llama.cpp. Модель содержит около 7 миллиардов параметров, работает в текстовой модальности и ориентирована на английский язык. В репозитории доступны варианты от F16 до низкобитных квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3 и Q2, поэтому можно выбирать между качеством, скоростью и требованиями к памяти. Для квантования использовалась imatrix-методика, а также исправленный tokenizer.json базовой модели. Точный размер контекстного окна в README не указан. Сильная сторона сборки — возможность запуска модели локально с различным объёмом памяти и совместимость с llama.cpp; варианты Q6 и Q5 заявлены как высококачественные, а Q4_K_M — как подходящий вариант по умолчанию для большинства сценариев. Более сильное квантование уменьшает требования к ресурсам, но может снижать качество ответов; низкобитные варианты имеют заметные ограничения. Отдельные сборки оптимизированы для ARM и требуют соответствующих аппаратных возможностей. Модель распространяется по лицензии Apache-2.0.

OLMo-2-1124-7B-SFT Preview — плотная авторегрессионная языковая модель семейства OLMo 2, разработанная Allen Institute for AI (AI2). Это версия с supervised fine-tuning базовой OLMo 2 7B November 2024 на адаптации набора Tülu 3; обучающая смесь включает публичные, синтетические и созданные людьми данные. Модель содержит 6,9 млрд параметров, работает с текстом и поддерживает контекст до 4096 токенов. Модель предназначена для генерации текста и диалогов, а также для широкого круга инструктивных задач. Карточка отмечает обучение на задачах, связанных с математикой, включая MATH и GSM8K, и следованием инструкциям, включая IFEval. Основной язык — английский. Для запуска предусмотрена библиотека Transformers, формат весов — PyTorch. Модель прошла ограниченное обучение безопасности и может выдавать проблемный контент, особенно в ответ на соответствующие запросы; автоматическая фильтрация ответов не включена. Лицензия — Apache 2.0.

TobDeBer/Olmo-3-1025-7B-magic1 — преобразованная с помощью Magic V1 версия языковой модели OLMo 3 7B, разработанной Allen Institute for AI (Ai2). Это плотная авторегрессионная Transformer-модель примерно с 6,9 млрд параметров, предназначенная для генерации текста и продолжения запросов. Модель обучалась на данных Dolma 3; карточка описывает этапы предварительного обучения, дообучения на смешанных данных и обучения для длинного контекста. Модель работает с текстом на английском языке и поддерживает контекст до 65 536 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Подходит для генерации текста, ответов на вопросы, задач по математике и коду, однако конкретное качество на таких задачах зависит от запроса и развёртывания. Это базовая языковая модель без фильтрации безопасности: она может выдавать неточные, предвзятые или вредоносные ответы, поэтому факты следует проверять. Модель и код распространяются по лицензии Apache 2.0.

Olmo-3.1-32B-Instruct-DPO — авторегрессионная трансформерная языковая модель Allen Institute for AI (Ai2), дообученная методом DPO на основе allenai/Olmo-3.1-32B-Instruct-SFT. Модель содержит 31,7 млрд параметров, работает с текстом и предназначена для диалогов и выполнения инструкций. Разработчики отмечают задачи математики, программирования, общих знаний и чата; контекстная длина составляет 65 536 токенов. Модель обучалась на английском языке и распространяется в формате Safetensors для использования с Transformers. Ai2 публикует семейство Olmo для исследований языковых моделей; лицензия Apache 2.0. В README приведены результаты оценивания, но они не гарантируют точность ответов в конкретных сценариях.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-v2-kld-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-first-third-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.