I.5Создание и редактирование текста

Naqta — модель MostafaMaroof для восстановления пунктуации в текстах на современном литературном арабском языке. Основной компонент в корне репозитория — XLM-RoBERTa-large для классификации токенов с 658,7 млн параметров и контекстом до 514 токенов. В репозитории также есть отдельный теггер фрагментов на XLM-RoBERTa-base для парных тире при междометиях. Модель расставляет двоеточия, вопросительные и восклицательные знаки, точки, запятые, точки с запятой и тире. Она дообучена примерно на 1,3 млн абзацев из книг, Википедии, новостей и корпусов вопросов и ответов. На отложенной выборке из источников обучения макро-F1 составляет 0,896, а на внешнем тесте с независимыми редакционными правилами — 0,616: результаты заметно зависят от принятого стандарта пунктуации. Модель не расставляет скобки и кавычки. Восклицательные знаки и точки с запятой могут предсказываться чаще нужного; особенно ненадёжны пунктуационные знаки, размещение которых определяется редакционным стилем. Репозиторий распространяется по лицензии Apache-2.0.

NaturalLM — дообученная языковая модель, опубликованная qingy2019 и основанная на unsloth/mistral-nemo-base-2407-bnb-4bit. Она использует архитектуру MistralForCausalLM с плотной структурой и содержит 12,1 млрд параметров. Модель предназначена для генерации текста; в карточке указаны английский язык и контекстное окно до 1 024 000 токенов. Модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или более узкой специализации, поэтому пригодность для конкретных сценариев генерации следует проверять на собственных данных.

Guile/nbeerbower_BigBubba-Qwen3.6-27B-GGUF — это квантизированная GGUF-версия модели BigBubba-Qwen3.6-27B, разработанной nbeerbower и подготовленной bartowski с использованием llama.cpp. Модель предназначена для генерации текста и обработки изображений совместно с файлом mmproj, поэтому может применяться в текстовых и мультимодальных сценариях. Указаны английский и китайский языки. Модель содержит 27,4 млрд параметров, поддерживает MTP и imatrix. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и IQ-квантизаций; рекомендуемым универсальным вариантом называется Q4_K_M размером 17,77 ГБ, а Q6_K и Q6_K_L обеспечивают более высокое качество при большем потреблении памяти. Среди сильных сторон — широкий выбор форматов, поддержка изображений и возможность локального запуска через совместимые инструменты llama.cpp. Ограничения включают значительные требования к памяти, зависимость мультимодальной работы от отдельного mmproj-файла и возможное снижение качества в менее точных квантизациях. Лицензия — Apache-2.0.

Dumpling-Qwen2.5-32B-v2-GGUF — набор квантизированных GGUF-версий текстовой генеративной модели Dumpling-Qwen2.5-32B-v2, разработанной nbeerbower и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты квантизации от Q8_0 до форматов Q3 и IQ3/IQ4, с размером файлов примерно от 14,81 до 34,82 ГБ. Более крупные варианты обеспечивают более высокое качество, а младшие позволяют снизить требования к оперативной памяти; среди рекомендуемых указаны Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Для взаимодействия указан шаблон prompt в формате ChatML с маркерами <|im_start|> и <|im_end|>. Это текстовая модель без заявленной поддержки изображений или других модальностей. В README не указаны контекстное окно, поддерживаемые языки, точная архитектура и результаты бенчмарков, поэтому эти характеристики нельзя оценить по доступным данным. Ограничения зависят от выбранного уровня квантизации и доступных ресурсов; варианты с меньшим размером могут обеспечивать более низкое качество. Лицензия — Apache-2.0.

rinna/nekomata-14b-instruction — дообученная по инструкциям версия языковой модели Nekomata-14B от rinna. Это плотная трансформерная модель семейства Qwen с 40 слоями и размером скрытого слоя 5120; в метаданных указан объём 21,8 млрд параметров и контекст до 8192 токенов. Для запросов используется формат Alpaca. Модель предназначена для генерации ответов и выполнения текстовых инструкций на японском и английском языках. При дообучении использовались данные Databricks Dolly, японская версия Dolly, материалы FLAN и японские текстовые датасеты; часть оценочных корпусов была исключена из обучающих данных для предотвращения утечки. Модель работает с текстом и сохраняет формат PyTorch/Safetensors. Модель может быть полезна для диалоговых ассистентов, ответов на вопросы, суммаризации и других задач по текстовым инструкциям. Качество зависит от формулировки запроса и обучающих данных; карточка отсылает к странице бенчмарков rinna, но не приводит результаты непосредственно. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке Hugging Face.

Nemo-12b-Humanize-KTO-v0.1-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Nemo-12b-Humanize-KTO-v0.1. Базовая модель разработана cgato, а квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. По названию модель имеет около 12 млрд параметров и предназначена для локального запуска в совместимых средах, включая LM Studio и llama.cpp. Модель ориентирована на генерацию и преобразование текста; её название указывает на специализацию в гуманизации текста, то есть придании ему более естественного и человекоподобного звучания. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, обучающих данных или результатах оценки качества, поэтому эти характеристики нельзя надёжно определить. Доступно множество вариантов квантизации от F16 до Q2_K_L. Более крупные варианты, включая Q6_K и Q6_K_L, сохраняют более высокое качество, тогда как варианты Q4 и Q3 уменьшают требования к памяти и подходят для локального запуска на менее производительном оборудовании, но могут заметно уступать по качеству. Для работы следует использовать формат prompt с разделителями ChatML, указанными в README. Распространение осуществляется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая запрет коммерческого применения.

cgato/Nemo-12b-TheSpice-V0.9-All-v2-KTO-v0.3-Quick — текстовая генеративная модель семейства Mistral с плотной архитектурой MistralForCausalLM и 12,1 млрд параметров. Репозиторий создан в ноябре 2024 года; веса представлены в формате safetensors. Карточка указывает на обучение KTO и варианты шаблона диалога ChatML и Alpaca, причём автор отмечает, что Alpaca, по его наблюдениям, работает лучше. Модель предназначена для генерации текста и диалогового использования. Длина контекста в метаданных указана как 1 024 000 токенов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Автор предупреждает о возможном несоответствии шаблона ChatML и рекомендует учитывать, что поведение модели зависит от формата промпта. Карточка не приводит подробных сведений о языковой поддержке или оценках качества.

Это набор квантизированных вариантов Nemotron-Cascade-2-30B-A3B от noctrex на основе модели NVIDIA Nemotron-Cascade-2-30B-A3B. Модель предназначена для генерации текста и диалогов; в каталоге для неё указана возможность чата. Варианты используют формат GGUF: тензоры MoE представлены в MXFP4, а остальные сохранены в BF16 или F16. Автор рекомендует BF16 как вариант с наивысшим качеством, хотя на некоторых архитектурах он может работать медленнее; для запуска рекомендуется актуальная версия llama.cpp. Базовая модель NVIDIA построена на архитектуре Nemotron-H и предназначена также для сложных рассуждений и агентных задач с вызовом инструментов, но README этого репозитория отдельно не подтверждает поддержку вызова инструментов. Лицензия и сведения о языках в предоставленных данных не приведены.

Карточка модели DewEfresh/neo_7b на Hugging Face совпадает с карточкой m-a-p/neo_7b, поэтому описание составлено по ней. NEO 7B — базовая плотная языковая модель семейства LLaMA, разработанная командой Neo. Репозиторий содержит базовую версию модели; в карточке проекта также упоминаются отдельные версии с supervised fine-tuning и настройкой на выполнение инструкций. Модель насчитывает 7,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает контекст длиной до 8192 токенов. Модель предназначена для генерации текста и может использоваться как основа для диалоговых приложений и последующей адаптации под конкретные задачи. Она распространяется в формате safetensors по лицензии Apache 2.0. В README заявлена открытость кода, весов, обучающих данных и деталей обучения, но эта карточка не описывает конкретные языки, оценки качества или ограничения.

Neo_7b-merge17 — объединённая модель семейства LLaMA, созданная DewEfresh с помощью LazyMergekit на основе DewEfresh/neo_7b и m-a-p/neo_7b. Она предназначена для генерации текста и диалоговых приложений; в метаданных также указана возможность чата. Модель содержит 5,7 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Модель опубликована в формате safetensors. Сведения о конкретных языках, сильных сторонах, ограничениях и лицензии в предоставленных источниках отсутствуют.

jeiku/Neo-e2 — дообученная диалоговая текстовая модель на архитектуре LlamaForCausalLM, основанная на IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml. Модель содержит 3,9 млрд параметров и рассчитана на генерацию текста в формате диалога; для работы с ней используется библиотека Transformers. В карточке указано контекстное окно 131 072 токена. Карточка сообщает о дообучении и приводит значение loss 1,5576 на наборе оценки, но не раскрывает датасет, конкретные сценарии обучения или результаты других метрик. Указана лицензия other; её условия следует уточнить в карточке репозитория и у правообладателей базовой модели.

Neural-Chat-v1-1 — языковая чат-модель, дообученная Intel и командой NeuralChat на базе mosaicml/mpt-7b. Это плотная авторегрессионная модель MPTForCausalLM с 7 млрд параметров; максимальная длина последовательности — 2048 токенов. Модель предназначена для генерации текста и ответов на инструкции, а также может применяться для задач вроде генерации кода. Для дообучения использован набор Intel/neural-chat-dataset-v1-1, содержащий около 1,1 млн инструкционных примеров; метаданные также указывают набор allenai/real-toxicity-prompts. Карточка приводит результаты оценки на наборах задач языкового моделирования и проверку токсичности, но они не гарантируют качество в конкретном применении. Основной язык карточки — английский; в обучающих данных есть также примеры на китайском. Модель может выдавать фактически неверные ответы, а также предвзятый, оскорбительный или иной нежелательный текст. Перед внедрением требуется проверка безопасности и качества для целевого сценария. Репозиторий распространяется по лицензии Apache-2.0.

neural-chat-7b-v3-1-Nebula-v2-7B — объединённая модель на основе Intel/neural-chat-7b-v3-1 и адаптера PulsarAI/Nebula-v2-7B-Lora. Она предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов; доступна в формате safetensors и рассчитана прежде всего на английский язык. Модель опубликована Weyaxi и лицензирована по Apache 2.0. Карточка указывает на слияние базовой модели с LoRA-адаптером, однако не описывает специальные сценарии Nebula или результаты оценки качества.

NeuralHermes-2.5-Mistral-7B-distilabel — экспериментальная разговорная языковая модель семейства Mistral, опубликованная dvilasuero. По метаданным, это плотная авторегрессионная модель на 7,1 млрд параметров с архитектурой MistralForCausalLM и контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors и поддерживает генерацию текста в режиме чата. Модель предназначена для диалоговой генерации текста. README указывает на эксперимент с distilabel, но не раскрывает сценарий обучения, датасет или конкретные улучшения модели. Указанная лицензия — MIT.

NeuralMarcoro14-7B — языковая модель на 7,1 млрд параметров, разработанная mlabonne. Это модель семейства Mistral с плотной архитектурой MistralForCausalLM, дообученная методом DPO на наборе предпочтений mlabonne/chatml_dpo_pairs поверх mlabonne/Marcoro14-7B-slerp. Она предназначена для генерации текста и диалоговых сценариев; автор сообщает об улучшении результатов на наборах Nous и Open LLM Benchmark. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. README не сообщает список поддерживаемых естественных языков. Репозиторий содержит веса в формате safetensors; для пробного запуска автор указывает вариант GGUF Q4_K_M. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

NeuralMona_MoE-4x7B — языковая модель Mixture of Experts, созданная CultriX с помощью LazyMergekit путём объединения четырёх моделей: CultriX/MonaTrix-v4, mlabonne/OmniTruthyBeagle-7B-v0, CultriX/MoNeuTrix-7B-v1 и paulml/OmniBeagleSquaredMBX-v3-7B. В метаданных указаны архитектура Mixtral для причинной генерации текста, 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста по текстовым запросам и диалога в сценариях, где полезны возможности объединённых базовых моделей. README не приводит отдельных результатов оценки или подробного описания сильных сторон, поэтому качество для конкретных задач по имеющимся сведениям оценить нельзя. Репозиторий распространяется по лицензии Apache-2.0.

NeuralsirkrishnaShadow_Experiment27Experiment29 — объединённая модель для генерации текста, созданная путём слияния automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment27Experiment29-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста по текстовому запросу, а её контекстное окно составляет до 32 768 токенов. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Карточка не описывает специализированные области применения или подтверждённые языковые возможности, поэтому её следует рассматривать как экспериментальную модель общего назначения; качество и поведение могут зависеть от запроса.

NeuralStock-7B-v3 — объединённая автором Kukedlc языковая модель для генерации текста и диалогов. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; заявленная длина контекста — до 32 768 токенов. Модель объединяет NeuralMaths-Experiment-7b, NeuralArjuna-7B-DT и NeuralSirKrishna-7b методом model_stock с помощью LazyMergekit, используя NeuralStock-7B-v2 как базовую модель. Модель подходит для диалоговых сценариев и генерации текста. Данные карточки не уточняют специализацию, поддерживаемые языки или конкретные результаты оценки качества. В репозитории указаны веса safetensors; лицензия в предоставленных данных не приведена.

Neural_Waifu_7b_V0.1 — слитая языковая модель, опубликованная пользователем nocudaexe. Она построена на Mistral и создана методом DARE TIES с помощью mergekit: в качестве основы использована mlabonne/AlphaMonarch-7B, в слияние также включены Test157t/Kunocchini-7b-128k-test и KatyTheCutie/SlushySlerp-7B. Модель содержит 7,1 млрд параметров, работает через Transformers и распространяется в формате safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно применять для ведения беседы и генерации ответов на текстовые запросы. В карточке нет сведений о целевых языках или специализированной предметной области. Лицензия в предоставленных данных не указана. Слияние и характеристики входящих моделей не гарантируют конкретного качества на задачах этой версии; проверяйте ответы перед использованием.

Neural-Zephyr — языковая модель для диалогов и генерации текста, опубликованная ai-agi. По карточке, это гибридная модель на основе весов Neural-Chat и моделей семейства Zephyr, объединённых суммированием параметров в соответствующих слоях. Карточка указывает размер 14 млрд параметров, тогда как метаданные каталога содержат оценку 7,1 млрд; архитектура в метаданных — плотная MistralForCausalLM, а контекст составляет 32 768 токенов. Модель предназначена прежде всего для англоязычных диалогов с ассистентом и генерации текста. В карточке указаны дообучение на открытых и синтетических наборах данных и связь Zephyr-7B-β с mistralai/Mistral-7B-v0.1; метаданные подтверждают поддержку чата. Карточка сообщает лицензию MIT, а метаданные — Apache-2.0, поэтому сведения о лицензии расходятся. По карточке модель может выдавать проблемный текст при соответствующих запросах.

Neuron-4B-HeavyThinking — плотная языковая модель семейства Qwen3, разработанная Neura-Tech-AI и дообученная на Neura-Tech-AI/Neuron-4B-Instruct. Она предназначена для генерации текста и диалогов; в репозитории также заявлен интерфейс для вызова инструментов. Модель содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Обучение проводилось с использованием Unsloth и библиотеки TRL от Hugging Face. Модель может подойти для чат-ботов, генерации ответов и сценариев с вызовом инструментов. В метаданных указан английский язык. Файлы опубликованы в формате Safetensors, лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о данных дообучения.

neurotic-crown-clown-7B-ties — это объединённая методом TIES (Trim, Elect Sign & Merge) модель семейства Mistral, созданная с помощью mergekit на основе NeuralMonarch-7B, AlphaMonarch-7B и jaskier-7b-dpo-v5.6. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогового общения. Её можно применять для ведения беседы, следования инструкциям и рассуждений; базовая NeuralMonarch-7B описана как модель для этих сценариев. Заявленная длина контекста — 32 768 токенов. Основной язык и полный перечень поддерживаемых языков в доступных данных не определены. Модель опубликована под лицензией Apache-2.0. Это слияние нескольких моделей, поэтому качество и поведение могут отличаться от каждой из исходных моделей; количественные оценки качества в карточке не приведены.

Vivian12300/new_wiki_model — дообученная модель на архитектуре LlamaForCausalLM, созданная на основе meta-llama/Llama-3.1-8B-Instruct с использованием набора данных generator. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст длиной до 131 072 токенов. Базовая Llama 3.1 8B Instruct рассчитана на многоязычные диалоги и генерацию текста, однако карточка этой производной модели не уточняет её целевые языки, специализацию, качество или результаты оценки. Лицензия указана как llama3.1; перед использованием следует учитывать условия лицензии Meta Llama 3.1. README не приводит сведений о специальных ограничениях применения.

Nex-N2.5-mini-NVFP4 — это квантизированная версия модели Nex-N2.5-mini от Nex-AGI, подготовленная primitive-ai. Модель предназначена для генерации текста, агентных сценариев и вызова инструментов. Она распространяется в формате NVFP4 и рассчитана на запуск через Transformers и vLLM на одной видеокарте NVIDIA с архитектурой Blackwell. Модель имеет разреженную MoE-архитектуру: маршрутизируемые эксперты во всех 40 слоях квантизированы до 4 бит, тогда как механизмы внимания, linear attention, общие эксперты, эмбеддинги и vision tower сохранены в BF16. Размер весов составляет 23,91 ГБ против 70,24 ГБ у версии BF16. Заявлена поддержка контекста до 32 768 токенов; на видеокарте с 96 ГБ памяти измерен KV-пул объёмом 2,74 млн токенов. Языки и точный перечень поддерживаемых модальностей в README не указаны, хотя наличие vision tower указывает на мультимодальную составляющую исходной модели. Сильными сторонами являются существенное уменьшение размера, высокая пропускная способность при параллельной нагрузке и отсутствие заметного ухудшения результатов на приведённых наборах тестов. На одной RTX PRO 6000 Blackwell модель показала 145 токенов/с при одном потоке и 1019 токенов/с при параллелизме 32, а также результаты 90,5 на наборе знаний и 77,0 на наборе вызова инструментов. Ограничения включают обязательную совместимость с Blackwell, зависимость производительности от уровня параллелизма и особенности шаблона чата: по умолчанию модель формирует пустой блок рассуждений. Доступно управление reasoning_effort со значениями low, medium и xhigh. Лицензия — Apache 2.0.

thelamapi/next2-air-i1-GGUF — облегчённая мультимодальная языковая модель Next2-Air, разработанная компанией Lamapi в Турции. Она основана на архитектуре Qwen 3.5-2B и содержит около 2 миллиардов параметров. Модель предназначена для локального запуска на обычных компьютерах, MacBook и периферийных устройствах, где важны высокая скорость вывода и умеренное потребление ресурсов. Модель поддерживает работу с текстом и изображениями: генерацию и анализ текста, визуальное понимание, распознавание текста в документах (OCR), ответы на вопросы по изображениям и обработку визуального контекста. Заявлены режим рассуждений с использованием разметки <think> и контекстное окно до 262 144 токенов, что позволяет работать с длинными документами, PDF-файлами и большими фрагментами кода. В метаданных указаны турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский языки; отдельно подчёркивается оптимизация для турецкого и английского. Next2-Air дообучалась с использованием SFT и DPO на наборах данных для инструкционного следования, рассуждений, работы с текстом и мультимодальных сценариев. К сильным сторонам относятся небольшой размер, заявленная высокая скорость, локальное выполнение, мультимодальность и длинный контекст. Ограничением является существенно меньший масштаб по сравнению с крупными моделями, поэтому качество на сложных задачах может быть ниже; README не приводит подробного анализа отказов или ограничений. Указанные результаты бенчмарков следует рассматривать как заявления разработчика. Модель распространяется по лицензии Apache 2.0.

Это GGUF-квантизация модели Nohobby/L3.3-Prikol-70B-v0.5, подготовленная пользователем bartowski с использованием llama.cpp версии b4585 и imatrix. Исходная модель имеет 70 миллиардов параметров; по представленным данным её точная архитектура, языки и поддерживаемые модальности не указаны. Модель относится к классу text-generation и предназначена для генерации текста в локальных приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_1, Q4_K_M, Q4_K_S, Q4_0, IQ4_NL, Q3_K_XL, IQ4_XS, Q3_K_L, Q3_K_M, IQ3_M, Q3_K_S, IQ3_XXS, Q2_K_L, Q2_K, IQ2_M и IQ2_S. Размер файлов составляет примерно от 24 до 75 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые. Низкобитные варианты экономят память, но могут заметно уступать по качеству. В README не указаны лицензия, размер контекста, точный набор языков, результаты оценки и дополнительные ограничения использования. Формат промпта соответствует шаблону Llama 3.3 с датой отсечения знаний декабрь 2023 года.

NorMistral-7b-warm-instruct — инструкционно дообученная языковая модель, разработанная Norallm на базе NorMistral-7b-warm, который, в свою очередь, относится к семейству Mistral. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на вопросы, многоходовые беседы, выполнение инструкций, подготовку текстов и задачи программирования. Основной фокус — норвежские языки Bokmål и Nynorsk; в метаданных также указан язык no. Модель поддерживает ChatML-подобный формат диалогов и контекст длиной 4096 токенов. Размер модели в README явно не указан для инструкционной версии, однако она названа NorMistral-7b-warm-instruct. Дообучение выполнено методом supervised fine-tuning на отфильтрованных и дополненных открытых наборах Aya, OASST, OIG, No Robots, Dolly и Glaive code assistant; preference optimization не применялась. К сильным сторонам относятся открытая доступность, ориентация на норвежскую языковую специфику, поддержка многоходовых диалогов и увеличенный до 4096 токенов контекст относительно базовой модели. Ограничения включают статус первой рабочей итерации, возможные изменения весов, чувствительность к параметрам генерации и отсутствие preference optimization, поэтому качество и устойчивость ответов могут быть неравномерными. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование. README не сообщает о поддержке изображений или других модальностей, поэтому модель следует считать текстовой.

Norobara-ZLoss-8x7B-GGUF — квантизированная версия языковой модели Norobara ZLoss 8X7B, разработанной Doctor Shotgun и подготовленной в формате GGUF пользователем TheBloke. Модель основана на архитектуре Mixtral и предназначена для генерации текста по инструкциям, диалоговых сценариев и локального запуска через совместимые приложения и библиотеки. Модель обучалась на наборах данных LDJnr/Capybara, unalignment/toxic-dpo-v0.1, LDJnr/Verified-Camel, HuggingFaceH4/no_robots и связанных наборах Doctor Shotgun. В метаданных указан английский язык. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между потреблением памяти, скоростью и качеством. Исходное обозначение 8x7B указывает на конфигурацию модели, однако точное число активных параметров и размер контекстного окна в README не указаны. GGUF-версии совместимы с llama.cpp и рядом локальных интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Сильной стороной является возможность запуска на CPU и GPU с разными уровнями квантования; ограничениями могут быть потери качества при использовании наиболее агрессивных вариантов квантования, а также отсутствие заявленной поддержки мультимодальных входов. Лицензия в README не указана, поэтому условия использования следует уточнять в репозитории исходной модели и у автора.

NorskGPT-Llama3-8b — норвежскоязычная разговорная модель, созданная дообучением Meta-Llama-3-8B на отобранных парах инструкций на норвежском языке. Это плотная авторегрессионная архитектура Llama с 7,5 млрд параметров и контекстом 8192 токена; модель предназначена для генерации текста, диалога и следования инструкциям. Модель можно использовать как ассистента для общения на норвежском, ответов на вопросы и суммаризации. Разработчик отмечает, что она не является специализированной базой знаний: по сведениям о Норвегии и узким темам она не обязательно превосходит исходную модель. Для оптимального результата может потребоваться настройка промптов. Модель выпущена по лицензии CC-BY-NC-SA-4.0; коммерческое применение требует коммерческой лицензии.

Notus 7B v1 GGUF — это квантизированная версия языковой модели Notus 7B v1, разработанной Argilla и преобразованной в формат GGUF пользователем TheBloke. Модель основана на архитектуре Mistral и предназначена для генерации текста и диалоговых сценариев на английском языке. В карточке указано около 7 миллиардов параметров; размер контекстного окна и точные варианты квантизации не приведены. Модель обучалась с использованием preference-ориентированных подходов DPO и RLAIF на датасете argilla/ultrafeedback-binarized-preferences. Она рассчитана на выполнение инструкций, ответы на вопросы, рассуждения и универсальную генерацию текста. Среди указанных результатов: win rate 0,9142 на AlpacaEval, оценка 7,3 на MT-Bench, accuracy 0,6303 на MMLU и normalized accuracy 0,8478 на HellaSwag. Эти показатели отражают результаты базовой модели Notus 7B v1, а не обязательно каждого квантизированного варианта. К сильным сторонам относятся ориентация на выполнение инструкций, диалоговое использование и более низкие требования к вычислительным ресурсам благодаря формату GGUF и квантизации. Ограничения включают англоязычную специализацию, отсутствие заявленной поддержки мультимодальности и неполную информацию о контекстном окне, конкретных уровнях квантизации и характеристиках производительности. Лицензия модели — MIT.