II.1Анализ требований и архитектура ПО

Orca 2 7B — языковая модель Microsoft на архитектуре LLaMA 2, дообученная на синтетических данных для усиления способностей к рассуждению. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст; длина контекста — 4096 токенов. Она предназначена для однократных ответов по пользовательским данным: рассуждений, понимания прочитанного, решения математических задач и суммаризации. Модель особенно ориентирована на рассуждение в zero-shot сценариях, но не оптимизирована для диалога и не обучалась с RLHF или DPO; для чат-применения или узкой задачи рекомендуется дополнительное дообучение. Это исследовательская модель, опубликованная для изучения, оценки и дальнейшей разработки небольших языковых моделей. Она может наследовать предвзятости и ограничения LLaMA 2, ошибаться или галлюцинировать; результаты требуют проверки, особенно в важных сценариях. Лицензия указана как other, поэтому перед использованием следует изучить условия в карточке модели.

OrcaMaid-v2-FIX-13b-32k — текстовая генеративная модель семейства Llama, опубликованная пользователем ddh0. Это исправленная версия OrcaMaid-v2-13b: в прежней версии были проблемы с объединённым токенизатором, из-за которых модель могла не останавливаться вовремя и выдавать некорректные токены ChatML. Модель включает Orca-2-13b и основана на Llama 2; в README также отмечен вклад авторов Noromaid и помощь с mergekit. Модель содержит 12,9 млрд параметров и использует архитектуру LlamaForCausalLM. Контекст расширен с 4096 до 32768 токенов методом YaRN. Она предназначена для генерации текста, в том числе длинных диалоговых ответов; отдельные специализированные задачи и поддерживаемые естественные языки в карточке не описаны. Репозиторий содержит веса Safetensors. На модель распространяются условия Microsoft Research License в связи с включением Orca-2-13b; метаданные обозначают лицензию как other, поэтому перед использованием следует проверить применимые условия лицензирования. Исправление токенизатора указано автором, но отдельные оценки качества или гарантии поведения не приведены.

OrcaMaidXL 17B 32K — языковая модель для генерации текста, разработанная ddh0 и представленная в формате GGUF. Это квантованная версия исходной модели ddh0/OrcaMaidXL-17B-32k; квантование выполнено TheBloke. Модель относится к архитектуре Llama, имеет около 17 миллиардов параметров и заявленный контекст до 32 тысяч токенов. Она предназначена для текстовых задач и использует формат инструкций Alpaca: запрос передаётся как инструкция, после чего модель формирует ответ. Модель подходит для локального запуска и сценариев, требующих генерации текста с использованием CPU и GPU; GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек. В README не указаны поддерживаемые языки, результаты тестирования или специализированные сильные стороны, поэтому качество в конкретных задачах заранее оценить нельзя. Используется квантованное представление, что может уменьшать требования к ресурсам по сравнению с полной версией, но потенциально влияет на точность в зависимости от выбранного варианта квантования. Лицензия обозначена как microsoft-research-license и other; также указано, что модель основана на Llama 2 и может подпадать под условия лицензии Meta Llama 2. Вопросы о взаимодействии этих условий рекомендуется уточнять у автора исходной модели.

Park3-4B-Base — языковая модель с примерно 3,7 млрд параметров из семейства Qwen3, опубликованная пользователем koohack. Модель предназначена для генерации текста и совместима с библиотекой Transformers; в метаданных также отмечена как conversational-модель. Модель может применяться для продолжения и генерации текста, диалоговых сценариев, подготовки черновиков и экспериментов с языковыми приложениями. Заявлена длина контекста до 32 768 токенов, что позволяет обрабатывать достаточно большие фрагменты входного текста. README не содержит сведений о разработчике, обучающих данных, оценочных результатах, поддерживаемых естественных языках или лицензии.

PKU-DS-LAB_FairyR1-32B-GGUF — это набор квантованных версий языковой модели FairyR1-32B, разработанной командой PKU-DS-LAB и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель имеет 32 миллиарда параметров, относится к текстовым моделям и, согласно карточке, поддерживает английский язык. Доступны варианты от BF16 до низкобитных Q2/Q3 и IQ-квантизаций; размер файлов составляет примерно от 12,84 до 65,54 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, тогда как младшие варианты требуют меньше оперативной памяти, но заметно уступают по качеству. Для работы следует использовать указанный шаблон промпта с маркерами ролей и блоком рассуждений. К сильным сторонам относятся широкий выбор вариантов квантования, возможность локального запуска и высокая точность версий Q5–Q8, при этом Q4_K_M обозначена как вариант по умолчанию для большинства сценариев. Ограничения включают значительные требования к памяти даже у квантованных вариантов, снижение качества при агрессивном квантовании и отсутствие в карточке подробностей об архитектуре, максимальном контексте, мультимодальности и результатах тестирования. Распространение указано по лицензии Apache-2.0.

Prismatic-12b-v0.1-Experimental-1115 — текстовая языковая модель, созданная LyraNovaHeart как разовое слияние предобученных моделей с помощью mergekit и метода TIES. В качестве основы использована mistralai/Mistral-Nemo-Base-2407; в слияние также вошли inflatebot/MN-12B-Mag-Mell-R1 и nbeerbower/Mistral-Nemo-Prism-12B-v5. Модель имеет плотную архитектуру MistralForCausalLM и содержит 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового общения в формате ChatML или Mistral Tekken. Автор отмечает исправление формата ChatML: добавлен EOS-токен, отсутствовавший ранее. Контекстное окно составляет 1 024 000 токенов по метаданным. Модель опубликована в формате safetensors и распространяется по лицензии Apache 2.0. Это экспериментальная разовая сборка, которую автор предлагает попробовать; README не приводит сравнительных оценок качества или подробных результатов тестирования. Поэтому пригодность для конкретных задач и качество ответов следует проверять самостоятельно.

Карточка модели electroglyph/Qwen3-4B-Instruct-2507-uncensored-v2 на Hugging Face совпадает с карточкой Manitec/Qwen3-4B-Instruct-2507-uncensored-v2, поэтому описание составлено по ней. Manitec выпустил Qwen3-4B-Instruct-2507-uncensored-v2 — минимально дообученную версию Qwen3-4B-Instruct-2507, предназначенную для диалоговой генерации текста. Автор заявляет, что модель почти не отказывает в ответах, но по умолчанию не должна быть чрезмерно оскорбительной и лучше следует подробным инструкциям. Модель использует плотную архитектуру Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. Она работает с текстом, поддерживает чат и интерфейс вызова инструментов; README описывает дообучение в течение двух эпох с низкой скоростью обучения. По метаданным, модель распространяется в формате safetensors под лицензией Apache-2.0. Заявления о поведении основаны на описании автора; карточка приводит сравнение perplexity и KL divergence с родительской моделью, но не содержит полной методики или независимой оценки. Дообучающий датасет не опубликован, поэтому его состав и возможное влияние на ответы проверить нельзя.

Youssofal/Qwen3.6-27B-MTPLX-Optimized-Speed — модель для генерации текста, созданная на основе Qwen/Qwen3.6-27B и адаптированная Youssofal для runtime MTPLX. Она предназначена для локального запуска и ускоренной генерации, прежде всего на компьютерах Apple Silicon, включая сценарии программирования, интерактивной работы с текстом и развертывания сервиса через MTPLX. Модель использует архитектуру qwen3-next-mtp и встроенные Multi-Token-Prediction heads для speculative decoding без внешней draft-модели. Основная часть представляет собой flat 4-bit affine-конверсию, а MTP-компонент — предварительно квантованный INT4 sidecar. Максимальная глубина MTP равна 3; верифицированный runtime рассчитан на Apple M5 Max с 128 ГБ unified memory. Для указанного профиля заявлена скорость до 63,056 токена в секунду на тестовом кодовом запросе, однако фактическая производительность зависит от оборудования, настроек и нагрузки. В README не указаны поддерживаемые языки, размер контекста и мультимодальные возможности. Сильная сторона модели — ускоренная декодировка за счёт встроенного speculative decoding и точной проверки предложенных токенов; заявленное ускорение достигает 2,24 раза по сравнению с обычной генерацией в соответствующих условиях. Ограничения включают зависимость от MTPLX и Apple Silicon, статус runtime как preview, поддержку только backend qwen3-next-mtp в MTPLX v0.1.0-preview и необходимость учитывать результаты бенчмарка как зависящие от конкретного теста. Базовая модель и конверсия MTPLX распространяются по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored MLX BF16 — конверсия сообщества для компьютеров Apple с Apple silicon, основанная на модели orcarouter/Qwen3.8-27B-Uncensored. Это плотная мультимодальная модель семейства Qwen3.5/Qwen3.8 с 27 млрд параметров: она принимает текст и изображения, поддерживает диалоги, рассуждения и анализ визуального содержимого. Настроенное окно контекста — 262 144 токена, но доступная длина зависит от памяти, настроек KV-кэша и типа входа. Модель предназначена для генерации текста и ответов на вопросы по изображениям; включён отдельный MTP-драфтер для ускорения спекулятивного декодирования. По карточке, исходная модель снижает склонность к отказам, а эта публикация переносит её веса в формат MLX BF16 без квантизации и дополнительного дообучения. Для запуска требуются Mac с Apple silicon, совместимая версия mlx-vlm и около 55 ГБ памяти только для весов, плюс память для вычислений и KV-кэша. Карточка приводит локальные проверки генерации, анализа изображений и MTP, а также результаты отдельных бенчмарков; они не гарантируют качество на других задачах и устройствах. В частности, указаны ограничения на длинных документах, а режим JSON не всегда соблюдал запрошенную схему. Модель не является официальным релизом Qwen или OrcaRouter. Лицензия — Apache-2.0.

ReasonCritic-7B-i1-GGUF — квантизированная версия текстовой модели ReasonCritic-7B, разработанной fableforge-ai. Квантизацию выполнил mradermacher; модель распространяется в формате GGUF и предназначена для запуска через совместимые инструменты, включая llama.cpp, LM Studio и Ollama. Модель ориентирована на генерацию текста, задачи рассуждения, критическую оценку и проверку ответов. В метаданных указано 7B параметров и поддержка английского языка. Доступны варианты квантизации от очень компактных IQ1 до более качественного Q6_K, с размером файлов примерно от 2,2 до 6,8 ГБ; также предоставлен imatrix-файл для создания собственных квантов. Сильной стороной является выбор различных уровней квантизации, позволяющий адаптировать требования к памяти, скорости и качеству, а варианты Q4_K_S и Q4_K_M отмечены как оптимальные или рекомендуемые. При этом низкобитные варианты могут заметно уступать по качеству, а README не содержит данных о контекстном окне, точной архитектуре, мультимодальности, результатах бенчмарков и ограничениях применения. Модель распространяется по лицензии Apache-2.0.

Tess-3-Llama-3.1-405B-GGUF — это квантизированная версия дообученной текстовой генеративной модели Tess-3-Llama-3.1-405B, разработанной migtissera и преобразованной в формат GGUF пользователем bartowski. Модель основана на Llama 3.1 с 405 миллиардами параметров и предназначена для генерации текста при локальном запуске через llama.cpp, в том числе в LM Studio. В README приведён формат промпта с системным сообщением, запросом пользователя и ответом ассистента. Модель доступна в вариантах квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS и других, размером примерно от 95 до 436 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, но требуют значительно больше оперативной памяти; низкоразрядные варианты экономичнее, однако могут заметно уступать в качестве. Для ARM-процессоров отдельно рекомендуется вариант Q4_0_4_4. Конкретные поддерживаемые языки, размер контекста и специализированные сценарии обучения в README не указаны. Модель распространяется по лицензии llama3.1.

Tesslate_Tessa-T1-32B-GGUF — набор GGUF-квантизованных версий текстовой генеративной модели Tessa-T1-32B, разработанной Tesslate и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях и средах, совместимых с llama.cpp, включая LM Studio. В README заявлена поддержка английского языка; сведения о мультимодальности отсутствуют. Модель содержит 32 млрд параметров и распространяется в форматах от BF16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и Q2, включая IQ-форматы. Размер файлов варьируется примерно от 13,07 до 65,54 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Для работы рекомендуется использовать указанный в README prompt format с ролями system, user и assistant. Точная длина контекста и дополнительные архитектурные характеристики не указаны. Сильная сторона набора — широкий выбор степеней квантования и возможность локального запуска; варианты Q6 и Q5 описаны как обеспечивающие очень высокое или высокое качество, а Q4_K_M — как оптимальный вариант для большинства сценариев. Более сильное квантование экономит память, но может снижать качество, особенно у вариантов Q3 и Q2. Модель распространяется по лицензии Apache-2.0.

testllm-c2-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral, полученная слиянием mistralai/Mistral-7B-Instruct-v0.1 и Kiddyz/testllm-c2 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; в метаданных также отмечена поддержка чата и английского языка. Длина контекста составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка указывает на состав слияния и параметры смешивания слоёв, но не приводит сравнительных оценок качества; результат зависит от пригодности объединённых моделей к конкретному сценарию.

Tulu V2.5 DPO 13B PRM800k Phase 2 — англоязычная диалоговая модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе allenai/tulu-2-13b. После обучения на смеси инструкций Tulu V2 модель прошла выравнивание методом DPO на данных PRM800k, фаза 2; карточка также относит её к серии, обучавшейся с использованием DPO и PPO. Модель принимает текст и генерирует текст в формате диалога; для качественной генерации следует использовать предусмотренный токенизатором шаблон чата. Длина контекста — 4096 токенов. Модель предназначена для ответов на инструкции и ведения диалогов с помощником на английском языке. Она может выдавать проблемные ответы: авторы отмечают, что модели Tulu не были специально выровнены для безопасных завершений в RLHF и не используют фильтрацию ответов во время работы. Распространяется по лицензии Apache 2.0.

Tulu V2.5 DPO 13B StackExchange — англоязычная диалоговая модель-помощник от Allen Institute for AI. Она основана на Tulu 2 и дополнительно обучена методом DPO на 500 тысячах примеров из парного датасета StackExchange; архитектура — плотная Llama с 12,9 млрд параметров, контекст — до 4096 токенов. Модель предназначена для генерации текста в ответ на инструкции и вопросы, в том числе для диалогов и ответов в стиле StackExchange. README рекомендует использовать предусмотренный шаблон чата с завершающим переводом строки. Модель доступна по лицензии Apache 2.0. Возможны небезопасные или проблемные ответы: модель не проходила настройку на безопасные завершения в RLHF и не использует фильтрацию ответов во время работы. Она ориентирована на английский язык.

Tulu V2.5 DPO 13B StackExchange 60k — англоязычная чат-модель от Allen Institute for AI (AI2), созданная для диалогов с помощником и генерации текста. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом до 4096 токенов; она принимает текст и выдаёт текст. Модель дообучена методом DPO на случайной подвыборке из 60 тысяч пар предпочтений StackExchange, начиная с Tulu 2; в основе — allenai/tulu-2-13b, дообученная на инструкциях Llama 2. Её можно использовать для ответов на вопросы, помощи с инструкциями и ведения англоязычных диалогов. Для лучшего качества следует соблюдать шаблон сообщений, встроенный в токенизатор. Модель распространяется по лицензии Apache 2.0. В карточке отмечено, что в ходе RLHF модель не обучали выдавать безопасные ответы и не применяли фильтрацию ответов во время использования; она может генерировать проблемный контент, особенно по соответствующему запросу.

kenpath/voice-svara-tts-v1-fft-v0.5 — плотная языковая модель семейства Llama с 3,3 млрд параметров, опубликованная Kenpath Technologies на Hugging Face. Несмотря на упоминание TTS в названии, карточка и метаданные описывают её как разговорную модель для генерации текста; подтверждений синтеза речи нет. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и имеет заявленную длину контекста 131 072 токена. Карточка создана автоматически и не сообщает языки, данные обучения, ограничения или лицензию; поэтому эти характеристики нельзя надёжно определить по доступным сведениям.

YamshadowInex12_Experiment28M7 — объединённая модель для генерации текста, созданная из automerger/YamshadowInex12-7B и automerger/Experiment28M7-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Модель подходит для генерации продолжений и ответов по текстовой подсказке. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает отдельные языки, специализированные области применения или дополнительные возможности, поэтому её следует рассматривать как модель общего назначения для генерации текста.

YamshadowInex12_Experiment28Neuralsirkrishna — слитая автором модели MaziyarPanahi языковая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она объединяет модели automerger/YamshadowInex12-7B и automerger/Experiment28Neuralsirkrishna-7B. Модель предназначена для генерации текста; метаданные указывают контекст до 32 768 токенов. Карточка не описывает специализацию, целевые языки или результаты оценки качества, поэтому модель можно охарактеризовать только как генеративную модель общего назначения. Файлы весов представлены в формате safetensors. Лицензия — Apache-2.0. README и метаданные не содержат сведений о специальных ограничениях или проверках качества.

YamshadowInex12_Inex12Yamshadow — слитая языковая модель MaziyarPanahi на архитектуре Mistral, объединяющая automerger/YamshadowInex12-7B и automerger/Inex12Yamshadow-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста с контекстом до 32 768 токенов. Её можно применять для генерации продолжений и ответов на текстовые запросы. Метаданные указывают формат safetensors и лицензию Apache-2.0. Подробные сведения о языковой специализации и качестве ответов в карточке не приводятся.

YamshadowStrangemerges_32-7B — автоматическое объединение языковых моделей, созданное Maxime Labonne из automerger/YamShadow-7B и Gille/StrangeMerges_32-7B-slerp методом slerp. Это плотная Mistral-модель с 7,1 млрд параметров для генерации текста; она принимает текст и выдаёт текст, а длина контекста составляет до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы. В README приведена конфигурация слияния и указан формат bfloat16; метаданные указывают файлы safetensors и лицензию Apache-2.0. Языковые возможности и специализированные области применения в предоставленных материалах не описаны.

YamshadowStrangemerges_32_YamT3qm7x — объединённая языковая модель на архитектуре Mistral, созданная путём слияния моделей automerger/YamshadowStrangemerges_32-7B и automerger/YamT3qm7x-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Модель подходит для генерации продолжений и ответов на текстовые запросы. В метаданных указана лицензия Apache-2.0. README не описывает специальные сценарии применения или ограничения качества.

Yi-34B-200K-DARE-merge-v7 — текстовая генеративная модель на архитектуре Llama, созданная автором brucethemoose с помощью mergekit. Это слияние нескольких моделей Yi 34B с контекстом до 200 000 токенов, выполненное методом DARE TIES. Модель предназначена для генерации текста и работы с длинными контекстами; автор стремился улучшить качество на контекстах от 32K токенов. В карточке приведён шаблон Orca-Vicuna; модель также может распознавать ChatML и форматы, похожие на Alpaca. В README отмечено, что качество настройки с акцентом на шаблон Orca-Vicuna ещё требует проверки. Для генерации автор советует использовать низкую температуру и MinP. Модель содержит 33,9 млрд параметров, распространяется в формате safetensors. Лицензия указана как other, поэтому условия использования следует сверить с файлами репозитория и лицензиями исходных моделей слияния.

Zephyr-7B-α — языковая модель-ассистент из серии Zephyr, разработанной Hugging Face H4. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, дообученная на Mistral-7B-v0.1 методом Direct Preference Optimization (DPO). В обучении использовались синтетические диалоги UltraChat и предпочтения из UltraFeedback; длина контекста составляет 32 768 токенов. Модель предназначена для диалогов и генерации ответов на английском языке. Её можно использовать как чат-ассистента для ответов на вопросы и ведения беседы. По карточке модели, ослабление встроенного выравнивания повысило результаты на MT Bench и полезность ответов, но модель может выдавать проблемный контент, особенно по запросу. Лицензия — MIT.

Jebadiah/Aria-7b-128k-v4 — языковая модель, созданная автором Jebadiah слиянием предварительно обученных моделей через mergekit методом SLERP. В слияние вошли Jebadiah/Aria-7b-128k-v3 и Nitral-AI/Echidna-7b-128k; конфигурация указывает Nitral-AI/Echidna-7b-128k как базовую модель. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Модель принимает текст и генерирует текст. Для неё указано контекстное окно 32 768 токенов, библиотека Transformers и формат весов safetensors. Карточка не описывает отдельные специализации, языки или результаты оценки качества, поэтому область применения можно характеризовать только как генерацию текста общего назначения. Лицензия в предоставленных данных не указана.

Astridboros-3B — языковая модель для генерации текста, созданная объединением слоёв PAIXAI/Astrid-3B и jondurbin/airoboros-3b-3p0. В конфигурации слияния первые 16 слоёв взяты из Astrid-3B, а следующие 16 — из airoboros-3b-3p0; для запросов автор рекомендует формат промпта Alpaca. Модель имеет плотную архитектуру StableLM Epoch с 2,7 млрд параметров и контекстом 4096 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы. Репозиторий содержит веса Safetensors; также README указывает на отдельную публикацию квантованных версий в GGUF. Лицензия — CC BY-SA 4.0.

Big-Tiger-Gemma-27B-v1_iMatrix_GGUF — набор квантованных GGUF-файлов модели на основе google/gemma-2-27b-it. Автор карточки сообщает, что для iMatrix использован файл groups_merged.txt от Kalomaze; метаданные указывают на связь с Gemma 2 и формат GGUF. Модель предназначена для диалоговой генерации текста и ответов на инструкции на английском языке. Модель создана на основе инструктивной Gemma 2 с 27 млрд параметров. Лицензия — Gemma; её условия следует учитывать при использовании. Карточка не содержит сведений о конкретных вариантах квантования или о контекстном окне.

BigWeave-v27-95b — экспериментальная объединённая модель от llmixer, созданная на основе 152334H/miqu-1-70b-sf. Веса модели объединены с самим собой: 30 наиболее важных слоёв, выбранных по измерениям exl2, продублированы с перекрытием 50%. Это плотная авторегрессионная архитектура LlamaForCausalLM с 96,1 млрд параметров и контекстом до 32 764 токенов; модель опубликована в формате safetensors. Модель предназначена для генерации текста и диалогов. В README названы форматы промптов ChatML, Mistral и Vicuna; экспериментальная цель проекта — проверить, как настройки объединения влияют на качество. Версия обозначает последовательность экспериментов и сама по себе не указывает на качество. В метаданных указан английский язык. Лицензия в метаданных обозначена как неизвестная, поэтому условия использования следует проверить в репозитории и у базовой модели перед применением.

Dolphin-2.1-70b — диалоговая языковая модель на архитектуре Llama 2, разработанная Eric Hartford при поддержке a16z. Она дообучена методом qLoRA на базе StellarBright с использованием наборов Dolphin (вариант данных Orca) и Airoboros; модель содержит 68,7 млрд параметров и рассчитана на контекст до 4096 токенов. Для общения используется формат ChatML. Модель предназначена для генерации текста и диалогов на английском языке: она может отвечать на вопросы, следовать инструкциям и вести беседу. Автор описывает её как uncensored и предупреждает, что она может выполнять в том числе неэтичные запросы; перед предоставлением доступа через сервис рекомендуется добавить собственный слой выравнивания поведения. В этой версии есть известная ошибка: модель не генерирует токены EOS, поэтому генерация может не завершаться штатно. Репозиторий содержит веса PyTorch; лицензия указана как Llama 2.

eren23/dpo-binarized-NeutrixOmnibe-7B — диалоговая языковая модель на архитектуре Mistral, созданная разработчиком путём DPO-дообучения Kukedlc/NeuTrixOmniBe-7B-model-remix на парах предпочтений argilla/OpenHermes2.5-dpo-binarized-alpha. Модель предназначена для генерации ответов в диалоге и других задач продолжения текста; в карточке приведены результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Доступны веса в формате safetensors; лицензия — Apache-2.0. Карточка указывает английский язык. Результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах.